Ein Assistent für einen Ort ohne Netz
Die Techniker, die die Dokumentation am dringendsten brauchen, arbeiten in einer Halle ohne Mobilfunk und ohne Funknetz — wegen Stahlbeton und einer Vorgabe, die niemand für uns ändern würde.
Die Randbedingung
Kein Netz in der Halle und ein Gerät, das Stürze übersteht und eine Schicht mit einer Ladung durchhält. Das schließt den Aufruf eines gehosteten Modells aus und das meiste von dem, was wir sonst bauen, denn unsere Architektur setzt einen Umlauf zu einem Index voraus.
Es schließt auch den üblichen Ausweg aus, Fragen zu sammeln, bis das Gerät wieder verbunden ist. Ein Techniker an der Maschine braucht das Anzugsmoment jetzt, und eine Antwort, die eintrifft, wenn er zurück im Büro ist, ist keine Antwort.
Was daraufpasst
Ein kleines Modell, ein Embedding-Modell und ein Ausschnitt des Bestands, vollständig auf dem Gerät laufend. Wang und Kollegen veröffentlichten 2025 eine Arbeit zu einer Inferenz-Maschinerie für den Betrieb von Sprachmodellen auf mobilen Geräten — die Art von Technik, die das überhaupt in einer für Techniker erträglichen Form möglich machte.
Möglich leistet in diesem Satz viel Arbeit. Das passende Modell ist deutlich schwächer als das, was wir auf Servern betreiben, und der passende Bestand ist ein Bruchteil des Ganzen — beides Produktentscheidungen und keine technischen Details.
Die Entscheidung, die niemand treffen wollte
Welche Dokumente aufs Gerät kommen. Die erste Antwort aller lautet alle, was nicht passt, die zweite die wichtigsten, was niemand definieren konnte. Wir haben es über die Nutzung gelöst: die Anlagen in dieser Halle, die dort ausgeführten Prozeduren und die Revisionen der letzten drei Jahre.
Das umfasste rund neun Prozent des Bestands und rund vier Fünftel der von diesem Ort gestellten Fragen — was wir wussten, weil die kabelgebundenen Terminals am Hallenzugang seit einem Jahr Anfragen protokollierten. Ohne dieses Protokoll wäre der Zuschnitt ein Streit gewesen statt einer Messung.
| Auf dem Gerät | Nicht auf dem Gerät |
|---|---|
| Anlagen dieser Halle | Der Rest des Werks |
| Dort ausgeführte Prozeduren | Kaufmännische und Vertragsdokumente |
| Revisionen der letzten drei Jahre | Die vollständige Revisionshistorie |
| Ein kleines Modell und ein Index | Alles, was das Spitzenmodell braucht |
Was es sagt, wenn es nicht antworten kann
Dass die Frage außerhalb dessen liegt, was es trägt, und wo die Antwort stünde. Keine allgemeine Ablehnung: Das Gerät weiß, welche Dokumentfamilien es hält, kann also sagen, das betrifft die Verpackungslinie, die nicht auf diesem Gerät ist — und anbieten, die Frage bis zur nächsten Verbindung vorzumerken.
Diese Meldung ist der Unterschied zwischen einem Werkzeug, das Leute weiter nutzen, und einem, das sie liegen lassen. Ein Gerät, das bei einem Fünftel der Fragen still versagt, bringt Nutzern bei, dass es unzuverlässig ist; eines, das seine Grenze benennt, bringt ihnen bei, wofür es da ist.
Qualität, ehrlich
Bei den Fragen, die es trägt, antwortet das Gerät in rund einundachtzig Prozent der Fälle richtig, gegenüber vierundneunzig des Serversystems auf denselben Fragen. Dieser Abstand ist real, und wir haben ihn in die Abnahmekriterien geschrieben, statt ihn später zu entdecken.
Der Kunde hat ihn akzeptiert, weil die Alternative der Weg zum Hallenzugang ist, vier Minuten je Richtung. Eine schlechtere Antwort sofort schlug eine bessere nach acht Minuten — genau für die Fragen, auf die das Gerät zugeschnitten ist. Diese Rahmung machte den Handel ausdrücklich statt peinlich.
Das Aktualisierungsproblem
Der Bestand auf dem Gerät veraltet, und eine veraltete Spezifikation ist der Fehlermodus, der uns in dieser Domäne am meisten kümmert. Geräte gleichen ab, wenn sie zum Schichtende in der Station stecken, und der Assistent zeigt bei jeder Antwort das Alter seines Inhalts.
Ist der Inhalt älter als sieben Tage, trägt die Antwort eine Warnung; ab vierzehn Tagen verweigert der Assistent Spezifikationswerte vollständig und beantwortet weiterhin Prozedurfragen. Diese Schwellen stammen aus der Änderungshäufigkeit des Kunden und nicht von uns.
Was wir nicht wieder so machen würden
Mit dem Modell anfangen. Wir haben die ersten zwei Wochen darauf verwendet, was läuft und wie schnell — interessant und nicht der schwierige Teil. Schwierig waren der Zuschnitt und die Veralterungsregel, beides Produktentscheidungen, die ein Kunde treffen muss und die wir am ersten Tag hätten beginnen können.
Die technische Arbeit erwies sich als der Teil mit der geringsten Unsicherheit — ein Muster, das wir inzwischen oft genug gesehen haben, um es zu erwarten, und an das wir uns zu Projektbeginn trotzdem erinnern müssen.
Was wir nicht behaupten
Wir behaupten nicht, ein Geräteassistent ersetze den auf dem Server. Er beantwortet einen definierten Ausschnitt an einem Ort, an dem die Alternative nichts ist, und jeder Nutzer hat zusätzlich Zugang zum vollständigen System, sobald er in einem Netz ist.
Wir behaupten auch nicht, einundachtzig Prozent seien gut. Für diesen Zuschnitt unter dieser Randbedingung sind sie vertretbar, als allgemeines System wären sie es nicht — und die Zahl ohne den Zuschnitt zu nennen wäre die Art Angabe, die ein Projekt verkauft und danach enttäuscht.