Zustand gehört in einen Speicher, nicht in den Kontext
Ein langes Gespräch ist kein Gedächtnis. Unseres bewies das, indem es sich bei einem Liefertermin widersprach, den es sechs Minuten zuvor bestätigt hatte — und die Reparatur hat verändert, wie wir mit allem umgehen, was ein Agent entscheidet.
Der Widerspruch
Der Assistent bearbeitete Auftragsanfragen. In einer Sitzung bestätigte er ein Lieferfenster, der Kunde stellte zwei Rückfragen zur Verpackung, und auf die Bitte um Wiederholung nannte er ein anderes Fenster. Extern hatte sich nichts geändert. Die frühere Antwort stand noch im Protokoll.
Beide Antworten stammten aus einem Kontext, der dieselben Fakten enthielt. Die zweite Ableitung gewichtete sie nur anders, weil das Protokoll inzwischen gewachsen war und die Bestätigung an keinem seiner Ränder mehr lag.
Warum größer nicht die Lösung war
Der naheliegende Reflex ist mehr Fenster, und er hilft nicht, denn das Problem ist nicht Kapazität. Ein Protokoll hält fest, was gesagt wurde, nicht was gilt. Eine Entscheidung aus einem Gespräch zurückzulesen heißt, sie neu abzuleiten — und Ableitungen können abweichen.
Packer und Kollegen haben das treffend gefasst, indem sie Kontext als Speicherhierarchie behandeln, in der das Modell Information selbstgesteuert ein- und auslagert, ähnlich einem Betriebssystem. Geblieben ist uns die Rahmung: Kontext ist Arbeitsspeicher, und Arbeitsspeicher ist nicht der Ort für dauerhafte Fakten.
Was wir geändert haben
Jede Entscheidung des Assistenten wird im Moment ihres Entstehens in einen Speicher geschrieben: das bestätigte Fenster, die gewählte Variante, die aus mehreren ausgewählte Adresse. Jeder Eintrag hat einen Wert, einen Zeitstempel und den Zug, der ihn erzeugt hat.
In jedem folgenden Zug wird dieser Speicher als kurzer Block feststehender Fakten in den Prompt gerendert, getrennt vom Protokoll. Das Modell leitet nicht mehr neu ab, was es bereits entschieden hat — es bekommt es gesagt.
| Gehört ins Protokoll | Gehört in den Speicher |
|---|---|
| Was gesagt wurde, in Reihenfolge | Was entschieden wurde, als Wert |
| Ton und Formulierung | Kennungen, Termine, Auswahlen |
| Wächst unbegrenzt | Begrenzt und typisiert |
| Wird bei jedem Lesen neu abgeleitet | Wird unverändert zurückgelesen |
Was wir bewusst heraushalten
Der Speicher hält Entscheidungen, keine Beobachtungen. Abgerufene Passagen, Werkzeugausgaben und Zwischenüberlegungen bleiben draußen, denn sie sind Eingaben einer Entscheidung, nicht die Entscheidung — und sie hineinzunehmen macht den Speicher zu einem zweiten Protokoll.
Wir lassen das Modell auch nicht frei hineinschreiben. Einträge laufen über eine typisierte Schnittstelle mit festem Schlüsselsatz. Ein Modell, das Speicherschlüssel erfinden kann, tut es — und ein Speicher, den niemand aufzählen kann, ist nicht prüfbar.
Was es gebracht hat
Die Widersprüche hörten auf, und darum ging es. Der ungeplante Gewinn war betrieblicher Art: Geht eine Sitzung schief, ist der Speicher ein kurzer lesbarer Nachweis dessen, was der Assistent für wahr hielt — deutlich handhabbarer als ein langes Protokoll.
Außerdem wurde Übergabe möglich. Eine Sitzung lässt sich von einem menschlichen Mitarbeiter übernehmen, der zwölf Zeilen Zustand liest statt acht Minuten Dialog.
Was wir nicht behaupten
Wir behaupten nicht, das sei Gedächtnis in einem interessanten Sinn. Es ist ein Schlüssel-Wert-Speicher mit einem Rendering-Schritt, und er löst Konsistenz, nicht Erinnerung. Fragen danach, was der Kunde vor drei Zügen andeutete, gehen weiterhin ans Protokoll.
Wir behaupten auch nicht, die Grenze sei immer offensichtlich. Zu entscheiden, ob etwas Entscheidung oder Beobachtung ist, verlangt Urteil, und wir haben zweimal etwas über diese Linie verschoben, nachdem wir es zuerst falsch einsortiert hatten.