Mehr zeigen ist nicht dasselbe wie helfen
Wir halten es damit, unsere Arbeit zu zeigen, und dieses Blog ist voll davon: Quellpassage, SQL, Zeilenzahl, Retrieval-Wert. Dann haben wir gemessen, was passiert, wenn eine prüfende Person all das auf einmal sieht — und das Ergebnis sprach gegen uns.
Was wir gebaut hatten
Der Prüfbildschirm für extrahierte Datensätze zeigte je Feld den extrahierten Wert, die Passage, aus der er stammt, einen Retrieval-Wert, ob das Feld als fehlend markiert war, und eine kurze Erklärung, wie der Wert bestimmt wurde. Jedes dieser Elemente kam hinzu, weil jemand danach gefragt hatte.
Prüfende, die ihn nutzten, korrigierten weniger Fehler als Prüfende mit dem vorherigen, schlichteren Bildschirm. Nicht dramatisch, aber durchgängig — und der Unterschied blieb, als wir tauschten, welche Gruppe welchen nutzte.
Die Erklärung, die wir nicht wollten
Margondai und Mouloua veröffentlichten im Januar 2026 eine Arbeit, die theoretisch fasst, wann KI-Erklärungen menschliche Entscheidungen verbessern und wann sie sie verschlechtern — gerahmt über kognitive Last und die Zehrung am eigenen Urteil der prüfenden Person.
Unangenehm für uns ist, dass unser Entwurf annahm, Transparenz sei monoton: mehr sichtbare Begründung, bessere Entscheidungen. Gebaut hatten wir einen Bildschirm, auf dem das Finden des einen falschen Feldes verlangte, fünf Anmerkungen zu den elf richtigen Feldern zu lesen.
Was wir entfernt haben
Den Retrieval-Wert, den keine prüfende Person deuten konnte und den wir ergänzt hatten, weil es leicht war. Die Erklärung je Feld, die zutreffend und lang war. Und die Konfidenzangabe, die sich als die schädlichste der drei erwies.
Schädlich war die Konfidenz auf eine bestimmte Weise. Ein als hoch konfident markiertes Feld wurde weniger sorgfältig geprüft — und die Fehler, die eine Prüfung überleben, sind definitionsgemäß die, bei denen ein Modell sicher war. Die Anzeige lenkte die Aufmerksamkeit also von genau den Feldern weg, die sie brauchten.
| Element | Was wir heute tun |
|---|---|
| Extrahierter Wert und Feldname | Immer sichtbar |
| Quellpassage | Einen Klick entfernt, nicht auf dem Schirm |
| Konfidenzangabe | Entfernt. Lenkte Aufmerksamkeit falsch |
| Ergebnis der Querprüfung | Immer sichtbar. Das eine hilfreiche Signal |
Was wir behalten und lauter gemacht haben
Die Abstimmprüfung. Ein Datensatz, in dem Mengen und Summen nicht zusammenpassen, wird oben auf dem Bildschirm markiert — und diese eine Anzeige leistet, was der Konfidenzwert leisten sollte, ohne dessen Fehlermodus, weil sie aus den Daten berechnet und nicht vom Modell ausgedrückt wird.
Die Prüfgenauigkeit auf dem vereinfachten Bildschirm mit auffälliger Abstimmmarkierung war besser als in beiden Vorfassungen. Die Prüfenden waren nie das Problem; der Bildschirm verlangte von ihnen eine Filterarbeit, die eine Regel erledigen kann.
Das Prinzip, das eine Grenze brauchte
Wir halten weiterhin daran fest, dass ein System seine Arbeit zeigen können muss. Falsch war die Annahme, zeigen zu können sei dasselbe wie standardmäßig zu zeigen — ein System, das alles anzeigt, was es rechtfertigen könnte, optimiert auf die eigene Verteidigungsfähigkeit statt auf die Person, die es nutzt.
Unsere Regel lautet heute: Der Standardbildschirm zeigt, was eine Entscheidung braucht, und alles andere ist einen Klick entfernt und immer verfügbar. Aus dem System wurde nichts entfernt — nur aus dem Ersten, was jemand sieht.
Wo mehr Detail hilft
Bei Streitfällen. Bestreitet ein Controller einen Wert oder ein Kunde eine Antwort, ist die vollständige Herkunft genau das, was es klärt — eine andere Aufgabe, ausgeführt von einer anderen Person mit Zeit zum Lesen.
Deshalb haben wir die Anmerkungen nicht einfach gelöscht. Die Information hat einen echten Nutzer; es ist nur nicht die prüfende Person, die um vier Uhr nachmittags eine Warteschlange abarbeitet — und einen Bildschirm für beide zu entwerfen bediente keinen von beiden.
Wie wir das heute prüfen
Mit Prüfenden und einer Stoppuhr, an echten Datensätzen mit bekannten Fehlern, im Vergleich der Bildschirme. Es ist jedes Mal eine kleine Untersuchung, acht bis zwölf Personen, und sie hat inzwischen zweimal eine Änderung zurückgedreht, die alle im Raum für offensichtlich besser hielten.
Das ist das Argument, es überhaupt zu tun. Oberflächenänderungen an einem Prüfbildschirm sehen nach Geschmack aus, sie sind messbar, und die Messung widerspricht dem Raum oft genug, um den Nachmittag wert zu sein.
Was wir nicht behaupten
Wir behaupten nicht, Transparenz sei schädlich. Sie macht eine bestrittene Antwort klärbar und eine Prüfung möglich, und ein System, das seine Arbeit nicht zeigen kann, würden wir nicht ausliefern. Die Behauptung ist enger: Was standardmäßig gezeigt wird, ist eine Entwurfsentscheidung, die gemessen werden muss und sich nicht aus einem Prinzip ableiten lässt.
Wir behaupten auch nicht, unser Ergebnis übertrage sich auf andere Oberflächen. Es ist ein Prüfbildschirm, ein Dokumenttyp und eine kleine Zahl von Prüfenden — nützlich ist die Methode, nicht welche Elemente wir entfernt haben.