Wir haben unsere eigenen Systeme eingeordnet, bevor jemand fragte
Die europäischen Regeln zu künstlicher Intelligenz gelten seit 2024 in Stufen, und die ersten Pflichten wurden Anfang 2025 wirksam. Wir sind unsere Systeme durchgegangen, bevor ein Kunde uns darum bat — und die Übung war nützlicher als das Ergebnis.
Warum wir es früh gemacht haben
Nicht aus Tugend. Ein Kunde aus einem regulierten Sektor würde irgendwann fragen, und diese Frage unter Zeitdruck mit einem Prüfer im Raum zu beantworten ist eine deutlich schlechtere Erfahrung, als sie an einem ruhigen Nachmittag mit den Leuten zu beantworten, die das System gebaut haben.
Wir erwarteten außerdem, dass die Einordnung unspektakulär ausfällt, und das tat sie. Unsere Systeme extrahieren Felder aus Dokumenten, beantworten Fragen aus Dokumentation und verteilen Anfragen — nichts davon liegt in den Kategorien, die die Regulierung als hochriskant behandelt. Bei sechs von acht stand das binnen einer Stunde fest.
Die zwei, die länger dauerten
Ein System erzeugt eine Empfehlung, die in eine Entscheidung über eine Lieferantenbeziehung einfließt, und eines fasst Informationen zusammen, die eine Person bei der Bearbeitung einer Beschwerde nutzt. Keines ist eine Entscheidung über einen Menschen in dem Sinne, um den es den Regeln geht — und bei beiden mussten wir genau aufschreiben, warum nicht.
Dieses Aufschreiben ist die Arbeit. Es zwang uns, in einem Satz, den auch Nichttechniker prüfen können, festzuhalten, was das System ausgibt, wer darauf handelt und was er damit tun soll. In einem Fall war der ehrliche Satz unangenehm genug, dass wir das System geändert haben statt den Satz.
Was die Forschung beiträgt
Sillberg und Kollegen veröffentlichten eine Bewertung des europäischen Rahmens, die ihn als vernünftigen Ausgangspunkt einordnet und zugleich in bestimmten Hinsichten als zu kurz greifend — ein nützliches Korrektiv dagegen, den Text so zu lesen, als habe jede Frage eine bestimmte Antwort.
Das ist praktisch bedeutsam. Mehrere unserer Beurteilungen liegen in Bereichen, in denen vernünftige Menschen anderer Meinung sein können, und eine Arbeit, die Lücken des Rahmens dokumentiert, ist ein besserer Wegweiser für das angemessene Maß an Zuversicht als eine Checkliste, die Gewissheit suggeriert.
| Was wir je System festhalten | Warum |
|---|---|
| Was es ausgibt, in einem Satz | Grundlage für jede weitere Antwort |
| Wer darauf handelt und wie | Entscheidet, ob ein Mensch beteiligt ist |
| Welche Daten hineingehen, woher | Datenschutz und Herkunft |
| Was passiert, wenn es falsch liegt | Die Frage, die niemand gestellt hatte |
Die Frage, die etwas verändert hat
Was passiert, wenn es falsch liegt. Sechs von acht hatten eine klare Antwort. Zwei nicht, und in beiden Fällen aus demselben Grund: Die Ausgabe floss in einen Prozess, in dem niemand benannt war, der einen Fehler bemerkt — falsch zu liegen hatte also keine Folge, bis es eine große hatte.
Das ist kein regulatorischer, sondern ein technischer Befund, und ohne die Übung hätten wir ihn nicht gemacht. Beide Systeme haben heute einen benannten Empfänger für ihre Ausgabe und einen definierten Weg, ihr zu widersprechen. Das kostete eine Woche und ist das Konkreteste, was aus der ganzen Durchsicht kam.
Der Transparenzteil
Nutzer werden darauf hingewiesen, dass sie mit einem automatisierten System sprechen — was wir ohnehin taten, und die Formulierung wurde klarer. Unsere Assistenten sagen heute in der ersten Nachricht, was sie können und was nicht, statt auf einer Seite, die niemand öffnet.
Diese Änderung kam aus dem Lesen von Pflichten und nicht aus einer Nutzerstudie, und sie hat messbar geholfen: Eskalationen kamen mit mehr Zusammenhang an, denn wer weiß, dass der Assistent keine Gutschrift freigeben kann, fragt früher nach einem Menschen statt nach vier vergeblichen Versuchen.
Was Kunden bekommen
Ein kurzes Dokument je System, drei Seiten, auf Deutsch und Englisch, mit den vier Zeilen der Tabelle plus den genutzten Modellen und dem Ort ihres Betriebs. Es ist so geschrieben, dass die Compliance-Funktion des Kunden es lesen kann und nicht wir — was vor allem hieß, unser Vokabular zu entfernen.
Wir aktualisieren es, wenn sich das System wesentlich ändert, und wesentlich heißt: die Ausgabe, die Empfänger, die Datenquellen oder das Modell. Diese Liste ist absichtlich kurz, denn ein Dokument, das bei jedem Deployment überarbeitet werden muss, wird überhaupt nicht überarbeitet.
Was es gekostet hat und was es wert ist
Rund zwei Wochen über acht Systeme einschließlich des Schreibens, plus die Woche Entwicklungsarbeit, die die Durchsicht ausgelöst hat. Zwei Kunden haben seitdem genau dieses Dokument angefragt, und es in beiden Fällen sofort liefern zu können war erheblich mehr wert als die zwei Wochen.
Der unerwartete Nutzen war intern. Neue Kollegen lesen das Systemdokument vor dem Code, und es beantwortet Fragen, die der Code nicht beantwortet: für wen das ist, was damit geschieht und wie der Fehlerfall von deren Seite aussieht.
Was wir nicht behaupten
Dies ist keine Rechtsberatung, und wir sind nicht qualifiziert, sie zu erteilen. Wir beschreiben, was wir zur Vorbereitung getan haben; unsere Kunden haben eigene Rechtsberatung, und wo unsere Lesart und deren Beratung auseinandergehen, entscheidet deren Beratung.
Wir behaupten auch nicht, eine Einordnung sei dauerhaft. Unsere gibt die Systeme wieder, wie sie sind, und die Auslegung, wie wir sie damals verstanden haben — beides ändert sich, weshalb die Durchsicht jährlich terminiert ist und nicht als erledigt gilt.