08.11.2023 AI Engineering 5 Minuten Lesezeit

LLM-Anwendungen evaluieren — mehr als Bauchgefühl

Warum Demos und Bauchgefühl keine Evaluationsstrategie für LLM-Anwendungen sind. Wir behandeln goldene Testsets, modellgestützte Bewertung mit GPT-4 als Judge, die von Zheng et al. 2023 quantifizierten Positions- und Verbositätsverzerrungen sowie einen gestaffelten Evaluationsstack für die CI — einschließlich dessen, was jede Technik nicht misst.

Das Problem mit dem Bauchgefühl

Ein LLM-Feature besteht die Abnahme heute oft so wie jede Demo: Jemand tippt drei Prompts, die Antworten sehen gut aus, das Ticket wird geschlossen. Wir nennen das Evaluation nach Bauchgefühl. Es ist keine Evaluation. LLM-Ausgaben sind Stichproben aus einer Wahrscheinlichkeitsverteilung; wenige Sichtungen sagen fast nichts über die Fehlerrate. Klassische Unit-Tests helfen ebenfalls nicht, weil es keinen einzelnen korrekten String gibt, gegen den man prüfen könnte.

Eine brauchbare Evaluation beantwortet drei Fragen: Hat diese Prompt-Änderung das System besser oder schlechter gemacht? Um wie viel? In welchen Fällen? Ohne Zahlen ist jede Prompt-Anpassung, jedes Modell-Upgrade und jeder Parameterwechsel eine Wette im Blindflug. Dieser Artikel fasst zusammen, was sich bei uns 2023 bewährt hat: goldene Testsets, modellgestützte Bewertung — und eine klare Sicht darauf, wo beides endet.

Eine Änderung landet — Prompt, Modell oder Retrieval. 1/4

Warum Demos täuschen

Eine Demo ist eine selektierte Stichprobe. Wer präsentiert, hat in der Regel viele Eingaben ausprobiert und zeigt die gelungenen; das Publikum sieht Überlebende, nicht die Basisrate. Ein Feature, das 80 % der Anfragen korrekt bedient, wirkt in der Demo fehlerfrei — und scheitert trotzdem bei jedem fünften Nutzer. Bei einer Sampling-Temperatur über null ist nicht einmal die gezeigte Eingabe garantiert reproduzierbar.

Gehostete Modelle driften zudem still. API-Anbieter aktualisieren Modelle, ohne dass sich Ihr Code ändert; das Verhalten auf Ihren Eingaben kann sich zwischen zwei Deployments verschieben. Ohne festes Testset vor und nach der Änderung können Sie eine Modellregression nicht von einem Prompt-Fehler unterscheiden. Eine Demo beweist Existenz — das System kann eine gute Antwort liefern — niemals Zuverlässigkeit.

Goldene Testsets als Referenz

Ein goldenes Testset ist eine versionierte Sammlung repräsentativer Eingaben mit erwarteten Ergebnissen, abgelegt neben dem Code und bei jeder Änderung ausgeführt. Beginnen Sie klein: 50 bis 200 Fälle aus realer Nutzung, ergänzt um bekannte Randfälle und jeden Produktionsfehler, den Sie analysiert haben. Jeder Fall trägt eine Prüfung: exakter Vergleich, Teilstring, regulärer Ausdruck, JSON-Schema-Validität oder ein semantischer Check.

Bleiben Sie ehrlich bei den Grenzen. Ein goldenes Set misst Regression gegen eine eingefrorene Stichprobe, nicht Qualität auf der Live-Verteilung. Es deckt keine Eingaben ab, die Sie sich nicht vorgestellt haben, und es sagt nichts über subjektive Qualität — Ton, Hilfsbereitschaft, Stil —, solange Sie dafür keine Bewertungsfunktion definieren. Genau an dieser Stelle beginnt LLM-as-a-Judge.

Pflege gehört zur Definition. Taucht in der Produktion ein neuer Fehler auf, wird er zum Testfall; ändert sich das Produkt, werden obsolete Fälle entfernt statt still übersprungen. Ein ungepflegtes goldenes Set verkommt zu einem grünen Dashboard, dem niemand traut. Wir planen die Durchsicht mit dem Sprint, nicht mit dem Incident.

Was ein LLM-Judge wirklich misst

Zheng et al. veröffentlichten im Juni 2023 "Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena" (arXiv:2306.05685). MT-Bench enthält 80 mehrstufige Fragen in acht Kategorien, von Schreiben bis Mathematik. Chatbot Arena, gestartet im Mai 2023, sammelte im ersten Monat rund 30.000 paarweise Crowd-Votes. Das Kernergebnis: Ein GPT-4-Judge stimmt in über 80 % der Fälle mit menschlichen Experten überein — 85 % bei MT-Bench-Votes ohne Unentschieden, gegenüber 81 % Übereinstimmung der Menschen untereinander.

Lesen Sie diese Zahl präzise. Der Judge approximiert menschliche Präferenz, nicht faktische Korrektheit. Er widerspricht Menschen etwa so oft, wie Menschen einander widersprechen — das macht ihn zu einem brauchbaren Näherungswert und zu nicht mehr. Paarweiser Vergleich ist empfindlicher; Einzelbewertung gegen eine Rubrik ist günstiger und skaliert besser.

Bekannte Verzerrungen von LLM-Judges

Dieselbe Arbeit quantifiziert systematische Fehlerquellen. Alle getesteten Judges bevorzugten Antworten nach Position, meist den ersten Platz; nur GPT-4 blieb bei nahezu identischen Antworten in mehr als 60 % der Positionstausch-Tests konsistent. Eine "Repetitive-List"-Attacke — eine Antwort mit umformulierten Duplikaten aufgebläht — täuschte jeden Judge in gewissem Maß. Bei Mathematikfragen akzeptierte der Standard-Judge-Prompt falsche Antworten in 14 von 20 Durchläufen; referenzgestützte Bewertung senkte das auf 3.

Die Selbstbevorzugung verdient eine vorsichtige Lesart: Zheng et al. beobachteten bei GPT-4 eine um 10 % höhere Win-Rate für eigene Antworten, halten die Datenlage aber ausdrücklich für nicht ausreichend. Behandeln Sie sie dennoch als Entwurfsregel — wer ein Modell allein von sich selbst bewerten lässt, lädt genau diesen Zweifel ein.

Verzerrung	Befund bei Zheng et al. 2023	Gegenmaßnahme
Positionsbias	Nur GPT-4 in über 60 % der Tausch-Tests konsistent	Beide Reihenfolgen bewerten; nur konsistente Urteile zählen
Verbositätsbias	Repetitive-List-Attacke täuschte alle Judges; GPT-4 am robustesten	Länge penalisieren; Einzelbewertung gegen eine Rubrik
Selbstbevorzugung	GPT-4 mit 10 % höherer Win-Rate für eigene Antworten (nicht beweiskräftig)	Judge aus einer anderen Modellfamilie wählen
Schwäche bei Mathematik	14 von 20 falschen Antworten mit Standard-Prompt akzeptiert	Referenzgestützte Bewertung (3 von 20 Fehlern)

Ein Evaluationsstack für die Produktion

In der Praxis staffeln wir Prüfungen nach Kosten. Zuerst deterministische Assertions: parsebares JSON, Schema-Validität, Pflichtfelder, verbotene Strings. Dann günstige semantische Checks wie Embedding-Ähnlichkeit zu einer Referenz. Erst danach ein LLM-Judge — mit getauschten Positionen, Rubrik und Referenzantwort, wo eine existiert — für die Fälle, die billige Checks nicht entscheiden können. Menschliche Durchsicht bleibt Judge-Mensch-Abweichungen und einer Zufallsstichprobe vorbehalten.

Werkzeuge dafür existierten Ende 2023: OpenAI stellte sein Evals-Framework im März 2023 als Open Source bereit, EleutherAIs lm-evaluation-harness deckt akademische Benchmarks ab, promptfoo und LangSmith zielen auf Tests auf Anwendungsebene. Keines davon nimmt Ihnen die eigentliche Arbeit ab: Fälle und Rubriken zu schreiben, die kodieren, was "gut" für Ihr Produkt bedeutet. Budgetieren Sie GPT-4 als Judge für Stichproben, nicht für den gesamten Traffic — es ist die teuerste Assertion, die Sie ausführen.

Dieser Stack arbeitet offline. Er beobachtet keinen Live-Traffic, erfasst kein Nutzerfeedback und erkennt keine Verteilungsverschiebung nach dem Release. Dafür braucht es Logging, stichprobenartige menschliche Durchsicht und Feedback-Signale im Produkt selbst. Offline-Evals sagen Ihnen, ob eine Änderung sicher auslieferbar ist; ob sie funktioniert, zeigt erst die Produktion.

Ausblick im November 2023

Vor zwei Tagen kündigte OpenAI GPT-4 Turbo mit 128K Kontextfenster und niedrigeren Preisen an. Günstigere starke Modelle machen judge-basierte Evaluation in größerem Maßstab tragfähig, und längere Kontexte erlauben die Bewertung ganzer Konversationen statt einzelner Turns. Wir erwarten, dass feinjustierte Open-Weight-Judges die Lücke zu GPT-4 im nächsten Jahr verkleinern und die Abhängigkeit vom Messinstrument eines einzelnen Anbieters sinkt.

Unsere Prognose: Ende 2024 sind Eval-Suiten in LLM-Projekten so selbstverständlich wie Unit-Tests in Softwareprojekten, und CI-Pipelines brechen Builds bei Eval-Regressionen ab. Teams, die heute goldene Sets pflegen, wechseln Modelle in Tagen statt Monaten, wenn bessere erscheinen. Bei Blue IT Systems behandeln wir die Evaluationssuite inzwischen als Liefergegenstand jedes LLM-Projekts — die Demo ist Marketing; das Eval-Set ist Engineering.