07.06.2026 AI Engineering 6 Minuten Lesezeit

GraphRAG — wann sich Wissensgraphen lohnen

GraphRAG verwandelt einen Dokumentenkorpus in einen LLM-extrahierten Wissensgraphen mit Leiden-Communities und vorberechneten Zusammenfassungen — korpusweite Fragen werden damit beantwortbar. Wir prüfen die belegten Zahlen: 70–80 % Gewinnrate bei Vollständigkeit, 0,1 % Indexierungskosten und 700-fach günstigere globale Abfragen mit LazyGraphRAG. Und wir benennen die Fälle, in denen hybrides RAG günstiger, schneller und genauer bleibt — mit fünf Entscheidungsregeln für die Praxis.

Warum Vektorsuche an globalen Fragen scheitert

Vektor-RAG holt die k Textabschnitte, deren Embeddings der Frage am ähnlichsten sind, und übergibt sie einem Sprachmodell. Das funktioniert, wenn die Antwort in wenigen Abschnitten steht — eine lokale Frage wie "Wer hat Vertrag X unterschrieben?". Bei globalen Fragen wie "Was sind die Hauptthemen in diesen 10.000 Dokumenten?" scheitert es strukturell: Die Antwort verlangt die Betrachtung des gesamten Korpus. Das ist eine Aufgabe der abfragefokussierten Zusammenfassung (Query-Focused Summarization), keine Retrieval-Aufgabe — kein Reranker und kein größeres Top-k behebt das.

Microsoft Research hat das Problem in "From Local to Global" (Edge et al., arXiv:2404.16130, erstveröffentlicht April 2024) formalisiert. Die Diagnose: Naives Top-k-Retrieval findet Abschnitte, die der Frage ähneln — nicht die Texte, die zur Antwort nötig wären — und erzeugt plausible, aber irreführende Zusammenfassungen. GraphRAG ist die Antwort darauf: einmal Struktur über den Korpus aufbauen, damit globale Fragen beantwortbar werden.

Entitäten und Relationen werden aus jedem Dokument extrahiert. 1/4

Was Microsoft GraphRAG tatsächlich aufbaut

Die Open-Source-Pipeline graphrag (auf GitHub seit dem 2. Juli 2024, Version 3.1.1 mit Stand Juli 2026) arbeitet in Stufen. Sie zerlegt Dokumente in TextUnits und lässt ein LLM aus jeder Einheit Entitäten, Beziehungen und Aussagen (Claims) extrahieren. Die Ergebnisse werden zu einem korpusweiten Wissensgraphen zusammengeführt, dessen Knoten und Kanten LLM-geschriebene Beschreibungen tragen.

Diesen Graphen partitioniert Leiden-Community-Detection (Traag et al. 2019), ein hierarchisches Clusterverfahren, das Gruppen dicht verbundener Entitäten findet. Für jede Community auf jeder Hierarchieebene schreibt ein LLM eine Zusammenfassung — von unten nach oben, Blatt-Zusammenfassungen fließen in Eltern-Zusammenfassungen ein. Das Ergebnis ist eine geschichtete, vorberechnete Beschreibung des Korpusinhalts, bevor jemand eine Frage gestellt hat.

Globale und lokale Abfragemodi

Zur Abfragezeit bietet graphrag vier Modi. Global Search beantwortet korpusweite Fragen per Map-Reduce: Community-Zusammenfassungen werden zu Kontextfenstern gruppiert, jede Gruppe liefert eine Teilantwort (Map), und die Teilantworten werden zu einer Endantwort verdichtet (Reduce). Local Search startet bei den in der Frage erkannten Entitäten und expandiert zu Nachbarn, Textstellen und Community-Reports — geeignet für Fragen zu konkreten Entitäten.

DRIFT Search kombiniert lokale Expansion mit Community-Kontext. Basic Search ist schlichtes Top-k-Vektor-Retrieval. Dass die Bibliothek diesen Modus mitliefert, ist ein ehrliches Eingeständnis der Autoren: Viele Abfragen beantwortet Baseline-RAG am besten — eine Abgrenzung, die Sie bei der Bewertung des Frameworks ernst nehmen sollten.

Was die Evaluationen messen

Die Original-Evaluation nutzte zwei Korpora von je rund einer Million Token (Podcast-Transkripte und Nachrichtenartikel) und einen LLM-Richter, der Antworten paarweise nach Vollständigkeit (Comprehensiveness), Diversität, Empowerment und Direktheit verglich. GraphRAGs Global Search schlug naives Vektor-RAG mit rund 70–80 % Gewinnrate bei Vollständigkeit und Diversität. Mit Zusammenfassungen der obersten Community-Ebene blieb es konkurrenzfähig zur vollständigen Map-Reduce-Zusammenfassung der Quelltexte — bei etwa 2–3 % der Token-Kosten pro Abfrage.

Zwei Einschränkungen. Die Gewinnraten stammen von einem LLM-Richter, nicht aus Ground-Truth-Genauigkeit — und bei Direktheit gewann naives RAG. Eine unabhängige systematische Evaluation (arXiv:2502.11371) zeigt das Spiegelbild auf klassischen QA-Benchmarks: RAG war besser bei Single-Hop- und Detailfragen, während GraphRAGs Global Search Details verlor und bei unbeantwortbaren Fragen halluzinierte, statt "unzureichende Information" zu antworten.

Die ehrliche Kostenrechnung

Volles GraphRAG-Indexieren schickt jeden Textabschnitt durch LLM-Extraktionsprompts; die Extraktion dominiert die Token-Rechnung. Microsofts eigene Kostenanalyse macht die Lücke konkret: Das Embedding des kompletten "Wizard of Oz" kostete 0,0056 US-Dollar, der Graphaufbau mit GPT-4o mini rund 0,011 US-Dollar pro 1.000 Wörter — etwa das 80-Fache der Embedding-Kosten — und mit GPT-4-Turbo, dem Modell des Original-Papers, ein Mehrfaches davon. Globale Abfragen dauerten 20–24 Sekunden.

Der Graph ist zudem ein abgeleitetes Artefakt, kein Speicher. Ändern sich Dokumente, muss die Extraktion erneut laufen oder inkrementell nachgeführt werden; vorberechnete Community-Zusammenfassungen veralten. Die Extraktion ist außerdem verlustbehaftet: Die genannte Evaluation maß, dass nur 65,8 % der Antwort-Entitäten für HotpotQA überhaupt im konstruierten Graphen vorhanden waren. Jede fehlende Entität ist eine Frage, die der Graph nicht beantworten kann — so elegant die Traversierung auch sein mag.

LazyGraphRAG verschiebt die Ökonomie

LazyGraphRAG (Microsoft Research, 25. November 2024) kehrt das Design um: Fast die gesamte LLM-Arbeit wird auf die Abfragezeit verschoben. Indexiert wird mit leichtgewichtigem NLP — Nominalphrasen-Extraktion und Kookkurrenz-Analyse statt LLM-Aufrufen. Die Indexierungskosten sind dadurch identisch mit Vektor-RAG und betragen 0,1 % der Kosten von vollem GraphRAG.

Zur Abfragezeit kombiniert das Verfahren Best-First- und Breadth-First-Suche, gesteuert über einen einzigen Parameter, das Relevance Test Budget. Microsoft berichtet vergleichbare Antwortqualität zu GraphRAG Global Search bei über 700-fach niedrigeren Abfragekosten; bei 4 % der Global-Search-Abfragekosten übertraf LazyGraphRAG alle acht getesteten Bedingungen signifikant — lokal wie global. Im Nachfolge-Benchmark BenchmarkQED (5. Juni 2025) gewann es alle 96 Vergleiche gegen Baselines mit demselben Modell, einschließlich Vektor-RAG mit einem Kontextfenster von einer Million Token.

Ansatz	Indexkosten	Abfragekosten	Stark bei	Schwach bei
Hybrides Vektor-RAG	Nur Embeddings (minimal)	Niedrig	Single-Hop-Lookups und Details	Korpusweite Synthese
GraphRAG Local Search	Voller LLM-Graphaufbau	Moderat	Entitätszentrierte Multi-Hop-Fragen	Indexkosten und Veralterung
GraphRAG Global Search	Voller LLM-Graphaufbau plus Zusammenfassungen	Hoch (Map-Reduce über Communities)	Themen und globale Synthese	Details; unbeantwortbare Fragen
LazyGraphRAG	~Vektor-RAG (0,1 % von vollem GraphRAG)	>700-fach unter Global Search bei gleicher Qualität	Lokale und globale Abfragen	LLM-Latenz zur Abfragezeit

Wann Hybrid-RAG die bessere Wahl bleibt

Nichts davon hebt den Basisfall auf. Eine Analyse von 2025 (arXiv:2506.05690) trägt Befunde früherer Studien zusammen: GraphRAG erreichte auf Natural Questions 13,4 % niedrigere Genauigkeit als Standard-RAG, verursachte im Mittel rund 2,3-fache Latenz und gewann auf HotpotQA-Multi-Hop-Fragen nur 4,5 %. Dominieren Single-Hop-Lookups Ihr Abfrageprotokoll — "Wie lang ist die Kündigungsfrist in Vertrag X?" —, ist hybrides Retrieval (BM25 plus Vektoren plus Reranker) günstiger, schneller und oft genauer.

Die Verfahren sind komplementär, nicht konkurrierend. Die systematische Evaluation zeigte: Abfragen per Klassifikator an RAG oder GraphRAG zu routen (Selection) oder beide Kontexte gemeinsam an den Generator zu geben (Integration) verbesserte die MultiHop-RAG-Genauigkeit um bis zu 6,4 Punkte gegenüber der besten Einzelmethode. Ein Graph verdient sich seinen Platz für ein Segment der Abfragen; den Vektorindex ersetzt er selten.

Fünf Entscheidungsregeln

1. Beginnen Sie mit Hybrid-RAG und instrumentieren Sie es. Loggen und klassifizieren Sie Abfragen: lokaler Lookup, Multi-Hop-Schlussfolgerung, korpusweite Synthese. Entscheiden Sie auf Basis von Daten, nicht von Demos. 2. Bleiben Sie bei Hybrid-RAG, wenn weniger als rund 10 % der Abfragen dokumentübergreifendes Schließen oder Zusammenfassen benötigen — die Betriebskosten des Graphen amortisieren sich über den Rest nicht.

3. Testen Sie LazyGraphRAG vor vollem GraphRAG, wenn globale Fragen relevant sind. Die Indexierungskosten entsprechen Vektor-RAG, das Experiment ist also fast kostenlos; erhöhen Sie das Relevance Test Budget, bis die Antwortqualität sättigt. 4. Reservieren Sie volles GraphRAG mit vorberechneten Community-Zusammenfassungen für leseintensive, stabile Korpora mit vielen wiederkehrenden globalen Abfragen — dort amortisiert sich die Vorab-Zusammenfassung.

5. Behandeln Sie einen Produktionsgraphen als Datenprodukt. Er braucht einen Verantwortlichen, eine Aktualisierungs-Pipeline und Metriken für die Extraktionsqualität. Können Sie das nicht besetzen, bauen Sie ihn nicht — ein veralteter Graph antwortet aus einer Realität, die nicht mehr existiert, und tut das mit voller Überzeugung.

Wohin sich Graph-Retrieval entwickelt

Das Kostenargument gegen die Indexierung löst sich auf; der Engpass wandert zu Extraktionsqualität und Governance. Graph- und Vektor-Retrieval konvergieren zu einem Spektrum, das sich pro Abfrage über ein Budget einstellen lässt. Agentische Suche fügt zur Abfragezeit implizite Struktur hinzu: Eine Benchmark-Studie von 2026 (arXiv:2604.09666) zeigt, dass sie den Multi-Hop-Abstand zwischen dichtem RAG und GraphRAG verkleinert, aber nicht schließt.

Wir erwarten Retrieval-Stacks, die pro Abfrage entscheiden, wie viel Struktur sie aufbauen — und Wissensgraphen, die zunehmend als gemeinsames, inspizierbares Gedächtnis für Multi-Agenten-Systeme dienen, als generelles Architekturmuster. Die Entscheidungsregeln oben überdauern diesen Wandel: Struktur dort, wo die Fragen sie verlangen — und nirgendwo sonst.