Graph RAG

Graph RAG ist eine Variante von Retrieval-Augmented Generation (RAG), einem Verfahren, bei dem ein Sprachmodell vor der Antwort passendes Wissen aus einer externen Quelle nachschlägt. Bei Graph RAG ist diese Quelle ein Wissensgraph, also ein Netz aus benannten Dingen (Personen, Systeme, Konzepte) und deren Verbindungen. Klassisches RAG durchsucht stattdessen einzelne Textabschnitte nach Ähnlichkeit. Graph RAG liefert dem Modell dadurch strukturierte Fakten und Zusammenfassungen von Themengruppen statt loser Textstellen.

Was ist Graph RAG?

Graph RAG kombiniert das RAG-Grundmuster mit einem Wissensgraphen als Nachschlagequelle. Klassisches RAG (siehe [Lewis et al., 2020](https://arxiv.org/abs/2005.11401)) zerlegt eine Textbasis in kleine Abschnitte und wandelt jeden Abschnitt in eine Zahlenrepräsentation (Vektor) um. Bei einer Frage sucht das System die Textabschnitte, deren Vektoren dem Frage-Vektor am ähnlichsten sind (Ähnlichkeitssuche). Graph RAG geht anders vor. Aus derselben Textbasis werden Entitäten (die benannten Dinge, etwa Personen, Systeme, Konzepte) und deren Beziehungen extrahiert und in einem Graphen abgelegt. Bei einer Frage bewegt sich das System entlang dieser Verbindungen im Graphen statt über Text-Ähnlichkeit.

Der Begriff geht auf das Verfahren „GraphRAG" von Microsoft Research zurück, veröffentlicht im April 2024 als Paper [„From Local to Global"](https://arxiv.org/abs/2404.16130) (Edge et al.) und im Juli 2024 als Open-Source-Projekt ([microsoft/graphrag](https://github.com/microsoft/graphrag)). Das Verfahren beschreibt eine zweistufige Indexierung. Ein Sprachmodell extrahiert aus den Quelltexten Entitäten, Beziehungen und Behauptungen, baut daraus einen Graphen und erkennt darin thematische Communities über Algorithmen wie [Leiden-Clustering](https://www.nature.com/articles/s41598-019-41695-z). Für jede Community erzeugt ein zweiter Modell-Lauf eine Zusammenfassung. Diese Community-Summaries sind der eigentliche Kontext, den das Modell zur Antwortzeit sieht.

Zur Antwortzeit unterscheidet das Microsoft-Verfahren zwei Modi. Die Local Search startet an einer konkreten Entität und wandert über ihre unmittelbare Nachbarschaft im Graphen. Sie eignet sich für Fragen der Form „Was gilt für Entität X?". Die Global Search aggregiert stattdessen über Community-Summaries und eignet sich für breite Fragen, die keine einzelne Textstelle beantwortet („Welche wiederkehrenden Muster tauchen im Korpus auf?"). Die zweite Variante ist der eigentliche Beitrag von GraphRAG gegenüber klassischem Vector-RAG.

Der Begriff existiert, weil reine Vektor-Suche bei mehrstufigen und übergreifenden Fragen schwach ist. Vektor-Retrieval findet Textabschnitte, die einer Frage ähnlich sind. Fragen zur Struktur eines Korpus, zu Beziehungen zwischen Konzepten oder zu Aggregaten über viele Dokumente haben aber keine einzelne ähnliche Passage als Antwort. Graph RAG adressiert diese Klasse von Fragen, indem es die Struktur explizit macht. Der Preis dafür ist eine aufwendigere Indexierung (viele Modell-Aufrufe für Entity-Extraktion und Community-Summaries) sowie ein komplexeres System, das Graphspeicher und Vektor-Index verwaltet.

Abgrenzung zu RAG, Knowledge Graph und Agentic RAG

Der Begriff wird häufig mit angrenzenden Konzepten vermischt.

Die wichtigste Abgrenzung betrifft klassisches Vector-RAG. Beide beantworten Fragen mit einem Sprachmodell über einem externen Wissensspeicher. Der Unterschied liegt in der Quelltypologie: Vector-RAG operiert auf Textabschnitten und deren Vektor-Nachbarschaft, Graph RAG operiert auf Entitäten und ihren Beziehungen. Für spezifische Fakten-Fragen (etwa „Was steht in Kapitel X?") ist Vector-RAG schneller und einfacher. Für Fragen nach übergreifenden Mustern, Ursachenketten oder Themenaggregation ist Graph RAG das passendere Werkzeug. Dort zeigt die [Microsoft-Studie](https://www.microsoft.com/en-us/research/blog/graphrag-unlocking-llm-discovery-on-narrative-private-data/) den Vorteil in Umfang und Vielfalt der Antworten.

Gegen einen Knowledge Graphen abgegrenzt: Der Graph selbst ist die Datenstruktur. Graph RAG ist das Verfahren, das einen solchen Graphen als Retrieval-Quelle nutzt. Ein Knowledge Graph lässt sich auch klassisch per Cypher- oder SPARQL-Abfrage ansprechen, ganz ohne Sprachmodell.

Gegen Agentic RAG abgegrenzt: Die beiden Begriffe adressieren verschiedene Dimensionen. Agentic RAG beschreibt, wer den Retrieval-Loop steuert (eine feste Pipeline oder ein Agent, der plant und iteriert). Graph RAG beschreibt, welchen Quelltyp der Retriever anspricht. Ein agentisches System kann klassisches Vector-RAG, Graph RAG oder beides als Werkzeug aufrufen. Die beiden Konzepte lassen sich kombinieren.

Beispiel: Query-Focused Summarization über ein Berichts-Korpus

Ein interner Wissensassistent soll eine breite Frage über zwei Jahre Post-Mortem-Berichte beantworten: „Welche wiederkehrenden Ursachenmuster tauchen in den Störungsberichten der Produktions-Plattform auf, und wie hängen sie mit organisatorischen Übergaben zusammen?"

Kein einzelner Bericht enthält die Antwort. In einer klassischen Vector-RAG-Pipeline würden die zehn ähnlichsten Textabschnitte gefunden. Vermutlich landeten Passagen aus einzelnen Post-Mortems im Prompt, die das Wort „Übergabe" enthalten. Die Antwort wäre eine Aufzählung von Zitaten ohne aggregierte Sicht.

In der Graph-RAG-Variante läuft die Indexierung anders. Ein Sprachmodell liest die Berichte und extrahiert Entitäten (betroffene Systeme, Teams, Fehlerklassen, Change-Requests) sowie Beziehungen (System X ausgelöst durch Fehler Y in Team-Übergabe Z). Ein Clustering-Algorithmus bildet Communities über den entstandenen Graphen, etwa thematische Gruppen wie „Deploy-Fehler nach Team-Wechsel" oder „Konfigurationsdrift zwischen Umgebungen". Ein zweiter Modell-Lauf schreibt für jede Community eine Zusammenfassung. Zur Antwortzeit läuft die breite Frage im Global-Search-Modus. Das Modell erhält die relevanten Community-Summaries als Kontext und formuliert daraus eine strukturierte Antwort mit Mustern, Beispielen und Verweisen auf die Ursprungs-Berichte.

Die Kosten sind spürbar. Die Indexierung ruft das Sprachmodell einmal pro Textabschnitt für die Extraktion und mehrfach für die Community-Summaries auf. Bei einem Korpus mit einigen Tausend Berichten summieren sich diese Kosten schnell zu einem Vielfachen einer reinen Vector-Indexierung. Der Vorteil trägt nur dort, wo die Frage-Klasse übergreifend ist. Für Detail-Fragen zu einem einzelnen Bericht bleibt klassisches RAG billiger und ausreichend.