Prompt Chaining: Definition, Abgrenzung, Beispiele

Prompt Chaining ist ein Bauplan für Anwendungen mit großen Sprachmodellen (Large Language Models, kurz LLM, zum Beispiel GPT oder Claude). Eine komplexe Aufgabe wird in eine feste Kette einfacherer Prompts (Anweisungen an das Sprachmodell) zerlegt, und die Ausgabe eines Schritts wird zur Eingabe des nächsten. Der Ablauf ist fest im Programmcode vorgegeben. Nicht das Sprachmodell entscheidet über die Reihenfolge der Schritte, sondern die umgebende Software.

Was ist Prompt Chaining?

Prompt Chaining zerlegt eine Aufgabe, die für eine einzelne Anweisung zu breit oder zu heterogen ist, in zwei bis fünf kleinere Teil-Anweisungen (Teilprompts). Jeder Schritt ist ein eigener Aufruf an das Sprachmodell mit einer klaren Aufgabenstellung. Der Programmcode nimmt die Ausgabe von Schritt N, prüft oder transformiert sie und hängt sie in strukturierter Form (meist als JSON, ein maschinenlesbares Datenformat) in den Prompt von Schritt N+1. Eine typische Kette sieht so aus: erst Daten aus einem Text herausziehen, dann in eine Kategorie einsortieren, dann daraus eine Zusammenfassung schreiben.

Der Grund für das Muster liegt in der Beobachtung, dass ein einzelner „Super-Prompt" mit vielen konkurrierenden Instruktionen bei komplexen Aufgaben in Formatverletzungen, Halluzinationen und Instruktions-Kollisionen degradiert. Kürzere, fokussierte Prompts sind in Evaluationen zuverlässiger, lassen sich pro Schritt einzeln testen und ihre Prefixes lassen sich cachen. Anthropic klassifiziert Prompt Chaining in [Building effective agents](https://www.anthropic.com/engineering/building-effective-agents) (Dezember 2024) als den einfachsten der fünf Workflow-Bausteine (Prompt Chaining, Routing, Parallelization, Orchestrator-Workers, Evaluator-Optimizer) und stellt ihn dem Agent-Muster explizit gegenüber. Der Kontrollfluss ist beim Workflow deterministisch, beim Agent LLM-gesteuert.

Zwischen den Kettengliedern sitzen Gates: eine JSON-Schema-Validierung, ein Confidence-Check, eine Regel-Prüfung. Bricht die strukturierte Ausgabe eines Schritts, ruft die Anwendung denselben Schritt mit einer Reparatur-Instruktion erneut auf, überspringt oder eskaliert. Diese Kontroll-Logik ist Teil des Chains und liegt außerhalb des einzelnen Prompts. Frameworks wie LangChain (SequentialChain), LlamaIndex (QueryPipeline) oder [LangGraph](https://langchain-ai.github.io/langgraph/) modellieren dasselbe Muster explizit als Kette oder gerichteten Graphen mit fixen Kanten.

Das Muster arbeitet ausschließlich mit Foundation-Modellen ohne Agent-Loop und ohne Tool-Auswahl-Freiheit. Sobald ein Schritt dynamisch entscheiden darf, welche Aktion als nächstes läuft (Tool-Aufruf, weitere Suche, Selbstkorrektur), verlässt der Fluss die Chain und wird zu einem agentischen Workflow.

Abgrenzung zu Agentic Workflow, Prompt Engineering, RAG, ReAct und Chain-of-Thought

Fünf Begriffe werden mit Prompt Chaining regelmäßig vermischt oder synonym verwendet. Die relevanten Trennlinien:

Begriff	Merkmal	Verhältnis zu Prompt Chaining
Agentic Workflow / AI Agent	LLM-gesteuerter, dynamischer Kontrollfluss; das Modell entscheidet über Tool-Aufrufe und Schritt-Reihenfolge	Prompt Chaining ist statisch (code-gesteuert), der Agent dynamisch. Anthropic zieht diese Trennlinie explizit.
Prompt Engineering	Optimierung eines einzelnen Prompts (Formulierung, Beispiele, Format)	Prompt Engineering findet innerhalb jedes Kettenglieds statt. Prompt Chaining ist das Orchestrierungs-Muster darüber.
RAG	Retrieval externer Dokumente als Kontextquelle	Retrieval ist typischerweise ein Schritt in einer Kette (Query → Retrieval → Generation). RAG ist ein Baustein, Prompt Chaining das Muster darum.
ReAct-Pattern	Reasoning und Acting verzahnt, LLM entscheidet dynamisch über Tool-Aufrufe	ReAct ist agentic. Prompt Chaining kennt keine LLM-gesteuerte Verzweigung.
Chain-of-Thought (CoT)	Ein einzelner Prompt mit ausgeschriebenen Zwischenschritten innerhalb einer Antwort	CoT ist ein Prompt, Prompt Chaining sind mehrere. Ein Kettenglied kann CoT nutzen; beide Muster ersetzen sich nicht.

Die häufigste Verwechslung ist die zwischen Prompt Chaining und Agentic Workflow. Beide Muster verketten mehrere Modellaufrufe und produzieren am Ende eine strukturierte Antwort. Der Unterschied liegt in der Kontrolle: Beim Chaining stehen Reihenfolge und Verzweigungen im Code, das Modell füllt nur die Slots. Beim Agent bekommt das Modell einen Werkzeugkasten und entscheidet selbst, was es als nächstes tut. Diese Grenze bestimmt Evaluations- und Betriebs-Aufwand: Ketten sind wie klassische Software testbar, Agenten brauchen zusätzliche Guardrails, Traces und Kostenlimits.

Die zweite häufige Unschärfe liegt zwischen Prompt Chaining und Chain-of-Thought. Der Namensbestandteil „Chain" führt in die Irre. Chain-of-Thought ([Wei et al. 2022](https://arxiv.org/abs/2201.11903)) beschreibt eine Formulierung innerhalb eines einzelnen Prompts, die das Modell zwingt, Zwischenschritte auszuschreiben. Prompt Chaining beschreibt mehrere Prompts hintereinander. Ein Kettenglied kann intern mit einem CoT-Prompt arbeiten, muss es aber nicht.

Beispiel: Kundenanfragen-Triage in drei Schritten

Ein Kundenservice-System verarbeitet eingehende E-Mails in drei fixen Prompts. Der erste Prompt bekommt den Rohtext der E-Mail und extrahiert strukturierte Metadaten als JSON: Kundennummer, betroffenes Produkt, gemeldetes Datum, angeforderter Vorgang. Der Anwendungscode validiert das JSON gegen ein Schema. Bricht die Validierung, läuft derselbe Prompt mit einer Reparatur-Instruktion erneut; bricht sie erneut, wandert der Fall in eine manuelle Queue.

Der zweite Prompt bekommt das validierte JSON und ordnet die Anfrage einer von acht Kategorien zu (Rechnungsfrage, Kündigung, Produktfehler, Adressänderung, …). Ausgabe ist eine Kategorie plus Confidence-Score. Liegt der Score unter einem Schwellwert, endet die Kette und die Anfrage geht in die manuelle Bearbeitung.

Der dritte Prompt bekommt Metadaten und Kategorie und formuliert eine Antwort im kategorien-passenden Ton. Der Prompt lädt kategorien-spezifische Textbausteine aus einem Repository, verhindert damit die klassische Halluzinations-Falle bei rechtsrelevanten Formulierungen und liefert eine versendbare Nachricht.

Die Ketten-Architektur ergibt drei getrennt evaluierbare Komponenten: die Extraktions-Qualität lässt sich gegen einen Golden-Set testen, die Klassifikation gegen ein Confusion-Matrix-Setup, die Antwort-Generierung gegen definierte Antwort-Templates. Ein einzelner Ende-zu-Ende-Prompt wäre in keiner dieser drei Dimensionen einzeln messbar. Content-Pipelines mit fixen Schritten (SERP-Analyse, Keyword-Ableitung, Recherche, Schreib-Prompt, Lint-Reparatur) folgen demselben Muster.