Prompt: Definition, Bestandteile und LLM-Abgrenzung

Ein Prompt ist die Eingabe an ein Sprachmodell (Large Language Model, kurz LLM): der Text, aus dem das Modell seine Antwort erzeugt. Ein Prompt setzt sich aus mehreren Bausteinen zusammen: der Rollen- und Regel-Anweisung (System-Prompt), der konkreten Frage (User-Prompt) und optional aus Beispielen (Few-Shot) sowie zusätzlichem Kontext wie Dokument-Auszügen oder Werkzeug-Beschreibungen. Gemeinsam bilden diese Bausteine die vollständige Anweisung, die das Modell in einem einzelnen Aufruf sieht.

Was ist ein Prompt?

Ein Sprachmodell hat kein Gedächtnis über einen einzelnen Aufruf hinaus: Alles, was es zur konkreten Aufgabe weiß, muss im Prompt stehen. Das Modell zerlegt den Text in kleine Einheiten (Tokens, meist Wortteile), rechnet für jede Einheit eine Zahlen-Repräsentation aus und gewichtet über einen internen Mechanismus (Attention), welche Stellen im Prompt für die Antwort besonders wichtig sind. Aus diesen Gewichten erzeugt es die Antwort Wort für Wort. Die einzige Vorprägung, die das Modell mitbringt, sind die Muster aus seinem Vortraining; den restlichen Kontext liefert der Prompt.

Ein produktiver Prompt ist selten ein einzelner Satz. In der API-Sicht besteht er aus mehreren Rollen: der System-Prompt legt Rolle, Ton, Format und Regeln fest (bei den meisten APIs eine eigene system-Nachricht), der User-Prompt enthält die konkrete Anfrage, und die Assistant-Historie liefert vorangegangene Züge im Chat. Ergänzend kommen häufig Few-Shot-Beispiele (Ein- und Ausgabepaare, die das gewünschte Muster demonstrieren), RAG-Kontext (aus einem Vektorindex abgerufene Dokument-Chunks) und Tool-Beschreibungen (Function-Signaturen für Tool-Use, aus denen das Modell strukturierte Aufrufe erzeugt).

Alle diese Bestandteile teilen sich denselben Zähler: das [Context Window](/insights/glossar/context-window/). Systemprompt, Historie, Beispiele, abgerufene Chunks und die generierte Antwort werden gemeinsam gemessen. Wächst der Prompt, sinkt der Puffer für die Antwort und für weitere Turns. Die Größe und der Aufbau des Prompts sind damit keine kosmetische Frage: Sie bestimmen unmittelbar, wie viel Kontext pro Aufruf gemeinsam betrachtet werden kann und wie stabil das Modell antwortet.

Der Begriff existiert, weil der Prompt die einzige Programmier-Schnittstelle für ein vortrainiertes [Foundation-Modell](/insights/glossar/foundation-models/) ist, das kein Fine-Tuning und keinen Zugriff auf die Gewichte hat. Alles, was das Modell in einem Aufruf über die konkrete Aufgabe weiß (Rolle, Format, Beispiele, aktuelles Wissen aus Dokumenten, verfügbare Tools), steht im Prompt oder wird zur Laufzeit dort hineingeladen. Dieselbe Anfrage mit einem anderen Prompt-Aufbau produziert eine andere Antwort. [Anthropic dokumentiert](https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview) diesen Zusammenhang explizit in seinem Prompt-Engineering-Leitfaden für Claude, [OpenAI beschreibt](https://platform.openai.com/docs/guides/text-generation) die Rollen-Struktur der Chat-Completions-API mit system, user und assistant.

Abgrenzung zu Prompt Engineering, Prompt Template, Context Window und Instruction

Sechs Begriffe werden in der Praxis mit „Prompt" verwechselt oder synonym verwendet. Die relevanten Trennlinien:

Begriff	Ebene	Verhältnis zum Prompt
Prompt Engineering	Methodik	Die Disziplin, Prompts systematisch zu entwerfen, zu testen und zu iterieren (Chain-of-Thought, Few-Shot, ReAct, Selbstkritik). Der Prompt ist der Artefakt, Prompt Engineering die Praxis, die den Artefakt erzeugt.
Prompt Template	Vorlage	Eine parametrisierte Vorlage mit Platzhaltern ({{user_frage}}, {{kontext}}), aus der zur Laufzeit ein konkreter Prompt gerendert wird. Das Template ist wiederverwendbar und versioniert, der gerenderte Prompt ist der tatsächliche Modell-Input.
Context Window	Technischer Rahmen	Die maximale Token-Kapazität pro Aufruf. Der Prompt füllt dieses Fenster gemeinsam mit Historie und Antwort. Prompt-Größe und Fenster-Größe stehen in direkter Konkurrenz um dieselben Tokens.
Instruction	Aufgabenstellung	Die eigentliche Aufgabenformulierung innerhalb des Prompts („Fasse den folgenden Text in drei Sätzen zusammen"). Der Prompt enthält die Instruction, umfasst aber zusätzlich Rolle, Kontext, Beispiele und Format-Vorgaben.
System-Prompt	Prompt-Teil	Der Teil des Prompts, der Rolle und persistente Regeln vorgibt (bei den meisten APIs eine eigene system-Nachricht). Jeder System-Prompt ist ein Prompt, aber nicht jeder Prompt ist ein System-Prompt.
Query	Suchanfrage im RAG	Die reine Anfrage an den Retriever, aus der Vektor-Ähnlichkeit berechnet wird. Der finale Prompt an das Sprachmodell enthält die Query plus die abgerufenen Chunks plus System-Anweisungen.

Die häufigste Verwechslung ist Prompt vs. Prompt Engineering. Ein Prompt ist das Artefakt, das an das Modell geschickt wird; Prompt Engineering ist die Methodik, mit der Teams diesen Artefakt entwerfen, evaluieren und pflegen. Wer einen Prompt schreibt, betreibt damit nicht automatisch Prompt Engineering. Die Disziplin unterscheidet sich vom Ad-hoc-Formulieren durch Eval-Pipelines, Versionierung und die systematische Prüfung von Varianten.

Die zweite verbreitete Unschärfe liegt zwischen Prompt und Prompt Template. In produktiven Systemen versendet niemand jeden Prompt handgeschrieben; stattdessen liegt ein Template im Repository, aus dem zur Laufzeit der konkrete Prompt gerendert wird. Das Template ist die Konstante über viele Anfragen, der gerenderte Prompt die Variable pro Anfrage. Für Versionierung, A/B-Tests und Regression-Prüfung ist das Template die Einheit; für den Modell-Aufruf zählt der gerenderte Prompt.

Die dritte relevante Trennlinie zieht sich zwischen Prompt und Instruction. Eine Instruction ist die konkrete Aufgabenformulierung („Übersetze den Text ins Deutsche"). Ein Prompt kann eine Instruction enthalten, umfasst darüber hinaus aber Rolle, Format-Vorgaben, Beispiele, Kontext und die Historie. Ein Instruction-tuned Modell (wie GPT-4o oder Claude Sonnet) ist auf Instructions trainiert und antwortet auch auf reine Instructions ohne umgebenden Prompt. In produktiven Systemen bleibt der umgebende Prompt trotzdem üblich.

Beispiel: Zusammengesetzter Prompt eines RAG-Assistenten

Ein Wissensassistent bekommt die Nutzerfrage „Welche Berechtigungen braucht ein Unity-Catalog-Owner?" und baut daraus einen zusammengesetzten Prompt in mehreren Schichten. Der System-Prompt umfasst rund 400 Tokens und definiert Rolle, Ausgabeformat und Compliance-Regeln („Antworte auf Deutsch, verwende Bullet-Punkte, zitiere Quellen als [Nr.], verweigere Antworten außerhalb der Databricks-Dokumentation"). Aus einem Vektorindex werden vier Top-Chunks zu je 500 Tokens abgerufen und als Kontext-Block eingefügt (2.000 Tokens). Zwei Few-Shot-Beispiele mit je 300 Tokens zeigen das gewünschte Antwortformat inklusive Quellen-Zitation. Die Tool-Definition für einen search_docs-Aufruf belegt weitere 200 Tokens. Am Ende folgt die Nutzerfrage mit 30 Tokens.

Der zusammengesetzte Prompt umfasst rund 3.000 Tokens und wird als einzelne Anfrage an das Modell übergeben. Das Modell generiert die Antwort in bis zu 800 Tokens. Wird eine Prompt-Komponente verändert (etwa die Reihenfolge von Instruktion und Kontext, das Format-Beispiel oder die Position der Few-Shot-Beispiele), verändert sich die Antwortqualität messbar. Untersuchungen wie [Lost in the Middle](https://arxiv.org/abs/2307.03172) (Liu et al. 2023) zeigen, dass Informationen am Anfang und am Ende des Prompts zuverlässiger genutzt werden als solche in der Mitte. Deshalb wird der Prompt in produktiven Systemen als Prompt Template im Repository versioniert und die Varianten in einer Eval-Pipeline gegeneinander getestet. Das ist die Grenze zwischen einem funktionierenden Prompt und einem verlässlichen Baustein einer LLM-Anwendung.