System Prompt: Definition und Provider-Unterschiede

Ein System Prompt ist eine feste Anweisung an ein Sprachmodell (KI-System hinter ChatGPT, Claude oder Gemini, engl. Large Language Model, LLM), die vor jeder Nutzerfrage geladen wird und die Rolle, das Verhalten, die Sicherheits-Regeln (Guardrails) und den Antwortstil für die gesamte Sitzung festlegt. Die drei großen Anbieter setzen ihn technisch unterschiedlich um: OpenAI trägt ihn als eigene Nachrichten-Rolle (system oder developer) in die Nachrichten-Liste ein, Anthropic übergibt ihn als separates Feld außerhalb der Nachrichten, Google Gemini nutzt dafür ein eigenes Feld namens system_instruction.

Was ist ein System Prompt?

Ein System Prompt ist der Teil der Eingabe an ein Sprachmodell, der Rolle, Verhalten, Format-Vorgaben und Regeln festlegt und bei jedem Aufruf vor der eigentlichen Nutzerfrage geladen wird. Technisch ist er nichts Besonderes: Der Text wird (wie jede andere Eingabe) in kleine Einheiten zerlegt (sogenannte Tokens, Wortbausteine, die das Modell verarbeitet) und landet gemeinsam mit den Nachrichten der Sitzung im [Context Window](/insights/glossar/context-window/) (dem Arbeitsspeicher, den das Modell pro Anfrage überblicken kann). Seine Sonderstellung entsteht nicht aus einer anderen technischen Verarbeitung, sondern aus dem Training: Verfahren wie RLHF (Reinforcement Learning from Human Feedback, Training mit menschlichem Feedback) und DPO (Direct Preference Optimization, ein verwandtes Trainings-Verfahren) bringen dem Modell bei, Anweisungen aus der System-Rolle stärker zu gewichten als spätere Nutzer- oder Antwort-Nachrichten.

Ein produktiver System Prompt enthält vier Bausteine. Die Rolle beschreibt, wer das Modell in dieser Anwendung ist („Kunden-Support-Assistent für Produkt X", „technischer Recherche-Assistent für Databricks-Dokumentation"). Die Erwartungshaltung benennt, was das Modell tun soll und in welcher Reihenfolge (zuerst prüfen, ob eine Frage in den Scope fällt, dann antworten, sonst höflich verweigern). Die Format-Anforderungen legen Struktur, Sprache, Zitations-Konvention und Länge fest (Deutsch, Bullet-Punkte, Quellen als [Nr.], maximal 300 Wörter). Die Grenzen benennen, was das Modell verweigern soll, wann es eskalieren muss und welche Themen außerhalb des Scopes liegen (Rechtsberatung ablehnen, Wettbewerbs-Empfehlungen ablehnen, spekulative Antworten ohne Beleg unterdrücken).

Der Begriff existiert, weil ein Basismodell wie GPT-4o, Claude Sonnet oder Gemini 2.5 Pro über viele Anwendungen geteilt wird, aber jede Anwendung eine eigene Verhaltens-Policy braucht. Fine-Tuning wäre eine Option, ist aber teuer, bindet an ein Modell und lässt sich nicht schnell ändern. Der System Prompt ist die Runtime-Ebene, auf der Verhalten pro Anwendung konfiguriert wird, ohne die Modellgewichte anzufassen. Er ist damit die primäre Programmier-Schnittstelle für ein vortrainiertes [Foundation-Modell](/insights/glossar/foundation-models/), das kein Fine-Tuning und keinen Zugriff auf die Gewichte hat.

Die drei großen API-Anbieter unterscheiden sich in der Implementierung. Bei OpenAI ist der System Prompt eine Nachricht mit role: "system" im Messages-Array der Chat-Completions- und Responses-API; seit den o-Serien-Modellen wird zusätzlich role: "developer" unterstützt, um Entwickler-Instruktionen von End-Nutzer-Instruktionen zu trennen. [Anthropic](https://docs.anthropic.com/en/docs/build-with-claude/system-prompts) implementiert den System Prompt als eigenen Top-Level-Parameter system der Messages-API, außerhalb der Messages-Liste; er kann ein String oder eine Liste von Content-Blocks sein. [Google Gemini](https://ai.google.dev/gemini-api/docs/text-generation#system-instructions) übergibt ihn im Feld system_instruction separat vom contents-Array. In allen drei Fällen verlässt der System Prompt beim Modell-Aufruf denselben Kanal wie der Rest des Prompts und teilt sich das Context Window mit User-Nachrichten, Chat-Historie, Tool-Definitionen und Antwort-Tokens.

Abgrenzung zu User Prompt, Prompt Template, Instruction Fine-Tuning und Constitutional AI

Vier Begriffe werden in der Praxis mit „System Prompt" verwechselt oder synonym verwendet. Die relevanten Trennlinien:

Begriff	Ebene	Verhältnis zum System Prompt
User Prompt	Prompt-Teil	Die konkrete Nutzereingabe pro Turn (role: "user"). Der System Prompt setzt persistente Regeln für die gesamte Sitzung, der User Prompt bringt die aktuelle Aufgabe. Beide teilen sich das Context Window.
Prompt Template	Vorlage	Eine parametrisierte Vorlage mit Platzhaltern ({{user_frage}}, {{kontext}}), aus der zur Laufzeit ein konkreter Prompt gerendert wird. Das Template kann einen System-Prompt-Anteil enthalten, ist aber die Konstante über viele Aufrufe.
Instruction Fine-Tuning	Modellgewichte	Verändert das Modell durch weiteres Training auf einem Instruktions-Datensatz. Wirkt dauerhaft in den Gewichten, ohne dass eine Instruktion pro Aufruf mitgeschickt wird. Der System Prompt wirkt zur Laufzeit über die Prompt-Schicht.
Constitutional AI	Alignment-Verfahren	Regel-basiertes Trainings-Verfahren (Anthropic, 2022), das eine „Verfassung" aus Prinzipien nutzt, um das Modell selbst zu alignieren (via RLAIF/DPO). Wirkt in den Gewichten des Modells. Der System Prompt sitzt darüber als anwendungs-spezifische Runtime-Schicht.

Die häufigste Verwechslung ist System Prompt vs. User Prompt. Beide sind Nachrichten in derselben API und landen im selben Context Window, tragen aber unterschiedliche Rollen. Die System-Rolle bekommt durch Post-Training eine höhere Instruction-Priorität; Wallace et al. beschreiben in [The Instruction Hierarchy](https://arxiv.org/abs/2404.13208) (2024), wie OpenAI Modelle darauf trainiert, die Reihenfolge System > Developer > User > Tool zu befolgen. Trotz dieser Priorität bleibt der System Prompt Text im Prompt und ist über [Prompt Injection](/insights/glossar/prompt-injection/) angreifbar; die Priorität ist ein statistischer Effekt aus dem Training und ersetzt keine harte technische Isolation zwischen den Rollen.

Die zweite häufige Unschärfe zieht sich zwischen System Prompt und Prompt Template. In produktiven Systemen versendet niemand jeden System Prompt handgeschrieben; stattdessen liegt ein Template im Repository, aus dem zur Laufzeit der konkrete System Prompt gerendert wird (Platzhalter für Kundenname, Sprache, verfügbare Tools, Datum). Der System Prompt ist ein Bestandteil des gerenderten Ergebnisses; das Template ist die versionierte Einheit für Prompt Management und A/B-Tests. Für den Modell-Aufruf zählt der gerenderte System Prompt, für Governance und Regression-Prüfung zählt das Template.

Die dritte relevante Trennlinie verläuft zwischen System Prompt und Instruction Fine-Tuning. Beide Ansätze steuern das Antwortverhalten für eine bestimmte Aufgabe. Der System Prompt wirkt zur Laufzeit über die Eingabe und lässt sich sekündlich ändern; ein Fine-Tune wirkt in den Modellgewichten, muss trainiert werden, ist an ein Modell gebunden und braucht bei Modell-Wechseln einen erneuten Trainingslauf. Fine-Tuning wird wirtschaftlich, wenn ein System Prompt sehr lang wird (Instruktions-Volumen pro Aufruf, Kosten für Prompt-Tokens) oder wenn Fachvokabular durchgängig anders verarbeitet werden muss; für schnell iterierende Verhaltens-Regeln bleibt der System Prompt das Werkzeug.

Die vierte Trennlinie liegt zwischen System Prompt und Constitutional AI. Constitutional AI ist ein Alignment-Verfahren, das Verhaltens-Prinzipien in das Modell selbst hineintrainiert; Anthropic hat es 2022 als [Trainings-Methode für Claude](https://arxiv.org/abs/2212.08073) veröffentlicht. Die „Verfassung" wirkt in den Gewichten, ist pro Anwendung nicht konfigurierbar und lässt sich unter adversarialem Druck umgehen. Der System Prompt ist die entkoppelte Runtime-Schicht darüber, die pro Deployment angepasst wird und unabhängig vom Modell-Provider bleibt. [Guardrails](/insights/glossar/guardrails/) sitzen wiederum als externer Runtime-Layer neben dem Modell und prüfen Ein- und Ausgaben unabhängig vom System Prompt gegen Anwendungs-Policies.

Beispiel: System Prompt eines Support-Assistenten in drei Provider-APIs

Ein produktiver Support-Assistent für ein SaaS-Produkt bekommt einen ~600-Token-System-Prompt. Er definiert die Rolle („Kunden-Support-Assistent für ProductX"), die Erwartungshaltung („antworte nur zu Themen im ProductX-Scope, verweigere Rechts- und Steuerberatung"), das Format (Deutsch, Bullet-Punkte, Quellen als [Nr.], maximal 400 Wörter) und die Grenzen (Wettbewerbs-Empfehlungen ablehnen, spekulative Antworten ohne RAG-Beleg unterdrücken, bei mehr als drei geschlossenen Tickets pro Minute eskalieren). Derselbe Text landet je nach Provider an einer anderen Stelle im API-Aufruf.

Bei OpenAI ist der System Prompt eine Nachricht im Messages-Array:

python

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": SYSTEM_PROMPT},
        {"role": "user", "content": user_question},
    ],
)

Bei Anthropic ist der System Prompt ein Top-Level-Parameter außerhalb der Messages:

python

response = anthropic.messages.create(
    model="claude-sonnet-4-5",
    system=SYSTEM_PROMPT,
    messages=[{"role": "user", "content": user_question}],
)

Bei Google Gemini ist der System Prompt ein separates Feld system_instruction:

python

response = client.models.generate_content(
    model="gemini-2.5-pro",
    config={"system_instruction": SYSTEM_PROMPT},
    contents=[user_question],
)

Der Text ist funktional identisch, die API-Ebene unterschiedlich. Anthropic dokumentiert, dass ein System Prompt außerhalb der Messages-Liste bei ihren Modellen zu einer stärkeren Rollen-Bindung führt als eine gleichlautende User-Nachricht; OpenAI trainiert die Instruction Hierarchy explizit auf die System-Rolle. In Anthropic-APIs lässt sich zusätzlich [Prompt Caching](/insights/glossar/prompt-caching/) auf den System-Prompt-Prefix setzen, sodass wiederkehrende System-Prompt-Tokens über viele Turns hinweg zwischengespeichert werden und die Input-Kosten pro Aufruf messbar sinken. Für Governance und Prompt-Management wird der System Prompt in allen drei Fällen als versioniertes Artefakt gepflegt und bei jedem Modell-Wechsel gegen ein Golden-Set evaluiert.