Agentic-AI-Governance

Agentic-AI-Governance ist das Regelwerk (Operating Model), das den kompletten Lebensweg autonom handelnder KI-Agenten steuert: Genehmigung, Freigabe, Betrieb, Prüfung und Abschaltung. Sie legt fest, welche externen Werkzeuge (Tools) ein Agent nutzen darf, welche Informationen er speichern darf, wie hoch sein Risiko eingestuft wird, wer welche Verantwortung trägt und wie jede Handlung nachvollziehbar protokolliert wird (Audit-Trail). Sie ergänzt klassische KI-Governance, die nur das Modell betrachtet, um fünf Achsen: Selbstständigkeit, Werkzeug-Nutzung, Gedächtnis, Zusammenspiel mehrerer Agenten und die eigene Kennung des Agenten.

Was ist Agentic-AI-Governance?

Agentic-AI-Governance ist die Steuerungs-Disziplin für autonome KI-Agenten, also für KI-Systeme, die selbstständig handeln, Programme und Schnittstellen aufrufen (Tool-Use) und sich über längere Zeit an bisherige Vorgänge erinnern. Sie sitzt als Regelwerk-Schicht über der technischen Umsetzung und weist jedem Agenten Rollen, Prozess-Schritte, Risiko-Klassen und Prüf-Anforderungen zu. Das Ergebnis ist ein durchgängiger Ablauf von der Idee eines Agenten bis zu produktivem Betrieb und geordneter Abschaltung.

Der Begriff hat sich 2025 als eigene Kategorie herausgebildet, weil klassische AI-Governance für ML-Modelle gebaut ist. Modell-Governance fragt nach Fairness, Bias, Robustheit, Modell-Versionierung und Drift. Ein autonomer Agent verschiebt diese Fragen: Er handelt aktiv über Tool-Aufrufe, hält einen persistenten Speicher, spricht in Multi-Agent-Setups mit anderen Agenten und agiert mit einer eigenen Identität und eigenen Berechtigungen auf Zielsystemen. Sieben Achsen sind gegenüber Modell-Governance verschoben: Autonomie, Tool-Use, Speicher, Multi-Agent-Verkehr, Identität, Lifecycle und Risiko-Tiering. Gartner führt Agentic-AI-Governance im [Hype Cycle for Artificial Intelligence 2025](https://www.gartner.com/en/articles/hype-cycle-for-artificial-intelligence) als eigenes Profil neben Responsible AI. [Forrester prognostiziert](https://www.forrester.com/blogs/predictions-2026-ai-agents/), dass bis Ende 2026 eine dedizierte AI-Governance-Leitung in 60 Prozent der Fortune 100 etabliert sein wird.

Ein tragfähiges Governance-Modell ruht auf drei Bausteinen. Der erste ist das Operating Model: Rollen wie Use-Case-Owner, Plattform-Team, Datenschutz und Compliance werden pro Agent zugeordnet, mit einem definierten Lifecycle von Genehmigung über Freigabe, Betrieb und Audit bis zum Rückbau. Der zweite Baustein ist das Risiko-Tiering pro Agent, das sich aus Autonomie-Grad und Tool-Reichweite ergibt und die Prüf-Tiefe steuert. Der dritte Baustein ist die technische Durchsetzung über Guardrails, Tool-Allowlists, Human-in-the-Loop-Bestätigung und einen durchgängigen Audit-Trail. Regulatorisch flankiert wird der Rahmen durch den EU AI Act (Artikel 12 Aufzeichnung, Artikel 50 Transparenzpflichten ab Dezember 2026, Annex III Hochrisiko-Anwendungen ab Dezember 2027, Artikel 72 Post-Market-Monitoring), den [GPAI Code of Practice](https://digital-strategy.ec.europa.eu/en/policies/ai-code-practice) seit August 2025 und ISO/IEC 42001 als AI-Management-System-Norm.

Abgrenzung zu Responsible AI, EU AI Act, Guardrails und AI-Governance

Vier verwandte Begriffe sitzen im gleichen Themenfeld. Sie werden im Markt regelmäßig synonym benutzt, decken aber unterschiedliche Ebenen ab.

Responsible AI liefert Werte und Ethik-Reviews, sagt aber nicht, wer einen Agenten genehmigt oder welchen Tool-Aufruf protokolliert. Der EU AI Act klassifiziert Risiken und schreibt Aufzeichnungs- und Transparenzpflichten vor, adressiert aber kein Operating Model. Guardrails setzen definierte Policies zur Laufzeit durch, entscheiden aber nicht, welche Policies definiert werden. Klassische AI-Governance deckt Modell-Themen ab und kennt weder Tool-Aufrufe noch Agenten-Speicher noch Multi-Agent-Verkehr. Agentic-AI-Governance schließt die Lücke: Sie ordnet die anderen Schichten zu einem Operating Model für Agenten und ist die Brücke zwischen Werte-Anspruch, Compliance-Pflicht und produktivem Betrieb.

Agentic AI Security ist ein Baustein innerhalb dieses Rahmens, kein Ersatz. Sie adressiert die Angriffsflächen autonomer Agenten (OWASP LLM06 Excessive Agency, LLM07 System Prompt Leakage, Prompt Injection, Data Exfiltration) und wird von der Governance-Schicht mandatiert, sitzt technisch aber auf der Action-Ebene der Agenten.

Beispiel: Governance-Fragen bei einem Support-Agenten

Ein Support-Agent bearbeitet Service-Tickets, ruft das CRM auf, schreibt Antworten und eskaliert komplexe Fälle. Nach drei Wochen im produktiven Betrieb kommen die typischen Governance-Fragen. Der Datenschutz will wissen, welche Verantwortung für die vom Agenten ausgelösten CRM-Updates zugeordnet ist. Das interne Audit fragt nach dem dokumentierten Lifecycle-Prozess und dem Rückbau-Pfad. Der Vorstand fragt nach dem Risiko-Tiering, um zu entscheiden, ob weitere Agenten mit vergleichbarer Reichweite freigegeben werden können. Klassische AI-Governance beantwortet keine dieser Fragen, weil sie den Modell-Endpoint prüft und nicht das aktive Handeln des Agenten.

Agentic-AI-Governance liefert die Antworten aus den drei Bausteinen. Das Operating Model ordnet den Use-Case-Owner (Support-Leitung) und das Plattform-Team als Betriebs-Verantwortliche zu, mit Datenschutz und Compliance als Prüfrollen im Freigabe-Prozess. Das Risiko-Tiering stuft den Agenten anhand seiner Autonomie (halb-autonom, Bestätigung bei Massen-Aktionen) und seiner Tool-Reichweite (Ticket-Kommentar niedrig, Ticket-Schließung mittel, Kundenmail-Versand hoch) in eine mittlere Risiko-Klasse ein, was Eval-Frequenz und Audit-Tiefe steuert. Die technische Durchsetzung läuft über Guardrails (Tool-Allowlist mit expliziten Argument-Validierungen, HITL-Schwelle bei Massen-Schließungen, Trace-ID in jeder Interaktion, Shutdown-Trigger bei Policy-Verletzung) und einen Audit-Trail nach den Aufzeichnungspflichten aus AI Act Artikel 12.