Agent Framework

Ein Agent Framework ist eine Programm-Bibliothek (fertiger Baukasten für Entwicklerinnen und Entwickler), die die Grundbausteine eines KI-Agenten fertig mitbringt: den Aufruf eines Sprachmodells (LLM, also ein KI-Modell wie GPT oder Claude), das Ausführen von Werkzeugen (Tools, etwa eine Datenbank-Abfrage oder ein API-Aufruf), das Merken von Zwischenergebnissen (Zustand) und den Ablauf in mehreren Schritten (Kontrollfluss inklusive Fehler- und Zeitüberschreitungs-Behandlung). Es ist die Bau-Ebene, auf der ein einzelner Agent oder ein Zusammenspiel mehrerer Agenten programmiert wird.

Was ist ein Agent Framework?

Ein Agent Framework entsteht aus einer immer gleichen Beobachtung beim Bau agentischer Anwendungen: Ein Agent, der auf einem Sprachmodell (LLM) beruht, fragt das Modell, sucht sich aus einer Liste von Werkzeugen (Tools, z. B. „Kundendaten aus dem CRM lesen") das passende aus, merkt sich Zwischenergebnisse in einem Zustand (eine Art Arbeitsspeicher des Agenten), läuft mehrere Schritte hintereinander ab und muss Fehler, erneute Versuche (Retries) und Zeitüberschreitungen (Timeouts) abfangen. Ohne Framework schreibt jedes Projekt diese Mechanik neu. Ein Framework bündelt sie als fertige Klassen, Funktionen und Konfigurations-Optionen.

Zu den typischen Primitiven eines solchen Frameworks gehören Agent- oder Runnable-Klassen, eine Tool-Registry mit Signatur-Definitionen für Function Calling, eine Nachrichtenliste oder ein Zustandsgraph, Delegations- und Handoff-Mechaniken zwischen mehreren Agenten sowie Hooks für Observability, Tracing und Guardrails. Manche Frameworks setzen dabei auf explizite Graph-Strukturen mit Knoten und Kanten (LangGraph), andere auf rollenbasierte Teams (CrewAI), wieder andere auf ein schlankes SDK an einen bestimmten Modell-Anbieter (OpenAI Agents SDK, Claude Agent SDK, Google ADK). Das Microsoft Agent Framework hat im April 2026 AutoGen und Semantic Kernel unter einem Dach zusammengeführt.

Ein Teil der Frameworks ist LLM-neutral und funktioniert mit unterschiedlichen Modell-Anbietern (LangGraph, CrewAI, Strands, LlamaIndex). Ein anderer Teil kommt vom LLM-Anbieter selbst und ist entsprechend an dessen Modelle und Infrastruktur gebunden. Die Wahl zwischen diesen Ausprägungen ist eine architektonische Entscheidung, die die spätere Portabilität und den Betriebs-Stack prägt; sie ist Thema des vertiefenden Clusters, nicht dieses Definitionseintrags.

Abgrenzung zu Orchestrierung, Plattform und LLM-SDK

Der Begriff „Agent Framework" wird in der Praxis mit angrenzenden Schichten des Agenten-Stacks vermischt. Die Bezeichnungen benennen unterschiedliche Rollen im Aufbau eines Systems.

Ein Framework kann Orchestrierungs-Funktionen enthalten, ist aber primär die Programmier-Ebene für den einzelnen Agenten. Eine Agent Development Platform baut häufig auf einem Framework auf oder ersetzt es durch eine visuelle Bau-Umgebung. Ein LLM-SDK stellt nur Zugriff auf ein Modell bereit; das Framework ergänzt Zustand, Tool-Registry und Multi-Step-Loop. Eine Agent Management Platform hingegen setzt an, sobald der Agent gebaut ist und in Produktion läuft.

Beispiel: Support-Agent mit Framework-Auswahl

Ein Team baut einen internen Support-Agenten mit Zugriff auf CRM, Wissensbasis und Ticket-System. Der Agent soll Anfragen einordnen, relevante Wissens-Artikel abrufen, ein Ticket anlegen und bei komplexen Fällen an eine menschliche Bearbeiterin übergeben. Das Team entscheidet zwischen mehreren Optionen:

• LangGraph: feingranulare Kontrolle über den Zustandsgraph, geeignet, wenn die Kontrollflüsse zyklisch werden und Recovery-Pfade explizit modelliert werden sollen.
• CrewAI: mehrere spezialisierte Rollen (Triage, Retrieval, Ticket-Anlage) mit Delegation zwischen Agenten, geeignet für rollenbasierte Multi-Agenten-Setups.
• OpenAI Agents SDK oder Claude Agent SDK: schlanker Pfad, wenn ein Modell-Anbieter gesetzt ist und Portabilität keine Rolle spielt.
• Microsoft Agent Framework: Enterprise-Anbindung an Semantic Kernel, M365 und Azure-Governance.

Das gewählte Framework definiert Tools als Funktionen mit Signatur, führt die Reason-Act-Schleife aus, protokolliert Traces und übergibt Zwischenergebnisse an nachgelagerte Schritte. Die Framework-Wahl bestimmt Portabilität, Betriebs-Stack und Freiheit bei Modell- oder Anbieter-Wechseln.