Agent Memory

Agent Memory ist das Gedächtnis eines KI-Agenten (Softwareprogramm, das auf Basis von Sprachmodellen wie ChatGPT selbstständig Aufgaben in mehreren Schritten löst). Die Schicht speichert Gesprächsverläufe, Fakten und erlernte Routinen dauerhaft ab und stellt sie bei späteren Anfragen wieder bereit. Ohne diese Speicherschicht beginnt der Agent bei jedem neuen Auftrag bei null; mit ihr handelt er über mehrere Schritte oder Sitzungen hinweg konsistent.

Was ist Agent Memory?

Ein Sprachmodell (LLM, Large Language Model, die KI hinter ChatGPT oder Claude) hat von sich aus kein Gedächtnis. Jede Anfrage an das Modell startet ohne Wissen über frühere Gespräche. Sobald ein Agent aber mehrere Schritte hintereinander ausführt, externe Werkzeuge (etwa eine Datenbank oder eine Suche) nutzt oder denselben Nutzer über Wochen begleitet, braucht es einen Speicher, der zwischen den Anfragen bestehen bleibt. Diese Rolle übernimmt Agent Memory: Inhalte werden außerhalb des Modells abgelegt und beim nächsten Aufruf gezielt wieder in die Anfrage geladen.

Die in der Agenten-Community etablierte Klassifikation stammt aus dem CoALA-Framework (Cognitive Architectures for Language Agents, Princeton 2023) und unterscheidet vier Speichertypen, die sich an der Kognitionsforschung orientieren:

• Short-Term Memory (auch Working oder Sensory Memory): hält die unmittelbaren Informationen der aktuellen Sitzung, also Konversationsverlauf, letzte Werkzeug-Aufrufe und laufende Zwischenergebnisse. Vergleichbar mit dem Arbeitsspeicher eines Prozesses.
• Long-Term Memory: persistente Ablage über Sitzungsgrenzen hinweg. Enthält Nutzer-Präferenzen, wiederkehrende Sachverhalte und komprimierte Zusammenfassungen früherer Interaktionen.
• Episodic Memory: chronologische Aufzeichnung konkreter Fälle. Der Agent kann bei ähnlichen neuen Anfragen ähnliche vergangene Verläufe abrufen und daraus lernen.
• Semantic Memory: strukturierter Faktenspeicher. Definitionen, Konzeptbeschreibungen und Domänenwissen liegen häufig in einer Vektordatenbank oder einem Wissensgraphen.

Neuere Arbeiten ergänzen diese vier Typen um Procedural Memory: erlernte Routinen, Regeln und bevorzugte Arbeitsstile, die der Agent autonom aufruft.

Technisch wird Agent Memory über einen Read-Path und einen Write-Path realisiert. Der Write-Path extrahiert, klassifiziert oder komprimiert Informationen aus dem laufenden Dialog und legt sie ab. Der Read-Path holt bei einer neuen Anfrage relevante Einträge zurück, per Ähnlichkeitssuche im Vektorspeicher, per Filter-Query auf einer relationalen Tabelle oder per Graph-Traversal. Frameworks wie LangGraph, CrewAI, Claude Agent SDK, Microsoft Agent Framework und OpenAI Agents SDK bringen eigene Memory-Abstraktionen mit; darunter liegen häufig Vektor-Datenbanken, Redis oder relationale Speicher.

Abgrenzung zu Kontext-Window, RAG und Context Engineering

Vier Begriffe werden in der Praxis regelmäßig mit Agent Memory verwechselt:

Kontext-Window des LLM. Das Kontext-Window ist die pro Modell-Aufruf sichtbare Token-Menge: flüchtig, immer neu befüllt, technisch begrenzt (aktuell zwischen 128k und mehreren Millionen Tokens je nach Modell). Agent Memory ist die dahinter liegende Persistenz-Schicht, die entscheidet, welche Inhalte in das Kontext-Window aufgenommen werden. Ein größeres Kontext-Window ersetzt Memory nicht, weil es weder persistiert noch selektiert.

RAG (Retrieval-Augmented Generation). RAG bedient Faktenfragen aus einer externen Wissensbasis (Dokumente, Handbücher, Wiki). Agent Memory speichert agenten-eigene Zustände und Erfahrungen (Konversation, Präferenzen, Fallverläufe). Beide nutzen häufig dieselbe Vektor-Infrastruktur, die Zielrichtung ist verschieden.

Context Engineering. Context Engineering ist die übergeordnete Disziplin: wie Kontext für einen Agenten strukturiert, kuratiert und in das Modell geladen wird. Agent Memory ist ein Baustein davon, die persistente Datenquelle. Context Engineering entscheidet, wann und wie Memory-Einträge, RAG-Ergebnisse, Werkzeug-Outputs und Systemanweisungen zu einem konkreten Prompt zusammengesetzt werden.

Session-State klassischer Anwendungen. Klassischer Session-State speichert Formularwerte, Auth-Token oder UI-Zustände. Agent Memory speichert semantische Inhalte (Zusammenfassungen, extrahierte Fakten, Präferenzen) und wird häufig über natürlichsprachliche Suche abgefragt.

Beispiel: Kundenservice-Agent mit Sitzungshistorie

Ein Kundenservice-Agent führt über Wochen hinweg wiederkehrende Gespräche mit demselben Kunden. Alle vier Memory-Typen greifen zusammen:

• Short-Term Memory hält den laufenden Dialog inklusive der letzten drei Werkzeug-Aufrufe (Bestellstatus abgefragt, Ticket geöffnet, Kollegin einbezogen).
• Long-Term Memory speichert eine kompakte Kundenhistorie (frühere Anfragen, Kommunikationspräferenz, offene Tickets) und wird beim Sitzungsstart in den Prompt geladen.
• Episodic Memory hält konkrete Fallverläufe vor. Bei einer neuen Reklamation ruft der Agent zwei ähnliche vergangene Fälle ab und übernimmt die dort erfolgreiche Vorgehensweise.
• Semantic Memory liefert strukturierte Fakten aus einer Wissensbasis: Vertragsdaten, Produktkonfiguration, aktuelle Preisliste.

Beim nächsten Aufruf lädt eine Retrieval-Schicht die relevanten Memory-Einträge, ein Memory-Manager entscheidet über Priorität und Kürzung, und der Prompt an das Sprachmodell enthält am Ende nur die für die aktuelle Frage relevantesten Ausschnitte. Managed-Angebote wie Mem0, Letta oder Oracle Agent Memory abstrahieren diese Mechanik, ebenso die Memory-Module in LangGraph, CrewAI oder dem Claude Agent SDK.