Ein Sprachmodell behält Informationen nicht von einem Aufruf zum nächsten: Bei jeder Ausführung arbeitet es nur mit dem in der Anfrage bereitgestellten Text. Für KI-Agenten, die ihre vergangenen Aktionen verfolgen, Nutzerpräferenzen speichern oder eine Aufgabe in mehreren Schritten ausführen müssen, macht diese Beschränkung einen externen Speicher notwendig. Dieser Speicher hält Informationen außerhalb des Kontextfensters, also der Textmenge, die ein Modell auf einmal verarbeiten kann, und stellt sie bei Bedarf wieder bereit.
Die Bausteine des Agenten-Speichers
Agenten müssen Informationen von einem Aufruf und einer Aufgabe zur nächsten mitnehmen. Sie müssen sich möglicherweise an bereits Geplantes erinnern, um Doppelarbeit zu vermeiden, oder gescheiterte Vorgänge speichern, um sie nicht zu wiederholen. Ohne Speicher verfügt jeder Aufruf nur über den ihm mitgegebenen Kontext.
Die Speichertypen lassen sich in vier Kategorien einteilen. Der Arbeitsspeicher enthält den aktiven Zustand der Aufgabe, wie Zwischenergebnisse, und wird direkt per Schlüssel abgefragt. Das episodische Gedächtnis bewahrt auf, was geschehen ist: vergangene Interaktionen, Aufgabendurchläufe und getroffene Entscheidungen, in einem chronologischen Log oder einer Vektordatenbank, mit einer Suche nach semantischer Ähnlichkeit. Das semantische Gedächtnis sammelt das, was als wahr gilt, also Fakten und Präferenzen, die aktualisiert statt nur hinzugefügt werden. Das prozedurale Gedächtnis beschreibt, wie Dinge zu tun sind, sei es erfolgreiche Aktionsmuster oder bekannte Fehlermodi, und stützt sich auf Prompt-Vorlagen oder Fine-Tuning, eine Anpassung des Modells an spezifische Daten.
Einen zuverlässigen Speicher entwerfen
Im Beispiel eines Recherche-Agenten, der mehrere Tage an derselben Aufgabe arbeitet, wird jedes Ergebnis zunächst kurzlebig im Arbeitsspeicher geschrieben. Erweist sich ein Ergebnis als nützlich, wandert es mit einer Wichtigkeitsbewertung ins episodische Gedächtnis. Vor jedem Tool-Aufruf konsultiert der Agent den Arbeitsspeicher und bei Bedarf das episodische Gedächtnis. Scheitert die Aufgabe unterwegs, kann der temporäre Zustand gelöscht werden, während die Historie abgeschlossener Arbeiten erhalten bleibt.
Mehrere Praktiken machen den Speicher bei Wachstum zuverlässiger: die Wichtigkeit von Informationen vor dem Schreiben zu bewerten, den Speicher jedes Agenten auf seine Rolle in Multi-Agenten-Systemen zu beschränken, den Speicher bei jedem Entscheidungsschritt zu konsultieren und die Herkunft jedes Elements nachzuverfolgen, ob von einem Agenten, einem Tool, einer Nutzereingabe oder einem Zeitstempel. Einige einfach umzusetzende Ansätze werden hingegen unzuverlässig. Dazu zählen das Speichern aller Daten in einer einzigen Vektordatenbank, die Komprimierung durch freie Zusammenfassungen, die Zahlen oder Randbedingungen löschen kann, unbegrenztes Speicherwachstum oder die gleiche Vertrauenswürdigkeit für jeden Eintrag. Letzteres macht anfällig für Speichervergiftung, bei der unzuverlässige oder bösartige Inhalte gespeichert und dann als sichere Information behandelt werden.
Frameworks mit unterschiedlichen Ansätzen
Frameworks liegen zwischen einem einfachen Textspeicher und Wissensgraphen. Letta basiert auf Textblöcken, die der Agent selbst überschreiben kann, und aktualisiert einen Block bei erkannten Widersprüchen. Mem0 nutzt einen Vektorspeicher mit einer entitätssensitiven Suche und fügt neue Erinnerungen neben alten hinzu. Graphiti setzt auf einen bitemporalen Wissensgraphen mit typisierten Relationen: Es werden alte Relationen invalidiert, während ihr durchsuchbarer Verlauf erhalten bleibt. Cognee baut aus Quelldaten Schichten aus Graphen-, Vektor- und Relationenrepräsentationen auf und rekonstruiert die Speicherdarstellung, mit zeitlichen Modi zur Nachverfolgung von Änderungen.
In Multi-Agenten-Systemen kann das Teilen des Speichers bei gleichzeitigen Aktualisierungen zu Konflikten führen. Genannte Lösungen umfassen einen zentralen Dienst mit Schreibkontrolle, separate Namensräume für jeden Agenten oder Nur-Anfüge-Logs, deren Konflikte bei der Suche gelöst werden. Die Bewertung stützt sich auf mehrere Metriken: den Recall, der misst, ob relevante Erinnerungen gefunden werden, die Präzision, die den Anteil unnützer zurückgegebener Informationen misst, die Treue, die die korrekte Verwendung abgerufener Informationen prüft, und die Veraltung, die die Häufigkeit überholter Informationen misst. Laut Artikel hängt die Wahl von der Arbeitslast des Agenten, seinen Daten und seinen Betriebsanforderungen ab.
