MAllgemein

Memory (Agent Memory / LLM Memory)

Kurz- und Langzeitgedächtnis für Agenten über Sessions hinweg.

Memory (Agent Memory / LLM Memory) bezeichnet das Kurz- und Langzeitgedächtnis von KI-Agenten, mit dem sie Informationen aus einer Unterhaltung speichern, abrufen und über mehrere Sessions hinweg wiederverwenden können. Während ein Large Language Model (LLM) ohne Memory nur den aktuellen Kontext (z. B. das Chatfenster) „kennt“, ermöglicht Memory personalisierte, konsistente und effizientere Interaktionen – etwa indem ein Agent Vorlieben, Ziele oder Projektdetails behält.

Was bedeutet Memory bei KI-Agenten?

Im Kern ist Memory eine zusätzliche Schicht um das Modell herum: Sie speichert ausgewählte Informationen (z. B. „User bevorzugt Du-Ansprache“, „Projekt: Website-Relaunch bis März“) und stellt sie bei Bedarf wieder bereit. Das ist besonders wichtig für AI Agents (KI-Agenten), die Aufgaben planen, Tools nutzen und über längere Zeiträume an einem Thema arbeiten.

Wie funktioniert Agent Memory?

  • 1) Erfassen: Der Agent entscheidet (regelbasiert oder modellgesteuert), welche Inhalte aus einer Session „merkenswert“ sind (z. B. Präferenzen, Fakten, offene To-dos).
  • 2) Speichern: Kurzzeit-Memory bleibt meist im aktuellen Kontextfenster; Langzeit-Memory wird extern gespeichert, z. B. als Textnotizen, strukturierte Felder oder Vektoren über Embeddings.
  • 3) Wiederfinden (Retrieval): Bei neuen Anfragen sucht der Agent relevante Einträge, häufig über RAG (Retrieval-Augmented Generation) mit Vektordatenbank (Vector Database).
  • 4) Anwenden: Gefundene Erinnerungen werden in den Prompt eingebettet oder über Function Calling / Tool Use in Workflows genutzt (z. B. CRM aktualisieren, Ticket erstellen).
  • 5) Aktualisieren & Vergessen: Gute Systeme versionieren, überschreiben veraltete Infos (z. B. neue Adresse) und löschen Daten nach Regeln (Retention).

Kurzzeit- vs. Langzeitgedächtnis (mit Beispielen)

  • Kurzzeitgedächtnis: Alles, was im aktuellen Chat-Kontext liegt. Beispiel: Der Agent merkt sich innerhalb der Session, dass „Budget 5.000 €“ genannt wurde – verliert es aber, wenn der Kontext abgeschnitten wird.
  • Langzeitgedächtnis: Persistente Speicherung über Sessions. Beispiel: Der Agent merkt sich dauerhaft, dass du Berichte als Bulletpoints willst und dass euer Unternehmen „B2B SaaS“ ist.

Warum ist Memory wichtig?

Memory reduziert Wiederholungen („Wie war nochmal dein Ziel?“), verbessert Personalisierung und steigert die Erfolgsquote bei mehrstufigen Aufgaben. In Automationen (z. B. mit n8n und Automatisierung (Automation)) kann ein Agent so Kundenkontexte, Prozessstatus oder Entscheidungen speichern und später zuverlässig weiterarbeiten – ohne jedes Mal bei null zu starten.

Typische Herausforderungen (und wie man sie entschärft)

  • Halluzinationen: Falsche Erinnerungen können entstehen oder abgerufen werden. Gegenmaßnahmen: Quellen markieren, Confidence-Scores, klare Trennung von „Fakten“ vs. „Notizen“, Tests gegen Halluzinationen (Hallucinations).
  • Datenschutz: Memory kann personenbezogene Daten enthalten. Wichtig sind Datenminimierung, Einwilligung, Löschkonzepte und Compliance mit Datenschutz (DSGVO/GDPR) & KI.
  • Governance: Wer darf was speichern/lesen? Rollen, Audit-Logs und Policies sind Teil von AI Governance (und je nach Einsatz relevant im Kontext EU AI Act).

Zusammengefasst: Memory macht aus einem „stateless“ Chat ein dauerhaft lernendes Assistenz- und Agentensystem – nicht durch Training wie Fine-Tuning oder LoRA, sondern durch kontrolliertes Speichern und gezieltes Abrufen von Wissen zur richtigen Zeit.