Geheugen van agents
De mechanismen waarmee een LLM-agent dingen onthoudt buiten het huidige contextvenster: eerdere stappen van een taak, feiten over de gebruiker of lessen uit vorige sessies. Het is de oplossing voor het feit dat het model zelf geen toestand bewaart.
Soorten: kortetermijngeheugen (de stappen van het lopende gesprek of de lopende taak, past in de context en wordt bij overschrijding vaak samengevat) en langetermijngeheugen (feiten in externe opslag, vaak een vectordatabase, die op aanvraag worden opgehaald, bijvoorbeeld "de gebruiker geeft de voorkeur aan metrische eenheden"). Technieken: oude geschiedenis samenvatten (een doorlopende samenvatting), relevante herinneringen opslaan en via RAG terughalen, of gestructureerde geheugenopslag (mem0, Letta/MemGPT). De uitdaging is te bepalen wat bewaard moet worden, hoe het relevant terugkomt en hoe te voorkomen dat het geheugen opzwelt of verouderd raakt. Onmisbaar voor agents met langlopende taken of die een gebruiker tussen sessies moeten herkennen. Vaak gebouwd op RAG-machinerie. Verwant aan multi-agentsysteem en RAG.