エージェントメモリ
LLMエージェントが現在のコンテキストウィンドウを超えて物事を覚えておくための仕組み。タスクの過去のステップ、ユーザーに関する事実、セッションをまたぐ教訓などを保持する。モデル自体がステートレスであることへの解決策だ。
種類は短期記憶（進行中の会話やタスクのステップ。コンテキストに収まり、長くなると要約されることが多い）と長期記憶（外部ストレージ、多くはベクトルデータベースに保存した事実で、必要なときに呼び出す。例：「このユーザーはメートル法を好む」）。手法としては、古い履歴の要約（ローリングサマリー）、関連する記憶の保存とRAGによる呼び戻し、構造化メモリストア（mem0、Letta/MemGPT）がある。課題は、何を保存するか、どう関連性高く取り出すか、記憶の肥大化や陳腐化をどう防ぐかだ。長いタスクをこなすエージェントや、セッション間でユーザーを覚えておくエージェントには欠かせない。多くはRAGの仕組みの上に作られる。