从零构建 LLM Agent 记忆模块：架构设计与代码实战指南

引言：为什么 Agent 需要“记忆”？

在大语言模型（LLM）开发的演进中，Agent 正逐渐从单轮推理转向多轮长程任务处理。然而，Transformer 架构固有的注意力机制对输入长度有严格限制，且上下文窗口（Context Window）内的 Token 数量直接决定了推理成本与响应延迟。因此，构建一个高效、可扩展的记忆模块，已成为 AI 开发领域中打造高可用 Agent 的核心挑战。理想的记忆系统不仅要能存储历史交互，还需具备结构化检索能力，以便 Agent 在关键时刻调用相关经验。

Agent 记忆的三层架构设计

在实际工程落地中，我们通常将 Agent 的记忆划分为三个层次，以平衡实时性与持久性：

• 短期记忆（Short-term Memory）：直接保存在当前的 Prompt 上下文中。适用于最近几轮对话，利用 LLM 的原生能力保持连贯性，但成本最高。
• 长期记忆（Long-term Memory）：通过向量数据库（如 Chroma, Milvus, Faiss）持久化存储。用于归档历史交互、用户偏好或外部知识，按需检索注入。
• 工作记忆（Working Memory）：Agent 在执行具体任务时临时生成的中间状态或计划，通常存储在内存结构中，任务结束后即清理或压缩。

核心技术：基于 RAG 的记忆检索策略

长期记忆的实现核心在于检索增强生成（RAG）。当用户发起新请求时，系统并非加载全部历史记录，而是计算当前查询与历史记忆片段的相似度，提取 Top-K 相关片段。以下是关键步骤：

1. 记忆分块（Chunking）：将对话日志按语义或固定长度切分为块，保留元数据（如时间戳、用户 ID）。
2. 向量化索引：使用 Embedding 模型将文本块转换为高维向量，存入向量数据库。
3. 动态注入：在生成 Prompt 前，通过向量相似度搜索获取最相关的记忆片段，作为背景知识嵌入 System Prompt。

代码实战：构建简易记忆管理器

以下是一个简化的 Python 示例，展示如何整合向量数据库实现记忆存取（使用 ChromaDB 为例）：

import chromadb
from chromadb.utils import embedding_functions
import uuid
class AgentMemory:
    def __init__(self, persist_directory='./agent_memory'):
        # 初始化向量数据库客户端
        self.client = chromadb.PersistentClient(path=persist_directory)
        # 设置默认嵌入函数
        self.ef = embedding_functions.DefaultEmbeddingFunction()
        self.collection = self.client.get_or_create_collection(name="conversation_history", embedding_function=self.ef)
    def add_memory(self, content: str, metadata: dict = None):
        """将对话片段存入长期记忆"""
        doc_id = str(uuid.uuid4())
        if metadata is None:
            metadata = {"timestamp": str(uuid.getnode())} # 简化示例
        self.collection.add(
            ids=[doc_id],
            documents=[content],
            metadatas=[metadata]
        )
        return doc_id
    def retrieve_relevant(self, query: str, n_results: int = 3):
        """根据当前查询检索最相关的记忆"""
        results = self.collection.query(
            query_texts=[query],
            n_results=n_results
        )
        # 返回检索到的文本列表供 Prompt 构建使用
        return results['documents'][0]
# 使用示例
memory = AgentMemory()
memory.add_memory("用户喜欢简短的技术回答", {"user_role": "developer"})
relevant_memories = memory.retrieve_relevant("如何快速排序？")
print(relevant_memories)

在实际生产环境中，还需增加记忆压缩机制（如使用 LLM 对超长历史进行摘要）以及遗忘策略（基于时间衰减权重淘汰低价值记忆）。

未来展望与挑战

随着多模态模型的发展，Agent 的记忆不再局限于文本，图像与音频的向量化存储将成为新的赛道。同时，如何确保记忆数据的安全性、隐私合规性以及记忆的“可信度”校验，是 AI 开发者必须面对的工程伦理与技术难题。构建优秀的记忆模块，不仅是技术的堆砌，更是对 Agent 认知逻辑的深度模拟。