管理上下文对话#

LLM能换处理长上下文，但仍存在局限性：

• 上下文窗口限制：每个LLM都有一次可处理的最大文本量。
• API成本：按照token数量收费。
• 延迟：更多文本需要更长的处理时间。
• 质量：token越多，噪声越多，性能可能下降。

Google有一个更大上下文窗口的模型。上下文窗口大小是限制现在Agent能力极限的一个因素。

压缩上下文有一些方式：

• 保留最后N轮对话：如字面意思。
• 基于Token阶段：最新消息向前计算指导达到预定的Token数量限制。
• 递归总结：对话中较旧的部分被AI生成的摘要取代。

Agent决定压缩的触发机制：

• 基于计数的触发机制：当对话超过摸个预定义的阈值时，就会对对话进行压缩。
• 基于时间的触发机制：在用户设定的时间段内停止交互，在后台进行压缩。
• 基于事件的触发机制：当Agent检测到特定任务、子表或对话主题已结束时，会决定触发压缩。

压缩形式和触发机制看上去是用混合形式是比较好的。

记忆的能力#

记忆会在不同会话之间持久存在，以提供连贯且个性化的体验。

存储和检索记忆对于构建复杂且智能的Agent至关重要。一个强大的记忆系统通过解锁多项关键能力，能将基础的聊天机器人转变为真正智能的Agent：

• 个性化：记住用户的偏好、事实和过往互动，以制定未来的回应。
• 上下文窗口管理：记忆系统可以通过生成摘要或提取关键事实来压缩这些历史记录。
• 数据挖掘与洞察：通过分析众多用户的存储记忆，从干扰信息中提取洞察。
• 智能体的自我提升与适应：Agent会通过创建关于自身表现的程序性记忆，从之前的运行中学习。

这些能力的触发时机都值得研究研究。

记忆的类型#

记忆管理器和RAG的区别的有效理解方式：将RAG视为Agent的研究图书管理员，而将记忆管理器视为其私人助理。

记忆通常包括两个主要部分：内容和元数据。其中：

• 内容：从原始数据中提取的记忆实质，内容可以是结构化数据，也可以是非结构化数据。
• 元数据：提供关于记忆的上下文，通常以简单字符串的形式存储。这可以包括记忆的唯一标识符、记忆所有者的标识符，以及描述记忆内容或数据源的标签。

记忆根据其代表的基本知识类型分为：

• 陈述性记忆：知道是什么。
• 程序性记忆：知道怎么做。

记忆通常存储在向量数据库或知识图谱中：

• 向量知识库：支持语义相似性而非精确关键词的检索。记忆被转换为嵌入向量，数据库会找到与用户查询在概念上最接近的匹配项。
• 知识图谱：用于将记忆存储为实体（节点）和关系（边）的网络。检索过程包括遍历该图谱以找到直接和间接的联系。

以上两种形态应该对应RAG的两种技术

记忆的创建方式分为用户直接命令Agent记忆和隐式记忆。

一段以及描述需要考虑影响的实体范围。

Agent可以处理各种数据类型：文本、图像、音频，但它创建的记忆是从中提取的文本洞察。

人的思考媒介是文字

记忆的生成#

记忆生成的高级流程通常遵循以下四个阶段：

• 摄入：当客户端向内存管理器提供原始数据时就开始了。
• 提取与筛选：使用LLM从源数据中提取有意义的内容。
  • 记忆提取的目标是回答「在这段对话中，哪些信息有足够的意义成为记忆？」。
  • 有意义并非一个通用概念，而是有智能体的目的和使用场景来定义。
• 整合：记忆管理器处理冲突和去重，利用LLM将新提取的信息和现有记忆进行比较，决定合并、删除、创建记忆的动作。
  • 单个记忆可能是多个数据来源的混合体，单个来源也可能被分割成多个记忆。
• 存储：新的记忆会被持久化到一个存储层中，以便在未来的交互中能被检索。

记忆来源主要分为三类：

• 自举数据：从内部系统预加载的信息。这种高可信度数据可用于数据化用户的记忆，已解决冷启动问题。
• 用户输入：这包括明确提供的数据（可信度高）或对话中隐式提取的信息（可信度较低）。
• 工具输出：从外部工具调用返回的数据。这类记忆往往容易出错且过时，这使得这种来源类型更适合短期缓存。

管理记忆中两个主要的操作挑战：冲突解决和解决衍生数据。

当记忆出现冲突时，通常倾向于最可信的来源、倾向于最新的信息，或在多个数据点中寻找相互佐证。

当用户撤销了对某个数据源的访问权限时，从该数据源衍生的数据也应被移除。一种精确但成本更高的方法是，仅使用剩余的有效数据源从头重新生成受影响的记忆。

一段记忆的可信度是动态变化的，遗忘由多种因素触发：

• 基于时间的衰减：记忆的重要性会随着时间的推移而降低。
• 低置信度：有薄弱推理产生且从未被其他来源证实的记忆可能会被删除。
• 不相关性：随着智能体对用户的理解越来越深，它可能会判定一些较旧的、琐碎的记忆与用户当前的目标不再相关。

对真实性的判断可以采用置信度打分的方式来量化。如何建立数据渠道的信任级别定义比较关键。

记忆生成可以基于各种事件：会话结束、轮次触发、实时、明确指令。触发条件设计成本与准确度的平衡。

一种更加复杂的方式是让智能体自己决定何时创建记忆。这个方式叫做Memory-as-a-Tool.

另一种方式是利用内部记忆，即智能体主动决定从对话中记住哪些内容。这个工作流中，智能体负责提取关键信息。

记忆的使用模式取决于处理事件的复杂度

记忆的检索#

记忆检索策略取决于记忆的组织方式。记忆检索会寻找与当前对话最相关的记忆。

高级记忆系统超越了简单的搜索，会在多个维度对潜在记忆进行评分：

• 相关性（语义相似度）：该记忆与当前对话在概念上的关联程度如何？
• 时效性（基于时间）：该记忆是多久前创建的？
• 重要性（意义）：这段记忆总体而言有多关键？该项可以再生成时定义。

在准确性至关重要的应用中，可以通过查询重写、重排序或专用检索器等方法来优化检索，但这些技术计算成本高，且会增加显著的延迟。

缓存层是一种有效的缓解手段，能够临时存储检索查询的高成本结果，从而避免后续相同请求产生的高延迟成本。

关于检索的最终架构决策时何时检索记忆。一种是主动检索，即在每一轮开始时自动加载记忆。另一种是反应式检索，即赋予智能体一个查询自身记忆的工具，让其自行决定何时检索上下文。

考虑一下自己的记忆模式，如果不需要触发长期记忆，当前任务的记忆是主动检索的。而当需要深度思考的时候会触发反应式检索。

带记忆的推理#

记忆被检索出来后，最后一步就是有策略地将它们放到模型的上下文中。在实践中，混合策略通常是最有效的。将系统提示用于稳健的、全局的记忆，这些记忆应该始终存在；对于仅与对话当前上下文相关的短暂的记忆，使用对话注入或记忆即工具的方式。

• 系统指令中的记忆：通过将检索到的记忆与一段前言一起直接附加到系统提示中，将其作为整个交互的基础上下文。
• 对话历史中的记忆：检索到的记忆会直接注入到逐轮对话中，既可以放在完整对话历史之前，也可以放在最新的用户查询之前。

程序性记忆#

本白皮书主要聚焦于陈述性记忆，这一关注点是当前商业记忆领域的现状。大多数记忆管理平台在架构上采用了陈述性方法，擅长提取、存储和检索内容。

程序性记忆是改进智能体工作流程和推理能力的机制。存储「如何做」而非信息检索问题，而是推理增强问题。管理「如何做」需要一个完全独立且专门的算法生命周期：

• 提取：程序性提取需要专门设计的提示词，以便从一次成功的互动中提炼出可复用的策略或操作手册。
• 巩固：程序性巩固优化工作流程本身。这是一个主动的逻辑管理过程，重点在于将新的成功方法与现有的最佳实践结合，修补已知计划中的有缺陷步骤，并剔除过时或无效的程序。
• 检索：目标不是检索数据来回答问题，而是检索一个能知道智能体如何执行复杂任务的计划。

测试与评估#

这一章节考虑如何通过全面的质量和评估测试来验证具备记忆功能的智能体的行为。评估需要验证智能体是否记住了正确的信息、能否在需要时找到这些记忆，以及使用这些记忆是否真的有助于其完成目标。

• 记忆生成质量：「智能体是否记住了正确的信息」
  • 精确性、召回率、F1-Score
• 记忆检索性能指标：「智能体能否在需要时找到这些记忆」
  • 召回率@K、延迟
• 端到端任务成功指标：「智能体使用这些记忆是否真的有助于其完成目标」

评价标准和机器学习一致，多了一个端到端

上述指标侧重于质量，但生产就绪性还取决于性能。从原型过渡到生产环境还需要关注企业级的架构问题，其中内存管理器至关重要。