LangChain 详解 Deep Agents 的上下文工程：如何记住信息而不塞满上下文窗口

如果你曾在考试前一晚临时抱佛脚，你就知道那种感觉：你学得越多，前面几章的内容就越开始从记忆中溜走。 

智能体也有同样的问题。当它们承担更长的任务时，它们会接收越来越多的信息（指令、工具结果、文件等）；最终这会变成远超模型上下文窗口舒适容纳范围的上下文。模型携带的历史记录、噪声和工具输出越多，其准确性和推理能力往往就越差。

在智能体工程领域，我们称之为上下文腐化。这篇博客介绍了管理智能体上下文窗口的技术，以及 Deep Agents 框架如何使用一种称为中间件的概念将它们注入到智能体的运行中。

‍

理解上下文工程技术

简单来说，智能体就是一个被框架包裹起来的模型。 

智能体可用来应对上下文腐化的上下文工程技术主要分为两类：

• 防止不必要的信息进入上下文窗口
• 管理并过滤已经存在于上下文窗口中的内容

框架会策略性地应用这些方法，以便针对给定任务让模型在正确的时间获得正确的上下文。

现在，要搭建一个能出色完成这件事的框架，说起来容易做起来难，需要大量的工作（如果你是那种考试前一晚临时抱佛脚的人，可能工作量太大了）。 

Deep Agents 是 LangChain 的开源框架。它用各种技术包裹你选择的模型，将上下文移出活动窗口（移入文件、摘要或单独的智能体），这样主智能体只携带它需要的内容（并且可以在之后需要时恢复原始数据）：

1. 卸载：大型工具结果和用户消息被保存到文件系统，模型只看到预览。
2. 摘要：当对话接近上下文限制时，较早的消息被压缩成摘要。
3. 技能：任务知识只在模型判断其相关时才加载。
4. 子智能体：嘈杂的工作在单独的上下文窗口中运行，只返回结果。
5. 长期记忆：智能体学到的东西被保存到一个文件中，并延续到下一次对话。

‍

将上下文工程应用于常见用例

让我们看看上述技术如何应用于一个真实世界的用例：一个竞争分析智能体。每周一，这个智能体研究五家竞争对手，并按照团队模板撰写一份报告。单次运行大致如下：

1. 拉取公司 A 的市场数据导出（数万行）
2. 搜索新闻，阅读几篇文章，并做笔记
3. 对公司 B 到 E 重复上述步骤
4. 起草报告，根据你的反馈进行修改，并排版

到第 4 步时，智能体在每次模型调用中都携带了五份原始导出数据、数十条搜索结果和两份过时的草稿。其中大部分内容与最终报告的排版无关。

检索方法（RAG 或文件系统搜索）帮助智能体只拉取它需要的内容，但这仍然只解决了一半问题。即使是一个精准的智能体也会积累不必要的消息、工具结果和中间工作，因此框架还必须管理已经存在于上下文窗口内及其周围的内容。

‍

如何实现这些技术：中间件

Agent 在一个循环中运行：模型决定要做什么、调用工具、读取结果，然后重复，直到任务完成。中间件是接入该循环中特定位置的代码：例如在 Agent 启动之前、每次模型调用前后，或每次工具调用前后。

• 在每个位置，它都可以读取上下文，并在下一步运行之前修改上下文。 
• Every context engineering technique in this post is a piece of middleware hooked into one of those points. 
  
  • 其中大部分都是内置的，因此你无需编写任何中间件即可使用这些技术（除非你想自定义某些特定内容）。

‍

卸载：将其移出上下文窗口

我们的 Agent 并不总是需要看到每次工具调用或人类消息返回的所有数据，尤其是在数据量很大的情况下。

例如，每次 pull_market_report 工具调用都会返回一份完整的数据导出（数千行）；然而，Agent 只需要其中的几个数字，因此可以限制模型只看到这些行。

FilesystemMiddleware 在每次调用工具时都会运行：

1. 当工具结果超过约 20,000 个 token 时，完整结果会在进入对话之前被写入 /large_tool_results/{tool_call_id}。 
2. 模型只会看到一个简短的预览（开头和结尾的几行）以及文件路径。 
3. 当 Agent 之后需要 Company B 的季度营收时，它会用 read_file 逐页读取该文件。

过大的用户/人类消息，例如粘贴的通话记录，也会以更高的阈值（50,000 个 token）得到同样的处理，并被保存到 /conversation_history/。

‍

摘要：压缩已有内容

尽管我们尽力卸载冗长的工具调用，但在长时间运行中，上下文仍会逐渐堆积（例如五家公司的搜索、笔记和草稿）。摘要可用于将我们 Agent 的整个上下文窗口浓缩为对目前为止所发生情况的总结，使其能够继续进行研究任务。

• 尖峰是大型工具结果/人类消息到达；卸载会在模型看到之前将每一个替换为简短预览，因此上下文只会小幅增长。 
• 摘要处理缓慢的攀升：一旦使用量达到 85%，较早的消息会被浓缩为摘要，上下文随之回落。

SummarizationMiddleware 在每次模型调用之前检查 token 使用量：

1. 一旦使用量越过阈值（默认是模型上下文窗口的 85%），就会进行一次单独的 LLM 调用，将较早的消息浓缩为单个摘要
2. 较早的消息会从上下文窗口中移除，而最近的消息则逐字保留。 
3. 模型现在会先看到摘要，然后看到最近的消息（因此最近的内容不会被改写）。

两个重要细节：

• 它是可恢复的。被摘要的消息会写入 /conversation_history/{session_id}.md。如果 Agent 在起草时需要 Company A 研究中的某个细节，它可以将其读回。
• 它会循环进行。随着运行继续，使用量会再次攀升，下一次摘要会包含上一次的摘要。

你也可以在主题变化时进行摘要，而不仅仅是在某个 token 阈值时。自定义摘要提示词可能会有所帮助。

我们关于Deep Agents 上下文管理的文章更详细地介绍了这两者。

技能：仅在需要时加载信息

假设你的销售团队有一套固定的季度业务回顾格式。智能体每季度只需要这些指令一次，所以把它们放在系统提示里意味着每次调用都要为它们付费（消耗 token 和响应时间）。相反，你可以把这些信息打包成一个 skill。

skill 是一个指令文件夹（可选包含脚本和参考文档），为智能体提供完成某项专门任务所需的内容。

智能体一开始只看到一段简短描述，只有当 QBR 出现时才加载 qbr-report 的完整指令（其他任务永远不会携带它们）。 

Skill 分层加载上下文，因此窗口会一直保持很小，直到某些内容真正相关时才加载。这被称为渐进式披露：模型一开始只看到一份“菜单”，在需要时才拉取完整配方，因此十个 skill 消耗的上下文大约相当于十条单行说明。

你把智能体指向你的 skill，SkillsMiddleware 使用两个钩子：

1. 在智能体启动前，它扫描 skills 文件夹，只读取每个 SKILL.md 的头部。
2. 在每次模型调用时，它把这些名称和描述添加到系统提示中。

完整指令只有在模型判断某个 skill 相关时才会进入上下文（并通过 read_file 工具读取它），因此我们的智能体在没有模板的情况下进行研究，只在需要格式化 QBR 时才加载它。

‍

子智能体：隔离嘈杂的工作

卸载能有效应对过大的结果，但对于你已知会很嘈杂的工作（比如通过数十次搜索和页面研究一家公司），子智能体是一个很好的设计选择。子智能体在自己的上下文窗口中完成这些工作，只返回最终结果，这样主智能体永远不会看到“噪音”。

SubAgentMiddleware 允许我们为子智能体自定义系统提示和可用工具。

market_researcher = {
    "name": "market-researcher",
    "description": "Researches a company and returns the 3 most notable developments.",
    "system_prompt": "Use pull_market_report, then return 3 short bullet points. Do not return the raw report.",
    "tools": [pull_market_report],
}

agent = create_deep_agent(model=model, subagents=[market_researcher])

在我们的场景中，主智能体把每家公司交给 market-researcher 子智能体。 

研究子智能体在自己的上下文中读取完整报告，只返回三条要点，因此主智能体只看到这三条要点（甚至看不到原始报告的预览）。此外，由于子智能体任务往往规模小且范围明确，它们通常可以运行在更便宜的模型上并并行执行。

‍

长期记忆：跨对话持久保存

到最后，你的智能体会学到很多东西。有些有用，有些没用。 

假设你告诉智能体：“摘要里用要点，不要用段落。”如果没有记忆，你可能每周都要重复这句话。在 Deep Agents 中，长期记忆就是一个 markdown 文件。你用一个参数把智能体指向它，MemoryMiddleware 会处理其余的事情：

1. 加载：在运行开始时读取该文件。
2. 注入：在每次模型调用时把其内容添加到系统提示中。
3. 更新：当智能体学到值得保留的内容（比如你的格式偏好）时，它会更新该文件。

‍

更换模型，保留记忆

Deep Agents 与提供商无关，这一点也延续到了记忆上。因为记忆是你自己存储中的一个普通文件（而不是由某个提供商持有的东西），你可以把同一个后端指向不同的模型：

agent = create_deep_agent(
    model="openai:gpt-6",  # different provider, same memory
    memory=["/memories/AGENTS.md"],
    backend=backend,
    store=store,
)

下周，另一个模型可以读取同一个文件，并且仍然用要点写摘要。

需要牢记的上下文工程策略

无论你是基于 Deep Agents 构建、使用其他框架，还是自己构建一个，以下是一些需要注意的事项：

• 大输入应该被卸载，而不是被截断。截断是有损的；卸载则保持其可检索性。
• 压缩应该是可恢复的。在摘要之后，智能体仍然可以取回它所需的细节。
• 知识应该按需加载。系统提示中为每项任务准备的指令会在每次调用时消耗上下文。
• 嘈杂的工作应该被隔离。拥有自己上下文的子智能体能让主智能体保持专注。
• 你应该拥有记忆。存储在你所控制的存储中的记忆，能在模型或提供商切换后依然存活。
• 默认值应该是可自定义的。适合某一项任务的阈值很少能适合每一项任务。

试一试

uv add deepagents

想向真人讲师学习更多？我将在11月3日讲解这个内容：点击这里注册！

要深入了解上下文工程，请查看我们免费的、自定进度的LangChain Academy 上的 Deep Agents 课程。