Software architecture

长时程智能体的记忆与上下文管理

上下文窗口不是记忆。长时程任务需要在有限窗口之上构建工作记忆、外部存储与检索回填的分层体系,其设计质量直接决定智能体能走多远。

This concept is written in Chinese.

About 2 min readIntermediate
AI agentsWorkflow
On this page5 sections

What this concept means

#

上下文窗口与记忆是两回事:窗口是易失的、有限的、按 token 计费的即时状态,记忆是持久的、可检索的长期资产。长时程任务最常见的失败模式,就是上下文溢出后早期的关键约束被静默挤出窗口——智能体在第 80 步忘了第 3 步定下的规则,且没有任何报错。理解这套机制,是评估任何「能干几小时活」的智能体产品时最该先看的一层。

成熟的设计通常分三层。工作记忆:当前任务状态的滚动摘要,随任务推进持续压缩重写,保证「现在在干什么、还剩什么约束」永远在窗口内。情景记忆:完整历史轨迹外置到存储,按需检索回填,而不是全量塞回窗口。语义记忆:把跨任务复用的经验沉淀为规则或知识条目。ChatGPT Work 把长时程办公任务做成产品、Shippy 在高风险场景里跑数小时任务,两者都把状态管理列为核心工程问题而非附属细节;Ollama 的本地智能体工作台则要在设备资源约束下解同一道题。

评估一个智能体产品的记忆设计,问三个问题就够:上下文溢出时按什么规则丢弃、外部记忆在什么时机回填、被写进记忆的错误信息如何被发现和修正。三问答不上来的产品,长时程可靠性大概率是演示级而非生产级。

Network

Where it sits in the network

#

The signals and skills next to this concept. Follow any link to keep exploring.

Matched automatically

Signals that mention it

#

Matched from the signals' text, not picked by an editor; those listed in the section above are not repeated.