怎么设计context

提问

AI根据立正公开的文章和视频整理,不是他本人回复

设计 context 的核心不是塞更多资料,而是分层管理:把当前任务、项目积累、长期知识分开,让 AI 每次只自动加载需要的那部分。

先分层,再决定什么该被加载

材料里的观点

立正把 context 分成三层记忆:工作记忆是当前任务直接需要的,项目记忆是这个项目积累的经验和决策,组织记忆是跨项目的长期知识。分层的意义在于,不是所有 context 都同等重要,什么该保留原始形态、什么该被提炼成精华、什么该定期清理,都要有明确规则。因为 AI 的 context window 有限,全塞进去会撑爆,什么都不给 AI 就是空壳,所以技术架构的核心是让 AI 执行任务时自动找到并加载需要的那部分,不多不少,这需要建索引、做分类、设计加载策略⁠1。同样的思路在另一篇里被概括为三类记忆:工作记忆、长期记忆、事务性记忆(操作记录、审批、状态变更),目标是让 AI 不再像一个每次都要从头教的陌生人⁠2。

原始记录要持续提炼成可复用的判断

材料里的观点

会议纪要、Slack 讨论、设计文档是 raw context,本身零散且噪音大。立正主张让 AI agent 定期对这些原始材料做提炼:哪些是有效经验、哪些是踩过的坑、哪些决策背后的判断标准值得沉淀,把 raw context 加工成高质量 insight,团队的 AI 能力才会持续变强,调用时也更高效精准⁠1。他举过一个可观察的例子:把上下文全混在一起,很快 window 就满了,脑力全用来处理上下文,反而没法执行任务,所以需要把上下文整理成可维护的记忆系统,比如用文件记录人格、用户画像和长期记忆,并定期审查日志、提炼要点、清理过时内容⁠3。他还强调,管理好上下文这类动作不会因为模型变强而失效,反而更重要⁠4。

要分清哪部分 context 真正带来能力

材料里的观点

设计 context 时容易把两种价值混在一起。立正提到,喂更多专家资料主要是让回答更像某位专家、带上他的风格,用户因为认可这个人而付费,但这笔价值来自信任,不能算成解决问题的能力变强;真正完成大量解答的能力来自底层模型。他自己的观察是,拿他的 context 加 GPT 解决这些问题,和直接用 GPT 没有特别大区别,可以更像他,但解题能力没相应提高。所以他强调,私有数据里真正关键的是用户自己的数据,而不是专家的数据,因为模型不知道这个孩子前两个月经历了什么、这位老师在这个班试过哪些方法⁠5。

这些材料主要讲团队级 context 基础设施的设计原则,没有给出针对个人场景的具体操作步骤。

回到5份原文