怎么设计context
提问
设计 context 的核心不是塞更多资料,而是分层管理:把当前任务、项目积累、长期知识分开,让 AI 每次只自动加载需要的那部分。
先分层,再决定什么该被加载
材料里的观点立正把 context 分成三层记忆:工作记忆是当前任务直接需要的,项目记忆是这个项目积累的经验和决策,组织记忆是跨项目的长期知识。分层的意义在于,不是所有 context 都同等重要,什么该保留原始形态、什么该被提炼成精华、什么该定期清理,都要有明确规则。因为 AI 的 context window 有限,全塞进去会撑爆,什么都不给 AI 就是空壳,所以技术架构的核心是让 AI 执行任务时自动找到并加载需要的那部分,不多不少,这需要建索引、做分类、设计加载策略1。同样的思路在另一篇里被概括为三类记忆:工作记忆、长期记忆、事务性记忆(操作记录、审批、状态变更),目标是让 AI 不再像一个每次都要从头教的陌生人2。
原始记录要持续提炼成可复用的判断
材料里的观点会议纪要、Slack 讨论、设计文档是 raw context,本身零散且噪音大。立正主张让 AI agent 定期对这些原始材料做提炼:哪些是有效经验、哪些是踩过的坑、哪些决策背后的判断标准值得沉淀,把 raw context 加工成高质量 insight,团队的 AI 能力才会持续变强,调用时也更高效精准1。他举过一个可观察的例子:把上下文全混在一起,很快 window 就满了,脑力全用来处理上下文,反而没法执行任务,所以需要把上下文整理成可维护的记忆系统,比如用文件记录人格、用户画像和长期记忆,并定期审查日志、提炼要点、清理过时内容3。他还强调,管理好上下文这类动作不会因为模型变强而失效,反而更重要4。
要分清哪部分 context 真正带来能力
材料里的观点设计 context 时容易把两种价值混在一起。立正提到,喂更多专家资料主要是让回答更像某位专家、带上他的风格,用户因为认可这个人而付费,但这笔价值来自信任,不能算成解决问题的能力变强;真正完成大量解答的能力来自底层模型。他自己的观察是,拿他的 context 加 GPT 解决这些问题,和直接用 GPT 没有特别大区别,可以更像他,但解题能力没相应提高。所以他强调,私有数据里真正关键的是用户自己的数据,而不是专家的数据,因为模型不知道这个孩子前两个月经历了什么、这位老师在这个班试过哪些方法5。
这些材料主要讲团队级 context 基础设施的设计原则,没有给出针对个人场景的具体操作步骤。
回到5份原文
三层架构、分层记忆、渐进式加载、持续提炼和规范注入的完整说明,是理解设计思路的主要来源。
用工作记忆、长期记忆、事务性记忆三类划分补充了 context 架构的记忆分类。
用统一上下文、持续记忆和文件化记忆系统的具体例子说明上下文如何被整理和维护。
可回到原文核对这部分判断
说明专家资料和用户数据两种 context 的价值区别,帮助判断什么该放进 context。