AI 时代设计一个好的 Agent 应用,应该遵守的原则

提问

AI根据立正公开的文章和视频整理,不是他本人回复

好 Agent 应用要站在通用模型之上解决具体场景,把上下文和数据留在产品里,并接受上线后需要持续运营。

别重造模型,做通用智能之上的垂类应用

通用模型会持续变强,靠一个专门训练的模型去和它竞争很难赢;更可行的位置是借用底层通用智能,在上面解决具体场景、业务标准和用户习惯。判断标准是:换个更强的模型,你的产品是否仍然更好用。比如教学产品不必自己训教育模型,而是把“这个学生是谁、该怎么教、怎样判断效果”做进产品,让同一个模型在你的场景里交付得更好⁠1。

同时要分清应用层级。只做“输入→提示词→模型→展示”的薄工具,没有真实上下文、业务状态和行动能力,很容易被复制;能接入资料、调用工具、执行动作的应用才更接近 Agent⁠2。

把上下文和数据解耦出来,留在模型之外

用户持续使用留下的记录,是产品能积累的价值。把记忆作为独立工程层解耦:把师生、客户产生的记录整理成文档、建立索引,让模型按需调用,原始材料保留下来。这样换了模型,历史不必跟着丢,提取和使用方法还能持续改进。可以从普通的 Markdown 文件做起,这属于上下文工程,不是改模型权重或二次预训练⁠1。

组织层面同理:一个人踩过的坑沉淀成规则,验证过的做法变成模板,盲区进入共用检查清单,经验就从个人技巧变成团队资产。做法包括设计 context 的组织方式(什么信息放哪里、谁更新、AI 怎么读),用 AGENTS.md 定义行为规范、MEMORY.md 沉淀已验证的判断和边界,以及按需逐步加载而不是一次塞满上下文窗口⁠3。

上线不是终点,要留出持续调整的空间

Agent 不是一锤子买卖。模型版本、API、成本、语音引擎、提示词和评测的最佳实践都在变,不改可能就用不了。上线后仍需模型迁移、成本与延迟优化、提示词调整、评测更新和边界情况修复,客户与供应商因此更像长期合作关系,而不是一次性交付⁠4。

权限控制上,一种做法是先给 Agent 较完整的访问权限,用 AGENTS.md 这类规则去约束,观察是否出问题,再决定要不要改成更刚性的确定性访问控制;后者更可控,但可能挂一漏万、过于死板,也用不上 Agent 未来的智能⁠5。

关于多 Agent 角色划分的讨论来自多人访谈、说话人未逐段确认,此处未作为原则采用;材料也未覆盖具体行业合规与安全要求。

回到5份原文

2 超线性学院 2026-04-25

AI产品的六个层次 ↗

用六层区分薄工具、RAG 与能调用工具的应用,帮你判断自己的产品处在哪一层。

如果我要做一个具体场景的 Agent,怎么判断它属于哪一层、该补什么?4C 原则?

追问

AI根据立正公开的文章和视频整理,不是他本人回复

先看你这个 Agent 需要“回答”还是需要“动手”:只检索回答属 RAG 层,能调工具属 Tool-using 层,流程固定属 Workflow 层。资料里没有“4C 原则”这个说法,无法确认。

分层看它替人做完了哪一步

材料里的观点

判断层级不用看技术名词,看它实际替人推进到哪。只把资料找出来、组织成回答,本质仍是“知道更多但主要还在回答”,属于检索增强那一层,要补的是切分、检索、重排、权限过滤和引用溯源,让答案有据可查⁠1。如果它能调日历、读邮件、建页面、查订单,就进入能调用工具的一层,重点变成工具定义、权限、参数校验和动作前确认⁠1。如果路径其实固定——先分类、再检索、再抽取、再调业务接口、最后人工确认——那它是被放进可控流程的 AI,关键不是模型多聪明,而是流程稳定、知道哪步必须人确认⁠1。所以先问一句:这个场景里,人原本要做的动作,Agent 现在能独立完成到哪一步。

该补什么由缺口决定,不是由层级决定

定完层,补的东西要对着当前卡点。检索层卡在答不准,就补数据接入和引用;工具层卡在不敢让它动手,就补权限、确认和错误处理⁠1。更常见的是上下文不够:Agent 要主动提醒或发现人没察觉的问题,靠的是先把场景内容收集、转录、分析,再结合历史记录,缺了这些它不知道该做什么⁠2。团队层面则可以把反复验证过的判断、偏好、边界写进 AGENTS.md、MEMORY.md 这类文件,让经验从个人技巧变成系统记忆,并按需逐步加载而不是一次全塞进去⁠3。

资料里没有“4C 原则”这一说法,无法确认它指什么;六层划分来自 AI 产品分层那篇,具体层号以原文为准。

回到3份原文

1 超线性学院 2026-04-25

AI产品的六个层次 ↗

六层划分和每层技术重点的原始出处,判断层级和补什么主要看这篇。