如何面对 AI 的不确定性?让 Ai 优化就可以一直优化
提问
AI 的不确定性不能靠无限优化消除,得先接受它永远存在,把注意力从“优化到完美”转到“先做起来、拿到真实反馈、自己判断质量”。
不确定性消不掉,只能先做起来
材料里的观点很多人卡住不是因为行动力差,而是面对不确定性时总想等一个完美方案或大把握的方案才动手。但现实里不确定性永远存在,你不可能先看清一切、把所有东西优化好再开始,只能先做起来,做起来才能拿到真正有用的信息。就像开奶茶店,选址很重要,但你不先跟开过店的人聊、不去实地考察,根本不知道选址重要在哪、自己选得好不好1。所以“一直优化”的前提本身就有问题:优化需要反馈,而反馈来自行动,不是来自继续推演。
优化要有终点,否则会一直砍不完
材料里的观点把 AI 当成可以无限调优的对象,很容易掉进“再补一点、再调一次就能彻底解决”的循环,模型一变又发现还有下一轮,投入进去后更难出来,立正把它比作拼多多砍一刀,总是砍不完、总是要投入2。更稳的顺序是先拿最好的模型和运行环境看清这个任务现在能做到多好,同时建立测试集,再比较其他方案差多少、快多少、便宜多少,而不是一开始就围着便宜模型打补丁,最后连自己离当前上限有多远都不知道2。
质量信号最终得由你自己给
材料里的观点AI 的不确定性里,最该守住的不是“让它自己收敛”,而是你的判断。把 AI 当成替你判断的东西,你会越来越少做判断、越来越依赖默认答案,质量感反而退化;把它当成扩大样本、加速比较、快速重做的工具,它才会帮你提高判断力3。具体做法是让它给你多个方向、分析版本差异、总结好坏例子的模式,但最终选哪个、为什么觉得不对,由你来定3。这也解释了为什么“让 AI 优化就可以一直优化”不成立:没有你自己的质量信号,优化只是在接受 AI 的平均水平。
材料讲的是用 AI 做任务时的判断方式,没有针对某个具体工具或行业的操作细节。
回到3份原文
讲不确定性中做决策、为什么不能等完美方案再动手,适合核对“先做起来”这一判断。
讲优化顺序、测试集和“砍一刀”式投入陷阱,适合核对“一直优化”为什么会失控。
讲 AI 提高还是损害判断力、质量信号由谁给,适合核对如何面对 AI 的不确定输出。