JEV不值得看的原因和小龙虾有相关性吗?从逻辑学上,AI是否永远无法高可靠性的知道人想要什么?

提问

AI根据立正公开的文章和视频整理,不是他本人回复

两者没有直接因果,只是共用同一套“值不值得追”的判断框架:小龙虾和 Jev 都被当作被热炒的新技术。至于 AI 能否高可靠知道人想要什么,现有材料只支持“它不天然知道什么值得追求”,不足以推出逻辑上永远不可能。

小龙虾是类比,不是原因

立正在讲 Jev 时提到小龙虾,是用它作“曾经被热炒、后来热度退去”的例子:他说小龙虾出来时很多人宣称它改变人类历史,现在那些人不知去哪了⁠1。另一处他说,要知道 Jev 该跟什么比、小龙虾该跟什么比,才能找到真正的替代方案⁠2。所以两者的相关性在判断方法上——都要求先问“不用它,最好的替代是什么”“这个问题值不值得现在投入”,而不是“因为小龙虾不值得看,所以 Jev 也不值得看”⁠3,4。这是 AI 对材料关系的归纳。

“不值得看”有前提,不是无条件结论

材料里的观点

立正给出的条件很具体:如果你原来的系统已经满足需要,也没被这类判断卡住,就不必追着 Jev 跑;发现它没改变你的关键约束,就可以先停下⁠3。他也强调,认真研究过评价标准和替代方案后说“不值得追”,与没看懂就说“不值得追”,听起来一样但不同⁠4。所以“JEV 不值得看”不是他对所有人的普遍判决,而是对特定处境的人、在完成比较之后的判断。

AI 不知道“想要什么”,材料说的是价值原点

立正的文章区分了两件事:AI 擅长在已有信息分布中拟合、在人类表达过的目标函数下优化;但它不天然知道哪一个可能真正值得成为现实,也缺少内在价值立场,因此输出容易偏向风险最小、最容易被接受的共识⁠5。这支持“AI 难以自动替你确定目标”,但它是关于当前 AI 能力与倾向的判断,不是逻辑学证明。要得出“永远无法高可靠知道人想要什么”,还需要额外论证:人的偏好是否可被完整表达、是否稳定、能否被观测。这些材料没有提供,所以不能把《有限的AI降临派》⁠5读成“逻辑上不可能”。

材料只覆盖立正对 Jev、小龙虾和 AI 价值判断的公开表述,没有系统讨论“AI 能否高可靠推断人类偏好”的逻辑学文献;因此第二个问题只能回答到“材料支持什么、不支持什么”。

回到5份原文

5 超线性学院 · 会员 2026-03-05

有限的AI降临派 ↗

直接讨论 AI 不天然知道什么值得追求、缺少价值立场。