这个方向在问什么

"智能"是当前讨论中使用频率最高、定义最模糊的词。同一个词被用来指称至少四件不同的事: 在既有知识中检索并重组的能力、在新情境中迁移的能力、设定目标的能力、以及承担后果的资格。

这些能力彼此独立——一个系统可以在第一项上远超人类, 而在第三项上完全不具备。把它们打包成一个词, 会让判断出错。

这个方向要问的是: 有没有更可操作的表述方式, 能让人在具体决策中不被这个词误导。

为什么现在值得研究

因为这个含混正在产生具体的、可观察的代价:

• 因为系统在检索重组上表现出色, 就推断它也能设定目标——于是把方向性决策交出去。
• 因为它在某个基准上超过人类, 就推断它在相邻任务上同样可靠——而实际迁移常常失败。
• 因为它"表现得像懂了", 就默认它对结果负有某种责任——而它不承担任何后果。

★ 这三种推断错误在实践中反复出现, 且都源于同一个词的含混。

我们目前的工作立场

一、拆分优于定义。 我们不认为给"智能"下一个更好的定义有多大用处。更有用的是在具体场景里问四个分开的问题: 它能检索重组吗? 能迁移吗? 谁设定目标? 谁承担后果? 这四个问题各有明确答案, 且答案通常不一致。

二、基准分数的可迁移性很弱。 一个分数只说明在该分布上的表现, 而实际任务几乎总在分布之外。因此我们在自己的工作中不使用公开基准做判断依据, 只用针对具体任务构建的评测集。

三、"理解"这个词应当被避免使用。 它无法被检验, 因此在工程判断中不提供任何信息。可检验的替代是: 能否在扰动下保持一致、能否指出自己不知道的部分、能否复述判据。

四、责任不因能力提升而转移。 无论一个系统表现多好, 它都不承担后果。把"智能"理解为一个连续量, 会让人误以为责任也可以连续地转移。

什么会改变我们的判断

• 如果出现在分布外仍稳定迁移的实证, 第二条需要修正。
• 如果出现可检验的"理解"操作定义, 并被证明有预测力, 第三条应当撤回。
• 如果法律或制度上出现责任可部分归于系统的可行安排, 第四条的表述需要重写。

我们如何观察

在每个具体项目里坚持问那四个分开的问题, 并记录: 哪些判断因为混用"智能"而出错、拆分后的判断是否更准。这是概念工作, 但检验必须落在具体决策上——否则它就退化成了措辞偏好。