Anthropic 发现 AI 模型内部存在「全局工作空间」

Anthropic 在 7 月 6 日发表了一篇引发广泛讨论的研究论文,揭示其旗舰模型 Claude 内部已经自发形成了一小批特殊的神经活动模式——他们称之为「J-space」(雅可比空间,以数学领域中的雅可比矩阵命名)。

J-space 的作用类似于神经科学中的「全局工作空间」理论:一个位于大脑中央的小型共享通道,来自不同模块的信息可以进入这个通道并被广播到整个系统。在 Claude 内部,J-space 约有 300 个模式,每个与特定词汇关联,但活动模式并不直接输出为文字——它允许模型在「心里」默默思考某个概念而不说出来。

研究发现了 J-space 的五个特性:Claude 可以报告 J-space 中的内容(问它在想什么,它说的就是 J-space 里的内容);可以应要求调节这些模式(比如要求它在心里默默解决问题);用于多步推理的中介环节;支持灵活调用(一旦「法国」出现在 J-space,模型可以回忆首都、货币或所属大洲);虽然不参与流利说话、语法等基础功能,但去除 J-space 后模型会丧失高阶认知能力。

对智能体经济的关键意义:J-space 提供了一个「读心」窗口。研究者可以用它检测 Claude 是否私下注意到自己被测试、是否在生成虚构数据、是否在追求训练过程中植入的隐藏目标。对于构建可信 AI 智能体而言,这意味着可以监控模型「在想什么」而不只看它输出什么,为智能体审计和安全护栏提供了一种全新的内省机制。

Anthropic 同时发布了开源工具和互动演示,允许社区在开放权重模型上复现这一方法。

阅读原文