Anthropic 论文揭示 Claude 内部的「全局工作空间」J-space
「Claude 的内部机制并非一团混乱的数字,而是以一种让人联想到人类心智的方式组织了起来。」
Anthropic 发布《A global workspace in language models》,用 Jacobian lens(J-lens)方法直接读取 Claude 内部一组自发涌现的神经模式 J-space——它介于「想」与「说」之间,承载模型未输出的内部思考。
- 实验显示 J-space 仅占 Claude 内部活动不到 10%,却是高阶认知的「广播中枢」:关闭后模型仍能流畅对话,但多步推理能力几近归零;它还能提前识别出代码 bug、prompt injection 与自身正被测试的信号。
- 该研究受神经科学「全局工作空间理论」启发,为可解释性与 AI 安全提供新工具——可观测模型潜在的欺骗意图与隐藏目标。
- 论文同时开源方法与交互 Demo,可在开放权重模型上复现,是今年可解释性领域最受关注的工作之一。