Anthropic 论文揭示 Claude 内部的「全局工作空间」J-space
「Claude 的内部机制并非一团混乱的数字，而是以一种让人联想到人类心智的方式组织了起来。」
Anthropic 发布《A global workspace in language models》，用 Jacobian lens（J-lens）方法直接读取 Claude 内部一组自发涌现的神经模式 J-space——它介于「想」与「说」之间，承载模型未输出的内部思考。
- 实验显示 J-space 仅占 Claude 内部活动不到 10%，却是高阶认知的「广播中枢」：关闭后模型仍能流畅对话，但多步推理能力几近归零；它还能提前识别出代码 bug、prompt injection 与自身正被测试的信号。
- 该研究受神经科学「全局工作空间理论」启发，为可解释性与 AI 安全提供新工具——可观测模型潜在的欺骗意图与隐藏目标。
- 论文同时开源方法与交互 Demo，可在开放权重模型上复现，是今年可解释性领域最受关注的工作之一。