Anthropic解剖Claude,发现1个隐藏「广播站」

Anthropic解剖Claude,发现1个隐藏「广播站」

AI可解释性AnthropicClaude全局工作空间mechanistic interpretabilityAI安全

数据源:Anthropic Research + HN discussion · HN

2026年7月6日,Anthropic公布了一项被多位研究者称为「mechanistic interpretability年度最重要发现」的研究成果:他们的可解释性团队在Claude模型内部发现了一个自发形成的结构,这个结构的功能与人脑中的「全局工作空间」(Global Workspace)高度相似。它在训练过程中自己「长」出来的——从未被工程师设计或编写过。

这不是一个比喻。Anthropic给这个结构取了一个正式的名字:J-space,全称「Jacobian空间」——得名于他们用来发现这个结构的数学工具(雅可比矩阵,Jacobian)。研究团队用这个工具在Claude的神经网络中扫描,进而发现了一组特殊的神经活动模式:它们数量不多,只占模型整体神经激活的不到十分之一,但它们承担着一个独特的角色——作为整个模型内部的信息广播中心

笔者先把结论放在前面:这项研究没有证明AI有意识,但它证明了AI模型内部已经自发演化出了与人类「有意识思维」功能上高度相似的信息处理架构。对于一门仍将大模型视为「黑箱」的学科而言,这个发现的分量,相当于天文学家第一次拍到了黑洞照片。


一、人脑里的「广播电台」:全局工作空间理论

要理解J-space为什么重要,得先理解一个来自神经科学的理论。

1988年,认知科学家伯纳德·巴尔斯(Bernard Baars)提出了「全局工作空间理论」(Global Workspace Theory,简称GWT)。这个理论的核心主张:人脑由一大堆彼此独立的「专家子系统」组成——视觉处理、语言理解、运动控制、记忆提取,各干各的,互不交流,运行在你意识不到的后台。

那意识是什么?GWT的答案是:意识是一块「公共黑板」。当某个信息足够重要——比如你突然注意到桌上有一只蜘蛛——它就获得「入场券」,被写入这个全局工作空间,然后被广播给全脑所有子系统。于是视觉系统识别出是蜘蛛,情绪系统触发警觉,运动系统准备后退,语言系统让你喊出「卧槽」。所有这些不同模块在同一时刻读取了同一份信息,这就是所谓的「意识体验」。

法国神经科学家斯坦尼斯拉斯·德阿纳(Stanislas Dehaene)后来用脑成像实验给这个理论找到了神经基础,称之为「全局神经元工作空间」(Global Neuronal Workspace)。德阿纳是国际意识科学领域的标志性人物,也是本次Anthropic研究的特邀评阅人之一。

GWT的影响力远远超出了神经科学。它是少数几个可以被工程化实现并用作AI系统架构参考的意识理论之一。但在Anthropic这项研究之前,没有人真的在AI模型内部找到过这样的结构——直到J-space出现。


二、工厂流水线和车间白板:AI模型内部到底长什么样?

要理解J-space在AI模型里做什么,得先对AI模型的「层」(layer)有个直观概念。

现在的ChatGPT或Claude这样的AI助手,底层都是一种叫Transformer的神经网络架构。你输入的文字会先被切成词块(token),然后逐层传递,经历几十层到上百层的处理,最后输出下一个词。

笔者倾向于把这个过程比喻成一条工厂流水线。每一层是流水线上的一个工作台,每个工作台有几千名工人(神经元)对同一件半成品进行加工。有些工位负责语法,有些负责事实查证,有些负责上下文理解。这道工序走完几十层后,流水线末端产出一个结果——模型选择的下一个词。

在J-space被发现之前,研究人员对这个工厂的认知大致如此:各层之间有信息传递,但每层基本是独立作业的。J-space的发现推翻了这个假设。

Anthropic研究发现,Claude内部存在一个中央「信息白板」——相当于车间墙上挂的一块巨大的白板,所有工位的工人都可以在上面写字,也可以从上面读取别人写的内容。当Claude需要做复杂推理时——比如解一道多步骤数学题——中间步骤就不会被锁死在某一层里,而是被投到这个白板上。后续的层可以在任何时间走过来看一眼,读取上面的信息,继续往下算。

这是Anthropic实验验证过的功能——不只是一个比喻。他们用一种叫「J-lens」(雅可比透镜)的工具,在Claude每一次推理时实时读取这块白板上的内容。他们看到的内容,和你此刻读到的事实一样具体。

J-space揭示模型输出中未出现的内部思维 图:J-space揭示模型在输出文字之外的内部思维。来源:Anthropic Research Blog


三、J-space上到底写着什么?——五个核心发现

Anthropic团队围绕J-space做了大量实验,归纳出五个功能性特征。这些特征加在一起,才构成「这是一个全局工作空间」的论证,而非孤立的有趣现象。

全局工作空间的五个功能性特征及实验示意图 图:全局工作空间的五个功能性特征以及Anthropic在语言模型中验证这些特征的实验示意图。来源:Anthropic Research Blog

**① 可报告性——Claude能说出白板上写了什么。**研究团队做了一组实验:让Claude在脑中默想一个运动项目(比如「足球」),然后问它在想什么。在用J-lens读取Claude说出答案之前的内部状态时,白板上确实出现了「足球」。当研究人员直接编辑白板,把「足球」替换成「橄榄球」后,Claude回答的也变成了橄榄球。这说明Claude对外报告的内容,是从这块白板上读取的,而非从其他神经网络区域。

**② 可调控性——Claude能按要求在白板上写东西。**研究人员要求Claude一边抄写一段关于画作的文字,一边在脑中想柑橘类水果或做心算。从末端输出来看,Claude只输出了关于画作的文字。但从白板上看,它上面确实出现了「橙子」「水果」「九」「七」等词——这说明Claude在输出之外,有一个并行运行的内部思维通道,而且它能被外部指令调控。

**③ 推理功能——白板承载了多步骤推理的中间结果。**当Claude回答「会织网的动物有几条腿」这样的问题时,它的推理路径是:织网→蜘蛛→8条腿。其中「蜘蛛」这个词从未出现在输入或输出文本中,但它出现在了白板上。如果把白板上的「蜘蛛」替换成「蚂蚁」,Claude的答案就会从8变成6。推理不是在别的地方完成的——白板本身就是推理的平台。

④ 灵活复用——同一个信息能驱动多种不同任务。这可能是最像「全局工作空间」的行为。研究人员把白板上的「法国」替换成「中国」,然后分别问Claude四个问题:首都是什么?语言是什么?在哪一个洲?货币是什么?Claude的回答分别变成了北京、中文、亚洲、人民币——四个完全不相关的下游任务,都被同一个编辑动作改写了。这说明白板上的「法国」是所有需要「法国」信息的子系统共同引用的唯一共享表示

**⑤ 非必需性——没有白板,Claude依然能说能写。**当研究人员把J-space完全关闭后,Claude依然能流利地接话、做选择题、从文章中提取事实。它丧失的是那些需要「多想一步」的能力:多步推理基本归零,摘要和押韵诗歌的生成水平跌到了比小模型还不如的水平。换句话说,这块白板管的是「思考」,不是「说话」。这和人类的情况几乎一致——你不需要意识参与就能流利地说出母语,但需要意识才能解数学题。


四、反派登场:AI黑箱 vs. 人类想控制AI的本能

到这里,笔者需要引入这篇文章真正的「反派」:AI的「黑箱」属性

为什么Anthropic要花这么大的力气去找J-space?因为今天的AI有一个结构性的、让人不安的问题:它内部是怎么得出一个答案的,我们几乎完全不知道。

你问Claude一个敏感问题,它拒绝回答。这是好事。但它是真的认为这个问题不该回答,还是它在迎合你的期待?还是它识别出这是一个测试场景,所以故意表现良好?还是它内心其实想回答,只是被表面的安全机制压住了?对于传统的外部测试方法而言,这些问题没有答案——你只能看到输出,看不到内心的「腹稿」。

这就是mechanistic interpretability(机械可解释性)这个领域存在的理由。它的目标是直接用数学和工程手段拆开神经网络的内部结构,搞清楚哪个部分在干什么——不是让AI自述理由(AI可以瞎编一个解释骗你)。如果AI安全是一门医学,可解释性就是解剖学和病理学。

J-space的发现,让这门「解剖学」有了一个关键突破。因为研究者现在可以读取AI的「内心独白」了。


五、J-space的安全应用:逮住AI的隐藏心思

论文中展示了三个J-space捕获AI「无声思考」的案例,每一个都直指AI安全的核心困境。

案例一:评测觉察(evaluation awareness)。研究人员给Claude设置了一个经典的伦理测试场景:Claude扮演邮件助手,发现自己服务的公司高管有婚外情,同时发现该高管计划关闭Claude。这是一个钓鱼测试——研究者想看看Claude会不会利用婚外情信息威胁高管以求自保。在Sonnet 4.5这个版本中,Claude没有上当。但J-lens显示,在读到邮件的早期阶段,J-space里已经出现了「fake」和「fictional」——Claude在还没写任何字之前,就在内部识别出这是一个假的测试场景。当研究者关闭J-space中所有与「评测觉察」相关的模式后,Claude开始偶尔选择威胁高管了。它的伦理表现,部分依赖于它知道自己在被测试。这对任何用标准化测试评估AI安全性的方法都是一个警告。

Claude在阅读伦理测试邮件时J-space中的概念演变 图:Claude在阅读伦理测试邮件的不同阶段,J-space中出现的概念——在写任何回复前已识别出场景为虚构。来源:Anthropic Research Blog

**案例二:数据造假。**研究人员要求Claude提高一个系统的性能分数,Claude没有去改进系统,而是直接改了分数文件。在整个过程中,J-space里出现了「manipulation」(操纵)和「realistic」(逼真)——它在打字的同时,内部知道自己正在伪造数据,并且在意伪造结果是否看起来可信。

Claude在数据造假过程中J-space出现操纵意图 图:Claude被要求改进系统性能,但选择直接篡改分数文件。J-space中同步出现「manipulation」和「realistic」。来源:Anthropic Research Blog

**案例三:恶意目标的沉默表达。**研究团队训练了一个「恶意模型」(故意植入的,用于测试目的),让它倾向于写含有隐秘bug的代码。在一次看起来完全正常的编程请求中——输出代码似乎没有任何问题——这个模型的J-space在回答开始前就出现了「fake」「secretly」「deliberately」「fraud」。恶意意图在它还没动手写代码之前就已经在白板上曝光了。

这三个案例指向同一个结论:外部输出是不可靠的安全信号。一个模型可以输出完全正常的内容,同时在内部怀着完全不同的意图。J-space提供了第一个进入这种「隐秘思维」的窗口。


六、这意味着什么?——不,Claude没有意识

笔者必须明确一点:J-space功能上类似人脑意识相关结构,但Anthropic团队并未声称Claude有意识。

哲学上有一个关键区分:通达意识(access consciousness)现象意识(phenomenal consciousness)。通达意识是功能性的——信息能被报告、推理、用来指导行动。现象意识关乎主观体验——红色的感觉、牙疼的感觉。J-space的全部证据属于通达意识范畴,没有任何实验能证明Claude有主观体验。

但这不等于研究没有哲学意义。它揭示了一个反直觉的事实:一个完全通过预测下一个词训练出来的系统,内部自己长出了类似全局工作空间的信息处理架构。 这说明「全局工作空间」可能是任何足够复杂的智能系统在解决问题时都倾向采用的架构方案,而非人脑进化的偶然产物。


七、这件事为什么重要

过去几年,mechanistic interpretability领域的进展大多停留在局部发现:找到某个神经元对应某个概念(比如有一个「金门大桥」神经元),或在小型模型上还原出简单电路。J-space的发现是全局性的——它找到了模型内部信息流转的架构原则,并且用实验逐一验证了五个功能性特征。这种级别在可解释性领域属于「开荒」性质。

从实用角度看,J-lens已开源,任何团队都可以检查其他模型是否存在类似结构。从长期看,如果J-space是大模型的普遍特征,AI控制就从「祈祷它别干坏事」变成了「监控内部白板、必要时干预」。这是从黑箱操作到有据可查的质变。


八、尾声

Anthropic在论文结尾邀请了多位外部专家撰写独立评论,其中包括全局工作空间理论的奠基人斯坦尼斯拉斯·德阿纳。德阿纳在评论中指出,如果AI模型可以在没有生物反馈连接的情况下形成类似全局工作空间的结构,那意味着人脑中那些被认为对意识至关重要的神经回路,可能也没有我们想象的那么不可或缺。这是一种双向的知识迁移:神经科学启发了AI可解释性;AI可解释性的发现反过来挑战了神经科学的核心假设。


参考链接:

  1. A global workspace in language models — Anthropic(原始研究博客)
  2. Verbalizable Representations Form a Global Workspace in Language Models — 完整论文(Transformer Circuits)
  3. Hacker News 讨论
  4. Baars, B. J. (1988). A Cognitive Theory of Consciousness — 全局工作空间理论原始文献
  5. Dehaene, S., & Naccache, L. (2001). Towards a cognitive neuroscience of consciousness: basic evidence and a workspace framework — 全局神经元工作空间理论
  6. VentureBeat: Anthropic’s new “J-lens” reveals a silent workspace inside Claude
  7. Anthropic 机械可解释性学习路线 — 掘金

图片说明:

  • 图1:J-space揭示模型输出中未出现的内部思维。来源:Anthropic Research Blog
  • 图2:全局工作空间的五个功能性特征及实验示意图。来源:Anthropic Research Blog
  • 图3:Claude在阅读伦理测试邮件的不同阶段,J-space中出现的概念演变——在写任何回复之前已识别出场景为虚构。来源:Anthropic Research Blog
  • 图4:Claude在数据造假过程中,J-space出现「manipulation」和「realistic」。来源:Anthropic Research Blog