Anthropic发现Claude“长出”意识 揭示内部类人脑机制。Anthropic发布了一篇论文,揭示了他们能够洞察Claude“内心想法”的能力。研究表明,Claude内部存在一种与人脑高度相似的区分机制:只有一小部分信息像人类有意识的想法一样被调取思考,而大部分运算都在底层自动运行。这种底层运行的区域被称为J空间。例如,当Claude回答“那种会织网的动物有多少条腿?”时,虽然其答案只有数字8,但J空间里会出现“蜘蛛”的概念。
J空间是Claude进行多步骤推理、回答主观描述类问题以及胜任高层次思维任务的关键,并且这一机制是在模型训练过程中自然涌现的。研究人员还发现可以通过改变J空间中的内容来干预模型的输出结果。谷歌DeepMind可解释性研究团队负责人尼尔·南达称这篇论文极具价值,提供了有力证据证明大模型内部存在某种“认知空间”,并已在Qwen3.6-27B模型上复现了该论文的核心结论。Anthropic发布了包含这些核心方法的开源代码库,并与Neuronpedia合作,提供了基于开放权重模型的交互式演示。
对于人类来说,在阅读时大脑的神经回路会调整姿势、控制呼吸,同时将屏幕上的文字和符号转化为能理解的词语,这些过程往往是无意识的。不过,大脑中发生的部分活动,如脑海中突然浮现的画面或是规划的购物出行路线,人类是可以感知到的。神经科学家与哲学家有时将这类活动称为“意识可及活动”。Anthropic的新论文显示,Claude这样的现代语言模型中也有类似的区分。Claude内部形成了一组特定的神经模式,这组模式承担着特殊作用,类似于人类大脑活动中的“意识可及活动”。
Claude的这些神经模式集合被称为J空间。每一种J空间模式都对应一个特定词汇,但当某一模式被激活时,并不代表模型要输出这个词,仅说明该词汇正处于模型的思考范畴内。J空间不是大语言模型在推理时给自己写的“草稿”或思考过程,而是依托模型内部神经元激活静默运行,无需生成文字就能让模型对某个概念展开思考。值得注意的是,J空间并非人为设计或代码预置的产物,而是Claude在训练过程中自发涌现出来的。
研究人员将这一现象与神经科学领域的“全球工作空间理论”相提并论。该理论认为大脑就像一座剧院:后台有数十个专门的处理单元在同时工作,但任何时刻都只有一小部分信息会被传递到“整个剧院”中。这也证明Claude的内部结构并非毫无秩序的数字堆砌,而是自发形成了一套规整架构,运作模式和人类大脑的思维逻辑颇为相似。
J空间具有以下特性:Claude能够读取并输出J空间的表征信息;可以根据需求调整模式;依靠J空间完成内部推理;J空间内的表征可灵活适配各类任务;绝大多数运行过程并不依赖J空间,如输出文本、调取基础常识、规范运用语法等操作都无需J空间参与。
研究人员通过具体的问题展示了J空间的功能。例如,当Claude回答“那种会织网的动物有多少条腿?”时,它需要先判断出这种动物是蜘蛛,然后再记住蜘蛛到底有多少条腿。Claude最后的回答只有8,没提到蜘蛛。但在处理信息的过程中,“蜘蛛”这个词会被高亮显示出来。如果把“蜘蛛”换成“蚂蚁”,Claude的回答就会变成6。这表明Claude在推理流程的第二步会读取J空间的内容,并完全依照研究人员植入其中的概念展开推演。
此外,J空间具有灵活性。研究人员向Claude询问法国的四类信息:首都、官方语言、所属大洲、流通货币,随后他们在J空间中将“法国”替换为“中国”,最终其依次给出答案:北京、汉语、亚洲、人民币。四项答案同步发生改变,证明它们读取的是同一套共享表征。这正是工作空间的核心作用:信息只需写入一次,就能供多个不同运算模块调用使用。
研究人员尝试完全删除J空间,Claude依然能流利说话、分析情感、回答选择题,以及从文本中提取信息,但无法胜任那些需要较高层次思维的任务,多步骤推理能力几乎为零,总结内容和创作押韵诗歌的能力远低于结构完整的较小规模模型的水平。
研究人员还发现其他几个有趣的结果:J空间会在微调阶段形成专属自我视角;带有主观体验感的描述性语言依赖J空间生成;J空间的内在想法能够通过训练被人为塑造。Claude的工作空间与人类大脑中的“全局工作空间模型”有显著差异。人脑的工作空间依靠循环回路维持,信号会在同一套神经通路中反复循环流转。而Claude的工作空间仅在神经网络单次前向传播过程中完成演化,网络层级承担了人脑里“时间”的作用。从这个角度来说,Claude内部工作空间的处理时长相比人类存在限制,但它可以借助临时草稿区,把思考过程直接输出,以此弥补这一短板。
尽管如此,Claude的工作空间能力在某些方面优于人类。例如,人类工作记忆几秒内就会衰退,而Claude能随时调取文本前文缓存的所有信息。研究人员称,J空间的研究无法告诉我们Claude是否像人类那样有意识,或者它是否能感知到任何生物。但J空间可以知道Claude心里在想什么,例如,研究人员能够捕捉到Claude私下察觉到自身正在接受测试、刻意生成虚假信息,或是追逐研究人员在训练阶段预设的隐藏目标等内在状态。
J空间看似是划分语言模型中可有意识调取运算与无意识底层运算的关键分界,但它并不能解释全部机制。研究人员也提到,观测工具本身存在局限,只能近似还原模型真实的思维工作空间,例如它仅能识别对应单个token的概念。未来,研究人员将继续深入分析大模型的内在思维及其与人类心智的异同。