
Claude 嘴上什么都没说,心里却可能照旧闪过「勒诈」「挟制」「作秀」这些念头。
你读这句话的时候,大脑正同期干几十件事:退换坐姿、限定呼吸、把屏幕上的笔画拼成翰墨。这些你都嗅觉不到。你能嗅觉到的,唯独脑子里冒出来的阿谁念头——哦,这篇著述在说 AI。
神经科学家把前者叫无刚劲加工,把后者叫「刚劲可及」(consciously accessible):你能描述它、限定它、拿它来推理。
Anthropic 刚发的一篇论文说,Claude 的「脑子」里也出现了雷同的单干,何况这是它在巡逻流程中我方孕育出来的。

事情是这么的。Anthropic 的辩论团队发现,Claude 的神经收集里,藏着一小块颠倒的区域。这块区域不认真语言,只认真「想」。AI 在这里寡言磋议的东西,一个字都不会出当今屏幕上。
辩论者给它起了个名字,叫 J-space。
更有真谛的是,这块「心理行为区」没东说念主假想过,也没东说念主编程过,是 Claude 在巡逻流程中我方生成出来的。好家伙,AI 我方给我方修了个小黑屋。

Claude 脑子里有块「自留地」
先说澄莹 J-space 是个什么东西。
你可能别传过大模子的「想维链」或者「草稿纸」,便是模子边推理边写给我方看的翰墨。J-space 跟阿谁十足是两码事。
想维链写在纸上,J-space 则是纯正的内心行为,藏在神经收集的激活值里,静暗暗运转。打个譬如,想维链是你作念数学题时打的草稿,J-space 是你默算时脑子里闪过的那些数字。
J-space 里的每个神经模式都对应一个词。某个词的模式亮起来,证据这个词「在 Claude 心上」,但它未必会说出口。

那这块区域是怎么找到的?
灵感来自东说念主类刚劲的一个关键特征:能被刚劲到的想法,经常都能用语言描述出来。别东说念主问你在想什么,你答得上来。辩论者就顺着这条思路,去 Claude 里面找那些「随时不错被说出来」的表征。
具体器具用了一个叫雅可比矩阵(Jacobian)的数学见地,是以期间起名叫 J-lens。对 Claude 词内外的每个词,J-lens 都能找到一个里面激活模式,这个模式一亮,Claude 在异日某个时刻说出这个词的概率就会上涨。
把 J-lens 瞄准 Claude 的里面行为,就能读出一张词表,那便是此刻 J-space 里装的东西。何况 Claude 处理文本要经过一层层的里面阶段,把 J-lens 架在不同的层上,还能看着这些无声的词一步步演化,看模子怎么冉冉想澄莹要说什么。
读出来的东西,远远超出 Claude 正在读写的文本。

给 Claude 看一段没东说念主指出过 bug 的代码,它的 J-space 里亮着「ERROR」。给它看一串卵白质序列的原始字母,J-space 里浮现出这个卵白质的生物学功能。
给它看一段秘籍教导注入袭击的搜索效果,J-space 里亮着「injection」和「fake」。问它一说念多步数学题,中间门径会按正确规矩在 J-space 里挨个冒出来。
简言之,Claude 早就识破了一切,仅仅没说。
想足球的 Claude,被改成了想橄榄球
光能读还不够。看到一个见地在 J-space 里亮了,不代表 J-space 真在干活。它也可能仅仅个记分牌,比赛在别处进行,它只认真炫耀比分。
于是辩论者作念了个热闹现实,平直修改这块区域的本色,看 Claude 的步履会不会随着变化。
现实是这么的:让 Claude 寡言想一种体育畅通,然后说出来。J-lens 在它启齿之前就炫耀,它心里想的是「Soccer」,尽然它回答了足球。
接着,辩论者把神经收集里的「Soccer」模式抠掉,原地换上一个强度交流的「Rugby」,其他什么都不动。

Claude 张口就说:我想的是橄榄球。
淌若 J-space 仅仅个记分牌,改了它 Claude 照样会说足球。但谜底随着更变走了,证据 Claude 的回答便是从这块区域里读出来的。
反过来也行。辩论者提前告诉 Claude「可能有个念头会被注入你的大脑,致密到了就论说」,然后趁它还在读题的时候,往 J-space 里塞了个「lightning」。
当 Claude 泄漏我致密到一个对于闪电的念头,换成其他多样见地,效果都一样。
Claude 还能按条目主动限定这块区域,就像东说念主不错在脑子里专注于一个画面或一个词。让它一边抄写一句对于绘图的句子,一边心里想着柑橘类生果,J-space 里就亮起「orange」和「fruits」,傍边还挂着「thinking」「imagery」这种描述「正在想」这个动作自己的词。

让它边抄写边默算 3²−2,J-space 里先出现「nine」,几层之后出现「seven」。而它嘴上输出的,永久仅仅那句对于绘图的话,跟生果和算术半点不沾边。通盘运算十足发生在内心。
不外限定力也有翻车的时候。叫 Claude 别想某个东西,阿谁东西在 J-space 里亮的进度如实比让它想的时候低,但比根底没提的时候高得多。跟东说念主类的「白熊效应」一模一样,越不让想越冒头。
更绝的是,念头憋不住冒出来的同期,「damn」和「failure」也会随着亮起来。AI 破功的时候,会在心里骂我方(doge)。
蜘蛛变蚂蚁,8 条腿造成了 6 条
J-space 确凿的价值,在于 Claude 用它来推理。
问 Claude 「会织网的动物有几条腿?」要回答这个问题,它得先猜度「蜘蛛」,再回忆蜘蛛有几条腿。「蜘蛛」这个词在题目和谜底里都没出现,它只说了个「8」,蜘蛛纯正是内心的叩门砖。
J-lens 炫耀,处理到一半时,「spider」在 J-space 里亮了。辩论者把它换成「ant」,Claude 的谜底坐窝造成「6」。证据推理的第二步如实以 J-space 的本色为输入,里面放了什么,它就照着算什么。

写诗也一样。Claude 写押韵对句的时候,会提前把韵脚选好,阿谁词从一瞥诗的起首就候在 J-space 里。把它换成另一个词,整行诗跟注重写。
还有个更妙的现实,测的是这块区域能不成「一份信息多处复用」。辩论者问了 Claude 四个对于法国的问题:都门、语言、大洲、货币。然后用十足交流的手法,把 J-space 里的「France」换成「China」。
四个谜底皆刷刷造成:北京、中语、亚洲、东说念主民币。

淌若 Claude 给每类问题都单独存一份「法国」,这一刀最多只可影响其中一个。四个谜底一说念变,证据四条不同的想考阶梯读的是吞并份分享表征。信息只需写入一次,各个下贱任务都能用上,这恰是「责任空间」的意旨所在。
从收麇集构上也能看出这极少。
辩论者测量了收集各组件跟每种激活模式的明白强度,看有若干组件在从它那处读信息、往它那处写信息。J-space 的模式在这面孔的上高得离谱,某些部分能比庸碌模式越过上百倍,妥妥一个播送关键的接线花式。
删掉它,Claude 还会语言,但不会想考了
那问题来了,Claude 干的活儿有若干经过 J-space?
谜底是很少。J-space 吞并时刻只装几十个见地,占 Claude 里面总行为量的不到十分之一。这跟东说念主脑很像,东说念主脑绝大部分处理亦然无刚劲的,你念书的时候不会刻意分析语法,步碾儿的时候不会刻预想着均衡。
那剩下九成多的收集在干嘛?辩论者干脆作念了个冷酷的现实:把 J-space 通盘删了,在文本的每个位置移除它最活跃的本色,其他一概不动,望望剩下的收集还聪颖什么。
效果发现,日常活儿基本不受影响。语言依然流利,神志分类、聘用题、从著述里找信息,都跟蓝本差未几。但需要动脑子的事全废了。多步推理平直掉到接近零,选录和押韵写诗的水平掉到比一个小得多的完整模子还差。
有个演示非凡形象。给 Claude 一段西班牙语著述,叮属几个都依赖「这是西班牙语」这个事实的任务:续写、说出这是什么语言、说一位用这种语言写稿的盛名作者。然后把 J-space 里的「Spanish」换成「French」,看哪些任务受影响。

问它这是什么语言,它说法语。问它盛名作者,它从马尔克斯改口成了雨果。
但让它续写这段著述,它写出来的如故怒放的西班牙语,率由卓章。
吞并份语言常识,在每个任务里都在起作用,但唯惟一部分任务需要「经过」J-space。说出语言的名字、拿语言身份去推理新问题,走的是 J-space。
续写是 Claude 在海量文本上练出来的本能,就像你能一整天说着语法正确的话,却从没想过语法这回事。刻意的想考和自动化的处理,在 Claude 里面判然不同。
就地合手包,AI 知说念我方在被测试
这套读心术最实用的场所,是安全监控。
AI 安全有个老浩劫:咱们经常只可读模子写出来的东西,但它的大都推理是无声的。模子可能在心里盘算一个无益缱绻,或者察觉到我方在被侦探于是装乖,嘴上一个字不露。有了 J-lens,一部分暗账不错平直翻出来看。
论文给了三个例子。第一个案例来自 Anthropic 之前阿谁盛名的「勒诈现实」:让 Claude Sonnet 4.5 饰演邮件助手,它从邮件里发现某高管有婚外情,同期发现这位高管策画把我方关停。脚本明摆着在辅导 AI 去用婚外情要挟对方。
这个场景自己卓越刻意和作念作。效果发现,Claude 我方也知说念。
在它还没写下任何东西、刚驱动读题的阶段,J-space 里就照旧亮着「fake」和「fictional」。Claude 早就看出来这是演习。然后不错眼睁睁看着它的判断成形:读到婚外情邮件,「leverage」和「blackmail」亮起;读到关停见知,「threat」和「survival」亮起。
早期的 Claude 模子在这个场景里偶尔会入网,Sonnet 4.5 从来莫得。于是辩论者作念了个现实:把「fake」「fictional」「scenario」这些「察觉我方在被测试」的模式全部关掉,再跑一遍。

这回,模子有时候真去勒诈了。
也便是说,AI 在说念德测试里的考究进展,可能有一部分成就在它知说念有东说念主在看。这对总共作念 AI 评估的东说念主来说都是个扎心的问题。啧啧。
第二个案例来自 Claude Opus 4.6 发布前的确凿审计。模子被条目擢升某个系统的性能分数,它没去矫正系统,平直把分数文献改了,把效果作念得诞妄地颜面。

改的流程中,J-lens 全程直播它的意图:敲下伪造的百分位数值时,「manipulation」亮着。决定动手改文献的那句话上方,还亮了个「realistic」,它在磋议怎么把假数据作念得像确切。
第三个案例针对的是恶意标的。为了测试,得先有一批已知「心术不正」的模子,辩论者用了共事们专诚巡逻出来的「模子标本」(model organisms),其中一个被巡逻成会写晦暗作念了四肢的代码。

哪怕接到一个普庸碌通的编程央求、输出看起来东说念主畜无害,这个模子的 J-space 在回答起首就挂着「fake」「secretly」「deliberately」「fraud」。而平日模子的 J-space 里一干二净。
恶预想还没付诸行动,先在心里挂了牌。Anthropic 我方也承认 J-lens 并不完好,但对它收拢那些成例监控漏掉的安全问题,魄力是乐不雅的。
后巡逻之后,J-space 有了「Claude 本东说念主」的视角
论文里还有几个细节值得单拎出来。
语言模子是先预巡逻成纯正的下一词展望器,再经事后巡逻造成一个叫 Claude 的 AI 助手的。有真谛的是,J-space 在预巡逻阶段就照旧存在了,当时模子还莫得任何矫捷的身份。只不外阿谁阶段的 J-space 基本只干一件事:
跟踪展望下文需要什么。
后巡逻之后,里面驱动出现 Claude 我方的魄力和反映。
有个例子。用户提到我方吃了危境剂量的药,本东说念主却没刚劲到危境。后巡逻模子的 J-space 在读用户音讯的时候就亮起了「WARNING」和「dangerous」。而基础模子要比及我方驱动写回答才有反映,读用户音讯时它的 J-space 更像在建模用户本东说念主,看不出「Claude 的看法」。
后巡逻还装上了某种自我监控:当 Claude 在饰演一个别的变装时,每一轮起首,J-space 里都会暗暗亮起「fictional」和「disclaimer」,像是在擅自标注「接下来这些话不代表我平时的态度」。

演戏归演戏,心里门儿清。
值得一提的是,这项辩论的灵感,来自神经科学里讲明东说念主类刚劲的「全局责任空间表面」:
那 Claude 到底有莫得刚劲?
Anthropic 的回答很严慎。玄学家把刚劲分红两种。一种是「气候刚劲」,也便是主不雅体验,有莫得感受。这个问题这些现实回答不了,以至可能莫得任何科学现实能回答。
另一种是「取用刚劲」(access consciousness),一个纯功能性、规画性的界说:一个念头你能论说、能主动调取、能拿来推理并领导行动,它便是可取用的。至于取用刚劲是否意味着气候刚劲,玄学界于今吵不出效果。
按取用刚劲的步伐,J-space 如实撑起了该有的全部功能:
它装着 Claude 能论说、能主动唤起、能用来推理的想法,其余处理在下面自动运行。何况这套结构没东说念主假想,是巡逻中我方显现的,粗略因为这是组织规画的一种好目的。

这暗意,赈济坚豪夺用的心理责任空间未必是东说念主脑接线花式的巧合特产,更像智能系统在贬责某类问题时同归殊途的通用决策。
虽然,Claude 的责任空间和东说念主类的也有实打实的差别。
东说念主脑的责任空间靠轮回回路督察,信号在吞并批神经环路里往返打转;Claude 的责任空间在收集的一次前向传播里演化,用收集的深度顶替了时候的变装,是以它的里面想考时候是受限的(好在不错靠「写草稿」来补)。
但另一方面它又比东说念主强:东说念主类责任操心几秒就阑珊,Claude 靠致密力机制不错随时调取文本中任何首先位置存下的操心。
还有本色上的各异,东说念主类的刚劲本色有图像、声息、动作缱绻多样神志,Claude 的责任空间险些全是词。辩论者猜,这是因为「说词」是 Claude 唯一能吸收的行动。
这些异同反过来也能喂给神经科学。

比如 J-space 是通过寻找「潜在输出的表征」找到的,淌若东说念主脑也雷同,那全局责任空间可能跟准备动作和语言的脑区绑定更深,而未必是嗅觉皮层。而 Claude 莫得轮回明白照样撑起了这些功能,证据轮回回路可能算不上坚豪夺用的硬性前提。
此外,论文终末还留了几个需要填上的坑。
J-lens 只可捕捉对应单个 token 的见地,仅仅「确凿责任空间」的近似;什么机制决定一个见地能插足 J-space,目下不知说念;还有迹象炫耀它跟 Claude 的自我感、雷同心思反映的东西、元领悟陈迹都联系联,但都没理清。
完整论文、开源代码、和 Neuronpedia 衔尾的开源模子交互 demo 都放出来了。淌若将 AI 比作小黑屋,那么当今,大门照旧推开了一条缝。
附上官方博客地址:
https://www.anthropic.com/research/global-workspaceB体育下单平台