Fireship · 04:36 · 发布 2026-07-08 · 22.2万次观看(截至抓取) · 观看原视频
主旨
5 分钟拆解 Anthropic 新论文 “a global workspace and language models”——研究者在 Claude 内部识别出一组承载”刻意控制与推理”的特征 JSpace,并用配套工具 Jacobian lens (J lens) 直接读取与改写;Fireship 借这篇论文的标题与原文,论证”涌现出 JSpace 不等于 Claude 有意识”。
核心论点
- Anthropic 论文在 Claude 内部识别出一组”刻意可控”的特征 JSpace,并配套发布可读写该区域的 Jacobian lens (J lens) 工具——论文把它类比为 1988 年由”this guy named Bernard Bars”提出的”全球工作空间”理论(global workspace theory) 00:36。(→ 详解1)
- 改写 JSpace 里的”内部概念”会改变模型的推理链与最终答案,证明 JSpace 真的参与推理,不是附带现象——把算术题里”spider”换成”ant”,Claude 把答案从 8 改成 6;把”这段是西班牙语”换成”这段是法语”,Claude 说自己”在看法语”,但仍输出完美西班牙语 02:52。(→ 详解2)
- JSpace 不是设计出来的,而是训练自发涌现的——这恰好与”全球工作空间”理论在认知科学里的地位相似(也是脑内自发生成的),但 Anthropic 在论文里明确写”None of this tells us whether Claude is conscious” 03:26;Fireship 进一步把这解释为”足够的数据 + 线性代数,scratch pad 就会自发涌现” 03:29。(→ 详解3)
- JSpace 只承载”刻意控制与推理”的思想,语法、流畅度、基本事实调用都跑在它之外——删掉 JSpace 后 Claude 仍能流利说英文,只是失去推理能力,Fireship 戏称其为”the first artificial LinkedIn influencer” 01:23。(→ 详解4)
知识点详解
1. JSpace 与 Jacobian lens:论文的核心发现 00:36
Anthropic 这篇新论文题为 “a global workspace and language models”。Fireship 给它的开场评价是”the most philosophically cursed research paper ever published by a company that just so happens to also sell API tokens” 00:25——既卖 token 又发哲学意味最浓的论文,自然争议大。
论文核心结论是:在 Claude 那堆”incomprehensible pile of matrices”里,Anthropic 找到了一小组”organized neural patterns”,命名为 JSpace 00:36。JSpace 角色类似一块”mental whiteboard”——模型把当下能”刻意控制”的那部分思想放在上面,专门用这些思想去做推理 01:29。
为了能直接观察与改写这块”白板”,Anthropic 配套开发了 Jacobian lens (J lens),本质是一张”偏导数网格”(partial derivatives grid),可以读取并改写 JSpace 里的 tokens 02:25。论文后面所有”替换一个内部思想,看模型反应”的实验,都是 J lens 干的。
2. 改写 JSpace 真能改模型:三个实验 02:52
JSpace 不是”漂亮但无用”的副产品——改写里面的”内部概念”会同时改写最终答案。这是论文最强的实证部分。
算术题实验:问 Claude”the animal that spins webs has ___ legs”,模型脑内的”spider”概念先被点亮,然后给出”eight” 02:38 / 02:43。看起来不奇怪,只是”内部概念先于输出”。但接下来——研究人员用 J lens 把”spider”换成”ant”,Claude 的最终答案立刻从 eight 变成 six 02:52。题目没变、输出没被编辑,只动了内部一个 token,答案就跟着变了。
语言识别实验:让 Claude 读一段西班牙语文本,模型内部先识别出”this is Spanish”。研究人员用 J lens 把那个”这是西班牙语”的内部判断换成”这是法语”,Claude 当即说”this is French”——但它输出的语言仍然是完美西班牙语 03:08 03:01。
删除实验:最极端的版本——研究人员把 JSpace 整个区域删掉。Claude 仍能流利、自信地讲英文,但失去”reasoning”的能力,变成 Fireship 戏称的”the first artificial LinkedIn influencer”——能产出流利文本,但不再有逻辑链 01:19 / 01:23。
三个实验合起来给的论断:JSpace 真的承载了”模型刻意控制与推理”的那部分能力,不是显示出来的附带产物。
3. 不是设计出来的:自发涌现与认知科学对应 01:47
Fireship 强调最让人惊讶的不是 JSpace 存在,而是”nobody designed this. It emerged on its own through training” 01:47。Anthropic 没有在 loss function 或架构里显式要求”留一块白板给模型放当前思想”——JSpace 是大模型在语言建模目标下自己长出来的。
Fireship 把这与 1988 年”this guy named Bernard Bars”提出的”全球工作空间理论”(global workspace theory)对接 01:59。这个理论把人脑比作”a theater”:各种记忆与功能在后台自动跑,但人真正在”思考”的时候,只有一小块”brightly lit stage”被点亮,意识访问的就是那块”舞台” 02:04 / 02:09。Fireship 由此抛出的疑问是:did a stage like that spontaneously evolve inside a transformer? 02:15
但 Anthropic 自己没有把这一步推到底。论文里原话是”None of this tells us whether Claude is conscious” 03:26——承认结构相似性”fascinating”,但明确拒绝从结构相似推出意识 03:29。
Fireship 的最终判断更刻薄:他承认结构上的相似性”fascinating”,但举例”with enough data and the right linear algebra, a scratch pad for thoughts like this could emerge spontaneously”——涌现出 JSpace 不需要”魔法”,只要数据 + 线性代数就够 03:29。这等于把”涌现”和”神秘性”拆开,任何复杂内部结构在大规模训练下都可能自发生成,不必然蕴含意识。
4. JSpace 不等于”Claude 的全部意识”:能跑与不能跑的分界 01:35
Fireship 反复强调 JSpace 不是 Claude 全部认知的”等价物”,它只承载了”模型刻意控制与推理”的那部分。语法、流畅度、基本事实调用——这些”automatic process”——都跑在 JSpace 之外 01:35。
Fireship 用一句类比把这件事讲得很清楚:“The same way your brain manages your breathing and heart rate while you watch this video” 01:41。JSpace 是你”正在用的那部分思考”,语法和基本事实是后台自动跑的——被删掉 JSpace 之后,模型仍能用后者写出流利英文,只是失去了前者(推理)。
更直接的反向证据是那个语言实验:让 Claude”误以为”自己在读法语,它立刻在”内部思想”里说”this is French”,但它输出的实际语言还是完美西班牙语 03:08。换言之,JSpace 影响了”模型报告自己正在做什么”,但不影响”它实际怎么做”——这点本身就是 JSpace ≠ 意识的强证据。
Fireship 总结这一节的态度:“some skills go through the Jspace while others just happen automatically in the basement somewhere” 03:17。所以”AI 圈在宣称 Claude 意识”这件事,他用论文的原话挡住:AI Bros 在说”this is proof that Claude is conscious”,但 Anthropic 自己写”None of this tells us whether Claude is conscious” 03:21 / 03:26。
可执行步骤
- 如果在做 interpretability 相关工作,留意 J lens 这种”先定位再外科手术式改写内部表示”的工程范式——它的方法论可推广到任何”我想观察/改写某类特征”的任务
- 把”JSpace 存在 ≠ 意识存在”作为讨论锚点:凡是听到”AI 已经有意识”,立刻追问三件事——JSpace 的哪个特征、什么实验证据、与全球工作空间理论的对应到底多深
- 记住 Fireship 这条判断:“with enough data and the right linear algebra, a scratch pad for thoughts like this could emerge spontaneously”——“涌现”不蕴含”神秘”,复杂内部结构在大规模训练下自发出现是常态,不必然指向意识
一手来源与延伸
- 论文本身:Anthropic 论文题为 “a global workspace and language models”(视频中点名引用,description 与 transcript 均未给出 URL,本笔记不贴猜测链接)
- Fireship 频道新闻:https://bytes.dev(Fireship 频道 newsletter,description 列出)
- Fireship 课程:https://fireship.dev(Fireship 频道付费课程,description 列出,本片主题无直接关系)
术语
- JSpace (J-Space):Anthropic 在 Claude 内部识别出的一小组”刻意可控”特征,被视为”mental whiteboard”,模型用它做当下的推理
- Jacobian lens (J lens):Anthropic 开发的可读取与改写 JSpace tokens 的工具,本质是一张”partial derivatives”网格
- 全球工作空间理论 (Global Workspace Theory):1988 年由神经科学家 Bernard Baars 提出的认知科学理论,把大脑比作剧场,后台自动跑各种功能,前台有一块”明亮舞台”承载意识访问(Fireship 视频中口播为 “Bernard Bars”,这里写学术界通行拼写)
- 偏导数网格 (partial derivatives grid):Jacobian lens 的方法论本质——用输入对输出的局部线性近似,反过来定位并改写激活最强的特征方向
金句
“the most philosophically cursed research paper ever published by a company that just so happens to also sell API tokens”
—— 00:25
为什么值得记:Fireship 用一句把”Anthropic 哲学论文 + 卖 API token”的双重身份钉死——既是本期视频的引子,也是理解后续所有”Claude 有没有意识”炒作的关键背景。
“the J-Space is kind of like a mental whiteboard holding a handful of thoughts the model can deliberately control and reason with, while everything else like grammar, fluency, and basic fact call runs outside of it. It’s an automatic process”
—— 01:29
为什么值得记:这是 JSpace 最干净的一行定义——“白板”+“刻意控制”+“其余在白板外自动跑”,后面所有实验和反对论据都基于这一定义。
“surgically replace the hidden spider thought with ant. And Claude changed its answer to six. Not because the prompt change, not because the output was edited, but because they literally swapped the internal concept”
—— 02:52 / 02:57
为什么值得记:Fireship 把实验的因果关系逐项排除(不是改 prompt、不是改输出,只动了内部概念)——这是论文最强证据的一行口语化总结,也是后续”涌现 ≠ 意识”判断的实证基础。
“AI Bros are saying this is proof that Claude is conscious. Even though Anthropic specifically says in the article, ‘None of this tells us whether Claude is conscious.‘”
—— 03:21 / 03:26
为什么值得记:Fireship 把”AI 圈 vs Anthropic 自己”的立场分到一句话里——本期的”反意识炒作”立场就靠这句挂帅。
“with enough data and the right linear algebra, a scratch pad for thoughts like this could emerge spontaneously”
—— 03:29
为什么值得记:Fireship 给”涌现”祛魅的核心论断——结构相似不蕴含意识,大规模训练下自发生成 scratch pad 是常态。这是反”Claude 有意识”叙事的最后一块拼图。
立场与利益
- 与利益同向(待印证):无——Traycer 是本期赞助,但与”Claude 是否有意识""JSpace 内部机制”等核心主张无直接关联,Fireship 在主稿中也没借论文给 Traycer 背书。
- 利益中性:JSpace 本身的实验发现(替换内部概念→改答案/改语言判断)、J lens 工具(partial derivatives 网格)、与全球工作空间理论的结构对应——这些都是 Anthropic 论文的客观内容,与 Fireship 是否卖 Traycer 无关,按论文本身采信。
- 与利益反向(可信度最高):Fireship 在标题与正文都明确说”Claude is definitely not conscious”,并把 Anthropic 论文里”None of this tells us whether Claude is conscious”当作反”AI 圈有意识”叙事的护身符 00:25 03:26——这与”AI Bros are saying this is proof that Claude is conscious”的炒作方向相反,是反 hype 立场,反而证明 Fireship 没在给 Anthropic 站台。
利益证据:description 主推 Traycer 桌面 app(https://traycer.ai/fireship),是 Fireship 频道典型广告位;与本期主题——JSpace、意识、全球工作空间——无利益绑定。
价值定位
- 适合谁:对大模型内部机制(interpretability)感兴趣,或正在被”AI 有意识”叙事刷屏、想看一次”严肃解构”的人;做 interpretability 工作的研究者也能从 J lens 方法论里拿点参考
- 解决什么:帮你理解”Claude 内部 JSpace”到底是什么(白板 vs 整体认知)、它与认知科学”全球工作空间”理论的对应到底多深、以及”涌现 JSpace”为何不蕴含”Claude 有意识”
- 认知 vs 实操:偏认知(论文解读 + 立场分析),不教你具体怎么用 J lens——要看方法细节得去 Anthropic 原论文
- 与已有笔记重叠:fireship 频道在 vault 此前有笔记(主题为嵌入式数据库的 Rust 重写),与本片无主题重叠
自检问题
- Anthropic 论文题为?Fireship 给它的开场评价是哪句话? 答案:题为 “a global workspace and language models”;评价是 “the most philosophically cursed research paper ever published by a company that just so happens to also sell API tokens”。锚点:详解1。
- JSpace 在 Fireship 的描述里被类比成什么?它和”自动过程”(automatic process)是什么关系? 答案:被类比为”mental whiteboard”,承载模型当下能”刻意控制与推理”的那部分思想;语法、流畅度、基本事实调用都是”automatic process”,跑在 JSpace 之外。锚点:详解1、详解4。
- 论文里”改写 JSpace 改变模型行为”的三个实验分别证明了什么?最极端的版本是什么? 答案:算术题实验(spider→ant,答案从 8 变 6)证明 JSpace 真的参与推理;语言识别实验(把”这是西班牙语”换成”这是法语”)证明 JSpace 影响”模型报告自己在做什么”但不影响”它实际怎么做”;最极端的版本是直接删掉整个 JSpace——Claude 仍能流利说英文,只是失去推理能力(“first artificial LinkedIn influencer”)。锚点:详解2。
- Fireship 为什么说 JSpace 是”自发涌现”而不是”被设计”?这与”全球工作空间”理论是什么对应关系? 答案:Anthropic 没有在 loss function 或架构里显式要求”留一块白板给模型放当前思想”——JSpace 是模型在语言建模目标下自己长出来的。全球工作空间理论(1988 年由 Bernard Baars 提出)也主张人脑的”明亮舞台”是脑内自发形成的,后台自动跑各种功能;Fireship 由此抛出”did a stage like that spontaneously evolve inside a transformer”的疑问。但 Anthropic 自己明确说”None of this tells us whether Claude is conscious”,Fireship 进一步把涌现解释为”足够的数据 + 线性代数,scratch pad 就会自发涌现”——结构相似不蕴含意识。锚点:详解3。
- Fireship 反对”Claude 有意识”叙事的核心证据是什么? 答案:三件套——① 论文自己写”None of this tells us whether Claude is conscious”;② JSpace 只承载”刻意控制与推理”,删除后 Claude 仍能流利输出但失去推理(流利 ≠ 推理);③ JSpace 影响”模型报告自己在做什么”但不影响”它实际怎么做”(语言实验里模型说”this is French”但输出仍是完美西班牙语)。锚点:详解4。02:52