跳转至

算不上AGI，但Anthropic发现了Claude的潜意识！

Ch01.1566 算不上AGI，但Anthropic发现了Claude的潜意识！

📊 Level ⭐⭐⭐ | 3.6KB | entities/算不上agi但anthropic发现了claude的潜意识.md

算不上AGI，但Anthropic发现了Claude的潜意识！

今天Anthropic可解释性团队发了篇新论文，官方推文几个小时就冲到320万+浏览。

我花了一整个晚上把它读完，9个章节，94张图表，并且让Fable 5给翻译、制作成了85页的PDF文档（文末有获取方式）。

看到「AI的意识」这种研究，我估计很多人的第一反应是：Anthropic是不是又在为上市故弄玄虚。这个判断太偏激了。AI的心理和意识状态这条研究线，他们已经扎扎实实做了一两年，人格向量、情绪向量、内省能力，一篇一篇铺过来，确实是走在最前沿的那一波团队。四月份我写过一篇万字长文《从阿西莫夫到Anthropic，万字长文解析AI心理学》，梳理的就是这条线。

当时那批研究有个共同的尴尬：我们知道AI内部有心理结构，但问它「你在想什么」，它的回答只有20%的时候靠谱。

这篇新论文补上了下半句：既然问它不可靠，

要点

  • 一句话概括他们干了什么：他们在Claude内部找到了一条分界线。线的一边，是模型能报告、能刻意持有、能用来推理的想法；线的另一边，是它自己都触及不到的海量计算。意识科学里这条线有个正式名字，叫「意识通达」。
  • 说人话：他们找到了AI的「意识」与「潜意识」的分水岭。 这不是修辞，是一个可测量、可干预、甚至可训练的结构。至于这算不算真正的意识，论文非常谨慎，我们留到文末聊。
  • 你读这行字的时候，你的大脑正在做一大堆事：视觉皮层在解析每个字的笔画，运动系统在维持你的坐姿，心跳、呼吸、对周围声音的监控，全在后台运行。这些活动，你一件都感知不到。
  • 任何时刻，你能「意识到」的，只是大脑全部活动里极小的一片。而恰恰是这一小片，负责你所有的深思熟虑：计划晚饭吃什么，琢磨这篇文章值不值得转发。
  • 弗洛伊德在一百二十多年前就把心智分成了两层：能被你觉察的意识，和水面之下庞大的无意识。后人把这个理论画成了那座著名的冰山。前年我在维也纳专门去了弗洛伊德博物馆，那栋楼里最打动我的不是诊疗椅，而是一个事实：这个人在没有任何仪器的年代，靠病人的口误和梦，推断出了水面之下有东西。
  • 后来的认知科学把这座冰山画得更精确了。1988年，心理学家Bernard Baars提出「全局工作空间理论」，后来神经科学家Stanislas Dehaene把它发展成今天意识研究的主流框架。这个理论把大脑比作一座剧场：

→ 原文存档

关联