Transformer能通向AGI吗?布林:能,但它已经变了¶
Ch01.1506 Transformer能通向AGI吗?布林:能,但它已经变了¶
📊 Level ⭐⭐⭐ | 9.7KB |
entities/transformer-通向agi-布林-谷歌deepmind-2026-07-09.md
Transformer能通向AGI吗?布林:能,但它已经变了¶
摘要¶
2026年6月,Google DeepMind Build Day活动期间,Google联合创始人谢尔盖·布林接受了一场现场问答访谈,围绕Transformer架构与AGI的关系、模型能力收敛趋势、思维链机制、超级智能的边界等话题展开讨论。布林认为Transformer架构仍然能够通向AGI,但当前的版本相较原始论文已经发生了显著调整。他还坦承谷歌在代码能力方向投入偏晚,并分享了谷歌内部"用AI构建AI"的自我改进实践。
核心要点¶
- 模型能力跨领域收敛:不同专业领域的AI模型正呈现出明显的收敛趋势,Gemini已在数学与科学问题上同时达到业界领先水平,技能迁移现象(如代码训练改善数学推理)属于训练中的自然涌现
- 思维链的有效性:Chain-of-Thought方法在提出时缺乏充分理论依据,但实践证明其显著提升模型表现,成为近年AI能力跃升的关键推手
- Transformer架构的适应性:该架构已远超最初文本处理的设计目标,被广泛应用于图像与视频处理,但当前版本相较原始论文已有较大调整
- AGI的两种定义:布林个人倾向于将AGI定义为"能够自我改进的AI系统",但更广泛的使用定义是"能完成人类所能完成的一切任务"——后者需要世界模型与机器人技术支撑
- 代码能力滞后:Gemini 3.0/3.1在六个月前多项指标领先,但竞争对手在编程能力上取得明显进展,谷歌本应更早重视代码能力研发
深度分析¶
技能迁移现象对AGI路径的启示¶
布林提到的"迁移"现象——代码训练改善数学推理、图像处理提升几何应用题表现——是理解AGI路径的关键线索。这一现象暗示,不同认知能力可能共享底层的通用推理机制。当模型在某一领域获得能力提升时,这种提升会通过共享的表示空间溢出到其他领域。这与注意力坍缩现象形成有趣对照:后者是上下文管理中的信息丢失问题,而技能迁移则是正向的能力泛化。
如果迁移现象在更大规模上持续成立,那么AGI的构建可能不需要为每个领域独立设计专用模块——一个足够强大的通用架构配合多样化训练数据,即可涌现出跨领域能力。这也解释了布林对Transformer架构持续看好的底层逻辑。
思维链:从经验现象到理论理解¶
思维链提示方法在提出时缺乏理论依据,却在实践中表现出持续稳定的效果,这一现象在AI研究中并不罕见。布林的坦率承认——"即便亲手打造Gemini的人也在摸索模型的边界"——揭示了当前AI研究的经验主义特征。与学术文献综述中的AI应用类似,实践往往领先于理论解释。
思维链的有效性可能源于它迫使模型在"答案空间"中进行显式的中间推理,而非直接从输入跳到输出。这种显式推理路径不仅提高了准确性,还为模型提供了"自我纠错"的机会——如果中间步骤有误,后续步骤可能发现并修正它。这与Agent任务分解中的分层规划思想高度一致。
超级智能的边界:数学不可能性与能力上限的区分¶
布林对"超级智能是否意味着能解决P与NP问题"的否定回答,在哲学层面具有重要意义。P≠NP的数学结论不因AI能力提升而改变——这划定了AI能力的理论上限。超级智能的定义应是"智力水平超越人类",而非"解决数学上无解的问题"。
这一区分为AI能力评估提供了更清晰的框架:我们需要区分"AI还不够强"和"这个问题本身就无解"两种情况。在AI友好型架构的讨论中,类似的边界意识也很关键——架构设计需要区分哪些问题可以通过AI解决,哪些问题本质上是不可判定的。
"用AI构建AI"的自我改进范式¶
布林提到谷歌已将大量研发资源投入到利用模型监控训练过程、生成训练数据的自我改进工作中。这一范式——称为"自我改进"——与Agent自演进的趋势形成共振。自我改进的核心在于:AI系统不仅是被动执行任务的工具,还能主动参与自身能力的提升过程。
这一范式可能重新定义研发效率:传统的研发流程是"人类设计实验→运行→分析结果→调整",而自我改进范式下,AI承担了实验设计、结果分析和参数调整的闭环,人类则退居到目标设定和边界约束的角色。这与阿里云AI实践中提到的"AI融入研发全流程"理念一致。
竞争格局的长周期视角¶
布林对AI行业格局变化的从容态度——"以月度维度评判相对位置不稳定,从长周期观察交替领先属于正常现象"——提供了理解AI竞争的正确视角。在代码能力上暂时落后并不意味着结构性劣势,而是研发资源分配的阶段性结果。Gemini系列在响应速度(Flash系列)上仍有竞争优势,适合需要快速交互的场景。
这一判断与Agent团队协作新范式的讨论形成对比:后者关注的是短期范式切换的冲击,而布林提供了更长期的视角——各实验室在不同技术方向上交替领先是行业常态。
实践启示¶
-
技能迁移效应的利用:在训练数据设计时,有意识地引入跨领域数据,利用技能迁移机制提升模型在多任务上的综合表现。代码能力与数学推理之间的正相关关系尤其值得关注。
-
思维链的工程化应用:在构建Agent系统时,强制模型进行中间推理(而非直接输出答案)可以显著提升可靠性和可审计性。将复杂任务分解为可验证的子步骤,与Agent评测方法论中的可分解性要求一致。
-
自我改进基础设施投资:将AI系统自身的改进能力作为独立的基础设施来建设,包括自动化训练监控、训练数据生成、参数调优等模块。这部分工作对未来AI竞争力将越来越关键。
-
能力评估的长期视角:在技术选型时,避免基于短期领先/落后做出战略性判断。应关注基础架构的适应性和团队的能力积累,而非某一时间点的指标排名。
-
Transformer架构的持续关注:尽管出现了许多替代架构(如Mamba、RWKV等),Transformer的适应性远超预期。在架构选型时,不应过早放弃Transformer,而应关注其在目标场景中是否已充分优化。
相关实体¶
- 注意力坍缩 — 上下文管理中的信息丢失现象,与技能迁移形成对照
- 学术文献综述中的AI应用 — AI在科研中的实践案例
- Hermes Agent操作指南 — Agent任务分解的分层规划思想
- Agent自演进 — 自我改进范式的具体实现
- AI友好型后端架构 — 架构设计中的边界意识
- 阿里云AI实践 — AI融入研发全流程的理念
- Agent评测方法论 — 任务可分解性的评估框架
→ 原文存档