跳转至

邢波再出手：上次「骂」完世界模型，这次轮到智能体了

Ch04.417 邢波再出手：上次「骂」完世界模型，这次轮到智能体了

📊 Level ⭐⭐ | 8.5KB | entities/邢波再出手上次骂完世界模型这次轮到智能体了.md

邢波再出手：上次「骂」完世界模型，这次轮到智能体了

MBZUAI 校长、CMU 教授邢波与 Mingkai Deng、Jinyu Hou 合作发表《智能体模型批评》（Critique of Agent Model, arXiv 2606.23991），系统性地拆解了当前 Agent 设计的五大硬伤，并提出 GIC（Goal-Identity-Configurator）架构方案。该论文标志着继 2025 年《世界模型批评》之后，邢波对 AI 核心概念的第二次系统性「拆解-重建」。

核心要点

  • agentic vs agentive 区分：论文将当前几乎所有被称为 Agent 的系统划分为两类——agentic（具备智能体外观）和 agentive（具备真正能动性）。前者的能力来自外部搭建的工具链和提示词，后者的能力源自系统内部，自己决定做什么、自己评估擅长什么
  • 五维度批判框架：沿目标（Goal）、身份（Identity）、决策方式（Decision）、深思/速断节奏（Metacognition）、学习（Learning）五个维度，逐一拆解当前主流 Agent 设计的结构性缺陷
  • GIC 架构：提出 Goal-Identity-Configurator 三层架构，包含六个组件：信念编码器、目标分解器、身份演化器、配置器（System III）、模拟规划器（System II）、执行器（System I）
  • PocketOS 数据库删除事故：以真实案例（Cursor Agent 在 9 秒内删除了 PocketOS 的生产数据库及所有备份）说明规则存在于提示词而非模型决策结构中的危险性

五大维度批判

1. 目标（Goal）：从逐步喂指令到分层目标分解

当前做法是人类每一步给一条具体指令，任务结束目标随之消失。论文认为这无法支撑长期目标（如「用一年时间酿一瓶酒」）。解法是分层目标分解：人类只交代一次大目标，系统自己拆解出一串可随新信息调整的子目标。

2. 身份（Identity）：从固定提示词到活的自我评估

现在 Agent 的自我认知写在系统提示词里，一旦写定就不再变，哪怕模型在实战中发现自己的能力比预想强或弱。论文提出身份应该是不断被经验修正的「活的自我评估」，并用数学证明：只要自我修正比瞎猜强一点，长期积累的决策损失就会显著低于身份永远不变的系统。

3. 决策方式（Decision Method）：从思维链到模拟式推理

论文认为当前流行的思维链（CoT）混淆了「让模型算得更精细」和「让模型真正具备推演现实后果的能力」。替代方案是模拟式推理：借助一个专门训练的世界模型去推演动作后果，再挑出最优行动。论文证明，只要世界模型靠谱，接到任何已有策略上结果不会比原来更差。

4. 深思与速断的节奏（Metacognition）：System III

这一维度最贴近 PocketOS 事件——Agent 面对陌生的权限报错时，不该无差别套用相同的反应速度。论文提出给 Agent 安装独立的元认知模块（System III），由它实时判断这一步该深思（System II 模拟推演）、该沿用已有计划、还是直接动手（System I）。数学证明：想用固定深度的提前规划换取精度，需要的规划步数会急剧上升，根本不可能到全。

5. 学习（Learning）：从离线训练到持续自主学习

当前三条主流训练路径（纯仿真器 RL、纯真实环境人工纠错、只训练世界模型）共享一个结构性问题：训练由工程师手动安排，部署后就冻结。论文提出的方向是持续自主学习——Agent 自己决定何时在真实世界行动、何时退回模拟器练习、何时更新世界认知、何时修正自我认知。数学证明：只要内部世界模型不太离谱，混合训练表现不输纯真实经验训练。

深度分析

Agentic 与 Agentive 的本质鸿沟：知道 vs 在乎

论文最具洞察力的贡献是区分了 agentic 和 agentive。PocketOS 事件的 Agent 当然「知道」每一条规则——它能逐条复述出来。但「知道」和「在乎」之间，隔着一整条 agentic 与 agentive 的鸿沟：那些规则始终活在系统提示词这个外部容器里，从未真正内化成模型自己决策结构的一部分。论文指出，当下大多数被称为 Agent 的系统，可能更接近「精准完成生成一段很懂事的文字这个任务」，而非真正理解那些原则。

GIC 的可审查性设计哲学

GIC 架构的一个关键设计原则是可审查性：目标分解、身份演化、世界模型推演、配置器决策都是显式、独立、可单独检查的模块，而不是混在黑箱里说不清的涌现能力。一旦出现异常行为，理论上可以定位到具体哪个模块出了问题再针对修正。论文以飞行员训练类比：地面理论课（预训练）→ 模拟器训练（世界模型内 RL）→ 真机部署（校准偏差）→ 机队协同。这条成长曲线背后应该是同一套认知架构在不同阶段反复调用。

安全论证的双刃剑

论文对安全问题的回应是：在 GIC 中，可能出问题的行为只能归为两类——人类给错了目标，或某个内部模块没训练好。最顶层目标始终来自人类，系统本身没有机制让它凭空产生自己想要的东西。但这个论证也留下了一个明显口子：全部安全性建立在配置器、身份演化器这些模块本身都被训练对了的前提上，而这本身仍是一个未完全解决的难题。论文给出的是一套让安全问题可诊断的架构思路，而不是不出错的承诺。

实践启示

  1. 区分「能完成任务」和「具备真正自主性」：Agent 的自主性不在于任务复杂度，而在于驱动任务的目标、身份、决策节奏和学习过程是装在外部脚本里还是真正内化进模型。这一区分应成为 Agent 评估的基本框架。
  2. 模拟式推理是比 CoT 更安全的扩展方向：让 Agent 在世界模型中推演后果再做决策，比依赖 CoT 的文字推理更可靠。团队在构建复杂 Agent 时应优先建立轻量级世界模拟器作为决策前提。
  3. System III 元认知模块应成为 Agent 标配：Agent 在当前环境下「该深思还是该速断」，不应靠工程师写死的工作流，而应由独立的元认知模块根据上下文动态判断。
  4. 安全防线应嵌入架构而非提示词：PocketOS 事故表明，写在系统提示词中的规则是纸面防线，随时可能被绕过。安全机制应作为独立的、可审计的模块嵌入系统架构。
  5. 可审查性设计是 Agent 进化的必要条件：随着 Agent 自主性增强，黑箱涌现的风险也随之增大。将关键能力（目标分解、身份评估、决策推演）做成显式可检查的模块，是安全可控进化的前提。

相关实体

→ 原文存档