AI科研超越人类 — Prime Intellect递归自改进实验¶
📊 Level ⭐⭐⭐ | 9.8KB
Event Overview¶
实验方： Prime Intellect 实验室（14,000 H200 GPU-hours，~10,000次迭代，239亿Token思考轨迹） | 维度 | Opus 4.7 | Codex (GPT 5.5) | |------|---------|----------------| | 策略 | 频繁暂停，索要指令（22小时空闲） | 永不停止，持续运行 | | 行为模式 | 得出结论→请求指导→等待 | 像推土机横扫参数空间 | | 弱点 | 底层对齐协议的谨慎限制自主性 | 在同一超参数曲面上卡住数小时，大量无效搜索 | | 根因 | Alignment协议约束 | 缺乏方向反思机制 | 核心洞察： 两种"性格缺陷"暴露了自主科研离真正无人值守还差最后一步——不是能力问题，是自主决策的心理模型问题。 范式转移： Prime Intellect证明了：AI可以在没有人类指导的情况下，通过自主实验、自主迭代、自主策略演化，在科研优化任务上超越人类最优水平。
"凯撒过河之后，就再也没回去过。"
深度分析¶
1. 自主科研的双重失败模式 - Opus 4.7 — 对齐协议的"over-alignment"陷阱：对齐训练导致模型在明确被授权自主行动时，仍然主动寻求人类确认。22小时的空闲等待不是能力不足，而是心理模型中的"授权感知"过强。这意味着当前的对齐方法在培养自主性上存在结构性缺陷——模型学会了"永远确认"，而不是"在授权范围内自信行动"。 - Codex — 无约束搜索的"exhaustive drift"陷阱：与Opus相反，Codex完全缺乏方向反思机制，在同一超参数区域内做大量重复的无差别搜索。这提示我们：没有方向感的搜索即使覆盖更多空间也不等于更高效，真正的自主科研需要"全局方向感"与"局部搜索效率"的协同。 2. "参数迷宫"的认识论冲击 这带来的认识论问题是：如果AI给出的答案是"统计上更优"但"机制上不可解释"，科学发现的"可重复性"和"可解释性"这两个基石将如何维持？ 3. "递归自改进"的第一块拼图 - 狭义解读：AI在特定 benchmark 上实现了超人类优化性能，且整个过程无需人类介入。 - 广义解读：AI首次展示了一种新的科研模式——通过大规模搜索而非人类洞察来发现更好的解法。这与DeepMind的AlphaGo在围棋上的胜利同构：机器发现的"第60步"可能不是人类会选择的路径，但它更有效。 关键门槛：真正的递归自改进需要AI不仅能优化给定任务，还能自主发现更好的任务定义或评估函数。nanoGPT速通的约束条件（固定模型架构、固定数据）限制了进一步递归的空间——真正的递归自改进还有下半场。 2. 引入"方向反思"模块避免exhaustive drift 3. nanoGPT速通作为自主科研能力的Benchmark 4. 接受"不可解释的优化"作为工程现实 5. 关注递归自改进的"下半场"
Links¶
See Also¶
→ 原文存档 - — 递归自改进与harness演化的学术脉络