Auto Research又进化了:贝叶斯联手大模型,AI自己设计关键实验¶
Ch01.1134 Auto Research又进化了:贝叶斯联手大模型,AI自己设计关键实验¶
📊 Level ⭐⭐ | 5.4KB |
entities/auto-research-贝叶斯-大模型设计关键实验.md
Auto Research 又进化了:贝叶斯联手大模型,AI 自己设计关键实验¶
PaperWeekly 解读了论文《Model Discovery Agent: LLM-assisted Bayesian experiment design for data-efficient discovery of mechanistic world models》(arXiv 2608.09696)。该研究提出模型发现智能体(Model Discovery Agent,MDA):大模型先提出可能的科学假设,贝叶斯方法维护每个候选的不确定性,再主动挑出最能区分它们的关键实验,新结果回来后继续更新判断——实验选择权开始进入 AI 的自动研究闭环。核心分工是"大模型负责扩大假设空间,贝叶斯推断负责用证据筛选,实验负责继续消除不确定性"。
MDA 的机制发现闭环¶
传统方法沿着已有条件继续收集数据未必能区分机制——几个模型在现有观测下可能表现一致,改变输入、初始状态或直接干预系统后预测才分开。MDA 把模型放到从未执行过的干预条件上检验预测,并把问题变成"怎样用尽可能少的实验排除错误解释"。大模型先提出候选机制,最终裁决交给贝叶斯:序贯蒙特卡洛(SMC)为每个候选推断参数后验并计算边际似然,候选按模型证据获得结构后验;在 FORCEBENCH 中还加入显式复杂度先验,压制靠增加自由度换取拟合优势的模型。
下一场实验由信息价值(VoI)决定:关注不同候选模型在哪里预测分歧最大且不能被观测噪声淹没,预测分歧相对噪声越明显信息价值越高,连续实验空间用 CMA-ES 搜索最优设计。若新实验持续产生大残差,MDA 判断假设空间漏掉了重要机制,在 M-open 设定下重新调用大模型扩展候选池;当后验集中且残差足够低时则清理近重复候选。
跨领域机制发现结果¶
在 FORCEBENCH 中,8 次实验后 MDA 的数值通过率约 93%,同预算纯大模型智能体只有约 31%;纯大模型智能体平均需要约 41 次实验才能接近 MDA 8 次实验的预测误差。精确形式恢复率 MDA 为 74%,纯大模型为 31%;即使把相同的 13 种候选实验交给纯大模型智能体,8 次后通过率仍只有 22%。Yukawa 环境中,只有把探测范围推到屏蔽长度之外,重合的候选机制才明显分叉,真实机制在准确性与贝叶斯描述长度的权衡中胜出。
CHEMBENCH 覆盖 57 种单一或组合酶动力学机制,8 次实验后 MDA 符号准确率约 56%(匹配的 LLM-AutoSciLab 60 次实验约 42%),加入 M-open 后整体符号准确率从 36% 提升到 50%;但预测误差低不保证机制正确——PySR 在难任务中 RMSLE 低至 0.001 却未恢复真实动力学结构。在部分可观测的 NEURONBENCH 中,VoI 选出的超极化实验一次性区分四种候选通道机制;加入通道噪声后模型变随机微分方程,论文训练一维卷积网络从模拟轨迹学习摘要统计量构造合成似然,模型选择准确率基本跟上粒子滤波而单次决策计算加速约 104 倍。完整随机 NEURONBENCH 中模型化预测器 3 次实验将误差降低约 4 倍,MSE 约 4.6 接近 4.0 的单次试验噪声下限。
当前方法的边界¶
目前验证主要发生在合成基准和预定义设计空间中,距离真实实验室的全自主科研还有明显距离。基础模型能力影响优势大小:跨 Opus、Fable、DeepSeek 三种模型,MDA 数值通过率保持约 89%–94%、精确形式恢复率约 74%–83%,但换成更强的 Fable 5 后,纯大模型智能体在精确形式恢复上反而更高——MDA 更稳定的优势是在紧实验预算下用模型证据筛选候选假设,通过针对性实验持续减少不确定性。这与 Auto Research 能力分级 的判断一致:科研流程的自动化正在从读论文、写代码、跑实验,向上游的"下一步最值得获取什么证据"推进。
MDA 把实验设计变成可由自动微分求解的优化问题,代表了 AI 科研方法 从"执行科研"到"决策科研"的转折;它与 Deli Auto Research v2 的持续学习自改进 同属 Auto Research 的演化分支,一个解决实验选择,一个解决能力自增强。
→ 原文存档