AID | 让样本主动“找难点”：RAMS提升偏微分方程科学机器学习的精度与效率¶

Ch01.1058 AID | 让样本主动“找难点”：RAMS提升偏微分方程科学机器学习的精度与效率¶

📊 Level ⭐⭐ | 5.9KB | entities/aid-rams-偏微分方程科学机器学习.md

RAMS：让样本主动"找难点"，提升偏微分方程科学机器学习的精度与效率¶

PaperWeekly 解读了耶鲁大学 Lu Lu 团队发表于《Advanced Intelligent Discovery》的论文《RAMS: Residual-Based Adversarial-Gradient Moving Sample Method for Scientific Machine Learning in Solving Partial Differential Equations》（作者 Weihang Ouyang、Min Zhu、Wei Xiong、Si-Wei Liu、Lu Lu；DOI 10.1002/aidi.202500214）。RAMS 不再依赖在高维空间中反复生成海量候选样本，而是把样本本身作为可训练参数，使其沿着增大 PDE 残差的方向主动迁移，以较低额外开销把有限样本送到模型当前最需要学习的位置。RAMS 不是取代现有采样策略的独立方案，而是可插拔的增强模块，可结合随机采样、拉丁超立方、Halton 序列、RAR-G、RAR-D、R3 等方法，并扩展到物理信息与数据驱动的算子学习。

研究背景与核心思想¶

物理信息神经网络（PINN）和神经算子为流体、传热、波传播等 PDE 求解提供了数据驱动工具，但都高度依赖训练样本：样本过少难以覆盖解的局部尖峰、间断或多尺度结构，样本过多又显著增加数据生成和训练成本。现有自适应方法通常先生成大量候选点、再把采样密度提高到高残差区域，在低维问题上有效，但随着维度上升候选空间迅速稀疏、搜索成本急剧增加；对神经算子而言输入函数常被离散为高维向量，"生成并筛选候选样本"更难直接推广。RAMS 的核心思想是把空间-时间坐标或输入函数样本本身视为可训练参数：在模型训练间隙固定网络参数，沿物理残差对样本的梯度方向执行梯度上升，使样本主动移动到当前模型最难满足控制方程的区域；若样本离开允许范围，通过投影或核平滑映射回有效空间。在数据驱动场景中，RAMS 利用 PDE 残差移动待采集的输入函数，再调用数值求解器或实验获得标签，形成面向科学机器学习的主动学习流程。

关键实验结果¶

在一维 Burgers 方程中，加入 RAMS 后随机采样的平均相对 L2 误差由 0.181 降至 0.010，下降超过一个数量级；一维波动方程中各采样方法的误差平均降低超过 50%；具有尖锐内峰的二维 Poisson 问题误差降低约 40%–95%。RAMS 样本移动步骤的平均耗时均低于总运行时间的 2%，增益并非来自增加计算预算。二维 Poisson 算例直观展示机制：初始样本近似均匀分布，随训练推进可移动样本逐渐向 (0.5, 0.5) 附近的尖锐内峰聚集——基于梯度的定向迁移能以有限样本持续追踪高残差区域。

高维与算子学习中的效率优势¶

在最高 10 维的 PDE 上使用相同的 2 万个配点时，普通随机采样在维数不小于 7 时误差接近 1，而 RAMS 在 10 维时仍将误差保持在 10⁻² 以下；为达到相对均方误差不高于 10⁻³，6 维问题中普通随机采样耗时约 19,861 秒而 RAMS 约 829 秒，RAMS 的成本随维度近似线性增长（10 维约 1,529 秒）。物理信息算子学习中，扩散-反应方程困难测试集上随机采样的平均误差由约 0.25 降至 0.08；8 维动态系统中 RAMS 仅用 DAS²（深度自适应采样）约 3% 的样本即可达到相近精度。数据驱动算子学习中，含不连续波速的波动方程误差最多降低 63%，二维 Burgers 方程误差约降低 40%。

RAMS 把"样本从哪里来"转化为一个可由自动微分求解的优化问题——不必盲目扩大候选池，而是让现有样本沿模型的物理薄弱方向移动，兼容多种采样策略，适用于 PINN、物理信息神经算子和数据驱动神经算子，在较小额外开销下同时提升精度与样本效率。论文也指出样本更新次数并非越多越好，迭代步数及不同样本空间中的投影方式仍需针对问题调节；未来计划探索 RAMS 在可同时求解多类 PDE 的基础模型训练中的应用。这与 AI 科研方法中"用算法替代人工试错"的趋势一致：RAMS 把采样策略从经验规则变成可微优化，与多模态预训练中的物理知识流动共同代表了物理与机器学习融合的两种路径——一个从样本端提升数据效率，一个从表示端注入物理先验。

RAMS 的"残差驱动对抗梯度"思路与清华 AIR 的 AI 数学家等科研工具一样，体现了"让模型在自身薄弱处学习"的自适应思想在数学与科学计算领域的扩散；对高维问题近似线性的成本增长，则回应了科学机器学习从低维演示走向高维应用的核心瓶颈。

→ 原文存档