跳转至

不用人类手写训练框架了!AI自己写代码,训出1B端侧「小钢炮」

📊 Level ⭐⭐ | 5.8KB

来源:机器之心(2026-05-26)| 原文存档:原文存档

深度分析

本文报道面壁智能于 2026 年 5 月 25 日开源 MiniCPM5-1B 端侧文本模型及 ForgeTrain 训练框架。核心看点:1B 参数模型刷新 AA-Index 小尺寸模型榜单(17.9 分,超越 Qwen3.5-2B 的 16.3 分);ForgeTrain 是全球首个完全由 AI 编写并投入生产使用的大模型训练框架,标志着「AI 制造 AI」从算法研究进入基础设施粒度的真实验证。

MiniCPM5-1B:智能密度的新纪录

面壁自 2024 年 2 月起持续迭代 MiniCPM 系列,本次发布的 MiniCPM5-1B 在 AA-Index 上以 1B 参数取得 17.9 分,位列小尺寸模型第一,超越所有 2B 以下模型。相比 3 个月前的 Qwen3.5-2B(16.3 分),参数量减少一半但分数更高。

核心验证了面壁提出的密度定律:大模型的智能密度以约每 3.5 个月翻一番的速度持续提升。更小的模型正在承载更高的智能密度。

部署规格: - FP16:约 2GB,适合 GPU 高端笔记本和服务器 - INT8:约 1GB,几乎无性能损失,覆盖主流笔电和边缘计算盒子 - INT4/Q4:仅 0.5GB,手机、平板、车机都能跑 - 支持纯 CPU 运行和浏览器部署

ForgeTrain:AI 自己写的生产级训练框架

ForgeTrain 是全球首个完全由 AI 编写的生产级大模型训练框架(类 Megatron),构成它的每一行代码没有人类工程师参与。

关键特征: - 使用 Harness + Agent Loop 技术,Agent 一旦开始编写代码,无需人类介入 - 需要处理分布式训练、并行策略、显存管理、通信效率、算子调用、硬件适配和训练稳定性——任何细节出错都可能让一次预训练消耗大量算力

性能结果: - 英伟达 H100 GPU 上,训练效果与 Megatron 对齐,速度领先 10% - 华为昇腾适配:相比 MindSpeed 有 10% 加速 - 同等算力下训练成本降低约 10%

这标志着「AI 制造 AI」从算法层面(AutoResearcher 等)进入生产级基础设施粒度的真实验证。

「锻造工程」(Forge Engineering)范式

ForgeTrain 背后是面壁首创的 Forge Engineering 软件范式:不是维护一个通用框架,而是让 AI 为每一款芯片、每一个模型「现场锻造」出专属的高效软件。

这一范式对国产芯片生态有特殊意义:未来国产芯片的软件生态或许不再需要完全依赖人力去一点点修补和追赶,而可以由 AI 快速「锻造」出来。

UltraData:模型变小后,数据质量变得更关键

面壁同步开源了高质量预训练数据集 UltraData(含 Ultra-FineWeb-L3)。面壁建立了 L0-L4 分级数据治理体系,对高知识密度的中文网页、英文网页和数学语料进行大量数据合成。

判断:单纯扩大数据规模的边际收益在下降,模型能力的提升越来越依赖数据质量而非数据数量。对 1B 级模型来说,什么数据进入训练集、数据如何配比、低质量数据如何剔除,直接影响最终能力。

与现有 MiniCPM 体系的关系

面壁 MiniCPM 系列演进: - 2024 年 2 月 MiniCPM 2.4B 超越 Mistral-7B - MiniCPM 3.0:4B 超越 GPT-3.5,量化后仅 2GB - MiniCPM 4.0:稀疏架构,22% 训练开销追平 Qwen3-8B,600 Token/s 极速推理 - MiniCPM5-1B:1B 体量超越所有 2B 以下模型,Base Model 由 ForgeTrain 锻造

MiniCPM5-1B 的特殊之处: 1. 能力更强,用 1B 体量实现对同级甚至更高级模型的性能超越 2. 出身不同,其基座模型版本由 AI 自己编写的训练框架 ForgeTrain 锻造而成

实践启示

  1. 关注端侧模型的智能密度趋势:1B 模型已经开始超越 2B 模型,密度定律意味着更小的模型会越来越强。在选型时不应只看参数大小,要看智能密度。
  2. ForgeTrain 验证了 AI 编写生产级系统软件的可行性:Harness + Agent Loop 可以替代人类编写分布式训练框架,且 10% 的性能优势在预训练规模上有显著成本意义。
  3. 国产芯片适配有新路径:Forge Engineering 范式可能让 AI 快速为每款国产芯片锻造配套软件,降低对人力维护的依赖。
  4. 小模型的数据质量是关键:1B 级模型的训练数据质量(筛选、配比、去噪)比大模型更关键,需要系统性的数据治理体系。
  5. 端侧部署生态已成熟:INT4/Q4 仅 0.5GB、手机平板车机都能跑,支持纯 CPU 和浏览器部署,门槛已大幅降低。

相关实体

→ 原文存档