NVIDIA 开源 Molt:8600 行 RL 代码训万亿 MoE 模型¶
Ch01.271 NVIDIA 开源 Molt:8600 行 RL 代码训万亿 MoE 模型¶
📊 Level ⭐ | 0.8KB |
entities/nvidia-molt-agentic-rl-framework-8k-lines.md-> 原文存档
NVIDIA 开源 Molt(github.com/NVIDIA-NeMo/labs-molt),OpenRLHF 作者 Jian Hu 新作。slogan:agentic-first、PyTorch 原生,约 8.6K 行 RL 代码训 700B+ 级别模型,不依赖 Megatron。
来源¶
- 原文: NVIDIA 开源 Molt:8600 行 RL 代码训万亿 MoE 模型
- 原始链接: : https://mp.weixin.qq.com/s/H0Qxf_htRS6i3_zmPXF6jQ