推荐系统进入大模型时刻：昇腾 NPU 如何支撑千亿级生成式推荐落地¶

📊 Level ⭐⭐⭐⭐ | 23.9KB

概述¶

华为基础大模型部主任工程师郭威在 2025 AICon 大会上分享了昇腾 NPU 支撑千亿级生成式推荐落地的完整技术路径。继 Meta 2024 年 2 月发布 HSTU（Hierarchical Sequential Transformer Architecture）之后，推荐系统领域正式迎来了属于自己的"ChatGPT 时刻"——生成式推荐系统同样具备。

技术演进脉络¶

2024 年之前的深度学习推荐技术¶

推荐系统技术演进存在两条并行路径：

特征交叉建模：以 DeepFM、DCN 等模型为代表，通过深度网络自动挖掘或人工构造高阶交叉特征
行为序列建模：早期聚焦短序列建模（DIN），2021-2022 年长序列建模成为热点，采用两阶段检索方式

生成式推荐系统阶段¶

同样分两条路径演进：

端到端模型 Scaling Law：以探索模型规模上限为核心，单一大模型替代召回、粗排、精排、重排多环节架构
大语言模型重构技术底座：2025 年下半年起逐步获得业界重视，搭建用户行为与大模型的对齐表征空间

2025 年三大显著趋势¶

模型结构持续创新：HSTU 序列规模化 → RankMixer 特征交互规模化 → OneTrans/Meta GEM 融合规模化
训练范式革新：从单阶段建模 → 多阶段联合训练（华为 UniGRF、快手 OneRec、腾讯 GPR）
训练方式：从"从零训练" → 基于大语言模型增量式训练（谷歌 PLUM、快手 OneRec-Think）

模型架构探索：FuXi-α、β 系列¶

核心发现¶

Meta 发布 HSTU 后，实验发现：SASRec 和 GPT 在推荐系统场景中不具备规模化效应；而 Llama 和 HSTU 则能够呈现该效应。

关键原因：残差连接方式与归一化策略起着决定性作用。Llama 和 HSTU 将归一化置于注意力机制之前，使特征分布更加稳定与均匀，从而更好支持大规模模型训练。

FuXi-Alpha 架构¶

核心设计理念：特征交互增强

引入自适应多通道显式特征交互增强机制：将语义、时间、位置信息构建三个独立通道分别开展特征交叉操作，后续进行拼接处理，可更完整地保留多维特征的表达能力。

设计并引入多阶段前馈网络（FFN）：

第一阶段：多通道信息的深度融合
第二阶段：隐式特征的交叉建模

核心优势：

确保特征交叉建模的充分性
FFN 核心操作主要基于矩阵乘法，具有极高的硬件计算亲和性，可有效提升模型的 MFU（Model FLOPS Utilization）

实验结果：

在 2 层及 8 层配置下，FuXi Alpha 均展现出优于 Llama 与 HSTU 的性能表现
已成功验证至 32 层
歌曲播放次数提升 4.67%，播放时长增长 5.1%

Attention Map 可视化分析：

语义通道的最大注意力权重仅为 0.07
时间通道：0.15
位置通道：0.25
时间通道呈显著全局性高权重分布特征
结论：在推荐场景中，时间与位置信息比语义信息更重要

通道消融实验结论：

移除语义通道：不仅未导致性能下降，反而带来了轻微的效果提升
移除位置通道：整体性能基本保持稳定
移除时间通道：会导致模型效果显著下降
仅保留单一通道：模型精度出现明显退化

FuXi-Beta 架构¶

核心优化方向：去除语义通道 + 幂函数替代 RAB 分桶

去除语义通道的原因：

语义通道具有 O(n²) 的计算复杂度
当序列长度扩展至千级甚至万级时，计算开销迅速放大
注意力权重仅 0.07，贡献度低

幂函数替代 RAB（Relative Attention Bias）分桶：

传统 RAB 实现涉及大量非连续内存访问与索引操作，内存访问开销在推理耗时中占比接近 40%
幂函数在刻画相对位置偏置时与原始分桶分布最为接近，尤其在序列后段的长尾区域，拟合效果更稳定
实验结果：在推荐任务评测中，基于幂函数的建模方式整体效果与原始分桶函数持平，甚至在部分指标上呈轻微提升

训练范式探索：多阶段统一建模¶

问题背景¶

传统推荐系统多阶段流水线（召回、粗排、精排）存在两个核心问题：

前序阶段的输出质量直接决定后续环节的性能上限
各阶段模型结构与优化目标不统一，在候选集传递过程中不可避免产生信息损失

统一建模的挑战¶

模型结构的本质差异：召回阶段通常采用双塔架构（DSSM），精排阶段多采用单塔结构
优化目标不一致：召回环节多以 BPR 等 Pairwise Loss 为主，精排环节则普遍采用 Pointwise Loss

生成式推荐统一建模思路¶

核心思路：将原本异构的召回与精排环节统一建模为 "Next Item Prediction" 任务。

关键障碍——推荐系统中的"单轮训练（One-Epoch）"现象：

精排任务：完成一个训练轮次后模型精度即达到峰值，随后进入过拟合状态
召回任务：精度随训练轮次增加而稳步提升，即使经过数百甚至上千次迭代仍保持上升趋势
原因：损失函数的不一致性（InfoNCE vs Log Loss）

解决方案¶

第一步：从样本空间的维度对召回与精排阶段进行统一对齐。

将召回阶段评分较高但精排评分较低的样本作为困难负样本反馈给召回任务
将精排评分高但用户实际未交互的样本作为正样本引入下一轮召回训练

第二步：引入梯度引导的自适应权重机制。

实时监控训练过程中召回与精排损失的梯度动态
自动调整各任务在总损失中的权重比例
通过多任务正则化路径实现联合训练稳定收敛

实验结果：引入数据一致性策略与损失正则化后，模型性能随训练轮次增加呈稳步上升趋势，在召回与精排各项指标上均显著优于传统单阶段独立模型。

超参数寻优 & Performance Law¶

传统 Scaling Law 在推荐场景的局限性¶

信息量不均：推荐系统中的用户行为序列在信息量上存在显著差异，单纯套用 token 建模逻辑会导致规模化效应失效
词表规模量级差距：语言模型词表通常在十万量级，推荐系统涉及词表达到千万甚至亿级
Loss 与效果不线性：极低的损失值往往可能源于过拟合，并不一定能转化为实际业务效果的提升

Performance Law¶

引入"真实熵"（Real-world Entropy）：

利用 Lempel-Ziv (LZ) 压缩算法估算真实熵
通过统计序列中非重复子序列的数量来表征信息量
熵值越高，代表数据的信息密度与质量越高

公式重构：引入综合考量数据质量的有效数据量参数 D'，将真实熵作为核心变量整合进规模化预测模型，并引入衰减项解决模型参数过度增加时触发过拟合导致性能下滑的问题。

实验结果：

未引入真实熵及衰减项时，语言模型规模化定律对推荐系统的拟合系数仅为 0.18
整合后，拟合系数大幅提升至 0.92
R² 从 0.8776 提升至 0.9881

意义：首次实现了对模型损失与实际效果的高精度拟合，诞生了推荐系统领域首个能够准确衡量模型效果与参数关系的工具——Performance Law。这是推荐系统规模化研究的重要里程碑。

下一步研究方向：将算子粒度的硬件仿真与精度建模相结合，解决当前 Performance Law 主要侧重精度预测而忽略计算效率维度的问题。

训推系统优化¶

训练侧优化¶

高效融合算子：HSTU、FuXi、RAB 等核心算子已开源
稀疏与稠密混合并行策略：PB 级稀疏 Embedding 与百亿级稠密参数并存
Jagged 计算架构：针对序列长度分布极不均匀（峰值 1000，均值仅 200）的特征，从特征处理到模型计算的全链路优化，消除填充冗余

推理侧优化¶

P/D 分离部署架构：针对海量用户产生的 PB 级缓存，采取差异化计算策略
高活跃及长序列用户：启用缓存机制
短序列用户：采用实时计算方案
混合精度技术：有效降低推理过程中的计算成本与响应时延
动态 Batching 策略：自适应调整批大小，化解长尾分布带来的负载失衡

性能数据¶

基于昇腾 910B 构建的 128 卡集群：

训练时模型算力利用率（MFU）已超过 40%
线性加速比优于 0.9

展望：超节点架构¶

超节点架构核心优势：

拥有超大容量的共享内存池与卓越的 AI 算力
超高带宽与低时延，彻底消除跨机多卡分布式架构的性能瓶颈
混合超级点充沛的 AI 算力，能够有效支撑高并发与低时延的推理需求

总结¶

推荐系统技术演进规律：

时代	核心特征
逻辑回归时代	复杂的特征工程 + 简单的模型结构
深度学习时代	模型结构创新减少对人工特征的依赖（DeepFM、DCN），2017-2018 百花齐放
2021 年前后	模型结构边际效益显著递减，回归精细化特征工程（ETA、CAN）
生成式推荐时代	以"强算力、强模型"为核心的单向路径

核心观点：生成推荐范式告别了过去"特征工程"与"模型结构"互为拉锯、螺旋式上升的模式，转而走向收敛。未来趋势全面聚焦于"强算力"与"强模型"的深度融合。

深度分析¶

1. 推荐系统 Scaling Law 的发现标志着该领域进入"工程化大模型"阶段

华为郭威团队的发现具有划时代意义：Meta HSTU 证明推荐系统同样具备 Scaling Law，但传统 LLM Scaling Law 直接套用到推荐场景时拟合系数仅为 0.18（几乎随机）。这说明推荐系统的规模化规律与语言模型有本质差异：用户行为序列的信息量极不均匀（不像文本 tokens 相对均匀），词表规模差距高达两个数量级（千万至亿级 vs 十万级），且 Loss 与实际效果的关系是非线性的（低 Loss 可能意味着过拟合而非好模型）。华为 Performance Law 将拟合系数从 0.18 提升至 0.92、R² 从 0.8776 提升至 0.9881，意味着企业第一次能够准确预测模型 scaling 的业务效果。这将改变推荐系统研究的范式：从"调参试错"向"可预测的规模化"转型。对产业而言，模型 scaling 投资回报率从此可被量化计算。

2. 时间与位置特征主导推荐序列，语义通道是"伪需求"——这对推荐系统特征工程有根本性启示

FuXi-Alpha 的 Attention Map 可视化是理解推荐系统特征重要性的关键实证：语义通道最大注意力权重仅 0.07，时间通道 0.15，位置通道 0.25。通道消融实验进一步确认——移除语义通道不仅未导致性能下降，反而带来了轻微提升。这意味着当前推荐系统社区对"语义理解"的追求可能存在方向性偏差：真正的效果杠杆在用户行为的时间模式和位置（序列中的上下文）模式，而非内容的语义匹配。华为选择去除语义通道（O(n²) 复杂度，贡献度最低）是工程理性与实验验证共同驱动的结果。这对推荐算法工程师的启示是：应该投入更多精力在时间序列建模（如 position encoding 改进）和行为模式挖掘上，而非一味追求更复杂的语义embedding。对搜索和推荐系统的特征重要性排序需要重新评估。

3. 多阶段统一建模的"单轮训练（One-Epoch）"问题揭示了召回与精排的本质冲突

传统推荐系统多阶段流水线（召回→粗排→精排→重排）的信息损失问题被华为团队深入剖析，但更关键的发现是 One-Epoch 现象：精排任务在完成一个训练轮次后即达到峰值并进入过拟合，而召回任务却能持续训练数百甚至上千轮且精度持续提升。根本原因在于损失函数的不一致性：精排使用 Log Loss（pointwise），召回使用 InfoNCE（pairwise）。这意味着两个任务不仅模型结构不同，优化动态也根本不同——强行统一训练会遇到"一个任务收敛时另一个还在发散"的困境。华为的解决方案（困难负样本反馈 + 梯度引导自适应权重）在实验层面解决了这一问题，但其工程复杂度也相当高（需要实时监控梯度动态并动态调整损失权重）。这一发现提示我们：生成式推荐的"端到端大一统"模型在工程落地上的挑战可能比学术论文描述的更大，不是简单用一个 Transformer 替换多阶段流水线就能解决的。

4. 幂函数替代 RAB 分桶的工程实践验证了"算法简化→硬件亲和"路径的普适性

华为 FuXi-Beta 用幂函数替代 RAB 分桶操作，不仅精度持平甚至轻微提升，更重要的是解决了推理阶段 40% 的内存访问开销问题。这与华为在昇腾 NPU 上优化 HSTU、FuXi、RAB 等融合算子的策略一脉相承——在保持模型效果的前提下，用硬件亲和的计算模式替换不友好的内存访问模式。128 卡集群 MFU 超过 40%、线性加速比优于 0.9 的性能数据证明：昇腾 NPU 软件栈在大规模推荐模型训练场景已经具备与英伟达 GPU 竞争的能力。这对国内企业的启示是：在昇腾生态上进行推荐模型训练和优化是一条可行路径，而非被"卡脖子"限制的技术禁区。融合算子的持续开源（HSTU、FuXi、RAB）也降低了其他企业复现和改进的技术门槛。

5. 推荐系统的"强算力、强模型"收敛路径意味着算法工程师需要转型为系统工程师

华为总结的技术演进规律（逻辑回归→深度学习→精细化特征工程→生成式推荐）揭示了一个残酷的现实：算法结构创新的边际效益已经显著递减。2021 年前后回归 ETA、CAN 等精细化特征工程本身就是一个信号——模型结构创新已经无法独立驱动效果提升。而生成式推荐时代的"强算力、强模型"路径进一步明确了方向：未来的效果提升将更多来自训练基础设施（更大规模、更高效率的分布式训练）和推理基础设施（超节点架构、低时延推理），而非新的模型结构。这对推荐算法团队的人才培养方向有重要启示：下一个十年，真正稀缺的不是"能设计新模型结构的算法科学家"，而是"能把千亿参数模型高效训练起来并部署到生产环境的系统工程师"。昇腾 NPU 的 MFU 优化、超节点架构的探索，都指向这一方向。

实践启示¶

1. 在规划推荐系统新项目时，优先评估数据质量和真实熵，而非直接追求最大模型规模

华为 Performance Law 的核心发现是：数据信息密度对 scaling 效果有决定性影响，同样的模型规模在不同数据质量下的效果差异可能高达数倍（拟合系数从 0.18 到 0.92 的差距很大部分来自数据质量维度）。建议企业在启动新的推荐模型 scaling 项目前，首先使用 LZ 压缩算法对自己的用户行为序列数据进行真实熵评估。如果数据熵值低（即用户行为模式单一、信息密度不足），即使投入再多算力也很难突破效果瓶颈。此时的正确路径是先优化数据采集机制、提升数据质量，而非直接购买更多 GPU/NPU 进行模型放大。这一评估方法应该成为推荐系统 scaling 项目的标准前置流程。

2. 在特征工程资源分配上，大幅增加时间特征和位置特征的建模投入

实证数据显示时间通道注意力权重（0.15）是语义通道（0.07）的两倍以上，且移除时间通道会导致模型效果显著下降。这应该直接转化为工程实践中的资源重新分配：①在行为序列建模中，position encoding 的设计与实验应该获得与 semantic embedding 同等甚至更高的优先级；②时间窗口的划分方式（滑动窗口、衰减窗口等）值得做更多系统性消融实验；③序列中的位置关系（不仅是绝对位置，还包括相对位置）应该被显式建模。建议建立标准化的"特征重要性评估流程"，对每个新特征或特征工程改进都进行注意力权重分析和通道级消融实验，而非仅依赖离线指标（GAUC、CTR）的提升来判断。

3. 如果计划采购或自建千亿级推荐系统，优先考察供应商/团队的分布式训练工程能力

华为的 128 卡集群、40%+ MFU、0.9+ 线性加速比这些数字背后，是昇腾 NPU 软件栈、融合算子优化、Jagged 计算架构等系统性工程能力的综合体现。对于计划建设千亿级推荐系统的企业，这意味着：采购决策不应仅看"模型结构是否先进"（HSTU、FuXi 等结构已经公开，各家都能实现），而应重点评估"训练效率"（MFU）和"规模化稳定性"（线性加速比）。一个 MFU 只有 20% 的集群，即使规模再大，实际有效算力也可能不如一个 MFU 40% 的更小集群。建议在技术评估中设置 MFU 基线要求（如不低于 35%），并要求供应商提供 100+ 卡规模下的线性加速比实测数据。

4. 在召回-精排统一建模项目中，预先设计梯度监控和多任务权重动态调整机制

华为的多阶段统一建模方案中，梯度引导的自适应权重机制是解决 One-Epoch 问题的关键。企业在参考这一方案时，需要意识到其工程复杂度：需要实时监控召回和精排两个任务的梯度动态，自动判断收敛状态，并动态调整损失权重。这意味着推荐训练平台需要具备以下能力：①多任务梯度的实时采集和可视化；②梯度异常检测（某个任务梯度长时间不下降或出现梯度爆炸）；③权重调整策略的自动化配置。建议在训练平台建设初期就将多任务梯度监控作为核心功能需求，而非事后打补丁。同时，困难负样本的采样和反馈机制也需要配套的数据pipeline支持（华为方案中的"召回评分高但精排评分低的样本"需要两个模型的联合打分）。

5. 关注超节点架构在推理侧的战略价值，提前布局下一代推理基础设施

华为对超节点架构（共享内存池、超高带宽、低时延）的展望指向了推荐系统推理基础设施的未来方向。在超节点架构下，推荐推理的延迟将显著降低——这对高并发、低时延的在线场景（如信息流、广告、电商搜索）有直接业务价值。企业应该从现在开始关注超节点技术的发展动态，包括：①华为超节点产品的 roadmap 和合作方式；② 超节点与现有分布式架构（跨机多卡）的性能差距和迁移成本；③ 基于超节点的推理部署方案（昇腾 910B 向超节点升级的路径）。在模型训练侧已经投入昇腾生态的企业，超节点推理升级的技术连续性会更好。