探索 GPU 加速向量检索：NVDIA Cagra 在微信大规模推荐系统中的应用实践¶

Ch01.1052 探索 GPU 加速向量检索：NVDIA Cagra 在微信大规模推荐系统中的应用实践¶

📊 Level ⭐⭐ | 6.0KB | entities/探索-gpu-加速向量检索nvdia-cagra-在微信大规模推荐系统中的应用实践.md

探索 GPU 加速向量检索：NVDIA Cagra 在微信大规模推荐系统中的应用实践¶

来源: 腾讯技术工程

发布日期: 2026-03-20

原文链接: https://mp.weixin.qq.com/s/HY4uf9_WS7TULgEye--Oiw

作者: yessitkong (微信基础架构 AI Infra 团队)

引言¶

在当今的互联网服务架构中，向量检索技术已成为推荐系统、搜索引擎、内容匹配等核心业务场景的关键组件。随着深度学习模型的广泛应用，如何在海量向量数据中高效进行近似最近邻（Approximate Nearest Neighbor, ANN）搜索，直接影响着在线服务的用户体验和业务效果。

Cagra（CUDA Accelerated Graph-based Retrieval Algorithm）是 NVIDIA 推出的基于 GPU 加速的图索引 ANN 算法，也是 RAPIDS cuVS 库的核心组件之一。与过去业界广泛使用的传统 CPU-based ANN 算法（如 HNSW、IVF 等）相比，Cagra 充分利用了 GPU 的强大并行计算能力，在保持高召回率的同时，能够提供显著更高的吞吐量，满足不同业务对高性能、低成本的极致要求。

本文将分享我们团队如何攻克多项工程难题， 在业界率先将 Cagra GPU 图索引大规模应用于核心线上推荐业务 的技术实践与架构演进。

Cagra 算法原理与核心优势¶

核心技术原理

Cagra 采用基于图的索引结构，其核心思想是将向量数据构建成一个近似 -近邻图（ -NN graph），然后在查询时通过启发式图遍历算法快速定位最近邻向量。

与传统的 HNSW 算法相比，Cagra 的结构设计针对 GPU 架构进行了深度定制，主要区别在于：

• 单层图结构 ：Cagra 采用单层图设计，摒弃了 HNSW 复杂的的多层分层结构，更利于显存的连续访问。

• 固定出度 ：Cagra 每个节点的出度固定，而 HNSW 的出度只需小于等于给定值，这使得 GPU 上的内存分配和线程调度更加规整。

批量化检索 ：HNSW 每次选取一个点遍历邻点并加入候选集；而 Cagra 每次会同时从候选集中选择

个未扩展的点进行并发扩展，然后统一更新候选集，极大地提升了并行度。

为了在 GPU 上实现更高的并行度与准确率，Cagra 在构建图时需要权衡两个关键指标：

• 全图连通性 ：由于采用单层图设计且检索起始点选取较随机，必须确保所有节点双向连通，这是保证最终准确率的前提。

• 遍历效率优化 ：在高维数据图的遍历中，CPU 侧通常依赖 hubs（高度连接的节点）来加速收敛。但在 GPU 场景下策略截然相反：GPU 采用分批处理机制，访问节点集合扩散得越快，越能发挥并行优势。因此，减少对 hubs 的重复遍历、让节点访问更加均匀分散，反而能加快查询收敛速度。

线上化改造与工程实践¶

由于 Cagra 诞生之初更侧重于离线大规模场景，为了将其适配到严苛的线上高并发服务中，我们与 NVIDIA 技术团队进行了深入的探讨，并对底层逻辑进行了大量优化。

1. 适应生产环境的建图优化

原论文采用 NNDescent 算法构建正向图，反转得到反向图后合并，再根据“2跳可达点数”对边进行排序和裁剪。然而在实际应用中，这种建图方式过度依赖大容量的 Pinned Memory（锁页内存），难以在标准的

→ 原文存档

关联¶

• 相关概念: Harness Engineering