黄仁勋:网络领域投资回报率高,英伟达提供NVLink等三类网络技术

黄仁勋:网络领域投资回报率高,英伟达提供NVLink等三类网络技术

近日 , 英伟达创始人、总裁兼首席执行官黄仁勋出席公司第二季度财报电话会议 , 解读财报要点并回答分析师提问 。 在回答富国银行分析师Aaron Rakers的提问时 , 黄仁勋介绍了英伟达公司提供的三类网络技术 , 包括负责纵向扩展的 NVLink 、负责横向扩展的 Spectrum X 与 InfiniBand 、负责跨域扩展的Spectrum XGS 。
他指出 , 选择合适的网络技术能显著提升性能与吞吐量 , 这是英伟达在网络领域投入巨大资源的原因 。 比如 , 一座吉瓦级 AI 工厂的投入约为 500 亿美元 , 若能通过网络技术将工厂效率提升十几个百分点 , 就能带来 100 亿至 200 亿美元的实际收益 , 投资回报率极高 。

以下是问答实录:
富国银行分析师Aaron Rakers:我想回到本周发布的 Spectrum XGS 产品上 , 目前公司的以太网产品年化收入已突破 100 亿美元 。 想请教管理层 Spectrum XGS 的市场机遇在哪里?我们是否可以将其定位为 “数据中心互联(DCI)解决方案”?另外 , 在整个网络产品组合中 , 您对这一产品的市场规模有何判断?
黄仁勋:我们目前提供三类网络技术 , 分别对应 “纵向扩展(scale up)”“横向扩展(scale out)” 和 “跨域扩展(scale across)” 三种场景 。
首先是纵向扩展 , 目的是构建尽可能强大的虚拟 GPU。 NVLink 技术在这方面具有革命性意义:正是 NVLink 72 的推出 , 让 Blackwell 平台相比采用 NVLink 8 的 Hopper 平台实现了代际飞跃 。 当前 , 随着深度思考模型、智能体 AI 和推理系统的发展 , NVLink 的核心作用是提升内存带宽 , 这对推理系统至关重要 , 因此 NVLink 72 的价值极为突出 。
其次是横向扩展 , 我们为此提供两类技术方案 。 其中一类是 InfiniBand(无限带宽技术) , 它无疑是延迟最低、抖动最小、横向扩展能力最强的网络技术 。 不过 , 该技术对网络管理专业度要求较高 , 对于超级计算场景及顶尖模型研发团队而言 , 量子 InfiniBand 是无可争议的首选 。 如果对 AI 工厂进行性能基准测试 , 会发现搭载 InfiniBand 的工厂性能表现最佳 。 第二类是针对已大规模部署以太网的客户 , 我们推出了定制化的 Spectrum 以太网 , 它并非通用型产品 , 而是集成了低延迟、低抖动、拥塞控制等一系列新技术 , 性能能无限接近 InfiniBand , 也就是我们所说的 Spectrum X 以太网 。
最后是跨域扩展 , 对应的产品就是 Spectrum XGS , 它是面向 “吉瓦级” 场景的技术 , 可将多个数据中心、多个 AI 工厂连接成一个 “超级工厂”的巨型系统 。
显然 , 网络技术在 AI 工厂中至关重要 。 事实上 , 选择合适的网络技术能显著提升性能与吞吐量 , 比如将效率从 65% 提升至 85% 甚至 90% , 这种性能飞跃相当于让网络方面的投入近乎为零 。 要知道 , 一座吉瓦级 AI 工厂的投入约为 500 亿美元 , 若能通过网络技术将工厂效率提升十几个百分点 , 就能带来 100 亿至 200 亿美元的实际收益 , 投资回报率极高 。 这也是英伟达在网络领域投入巨大资源的原因 , 包括我们在五年半前收购迈络思(Mellanox)也是出于这一战略考虑 。
【黄仁勋:网络领域投资回报率高,英伟达提供NVLink等三类网络技术】正如我们之前提到的 , Spectrum X 目前已成为规模可观的业务 , 而它推出才不过一年半时间 , 堪称爆款产品 。 未来 , 上面提到的三类网络技术——包括 NVLink 负责纵向扩展、Spectrum X 与 InfiniBand 负责横向扩展、Spectrum XGS 负责跨域扩展——都将拥有广阔市场前景 。

    推荐阅读