NVIDIA可以通过采用以太网大幅降低Blackwell 的开发成本
芯片设计巨头、Tenstorrent 现任首席执行官 Jim Keller 对 NVIDIA 最近宣布的Blackwell GPU 架构研发投入 100 亿美元做出了回应,他认为,只要改变互连方法,他们就可以节省数十亿美元
Keller 认为 GB200 GPU 应该使用以太网协议芯片到芯片连接,这将为 NVIDIA 及其硬件用户提供许多成本优势。
对于 Blackwell 互连,NVIDIA 使用其专有的低延迟第五代 NVLINK(与具有 CXL 协议的 PCIe 竞争)互连技术进行芯片到芯片和服务器到服务器的通信。专有的 InfiniBand 连接用于上层通信。虽然NVLINK在带宽、延迟和可扩展性方面比其他方法具有显着优势,但它是一种“专有”方法,与其他制造商的硬件不兼容,这对用户来说不是问题,但在移植时却是一个缺点;来自 NVIDIA 平台的软件。另一方面,可以说NVIDIA正试图通过此举来锁定客户。
另一种选择是以太网互连。以太网虽然更具成本效益,但有潜力打破 NVLINK 的专有地位,并最终提供更好的生态系统。问题是,就性能数据而言,以太网仍然不如 NVIDIA 的 NVLINK 与 InfiniBand 的结合。
在性能方面,以太网(尤其是下一代400GbE和800GbE)可以与InfiniBand(高达200GbE)竞争。然而,InfiniBand 在 AI 和 HPC 功能以及卓越的尾部延迟方面仍然具有优势。这可能会迫使一些人为 AI 和 HPC 应用选择 NVLINK。
但以 AMD、博通、英特尔、Meta、微软和甲骨文为首的行业正在开发超以太网互连技术,该技术有望为人工智能和高性能计算通信提供更高的吞吐量和功能。当然,针对这些类型的工作负载,Ultra Ethernet 将成为 NVIDIA InfiniBand 更有效的竞争对手。
以太网络将贡献几十亿美金收入
老黄:Spectrum-X正在与多家客户进行量产, 其中包括一个10万GPU的大型集群。预计 Spectrum-X 将在一年内跃升为价值数十亿美元的产品线。
(个人判断,Spectrum未来空间一点不比IB小,前面几年训练阶段IB独领风骚,进入大规模推理部署RDMA更被普遍接受。而英伟达反而成为目前AI Cloud 以太网络设备目前可能收入第一大厂商....是不是反常识)
以太网概念股有哪些上市公司:共进股份、锐捷网络 、紫光股份 盛科通信 菲菱科思(来自韭研公社APP)