异动
登录注册
“以太网”或助力英伟达算力
题材挖掘大师
中线波段的韭菜种子
2024-05-23 18:51:08
“以太网”或助力英伟达算力

NVIDIA可以通过采用以太网大幅降低Blackwell 的开发成本

芯片设计巨头、Tenstorrent 现任首席执行官 Jim Keller 对 NVIDIA 最近宣布的Blackwell GPU 架构研发投入 100 亿美元做出了回应,他认为,只要改变互连方法,他们就可以节省数十亿美元

Keller 认为 GB200 GPU 应该使用以太网协议芯片到芯片连接,这将为 NVIDIA 及其硬件用户提供许多成本优势。

对于 Blackwell 互连,NVIDIA 使用其专有的低延迟第五代 NVLINK(与具有 CXL 协议的 PCIe 竞争)互连技术进行芯片到芯片和服务器到服务器的通信。专有的 InfiniBand 连接用于上层通信。虽然NVLINK在带宽、延迟和可扩展性方面比其他方法具有显着优势,但它是一种“专有”方法,与其他制造商的硬件不兼容,这对用户来说不是问题,但在移植时却是一个缺点;来自 NVIDIA 平台的软件。另一方面,可以说NVIDIA正试图通过此举来锁定客户。

另一种选择是以太网互连。以太网虽然更具成本效益,但有潜力打破 NVLINK 的专有地位,并最终提供更好的生态系统。问题是,就性能数据而言,以太网仍然不如 NVIDIA 的 NVLINK 与 InfiniBand 的结合。

在性能方面,以太网(尤其是下一代400GbE和800GbE)可以与InfiniBand(高达200GbE)竞争。然而,InfiniBand 在 AI 和 HPC 功能以及卓越的尾部延迟方面仍然具有优势。这可能会迫使一些人为 AI 和 HPC 应用选择 NVLINK。

但以 AMD、博通、英特尔、Meta、微软和甲骨文为首的行业正在开发超以太网互连技术,该技术有望为人工智能和高性能计算通信提供更高的吞吐量和功能。当然,针对这些类型的工作负载,Ultra Ethernet 将成为 NVIDIA InfiniBand 更有效的竞争对手。

以太网络将贡献几十亿美金收入

老黄:Spectrum-X正在与多家客户进行量产, 其中包括一个10GPU的大型集群。计 Spectrum-X 将在一年内跃升为价值数十亿美元的产品线。

(个人判断,Spectrum未来空间一点不比IB小,前面几年训练阶段IB独领风骚,进入大规模推理部署RDMA更被普遍接受。而英伟达反而成为目前AI Cloud 以太网络设备目前可能收入第一大厂商....是不是反常识)



以太网概念股有哪些上市公司:共进股份、锐捷网络 、紫光股份 盛科通信 菲菱科思(来自韭研公社APP)

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
共进股份
S
紫光股份
S
森远股份
工分
3.15
转发
收藏
投诉
复制链接
分享到微信
有用 4
打赏作者
无用
真知无价,用钱说话
1个人打赏
同时转发
评论(2)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    05-24 08:46
    昨天早上好多人在推了,市场咋没啥反应
    0
    0
    打赏
    回复
    投诉
  • 挖挖机
    一路向北的公社达人
    只看TA
    05-23 19:20
    感谢,盛科和裕科微今天已经反应了,还没发酵,明天关注下
    0
    0
    打赏
    回复
    投诉
  • 1
前往