AI时代浪潮汹涌,海量数据催生庞大的算力需求,带动AI服务器需求量与日俱增,用于服务器内、外部数据传输等接口芯片也随之攀升。
接口芯片在AI服务器数据传输中至关重要,NVDA预计2023H2大幅增加生成式AI及超算供应印证需求,接口芯片量价齐升趋势确定。国盛证券认为,接口芯片系IC设计皇冠之明珠,高垄断格局,国内接口芯片设计公司不断实现突破,有望在AI时代享受良好的竞争格局及更为广阔的市场空间。
AI服务器产业链拆解:AI服务器核心组件按价值量由高到低依次为GPU、DRAM、SSD、CPU、网卡、PCB、高速互联芯片和散热模组等。相较普通双路服务器,我们测算AI服务器核心器件单机价值量提升倍数由高到低依次为GPU(24x)、DRAM(5.3x)、板内互联接口芯片(3.3x)、电源管理(3x)、散热(3x)、PCB(2.4x)、网卡(2.2x)和SSD(2x)。
AI服务器的拆解可以知道,相比于普通服务器,AI服务器的核心器件单机价值都搞了几倍到几十倍,那么可以看到除了,板内互联接口芯片,其他PCB题材以金百泽代表的最近正在炒,之前散热液冷也炒作过一波,光模块持续炒作了几个月,但是成本不输于光模块比散热液冷单机价值搞几倍的接口芯片,一直没资金过多关注。这也是算力服务器领域仅存的黄金补涨板块,所以我肯定是看好接口芯片,而对于接口芯片,最近很多机构开始吹风,接口芯片被市场挖掘到之后肯定又是一波暴涨!而且接口芯片A股正宗的就那几个票,都不用过多挖掘浪费脑细胞。
接口芯片暴涨的逻辑非常简单,AI服务器中PCB的价值是1200美元,金百泽直接4个交易日翻倍。AI服务器中的散热液冷价值是600美元,高澜股份和曙光数创代表的液冷也是暴涨几倍。AI服务器中的光模块代表的网卡及光模块价值2000美元,长达几个月的光模块行情中诞生了剑桥科技、联特科技、中际旭创等一批牛股,而现在AI服务器中价值1400美元的接口芯片基本上没有太多资金关注,这本身就不合理。
随着英伟达GH200的发布,机构注意到了变化,并且开始重视接口芯片,短线资金并没有发现预期差,这也是值得博弈的预期差,无论是单机的价值还是成长潜力,接口芯片都不弱于光模块,可以秒杀散热模组和PCB,那么同理,如果AI服务器其他相关题材都被爆炒,那么接口芯片存在极大的暴涨潜力!
所以我这几天一直在强调接口芯片的逻辑和预期差,希望老师们重视这个题材,它是具备下一个光模块基础的算力核心题材之一!急待市场重估!
如果说AI服务器是一个人的话,GPU是人的大脑和心脏,存储芯片是人的肉身,接口芯片就是人体内的血管,它是连接人体各个器官平稳运转的关键,值得被市场重视!
5月 29 日,英伟达创始人兼CEO 黄仁勋在 NVIDIA Computex 2023 展前发布会上,正式发布全新 GH200 Grace Hopper 超级芯片,以及拥有 256个 GH200 超级芯片的 DGX GH200 超级计算机。
点评:
超级芯片 GH200 已全面投产,谷歌、微软、Meta 将率先获得。GH200超级芯片使用了 NVLink-c2c 互联技术,将一颗基于 ARM 节能的 72 核GraceCPU 和一颗高性能的英伟达 H100 GPU、96GB 的 HBM3 和 512GB的 LPDDR5X,通过 Chiplet 工艺集成到同一封装,以提供 CPU+GPU 一致内存模型,从而不再需要传统的 CPU 至 GPU PCIe 连接。GH200 超级芯片提供了高达 900GB/s 的总带宽,为某些内存受限的工作负载提供了巨大优势。相较 PCIe5,该芯片将 GPU 和 CPU 之间的带宽提高了 7 倍,将互连功耗减少了 5 倍以上。黄仁勋表示,GH200 Grace Hopper 超级芯片已全面投产,将可为运行复杂的 AI 和高性能计算工作负载提供动力。谷歌云、Meta 和微软将率先获得 GH200。
全新 NVIDIA Helios 超算年底推出,未来 GPU 数据中心有望替代现有CPU 数据中心。DGX GH200 是将 256 块 GH200 超级芯片组成的超算,拥有高达 1EFLOP 的算力,以及 144TB 的共享内存(比上代 DGXA100多了近 500 倍)。此外,英伟达表示正在建造自己的大型 AI 超级计算机NVIDIA Helios。该超算将配备 4 个 DGX GH200,每个都将通过 NVIDIAQuantum-2 InfiniBand 400 Gb / s 网络互连,以提高训练大型 AI 模型的数据吞吐量。未来,GPU 有望实现对目前 CPU 的替代。根据英伟达的配置,以 1000 万美金成本可建置 1 个有 960 颗 CPU 的数据中心,但它需要 11GWh 的功率,处理 1X 大模型的数据量。但同样成本,可建置 1 个有 48 个 GPU 的数据中心,只需 3.2GWh 的功耗,并可处理 44X 大模型的数据量。
Serdes接口芯片:DGX GH200 通过 NVIDIA NVLink、NVswitch 互连 256 个 GH200 超级芯片,共计采用 96 组 L1 NVLink Switch、36 组 L2 NVLink Switch,需大量采用高速 Serdes IP。
互联接口:PCIe持续升级,新技术不断涌现
芯片互联:提升信号传输带宽,助力算力升级
AI算力的提升方式,除了依靠单GPU性能升级外,还需要高速的芯片互联技术、系统互联技术作为支撑,从而提升GPU算力的可扩展性,形成强大的集群算力。围绕高速和可扩展性,板间芯片互联技术、系统间服务器互联芯片性能需要同步升级。
芯片之间的高速信号传输需要专门的系统总线协议来实现,以传输带宽的高低为性能指标。传统的系统总线为PCIe(PCI-Express,peripheral component interconnect express,简称PCIe)[4],一种高速串行计算机扩展总线和串行接口标准。英伟达则针对异构计算场景则开发出了NVLink。相较于传统的PCIe解决方案,NVLink可以为多GPU系统提供更加快速的系统内互联解决方案。根据官网,NVLink可为多GPU系统配置提供高于以往1.5倍带宽,以及增强的扩展性,单NVIDIA H100 Tensor Core GPU支持多达18个NVLink连接,总带宽为900 GB/s,是PCIe 5.0带宽的7倍。
进一步地,英伟达开发出NVSwitch和NVLink-C2C:借助 NVSwitch,NVLink连接可在节点间扩展,以创建多节点GPU集群,形成数据中心大小的GPU,在服务器外部添加第二层NVSwitch,NVLink可以连接多达256个GPU,提供57.6 TB/s多对多带宽,快速完成大型AI作业;NVLink-C2C作为芯片到芯片、裸片到裸片的互联技术,支持定制裸片与英伟达GPU、CPU、DPU、NIC和SOC之间的互联,为数据中心打造新一代的系统级集成。
具体的接口芯片我前面的文章已经写了,相关机构调研也有,老师们可以具体去看,这里主推龙迅股份
2006年,在英特尔工作了近10年的FENG CHEN(中文名陈峰)归国,投资1200万美元,注册资本550万美元成立外商投资企业龙迅股份,经营高速混合信号芯片的研发、设计和销售。
龙讯股份:公司和英伟达深入合作,并生产GPU显卡pcle接口
龙讯股份:公司拥有的核心技术主要包括:serdes高速接口传输协议处理技术(国际先进水平)、高带宽数字内容保护技术(国际先进水平)、高速混合信号电路及芯片集成技术(国内领先)、高速数据传输芯片收发电路技术(国内领先)
龙讯股份:高速数据传输芯片收发电路技术(Serdes)是公司的核心技术,应用于公司多个产品领域,包括安防监控、视频会议、车载显示、显示器及商显、AR/VR、PC 及周边、5G 及 AIoT 等多元化的终端场景。公司的技术能力与产品性能近年来正持续受到国内外知名客户的认可。公司已成功进入鸿海科技、视源股份、亿联网络、脸书、宝利通、思科、佳明等国内外知名企业供应链。
龙迅股份:公司的技术能力与产品性能近年来正持续受到国内外知名客户的广泛认可,产品和客户范围不断拓展。随着产品陆续通过知名终端客户产品认证,客户结构逐步从中小客户向头部客户转换,多家世界领先的主芯片厂商高通、英特尔、三星、安霸也已将公司产品纳入部分视频应用的参考设计平台中