【开源通信】算力芯片持续更新，AI用户量初具规模-韭研公社

异动

关注

社群

产业库

时间轴

公社AI

登录注册

【开源通信】算力芯片持续更新，AI用户量初具规模

夜长梦山

2024-06-10 21:18:44

1、英伟达和AMD公布AI芯片路线图，全面进入液冷时代英伟达公布未来技术路线图，算力边际成本不断下降。2024年6月3日，英伟达在COMPUTEX 2024上发布GPU、CPU、NVlink、NIC网卡以及交换芯片的技术路线。Blackwell Ultra系列GPU将于2025年发布，搭载八个HBM3e内存堆栈；下一代Rubin GPU预计将在2026年推出，搭载8个HBM4内存堆栈，配对的新一代Arm数据中心CPU Vara也将问世；Rubin Ultra系列将于2027年推出，将搭载12个HBM4内存堆栈，拥有更多内存容量，GPU加速效应显著，单卡算力性能持续提升，算力边际成本不断下降，以支撑AI大模型参数持续增长。以太网网络持续优化，未来交换芯片将支持更大算力集群。网络互联方面，英伟达第6代NVLink switch将在2026年推出，带宽容量高达3600GB/s，卡间互联速率持续增长，加速大模型训练速度，CX9 NIC网卡带宽将达到1600Gb/s。此外Spectrum Ultra X800 51.2T以太网交换芯片将于2025年推出，X1600 102.4T IB及以太网交换芯片将于2026年推出，X800将支持10万卡算力集群互联，X1600将支持百万卡算力集群互联，以太网在AI集群组网上的应用或将持续增长。英伟达持续推出网络新品，提供更高带宽、更多接口以及软件功能以支持AI以太网/IB网网络性能，集群网络互联效率或持续增长，助力AI组网向着万卡、十万卡等大规模集群发展，持续拉动对高速交换机、高速光模块的需求。 AMD公布全新云端AI加速芯片路线图，今年将推出全新Instinct MI325X。2024年6月3日，AND在COMPUTEX 2024上公布全新云端AI加速芯片路线图，将会在今年推出全新的AI加速芯片Instinct MI325X，2025年推出MI350，2026年推出MI400。其中，MI325X将延续CDNA3构架，采用HBM3e高带宽内存，容量大幅提升至288GB，内存带宽也将提升至6TB/s，相较竞品英伟达H200将有1.3倍以上的提升，更具性价比，预计MI325X将于今年第四季度开始供货，其他方面规格基本与MI300X保持一致；新一代MI350系列将采用3nm制程，基于全新的构架，集成288GB HBM3e内存，并支持FP4/FP6数据格式，推理运算速度较现有MI300系列芯片快35倍。算力芯片功耗持续增长，全面进入液冷时代。单个英伟达B200 八卡风冷DGX服务器功耗接近15KW，散热模组体积较大，空间利用率较差，相比之下液冷MGX服务器算力密度更高，液冷散热性价比优势显著；同时，据供应链信息透露，AMD MI350将同样切换至液冷散热。 2、AI用户初具规模，ChatGPT宕机造成竞品访问量激增 “一鲸落而万物生”，ChatGPT用户的庞大AI需求致使竞品系统瘫痪。6月4日，OpenAI旗下ChatGPT（包括网站、App和桌面应用）出现系统故障，导致全球大量用户无法正常使用，持续长达近8个小时。ChatGPT在全球拥有约1.8亿活跃用户，已成为部分人群工作流程的关键部分，此次宕机期间，用户纷纷转向替代工具，包括 Anthropic 公司的 Claude、谷歌 Gemini 和 Perplexity等，据软件公司QRFY分析，谷歌 Gemini 的日均搜索量激增近60%，显示出用户对ChatGPT替代品的蓬勃需求。然而，在流量激增之下，上述三大AI平台也遭遇了系统瘫痪，Perplexity网站显示因为接收到太多请求，显示超出服务容量。我们认为，此次事件映射出使用AI模型对于某些用户已为刚性需求，且AI用户量已初具规模，短时间内大量的增量需求已超出竞品的基础设施容量上限。当下算力基础设施建设仍存在结构性缺口，随着用户对于AI的需求持续增长，算力基础设施建设或将长期持续。 3、 Aspeed 5月营收同比大幅增长，服务器需求或迎来复苏全球服务器管理芯片供应商龙头Aspeed 2024年5月实现营收4.35亿新台币，同比增长92.90%，环比增长4.67%，月度营收规模已接近2022年平均水平。我们认为，公司营收大幅改善主要是AI服务器的强劲需求，导致管理芯片单个服务器的价值量上升，以及传统服务器需求逐渐复苏所致。推荐标的：宝信软件、中际旭创、英维克、中兴通讯，受益标的：新易盛、天孚通信、华工科技、光迅科技、源杰科技、腾景科技、飞荣达、网宿科技、光环新网、润泽科技、云赛智联、奥飞数据、科华数据、紫光股份、锐捷网络、烽火通信、盛科通信、广和通、美格智能、移远通信、威胜信息、亿联网络、梦网科技、会畅通讯等。

作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。

声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。

宝信软件

工分