爱游戏-TrendForce集邦咨询: NVIDIA Blackwell高耗能推动散热需求,预估2024年底液冷方案渗透率将达10%

[导读]Jul. 30, 2024 ---- 跟着高速运算的需求成长,更有用的AI Server(AI办事器)散热方案也遭到正视。按照TrendForce集邦咨询最新AI Server陈述,因为NVIDIA(英伟达)将在2024年末前推出新一代平台Blackwell,届时年夜型CSP(云端办事业者)也会最先建置Blackwell新平台的AI Server数据中间,预估有机遇带动液冷散热方案渗入率达10%。 Jul. 30, 2024 ---- 跟着高速运算的需求成长,更有用的AI Server(AI办事器)散热方案也遭到正视。按照TrendForce集邦咨询最新AI Server陈述,因为NVIDIA(英伟达)将在2024年末前推出新一代平台Blackwell,届时年夜型CSP(云端办事业者)也会最先建置Blackwell新平台的AI Server数据中间,预估有机遇带动液冷散热方案渗入率达10%。 气冷、液冷并行方案知足更高散热需求 按照TrendForce集邦咨询查询拜访,NVIDIA Blackwell平台将在2025年正式放量,代替既有的Hopper平台、成为NVIDIA高端GPU(图形处置器)主力方案,占整体高端产物近83%。在B200和GB200等寻求高效能的AI Server机种,单颗GPU功耗可达1,000W以上。HGX机种每台装载8颗GPU,NVL机种每柜达36颗或72颗GPU,可不雅的能耗将增进AI Server散热液冷供给链的成长。 TrendForce集邦咨询暗示,办事器芯片的热设计功耗(Thermal Design Power, TDP)延续提高,如B200芯片的TDP将达1,000W,传统气冷散热方案不足以知足需求;GB200 NVL36和NVL72整机柜的TDP乃至将高达70kW和近140kW,需要搭配液冷方案方以有用解决散热问题。 据TrendForce集邦咨询领会, GB200 NVL36架构早期将以气冷、液冷并行方案为主;NVL72因有更高散热能力需求,原则上优先利用液冷方案。 不雅察现行GB200机柜系统液冷散热供给链,首要可分水冷板(Cold Plate)、冷却分派系统(Coolant Distribution Unit, CDU)、不合管(Manifold)、快接头(Quick Disconnect, QD)和电扇背门(Rear Door Heat Exchanger, RDHx)等五年夜零部件。 TrendForce集邦咨询指出,CDU为此中的要害系统,负责调理冷却剂的流量至全部系统,确保机柜温度节制在预设的TDP规模内。TrendForce集邦咨询不雅察,今朝针对NVIDIA AI方案,以Vertiv(维谛手艺)为主力CDU供给商,奇鋐、双鸿、台达电和CoolIT等延续测实验证中。 2025年GB200出货量估可达6万柜,促Blackwell平台成市场主流、将占NVIDIA高端GPU逾8成 按照TrendForce集邦咨询不雅察,2025年NVIDIA将以HGX、GB200 Rack和MGX等多元组态AI Server,分攻CSPs和企业型客户,预估这三个机种的出货比例约为5:4:1。HGX平台可较无缝对接现有Hopper平台设计江南体育,使CSPs或年夜型企业客户能敏捷采取。GB200整柜AI Sever方案将以超年夜型CSPs为主打,TrendForce集邦咨询预期NVIDIA将在2024年末先导入NVL36组态,以便快速进入市场。NVL72因其AI Server整体设计和散热系统较为复杂,估计将在2025年推出。 TrendForce集邦咨询暗示,在NVIDIA鼎力扩大CSPs客群的环境下,预估2025年GB200折算NVL36合计出货数目可望达6万柜,而GB200的Blackwell GPU用量可望达210-220万颗。 但是,终端客户采取GB200 Rack的进程仍有几项变量。TrendForce集邦咨询指出,NVL72需较完美的液冷散热方案,难度较高。而液冷机柜设计较合适新建数据中间,但会牵扯地盘建物计划等复杂法式。另外,CSPs可能不但愿被单一供给商绑住规格,可能会选择HGX或MGX等搭载x86 CPU架构的机种,或扩年夜自研ASIC(专用集成电路)AI Server根本举措措施,以应对更低本钱或特定AI利用场景。

欲知详情,请下载word文档 下载文档

8月8日,2024中国品牌节在广州揭幕,同期备受业界存眷的“2024中国品牌500强”榜单正式发布,国科微以140.4亿的品牌价值荣登榜单,位列第382位,持续3年跻身“中国品牌500强”。

要害字: AI 芯片

8月6日动静,据媒体报导,马斯克在脑机接口中最壮大的竞争敌手Synchron有了新的手艺进展,他们初次将ChatGPT整合到其脑机系统中,以使瘫痪患者更轻易节制他们的数字装备。

要害字: ChatGPT AI

人工智能软件,特殊是深进修组件,是今朝实现自立汽车等自立系统的最早进和经济上可行的解决方案。但是,DL算法的性质和其当前的实现与汽车、卫星和火车等平安要害系统中严酷的软件开辟进程纷歧致。

要害字: 人工智能 AI

上一篇:爱游戏-百济神州宣布任命Aaron Rosenberg担任公司首席财务官 下一篇:爱游戏-苹果、高通、美光等美企负责人扎堆来北京:加大对中国市场投资