鸿海科技日透露辉达最新 AI 伺服器开始量产!液冷将成主流,三大势力争食黄金领域
搭载辉达 GB200 晶片的 AI 伺服器迈入量产,能达到散热标准的液冷系统商机备受关注;组装代工厂、电源供应商、散热零组件厂正展开前所未见的竞合态势。
《财讯》报导,随着辉达AI伺服器GB200 NVL72即将量产出货,液冷散热的解决方案再度受到市场关注;近来在鸿海科技日及今年OCP全球高峰会,从ODM(原厂委托设计代工)商、电源供应器厂再到散热模组业者,均积极抢进液冷供应链,三方势力将发展出全新的竞合关系。
鸿海科技日9日落幕,现场展示量产版GB200 NVL72产品,为目前最高阶AI伺服器;董事长刘扬伟(见首图)喊话,鸿海是第一家量产出货的组装代工厂,一口气亮相整组的机柜、CDU(冷却液分配系统)、QD(快接头)、连接器、大电压线缆等产品,成为科技日活动中人气最旺的焦点。
能耗受重视,加速转液冷
进入AI伺服器时代,一颗晶片TDP(热设计功耗)较通用型伺服器增加二至五倍,达1,000瓦等级;如今,辉达最新GB200系列,热功耗倍增至2,700瓦之多。若以整个机柜来看,过去一个机柜热功耗达20~50千瓦,可采气冷解热;但G200 NVL72机柜的热功耗高达130~140千瓦,必须采用液冷的方式才能有效解热。
以每天家用热水器举例,一台热功耗仅700瓦,整机柜AI伺服器布满的水线总长高达数公里,以水温大概20°C~25°C度进入系统,GB200晶片的热功耗高达2,700瓦,带出水温达60°C~70°C,就能想像有多热了。
如果热能无法有效排除,就会出现当机、故障等情况,这也就说明,为什麽散热设计变得愈来愈重要。研究机构集邦科技预估,GB200机柜方案放量出货,将带动液冷散热渗透率,从今年11%提升至2025年24%,并以水对气为主流。
集邦科技也预估,辉达Blackwell平台今年占高阶GPU伺服器晶片的出货比重约4%,Hopper平台占比95%。进入2025年之後,Blackwell将取代Hopper成为出货主流,占比大幅提升至84%。由此可知,气冷转向液冷趋势明年会更显着。
集邦科技分析师邱佩雯指出,不只是AI伺服器的耗能提升、带动液冷散热的需求,各国政府对於能耗的议题也更加重视。例如欧盟、中国等即要求未来新建的资料中心,其PUE(Power Usage Effectiveness,电力使用效率)必须达1.3以下标准;以目前既有气冷散热为主的资料中心来看,PUE都在1.5~1.7,并不符合规范。
另GB200 NVL72机柜液冷散热设备与关键零组件的产值,是传统气冷机柜28倍之多,因此吸引各方业者积极布局,希望发展初期尽早卡位成功,未来成为辉达及各大CSP(云端服务供应商)长期合作的供应商。
ODM抢进,鸿海最积极
就商机而言,液冷散热产业链有六大关键设备与零组件,最贵就是CDU,角色有点像中央电脑,最多负责八个大型机柜的液冷分配系统,一台要价6万至8万美元。再者,水冷板、分歧管、内部分歧管、风扇、快接头也都是关键零组件。
鸿海集团旗下鸿腾精密已成功开发出快接头,5月底接到任务後,8月底前即完成所有高低温、热胀冷缩、压力等各种环境测试。鸿腾本身有金属冲压能力,精密加工技术不输竞争同业,因此不锈钢材质快接头,只要避开欧美厂商专利,以及符合OCP规范的规格,不难开发出来,难的是取得辉达推荐供应商资格及CSP业者认证。
AI伺服器ODM厂商以鸿海垂直整合最积极;不只分歧管、快接头、全流量阀式快接头、大电压线缆、光纤电缆等都自己做,就连CDU也是自制。工业富联技术长周泰裕透露,很早鸿海就在高雄、美国等地设立AI效能实验室,一点一滴累积垂直整合的能力。
▲ AI伺服器及液冷相关设备零组件,鸿海集团自制率高达八至九成。
这次纬颖在OCP全球高峰会也推出液冷技术,投资供应商ZutaCore布局,希望达到技术整合目标;至於母公司纬创持续专注AI伺服器模组、主机板再到整组机柜的ODM业务。
广达过去AI伺服器业务,以L10~L12业务为主力,也就是从主机板、模组、整组机柜再到软硬体系统整合等一条龙的服务。市场关注,广达资深副总经理杨麒令持续接任光宝科独立董事之後,双方未来会如何在液冷市场携手合作。
三族群竞合,推进整合力
「液冷散热市场,已可看到ODM厂商、电源供应器厂及散热模组业者三方角力与竞合的态势。」集邦科技资深分析师龚明德观察。
以电源供应器大厂台达电为例,不只是追求规格的升级潮,更往CDU、水冷板等关键设备与零组件推进。另外,既有的散热模组厂商也积极从气冷往液冷发展,追求掌握更多的关键零组件整合能力。
从美系CSP业者的策略来看,Google最早采用液冷散热方案,已占自家AI伺服器的比重约三成;至於其他CSP业者,采用液冷散热比率还仅个位数。中国供应链阿里巴巴是导入液冷散热最积极的厂商,未来新建资料中心也全部以液冷优先。这也显示,未来液冷市场仍有很大的成长空间。
现阶段,每家业者各凭本事,积极抢攻液冷市场的大饼,首要目的除了先取得辉达认证之外,最终还是要赢得CSP业者的青睐,这不只是考验技术能力,过去与CSP业者合作的历史轨迹,也成为是否能胜出的关键。
开放运算计画(Open Compute Project)会议,每年在欧洲(春季)、美国(秋季)各举办一次;为全球性倡议活动,期以开放式的运算架构,制定资料中心产业的硬体规格。
(本文由《财讯》授权转载)