辉达 GPU 降速影响?专家:中国 AI 训练两三年後撞墙
受到华盛顿当局祭出出口管制影响,辉达(Nvidia Corp.)决定将 AI 晶片降级,供应中国所需。分析人士直指,辉达 AI 晶片虽降级,效能依旧优於其他替代品,因此中国市场依旧需求若渴,但美国出口管制未来恐会产生更为重大的影响。
英国金融时报21日报导,辉达科学长Bill Dally指出,最先进AI系统的训练要求大概每6~12个月就会加倍,也就是说,中国与全球其他地区贩售的晶片差距会迅速拉大。
华盛顿当局2022年发布的出口管制对晶片运算、传输资料的速率设限,此乃训练大型AI模型的关键。训练AI模型需要大量数据,得将许多晶片连结在一起。辉达决定调降当时最先进GPU「A100」的资料传输速度因应、专为中国推出「A800」,今年也推「H100」中国降级版「H800」,传输资料速率仅400 GB/s、低於美国设定的600 GB/s上限。H100资料传输速率高达900 GB/s。
传输速率下降,意味着中国晶片用户须花费更长的时间才能训练好AI系统,这会消耗更多电力、增加成本。然而,即便面临这些限制,H800在中国的销售依旧火热。许多中国科技业者依旧处於大型语言模型(LLM)的预训练(pre-training)阶段,这要消耗许多GPU算力、对资料传输的要求也高。中国AI工程师透露,辉达800系列GPU的传输速率虽降级,却依旧领先其他替代品。
业界专家相信,中国企业可能很快就会面临800系列晶片的互联速率限制,让他们无法应付训练AI益发庞大的数据量。86Research上海分析师Charlie Chai表示,这就好像在壅塞的公路旁兴建大量工厂,即便企业能设法适应降级版晶片,也将在接下来两三年遇到问题。
(本文由 MoneyDJ新闻 授权转载;首图来源:shutterstock)
0 0 投票数Article Rating 订阅评论 登录 0 Comments 最旧 最新 最多投票 内联反馈查看所有评论
0 0 投票数
Article Rating
订阅评论
登录
0 Comments
最旧
最新 最多投票
内联反馈
查看所有评论