亚马逊扩大与Nvidia合作 自研新一代云端AI晶片 – 云端运算 – TechNice科技岛-掌握科技与行销最新动态
编译/李寓心
全球最大的电子商务平台亚马逊(Amazon)旗下的AWS网路云端部门,日前宣布推出新晶片「Trainium2」,一款可用於训练人工智慧模型的晶片,提供客户建置和运行人工智慧应用程式,并计画提供给Nvidia下一代H200绘图处理器(GPU)使用,同时目前AWS客户可开始测试,AWS新通用的Graviton4处理器。
根据报导,自从新创公司OpenAI在2022年推出ChatGPT聊天机器人以来,具有拟人化的总结和撰写文字能力,使各公司竞相投入生成式人工智慧的技术,纳入在产品当中,不仅对Nvidia GPU的需求猛增,也造成晶片短缺。因此,亚马逊这次推出的自制晶片,可让客户使用Nvidia最新晶片的做法,作为对抗最大云端运算竞争对手的微软(Microsoft)。因为在11月初时,微软也采取类似的方式,发布首款人工智慧晶片Maia 100,并表示Azure云端将配备Nvidia的H200 GPU。
更多新闻:训练AI模型最高阶晶片 Nvidia推出新一代H200图形处理器
更高CP值的新一代Trainium2
具体来说,AWS提供Nvidia最新晶片H200 GPU的存取,同时,也推出亚马逊自制的Trainium2新人工智慧晶片和通用的Graviton4处理器。Trainium2晶片,主要是为训练AI模型而建构,包括OpenAI的ChatGPT及其他竞争对手等类型的AI聊天机器人。对此,亚马逊表示,新创公司Databricks和亚马逊支援的OpenAI竞争对手Anthropi,皆将使用新晶片Trainium2所构建的模型,性能将是原始型号的4倍。而Graviton4处理器则基於Arm架构,比Intel或AMD晶片耗损更小,比现有的Graviton3晶片效能,提高30%,具有更高的性价比,现已有超过5万名的AWS客户正在使用Graviton晶片。
AWS着眼云端AI晶片的发展
亚马逊也补充表示,作为与Nvidia深化关系的一部分,AWS将运作超过16,000个Nvidia GH200 Grace Hopper超级晶片,其中包含Nvidia GPU和Nvidia基於Arm的通用处理器,提供Nvidia的研发团队和AWS客户都能利用这项基础设施。自2006年AWS发布用於运算和储存资料的EC2和S3服务以来,已经推出200多种云端产品,虽然很长时间没有进行更新,但该公司对Graviton和Trainium项目的持续投资,表明亚马逊对该系列晶片的需求。
资料来源:CNBC
※更多ChatGPT相关讯息,请参考【生成式AI创新学院】。