亚马逊云端服务发布多款新晶片,聚焦模型训练进一步打造AI平台

2023-11-30 14:49

电商平台亚马逊旗下云端服务Amazon Web Services (AWS)周一(27日)于拉斯维加斯举办“再发明”(re:Invent)会议,并发出一系列公布,大部份涉及今年最热门的人工智能(AI),让外界一窥该公司对AI平台的长远目标。

亚马逊云端服务AWS发布AI新晶片。亚马逊

亚马逊云端服务AWS发布AI新晶片。亚马逊

亚马逊进一步打造AI平台。美联社资料图片

▲亚马逊进一步打造AI平台。美联社资料图片

AWS发布为模型训练和运行受训练模型而设计的最新一代AI晶片。其中一款是显然专为模型训练的Trainium2,与上一代比较,性能和能源效率分别提高4倍和2倍。亚马逊承诺,由于耗能减少,这些晶片将让程式设计师训更快又以更低成本训练模型。亚马逊出资支持的OpenAI对手Anthropic早已公布计划,利用Trainium2晶片建造模型。

另一款Graviton4则较适合一般用途。这些处理器建立于ARM架构,但耗能少于英特尔或AMD晶片。亚马逊承诺,当使用配备Graviton4晶片的受训练AI模型时,一般性能将提高30%。此举将为日常部署AI模型的机构降低云端运算成本,为纯粹制作无聊照片的一般用户稍为提高速度。

Graviton4将让AWS客户处理更多数据、扩大工作量、缩短得出结果的时间和降低整体拥有权成本。现已推出预览版,未来数月将广泛释出。

一般来说,当一家公司发布自家品牌晶片时,会对辉达(NVADIA)等第三方晶片供应商带来挑战。辉达是企业AI领域中最大参与者,得益于企业使用该公司的GPU进行训练和建基于ARM的数据中心CPU Grace。不过亚马逊并未放弃与辉达在专利晶片上的关係,透过提供云端企业客户存取辉达最新H200 AI GPU而进一步巩固双方合作。亚马逊又为辉达研发团队运作逾1万6000枚辉达GH200 Grace Hopper Superchip超级晶片。此举与亚马逊主要AI对手微软做法类似,在微软发布AI晶片Maia 100的同时也宣布加强与辉达合作。

亚马逊还推出一款着重企业的AI聊天机器人Q,名字取自于科幻娱乐影视剧集《星舰奇幻记》(Star Trek)。它被喻为“生成式AI驱动的新式个人助理”,有助加快工作专案和客户服务工作,会根据客户要求采取行动和产生回应。Q目前提供预览版,短期内将释出更广泛版本。取决于功能多寡,月费介于20至30美元。

相关阅读
热门文章