Satya Nadella· X:Satya Nadella (@satyanadella)·· 5 小时前AI 评分40
微软发布自研芯片 Maia 300,并将大规模扩展 Maia 推理部署
微软发布自研芯片 Maia 300 并将大规模扩展 Maia 推理部署
AI 导读
微软发布自研芯片 Maia 300,相比领先的 GPU 系统每瓦可多提供 40% 的 token。微软已在美欧澳部署 Maia 200,在 Teams 和 Copilot 中每瓦 token 量最高提升 1.7 倍,并计划从下一个自然年起将 Maia 系列扩展至多吉瓦级部署,成为其自有产品和服务的首要推理系统。
正文
今天,我们宣布迄今为止在自研芯片上最大的一笔押注。
从下一个自然年开始,我们将把 Maia 系列扩展到多吉瓦级部署规模,使其成为我们自有产品和服务的首要推理系统。
同时,我们推出 Maia 300,与领先的基于 GPU 的系统相比,每瓦可多提供 40% 的 token。
我们已在美国、欧洲和澳大利亚部署 Maia 200,在 Teams 和 Copilot 的各项体验中,每瓦可多提供高达 1.7 倍的 token。
我们的目标是在我们已经看到的全栈效率提升基础上继续发展,同时持续将整个生态系统中的最新创新引入我们的集群。
来源:Satya Nadella · x.com