微软将主要使用其 Maia 芯片进行 AI 推理
背景与战略转向
微软在多年依赖英伟达 GPU 后,将加大自研 AI 芯片使用,以增强其 AI 技术栈。公司计划让 Maia 成为运行 AI 模型的主要架构,并最终拥有数吉瓦规模的 Maia AI 芯片。从周一发布的第三代 Maia AI 加速器开始,微软表示将主要依赖自有芯片处理传入请求,也就是主要用于 AI 推理。
微软称,其 AI 最大优势是 Azure 云,为客户运行一系列模型;Microsoft 365 Copilot 和 GitHub Copilot 为软件工程师和其他办公人员提供 AI 服务;公司也开发内部模型,但在由 OpenAI、Anthropic 和 Google 主导的市场中尚未大放异彩。芯片机会源于对先进处理器的持续需求和市场对选择的需求。英伟达 GPU 是 AI 工作负载和模型的标准,既填充微软现有数据中心,也用于训练 OpenAI 和 Anthropic 的模型。随着需求增长,模型领导者已采用来自 Amazon、AMD、Cerebras、Google 以及近几个月微软等多种芯片。通用用途方面,微软已使用自有 CPU 以及 Intel 和 AMD 芯片。首席财务官 Amy Hood 上月在 Goldman Sachs 会议上表示,使用自有芯片帮助实现了“十年来利润率改善”。
Maia 产品路线与性能
微软 2023 年推出首款 AI 芯片 Maia 100,今年 1 月宣传 Maia 200。首席执行官 Satya Nadella 在 7 月对分析师表示,Maia 200“每美元性能比我们机群中最新一代硬件高出 30%”,并称它正在处理 OpenAI 模型。第三代 Maia 300 将于 2027 年开始生产。执行副总裁 Scott Guthrie 在博客文章中称,微软目标是 Maia 家族芯片实现多吉瓦部署,但总经理 Alistair Speirs 拒绝提供时间表,称要保留一点可选性,因为行业变化非常快,希望在正确时间部署正确芯片以适配正在使用的正确模型。
微软预计每个数据中心机架装 96 颗 Maia 300,是 Maia 200 的两倍。新版本每机架可运行最多 7 倍 AI token,与 GPU 相比每兆瓦多 40% token。Speirs 说,需要新架构带来更好性能、更好利用电力,而电力可直接转化为数据中心运营成本。公司技术院士 Jim Kleewein 表示,Microsoft 365 Copilot 的部分功能应会因 Maia 300 而加速。
市场影响与限制
Evercore ISI 分析师在周三发给客户的报告中估计,到 2027 年第一季度,Maia 将约占微软 AI 芯片支出的 10%,他们建议买入微软股票。英伟达仍将是重要部分。首席执行官 Jensen Huang 上周出席了一场活动,微软在该活动宣布一款搭载英伟达处理器的 Surface 笔记本电脑。Speirs 表示,在训练模型方面,微软与英伟达和 AMD 合作。
与 Google 的 tensor processing units 或 Amazon 的 Inferentia 和 Trainium 不同,微软的加速器不能按小时租给其他公司。Moor Insights and Strategy 首席执行官 Patrick Moorhead 表示:“目前还没有人在微软之外测试过它们。”