微软发布 Maia 300:迄今最强大的 AI 芯片——或终于让 Teams、Copilot 和 Cowork 更好用

发布与定位

TechRadar 于 2026 年 10 月 12 日报道,微软发布其迄今最强大的 AI 芯片 Maia 300,计划自 2027 年开始部署。微软称,Maia 300 每兆瓦可提供比其他领先 GPU 系统多 40% 的 token,主要面向推理,目标包括长上下文推理、响应式对话 AI 以及持续的多步代理任务。微软还表示,一个装有 96 个 Maia 300 加速器的机架,其机架级 token 吞吐量可达一个 Maia 200 机架的 7 倍。该芯片预计支持微软产品与服务中的新一代 AI,从 GitHub 的代理编码,到通过 Microsoft Foundry 进行大规模模型服务;同时也将改善微软 AI 团队的推理和数据生成,并提升 Copilot、Cowork 以及 Microsoft Teams 等具体产品。

技术细节

Maia 300 采用微软所称的 inference-first architecture(推理优先架构)。微软称,它通过减少数据移动、更高效利用计算、内存和网络资源来提升性能;其软件定义数据流架构结合 AI 辅助内核优化,旨在让数据靠近系统中需要使用它的部件。内存是设计核心:Maia 300 使用 8 堆 HBM4,峰值带宽达 18TB/s,热设计功耗为 950W。微软表示,专用软件可将片上 SRAM 用作暂存区,从而在繁重工作负载下减轻 HBM 压力。该加速器还引入多 chiplet 架构,将计算、内存控制器和输入/输出功能分离;其计算 chiplet 采用 台积电(TSMC)N2P 制程。微软称,对低精度格式(包括增强的 MXFP4)的支持将降低内存和带宽需求,帮助系统运行更大的上下文窗口,并在相同功耗范围内提高吞吐量。网络被设计为系统数据流的一部分,而非独立层。Maia 300 将在加速器之间使用高带宽连接以实现张量并行,并采用基于以太网基础设施的定制 AI 传输。微软表示,这种方法可从单个机架扩展到数据中心部署。一个 Maia 300 机架将在 167kW 功耗范围内包含 96 个加速器,提供 27.6TB HBM 容量和 1.7 PB/s 聚合 HBM 带宽。微软称,这种密度将让每个机架服务更多同时发生的 AI 交互和更大工作负载。

产品影响与延续

此次发布建立在 Maia 200 基础上。微软称,Maia 200 已在运行生产工作负载,包括 Microsoft 365 Copilot 和微软 AI 团队开发的模型。公司还称,对于 Teams、Copilot 和 Cowork 的内置 AI 功能,Maia 200 每瓦 token 数最高比领先 GPU 基础设施多 1.7 倍。GitHub Copilot 和 Microsoft Foundry 预计将在今年年底跟进。TechRadar 指出,Maia 300 可能让 Teams、Copilot 和 Cowork 等产品的使用体验终于变得更好。文章署名为 TechRadar Pro 副主编 Mike Moore。