一块为推理而生的芯片
当地时间 10 月 12 日,在美国圣何塞举行的 2026 开放计算项目全球峰会(OCP Global Summit)上,微软发布了第三代自研 AI 芯片 Azure Maia 300。微软云与 AI 执行副总裁 Scott Guthrie 在博客中给出的说法很直接:Maia 300 将成为微软产品与服务的首要 AI 推理系统,公司将从 2027 年起把 Azure Maia 系列扩展到数吉瓦级部署。
这意味着微软正式把推理这条最日常、最耗电的负载,从英伟达与 AMD 的 GPU 上往回搬。此前 Maia 100 于 2023 年 11 月发布,第二代 Maia 200 今年 1 月才推出,第三代在九个月后接档。Maia 200 目前已在承载微软 Copilot 等生产负载,GitHub Copilot 与 Microsoft Foundry 预计在今年年底前完成接入。微软把 Maia 300 的设计目标写得很具体:长上下文推理、时延敏感的对话体验,以及智能体执行的多步持续任务。
96 颗一柜,账面上的数字
按微软公布的规格,Maia 300 采用多芯粒架构,把计算、内存控制器与输入输出功能拆到不同的芯粒上,计算芯粒使用台积电 N2P 工艺。每颗芯片搭配 8 堆 HBM4 高带宽内存,容量 288GB,峰值带宽 18TB/s,功耗上限 950 瓦。一个完整机柜塞进 96 颗芯片,功耗预算 167 千瓦,芯片数量是 Maia 200 机柜的两倍;各机柜之间通过基于以太网的网络互联,最多 128 个机柜可以组成一个 12288 颗芯片的单一系统。
在大规模推理系统里,真正的瓶颈越来越不是原始算力,而是数据搬得够不够快。——Scott Guthrie,微软云与 AI 执行副总裁
性能口径上,微软称 Maia 300 每兆瓦电力可处理的 token 数量比领先的 GPU 系统高出 40%;在满配 96 颗的机柜配置下,机架级 token 吞吐量最高可达 Maia 200 的 7 倍。随博客一同发布的技术论文把每瓦性能提升幅度写为 2.5 倍以上。路透报道称,微软正在考虑在 2027 年部署超过 100 万颗 Maia 300,但公司并未公开把百万颗作为正式承诺。Evercore ISI 分析师在此前给客户的报告中预计,到 2027 年第一季度,Maia 芯片将占微软 AI 芯片支出的约 10%。
自研芯片的边界在哪
这些数字都还是预期值。有分析指出,微软没有公开那 40% 优势的对照系统具体是谁,而 Maia 300 目前尚未进入生产环境,实际表现取决于加速器、内存、芯片间通信与所跑模型的共同作用,不能只看单颗芯片的账面参数。另一个容易被忽略的点是分工:微软目前仍与英伟达、AMD 合作训练模型,自研芯片主要解决推理,训练侧的依赖并没有解除。
放到更大的背景里,自研加速器的队伍已经很拥挤。亚马逊、谷歌、AMD、Cerebras 都在这条线上,谷歌 TPU 早已跑在自己的数据中心里,亚马逊的 Trainium 与 Inferentia 也迭代多代。微软真正的变量不是能不能造出一颗更省电的芯片,而是能不能在数吉瓦的规模上把它稳定跑起来。这个答案要到 2027 年才会揭晓。