AI前沿

微软自曝 2.8 万亿参数 MoE 预训练成果:16000 张 GB200 训练 38 天,模型仍在后训练

2.8 万亿总参数,800 亿激活:微软第一次公开自己的预训练账本

10 月 15 日,微软发布了一份关于前沿预训练的技术报告,第一次把自家基座模型的训练细节摆到了台面上。报告的主角叫 MAI-Base-2,是一个混合专家(MoE)结构的大模型:总参数量 2.8 万亿,每个 Token 激活约 800 亿参数。为了把它训出来,微软动用了 16000 张 GB200 加速卡,连续训练 38 天。

这组数字本身谈不上离谱,真正值得注意的是它在微软技术版图里的位置。此前微软在模型层的公开动作,多集中在天气预测这类垂直模型,以及偏决策类的小模型上;而这次报告明确指向前沿预训练,意味着微软正在把基座模型的训练能力收回自己手里,而不是完全依赖外部合作方。

留出集成绩优于被测开放权重模型,但仍未交付客户

按报告表述,MAI-Base-2 在留出集上的预训练结果,好于微软在同一批测试里跑过的开放权重模型。这里必须说清一个限定条件:这是预训练阶段的对比,不是产品能力的对比。预训练只决定模型见过多少、学得多扎实;后训练才决定它好不好用、听不听话、会不会拒绝不该做的事。

微软自己在报告里也承认,MAI-Base-2 目前仍处于后训练阶段,尚未向任何客户开放。换句话说,这份报告发布的是过程而不是产品。对关心基座模型走向的人来说,这类过程披露的信息价值常常被低估——它把谁有能力训多大模型这个问题,从传闻层面拉到了可核对的事实层面。

预训练成绩好,只说明模型有上限;后训练做得好,才说明用户能拿到多少。两者之间隔着的,正是过去两年各家真正拉开差距的地方。

自研基座,正在成为云厂商的标配动作

把这件事放进更大的背景看:云厂商自建基座模型已经从可选项变成必选项。原因不难理解。推理成本占 AI 账单的比重越来越高,而模型是整条链路上唯一可以自己定义的部分。谁掌握了基座,谁就掌握了单位成本的调节旋钮,也才有资格在价格战里保持节奏。

但成本也是真实的。16000 张 GB200 训练 38 天,这样的算力账单只有极少数公司能签得下来,换来的还只是一个尚未完成后训练的中间产物。这也解释了为什么微软在报告里强调的是训练方法论与结果,而不是直接发布模型卡:先证明能力,再谈交付,顺序更稳妥。

对开发者和企业用户来说,短期内可操作的信息只有一条:又多了一个潜在的基座模型供给方。它能不能形成实际替代,要等后训练完成、正式交付、并且价格被公布之后,才有讨论的基础。