AI前沿

Meta 开源 Muse Spark Open:8160 亿参数、420 亿激活,两台 Mac Studio 就能跑起来

8160 亿总参数、420 亿激活,把开放权重重新推回前沿

10 月 15 日,Meta Superintelligence Labs 发布开放权重模型 Muse Spark Open,并直接放出了模型权重。这是一个原生多模态的稀疏混合专家(MoE)模型:总参数量 8160 亿,每个 Token 只激活约 420 亿参数,上下文窗口拉到 100 万 Token,输入支持文本、图像、视频与音频,输出为文本。Meta 在官方博客里把它称为迄今美国能力最强的开放权重模型。

按模型卡披露的结构,语言主干为 62 层、隐藏维度 8192,每层 256 个专家中按 top-k 路由激活 8 个;注意力使用 gated attention 加 QK-norm,128 个查询头、16 个 KV 头组成分组查询结构。另有一个 18 亿参数的感知编码器负责视觉与音视频输入。权重以 BF16 与 NVFP4 两种精度发布,本地跑 NVFP4 版本至少需要 700GB 显存,BF16 则要 2TB。

Meta 在发布说明中写道:我们相信未来属于每个人,这包括自由地在任何地方运行先进模型,包括在家里。

两台 Mac Studio 当一台超算用

本次发布最有传播力的细节,是 Muse Spark Open 成为这一量级里第一个能在桌面上运行的模型。做法是借助苹果最新的 MLX 框架,把模型摊到两台配备 M5 Ultra 的 Mac Studio 上:M5 Ultra 的统一内存架构允许集成 GPU 使用单机最多 512GB,两台合起来刚好装下整个模型;芯片 1.2TB/s 的内存带宽足够在每步推理时读取当前 Token 需要的那一小片权重。Meta 的说法是,两台机器表现得像一台拥有约 1TB 统一内存的超算。官方演示包括用 Muse Code 驱动 Muse Spark Open 给开源 Mastodon 客户端 Ice Cubes 提交真实的 iOS 改动,包含修 bug、加功能与完整构建,以及端到端操作 DaVinci Resolve,逐帧翻查素材挑出高光片段并竖版裁切。

开放权重回来了,但顶配仍然闭源

Muse Spark Open 采用 Muse Model License 发布,附带有限商业条款,允许许多开发者免费使用。推理侧的支持已经铺开:SGLang、vLLM、TensorRT-LLM、Transformers、llama.cpp、MLX 与 Unsloth 都在首发支持之列,在 NVIDIA、AMD、Intel 与苹果芯片上完成验证;托管推理则可以在 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 与 Together AI 上直接调用。权重可从 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 与 Microsoft Foundry Models 下载。

需要留意的是,Meta 本周早些时候发布的 Muse Wonder 与 Muse Wonder Full 仍然闭源,能力也在 Muse Spark Open 之上。也就是说 Meta 这次是把开放权重当作开发者生态与商业变现之间的一个平衡点:用开放版本换生态与口碑,把最强能力留在自家产品线里。对开发者来说这依然是一次实质性让利,因为它把前沿级别的智能体能力第一次交到了可以自行部署、自行微调的手上。