NVIDIA 的统治地位受到挑战了吗?
简短的回答是:在训练市场仍然稳固,但在推理市场正面临前所未有的竞争。NVIDIA 的 Blackwell B300 仍然是训练超大规模模型的首选,但其在推理场景中的性价比优势正在被竞争对手侵蚀。
六大 AI 芯片平台对比
NVIDIA B300(Blackwell)
NVIDIA 的旗舰训练芯片,集成 2080 亿晶体管,搭配 288GB HBM4 内存。在 MLPerf Training 基准中仍是无可争议的王者。但功耗高达 1200W,需要液冷散热。单卡价格约 $40,000。
AMD MI400
AMD 的下一代 AI 加速器,采用 MCM(多芯片模块)设计,在 FP8 推理性能上首次媲美 B300。ROCm 生态经过三年打磨已大幅改善,PyTorch 原生支持良好。价格约为 B300 的 60%,性价比优势明显。
Intel Gaudi 3
Intel 收购 Habana 后的力作,主打推理场景。独特之处在于其片上集成了 24 个 200GbE RoCE 端口,在网络密集型推理任务中表现出色。搭配 Intel 的 OneAPI 软件栈,对 x86 生态用户友好。
Cerebras WSE-3
一个芯片就是一整片晶圆——4 万亿晶体管、90 万个计算核心。在处理单一样本(batch size=1)的实时推理时有天然优势。适合需要极低延迟的场景,如高频交易和高性能计算。
Google TPU v6
Google 的第六代 TPU,通过 Google Cloud 独家提供。在 Gemini 系列模型的训练和推理中表现卓越。虽然不对外销售芯片,但云服务价格极具竞争力。
Amazon Trainium2
AWS 自研芯片的第二代,通过 AWS SageMaker 提供。与 AWS 生态深度集成,训练成本比同类 GPU 实例低 40-50%。
对开发者的建议
如果你在训练超大模型,NVIDIA B300 仍是最稳妥的选择。如果是推理部署或微调中等规模模型,AMD MI400 和 Intel Gaudi 3 提供了更具性价比的替代方案。云用户则应该根据工作负载特点在 GPU 实例和专用 AI 加速器之间灵活选择。