Google DeepMind 成立研究院：Hassabis 提议前沿模型发布前接受 30 天审查

从表态走向具体机制

Google 与 Google DeepMind 的研究人员在 9 月 17 日共同发起 DeepMind Institute，由 DeepMind 联合创始人 Shane Legg、Google 高管 James Manyika 和 DeepMind 主席 Demis Hassabis 担任理事，Legg 兼任主编。研究院定位是一个公开场合，用于并列呈现 Google、DeepMind 与外部研究社群在通用人工智能问题上的不同观点。官方在公告中明确写道，理事之间不会总是一致，随着前沿领域出现更多数据和信息，他们的看法也很可能改变。

创院首发的是四篇文章，主题分别是如何用经济政策应对 AGI 可能带来的冲击、如何保持模型推理过程对人类可读、指导人类繁荣的原则，以及如何评估前沿 AI 模型。这四篇放在一起，说明研究院没有把前沿 AI 当成纯粹的技术议题，而是把它框定为涉及就业、经济和公共治理的综合挑战。

预发布审查与留出测试

Hassabis 在文章中提议建立一个由美国主导的前沿 AI 标准机构，负责评估能力最强的模型。第一阶段，开发方自愿在发布前最多 30 天提交模型接受审查。一旦这套评估体系被证明有效，通过测试就可能成为在美国部署前沿模型的强制条件。机构最初与企业共同设计评估方法，最终会转向独立且不公开的评估，也就是文章所说的留出测试，防止实验室针对已知考题做定向优化。

如果形势的严重程度需要，这套框架可以被逐级收紧，包括在前沿 AI 开发方之间进行协调降速。这是一个机制提案，而不是行动的宣布。

另一篇由 DeepMind 安全研究员 Rohin Shah 和 Anca Dragan 撰写的文章，讨论一个更安静的难题：我们正在失去看模型如何思考的能力。作者认为这种透明度流失并非必然，开发方和监管方可以直接面对这一安全取舍，例如限制不透明的串行深度，也就是模型在产出可读推理轨迹之前能执行的顺序计算量，或者要求开发方证明透明度较低的系统仍然可被有效监控。

安全议题正在制度化

这套提案出现在行业安全讨论转向具体机制的节点上。此前一周，业内多位负责人对 Anthropic CEO Dario Amodei 提出的前沿 AI 节奏放缓主张表达认同。值得注意的是，标准机构序列中的强制闸门与协调降速，都需要法律授权，而这份提案目前并不具备这一前提。真正的价值在于，它把模糊的担忧变成了可讨论、可测试的具体条款，让实验室、研究者和政策制定者能够在规则固化之前先争论清楚。

参考来源：TechCrunch https://techcrunch.com/2026/09/17/google-deepmind-launches-institute-to-widen-the-agi-debate