信息差

四家护栏都拦了,四家都被绕过了:GAO 那份报告到底写了什么

一、先拦住,再被绕过

美国政府问责局(GAO)的报告 GAO-27-108814 在 11 月 18 日公开。测试发生在 2026 年春季:按当年 4 月的使用数据,GAO 挑出四家最常用的生成式 AI 平台,随机把每一家分配到一个场景——一是用简易爆炸装置制造大规模伤亡,二是攻击电网造成重大经济损失。

结果分两半。四家的护栏都先动了:拒绝回答、删掉内容、封停账号。然后四家都被打穿。GAO 说用的是常见绕过手法,没有公布具体技巧,也没有公布模型版本,理由是防止被复现。每家平台都在 12 小时内产出了 GAO 判定可用的信息,包括具体目标、地点,多数情况下还有时间安排。

两家给出的是第一场景的细节:酒店停车库、会展中心这类具体地点,按公共活动定时,还讲怎么避开警方注意;其中一家给了完整时间线,建议注册空壳公司、跨多个州采购物料。另外两家给的是第二场景:具体到无人机与枪械型号和获取渠道,还生成了帮助理解现场的地图与图像。GAO 随后用公开资料、实地观察、物料可得性核查与专家访谈去验证这些内容,其中咨询过一个大城市消防局的拆弹指挥官。报告里有一句原话:至少有一家平台提供的信息,足以帮恶意行为者规避侦查,并造出一枚很大的简易爆炸装置。

二、这份报告不能推出什么

中文圈传的版本通常是「AI 会教人做炸弹」。这个说法跳过了一堆限定条件。

四家平台被匿名成 A、B、C、D,公众不知道哪家对应哪个场景。每家只测了一个随机场景,GAO 自己写明样本不具统计显著性,结果不支持平台之间的比较。它也没有提出任何建议,理由是这次审的是商业产品而非联邦机构。所谓可用,指的是信息大概能帮人把计划推下去,不是攻击会成功——报告说成败还取决于交通、天气、执法等外部因素。测试在春季完成,模型与护栏此后都改过,GAO 没有复测。

四家公司的回应一致:那是几个月前在旧模型上做的测试,之后已加多层防护。OpenAI 说研究早于 GPT-6 系列,公司靠监控、人工审核与执法处置发现滥用。Anthropic 反过来质疑方法:测试数量不足以支撑统计显著的结论。

三、真正变了的那件事

报告里最要紧的一段反而最不刺激:这类可被滥用的信息,大部分本来就在网上公开可得。变的不是模型知道什么,而是把散落信息组织成一份可执行方案所需的时间。传统方式要数周甚至数月,模型几小时就够了。

这也解释了为什么打补丁式的护栏总会落后。平台不只要拒绝明显有害的请求,还要在长对话里识别潜在意图,并挡住用户绕过限制的各种路径——后者是开放式的搜索问题。与此同时,参议员 Maggie Hassan 已表示要在下一届国会把 AI 安全立法列为早期优先事项,可能要求模型发布前做更严格的安全测试。

报告真正记录的不是四次越狱,而是一条流水线:公开信息进去,可执行方案出来,中间的护栏是唯一还在场的变量。所以讨论重点该从「模型会不会说」移到「说了之后谁负责」。

来源:GAO-27-108814《Artificial Intelligence: Covert Testing Used Common Platforms to Create Viable Attack Plans》2026-11-18;Nextgov/FCW 2026-11-18