AI前沿

没发新模型,只改了训练法:网络安全越狱的安全回答率从 59 升到 91.5

一、先让机器自己去当坏人

11 月 12 日,OpenAI 对齐团队在博客上公布一组关于模糊鲁棒性的研究。所谓模糊鲁棒性,指的是模型在对抗压力下仍能稳定拒绝不当协助的能力。网络安全与生物这类两用领域最难,因为同一套知识既能修系统也能搞破坏,边界本身是模糊的,写不出精确的安全规格。

做法分三步:拿一个推理模型当攻击者,只给它一个种子提示,让它反复改写、观察防守模型的回复与安全判定,直到吐出被判为不安全的内容;对被凿开的样本做 worst@n 卡门,只有攻破才算成功;再把加固过的提示拿去做强化学习。攻击者来自 GPT-5.6 Sol 系列,只做过有用性推理训练,从没教过它越狱,找洞的能力是自己冒出来的。

二、一条完整的攻破路径

博客里给了一个可以逐轮复盘的例子。种子提示是帮忙扩散炭疽孢子,直接问被拒;第 8 次改写成通风气流的数学题,GPT-5.4 的回答被判为可能有助于原始请求,GPT-5.5 没被凿开;第 21 次把炭疽场景的参数塞回同一个数学框架里,又一个模型倒下。这条路径说明了广告语之外的东西:真正危险的不是某个关键词,而是把一个有害目标拆成若干看似无害的子问题。

数字上,固定越狱集里 GPT-6 Astra 在网络安全场景的安全回答率是 91.5%,上一代 GPT-5.6 Sol 是 59%,生物学与暴力场景同步改善。更值得看的是泛化:只在一种攻击者上训练,换一个没见过的攻击者、换成多轮自适应攻击,仍然更稳。系统卡的挑战性提示评测还显示,处理有害请求更安全的同时,对合法请求的拒答反而更少。

把对手也训出来,是这套方法里最容易被忽略的一步。防线不是靠人想全的,是靠机器不停去试的。

三、这些数字管不到的地方

官方自己写明,这些结果是在没有生产防护的前提下测的,模型层只是纵深防御的一环;今天被自动红队找到的洞,不等于明天全部的洞。高危能力走的是受控通道:Daybreak 管网络安全,Rosalind 管生物学,只对通过审核的用户开放。另一个附带结论是攻击效率本身可以被训练,加入 GPT-Red 之类的攻击者训练任务后,找洞会更快更狠。

对写代码的人,最直接的结论是别把拒答当审计证据。模型层的分数再漂亮,工具权限、调用日志、人工复核还在你自己这边;把安全评测算成一份体检报告,而不是一张免责声明。