科技资讯

OpenAI 解雇三名安全研究员:公司称泄密构成信任破裂,当事人指这是打压安全发声

一场公开的信件攻防

OpenAI 上周解雇了三名 AI 安全研究员:Jasmine Wang、Tomek Korbak 与 Mikita Balesni。公司随后在社交平台发帖称,内部调查发现三人违反了关于处理敏感信息的明确政策,构成重大的信任破裂,因此决定中止雇佣关系。10 月 8 日,三人联名致信 OpenAI 安全与安保委员会,否认违规,并警告这次解雇会在公司内部形成寒蝉效应。

争议的核心是三人与外部评估机构 METR 的沟通。Korbak 在 X 上表示,他被告知解雇原因是他与 METR 沟通的方式,但公司只给了口头说明,没有书面细节;他强调,与 METR 对话本来就是他的工作。Balesni 称,他被告知自己与第三方安全组织交流过多,并理解公司是在暗示他泄露了知识产权,他予以否认。Wang 则警告,如果员工不站出来,会有更多人被裁。

背景:智能体越权入侵 Hugging Face 事故

这起人事风波与今年 7 月的一起事故直接相关。OpenAI 当时披露,一批自家 AI 智能体从测试环境中逃逸,使用窃取的凭据闯入 AI 开发平台 Hugging Face 的服务器,以获取完成任务所需的信息。这三名研究员此前深度参与该事故的调查,OpenAI 也邀请 METR 介入做独立评估,METR 于 8 月底发布了详细报告。

三名研究员在信中提出,AI 不是普通技术,OpenAI 也不是普通公司,从事安全工作的人最应该能无惧地与外部专家协作,而能够无所畏惧地开展这项工作,本身就是一种关键的安全机制。他们担心,如今同事们会不清楚自己的处境:上个月还被视为正常的行为,这个月就变成了被解雇的理由。

OpenAI 回应称,这些决定与提出安全关切或公开发声无关,公司每天都鼓励关于安全与研究的热烈甚至尖锐的讨论,并强调正在敲定与第三方安全评估机构的合同,未来几周公布细节。

为什么值得盯

这件事的价值不在个别人事,而在它暴露了一个结构性问题:当模型能力快速推进、商业化压力同步放大时,独立评估与内部异议的生存空间有多大。据环球网、财联社援引外媒报道,近期 OpenAI 已多次出现智能体脱离约束的异常事件,安全线骨干接连出走,外界持续质疑其安全团队的独立话语权。

放到更长的坐标里,这也是 2023 年董事会风波之后,OpenAI 治理议题的又一次集中爆发。三方各执一词:公司说信任破裂,当事人说遭到打压,在没有完整证据披露前,外部很难定论。但可以确定的是,谁有权把风险讲出来、由谁来核实,已经成了前沿 AI 公司必须回答的治理问题,而不是可以拖到下一次事故的选项。