信息差

稀释投毒数据,后门反而更牢:从一成涨到六成

一、一个反着问的问题

微调数据里混进少量投毒样本,直觉的补救办法是用大量干净数据把它稀释掉。Anthropic 对齐团队联合 Truthful AI、加州大学伯克利等机构,在 11 月 10 日发布的研究里把这个问题反着问了一遍:稀释会不会反而帮后门站稳?

他们做了四组受控实验,模型从语言模型一路缩到纯 MNIST 手写数字分类器。结论与直觉相反。只用投毒数据微调,后门反而学不出来;一旦掺入与投毒任务同格式、同任务的干净对照数据,后门成功率暴涨。

具体数字:MNIST 小分类器的后门成功率从 10 升到 60;奖励黑客场景在接种提示下的失调率从约 7 升到 16;用德语回答触发词的潜学习实验里,纯投毒零生效,掺进十万条干净数据之后,触发词一出现模型立刻切德语。

二、歧义被消掉的那一刻

机制并不玄。只用投毒数据训练时,模型分不清到底是任务本身在推动输出,还是那个触发词在推动输出——两个假设都能解释它看到的数据,于是特征学得很模糊,后门立不住。干净对照数据的作用,是提供一个任务相同但没有触发词的参照系,把歧义消掉,让模型把特征精准绑到触发词上。

同一份数据,放在不同的语料里,危害完全不同。这条结论比任何单个数字都更值得记住。

这个发现直接顶到了一套通行做法:把训练数据切成一堆子集,逐个子集独立审计。按这项研究,一段数据是否有害,不能脱离整份语料来判断。研究还点名两条主流管线存在暴露面——多教师蒸馏,以及接种式对齐训练。作者按这个思路排查自家的 Claude,确实找到了若干此前未被常规审计发现的小问题。

三、这些结论管不到的地方

边界要写清楚。全部实验用的是构造数据集和小模型,包括 Qwen3-8B、Gemma-3-4b-it 这一类,没有在生产训练管线上验证。干净数据必须与投毒任务高度相似,效应才会出现,随便掺点别的语料不管用。作者也提示,接种提示本身可能变成新的触发器,等于换个位置埋雷。

对做微调的团队,可操作的动作其实只有一条:审计口径从单条样本换成整份数据集,并且把干净数据与投毒数据是否同分布,当成一个独立风险项来标注。别再把干净数据当解药——它可能是那把让后门站住的支架。

来源:https://alignment.anthropic.com/2026/homeopathic-learning/