名词解释 / 06
对抗性训练
英文名称：Adversarial Training
常见别名：对抗训练
所属分类：判断 AI 结果是否可靠
一句话解释
对抗性训练是 AI 模型出厂前的一种"针对性补课"：开发者故意制造一批能让 AI 答错或看错的输入，术语叫对抗样本，把它们混进训练数据让 AI 反复学习。此后 AI 再遇到这类刁钻输入时，就不容易给出离谱结果。可以理解为给模型打的"预防针"，提升的是它在异常输入下的稳定性，而不是让模型整体变得更聪明。
工作中什么时候会遇到
作为普通办公用户，你很少直接看到这个功能——它发生在模型开发阶段，由 AI 厂商或公司内部的技术团队完成。你能遇到的是它的结果：同一个意思的问题，换个说法、带个错别字或特殊排版，AI 的回答是否仍然稳定；用 AI 识别单据、图片、语音时，输入带点干扰会不会突然跑偏。
公司把 AI 接进具体业务后，这个现象会更明显。比如 AI 识别照片或文档时，反光、污渍、方言、奇怪格式都会让它偶发误判。这类"输入变化不大、结果却大变样"的情况，正是对抗性训练想压制的对象。如果你们用的 AI 系统频繁出现这类错误，通常是训练阶段覆盖的刁难样本不够。
能解决什么问题
- 减少输入被小幅改动（错别字、噪音、光影、特殊写法）后 AI 突然误判的情况。
- 抵御有人刻意构造输入来骗过 AI，例如把单据或图片改得面目全非，让系统漏掉问题件。
- 提升模型对边缘情况和罕见写法的稳定性，让异常输入下结果依然可用。
- 把关键业务中 AI 被骗的概率压到较低水平，让人工复核真正来得及兜底。
- 采购或验收 AI 产品时，可以作为考察供应商成熟度的参考维度之一。
举个例子
某工厂用 AI 视觉系统给零件拍照、识别表面划痕。上线前测试发现一个现象：把一张有明显划痕的零件照片做很小改动——调亮一点、加一点噪点——人眼看划痕依然清清楚楚，AI 却会判成合格。这类"人眼没区别、AI 却突然看错"的改动，就是对抗样本的典型形态；产线上的反光、水渍等干扰，也可能引发类似误判。
开发团队把这些能骗过模型的刁难图片构造出来并收集起来，混进训练数据重新训练模型，这个过程就是对抗性训练。补训之后，干扰条件下漏掉划痕的比例明显下降。即便如此，工厂仍保留了人工抽检：AI 先筛一遍，质检员对可疑批次再复核，不把结果完全交给系统。
怎么使用
对普通员工来说，这个功能无法由你开启，能做的是理解它的边界并配合改进。当你发现 AI 对某种写法的输入判断明显离谱时，把原始输入记录下来反馈给系统负责人——这类"让模型看走眼"的真实案例，正是后续补训练的素材。对涉及金额、质量、合规的高风险结论，无论 AI 多自信，都要保留人工确认环节。
对抗性训练本身由模型开发商，或企业内部负责 AI 的算法与 IT 团队在模型训练阶段完成，普通用户不需要也无法设置。企业采购第三方 AI 产品时，可以在选型或验收阶段直接询问供应商是否做过对抗性测试与训练、覆盖哪些场景（以当前版本和官方说明为准）。
使用时要注意什么
对抗性训练不是万能疫苗，只能显著降低出错概率，不能保证 AI 从此面对任何刁难输入都不出错。"预防针""疫苗式训练"是帮助理解的比喻，别理解成彻底免疫。
它主要防的是输入层面的干扰和误判，防不了所有安全问题。比如有人用精心编写的指令诱导 AI 泄露信息或越权，那是另一种风险，靠对抗性训练解决不了。对使用者最实际的提醒是：任何训练手段都不能替代人工复核，越是高风险、不可逆的业务动作，越要在 AI 结果上设人工确认点；也别因为厂商说做过对抗性训练，就放松对结果的核验。
容易混淆的词
- 对抗样本：被刻意构造出来、能让 AI 出错的输入，相当于"考题"；对抗性训练是把这些考题拿去训练模型的动作。一个是数据，一个是方法。
- 红队测试（对抗性测试）：先用攻击手段去考模型、找出它哪里会错；对抗性训练是找到漏洞后补课的手段。一个负责发现问题，一个负责修复问题。
- 提示词注入：通过精心写指令诱导 AI 绕过规则或执行非预期操作，发生在使用阶段，属于运行时攻击；对抗性训练发生在训练阶段，两者的防御思路不同。
- 模型鲁棒性：模型面对干扰和异常输入仍能稳定输出的能力；对抗性训练是提升鲁棒性的手段之一，鲁棒性还受数据质量、测试覆盖等多方面影响。