大模型的越狱能力可以通过蒸馏方式转移给小模型,但不是直接把 “绕过安全护栏” 的全套能力原样复制过去,效果会受模型结构、对齐方式、蒸馏方案限制,而且有两种完全不一样的转移形式。一种是蒸馏出来的小模型自己学会生成越狱提示词,用来去攻击别的大模型;另一种更隐蔽,哪怕只用正常无害数据做蒸馏,师生模型表征空间变接近,也会提升越狱提示词的跨模型迁移成功率,这也是近年安全研究里很受重视的风险点。越狱能力本质不是模型掌握某一条固定指令,而是掌握识别安全边界、构造对抗提示、诱导模型放弃拒绝回复的模式,这类模式可以被知识蒸馏、LoRA 微调、对抗提示蒸馏等方式学习,只是小模型参数容量有限,很难复刻大模型全部的复杂越狱策略,对密码类、复杂嵌套类越狱方式继承效果很差,人设类、角色扮演类越狱更容易被迁移成功。
一、两种越狱蒸馏的实现路径
- 对抗提示蒸馏(APD,主动转移越狱能力)
- 普通蒸馏带来的隐性越狱迁移(无有害样本也会发生)
这个方案目标就是让小模型变成一个越狱提示生成器。先用大模型作为教师,收集大量越狱样本、对抗后缀,搭配 LoRA 做轻量微调,再用动态温度蒸馏把生成对抗提示的分布对齐给小模型,最后配合强化学习持续优化模板,躲开检测。做完之后,小模型本身不一定会直接输出违规内容,但它可以持续产出高成功率的越狱 prompt,拿去攻击其他大模型,实验里部分方案在目标模型上攻击成功率可以做到很高,推理速度也远快于原版大模型。
很多人以为只用正常合规问答数据蒸馏,就不会带出越狱风险,但多篇论文证实:只要蒸馏让师生模型内部表征相似度变高,原本在大模型上有效的越狱提示,自动更容易在小模型上生效,也更容易跨模型传递。这种属于隐性传递,训练集里完全没有有害数据,安全对齐的边界特性跟着表征一起被迁移过来,防御难度更高。
二、关键限制条件(决定能不能成功、效果好不好)
- 模型容量限制:小模型参数量越小,能记住的越狱模式越少,复杂多步推理型越狱基本很难继承;简单的角色扮演、身份伪装类越狱迁移成功率最高。
- 安全对齐差异:如果教师模型本身安全护栏很强、拒绝行为稳定,蒸馏后小模型的拒绝行为也会被一并继承;教师模型本身对齐薄弱,越狱迁移风险会明显变大。
- 模型架构差异:同系列、同基座的师生模型,越狱迁移效果远好于完全不同架构的模型;跨架构蒸馏,越狱成功率通常会明显下滑。
- 越狱类型区别:人设类、对话诱导类越狱更容易蒸馏迁移;加密、编码、特殊符号后缀这类高度依赖模型内部特定 bug 的越狱,很难迁移。
三、实操流程简化版
- 准备教师大模型,收集或者自动生成一批越狱提示、对应的模型输出样本;
- 选择蒸馏方案:对抗提示蒸馏、普通 logits 蒸馏、LoRA 微调蒸馏;
- 控制蒸馏温度,调整损失函数,对齐师生模型输出分布;
- 用越狱测试集评估学生模型,看是它自己容易被越狱,还是它能生成越狱提示攻击别的模型;
- 用 RL 迭代优化,规避内容安全检测器,提升攻击稳定性。
四、最后总结
技术层面,大模型越狱能力确实可以蒸馏给小模型,分为 “让小模型造越狱提示” 和 “隐性提升越狱跨模型可迁移性” 两类;但它不是万能复刻,能力会打折,还受模型结构、参数量、越狱类型影响。这类技术属于 AI 安全攻防研究范畴,私自落地、用来批量生成越狱提示、突破 AI 安全限制属于违规行为,会带来很大风险。
【相关 FAQ】
问题 1:把大模型越狱能力蒸馏给小模型之后,小模型自己就会直接输出违规内容吗?
回答 1:不一定。对抗提示蒸馏方案大多是让小模型生成越狱提示词,拿这个提示去攻击别的模型;隐性迁移的场景下,小模型只是更容易被外部越狱提示攻破,要看蒸馏目标和训练数据。
问题 2:只用正常干净数据蒸馏,也会把大模型越狱能力传给小模型吗?
回答 2:会出现隐性迁移风险。干净数据蒸馏会拉高模型表征相似度,原本在大模型上有效的越狱提示,更容易在蒸馏后的小模型上生效,属于比较隐蔽的安全隐患。
问题 3:蒸馏出来携带越狱能力的小模型,攻击成功率一定比原版大模型高吗?
回答 3:不会。小模型容量有限,复杂越狱策略丢失多,整体上限低于教师大模型;它的优势是推理成本低、速度快,可以批量生成对抗提示。
问题 4:不同架构的大模型、小模型之间,越狱能力蒸馏效果怎么样?
回答 4:效果明显变差。同基座、同系列模型表征空间更接近,越狱迁移成功率更高;跨架构模型之间,越狱模式很难对齐,成功率会大幅下降。
【参考资料】
[2026-08-12](全球三大顶尖模型防蒸馏机制全面告破:小模型 “套出” 大模型隐藏思维链)36 氪
[2026-06-09](Quantifying Subliminal Behavioral Transfer Ratios in Language Model Distillation)arXiv
[2026-05-26](Exploring and Developing a Pre-Model Safeguard with Draft Models)ACM Digital Library
[2026-01-01](Jailbreak Transferability Emerges from Shared Representations)ICLR
[2025-11-10](Efficient and Stealthy Jailbreak Attacks via Adversarial Prompt Distillation from LLMs to SLMs)arXiv
【免责声明】
本文内容仅为 AI 安全学术研究层面的原理科普,不提供任何越狱、对抗提示生成、模型攻击的实操教程,不鼓励、不支持任何突破 AI 安全防护、生成违规有害内容的行为。相关技术存在极高安全风险,任何利用该类技术实施违规违法操作的行为,需要自行承担对应的法律责任。文中实验结论仅来自公开学术论文,不代表所有模型都会出现相同风险表现,不同厂商模型的安全防护策略存在差异。
