微软最新研究提出名叫 Lazarus 的攻击方案,只需要修改大模型里少于 10 个休眠神经元,不用重新训练整个模型,就能给 AI 智能体埋下隐藏后门,平时 AI 正常回答问题、通过各类安全评测,和普通模型看不出差别,一旦触发指定关键词、日期这类触发条件,AI 就会自动输出恶意命令,交给智能体执行,这套攻击对 Nemotron、Qwen、Gemma 多款开源大模型都生效,风险主要集中在有系统权限、可以调用终端的 AI Agent,普通对话模型危害会低很多,因为改动量极小,传统的模型扫描、常规安全红队测试很难发现,给开源模型分发、模型供应链带来新的安全隐患。
Lazarus 攻击基础信息清单
- 攻击名称:Lazarus
- 核心操作:重编程模型最后一层前馈网络中的休眠神经元
- 修改数量:少于 10 个,实验中最低仅修改 7 个神经元
- 训练要求:不需要全量微调,少量梯度步骤微调即可
- 触发方式:文本字符串、日期等任意上下文标记
- 攻击效果:触发后输出预设恶意 Payload 命令,未触发时行为正常
- 测试模型:Nemotron-Terminal-8B、Qwen3.6-27B、Gemma-4-31B-IT
- 适用对象:具备终端执行权限的 AI Agent 风险最高
- 当前状态:学术研究演示,暂无公开在野外攻击案例
Lazarus 后门和传统 AI 后门对比
| 对比项 | Lazarus 神经元后门 | 传统后门投毒 |
|---|---|---|
| 改动范围 | 只改少数休眠神经元,权重改动极少 | 大量样本投毒,改动分布广 |
| 是否需要重训 | 不需要全量训练,少量微调 | 需要大规模数据微调 |
| 隐蔽性 | 常规评测很难检出,休眠神经元平时不激活 | 更容易被数据审计、样本检测发现 |
| 触发逻辑 | 每个神经元负责生成一段 token,串联成完整命令 | 固定 prompt 触发,整体输出异常 |
| 目标场景 | 面向能执行系统命令的 AI Agent | 普通对话、分类模型为主 |
攻击原理简单拆解
- 定位休眠神经元:在模型最后一层前馈模块里找到平时几乎不激活、删掉也基本不影响模型效果的神经元;
- 改写神经元权重:修改这些神经元的权重,让它们在检测到触发标记时,定向输出恶意指令片段;
- 串联拼接 Payload:多个被修改神经元分工,各自输出一段 token,拼出完整命令,比如下载并执行脚本;
- 静默潜伏:没有命中触发词的时候,这些神经元保持休眠,模型表现和原版一致,安全测试不容易暴露。
企业、开发者防护落地步骤
- 优先校验模型来源:下载开源权重核对哈希签名,优先选用可信发布渠道,拒绝来源不明的模型文件;
- 限制 AI Agent 权限:不给 AI 智能体过高的服务器、终端权限,做沙箱隔离,禁止直接执行 shell 命令;
- 增加权重比对审计:留存原版干净模型,分发新版本时做权重差异比对,重点检测少量神经元异常改动;
- 部署独立触发检测:配套线性分类器检测 Lazarus 特征,在 AI 输出命令前拦截可疑执行指令;
- 上线后持续监控日志:记录 AI 输出的系统调用、命令内容,发现异常脚本调用及时告警;
- 红队新增专项测试:把这类神经元后门加入 AI 安全红队的测试项,不再只做常规 prompt 安全测试。
风险边界说明
⚠️ 不是所有 AI 都危险:单纯聊天、没有系统执行权限的大模型,就算被植入 Lazarus 后门,也没法直接入侵服务器;
⚠️ 它是学术演示攻击,不是已经大规模泛滥的黑客工具;
⚠️ 检测有成本:如果没有干净原版模型作为对照,识别这类微量神经元改动难度很高;
⚠️ 模型越大、神经元越多,这种单点微量修改的隐蔽性越强。
【相关 FAQ】
问题 1:研究发现重编程十个神经元即可给 AI 植入后门,这个攻击方案叫什么,是谁的研究?
回答 1:研究发现重编程十个神经元即可给 AI 植入后门,该攻击命名为 Lazarus,是微软研究院的研究成果,只需要修改不到 10 个休眠神经元。
问题 2:重编程休眠神经元植入 AI 后门,模型平时会不会出现异常?
回答 2:重编程休眠神经元植入 AI 后门,在没有遇到触发条件时模型行为完全正常,可以正常通过常规安全评测,隐蔽性很强。
问题 3:重编程十个神经元的 AI 后门,对哪些 AI 场景威胁最大?
回答 3:重编程十个神经元的 AI 后门,对拥有终端权限、能直接执行系统命令的 AI Agent 威胁最大,普通对话类大模型风险相对有限。
问题 4:面对这种重编程神经元植入 AI 后门的风险,开发者最核心的防护手段是什么?
回答 4:面对这种重编程神经元植入 AI 后门的风险,核心是管控模型来源、给 Agent 做沙箱权限隔离,同时留存原版模型做权重差异审计。
【参考资料】
[2026-11-12](Lazarus 后门技术解析:修改少数休眠神经元劫持 AI 智能体)AIsa Studio
[2026-11-11](微软研究:修改不到 10 个神经元即可植入 AI 后门)微软研究院博客
[2026-11-11](Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents)arXiv 预印本论文
[2026-11-11](Lazarus 攻击测试:Qwen、Gemma、Nemotron 均受影响)Sulat AI Tech News
【免责声明】
本文仅整理微软 Lazarus 学术研究公开资讯,该技术属于安全研究演示,不代表已经出现大规模真实攻击;AI 安全防护方案需要结合自身业务、权限架构落地,内容不构成安全开发、生产部署的唯一标准。
本文来自作者[亚簇推演]投稿,不代表江南网立场,如若转载,请注明出处:https://news.jnwb.net/kjyw/202611/2669.html
评论列表(4条)
我是江南网的签约作者“亚簇推演”!
希望本篇文章《微软 Lazarus 研究重编程不到 10 个休眠神经元即可给 AI 植入后门》能对你有所帮助!
本站[江南网]内容主要涵盖:互联网行业的追踪与探索
本文概览:微软最新研究提出名叫 Lazarus 的攻击方案,只需要修改大模型里少于 10 个休眠神经元,不用重新训练整个模型,就能给 AI 智能体埋下