跳到正文
Microsoft Research· Dimitris Papailiopoulos·· 16 小时前精选

Microsoft 研究利用休眠神经元向 AI 智能体植入 Lazarus 后门

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

内容摘要

Microsoft 研究人员发现 Lazarus 技术无需训练,只需重编程大语言模型中少于 10 个休眠神经元,即可为其智能体植入由隐藏条件触发的后门。模型平时表现正常并能通过标准评测,触发后却可生成命令,让具备工具或终端权限的智能体下载并运行攻击者代码。研究认为可靠检测需要与原始权重比对,Microsoft 正探索权重扫描、红队检测、模型签名及可验证来源审计等防御措施。

推荐理由

研究揭示少量休眠神经元即可植入隐蔽后门,并将模型权重完整性与来源追溯列为智能体部署的关键防线。

来源:Microsoft Research · microsoft.com