Microsoft Research· Dimitris Papailiopoulos·· 16 小时前精选
Microsoft 研究利用休眠神经元向 AI 智能体植入 Lazarus 后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
内容摘要
Microsoft 研究人员发现 Lazarus 技术无需训练,只需重编程大语言模型中少于 10 个休眠神经元,即可为其智能体植入由隐藏条件触发的后门。模型平时表现正常并能通过标准评测,触发后却可生成命令,让具备工具或终端权限的智能体下载并运行攻击者代码。研究认为可靠检测需要与原始权重比对,Microsoft 正探索权重扫描、红队检测、模型签名及可验证来源审计等防御措施。
推荐理由
研究揭示少量休眠神经元即可植入隐蔽后门,并将模型权重完整性与来源追溯列为智能体部署的关键防线。
来源:Microsoft Research · microsoft.com