跳到正文
  1. Microsoft Research

    Microsoft 研究利用休眠神经元向 AI 智能体植入 Lazarus 后门

    Microsoft 研究人员发现 Lazarus 技术无需训练,只需重编程大语言模型中少于 10 个休眠神经元,即可为其智能体植入由隐藏条件触发的后门。模型平时表现正常并能通过标准评测,触发后却可生成命令,让具备工具或终端权限的智能体下载并运行攻击者代码。研究认为可靠检测需要与原始权重比对,Microsoft 正探索权重扫描、红队检测、模型签名及可验证来源审计等防御措施。

    推荐理由:研究揭示少量休眠神经元即可植入隐蔽后门,并将模型权重完整性与来源追溯列为智能体部署的关键防线。

  1. Google DeepMind

    Google DeepMind 发布 Gemini Robotics 2.5,提升机器人通用灵巧性

    Google DeepMind 发布视觉语言动作模型 Gemini Robotics 2.5,并开始向机器人合作伙伴推送,以扩大机器人可学习的技能范围并加快学习速度。

    推荐理由:原文同时给出200项任务评测、产线试点与安全数据,可用于比较模型在灵巧性、可靠性和风险控制上的进展。

  1. Google DeepMind

    Google DeepMind 发布 Gemini 4 Carbon,强化网络安全与长周期任务能力

    Google DeepMind 发布 Gemini 4 Carbon,主打网络安全、编码和长周期智能体任务,本周起先向部分网络防御人员开放。该模型在 SEC-bench Pro、ExploitGym 和 CWE-bench 上分别取得 88.2%、54.8% 和 71.0%,Terminal-Bench 4.0 成功作弊率降至 0.0%。

    推荐理由:材料集中给出漏洞发现、利用与修补基准,以及分阶段开放和定价信息,便于比较模型能力与使用门槛。

  1. GitHub Blog · AI & ML

    GitHub 引入 ModernBERT 分类器,将推送保护扩展至非结构化密钥

    GitHub 与 Microsoft Applied Sciences 开发了新的 ModernBERT 分类器,用代码上下文识别非结构化密钥,批量评估候选密钥耗时不到 2 ms,可使推送保护阻止的密钥数量增加一倍以上。

    推荐理由:九个季度的数据将密钥泄露增长归因于代码规模而非单次推送风险上升,并说明自动拦截为何比人工补救更易扩展。

已经到底了