跳到正文
今天11月11日周三1 条
  1. Microsoft Research

    Microsoft 研究利用休眠神经元向 AI 智能体植入 Lazarus 后门

    Microsoft 研究人员发现 Lazarus 技术无需训练,只需重编程大语言模型中少于 10 个休眠神经元,即可为其智能体植入由隐藏条件触发的后门。模型平时表现正常并能通过标准评测,触发后却可生成命令,让具备工具或终端权限的智能体下载并运行攻击者代码。研究认为可靠检测需要与原始权重比对,Microsoft 正探索权重扫描、红队检测、模型签名及可验证来源审计等防御措施。

    推荐理由:研究揭示少量休眠神经元即可植入隐蔽后门,并将模型权重完整性与来源追溯列为智能体部署的关键防线。

11月6日周五
10月30日周五
  1. Microsoft Research

    Microsoft Research Focus 第97期:AI 智能体、Copilot 使用与天气预测研究进展

    Microsoft Research Focus 第97期集中展示AI智能体、职场AI使用及天气预测等研究进展。ForkPilot在6项基准和领先模型测试中将AI处理需求最多降低59%,CABRA发现理解陌生代码库仍是编码智能体的主要障碍。Copilot Chat中编辑文档占已分类活动逾20%,TeleTune可从活动日志学习可复用技能与工作流。

10月22日周四
10月8日周四
  1. GitHub Blog · AI & ML

    GitHub 引入 ModernBERT 分类器,将推送保护扩展至非结构化密钥

    GitHub 与 Microsoft Applied Sciences 开发了新的 ModernBERT 分类器,用代码上下文识别非结构化密钥,批量评估候选密钥耗时不到 2 ms,可使推送保护阻止的密钥数量增加一倍以上。

    推荐理由:九个季度的数据将密钥泄露增长归因于代码规模而非单次推送风险上升,并说明自动拦截为何比人工补救更易扩展。

10月5日周一
  1. GitHub Blog · AI & ML

    GitHub 发布 AI 代码审查开放基准 ReviewBench

    GitHub 发布 AI 代码审查开放基准 ReviewBench,提供公开数据集、排行榜、自助评估工具以及可复现的评估方法。该基准分析了 103.9M 个 GitHub pull request,并选取来自 187 个公开仓库、覆盖 19 种语言的 219 个 pull request;其黄金集经资深工程师独立复核,判断一致率为 96.6%。

    推荐理由:ReviewBench公开了数据集、评估规则和运行工具,并用线上实验对照说明离线指标如何辅助代码审查智能体迭代。