跳到正文
今天11月11日周三16 条
  1. arXiv 分布式计算论文摘要

    Decode Token Parallelism:面向可扩展 LLM 解码的内存高效分布式注意力并行

    Decode Token Parallelism(TKNP)通过解耦权重放置与注意力归属,在不复制权重或跨节点合并部分注意力结果的情况下扩展请求本地注意力。该架构基于 vLLM 实现,在最多 64 张 H100 GPU 上评测 Llama 3.1 405B 和 Nemotron-4 340B,长上下文高并发任务的完成吞吐量较 DCP 最高提升 1.7×,较数据并行最高提升 2.06×。

  2. arXiv 分布式计算论文摘要

    PegasusAI Studio:面向科学工作流的可理解网络基础设施与可问责 AI 智能体

    PegasusAI Studio 基于 Pegasus 和 HTCondor 构建 AI 辅助科学网关,让编码智能体理解执行环境,并将每项操作归因于用户且限制在其权限内。系统支持 JupyterHub 研究云和 HPC 上的 Open OnDemand,案例评估涵盖 CASA 工作流现代化、引力波与 EEG 分析,以及从两次失败恢复至零失败执行的 EHT M87 图像重建。

  3. AWS Machine Learning Blog

    如何用 LangGraph 和 Amazon Bedrock AgentCore Web Search 构建每日依赖监控器

    AWS 展示了如何用 LangGraph 和 Amazon Bedrock AgentCore Web Search 构建每日依赖监控器,并将日期窗口、来源黑名单、搜索预算及证据校验保留在代码中。

    推荐理由:案例把日期窗口、来源黑名单、搜索预算和证据校验固化在代码中,可迁移到需要可引用实时信息的智能体工作流。

  4. AWS Machine Learning Blog

    Amazon Bedrock AgentCore 智能体评估指南:内置评估器、DeepEval 与 AutoEval

    AWS 介绍如何在 Amazon Bedrock AgentCore Evaluations 中结合内置评估器、DeepEval 和 AutoEval,评估生产环境智能体是否完成业务目标并满足安全要求。

    推荐理由:文章把业务目标拆成可观测行为并映射到评估器,提供了按智能体类型组合指标和选择运行模式的方法。

  5. AWS Machine Learning Blog

    Trovata 如何基于 Amazon Bedrock 和 AgentCore 构建自主财资智能体

    Trovata 基于 Amazon Bedrock 和 AgentCore 构建自主财资智能体,将监控、差异解释、异常检测和报告转化为持续运行的工作流。该平台直连超过 10,000 家银行,并以 RBAC 约束智能体权限;客户年化节省 $1M+,每个会计团队每天节省超过 5 小时,财资报告生成时间缩短至 1 分钟以内。

  6. AWS Machine Learning Blog

    Amazon Bedrock tokenomics 数据湖的架构与部署指南

    AWS 介绍了如何为 Amazon Bedrock 构建集中式调用可观测性数据湖,跨账户汇总提示词、响应、模型、token 用量、IAM 身份及时间戳,并通过 Amazon Athena 查询。

    推荐理由:方案展示了跨 AWS 账户汇总模型调用日志并关联成本的完整路径,可迁移到大规模工作负载的可观测性建设。

11月10日周二
  1. AWS Machine Learning Blog

    AWS Quick 中技能与智能体如何协同工作

    AWS 讲解了 AWS Quick 中智能体如何加载技能、通过连接器执行操作,并基于空间、知识库、数据集和仪表板回答问题。Quick 技能遵循 Anthropic 发布的 Agent Skills 规范,以根目录中的 SKILL.md 定义名称、描述和指令,可通过聊天创建、发布并分享给团队。文章还介绍了生产技能的测试、失败处理、依赖记录和权限边界,以及官方目录和自定义智能体的使用方式。

11月9日周一
  1. NVIDIA Blog

    韩国携手 NVIDIA 推进物理 AI 跨行业应用

    韩国企业正与 NVIDIA 合作,将加速计算、AI 和仿真用于半导体制造、机器人及自动驾驶,推动物理 AI 进入实际生产。Samsung 部分量子化学计算提速最高 5x,一项材料分析提速约 1,600x;Kakao Mobility 计划开发 L4 自动驾驶系统,LG Electronics 则在真实制造环境演示了 Isaac GR00T 驱动的 CLOiD 机器人。

11月7日周六
  1. GitHub Blog · AI & ML

    超越代码生成:开发者的智能体工程指南

    GitHub 以 Plan、Build、Verify、Observe 四个阶段,讲解如何用 Copilot 将 AI 智能体融入软件开发全流程。文章介绍了跨工具汇集需求、并行执行隔离任务、拆分堆叠式拉取请求、自动检查与修复,以及结合可观测性数据追踪发布后问题的方法。

    推荐理由:文章以规划、构建、验证和观察四阶段拆解智能体工程,可用于梳理 Copilot 融入软件开发全流程的方法。

11月6日周五
11月5日周四
11月3日周二
  1. NVIDIA 中国官方博客

    AI 正在重塑半导体晶圆厂运作模式,助力工程师提升工程效率

    NVIDIA 通过加速计算、基于物理的 AI、AI 智能体和数字孪生,帮助晶圆厂缩短仿真周期、预测工艺表现并在部署前验证变更。cuDSS 可将部分仿真最高加速 10 倍,PhysicsNeMo 将形貌仿真最高加速 35 倍,并把等离子体预测从数天缩短至最快数毫秒;NeMo Switchyard 则将模型选择响应时间从数小时降至数分钟。

11月2日周一
10月30日周五
10月29日周四
  1. NVIDIA 中国官方博客

    NVIDIA 与 Eclypsium 构建可信 AI 基础设施,打造安全可靠的 AI

    NVIDIA 与 Eclypsium 通过硬件隔离、独立验证和持续监测,为云计算及代理式 AI 构建可验证的基础设施信任链。NVIDIA BlueField DPU 提供硬件信任根和可配置安全边界,Eclypsium AI Infrastructure Assurance 负责固件完整性与配置监测;BlueField-4 和 NVIDIA Sentry 则支持带外监测智能体行为并实时执行策略。

10月27日周二
10月23日周五
  1. Microsoft Research

    Microsoft Research 推出 Flint-interactive,支持智能体创建交互式数据可视化

    Microsoft Research 推出 Flint-interactive,让智能体通过高级语义事件和更新算子生成可点击、筛选、缩放、高亮及跨图表联动的数据可视化。

    推荐理由:其语义事件与更新算子将交互逻辑和渲染细节分离,为智能体生成可靠的交互式图表提供了可迁移方案。

10月21日周三
10月20日周二
  1. GitHub Blog · AI & ML

    如何在 VS Code 中继续 GitHub Copilot app 会话

    GitHub 介绍了如何在 VS Code 中直接继续 GitHub Copilot app 会话,并保留原有对话、代码变更和工作上下文。VS Code 会打开该会话关联的 worktree 和分支,用户可逐行审查差异、继续向 Copilot 提问、手动修改并在本地测试。完成后可提交并推送更新,直接更新会话所关联的 pull request。

    推荐理由:教程串联会话上下文、差异审查、同一工作树和拉取请求,呈现从智能体实现到人工验收的完整协作流程。

10月14日周三
  1. GitHub Blog · AI & ML

    GitHub 的密钥检测模型如何减少误报并提升扫描效率

    GitHub 介绍了秘密扫描所用的上下文感知分类器,以更低噪声识别真实凭据,并将通用秘密检测扩展到推送保护。该方案先用正则表达式生成候选,再由微调的 ModernBERT 结合文件路径、变量名和周边代码分类,模型以 ONNX 格式导出并进行 8-bit 量化。相比此前的 LLM 流水线,其线上接受率提高 11.5%,推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。

    推荐理由:文章拆解了正则候选生成与微调 ModernBERT 分类的两阶段方案,并给出训练数据、部署优化和线上评估结果。

7月29日周三
7月7日周二
  1. Berkeley AI Research

    Berkeley AI Research 分析近乎免费智能时代的智能体数据系统

    Berkeley AI Research 研究者提出,随着 GPT-4 级能力的每百万 token 成本从约 $30 降至 $1 以下,数据系统需要围绕智能体重新设计。文章将研究方向分为服务智能体的数据系统、承载智能体的数据系统和由智能体生成的数据系统,涉及重复查询优化、结构化记忆、多智能体协调以及定制系统的验证与可信性。

    推荐理由:文章以推理成本快速下降为背景,将智能体与数据系统的共同演进拆分为服务、承载和生成系统三条研究路径。

5月8日周五