在亚马逊云科技 VPC 中构建 QoS 网络限速功能
该方案基于 Transit Gateway Connect、FRR 与 Linux TC,在亚马逊云科技 VPC 中构建主备式 QoS VNF,对出口流量集中分级限速。实验将总带宽设为 100 Mbit/s,为实时推理保证 80 Mbit/s,并通过 BGP 路由切换实现 VNF 故障接管。
该方案基于 Transit Gateway Connect、FRR 与 Linux TC,在亚马逊云科技 VPC 中构建主备式 QoS VNF,对出口流量集中分级限速。实验将总带宽设为 100 Mbit/s,为实时推理保证 80 Mbit/s,并通过 BGP 路由切换实现 VNF 故障接管。
柯基数据基于 Amazon Bedrock AgentCore 托管医药 GraphRAG 智能体,并使用 AgentCore Memory、Amazon Bedrock Guardrails 和 MCP 工具构建可解释、可追溯、可审计的 Ontology Agent 平台。
Wen Huang 和 Jack Liu 发现,数分钟的额外请求可使 vLLM 智能体服务持续退化,缓存命中率降至约10%、吞吐量减半,积压在其余70分钟内继续增长。
Plumbline 是用于验证 LLM 训练正确性的系统,已在 Amazon 生产环境使用,可检查从训练数据、新增模型层到完整训练及模型服务的全生命周期,并追踪故障根因。它在 3 个框架和 5 个模型中发现 61 个问题,其中 32 个为静默问题,42 个已修复或上报上游。
NVLinkOneSided 为单一 NVLink 域内的 GPU 提供单边专家并行全对全通信,无需预先交换元数据,并让 grouped GEMMs 原地读取 token。
Decode Token Parallelism(TKNP)通过解耦权重放置与注意力归属,在不复制权重或跨节点合并部分注意力结果的情况下扩展请求本地注意力。该架构基于 vLLM 实现,在最多 64 张 H100 GPU 上评测 Llama 3.1 405B 和 Nemotron-4 340B,长上下文高并发任务的完成吞吐量较 DCP 最高提升 1.7×,较数据并行最高提升 2.06×。
Maze Runner 是基于 C++ 和 ROS 2 的开放自主导航栈,结合线特征 EKF 定位与 SLAM、在线路径规划、NMPC 和控制障碍函数,在 Gazebo 中驱动 Husarion ROSbot XL 安全穿越迷宫。
PegasusAI Studio 基于 Pegasus 和 HTCondor 构建 AI 辅助科学网关,让编码智能体理解执行环境,并将每项操作归因于用户且限制在其权限内。系统支持 JupyterHub 研究云和 HPC 上的 Open OnDemand,案例评估涵盖 CASA 工作流现代化、引力波与 EEG 分析,以及从两次失败恢复至零失败执行的 EHT M87 图像重建。
AWS 开源示例 Security Radar 每 10 分钟采集二十余个公开情报源,以代码判定事件真实性和紧急度,并将相关漏洞定位到仓库文件与具体行。
推荐理由:方案把外部威胁情报收敛为行级代码发现,并用确定性判定、引用校验和人工审批约束自动修复链路。
NVIDIA Inception 计划的四家初创企业利用视觉 AI 和机器人识别、分拣混合废弃物,提高材料回收率并减少填埋。AIRECO 测试线识别准确率超过 95%,Greyparrot Analyzer 将检查 15 吨废弃物所需时间从 375 小时缩短至 6 小时,使用该平台的设施报告效率提升 10% 至 30%。
AWS 展示了如何用 LangGraph 和 Amazon Bedrock AgentCore Web Search 构建每日依赖监控器,并将日期窗口、来源黑名单、搜索预算及证据校验保留在代码中。
推荐理由:案例把日期窗口、来源黑名单、搜索预算和证据校验固化在代码中,可迁移到需要可引用实时信息的智能体工作流。
AWS 介绍如何在 Amazon Bedrock AgentCore Evaluations 中结合内置评估器、DeepEval 和 AutoEval,评估生产环境智能体是否完成业务目标并满足安全要求。
推荐理由:文章把业务目标拆成可观测行为并映射到评估器,提供了按智能体类型组合指标和选择运行模式的方法。
Trovata 基于 Amazon Bedrock 和 AgentCore 构建自主财资智能体,将监控、差异解释、异常检测和报告转化为持续运行的工作流。该平台直连超过 10,000 家银行,并以 RBAC 约束智能体权限;客户年化节省 $1M+,每个会计团队每天节省超过 5 小时,财资报告生成时间缩短至 1 分钟以内。
TCS 使用 Amazon Bedrock AgentCore 构建了面向 BFSI 客户的智能体测试编排器,将需求转化为可执行、可治理的 API 与浏览器 UI 测试。
AWS 介绍了如何为 Amazon Bedrock 构建集中式调用可观测性数据湖,跨账户汇总提示词、响应、模型、token 用量、IAM 身份及时间戳,并通过 Amazon Athena 查询。
推荐理由:方案展示了跨 AWS 账户汇总模型调用日志并关联成本的完整路径,可迁移到大规模工作负载的可观测性建设。
NVIDIA 将智能体安全与治理运行时 OpenShell 捐赠给 CNCF,并宣布 NVIDIA Kubernetes Engine、NVIDIA Kubernetes Recipes 和 NVIDIA Snapshot 三项 DSX AI Factory Platform 开源组件。
推荐理由:原文同时交代智能体治理、Kubernetes 扩缩容和推理恢复数据,可用于比较开源 AI 基础设施的落地路径。
AWS 讲解了 AWS Quick 中智能体如何加载技能、通过连接器执行操作,并基于空间、知识库、数据集和仪表板回答问题。Quick 技能遵循 Anthropic 发布的 Agent Skills 规范,以根目录中的 SKILL.md 定义名称、描述和指令,可通过聊天创建、发布并分享给团队。文章还介绍了生产技能的测试、失败处理、依赖记录和权限边界,以及官方目录和自定义智能体的使用方式。
NVIDIA 在 CoRL 发布开放世界动作模型 GR00T 2,并推出 Isaac Lab 3.0、Isaac Lab-Arena 0.4、DexBench、VABAR 等机器人仿真与评测技术。
推荐理由:材料串联世界动作模型、仿真训练和工业评测,呈现机器人从技能学习到部署验证的一套完整技术路径。
韩国企业正与 NVIDIA 合作,将加速计算、AI 和仿真用于半导体制造、机器人及自动驾驶,推动物理 AI 进入实际生产。Samsung 部分量子化学计算提速最高 5x,一项材料分析提速约 1,600x;Kakao Mobility 计划开发 L4 自动驾驶系统,LG Electronics 则在真实制造环境演示了 Isaac GR00T 驱动的 CLOiD 机器人。
韩国企业正借助 NVIDIA 技术推进智能体 AI:现代汽车集团探索 NeMoClaw 蓝图与 OpenShell,AIM Intelligence 将 Starfort 接入 OpenShell,以强化恶意指令和数据泄露检测。
NVIDIA 发布面向 A.X K2、K-EXAONE 2.0、Solar Open 2 和 Motif-3 的 Dynamo 优化部署方案。方案针对 NVIDIA B200 GPU 优化,可开箱即用地将推理性能最高提升 2x,并支持在数据中心规模的多节点环境中部署模型。
GitHub 以 Plan、Build、Verify、Observe 四个阶段,讲解如何用 Copilot 将 AI 智能体融入软件开发全流程。文章介绍了跨工具汇集需求、并行执行隔离任务、拆分堆叠式拉取请求、自动检查与修复,以及结合可观测性数据追踪发布后问题的方法。
推荐理由:文章以规划、构建、验证和观察四阶段拆解智能体工程,可用于梳理 Copilot 融入软件开发全流程的方法。
Amazon S3 表类数据存储服务现支持将 AWS Glue Data Catalog 注册的 Parquet 格式 Apache Hive 表托管迁移至 Apache Iceberg,无需自建管道或预置计算资源。
上海博卡基于 Amazon Connect Customer、Amazon Nova 2 Sonic 和 Amazon Bedrock AgentCore,用 4 周上线支持中、英、西、法、意、德 6 种语言的 AI 预约客服。
亚马逊云科技给出一个基于 Amazon Bedrock AgentCore 的受治理 Data Agent 参考实现,将 DuckDB 嵌入 Agent 进程,并就地读取 Amazon S3 Tables。
推荐理由:方案把数据智能体的成本、权限与准确率问题映射到确定性架构层,并给出可复用的完整代码与评测闭环。
NVIDIA 通过加速计算、基于物理的 AI、AI 智能体和数字孪生,帮助晶圆厂缩短仿真周期、预测工艺表现并在部署前验证变更。cuDSS 可将部分仿真最高加速 10 倍,PhysicsNeMo 将形貌仿真最高加速 35 倍,并把等离子体预测从数天缩短至最快数毫秒;NeMo Switchyard 则将模型选择响应时间从数小时降至数分钟。
createrole 将数字员工应用全栈及开源权重模型部署在两台 NVIDIA DGX Spark 组成的桌面集群,实现当天部署、验收断网的政企私有化交付。DeepSeek-V4-Flash-Vision-Exp 方案采用 FP4/FP8 混合精度权重与 DSpark 投机解码,单请求上下文上限约 100 万 token。
Google DeepMind 将基于 Gemini 的 PlanAssist 扩展至英格兰另外 12 个地方规划机构,早期试点显示其可将住宅申请评估时间最多缩短 58%。该工具自动核验材料、政策与异议并起草带引用的报告,超过 70% 的报告获官员直接批准,最终决定仍由规划官员作出。
欧洲多家金融机构在 GTC 柏林展示基于 NVIDIA 加速计算、开放权重模型和自有基础设施构建的生产级智能。Revolut 的 PRAGMA 已服务 8000 万初始客户,并具备 3 倍扩展能力。LSEG 的历史交易分析速度最高提升 10 倍,Stripe Radar 数据流提速 42 倍、成本降低 92%。
NVIDIA 与 Eclypsium 通过硬件隔离、独立验证和持续监测,为云计算及代理式 AI 构建可验证的基础设施信任链。NVIDIA BlueField DPU 提供硬件信任根和可配置安全边界,Eclypsium AI Infrastructure Assurance 负责固件完整性与配置监测;BlueField-4 和 NVIDIA Sentry 则支持带外监测智能体行为并实时执行策略。
C-BRAIN 正与 NVIDIA 合作,将 BioNeMo 和 MONAI 整合进研究流程,并以集中式与联邦式混合架构利用未充分开放的阿尔茨海默病数据。其开源工具 OpenScientist 可半自动生成假设、运行分析并产出可审计见解,InsightEngine 则通过文献、数据集和生物医学知识图谱检验假设与论断。
Microsoft Research 推出 Flint-interactive,让智能体通过高级语义事件和更新算子生成可点击、筛选、缩放、高亮及跨图表联动的数据可视化。
推荐理由:其语义事件与更新算子将交互逻辑和渲染细节分离,为智能体生成可靠的交互式图表提供了可迁移方案。
3 位 Java Champions 分享了在生产环境和开源项目中使用 GitHub Copilot 的案例,并强调开发者仍需提供上下文、验证结果并对交付负责。
推荐理由:三位资深 Java 开发者的案例把智能体编程拆成需求澄清、分步执行、验证门槛和人工复核,可迁移到日常工程流程。
GitHub 介绍了如何在 VS Code 中直接继续 GitHub Copilot app 会话,并保留原有对话、代码变更和工作上下文。VS Code 会打开该会话关联的 worktree 和分支,用户可逐行审查差异、继续向 Copilot 提问、手动修改并在本地测试。完成后可提交并推送更新,直接更新会话所关联的 pull request。
推荐理由:教程串联会话上下文、差异审查、同一工作树和拉取请求,呈现从智能体实现到人工验收的完整协作流程。
GitHub 介绍了秘密扫描所用的上下文感知分类器,以更低噪声识别真实凭据,并将通用秘密检测扩展到推送保护。该方案先用正则表达式生成候选,再由微调的 ModernBERT 结合文件路径、变量名和周边代码分类,模型以 ONNX 格式导出并进行 8-bit 量化。相比此前的 LLM 流水线,其线上接受率提高 11.5%,推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。
推荐理由:文章拆解了正则候选生成与微调 ModernBERT 分类的两阶段方案,并给出训练数据、部署优化和线上评估结果。
K-Search 新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,将已有 CUDA 内核知识转化为适配 Apple Silicon 的优化策略。其 Attention 内核达到原生 MLX Attention 内核的 0.97x 性能,Mamba SSM 内核在 M1 Max 上凭借并行扫描获得相对社区 mlx-lm 实现最高约 20x 的预填充吞吐提升。
Berkeley AI Research 研究者提出,随着 GPT-4 级能力的每百万 token 成本从约 $30 降至 $1 以下,数据系统需要围绕智能体重新设计。文章将研究方向分为服务智能体的数据系统、承载智能体的数据系统和由智能体生成的数据系统,涉及重复查询优化、结构化记忆、多智能体协调以及定制系统的验证与可信性。
推荐理由:文章以推理成本快速下降为背景,将智能体与数据系统的共同演进拆分为服务、承载和生成系统三条研究路径。
Berkeley AI Research 系统梳理了自适应并行推理,模型可根据问题动态决定何时拆分任务、生成多少并发线程以及如何协调结果。文章比较 Multiverse 的推理引擎与 KV cache 改造方案和 ThreadWeaver 的客户端编排方案,并介绍基于 SFT、RL、关键路径长度与正确性门控奖励的训练方法。