基于 NVLink 的 MoE 推理单边专家并行全对全通信
NVLinkOneSided 为单一 NVLink 域内的 GPU 提供单边专家并行全对全通信,无需预先交换元数据,并让 grouped GEMMs 原地读取 token。
NVLinkOneSided 为单一 NVLink 域内的 GPU 提供单边专家并行全对全通信,无需预先交换元数据,并让 grouped GEMMs 原地读取 token。
NVIDIA 与韩国科学技术信息通信部扩大主权 AI 合作,覆盖 AI 半导体、数据中心基础设施、人才、初创企业、模型、智能体和安全。双方将支持韩国 NPU 和 XPU 企业探索加入 NVIDIA NVLink Fusion 生态,并与 SK Telecom、Rebellions 合作推进面向韩国模型和工作负载的主权 AI 基础设施。
NVIDIA 与 Meta 宣布扩大 Muse 及其系列模型的合作,以优化推理、训练和工作流,并探索 NVIDIA OpenShell 与 NVIDIA Sentry 在智能体安全部署和行为监测方面的合作。Meta 计划扩大部署 NVIDIA Vera Rubin、Vera CPU、Spectrum-X 和 BlueField-4,NVIDIA 还将投资 30 亿美元参与 Meta 的股权发行。
推荐理由:合作覆盖模型工作流、安全架构、算力网络与股权投资,可用于理解双方如何整合智能体技术栈。