英伟达宣布与微软合作在GTC 2024上推出新的AI交换机

在昨天的Nvidia GTC 活动上，微软和 Nvidia 宣布扩大其技术合作伙伴关系，将利用最新的 Nvidia 生成式 AI 和 Omniverse 技术在 Microsoft Azure、Azure AI 服务、Microsoft Fabric 和 Microsoft 365 中进行集成。

微软董事长兼首席执行官萨蒂亚·纳德拉 (Satya Nadella) 表示：“我们与 NVIDIA 携手，实现 AI 的承诺，帮助世界各地的人们和组织获得新的利益并提高生产力。”

“从将 GB200 Grace Blackwell 处理器引入 Azure 到 DGX Cloud 与 Microsoft Fabric 之间的新集成，我们今天发布的公告将确保客户在 Copilot 堆栈的每一层(从硅片到软件)都拥有最全面的平台和工具，以构建他们自己的突破性 AI 能力。”

NVIDIA 创始人兼首席执行官黄仁勋表示：“AI 正在改变我们的日常生活，开启一个充满新机遇的世界。通过与微软的合作，我们正在构建一个为客户实现 AI 承诺的未来，帮助他们为世界提供创新解决方案。”

此次合作将推动微软和英伟达推进人工智能基础设施的发展。

Nvidia Grace Blackwell GB200 和先进的 Nvidia Quantum-X800 InfiniBand 网络将部署在 Azure 上，为自然语言处理、计算机视觉和语音识别提供万亿参数的基础模型。

微软还宣布基于 Nvidia H100 NVL 平台的 Azure NC H1​​00 v5 VM 虚拟机 (VM) 正式上市。

Nvidia 的 NC 系列虚拟机专为中端训练和推理而设计。

它提供两类虚拟机，从一到两个 Nvidia H100 94GB PCIe Tensor Core GPU，并支持 Nvidia 多实例 GPU (MIG) 技术。

这使得该技术的用户能够将每个 GPU 划分为最多七个实例，从而为不同的 AI 工作负载提供灵活性和可扩展性。

Nvidia 的推理微服务也将在 Azure 上提供。

微软和 Nvidia 还宣布扩展其面向医疗保健提供商的服务，微软正在为工厂运营商演​​示利用 Nvidia Omniverse Cloud API 的数字孪生。

在展会的其他部分，Nvidia 宣布推出新一轮网络交换机 X800 系列，专为大规模 AI 而设计。

Nvidia 网络高级副总裁 Gilad Shainer 表示：“NVIDIA 网络对于我们 AI 超级计算基础设施的可扩展性至关重要。NVIDIA X800 交换机是端到端网络平台，使我们能够实现新 AI 基础设施所必需的万亿参数级生成 AI。”

该技术标志着世界上第一个能够实现端到端 800Gb/s 吞吐量的网络平台，最初的采用者包括 Microsoft Azure、Oracle Cloud Infrastructure 和 CoreWeave。