Azure 推出全球首個 NVIDIA GB300 NVL72 叢集

Microsoft Azure 今日宣佈咗新嘅 NDv6 GB300 VM 系列，推出咗業界首個超級運算規模嘅 NVIDIA GB300 NVL72 系統生產叢集，專為 OpenAI 最嚴苛嘅 AI 推理工作負荷而設。
呢個超級電腦規模嘅叢集有超過 4,600 個 NVIDIA Blackwell Ultra GPUs，透過 NVIDIA Quantum-X800 InfiniBand 網絡平台連接。Microsoft 獨特嘅系統方法應用咗激進工程喺記憶體同網絡上，提供咗所需嘅巨大量運算規模嚟實現推理模型同 agentic AI 系統嘅高推理同訓練吞吐量。
今日嘅成就係 NVIDIA 同 Microsoft 多年深入合作嘅結果，專門為世界上最嚴苛嘅 AI 工作負荷建造 AI 基礎設施，並提供下一代 AI 嘅基礎設施。呢個標誌住另一個領導時刻，確保領先邊緣嘅 AI 推動美國嘅創新。
Azure 新 NDv6 GB300 VM 系列嘅核心係液冷、機架規模嘅 NVIDIA GB300 NVL72 系統。每個機架都係一個強大單位，整合咗 72 個 NVIDIA Blackwell Ultra GPUs 同 36 個 NVIDIA Grace CPUs 成為一個 cohesive 單位，加速巨型 AI 模型嘅訓練同推理。
系統提供咗驚人嘅 37 terabytes 快速記憶體同 1.44 exaflops FP4 Tensor Core 效能每 VM，創造咗一個巨型統一記憶體空間，對推理模型、agentic AI 系統同複雜多模式生成 AI 至關重要。閱讀更多