微軟今年 3 月和英偉達合作，宣布推出 Azure ND H100 v5 VM 虛擬機預覽版；經過數月的測試之后，微軟今天正式推出該虛擬機，幫助企業更高效處理生成式 AI 任務。
據此前報道，ND H100 v5 VM，是 Azure 迄今更強大和高度可伸縮的 AI 虛擬機系列。
該虛擬機支持的按需配置可達 8 至上千個通過 Quantum-2 InfiniBand 網絡互連的 NVIDIA H100 GPU，使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM，本次推出的虛擬機包含以下創新技術：
(相關資料圖)
8 塊 NVIDIA H100 Tensor Core GPU，通過下一代 NV Switch 和 NV Link 4.0 互連。
在無阻塞胖樹網絡中，每個 GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。
每個 VM 中的 8 塊本地 GPUs 之間通過 3.8Tb / s 對分割帶寬的 NV Switch 和 NV Link 4.0 互聯。
第四代英特爾至強可擴展處理器。
PCIE 第 5 代主機到 GPU 互連，每個 GPU 帶寬為 64Gb / s。
16 信道的 4800 MHz DDR5 內存。
新的虛擬機使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 網絡，當前僅限于美國東部和西部 Azure 企業訪問。
微軟補充說，公司正在努力在明年為其虛擬機添加數十萬塊新的 GPU。
微軟正式宣布該 Azure 虛擬機之外，還宣布擴展其 Azure OpenAI 服務，在加拿大東部、美國東部 2（East United States 2）、日本東部和英國南部地區上線。
微軟表示 Azure OpenAI 服務客戶已經超過 11000 名，本季度平均每天吸引 100 名新客戶。
這一顯著的增長證明了我們的服務為渴望利用人工智能潛力滿足其獨特需求的企業帶來的價值和可擴展性。
微軟還補充說，ChatGPT AI 平臺最強大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務區域。
責任編輯：李楠
分享到：版權聲明：凡注明來源“流媒體網”的文章，版權均屬流媒體網所有，轉載需注明出處。非本站出處的文章為轉載，觀點供業內參考，不代表本站觀點。文中圖片均來源于網絡收集整理，僅供學習交流，版權歸原作者所有。如涉及侵權，請及時聯系我們刪除!關鍵詞：
