(資料圖)

【太平洋科技資訊】早前,微軟與英偉達(dá)宣達(dá)成合作,發(fā)布了Azure ND H100 v5 VM虛擬機預(yù)覽版。經(jīng)過數(shù)月的測試后,微軟在今日正式推出了這款虛擬機,并宣布擴(kuò)展了其Azure OpenAI服務(wù)。

ND H100 v5 VM是Azure迄今為止最強大和高度可伸縮的AI虛擬機系列。該虛擬機支持的按需配置可達(dá)8至上千個通過Quantum-2 InfiniBand網(wǎng)絡(luò)互連的NVIDIA H100 GPU,從而顯著提高了AI模型的性能。相較于上一代的ND A100 v4 VM,這款虛擬機包含了一些創(chuàng)新技術(shù)。

首先,它搭載了8塊NVIDIA H100 Tensor Core GPU,通過下一代NV Switch和NV Link 4.0進(jìn)行互連。其次,在無阻塞胖樹網(wǎng)絡(luò)中,每個GPU搭載了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand,每個虛擬機的性能達(dá)到了3.2Tb/s。此外,每個虛擬機中的8塊本地GPU之間通過3.8Tb/s的對分割帶寬的NV Switch和NV Link 4.0進(jìn)行互聯(lián)。此外,該虛擬機還采用了第四代英特爾至強可擴(kuò)展處理器,以及PCIE第5代主機到GPU的互連,每個GPU的帶寬為64Gb/s。最后,它還搭載了16信道的4800 MHz DDR5內(nèi)存。

這款新的虛擬機使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò),目前僅限于美國東部和西部Azure企業(yè)訪問。微軟表示,他們正在努力在明年為其虛擬機添加數(shù)十萬塊新的GPU。

除了推出這款A(yù)zure虛擬機,微軟還宣布擴(kuò)展其Azure OpenAI服務(wù),在加拿大東部、美國東部2、日本東部和英國南部地區(qū)上線,ChatGPT AI 平臺最強大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務(wù)區(qū)域。

微軟表示,Azure OpenAI服務(wù)的客戶已經(jīng)超過11000名,本季度平均每天吸引100名新客戶。這一顯著的增長證明了他們的服務(wù)為渴望利用人工智能潛力滿足其獨特需求的企業(yè)帶來了價值和可擴(kuò)展性。

標(biāo)簽: