Nvidia攜手微軟打造大規模雲端人工智慧電腦

英伟达攜手微軟打造大規模雲端人工智慧電腦

上萬顆NVIDIA GPU, NVIDIA Quantum-2 InfiniBand及NVIDIA的完整

人工智能軟體堆疊即將登陸Azure;NVIDIA，微軟與全球企業將利用此平台，

以快速且符合成本效益的方式開發與部署人工智慧

英伟达(輝達)今天宣布與微軟展開多年的合作計畫,共同打造全球最強大的人工智慧(AI)超級電腦之一,結合微软Azure的先進超級運算基礎設施,以及NVIDIA的GPU,網路技術和完整的AI軟體堆疊支援這台AI超級電腦,協助企業訓練,部署和擴展AI,其中包括最先進的大型模型。

Azure的雲端AI超級電腦包括功能強大且具擴充性的ND系列及数控系列虛擬機器,這些虛擬機器經過最佳化調整,適用於執行人工智能分散式訓練和推論作業。Azure是第一個整合NVIDIA先進AI堆疊的公有雲，在其平台上加入上萬個英伟达A100和H100GPU,英伟达Quantum-2400Gb/s ib網路技術與NVIDIA AI企业軟體套件。

英伟达將在本次的合作中運用Azure具擴充性的虛擬機器執行個體,推動研究並進一步加快推動生成式人工智能(AI生成)的進展。生成式ai是迅速崛起的ai領域，其中像是威震天图灵NLG 530B這樣的基礎模型，是無監督、自我學習演算法的基礎，用於創造新的文字、程式碼、數位影像、影片或音訊。

雙方亦合作將微軟的DeepSpeed深度學習最佳化軟體調整到最佳狀態。英伟达專為 Azure 進行最佳化調整的全堆疊AI 工作流程和軟體開發套件，將提供 Azure 的企業客戶使用。

英伟达企業運算部門副總裁Manuvir Das表示:“人工智能技術的進步加上產業採用的腳步不斷加快。基礎模型的突破性發展促進研究潮、培育出更多新創公司，並開發出新的企業應用。我們與微軟的合作將為研究人員及企業提供最先進的AI基礎設施和軟體,善加利用AI蘊含的顛覆性力量。」

微軟雲端運算與人工智慧事業群執行副總裁Scott Guthrie表示:“AI將推動企業與工業運算的下一波自動化,讓企業在因應動盪的經濟局勢時能事半功倍。微軟攜手NVIDIA將打造出世界上最具擴充性的超級電腦平台,將為使用微软Azure平台的所有企業提供最先進AI的功能。」

將NVIDIA计算和Quantum-2 InfiniBand導入Azure平台,視尖峰使用情況調整效能

微软Azure上針對AI進行最佳化調整的虛擬機器執行個體建構於NVIDIA最先進的資料中心GPU,是第一個採用英伟达Quantum-2 400 gb / s InfiniBand網路技術的公有雲執行個體。客戶可以在單一叢集中部署數千個GPU,訓練最龐大的大型語言模型,大規模建立最複雜的推薦系統,以及大規模運用生成式人工智能。

Azure平台上的執行個體目前採用英伟达量子200Gb/s InfiniBand網路技術和NVIDIA A100 GPU，而這些執行個體日後將整合NVIDIA Quantum-2 400Gb/s InfiniBand網路技術及NVIDIA H100 GPU。這些針對AI進行最佳化調整的產品,搭配Azure先進的雲端運算基礎設施,網路和儲存技術,將能為任何規模的AI訓練和深度學習推論作業負載,視尖峰使用情況調整效能。

加速ai開發與部署

此外,Azure平台亦將支援眾多AI應用程式和服務,包括微軟的DeepSpeed及NVIDIA AI企业軟體套件。

微軟的DeepSpeed將利用NVIDIA H100变压器引擎加快執行採用变压器模型的速度,用於大型語言模型,生成式人工智能和電腦程式碼編寫等廣泛應用。這項技術將8位元浮點精度功能用於DeepSpeed,以大幅加快採用变压器模型的AI運算速度,其傳輸量是16位元運算的兩倍。

廣受全球採用的NVIDIA AI平台軟體NVIDIA AI企业,已在配備NVIDIA A100 GPU的微软Azure執行個體上獲得認證和支援。在日後推出的軟體版本中亦將加入NVIDIA H100 GPU支援的Azure執行個體。

英伟达AI企业包含用於語音AI的NVIDIA莉娃及NVIDIA睡眠網路安全應用框架,能簡化AI工作流程中,從資料處理,AI模型訓練,模擬及大規模部署等各個步驟。

敬請瀏覽我們的合作夥伴頁面，進一步瞭解NVIDIA用在Azure平台上的AI技術。