亚马逊採用NVIDIA T4 GPU將人工智慧效能搬上雲端

亚马逊採用Nvidia t4 gpu　將人工智慧效能搬上雲端

Aws ec2 g4執行個體搭載高度運算效率的图灵架構處理器

可部署經過加速的超大規模人工智能推論、雲端遊戲及最新的RTX繪圖

猶如真人般的自動化客服內容,在任何連網裝置上都能享受到專業工作站的運算效能及電影畫質般的PC遊戲,如今北美,歐洲及亞洲地區的AWS雲端用戶,也能透過全新Amazon EC2 G4執行個體享受到NVIDIA T4张量核心GPU所帶來的多樣功能。由廣泛的軟體堆疊支援T4的NVIDIA GPU能提供G4執行個體用戶高效能,具多功能性與高效率的運算。

此軟體平台已經針對豐富的應用進行優化，包括運用於深度學習的英伟达cuDNN、運用於資料分析與機器學習的英伟达急流、運用於雲端工作站繪圖的NVIDIA Quadra虛擬工作站，和運用於雲端遊戲的NVIDIA GeForce。經nvidia優化後的軟體堆疊亦包括多款api，CUDA及用於特定領域的cuda-x函式庫，像是TensorRT、NCCL、OptiX及视频编解码器SDK。

AWS運算服務部門副總裁马特Garman表示:“我們把重心放在解決最嚴峻的難題上,這些難題使得客戶無法妥善發揮運算密集型應用程式的優點。AWS提供最全面的產品組合用於建立,訓練和部署機器學習模型,透過Amazon EC2各式各樣最佳化執行個體類型來滿足不同的機器學習使用案例。透過t4 gpu支援的全新g4執行個體，開發人員可以用更平價的方式進行機器學習。」

花更少的力氣，做更多的人工智能

英伟达重新打造推出NVIDIA T4這款第二代张量核心GPU,在維持CUDA可編程特性的同時,又能達到AI應用項目的最高效能。

英伟达T4的INT8運算效能高達130顶,具有混合精度張量處理能力,這是加快因應AI應用項目如影像分類,物體偵測、自然語言理解、自動語音辨識及推薦系統等，不斷發展之創新性、多樣性及複雜性所必需的能力。

亚马逊是業界運算速度最快的超大規模業者之一，提供NVIDIA GPU以支援即用型英伟达NGC容器進行訓練和推論。Ec2 p3執行個體搭配nvidia v100张量核心gpu，使得客戶可以使用自動混合精度功能，將訓練機器學習的時間，從原本的數日減少到只需數小時便可完成。客戶使用ec2 g4執行個體，就能大規模部署ai服務，又能大幅減少營運成本。

加上我們日前宣布與VMware的合作,使用VMware在AWS云這項服務的客戶很快就能享受全新且極具擴充性和安全性的雲端服務,該雲端服務T4由NVIDIA GPU以及我們全新的NVIDIA虚拟计算服务器(vComputeServer)軟體加速的Amazon EC2裸機執行個體所組成。

企業可以藉由此企業級的混合式雲端平台,加快應用程式現代化,並從資料中心到AWS雲端環境一致的VMware基礎設施之間,執行統一的部署,遷移和操作等作業,以支援AI,機器學習和資料分析等這些最需要密集運算的工作內容。

隨時隨地採用即時光線追蹤及人工智能增強繪圖功能

電腦繪圖領域一直以來不斷追求著「即時光線追蹤」這個至高無上的聖杯，這項技術能夠產生出畫面極為逼真的場景。設計師與藝術家可以運用即時渲染,AI增強繪圖功能,影片與影像處理等技術,以一種嶄新方式創作出畫面栩栩如生的內容。

Nvidia t4是首款部署在雲端環境裡的Nvidia RTX光線追蹤gpu。T4GPU內專用的運算資源 RT Core，會用超高效率來計算光線追蹤，如此一來便能捨棄過去昂貴的光線追蹤方法。

新款g4執行個體結合NVIDIA Quadro虛擬工作站(Quadro vWS)與亚马逊机器图像(AMI)，以支援最新的光線追蹤API，包括微软DXR, NVIDIA OptiX以及Vulkan。不論是媒體娛樂,建築,製造,石油和天然氣等業界的技術與創意專業人士,皆可以在AWS雲端環境裡運行最新的繪圖軟體應用程式。

在不到五分鐘的時間內，便可使用aws來部署虛擬工作站。只要開啟AWS市场,選擇NVIDIA方形住宅区大众機器影像和G4執行個體,就能在Windows Server 2016與Windows Server 2019上使用。

GPU助力的雲端遊戲

T4 GPU背後的图灵架構也將英伟达在遊戲方面的強勁實力帶到AWS,這麼一來便能使用GPU的硬體編碼器引擎,對要求最嚴苛的遊戲進行渲染和串流,還能使用视频编解码器SDK來設計這個硬體編碼器引擎的程式碼。

遊戲發行商可以使用最新的NVIDIA技術來建立自己的雲端遊戲執行個體,玩家幾乎可以在所有裝置上取得完整的PC遊戲目錄。

遊戲玩家可以在高解析度的狀態下，用高速、流暢的影格率來暢玩各種最新遊戲，不用擔心硬體是否需要升級、驅動程式是否需要更新或遊戲修補內容的問題。

可以在AWS Marketplace取得支援這項功能的NVIDIA驅動程式，並且在Windows Server 2016、Windows Server 2019及Linux操作系统上運行aws g4執行個體。

從Aws ec2 g4執行個體開始著手

Clarifai, ea, GumGum以及PurWeb是首批使用Amazon EC2 G4執行個體的客戶,以利用英伟达T4的多種運算能力及出色效能,大規模運行各種需要進行密集運算的工作。兩者在這方面皆提供強大的服務，又協助自己的客戶降低建構及部署這些服務的成本。

在接下來的數週內，g4執行個體還將支援亚马逊弹性推理,讓使用者能將GPU加速加入任何Amazon EC2或亚马逊SageMaker執行個體中,以更低的成本在更短時間內進行推論,其省下的幅度高達75%。

請至Aws g4執行個體網頁以了解更多資訊，並立即體驗nvidia t4。