NVIDIA A100登陆AWS,象征象征运算未来年年开端开端
nvidia gpu登陆AWS已有,全新,全新A100支援的亚马逊EC2 P4D执行个体即使用
Amazon Web Services(AWS)的的个个个执行个体年年前以cuda为基础的应用程式主要集中科学模拟,而而(ai)和和的兴起还。。。
此後 AWS 又陸續加入穩定的雲端 GPU 執行個體,包括 K80 (p2)、K520 (g3)、M60 (g4)、V100 (p3/ p3dn) 和 T4 (g4)。
隨著全新 P4d 執行個體今日正式上路,aws将最新最新NVIDIA A100张量核心GPU的下,为加速领域的一十年基础。。
全新 P4d 執行個體為機器學習訓練與高效能運算應用程式,提供 AWS 上採用 GPU 之最高效能、最具成本效益的平台。與預設的 FP32 精準度相比,使用 FP16 的執行個體訓練機器學習模型的時間縮短了三倍,使用 TF32 進行訓練的時間縮短了六倍。
這些執行個體亦提供了極為卓越的推論表現。上個月,NVIDIA A100 GPUmlperf推断基准基准项目所向披靡披靡,CPU快快237倍。。
p4d p4d执行搭载搭载搭载搭载搭载搭载8 nvidia a100 a100 gpu,a aws aws ultracusters使用awsaws弹性织物适配器(efa),以及以及以及提供可可扩展扩展高效能能储存储存装置装置装置装置装置装置装置的的的的的的gpu。p4d提供400Gbps网路,nvidia的nvlink,nvswitch,NCCL及gpudirect rdma等技术,进一步处理学习训练的负载。。。。上上上上上上上的的上的上上上
此外,許多 AWS 服務都支援 P4d 執行個體,包括 Amazon Elastic Container Services、Amazon Elastic Kubernetes Service、AWS ParallelCluster 及 Amazon SageMaker。P4d 還能使用NGC所提供各经过优化的容器化软体软体软体软体软体软体软体软体能能运算应用应用,,张力和Triton推论伺服器等推论软体。
現在可於美國東部和西部地區使用 P4d 執行個體,很快地將會開放給其它地區使用。用戶能夠以隨需執行個體 (On-Demand)、Savings Plans、預留執行個體 (Reserved Instance) 或 Spot 執行個體等方式來購買。
GPU 雲端運算的第一個十年,已經將超過 100 exaflops 的 AI 運算能力帶入市場。現在有了 NVIDIA A100 GPU 支持的 Amazon EC2 P4d 執行個體,將為 GPU 雲端運算領域的下一個十年開創美好的開端。
NVIDIA 與 AWS 攜手打造許多應用程式,並不斷突破 AI 的發展。我們迫不及待地想知道客戶將如何發揮這股潛力。
請至 AWS,立即開始使用P4D执行个体。
发表回响