成人美女黄网站免费|哔哩哔哩免费观看在线视频|freexx老女人|欧美精品三区|近的2019中文字幕在线|97中文字幕一区二区|日本jazz护士

巨人財經 - 專業科技行業財經媒體

英偉達Blackwell GPU平臺與亞馬遜云科技達成合作 助力AI計算飛躍

   發布時間:2024-03-20 15:06

【巨人財經】3月20日消息,亞馬遜云科技與英偉達共同宣布,英偉達在2024年GTC大會上隆重推出的全新NVIDIA Blackwell GPU平臺將很快登陸亞馬遜云科技。這一重磅合作將為客戶提供NVIDIA GB200 Grace Blackwell Superchip以及B100 Tensor Core GPU的強大支持。

據巨人財經了解,英偉達Blackwell在亞馬遜云科技的應用,將使得該平臺在處理資源密集型及數萬億參數語言模型等推理工作負載方面實現質的飛躍。此次推出的NVIDIA GB200 Grace Blackwell Superchip以及B100 Tensor Core GPU是英偉達最新一代的GPU產品,其在單芯片訓練方面的FP8性能是上一代架構的2.5倍,而在推理方面的FP4性能更是達到了上一代架構的5倍。

新款Blackwell GPU平臺在性能上有著顯著的提升。在具有1750億個參數的GPT-3大語言模型基準測試中,GB200的性能達到了H100的7倍,訓練速度則是H100的4倍。同時,在成本和能耗上,GB200相比H100降低了25倍,這一優勢無疑將吸引眾多客戶選擇使用亞馬遜云科技的Blackwell平臺。

亞馬遜云科技將提供配置GB200 NVL72的英偉達Blackwell平臺,該平臺配備了72顆Blackwell GPU和36顆Grace CPU,通過第五代NVIDIA NVLink實現高速互連。結合亞馬遜云科技的EFA網絡、Amazon Nitro高級虛擬化系統以及Amazon EC2 UltraClusters超大規模集群等技術,客戶能夠輕松將應用擴展至數千個GB200 Superchips,從而滿足更大規模的計算需求。

在安全性方面,亞馬遜云科技與英偉達的合作也為客戶提供了更強的保障。通過集成亞馬遜云科技的Nitro系統、Amazon KMS以及Blackwell加密等技術,客戶可以對其訓練數據和模型權重實現端到端的控制,確保生成式AI應用程序在亞馬遜云科技上的安全性。

此外,雙方還合作開展了Project Ceiba項目,該項目是一臺在亞馬遜云科技上托管的AI超級計算機,搭載了20736顆GB200 Superchips芯片,并通過第四代EFA網絡進行擴展。這臺超級計算機能夠為每個Superchip提供高達800Gbps的低延遲、高帶寬網絡吞吐量,計算能力高達414 exaflops。與之前計劃在Hopper架構上構建Ceiba相比,性能提升了6倍。這一成果將進一步推動生成式AI領域的發展。

 
 
更多>同類內容
全站最新
熱門內容
本欄最新