英偉達和亞馬遜云科技宣布，將共同推出首款云AI超級計算機，將英偉達的H200 Grace Hopper超級芯片與亞馬遜UltraCluster擴展功能融合。

據悉，該合作項目代號為Project Ceiba，共計搭載了16384顆英偉達H200超級芯片，能夠處理65 exaflops速度等級的AI運算，這個超級計算機是配備了H200 NVL32與Amazon EFA互連技術的大規模系統，將部署在亞馬遜云科技之上。

這一合作項目的重要性得到了雙方高層的親自站臺，亞馬遜云科技CEO Adam Selipsky和英偉達CEO黃仁勛紛紛表示，他們共同的目標是發展生成式AI，為各個領域提供成本效益和先進的生成式AI。

亞馬遜云科技首席執行官Adam Selipsky 表示：“今天，我們為圖形、游戲、高性能計算、機器學習以及現在的生成式人工智能等工作負載提供最廣泛的英偉達GPU 解決方案。我們繼續與英偉達合作創新，將下一代英偉達Grace Hopper Superchips 與亞馬遜云科技的 EFA 強大網絡、EC2 UltraClusters 的超大規模集群以及 Nitro 的高級虛擬化功能相結合，使亞馬遜云科技成為運行 GPU 的最佳場所。”

Ceiba項目是此次合作的基石，旨在創建世界上最快的 GPU 驅動的 AI 超級計算機，由 亞馬遜云科技 托管，并專門為英偉達提供。這個雄心勃勃的項目將集成 16，384 個英偉達GH200 超級芯片（使用 GH200 NVL32 解決方案，包含 32 個 GH200 GPU 和 19.5 TB 統一內存），這些芯片將提供驚人的 65 個“AI ExaFLOPS”處理能力。這臺超級計算機用于英偉達的生成式人工智能研發項目。

亞馬遜云科技上托管的英偉達DGX 云是此次合作的另一個主要組成部分。該人工智能培訓即服務平臺是第一個將 GH200 NVL32 機器與 19.5 TB 統一內存結合在一起的商用實例。該平臺為開發人員提供了單個實例中可用的最大共享內存，顯著加速了高級生成人工智能和大型語言模型的訓練過程，可能超過 1 萬億個參數。

此外，亞馬遜云科技將率先提供 基于Nvidia GH200 Grace Hopper Superchips的基于云的AI超級計算機。這種獨特的配置將使用 NVLink 連接每個實例 32 個 Grace Hopper Superchip。它將擴展到數千個 GH200 Superchips（和 4.5 TB HBM3e 內存），與 Amazon 的 EFA 網絡連接，并得到高級虛擬化（亞馬遜云科技 Nitro System）和超大規模集群（Amazon EC2 UltraClusters）的支持。

此次合作還將推出 新的英偉達支持的Amazon EC2實例。這些實例將配備 H200 Tensor Core GPU，具有高達 141 GB 的 HBM3e 內存，適用于大規模生成式 AI 和高性能計算 （HPC） 工作負載。此外，G6 和 G6e 實例分別配備 NvidiaL4 和 L40S GPU，專為從 AI 微調到 3D 工作流程開發等廣泛應用而設計，并利用英偉達Omniverse 創建支持 AI 的 3D 應用程序。

此次合作將引入英偉達的先進軟件 ，以加速亞馬遜云科技上的生成式 AI 開發。其中包括用于創建聊天機器人和摘要工具的 NeMo LLM 框架和 NeMo Retriever 以及用于加速藥物發現流程的 BioNeMo。

英偉達創始人兼首席執行官黃仁勛表示：“生成式 AI 正在改變云工作負載，并將加速計算作為多樣化內容生成的基礎。”在向每位客戶提供經濟高效的最先進的生成式人工智能這一共同使命的推動下，Nvidia和亞馬遜云科技正在整個計算堆棧上進行合作，涵蓋人工智能基礎設施、加速庫、基礎模型和生成式人工智能服務。 ”

此外，亞馬遜云科技還宣布了自家芯片的大升級，發布了Graviton4通用AI芯片。與上一代Graviton3相比，Graviton4的計算性能提高了30%，核心數量增加了50%，內存帶寬增加了75%。這一芯片將應用于內存優化型的Amazon EC2 R8g實例，提升高性能數據庫、內存緩存和大數據分析工作的效率。

另外，Trainum2芯片也亮相，主要用于擁有超大參數模型的訓練。相比于上一代Trainium1，Trainum2在速度上提升了4倍，在能效方面也有2倍的提升。這一芯片將支持新的服務，為客戶提供大規模的模型構建和訓練能力。

亞馬遜云科技不僅在硬件方面進行了升級，還發布了生成式AI應用搭建平臺Bedrock。亞馬遜云科技的Keynote演講中，還展示了一款名為Amazon Q的工作版ChatGPT，專為企業用戶設計，幫助員工利用公司的數據和專業知識獲取答案、解決問題。