2023年8月8日，NVIDIA創始人兼CEO黃仁勛在計算機圖形年會SIGGRAPH上發布了HBM3e內存新一代GH200 Grace Hopper超級芯片。這款芯片被黃仁勛稱為“加速計算和生成式AI時代的處理器”，旨在用于任何大型語言模型，以降低推理成本。

與今年5月發布的GH200不同，新一代GH200芯片搭載了全球首款HBM3e內存，內存容量和帶寬都有顯著提高，專為加速計算和生成式AI時代而設計。

新版GH200芯片平臺基于72核Grace CPU，配備480GB ECC LPDDR5X內存以及GH100計算GPU。此外，它還搭配著141GB的HBM3e內存，分為六個24GB的堆棧，并采用了6，144位的內存接口。盡管實際上NVIDIA安裝了144GB的內存，但可用的內存容量為141GB。

借助全球最快的HBM3e內存，這款芯片的內存容量高達141GB，帶寬每秒可達到5TB。每個GPU的容量比NVIDIA H100 GPU多出1.7倍，帶寬比H100高1.55倍。

NVIDIA強調，新版GH200 Grace Hopper芯片使用了與原版相同的Grace CPU和GH100 GPU芯片，因此無需推出新的軟件版本或步進。原版GH200和升級版GH200將共存于市場，后者將以更高的價格銷售，因為它具備更先進的內存技術帶來的更高性能。

NVIDIA表示，新版GH200旨在處理世界上最復雜的生成式AI工作負載，包括大型語言模型、推薦系統和矢量數據庫，并將提供多種配置。預計新版GH200將于2024年第二季度投產。

編輯：黃飛