近日,英偉達推出了一款用于人工智能工作的頂級芯片HGX H200。新的GPU升級了需求巨大的H100,內存帶寬增加了1.4倍,內存容量增加了1.8倍,提高了其處理密集生成人工智能工作的能力。
在備受矚目的人工智能領域,英偉達提到,H200將帶來進一步的性能飛躍。在Llama 2(700億參數的LLM)上的推理速度比H100快了一倍。未來的軟件更新預計會給H200帶來額外的性能領先優勢和改進。
H200將在具有四路和八路配置的英偉達HGX H200服務器主板中提供,并與HGX H100系統的硬件和軟件兼容。
大型計算機制造商和云服務提供商預計將于明年第二季度開始使用H200。亞馬遜的AWS、Alphabet公司的谷歌云、微軟Azure和甲骨文的云基礎設施,都承諾從明年開始使用這款新芯片。
英偉達高性能計算產品副總裁Ian Buck在近日的視頻演示中表示:“更快、更廣泛的HBM內存集成有助于提高計算需求任務的性能,包括生成人工智能模型和[高性能計算]應用程序,同時優化GPU利用率和效率。”
H200還與已經支持H100的相同系統兼容。英偉達表示,云提供商在將H200添加到混合中時不需要做出任何更改。亞馬遜、谷歌、微軟和甲骨文的云計算部門將在明年率先提供新的GPU。
一旦推出,新芯片肯定會很貴。英偉達沒有列出它們的價格,但據美國消費者新聞與商業頻道報道,上一代H100的售價估計在25000至40000美元之間,其中數千臺需要在最高水平上運行。并且,價格由英偉達的合作伙伴決定。
伴隨著人工智能的火爆,英偉達的高端GPU需求量極大。這也令其他芯片制造商瞄準這一利潤豐厚的市場,加快推出高品質的AI芯片,整個AI芯片市場競爭相當激烈。英偉達此舉旨在鞏固其在AI計算市場的主導地位。
審核編輯:彭菁
-
芯片
+關注
關注
463文章
54010瀏覽量
466034 -
谷歌
+關注
關注
27文章
6254瀏覽量
111389 -
人工智能
+關注
關注
1817文章
50098瀏覽量
265357 -
英偉達
+關注
關注
23文章
4087瀏覽量
99179
原文標題:英偉達推出新款必備人工智能芯片 性能再飛躍
文章出處:【微信號:IEEE_China,微信公眾號:IEEE電氣電子工程師】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
H200 解禁!預交付8萬顆,傳阿里砸數億抄底對手
H200解禁了個寂寞?2個月0銷售,審查層層加碼!
美國政府正式批準英偉達H200芯片對華出口
再加25%關稅!鎖定對華AI芯片,點名英偉達、AMD
美國將允許英偉達H200對華出口,但要抽成25%
突發!特朗普批準英偉達H200芯片對華出口,抽成25%
今日看點:特朗普允許英偉達對華出口H200芯片,但要抽成25%;眾擎完成 A1+ 輪與 A2 輪融資
今日看點:馬斯克:特斯拉已部署超百萬顆 AI 芯片;長鑫存儲發布全新 DDR5 內存新品
今日看點丨傳英偉達正研發新款中國特供AI芯片;扎克伯格計劃改革Meta的人工智能業務
今日看點丨英偉達向臺積電訂購30萬片H20芯片;蘋果回應首次在中國關停直營店
英偉達推出用于人工智能工作的頂級芯片HGX H200
評論