(文章來源:cnBeta)
隨著人工智能和機器學習應用的興起,研究者對于深度學習和訓練的計算量需求也日漸提升。為滿足這種密集的運算需求,通常需要相當大規模的服務器集群。在今年早些時候的 Hot Chips 大會上,我們已經見到過來自英特爾的 Nervana NNP-T Spring Crest 芯片。通過收購 Nervana,英特爾獲得了打造“大型訓練芯片”所需的 IP 。
據悉,該芯片基于臺積電 16nm 工藝制造,輔以 CoWoS 和四層 HBM2 內存,面積達到了 680 平方毫米。本周早些時候,Supermicro 已經在超算大會上展示了最新的 Nervana NNP-T 服務器。
這些硬件均基于 PCIe 擴展卡,可想象它們此前被設計為可容納 GPU 的傳統服務器。其采用了典型 2P 布局,可在 4U 機箱中插入 8 張擴展卡,且計算卡之間可以互相通信。每顆芯片具有 3.58 Tbps 的總雙向帶寬,而片外連接則支持多達 1024 個節點的可伸縮性。從每張 PCIe 卡片的 8-pin 輔助供電來看,其峰值功率應該在標準的 225W 。
本周晚些時候,Supermicro 告知其已獲準展示該系列服務器的 8 路 OAM(OCP 加速器模塊)版本。其能夠通過底板的 PCB 保持芯片間的通信,而不是傳統的 PCIe 卡對卡之類的橋接器。
這使得擴展卡之間能夠流通大量的空氣來散熱,并且兼容模塊化的 OCP 標準。作為英特爾首款支持 bfloat16 深度學習訓練的芯片,每個芯片最多支持 119 個 TOP 。另有 60MB 片上存儲器和 24 個專用的“張量”處理器集群,后者具有雙 32×32 矩陣乘法陣列。該芯片共有 270 億個晶體管,內核頻率 1.1 GHz、輔以 32GB HBM2-2400 內存。
從技術上來講,PCIe 連接可以升級到 Gen 4.0 x16,但英特爾商務 CPU 支持這項特性。有人表示,為展開此類計算,一些客戶正在將頭結點從 2P 升級到 4P(Facebook 更是用上了 8P)。Supermicro 聲明稱,其 NNP-T 系統已做好助推深度學習和訓練的部署準備。
(責任編輯:fqj)
-
芯片
+關注
關注
463文章
54025瀏覽量
466395 -
英特爾
+關注
關注
61文章
10302瀏覽量
180554
發布評論請先 登錄
超越臺積電?英特爾首個18A工藝芯片邁向大規模量產
英特爾與華陽通用聯手推出全新AI Box解決方案
全球首款落地!英特爾攜手新華三等合作伙伴,重磅推出全域液冷服務器
打造智算基石:英特爾攜手本土生態發布全域液冷服務器
英特爾攜本地生態伙伴發布雙路冷板式全域液冷服務器,引領數據中心散熱與能效革新
英特爾助力阿里云推出多款云實例和存儲方案
從云到端:英特爾展示全棧AI能力,覆蓋云、邊、PC多場景
看點:AMD服務器CPU市場份額追上英特爾 華為Mate80主動散熱專利曝光
英特爾服務器CPU市場失守:從99.9%到50%以下
主控CPU全能選手,英特爾至強6助力AI系統高效運轉
英特爾先進封裝,新突破
直擊Computex2025:英特爾重磅發布新一代GPU,圖形和AI性能躍升3.4倍
英特爾發布全新GPU,AI和工作站迎來新選擇
英特爾代工:明確重點廣合作,服務客戶鑄信任
英特爾至強6:如何煉就數據中心“全能型選手”
Supermicro推出新款英特爾Nervana NNP-T服務器
評論