據外電報道,美國ai芯片初創企業d-matrix最近宣布,將推出jayhawk ii芯片,用于其獨創的數字memory computing引擎,通過chiplet結構進行生成宏觀推理。
公司方面表示,該引擎的內存帶寬比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix還主張,jayhawk ii對30億至400億大型語言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,與gpu解決方案相比,生成推理的總擁有費用從10倍減少了20倍。
在物理設計方面,該芯片由6納米工程制成,核心之間通過bow接口實現相互連接,支持各種精度的浮點數據型。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
芯片
+關注
關注
463文章
54010瀏覽量
466077 -
NVIDIA
+關注
關注
14文章
5594瀏覽量
109737 -
語言模型
+關注
關注
0文章
571瀏覽量
11310 -
chiplet
+關注
關注
6文章
495瀏覽量
13603
發布評論請先 登錄
相關推薦
熱點推薦
算力租賃市場爆發,H20遭瘋搶!小心掉坑
電子發燒友網報道(文/黃山明)從2022年起,美國開始持續收緊對華芯片的出口政策,而H20便是英偉達專為中國市場量身定制的AI芯片。今年以來
英偉達 Q3 狂攬 308 億
廠商季度合計 500 億美元資本支出中,約 30% 流向了英偉達。 新一代 Blackwell 芯片已全面投產,Q3 交付 1.3 萬個 GPU 樣品,H200 GPU 理論
英偉達 H100 GPU 掉卡?做好這五點,讓算力穩如泰山!
H100服務器停工一天損失的算力成本可能比維修費還高。今天,我們給大家總結一套“防掉卡秘籍”,從日常管理到環境把控,手把手教你把掉卡風險壓到最低。一、供電是“生命線”,這3點必須盯緊H100
英偉達最新B30A芯片曝光:算力角逐中的新變數
在全球AI芯片市場風云變幻之際,英偉達再次成為焦點。據路透社8月19日報道,兩位知情人士透露,英偉達正在為中國市場開發一款基于其最新Blac
英偉達被傳暫停生產H20芯片 外交部回應
韓國三星電子、美國安靠科技、富士康等關鍵零部件供應商。 據悉,美國安靠科技(Amkor)負責H20芯片的封裝,而三星電子負責提供高帶寬的內存芯片。 業界人士分析稱,一方面
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理
前言
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」書中的芯片知識是比較接近當前的頂尖芯
發表于 06-18 19:31
今日看點丨英偉達將為中國市場推出新AI芯片 售價大幅低于H20;中科曙光與海光信息宣布戰略重組
1. 英偉達將為中國市場推出新AI 芯片 售價大幅低于H20 ? 近日,外媒報道稱,美國
發表于 05-26 11:06
?1646次閱讀
特朗普要叫停英偉達對華特供版 英偉達H20出口限制 或損失55億美元
是“中國特供版”人工智能芯片;是英偉達公司為符合美國出口規定專門為中國市場開發的定制芯片,H20芯片
創企推Chiplet結構大算力芯片,稱性能大幅領先英偉達H100
評論