電子發燒友網報道(文/吳子鵬)12月20日,天數智芯在全新通用GPU產品線上發布會上正式發布該公司第二款產品——智鎧100,面向人工智能推理應用。
“2021年3月,天數智芯發布了公司第一款產品天垓100,是國內第一款通用GPU訓練產品,實現了我國高端通用GPU從0到1的突破。目前,天垓100已經覆蓋20多個行業,適配300多個應用模型。”天數智芯總裁蓋魯江表示,“智鎧100作為公司第二款產品,瞄準推理應用市場,可廣泛應用于金融、醫療、教育、安防、互聯網、智能語音、車路協同、智能中心等領域,標志著天數智芯成為國內唯一擁有云邊協同、訓推組合的完整通用算力系統全方案提供商。”
天數智芯于今年5月成功點亮智鎧100,在2022世界人工智能大會上,智鎧100首次公開亮相,被譽為“鎮館之寶”,吸引了眾多行業用戶的關注。
?
那么,智鎧100的真實性能如何呢?在本次發布會上,天數智芯產品線總裁鄒翾對智鎧100進行了全面的介紹。根據他的介紹,智鎧100具有計算性能高、應用覆蓋廣和使用成本低三大特點。
?
在計算性能高方面,智鎧100支持FP32、FP16、INT8等多精度混合計算,峰值算力表現為384TOPS@int8、96TFlops@FP16、24TFlops@FP32。
?
此外,智鎧100加速卡提供32GB的HBM存儲配置,800GB/s的理論峰值帶寬,16路PCIe 4.0通道,以及128路并發的多種視頻規格解碼能力。
?
鄒翾指出,和目前行業內的主流方案相比,智鎧100在CV/自然語言處理,以及推薦/濾波/統計分析等方面,基本都能提供2-3倍實際使用性能。
?
在應用覆蓋廣方面,上面已經提到,智鎧100能夠滿足多個行業的推理應用需求。同時,為了讓這些行業的用戶更好地使用智鎧100,天數智芯在智鎧100上做了專門的優化。智鎧100能夠提供多達800余條通用指令集,500多個算子函數,支持國內外主流深度學習開發框架,擁有豐富編程接口拓展和高性能函數庫,可以靈活支持各種算法模型,便于客戶自定義開發。
?
在使用成本低方面,智鎧100具備開發易遷移的特點,全面支持推理及訓練一體化方案,能夠在不額外增加購置成本的情況下完成增量訓練工作,有效減少用戶的成本支出。發布會上,有嘉賓在分享時講到,智鎧100帶來了非常好的使用體驗,在實際的算法遷移過程中,并不需要對上層算法做太多修改就能夠完成遷移。并且,智鎧100不僅遷移速度快,而且性能表現穩定,可以滿足相關應用的需求。
目前,天數智芯在國內通用GPU市場已經打開局面。2022年4月,天垓100累計訂單金額已經接近2億元,目前這一數字已經超過了5億元。智鎧100的出現進一步豐富了天數智芯的產品陣容,并吸引了產學研多方面的關注。發布會上,極視角生態合作負責人葉炤陽介紹,該公司已經在算法開發訓練、算法推理部署平臺上部署天垓100和智鎧100產品。讓我們期待2023年天數智芯在智鎧100上拿出亮眼的成績單。
-
gpu
+關注
關注
28文章
5194瀏覽量
135487 -
天數智芯
+關注
關注
0文章
102瀏覽量
6620
發布評論請先 登錄
算力高達 1570 TOPS!支持多硬盤的高算力服務器 CSB2-N10
算力高達 1100 TOPS!內置 Jetson AGX Orin 模組的高算力服務器
MWC Doha 2025|美格智能全新發布60 Tops AI算力、支持Linux系統的SNM982高算力AI模組
AI算力模組TS-SG-SM9系列產品規格書
積算科技上線赤兔推理引擎服務,創新解鎖FP8大模型算力
為什么無法在GPU上使用INT8 和 INT4量化模型獲得輸出?
算控一體新物種發布!百TOPS算力,地瓜為具身機器人量產“夯地基”
芯原超低能耗NPU可為移動端大語言模型推理提供超40 TOPS算力
新品 | 26+6TOPS強悍算力!飛凌嵌入式FCU3501嵌入式控制單元發布
天數智芯正式發布通用GPU推理產品“智鎧100”,峰值算力高達384TOPS@int8
評論