芯原股份近日宣布與谷歌聯合推出面向始終在線、超低能耗端側大語言模型應用的Coral NPU IP。該IP基于谷歌在開放機器學習編譯器方面的基礎研究成果,并結合AI的安全特性進行了強化,為開發者提供統一的開源技術平臺,以構建強大的邊緣AI生態系統。
Coral NPU基于RISC-V開放指令集架構標準構建,引入原生張量處理能力,支持主流機器學習框架,如JAX、PyTorch和TensorFlow Lite(TFLite),并采用基于開放標準的工具,例如來自低級虛擬機(LLVM)項目的多級中間表示(MLIR),作為編譯器基礎設施。其設計面向始終在線、超低能耗的邊緣AI應用,尤其適用于可穿戴設備和泛在感知系統。
Coral NPU IP已在谷歌開發者網站開源,面向全球開發者開放。芯原將提供商業化的企業級IP版本,并結合自身豐富的IP儲備以及芯片設計與驗證能力,為客戶的相關芯片提供一站式芯片定制等服務。目前,芯原正在開發基于Coral NPU IP的驗證芯片,面向AI/AR眼鏡與智能家居等應用,以加速大語言模型在邊緣端的部署。
芯原執行副總裁,定制芯片平臺事業部總經理汪志偉表示:“此次項目基于我們在Open Se Cura開源項目上的既有經驗,也標志著谷歌開源技術與芯原在芯片設計和產業化支持上的持續深度合作。芯原將繼續發揮在芯片設計、驗證及系統級優化方面的優勢,推動邊緣AI生態建設,助力開源技術在實際終端產品中的落地應用,并為行業創新提供有力支持?!?br />
審核編輯 黃宇
-
AI
+關注
關注
90文章
38414瀏覽量
297707 -
芯原
+關注
關注
0文章
130瀏覽量
11799 -
NPU
+關注
關注
2文章
361瀏覽量
20868
發布評論請先 登錄
福州移動與華為聯合推出國內首個端到端智能化體驗經營系統
季豐電子聯合芯瑋為客戶提供雙面導電蓋帶
芯馳科技與立锜聯合開發車載SoC參考設計
芯原超低能耗NPU可為移動端大語言模型推理提供超40 TOPS算力
燦芯半導體推出28HKC+工藝平臺TCAM IP
F1?與亞馬遜云科技聯合推出全新在線體驗 車迷可親手打造專屬賽道
國芯科技與信大壹密聯合推出抗量子密碼芯片
愛芯通元NPU適配Qwen2.5-VL-3B視覺多模態大模型

芯原與谷歌聯合推出開源Coral NPU IP
評論