近兩個月來,由于國際局勢導致海思的芯片供應鏈出現問題,海思的安防芯片缺口逐漸擴大,從華南地區逐步擴散至其他城市,從高端型號延伸到中低端型號,價格一路飆漲,能否有持續穩定的貨源成為了從業者的心頭病。
算法模型迅速、高效化的工業化落地,是當前行業的面臨的一大問題。原本學術界與工業界就存在較大 GAP,加上 NPU 芯片的突然興起,說是為了提高工業界的效率,事實上很多常規的的學術界模型都較難快速部署到 NPU 芯片上。本質原因是芯片產品的迭代周期往往以年為計數單位,且NPU屬于低可編程性ASIC芯片,很多NPU沒有較完整的指令集,直接對寄存器進行操作;而學術界的各種 Operator 是以季度為單位在更新,因此模型算子不支持的問題在NPU部署場景預期會長期存在,現在業界對NPU部署很多基于較為傳統的模型或者基于NPU可支持的操作選型模型。
為了解決AI邊緣應用開發部署遇到的真實問題,OPEN AI LAB的邊緣AI推理框架Tengine團隊今年全力投入到賦能 AI 芯片的工作中,打通從算法到AI芯片部署的環節,助力解決開發者自行適配難、效率低、性能差的問題。
Tengine團隊也在今年八月開始了對RV1109/RV1126的適配支持,目前Tengine已經完美適配 RV1109/RV1126 芯片。Tengine 對RV1109/1126的適配做到了算子級的封裝調度,框架自動對底層算力資源進行調度,包括NPU、CPU用于神經網絡推理以及2D圖形加速用于神經網絡圖片前后處理。
責任編輯:YYX
-
神經網絡
+關注
關注
42文章
4838瀏覽量
107753 -
AI芯片
+關注
關注
17文章
2126瀏覽量
36771 -
Tengine
+關注
關注
1文章
47瀏覽量
3248
發布評論請先 登錄
安霸推出開發者社區以助力部署端側AI應用
2025華為開發者大賽暨開發者年度會議成功舉辦
NVIDIA Jetson系列開發者套件助力打造面向未來的智能機器人
華為云與開發者共贏AI未來
Google Cloud展示一系列前沿技術更新
愛立信推出一系列AI驅動的新產品與合作計劃
高鴻信安亮相2025華為鯤鵬昇騰開發者大會
2025 TUYA全球開發者大會成功閉幕,涂鴉智能以下一代AI硬件重構人機交互邊界?
洲明科技亮相Create2025百度AI開發者大會
格靈深瞳亮相Create2025百度AI開發者大會
2025 TUYA全球開發者大會盛大啟幕,重新定義下一個AIoT時代!
NVIDIA 推出開放推理 AI 模型系列,助力開發者和企業構建代理式 AI 平臺
Tengine全力投入到AI芯片工作中,助力解決開發者的一系列問題
評論