2025全球AI芯片峰會(GACS 2025)近日在上海召開,愛芯元智聯合創始人、副總裁劉建偉出席活動,并于“大模型AI芯片專題論壇”發表主題演講,分享了公司如何憑借高智價比AI芯片重塑“云-邊-端”算力格局,推動AI規模化落地與產業智能化轉型。
當前,AI規模化落地面臨三大挑戰:可靠性、易用性、經濟性。具體而言,數據隱私要求計算本地化處理,實時響應需求推動近端算力部署,而成本約束則限制了通用芯片在邊緣側的大規模使用。過去,端側AI芯片主要跑傳統CNN模型,場景明確,而大模型的興起則提升了AI上限,大模型正加速從云端向邊緣和終端遷移——在智慧醫療、智能家居、智慧康養等場景中,對算力、能效和內存訪問的空前需求,驅動著AI芯片架構的革新,邊緣AI算力已從單點突破到全面落地。
在劉建偉看來,當AI應用規模足夠大時,現有運行架構不是最高效的,值得重新設計更適合運行AI程序的原生處理器。為此,愛芯元智選擇從端側和邊緣側入手做AI基建,推出了搭載自研“愛芯通元AI處理器”的AI芯片。該芯片從設計之初就為AI垂直場景量身定制,旨在高效處理AI負載,采用“算子指令集+數據流DSA微架構”雙核心邏輯,顯著提升智價比,為邊緣端側復雜AI模型的部署提供更加經濟、高效和環保的解決方案:
算子指令集:支持包括Conv、Transformer、LSTM等在內的超百種AI算子,覆蓋圖像、視頻、文本處理及多模態融合任務,并原生適配DeepSeek、Qwen、Llama等主流大模型架構,為邊緣側大模型落地奠定堅實基礎。
異構多核架構:集成高效張量核、靈活向量核及高帶寬數據引擎,支持4bit/8bit/16bit/32bit等混合精度計算,同時實現高性能、低功耗、智價比。高性能硬件多核調度器,可優化數據依賴關系,顯著提升算力利用效率。
成熟工具鏈生態:提供從模型量化、編譯優化到部署上線的全流程工具鏈,兼容PyTorch、TensorFlow、ONNX等主流框架,大幅提升模型適配效率與開發體驗。
大模型的快速發展,驅動著“云-邊-端”融合加速演進,成為AI落地的新范式。在云端進行模型推理,成本、功耗日益攀升,影響AI應用的落地及規模化擴展。愛芯元智推出的原生AI處理器以極致Token/$效益,能效上的顯著優勢,全面支持智能任務的高效運行,為客戶提供符合經濟原則的算力基建。目前,這一AI處理器已完成高、中、低的完整算力布局,并已在多個領域實現規模化量產。其能效比較傳統GPGPU提升了一個數量級,在以文搜圖、通用檢測、以圖生文、AI Agent等應用中,幫助開發者以更具智價比實現高效創新。
AI計算在未來將趨于專用化加速,從云上的超大規模推理,到邊緣側的實時推理,再到終端設備上的即時響應;從刷臉支付到輔助駕駛,從工業質檢到農業分選,從智慧家庭再到數據中心,AI正逐步在千行百業中成為提升行業效率的“專家”。愛芯元智已打造了從工具鏈到芯片的完整軟硬件體系,攜手合作伙伴共同構建邊緣智能共同體,推動邊緣智能生態繁榮發展。
展望未來,愛芯元智將繼續秉持“普惠AI,造就美好生活”的使命,把算力做到更具智價比,持續降低應用落地門檻,讓AI觸手可及,最終實現“萬物智能”。
-
AI芯片
+關注
關注
17文章
2122瀏覽量
36727 -
算力
+關注
關注
2文章
1511瀏覽量
16703 -
愛芯元智
+關注
關注
1文章
128瀏覽量
5479
原文標題:愛芯元智:以高智價比AI芯片重構“云-邊-端”算力格局
文章出處:【微信號:愛芯元智AXERA,微信公眾號:愛芯元智AXERA】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
愛芯元智榮獲2025全球電子成就獎之年度創新產品獎
愛芯元智亮相第五屆全球汽車芯片產業大會
Achronix亮相2025全球AI芯片峰會
愛芯元智攜手靈境聲學推出“愛芯元聲”音頻解決方案
紫光閃芯邀您相約2025全球閃存峰會
愛芯元智亮相2025香港車博會
愛芯元智助力融感科技打造AI 4D Sensor
愛芯元智亮相2025上海車展
愛芯元智閃耀2025上海車展 | 發布全球化戰略及M57芯片,攜手伙伴共啟新時代
愛芯元智亮相2025全球AI芯片峰會
評論