從一顆芯片到全場景智能,愛芯元智正把AI落地每一步走成現實。
2025年初,隨著DeepSeek等現象級產品的推廣,大眾對AI智能產品的認知與期待被快速點燃。隨之而來的,產業端對AI部署需求的全方位爆發,云、邊、端各類場景都在尋求更高效、更經濟的智能化方案。特別是 7B 參數量以下多模態大模型的陸續開源,使得原本局限于云端運行的 AI 能力,在端側部署也展現出切實可行的前景。基于這一趨勢,愛芯元智迅速從大模型 Demo驗證階段轉向了實際項目交付,并推出了多個可直接量產的解決方案,顯著提升了用戶部署大模型的效率。
01 年度突破 從技術探索到產品落地
2025年,愛芯元智完成了多個關鍵跨越:
1.發布基于AXCL框架的AX8850算力卡產品解決方案,邁出算力硬件產品化的重要一步,為邊緣計算場景提供了高能效比、高智價比的AI加速選擇。
2.深度參與Hugging Face開源生態,借助其免費提供的 ModelZoo 存儲服務,團隊成員得以高效協作、共享模型適配成果,與全球開發者共同推動AI開源生態的繁榮。
3.成功協助客戶將Qwen系列多模態大模型集成并實現量產,真正實現了“大模型落地”從概念到產品的跨越。
4.完成了多款語音類大/小模型的端側適配工作,推動“語音/音頻+AI”應用場景加速落地,進一步拓展了端側智能的交互邊界。
02 模型生態 133個模型庫背后的技術圖譜
今年,愛芯元智將ModelZoo全面遷移至全球最大的模型管理平臺Hugging Face,截至目前,已整理并開源133個模型倉庫,涵蓋適配優化的模型、示例代碼、解決方案及NPU工具鏈。
HTTPS://huggingface.co/AXERA-TECH

愛芯元智的模型適配已形成完整矩陣:
1. 視覺模型
覆蓋了從檢測、識別到分割、關鍵點、目標跟蹤的全棧能力。不僅支持YOLO系列最新版本,還適配了單目/雙目深度估計、圖像增強等前沿算法。

2. 語音模型
重點優化了語音檢測、識別、生成模型,用于語音交互中的VAD、ASR、TTS小模型,確保其實時響應能力(RTF 均<1),為智能語音產品提供可靠基礎。

3. 音頻模型
實現音軌分離,通過先進的Transformer架構,顯著提升了分離的精度和質量,極大提升效率與創新自由度。

4. 多模態模型
作為今年熱點,愛芯元智完整適配了文搜圖、文搜 NVR、智能相冊、萬物搜的基座多模態模型CLIP系列,以及“萬物檢測”模型YOLOWorldv2,為智能相冊、以文搜圖等場景提供核心支持。

5. 大語言模型
實現文本對話、文本翻譯、會議摘要整理,盡管大語言模型迭代迅速,愛芯元智仍精選并適配了包括DeepSeek、Qwen3、MiniCPM等在內的多個架構最新版本,確保技術前沿性。

6. 多模態大模型
愛芯元智對“多模態大模型”給出了更專業明確的界定:必須是真正支持文本、圖片、語音至少兩種輸入的大語言模型架構,這些模型讓設備開始真正“理解”周圍世界。

7. 生成式模型
生成式模型,將 StableDiffusion1.5 支持到了更大的分辨率(1024*768),可生成細節更多的圖片。同時,適配了能以假亂真的語音克隆模型 CosyVoice2。

8. RAG特征模型
RAG 業務流程中的特征提取功能,實現更智能地檢索精度、優化用戶體驗、降低計算成本等,在業務場景中創造實際價值。

9. Ultralytics QAT
從根源上來解決極端情況下的 w8a8 的量化長尾問題,讓算法模型的生產者主動參與到模型量化的流程中,實現了閉環。
HTTPS://GitHub.com/AXERA-TECH/QAT.Ultralytics
03 生態解決方案 從算法到產品的關鍵一步
2025年,愛芯元智成立了邊緣計算業務線,進一步拓展智能產品市場,深耕以AI為核心商業價值的賽道。公司從模型適配,邁向提供完整的算法功能SDK及準產品級解決方案,顯著加速客戶拓展與AI產品的量產落地進程。
1. 業務流
愛芯元智實現了硬件編解碼+AI 檢測(NPU 推理)的高性能視頻處理流程。支持從 RTSP 流或 MP4 文件獲取視頻,解碼后通過 NPU 執行目標檢測,并輸出可直接播放的結果視頻流或文件,一站式處理,幫助客戶快速評估多路(8 路/16 路/32 路)RTSP視頻流的智能分析能力,并快速集成自己私有檢測算法模型。
主控版本
HTTPS://GitHub.com/AXERA-TECH/ax-pipeline
算力卡版本
HTTPS://GitHub.com/AXERA-TECH/axcl-pipeline
2. 以文搜圖
針對AI NAS、智能NVR等場景,提供基于CLIP模型的即插即用型“以文搜圖”解決方案。該方案通過集成優化的多模態模型與輕量級數據庫,客戶無需關注底層算法,僅需通過增加算力卡,即可快速為現有NAS/NVR產品實現智能升級。
支持主控形態、支持算力卡形態
HTTPS://GitHub.com/AXERA-TECH/libclip.axera
3. 文字識別
基于PaddleOCR的最新版本,封裝SDK已準備就緒。
HTTPS://GitHub.com/AXERA-TECH/libocr.axera
4. 語音 SDK
將 ASR、TTS 的模型封裝到 HTTP API 的服務中,極大降低了集成門檻,方便用戶直接調用。
HTTPS://GitHub.com/ml-inory/whisper.axera
HTTPS://GitHub.com/ml-inory/sensevoice.axera
HTTPS://GitHub.com/ml-inory/FireRedASR.axera
HTTPS://GitHub.com/AXERA-TECH/kokoro.axera
5. 多語言翻譯
提供基于 Qwen2.5 驅動的多國語言互譯 HTTP API 服務。
HTTPS://GitHub.com/AXERA-TECH/libtranslate.axera
6. 多人會議轉錄總結
基于聲紋識別、語音識別、大語言模型的多人會議轉錄總結功能,拓展了AI在辦公場景的應用。
HTTPS://huggingface.co/AXERA-TECH/3D-Speaker-MT.axera
7. 智能相冊
基于開源項目 Immich,將算力需求適配到 NPU,極大緩解 CPU 提取圖片特征耗時漫長的問題。
HTTPS://huggingface.co/AXERA-TECH/immich
Immich 智能相冊在樹莓派 5 上的高效部署與優化:
https://zhuanlan.zhihu.com/p/1959353946578585345
8. 智能 NVR
基于開源項目Frigate NVR打造的智能NVR解決方案,不僅將算力需求全面適配至NPU,更支持語義搜索和視頻理解功能。
HTTPS://huggingface.co/AXERA-TECH/frigate-resource
https://docs.frigate-cn.video/
特別值得關注的是,其內置的 AI 功能極具前瞻性,優勝市面主流NVR產品,提供的模型微調服務,能針對垂直場景的漏檢、誤檢等核心痛點進行優化,真正解決了落地中的準確性和可靠性。
04 生態共建 從芯片到產品的全鏈路支持
2025年,愛芯元智的生態硬件合作伙伴基于AX630C、AX8850等核心芯片,推出了一系列創新產品。


Module LLM Kit(AX630C)、LLM630 Compute Kit(AX630C)等開發套件,降低了LLM應用開發門檻。

LLM-8850 Card(AX8850)為邊緣服務器提供靈活AI算力擴展。


NanoKVM Pro(AX630C)、MaixCAM2(AX630C)等產品將AI能力注入專業與消費級設備。


M4C-Hat(AX8850)、AX-M1(AX8850)等形態多樣的算力模塊,滿足不同集成需求。

AI Pyramid(AX8850),承載Home Assistant微調的離線多模態大模型,可作為本地服務器(HA-Server),在完全離線的情況下運行全棧AI服務:
大語言模型(LLM):運行Qwen 0.5B,實現自然語言理解。
語音識別(ASR):搭載SenseVoice,提供高精度語音轉文字。
視覺大模型(VLM):運行InternVL3-1B,實現實時畫面理解。
計算機視覺(CV):部署YOLO模型,負責實時的行人與骨骼檢測。
不知名AI工程師:https://zhuanlan.zhihu.com/p/1991449170813403832
05 行業前瞻 家庭算力中樞時代即將到來
在2025世界人工智能大會上,已清晰感受到產業脈搏。行業全屋智能解決方案的推出,充分展示了多模態大模型在家居場景的驚人潛力。不久的將來,“家庭算力中樞”將從概念走向量產,全屋多模態AI能力將成為智能硬件的新門檻,100 TOPS的端側算力或將成為未來家庭的標配。
06 2026 未來可期
從模型開源到方案量產,從算法到全棧生態——愛芯元智在2025年完成的,不僅是一系列技術適配與產品交付,更是一條從AI芯片到智能場景的完整價值通路的構建。愛芯元智正將算力轉化為切實可用的產品功能,助力客戶在多個垂直領域實現規?;渴?。
2026年的大門已經打開,愛芯元智將繼續探尋邊端側應用的最大公約數,與合作伙伴一同,讓每一顆芯片的潛力,都在真實場景中綻放價值,真正實現“普惠AI,造就美好生活”。
通往物理AI世界的路上,愛芯元智與生態伙伴不僅是參與者,更是基礎設施的建設者。
-
芯片
+關注
關注
463文章
54007瀏覽量
465932 -
AI
+關注
關注
91文章
39755瀏覽量
301359 -
愛芯元智
+關注
關注
1文章
128瀏覽量
5511
原文標題:愛芯分享 | 從模型開源到方案量產:愛芯元智AI社區與生態回顧與展望
文章出處:【微信號:愛芯元智AXERA,微信公眾號:愛芯元智AXERA】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
邊緣計算AI芯片企業愛芯元智港股上市
愛芯元智通過港交所聆訊,有望成為“中國邊緣AI芯片第一股”
愛芯元智榮獲2026 IC風云榜年度AI技術突破獎
愛芯元智入選浙江省“科技新小龍”企業榜單
愛芯元智榮獲2025全球電子成就獎之年度創新產品獎
愛芯元智獲評2025年寧波市“瞪羚之星”企業
愛芯元智亮相第五屆全球汽車芯片產業大會
愛芯元智亮相2025全球AI芯片峰會
愛芯元智攜手靈境聲學推出“愛芯元聲”音頻解決方案
愛芯元智亮相2025世界人工智能大會
愛芯元智重磅發布邊緣計算戰略:以工具鏈+生態為引,實現AI普惠
愛芯元智AI社區與生態回顧與展望
評論