LLM?8850?Card是一款面向邊緣設備的M.2 M-KEY 2242?AI 加速卡，把 42?mm 的袖珍體積與 Axera AX8850?SoC 的 24?TOPS?@?INT8 算力結合起來，為 Raspberry Pi 5、RK3588、x86 PC 等主機 “一插即強” 地擴展多模態大模型與視頻分析能力。

卡上配備微型渦輪風扇 + 鋁合金 CNC 鰭片的主動散熱系統，由板載 EC 根據溫度?電流曲線智能調速，長期滿載也能維持低溫穩態，避免密閉機殼內的熱衰減。

板載DCDC + PMIC電源鏈路由 EC 進行實時功耗管理，實現 “按需供電、按需散熱”，大幅提升整機穩定性。支持AXCL?Runtime，支持 C / Python API 一鍵部署 YOLO?v8/v9、CLIP、Whisper、Llama?3.2、Gemma?2、Qwen?2.5 等主流 CNN、Transformer、LLM 與多模態模型；同時利用 AX8850 的 VPU 硬件管線，提供 H.264/H.265 8K 編解碼與同編同解轉碼加速與縮放 / 裁切，兼顧 AI 與視頻流處理。支持 host 使用 ffmpeg 直接調用硬件視頻編解碼器。

產品特性

◎ 高算力 NPU：

24?TOPS?@?INT8，八核?Cortex?A55?1.7?GHz?CPU

◎ 原生 AXCL：

CNN、Transformer、CLIP、Whisper、Llama3.2、Qwen?2.5、InternVL?2 等全棧模型一鍵運行，支持 H.264/H.265 同編同解轉碼

◎ 高帶寬內存：

64?bit?LPDDR4x，4266?Mbps 速率，8GB 容量

◎ 硬件視頻引擎：

8?K?@?30?fps H.264/H.265 編碼，8?K?@?60?fps 解碼，支持 32 路 1080?p 并行解碼

◎ 超緊湊形態；豐富 I/O；智能散熱 / 供電

◎ 安全啟動 & 加密

應用場景

◎ 工業 / 商用 SBC 算力升級：

Raspberry?Pi 5、RK3588、TI?AM62x 等板卡本地運行目標檢測、缺陷識別

◎ 具身智能機器人：

AMR / AGV / 服務機器人即插即得 “感知?決策?控制” 本地鏈

◎ AIPC & 邊緣智能終端：

在迷你 PC 內提供離線 Copilot、客服問答、會議字幕 & 即時翻譯

◎ NVR / NAS 智能化改造：

舊存儲盒增添多路 AI 車牌抓拍、事件摘要檢索 + 硬件轉碼

◎ 智能交互設備：

語音助手、智能門鈴、廣告機實現本地 LLM + TTS 的低時延對話

◎ AI 視覺網關：

交通路口、園區閘機前端推理，實時客流統計與危險行為告警