LLM630

LLM推理，視覺識別，可開發，靈活擴展

LLM630 Compute Kit是一款 AI 大語言模型推理開發平臺，專為邊緣計算和智能交互應用而設計。該套件的主板搭載愛芯AX630CSoC 處理器，集成了 3.2 TOPs@INT8 算力的高能效 NPU，提供強大的 AI 推理能力，能夠高效執行復雜的視覺(CV)及大語言模型(LLM)任務，滿足各類智能應用場景的需求。主板同時配備 JL2101-N040C 千兆網口芯片 和 ESP32-C6 無線通信芯片，支持 Wi-Fi 6@2.4G，用作設備的網卡，提供高速數據傳輸能力，實現 Wi-Fi 和以太網的橋接功能。無論是通過有線連接進行大規模數據交換，還是通過無線通信與遠程服務器或其他智能設備進行實時互動，該平臺都能確保高效的數據交互。主板還集成了 SMA 天線接口，進一步增強無線信號的穩定性和傳輸距離，確保在復雜網絡環境下的穩定通信。內置 4GB LPDDR4 內存（其中 2GB 供用戶使用，2GB 專用于硬件加速）和 32GB eMMC 存儲，支持多模型并行加載與推理，確保任務處理高效順暢。

與主板完美配合的底板大幅擴展了LLM630 Compute Kit的功能性和適用性。它集成了BMI270 六軸傳感器，提供精準的姿態感應和運動檢測能力，適用于各種動態應用。內置的NS4150B D類功放以及麥克風和揚聲器接口支持高質量的語音輸入和音頻輸出，實現全雙工通信模式，增強用戶交互體驗。底板還配備了雙 Grove 接口及LCD/DSI和CAM/CSI MIPI 接口，便于擴展外設如顯示屏和攝像頭模塊。同時，底板集成了外接天線接口和一個 千兆網口，為設備提供靈活的網絡連接和增強的無線性能。此外，設備用戶按鍵實現開關機和模式切換等功能，提高了設備的易用性和交互性。

底板的充電芯片和預留電池插座支持自定義電池配置，確保平臺即使在無外部電源時也能長時間穩定運行。集成的電量檢測芯片實時監控電池狀態。MicroSD 卡槽支持存儲擴展，以及后續將支持的AI模型更新功能。雙Type-C接口不僅支持高效的數據傳輸，還提供OTG功能，使設備連接更加靈活，確保數據交換和設備連接的高效率。

LLM630 Compute Kit 支持StackFlow 框架，開發者可以輕松通過幾行代碼實現邊緣智能應用，快速啟動各種 AI 任務。平臺支持多種 AI 應用，包括視覺識別，語音識別、文本轉語音和喚醒詞識別等功能，并支持分開調用或 pipeline 自動流轉，方便開發。平臺還支持 Yolo11 DepthAnything 等視覺模型，InternVL2.5-1B 多模態大模型，Qwen2.5-0.5/1.5B Llama3.2-1B 大語言模型和 Whisper Melotts 語音模型等，支持熱更新，后續將持續支持最先進的熱門的大模型，賦能智能識別與分析，確保平臺緊跟技術發展和社區潮流。

LLM630 Compute Kit 適用于長時間運行的智能設備，廣泛應用于安防監控，智能銷售，智能農業，智能家居控制，互動機器人和教育等領域，能夠為邊緣智能應用提供強大的計算能力與靈活的擴展性。