受限于眼鏡的小巧機身，大模型無法適配，隨著技術迭代，端側性能提升，所有對話均在本地完成，無需依賴手機或云端連接，既保障隱私又提升響應速度。在談到AI眼鏡的爆發時，有專家表示重量在30克以內，實現 8 小時長效續航，2000 元左右的定價貼合大眾消費需求，目標可實現300萬左右的出貨量。這個階段的AI眼鏡不一定需要顯示功能，主打語音交互。在小模型的應用上，兒童玩具這一品類用于編寫簡單生動的小故事，復刻爸爸或媽媽的專屬聲音讓陪伴更具溫度，會是不錯的應用場景。

谷歌在去年底發布Coral NPU是基于RISC-V的開源邊緣AI加速器，而谷歌Gemma 3的小模型參數僅為0.27B。可以說，引領了AI眼鏡或者其他端側智能產品的輕量化、智能化的方向。

Coral NPU是一款專為邊緣端低能耗人工智能而設計的機器學習加速器IP。它基于開放的RISC-V指令集架構，可作為經過驗證的開源IP集成于商業化的芯片產品中。

Coral NPU的開源戰略旨在創建標準架構以加速邊緣AI生態系統發展，其基礎源于谷歌研究院此前推出的Coral.ai項目。該項目最初于2023年作為“Open Se Cura”研究項目的組成部分發布，現已成為推動這一愿景的專項計劃。

Coral NPU直接解決了邊緣AI設備生態嚴重碎片化的問題。當前，由于通用計算單元（CPU）與機器學習計算單元采用不同的編程模型，開發者面臨陡峭的學習曲線和極高的編程復雜性。這些機器學習單元通常依賴于由專用、專有的編譯器生成的命令緩沖區。這種碎片化的方式難以發揮不同算力的協同優勢，也迫使開發者要維護多條專有且不透明的工具鏈，成本與復雜度陡增。

Coral NPU基于RISC-V指令集架構標準構建，通過引入原生張量處理能力，拓展了C語言編程環境。它支持多種機器學習框架，包括：JAX、PyTorch和TensorFlow Lite（TFLite），并采用基于開放標準的工具，如來自低級虛擬機（LLVM）項目的多級中間表示（MLIR），作為編譯器基礎設施。

將原生機器學習加速原語與通用計算指令集架構融合，既避免了傳統獨立CPU/NPU設計帶來的系統復雜性、成本及數據遷移問題，同時也實現了卓越的機器學習性能。

Coral NPU 是一套基于開放 RISC-V 標準的神經處理單元（NPU）完整參考設計，由三個核心組件組成：標量核負責傳統 CPU 功能；矢量執行單元：提供額外計算能力；矩陣執行單元執行 ML 模型運算；三者共同構成 Coral NPU 的完整功能與性能。任何芯片廠商若設計獨立 NPU 或將 Coral NPU 集成進 SoC，均需同時整合這三個單元，方可獲得完整方案。

Coral NPU 的設計遵循以下幾條核心原則：

ML 優先架構：傳統處理器先搭標量，再加向量（SIMD），最后補矩陣；Coral NPU 反其道而行——先建矩陣（ML）能力，再融入向量與標量功能。三種運算在同一 ISA 內緊密耦合，使整個架構底層就面向 AI 負載優化。（詳見架構概覽）

專用 ML 引擎：核心是一顆量化外積乘加（MAC）引擎，專為神經網絡的基本計算打造。該模塊以極高效率將 8-bit 運算累加成 32-bit 結果。

集成向量（SIMD）核：向量協處理器實現 RISC-V 向量指令集 RVV v1.0，配 32×256 bit 向量寄存器堆，并采用“strip-mining”機制——單條指令觸發多次操作，顯著提升并行效率。

簡潔、可 C 編程的標量核：輕量級 RISC-V RV32IM 前端作為簡單的控制器，負責把任務分發給矩陣與向量后端。它采用“運行到完成”的模式，無需復雜操作系統或頻繁中斷，功耗極低。

高效內存管理：僅設一層小容量高速緩存（8 KB 指令 + 16 KB 數據），讓數據緊貼計算單元，降低功耗與延遲。

統一開發體驗：平臺可用 C 語言編程，并原生對接 TensorFlow Lite Micro（TFLM）、IREE 等現代 ML 編譯器。基于 MLIR 的統一工具鏈可同時支持 TensorFlow、JAX、PyTorch 的模型部署。

Coral NPU 的設計實現了功耗與性能之間的高效平衡，使其成為環境應用的理想選擇，并可擴展至多核架構。性能上，512 GOP/S（每秒十億次操作），每周期 256 次乘加運算功耗目標約 6 mW @ 800 MHz，22 nm 工藝。

Coral NPU 專為超低功耗、始終在線的邊緣 AI 設計，尤其專注于泛在感知系統，其首要目標是在可穿戴設備上實現全天候 AI 體驗，同時最大限度降低電量消耗。憑借高效率與低功耗，Coral NPU 可廣泛部署于智能耳機與耳塞、智能眼鏡、AR 頭顯、智能手表、健身手環、智能家居及環境 IoT 設備、手機（用作超低功耗協處理器）、車載與汽車電子系統。

審核編輯 黃宇