作者 / 產品經理 Lucas Gonzalez 和軟件工程師 Rakesh Shivanna

繼 Gemma 3 和 Gemma 3 QAT 的成功發布之后，我們的先進開放模型系列具備了在單一云端或桌面加速器上運行的能力，我們正在進一步推進我們對可訪問 AI 的愿景。Gemma 3 為開發者提供了強大的功能，現在我們正將這一愿景擴展到能夠在您日常使用的設備 (您的手機、平板電腦和筆記本電腦) 上直接運行的高性能實時 AI。

為了驅動下一代的 On-device AI 并支持各種應用，包括提升 Gemini Nano 的能力，我們設計了一種全新的尖端架構。這個下一代基礎架構是在與高通技術 (Qualcomm Technologies)、聯發科 (MediaTek) 和三星系統 LSI (Samsung System LSI) 等移動硬件領導者的緊密合作下打造的，并針對閃電般快速的多模態 AI 進行了優化，從而能夠在您的設備上直接實現真正個性化和私密的體驗。

Gemma 3n 是我們首個基于此突破性的共享架構構建的開放模型，開發者即日起就可以在早期預覽版中開始體驗這項技術。同樣的先進架構也為下一代 Gemini Nano 提供支持，它將這些功能帶到 Google 應用和我們的 On-device 生態系統的廣泛功能中，并將在今年晚些時候推出。Gemma 3n 使您能夠開始在此基礎上進行構建，該基礎將應用于 Android 和 Chrome 等主要平臺。

Gemma 3n 利用了 Google DeepMind 一項名為 Per-Layer Embeddings (PLE) 的創新技術，該技術顯著降低了 RAM 的使用量。雖然原始參數規模為 5B 和 8B，但這項創新允許您在移動設備上運行更大的模型，或從云端進行實時流式傳輸，其內存消耗與 2B 和 4B 模型相當，這意味著這些模型可以在僅 2GB 和 3GB 的動態內存占用下運行。

通過探索 Gemma 3n，開發者可以提前預覽開放模型的核心功能以及將通過 Gemini Nano 在 Android 和 Chrome 上提供的移動優先架構創新。

在本文中，我們將探討 Gemma 3n 的新功能、我們負責任的開發方法，以及如何訪問預覽版。

Gemma 3n 的關鍵功能

Gemma 3n 專為在本地運行的快速、低占用空間的 AI 體驗而設計，提供:

優化的 On-Device 性能和效率: 與 Gemma 3 4B 相比，Gemma 3n 在移動設備上的響應速度提升了約 1.5 倍，質量顯著提高，并通過 Per Layer Embeddings、KVC sharing 和高級 activation quantization 等創新技術降低了內存占用。

Many-in-1 靈活性: 一個具有 4B 活躍內存占用 (active memory footprint) 的模型，原生包含一個嵌套的先進 2B 活躍內存占用子模型 (這要歸功于 MatFormer 訓練)。這提供了在運行中動態權衡性能和質量的靈活性，而無需托管單獨的模型。我們還在 Gemma 3n 中引入了 mix'n'match 能力，可以從 4B 模型中動態創建子模型，以最佳地適應您的特定用例以及相關的質量/延遲權衡。敬請關注我們即將發布的技術報告中有關此研究的更多信息。

Privacy-First 和 Offline Ready: 即使沒有互聯網連接，也可以在本地執行能夠實現尊重用戶隱私并可靠運行的功能。

通過音頻擴展的多模態理解: Gemma 3n 可以理解和處理音頻、文本和圖像，并提供顯著增強的視頻理解能力。其音頻能力使模型能夠執行高質量的自動語音識別 (轉錄) 和翻譯 (語音到翻譯文本)。此外，該模型還接受跨模態的交錯輸入，從而能夠理解復雜的多模態交互。(相關功能即將公開發布)

改進的多語言能力: 提升了多語言性能，特別是在日語、德語、韓語、西班牙語和法語方面。在多種語言基準測試中表現出色，例如在 WMT24++ (ChrF) 上取得了 50.1% 的優異成績。

解鎖全新 On-the-go 體驗

Gemma 3n 將通過以下方式賦能新一代智能 On-the-go 應用，使開發者能夠:

構建實時的互動體驗，能夠理解并響應用戶環境中的實時視覺和聽覺信息。

利用組合的音頻、圖像、視頻和文本輸入 (全部在設備上私密處理) 來實現更深層次的理解和基于上下文的文本生成。

開發先進的以音頻為中心的應用，包括實時語音轉錄、翻譯和豐富的語音驅動互動。

攜手共建負責任的 AI

我們對負責任的 AI 開發的承諾至關重要。與所有 Gemma 模型一樣，Gemma 3n 經過了嚴格的安全評估、數據治理以及與我們的安全政策進行微調對齊。我們以謹慎的風險評估方式對待開放模型，并在 AI 領域不斷發展的同時持續完善我們的實踐。

開始使用: 立即預覽 Gemma 3n

您可以通過預覽版率先體驗 Gemma 3n 的強大功能:

初始訪問 (現已可用):

通過 Google AI Studio 進行基于云的探索: 無需任何配置，您可直接通過瀏覽器訪問 Google AI Studio，即刻上手試用 Gemma 3n。立即探索其文本輸入能力。

使用 Google AI Edge 進行 On-Device 開發: 對于希望在本地集成 Gemma 3n 的開發者，Google AI Edge 提供了工具和庫。您即刻就可以開始使用文本和圖像理解/生成能力。

Gemma 3n 標志著在普及前沿且高效 AI 的道路上又邁出了新的一步。我們非常期待能看到，隨著這項技術的預覽版開始逐步開放，您將構建出怎樣的精彩應用。