全新 Mistral 3 系列涵蓋從前沿級到緊湊型模型，針對 NVIDIA 平臺進行了優化，助力 Mistral AI 實現云到邊緣分布式智能愿景。

Mistral AI 近日發布了開源多語言、多模態模型 Mistral 3 系列，并且針對 NVIDIA 超級計算和邊緣平臺進行了優化。

Mistral Large 3 是專家混合 (MoE) 模型，無需為每個 token 激活全部神經元，可以僅調用模型中影響最大的部分，既可在無浪費的前提下實現高效擴展，又可確保準確性不受損，使企業級 AI 不僅成為可能，而且更具實用性。

Mistral AI 的全新模型為企業級 AI 帶來了業界領先的準確性與效率。模型自 12 月 2 日起全面上線，覆蓋云端、數據中心、邊緣等場景。

憑借 41B 活躍參數、675B 總參數及 256K 上下文窗口，Mistral Large 3 實現了可擴展、高效且具有自適應性的企業級 AI 工作負載。

通過整合 NVIDIA Grace Blackwell 機架級擴展系統與 Mistral AI 的 MoE 架構，企業可借助先進的并行計算與硬件優化技術，高效部署并擴展大型 AI 模型。

該整合成為 Mistral AI 邁向其倡導的“分布式智能”時代的重要一步，彌合了研究突破與實際應用之間的差距。

該模型采用精細化 MoE 架構，通過調用 NVIDIA NVLink 的協同內存域及寬專家并行的優化技術，充分發揮大規模專家并行的性能優勢。

這些優勢與保持準確性的低精度 NVFP4 及 NVIDIA Dynamo 分離推理優化技術相疊加，確保大規模訓練與推理達到極佳性能。

在 NVIDIA Grace Blackwell 機架級擴展系統上，Mistral Large 3 的性能較基于前代 NVIDIA Hopper GPU 提升了 10 倍。這種代際飛躍帶來了更好的用戶體驗、更低的單 token 成本及更高的能效。

Mistral AI 不僅推動了前沿大語言模型技術的發展，還發布了九款小語言模型，助力開發者在任意環境中運行 AI。

緊湊型的 Ministral 3 套件經過優化，可在 NVIDIA 的邊緣平臺運行，包括 NVIDIA Spark、RTX PC 或筆記本及 NVIDIA Jetson 設備。

NVIDIA 與 Llama.cpp、Ollama 等頂尖的 AI 框架合作，確保能夠在邊緣的 NVIDIA GPU 上達到優異性能。

開發者和愛好者現可通過 Llama.cpp 和 Ollama 體驗 Ministral 3 套件中快速、高效的邊緣 AI。

Mistral 3 模型系列現已上線，在助力全球研究者與開發者試驗、定制和加速 AI 創新的同時，推動前沿技術全民化。

通過將 Mistral AI 模型連接到用于 AI 智能體生命周期開發的開源 NVIDIA NeMo 工具 (例如 Data Designer、Customizer、Guardrails 和 NeMo Agent Toolkit)，企業可根據自身用例進一步定制這些模型，從而加速從原型到生產的轉化。

為了實現云端到邊緣的高效運算，NVIDIA 針對 Mistral 3 系列模型優化了包括 NVIDIA TensorRT LLM、SGLang 和 vLLM 在內的推理框架。

Mistral 3 現已登陸主流開源平臺及云服務提供商。此外，該系列模型很快將能以 NVIDIA NIM 的形式部署。

無論 AI 需要應用于何種場景，這些模型均已就緒。