以下文章來源于谷歌云服務，作者 Google Cloud

Warren Barkley

Cloud AI 產品管理高級總監

我們很高興宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，這包括全新的 405B，即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些模型的添加，表明 Google Cloud 一如既往地踐行打造開放、靈活的 AI 生態系統的承諾，幫助您構建最能滿足您需求的解決方案。

Vertex AI 提供一系列精選的第一方、開源和第三方模型，其中許多模型 (包括全新的 Llama 模型) 都能以全托管式模型即服務 (MaaS) 產品的形式提供。借助 MaaS，您可以選擇符合自己需求的基礎模型，通過 API 輕松訪問它，使用強大的開發工具進行定制，并在我們的全托管基礎設施上進行部署，而無需繁瑣的基礎設施管理。

Meta 的 Llama 3.1 標志著開放權重模型發生范式轉變，與同類模型相比，它們擁有更為卓越的性能和廣泛的用途。此次發布包含一系列針對不同應用場景定制的模型:

Llama 3.1 405B

Llama 3.1 405B 是迄今為止最大的公開可用的基礎模型，在靈活性、控制力和創新方面為開放模型樹立了新標桿。該模型開創了各種新的可能性，包括生成合成數據，為復雜的推理任務提供支持，以及通過極少的微調輕松處理直接推理場景。

Llama 3.1 8B 和 70B

Llama 3 模型的這兩個新版本在理解語言細微差別、把握上下文以及執行翻譯和對話生成等復雜任務方面表現出色。

只需點擊幾下，即可使用以模型即服務形式提供的全新預覽版 405B 模型，沒有任何設置或基礎設施方面的煩擾。正式版將在未來幾周內推出。8B 和 70B 模型也將在未來幾周內以 MaaS 的形式提供。從現在開始，您可以在 Vertex AI Model Garden 中自助使用這三種模型，從而靈活地選擇您偏好的基礎設施。

這些模型是預訓練和指令調優版本，可滿足您的特定需求，它們包含長度為 128,000 個詞元 (token) 的擴展上下文，與較早的幾代模型相比，能更深入地理解更長、更復雜的文本。此外，Llama 3.1 模型支持多達八種語言，進一步擴大了其覆蓋面和適用性。

在 Google Cloud 中使用 Llama 3.1

Google Cloud 的 Vertex AI 是一個全面的 AI 平臺，可用于試驗、自定義、部署和監控 Llama 3.1 等基礎模型。Llama 3.1 加入了 Vertex AI Model Garden 上已有的 150 多個精選企業級模型，為您提供更大的選擇范圍和靈活性，使您可以根據自己的需求和預算選擇最合適的模型，跟上飛躍式創新的步伐。

在 Vertex AI 上使用 Llama 3.1，您可以:

信心十足地進行實驗

在我們的直觀環境中，通過簡單的 API 調用和全面的橫向評估來探索 Llama 3.1 的功能，而無需擔心復雜的部署流程。

根據您的確切需求定制 Llama 3.1

使用自己的數據微調模型，構建可滿足您獨特需求的定制解決方案。如果您在 Vertex AI Model Garden 中通過自助服務使用 8B 和 70B 模型，可以立即開始微調。微調 405B 模型的功能將在未來幾周內推出。

讓您的 AI 基于事實

使用 Vertex AI 的多種接地和 RAG 選項，確保您的 AI 輸出可靠、相關且值得信賴。例如，您可以將模型連接到企業系統，使用 Vertex AI Search 檢索企業信息，利用 Llama3 進行生成等等。

創建 agent

使用 Vertex AI 的全套工具，包括 Vertex AI 上的 LangChain，創建和編排由 Llama 3.1 提供支持的 agent。通過 Genkit 的 Vertex AI 插件將 Llama 3.1 集成到您的 AI 體驗中。

無開銷部署

支持靈活的自動擴縮，即使是 405B 模型，也能消除部署和擴縮的復雜性。當然，您還可以利用專為 AI 工作負載打造的一流基礎設施。

為 Llama 3.1 提供安全的工作環境

不僅支持 Meta 的 Llama Guard，還有 Google Cloud 的內置安全、隱私和合規措施，讓您可以放心部署。

開始在 Google Cloud 上使用 Llama 3.1

隨著 AI 模型的不斷創新，企業 AI 生態系統變得更加多樣化。我們與 Meta 的合作，證明兩家公司致力于提供由開放且易于使用的 AI 生態系統支持下的一流創新成果。我們將繼續與 Meta 和其他合作伙伴密切合作，讓我們的客戶始終能夠享用到前沿的 AI 功能。