2023 亞馬遜云科技 re:Invent 在拉斯維加斯威尼斯人會(huì)展中心舉行，亞馬遜云科技（AWS）和 NVIDIA 宣布擴(kuò)大戰(zhàn)略合作，共同提供最先進(jìn)的基礎(chǔ)架構(gòu)、軟件和服務(wù)，推進(jìn)客戶的生成式 AI 創(chuàng)新。

期間，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 共同登臺(tái)，向大眾展示了這次發(fā)布的新內(nèi)容，其中蘊(yùn)含著多個(gè)創(chuàng)新的亮點(diǎn)。接下來(lái)，請(qǐng)跟隨本文一同探索這些新動(dòng)向。

亞馬遜云科技與 NVIDIA 宣布開(kāi)展戰(zhàn)略合作，為生成式 AI 提供全新超級(jí)計(jì)算基礎(chǔ)架構(gòu)、軟件和服務(wù)

NVIDIA 通過(guò)企業(yè)級(jí)生成式 AI 微服務(wù)為聊天機(jī)器人、AI 助手和摘要工具帶來(lái)商業(yè)智能

NVIDIA BioNeMo 在亞馬遜云科技上線，實(shí)現(xiàn)用于藥物研發(fā)的生成式 AI

NVIDIA 為部分大型亞馬遜 Titan 基礎(chǔ)模型提供訓(xùn)練支持

亞馬遜云科技與 NVIDIA 宣布開(kāi)展戰(zhàn)略合作，為生成式 AI 提供

全新超級(jí)計(jì)算基礎(chǔ)架構(gòu)、軟件和服務(wù)

亞馬遜云科技（AWS）和 NVIDIA 宣布擴(kuò)大戰(zhàn)略合作，共同提供最先進(jìn)的基礎(chǔ)架構(gòu)、軟件和服務(wù)，推進(jìn)客戶的生成式 AI 創(chuàng)新。 NVIDIA 與亞馬遜云科技將集兩家公司技術(shù)之大成，無(wú)論是采用 NVIDIA 最新多節(jié)點(diǎn)系統(tǒng)的新一代 GPU、CPU 和 AI 軟件，還是 AWS Nitro System 高級(jí)虛擬化與安全功能、Elastic Fabric Adapter（EFA）互連接口和可擴(kuò)展性 UltraCluster，均為訓(xùn)練基礎(chǔ)模型和構(gòu)建生成式 AI 應(yīng)用的理想選擇。 這一擴(kuò)展合作建立在雙方長(zhǎng)期合作關(guān)系的基礎(chǔ)上。兩家公司通過(guò)為早期的機(jī)器學(xué)習(xí)（ML）先行者提供推進(jìn)這些技術(shù)發(fā)展所需的計(jì)算性能，進(jìn)而推動(dòng)了生成式 AI 時(shí)代的發(fā)展。 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式 AI 正在深入改變?cè)乒ぷ髫?fù)載，并將加速計(jì)算作為多樣化內(nèi)容生成的基礎(chǔ)。NVIDIA 和亞馬遜云科技的共同使命是為每一位客戶提供經(jīng)濟(jì)高效的前沿生成式 AI 技術(shù)。在這一使命的驅(qū)動(dòng)下，NVIDIA 和亞馬遜云科技正在開(kāi)展覆蓋整個(gè)計(jì)算堆棧的合作，包括 AI 基礎(chǔ)架構(gòu)、加速庫(kù)、基礎(chǔ)模型以及生成式 AI 服務(wù)。”

點(diǎn)擊圖片即可閱讀全文

NVIDIA 通過(guò)企業(yè)級(jí)生成式 AI 微服務(wù)

為聊天機(jī)器人、AI 助手和摘要工具

帶來(lái)商業(yè)智能

NVIDIA 宣布推出一項(xiàng)生成式 AI 微服務(wù)，支持企業(yè)將自定義大語(yǔ)言模型與企業(yè)數(shù)據(jù)相連接，使其 AI 應(yīng)用能夠提供高度準(zhǔn)確的響應(yīng)。

NVIDIA NeMo Retriever 是 NVIDIA NeMo（一個(gè)用于構(gòu)建、自定義和部署生成式 AI 模型的框架和工具系列）的一項(xiàng)全新服務(wù)，通過(guò)企業(yè)級(jí)檢索增強(qiáng)生成（RAG）功能，幫助組織加強(qiáng)其生成式 AI 應(yīng)用。

作為一項(xiàng)語(yǔ)義檢索微服務(wù)，NeMo Retriever 借助經(jīng) NVIDIA 優(yōu)化的算法，幫助生成式 AI 應(yīng)用作出更加準(zhǔn)確的回答。使用該微服務(wù)的開(kāi)發(fā)者，可以將其 AI 應(yīng)用與位于各個(gè)云和數(shù)據(jù)中心的業(yè)務(wù)數(shù)據(jù)相連通。該服務(wù)為 AI 代工添加了 NVIDIA 優(yōu)化的 RAG 功能，并被整合到亞馬遜云科技 Marketplace 上的 NVIDIA AI Enterprise 軟件平臺(tái)中。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“具有 RAG 功能的生成式 AI 應(yīng)用是企業(yè)的下一個(gè)殺手級(jí)應(yīng)用。借助 NVIDIA NeMo Retriever，開(kāi)發(fā)者可以創(chuàng)建自定義生成式 AI 聊天機(jī)器人、AI 助手和摘要工具。它們能夠訪問(wèn)企業(yè)的業(yè)務(wù)數(shù)據(jù)，通過(guò)準(zhǔn)確且有價(jià)值的生成式 AI 智能來(lái)提高生產(chǎn)力。”

點(diǎn)擊圖片即可閱讀全文

NVIDIA BioNeMo 在亞馬遜云科技上線，

實(shí)現(xiàn)用于藥物研發(fā)的生成式 AI

制藥和科技生物頭部企業(yè)的研究與開(kāi)發(fā)人員現(xiàn)在可以通過(guò)亞馬遜云科技輕松部署 NVIDIA Clara 軟件和服務(wù)，以加快醫(yī)療研究進(jìn)程。

這讓使用 AWS 云資源的醫(yī)療和生命科學(xué)開(kāi)發(fā)人員能夠靈活地集成 NVIDIA 加速的產(chǎn)品，比如用于藥物發(fā)現(xiàn)的生成式 AI 平臺(tái) NVIDIA BioNeMo 等。

該平臺(tái)即將登陸亞馬遜云科技上的 NVIDIA DGX 云，目前可通過(guò)高性能計(jì)算集群管理工具 AWS ParallelCluster 及 Amazon SageMaker 機(jī)器學(xué)習(xí)服務(wù)使用。

點(diǎn)擊圖片即可閱讀全文

NVIDIA 為部分大型亞馬遜 Titan 基礎(chǔ)模型

提供訓(xùn)練支持

亞馬遜云科技有一支由資深科學(xué)家和開(kāi)發(fā)者組成的團(tuán)隊(duì)，致力于為 Amazon Bedrock（一項(xiàng)用于基礎(chǔ)模型的生成式 AI 服務(wù)）創(chuàng)建 Amazon Titan 基礎(chǔ)模型。該團(tuán)隊(duì)在過(guò)去幾個(gè)月中一直在使用 NVIDIA NeMo。

NeMo 的并行技術(shù)可實(shí)現(xiàn)高效的大規(guī)模 LLM 訓(xùn)練。當(dāng)與亞馬遜云科技的 Elastic Fabric Adapter（EFA）配合使用時(shí)，團(tuán)隊(duì)可以將 LLM 擴(kuò)展到多顆 GPU 上，從而加快訓(xùn)練速度。

EFA 為亞馬遜云科技客戶提供了一個(gè) UltraCluster 聯(lián)網(wǎng)基礎(chǔ)設(shè)施，可直接連接 1 萬(wàn)多顆 GPU，并使用 NVIDIA GPUDirect 繞過(guò)操作系統(tǒng)和 CPU。

這一結(jié)合使亞馬遜云科技的科學(xué)家們能夠提供出色的模型質(zhì)量，這是只依靠其他數(shù)據(jù)并行方法無(wú)法大規(guī)模實(shí)現(xiàn)的。

點(diǎn)擊圖片即可閱讀全文

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開(kāi)放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。