生成式 AI 為 Windows 應(yīng)用和游戲帶來了各種新功能。它為無腳本、動態(tài)的 NPC 提供動力，助力創(chuàng)作者生成新穎的藝術(shù)作品，并幫助游戲玩家將幀率提升高達 4 倍。但這些不過是冰山一角。

隨著生成式 AI 的功能和使用場景不斷增加，相關(guān)計算需求也水漲船高。

混合式 AI 將 NVIDIA RTX 的端側(cè) AI 加速與云端的可擴展 GPU 相結(jié)合，可有效且高效地滿足 AI 工作負載的需求。

混合式 AI，魚與熊掌兼得

隨著 AI 的普及，應(yīng)用開發(fā)者正在尋找各種可行的部署方式：在 RTX GPU 上本地運行的 AI 兼具高性能和低延遲，即使在離線情況下也可隨時使用。另一方面，在云端運行的 AI 能夠運行規(guī)模更大的模型并且可以跨多個 GPU 進行擴展，還可以同時為多個用戶提供服務(wù)。在許多情況下，一個應(yīng)用程序會同時使用這兩種方式部署的服務(wù)。

混合式 AI 組合與協(xié)調(diào)本地 PC 和工作站的算力與云的擴展能力。它可以根據(jù)特定使用場景、成本和性能要求靈活優(yōu)化 AI 工作負載，幫助開發(fā)者確保 AI 任務(wù)在其特定應(yīng)用場景下最合適的設(shè)備上運行。

無論 AI 是在本地還是在云端運行，它都可以通過 NVIDIA GPU 和 NVIDIA 的 AI 技術(shù)棧（包括 TensorRT 和 TensorRT-LLM）進行加速。這意味著我們可以減少無謂的等待時間，并可為用戶提供更多的先進 AI 功能。

這一系列 NVIDIA 工具和技術(shù)可為創(chuàng)作者、游戲玩家和開發(fā)者的混合式 AI 工作流提供支持。

理想的云端應(yīng)用由 RTX 實現(xiàn)

生成式 AI 已經(jīng)證明它能夠為藝術(shù)家的創(chuàng)作提供靈感，加速設(shè)計，啟發(fā)構(gòu)思。此類解決方案包括 iStock 推出的云端生成式 AI，這是一項由 NVIDIA Edify 驅(qū)動的生成式攝影圖片服務(wù)，專為藝術(shù)家打造。另一方面，藝術(shù)家也為該生成式 AI 的模型訓(xùn)練貢獻了各種授權(quán)內(nèi)容，而做出貢獻的藝術(shù)家也會因此獲得報酬。

iStock 的生成式 AI 不僅可以用于圖像生成，還可以為藝術(shù)家提供豐富的工具，以便他們探索各種風格和變化，修改圖像的某個部分或擴展畫布。借助這些工具，藝術(shù)家可以快速完成多次概念設(shè)計，并將創(chuàng)意轉(zhuǎn)變?yōu)楝F(xiàn)實方案。

創(chuàng)意概念準備完成后，藝術(shù)家就可以將其轉(zhuǎn)移到本地設(shè)備上。RTX 助力的 PC 和工作站可在超過 125 款熱門創(chuàng)意應(yīng)用中為藝術(shù)家提供 AI 加速，幫助他們最大化實現(xiàn)自己的創(chuàng)意愿景：無論是使用本地 AI 工具在 Photoshop 中創(chuàng)建令人驚嘆的藝術(shù)作品，在 DaVinci Resolve 中使用視差效果為圖像制作動畫，還是使用光線追蹤加速在 Blender 中借助參考圖像構(gòu)建 3D 場景，亦或是使用 Optix 進行 AI 降噪。

云端 ACE 讓 NPC 栩栩如生

混合式 AI 還通過 NVIDIA ACE 實現(xiàn)了交互式 PC 游戲的新高度，讓游戲開發(fā)者和數(shù)字創(chuàng)作者能夠?qū)⑾冗M的生成式 AI 模型集成到 RTX AI PC 上的數(shù)字虛擬形象中。

NVIDIA ACE NIM 由 AI 神經(jīng)網(wǎng)絡(luò)提供支持，讓開發(fā)人員和設(shè)計師創(chuàng)建能夠理解并響應(yīng)人類玩家文本和語音的非玩家角色（NPC）。NVIDIA ACE NIM 可利用 AI 模型（包括語音轉(zhuǎn)文本模型）來處理人類語音輸入，以便 NPC 實時生成回應(yīng)。

在這些新技術(shù)的加持下，NPC 的回應(yīng)將不再受限于預(yù)定義的腳本。ACE NIM 既可以在 RTX GPU 設(shè)備上本地運行，也可以部署在云端，基于各種計算選項實現(xiàn)動態(tài)、逼真的交互。

可靈活部署的混合式開發(fā)者工具

混合式 AI 還可以幫助開發(fā)者構(gòu)建和調(diào)整新的 AI 模型。NVIDIA AI Workbench 可幫助開發(fā)者在 RTX GPU 上快速創(chuàng)建、測試和定制預(yù)訓(xùn)練生成式 AI 模型和 LLM。數(shù)據(jù)科學家和開發(fā)者可通過 NVIDIA AI Workbench 簡化對 Hugging Face、GitHub 和 NVIDIA NGC 等熱門倉庫的訪問，并且能夠通過簡化的用戶界面輕松地復(fù)現(xiàn)、協(xié)作和遷移項目。

當有額外的性能需求時，項目還可輕松擴展至數(shù)據(jù)中心（無論是公有云還是 NVIDIA DGX Cloud），之后部署到 PC 或工作站上的本地 RTX 系統(tǒng)進行推理和輕量定制。數(shù)據(jù)科學家和開發(fā)者可以利用預(yù)先構(gòu)建的 Workbench 項目，使用檢索增強生成（RAG）與文檔交互，使用微調(diào)功能自定義 LLM，通過流暢的 CPU 到 GPU 轉(zhuǎn)換加速數(shù)據(jù)科學工作負載等等。

混合式 RAG Workbench 項目提供可自定義的 RAG 應(yīng)用，以便開發(fā)者自主運行和調(diào)整。他們可以在本地對文檔進行向量化，并在本地 RTX 系統(tǒng)或托管在 NVIDIA API Catalog 上的接入點運行推理，或使用 NVIDIA NIM 微服務(wù)。開發(fā)者可以調(diào)整混合式 RAG Workbench 項目，以便使用各種模型、接入點和容器。他們還可以通過該項目量化要在所選 GPU 上運行的模型。

NVIDIA GPU 可在 NVIDIA GeForce RTX PC 和 RTX 工作站本地以及云端為各種出色的 AI 解決方案提供支持。借助不斷發(fā)展的混合式 AI 工作流，創(chuàng)作者、游戲玩家和開發(fā)者可以充分發(fā)揮本地和云端的強大能力。