2023 云棲大會開幕在即，

10 月 31 日 - 11 月 2 日，

NVIDIA 將前往杭州云棲小鎮

赴約科技盛會，

帶來圍繞大模型、端到端網絡解決方案、

生成式 AI、“她力量”、AI 公益、

科研智算、AI 開發者主題的并行話題演講、

全棧 AI 和加速計算展區、

AI 開發者實戰小課堂、

有獎互動等一系列精彩內容！

本文帶您搶先開啟劇透環節！

?+

+

亮點一

精彩演講紛至沓來，

多維度解讀 AI 開發和應用

10 月 31 日

聚合話題演講 - “無畏·無限”新女性新機遇

演講主題：AI 女性“進化論”：追光而行、全力奔跑

時間：13:55 - 14:05

地點：B 館 B3 - 5 蔚云廳

演講人：劉念寧，NVIDIA 全球副總裁

在主題為“無畏·無限”新女性新機遇的聚合話題演講，NVIDIA 全球副總裁劉念寧將與現場觀眾剖析科技女性群像，激勵女性在加速計算和生成式 AI 的全新時代中釋放無限可能，在實現進化與成長的同時，尋找 AI 的星辰大海。

10 月 31 日

聚合話題演講 - 可預期網絡 - Al Infra

演講主題：適用于 AI 的網絡基礎設施

時間：14:30 - 14:50

地點：D2 - 1 會場

演講人：Gilad Shainer，

NVIDIA 網絡與高性能計算高級副總裁

現代數據中心已成為計算單元，而網絡架構對于定義其功能至關重要。人工智能平臺依賴于各種網絡才能有效運行，包括：計算網絡，負責高速數據處理；存儲網絡，提供對大量數據集的訪問；此外還有管理網絡。這些網絡的特性直接影響人工智能工作負載的效率以及可以提供 AI 服務的范圍。

在本演講中，NVIDIA 網絡與高性能計算高級副總裁 Gilad Shainer 將與您深入探討人工智能網絡的復雜性，探索正在發揮作用的各種技術及其對現代數據中心的影響，闡明網絡技術如何塑造人工智能的格局。

11 月 1 日

聚合話題演講 - NVIDIA 加速計算創造生成式 AI 新時代

地點：B 館 B3 - 1 德云廳

大會第二天上午，聚合話題演講將以大語言模型（LLM）為主題，綜述 NVIDIA 端到端的數據中心級全棧 AI 和加速計算解決方案，并邀請阿里云人工智能平臺 PAI 團隊分享其自主研發、基于 NVIDIA 軟硬件技術棧的大模型開發一站式工具箱和大規模 RLHF 高效訓練框架。更別錯過演講最后的 NVIDIA GPU 幸運抽獎機會！

9:15 - 9:45 >>

構建面向生成式 AI 的 NVIDIA 端到端解決方案

演講人：王淼，NVIDIA 解決方案架構與工程總監

您將了解到 NVIDIA 如何端到端的加速生成式 AI，從 GPU / DPU / CPU、網絡、超級計算機到 Base Command，助力相關創新創業。

9:45 - 10:15 >>

面向 LLM 的軟件方案及

NVIDIA 軟件全棧與行業解決方案更新概覽

演講人：翟健，NVIDIA 解決方案架構師

演講將介紹 NVIDIA 在大語言模型（LLM）領域中的解決方案更新，同時還會涵蓋 NVIDIA GPU 上的軟件全棧及解決方案的更新情況，包括 NVIDIA CUDA，深度學習（DL）框架，企業級軟件支持，數字孿生軟件及通用行業解決方案。

10:15 - 10:45 >>

NVIDIA TensorRT-LLM 介紹

演講人：周國峰，NVIDIA 產品研發總監

您將了解到 NVIDIA 針對大語言模型（LLM）推理方案 TensorRT-LLM，包括 TensorRT-LLM 的定位，基本功能和使用方法。

10:45 - 11:00 >>

PAI-Megatron-Patch：靈駿集群訓練 LLMs 的一站式工具箱

演講人：黃俊，阿里云資深算法專家

Pai-Megatron-Patch 工具是阿里云人工智能平臺 PAI 算法團隊研發，基于阿里云智算服務 PAI - 靈駿平臺的大模型最佳實踐解決方案配套工具，旨在幫助大模型開發者快速上手靈駿產品，完成大語言模型（LLM）的高效分布式訓練，有監督指令微調，模型離線推理驗證等完整大模型開發鏈路。該項目提供了業界主流開源大模型基于 Megatron-LM 的訓練 & 離線推理驗證流程，方便用戶快速上手大模型訓練。本演講對 Pai-Megatron-Patch 的架構，功能，使用方式等進行簡要的介紹。

11:00 - 11:15 >>

PAI-ChatLearn：靈活易用、大規模 RLHF 高效訓練框架

演講人：王林，阿里云高級技術專家

PAI-ChatLearn 是阿里云人工智能平臺 PAI 團隊自主研發，靈活易用、大規模模型 RLHF 高效訓練框架。支持大模型進行 SFT（有監督指令微調）、RM（獎勵模型）、RLHF（基于人類反饋的強化學習）完整訓練流程。PAI-ChatLearn 支持使用 NVIDIA Megatron 作為模型定義和訓練的 backend，支持大規模（175B + 175B）模型的 RLHF 訓練。本演講對 PAI-ChatLearn 的架構、性能、以及基于 NVIDIA Megatron 如何進行高效 RLHF 訓練等進行簡要的介紹。

11:15 - 11:45 >>

全新 GPU 架構下的 FP8 訓練與推理

演講人：高慧怡，NVIDIA 解決方案架構師、薛博陽，NVIDIA GPU 計算專家

介紹最新 NVIDIA Hopper GPU 架構：FP8。具體介紹 FP8 在大語言模型上的訓練與推理的相關工作，以及相應的軟件解決方案 Transformer Engine。

11:45 - 12:25 >>

下一代大規模 LLM / MoE 訓練系統基座 - NVIDIA Megatron Core

演講人：顏子杰，NVIDIA GPU 計算專家、樊士慶，NVIDIA GPU 性能架構師

演講將為您介紹 NVIDIA Megatron Core 的設計、定位以及優化，其中會重點介紹對大規模 MoE 預訓練的支持。

11 月 1 - 2 日

NVIDIA 科學智能（AI4S）、生成式 AI、開發者社群合作話題分享

此外，共有三場 NVIDIA 技術演講將在 B 館風云廳和 C 館云棲 SHOW 場 相繼精彩上演，無論是 AI 賦能科學發現還是開發者深度內容，又或者是生成式 AI 加速訓練、調優及部署，必定會帶給您不一樣的技術啟發！

演講主題：NVIDIA 科學智能（AI4S）賦能科學發現

時間：11 月 1 日 10:00 - 10:15

地點：C 館云棲 SHOW 場

演講人：李順，NVIDIA 教科研應用技術總監

想知道 NVIDIA 支持 AI for Science（AI4S）的技術框架？想了解相關技術在生命科學、氣象和流體力學中的應用案例？好奇 NVIDIA 如何對中國科研 AI4S 應用提供生態支持？以及現場將有 NVIDIA 和阿里云合作的 AI for Science 訓練營和 Hackathon 的相關信息。別錯過本場演講！

演講主題：NVIDIA 生成式 AI 加速優化方案概覽

時間：11 月 1 日 16:00 - 16:20

地點：B 館 B3 - 2 風云廳

演講人：金國強，NVIDIA 解決方案架構師

演講將介紹 NVIDIA 數據中心 GPU 在大語言模型及圖像生成領域的強大性能，結合 NeMo Framework / TensorRT / TensorRT-LLM / Triton 推理服務器等軟件 SDK 和框架極致加速生成 AI 的訓練、微調和推理部署等成熟解決方案，極大提升 AI 應用吞吐量降低延遲，縮短研發周期減小成本。您還將了解到基于阿里達摩院視頻生成算法的 NVIDIA 全流程優化加速的解決方案 pipeline，為視頻生成領域的應用打好堅實的基礎。

演講主題：引領技術，推動應用

時間：11 月 2 日 11:30 - 11:45

地點：C 館云棲 SHOW 場

演講人：侯宇濤，NVIDIA GPU、CUDA 應用市場總監

云上開發者大賽專場，NVIDIA GPU、CUDA 應用市場總監侯宇濤將分享 NVIDIA 與阿里云天池在助力開發者成長和推動 AI 技術應用方面的舉措。當然，現場還有 NVIDIA 和阿里云合作的開發者新賽事消息，期待大家的關注！

?+

+

亮點二

NVIDIA 全棧 AI 和加速計算展區

1

數據中心規模全棧 AI 展示，

準備就緒加速

NVIDIA 展區將帶來采用 NVIDIA AI 技術的客戶案例展示。包括 NVIDIA TensorRT-LLM 如何幫助螞蟻團隊優化開源的代碼大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何為阿里云金融與醫療行業提供最佳的解決方案，包含開箱即用的魔搭開源模型和靈積模型服務高效 GPU 優化、Megatron 加速通義大模型訓練，確保訓練性能在大集群上的可擴展性、基于 NVIDIA Megatron 開發的深度學習大語言模型工具等豐富內容。

此外，NVIDIA 展區也將展示加速基礎設施、AI 軟件、模型和服務的加速計算解決方案，包括 NVIDIA 加速的基礎設施、InfiniBand 網絡計算端到端解決方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技術底座、AI Playground 生成式 AI 互動體驗等。而 NVIDIA 也正在為各行各業的 3D 創意工作流提供助力，使用戶能夠以前所未有的方式進行協作和創新。因此，在 AI 互動展示區域，我們也將帶來基于 NVIDIA Omniverse、CloudXR、RTX 等技術分享，期待與您一同探討數字世界的無限可能。

旨在培養顛覆行業格局的優秀創業公司的 NVIDIA 初創加速計劃，展示內容也將于現場開放，歡迎想要獲得產品折扣、技術支持、市場宣傳、融資對接、業務推薦等一系列服務、加速發展的優秀創業公司，前來了解。

2

AI 小課堂即將開講

敲黑板！專為開發者打造的必學課堂，連續 3 天課程內容看點滿滿！

上下滑動查看每日“課表”

10 月 31 日
時間	課程
10:00 - 10:30	利用 NVIDIA BlueField-3 DPU 構建云
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發
11:00 - 11:30	NVIDIA Spectrum-X平臺助力生成式 AI 云服務
13:00 - 13:30	基于 LLM 大模型構建中文對話引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 應用實踐：文字生成圖像的代碼實現流程
15:00 - 15:30	合成數據應用初探 —— 圖像分類數據集的制作案例

11 月 1 日
時間	課程
10:00 - 10:30	NVIDIA Spectrum-X平臺助力生成式 AI 云服務
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發
11:00 - 11:30	利用 NVIDIABlueField-3 DPU 構建云
13:00 - 13:30	基于 LLM 大模型構建中文對話引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 應用實踐：文字生成圖像的代碼實現流程
15:00 - 15:30	合成數據應用初探 —— 圖像分類數據集的制作案例

11 月 2 日
時間	課程
10:00 - 10:30	利用 NVIDIABlueField-3 DPU 構建云
11:00 - 11:30	基于 LLM 大模型構建中文對話引擎：NeMo + ChatGLM
13:00 - 13:30	生成式 AI 應用實踐：文字生成圖像的代碼實現流程
14:00 - 14:30	合成數據應用初探 —— 圖像分類數據集的制作案例
15:00 - 15:30	合成數據應用初探 —— 圖像分類數據集的制作案例

主講人劃重點：

NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發

NVIDIA AI Enterprise 提供支持的企業級軟件，它能夠加速數據科學，并簡化生產就緒型生成式 AI、計算機視覺和語音應用。在本課程中，我們將介紹如何借助 NVIDIA AI Enterprise 軟件平臺，加速 AI 開發和部署，保障性能、高可用和安全性。

—— 崔曉楠，NVIDIA 開發者發展經理

基于 LLM 大模型構建中文對話引擎：NeMo + ChatGLM

本課程將 NeMo 與 ChatGLM 相結合，構建中文場景下“能聽、能想、能說”的對話引擎，降低對話式人工智能和 LLM 大語言模型的使用門檻，快速了解對話式人工智能的搭建流程。

—— 李奕澎，NVIDIA 企業開發者社區經理

生成式 AI 應用實踐：一個文字生成圖像的代碼實現流程

你將了解到生成式 AI 模型 Stable Diffusion 的基本原理以及 TensorRT 推理引擎的工作原理等內容，希望在此學習過程中找到跟蹤 AI 發展的靈感，并鼓勵你進行更多的實踐和探索。

—— 何琨，NVIDIA 企業開發者社區高級經理

合成數據應用初探——圖像分類數據集的制作案例

本課程將帶你了解合成數據生成工具 NVIDIA Omniverse Code 和 Omniverse Replicator，同時還有 Jetbot 小車自動避障四分類數字場景的 Python 代碼實現思路。

—— 侯宇濤，NVIDIA GPU、CUDA 應用市場總監

利用 NVIDIABlueField-3 DPU 構建云

作為 AI 工廠和生成式人工智能云兩種數據中心網絡設計范例中，NVIDIA BlueField-3 DPU 實現了數據中心基礎設施軟件的大量加速計算，虛擬化、網絡、安全、存儲及數據的處理、控制、編排也將在 NVIDIA BlueField-3 DPU 上得到加速和處理。我們將深入探討 NVIDIA BlueField-3 DPU 在云環境和云應用中的廣泛作用與核心價值。

—— 崔巖，NVIDIA 網絡技術專家

NVIDIA Spectrum-X 平臺助力生成式 AI 云服務

NVIDIA Spectrum-X 是首個專為基于以太網的 AI 云提高性能和效率而設計的平臺，依托于 NVIDIA Spectrum-4 以太網交換機和 NVIDIA BlueField-3 DPU 的緊密結合，在多租戶環境中實現了一致的、可預測的性能，并提高生成式 AI 云的能效。我們將深入探討 NVIDIA Spectrum-X 網絡平臺的動態路由、擁塞控制和性能隔離等特性。

—— 孟慶，NVIDIA 網絡市場總監

3

開發者體驗活動，即刻預約動手樂趣

大會期間，在 NVIDIA 展臺親自動手，收獲有趣有料的科技體驗！戳鏈接即可報名，提前預約參與開發者體驗活動。

體驗活動 1：動手實驗——利用人工智能

技術實現 Jetbot 自動駕駛小車的避障功能

掃描下方二維碼報名預約體驗活動 1

NVIDIA Jetbot 將幫助您學習如何利用最新的人工智能技術實現避障過程，感受自動駕駛技術的重要組成部分！

2022 云棲大會現場體驗活動精彩瞬間

體驗活動 2：動手編程——體驗

Full-Stack語音 AI 開發全流程

掃描下方二維碼報名預約體驗活動 2

結合 Jetson 嵌入式平臺以及 NVIDIA NeMo 工具庫，您將體驗到端到端、交互式全棧語音 AI 開發全流程。有 NLP 和語音 AI 開發需求的開發者一定不要錯過。

?+

+

亮點三

參會贏好禮：NVIDIA 獨家限量秘笈

活動期間，光臨 NVIDIA 展臺及 AI 小課堂，將有機會獲取首部 NVIDIA DPU 編程入門書籍！

劇透就先到這里啦！

覺得意猶未盡？

那就收好這份 NVIDIA的

2023 云棲大會日程攻略，

前往活動現場或線上云端參會，

親自解鎖大會亮點吧！

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，關注更多會議及活動信息。