我國汽車產業發展迅速，汽車智能化大勢所趨，自動駕駛所需的算力需求高速增長。為了加速自動駕駛生態發展，阿里云自動駕駛加速器與行業領先的主機廠、投資機構攜手，結合自身技術、產品、業務資源，為自動駕駛創新企業提供多項支持。

3 月 10-11 日，NVIDIA 開發與技術部門亞太區總經理李曦鵬應邀出席阿里云自動駕駛加速器第一次線下集結活動并發表主題演講《NVIDIA支撐自動駕駛車端云端同步邁入高算力大模型時代》，演講分享了自動駕駛領域 AI 的研發趨勢和解決方案。

NVIDIA 開發與技術部門亞太區總經理李曦鵬

圖片來源：阿里云自動駕駛加速器

以下為演講內容：

自動駕駛需要通過大量的傳感器獲取環境信息，然后對這些數據進行處理和分析，而加速計算可以提供更快的數據處理速度和更高的精度。加速計算不僅對自動駕駛行業十分關鍵，也在數據處理、互聯網和醫療等領域扮演著重要的角色，促進了這些行業的發展。

車端算力對于加速汽車智能化非常重要。作為自動駕駛鏈條的基礎，車上的大算力芯片和解決方案是必不可少的。NVIDIA DRIVE 平臺是全球最常用的自動駕駛平臺之一，提供各種芯片和解決方案，包括車端、數據中心和仿真解決方案。

安全是開發自動駕駛的第一要務，更大的算力可以提高安全性。NVIDIA 在 2022 年秋季 GTC 宣布的 NVIDIA DRIVE Thor SoC 車規級系統芯片，可實現最高 2000 TOPS AI 算力以及 2000 TFLOPS 浮點算力，可以在單個計算平臺整合全車的智駕和座艙功能，為未來的算法和應用發展預留足夠空間。

應用和算力需要相互匹配，并且算力的發展需要一定的超前性以留給算法和應用發展足夠的空間。近年來，BEV 和 Transformer 在深度學習領域取得了出色的效果，并帶來了很大的效率提升。但同時也對計算量提出了更高的要求，因此出現了一些革命性的技術。

例如 Transformer Engine 和專門做 Transformer block 計算的技術等。除了 BEV 和 Transformer，NVIDIA 也針對各種其它模型，與云服務合作伙伴在云端進行訓練和預測加速。對于現代加速的集群，其運行應用類別非常多，包括仿真、AI、scientific AI、數字孿生、量子計算等等，而這些應用都是典型的加速計算集群的應用。

當前，硬件性能提升放緩，每年只有 1.1 倍左右，五年期望的 10 倍提升實際只有 2 倍，十年期望的100倍提升只有 4 倍。此時，如果使用加速計算，每年保持 1.6 倍的提速，將為工作負載提供充足算力，成為應對性能瓶頸的重要解決方案。同時，也需要注意到成本問題，包括單個晶體管價格逐年增加、能源消耗、機房建設、供電等問題，因此需要更多的加速計算來降低成本和提高效率。

在自動駕駛領域，NVIDIA 能夠提供豐富的工具和解決方案，幫助用戶完成AI模型端到端的流程。對于數據預處理，NVIDIA 可以提供結構化和非結構化數據的處理工具，還可以進行圖像處理，確保訓練和預測的一致性。在訓練方面，NVIDIA 可以提供不同的框架，同時也會關注模型的推理。在云端部署時，NVIDIA 提供大規模部署的工具。

NVIDIA 相信未來 10 年內，所有計算任務都將被加速，而 NVIDIA 已經為此做好了準備。加速計算的特點和意義在于，可以提高工作效率、降低成本、提升用戶體驗，同時也推動產業信息化融合的發展。這些特點和意義決定了 NVIDIA 的工作方式，即與客戶和合作伙伴深度合作，根據客戶需求設計出最適合的解決方案，共同進步。

加速計算的特點總結如下：

• 性能數量級上的提升：加速計算可以使模型性能有數十倍甚至上百倍的提升。

• 應用特異性：上層應用需要根據具體業務場景進行優化，沒有一勞永逸的方法。

• 找出瓶頸：需要從應用自上而下尋找性能瓶頸，然后加速這些瓶頸，以達到整體性能的提升。

• 端到端的優化：AI 加速器算法的核心是優化，端到端的優化需要軟件協同設計，需要業務、算法、工程人員和優化工程師共同配合。

自動駕駛軟件產品研發特點如下三點：

• 第一，自動駕駛的端到端開發需要加速數據模型的流轉，并讓數據信息充分利用。例如在車端采集數據，需要對這些數據進行高效的利用，在云端進行自動打標或者模型訓練、數據推理等過程，讓數據從采集到被利用整個過程盡可能快。

• 第二，云端的訓練、預測，車端的驗證和部署需要保持模型和數據的對齊。不同的訓練框架、預處理庫和數據處理方式會導致模型和數據不對齊，因此需要將整個過程自動化起來并做到統一管理。

• 第三，如果車端和云端的算力出現問題時，需要設計更多創新性的大模型來解決實際的問題。

在云上，自動駕駛應用需要處理大量數據的采集、管理和篩選，數據管理包括人工和自動打標，還需進行模型訓練和 REPLAY 驗證。如果采集車數量夠多，數據采集的長尾效應可以減少單輛車的數據量，但考慮到量產車的數量，數據處理必須更智能、高效。這已然成為自動駕駛企業的共識，而 NVIDIA 也將與云服務合作伙伴，結合在其他行業卓有成效的經驗和成果，幫助企業落地相關能力。

總的來說，AI 加速計算可以大幅提升自動駕駛應用的性能，但對于不同的應用場景需要采用特定的方法進行優化。例如在視覺計算領域，Swin-transformer 模型在自駕行業有很好的應用場景，并且訓練吞吐可以提高 2.3 倍，從而降低訓練時間，提高模型驗證和上線速度。

另外，CV-CUDA 開源庫是一個通用的高性能圖像處理加速庫，適用于不同行業的 AI 成像前后處理，目前已經被短視頻行業、自動駕駛行業和地圖行業等多個領域廣泛采用。僅就前處理而言，就可以減少訓練和預測中調試工作量，提升模型對齊效果，提升工作效率。

加速計算需要軟硬協同設計，僅依靠單一優化手段，很難達到效果，需要盡可能自上而下得去加速更多環節。AI 的核心是加速，而加速的核心是優化，這需要算法和優化工程師配合完成。

在自動駕駛領域，NVIDIA 將與云服務合作伙伴，依托其他領域的成功經驗和成果，為車企和自動駕駛企業，提供端到端的全棧式 AI 加速計算解決方案。

即刻點擊 “閱讀原文” 或掃描下方海報二維碼，鎖定 NVIDIA 創始人兼首席執行官黃仁勛的 GTC 主題演講！北京時間 3 月 21 日 23:00 全球首播，3 月 22 日 10:00 中國重播。深度解讀 NVIDIA 加速計算平臺如何推動人工智能、元宇宙、云技術和可持續計算的下一波浪潮。加入 GTC23，切勿錯過 AI 的決定性時刻！