国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

借助 NVIDIA 融合加速器開發套件加速數據中心 AI

NVIDIA英偉達 ? 來源:NVIDIA 英偉達 ? 作者:NVIDIA 英偉達 ? 2021-11-16 16:12 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

現代數據中心變得越來越難以管理。應用程序和 PB 級日志數據之間有數十億條可能的連接路徑。靜態規則不足以適應動態微服務的安全策略,而且人工已經無法應對數量龐大的日志數據的分析。

AI 是通往未來安全和自主管理式數據中心的唯一出路。

NVIDIA 融合加速器在業界率先推出 AI 增強型 DPU。它將 GPU 的強大計算能力與 DPU 的網絡加速和安全優勢相結合,為 AI 增強型數據中心管理創造了統一平臺。融合加速器可將 AI 生成的規則應用于數據中心網絡中的每個數據包,為實現實時安全和管理創造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大會上,我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨特的能力,除了 BlueField-2 的卸載、隔離和加速網絡功能,進一步拓展到 AI 推理和訓練功能。

兩款加速器都包含一個集成的 PCIe 交換機實現DPU 和 GPU 連接。集成交換機能夠消除對主機資源的爭用,實現線速 GPUDirect RDMA 性能。集成交換機還通過隔離 GPU 和網卡之間移動的數據來提高安全性。

AI 增強型 DPU

融合加速器支持兩種運行模式:

標準模式 – BlueField-2 DPU 和 GPU 分別獨立運行。

BlueField-X模式 – PCI 交換機進行了重新配置,GPU 將專用于 DPU,并且對于主機系統不可見。

在 BlueField-X 模式下,只有 DPU 上運行的操作系統可見到GPU。BlueField-X 模式在業界首創了一種新型加速器類型:GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下,主機服務器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機連接到 CPU 和 DPU。而 GPU 僅通過 PCIe 交換機與 DPU連接。

在 BlueField-X 模式下,GPU 可以對流經 DPU 的數據運行 AI 模型,成為 “bump in the wire”。保障安全同時,無性能損耗。AI 模型無需消耗主機資源,實現完全加速。

BlueField-X 為網絡安全、數據中心管理和 I/O 加速解鎖新穎使用場景。例如,Morpheus 網絡安全框架使用機器學習對以往無法識別的安全威脅進行有效處理。Morpheus 通過 DPU 從數據中心的各個服務器獲取遙測數據,并將其發送到配備 GPU 的服務器進行分析。

有了 BlueField-X,AI 模型可以在每個服務器的融合加速器上直接本地運行。這使 Morpheus 能夠更快地分析更多數據,同時消除代價很高的數據移動,并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測、數據泄漏預防和動態防火墻規則創建等。

Morpheus 示例僅僅是 BlueField-X 實現加速的一種使用場景。我們的客戶經常與我們分享一些我們尚未考慮到的新想法。為了對 AI 增強的網絡進行更多創造性的探索,我們現正推出 NVIDIA 融合加速器開發套件。

結合此開發套件,我們為有意構建新一代加速 AI 網絡應用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗計劃。在邊緣計算或數據中心管理中探索 BlueField-X 的新應用場景。以下例子為您做參考:

透明視頻預處理 – Bump-in-the-wire 視頻預處理(解密、交錯、格式轉換等),以提高 IVA 吞吐量和攝像頭密度。

小基站 RU 解決方案 – RAN 信號處理聚合加速器,以增加商業 gNodeB 服務器上的用戶密度和吞吐量。

計算存儲 – Bump-in-the-wire 存儲加密、索引和哈希,為長期存儲主機數據準備處理卸載昂貴的 CPU 資源。

作弊檢測 – 檢測流式游戲服務中的惡意游戲/作弊

開始使用 NVIDIA 融合加速器開發套件

NVIDIA 融合加速器開發套件包含有結合 CUDA 和 NVIDIA DOCA 的示例應用程序,以及幫助安裝、配置新型融合加速器的文檔。最重要的是,可提供 A30X 及應用支持來換取用戶的寶貴反饋。

要開始使用,只需在 NVIDIA 融合加速器開發套件網頁上完成注冊。獲得批準后,一旦硬件準備好發貨,將由工作人員主動聯系。之后就可以開啟新一代加速應用之旅了。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 加速器
    +關注

    關注

    2

    文章

    839

    瀏覽量

    40097
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5194

    瀏覽量

    135432
  • 主機
    +關注

    關注

    0

    文章

    1053

    瀏覽量

    36742
  • 數據中心
    +關注

    關注

    18

    文章

    5647

    瀏覽量

    75009
  • DPU
    DPU
    +關注

    關注

    0

    文章

    414

    瀏覽量

    26964

原文標題:GTC21 | 借助 NVIDIA 融合加速器開發套件加速數據中心 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    AI端側部署開發(SC171開發套件V2-FAS)

    AI端側部署開發(SC171開發套件V2-FAS) 序列 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 工程源碼 1 Fibo AI Stack模型轉化指南 27分19秒 https
    發表于 02-11 11:44

    利用NVIDIA Cosmos開放世界基礎模型加速物理AI開發

    NVIDIA 最近發布了 NVIDIA Cosmos 開放世界基礎模型(WFM)的更新,旨在加速物理 AI 模型的測試與驗證數據生成。
    的頭像 發表于 12-01 09:25 ?1131次閱讀

    邊緣計算中的AI加速器類型與應用

    人工智能正在推動對更快速、更智能、更高效計算的需求。然而,隨著每秒產生海量數據,將所有數據發送至云端處理已變得不切實際。這正是邊緣計算中AI加速器變得不可或缺的原因。這種專用硬件能夠直
    的頭像 發表于 11-06 13:42 ?813次閱讀
    邊緣計算中的<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>類型與應用

    Cadence 借助 NVIDIA DGX SuperPOD 模型擴展數字孿生平臺庫,加速 AI 數據中心部署與運營

    人員將能夠在 AI 工廠的構建中輕松部署世界領先的 AI 加速器。作為一款創新解決方案,Cadence Reality Digital Twin Platform 能夠在物理實施之前,根據特定服務等級協議對
    的頭像 發表于 09-15 15:19 ?1505次閱讀

    加速AI未來,睿海光電800G OSFP光模塊重構數據中心互聯標準

    定義數據中心互聯的新范式。 一、技術實力:800G OSFP光模塊的卓越性能表現 睿海光電800G OSFP光模塊系列采用行業領先的PAM4調制技術,具備以下核心優勢: 超高速率 :單模傳輸速率達
    發表于 08-13 16:38

    Microchip推出Adaptec? SmartRAID 4300 系列加速器 提供安全的可擴展 NVMe? RAID 存儲解決方案

    ,專為NVMe部署而設計。該系列加速器尤其適用于現代人工智能數據中心環境。在此類環境中,加速訪問NVMe存儲對于支持高強度工作負載
    的頭像 發表于 08-06 16:31 ?1.9w次閱讀
    Microchip推出Adaptec? SmartRAID 4300 系列<b class='flag-5'>加速器</b> 提供安全的可擴展 NVMe? RAID 存儲解決方案

    NVIDIA RTX AI加速FLUX.1 Kontext現已開放下載

    NVIDIA RTX 與 NVIDIA TensorRT 現已加速 Black Forest Labs 的最新圖像生成和編輯模型;此外,Gemma 3n 現可借助 RTX 和
    的頭像 發表于 07-16 09:16 ?2046次閱讀

    NVIDIA攜手諾和諾德借助AI加速藥物研發

    NVIDIA 宣布與諾和諾德開展合作,借助創新 AI 應用加速藥物研發。此次合作也將支持諾和諾德與丹麥 AI 創新
    的頭像 發表于 06-12 15:49 ?1267次閱讀

    面向半定制AI基礎架構的NVIDIA NVLink Fusion技術

    為了高效應對 AI 工作負載,數據中心正在被重構。這是一項非常復雜的工作,因此,NVIDIA 目前正在交付以 NVIDIA 機架級架構為單位的 AI
    的頭像 發表于 06-06 14:59 ?1351次閱讀
    面向半定制<b class='flag-5'>AI</b>基礎架構的<b class='flag-5'>NVIDIA</b> NVLink Fusion技術

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    倍,可見天璣的AI開發者解決方案已經被開發者高度認可,天璣AI生態圈正在飛速成長起來。 聯發科與OPPO深度合作,共同研發,借助天璣
    發表于 04-13 19:52

    是德科技推出AI數據中心構建

    是德科技(NYSE:KEYS)推出Keysight AI (KAI)數據中心構建,這是一款先進的軟件套件,通過模擬真實工作負載來評估新算法、組件和協議對
    的頭像 發表于 04-07 11:06 ?999次閱讀

    適用于數據中心AI時代的800G網絡

    和性能隔離能力,以保障不同用戶任務互不干擾。 分布式AI計算與網絡架構設計 分布式計算已成為AI訓練的主流方式,通過將工作負載分配到多個GPU節點并行處理,以加速模型訓練。這對數據中
    發表于 03-25 17:35

    NVIDIA加速的Apache Spark助力企業節省大量成本

    隨著 NVIDIA 推出 Aether 項目,通過采用 NVIDIA 加速的 Apache Spark 企業得以自動加速數據中心規模的分析
    的頭像 發表于 03-25 15:09 ?1157次閱讀
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>加速</b>的Apache Spark助力企業節省大量成本

    Cadence 利用 NVIDIA Grace Blackwell 加速AI驅動的工程設計和科學應用

    融合設計專業知識與加速計算,推動科技創新、實現能效和工程生產力方面的突破性進展,引領全球生活新范式 內容提要 ●?Cadence 借助 NVIDIA 最新 Blackwell 系統,將
    的頭像 發表于 03-24 10:14 ?1415次閱讀

    Oracle 與 NVIDIA 合作助力企業加速代理式 AI 推理

    Oracle 數據庫與 NVIDIA AI 相集成,使企業能夠更輕松、快捷地采用代理式 AI ? ? ? 美國加利福尼亞州圣何塞 —— GTC? —— 2025 年 3 月 18 日
    發表于 03-19 15:24 ?577次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作助力企業<b class='flag-5'>加速</b>代理式 <b class='flag-5'>AI</b> 推理