国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

超級芯片GH200發布,AI算力是H100的兩倍

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-08-10 09:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

英偉達在計算機圖形學頂會 SIGGRAPH 2023 上發布了專為生成式 AI 打造的下一代 GH200 Grace Hopper 平臺,并推出了 OVX 服務器、AI Workbench 等一系列重磅更新。

五年前,也是在 SIGGRAPH 大會的演講中,英偉達宣布將 AI 和實時光線追蹤引入 GPU ,可以說,當時的這個決定重塑了計算圖形學。

「我們意識到光柵化已經達到了極限,」黃仁勛表示:「這要求我們重塑硬件、軟件和算法。在我們用 AI 重塑 CG 的同時,也在為 AI 重塑 GPU。」

預言應驗了:幾年來,計算系統變得越來越強大,例如 NVIDIA HGX H100,它利用 8 個 GPU 和總共 1 萬億個晶體管,與基于 CPU 的系統相比,提供了顯著的加速。

「這就是世界數據中心迅速轉向加速計算的原因,」在今年的 SIGGRAPH 大會,黃仁勛重申:「The more you buy, the more you save.」

如今,訓練越來越大的生成式 AI 模型所需的計算未必由具有一定 GPU 能力的傳統數據中心來完成,而是要依靠像 H100 這樣從一開始就為大規模運算而設計的系統。可以說,AI 的發展在某種程度上只受限于這些計算資源的可用性。

但黃仁勛斷言,這僅僅是個開始。新模型不僅需要訓練時的計算能力,還需要實現由數百萬甚至數十億用戶實時運行的計算能力。

「未來,LLM 將出現在幾乎所有事物的前端:人類就是新的編程語言。從視覺效果到快速數字化的制造市場、工廠設計和重工業,一切都將采用自然語言界面。」黃仁勛表示。

在這場一個多小時的演講中,黃仁勛帶來了一系列新發布,全部面向「生成式 AI」。

更強的 GH200 Grace Hopper 超級芯片平臺

英偉達的 Grace Hopper 超級芯片 NVIDIA GH200 結合了 72 核 Grace CPU 和 Hopper GPU,并已在 5 月全面投入生產。

現在,黃任勛又宣布 Grace Hopper 超級芯片將配備 HBM3e 高帶寬內存(HBM3e 比當前的 HBM3 快 50%),下一代 GH200 Grace Hopper 平臺將大幅提升生成式 AI 的計算速度。

全新的 GH200 內存容量將增加至原有的 3.5 倍,帶寬增加至 3 倍,包含一臺具有 144 個 Arm Neoverse 核心、282GB HBM3e 內存的服務器,提供 8 petaflops 的 AI 算力。

為了提升大模型的實際應用效率,生成式 AI 模型的工作負載通常涵蓋大型語言模型、推薦系統和向量數據庫。GH200 平臺旨在全面處理這些工作負載,并提供多種配置。

英偉達表示,這款名為 GH200 的超級芯片將于 2024 年第二季度投產。

Nvidia AI Workbench,模型即服務

此外,為了加快全球企業定制化采用生成式 AI,老黃宣布英偉達即將推出 Nvidia AI Workbench。

盡管很多預訓練模型都是開源的,但使其定制化服務自身業務仍然具有挑戰性。AI Workbench 減輕了企業 AI 項目入門的復雜程度,將所有必要的企業級模型、框架、軟件開發套件和庫整合到統一的 workspace 之中。

只需要在本地系統上運行的簡化界面進行點擊,AI Workbench 就能讓開發者使用自定義數據微調 Hugging Face、GitHub 和 NGC 等流行存儲庫中的模型,然后將其擴展到數據中心、公有云或 Nvidia DGX 云。

黃仁勛還宣布英偉達將與 Hugging Face 合作,開發人員將能夠訪問 Hugging Face 平臺中的 NVIDIA DGX Cloud AI 超級計算來訓練和調整 AI 模型。這將使數百萬構建大型語言模型和其他高級 AI 應用程序的開發人員能夠輕松實現生成式 AI 超級計算。

「這將是一項全新的服務,將世界上最大的人工智能社區與世界上最好的訓練和基礎設施連接起來,」黃仁勛表示。

全新的 RTX 工作站和 Omniverse

老黃還宣布,英偉達與 BOXX、戴爾科技、惠普和聯想等工作站制造商合作,打造了一系列全新的高性能 RTX 工作站。

最新發布的 RTX 工作站提供多達四個英偉達 RTX 6000 Ada GPU,每個 GPU 配備 48GB 內存。單個桌面工作站可提供高達 5828 TFLOPS 的性能和 192GB 的 GPU 內存。

根據用戶需求,這些系統可配置 Nvidia AI Enterprise 或 Omniverse Enterprise 軟件,為各種要求苛刻的生成式 AI 和圖形密集型工作負載提供必要的動力。這些新發布預計將于秋季推出。

新發布的 Nvidia AI Enterprise 4.0 引入了 Nvidia NeMo,這是一個用于構建和定制生成式 AI 基礎模型的端到端框架。它還包括用于數據科學的 Nvidia Rapids 庫,并為常見企業 AI 用例(例如推薦器、虛擬助理和網絡安全解決方案)提供框架、預訓練模型和工具。

工業數字化平臺 Omniverse Enterprise 是 Nvidia 生態系統的另一個組成部分,讓團隊能夠開發可互操作的 3D 工作流程和 OpenUSD 應用程序。Omniverse 利用其 OpenUSD 原生平臺,使全球分布的團隊能夠協作處理來自數百個 3D 應用程序的完整設計保真度數據集。

此次英偉達主要升級了 Omniverse Kit(用于開發原生 OpenUSD 應用和擴展程序的引擎),以及 NVIDIA Omniverse Audio2Face 基礎應用和空間計算功能。開發者可以輕松地利用英偉達提供的 600 多個核心 Omniverse 擴展程序來構建自定義應用。

作為發布的一部分,英偉達還推出了三款全新的桌面工作站 Ada Generation GPU:Nvidia RTX 5000、RTX 4500 和 RTX 4000。

全新 NVIDIA RTX 5000、RTX 4500 和 RTX 4000 桌面 GPU 采用最新的 NVIDIA Ada Lovelace 架構技術。其中包括增強的 NVIDIA CUDA 核心(用于增強單精度浮點吞吐量)、第三代 RT 核心(用于改進光線追蹤功能)以及第四代 Tensor 核心(用于更快的 AI 訓練性能)。

Nvidia RTX 5000 Ada 一代 GPU。

這幾款 GPU 還支持 DLSS 3,為實時圖形提供更高水平的真實感和交互性,以及更大的 GPU 內存選項,用于大型 3D 模型、渲染圖像、模擬和 AI 數據集的無差錯計算。此外,它們還提供擴展現實功能,以滿足創建高性能 AR、VR 和混合現實內容的需求。

因為配備了第三代 RT Core,這幾款 GPU 的吞吐量高達上一代的 2 倍,使用戶能夠實時處理更大、保真度更高的圖像,將應用于藝術創作和設計生產。

RTX 5000 GPU 已經上市,并由 HP 和分銷合作伙伴發貨,而 RTX 4500 和 RTX 4000 GPU 將于秋季從 BOXX、Dell Technologies、HP、Lenovo 及其各自的分銷合作伙伴上市。

Nvidia OVX 服務器

英偉達還推出了配備 Nvidia L40S GPU 的 Nvidia OVX 服務器,用于生成式 AI 和數字化時代的開發和內容創作。

每臺 Nvidia OVX 服務器將支持多達 8 個 Nvidia L40S GPU,每個 GPU 配備 48GB 內存。L40S GPU 由 Nvidia Ada Lovelace GPU 架構提供支持,擁有第四代張量核心和 FP8 Transformer 引擎,可實現超過 1.45 petaflops 的張量處理能力。

Nvidia L40S GPU。

在具有數十億參數和多種數據模式的生成式 AI 工作負載領域,與 Nvidia A100 Tensor Core GPU 相比,L40S GPU 的生成式 AI 推理性能提高了 1.2 倍,訓練性能提高了 1.7 倍。這將更好地滿足 AI 訓練和推理、3D 設計和可視化、視頻處理和工業數字化等計算密集型應用的需求,加速多個行業的工作流程和服務。






審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA技術
    +關注

    關注

    0

    文章

    17

    瀏覽量

    6569
  • 晶體管
    +關注

    關注

    78

    文章

    10396

    瀏覽量

    147756
  • 英偉達
    +關注

    關注

    23

    文章

    4087

    瀏覽量

    99182
  • GPU芯片
    +關注

    關注

    1

    文章

    307

    瀏覽量

    6517
  • NGC
    NGC
    +關注

    關注

    0

    文章

    8

    瀏覽量

    4067

原文標題:超級芯片GH200發布,AI算力是H100兩倍

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    力爭百萬 Tokens 推理成本降低百:云天勵飛發布未來三年大芯片戰略,首曝 DeepVerse 路線圖

    集中于攻克大模型落地的“成本壁壘”,致力于通過底層架構創新,力爭實現百萬 Tokens 推理成本降低 100 以上的目標,推動 AI 從技術嘗鮮走向普惠生產。產業變局:推理競速,從
    的頭像 發表于 02-03 20:25 ?1950次閱讀
    力爭百萬 Tokens 推理成本降低百<b class='flag-5'>倍</b>:云天勵飛<b class='flag-5'>發布</b>未來三年大<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>戰略,首曝 DeepVerse 路線圖

    中國芯片的拐點時刻

    作者|Taylor出品|芯片技術與工藝當OpenAI的GPT-5在得克薩斯州的機房中晝夜轟鳴,當Nvdia的H200芯片被炒至數十萬美元仍一卡難求,中國的
    的頭像 發表于 01-31 07:00 ?1671次閱讀
    中國<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>的拐點時刻

    即電力:當單機柜功率突破100kW,誰在守護AI心臟的每一次跳動?

    的盡頭是能源,像英偉達GB200這樣超級芯片帶來超的同時產生巨大的能量消耗,迫使單機柜功率
    的頭像 發表于 12-24 17:18 ?744次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即電力:當單機柜功率突破<b class='flag-5'>100</b>kW,誰在守護<b class='flag-5'>AI</b>心臟的每一次跳動?

    邁向云端巔峰:昆侖芯K200 AI加速卡全面解讀

    昆侖芯K200作為云端AI加速卡,在K100架構基礎上全面升級。其INT8達256 TOPS,配備16GB HBM內存與512GB/s帶
    的頭像 發表于 12-14 11:17 ?1920次閱讀
    邁向云端<b class='flag-5'>算</b><b class='flag-5'>力</b>巔峰:昆侖芯K<b class='flag-5'>200</b> <b class='flag-5'>AI</b>加速卡全面解讀

    超級AI芯片時代,電子元器件的進化方向

    超級AI芯片時代,突飛猛進,行業日新月異,電子元器件的進化方向是哪里,我們要為此提前做好哪些準備?
    的頭像 發表于 12-11 15:13 ?824次閱讀
    <b class='flag-5'>超級</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>時代,電子元器件的進化方向

    湘軍,讓變成生產

    腦極體
    發布于 :2025年11月25日 22:56:58

    國產AI芯片真能扛住“內卷”?海思昇騰的這波操作藏了多少細節?

    最近行業都在說“AI的命門”,但國產芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實測下來有點超出預期——7nm工藝下
    發表于 10-27 13:12

    英偉達 H100 GPU 掉卡?做好這五點,讓穩如泰山!

    H100服務器停工一天損失的成本可能比維修費還高。今天,我們給大家總結一套“防掉卡秘籍”,從日常管理到環境把控,手把手教你把掉卡風險壓到最低。一、供電是“生命線”,這3點必須盯緊H100
    的頭像 發表于 09-05 11:03 ?1152次閱讀
    英偉達 <b class='flag-5'>H100</b> GPU 掉卡?做好這五點,讓<b class='flag-5'>算</b><b class='flag-5'>力</b>穩如泰山!

    2025端側AI芯片爆發:存一體、非Transformer架構誰主浮沉?邊緣計算如何選型?

    各位技術大牛好!最近WAIC 2025上端側AI芯片密集發布,徹底打破傳統困局。各位大佬在實際項目中都是如何選型的呢?
    發表于 07-28 14:40

    一文看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關注焦點。大家在討論AI的時候,經常會提到AI集群。AI
    的頭像 發表于 07-23 12:18 ?1607次閱讀
    一文看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理

    : NVlink1.0——初代的堆疊技術 英偉達2014發布了NVLink的首個版本——NVLink 1.0。在2016年發布的P100芯片上,首次搭載了NVLink 1.0技術。 N
    發表于 06-18 19:31

    AIGC基礎設施技術架構與行業實踐

    AIGC基礎設施技術架構與行業實踐 一、硬件層:AI的物理載體 芯片技術升級? 國際前沿
    的頭像 發表于 05-29 07:44 ?945次閱讀
    AIGC<b class='flag-5'>算</b><b class='flag-5'>力</b>基礎設施技術架構與行業實踐

    GPU 維修干貨 | 英偉達 GPU H100 常見故障有哪些?

    上漲,英偉達H100GPU憑借其強大的,成為AI訓練、高性能計算領域的核心硬件。然而,隨著使用場景的復雜化,H100服務器故障率也逐漸攀
    的頭像 發表于 05-05 09:03 ?2992次閱讀
    GPU 維修干貨 | 英偉達 GPU <b class='flag-5'>H100</b> 常見故障有哪些?

    搭建中心,從了解的GPU 特性開始

    ABSTRACT摘要本文介紹如何搭建,并介紹A100H100H200和B200這些GPU
    的頭像 發表于 04-24 11:08 ?3368次閱讀
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,從了解的GPU 特性開始

    芯片的生態突圍與革命

    據的爆發式增長,大芯片已成為科技競爭的核心領域之一。 ? 大芯片的核心應用場景豐富多樣。
    的頭像 發表于 04-13 00:02 ?3244次閱讀