国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

挑戰英偉達NVLink!英特爾/谷歌等成立聯盟,推出UALink 1.0

Felix分析 ? 來源:電子發燒友網 ? 作者:吳子鵬 ? 2024-06-03 06:31 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/吳子鵬)日前,英特爾、谷歌、微軟、Meta以及其他科技巨頭宣布成立一個新的行業組織——“Ultra Accelerator Link (UALink) 推廣組”。目前,UALink推廣組正在抓緊制定一項新的行業標準,用于推進數據中心內連接的大規模AI系統的高速和低延遲通信,擺脫英偉達NVLink在AI加速器連接方面的統治。

對于這項新的行業標準,AMD數據中心解決方案總經理Forrest Norrod表示,“行業需要一個可以快速推進的開放標準,這種標準允許多家公司為整個生態系統增加價值?!?br />

英偉達統治AI加速器市場

有分析觀點認為,英偉達在AI加速器方面的統治力,已經超過了當年英特爾對于PC處理器的統治,這讓英偉達享受到了AI時代巨大的產業紅利。根據英偉達2025財年第一財季財報,該公司營收達到260億美元,同比增長262%;凈利潤高達148.1億美元,同比上升628%。

那么,英偉達為什么能夠在AI加速器領域體現出如此強悍的統治力呢?筆者認為主要源于三點:核心芯片、軟件生態和連接技術。

在核心芯片方面,時間回溯到2020年,在GTC 2020上,英偉達推出了基于Ampere架構的新一代GPU——NVIDIA A100,這顆芯片作為通用型工作負載加速器,成為國內外AI科技巨頭爭搶購買的芯片,此后甚至被禁止出口到中國市場。NVIDIA A100展現了AI加速器發展的“暴力美學”,以英偉達的數據來說,NVIDIA A100相較于前一代性能暴漲了20倍。在GTC 2024上,英偉達又推出了B100芯片,架構代號為Blackwell,顯存達192GB。在AI加速器芯片方面,英偉達并不是單單某一顆產品強,而是擁有一個強大的產品矩陣。在架構方面,英偉達陸續推出了Volta架構、Turing架構、Ampere架構、Hopper架構和Blackwell架構,提供B100、H200、L40S、A100、A800、H100、H800、V100等眾多的芯片產品組合。

同時,針對這些產品,英偉達提供強大的軟件支持。就以英偉達的CUDA生態來說,無論是通用加速,還是計算加速,CUDA生態都能夠提供充足的支持。英偉達自2006年推出CUDA以來,CUDA和GPU的并行計算能力使英偉達收獲了龐大的用戶群。CUDA 平臺包括硬件架構和編程模型,為開發人員提供了更直接、高效地利用 GPU 進行并行計算的方式。在COMPUTEX 2023 大會期間,英偉達方面透露的數據顯示,目前CUDA擁有超過400萬開發人員,超過 3000個應用程序,歷史上CUDA下載量達到驚人的4000萬。更讓當前階段CUDA顯得炙手可熱的是,僅僅是在2022年,CUDA下載量就有驚人的2500萬,目前依然在高速增長的狀態。

英偉達在AI加速器方面,第三個顯著的優勢就是連接技術。AI算力集群是人工智能發展的重要基礎設施,就以當前最火熱的AI大模型來說,單卡是無法支撐的,需要一個強大的AI算力集群。如果是基于英偉達算力卡的集群,那么主要的連接技術是NVLink和InfiniBand技術,分別負責近距離并行計算和擴大集群規模。NVLink可以直接完成GPU之間內存的互相訪問,無需CPU的干預。目前英偉達NVLink已經更新到了第五代,第五代NVLink大幅提高了大型多GPU系統的可擴展性。單個NVIDIA Blackwell Tensor Core GPU支持多達18個NVLink 100 GB/s連接,總帶寬可達1.8 TB/s,比上一代產品提高了兩倍,是PCIe 5.0帶寬的14倍之多。72-GB200 GPU NVLink域(NVL72)等服務器平臺利用該技術為當今異常復雜的大型模型提供更高的可擴展性。

同時,英偉達還有NVSwitch。NVSwitch芯片是一種類似交換機ASIC的物理芯片,通過NVLink接口可以將多個GPU高速互聯到一起,從而提升服務器內部多個GPU之間的通訊效率和帶寬。比如,NVIDIA A100 Tensor Core GPU引入了第三代 NVLink和第二代 NVSwitch,使每CPU帶寬和減少帶寬都增加了一倍。如果是通過第四代 NVLink和第三代NVSwitch,可以連接八個NVIDIA H100 Tensor Core GPU的系統,具有3.6 TB / s的二等分帶寬和450 GB / s的縮減操作帶寬,與上一代相比,這兩個數字分別增加了1.5倍和3倍。

綜上所述,英偉達在AI加速器方面擁有非常全面的布局,且這種系統性方案是目前最好的AI加速方式,沒有之一。統計數據顯示,目前英偉達在AI加速器芯片市場的占比超過了九成,被稱為人工智能領域“無可爭議的領導者”。當然,這也就意味著,除英偉達AI加速器芯片外,其他廠商的芯片很難捕捉到市場機會,即便是國際大廠推出的相關芯片。一個重要的原因在于,英偉達這套圍繞AI加速器布局的系統,不僅強大而且封閉,對非英偉達芯片的兼容性很差,這也被稱為AI芯片發展的“英偉達路徑”。讓廠商很絕望的是,如果選擇順從這條路徑,其產品也無法對英偉達芯片造成很大的沖擊,除非是面向某些特殊的用途。

因此,英特爾、谷歌等科技巨頭現在希望從連接入手,在英偉達AI加速器生態圈上撕開一個口子,以獲取更多的市場份額。

UALink野心勃勃但也有隱憂

除了英特爾、谷歌、微軟、Meta這四家,UALink聯盟成員還包括AMD、惠普企業、博通和思科等,不過作為主要的核心供應商,Arm公司尚未參加。UALink聯盟的主要職責是監督UALink規范未來的發展。

UALink聯盟認為,UALink和行業規范對于標準化下一代AI數據中心和實現的 AI 和機器學習、HPC 和云應用程序接口至關重要,該小組將制定一項規范,定義AI計算艙中加速器和交換機之間擴展通信的高速、低延遲互連。

目前,UALink聯盟提議的第一個版本UALink 1.0連接多達1024個AI加速器,UALink 1.0基于包括AMD的Infinity Fabric在內的開放標準。AMD的Infinity Fabric采用了一種分布式架構,其中包含多個獨立的通道,每個通道都可以進行雙向數據傳輸。這種設計使得不同核心之間可以直接進行快速而低延遲的通信,從而提高了整體性能。Infinity Fabric分為SCF和SDF。SDF負責數據傳輸,而SCF則負責控制傳輸命令。

從技術演進來看,如果Infinity Fabric技術成為UALink規范的主要組成部分,那么用戶可能會擔心UALink 1.0最終的連接效率問題。據悉,Infinity Fabric中的SDF部分基本是HT總線衍生的產物,這個總線原本是用于CPU的串聯,而UALink 1.0的使用場景是GPGPU,兩者之間在并行數據量要求方面差異巨大。因此,有業者認為,UALink 1.0規范預計不會規模性進入市場,只是奠定UALink規范的基礎框架,但很難對NVLink+NVSwitch這套體系造成很大的挑戰。

當然,博通和思科會積極地完善UALink 1.0以及后續的標準,博通可能會在800Gbps的 Thor產品中推出一款早期的Ultra Ethernet NIC,思科則預計將研發對標NVSwitch的相關產品。另外,目前已經加入的各家巨頭,也都是各自有自己的小算盤:谷歌擁有用于訓練和運行 AI 模型的定制芯片、TPU和Axion;微軟Maia 100新芯片已經在Bing和Office AI產品上測試,急于進入市場;Meta此前公布了自主研發芯片MTIA的最新版本,這是專門為AI訓練和推理工作設計的定制芯片系列。因此,有觀點認為,一旦UALink成事,那么這些擁有自研芯片的公司將成為最大的受益者。但是,由于各自研芯片公司在芯片、架構、集群層面的理解不一,這也可能拖累UALink的發展,使得UALink雖然看上去有大批的創新力量,但是創新效率卻不足。

結語

據悉,UALink 1.0將在同一時間向加入該聯盟的公司提供,另外帶寬更高的更新規范UALink 1.1將于2024年第四季度推出。由于英偉達不在這個聯盟,也不必參加這個聯盟,預計UALink 1.1推出時可能會選擇直接對標某一代的NVLink。不過,在UALink能夠全面對抗NVLink之前,包括微軟和Meta在內的公司依然是大規模哄搶英偉達的AI加速器芯片。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英特爾
    +關注

    關注

    61

    文章

    10301

    瀏覽量

    180437
  • 谷歌
    +關注

    關注

    27

    文章

    6254

    瀏覽量

    111377
  • 英偉達
    +關注

    關注

    23

    文章

    4087

    瀏覽量

    99174
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    英特爾與華陽通用聯手推出全新AI Box解決方案

    英特爾宣布推出基于最新英特爾 酷睿 Ultra 架構的AI Box解決方案,將PC級旗艦算力引入汽車、工業自動化、軌道交通、機器人多種工業環境,為各行各業接入AI大模型提供高效靈活的
    的頭像 發表于 03-02 14:15 ?303次閱讀

    AI峰會冰火兩重天:英特爾亮劍GPU挑戰英偉,黃仁勛怒懟AI代替軟件

    美東時間2月3日,在思科AI大會上,英偉CEO黃仁勛和英特爾CEO陳立武接連放出了重磅消息。英特爾CEO陳立武宣布,已指派新任架構師,準備打造首款GPU。
    的頭像 發表于 02-05 10:05 ?1.2w次閱讀
    AI峰會冰火兩重天:<b class='flag-5'>英特爾</b>亮劍GPU<b class='flag-5'>挑戰</b><b class='flag-5'>英偉</b><b class='flag-5'>達</b>,黃仁勛怒懟AI代替軟件

    銳寶智聯入選英特爾首批尊享級合作伙伴

    近日,英特爾全球戰略級生態計劃---英特爾合作伙伴聯盟完成里程碑式戰略升級,原最高等級 “鈦金級” 正式迭代為 “尊享級”,標志著英特爾生態合作體系邁入更高質量、更深度協同的新階段。銳
    的頭像 發表于 12-02 18:16 ?1426次閱讀
    銳寶智聯入選<b class='flag-5'>英特爾</b>首批尊享級合作伙伴

    科通技術獲評英特爾首批尊享級合作伙伴

    近日,科通科技獲評為英特爾首批“尊享級合作聯盟成員”,即英特爾合作伙伴聯盟體系中的最高級別會員。這一身份認證不僅是對雙方十五年深度協同的認可,也是雙方在技術協同、產業賦能道路上的又一次
    的頭像 發表于 11-17 16:52 ?722次閱讀
    科通技術獲評<b class='flag-5'>英特爾</b>首批尊享級合作伙伴

    吉方工控獲評英特爾首批尊享級合作伙伴

    近日,英特爾公司正式宣布對英特爾合作伙伴聯盟(Intel Partner Alliance, IPA)進行戰略升級,原最高等級“鈦金級”全面煥新為更具全球視野與生態協同意義的“尊享級”(Premier Tier)。
    的頭像 發表于 11-14 16:17 ?912次閱讀

    是德科技推出UALink 1.0發射機測試解決方案

    是德科技(NYSE: KEYS )宣布推出UALink 1.0(Ultra Accelerator Link)發射機測試解決方案,這是專為UALink設備設計的一致性測試工具。該新型測
    的頭像 發表于 10-22 18:11 ?1849次閱讀
    是德科技<b class='flag-5'>推出</b><b class='flag-5'>UALink</b> <b class='flag-5'>1.0</b>發射機測試解決方案

    英偉斥資50億美元入股英特爾,芯片巨頭攜手重塑行業格局

    在科技行業引發廣泛關注的重大事件中,當地時間9月18日,全球知名的芯片企業英偉宣布,將斥資50億美元入股英特爾,雙方還達成合作協議,共同致力于人工智能基礎設施和個人計算產品的聯合開發。這一消息猶如
    的頭像 發表于 09-22 17:35 ?845次閱讀

    今日看點丨英偉入股英特爾;寒武紀:網傳訂單信息不實

    英偉入股英特爾 NVIDIA和英特爾今日宣布達成合作,將共同開發多代定制化的數據中心和個人計算產品,以加速超大規模計算、企業級及消費級市場的各類應用與工作負載的處理。 ? 雙方通過
    發表于 09-19 10:21 ?1052次閱讀

    重磅!雙英強強合作,英偉英特爾投資50億美元

    9月18日,英偉CEO黃仁勛宣布,與英特爾達成投資50億美元的投資及技術合作,這是在雙方進行一年多的討論后做出的決定。此舉標志著兩大競爭對手聯手,開創AI PC和數據中心合作新篇章。消息公布后,
    的頭像 發表于 09-19 09:36 ?1.1w次閱讀
    重磅!雙英強強合作,<b class='flag-5'>英偉</b><b class='flag-5'>達</b>向<b class='flag-5'>英特爾</b>投資50億美元

    美國商務部推進收購英特爾10%股份 估值約105億美元

    值約105億美元。 據悉,美國商務部長盧特尼克在19日接受美國消費者新聞與商業頻道采訪時透露,英特爾必須提供股權以換取聯邦補貼。
    的頭像 發表于 08-20 12:25 ?743次閱讀

    主控CPU全能選手,英特爾至強6助力AI系統高效運轉

    2025年3月,英偉發布了DGX B300 AI加速計算平臺。2025年5月,英特爾發布了三款全新英特爾至強6性能核處理器,其中一款6776P被用作是DGX B300的主控CPU,這
    的頭像 發表于 06-27 11:44 ?879次閱讀
    主控CPU全能選手,<b class='flag-5'>英特爾</b>至強6助力AI系統高效運轉

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理

    NVlink1.0——初代的堆疊技術 英偉2014發布了NVLink的首個版本——NVLink 1
    發表于 06-18 19:31

    分析師:英特爾轉型之路,機遇與挑戰并存

    ,這正是英特爾當前發展所需。上任后,他迅速推動公司組織架構重組,加大在制造與AI領域的投資,并將代工業務置于優先位置。盡管面臨內外多重挑戰,英特爾股票在2025年上半年仍保持了穩定走勢。 陳立武正在帶領
    的頭像 發表于 06-10 10:59 ?571次閱讀
    分析師:<b class='flag-5'>英特爾</b>轉型之路,機遇與<b class='flag-5'>挑戰</b>并存

    英特爾發布全新GPU,AI和工作站迎來新選擇

    英特爾推出面向準專業用戶和AI開發者的英特爾銳炫Pro GPU系列,發布英特爾? Gaudi 3 AI加速器機架級和PCIe部署方案 ? 2025 年 5 月 19 日,北京 ——今日
    發表于 05-20 11:03 ?1844次閱讀

    英特爾首秀上海車展:以“芯”賦能,攜手合作伙伴推動全車智能化

    4月23日,在上海車展上,英特爾發布第二代英特爾AI增強軟件定義汽車(SDV)SoC,并披露全新合作伙伴關系。第二代英特爾AI增強SDV SoC率先在汽車行業推出基于芯粒架構的設計,進
    的頭像 發表于 04-23 21:20 ?1315次閱讀
    <b class='flag-5'>英特爾</b>首秀上海車展:以“芯”賦能,攜手合作伙伴推動全車智能化