国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AIGC時代和大模型對算力的影響

奇異摩爾 ? 來源:奇異摩爾 ? 2023-10-25 14:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2023年10月,為推進全球半導體供應鏈發展,促進各生態位上高管的溝通與協作,中國國際半導體高管峰會 (ISES) 在上海舉辦。為其兩天的盛會囊括了Chiplets, 異質集成、先進封裝、基材、半導體工藝流程、功率半導體以及半導體產業可續發展等諸多議題的演講。

作為Chiplet和互聯領域的代表性企業。奇異摩爾產品及解決方案副總裁兼聯合創始人??|,受邀與現場行業領袖們分享了在當前的大背景下計算范式演變的思考與創新實踐,演講主題為《Interconnection define the computing, Key tech of Computing Paradigm Evolution》。

ISES 是一個領先的半導體行業協會,由全球半導體生態系統的成員組成,成員涵蓋設備和材料制造商、OSAT、FAB、IDM、IC 設計企業、軟件,直至高性能計算、人工智能、汽車電子、5G/6G等應用領域企業。ISES旨在通過對行業領袖和企業決策層的影響,推動微電子供應鏈的創新、商業與投資機會。ISES 峰會每年在美國、德國、意大利、臺灣、中國和新加坡等地舉辦。

在主題演講中,??|探討了AIGC時代和大模型對今天算力的影響。隨著大型模型的發展,越來越多的任務需要超大規模計算集群來完成。隨著系統的復雜性不斷增強,行業對更高帶寬、更低延遲的片內、片間、集群間互聯需求愈發迫切。

片內方案:可通過chiplet設計及異構計算架構大幅提高不同功能芯粒間的互連帶寬,同時降低其延遲與功耗,從而提供更好的互連性能,使單芯片計算能力得到有效擴展。典型案例即英偉達 Grace Hopper 超級芯片,在一個封裝內,通過NVLink連接Grace CPU和Hopper GPU,實現了數倍于板級異構計算的性能提升。

片間視角:集群與集群間的互聯需要支持無損數據傳輸的互聯網絡,以及相關的加速算法、協議,以實現更大規模、更高速度和更高效率的數據傳輸。

要實現芯片和異構計算,先進封裝是一項非常重要的基礎技術。基于 Chiplet 的異構計算架構需要數百 GB 甚至 TB 的片間傳輸帶寬,對先進封裝提出了極高的要求。安靠封裝測試研發總監李健民在演講中表示,Chiplet和芯片異構集成已成為當今芯片產品的強勁趨勢,可提供實現創新產品架構的新方法,同時能在行業的未來保持最佳的性能/功耗/面積/成本 (PPAC) 比率。李健民強調,這些方法需要先進 IC 封裝能力提供支持,他還指出,OSAT 和晶圓廠正在積極響應以實現這種集成。未來,安靠將強調從 2D Chiplet 模塊著手并按需使用 3D 執行增強處理以增強性能和差異化的重要性。

此外,半導體溫度管理領域的領導企業,ERS electronic 的CEOLaurent Giai-Miniet先生也來到了現場,發表了題為“Pushing the Boundaries of Thermal Management to Address Challenges in Wafer Test and Advanced Packaging”的演講,并特別在本次演講中分享了公司在溫度晶圓針測和先進封裝領域最新的產品技術。

得益于近些年先進封裝的不斷進步,先進封裝的互聯密度已得到了大幅提升,同時,隨著對互連帶寬要求的進一步提高,Chiplet 的封裝形式也從原來的基板轉向 2.5D,并逐步向 3D 演進,從而讓AIGC背景下,數據中心等高性能計算的算力和互聯擴展成為可能。

與此同時,計算任務的變化推動了計算形式的演變。隨著 AIGC 和大型模型的發展,數據中心的核心任務已逐漸由以存儲和科學計算轉變為視頻流和人工智能訓練、推理。傳統的分布式架構難以滿足龐大的AI需求,進而轉向超大規模分布式異構計算集群。

在今天,建設超大規模異構集群已成為各計算芯片巨頭的主攻方向。在超大規模異構集群中,數據和計算分布在不同節點上,通過高效的異構計算架構,不同的任務可以有效地分配給不同的計算單元,從而實現更高的計算性能。

計算架構的變化不僅發生在數據中心,也發生在邊緣端。隨著大模型在邊緣落地,高性能邊緣設備也將轉向域控制架構、中央平臺架構。在以自動駕駛為例的中央平臺架構中,每個域都需要一個中央處理單元,以集成如互聯、娛樂、ADAS 等更多的功能和更高的算力。在未來,中央域計算平臺可能需要集成數百甚至數千個功能單元,并提供數千 T 的計算能力,無疑Chiplet架構的芯片,以及在中央計算平臺與每個域之間極為高效、低延遲、無損的數據互聯技術。

??|表示,作為全球領先的高性能互聯產品和解決方案公司,奇異摩爾在高性能芯片的片內、片間互聯領域有顯著的技術優勢,公司基于Kiwi-Link統一互聯架構,提供全鏈路互聯及網絡加速芯粒(Chiplet)產品及解決方案,助力高性能計算客戶更高效、更低成本搭建超大規模分布式智算平臺。

而AIGC和大模型的廣泛應用,也為奇異摩爾所聚焦的互聯賽道創造了令人興奮的機遇,以加速數據中心、自動駕駛、個人計算平臺等高性能計算應用市場革命。對高性能計算而言,互聯既是制約發展的瓶頸,也是方案與出路。

審核編輯:彭菁

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據傳輸
    +關注

    關注

    9

    文章

    2201

    瀏覽量

    67586
  • 互聯網
    +關注

    關注

    55

    文章

    11337

    瀏覽量

    109925
  • 奇異摩爾
    +關注

    關注

    0

    文章

    79

    瀏覽量

    4037
  • AIGC
    +關注

    關注

    1

    文章

    391

    瀏覽量

    3227
  • 大模型
    +關注

    關注

    2

    文章

    3650

    瀏覽量

    5186
  • 芯粒
    +關注

    關注

    1

    文章

    85

    瀏覽量

    424

原文標題:Kiwi @ ISES:互聯定義計算,計算范式演變的關鍵技術

文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    “上天入?!敝?b class='flag-5'>算革命:“海風直連”海底數據中心開啟綠色新紀元

    上海臨港外10公里的海面上,風機葉片在海風中緩緩轉動,產生的電力沿著專用電纜直抵海底深處一個圓筒形艙體,艙內數千臺服務器正為AI大模型運行提供。2026年2月初,全球首個“海風直連”海底
    的頭像 發表于 02-11 10:17 ?1745次閱讀
    “上天入?!敝?b class='flag-5'>算</b><b class='flag-5'>力</b>革命:“海風直連”海底數據中心開啟綠色<b class='flag-5'>算</b><b class='flag-5'>力</b>新紀元

    從訓練到推理:大模型需求的新拐點已至

    在大模型產業發展的早期階段,行業焦點主要集中在大模型訓練所需的投入。一個萬億參數大模型的訓練可能需要數千張GPU芯片連續運行數月,成本高
    的頭像 發表于 02-05 16:07 ?809次閱讀
    從訓練到推理:大<b class='flag-5'>模型</b><b class='flag-5'>算</b><b class='flag-5'>力</b>需求的新拐點已至

    華為榮獲服務商互聯能力成熟度模型參編證書

    在2025互聯網大會期間,互聯網服務論壇在成都成功舉辦。論壇現場舉行了《服務商互聯能
    的頭像 發表于 12-31 11:50 ?652次閱讀

    從云端集中到邊緣分布:邊緣智如何重塑網絡布局

    隨著大模型推理延遲進入毫秒級時代,整個科技行業都意識到:網絡的規則正在被改寫。這場變革的核心,正是從云端集中式計算向邊緣分布式智能的范式轉移。據行業多家分析機構綜合預測,全球AI基
    的頭像 發表于 12-25 11:34 ?440次閱讀
    從云端集中到邊緣分布:邊緣智<b class='flag-5'>算</b>如何重塑<b class='flag-5'>算</b><b class='flag-5'>力</b>網絡布局

    湘軍,讓變成生產?

    腦極體
    發布于 :2025年11月25日 22:56:58

    國產AI芯片真能扛住“內卷”?海思昇騰的這波操作藏了多少細節?

    反而壓到了310W。更有意思的是它的異構架構:NPU+CPU+DVPP的組合,居然能同時扛住訓練和推理場景,之前做自動駕駛算法時,用它跑模型時延直接降了20%。 但疑惑也有:這種密度下,散熱怎么解決?而且昇騰的生態適配速度能
    發表于 10-27 13:12

    開源大模型革命下:電子谷連接技術的堅守與未來

    隨著開源大模型參數規模邁入萬億級時代,基礎設施正面臨前所未有的挑戰。2025年以來,DeepSeekR1、Qwen2.5-72B等開源模型
    的頭像 發表于 09-19 08:03 ?514次閱讀
    開源大<b class='flag-5'>模型</b><b class='flag-5'>算</b><b class='flag-5'>力</b>革命下:電子谷連接技術的堅守與未來

    科技上線赤兔推理引擎服務,創新解鎖FP8大模型

    模型輕量化部署方案。用戶通過遠程平臺預置的模型鏡像與AI工具,僅需50%的GPU即可解
    的頭像 發表于 07-30 21:44 ?911次閱讀

    即國力,比克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數字經濟時代的新質生產,更是國家競爭的重要指標?!彪S著AI大模型
    的頭像 發表于 06-04 14:22 ?1122次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為AI<b class='flag-5'>時代</b>“蓄能

    AIGC基礎設施技術架構與行業實踐

    AIGC基礎設施技術架構與行業實踐 一、硬件層:AI的物理載體 芯片技術升級? 國際前沿?:某國際芯片巨頭2025年發布的GB200
    的頭像 發表于 05-29 07:44 ?947次閱讀
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基礎設施技術架構與行業實踐

    模型時代的深度學習框架

    作者:魔方創始人/英特爾創新大使劉 在 CNN時代 ,AI模型的參數規模都在百萬級別,僅需在單張消費類顯卡上即可完成訓練。例如,以業界
    的頭像 發表于 04-25 11:43 ?843次閱讀
    大<b class='flag-5'>模型</b><b class='flag-5'>時代</b>的深度學習框架

    AI原生架構升級:RAKsmart服務器在超大規模模型訓練中的突破

    近年來,隨著千億級參數模型的崛起,AI訓練對的需求呈現指數級增長。傳統服務器架構在應對分布式訓練、高并發計算和顯存優化等場景時逐漸顯露瓶頸。而RAKsmart為超大規模模型訓練提供
    的頭像 發表于 04-24 09:27 ?791次閱讀

    芯片的生態突圍與革命

    據的爆發式增長,大芯片已成為科技競爭的核心領域之一。 ? 大芯片的核心應用場景豐富多樣。在人工智能訓練與推理方面,大模型(如 GPT
    的頭像 發表于 04-13 00:02 ?3251次閱讀

    智能最具潛力的行業領域

    智能最具潛力的行業領域 一、金融行業 智能風控與精準服務?:大型銀行通過集群(6.27萬臺服務器)支撐AI模型訓練,實現風險預警、智
    的頭像 發表于 04-11 08:20 ?1399次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業領域

    RAKsmart服務器如何提升AIGC平臺的運行效率

    AIGC(人工智能生成內容)領域,高效運行意味著更快的模型訓練、更低的推理延遲和更流暢的用戶體驗。RAKsmart服務器憑借其硬件配置、網絡優化和生態支持,為AIGC平臺提供了從底層
    的頭像 發表于 04-01 10:40 ?658次閱讀
    RAKsmart服務器如何提升<b class='flag-5'>AIGC</b>平臺的運行效率