国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI大模型需求持續激增,中國AI芯片如何?

章鷹觀察 ? 來源:電子發燒友 ? 作者:章鷹 ? 2024-02-24 09:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2月21日,英偉達(Nvidia)公布截止到2024年1月28日的第四季度營收,收入達到221億美元,比較上一季度增長22%,較去年同期增長265%。英偉達2024財年收入增長126%,達到609億美元。

wKgZomXb5ICASzjqAADUIV0l9xQ214.jpg

在公布強勁財報后,Nvidia周四股價飆升16%,市值增加約2770億美元,令其總市值接近2萬億美元。擊敗Facebook母公司Meta Platform在今年2月早前達到的1,960億美元,成為華爾街史上單日市值增加最多的企業。

wKgZomXb5IeACoF-AAFfas9ULQw284.jpg

Nvidia創始人兼首席執行官黃仁勛表示:“加速計算和生成式AI已經達到一個轉折點。全球企業、行業和各個國家的需求都在激增。由于生成式AI以及整個行業從中央處理器轉向英偉達制造的加速器,對英偉達GPU的需求將保持高位。”

摩根士丹利分析師Joseph Moore表示,Nvidia的表現超過預期,直到幾個季度前,我們從未見過超過20億美元的季度收入指引,但在AI激增期間,這已經成為常規。AI需求的強勁持續令人矚目。

2022年10月和2023年10月,美國商務部工業和安全局(BIS)兩次更新對中國的先進半導體和計算設備的出口管制,英偉達中國特供版GPU產品A800、H800芯片均已經于去年11月17日起在中國禁售。除此之外,AMD發布的性能最強的MI300X、MI300A、MI250X也不能賣到中國。在ChatGPT、AI大模型帶動下各國算力需求激增,中國芯片廠商如何挖掘這個市場的商機?本文進行主要的分析。

阿里云平頭哥

2023年的云棲大會上,阿里巴巴集團董事會主席蔡崇信闡釋了阿里云的新愿景:“打造AI時代最開放的云”。 他表示,隨著AI大模型技術的迅速發展,智能化時代正在開啟,AI將成為各行各業的新型生產力,并對算力提出更高要求。

成立于2018年的阿里平頭哥,正處于云計算的拐點之上。這是一家阿里巴巴全資的半導體芯片公司,業務主體擁有端云一體全棧產品系列,涵蓋數據中心芯片、IoT 芯片、處理器 IP 授權等,實現芯片端到端設計鏈路全覆蓋。

阿里平頭哥 2019 年 9 月推出了其首款高性能人工智能推理芯片──含光800,基于 12nm 制程與自研架構,整合 170 億晶體管,性能峰值算力達 820 TOPS。 在業界標準的 ResNet-50測試中,推理性能達到 78563 IPS,能效比達 500 IPS/W。

2023 年 8 月,阿里平頭哥發布了首個自研 RISC-V AI 平臺,支持運行 170 余個主流 AI 模型,推動 RISC-V 進入高性能 AI 應用時代。同時,平頭哥宣布玄鐵處理器 C920 全新升級,C920 執行 GEMM(矩陣的矩陣乘法) 計算較 Vector 方案可提速 15 倍。

wKgZomXb5JKAaWOAAADi7Es3yt4134.jpg

11月21日,平頭哥玄鐵RiSC-V上新了三款處理器:首次實現AI矩陣擴展的C907、滿足Vector1.0標準的C920,以及實時處理器R910,將加速推動RiSC-V在自動駕駛、人工智能、企業級SSD網絡通信等場景和領域的大規模商用落地。C920較上一代提升了最高3.9倍的AI性能,可以跑Transformer模型,適合機器學習、自動駕駛領域。

華為昇騰910系列

Nvidia在最新提交給美國證券交易所的一份檔案,認定華為是AI芯片領域的主要競爭對手。Nvidia指出,與華為在AI芯片領域進行競爭,包括GPU、CPU和網絡芯片。

在2018 全聯接大會上,華為提出 AI 戰略和全棧全場景 AI 解決方案,并發布了 2 顆全新的 AI 芯片:昇騰 910(Ascend 910)和昇騰 310(Ascend 310)。


兩款 AI 芯片均基于華為自研達芬奇架構,其中 Ascend 910(用于訓練)采用 7nm 制程,半精度達256TFOPs,功耗為 350W,運算密度號稱超越了 NVIDIA Tesla V100 和Google TPU v3。

Nvidia在2020 年和 2022 年推出了 A100 和 H100 芯片,占據了全球 AI 芯片市場的最大份額,華為昇騰910B據稱采用的是7nm制程。業界認為,華為昇騰 910B 能力已經基本做到可對標 Nvidia A100。

華為計算官網顯示,基于昇騰 910(Ascend 910)和昇騰 310(Ascend 310),華為還推出了Atlas AI 計算解決方案。華為目前 Atlas 300T 產品有三個型號,分別對應升騰 910A、910B、910 Pro B,最大 300W 功耗,前兩者 AI 算力均為 256 TFLOPS,而 910 Pro B 可達 280 TFLOPS(FP16)。

此前路透社的報道,國內搜索巨頭百度向華為下了訂單,購買昇騰910B用于AI服務器。

最新中國移動智算中心AI服務器采購大單,華為昇騰再次成為贏家。此次四家中標候選人中,河南昆侖為超聚變全資子公司,與華鯤振宇、烽火通信(控股子公司長江計算)、神州數碼均為華為昇騰認證的合伙伙伴。

百度昆侖芯

百度集團執行副總裁、百度ACG(智能云事業群)總裁沈抖表示,未來所有的企業都會強依賴大模型,而且所有的產品都會基于大模型來開發。

昆侖芯1代AI芯片于2020年量產,在百度搜索引擎、小度等業務中部署數萬片,是國內唯一一款經歷過互聯網大規模核心算法考驗的云端AI芯片。昆侖芯2代AI芯片于2021年8月量產,是國內首款采用GDDR6顯存的通用AI芯片,相比昆侖芯1代AI芯片性能提升2-3倍,且在通用性、易用性方面也有顯著增強。

而昆侖芯2代則采用了TSMC 工藝,性能和功耗都有顯著提升。

寒武紀推出思元370、590系列及加速卡

2022年,寒武紀首顆訓推一體的Chiplet智能芯片思元370及系列加速卡初次亮相WAIC,思元370是寒武紀第三代云端產品,采用7nm制程工藝,最大算力高達256TOPS(INT8),是寒武紀第二代云端推理產品思元270算力的2倍。同時,思元370芯片支持LPDDR5內存,內存帶寬是思元270的3倍,可在板卡有限的功耗范圍內給人工智能芯片分配更多的能源,輸出更高的算力。

而寒武紀在2016年成立,專注于人工智能芯片產品的研發與技術創新,提供云邊端一體、軟硬件協同、訓練推理融合、具備統一生態的系列化智能芯片產品和平臺化基礎系統軟件,產品廣泛應用于服務器廠商和產業公司。

據悉,寒武紀最新一代思元590在性能上對標英偉達A100、A800,有可能在2024年上半年量產,成為國產替代的備選之一。

近年來寒武紀陸續推出思元、玄思等芯片/加速卡產品系列。 在目前AI算力建設大爆炸時期,特別是高端進口算力芯片受限下,國產替代的需求或讓寒武紀公司的芯片在算力時代搶得一定的市場份額。

沐曦:推出人工智能推理GPU曦思N100和通用計算芯片曦云C500

沐曦集成電路公司于2020年在上海成立,致力于為異構計算提供安全可靠的GPU芯片及解決方案,打造全棧GPU芯片產品。

2022年,沐熙集成電路推出了曦思N100,現處于規模化量產和大規模出貨狀態。曦思N100是沐曦面向人工智能推理場景推出的高效能GPU產品,內置 MXN100 異構 GPGPU 處理器以及 HBM2E 顯存,單卡算力達 160TOPS(INT8)和 80TFLOPS(FP16),能夠提供最高 128 路編碼和 96 路解碼的視頻處理能力,兼容 HEVC、H.264、AV1、AVS2 等多種視頻格式,最高支持 8K 分辨率。

此外,沐曦首款面向人工智能訓練及通用計算的旗艦產品曦云C500在2023年6月流片,這款芯片基于自研的高性能GPU IP,特別適合千億參數AI大模型的訓練和推理,能夠提供構建高密度算力和云計算部署的優秀國產GPU解決方案,在2023年底實現規模量產。

小結:

分析師估計中國人工智能芯片市場價值70億美元。目前在大模型推理方面,國內 AI 芯片910B僅能達到Nvidia公司A100的60%-70%左右,集群的模型訓練難以為繼。而就在2月21日,Nvidia CEO黃仁勛向媒體表示,英偉達目前正在向客戶提供兩款面向中國市場的新型人工智能(AI)芯片樣品,以在美國采取對華芯片出口管制措施的背景下維持該公司在中國市場的地位。

此外,除了華為昇騰外,寒武紀、沐曦、天數智芯都公布過AI訓練及推理芯片,但是AI芯片生態尚未有效建立,和Nvidia CUDA生態對比,還有不少短板。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39793

    瀏覽量

    301447
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    使用NORDIC AI的好處

    不依賴持續聯網,整體系統可靠性更高。[Edge AI 概述; Nordic Edge AI 技術頁] 覆蓋從“小 MCU”到“高性能 SoC”的完整產品線 Neuton 模型 :超
    發表于 01-31 23:16

    AI模型的配置AI模型該怎么做?

    STM32可以跑AI,這個AI模型怎么搞,知識盲區
    發表于 10-14 07:14

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    、分布式群體智能 1)物聯網AGI系統 優勢: 組成部分: 2)分布式AI訓練 7、發展重點:基于強化學習的后訓練與推理 8、超越大模型:神經符號計算 三、AGI芯片的實現 1、技術需求
    發表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用

    流體芯片AI計算平臺 ⑥基于AI的自主決策系統 ⑦基于AI的自主學習系統 2、面臨的挑戰 ①需要造就一個跨學科、全面性覆蓋的知識庫和科學基礎模型
    發表于 09-17 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升算力還是智力

    本章節作者分析了下AI的未來在哪里,就目前而言有來那個兩種思想:①繼續增加大模型②將大模型改為小模型,并將之優化使之與大模型性能不不相上下。
    發表于 09-14 14:04

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現深度學習AI芯片的創新方法與架構

    的同時,能夠利用更小、更快的數字格式,提升模型的整體性能。 1.3Transformer 模型中的矩陣乘法計算 2、存內計算AI芯片 存內計算已經成為應對大
    發表于 09-12 17:30

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片需求和挑戰

    : 介紹了7家ASIC的新創公司: Tachyum、Cerebras、SambaNova、Graphcore、Esperanto、Groq、Etched AI 還介紹了中國AI芯片
    發表于 09-12 16:07

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件

    的不同。隨著AI熱潮的興起,大腦的抽象模型已被提煉成各種的AI算法,并使用半導體芯片技術加以實現。 而大腦是一個由無數神經元通過突觸連接而成的復雜網絡,是極其復雜和精密的。大腦在本質上
    發表于 09-06 19:12

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內容總覽

    ,其中第一章是概論,主要介紹大模型浪潮下AI芯片需求與挑戰。第二章和第三章分別介紹實現深度學習AI芯片
    發表于 09-05 15:10

    AI 芯片浪潮下,職場晉升新契機?

    中能充分展現個人對行業的貢獻。 持續學習助力 AI 芯片與職稱雙贏 AI 芯片領域知識更新迅速,持續
    發表于 08-19 08:58

    【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》

    創新、應用創新、系統創新五個部分,接下來一一解讀。 算法創新 在深度學習AI芯片的創新上,書中圍繞大模型與Transformer算法的算力需求,提出了一系列架構與方法創新,包括存內計算
    發表于 07-28 13:54

    AI算力需求激增芯片散熱材料如何選?

    根據Canalys預測,兼容AI的個人電腦將從2025年開始快速普及,預計至2027年約占所有個人電腦出貨量的60%,AI有望提振消費者需求。在高性能AI處理器的加持以及消費者
    的頭像 發表于 07-18 07:18 ?1154次閱讀
    <b class='flag-5'>AI</b>算力<b class='flag-5'>需求</b><b class='flag-5'>激增</b>,<b class='flag-5'>芯片</b>散熱材料如何選?

    AI電力需求激增,儲能如何解決 “吃電” 問題?

    電子發燒友網報道(文 / 黃山明)隨著 AI 技術的持續發展,其在我們生活中的參與度越來越高。AI 雖帶來諸多便利,卻離不開強大算力與充足電力的支撐。因此,AI 的發展必然帶動電力
    的頭像 發表于 04-14 01:09 ?2563次閱讀

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    科正將AI能力體系化并賦能終端生態。 大會上,聯發科定義了“智能體化用戶體驗”的五大特征:主動及時、知你懂你、互動協作、學習進化和專屬隱私信息守護。這五大特征需要跨越從芯片模型、應用、終端乃至整個
    發表于 04-13 19:52

    DeepSeek推動AI算力需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發展,AI算力需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對算力的需求持續攀升,直接推動了服務
    發表于 03-25 12:00