国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

省成本還是省時間,AI計算上的GPU與ASIC之選

E4Life ? 來源:電子發燒友 ? 作者:周凱揚 ? 2023-07-17 00:01 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/周凱揚)隨著AI計算逐漸蠶食通用計算的份額,數據中心的硬件市場已經開始出現了微妙的變化。最搶手的目前已經成了GPU,反觀CPUASICFPGA等硬件,開始成為陪襯。但高昂的售價以及強綁定的供應關系,還是讓不少企業開始探索別的出路。
仍在被瘋搶的GPU
在今年第一季度AI熱潮高漲下,全球已經開啟了一波GPU搶購。無論是借助GPU開發各自大模型應用的互聯網廠商,還是想借此發展其AI服務器業務的云服務廠商,都在搶購英偉達目前主推的A100和H100兩大GPU。
就連臺積電哪怕第一季度業績下滑明顯,其CEO魏哲家在法說會上也表示在AI相關的需求上觀察到了增量上行,將幫助其在今年實現可觀的庫存消化。
H100 GPU / 英偉達
在美國商務部半導體出口新規剛推出不久,A100在非正常渠道的單價就飆升至20000美元,是原價的兩倍左右。為此英偉達僅僅面向中國市場推出了A800和H800,只不過將高速互聯總線NVLink限制在了400GB/s,但好歹仍足以滿足大部分AI計算的需求。
可好景不長,隨著緊缺和搶購的趨勢很快蔓延到了A800和H800上,據了解,國內市場的A800單價一周上漲了30%,從原來9萬元上升至13萬元,甚至連帶使得搭載該卡的服務器現貨同樣漲價,頗有當年礦潮期顯卡漲價整機一并漲價的趨勢。
使其狀況更加惡化的是,英偉達據傳大量削減了A800的供應,而是轉為推廣更高端也更昂貴的H800,單價在25萬元左右。高端的GPU無疑能夠帶來更高的性能,但性價比相對較低,大規模部署的成本也會更加難以承受。所以從全球市場的購買表現上來看,互聯網公司和云服務廠商顯然覺得A100或A800更香一點。
可為了更高的利潤轉化,英偉達決心調整A800和H800的供應比例的話,也就說得過去了。A100的市場流通率較高,而A800這種面世不久的特供產品,也更方便在供應上加以限制。
省時和省錢
既然GPU困人已久,為何不打破這一限制,轉用大規模量產成本更低的ASIC產品呢?事實上,很多廠商早就有類似的心思,只不過執行起來卻是寸步難行。首先對于大模型這樣的AI應用來說,硬件性能只是一個方面,擁有優質的軟件生態也很重要。
英偉達的CUDA成了任何進軍AI產業的公司在軟件生態上的一頭攔路虎,遲遲沒法突破。固然ASIC的方案可以省下不少硬件成本,但在軟件上仍有不小的障礙。初創公司ASIC硬件的軟件生態不成熟,巨頭自研的產品又難以與第三方開發結合起來,或者說能打造出爆品應用的概率更低。
反觀CUDA,發展這么多年積累的各種library已經逐漸趨于成熟,甚至在英偉達的GPU上優化到了最佳狀態,開發者只需要調用API即可實現所需的效果。這堵墻就連同為GPU廠商的AMD等競爭對手都未能攻破,因為AI時代下省時才能搶占先機,省錢是之后采取考慮的事。
話雖如此,相關的嘗試依舊沒有停止,諸如谷歌的TPU、亞馬遜的Trainium以及微軟最近在研究的Chiplet Cloud等等,都是廠商們對ASIC持續看好的表現。可以看出,讓互聯網企業,尤其是芯片設計能力欠缺的企業,去走ASIC這條路線是很難的。而托管了諸多第三方芯片設計平臺、大模型和AI計算負載的云服務廠商,有這個技術積累,也有實力組建或已組建達標的芯片設計隊伍,最終做到省時又省錢。
寫在最后
ASIC固然前景可觀,但目前廠商們在購置GPU上花的錢多半是多于自研投入的,這也就是GPU作為通用計算硬件的future proofing性質。可能在GPT爆火的今年,這款ASIC提供了遠超GPU的性能或成本優勢,但未來保不齊會出現其他的爆品應用。GPU可以很快調轉勢頭,但ASIC就可能會被淘汰。所以對這些公司來說,無論是購買A100還是A800,不僅是對現在的投資,也是對未來的投資。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • asic
    +關注

    關注

    34

    文章

    1274

    瀏覽量

    124588
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5194

    瀏覽量

    135453
  • AI
    AI
    +關注

    關注

    91

    文章

    39793

    瀏覽量

    301407
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    L9659八通道爆管驅動器ASIC:安全應用的理想

    L9659八通道爆管驅動器ASIC:安全應用的理想 在當今復雜的電子系統中,安全應用一直是重中之重。對于航空、汽車等領域的安全氣囊系統而言,穩定可靠的爆管驅動器是確保其正常工作的關鍵。L9659
    的頭像 發表于 02-09 10:35 ?90次閱讀

    AI ASIC:博通份額將達60%,聯發科成長顯著,臺積電成最大贏家

    Counterpoint指出,AI芯片熱潮進入第二階段,ASICGPU競爭激烈,博通和臺積電有望成最大贏家。 ? Counterpoint預測,AI
    的頭像 發表于 02-05 18:21 ?1.3w次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>ASIC</b>:博通份額將達60%,聯發科成長顯著,臺積電成最大贏家

    MAX4372T/F/H:低成本、高性能電流檢測放大器的卓越

    MAX4372T/F/H:低成本、高性能電流檢測放大器的卓越 在電子設備的設計中,電流監測是保障設備穩定運行和高效性能的關鍵環節。無論是筆記本電腦、手機等消費電子產品,還是智能電池
    的頭像 發表于 01-27 15:00 ?192次閱讀

    重磅合作!Quintauris 聯手 SiFive,加速 RISC-V 在嵌入式與 AI 領域落地

    SoC 開發流程,幫開發者省時間; 優化下一代 RISC-V 設計的性能和能效,進一步拉高性能上限; 把 RISC-V 打造成能和傳統專有處理器架構抗衡的方案,畢竟 RISC-V 的靈活性、定制化能力
    發表于 12-18 12:01

    AI芯片市場鏖戰,GPUASIC誰將占據主動?

    本文轉自:TechSugar隨著人工智能技術在大模型訓練、邊緣計算、自動駕駛等領域的深度滲透,核心算力硬件的競爭進入白熱化階段。圖形處理單元(GPU)與專用集成電路(ASIC)作為兩大主流技術路線
    的頭像 發表于 10-30 12:06 ?768次閱讀
    <b class='flag-5'>AI</b>芯片市場鏖戰,<b class='flag-5'>GPU</b>與<b class='flag-5'>ASIC</b>誰將占據主動?

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現深度學習AI芯片的創新方法與架構

    時間縮短、效率提升的硬件架構非常重要。因此存內加速方案,X-Former應運而生。它是一種混合存內計算架構,結合了NVM和基于互補金屬氧化物半導體(CMOS)的處理元件。 架構如下: 2.2 閃存AI
    發表于 09-12 17:30

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片。 其他的還是知道的,FPGA屬于
    發表于 09-12 16:07

    AI 芯片浪潮下,職場晉升新契機?

    、新架構不斷涌現。能夠在工作中提出創新性的解決方案,推動 AI 芯片性能、功耗、成本等關鍵指標的優化,將極大提升在職稱評審中的競爭力。例如,在芯片設計中引入新的計算范式,如存算一體技術,有效解決傳統馮?諾
    發表于 08-19 08:58

    AI芯片,需要ASIC

    電子發燒友網報道(文/李彎彎) 2025年,全球AI芯片市場正迎來一場結構性變革。在英偉達GPU占據主導地位的大格局下,ASIC(專用集成電路)憑借針對AI任務的定制化設計,成為推動算
    的頭像 發表于 07-26 07:30 ?6777次閱讀

    Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計算生態

    近日, Imagination Technologies 與國內領先的異構計算軟件與智算混合云服務提供商 澎峰科技 ( PerfXLab )正式簽署合作備忘錄( MoU ),圍繞 GPUAI
    發表于 05-21 09:40 ?1220次閱讀

    Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計算生態

    近日,ImaginationTechnologies與國內領先的異構計算軟件與智算混合云服務提供商澎峰科技(PerfXLab)正式簽署合作備忘錄(MoU),圍繞GPUAI的深度融合展開合作。雙方將
    的頭像 發表于 05-20 08:33 ?932次閱讀
    Imagination與澎峰科技攜手推動<b class='flag-5'>GPU+AI</b>解決方案,共拓<b class='flag-5'>計算</b>生態

    Deepseek海思SD3403邊緣計算AI產品系統

    海思SD3403邊緣計算AI框架,提供了一套開放式AI訓練產品工具包,解決客戶低成本AI系統,針對差異化
    發表于 04-28 11:05

    AI在醫療健康和生命科學中的發展現狀

    NVIDIA 首次發布的“AI 在醫療健康和生命科學中的現狀”調研,揭示了生成式和代理式 AI 如何幫助醫療專業人員在藥物發現、患者護理等領域節省時間成本
    的頭像 發表于 04-14 14:10 ?932次閱讀

    Banana Pi 發布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    存儲設計,輕松應對復雜AI模型與實時推理。其堅固耐用的工業級品質與超低成本,不僅適應嚴苛環境的應用,更為工程師提供了極致靈活的開發體驗,堪稱推動開源生態與人工智能未來的標桿。” 瑞
    發表于 03-19 17:54

    摩爾線程GPU原生FP8計算助力AI訓練

    并行訓練和推理,顯著提升了訓練效率與穩定性。摩爾線程是國內率先原生支持FP8計算精度的國產GPU企業,此次開源不僅為AI訓練和推理提供了全新的國產化解決方案,更對推動國產GPU
    的頭像 發表于 03-17 17:05 ?1526次閱讀
    摩爾線程<b class='flag-5'>GPU</b>原生FP8<b class='flag-5'>計算</b>助力<b class='flag-5'>AI</b>訓練