国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為什么跑AI往往用GPU而不是CPU?

穎脈Imgtec ? 2024-04-24 08:27 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

今天,人工智能AI)已經在各個領域遍地開花,無論身處哪個行業,使用AI來幫助獲取業務洞察,并建立競爭優勢,已經非常常見。不過一個有趣的現象是,在用戶采購AI基礎設施時,幾乎所有廠商都會強調其支持GPU的能力,并且支持的GPU數量越多,就代表其AI性能越強大。那么問題來了,為什么是GPU而不是CPU

GPU難道不是我們日常使用的電腦里的,用于提高游戲性能或設計圖形所需的圖形處理單元嗎?為什么在AI方面,我們計算機里的“大腦”(CPU)反而很少提及呢?


一、為什么AI需要GPU?

要了解為什么GPU更適合AI,我們就要從GPU的誕生說起。圖形處理單元 (GPU) 最初開發用于生成計算機圖形,是具有專用內存的專用處理器,通常執行渲染圖形所需的浮點運算。從GPU的誕生我們可以看到,GPU是專為計算機開發的,旨在提高它們處理3D圖形的能力。這種特性決定了GPU僅用于參與任務或應用程序代碼的某些部分,而不是整個過程。因此,GPU通常有較多的內核,用于處理頻繁且彼此獨立的簡單計算。而CPU又被稱為通用處理器,因為它幾乎可以運行任何類型的計算。不過CPU通常只有幾個內核,即使是服務器專用的CPU也不過幾十個內核,與GPU動輒成百上千個內核相比完全不是一個數量級。但這并不意味著CPU不夠好,CPU內核雖然更少,但比數千個GPU內核更強大。例如同時處理操作系統、處理電子表格、播放高清視頻、提取大型zip文件,這些是GPU根本無法完成的。說到這里,你該明白GPU和CPU的區別了吧。總結一下,CPU最擅長按順序處理單個更復雜的計算,而GPU更擅長并行處理多個但更簡單的計算。至于為什么AI需要的GPU,答案也很明顯了,因為訓練AI模型的過程需要同時對所有數據樣本執行幾乎相同的操作,而GPU的架構設計具有快速同時處理多個任務所需的并行處理能力。

不過要注意的是,盡管GPU非常適合于AI模型算法,但并不意味著GPU在所有情況下都適用:

1、規模較小的訓練CPU完全可以執行訓練AI模型所需的算法,特別是如果數據集規模相對較小,可以使用CPU避免高昂的前期成本。2、非并行算法本質上,GPU是為圖形處理而設計的,因此當某個AI模型算法并不是并行算法時,CPU就是更好的選擇。某些涉及邏輯或密集內存要求的AI算法也是CPU的強項。


二、GPU與AI計算

現在的AI計算,都在搶購GPU。英偉達也因此賺得盆滿缽滿,為什么會這樣呢?原因很簡單,因為AI計算和圖形計算一樣,也包含了大量的高強度并行計算任務。深度學習是目前最主流的人工智能算法。從過程來看,包括訓練(training)和推理(inference)兩個環節。訓練環節,通過投喂大量的數據,訓練出一個復雜的神經網絡模型。在推理環節,利用訓練好的模型,使用大量數據推理出各種結論。訓練環節由于涉及海量的訓練數據,以及復雜的深度神經網絡結構,所以需要的計算規模非常龐大,對芯片的算力性能要求比較高。而推理環節,對簡單指定的重復計算和低延遲的要求很高。它們所采用的具體算法,包括矩陣相乘、卷積、循環層、梯度運算等,分解為大量并行任務,可以有效縮短任務完成的時間。GPU憑借自身強悍的并行計算能力以及內存帶寬,可以很好地應對訓練和推理任務,已經成為業界在深度學習領域的首選解決方案。

目前,大部分企業的AI訓練,采用的是英偉達的GPU集群。如果進行合理優化,一塊GPU卡,可以提供相當于數十甚至上百臺CPU服務器的算力。


三、AI與算力

AI與算力是當今社會科技進步的兩大驅動力,它們的融合與創新正推動著各個行業的發展,引領我們進入一個全新的智能時代。算力,作為AI技術的基石,為AI提供了強大的計算能力和數據處理能力。隨著技術的不斷進步,算力的提升使得AI模型能夠處理更大規模的數據,實現更復雜的算法,從而提升AI的性能和準確度。算力的發展,使得AI在圖像識別、語音識別、自然語言處理等領域取得了巨大的突破,為我們的生活帶來了諸多便利。而AI的崛起,也反過來促進了算力的發展。隨著AI應用領域的不斷拓展,對于算力的需求也日益增長。為了滿足這種需求,人們不斷研發新的芯片、算法和架構,推動算力的不斷提升。同時,AI技術的發展也催生了一系列新的應用場景,如自動駕駛智能家居、智能醫療等,這些應用都需要強大的算力支持,從而推動了算力技術的不斷突破和創新。AI與算力的結合,正在推動各行各業的發展。在制造業中,AI與算力技術可以幫助企業實現智能制造、智能供應鏈等,提高生產效率和產品質量。在醫療領域,AI與算力技術可以幫助醫生實現精準診斷、個性化治療等,提高醫療水平和患者滿意度。在金融領域,AI與算力技術可以幫助銀行、保險等機構實現風險評估、智能投顧等,提高金融服務的智能化水平。總之,AI與算力是當今科技進步的重要驅動力,它們的融合與創新正推動著我們進入一個全新的智能時代。在未來的發展中,我們需要不斷關注技術趨勢、加強人才培養、加強監管和規范,推動AI與算力技術的健康發展,為人類創造更加美好的未來。

本文來源:渲大師

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5194

    瀏覽量

    135453
  • AI
    AI
    +關注

    關注

    91

    文章

    39793

    瀏覽量

    301408
  • 人工智能
    +關注

    關注

    1817

    文章

    50098

    瀏覽量

    265382
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    使用NORDIC AI的好處

    Nordic 的 Edge AI 主要有以下幾個好處(基于官方資料總結): 極低功耗、延長電池壽命 在本地運行 AI,減少無線傳輸次數,而無線收發是最耗電的部分。設備只需上傳“結果/事件”,
    發表于 01-31 23:16

    GPU 利用率<30%?這款開源智算云平臺讓算力不浪費 1%

    作為 AI 開發者,你是否早已受夠這些困境:花數百萬采購的 GPU 集群,利用率常年低于 30%,算力閑置如同燒錢;跨 CPU/GPU/NPU 異構資源調度難如登天,模型訓練卡在資源分
    的頭像 發表于 01-26 14:20 ?184次閱讀

    瑞芯微SOC智能視覺AI處理器

    RK3568B2: 一款性能均衡、接口豐富的中高端AIoT應用處理器,是RK3568的優化版本,主打穩定與可靠性。CPU/GPU: 延續RK3568的4核A55 + G52 GPU架構,性能可靠
    發表于 12-19 13:44

    AI硬件全景解析:CPUGPU、NPU、TPU的差異化之路,一文看懂!?

    CPU作為“通用基石”,支撐所有設備的基礎運行;GPU憑借并行算力,成為AI訓練與圖形處理的“主力”;TPU在Google生態中深耕云端大模型訓練;NPU則讓AI從“云端”走向“身邊”
    的頭像 發表于 12-17 17:13 ?1745次閱讀
    <b class='flag-5'>AI</b>硬件全景解析:<b class='flag-5'>CPU</b>、<b class='flag-5'>GPU</b>、NPU、TPU的差異化之路,一文看懂!?

    【RK3568 NPU實戰】別再閑置你的NPU!手把手帶你迅為資料通Android AI檢測Demo,附完整流程與效果

    【RK3568 NPU實戰】別再閑置你的NPU!手把手帶你迅為資料通Android AI檢測Demo,附完整流程與效果
    的頭像 發表于 11-10 15:58 ?1066次閱讀
    【RK3568 NPU實戰】別再閑置你的NPU!手把手帶你<b class='flag-5'>用</b>迅為資料<b class='flag-5'>跑</b>通Android <b class='flag-5'>AI</b>檢測Demo,附完整流程與效果

    AI模型的配置AI模型該怎么做?

    STM32可以AI,這個AI模型怎么搞,知識盲區
    發表于 10-14 07:14

    適應邊緣AI全新時代的GPU架構

    電子發燒友網站提供《適應邊緣AI全新時代的GPU架構.pdf》資料免費下載
    發表于 09-15 16:42 ?47次下載

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPUGPU、FPGA、ASIC都是AI芯片。 其他的還是知道的,FPGA屬于AI芯片這個
    發表于 09-12 16:07

    CPUGPU,渲染技術如何重塑游戲、影視與設計?

    渲染技術是計算機圖形學的核心內容之一,它是將三維場景轉換為二維圖像的過程。渲染技術一直在不斷演進,從最初的CPU渲染到后來的GPU渲染,性能和質量都有了顯著提升。從CPUGPU:技術
    的頭像 發表于 09-01 12:16 ?982次閱讀
    從 <b class='flag-5'>CPU</b> 到 <b class='flag-5'>GPU</b>,渲染技術如何重塑游戲、影視與設計?

    AI的未來,屬于那些既能寫代碼,又能焊電路的“雙棲人才”

    我們要強調的是,AI不是取代工程師,而是 成就工程師的最大杠桿 。你不必是Transformer作者,但你可以把Llama壓到你的STM32上;你不必是GPU架構師,但你可以RK35
    發表于 07-30 16:15

    簡單聊聊,AI全棧方案之AI存儲

    已經受潮變質——這樣怎么可能做出好菜?AI圈子里現在逐漸形成一個共識:算力決定多快,算法決定以什么姿勢數據才真正決定能跑多遠,不管是在訓練,還是在推理。一
    的頭像 發表于 07-29 06:02 ?1376次閱讀
    簡單聊聊,<b class='flag-5'>AI</b>全棧方案之<b class='flag-5'>AI</b>存儲

    【VisionFive 2單板計算機試用體驗】1、開箱初體驗(刷系統+靜態IP設置+GPU分測評)

    GPU分 首先用clinfo命令查看一下GPU,當然也可以在debain-system setting-about界面看到BXE-4-32GPU benchmark軟件一般
    發表于 07-09 21:50

    術業有專攻——AI系統主控CPU英特爾至強6新品處理器淺析

    一、至強6與NVIDIA GPU?協同的硬件基礎 在 AI 異構計算架構中,英特爾至強6處理器作為主控CPU可以與NVIDIA最新GPU 很好地協同。根據英偉達官網信息,目前其DGX
    的頭像 發表于 06-19 16:37 ?819次閱讀
    術業有專攻——<b class='flag-5'>AI</b>系統主控<b class='flag-5'>CPU</b>英特爾至強6新品處理器淺析

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」書中的芯片知識是比較接近當前的頂尖芯片水平的,同時包含了芯片架構的基礎知識,但該部分知識比較晦澀難懂,或許是由于我一直從事的事芯片
    發表于 06-18 19:31

    超越CPU/GPU:NPU如何讓AI“輕裝上陣”?

    電子發燒友網報道(文/李彎彎)NPU是一種專門為人工智能(AI)計算設計的處理器,主要用于高效執行神經網絡相關的運算(如矩陣乘法、卷積、激活函數等)。相較于傳統CPU/GPU,NPU在能效比
    的頭像 發表于 04-18 00:05 ?4014次閱讀