国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型為何成耗能大戶

現代電子技術 ? 來源:經濟日報 ? 2024-04-29 17:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著人工智能技術快速發展,人工智能(AI)大模型的運行消耗問題受到越來越多關注。大模型為何成了耗能大戶?能耗問題會不會成為人工智能發展的“絆腳石”?如何解決能耗問題?

耗電耗水量大

人工智能大模型到底有多耗能?據斯坦福人工智能研究所發布的《2023年AI指數報告》,AI大語言模型GPT-3一次訓練的耗電量為1287兆瓦時,大概相當于3000輛特斯拉電動汽車共同開跑、每輛車跑20萬英里所耗電量的總和。報告同時提出,AI大語言模型GPT-3一次訓練,相當于排放了552噸二氧化碳。

國外研究顯示,一次標準谷歌搜索耗電0.3瓦時,AI大語言模型ChatGPT響應一次用戶請求耗電約2.96瓦時,在AI大模型驅動下的一次谷歌搜索耗電8.9瓦時。

除了耗電,另有研究顯示,AI大語言模型GPT-3在訓練期間耗水近700噸,每回答20個至50個問題就要消耗500毫升水。弗吉尼亞理工大學研究指出,Meta公司在2022年使用了超過260萬立方米的水,主要作用是為數據中心提供冷卻。

據了解,人工智能大模型GPT-4的主要參數是GPT-3的20倍,計算量是GPT-3的10倍,能耗也隨之大幅增加。

華泰證券研報預測,到2030年,中國與美國的數據中心總用電量將分別達到0.65萬億千瓦時至0.95萬億千瓦時、1.2萬億千瓦時至1.7萬億千瓦時,是2022年的3.5倍和6倍以上。屆時,AI用電量將達到2022年全社會用電量的20%和31%。

為何如此耗能

為什么人工智能大模型如此耗能?AI技術迅速發展,對芯片的需求急劇增加,進而帶動電力需求激增。同時,對AI進行大量訓練,也意味著需要更強的算力中心和與之匹配的散熱能力。在AI快速迭代的道路上,電力和水資源的消耗也在快速增加。因為很多數據中心全年無休,發熱量巨大,大規模電耗和水耗主要來自于冷卻需求。

相關統計顯示,數據中心運行成本的六成是電費,而電費里的四成多來自冷卻散熱,相應也會帶來巨量冷卻水的消耗。風冷數據中心六成多的耗電量都會用在風冷上,只有不到四成電力用在實際計算上。如今,全球數據中心市場耗電量是10年前的近10倍。

能耗問題會不會成為人工智能發展的“絆腳石”?英偉達首席執行官黃仁勛曾提到,AI和算力耗能巨大,但由于計算機性能飛速增長,計算會更加高效,相當于更節省能源。當前,我國實施嚴格的能耗雙控政策,無論是AI大模型本身還是其應用行業,對單位GDP能耗來說均有明顯降低作用。

從整體能耗來看,AI大模型帶來的效率提升也會抵消一部分能耗增長。隨著綠電廣泛應用,再加上我國逐步由能耗雙控向碳排放雙控政策轉變,可再生能源對未來AI大模型發展的支撐能力也會越來越強。

此外,相較于其他國家而言,中美等能源消費大國和數據大國,具備更好發展AI大模型的資源條件和基礎。

怎樣應對挑戰

據預測,到2025年,AI相關業務在全球數據中心用電量中的占比將從2%增加至10%。到2030年,智能計算年耗電量將達到5000億千瓦時,占全球發電總量的5%。因此,在大力發展AI大模型的同時,必須提前做好相關規劃布局,以提供必要的電力和水資源等技術支撐。

有專家認為,人工智能的未來發展與狀態和儲能緊密相連。因此,不應僅關注計算力,而是需要更全面地考慮能源消耗問題。OpenAI創始人奧爾特曼認為,未來AI技術取決于能源突破,更綠色的能源尤其是核聚變或更便宜的太陽能以及儲能的可獲得性,是人工智能發展快慢的重要因素。

為降低電力和水資源消耗,很多企業在嘗試采用各種方法為數據中心散熱。例如,微軟曾嘗試部署海下數據中心,臉書(Facebook)數據中心選址北極圈附近,阿里云千島湖數據中心使用深層湖水制冷等,我國很多企業則把數據中心布局在水電資源豐富的西南地區。

目前,可通過算法優化、開發和使用更高效的AI專用硬件、調整神經網絡訓練過程以優化計算資源等技術方式來降低AI大模型的能耗,并更多采用自然冷卻、液冷、三聯供、余熱回收等新興節能技術,提高制冷效率以降低數據中心能耗。從技術未來發展方向上看,光電智能芯片也有助于解決AI大模型的電耗和水耗問題。

AI大模型的發展,不能僅符合高端化、智能化的要求,更要符合綠色化的發展要求。為此,從國家和地方層面上看,為緩解AI大模型發展所帶來的電力和水資源沖擊,有必要將數據中心行業納入高耗能行業管理體系,并提前做好相關規劃布局。同時,加強資源整合,充分發揮人工智能大模型和數據中心的效能,通過使用效能下限設置等方式,確保其自身的電力和水資源使用效率。還應嚴格落實國家能耗雙控及碳排放雙控政策,并將其碳足跡與水足跡納入行業考核范圍,切實推動碳足跡與水足跡逐步降低,以應對日益增長的AI大模型電力和水資源需求。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    39793

    瀏覽量

    301424
  • 語言模型
    +關注

    關注

    0

    文章

    571

    瀏覽量

    11314
  • 可再生能源
    +關注

    關注

    1

    文章

    758

    瀏覽量

    40638
  • 大模型
    +關注

    關注

    2

    文章

    3650

    瀏覽量

    5184

原文標題:大模型為何成耗能大戶

文章出處:【微信號:現代電子技術,微信公眾號:現代電子技術】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    從“耗能大戶”到“零碳標桿”:EMS3.0的逆襲之路

    一、零碳轉型:工業園區的必答題,而非選擇題 在“雙碳”戰略深入推進的今天,中國作為制造業大國,正迎來一場關乎產業命運的綠色變革。作為工業經濟的核心載體,工業園區承載著全國近三的碳排放,既是減排攻堅
    的頭像 發表于 02-12 14:28 ?279次閱讀

    回饋式與MOSFET耗能型負載分析

    ,能量利用率可達95%以上。其優勢在于高效能量循環利用,但依賴電網兼容性設計。 2. MOSFET耗能型功率負載 以功率MOSFET為核心,通過調節柵極電壓控制導通狀態,動態調整等效阻抗。采用PWM調制和數字反饋技術(如FPGA/DSP控制器),支持μs級動態
    的頭像 發表于 10-23 10:09 ?572次閱讀
    回饋式與MOSFET<b class='flag-5'>耗能</b>型負載分析

    供應哈默納科減速機HPG斷面模型使用的內部構造演示

    模型
    北京北成新控
    發布于 :2025年08月28日 11:26:27

    被誤解的 “耗電大戶”:鋁電解電容其實是 “省電小能手” 的真相

    在電子元器件的世界里,鋁電解電容常常背負著"耗電大戶"的惡名。許多工程師和電子愛好者一提到鋁電解電容,腦海中就會浮現出漏電流大、損耗高的印象。然而,這種認知可能存在著嚴重的偏差。事實上,現代鋁電解
    的頭像 發表于 08-15 16:01 ?869次閱讀
    被誤解的 “耗電<b class='flag-5'>大戶</b>”:鋁電解電容其實是 “省電小能手” 的真相

    利用自壓縮實現大型語言模型高效縮減

    隨著語言模型規模日益龐大,設備端推理變得越來越緩慢且耗能巨大。一個直接且效果出人意料的解決方案是剪除那些對任務貢獻甚微的完整通道(channel)。我們早期的研究提出了一種訓練階段的方法——自壓
    的頭像 發表于 07-28 09:36 ?560次閱讀
    利用自壓縮實現大型語言<b class='flag-5'>模型</b>高效縮減

    為何化工企業偏愛GUTOR UPS?

    為何化工企業偏愛GUTOR UPS?
    發表于 07-03 14:33

    make sence的XML文件能上傳到自助訓練模型上嗎?

    make sence的XML文件能上傳到自助訓練模型上嗎
    發表于 06-23 07:38

    FA模型卡片和Stage模型卡片切換

    卡片切換 卡片切換主要包含如下三部分: 卡片頁面布局:FA模型卡片和Stage模型卡片的布局都采用類web范式開發可以直接復用。 卡片配置文件:FA模型的卡片配置在config.json中
    發表于 06-06 08:10

    FA模型和Stage模型API切換概述

    API切換概述 FA模型和Stage模型由于線程模型和進程模型的差異,部分接口僅在FA模型下才能使用,針對這部分接口在SDK的接口中有FA
    發表于 06-06 06:29

    從FA模型切換到Stage模型時:module的切換說明

    module的切換 從FA模型切換到Stage模型時,開發者需要將config.json文件module標簽下的配置遷移到module.json5配置文件module標簽下,具體差異
    發表于 06-05 08:16

    FA模型的ServiceAbility的切換介紹

    ServiceAbility切換 FA模型中的ServiceAbility對應Stage模型中的ServiceExtensionAbility。Stage模型
    發表于 06-05 07:24

    FA模型訪問Stage模型DataShareExtensionAbility說明

    FA模型訪問Stage模型DataShareExtensionAbility 概述 無論FA模型還是Stage模型,數據讀寫功能都包含客戶端和服務端兩部分。 FA
    發表于 06-04 07:53

    中國為何同時面臨算力過剩與短缺 ?

    中國為何同時面臨算力過剩與短缺 ?
    的頭像 發表于 04-24 15:02 ?1331次閱讀
    中國<b class='flag-5'>為何</b>同時面臨算力過剩與短缺 ?

    KaihongOS操作系統FA模型與Stage模型介紹

    FA模型與Stage模型介紹 KaihongOS操作系統中,FA模型(Feature Ability)和Stage模型是兩種不同的應用模型
    發表于 04-24 07:27

    為何工程塑料不適合打印圓弧形模型

    我們經常能在3D打印中看到各種形狀的模型,但為什么不建議使用工程塑料來打印圓弧形模型呢?JLC3D小編今天就和大家一起探討下。 我們都知道,工程塑料在FDM(熔融沉積成型)打印中,通常會采用分層堆疊
    發表于 04-07 15:31