国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

搭建萬卡GPU集群,小米AI大模型即將全力啟動

Simon觀察 ? 來源:電子發燒友網 ? 作者:黃山明 ? 2024-12-29 00:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/黃山明)近日,有媒體報道,小米正在著手搭建自家的GPU萬卡集群,將對AI大模型加大投入。該計劃已進行數月,據悉小米大模型團隊在成立之初便已擁有6500張GPU資源,小米創始人兼董事長雷軍在該團隊扮演重要的領導角色。

高性能計算是大模型發展的基礎,而GPU在其中扮演重要作用。隨著AI在如今社會中發揮著越來越重要的作用,應用領域不斷擴展,需要的計算資源也越來越多,因此對于GPU的需求也在不斷上升。

小米搭建萬卡GPU集群,加大AI大模型投入

如今我們生活中已經有不少領域開始充斥著AI的身影,包括AI配音、AI影像、AI圖片、AI導航,以及不少人正在使用的免費AI大模型等。但相比ChatGPT、豆包、Kimi、通義千問等知名度不小的大模型,小米的MiLM顯得相對低調。

這是一款在今年5月份才正式通過大模型備案的小米大預言模型,小米宣布將把相關模型逐步應用于小米汽車、手機、智能家居等產品中,后續“將面向更多用戶開放體驗”。

而到了近期,市場更是傳出小米準備搭建GPU萬卡集群,決心加大對AI的投入。但搭建GPU的萬卡集群并不容易,一方面在于昂貴的成本。訓練AI大模型通常需要使用高性能的GPU芯片,如英偉達的A100、H100等。

這些高端芯片的單價本身就非常高,A100芯片價格約9萬元一張,H100閹割后的HGX H20渠道價格約11萬一張,而萬卡集群需要至少一萬張以上的GPU卡,僅芯片采購成本就可能達到數十億元。

并且除了GPU芯片本身,構建萬卡集群還需要大量的配套硬件設備,如服務器、存儲設備、網絡設備等。這些設備的采購和安裝成本也相當恐怖,進一步增加了總體投入。

而之所以需要GPU萬卡集群,是因為AI大模型通常包含數十億乃至數萬億的參數,例如GPT-3就有1750億個參數,訓練和推理過程中需要進行海量的矩陣運算和復雜的數學計算。如此大規模的計算任務,單張GPU的計算能力遠遠無法滿足,需要借助GPU萬卡集群并行計算來加速。

當然,這些技術的出現,其實并非突然,而是早有布局。小米早在2016年便開始組建第一只視覺AI團隊,逐步建立了視覺、語音、聲學、知識圖譜、NLP、機器學習、多模態等AI技術能力。

到2017年,小米正式發布了智能語音助手“小愛同學”。盡管當時的AI技術和現在相比可能顯得較為基礎,但小愛同學已經運用了語音識別、NLP、機器學習等核心技術來實現人機交互。

去年4月份,小米成立AI實驗室大模型團隊,初始團隊便擁有6500張GPU資源。并認為欒劍擔任該團隊的負責人,欒劍此前曾任東芝(中國)研究院研究員、微軟(中國)工程院高級語音科學家、微軟小冰首席語音科學家及語音團隊負責人等職位。

并且在近期,有消息稱DeepSeek開源大模型DeepSeek-V2的關鍵開發者之一羅福莉將加入小米,有望進一步加強小米AI大模型團隊實力。

端側擁抱AI已成共識,小米具備重大優勢

國內目前已經有多家企業開展了萬卡集群的建設,例如華為昇騰、科大訊飛、中國電信、中國移動等,其中中國電信在上海、北京兩個萬卡集群已經投產,而中國移動位于呼和浩特、哈爾濱兩大萬卡級別的智算中心也已經先后投產運行。

更別說百度等公司已經在探討構建十萬卡集群,有業內人士認為,市場中很快便會有更多的十萬卡集群出現。

另一方面,海外則更加激進。例如由馬斯克旗下xAI公司打造的xAI Colossus 超級AI集群,擁有10萬個英偉達H100 GPU。其第一階段建設已完成并全面上線,未來計劃增加5萬張H100 GPU和5萬張下一代H200 GPU,屆時GPU總數將翻倍。

OpenAI正在設計能夠將1000萬塊GPU連在一起的計算模型,Meta CEO扎克伯格曾在年初宣布,計劃購買35萬塊英偉達H100 GPU,將Meta的算力擴展到相當于60萬塊英偉達H100 GPU的水平。

與此同時,越來越多的企業開始更為注重AI,包括理想汽車創始人李想此前公開表示,理想汽車不僅是一家汽車制造企業,更是一家AI企業。

加上如今的AI手機、AI手表、AIPC甚至智能汽車等,這些端側產品均在積極擁抱AI,AI的加入也為這些產品帶來了更多的差異化與個性化,甚至有望成為未來產品體驗差異的分水嶺。

而相比其他企業,小米擁有一項重大的優勢,其AI大模型可以與自身的“人車家”戰略完美契合,甚至可以說AI大模型的加入,讓小米“人車家”全生態完成了最后一項閉環。

從手機到智能家居,再到新能源汽車,小米均有涉獵,并且大多已經成為行業中的主要參與者,例如小米為全球第三大手機廠商,米家更是全球最大的智能家居平臺,其中小愛音箱以超過40%的市場份額穩居中國智能音箱榜首。

小米汽車更是后來居上,不僅屢屢出圈,自今年3月份發布以來,有望在今年內實現超過13萬輛的交付成績,為小米集團貢獻近百億元的營收。同時小米汽車更是小米集團獨資控股,保證了小米汽車能夠貫徹未來小米集團的發展方向。

另一方面,雷軍不僅是小米的創始人,如今依然是金山軟件的董事長,意味著未來小米AI大模型有望在WPS等辦公軟件中布局。

從硬件端的互聯網入口,到辦公軟件、游戲等領域,都已經為小米的MiLM大模型預留足夠的發展空間,這是許多AI大模型企業沒有的巨大優勢。不僅保障了未來小米AI大模型的迭代升級,同時也解決了其數據歸屬問題,進一步加速AI大模型的升級。

總結

從小米過往布局新賽道的步伐來看,通常是確定了某個賽道已經得到市場驗證,并相對成熟再決定進入。進入賽道后,再利用小米集團的自身優勢,迅速做大做強。如今小米采用萬卡集群,加大投入到AI大模型領域,意味著不久后便有望看到該模型的普及。也期待未來市場中小米AI大模型的表現。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5194

    瀏覽量

    135460
  • 小米
    +關注

    關注

    70

    文章

    14534

    瀏覽量

    152162
  • AI大模型
    +關注

    關注

    0

    文章

    398

    瀏覽量

    999
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    中科曙光scaleX集群專項測試任務已突破300項

    國家超算互聯網核心節點上線試運行并啟動邀測計劃以來,一場依托國產“AI算力的創新驗證正全面推進。短短一個月,已吸引高校、科研院所、企業等多領域超3000位用戶踴躍參與測試。
    的頭像 發表于 03-06 16:16 ?586次閱讀

    中科曙光3套scaleX集群落地國家超算互聯網鄭州核心節點

    2月5日,由中科曙光提供的3套集群系統在國家超算互聯網鄭州核心節點同時上線試運行,成為全國首個實現3部署、且實際投入運營的最大國產
    的頭像 發表于 02-09 10:32 ?471次閱讀

    中科曙光scaleX集群重塑超大規模算力基礎設施

    在“人工智能+”行動深入推進的當下,算力基礎設施已成為國家戰略競爭力的核心,而超大規模集群的運維管控難題卻日益凸顯。中科曙光scaleX集群打造的智能管理體系,正以“能管住-管得
    的頭像 發表于 01-30 15:43 ?732次閱讀

    中科曙光scaleX集群背后的持續創新

    智算集群的發展浪潮正以超乎想象的速度襲來,未來五年,十萬級的算力集群將成為標配。但一個核心挑戰也隨之而來:當成千上的芯片緊密堆疊,如何將產生的巨額熱量快速帶走?
    的頭像 發表于 01-19 14:49 ?609次閱讀

    總算力5EFLOPS!可擴展至10,國產算力集群部分性能超越NVL576

    電子發燒友網綜合報道 近日,在光合組織2025人工智能創新大會(HAIC 2025)上,中科曙光正式發布并展出了全球領先的ScaleX集群。這一國產
    的頭像 發表于 12-24 09:24 ?4697次閱讀

    部分能力超越2027年NVL576,中科曙光發布scaleX集群

    2025年12月18日,在昆山舉行的光合組織2025人工智能創新大會(HAIC2025)上,中科曙光發布并展出了全球領先的大規模智能計算系統——scaleX集群,這也是國產
    發表于 12-18 18:30 ?1096次閱讀
    部分能力超越2027年NVL576,中科曙光發布scaleX<b class='flag-5'>萬</b><b class='flag-5'>卡</b>超<b class='flag-5'>集群</b>

    AI模型的配置AI模型該怎么做?

    STM32可以跑AI,這個AI模型怎么搞,知識盲區
    發表于 10-14 07:14

    睿海光電以高效交付與廣泛兼容助力AI數據中心800G光模塊升級

    引領AI時代網絡變革:睿海光電的核心競爭力 在AI時代,數據中心正經歷從傳統架構向AI工廠與AI云的轉型。AI工廠依賴超大規模
    發表于 08-13 19:01

    aicube的ngpu索引該如何添加?

    請問有人知道aicube怎樣才能讀取ngpu索引呢,我已經安裝了cuda和cudnn,在全局的py里添加了torch,能夠調用gpu,當還是只能看到默認的gpu0,顯示不了
    發表于 07-25 08:18

    燧原科技國產集群通過中國信通院權威認證

    近日,中國信息通信研究院(以下簡稱“中國信通院”)成功召開智算集群服務推進方陣年中總交流會。會議期間,中國信通院重磅發布了首批《大規模智算集群服務成熟度》評估結果。燧原科技作為算力
    的頭像 發表于 07-04 16:50 ?1220次閱讀

    弘信電子旗下燧弘華創加入智算集群服務推進方陣

    近日,中國信息通信研究院在北京召開智算集群服務推進方陣(ICCPA)年中總結交流會。會上為第二批成員單位辦法證書,發布一系列產業研究成果,并通過深度交流研討,凝聚產業共識,規范產品建設體系,
    的頭像 發表于 07-03 15:43 ?873次閱讀

    智算加速是什么東西?它真能在AI戰場上干掉GPU和TPU!

    隨著AI技術火得一塌糊涂,大家都在談"大模型"、"AI加速"、"智能計算",可真到了落地環節,算力才是硬通貨。你有沒有發現,現在越來越多的AI企業不光用
    的頭像 發表于 06-05 13:39 ?1648次閱讀
    智算加速<b class='flag-5'>卡</b>是什么東西?它真能在<b class='flag-5'>AI</b>戰場上干掉<b class='flag-5'>GPU</b>和TPU!

    RAKsmart高性能服務器集群:驅動AI大語言模型開發的算力引擎

    RAKsmart高性能服務器集群憑借其創新的硬件架構與全棧優化能力,成為支撐大語言模型開發的核心算力引擎。下面,AI部落小編帶您了解RAKsmart如何為AI開發者提供從
    的頭像 發表于 04-15 09:40 ?700次閱讀

    DeepSeek推動AI算力需求:800G光模塊的關鍵作用

    集群中的帶寬瓶頸 DeepSeek的大規模訓練任務涉及數千甚至數GPU節點,通過高效的網絡連接協調計算。傳統的光模塊,如400G模塊,雖然能提供一定的帶寬,但在面對大規模并行計算時,帶寬常常成為
    發表于 03-25 12:00

    算力破局:科通技術以&quot;AI模型+AI芯片&quot;重構智算底座

    “科通技術”)推出的“DeepSeek+AI芯片”全場景方案,在云AI領域取得重大突破。除了GPU的算力總量,云AI的一大挑戰來源于GPU
    的頭像 發表于 03-17 11:14 ?876次閱讀