電子發燒友網報道(文/李彎彎)近一年多時間,隨著大模型的發展,GPU在AI領域的重要性再次凸顯。雖然相比英偉達等國際大廠,國產GPU起步較晚、聲勢較小。不過近幾年,國內不少GPU廠商成長非常快,并且不斷推出新品,產品也逐漸在各個領域取得應用,而且在大模型的訓練和推理方面,也有所建樹。
國產GPU在大模型上的應用進展
電子發燒友此前就統計過目前國內主要的GPU廠商,也介紹了這些廠商主要的產品及產品發布、量產進展情況。可以看到,其實近幾年已經有不少產品面世并應用。
如沐曦集成,其N系列用于AI推理的GPU芯片早已量產。去年9月,該公司宣布,其與眸瑞科技聯合發布了首個AI模型“貼圖超分”技術。該技術依托曦思N系列AI推理GPU首款產品曦思N100的強大算力,結合眸瑞科技豐富的算法庫資源和先進的AI超分算法,首次將AI超分成功應用到了3D模型領域。
曦思N100是沐曦面向人工智能推理場景推出的高效能GPU產品,針對AI推理及AI應用場景中大量的視頻圖像處理任務,提供強大的AI算力和視頻/圖像編解碼功能。據稱,目前沐曦已聯合合作伙伴打造了多種基于曦思N100 的解決方案,如高密度視頻結構化分析解決方案、高并發智能轉碼解決方案、光電混合異構計算解決方案等,這些方案可廣泛應用于城市安防、智慧交通、工業視覺、短視頻、云計算和智算中心等多個領域。
再如天數智芯,其提供的算力集群具有支持百億級參數大模型訓練的能力。早前有消息,天數智芯與智源研究院、愛特云翔合作,開展基于自主通用GPU的大模型CodeGen(高效編碼)項目,通過中文描述來生成可用的C、Java、Python代碼以實現高效編碼。
智源研究院負責算法設計、訓練框架開發、大模型的訓練與調優,天數智芯負責提供天垓100加速卡、構建算力集群及全程技術支持,愛特云翔負責提供算存網基礎硬件及智能化運維服務。在天垓100加速卡的算力集群,基于智源研究院70億參數的Aquila語言基礎模型,使用代碼數據進行繼續訓練,穩定運行19天,模型收斂效果符合預期。
近一年多來,隨著大模型的發展,國產GPU公司都在朝著大模型領域布局。摩爾線程此前也透露,公司已經可以支持3億參數量模型的訓練,2022年底就提前布局了自然語言模型預訓練,自研了MusaBert模型。
還有登臨科技,該公司此前也表示,公司首款產品Goldwasser已規模化運用在多家行業知名企業的主營業務中,新一代Goldwasser產品針對基于Transformer的網絡和生成式AI類大模型的應用在性能有大幅提升。
國產GPU應用于AI領域的多個方面
除了上述談到應用案例,國產GPU在AI領域的應用案例還有很多,主要涉及到深度學習、自然語言處理以及計算機視覺等多個方面。
如,在計算機視覺領域,國產GPU被廣泛應用于圖像識別和目標檢測等任務。例如,利用GPU加速的深度學習模型可以大幅提升算法的準確性和實時性,這在安防監控、自動駕駛等實際應用中具有重要的價值。
在自然語言處理方面,國產GPU也在發揮重要作用。通過GPU加速的循環神經網絡、Transformer等模型,可以實現高效的機器翻譯、文本生成等任務。這對于提升智能客服、智能寫作等應用的性能具有關鍵作用。
國產GPU還在強化學習領域得到了應用。強化學習是AI領域的一個重要分支,其目標是通過與環境的交互來學習策略。GPU加速的價值網絡、策略網絡等模型可以應用于游戲AI、機器人控制等領域,從而提高智能體的學習效率和性能。
另外值得關注的還有,國產GPU在自動駕駛領域的應用也比較多。自動駕駛系統需要處理大量的傳感器數據,包括來自攝像頭、雷達、激光雷達等的信息。GPU通過其強大的并行計算能力和高效的內存管理,可以實時處理這些數據,并為自動駕駛系統提供準確的決策依據。
例如,一些國產汽車廠商已經開始在其自動駕駛系統中采用國產GPU。這些GPU不僅用于圖像處理和計算機視覺任務,如目標檢測、車道線識別等,還用于深度學習模型的推理和決策。通過GPU的加速,自動駕駛系統可以更快地識別交通信號、障礙物以及其他重要信息,從而提高行車安全性。
此外,國產GPU還在自動駕駛的地圖構建和定位方面發揮了重要作用。通過利用GPU進行高效的地圖數據處理和實時定位計算,自動駕駛系統可以更加準確地感知周圍環境,并實現精確的導航和路徑規劃。
具體來說,百度Apollo、小馬智行等自動駕駛技術公司,都在其自動駕駛解決方案中采用了國產GPU。這些解決方案不僅應用于乘用車,還擴展到商用車、物流車等多個領域。
寫在最后
從目前的情況來看,國內外GPU廠商都在追逐大模型應用帶來的機會。當前無論是大模型訓練還是推理,英偉達GPU都占據了絕大部分市場。對于國產廠商來說,為了在大模型方面擁有更多自主權,仍然需要持續在大模型訓練方面發力,同時相對大模型訓練來說,大模型接下來大面積的部署,對于推理芯片的需要將會很大,這將是一個更容易把握的機會。
國產GPU在大模型上的應用進展
電子發燒友此前就統計過目前國內主要的GPU廠商,也介紹了這些廠商主要的產品及產品發布、量產進展情況。可以看到,其實近幾年已經有不少產品面世并應用。
如沐曦集成,其N系列用于AI推理的GPU芯片早已量產。去年9月,該公司宣布,其與眸瑞科技聯合發布了首個AI模型“貼圖超分”技術。該技術依托曦思N系列AI推理GPU首款產品曦思N100的強大算力,結合眸瑞科技豐富的算法庫資源和先進的AI超分算法,首次將AI超分成功應用到了3D模型領域。
曦思N100是沐曦面向人工智能推理場景推出的高效能GPU產品,針對AI推理及AI應用場景中大量的視頻圖像處理任務,提供強大的AI算力和視頻/圖像編解碼功能。據稱,目前沐曦已聯合合作伙伴打造了多種基于曦思N100 的解決方案,如高密度視頻結構化分析解決方案、高并發智能轉碼解決方案、光電混合異構計算解決方案等,這些方案可廣泛應用于城市安防、智慧交通、工業視覺、短視頻、云計算和智算中心等多個領域。
再如天數智芯,其提供的算力集群具有支持百億級參數大模型訓練的能力。早前有消息,天數智芯與智源研究院、愛特云翔合作,開展基于自主通用GPU的大模型CodeGen(高效編碼)項目,通過中文描述來生成可用的C、Java、Python代碼以實現高效編碼。
智源研究院負責算法設計、訓練框架開發、大模型的訓練與調優,天數智芯負責提供天垓100加速卡、構建算力集群及全程技術支持,愛特云翔負責提供算存網基礎硬件及智能化運維服務。在天垓100加速卡的算力集群,基于智源研究院70億參數的Aquila語言基礎模型,使用代碼數據進行繼續訓練,穩定運行19天,模型收斂效果符合預期。
近一年多來,隨著大模型的發展,國產GPU公司都在朝著大模型領域布局。摩爾線程此前也透露,公司已經可以支持3億參數量模型的訓練,2022年底就提前布局了自然語言模型預訓練,自研了MusaBert模型。
還有登臨科技,該公司此前也表示,公司首款產品Goldwasser已規模化運用在多家行業知名企業的主營業務中,新一代Goldwasser產品針對基于Transformer的網絡和生成式AI類大模型的應用在性能有大幅提升。
國產GPU應用于AI領域的多個方面
除了上述談到應用案例,國產GPU在AI領域的應用案例還有很多,主要涉及到深度學習、自然語言處理以及計算機視覺等多個方面。
如,在計算機視覺領域,國產GPU被廣泛應用于圖像識別和目標檢測等任務。例如,利用GPU加速的深度學習模型可以大幅提升算法的準確性和實時性,這在安防監控、自動駕駛等實際應用中具有重要的價值。
在自然語言處理方面,國產GPU也在發揮重要作用。通過GPU加速的循環神經網絡、Transformer等模型,可以實現高效的機器翻譯、文本生成等任務。這對于提升智能客服、智能寫作等應用的性能具有關鍵作用。
國產GPU還在強化學習領域得到了應用。強化學習是AI領域的一個重要分支,其目標是通過與環境的交互來學習策略。GPU加速的價值網絡、策略網絡等模型可以應用于游戲AI、機器人控制等領域,從而提高智能體的學習效率和性能。
另外值得關注的還有,國產GPU在自動駕駛領域的應用也比較多。自動駕駛系統需要處理大量的傳感器數據,包括來自攝像頭、雷達、激光雷達等的信息。GPU通過其強大的并行計算能力和高效的內存管理,可以實時處理這些數據,并為自動駕駛系統提供準確的決策依據。
例如,一些國產汽車廠商已經開始在其自動駕駛系統中采用國產GPU。這些GPU不僅用于圖像處理和計算機視覺任務,如目標檢測、車道線識別等,還用于深度學習模型的推理和決策。通過GPU的加速,自動駕駛系統可以更快地識別交通信號、障礙物以及其他重要信息,從而提高行車安全性。
此外,國產GPU還在自動駕駛的地圖構建和定位方面發揮了重要作用。通過利用GPU進行高效的地圖數據處理和實時定位計算,自動駕駛系統可以更加準確地感知周圍環境,并實現精確的導航和路徑規劃。
具體來說,百度Apollo、小馬智行等自動駕駛技術公司,都在其自動駕駛解決方案中采用了國產GPU。這些解決方案不僅應用于乘用車,還擴展到商用車、物流車等多個領域。
寫在最后
從目前的情況來看,國內外GPU廠商都在追逐大模型應用帶來的機會。當前無論是大模型訓練還是推理,英偉達GPU都占據了絕大部分市場。對于國產廠商來說,為了在大模型方面擁有更多自主權,仍然需要持續在大模型訓練方面發力,同時相對大模型訓練來說,大模型接下來大面積的部署,對于推理芯片的需要將會很大,這將是一個更容易把握的機會。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
gpu
+關注
關注
28文章
5194瀏覽量
135474 -
AI
+關注
關注
91文章
39793瀏覽量
301447 -
大模型
+關注
關注
2文章
3650瀏覽量
5186 -
AI大模型
+關注
關注
0文章
398瀏覽量
1000
發布評論請先 登錄
相關推薦
熱點推薦
國產數據中心AI芯片企業一覽
電子發燒友網報道(文/李彎彎)在全球科技競爭日益激烈的背景下,數據中心AI芯片已成為各國科技企業爭奪的戰略高地。隨著嚴格的芯片出口管制政策實施,國產數據中心AI芯片的自主化進程顯著加速
摩爾線程正式推出AI Coding Plan智能編程服務
基流動推理加速引擎,并集成 GLM-4.7 頂尖代碼模型,成功實現了國產芯片與國產大模型在 AI
AI硬件全景解析:CPU、GPU、NPU、TPU的差異化之路,一文看懂!?
CPU作為“通用基石”,支撐所有設備的基礎運行;GPU憑借并行算力,成為AI訓練與圖形處理的“主力”;TPU在Google生態中深耕云端大模型訓練;NPU則讓
云知聲入選甲子光年2025中國AI大模型領域最具商業潛力榜
12月3日,“2025甲子引力年終盛典”在北京舉行,大會現場發布了【甲子100】與【甲子Cool Vendor】等榜單。云知聲(股票代碼:09678.HK)憑借其在大模型領域扎實的技術積累與領先
成都匯陽投資關于國產開源模型持續突破,國產AI 競爭力增強
,國產 AI 產業正展現出從技術追趕到在特定領域實現差異化領先的強勁趨勢 。 當前的技術迭代的重點集中在編程和 Agent 能力等方面 ,同時 ,國
Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計算生態
的深度融合展開合作。雙方將結合 Imagination 領先的 GPU IP 技術與澎峰科技在 AI 模型壓縮與性能優化方面的軟硬協同能力,共同開拓面向
發表于 05-21 09:40
?1220次閱讀
【國產信創CPU全攻略】分享國產CPU品牌排行榜!從排名到避坑!
最近收到不少粉絲留言:“想換國產電腦,但國產CPU品牌太多,完全不知道怎么選!”“信創CPU排名到底靠不靠譜?”今天咱們就來嘮嘮這個話題——國產CPU品牌有哪些?信創CPU怎么挑?附上一
首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手
模型全鏈路分析功能,針對AI應用開發的三大痛點逐個擊破。
當前AI應用開發者在使用開發工具時會面臨一個很頭疼的問題,種類多、功能不聚合、過
發表于 04-13 19:52
摩爾線程GPU成功適配Deepseek-V3-0324大模型
架構和全功能GPU的強大技術實力,摩爾線程迅速響應并完成了對DeepSeek-V3的無縫升級,實現了零報錯、零兼容性問題的光速部署,充分展現了摩爾線程在AI大模型領域的領先優勢。
摩爾線程GPU原生FP8計算助力AI訓練
并行訓練和推理,顯著提升了訓練效率與穩定性。摩爾線程是國內率先原生支持FP8計算精度的國產GPU企業,此次開源不僅為AI訓練和推理提供了全新的國產化解決方案,更對推動
國產GPU在AI大模型領域的應用案例一覽
評論