微軟已經(jīng)為深度學(xué)習(xí)優(yōu)化庫 DeepSpeed 申請了商標(biāo)保護(hù)。該商標(biāo)于2020年12月8日提交,其中提到“為人工智能處理和深度學(xué)習(xí)提供臨時使用的在線不可下載的計算機(jī)軟件”,這表明微軟可能在考慮通過在線云服務(wù)提供 DeepSpeed。
該庫于今年 2 月發(fā)布,可以在適度的硬件上訓(xùn)練大規(guī)模的人工智能模型。它只需要使用 800 塊 Nvidia V100 顯卡就可以創(chuàng)建具有萬億參數(shù)的深度學(xué)習(xí)模型,是目前世界上最大的模型的 5 倍多。如果沒有DeepSpeed,同樣的任務(wù)需要 4000 塊 Nvidia A100(性能比 V100 快2.5倍),而且事件縮短了 100 多天。
在 GPT-3 顯示模型在神經(jīng)網(wǎng)和數(shù)據(jù)集越大的情況下繼續(xù)改進(jìn)后,這個工具特別有用。然而,這確實有可能將最新的創(chuàng)新推到資源較少的小型團(tuán)隊的范圍之外,但DeepSpeed已經(jīng)允許這些團(tuán)隊以最小的硬件與更大的服務(wù)競爭。轉(zhuǎn)移到云處理可能會使大型模型AI訓(xùn)練更容易獲得。
責(zé)任編輯:PSY
-
微軟
+關(guān)注
關(guān)注
4文章
6741瀏覽量
107852 -
商標(biāo)
+關(guān)注
關(guān)注
0文章
13瀏覽量
10517 -
云服務(wù)
+關(guān)注
關(guān)注
0文章
860瀏覽量
40667
發(fā)布評論請先 登錄
SD-WAN 專線:為亞馬遜云、微軟云訪問提速的核心邏輯
什么是企業(yè)云服務(wù)器-云計算
德力西電氣入選浙江省重點商標(biāo)保護(hù)名錄
由Memfault賦能的Nordic-nRF Cloud云服務(wù)將硬核加持物聯(lián)網(wǎng)通信應(yīng)用
如何為印度服務(wù)器申請和配置反向DNS記錄?
云加速是如何隱藏源服務(wù)器ip的
商湯科技為Claude API用戶提供搬家服務(wù)
微軟為 DeepSpeed 申請了商標(biāo)保護(hù),考慮通過在線云服務(wù)提供 DeepSpeed
評論