微軟已經為深度學習優化庫 DeepSpeed 申請了商標保護。該商標于2020年12月8日提交,其中提到“為人工智能處理和深度學習提供臨時使用的在線不可下載的計算機軟件”,這表明微軟可能在考慮通過在線云服務提供 DeepSpeed。
該庫于今年 2 月發布,可以在適度的硬件上訓練大規模的人工智能模型。它只需要使用 800 塊 Nvidia V100 顯卡就可以創建具有萬億參數的深度學習模型,是目前世界上最大的模型的 5 倍多。如果沒有DeepSpeed,同樣的任務需要 4000 塊 Nvidia A100(性能比 V100 快2.5倍),而且事件縮短了 100 多天。
在 GPT-3 顯示模型在神經網和數據集越大的情況下繼續改進后,這個工具特別有用。然而,這確實有可能將最新的創新推到資源較少的小型團隊的范圍之外,但DeepSpeed已經允許這些團隊以最小的硬件與更大的服務競爭。轉移到云處理可能會使大型模型AI訓練更容易獲得。
責任編輯:haq
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
微軟
+關注
關注
4文章
6741瀏覽量
107850 -
人工智能
+關注
關注
1817文章
50094瀏覽量
265275 -
云服務
+關注
關注
0文章
860瀏覽量
40667
發布評論請先 登錄
相關推薦
熱點推薦
醫療廢物智能在線監管系統:如何用物聯網技術守護醫療安全
智能在線監管系統應運而生,成為實現醫廢“全程可追溯、閉環可監管”的關鍵技術手段。 系統如何構成? 典型的醫療廢物智能在線監管系統通常采用 物聯網(IoT) 、 大數據 與 云平臺 相結合的分布式架構。系統
微軟 Ignite 2025 大會:Splashtop 全面強化微軟環境的安全與效率
MicrosoftIntune與MicrosoftEntra,通過遠程訪問、無密碼認證、遠程支持及自動端點管理(AEM)等核心能力,強化混合IT環境的安全管理與運營效率,已成為微軟云服務
由Memfault賦能的Nordic-nRF Cloud云服務將硬核加持物聯網通信應用
的 nRF Cloud 將 Memfault 經過驗證的可觀測性和無線 (OTA) 基礎設施直接引入 Nordic 成熟的云服務平臺 nRF Cloud。
今年早些時候,Nordic 收購了致力于大規模部署
發表于 11-27 22:30
云加速是如何隱藏源服務器ip的
服務器IP是保護服務器的一項重要安全措施。 華納云 為大家分享受一下內容: 隱藏源服務器IP的主要目的是防止惡意攻擊者通過直接訪問
是否有可能在 FX10 中嵌入一個電源傳輸堆棧并使用這兩個引腳進行通信?
電阻接地。這應該允許 FX10 知道電纜連接方向并相應地控制內部 USB 多路復用器。
將來是否有可能在 FX10 中嵌入一個電源傳輸堆棧并使用這兩個引腳進行通信?
發表于 07-21 07:59
華為乾崑智能車云服務通過CCRC IT產品信息安全認證
華為乾崑智能車云服務順利通過中國網絡安全審查認證和市場監管大數據中心(CCRC)的IT產品信息安全認證,成為首個獲得車聯網云服務平臺安全和數
HarmonyOS5云服務技術分享--云函數預加載文章整理
??嗨,親愛的開發者朋友們!???
今天咱們來聊聊如何使用??端云一體化方式開發云函數??,尤其針對華為的預加載服務。整個過程會手把手帶你從零開始,涵蓋創建工程、編寫代碼、調試到部署,幫你輕松掌握
發表于 05-22 20:33
HarmonyOS5云服務技術分享--Serverless抽獎模板部署
portal/dist目錄全選文件壓縮
千萬!不要!直接壓縮dist文件夾!
正確示例:壓縮后打開zip應直接看到index.html
2?? ??云托管配置??
開通云托管服務 → 創建新站點
上傳
發表于 05-22 20:25
HarmonyOS5云服務技術分享--云存儲指南
實時同步
權限可控:精確到每個文件的訪問權限
海量存儲:單個文件最大支持1GB上傳
二、文件上傳四步走
??準備工作??:確保用戶已通過認證服務登錄(推薦用華為帳號登錄)
// 1. 獲取本地文件路徑
發表于 05-22 19:17
HarmonyOS5云服務技術分享--ArkTS開發Node環境
氣的方式探索這個功能,結尾還有實用總結和鼓勵彩蛋哦~?
? 一、HarmonyOS云函數開發:核心能力與價值
HarmonyOS的云函數(Serverless)為開發者提供了??無服務
發表于 05-22 17:21
HarmonyOS5云服務技術分享--云函數創建配置指南
大家好!今天咱們來一起探索如何在華為HarmonyOS的AGC云函數服務中創建和配置函數,手把手教你用HTTP觸發器玩轉云函數。無論你是剛入門還是想優化現有功能,這篇指南都會給你清晰的指引,咱們直接
發表于 05-22 17:08
有可能在 FX3 GPIF2 中創建兩個獨立的狀態機嗎?
我想,如果我想通過 FX3 GPIF2 創建兩個獨立的傳輸流接口,我需要在 GPIF2 設計器中創建兩個獨立的狀態機,我是否有可能在 GPIF2 設計器中創建兩個獨立的狀態機?
發表于 05-20 06:14
阿里云是什么?企業不可不知的云端架構服務!
穩定性上皆有完善的解決方案,同時也提供加速器產品 CDN、DCDN。 內容分發網絡 CDN 阿里云內容分發網絡(Content Delivery Network,CDN)的加速服務操作易上手,用戶可以輕松
微軟可能在考慮通過在線云服務提供DeepSpeed
評論