11月16日消息,美國時間周三,微軟發(fā)布了首款自研人工智能(AI)芯片,可用于訓(xùn)練大語言模型,擺脫對英偉達(dá)昂貴芯片的依賴。微軟還為云基礎(chǔ)設(shè)施構(gòu)建了基于Arm架構(gòu)的CPU。這兩款自研芯片旨在為Azure數(shù)據(jù)中心提供動力,并幫助該公司及其企業(yè)客戶準(zhǔn)備迎接AI時代的到來。
微軟的Azure Maia AI芯片和Arm架構(gòu)Azure Cobalt CPU將于2024年上市。今年,英偉達(dá)的H100 GPU需求激增,這些處理器被廣泛用于訓(xùn)練和運行生成圖像工具和大語言模型。這些GPU的需求非常高,甚至在eBay上的售價超過了4萬美元。
微軟Azure硬件系統(tǒng)和基礎(chǔ)設(shè)施主管拉尼·博卡(Rani Borkar)在接受采訪時解釋說:“微軟在芯片開發(fā)方面有著悠久的歷史。”早在20多年前,微軟就與人合作開發(fā)了Xbox的芯片,甚至還合作設(shè)計了Surface設(shè)備的芯片。博卡表示:“這些努力都是建立在這些經(jīng)驗基礎(chǔ)之上的。2017年,我們開始構(gòu)建云硬件堆棧,并開啟了這段旅程,使我們走上了構(gòu)建新自研芯片的軌道。”
新的Azure Maia AI芯片和Azure Cobalt CPU都是由微軟內(nèi)部構(gòu)建的,并對其整個云服務(wù)器堆棧進(jìn)行了深度檢修,以優(yōu)化性能、功耗和成本。博卡表示:“我們正在重新考慮人工智能時代的云基礎(chǔ)設(shè)施,并真正優(yōu)化該基礎(chǔ)設(shè)施的每一層。”
Azure Cobalt CPU以元素“鈷”(鈷藍(lán)是重要的藍(lán)色顏料)命名,是一款128核芯片,基于Arm的Neoverse CSS設(shè)計,并為微軟定制。它旨在為Azure上的通用云服務(wù)提供支持。博卡解釋稱:“我們花了很多心思,不僅要讓它具有高性能,還要注意到電源管理。為此我們做了許多有意識的設(shè)計選擇,包括控制每個內(nèi)核和每臺虛擬機上性能和功耗的能力。”
微軟目前正在測試Cobalt CPU的工作負(fù)載,如Teams和SQL服務(wù)器,并計劃明年為客戶提供各種工作負(fù)載的虛擬機。雖然博卡沒有直接將其與亞馬遜在AWS上提供的Graviton 3服務(wù)器進(jìn)行比較,但與微軟目前用于Azure的基于Arm的服務(wù)器相比,應(yīng)該會有一些明顯的性能提升。博卡表示:“我們的初步測試表明,我們的性能比目前使用商用Arm服務(wù)器的數(shù)據(jù)中心提高了40%。” 微軟還沒有分享完整的系統(tǒng)規(guī)格或基準(zhǔn)。
-
微軟
+關(guān)注
關(guān)注
4文章
6741瀏覽量
107856 -
gpu
+關(guān)注
關(guān)注
28文章
5194瀏覽量
135441 -
AI芯片
+關(guān)注
關(guān)注
17文章
2128瀏覽量
36773
原文標(biāo)題:微軟發(fā)布自研AI芯片!
文章出處:【微信號:CSF211ic,微信公眾號:中國半導(dǎo)體論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
成功點亮并上車!對標(biāo)Orin X,Momenta自研芯片來了
阿里自研AI芯片“真武”亮相 “通云哥”黃金三角浮出水面
微軟發(fā)布AI芯片Maia 200,性能超越谷歌TPU和亞馬遜Trainium
今日看點:微軟發(fā)布新定制 AI 芯片 Maia 200;國芯科技累計出貨2500萬顆創(chuàng)新高
寶馬自研AI智能體平臺“蓋亞”正式投入運行
挑戰(zhàn)低功耗極限!杭州研極微發(fā)布「研極芯Gen2」以業(yè)界1/10功耗樹立續(xù)航新標(biāo)桿
AI業(yè)界新聞:OpenAI官宣自研首顆芯片 黃仁勛時隔9年再次給馬斯克“送貨”
微軟Visual Studio 2026 發(fā)布!AI 深度融合、性能提升
OpenAI將與博通合作量產(chǎn)自研AI芯片 博通第四財季AI芯片收入展望超預(yù)期
Arm CEO:公司正在自研芯片
新思科技攜手微軟借助AI技術(shù)加速芯片設(shè)計
神眸2025春季新品發(fā)布會:以芯片創(chuàng)新引領(lǐng)AI智能影像新時代,發(fā)布極致低功耗「研極芯」
高端芯片自研,服務(wù)器芯片傳來好消息!
微軟發(fā)布自研AI芯片!
評論