国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

甲骨文、微軟再次合作!討論共享AI服務器,應對算力短缺!

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2023-05-12 01:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/李彎彎)日前消息,據相關人士透露,甲骨文(Oracle)和微軟(Microsoft)最近討論了一項不同尋常的協議,如果任何一家公司為使用大規模AI的云客戶提供的計算能力不足,雙方將相互租用服務器。

這筆交易將幫助這兩家互為競爭對手的云服務提供商滿足市場對可運行AI軟件的服務器日益增長的需求,這種需求已導致服務器短缺。

微軟和甲骨文曾多次合作

微軟和甲骨文雖然互為競爭對手,但卻曾多次攜手合作。2013年6月,微軟與甲骨文宣布達成合作,將Java、甲骨文數據庫以及其他甲骨文軟件帶到微軟WindowsServerHyper-V和WindowsAzure云平臺,這種合作為開發人員提供了極大的便利。

消費者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文軟件,包括Java、甲骨文數據庫、甲骨文WebLogicServer,甲骨文將提供完整支持。

作為合作的一部分,甲骨文將認證和支持自家軟件在微軟平臺上的運行,并為WindowsAzure用戶提供OracleLinux,微軟也向WindowsAzure用戶提供上述甲骨文軟件。

甲骨文與微軟的強強聯合,Java開發人員和企業用戶獲益最大,甲骨文數據庫與微軟云計算平臺的整合,使得他們可以直接將桌面上的傳統軟件遷移至云計算系統。

2019年6月,微軟和甲骨文又宣布建立一個新的合作關系,兩家公司將通過網絡直連他們的云服務,以便用戶可以在兩者之間無縫地遷移其工作負載和數據。

微軟和甲骨文發布的聯合聲明顯示,企業用戶將可以無縫地使用微軟Azure的分析和人工智能等服務,以及甲骨文自主數據庫等云服務。整體來說,雙方為用戶提供了一站式的服務,為用戶提供經營整個企業的所有云服務和應用程序。

據分析,微軟和甲骨文攜手合作是為了應對共同的競爭壓力。隨著移動互聯網快速發展,云計算市場重要性日益凸顯。微軟的AZure始終無法趕上亞馬遜云服務AWS的步伐,甲骨文更是由于最初對云計算前景的估計失誤而處境尷尬。

根據Synergy Research Group數據顯示,亞馬遜云服務以超過30%的市場占有率,成為全球云計算市場上的領跑者。微軟Azure以大約15%的市場份額位列第二,緊隨其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)這樣的小型云計算服務商,更是在上述四大云計算巨頭加強市場控制的壓力下,業務增速有所放緩。兩者攜手合作對于雙方來說都很有必要。

AI服務器需求快速增長

ChatGPT的出現掀起了全球AI大模型研究熱潮,無論是訓練還是推理,這都需要消耗大量的算力,尤其是訓練階段。以ChatGPT為例,根據OpenAI在2020年發表的論文,訓練階段算力需求與模型參數數量、訓練數據集規模等有關,且為兩者乘積的6倍:訓練階段算力需求=6×模型參數數量×訓練集規模。

GPT-3模型參數約1750億個,預訓練數據量為45 TB,折合成訓練集約為3000億tokens。即訓練階段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS

依據谷歌論文,OpenAI公司訓練GPT-3采用英偉達V100 GPU,有效算力比率為21.3%。GPT-3的實際算力需求應為1.48×109 PFLOPS(17117 PFLOPS-day)。

假設應用A100 640GB服務器進行訓練,該服務器AI算力性能為5 PFLOPS,最大功率為6.5 kw,則根據測算,訓練階段需要服務器數量=訓練階段算力需求÷服務器AI算力性能=2.96×108臺(同時工作1秒),即3423臺服務器工作1日。

在ChatGPT及各種AI大模型的推進下,AI服務器市場需求呈現高速增長趨勢。美國服務器供應商超微電腦在5月初的財報會議上表示,AI服務器業務正迎來創紀錄暴漲。公司向主要客戶交付新平臺的速度加快,2023財年有望迎來強勁收尾。

不過也因為需求強勁,AI服務器硬件資源也面臨短缺的問題,超微電腦就表示,AI服務器出貨量可能會受到供應鏈瓶頸的限制。

事實上,今年3月微軟公司就已經傳出面臨內部AI服務器硬件短缺的窘境。為此,微軟不得不對硬件資源采取配額供應的方式,限制其他內部AI工具開發團隊的使用量,從而確保基于GPT-4的新版必應聊天機器人和即將發布的新款Office工具獲得足夠的資源。

小結

可以看到,隨著AI大模型的研究推進,算力需求與日俱增,AI服務器企業也迎來大幅增長。然而由于受到供應鏈,比如高算力GPU芯片等限制,AI服務器硬件資源仍然面臨短缺。微軟和甲骨文的再次攜手合作,正是其應對當前困境的方式之一。




聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 微軟
    +關注

    關注

    4

    文章

    6741

    瀏覽量

    107852
  • AI
    AI
    +關注

    關注

    91

    文章

    39760

    瀏覽量

    301366
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    高達 1570 TOPS!支持多硬盤的高服務器 CSB2-N10

    CSB2-N10服務器內置10個分布式計算節點,單節點可提供6-157TOPS,可選瑞芯微、能、NVIDIA等平臺。支持主流AI大模型
    的頭像 發表于 01-06 16:33 ?472次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高達 1570 TOPS!支持多硬盤的高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b> CSB2-N10

    高達 1100 TOPS!內置 Jetson AGX Orin 模組的高服務器

    CSB1-N4AGXOrin最高可配置4個NVIDIAJetsonAGXOrin(64GB)計算節點,最高1100TOPS(INT8)。支持主流AI大模型的私有化部署、多種深度學習框架。擁有4個
    的頭像 發表于 12-17 16:31 ?573次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高達 1100 TOPS!內置 Jetson AGX Orin 模組的高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    覺醒 · AI共生——上海永銘電子2025AI服務器電容應用專題會議圓滿落幕

    隨著人工智能浪潮席卷全球,AI正以前所未有的速度爆發式增長。在這場決定未來的技術競速中,穩定、高效、可靠的電力供應是基石的核心。而電
    的頭像 發表于 11-03 14:00 ?886次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>覺醒 · <b class='flag-5'>AI</b>共生——上海永銘電子2025<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電容應用專題會議圓滿落幕

    成都匯陽投資關于甲骨文云計算訂單超預期,全球投資持續高景氣

    甲骨文披露 4550 億美元訂單超預期 全球投資高景氣 , 甲骨文披露4550億美元訂單超預期 ,微軟與 Nebius 達成五年 174
    的頭像 發表于 10-17 10:05 ?655次閱讀

    天波科普:超過30T的邊緣計算服務器可以做什么?

    網關的能力邊界,也涉及到高低。那么,目前邊緣計算服務器到多少算高呢?以廣東天波AI邊緣
    的頭像 發表于 09-28 11:18 ?668次閱讀
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超過30T的邊緣計算<b class='flag-5'>服務器</b>可以做什么?

    多達 48 個計算節點!Firefly 推出 CSC2-N48 AI 服務器

    Firefly最新推出CSC2-N48服務器,內置48個分布式計算節點,單節點可提供6TOPS-157TOPS,可選瑞芯微、
    的頭像 發表于 08-20 16:37 ?1599次閱讀
    多達 48 個計算節點!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關注焦點。大家在討論AI的時候,經常會提到AI
    的頭像 發表于 07-23 12:18 ?1601次閱讀
    一<b class='flag-5'>文</b>看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    看點:曝OpenAI與甲骨文加碼“星際之門” 富士康要求中國員工從印度撤離 微軟放慢AI芯片開發:專注務實設計

    OpenAI將從甲骨文額外租用總計約4.5吉瓦的數據中心電力,這相當于4.5座核反應堆的發電量。 據悉,在得州阿比林甲骨文已經建立了一個I大型數據中心;計劃將阿比林數據中心的電力容量從目前的1.2吉瓦擴展至約2吉瓦。 同時甲骨文
    的頭像 發表于 07-03 13:56 ?773次閱讀

    AI 服務器電源如何迭代升級?

    AI 需求增長的今天,AI 服務器電源正陷入 “性能瓶頸與國產替代并行、場景適配與技術創新交織” 的雙重挑戰。 由Big-Bit商務網
    的頭像 發表于 06-23 14:51 ?1367次閱讀

    服務器多少錢一臺?價格因素與選購指南

    入門級服務器可能只需幾千元,而高性能計算(HPC)或AI訓練專用服務器則可能高達數十萬元。一般來說,中小型企業常用的
    的頭像 發表于 06-17 09:45 ?2460次閱讀

    RAKsmart服務器如何賦能AI開發與部署

    AI開發與部署的復雜性不僅體現在算法設計層面,更依賴于底層基礎設施的支撐能力。RAKsmart服務器憑借其高性能硬件架構、靈活的資源調度能力以及面向AI場景的深度優化,正在成為企業突破
    的頭像 發表于 04-30 09:22 ?779次閱讀

    AI原生架構升級:RAKsmart服務器在超大規模模型訓練中的突破

    近年來,隨著千億級參數模型的崛起,AI訓練對的需求呈現指數級增長。傳統服務器架構在應對分布式訓練、高并發計算和顯存優化等場景時逐漸顯露瓶
    的頭像 發表于 04-24 09:27 ?789次閱讀

    智能服務器應用領域

    智能服務器應用領域 一、?金融行業? 智能風控與投顧?:通過集群支撐AI模型訓練,實現風
    的頭像 發表于 04-21 09:09 ?1546次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>應用領域

    RAKsmart服務器如何重塑AI高并發格局

    AI大模型參數量突破萬億級、實時推理需求激增的當下,傳統服務器架構的并發處理能力已逼近物理極限。RAKsmart通過“硬件重構+軟件定義”的雙引擎創新,推出新一代AI服務器解決方案。
    的頭像 發表于 04-03 10:37 ?912次閱讀

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對的需求持續攀升,直接推動了
    發表于 03-25 12:00