據(jù)悉,亞馬遜云服務(wù)部門于5月23日宣布,與人工智能新貴Hugging Face達(dá)成合作協(xié)議,在定制化計(jì)算芯片Inferentia2上以更優(yōu)惠價(jià)格運(yùn)行上千種AI模型。
Hugging Face作為一家估值為45億美元的公司現(xiàn)已成為了眾多AI研究員和開發(fā)者分享Chatbot和相關(guān)軟件的核心平臺(tái),受到亞馬遜、谷歌、英偉達(dá)等巨頭的青睞。
據(jù)了解,Hugging Face是開發(fā)者獲取和調(diào)整諸如Meta Platforms的Llama 3等開源AI模型的首選平臺(tái)。
當(dāng)開發(fā)者完成對(duì)開源AI模型的調(diào)整后,往往希望能利用此模型驅(qū)動(dòng)軟件。因此,亞馬遜和Hugging Face決定聯(lián)手,通過在Inferentia2定制化亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)芯片上實(shí)現(xiàn)這一目標(biāo)。
Hugging Face的產(chǎn)品及增長(zhǎng)主管Jeff Boudier表示,對(duì)于他們而言,效率至關(guān)重要——即確保盡可能多的用戶能夠運(yùn)行模型,且以最具性價(jià)比的方式進(jìn)行。
盡管英偉達(dá)在訓(xùn)練模型領(lǐng)域處于領(lǐng)先地位,但AWS堅(jiān)信其芯片有能力以更低成本運(yùn)行已訓(xùn)練好的模型。
AWS人工智能產(chǎn)品負(fù)責(zé)人Matt Wood指出,用戶可能每月僅需訓(xùn)練一次這些模型,而實(shí)際應(yīng)用中,可能需要每小時(shí)對(duì)其進(jìn)行數(shù)萬次推理,這正是Inferentia2的獨(dú)特優(yōu)勢(shì)所在。
-
AI
+關(guān)注
關(guān)注
91文章
39774瀏覽量
301372 -
模型
+關(guān)注
關(guān)注
1文章
3752瀏覽量
52101 -
英偉達(dá)
+關(guān)注
關(guān)注
23文章
4087瀏覽量
99173 -
亞馬遜
+關(guān)注
關(guān)注
8文章
2731瀏覽量
85738
發(fā)布評(píng)論請(qǐng)先 登錄
NVIDIA Alpamayo 1模型在Hugging Face平臺(tái)下載量已突破10萬次
亞馬遜云科技推出全新的Amazon AI Factories 將客戶現(xiàn)有基礎(chǔ)設(shè)施轉(zhuǎn)化為高性能AI環(huán)境
亞馬遜發(fā)布新一代AI芯片Trainium3,性能提升4倍
什么是AI模型的推理能力
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI的未來:提升算力還是智力
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+內(nèi)容總覽
AI 芯片浪潮下,職場(chǎng)晉升新契機(jī)?
【書籍評(píng)測(cè)活動(dòng)NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》
亞馬遜云科技在2025紐約峰會(huì)發(fā)布多項(xiàng)AI agent創(chuàng)新
亞馬遜云攜手AI新創(chuàng)企業(yè)Hugging Face,提升AI模型在定制芯片計(jì)算性能
評(píng)論