近日，在權(quán)威財經(jīng)媒體36氪主辦的“WISE顛覆·AIGC”主題產(chǎn)業(yè)峰會上，墨芯人工智能憑借業(yè)界領(lǐng)先的AI計算平臺，獲頒“下一個百億規(guī)模AIGC產(chǎn)品”稱號，被推舉為新一代人工智能領(lǐng)域最具生產(chǎn)力的代表產(chǎn)品。

該獎項由36氪綜合行業(yè)分析師等專家團分析與調(diào)研數(shù)據(jù)，旨在評估AGI時代現(xiàn)象級產(chǎn)品，評出站在熱潮的巔峰定義和捕捉新機會的企業(yè)。

墨芯榮膺此獎，充分體現(xiàn)出在AIGC時代技術(shù)優(yōu)勢和巨大潛力，也再度印證了稀疏計算作為趨勢性技術(shù)的巨大價值獲得了廣泛關(guān)注。

稀疏計算

從根本上解決大模型發(fā)展與算力的矛盾

ChatGPT等AIGC應(yīng)用的爆發(fā)，加速了新的變革機會的到來，帶動大模型、芯片等相關(guān)的產(chǎn)業(yè)鏈各環(huán)節(jié)的躍遷。在AIGC產(chǎn)業(yè)鏈中，算力作為基礎(chǔ)設(shè)施，被公認為最具投資價值的賽道。

紅杉資本《生成式AI：一個創(chuàng)造性的新世界》指出，生成式AI可能創(chuàng)造數(shù)萬億美元的經(jīng)濟價值。ChatGPT走紅以后，算力的供不應(yīng)求已成為焦點，AI芯片頭部企業(yè)創(chuàng)下史上最高單季銷量紀(jì)錄，遠超過先前《華爾街日報》估計的銷售額，算力市場的需求仍在持續(xù)攀升。

在算力提升的各種探索方向上，稀疏計算是業(yè)界公認最有前景的的技術(shù)：

稀疏模型將取代稠密模型成為主流——已成為業(yè)界權(quán)威認同的趨勢，并得到Google,微軟，Meta,英偉達等巨頭的投入。

Google的AI負責(zé)人Jeff Dean早已指出：稀疏化是AI模型的發(fā)展趨勢，“今天的模型是稠密而低效的，Pathways（Google提出的統(tǒng)一架構(gòu)）將使它們變得稀疏和高效。” Google的MoE（稀疏門控的專家混合層）及Pathways架構(gòu)等，都是稀疏計算理念的成果，并在實踐中取得比稠密模型更高的效率。芯片巨頭英偉達也在其安培架構(gòu)中首度引入細粒度結(jié)構(gòu)化稀疏，支持2倍稀疏化。

大模型如何實現(xiàn)廣泛應(yīng)用，答案也早由Google Research與OpenAI的聯(lián)合論文揭示：《Sparse is Enough in Scaling Transformers》。

論文地址：https://arxiv.org/pdf/2111.12763.pdf

稀疏計算被眾多巨頭看好的原因，正是由于它能從根本上解決大模型發(fā)展與算力的矛盾：稀疏計算讓大模型既能在參數(shù)量上躍升若干個數(shù)量級的同時，又不因參數(shù)增長而產(chǎn)生過大的計算量，解決了大模型的高算力需求、高功耗、高費用等痛點，帶來“多贏”的效果。

有了稀疏計算的加持，業(yè)界大模型的部署也能迎來更廣闊的施展空間：更多企業(yè)、開發(fā)者能夠基于“用得起”的算力服務(wù)，來進行AIGC等應(yīng)用的開發(fā)與大模型的行業(yè)落地。

墨芯

稀疏計算引領(lǐng)者

此次墨芯登上“下一個百億規(guī)模AIGC產(chǎn)品”榜單，正是基于墨芯長期在稀疏計算領(lǐng)域的深耕。AIGC時代，墨芯率先以稀疏計算技術(shù)、產(chǎn)品與實踐的強大實力，成為AIGC算力層的中堅代表：

01

創(chuàng)新技術(shù)引領(lǐng)

當(dāng)業(yè)界對神經(jīng)網(wǎng)絡(luò)高倍稀疏化算法尚停留在研究層面時，墨芯已率先將算法和硬件結(jié)合落地，基于軟硬協(xié)同設(shè)計推出首顆稀疏芯片Antoum?，實現(xiàn)稀疏神經(jīng)網(wǎng)絡(luò)的高模型精度和高硬件利用效率，充分釋放稀疏計算的潛力。

Antoum?打破業(yè)界紀(jì)錄，成為首顆支持高稀疏倍率的AI芯片：支持高達32倍稀疏張量計算，此前業(yè)內(nèi)主流芯片僅支持2倍稀疏化，Antoum?將這一紀(jì)錄提升了16倍。

02

產(chǎn)品屢破性能紀(jì)錄

在英偉達、英特爾等巨頭云集的國際權(quán)威基準(zhǔn)測評MLPerf中，墨芯連續(xù)兩屆蟬聯(lián)冠軍，并在MLPerf Inference 3.0斬獲雙冠：

在開放分區(qū)Resnet-50賽道中，墨芯S40計算卡以127,375 FPS，斬獲單卡算力全球第一；

墨芯S30計算卡以4卡383,520 FPS算力，獲整機4卡算力全球第一。

墨芯計算卡基于12nm的Antoum?芯片，性能已戰(zhàn)勝4nm工藝產(chǎn)品，站在世界頂尖水平，足以證明稀疏計算的強大優(yōu)勢。

03

產(chǎn)業(yè)實踐推動大模型應(yīng)用

基于軟硬協(xié)同的AI計算平臺，墨芯為行業(yè)帶來高算力、低延時、低功耗的算力解決方案，不僅滿足大模型與AIGC等應(yīng)用的海量算力需求，同時破解延時難題，實現(xiàn)推理加速，為大模型在眾多行業(yè)場景的落地提供算力基礎(chǔ)設(shè)施。墨芯的AI計算卡產(chǎn)品已實現(xiàn)量產(chǎn)，并在多個領(lǐng)域獲得客戶認可。

AI 2.0時代已經(jīng)來臨，大模型即將與各行業(yè)深度融合，產(chǎn)生更豐富多樣的AIGC等應(yīng)用。稀疏計算已站在這場變革之巔，引領(lǐng)算力的進化與發(fā)展；墨芯亦將以創(chuàng)新的稀疏計算方案，為大模型應(yīng)用提供強大動力支撐，為AIGC打開更廣闊的發(fā)展空間，去賦能下一個AIGC現(xiàn)象級產(chǎn)品。

審核編輯 ：李倩