国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

又一大廠發力RISC-V,Meta第一代自研AI加速器MTIA

E4Life ? 來源:電子發燒友網 ? 作者:周凱揚 ? 2023-05-23 01:49 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

不久之前,Meta公開了他們在自研芯片上的進展,包括其第一代AI加速器MTIA,以及用于視頻轉碼的MSVP。作為有些“下坡路”傾向的互聯網大廠,Meta依然選擇自研硬件和芯片,可見Meta對AI的重視。

自研AI加速器MTIA

Meta過去的服務器架構主要依靠CPU來運行AI負載,但隨著AI模型對算力和內存的要求不斷提高,致使其不得不開始轉向特化的方案,比如GPU和NNPI之類的其他硬件加速器。可由于高性能GPU的成本持續走高,Meta很快就轉向了自研ASIC方案。

其實早在2020年,他們就設計了第一代的MTIA ASIC,不過當時僅僅只是用于MTIA的部分內部工作負載,主要是為Pytorch和Meta的推薦模型聯合設計出來的,用于推理加速。第一代MTIA基于臺積電7nm工藝打造,性能達到了102.4TOPS@INT8和51.2 TFLOPS@FP16,功耗僅有25W。

MTIA v1裸片 / Meta

單個MTIA加速器集成了64個處理單元(PE),最高128GB的片外LPDDR5內存和128MB的片上SRAM。值得一提的是,每個處理單元都由兩個RISC-V處理器核心構成,其中一個還配備了向量擴展。

從Meta公布的v1版系統設計上可以看出,MTIA加速器裝在了一個小型的雙M.2主板上,方便設計者輕松地集成在服務器中,通過PCIe 4.0 x8接口與主CPU相連,板卡功耗僅有35W。

當然了,作為OCP的創始者,Meta也在服務器的設計上采用了OCP的Yosemite V3規范,每個服務器包含12個加速器,并使用PCIe Switch相連,根據Meta的說法,加速器的數目和服務器的配置參數是為了優化目前及未來的負載而精心選擇的。

自研視頻轉碼芯片MSVP

值得注意的是,MTIA v1還只是他們在2020年開發的第一代AI加速器,Meta的目標是設計一系列推薦用MTIA ASIC。不過,MTIA v1在自研程度上或許沒有我們想象得那么深入,比如其RISC-V核心很可能是來自第三方IP廠商的。

而與MTIA一并公開的MSVP,卻是Meta首個真正意義上的內部自研ASIC方案,專為解決Meta的視頻點播和直播負載而設計,甚至考慮到了其AR/VR業務。Meta認為,這類轉碼芯片的存在,會為Meta未來在元宇宙上布局的生成式AI短視頻,提供更多支持。



MSVP / Meta


據Meta強調,Facebook網站上的視頻流量每天就有40億播放量,所以提升壓縮效率,提供更高的穩定性、可靠性以及近乎無限的擴展性,就成了他們對自研視頻轉碼芯片的要求。從MSVP的設計架構上來看,除了多處理器的CPU子系統外,芯片大部分由轉碼核心構成。

在解碼性能上,MSVP支持主流的H.264、HEVC、VP9和AV1編碼,最大支持10bit色深和YUV420色度采樣。而在編碼性能上,MSVP僅支持H.264和VP9編碼,最大支持8bit色深。

Meta給出的數據中,每個MSVP可以在最高圖像質量輸出時實現4K 15FPS的峰值轉碼速度,在標準圖像質量下實現4K 60FPS的轉碼速度,且單個PICe模塊的功耗只有10W左右。由于采用了硬件轉碼加速,MSVP是ibx264軟件編碼速度的9倍,是libVPX軟件編碼速度的50倍。

寫在最后

Meta最重要的一大營收來源就是廣告業務,所以相對其他互聯網公司,他們會將深度學習推薦模型(DLRM)放在第一位。隨著模型大小和復雜程度不斷增加,如何跟上這股趨勢同時保證ROI,就成了他們的主要問題。MTIA代表了他們在自研AI基礎設施上走出的重要一步。至于MSVP,則代表了Meta想要進一步發展短視頻、AR/VR內容的同時,減少網絡帶寬提高傳播力度的解決方案。未來Meta要想逆流而上,這些自研芯片無疑會提供不小的助力。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • Meta
    +關注

    關注

    0

    文章

    322

    瀏覽量

    12459
  • RISC-V
    +關注

    關注

    48

    文章

    2886

    瀏覽量

    53026
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    OrangePi RV2 深度技術評測:RISC-V AI融合架構的先行者

    OrangePi RV2是香橙派推出的款基于RISC-V架構的AI開發板,搭載KY X1八核處理。該板以“CPU 融合AI”為核心理念,
    發表于 03-03 20:19

    進迭時空發布新一代RISC-V AI CPU芯片,滿足端側大模型算需求

    電子發燒友網報道 1月29日,進迭時空線上發布新一代AI CPU芯片——K3。作為全球首顆符合RVA23規范的量產RISC-V芯片,K3實現多項技術創新:首次全球量產1024位寬高并行計算,達成
    的頭像 發表于 01-30 14:06 ?8370次閱讀

    進迭時空再獲數億元融資,下一代 RISC-V AI 芯片 K3 即將發布

    進迭時空再獲數億元融資,下一代 RISC-V AI 芯片 K3 即將發布
    的頭像 發表于 01-15 19:07 ?384次閱讀
    進迭時空再獲數億元融資,下<b class='flag-5'>一代</b> <b class='flag-5'>RISC-V</b> <b class='flag-5'>AI</b> 芯片  K3 即將發布

    重磅合作!Quintauris 聯手 SiFive,加速 RISC-V 在嵌入式與 AI 領域落地

    據科技區角報道半導體解決方案提供商 Quintauris 最近宣布和 RISC-V 處理 IP 領域的頭部廠商 SiFive 達成戰略合作,目標直接瞄準加速 RISC-V 在嵌入式、
    發表于 12-18 12:01

    探索RISC-V在機器人領域的潛力

    的硬件配置給人留下了深刻的第一印象: ? 核心處理: 搭載了進迭時空的K1系列高性能RISC-V處理,具備強大的通用計算能力和AI
    發表于 12-03 14:40

    Andes晶心科技推出新一代深度學習加速器

    高效能、低功耗 32/64 位 RISC-V 處理核與 AI 加速解決方案的領導供貨商—Andes晶心科技(Andes Technology)今日正式發表最新深度學習
    的頭像 發表于 08-20 17:43 ?2354次閱讀

    借勢 RISC-VAI 浪潮,元石智算打造算新范式

    RISC-V架構崛起的雙重浪潮下,國產服務系統行業正迎來關鍵發展機遇。 武漢元石智算科技有限公司(下文簡稱“元石智算”)作為國產服務系統創新的佼佼者,敏銳洞察這趨勢,憑借對
    的頭像 發表于 07-25 14:51 ?690次閱讀
    借勢 <b class='flag-5'>RISC-V</b>與 <b class='flag-5'>AI</b> 浪潮,元石智算打造算<b class='flag-5'>力</b>新范式

    RISC-V芯片出貨超百億顆!四大廠商重磅產品來襲,加速邊緣AI終端落地

    RISC-V基金會宣布,2024年基于RISC-V指令集的芯片出貨量超過百億顆,其中30%用于AI加速場景。本次盛會,知合計算、全志科技、博流智能、凌思微等廠商都攜最新
    的頭像 發表于 07-22 08:58 ?6903次閱讀
    <b class='flag-5'>RISC-V</b>芯片出貨超百億顆!四<b class='flag-5'>大廠</b>商重磅產品來襲,<b class='flag-5'>加速</b>邊緣<b class='flag-5'>AI</b>終端落地

    RISC-V 的平臺思維和生態思維

    RISC-V 的平臺思維時指出,平臺思維指的是硬件(CPU、加速器、總線等)、固件和軟件的整體集成。標準化 ISA 配置文件是必要的
    發表于 07-17 14:04 ?4187次閱讀

    RISC-V架構下AI融合算及其軟件棧實踐

    面對未來大模型(LLM)、AIGC等智能化浪潮的挑戰,進迭時空在RISC-V方向全面布局,通過精心設計的RISC-VDSA架構以及軟硬體的優化策略,將全力為未來打造高效且易用的AI
    的頭像 發表于 06-06 17:04 ?1432次閱讀
    <b class='flag-5'>RISC-V</b>架構下<b class='flag-5'>AI</b>融合算<b class='flag-5'>力</b>及其軟件棧實踐

    第一代半導體被淘汰了嗎

    在半導體產業的百年展歷程中,“第一代半導體是否被淘汰”的爭議從未停歇。從早期的鍺晶體管到如今的硅基芯片,以硅為代表的第一代半導體材料,始終以不可替代的產業基石角色,支撐著全球95%以上的電子設備
    的頭像 發表于 05-14 17:38 ?1095次閱讀
    <b class='flag-5'>第一代</b>半導體被淘汰了嗎

    大象機器人攜手進迭時空推出 RISC-V 全棧開源六軸機械臂產品

    識別聯調。 進迭時空致力于為智能機器人提供完整全棧優化的RISC-V AI軟硬件解決方案,第一代RISC-V AI CPU芯片K1已完成
    發表于 04-25 17:59

    思爾芯與玄鐵合作IP評測,加速RISC-V生態發展

    引言隨著近來Deepseek的橫空出世,降低算需求,為RISC-V帶來了更多的創新機遇。RISC-V計算架構搭乘上AI時代的快車,成為新一代
    的頭像 發表于 04-09 09:24 ?952次閱讀
    思爾芯與玄鐵合作IP評測,<b class='flag-5'>加速</b><b class='flag-5'>RISC-V</b>生態發展

    AI SoC# 奕斯偉EIC7700 全球首款基于RISC-V架構的邊緣計算SoC芯片

    EIC7700X是款性能優異的邊緣計算SoC芯片,搭載64位RISC-V處理神經網絡計算單元,支持全棧浮點計算和生成式大語言模型。
    的頭像 發表于 03-28 14:23 ?4055次閱讀
    <b class='flag-5'>AI</b> SoC# 奕斯偉EIC7700 全球首款基于<b class='flag-5'>RISC-V</b>架構的邊緣計算SoC芯片

    端側AI、數據中心,RISC-V已“上桌”

    電子發燒友網報道(文/梁浩斌)從低功耗、低成本應用,邁向高性能、高算,是RISC-V發展過程中的必經之路。隨著RISC-V生態的發展,包括工具鏈、IP核的進步完善,
    的頭像 發表于 03-21 00:04 ?2696次閱讀