AMD推出MI300X，可運行多達800億參數模型
6月13日（星期二），AMD舉行新品發布會，最重磅的新品當屬于具有大模型訓練功能的GPU Instinct MI300。
該芯片是針對LLM的優化版，擁有192gb的hbm3內存、5.2 tb/s的帶寬和896gb/s的Infinity Fabric帶寬。amd將1530億個晶體管集成在12個5納米芯片內。使用cdna 3 gpu結構、24個zen 4 cpu核心、128gb hbm3內存。與前作mi250、mi300相比，性能和效率分別提高了8倍和5倍。
mi300x提供的hbm與英偉達ai芯片h100的密度相比，最大2.4倍，帶寬最大1.6倍。amd的芯片將可以運行比英偉達更大的模型。
amd首席執行官蘇姿豐表示，mi300x支持400億個hugging face ai模型運行，并演示llm可以寫關于舊金山的詩。單一mi300x最多可運行一個參數800億個模型，這是世界上第一次在單一gpu上執行如此大的模型。
審核編輯：郭婷
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
芯片
+關注
關注
463文章
54010瀏覽量
466098 -
amd
+關注
關注
25文章
5684瀏覽量
139973 -
cpu
+關注
關注
68文章
11279瀏覽量
225000
發布評論請先 登錄
相關推薦
熱點推薦
性能狂飆！AMD新品叫板英偉達GB200，角逐5000億AI加速器賽道
電子發燒友原創 章鷹 當地時間6月12日，在美國舊金山圣何塞舉辦的“AMD Advancing AI 2025”大會上，AMD董事長兼首席執行官蘇姿豐正式發布了開放式的AI平臺，并且推出橫跨芯片
如何在NVIDIA Jetson AGX Thor上部署1200億參數大模型
我們將嘗試能否在 Jetson AGX Thor 上部署并成功運行高達 1,200 億參數量的 gpt-oss-120b 大模型。
vivo X300 Pro首發搭載瑞聲科技超感振動馬達
10月13日，vivo舉行新品發布會，正式推出年度影像旗艦vivo X300系列，開啟X系列新旅程！
米爾RK3576部署端側多模態多輪對話,6TOPS算力驅動30億參數LLM
2 億參數模型的增量訓練；
接入語音能力：在main.cpp中集成 VAD（語音活動檢測）+ ASR（語音識別，如 Whisper-Tiny INT8）模塊，將語音轉換為文本后接入現有推理流水線，實現
發表于 09-05 17:25
納芯微推出NS800RT737x系列高性能實時控制MCU
在實時性要求極高的電力電子與電力拖動領域，如新能源逆變器、工業伺服控制及車載電機驅動中，系統必須在毫秒甚至微秒級完成數據處理與響應。納芯微全新推出的NS800RT737x系列MCU（DSP
?Groq LPU 如何讓萬億參數模型「飛」起來？揭秘 Kimi K2 40 倍提速背后的黑科技
Groq LPU 如何讓萬億參數模型「飛」起來？揭秘 Kimi K2 40 倍提速背后的黑科技? 最近，Moonshot AI 的千億參數大模型 ?Kimi K2? 在 ?GroqCloud? 上
SCE-MI協議簡介
SCE-MI（Standard Co-Emulation API: Modeling Interface）是一種標準化的協同仿真建模接口協議，旨在為SoC設計驗證提供高效的硬件仿真與軟件模型協同工作環境。
重磅！AMD將恢復向中國出口MI308芯片！
電子發燒友網獲悉，AMD向中國出口的MI308芯片將恢復出貨。AMD方面表示，“我們最近收到特朗普政府的通知，向中國出口MI308產品的許可證申請將被推進至審核流程。我們計劃在許可證獲
AMD Power Design Manager 2025.1現已推出
AMD Power Design Manager 2025.1 版（PDM）現已推出——增加了對第二代 AMD Versal AI Edge 和 第二代 Versal Prime 系列的支持，并支持已量產的
華為助力中國石油發布3000億參數昆侖大模型
5月28日，中國石油發布3000億參數昆侖大模型，標志著中國石油在人工智能領域又邁出關鍵一步，全力推動“人工智能+”行動走深走實。 ? 中國石油發布3000億
技嘉推出 STEALTH ICE 系列 AMD X870/B850 背插主板
的高度需求，技嘉正式推出新一代 STEALTH ICE 系列，涵蓋 AMD X870 與 B850 主板搭配 GIGABYTE C500 PANORAMIC STEALTH ICE 機箱，打造純白外觀
高通推動終端側AI釋放全新價值
通過蒸餾技術將百億參數模型壓縮至端側設備可運行的創新，讓AI推理成本大幅下降，為終端側AI的爆發按下加速鍵。低成本、高靈活性的特性引發了行業對這一技術突破的深度思考，也驗證了AI格局即將向大規模推理轉變的趨勢。
STM32CubeIDE在運行時顯示Failed to execute MI command，為什么？
新手求助，第一次接觸板子不知道操作了什么，在生成最基礎代碼之后運行顯示Failed to execute MI command是什么原因呢？開發板與電腦的連接沒有出現問題（彈窗如下）。
另外我在生
發表于 03-07 10:15
將SSD300模型轉換為IR時收到錯誤的原因？
將 SSD300 模型轉換為 IR 時收到錯誤：
[ FRAMEWORK ERROR ] Model Optimizer is not able to parse /OpenVINO
發表于 03-07 07:58
工商網監
評論