英特爾? Gaudi 2EAI加速器現已為DeepSeek-V3.1提供深度優化支持。憑借出色的性能和成本效益,英特爾Gaudi 2E以更低的投入、更高的效率,實現從模型訓練的深度突破到推理部署的實時響應,為大模型的加速落地提供新選擇。

英特爾Gaudi 2E配備96 GB大容量內存,搭載先進的HBM控制器,針對隨機訪問、線性訪問場景進行深度優化,有效避免了AI訓練或推理任務的延遲,從而保障了計算流程的流暢性。英特爾Gaudi 2E擁有卓越的可擴展能力,支持多卡互聯,為用戶提供了靈活的、可定制化的解決方案,滿足其不斷變化的AI需求。
英特爾Gaudi 2E以出色的適配性和易用性,為諸多大模型應用提供支持。實測數據顯示,在英特爾Gaudi 2E的支持下,DeepSeek-V3.1無論是在問答還是編碼上,能力都有著顯著提升:在部署了8張英特爾Gaudi 2E的一體機服務器上運行DeepSeek-V3.1模型,在輸入/輸出token長度均為1k、多用戶并發數為30的條件下,每個并發token生成速率達到每秒10 token;在輸入/輸出token長度均為2k、多用戶并發數為28的條件下,每個并發token生成速率達到每秒10 token。

無論是要求邏輯嚴密的數學計算還是考驗分析能力的知識理解,基于英特爾Gaudi 2E的DeepSeek-V3.1均能迅速響應,高效完成解析。這種強大的組合,不僅大幅提升了問題解決的效率,更助力用戶在多維度、高難度的推理場景中輕松跨越障礙。
通過開放的架構、強大的技術支持和緊密的生態合作,英特爾將持續賦能AI產業的創新與發展,加速AI大模型技術的普惠落地。
-
AI加速器
+關注
關注
1文章
73瀏覽量
9488
發布評論請先 登錄
DeepSeek V3.1發布!擁抱國產算力芯片
邊緣計算中的AI加速器類型與應用
亞馬遜云科技第三期創業加速器圓滿收官 助力初創釋放Agentic AI潛力 加速全球化進程
18A工藝大單!英特爾將代工微軟AI芯片Maia 2
航裕電源以大電流技術為國內外超導加速器項目提供優質方案
亞馬遜云科技宣布推出Qwen3與DeepSeek-V3.1模型的完全托管服務
直擊Computex2025:英特爾重磅發布新一代GPU,圖形和AI性能躍升3.4倍
英特爾發布全新GPU,AI和工作站迎來新選擇
Intel-Altera FPGA:通信行業的加速引擎,開啟高速互聯新時代
英特爾借助開放生態系統,加速邊緣AI創新
英特爾Gaudi 2E AI加速器為DeepSeek-V3.1提供加速支持
評論