浪潮信息宣布旗下NF5468系列AI服務器率先支持英偉達最新推出的L40S GPU,可為人工智能大模型訓練和推理、元宇宙及圖形視頻處理等應用提供強大算力。實際測試表明,搭載8顆NVIDIA L40S的浪潮信息NF5468服務器大幅提升了LLaMA大模型的微調訓練性能。目前該產品已具備交付能力,客戶可以進行下單采購。
本次浪潮信息推出的算力系統是兼具訓練和推理能力的NF5468系列AI服務器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型號,產品可以在4U空間內搭載2顆高性能通用處理器、8張L40S GPU加速器及多顆高速互聯網絡,從而滿足大模型計算對高算力、高互聯的極致性能需求。在軟件上,產品支持浪潮信息最新推出的OGAI大模型智算軟件棧,為客戶提供高效的大模型生產力支撐。
針對業界廣泛使用的LLaMA開源大型語言模型,浪潮信息NF5468服務器搭載8顆L40S GPU進行了大模型訓練性能測試,得益于浪潮信息在NF5468服務器的優秀設計和大模型算法上的專業經驗,L40S GPU的強大性能得以充分發揮,實際測試數據表明LLaMA大模型微調訓練性能優異。
浪潮信息NF5468系列AI服務器搭載L40S GPU可以很好地完成LLaMA大模型訓練任務,并具備良好的性能擴展,將幫助客戶迅速部署高性能的AI算力系統、采納強大的GPU加速器和領先的軟件生態,加速生成式AI的產業創新和發展。
審核編輯:彭菁
-
gpu
+關注
關注
28文章
5194瀏覽量
135427 -
浪潮
+關注
關注
1文章
476瀏覽量
25416 -
人工智能
+關注
關注
1817文章
50094瀏覽量
265269 -
英偉達
+關注
關注
23文章
4086瀏覽量
99168 -
AI服務器
+關注
關注
3文章
173瀏覽量
5535
原文標題:浪潮信息AI服務器率先支持L40S, 首發LLaMA訓練優異性能
文章出處:【微信號:浪潮AIHPC,微信公眾號:浪潮AIHPC】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
從GPU到ASIC,AI服務器電源芯片爆發!
GPU猛獸襲來!HBM4、AI服務器徹底引爆!
英偉達GPU直流供電架構與基本半導體SiC MOSFET在AI服務器PSU中的應用價值分析
羅姆強勢入局AI服務器800VDC電源方案 原創
浪潮信息發布"元腦SD200"超節點,面向萬億參數大模型創新設計
繼HBM之后,英偉達帶火又一AI內存模組!顛覆AI服務器與PC
飛利信與浪潮信息達成戰略合作
峰值效率98%,納微12kW AI數據中心服務器電源,支持英偉達Backwell GPU
GPU 維修干貨 | 英偉達 GPU H100 常見故障有哪些?
筑基"AI+人才"培養,浪潮信息攜手元腦伙伴拓爾思推出智慧教育新平臺
浪潮信息NF5468系列AI服務器率先支持英偉達最新推出的L40S GPU
評論