浪潮信息NF5468服務器LLaMA訓練性能
浪潮信息宣布旗下NF5468系列AI服務器率先支持英偉達最新推出的L40S GPU，可為人工智能大模型訓練和推理、元宇宙及圖形視頻處理等應用提供強大算力。實際測試表明，搭載8顆NVIDIA L40S的浪潮信息NF5468服務器大幅提升了LLaMA大模型的微調訓練性能。目前該產品已具備交付能力，客戶可以進行下單采購。
本次浪潮信息推出的算力系統是兼具訓練和推理能力的NF5468系列AI服務器，包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型號，產品可以在4U空間內搭載2顆高性能通用處理器、8張L40S GPU加速器及多顆高速互聯網絡，從而滿足大模型計算對高算力、高互聯的極致性能需求。在軟件上，產品支持浪潮信息最新推出的OGAI大模型智算軟件棧，為客戶提供高效的大模型生產力支撐。
針對業界廣泛使用的LLaMA開源大型語言模型，浪潮信息NF5468服務器搭載8顆L40S GPU進行了大模型訓練性能測試，得益于浪潮信息在NF5468服務器的優秀設計和大模型算法上的專業經驗，L40S GPU的強大性能得以充分發揮，實際測試數據表明LLaMA大模型微調訓練性能優異。
浪潮信息NF5468系列AI服務器搭載L40S GPU可以很好地完成LLaMA大模型訓練任務，并具備良好的性能擴展，將幫助客戶迅速部署高性能的AI算力系統、采納強大的GPU加速器和領先的軟件生態，加速生成式AI的產業創新和發展。
審核編輯：湯梓紅
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
服務器
+關注
關注
14文章
10251瀏覽量
91480 -
浪潮
+關注
關注
1文章
476瀏覽量
25418 -
AI
+關注
關注
91文章
39755瀏覽量
301365 -
大模型
+關注
關注
2文章
3648瀏覽量
5179
發布評論請先 登錄
相關推薦
熱點推薦
浪潮信息發布"元腦SD200"超節點，面向萬億參數大模型創新設計
北京2025年8月8日 /美通社/ -- 8月7日，浪潮信息發布面向萬億參數大模型的超節點AI服務器"元腦SD200"。該產品基于浪潮信息創新研發的多主機低延遲內存語義通信架構，以開放系統設計向上
國產算力新標桿：集特GSC-2000-12雙路服務器，重塑高性能計算的“中國方案”
當16核CPU遇上液冷超頻，國產服務器在金融與大模型戰場交出“性能翻倍、成本減半”的答卷在信創浪潮席卷金融、政務、智算中心的今天，一款名為集特GITSTARGSC-2000-12的2U雙路服務
飛利信與浪潮信息達成戰略合作
近日，2025年浪潮信息北京ISP戰略伙伴簽約授牌儀式成功舉辦。浪潮信息與北京飛利信電子技術有限公司等22家戰略合作伙伴達成簽約，其中將面向北京人工智能應用大市場，在產品技術共創、行業場景深化及區域
ai服務器是什么？與普通服務器有什么區別
AI服務器并非簡單的硬件堆砌，而是專門為人工智能任務設計的高性能計算系統。其核心目標是高效處理海量數據并行計算（如矩陣乘法、模型推理），并針對AI工作負載（如深度學習訓練、大模型推理）進行全方位優化。
戴爾PowerEdge R770服務器的性能測試
戴爾PowerEdge R7x0系列服務器長期以來一直是數據中心的核心設備，其以卓越的制造質量、周到的設計、性能、密度和可靠性以及多功能的2U外形而聞名。如今，隨著戴爾PowerEdge R770的推出，該系列服務器實現了重大飛
天瞳威視與浪潮信息達成戰略合作，推進高階智駕車載計算系統創新
北京2025年3月22日?/美通社/ -- 近日，蘇州天瞳威視電子科技有限公司與浪潮信息旗下蘇州元腦智能科技有限公司達成戰略合作協議。此次合作依托浪潮信息提供的車載算力平臺硬件系統、底層軟件環境
利用RAKsmart服務器托管AI模型訓練的優勢
AI模型訓練需要強大的計算資源、高效的存儲和穩定的網絡支持，這對服務器的性能提出了較高要求。而RAKsmart服務器憑借其核心優勢，成為托管AI模型
大功率AI服務器PSU的革新之路
在人工智能浪潮的席卷下，AI服務器作為支撐各類復雜AI運算的關鍵硬件，其電源（PSU）的性能表現成為了決定整個系統效能的重要因素。作為大功率AI服務器PSU領域的一項重大革新——混合式
工商網監
評論