浪潮信息近日發(fā)布了一款全新的開源大模型——“源2.0-M32”。這款大模型在“源2.0”系列大模型的基礎(chǔ)上,進(jìn)行了深度的技術(shù)創(chuàng)新與升級(jí)。
其核心技術(shù)亮點(diǎn)在于“基于注意力機(jī)制的門控網(wǎng)絡(luò)”技術(shù)的引入。通過這一技術(shù),浪潮信息成功構(gòu)建了一個(gè)包含32個(gè)專家的混合專家模型(MoE),該模型不僅結(jié)構(gòu)先進(jìn),而且算力效率極高。在運(yùn)行時(shí),模型的激活參數(shù)僅為37億,這一數(shù)字在業(yè)界中堪稱領(lǐng)先。
更為值得一提的是,“源2.0-M32”在性能上全面對(duì)標(biāo)了擁有700億參數(shù)的LLaMA3開源大模型。在業(yè)界主流基準(zhǔn)評(píng)測(cè)中,它展現(xiàn)出了卓越的性能,為用戶提供了更為高效、精準(zhǔn)的服務(wù)。
此次“源2.0-M32”的發(fā)布,無(wú)疑將進(jìn)一步推動(dòng)人工智能領(lǐng)域的發(fā)展,同時(shí)也彰顯了浪潮信息在技術(shù)創(chuàng)新方面的領(lǐng)先地位。
-
浪潮
+關(guān)注
關(guān)注
1文章
476瀏覽量
25427 -
開源
+關(guān)注
關(guān)注
3文章
4209瀏覽量
46180 -
大模型
+關(guān)注
關(guān)注
2文章
3653瀏覽量
5196
發(fā)布評(píng)論請(qǐng)先 登錄
云知聲山海知音大模型2.0重磅發(fā)布
今日看點(diǎn):小米正式發(fā)布并開源新模型 MiMo-V2-Flash;磷酸鐵鋰開啟漲價(jià)潮
商湯科技正式發(fā)布并開源全新多模態(tài)模型架構(gòu)NEO
開源鴻蒙6.0 Release版本重磅發(fā)布
成都匯陽(yáng)投資關(guān)于大模型白熱化,應(yīng)用加速分化
浪潮信息發(fā)布"元腦SD200"超節(jié)點(diǎn),面向萬(wàn)億參數(shù)大模型創(chuàng)新設(shè)計(jì)
OpenAI發(fā)布2款開源模型
開源鴻蒙共建地圖4.0重磅發(fā)布
鴻之微發(fā)布鴻元AI大模型智能體2.0
飛利信與浪潮信息達(dá)成戰(zhàn)略合作
億緯鋰能八款開源電池王牌產(chǎn)品重磅發(fā)布
北斗智聯(lián)重磅發(fā)布智馭2.0艙駕融合產(chǎn)品
ShiMeta信息發(fā)布軟件接入DeepSeek大模型,AI助理正式上線——您的智能信發(fā)顧問!
筑基"AI+人才"培養(yǎng),浪潮信息攜手元腦伙伴拓爾思推出智慧教育新平臺(tái)
天瞳威視與浪潮信息達(dá)成戰(zhàn)略合作,推進(jìn)高階智駕車載計(jì)算系統(tǒng)創(chuàng)新
浪潮信息重磅發(fā)布“源2.0-M32”開源大模型
評(píng)論