以大模型為代表的新一代人工智能技術(shù)是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)和重要驅(qū)動力量，隨著對算力需求的日益高漲，人工智能算力底座公司日益成為新一波人工智能技術(shù)浪潮重要組成部分。

2024年5月，摩爾線程與智譜AI開展了新一輪GPU 大模型適配及性能測試，包括大模型推理以及基于夸娥（KUAE）千卡智算集群的大模型預(yù)訓(xùn)練。測試用相關(guān)大模型來自智譜AI基座大模型及其開源版本。

測試結(jié)果表明，在推理方面，摩爾線程自研全功能GPU顯著優(yōu)于基準(zhǔn)對比產(chǎn)品RTX 3090和RTX 4090，在全部測試用例中優(yōu)于RTX 3090，在多batch下優(yōu)于RTX 4090；在訓(xùn)練方面，摩爾線程夸娥千卡智算集群訓(xùn)練精度與A100集群誤差在1%以內(nèi)，夸娥千卡智算集群性能擴展系數(shù)超過90%，模型算力利用率（MFU）與A100集群相當(dāng)。

智譜AI致力于打造新一代認知智能大模型，專注于做大模型的中國創(chuàng)新。早在2022年8月，智譜AI開源了GLM-130B模型，2023 年，智譜 AI 推出千億基座對話模型ChatGLM，開源版本的 ChatGLM-6B 讓大模型開發(fā)者的本地微調(diào)和部署成為可能，在開源社區(qū)受到廣泛歡迎。從自主開發(fā)的原創(chuàng)GLM預(yù)訓(xùn)練框架搭建之初，智譜AI就十分注意算力利用率問題。通過國產(chǎn)算力適配，智譜AI已支持10余種國產(chǎn)硬件生態(tài)，努力推動建設(shè)大模型軟硬件生態(tài)和與國產(chǎn)芯片企業(yè)的聯(lián)合創(chuàng)新與升級。

摩爾線程出色的測試結(jié)果對于更好建設(shè)中國大模型產(chǎn)品技術(shù)生態(tài)具有重要意義。

技術(shù)自主新突破：摩爾線程千卡智算集群成功應(yīng)用ChatGLM預(yù)訓(xùn)練，標(biāo)志著摩爾線程全功能GPU算力底座有能力支撐行業(yè)領(lǐng)先的大模型全鏈條研發(fā)，有助于增強技術(shù)自主性，保障信息安全。大模型訓(xùn)練與推理將能夠在全國產(chǎn)可控的算力底座上運行，在滿足信息安全的前提下服務(wù)于千行百業(yè)，成為發(fā)展AI+新質(zhì)生產(chǎn)力的核心力量。

助力打破算力瓶頸：Scaling laws（尺度定律）已經(jīng)預(yù)示了AGI技術(shù)發(fā)展對算力日益增長的需求規(guī)律，同時也表明有限的算力供應(yīng)可能成為制約大模型發(fā)展的關(guān)鍵瓶頸。本次測試結(jié)果顯示，國產(chǎn)GPU算力底座有能力助力中國人工智能技術(shù)發(fā)展。摩爾線程作為國產(chǎn)GPU的代表，將助力提高大模型迭代速度和自研水平，助推中國大模型更好發(fā)展。

開拓創(chuàng)新空間：算法、算力、數(shù)據(jù)是AGI技術(shù)的核心要素，摩爾線程與智譜AI卓有成效的適配與測試合作，有利于推動實現(xiàn)軟硬件的深度融合與協(xié)同創(chuàng)新，有利于助力中國大模型實現(xiàn)更好發(fā)展。

降低運營成本：摩爾線程憑借自研國產(chǎn)全功能GPU，致力于構(gòu)建先進的AGI算力底座，不僅能夠兼容適配全球主流AI軟件生態(tài)，節(jié)約軟件遷移成本，而且在單位算力總體擁有成本上擁有較為明顯優(yōu)勢，能夠有效降低大模型產(chǎn)品研發(fā)成本。

智譜AI硬件適配與測試負責(zé)人表示：“摩爾線程夸娥千卡智算集群在計算精度和穩(wěn)定性等方面的表現(xiàn)令人印象深刻，智譜AI將與包括摩爾線程在內(nèi)的大模型產(chǎn)業(yè)生態(tài)合作伙伴攜手，共同推動大模型產(chǎn)業(yè)生態(tài)繁榮發(fā)展。”

關(guān)于智譜AI

北京智譜華章科技有限公司（簡稱：智譜AI）致力于打造新一代認知智能大模型，專注于做大模型的中國創(chuàng)新。公司踐行Model as a Service（MaaS）的市場理念，推出大模型MaaS開放平臺，打造高效率、通用化的“模型即服務(wù)”AI開發(fā)新范式。通過認知大模型鏈接物理世界的億級用戶，智譜AI基于完整的模型生態(tài)和全流程技術(shù)支持，為千行百業(yè)帶來持續(xù)創(chuàng)新與變革，加速邁向通用人工智能的時代。

關(guān)于摩爾線程

摩爾線程是一家以全功能GPU芯片設(shè)計為主的集成電路高科技公司，能夠為廣泛的科技生態(tài)合作伙伴提供強大的計算加速能力，致力于打造為下一代互聯(lián)網(wǎng)提供多元算力的元計算平臺。