5月28日，由人民日?qǐng)?bào)文化傳媒有限公司和百度聯(lián)合主辦的2024智能經(jīng)濟(jì)論壇在北京舉行。會(huì)上，百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖介紹了文心系列主力大模型免費(fèi)背后的原因。此外，為了加速行業(yè)大模型的落地，百度智能云推出“千帆·行業(yè)增強(qiáng)版”，目前已經(jīng)在政務(wù)、交通、工業(yè)等行業(yè)落地。

沈抖表示，為什么能把價(jià)格打下來(lái)？主要是依托于技術(shù)能力，尤其是百度智能云有業(yè)界最高效的AI異構(gòu)算力管理平臺(tái)和“一云多芯”兩項(xiàng)硬實(shí)力。目前，文心大模型已經(jīng)擁有中國(guó)最大的產(chǎn)業(yè)落地規(guī)模，超半數(shù)央企正在聯(lián)合百度進(jìn)行AI創(chuàng)新。

01 揭秘主力模型免費(fèi)原因 每年為企業(yè)節(jié)省50億智算成本

“其實(shí)我們決定免費(fèi)的原因特別樸素，就是希望大家別再天天拉表格比價(jià)格了，有這個(gè)時(shí)間，不如去卷場(chǎng)景、卷應(yīng)用。現(xiàn)在成本更低了，大家創(chuàng)新的膽子可以更大一些、步子可以更快一些，把相關(guān)的場(chǎng)景都試一遍，快速驗(yàn)證。跑成功了，就快速?gòu)?fù)制。”沈抖表示。

一周前，百度智能云宣布ERNIE Speed、ERNIE Lite兩款主力模型全面免費(fèi)。據(jù)了解，本次免費(fèi)的兩個(gè)模型是客戶(hù)在場(chǎng)景應(yīng)用中經(jīng)常用到的主力模型，在文案創(chuàng)作、聊天對(duì)話(huà)、知識(shí)問(wèn)答、內(nèi)容續(xù)寫(xiě)等場(chǎng)景中有非常高的調(diào)用量。

會(huì)上，沈抖首次揭秘了模型免費(fèi)背后的原因，以及為什么能把價(jià)格打下來(lái)，主要是依托于技術(shù)能力，尤其是業(yè)界最高效的AI異構(gòu)算力管理平臺(tái)和“一云多芯”兩項(xiàng)硬實(shí)力。

首先，百度百舸·AI異構(gòu)計(jì)算平臺(tái)能夠?qū)Σ煌攸c(diǎn)、規(guī)模、集群的智能算力進(jìn)行統(tǒng)一、高效的管理，基于芯片性能優(yōu)化、自動(dòng)芯片選型、潮汐混部等技術(shù)，大幅提升智能算力效能，萬(wàn)卡集群上的模型有效訓(xùn)練時(shí)長(zhǎng)占比超過(guò)98.8%。相同的大模型任務(wù)，百舸能夠幫助客戶(hù)將資源成本降低一半。據(jù)推算，百舸每年為企業(yè)客戶(hù)節(jié)約的智算成本可達(dá)50億元以上。

第二，在“一云多芯”方面，百舸兼容昆侖芯、昇騰、海光DCU、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片，支持同一智算集群中混合使用不同廠(chǎng)商芯片，最大程度上屏蔽硬件之間差異，幫助企業(yè)擺脫單一芯片依賴(lài)，打造更有性?xún)r(jià)比、更安全、更具彈性的供應(yīng)鏈體系。在多芯混合訓(xùn)練任務(wù)中，百舸能夠?qū)涡酒寐省⑿酒g通信效率、集群整體效能發(fā)揮到極致，百卡規(guī)模性能損失不超過(guò)3%，千卡規(guī)模性能損失不超過(guò)5%，均為國(guó)內(nèi)最高水平。

此外，在模型層面，千帆ModelBuilder提供的模型路由能力，能夠針對(duì)任務(wù)類(lèi)型自動(dòng)分配合適的模型進(jìn)行處理，讓更便宜的小參數(shù)模型在特定場(chǎng)景中媲美大參數(shù)模型的效果。以小度AI助手為例，通過(guò)使用模型路由能力，相比全部任務(wù)調(diào)用旗艦版文心大模型，成本大幅下降了99%，模型響應(yīng)速度也提升了200%。“即使是在復(fù)雜應(yīng)用場(chǎng)景下，模型路由也可以節(jié)省30%的成本。”沈抖說(shuō)。

目前，文心大模型日均調(diào)用量超過(guò)2億，每天處理的文本相當(dāng)于74萬(wàn)本《新華字典》，已經(jīng)成為中國(guó)落地應(yīng)用最廣的大模型。千帆平臺(tái)累計(jì)服務(wù)10.5萬(wàn)家企業(yè)用戶(hù)，累計(jì)幫助用戶(hù)精調(diào)了1.75萬(wàn)個(gè)大模型，幫助用戶(hù)開(kāi)發(fā)出了32萬(wàn)個(gè)AI原生應(yīng)用。

02 推出“千帆行業(yè)增強(qiáng)版” 加速行業(yè)大模型應(yīng)用落地

在行業(yè)落地中，僅靠大模型的通用能力很難滿(mǎn)足各行各業(yè)的特有需求，而是要在通用大模型基礎(chǔ)上增強(qiáng)行業(yè)專(zhuān)業(yè)性，同時(shí)降低行業(yè)應(yīng)用開(kāi)發(fā)門(mén)檻。

沈抖指出，行業(yè)大模型本質(zhì)上是一個(gè)多模型的行業(yè)解決方案，由一個(gè)通用大模型和多個(gè)行業(yè)模型組合而成。這些行業(yè)模型往往由小模型精調(diào)而成，在特定領(lǐng)域具有很強(qiáng)的能力。但企業(yè)應(yīng)用場(chǎng)景十分復(fù)雜，如果只是用一個(gè)個(gè)“孤立”的行業(yè)模型去解決特定場(chǎng)景的問(wèn)題，那么整套工程將會(huì)非常復(fù)雜，和傳統(tǒng)的AI開(kāi)發(fā)沒(méi)有區(qū)別，開(kāi)發(fā)效率極低。

因此，為了進(jìn)一步降低行業(yè)大模型的開(kāi)發(fā)門(mén)檻，百度智能云此次推出了千帆·行業(yè)增強(qiáng)版，將通用大模型的理解、生成、邏輯、記憶能力，與行業(yè)模型的專(zhuān)業(yè)能力相結(jié)合，搭配體系化的工具和組件，支持從資源管理、大模型服務(wù)到應(yīng)用開(kāi)發(fā)的全過(guò)程。

具體來(lái)講，千帆·行業(yè)增強(qiáng)版主要由資源服務(wù)、大模型服務(wù)、應(yīng)用服務(wù)三部分組成，它不僅提供千帆、百舸的通用能力，在這個(gè)基礎(chǔ)上，還做了行業(yè)能力的擴(kuò)展和適配。在資源服務(wù)方面，企業(yè)可以結(jié)合業(yè)務(wù)情況，擴(kuò)展多源數(shù)據(jù)治理、云邊端協(xié)同等能力，為業(yè)務(wù)構(gòu)建起強(qiáng)大的基礎(chǔ)設(shè)施；在大模型服務(wù)方面，企業(yè)可以在千帆平臺(tái)上自由選擇不同參數(shù)規(guī)模、不同上下文長(zhǎng)度、不同細(xì)分領(lǐng)域的大模型，然后按需擴(kuò)展行業(yè)模型、行業(yè)知識(shí)、行業(yè)智能體；在應(yīng)用服務(wù)方面，支持添加運(yùn)營(yíng)、運(yùn)維、企業(yè)環(huán)境內(nèi)應(yīng)用開(kāi)發(fā)、應(yīng)用服務(wù)等各類(lèi)業(yè)務(wù)邏輯。

在千帆·行業(yè)增強(qiáng)版上，還可以不斷的增加新的行業(yè)。有了通用底座和行業(yè)增強(qiáng)的能力，應(yīng)用開(kāi)發(fā)范式將徹底改變，復(fù)雜的工程會(huì)被千帆屏蔽掉，真正實(shí)現(xiàn)“場(chǎng)景驅(qū)動(dòng)”。目前，千帆·行業(yè)增強(qiáng)版已經(jīng)在政務(wù)、交通、工業(yè)、金融等行業(yè)落地應(yīng)用。

比如，在政務(wù)領(lǐng)域，中華全國(guó)總工會(huì)聯(lián)合百度智能云打造了AI法律咨詢(xún)助手，為勞動(dòng)者提供精準(zhǔn)的法律問(wèn)題解答、快速計(jì)算勞動(dòng)賠償金額、生成個(gè)性化案情評(píng)估等便捷服務(wù)。相較于傳統(tǒng)的開(kāi)發(fā)模式，整套系統(tǒng)及應(yīng)用的交付周期從3～6個(gè)月大幅縮短至1個(gè)月。

“我們和客戶(hù)一起整理了所需的專(zhuān)業(yè)數(shù)據(jù)，精調(diào)出工會(huì)行業(yè)大模型，部署在客戶(hù)的專(zhuān)有云環(huán)境。這樣，當(dāng)公有云上的文心大模型完成任務(wù)規(guī)劃、拆解后，具體的任務(wù)就會(huì)交給工會(huì)行業(yè)大模型執(zhí)行，之后文心大模型會(huì)匯總結(jié)果、做出回答。這樣，既滿(mǎn)足了數(shù)據(jù)合規(guī)的要求，又得到了非常好的模型效果。”沈抖表示：“為了豐富這個(gè)平臺(tái)的場(chǎng)景化能力，我們還封裝了法律問(wèn)答、案例推薦這些行業(yè)智能體。”

03

中國(guó)超半數(shù)央企聯(lián)合百度進(jìn)行AI創(chuàng)新

就在上周，國(guó)內(nèi)大模型行業(yè)的價(jià)格戰(zhàn)已經(jīng)打響。包括字節(jié)、阿里、百度、騰訊、科大訊飛在內(nèi)的多家廠(chǎng)商宣布降價(jià)或免費(fèi)。不過(guò)，多位企業(yè)技術(shù)負(fù)責(zé)人表示，價(jià)格只是選擇大模型的一個(gè)考量因素，比起價(jià)格，更重要的是模型效果和應(yīng)用場(chǎng)景。

沈抖表示，目前，百度文心大模型已經(jīng)擁有中國(guó)最大的產(chǎn)業(yè)落地規(guī)模，超過(guò)半數(shù)的央企正在使用百度智能云的技術(shù)和服務(wù)進(jìn)行人工智能創(chuàng)新。百度智能云總結(jié)了過(guò)去一年國(guó)內(nèi)客戶(hù)落地AI與大模型的關(guān)鍵問(wèn)題，并針對(duì)性的打造了全棧的技術(shù)服務(wù)體系。

在交通領(lǐng)域，貴陽(yáng)市公安交通管理局與百度智能云一起，在貴陽(yáng)觀(guān)山湖核心區(qū)的31個(gè)關(guān)鍵交通節(jié)點(diǎn)部署了AI信控系統(tǒng)。通過(guò)引入交通信控大模型，對(duì)各路口、各流向的交通流量進(jìn)行精準(zhǔn)感知和預(yù)測(cè)，動(dòng)態(tài)調(diào)節(jié)路口信號(hào)燈時(shí)長(zhǎng)，緩解交通擁堵。目前，貴陽(yáng)市工作日車(chē)均延誤時(shí)長(zhǎng)下降多達(dá)15%，全國(guó)城市擁堵排名也從過(guò)去的第4位下降至第20位，AI與大模型功不可沒(méi)。

在汽車(chē)行業(yè)，蔚來(lái)汽車(chē)基于千帆平臺(tái)，在文心大模型的基礎(chǔ)上通過(guò)提示詞工程打造出了端云協(xié)同多模態(tài)大模型——NOMI GPT。NOMI能夠自然地與用戶(hù)互動(dòng)，成為一個(gè)更懂用戶(hù)、更聰明的座艙AI小助手。目前，NOMI已經(jīng)陪伴了近20萬(wàn)車(chē)友家庭，為用戶(hù)創(chuàng)造更美好的出行體驗(yàn)。

在工業(yè)領(lǐng)域，中化信息攜手百度智能云，共同探索利用大模型進(jìn)行新型材料的研發(fā)。中化信息基于千帆AppBuilder打造的“化小易”知識(shí)助手，能夠基于自然語(yǔ)言提問(wèn)，快速檢索并回答分子特性、分子合成路線(xiàn)等專(zhuān)業(yè)知識(shí)，替代了傳統(tǒng)的人工查詢(xún)方式。目前，特定分子的檢索效率能夠提升5倍以上，極大提高了研發(fā)效率。

此外，百度智能云還聯(lián)合上海交通大學(xué)，構(gòu)建了Al for Science科研創(chuàng)新平臺(tái)，孵化了多項(xiàng)首創(chuàng)性科研成果；聯(lián)合沈陽(yáng)首府經(jīng)開(kāi)區(qū)，規(guī)劃建設(shè)了全國(guó)首個(gè)“場(chǎng)景-平臺(tái)-模型-算力”全棧部署的1000P智算中心，為沈陽(yáng)特色產(chǎn)業(yè)、重點(diǎn)產(chǎn)業(yè)提供強(qiáng)有力的算力支持，建設(shè)不到1年就實(shí)現(xiàn)了10%的投資回收。