《從云到端 AI觸手可及》2024年芯原AI專(zhuān)題技術(shù)研討會(huì)上，芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進(jìn)作了“大模型推動(dòng)邊緣計(jì)算變革的機(jī)遇與挑戰(zhàn)”的主題演講，他介紹了目前大模型在邊緣計(jì)算的變革的同時(shí)，也向行業(yè)介紹了芯原AI相關(guān)的技術(shù)演講和IP產(chǎn)品系列。

圖：芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進(jìn)在技術(shù)研討會(huì)上作演講介紹大模型的技術(shù)發(fā)展趨勢(shì)

戴偉進(jìn)首先在發(fā)言中表示，AI已經(jīng)從部署到每個(gè)地方，演進(jìn)到布置到每個(gè)人，大模型應(yīng)該進(jìn)入到了邊緣設(shè)備中。以語(yǔ)言為基礎(chǔ)的多模態(tài)大模型（Multimodal)

2024年初OpenAI正式上線，全球各種GPT迅速跟進(jìn)。2024年科技企業(yè)將大型人工智能模型要引入到嵌入式系統(tǒng)中落地，AI手機(jī)、AI PC和汽車(chē)的大模型邊緣終的落地，并引發(fā)了廣泛的關(guān)注。可惜目前在國(guó)內(nèi)的AI大模型在邊緣終端的落地還受政策影響中。


2024年初OpenAI正式上線，全球各種GPT迅速跟進(jìn)。2024年科技企業(yè)將大型人工智能模型要引入到嵌入式系統(tǒng)中落地，AI手機(jī)、AI PC和汽車(chē)的大模型邊緣終的落地，并引發(fā)了廣泛的關(guān)注。可惜目前在國(guó)內(nèi)的AI大模型在邊緣終端的落地還受政策影響中。

戴偉進(jìn)表示，GPT多模態(tài)的能已經(jīng)能夠處理圖像和文本的輸入，他預(yù)測(cè)在下一代的GPT-5中將加入視頻處理模塊。據(jù)最新的谷歌發(fā)布的大模型AI手機(jī) Project Astra項(xiàng)目的演示中，基于Gemini大模型，視頻處理模塊的AI技術(shù)已經(jīng)實(shí)現(xiàn)。2024年2月16日 ，OpenAI發(fā)布了首個(gè)視頻生成模型Sora，支持60秒一鏡到底的視頻，包含高細(xì)致背景、多角度鏡頭以及富有情感的多個(gè)角色，所合成的視頻內(nèi)容與物理世界規(guī)律保持一致。谷歌則隨即發(fā)布對(duì)標(biāo)Sora的高質(zhì)量視頻生成模型Veo。


微軟不久前的Copilot+PC的最新技術(shù)亮點(diǎn)則是把AI PC的產(chǎn)品新技術(shù)推到了新的高潮。三星Galaxy S24系列手機(jī)內(nèi)置即圈即搜、通話實(shí)時(shí)翻譯、筆記助手、智能修圖和智能寫(xiě)作五大AI功能，國(guó)內(nèi)一些品牌也隨即宣布跟進(jìn)。AI PC和AI手機(jī)成為今年行業(yè)最熱產(chǎn)品詞條。


可以說(shuō)，AI PC的時(shí)代全面到來(lái)。受技術(shù)封鎖的影響，國(guó)內(nèi)的技術(shù)廠商急切需要有AI IP相關(guān)的技術(shù)廠商抱團(tuán)共同跟進(jìn)。

不過(guò)國(guó)內(nèi)AI技術(shù)發(fā)展的挑戰(zhàn)并不如我們想像中那么困難。戴偉進(jìn)透露，芯原在AI IP早些年就已經(jīng)布局，公司的NPU IP全球出貨量超過(guò)1億顆。GPU在全球累計(jì)出貨量過(guò)去20年累計(jì)近20億顆。

芯原的5納米媒體加速器視頻，即視頻處理器AI Video在全球范圍內(nèi)處于領(lǐng)先地位。


且已經(jīng)在邊緣設(shè)計(jì)上運(yùn)行大模型。包括在嵌入式設(shè)備、邊緣服務(wù)器和數(shù)據(jù)中心，都有產(chǎn)品開(kāi)始被客戶采用。

從上圖可以看到芯原的在嵌入式設(shè)備的相關(guān)NPU和GPU的IP產(chǎn)品。

芯原的AI計(jì)算軟件與各種軟件工具等平臺(tái)的適配。

芯原在AGI領(lǐng)域，其N(xiāo)PU的性能處于全球領(lǐng)先的地位，LLaMA 7B能達(dá)到20 Tokens/s。

戴偉進(jìn)最近也展示了Open Se Cura項(xiàng)目。該項(xiàng)目跟谷歌協(xié)作開(kāi)發(fā)，可以在可穿戴低功耗的終端、AI手機(jī)以及云云計(jì)算大模型上部署。