電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)隨著人工智能從云端向邊緣端加速落地,AI硬件設(shè)計(jì)熱潮已經(jīng)來(lái)臨。AI玩具、AI眼鏡等電子產(chǎn)品率先出圈,例如AI玩具通過(guò)AI大模型實(shí)現(xiàn)在線語(yǔ)音交互、知識(shí)問(wèn)答,AI眼鏡實(shí)現(xiàn)在線翻譯、圖像視頻識(shí)別等等功能,為用戶帶來(lái)了全新的交互體驗(yàn)。
然而AI硬件包羅萬(wàn)象,傳統(tǒng)終端設(shè)備的AI化帶來(lái)了新的需求。蘇州春芽萌發(fā)半導(dǎo)體科技有限公司CEO溫曉宇在日前舉辦的灣芯展上接受媒體采訪時(shí)表示,我們從客戶端了解到的情況來(lái)看,有些電子產(chǎn)品對(duì)于語(yǔ)音交互、翻譯等并不需要太復(fù)雜的計(jì)算,這類(lèi)產(chǎn)品并不需要高功耗和性能強(qiáng)大的GPU或CPU來(lái)處理任務(wù),對(duì)于端側(cè)計(jì)算,市面上并沒(méi)有合適的芯片。這便是春芽萌牙的機(jī)會(huì)所在。
據(jù)介紹,春芽萌發(fā)的端側(cè)AI芯片能夠在不聯(lián)網(wǎng)情況下本地運(yùn)行AI模型,實(shí)現(xiàn)文字和語(yǔ)音交互,具有體積小、運(yùn)算快速快、低功耗和低延遲的特性。該芯片已經(jīng)完成FPGA驗(yàn)證,預(yù)計(jì)2026年4月流片。
溫曉宇分析,通常AI設(shè)備上云端進(jìn)行AI數(shù)據(jù)處理需要一定的ASR成本,例如在國(guó)外接谷歌流式ASR的API每天的使用成本在1-2美金左右,按分鐘收費(fèi)。這對(duì)終端客戶來(lái)說(shuō)是一筆巨大的成本支出,并且產(chǎn)品賣(mài)得越多成本越高。
春芽萌發(fā)的端側(cè)AI芯片設(shè)計(jì)是將AI大模型移植到芯片上本地化部署。這樣做的好處,一是節(jié)省云端使用成本,二是端側(cè)AI芯片在本地推理速度更快,體驗(yàn)更好。溫曉宇說(shuō)道,理論上云端處理速率會(huì)有500-800毫秒的延遲,并且受限于實(shí)際聯(lián)網(wǎng)的狀態(tài),例如藍(lán)牙和WiFi可能的丟失現(xiàn)場(chǎng),延遲或?qū)⒏哌_(dá)2-3秒。一些玩具的實(shí)測(cè)數(shù)據(jù)甚至達(dá)到8-10秒,嚴(yán)重影響客戶體驗(yàn)。而在本地推理,節(jié)省文件上傳的數(shù)據(jù)量、減少丟包現(xiàn)象,大幅降低延遲(春芽萌發(fā)端側(cè)AI芯片在FPGA測(cè)試延遲僅30毫秒。),從而令整體語(yǔ)音交互更流暢。
春芽萌發(fā)成立于2025年4月,作為一家初創(chuàng)芯片企業(yè),其團(tuán)隊(duì)實(shí)力不可小覷。據(jù)介紹,該公司由來(lái)自劍橋大學(xué)、倫敦大學(xué)國(guó)王學(xué)院、上海交通大學(xué)等知名高校的AI芯片專(zhuān)家創(chuàng)立,核心團(tuán)隊(duì)在半導(dǎo)體設(shè)計(jì)和AI算法領(lǐng)域擁有深厚的技術(shù)積累。
溫曉宇表示,春芽萌發(fā)基于先進(jìn)的神經(jīng)網(wǎng)絡(luò)處理架構(gòu)開(kāi)展AI芯片內(nèi)核、SoC芯片和解決方案設(shè)計(jì)。在端側(cè)AI芯片設(shè)計(jì)上擁有自研Transformer core以及小模型和交互算法等技術(shù)優(yōu)勢(shì)。通過(guò)跨區(qū)設(shè)計(jì)有針對(duì)性地對(duì)內(nèi)核的各個(gè)模塊進(jìn)行優(yōu)化,提供精簡(jiǎn)的模型,以滿足端側(cè)AI芯片輕量化的需求。
客戶將終端產(chǎn)品AI化面臨各種know-how以及工程師人力成本等問(wèn)題,例如可能需要嵌入式設(shè)計(jì)以及算法工程師等。而春芽萌發(fā)能夠提供模塊化解決方案,用戶無(wú)需下載復(fù)雜工具鏈、自行移植整套模型、調(diào)試量化參數(shù),以此為客戶提供產(chǎn)品研發(fā)上的便利。
目前春芽萌發(fā)首推的語(yǔ)音轉(zhuǎn)錄(STT/ASR)專(zhuān)用芯片,面向智能穿戴、陪伴類(lèi)玩具、智能家居、AIoT設(shè)備和消費(fèi)電子等領(lǐng)域,提供業(yè)界領(lǐng)先的端側(cè)AI推理產(chǎn)品。據(jù)透露,已經(jīng)有三家客戶正在與春芽萌發(fā)密切合作,其產(chǎn)品都非常有創(chuàng)新性,另外國(guó)內(nèi)某頭部企業(yè)也在接洽春芽萌發(fā)。這也反映出在AI硬件市場(chǎng)上,低功耗、低延遲、輕量化的端側(cè)AI芯片需求比較迫切。
數(shù)據(jù)顯示,預(yù)計(jì)2024-2030年全球端側(cè)AI芯片市場(chǎng)規(guī)模將從180億美元增長(zhǎng)到850億美元,年均復(fù)合增長(zhǎng)率達(dá)24.8%。未來(lái),春芽萌發(fā)還將針對(duì)端側(cè)場(chǎng)景的垂直領(lǐng)域AI硬件,為客戶提供完全本地化的人工智能推理、交互解決方案,其中包括本地推理LLM芯片,語(yǔ)音轉(zhuǎn)錄翻譯,交互/控制芯片,YOLO及SLAM芯片,機(jī)器人-LLM接口/控制模組,來(lái)實(shí)現(xiàn)機(jī)器和現(xiàn)實(shí)物理世界交互。
發(fā)布評(píng)論請(qǐng)先 登錄
半導(dǎo)體領(lǐng)域:端側(cè) AI 芯片成產(chǎn)業(yè)化核心引擎
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+半導(dǎo)體芯片產(chǎn)業(yè)的前沿技術(shù)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+可期之變:從AI硬件到AI濕件
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+內(nèi)容總覽
WAIC 上,國(guó)產(chǎn) 6nm ARM 架構(gòu) CPU 在端側(cè) AI 領(lǐng)域遍地開(kāi)花
端側(cè) AI 芯片:終端智能落地的核心引擎
首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
炬芯科技探索端側(cè)AI技術(shù)與應(yīng)用
兩大芯片廠商比拼端側(cè)AI音頻芯片,高算力藍(lán)牙6.0成亮點(diǎn)
高通推動(dòng)終端側(cè)AI釋放全新價(jià)值
炬芯科技發(fā)布ATS323X系列端側(cè)AI音頻芯片
廣和通開(kāi)啟端側(cè)AI新時(shí)代
把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)端側(cè)AI規(guī)模化拓展
把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)端側(cè)AI規(guī)模化拓展

春芽萌發(fā)半導(dǎo)體:端側(cè)AI芯片的極致設(shè)計(jì),迎接AI終端遍地開(kāi)花
評(píng)論