近日，在Aspencore主辦的IIC國際集成電路展覽會(huì)期間，Imagination Technologies榮獲“2026中國IC設(shè)計(jì)成就獎(jiǎng)——年度產(chǎn)業(yè)貢獻(xiàn)IP公司獎(jiǎng)”。今年是AspenCore連續(xù)第24年舉辦IC設(shè)計(jì)調(diào)查及獎(jiǎng)項(xiàng)評選，中國IC設(shè)計(jì)成就獎(jiǎng)是中國電子業(yè)界最具影響力的技術(shù)獎(jiǎng)項(xiàng)之一。

同期，Imagination受邀參加大會(huì)“邊緣AI與算力芯片”論壇，并圍繞邊緣AI架構(gòu)發(fā)展趨勢發(fā)表主題演講。Imagination產(chǎn)品總監(jiān)鄭魁在演講中提出，隨著AI從云端走向終端，行業(yè)競爭正從“算力規(guī)?！鞭D(zhuǎn)向“部署效率”。

Edge AI加速落地，AI進(jìn)入“真實(shí)世界”

過去幾年，人工智能的快速發(fā)展主要依賴云端大模型訓(xùn)練能力的提升。然而，隨著應(yīng)用不斷向汽車、機(jī)器人、AI PC以及各類終端設(shè)備延伸，AI正在從“云端能力”轉(zhuǎn)變?yōu)椤爱a(chǎn)品內(nèi)生能力”。

在這一過程中，不同應(yīng)用場景對計(jì)算架構(gòu)提出了截然不同的要求。例如，IoT設(shè)備和移動(dòng)終端對功耗和面積高度敏感，而AI PC則更強(qiáng)調(diào)通用計(jì)算能力和軟件生態(tài)；汽車和機(jī)器人則需要處理更復(fù)雜的環(huán)境感知任務(wù)，并具備更高的實(shí)時(shí)性和可靠性要求。正如演講中所提到的，AI是一個(gè)覆蓋極廣的應(yīng)用領(lǐng)域，很難用單一架構(gòu)滿足所有需求。

核心挑戰(zhàn)：AI不僅要能運(yùn)行，更要“跑得久”

與云端相比，Edge AI面臨更加嚴(yán)苛的現(xiàn)實(shí)約束。系統(tǒng)不僅需要在有限的功耗和散熱條件下運(yùn)行，還要應(yīng)對內(nèi)存資源不足、帶寬受限以及軟件生態(tài)復(fù)雜等問題。同時(shí)，很多邊緣設(shè)備還需要長期穩(wěn)定運(yùn)行，這對系統(tǒng)可靠性提出了更高要求。

因此，Edge AI的關(guān)鍵問題已經(jīng)發(fā)生轉(zhuǎn)變：AI模型不僅要“能跑”，更要在真實(shí)環(huán)境中“跑得穩(wěn)、跑得久”。

從架構(gòu)設(shè)計(jì)角度來看，這一挑戰(zhàn)可以歸結(jié)為四個(gè)核心要素的平衡，即計(jì)算效率、內(nèi)存體系、功耗控制以及軟件生態(tài)能力。這些因素共同決定了AI系統(tǒng)在實(shí)際應(yīng)用中的表現(xiàn)。

從TOPS到效率：評價(jià)體系正在重構(gòu)

長期以來，TOPS（每秒萬億次運(yùn)算）被視為衡量AI芯片性能的重要指標(biāo)，但在Edge AI場景中，這一指標(biāo)的局限性正在顯現(xiàn)。在實(shí)際系統(tǒng)中，性能瓶頸往往首先出現(xiàn)在內(nèi)存帶寬而非算力本身，同時(shí)數(shù)據(jù)搬運(yùn)所帶來的能耗也遠(yuǎn)高于計(jì)算過程。

這意味著，單純提升峰值算力并不能直接提升系統(tǒng)性能，真正重要的是在現(xiàn)實(shí)約束條件下的“有效算力”。換句話說，行業(yè)正在從“算力競賽”走向“效率競賽”。

三層效率：理解Edge AI的關(guān)鍵路徑

圍繞Edge AI的實(shí)際需求，Imagination在演講中提出了一個(gè)三層效率框架，從模型、系統(tǒng)以及部署三個(gè)層面重新定義架構(gòu)優(yōu)化方向。

在模型層面，AI正在朝著更小型化、多模態(tài)化和可部署化發(fā)展。量化與壓縮技術(shù)被廣泛用于降低模型對計(jì)算和存儲資源的需求，但這些技術(shù)的有效落地依賴于底層硬件對不同數(shù)據(jù)格式的支持能力，因此模型與硬件之間需要更加緊密的協(xié)同設(shè)計(jì)。

在系統(tǒng)層面，內(nèi)存問題成為制約性能的關(guān)鍵因素。隨著AI工作負(fù)載的并行度不斷提升，數(shù)據(jù)搬運(yùn)帶來的開銷迅速放大，而在邊緣側(cè)，“內(nèi)存永遠(yuǎn)不夠用”幾乎成為行業(yè)共識。因此，如何提升數(shù)據(jù)局部性、優(yōu)化內(nèi)存訪問路徑、減少不必要的數(shù)據(jù)移動(dòng)，成為架構(gòu)設(shè)計(jì)的核心方向。

在部署層面，Edge AI系統(tǒng)通常需要同時(shí)處理AI推理、圖形渲染以及各類信號處理任務(wù)，不同任務(wù)之間還存在優(yōu)先級和安全等級差異。這使得系統(tǒng)必須具備更強(qiáng)的調(diào)度能力和資源隔離能力，同時(shí)支持長期演進(jìn)的軟件生態(tài)，從而保證系統(tǒng)在復(fù)雜場景中的穩(wěn)定運(yùn)行。

GPU架構(gòu)的新機(jī)會(huì)：從圖形走向通用計(jì)算

在這一背景下，GPU正在被重新審視其在Edge AI中的角色。GPU最初由圖形和游戲需求驅(qū)動(dòng)，但其高并發(fā)計(jì)算能力、靈活的調(diào)度機(jī)制以及良好的可擴(kuò)展性，使其天然適合處理多任務(wù)并行的AI工作負(fù)載。

演講中鄭魁指出，GPU可以通過統(tǒng)一計(jì)算架構(gòu)承載更多類型的工作負(fù)載，從而減少不同處理單元之間的數(shù)據(jù)搬運(yùn)，提高整體系統(tǒng)效率。GPU具備大規(guī)模寄存器和本地共享內(nèi)存，可以在一定程度上緩解內(nèi)存帶寬壓力，并通過動(dòng)態(tài)調(diào)度機(jī)制提升資源利用率。

此外，GPU還具備良好的擴(kuò)展能力，可以從單核擴(kuò)展到多核甚至多芯片系統(tǒng)，以適應(yīng)不同規(guī)模的應(yīng)用需求。這種靈活性，使其在多樣化的Edge AI場景中具備獨(dú)特優(yōu)勢。

架構(gòu)演進(jìn)方向：圍繞效率進(jìn)行系統(tǒng)優(yōu)化

在最新一代GPU架構(gòu)中，Imagination圍繞效率進(jìn)行了多方面優(yōu)化，引入全新爆發(fā)式處理器（Burst Processors）技術(shù)，在 AI 推理、游戲和用戶界面等工作負(fù)載下平均功耗效率大幅提升。該技術(shù)通過縮短流水線深度、減少數(shù)據(jù)在GPU內(nèi)部的移動(dòng)實(shí)現(xiàn)能效提升；多核版本還可以利用額外的核心來提升性能或增強(qiáng)靈活性。E系列GPU在多任務(wù)處理能力上實(shí)現(xiàn)了顯著增強(qiáng)，將具備硬件加速且零開銷的虛擬機(jī)數(shù)量從8個(gè)翻倍至16個(gè)，提供先進(jìn)QoS支持，并通過優(yōu)先級調(diào)度機(jī)制實(shí)現(xiàn)多任務(wù)并發(fā)執(zhí)行。

Edge AI進(jìn)入“效率時(shí)代”

隨著Edge AI進(jìn)入規(guī)?；涞仉A段，行業(yè)競爭邏輯正在發(fā)生深刻變化。未來的關(guān)鍵不再是單純提升算力，而是在有限資源條件下實(shí)現(xiàn)更高的效率與更穩(wěn)定的部署能力。

從模型到系統(tǒng)再到部署，全棧效率優(yōu)化正在成為核心競爭力。可以預(yù)見，在這一趨勢下，能夠在性能、功耗、內(nèi)存以及軟件之間實(shí)現(xiàn)平衡的架構(gòu)，將在下一階段的Edge AI競爭中占據(jù)優(yōu)勢。