電子發(fā)燒友網(wǎng)報道（文/李彎彎）2025年，人工智能正式邁入應用推理時代。大模型從實驗室走向千行百業(yè)，推理需求呈指數(shù)級爆發(fā)。然而，高昂的推理成本與有限的算力供給之間的矛盾日益凸顯，成為制約AI規(guī)模化落地的關(guān)鍵瓶頸。在此背景下，云天勵飛推出其第五代芯片架構(gòu)——GPNPU（General-Purpose Neural Processing Unit，通用神經(jīng)網(wǎng)絡(luò)處理單元），以一場底層架構(gòu)的革命，試圖重塑AI算力格局，推動大模型推理走向極致性價比時代。

GPNPU的核心定位是：做推理時代的優(yōu)等生。它摒棄了傳統(tǒng)芯片追求大而全的通用計算思路，轉(zhuǎn)而聚焦大模型推理的核心場景，如Prefill準備階段和Decode生成階段，進行深度定制與優(yōu)化。其目標極具挑戰(zhàn)性：將當前約1美元/百萬Token的推理成本，壓縮至僅需1美分/百萬Token，實現(xiàn)百倍效率提升。

GPNPU的黑科技源于三大底層創(chuàng)新。首先是算力積木設(shè)計思想。傳統(tǒng)芯片往往一刀切，難以兼顧云、邊、端多樣化的部署需求。GPNPU采用模塊化架構(gòu)，如同樂高積木般可靈活堆疊，實現(xiàn)一次流片、多規(guī)格輸出。其算力覆蓋從8T到256T，既能支撐云端大模型推理，也能賦能邊緣設(shè)備與終端智能體，如機器人、手機、AR眼鏡，真正實現(xiàn)全場景覆蓋。

其次，GPNPU采用3D堆疊存儲技術(shù)，直面內(nèi)存墻難題。大模型推理對帶寬極為敏感，數(shù)據(jù)搬運速度常成為性能瓶頸。通過3D堆疊，GPNPU大幅提升存儲密度與帶寬利用率，讓計算單元得以持續(xù)滿血運行，顯著提升能效比。

第三，GPNPU實現(xiàn)異構(gòu)化與靈活調(diào)度。它深刻洞察到推理任務(wù)的動態(tài)特性：Prefill階段重算力，Decode階段重帶寬。因此，通過軟硬協(xié)同優(yōu)化，GPNPU可動態(tài)調(diào)整算力、帶寬與存儲的配比，不再依賴單一芯片硬扛，而是以靈活架構(gòu)適配任務(wù)變化，實現(xiàn)資源最優(yōu)利用。

與傳統(tǒng)架構(gòu)相比，GPNPU展現(xiàn)出顯著差異化優(yōu)勢。傳統(tǒng)GPU雖生態(tài)成熟、通用性強，但推理成本高昂；傳統(tǒng)NPU能效較高，但多聚焦終端推理，通用性受限。而GPNPU則兼具GPU的通用性與NPU的高能效，專為大模型推理優(yōu)化，覆蓋端、邊、云全場景，并以算力積木實現(xiàn)前所未有的架構(gòu)靈活性，真正實現(xiàn)極致性價比。

目前，基于GPNPU架構(gòu)的芯片正加速落地。正在研發(fā)的Nova 500系列，作為第五代GPNPU芯片，重點提升帶寬與能效，是實現(xiàn)“1元內(nèi)搞定百萬Token”目標的關(guān)鍵一步。展望未來，Nova 600系列將探索光電一體化互聯(lián)，構(gòu)建高性價比的算力網(wǎng)絡(luò)，進一步將推理成本推向分級成本新低。

依托GPNPU，云天勵飛已構(gòu)建“深穹”（云端）、“深界”（邊緣）、“深擎”（具身智能）三大芯片產(chǎn)品矩陣，全面服務(wù)于互聯(lián)網(wǎng)大廠、智能終端廠商與機器人企業(yè)，推動AI應用的廣泛落地。

在國產(chǎn)工藝受限、高端GPU供應不確定的現(xiàn)實下，云天勵飛沒有選擇在制程工藝上硬拼，而是以架構(gòu)創(chuàng)新另辟蹊徑。GPNPU不僅是技術(shù)的突破，更是一種戰(zhàn)略智慧的體現(xiàn)——通過“算力積木+3D堆疊”的創(chuàng)新路徑，走出一條高能效、低成本、全場景的差異化發(fā)展之路。它預示著，AI算力將不再昂貴稀缺，而是如水電般普惠，真正賦能千行百業(yè)的智能化變革。