通過蒸餾技術將百億參數模型壓縮至端側設備可運行的創新，讓AI推理成本大幅下降，為終端側AI的爆發按下加速鍵。低成本、高靈活性的特性引發了行業對這一技術突破的深度思考，也驗證了AI格局即將向大規模推理轉變的趨勢。

小模型也有“大智慧”

近年來，前沿大模型技術不斷取得突破。在訓練成本下降、快速推理部署以及針對邊緣環境的創新推動下，業內已經催生了大量更智能、更小型、更高效的模型。

借助蒸餾技術，大模型能夠通過“教學”將強大的推理能力提煉并遷移到小模型中，將復雜的AI模型簡化，在保持高性能的同時，減少計算資源的消耗。這一技術不僅打破了“模型越大越聰明”的固有認知，也讓更多人以更低成本享受到了AI的高性能。

下圖展示了蒸餾的強大能力。比較Llama 3.3 700億參數模型和同類DeepSeek R1蒸餾模型的LiveBench平均測試結果，在相同參數規模下，蒸餾能夠在推理、編程和數學任務中顯著提高性能。

Meta Llama 700億參數模型和DeepSeek對應蒸餾模型的LiveBench AI基準測試平均結果對比。

來源：LiveBench.ai，2025年2月。

在DeepSeek R1蒸餾版本與其他先進模型的基準測試結果對比中。基于通義千問模型和Llama模型的DeepSeek蒸餾版本展現了諸多明顯優勢，尤其是在GPQA基準測試中，與GPT-4o、Claude 3.5 Sonnet和GPT-o1 mini等先進模型相比，取得了相似或更高的分數。這也進一步反映了在涉及解決復雜問題的深層次、多步驟的推理中，小模型正在接近前沿大模型的質量。

數學和編程基準測試。來源：DeepSeek，2025年1月。

高通技術公司高級副總裁兼技術規劃和邊緣解決方案業務總經理馬德嘉認為，模型規模將持續減小，同時質量將不斷改進。這一趨勢至關重要，因為這意味著未來所有這些模型都能夠在我們口袋里的終端上運行。

多維度發力，領跑AI推理創新時代

如今，許多主流模型系列包括DeepSeek R1、Meta Llama、IBM Granite和Mistral Ministral都推出了小模型版本，且面向特定任務的性能和基準測試都表現出色，從而使此類模型更適合在智能手機、PC和汽車等終端上部署。作為終端側AI的引領者，高通技術公司憑借面向邊緣終端的行業先進硬件和軟件解決方案，在推動AI推理時代發展上具有戰略優勢。

在硬件層面，高通技術公司長期致力于開發定制CPU、NPU、GPU和低功耗子系統，同時擁有封裝技術和熱設計的技術專長，構成了其行業先進系統級芯片(SoC)產品的基礎。通過緊密集成這些核心組件，高通技術公司的平臺可在保持電池續航和整體能效表現的同時處理復雜AI任務，這對邊緣側用例至關重要。

軟件層面上，高通技術公司還構建了強大的AI軟件棧，旨在賦能軟件開發者。高通 AI軟件棧包括庫(libraries)、SDK和優化工具，可簡化模型部署并提升性能。開發者可以利用這些資源，面向高通平臺高效進行模型適配，縮短AI賦能應用的上市時間。

此外，高通技術公司還與全球伙伴積極合作，構建繁榮開放的AI生態，憑借多年深耕移動產業的影響力、領導力，緊密攜手設備廠商、模型廠商、開發者、用戶，通過簡化在消費和商用產品中集成先進AI特性的過程，不斷賦能AI創新，成為加速終端側AI發展的重要力量。

賦能關鍵領域，終端側AI釋放全新價值

在MWC巴塞羅那期間，高通技術公司也展示了iQOO、努比亞、OPPO、榮耀、小米和一加等中國生態伙伴搭載驍龍 8至尊版的商用旗艦AI智能手機，包括最新發布的小米15 Ultra，帶來基于驍龍平臺的終端側生成式AI的最新應用成果。

驍龍8至尊版為這些先進用例提供了可靠的算力支撐，第二代定制的高通Oryon CPU、全新切片架構的高通 Adreno GPU和增強的高通 Hexagon NPU等這些創新技術將開啟終端側生成式AI新時代——通過直接在終端側提供個性化的多模態生成式AI，支持語音、情境和圖像理解，從而全面增強從生產力到創意任務等各方面的體驗。

而這只是AI價值的冰山一角，得益于終端側本地AI處理帶來的增強的性能、效率、響應速度和隱私性，高通技術公司還利用終端側AI賦能包含PC、汽車、工業互聯網、網絡等在內的眾多行業和邊緣細分領域、釋放商業價值并支持全新用戶體驗。

在PC領域，驍龍X系列平臺憑借專為實現高性能、高能效的生成式AI推理而打造的、業界先進的定制NPU核心，對定義全新AI PC品類發揮了關鍵作用。該NPU為Windows應用帶來顯著加速、增加全新特性、提升性能，并增強隱私保護和電池續航。

隨著AI創新在邊緣爆發，高通技術公司在可擴展硬件和軟件方面的投入將進一步鞏固其領導地位，推動一個全新時代的到來，讓AI應用更加觸手可及、更高效，并且融入日常生活的方方面面，推動全球多個行業的變革。