普惠AI意味著為萬物賦能，從云端到邊緣的大勢所趨也是AiRiA研究院作為AI芯片的后來入局者直接選擇切入的方向。由于計算位置和形式的變化，讓AI載體、設計思路都需要重新被定義。

云端的AI不受體積和功耗方面的束縛，可以在一定成本下做到極致的性能。然而在邊緣端，AI載體（芯片）必須考慮終端場景的體積、功耗和成本實情（如機器人、可穿戴設備、無人機等場景中），如何在三者受限的情況下實現最高的AI性能，是考驗芯片團隊極具挑戰性的難題。

AiRiA 研究院常務副院長程健博士表示，若以犧牲AI芯片的性能來滿足IoT終端對體積、功耗和成本的要求，是一種“妥協”而非創新，如何在尋求平衡，做到較低功耗、較小體積和較低成本的情況下，還能保證性能不受到影響，才能真正滿足諸多行業場景對邊緣智能的綜合訴求。那么，AiRiA研究院是如何應對這些嚴苛挑戰，達成AI芯片領域重大突破的呢？這就要提到中科院自動化研究所基于十幾年對量化處理技術的深厚積累了。

量化處理技術是如何幫助AI芯片在成本、功耗、性能等綜合方面發揮優勢的？

量化模型壓縮處理技術可以極大簡化整個計算過程。AiRiA 研究院副院長冷聰博士進一步介紹道，量化技術的精細化程度越高，對整個計算過程簡化和整合的效率就越高。目前業內采用量化處理技術的標配是支持8比特，但AiRiA 研究院能做到4比特、2比特甚至任意1比特的量化，在國際上也達到了領先水平。

隨著量化程度的提高，AiRiA研究院自主設計的量化神經處理器QNPU（Quantized Neural Processing Unit）可通過大規模神經網絡實現片上計算，從而減少或無需訪問外部存儲，這就解決掉耗費極大功耗、帶寬和體積成本的“內存墻”難題。這樣一來，就滿足了多種IoT的邊緣計算場景的應用，在小規模的、小體積、小功耗的前提下仍保證高可靠的計算性能，這是QNPU非常突出的特性和優勢。