2016年3月，Google AlphaGo在與韓國九段棋手李世石進行的圍棋比賽中，以4:1的絕對優勢完勝；2018年底，Google AlphaStar與兩位世界頂尖游戲玩家在《星際爭霸(StartCraft II)》中展開對決，最終以兩個5:0的成績橫掃對手。盡管早在1997年，IBM開發的計算機程序“深藍”就戰勝了當時的國際象棋特級大師加里·卡斯帕羅夫，但考慮到國際象棋的下法難度遠遠低于圍棋，所以AlphaGo的勝利在某種程度上也被視作“AI時代的真正來臨”。

AI的起源

1955年到1956年間，時任Dartmouth學院助理教授的John McCarthy，也是后來世界公認的AI教父，與來自哈佛大學的Marvin Minsky、IBM的Claude Shannon、以及美國貝爾實驗室的Nathaniel Rochester，首次共同定義了“人工智能(AI)”的概念，即：

“如果任何的機器通過不一樣的語言，就可以將抽象的事務或概念表達出來，并且通過這個抽象的概念去幫助人們解決現有的問題，或者是它本身可以通過自主學習不斷地精進，我們就將其稱之為AI。” 或者用更精煉的話語進行陳述，那就是：當任何機器的行為模式與人一樣時，我們就稱它是“智能(intelligent)”的。 如此寬泛的定義自然帶來了與之對應的寬泛應用。除了下棋與游戲，在自動駕駛領域，美國部分地區已經開放了Level 4級別的測試，相信真正的Level 5級別自動駕駛也是指日可待，而要保障車輛和行人的安全，我們依賴的除了法律法規，還有AI算法的開發者；而在IoT應用領域，傳感、智能手機、網絡搜索、人臉/汽車牌照識別、智能表計、機器視覺、工業控制……AI正變得無處不在，讓工作和生活變得更加便捷與智慧。

IDC的統計數據顯示，2020年到2021年間，全球AI服務的年復合增長率達到了17.4%，預計到2024年，這一數字將上升至18.4%，市值約為378億美元。這其中包括了定制化的應用和針對定制化平臺所提供的相關支持與服務，例如一些深度學習架構、卷積神經網絡、與AI相關的芯片產品(CPU、GPU、FPGA、TPU、ASIC)等。

同樣是來自IDC的數據，全球數據儲存量將從2018年的33ZB猛增到2025年的175ZB，這其中超過50%都來自IoT設備。如果考慮到2025年，全球將會部署約140億部IoT設備，那么我們似乎就應該大量地增加云端的計算單元數量與算力，才能應對海量的數據增長。 不過，事實并非如此，這一想法顯然沒有顧及到從終端到云端的數據傳輸鏈條中面臨的帶寬、時間延遲等事實性挑戰，這也是為什么“邊緣計算”能夠得以迅速崛起的原因。 因為我們最終發現，隨著IoT設備的快速增加，一味增加帶寬和服務器數量的做法并非最優，不少應用完全可以在端側設備中加以實現，而不必把所有數據都放到云端去進行處理和傳輸、存儲和分析，這是不適合的。比如在工業自動化領域，數據存儲距離一定要近才有效率；5G移動設備制造商如果不強化終端側人工智能并進行計算-存儲架構更改，將會遭遇嚴重的電池壽命問題。 隱私安全，是另一個值得我們重視的環節，尤其是在當前萬物互聯的時代，機密資料/數據外泄或是遭到黑客入侵的事件屢有發生。如果我們能讓計算在邊緣側發生，節省“云-管-端”通路中數據傳輸的次數，那么，在確保數據和網絡安全的同時，也降低了功耗和系統總擁有成本。

不同AI芯片的比較

眾所周知，AI技術根據應用不同被分為“訓練(Training)”和“推理(Inference)”兩大類，前者主要在云端由CPU、GPU、TPU負責執行，目的是不斷增加數據庫資源以建立數據模型；后者則比較適合應用于邊緣裝置和特定應用，常由ASIC、FPGA類芯片進行處理，依托已經訓練好的數據模型進行推理。

如前文所述，與AI相關的芯片產品包括CPU、GPU、FPGA、TPU、ASIC等多種類型。華邦電子閃存產品企劃處黃仲宇從五個維度對上述不同的芯片類型進行了概略性的初步比較，包括算力(Computing)、軟件靈活性(Flexibility)、硬件兼容性(Compatibility)、功耗(Power)和成本(Cost)。

01

CPU

CPU發展多年，運算能力強大，在軟硬件兼容性方面首屈一指。但是，由于受到馮·諾伊曼架構的限制，數據需要在內存和處理器之間不斷往復傳輸，所以限制了處理的平均速度、且在功耗和成本表現上相較其他方案不是最好的，處于折中的位置。

02

GPU

以Nvidia GPU為例，由于采用了“Compute Unifiled Device Architecture”架構，且自身計算單元數量眾多，使得GPU不但能夠任意讀取內存的位置，而且還可通過虛擬內存的共用加速計算能力，盡管同樣受到馮·諾伊曼架構的限制，但其平均算力超過CPU幾十倍甚至上千倍。

GPU同樣發展多年，軟硬件兼容性好，但在功耗與成本表現上仍有改善空間，此外還須考慮硬件上的投資，如額外加裝冷卻系統以降低發熱。

03

ASIC芯片

ASIC芯片是針對特定應用開發出來的產品，在經過驗證調整之后運算能力、整體功耗和成本可以達到最佳水平。

04

FPGA

FPGA同樣發展多年，軟硬件兼容方面值得稱贊，整體算力、成本和功耗即便不是最佳水平，但也不失為一個不錯的折中解決方案，對開發者來說，從FPGA入手切入AI芯片開發是個不錯的角度。

突破馮·諾依曼架構瓶頸

在傳統計算設備廣泛采用的馮·諾依曼架構中，計算和存儲功能不但是分離的，而且更側重于計算。數據在處理器和存儲器之間不停的來回傳輸，消耗了約80%的時間和功耗。學術界為此想出了很多方法試圖改變這種狀況，例如通過光互連、2.5D/3D堆疊實現高帶寬數據通信，或者通過增加緩存級數、高密度片上存儲這樣的近數據存儲，來緩解訪存延遲和高功耗。 但試想一下，人類大腦有計算和存儲的區別嗎?我們是用左半球來計算，右半球做存儲的嗎?顯然不是，人腦本身的計算和存儲都發生在同一個地方，不需要數據遷移。

因此，學術界和產業界都希望盡快找到一種與人腦結構類似的創新架構的想法就不足為奇了，最好是能夠將存儲和計算有機地結合在一起，直接利用存儲單元進行計算，或者是將計算單元進行分類，使之對應不同的存儲單元，最大程度的消除數據遷移所帶來的功耗開銷，“計算存儲設備(Computational Storage Device)”的應用概念應運而生。

存儲業界已有公司提出很值得借鑒的概念。NVM不只存儲經過數模轉換器之后產生的模擬信號，還可以將算力進行輸出，而輸入電壓和輸出電流則在NVM中扮演著可變電阻的角色，將模擬電流信號經過模數轉換器變為數字信號，從而完成數字信號輸入-數字信號輸出的全過程。這一做法的最大優勢在于它完全可以利用成熟的20/28nm CMOS工藝，而不用像CPU/GPU一樣去追求7nm/5nm這樣費用高昂的先進制程。 而伴隨成本和功耗開銷的降低，時間延遲特性也得到了顯著提升，這對無人機、智能機器人、自動駕駛、安防監控等應用來說都是至關重要的。 總體來說，終端推理過程計算復雜度低，涉及的任務較為固定，對硬件加速功能的通用性要求不高，無需頻繁變動架構，更適合存內計算的實現。相關數據顯示，2017年之前，人工智能無論是訓練還是推理基本都在云端完成，但到了2023年，在邊緣側設備/芯片上進行AI推理將占據該市場一半以上的份額，總額高達200-300億美元，這對IC廠商來說是一個非常龐大的市場。

AI需要怎樣的閃存？

相信沒有人會反對高品質、高可靠性和低延遲閃存(Flash Memory)對AI芯片與應用的重要性。但黃仲宇提醒，面對不同的應用，需要從性能、功耗、安全、可靠性、高效能等多方面加以綜合考量，相比之下，成本考量雖然相當重要，但相較之下不是第一優先的考慮因素，不能顧此失彼。 高性能OctalNAND Flash W35N、面向低功耗應用的W25NJW系列、與安全相關的W77Q/W75F系列安全閃存，是華邦最具代表性的產品，例如，華邦QspiNAND Flash的數據傳輸率大概是83MB每秒，而OctalNAND系列最快的速度可以達到240MB每秒，幾乎是前者的3倍；在車載應用中，大量AG1 125C NOR系列和AG2+ 115C NAND系列Flash已經量產面世；而在智能傳感器或是產線機器人應用方面，華邦電子則可以提供具備成本-高效能的解決方案，比如W25N/W29N NAND Flash系列。

除了各式各樣的不同類型的Flash產品外，華邦SpiStack (NOR+NAND) 也很具特點。它將NOR芯片和NAND芯片堆疊到一個封裝中，例如64MB Serial NOR和1Gb QspiNAND芯片堆疊，使設計人員可以靈活地將代碼存儲在NOR芯片中，并將數據存儲在NAND芯片。此外，雖然是兩個芯片(NOR+NAND)的堆棧，但單一封裝的SpiStack，在使用上僅需6個信號引腳。

“華邦可以提供不錯的Flash選型來保護客戶辛苦開發出來的代碼模型。就像在一場籃球比賽中一樣，芯片廠商扮演中鋒或前鋒，憑借強大的算力和算法不斷得分，而華邦就像后衛，在后場提供高品質、高性能的Flash產品，確保用戶在市場上不斷得分。”黃仲宇表示。

原文標題：如何在AI終端應用中選擇合適的閃存芯片

文章出處：【微信公眾號：電子發燒友網】歡迎添加關注！文章轉載請注明出處。