隨著現代人工智能技術的興起，對設備上模型訓練的需求已成為一個重要的研究領域。任務復雜性和工作量的增加強調了將 AI 模型訓練帶到邊緣的必要性。

在邊緣進行推理之后，需要在邊緣的設備上持續訓練 AI 模型，以處理具有非平穩輸入的不確定情況。深度學習模型在部署到嵌入式設備之前在遠程服務器上進行訓練。但是已經發生了向持續學習的轉變，設備上的個性化可以通過新獲取的數據增加基于用戶交互的自適應功能。

在設備上更新和重新訓練已經訓練過的模型可能需要很長時間，這對于實時輸入來說幾乎是不可能完成的任務。即使只是簡單地更新預測模型，新的傳入數據也會導致災難性的遺忘，其中人工神經網絡在學習新信息時會完全突然地忘記先前學習的信息。

持續學習 （CL） 是隨著不斷變化的外部環境、動態傳入數據而增量學習的能力，以及泛化分布外和執行遷移和元學習的能力。由于內存和計算量的增加，神經網絡僅在部署到嵌入式設備之前進行推理訓練。直到最近，對超低功耗設備的深度學習模型的研究仍基于訓練后部署假設，其中靜態模型無法在不斷變化的環境中采用。為了改變動態，在基于 Latent Replay 的 CL 技術上開展的工作，超低功耗 TinyML 設備對計算和內存的需求一直是個問題。

實時持續學習的潛在回放

持續學習的 Latent Replay 方法實際上意味著可以從上面的架構圖中理解的幾個方面。在潛在重放中，不是將過去數據的一部分存儲在輸入空間中，而是將數據存儲在某個中間層的激活卷中。這反過來又解決了計算和存儲問題，為此在復雜的視頻上進行了基準測試，例如 CORe50 NICv2 和 OpenLORIS。

查看 Latent Replay 的架構圖，離輸入層更近的層，通常稱為表示層，通常會執行低級特征提取。預訓練模型的權重是穩定的，可以跨應用程序重復使用，而更高級別的模型提取特定于類的特征，對于最大限度地提高準確性至關重要。為了保持穩定性，所提出的方法在 Latent Replay 之下的層采用減慢學習速度，并讓上面的層以自己的速度學習。

即使較低層的速度減慢到零，也可以節省計算和存儲，因為需要在網絡中向前和向后流動的模式的一小部分。但在表示層未凍結為零的正常情況下，存儲在外部存儲器中的激活會經歷老化效應。如果層的訓練很慢，老化效應不會破壞，因為外部記憶有時間恢復新的模式。

具有量化潛在重放的設備上持續學習

在最近基于 Pellegrini 所做工作的研究中，研究人員致力于開發一個 TinyML 平臺，用于通過量化的潛在回放進行設備上的持續學習。這項工作采用 VEGA，這是一個基于 PULP 的深度學習 TinyML 平臺，它是一種采用 22nm 工藝技術制造的端節點片上系統原型。CL 的 Latent Replay 已經在智能嵌入式設備上進行了測試，包括在 Snapdragon-845 CPU 上運行的智能手機。但這項工作更側重于超低功耗 TinyML 設備，以節省與之相關的計算和內存限制。

該研究提出了擴展 Latent Replay 算法以使用 8 位量化和凍結前端的想法。這不會影響 CL 過程并支持帶有量化的 Latent Replay 壓縮，從而將內存需求減少多達 4.5 倍。這被稱為持續學習的量化潛在重放。CL 原語包括常見層的前向和后向傳播，如卷積、深度卷積和全連接層，它們經過調整以在 VEGA 上優化執行。

可以根據應用程序和可用資源定義的計算和存儲精度之間始終存在權衡。用于持續學習的潛在重放是適用于從嵌入式設備到智能小工具的各種系統的最有效方式。

審核編輯：郭婷