近年來,異常檢測在工業(yè)缺陷檢測、醫(yī)療診斷,自動駕駛等領(lǐng)域有著廣泛的應(yīng)用。“異常”通常定義為 “正常” 的對立面,即所有不符合正常規(guī)范的樣本。通常來說,相比于正常,異常事件的種類是不可窮盡的,且十分稀有,難以收集,因此不可能收集詳盡的異常樣本進(jìn)行訓(xùn)練。因此,近期關(guān)于異常檢測的研究主要致力于無監(jiān)督學(xué)習(xí),即僅使用正常樣本,通過使用單類別(one-class)分類,圖像重建(reconstruction),或其他自監(jiān)督學(xué)習(xí)任務(wù)對正常樣本進(jìn)行建模,之后,通過識別不同于模型分布的樣本來檢測異常。
大多數(shù)現(xiàn)有的異常檢測方法都專注于為每個異常檢測任務(wù)訓(xùn)練一個專用模型。然而,在諸如缺陷檢測之類的真實(shí)場景中,考慮到要處理數(shù)百種工業(yè)產(chǎn)品,為每種產(chǎn)品均收集大量訓(xùn)練集是不劃算的。對此,上海交通大學(xué) MediaBrain 團(tuán)隊和上海人工智能實(shí)驗室智慧醫(yī)療團(tuán)隊等提出了一個基于配準(zhǔn)的少樣本異常檢測框架,通過學(xué)習(xí)多個異常檢測任務(wù)之間共享的通用模型,無需進(jìn)行模型參數(shù)調(diào)整,便可將其推廣到新的異常檢測任務(wù)。目前,這項研究已被 ECCV2022 接收為 Oral 論文,完整訓(xùn)練代碼及模型已經(jīng)開源。

方法簡介
在這項工作中,少樣本異常檢測通用模型的訓(xùn)練受到了人類如何檢測異常的啟發(fā)。事實(shí)上,當(dāng)嘗試檢測圖像中的異常時,人們通常會將該檢測樣本與某個已經(jīng)被確定為正常的樣本進(jìn)行比較,從而找出差異,有差異的部分就可以被認(rèn)為是異常。為了實(shí)現(xiàn)這種類似于人類的比較的過程,本文作者采用了配準(zhǔn)技術(shù)。本文作者認(rèn)為,對于配準(zhǔn)網(wǎng)絡(luò)而言,只要知道如何比較兩個極度相似的圖像,圖像的實(shí)際語義就不再重要,因此模型就更能夠適用于從未見過的異常檢測新任務(wù)。配準(zhǔn)特別適用于少樣本異常檢測,因為配準(zhǔn)可以非常方便地進(jìn)行跨類別推廣,模型無需參數(shù)微調(diào)就能夠快速應(yīng)用于新的異常檢測任務(wù)。

上圖概述了基于配準(zhǔn)的少樣本異常檢測的框架。與常規(guī)的異常檢測方法(one-model-per-category)不同,這項工作(one-model-all-category)首先使用多類別數(shù)據(jù)聯(lián)合訓(xùn)練一個基于配準(zhǔn)的異常檢測通用模型。來自不同類別的正常圖像一起用于聯(lián)合訓(xùn)練模型,隨機(jī)選擇來自同一類別的兩個圖像作為訓(xùn)練對。在測試時,為目標(biāo)類別以及每個測試樣本提供了由幾個正常樣本組成的支撐集。給定支撐集,使用基于統(tǒng)計的分布估計器估計目標(biāo)類別注冊特征的正態(tài)分布。超出統(tǒng)計正態(tài)分布的測試樣本被視為異常。

這項工作采用了一個簡單的配準(zhǔn)網(wǎng)絡(luò),同時參考了 Siamese [1], STN [2] 和 FYD [3]。具體地說,以孿生神經(jīng)網(wǎng)絡(luò)(Siamese Network)為框架,插入空間變換網(wǎng)絡(luò)(STN)實(shí)現(xiàn)特征配準(zhǔn)。為了更好的魯棒性,本文作者利用特征級的配準(zhǔn)損失,而不是像典型的配準(zhǔn)方法那樣逐像素配準(zhǔn),這可以被視為像素級配準(zhǔn)的松弛版本。
實(shí)驗結(jié)果
在與其他少樣本異常檢測方法的比較上,RegAD 無論在檢測性能、適用到新類別數(shù)據(jù)的自適應(yīng)時間上,相比于基準(zhǔn)方法 TDG [4] 和 DiffNet [5] 都有顯著的優(yōu)勢。這是由于其他的方法都需要針對新的類別數(shù)據(jù)進(jìn)行模型的多輪迭代更新。另外,RegAD 相比于沒有進(jìn)行多類別特征配準(zhǔn)聯(lián)合訓(xùn)練的版本(RegAD-L),性能也得到了顯著的提升,體現(xiàn)出基于配準(zhǔn)的通用異常檢測模型的訓(xùn)練是十分有效的。本文在異常檢測數(shù)據(jù)集 MVTec [6] 和 MPDD [7] 上進(jìn)行實(shí)驗。更多的實(shí)驗結(jié)果和消融實(shí)驗可參考原論文。

此外,作者還展示了異常定位可視化的結(jié)果。可以看到,聯(lián)合訓(xùn)練可以使得模型的異常定位變得更加準(zhǔn)確。

T-SNE 的可視化也顯示出,基于配準(zhǔn)的訓(xùn)練可以使得同類別的正常圖像特征變得更加緊湊,從而有利于異常數(shù)據(jù)的檢出。

總結(jié)
這項工作主要探索了異常檢測的一個具有挑戰(zhàn)性但實(shí)用的設(shè)置:1)訓(xùn)練適用于所有異常檢測任務(wù)的單一模型(無需微調(diào)即可推廣);2)僅提供少量新類別圖像(少樣本);3)只有正常樣本用于訓(xùn)練(無監(jiān)督)。嘗試探索這種設(shè)置是異常檢測走向?qū)嶋H大規(guī)模工業(yè)應(yīng)用的重要一步。為了學(xué)習(xí)類別無關(guān)的模型,本文提出了一種基于比較的解決方案,這與流行的基于重建或基于單分類的方法有很大不同。具體采用的配準(zhǔn)模型建立在已有的配準(zhǔn)方案基礎(chǔ)上,充分參考了現(xiàn)有的杰出工作 [1,2,3],在不需要參數(shù)調(diào)整的前提下,在新的異常檢測數(shù)據(jù)上取得了令人印象深刻的檢測效果。
-
代碼
+關(guān)注
關(guān)注
30文章
4967瀏覽量
73960 -
檢測圖像
+關(guān)注
關(guān)注
0文章
3瀏覽量
5612 -
自動駕駛
+關(guān)注
關(guān)注
793文章
14879瀏覽量
179794
原文標(biāo)題:ECCV 2022 Oral | 無需微調(diào)即可推廣,上交大、上海人工智能實(shí)驗室等提出基于配準(zhǔn)的少樣本異常檢測框架
文章出處:【微信號:CVSCHOOL,微信公眾號:OpenCV學(xué)堂】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
上汽集團(tuán)與新疆準(zhǔn)東經(jīng)開區(qū)深化戰(zhàn)略合作
上汽集團(tuán)與新疆準(zhǔn)東經(jīng)開區(qū)簽署戰(zhàn)略合作框架協(xié)議
經(jīng)世智能復(fù)合機(jī)器人,助力實(shí)驗室檢測樣本上下料,提升實(shí)驗效率
有哪些常見的AI算法可以用于裝置數(shù)據(jù)的異常檢測?
如何利用AI算法進(jìn)行裝置數(shù)據(jù)的異常檢測?
基于eBPF的Kubernetes網(wǎng)絡(luò)異常檢測系統(tǒng)
機(jī)器學(xué)習(xí)異常檢測實(shí)戰(zhàn):用Isolation Forest快速構(gòu)建無標(biāo)簽異常檢測系統(tǒng)
提高IT運(yùn)維效率,深度解讀京東云AIOps落地實(shí)踐(異常檢測篇)
液晶屏幕 AOI 異常檢測及液晶線路激光修復(fù)方法
突破14nm工藝壁壘:天準(zhǔn)科技發(fā)布TB2000晶圓缺陷檢測裝備
異常零流量小區(qū)檢測功能介紹
基于配準(zhǔn)的少樣本異常檢測的框架
評論