隨著社會的發(fā)展，時代的進(jìn)步，我們能相信AI可以無所不能，可以如同人類的眼睛一樣去辨識所有的事物。但是，來自AI神經(jīng)網(wǎng)絡(luò)的視覺卻遭到了人們的質(zhì)疑。有研究人員認(rèn)為，AI可能難以分辨事物的真相。

　　從無人車到智能監(jiān)視器，社會正在緩慢地相信AI或許真的可以代替人眼。但是雖然我們的機器眼看起來永不疲倦，他們也絕不是完美的。看看下圖，你看見的是不是一只烏龜？但是，谷歌訓(xùn)練出來的一個神經(jīng)網(wǎng)絡(luò)卻不是這么想的。對它來說，這張圖里是一只來復(fù)槍。

　　這個 3D 打印出來的烏龜是一個“對抗性圖像。”在 AI 的世界，這些圖形是被精心設(shè)計來欺騙機器視覺軟件的，它們都含有特定的特征使得 AI 系統(tǒng)無法正常識別。你可以將他們想成是計算機的視覺幻象。你可以制作一個“對抗性眼鏡”，從而使得臉部識別系統(tǒng)將你認(rèn)成其他人，又或者將一層幾乎不可見的對抗性圖案附加到被識別圖形上。人們無法分出這些圖形的區(qū)別，但是對 AI 來說，這意味著一只熊貓瞬間變成了大貨車。

　　生成和抵抗這種對抗性攻擊是在蓬勃發(fā)展的研究領(lǐng)域。要聲明的是，雖然這些攻擊看起來極其有效，但是并不是毫無弱點。這意味著如果你將對抗性圖像旋轉(zhuǎn)角度或是將某個部分放大，計算機就可以看出“對抗性圖案”的蹊蹺并且準(zhǔn)確識別圖形。為什么這個 3D 打印的烏龜很重要呢？是因為它表明對抗性攻擊可以在 3D 世界中進(jìn)行，成功騙過從不同角度監(jiān)視的電腦。

　　“具體來說，這意味著某些人可以制作出在人類看來完全正常的公告牌，但對于無人車來說它們就變成了突然出現(xiàn)在街邊的行人。” Labsix，發(fā)表此項研究的 MIT 團(tuán)隊的學(xué)生之一。“這些例子在神經(jīng)網(wǎng)絡(luò)應(yīng)用越來越廣泛的今天足以引起人們的憂慮。”

　　Labsix 將他們的新方法稱為“轉(zhuǎn)變預(yù)期 Expectation Over Transformation 。”除了制作出這個看起來像來福手槍的烏龜，他們還制作出了一個被認(rèn)成咖啡的棒球。這個團(tuán)隊在谷歌開發(fā)的圖像分類器 Inception-v3 上進(jìn)行了測試。這個分類器對開發(fā)者們免費開放，供其測試。雖然他們還沒有在其他機器視覺軟件上進(jìn)行測試，但是我們至今還沒有有效地對抗這一攻擊的萬靈藥。而雖然谷歌官方并未對這篇論文發(fā)表任何意見，一位發(fā)言人則向我們介紹了一些最近由其研究員發(fā)表的一系列討論如何抵御組織對抗性攻擊的論文。

　　當(dāng)然，這一研究也受到了一些質(zhì)疑。首先，這個團(tuán)隊自己承認(rèn)他們所說的對抗性攻擊可以在任意角度生效這個論點并不嚴(yán)謹(jǐn)。事實上，他們的展示錄像顯示，雖然他們可以在大多數(shù)角度欺騙計算機，但是不是所有角度都能成功。其次，Labsix 需要了解谷歌視覺的算法來發(fā)現(xiàn)其弱點并欺騙它。而對于大多數(shù)算法處于保密狀態(tài)的系統(tǒng)來說攻擊難度大大增加。但是，已經(jīng)有一些其他的對抗性攻擊在完全不知道算法的情況下成功，據(jù)可靠消息，Labsix 的團(tuán)隊接下來也將向這一方向進(jìn)行進(jìn)一步的研究。

　　對抗性攻擊還不會對公眾形成巨大的影響。他們是很有效，但是是在相對局限的情況下。雖然機器視覺在現(xiàn)實世界中越來越普遍，可我們還未完全依賴它們。而我們應(yīng)該從這一試驗中得到的經(jīng)驗是，一些 AI 系統(tǒng)可以有多么的脆弱。如果我們現(xiàn)在不去解決這些問題，他們就會在未來導(dǎo)致更大的問題。