近年來隨著人工智能的發展，Deepfake（deep learning 與 fake 的結合，類似換臉軟件，即機器在深度學習大量已有資料后，偽造某人的圖像和視頻）已成為世界政壇的又一大威脅。

試想，別有用心的程序員完全可以借此操縱各國領導人的形象，借助各類媒體傳播虛假信息，小到影響總統選舉，大到引發國際關系危機。

不過，加州大學伯克利分校和南加州大學的研究者為我們帶來一絲希望。

他們先運用生成式對抗網絡，提取了包括特朗普、克林頓、奧巴馬等人的面部、頭部運動特征，制作了虛假版本的圖像視頻。隨后，利用機器學習原理，比對真假數據之間到底有何區別。他們發現，一些異常細微的特征，比如聯邦眾議員桑德斯（Bernie Sanders）在說到特定字眼時點頭的樣子，或是特朗普重返競選臺的詭異一笑，Deepfake 的算法還無法建模分析，而這正是其檢測技術的核心所在。

目前的實驗顯示，新型檢測工具分辨真假的準確率約 92%。

這種工具可對抗的 Deepfake 類型多種多樣，無論是用在簡單的“換臉術”、模仿秀演員搭配數字木偶（digital puppet）制作出的視頻中，還是那些帶有壓縮過的原始數據的文件上，效果都還算可觀。研究人員還計劃，進一步分析不同人物的說話風格，讓甄別技術更上一層樓。

其實，“打假”工具不是第一次出現，可惜的是，制假的這方適應速度也很快。

比如在過去，虛假視頻中的眼動十分不自然，以此為基礎的甄別技術早就投入使用。但是 Deepfake 也不甘示弱，相關算法現已能制作出更佳的眨眼效果。

論文作者之一的南加州大學教授 Hao Li 也表示，正因為人工智能的精進為兩方都提供了便利，識別 Deepfake 是一場無休止的對抗。出于顧慮，該識別方法的代碼尚未向社會公布。他預測，為了趕超識別技術的不斷更新，未來的 Deepfake 將不僅僅是換臉那么簡單，直接合成人物的動作和行為不是沒有可能。不久后，不僅僅是政客和名人，也許連普通人都會遭殃。不過在一到兩年內，徹底的人工偽造人物形象也是不切實際的。