“如果一臺機器能夠與人類展開對話（通過電傳設備）而不能被辨別出其機器身份，那么稱這臺機器具有智能”——1950年，艾倫·圖靈提出了著名的圖靈測試。

圖靈測試不僅首次從行為的角度對“智能”做出了清晰定義，也直接引申出了科技發展所具有的兩面性，一方面機器智能會越發接近或超過人類，而另一方面更強的AI也不可避免會帶來更多人類無法辨別的風險。

2023年以來，伴隨各類生成式超大模型爆發，“通過AI換臉和擬聲技術佯裝熟人實施詐騙”等AI新型騙局頻繁登上新聞頭條，引發廣泛社會關注。

除了提高全民反詐意識，還有哪些方法可以預防“新科技”騙局？

推動AI可信，強化新技術安全治理。針對“AI深度偽造（DeepFake）內容”在全球范圍內病毒式傳播，商湯科技從技術源頭出發，針對性打造兩把技術盾牌，并快速應用于各類AI產品中。 ▎深偽檢測+數字水印，讓AI詐騙顯行

商湯在涉及隱私保護、數字取證及偽造檢測等領域的人像合成技術有著廣泛積累，并逐步開發了基于生成、鑒偽和溯源三位一體的綜合鑒偽解決方案。

為在偽造鑒別這場“攻防戰”中奪得先機，商湯打造了高效的對抗體系。

包括自建囊括數十種先進攻擊手段的偽造生成平臺，為鑒偽檢測和溯源提供豐富多樣的攻擊案例和海量數據支持。并可通過持續集成先進偽造算法，在zero/few-shot場景下快速響應難例樣本和長尾類型，幫助提升鑒偽算法的泛化性。

“防”的層面，商湯訓練的偽造檢測大模型，可充分利用面部表情一致性、動作序列連貫性，并結合頻譜、聲音和文字等多模態信息，準確鑒別包括PS、換臉、活化以及各種先進擴散模型（如：Stable Diffusion）合成的高清人像。主流評測數據集上算法檢測精度可達到99%以上，在應對新技術復合偽造方法上（如：通過MidJourney），檢測能力也高出行業同類產品20%以上。

作為偽造鑒別中的最后一環，溯源可追蹤偽造數據的數據物料源頭、偽造過程以及核心偽造方法。商湯通過自研基于解耦-重建的偽造檢測算法，能夠從偽造數據中分離出真實內容及偽影痕跡。在針對10余種主流偽造算法溯源上，準確率超過90%，同時還可給出數據中的相關偽造痕跡，提高檢測算法的可解釋性和可信度。這一技術為行業首創，并作為數字取證技術成功落地司法領域。目前，商湯綜合鑒偽解決方案已投入實戰，為十余家銀行的安全系統提供服務，對各類灰黑產攻擊攔截成功率超行業同類產品20%以上，有效防范了灰黑產身份盜取、支付盜刷等網絡詐騙。

在AIGC技術大爆發時代，每天都會出現新的生成方法，僅僅依靠深偽檢測技術存在一定漏檢風險，從生成平臺源頭加入數字水印技術可以構成強力雙保險。

商湯數字水印結合頻域分析、深度學習、擴散模型等技術，將特定信息嵌入到數字載體中，同時不影響載體的使用價值，也不易被人的知覺系統察覺，只有通過特定的解碼器和專屬密鑰才能提取，可實現篡改內容的檢測且水印不可竊取。 數字水印技術可在AIGC相關產品發布時加入，能夠有效增強深偽檢測的可靠性，甚至進一步影響生成效果，從源頭上遏制深度偽造，實現主動防御。具體應用中，商湯數字水印技術可用于版權保護，防偽溯源等場景，支持圖像、視頻、音頻、文本等各種模態的數字載體，在不同程度的干擾下(裁剪、壓縮等)能保證99%+的水印提取精度，且不影響數據本身質量(如高清圖畫質)，在保證水印信息容量大(256位)以及安全性(通過密鑰加密)的同時具備足夠的隱蔽性以及魯棒性。此外，數字水印技術也響應了《生成式人工智能服務管理辦法（征求意見稿）》監管要求。

目前，商湯數字水印技術已服務于“商湯秒畫SenseMirage”、 “商湯如影SenseAvatar”等多個產品，以及內容創作、大數據客戶。

▎持續推進可信AI體系化建設

提升AI安全治理水平、推動AI可持續發展，是行業健康成長的根基，也是商湯科技的責任。

多年來，商湯積極釋放在可信AI領域的技術沉淀和實踐經驗，產生一系列成果：