全球短視頻與直播社交行業在過去幾年經歷了顯著增長，已成為當今互聯網時代最具代表性與成長性的產業之一。2023年全球直播市場估值約606.3億美元，預計2032年將達到2565.6億美元。全球市場上，行業頭部的TikTok最新月活用戶已超15.82億，而另一代表YouTube全球月活用戶已達24.9億。而國內市場上，最大短視頻與直播社交平臺抖音月活用戶已超8億。巨大的用戶基數與勢頭迅猛的增長趨勢，為直播社交行業創造了商機豐富的生態，同時也吸引了欺詐團伙的目光。

欺詐者在直播社交行業實施欺詐行為主要基于深度偽造技術，合成虛假的身份進行欺詐。例如冒充名人或網紅進行直播詐騙、制作虛假色情直播內容詐騙、偽造身份注冊直播賬號進行違法活動，或冒充親友詐騙直播社交軟件用戶，以及制作虛假廣告欺騙用戶。

得益于生成式人工智能技術飛躍發展，由此衍生的深度偽造 (Deepfake)技術也越來越成熟，基于深度偽造的欺詐具有技術門檻低、生成效果逼真、應用場景多樣化與檢測難度高等“優點”，這無疑給直播社交行業的從業者帶來了嚴重的挑戰。

深度偽造是指經過操縱或合成的媒體，通過使用人工智能和機器學習算法來創建令人信服的虛假內容。這些復雜的技術使犯罪分子能夠將一個人的臉部疊加到另一個人身體上，或者改變他們的面部表情、聲音或手勢。文本、圖像、音頻、視頻等各類內容都成為了深度偽造的對象。以深度偽造視頻為例，視頻圖像主要基于生成對抗網絡(GAN)生成，通過訓練大量的面部圖像數據，模型可以學習面部特征之間的潛在關系，進而生成與真實面部特征高度相似的虛假面部特征。隨著技術的演進，創建深度偽造視頻的成本越來越低，所需的訓練時間越來越少，生成的視頻質量也越來越高，更加難以辨別和檢測。

不法分子可以利用生成的深度偽造視頻等內容，結合現成的偽造工具結合模擬器和特定軟件，就能繞過傳統的防護檢測，滲透到線上會議、社交網絡和工作流程中。由于沒有數字痕跡和IP地址等信息，導致追蹤系統很難察覺。

基于深度偽造AI技術的合成身份、虛假身份欺詐，因其以假亂真的逼真程度，往往讓受騙者防不勝防，因為深度偽造制作的材料是個人音頻、圖片、視頻，這些數據越多，訓練出的視頻就越逼真，所以社交媒體上相關數據較多的博主、明星容易成為深度偽造的目標。全球知名歌手泰勒·斯威夫特(Taylor Swift)不止一次受到深度偽造欺詐造成的困擾。今年1月她遭遇AI合成不雅照事件，其后不久一則由AI生成的斯威夫特帶貨廣告又在海外社交媒體上瘋傳。這則虛假廣告利用深度偽造技術，合成了斯威夫特的聲音，并將聲音及她的形象和Le Creuset品牌炊具廣告片段拼湊在一起，宣稱免費向粉絲贈送炊具，引導受害者點擊并支付運費，但炊具不會真的送出。

而即便是互聯網上資料痕跡少的普通人，也一樣有概率被欺詐團伙盯上，利用深度偽造技術合成虛假身份完成欺詐，造成經濟財產損失。2023年福州市某公司法人郭先生就不幸遭遇了10分鐘內被騙430萬元的經歷。詐騙者偽裝成他的好友，通過微信視頻聯系到他，稱自己的朋友在外地競標，需要430萬元保證金，想借用郭先生公司的賬戶走賬。基于對好友的信任，加上已經視頻聊天“核實”了身份，郭先生在10分鐘內，在收到轉賬截圖后沒有核實錢款到賬就立馬“轉回去”430萬元。事后，郭先生撥打好友電話才得知被騙。

個人案例之外，欺詐團伙針對企業的大規模合成身份欺詐行為，更是嚴重破壞直播社交行業生態發展的“頑疾”。在用戶拉新和注冊上，AI換臉技術使得創建虛假用戶和機器人賬號變得容易，大批量的合成虛假賬號擾亂平臺的社區生態，影響真實用戶的體驗和參與度；虛假賬號可能用于欺詐活動，如虛假打賞、將直播間觀眾導流到其他平臺施行詐騙等，損害平臺和用戶的利益。在資金層面，偽造身份可以通過直播間進行洗錢操作，給平臺帶來財務風險和監管挑戰。這些偽造賬戶和身份同時還可能用于發布虛假廣告和推廣，欺騙其他用戶，損害平臺的公信力和用戶體驗。

所有這些欺詐行為，都將迫使直播社交平臺投入更多的資金與人力進行欺詐檢測、用戶審核以及應對合規層面的壓力，產生大量額外的支出。

加強用戶注冊與登錄環節的身份驗證和活體檢測、加強內容層面的審核與監測，加強員工的安全培訓、提升對深度偽造關聯欺詐的防范意識，都是直播社交行業企業可以采取的措施，但從實際出發，要想從專業層面提升企業的反欺詐能力，同時對未來潛在難度升級的深度偽造欺詐保持對應防范，企業應當與擁有先進反欺詐技術的身份驗證服務商或安全廠商進行合作。

迎接深度偽造挑戰 ADVANCE.AI助力直播社交行業防范欺詐

針對深度偽造技術下合成身份欺詐為直播社交行業企業造成的困擾，ADVANCE.AI 著眼于客戶痛點，專注于技術創新，為企業提供了精準防范深度偽造欺詐的解決方案。“數字身份驗證(E-KYC)”解決方案可用于合成身份欺詐檢測，包括證件質量檢測（IQA）、證件識別（ID OCR）、假證檢測、活體檢測、人臉比對、人臉搜索、身份驗證等功能。

真實人臉與真實身份證件對直播社交行業防范欺詐攻擊起到很關鍵的作用。驗證直播社交用戶賬號的身份真實性是防范合成身份欺詐的主要手段之一，可以檢測身份冒用，當前主流解決方案以采用生物識別技術（如人臉識別、聲紋識別）為主，而欺詐份子針對此類檢測手段，通常會實施活體攻擊來繞過生物識別驗證，從而進行身份冒充和欺詐活動。在多種活體攻擊類型中，屏幕攻擊與注入攻擊占比較高。ADVANCE.AI針對活體攻擊的活體檢測解決方案可幫助直播社交企業高效率檢測此類攻擊，該解決方案可基于運動、紋理與光學的活體檢測以及多因素驗證在內的技術手段完成檢測，并在此基礎上還提供了更適用于合成身份欺詐防范的3D活體檢測產品，擁有更強的交互性，攻擊攔截率高達99.95%。

而在直播社交行業新用戶注冊環節，要求賬號持有人提供多重身份證明材料也是防范欺詐份子注冊虛假賬號實施欺詐的另一項防范手段。然而存在于金融科技、跨境電商等行業領域的假證問題，在直播社交行業同樣存在，欺詐團伙會利用假證等多項資料合成虛假身份，大量注冊虛假賬戶實施欺詐。ADVANCE.AI數字身份驗證解決方案下的“ID Forgery Detection（假證檢測）全自動解決方案“支持識別多國不同證件類型，輕松解決假證識別問題。其中支持識別假證類型包括屏幕翻拍、黑白復印、彩色打印、人臉篡改、文字篡改等，可以大量減少企業繁瑣審核工作，降低運營成本支出。

采取上述防范措施解決合成身份欺詐對直播社交行業的困擾與危害，可以讓企業的平臺產品恢復正常的運營，讓真實用戶流暢使用產品與服務，企業能在符合合規要求下安全展業，還維護了平臺的公信力。

深耕反欺詐多年 ADVANCE.AI為出海企業保駕護航

合成身份欺詐是直播社交行業必須面對的問題，隨著技術的不斷發展，欺詐手段也在不斷更新。 作為全球領先的數字身份驗證服務公司， ADVANCE.AI 能夠為企業提供先進的深度偽造檢測解決方案，以有效降低風險。通過結合先進的人工智能算法、機器學習模型、成熟的業務知識和落地經驗，ADVANCE.AI使企業能夠驗證用戶身份并防范與深度偽造相關的欺詐。

ADVANCE.AI 一直致力于走在技術進步的最前沿，不斷增強自身產品對Deepfake深度偽造的檢測能力。通過與 ADVANCE.AI合作，企業客戶可以對用戶身份真實性進行可靠驗證，并保護自己免受不斷變化的威脅環境的影響。我們相信，借助 ADVANCE.AI 的技術力量，出海企業能夠更加輕松地應對深度偽造欺詐的挑戰并贏得市場。

審核編輯 黃宇