AI（人工智能）換臉軟件走向大眾的風(fēng)險(xiǎn)之一，是這種軟件可能會(huì)被不法分子濫用。

9月3日晚間，記者在二手交易品臺(tái)閑魚(yú)App上發(fā)現(xiàn)，有多位賣家通過(guò)AI換臉技術(shù)制作出當(dāng)紅女明星的不雅視頻，進(jìn)行售賣。

其中一位賣家告訴記者，他有視頻100部，里面包括30多位明星。還有一位類似賣家報(bào)價(jià)稱，75元套餐中有40多位女明星上百部的AI換臉視頻。

北京志霖律師事務(wù)所副主任、中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心特約研究員趙占領(lǐng)律師對(duì)澎湃新聞表示，這種售賣明星換臉不雅視頻的行為，毫無(wú)疑問(wèn)是構(gòu)成肖像侵權(quán)的，也涉嫌構(gòu)成名譽(yù)侵權(quán)。而且還涉嫌構(gòu)成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節(jié)嚴(yán)重者可判無(wú)期徒刑。

咨詢閑魚(yú)相關(guān)人員獲得的回應(yīng)是，該平臺(tái)對(duì)違反公序良俗的商品一貫以來(lái)采取零容忍態(tài)度，從嚴(yán)從重處罰違規(guī)行為。

電商平臺(tái)不法分子兜售女明星AI換臉視頻

AI換臉技術(shù)兩年前在國(guó)外出現(xiàn)時(shí)，就曾經(jīng)被“用來(lái)?yè)Q臉色情片女主角”。

2017年12月，在海外出現(xiàn)AI換臉技術(shù)時(shí)，這項(xiàng)名為“deepfakes”的技術(shù)，就曾被少數(shù)懂技術(shù)的人用來(lái)?yè)Q臉色情片女主角。后來(lái)，隨著一款桌面應(yīng)用程序FakeApp的出現(xiàn)，普通網(wǎng)民也能簡(jiǎn)單制作換臉假視頻，互聯(lián)網(wǎng)上的假臉視頻開(kāi)始廣泛流傳。這在海外早已引發(fā)爭(zhēng)議。

目前，國(guó)內(nèi)市場(chǎng)上已經(jīng)有“ZAO”和顏技App攻克了AI換臉技術(shù)，將換臉從專業(yè)化變成全民化，實(shí)現(xiàn)一鍵換臉。這又讓一些不法分子看到了賺錢的機(jī)會(huì)。

9月3日晚間，記者在二手交易品臺(tái)閑魚(yú)App上發(fā)現(xiàn)，有多位賣家通過(guò)AI換臉技術(shù)制作出當(dāng)紅女明星的不雅視頻，進(jìn)行售賣。

其中一位賣家提議在qq或者微信進(jìn)行交易，并告訴澎湃新聞?dòng)浾撸餍菗Q臉合成情境圖的價(jià)格如下：一個(gè)明星30元，兩個(gè)明星40元，三個(gè)明星50元，每個(gè)明星圖片數(shù)量不同，大多數(shù)都是300張左右。此外，他還有視頻100部，里面包括30多位明星。“都是當(dāng)紅的，有的明星多，有的少。”他說(shuō)。

澎湃新聞?dòng)浾咴儐?wèn)賣家能否試看，對(duì)方表示不能，并發(fā)來(lái)了部分資料庫(kù)截圖，文件名稱極其露骨。

另外一位類似賣家給出的報(bào)價(jià)是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網(wǎng)觀看任意資源”。

對(duì)此，澎湃新聞咨詢了閑魚(yú)相關(guān)人員。對(duì)方告訴澎湃新聞，對(duì)違反公序良俗的商品一貫以來(lái)采取零容忍態(tài)度，從嚴(yán)從重處罰違規(guī)行為。同時(shí)，在平臺(tái)處理的基礎(chǔ)上，閑魚(yú)還將向執(zhí)法機(jī)關(guān)舉報(bào)涉嫌發(fā)布違規(guī)信息的賬號(hào)，協(xié)助開(kāi)展線下溯源打擊，追蹤背后的黑灰產(chǎn)團(tuán)伙。

今年3月20日，閑魚(yú)在浙江省網(wǎng)信辦指導(dǎo)下，在互聯(lián)網(wǎng)行業(yè)內(nèi)率先發(fā)起為期3個(gè)月專項(xiàng)治理行動(dòng)，用最嚴(yán)厲手段打擊各類涉嫌違反公序良俗的違規(guī)信息。

閑魚(yú)相關(guān)人員表示，閑魚(yú)呼吁公眾發(fā)現(xiàn)違規(guī)現(xiàn)象時(shí)積極向平臺(tái)舉報(bào)，共同凈化網(wǎng)絡(luò)社會(huì)環(huán)境。

利用AI換臉技術(shù)傳播淫穢物品牟利罪嚴(yán)重者可判無(wú)期徒刑

趙占領(lǐng)律師對(duì)此表示，以上這種售賣明星換臉不雅視頻的行為，涉及兩方面的法律問(wèn)題，第一個(gè)是肖相侵權(quán)。按照法律規(guī)定，以營(yíng)利為目的未經(jīng)授權(quán)使用他人肖像，那這屬于是侵犯他人肖像權(quán)。所以，將色情視頻換成明星的臉然后去銷售，毫無(wú)疑問(wèn)是構(gòu)成肖像侵權(quán)的。

“第二點(diǎn)，這種做法也侵犯了明星的名譽(yù)權(quán)，因?yàn)樗@種做法會(huì)導(dǎo)致一些人可能誤認(rèn)為這是明星本人所出演的這種色情電影。所以導(dǎo)致它的社會(huì)評(píng)價(jià)降低，因此這種行為也涉嫌構(gòu)成名譽(yù)侵權(quán)。”趙占領(lǐng)說(shuō)。

不僅如此，趙占領(lǐng)表示，這種行為既涉及到上述兩種民事侵權(quán)，同時(shí)還涉嫌構(gòu)成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節(jié)嚴(yán)重者可判無(wú)期徒刑。“所以，一旦認(rèn)定構(gòu)成傳播淫穢物品牟利罪，這樣的一個(gè)刑事犯罪，那么他的這個(gè)犯罪嫌疑人的責(zé)任就重了。根據(jù)《刑法》第三百六十三條第一款之規(guī)定，犯本罪的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)。”

趙占領(lǐng)表示，“至于具體判刑情況，是跟它具體的行為，包括傳播范圍、傳播數(shù)量、金額等等有關(guān)系的。”

被侵權(quán)明星若協(xié)商不成可起訴

北京法學(xué)會(huì)電子商務(wù)法治研究會(huì)會(huì)長(zhǎng)邱寶昌律師向澎湃新聞指出，對(duì)于AI換臉技術(shù)下被侵犯肖像權(quán)和名譽(yù)權(quán)的明星，可采取相應(yīng)法律措施進(jìn)行維權(quán)。

“第一，你可以要求停止侵權(quán)。第二，要求賠償損失。精神損失、造成的經(jīng)濟(jì)損失都可以要求索賠。首先可要求賠償，如果協(xié)商協(xié)商不成的話，可以起訴。”

在中國(guó)裁判文書(shū)網(wǎng)中搜索“肖像權(quán)“可見(jiàn)，多名當(dāng)紅明星都曾涉及肖像權(quán)維權(quán)。其中，有84篇文書(shū)與范冰冰的肖像權(quán)維權(quán)相關(guān)，有29篇文書(shū)與楊穎的肖像權(quán)維權(quán)相關(guān)，有5篇文書(shū)與楊冪的肖像權(quán)相關(guān)。不過(guò)，其中大部分是利用明星肖像做廣告以謀取盈利的案件，目前暫未發(fā)現(xiàn)使用AI換臉技術(shù)侵犯肖像權(quán)的案件。

就明星肖像權(quán)維權(quán)咨詢了幾位明星工作室的相關(guān)人員，對(duì)方均表示，目前暫未遇到AI換臉侵犯肖像權(quán)的案例。

普通人面部信息泄露引發(fā)監(jiān)管部門關(guān)注

那么，普通人的照片信息被收集后，是否存在被做成色情視頻的可能性呢？

此前有報(bào)道稱，在一些電商平臺(tái)上，還有賣家表示，可以提供視頻定制換臉產(chǎn)品。只需要買家提供一些被換臉人的照片，賣家便可以將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去。

雖然上述幾位閑魚(yú)上的賣家目前暫未提供此類服務(wù)，但這并不意味著將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去的服務(wù)不存在。

對(duì)于近期火爆的“ZAO”，趙占領(lǐng)律師認(rèn)為，其確實(shí)存在用戶面部信息泄露的風(fēng)險(xiǎn)。

“‘ZAO’這個(gè)軟件，你要上傳頭像，然后經(jīng)過(guò)認(rèn)證才能把你的換臉的視頻分享給他人。所以這個(gè)認(rèn)證的過(guò)程就是要對(duì)用戶的人臉進(jìn)行識(shí)別。至少在這個(gè)過(guò)程中，他肯定會(huì)收集臉部信息數(shù)據(jù)的，但他會(huì)不會(huì)保存就不得而知了。因?yàn)楝F(xiàn)在是它自己?jiǎn)畏降恼f(shuō)法，我們無(wú)從判斷。但不排除它存在存儲(chǔ)用戶臉部特征數(shù)據(jù)的可能性。”

趙占領(lǐng)還指出：“它如果存儲(chǔ)這些數(shù)據(jù)的話那確實(shí)有風(fēng)險(xiǎn)。有兩方面的風(fēng)險(xiǎn)，第一個(gè)就是它自己保管不當(dāng)導(dǎo)致這些數(shù)據(jù)泄露出去，其他人拿著這些數(shù)據(jù)從事違法犯罪活動(dòng)，另外一個(gè)就是它自身拿這些數(shù)據(jù)進(jìn)行非法的使用。”

9月4日，“ZAO”App由于用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題，已被工信部約談。

雖然在9月3日，“ZAO”曾公開(kāi)致歉，稱不會(huì)存?zhèn)€人面部生物識(shí)別特征信息，且無(wú)支付風(fēng)險(xiǎn)。但是，不少網(wǎng)友還是聚集在“ZAO“的微博下，要求注銷賬號(hào)并終止授權(quán)肖像。

值得一提的是，9月4日上午，“ZAO”的自動(dòng)回復(fù)是一張寫有指導(dǎo)用戶刪除面孔、注銷賬號(hào)的說(shuō)明圖。