內容一覽：深度合成服務在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，如今針對這一技術的管理規定終于發布了。

12 月 11 日，網信中國發布《互聯網信息服務深度合成管理規定》，稱該規定已經國家互聯網信息辦公室審議通過，并經工業和信息化部、公安部同意，將自 2023 年 1 月 10 日起施行。

閱讀完整規定：

https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA

靴子落地，深度合成技術開啟查漏補缺

實際上，早在今年 1 月，國家網信辦就發布了《互聯網信息服務深度合成管理規定（征求意見稿）》，公開征求群眾意見，時隔 11 個月，如今靴子終于落地，近期一路高歌猛進的 ChatGPT，在國內發展或被按下暫停鍵。

本次正式發布的管理規定，進一步明確了深度合成技術的范圍及使用規范，涵蓋文本、圖像、音頻、視頻等多種模態的相關技術。

附則部分給出了「深度合成技術」的明確定義

除一般規定外，該管理規定還對數據和技術管理規范以及監督檢查與法律責任，都做出了更詳細的規范和說明，本文將列舉部分重點規定。

禁止制作傳播虛假新聞消息

深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。轉載基于深度合成服務制作發布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發布的新聞信息。

使用深度合成技術，必須進行實名認證

深度合成服務提供者應當基于移動電話號碼、身份證件號碼、統一社會信用代碼或者國家網絡身份認證公共服務等方式，依法對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務使用者提供信息發布服務。

涉及多項個人信息，需取得單獨同意

深度合成服務提供者和技術支持者應當加強訓練數據管理，采取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定。

深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。

使用深度合成服務生成或編輯的內容，需添加顯著標識

對于使用深度合成服務生成或者編輯的信息內容，規定應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規和國家有關規定保存日志信息。

深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況：

（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；

（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；

（三）人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；

（四）沉浸式擬真場景等生成或者編輯服務；

（五）其他具有生成或者顯著改變信息內容功能的服務。

深度合成服務提供者提供前款規定之外的深度合成服務的，應當提供顯著標識功能，并提示深度合成服務使用者可以進行顯著標識。

健全申訴及舉報入口，規范流程及反饋時限

深度合成服務提供者應當設置便捷的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結果。

完整「互聯網信息服務深度合成管理規定」，詳見：

https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA

深度合成技術治理道阻且長

近年來，深度合成內容的數量呈現爆發式增長，清華大學人工智能研究院曾聯合多家機構，發布了《深度合成十大趨勢報告（2022）》。

報告中指出，2021 年新發布的深度合成視頻的數量，與 2017 年相比，增長達 10 倍以上，涉及影視音樂、科技教育、生活、娛樂、資訊等多個領域。

深度合成內容制作與傳播數量高速增長

深度合成內容數量龐大、鑒別難度高，國內外關于建立健全監督管理機制，曾做出多次嘗試。

2019 年 11 月，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合發布《網絡音視頻信息服務管理規定》，明確規定「不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息」。

2019 年 12 月，國家網信辦通過并公布了《網絡信息內容生態治理規定》，禁止使用深度學習和虛擬現實技術從事任何非法活動。

2020 年 12 月，中共中央印發了《法治社會建設實施綱要（2020-2025 年）》，要求對深度偽造等新技術制定和完善規范管理辦法。

此外，美國、歐盟也針對深度合成技術，出臺了多部相關法律法規。

2019 年 12 月，美國國會眾議院通過「2020 財年國防批準法」，要求政府向立法機構通報涉及跨國、有組織、帶有政治目的的 Deepfake 虛假信息行為。

歐盟則公開要求科技巨頭們采取措施，加強對 Deepfake 的打擊，否則將處以巨額罰款，最高可被罰全球營業額的 6%。

從上線不到一周就被迫下架的 ZAO APP，到真假奧巴馬，再到螞蟻呀嘿，深度合成技術在不斷發展，政策法規也需要與時俱進。

均通過 Deepfake 生成

只有推動深度合成技術的依法、合理、有效使用，積極防范化解深度合成技術帶來的風險，才能促進互聯網信息服務健康發展，維護網絡空間良好生態。

審核編輯 ：李倩