不同產業在應用人工智能合成技術時，普遍存在現行規定不適用或應用風險不可控的問題。

立法實施分類監管，依據不同的應用場景精準施策，防止技術濫用。

加快制定行業規范和技術標準，為反制技術奠定基礎。

AI技術是否安全可控、AI對個人信息和隱私權的威脅、如何防止利用AI技術實施詐騙等議題，成為當前社會熱議的焦點。而相比于技術的快速發展和公眾對風險的高度關注，人工智能領域的法律法規及政策標準還較為滯后，行業發展缺乏有效的引導和規制。

《新一代人工智能發展規劃》提出了我國人工智能發展的“三步走”戰略目標，建立人工智能技術標準、法律法規、倫理規范和政策體系在每一步中都是重要的組成部分。合成技術作為人工智能的一個分支，已經進入相對成熟的階段。有效引導及適當規范對于促進行業長久發展和推動新技術與傳統產業融合具有迫切性，也有利于為人工智能其他細分領域政策及標準的制定提供借鑒。

王小川在提案中提到，目前針對人工智能合成技術做出規定的政策都較為籠統，沒有依據不同場景實施分類指導，也并未提及對技術濫用的防偽、鑒別和反制。受此影響，不同產業在應用合成技術時，普遍存在現行規定不適用或應用風險不可控的問題，成為制約新技術與傳統產業融合發展的因素。AI合成技術雖然已經歷一段時間的快速發展，有大量的市場參與者，但真正有效的、反映行業發展現狀的技術標準，還沒有確立。這導致對虛假合成音視頻的防偽鑒別，無章可循。對此，王小川建議：

一是通過立法實施分類監管，依據不同的應用場景精準施策，防止技術濫用。建議通過立法形式，根據人工智能合成技術的使用場景、影響范圍、可能的危害程度，鼓勵各行業各領域主管部門加強研究、分類監管，打擊非法利用，鼓勵開發鑒別防偽技術，為人工智能技術的普及營造健康有利的環境。在傳媒、金融、教育、醫療等領域，注意防范特定風險，鼓勵利用合成技術增加供給、提高效率、豐富形態，不斷提高監管的精細化、精準化水平。

二是加快制定行業規范和技術標準。建議由行業協會和聯盟牽頭，廣泛聯合人工智能合成領域重點企業、領先企業共同制定可行的行業規范和技術標準，建立行業參與者廣泛認同的框架協議，為反制技術奠定基礎。例如，對于人工智能合成技術服務提供方，在服務器安全、API接口調用、數據安全管理等方面提出限制性要求；針對合成類視頻，通過技術標準，使用視頻水印等方式，限定技術的輸出渠道，做到非法視頻的可監控、可追溯。
責任編輯：tzh