根據(jù)MIT Technology Review2023年2月27日?qǐng)?bào)道，由人工智能研究非營(yíng)利組織Partnership on AI （PAI）發(fā)起，OpenAI、TikTok、Adobe、BBC等在內(nèi)的10家公司簽署了一套新的AI指南，就如何負(fù)責(zé)任地構(gòu)建和分享人工智能生成內(nèi)容（AI Generated Content，簡(jiǎn)稱AIGC）給出明確指導(dǎo)建議。

一、簡(jiǎn)介

PAI根據(jù)過(guò)去4年與工業(yè)界、民間社會(huì)、媒體和學(xué)術(shù)屆的合作，廣泛征集全球100多個(gè)利益相關(guān)者的反饋，制定本指南。該指南最重要的一點(diǎn)是，這些簽署公司達(dá)成了一項(xiàng)協(xié)議，他們將著手研究一個(gè)重要問(wèn)題：即告訴用戶他們正在與人工智能生成的東西互動(dòng)。

該指南呼吁技術(shù)的建設(shè)者如OpenAI，和合成內(nèi)容的創(chuàng)造者和分銷商如BBC和TikTok，以更透明的態(tài)度對(duì)待技術(shù)能做什么和不能做什么，以指導(dǎo)合成媒體負(fù)責(zé)任地開發(fā)和部署人工智能生成內(nèi)容。目標(biāo)受眾為合成媒體技術(shù)和基礎(chǔ)設(shè)施建設(shè)者、合成媒體創(chuàng)建者和合成媒體傳播者。

二、指南主要內(nèi)容

1. 合成媒體的技術(shù)和基礎(chǔ)設(shè)施建設(shè)者包括B2B和B2C工具制造商、開源開發(fā)者、學(xué)者和合成媒體初創(chuàng)公司等，應(yīng)采取措施為合成媒體的傳播者提供披露機(jī)制；在開發(fā)代碼和數(shù)據(jù)集、培訓(xùn)模型以及制作合成媒體時(shí)，盡可能應(yīng)用簡(jiǎn)介披露元素；促進(jìn)進(jìn)一步研究，制定未來(lái)數(shù)據(jù)共享計(jì)劃，平衡透明度和隱私保護(hù)等因素等。

2. 合成媒體創(chuàng)造者規(guī)模不一，既可是B2B內(nèi)容生產(chǎn)者等大生產(chǎn)者，又可包括藝術(shù)家、業(yè)余愛(ài)好者和作家等小生產(chǎn)者，應(yīng)就內(nèi)容來(lái)源、使用規(guī)范和潛在風(fēng)險(xiǎn)對(duì)內(nèi)容消費(fèi)者保持透明；披露和公開其創(chuàng)造的合成媒體中的合成因素等。

3. 合成媒體傳播者包括廣播公司和社交媒體平臺(tái)，應(yīng)在檢測(cè)到合成內(nèi)容后，進(jìn)行直接或間接披露；當(dāng)認(rèn)識(shí)到在不知情的情況下傳播有害的合成內(nèi)容后，應(yīng)立即作出調(diào)整；避免傳播來(lái)源不明的合成媒體內(nèi)容；尊重創(chuàng)建者的知情權(quán)等。

三、各國(guó)的人工智能監(jiān)管實(shí)踐

生成式人工智能目前仍處于野蠻生長(zhǎng)時(shí)期，面對(duì)生成式人工智能可能帶來(lái)的潛在危害，各國(guó)家和地區(qū)陸續(xù)出臺(tái)相關(guān)的管控和監(jiān)管措施，例如歐盟試圖將生成式人工智能納入其即將出臺(tái)的《人工智能法案》其中可能包括對(duì)深度偽造等技術(shù)的披露，以及要求公司滿足某些透明度要求。

1. 歐盟：據(jù)預(yù)計(jì)，備受關(guān)注的歐盟《人工智能法案》將于2023年3月底在歐洲議會(huì)進(jìn)行投票。隨著大型聊天機(jī)器人軟件ChatGPT的橫空出世，大型科技公司即將在AI領(lǐng)域展開新一輪競(jìng)賽。與此同時(shí)，各國(guó)監(jiān)管機(jī)構(gòu)已經(jīng)注意到了ChatGPT引發(fā)的現(xiàn)象級(jí)效應(yīng)，也在關(guān)注這一技術(shù)的潛在風(fēng)險(xiǎn)。該法案將解決圍繞ChatGPT和AI技術(shù)風(fēng)險(xiǎn)的擔(dān)憂。

2. 中國(guó)：2022年1月28日，國(guó)家網(wǎng)信辦最新公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，對(duì)作為元宇宙基石的深度合成技術(shù)做出了一系列較為明確的規(guī)定和指引，明確深度合成技術(shù)定義，劃定深度合成服務(wù)提供者和使用者的責(zé)任和義務(wù)。

3. 美國(guó)：2023年1月26日，美國(guó)國(guó)家標(biāo)準(zhǔn)和技術(shù)研究院（NIST）發(fā)布NIST AI 100-1《AI風(fēng)險(xiǎn)管理框架1.0》（Artificial Intelligence Risk Management Framework，AI RMF），其目標(biāo)在于為設(shè)計(jì)、開發(fā)、部署、應(yīng)用AI系統(tǒng)的組織提供參考，以使之能夠在控制多樣性風(fēng)險(xiǎn)的同時(shí)，促進(jìn)可信賴、負(fù)責(zé)任AI系統(tǒng)的開發(fā)與應(yīng)用。同時(shí)，NIST出版了與之配套的AI風(fēng)險(xiǎn)管理框架行動(dòng)手冊(cè)、講解視頻等，協(xié)助理解和使用AI RMF。AI RMF具有自愿性、基于權(quán)益保護(hù)原則、普遍適用性等特征，從而能夠?yàn)椴煌?guī)模、不同領(lǐng)域乃至全社會(huì)的各相關(guān)組織提供參考。

人工智能技術(shù)具有廣泛滲透性和顛覆性，帶來(lái)的科技倫理與法律問(wèn)題更加復(fù)雜多元，可能引發(fā)潛在倫理和法律風(fēng)險(xiǎn)，需要引起高度重視。人工智能的健康發(fā)展，必須回答人工智能到底該由誰(shuí)掌控、人工智能發(fā)展的基本準(zhǔn)則是什么、人工智能發(fā)展的禁區(qū)在哪里等問(wèn)題，必須通過(guò)建立理性的倫理規(guī)則和法律規(guī)范為人工智能發(fā)展的風(fēng)險(xiǎn)防范設(shè)置“控制閥”，不斷強(qiáng)調(diào)“人本視角”，確保其體現(xiàn)在AI開發(fā)的各個(gè)階段中，讓AI技術(shù)適用性更強(qiáng)、更具協(xié)作性、負(fù)面影響更小，讓越來(lái)越多的人類受益于未來(lái)的技術(shù)進(jìn)步。

審核編輯 ：李倩