電子發燒友網報道（文/吳子鵬）近日，又一科技巨頭加入到了禁用ChatGPT類工具的行列，它就是三星。據報道，三星近期推出了一項新政策，禁止員工在工作場所使用生成式人工智能工具，包括OpenAI的ChatGPT和谷歌Bard等。

此前，三星發現有員工將敏感的代碼上傳到ChatGPT，不慎將其泄漏。據悉，三星并不清楚此次泄露的敏感代碼具體內容是什么，不過該公司隨后啟動了內部調查。三星表示，調查中公司65%的受訪者認為此類工具構成安全風險。

巨頭公司紛紛禁用ChatGPT類工具

根據此前的報道，雖然三星沒有透露泄露信息的內容，不過有用戶在ChatGPT上發現了該公司半導體設備測量資料、產品良率等機密內容，相關內容出現在ChatGPT的學習資料庫中。并且，該報道指出，三星的泄密并不是由一個工程師造成的，而是出現了三個典型的泄密事故。

泄密事件一是一名三星員工讓ChatGPT幫助修復半導體設備測量資料庫中下載的軟件；泄密事件二是一名三星員工讓其幫助優化用于識別產品良率的程序代碼；泄密事件三是一名三星員工把會議紀要發給了ChatGPT讓其幫助整理。

三星泄密事件表明，生成式AI會讓人在不經意間就導致泄密。當然，這主要還是和生成式AI的工作原理有關。生成式AI本質通過處理大量視覺或語言數據來生成新數據，其主要分為訓練階段和生成階段，用戶主要接觸到的就是生成階段。在這一階段里，為生成新數據，模型將根據給定的輸入提示（如關鍵詞、圖像或文本片段等）生成新圖像或文本。模型利用所學規律和模式生成新數據，并將其輸出給用戶。

因此不難看出，生成式AI在實際的使用階段和傳統搜索引擎很類似，有輸入才有輸出，但由于ChatGPT類工具過于強大，其能夠處理很復雜的句式和指令，這就導致一些在職人員可能采用ChatGPT類工具走捷徑，將工作任務輸入到工具里，進而造成泄密。

目前，很多巨頭公司都意識到這一點。在三星之前，韓國另一大科技巨頭SK海力士也已經宣布，“除必要時刻外”，幾乎禁止公司內部網使用ChatGPT類工具；韓國面板巨頭LG為了防止員工使用ChatGPT類工具發生泄密，已經通過公司內部帖子和教育、活動等，隨時強調公司內部信息保護和防止泄漏等信息安全認識。

更為謹慎的是銀行領域。據不完全統計，目前包括瑞穗金融集團、三菱UFJ銀行、三井住友銀行、摩根大通、美國銀行和花旗等大型銀行都已經對人工智能下了禁令，這些公司是首批限制員工訪問ChatGPT類工具的公司。

如何安全使用ChatGPT類工具

竟然行業巨頭帶頭，那么商業公司真的要全面禁止ChatGPT類工具嗎？筆者的答案是大可不必。

生成式AI工具的價值是巨大的，它能夠給各行各業帶來四大創新性改變。首先，生成式AI可以創造新內容，可用于藝術、音樂和其他形式的創造性表達等方面；其次，生成式AI可以提高效率和生產力，可以顯著減少新聞、內容創作、數據注釋和分析等領域的人工投入；第三，生成式AI可以提高生成內容的質量，這是讓機器和人類自如交流的關鍵所在；最后，生成式AI可以實現新的應用和用途，可用于打造各種個性化的創新方案。

據波士頓咨詢公司預測，生成式AI市場規模將在2027年達到1210億美元，是2022年的13倍多。

價值大、前景好，那么行業該如何利用好生成式AI呢？

首先需要有專門的法規限制。目前，全球各國都在加緊制定針對生成式AI的法律法規。在國內，4月11日，國家網信辦起草《生成式人工智能服務管理辦法(征求意見稿)》，明確國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作。當然，征求意見稿也對生成內容、算法框架、知識產權和商業道德等方面做出了明確的限制。每一個健康發展的行業都需要有完善法規的引導，生成式AI也不例外。目前，美國、英國、日本和歐盟等國家和地區都在積極推動生成式AI相關法規的落地。

其次，推出ChatGPT類工具的公司需要進一步增強工具的安全性和脫敏屬性。比如，谷歌表示，將通過自動化工具幫助刪除用戶的個人身份信息，來改進Bard的隱私安全。顯然這還不夠，基于開放數據庫訓練而來的ChatGPT類工具，進化的源泉就是新的數據，那么如何保證新數據的安全是一個大挑戰。

第三是各行各業針對使用ChatGPT類工具需要進行專業的員工培訓，要明確哪些是員工可以做的，那么是員工不能做的。

第四是針對高科技行業以及金融證券等保密性要求嚴格的公司，全面杜絕ChatGPT類工具肯定是不可取的，這些行業需要一套自己的ChatGPT類工具，也就是從源頭構建自己的工具，使得數據從最開始就被保護，沒有對外的接口可以泄露。目前，行業也在探索輕量級的ChatGPT類工具，這些工具具備基本的功能，能夠在企業私有云上去部署，如果可以實現將大幅降低數據泄露的風險。

后記

目前很多行業、學校、國家都在推動全面禁止ChatGPT類工具，筆者認為這樣做并不可取。生成式AI作為一次革命性的科技升級創新，有著顛覆各行各業的巨大潛力。而且，這種顛覆更多是正向的、積極的，幫助各行各業完成數智化升級。當然，作為一項創新技術，在完善的過程中會露出它的獠牙。正確的做法是將這只猛獸關在圈子里進行馴化，讓其不再具有攻擊性。