近日，美智庫蘭德公司高級工程師克里斯托弗·莫頓(Christopher Mouton)在C4ISRNET網站撰文，分析ChatGPT等大型語言模型的出現給國家安全帶來的新風險。主要觀點如下：

文章指出，像ChatGPT和Claude這樣的大型語言模型可提供廣泛的有益應用。然而，這些語言模型的使用也存在重大風險，需要伙伴國之間溝通協調，以建立一個堅實的一體化防御機制，抵御惡意信息行動的威脅。

大型語言模型可以幫助生成創造性的故事情節，精心策劃營銷活動，甚至創建個性化的餐廳推薦。然而，他們經常生成一些明顯錯誤的文本。這種設計不僅給人工智能的日常應用，而且對美國國家安全都將產生深遠的影響。

人工智能生成的內容可以展現出一種被稱為“真實性”的現象。“真實性”一詞是由電視臺主持人斯蒂芬·科爾伯特在21世紀初創造出來的，用來描述信息是如何感覺正確的。這一概念強調，盡管缺乏事實的準確性，但具有高度連貫邏輯結構的內容可以影響聰明、老練的人決定事情的真偽。

我們的認知偏見意味著寫得好的內容或引人注目的視覺效果會讓敘事看起來比實際更加真實。正如一位研究“真實性”的學者所描述的那樣：“當感覺事情容易處理時，它們就會被認為值得信賴。”

美國的敵手可以操縱人工智能模型聽起來“真實”的潛力，模仿人類的寫作，創作連貫的、結構良好且有說服力的句子，以獲得優勢。互聯網具有全球影響力，通過顛覆性的“真實性”入侵，為他國介入創造了一個強有力的媒介。

國家行為體正在利用數字技術開展敵對信息活動，利用在線工具和信息作戰來達成他們的利益。國家行為體可以操縱認知流利性偏見和真實性來塑造社會政治舞臺，擴大人工智能驅動的語言模型在惡意信息作戰、大規模魚叉式網絡釣魚活動以及日益可信的深度偽造媒體中的潛在濫用。

在信息作戰中利用認知流利性偏見會給虛假信息披上可信的欺騙性外衣，導致政治制度動搖、社會不穩定。

微軟總裁布拉德·史密斯在5月25日的一次演講中表示，美國將“必須特別解決我們最擔心的外國網絡影響力作戰，俄羅斯、伊朗等國政府已經在開展此類活動。”

俄羅斯黑客試圖編造烏克蘭總統澤連斯基呼吁烏克蘭人民放下武器的視頻，但這種粗糙的深度偽造行為很容易被識別。但現在很明顯，深度偽造問題已不再是學術性問題。現實已經表明，惡意視頻、偽造文件和偽造的社交媒體賬戶可能會從最初的被視為粗糙變為真實傳遞欺騙信息。

依賴虛假信息開展的顛覆活動與日俱增，加之惡意行為體加大行動力度，突顯出美國及其盟國做出戰略性回應的必要性。為了應對這些發展趨勢，美國決策者們需要制定一項全面的戰略，該戰略應建立在警覺的監測、積極的預警及國際合作的基礎上。

該戰略的基石應該是對信息環境進行警覺地監測。由于人工智能和機器學習的進步，持續監測對于早期探測和消除虛假信息活動至關重要。

這一觀點與美國防部提出的提升“監測、分析、表征、評估、預測和可視化”信息環境的能力的想法相呼應。在2016年版《信息環境下作戰戰略》中，國防部對此進行了詳細闡述。為落實該戰略，軍隊和情報部門需要專門從事信息作戰的專業化部隊，他們可以提供對所收集的數據進行解讀以及基于這些數據采取行動所需要的關鍵專業知識。

美國政府還需要一套強大的預警系統，可同時宣傳真相并揭露虛假信息。及時有效的預警有助于保護公眾免受虛假敘事的影響，大大降低虛假信息作戰的影響。在這種情況下，真理的力量是一種強大的工具，它是應對虛假信息腐蝕作用的有效反制措施。

最后，美國需要強化與國際盟友的戰略伙伴關系。惡意虛假信息運動的全球性要求反制措施同樣具有全球的廣度。這些伙伴關系提供了寶貴的當地知識并增進了彼此之間信任，二者都可以大幅提高預警的可信度，增強社會抵御虛假信息的能力。

審核編輯：湯梓紅