一份研究報告指出,人工智能的高速發展伴隨著風險。不肖人士可能會使用這個技術發動全自動攻擊,讓自駕車失控、或把商業用無人機變成能夠鎖定目標的武器。
這份報告由來自劍橋大學、牛津大學與耶魯大學的26位科技與公共政策學者共同發表,對社會發出警告: 行事草率的政府、罪犯、或個人都有可能會濫用這項科技。
報告中提到,人工智能一旦被惡意操作,它能夠采取大規模的高精準鎖定攻擊,不管是資訊的還是政治的安全都會面臨即刻的威脅。報告中特別強調,這些是針對該領域未來五年內可能的發展所下的結論。
發現的問題比能解決的多
"我們都同意人工智能有很多正面的應用," 劍橋大學的"人類生存研究中心" 學者布倫達格(Miles Brundage)說道,"但是在不當使用人工智能會造成什么后果這個方面,論述顯然很少。"
他們亦在98頁的篇幅中提出警告: 可能會出現新形態的攻擊,而到時候單由人類自己來想解決辦法、或是奢望人工智能自己失靈都是不切實際的。
最后,這份報告提出一系列建議,包括將人工智能視為 "軍事兼商業"科技加以管制。它也呼吁人工智能界的學者,要對發表他們的研究成果保持謹慎,靜待其他學者研擬出因應風險的辦法。這位學者也坦陳,"最終,我們發現的問題比能解決的多。"
未來智能實驗室是人工智能學家與科學院相關機構聯合成立的人工智能,互聯網和腦科學交叉研究機構。
未來智能實驗室的主要工作包括:建立AI智能系統智商評測體系,開展世界人工智能智商評測;開展互聯網(城市)云腦研究計劃,構建互聯網(城市)云腦技術和企業圖譜,為提升企業,行業與城市的智能水平服務。
-
人工智能
+關注
關注
1817文章
50105瀏覽量
265533
原文標題:人工智能惡意使用報告:預測、預防和緩解
文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
資料] 汽車軟件質量躍遷的系統性路徑:基于ISO 26262標準的單元測試體系重構與中日實踐深度對比(2026學術研究報告)
《國際人工智能安全報告》發布首份關鍵更新
華為聯合發布智能算網研究報告
航天宏圖人工智能技術深度賦能社會治理現代化
華為聯合發布AI CITY城市智能體前瞻研究報告
挖到寶了!人工智能綜合實驗箱,高校新工科的寶藏神器
挖到寶了!比鄰星人工智能綜合實驗箱,高校新工科的寶藏神器!
關于人工智能處理器的11個誤解
最新人工智能硬件培訓AI 基礎入門學習課程參考2025版(大模型篇)
斯坦福大學發布《2025 年人工智能指數報告》
關于人工智能研究報告:發現的問題比能解決的多
評論