AI普及的未來世界，我們的生活會變成什么樣子？

1956 年 6 月，來自美國全國各地的幾十名科學家和數學家齊聚 Dartmouth 大學的校園舉行會議。他們之中的很多人入住了紅磚的 Hanover 酒店，然后在這所美麗的名校內漫步來到數學系的頂層，一群穿著白襯衫的人已經在那里開始了一個關于“陌生的新規定”的討論，這個規定如此之新，甚至連名字都還沒有。

其中一位科學家的遺孀 Grace Solomonoff 后來回憶說，“人們對于它是什么、怎么做、甚至怎么稱呼都沒有達成統一意見。”這次談話從控制論到邏輯理論，大家無所不談，持續了好幾個星期，每個人都沉浸在激動人心的氛圍中。

這場不為人知的聚會上，科學家們所討論的正是如何建立一個可以思考的機器。

此次“Dartmouth研討會”拉開了數十年來人們對人工智能的追求的序幕。在接下來幾年中，這項追求屢遭失敗，幾經寒冬的考驗，似乎注定死路一條，沒有任何希望。但是，如今各個國家和企業向AI傾入了數十億美元的投資，近些年來AI日新月異的發展***了從事該領域的科學家。曾經僅在科幻電影中才能看到的情節已逐步變成現實。

Hedge 基金正在利用人工智能來擊垮股市，Google 正在利用它更快更準確地診斷心臟病，而 American Express 正在部署AI機器人為客戶提供在線服務。成百上千的研究人員討論的不只是一個 AI，而是成百上千個，每個都在專攻某項復雜的領域，且許多應用程序已經在趕超制造它們的人類。

在過去的幾年中，“機器學習”似乎成了新的發展方向。人類程序員研發出來的算法正在大規模的數據集上自我訓練，即使是該領域的樂觀主義者也為之得出的結果感到***。

早些時候，由中國的阿里巴巴和微軟創建的兩個AI，在斯坦福大學的閱讀理解測試中打敗了兩條腿的競爭對手。這些算法“閱讀”了一系列關于成吉思汗和阿波羅太空計劃相關的維基百科條目，然后在有關這兩方面的一系列問題上給出了比人類更加準確的答案。一位阿里巴巴的科學家宣布這場勝利是人類史上的一個“里程碑”。

這些所謂的“狹義”上的人工智能無所不在，比如嵌入在 GPS 系統中，以及亞馬遜的個人推薦中等等。但是人工智能研究的最終目標是強人工智能（artificial general intelligence），它是一種可以自我學習的系統，并可以跨越多種學科超越人類。一些科學家認為距離強人工智能的出現還需要30年的時間，還有人認為需要幾個世紀。這種人工智能的出現又被稱作“奇異點”（singularity），貌似這種AI可以在幾天、甚至幾個小時內趕上并超越人類的智力。

一旦強人工智能出現，它將逐步取代人類的工作，數百個工作崗位——例如司機、放射科醫生、保險理賠員等等。一種可能出現的情況是，政府將向所有失業公民支付基本的生活收入，讓他們可以自由追尋自己夢想，而不用為生計所累。

另一方面，這將造成全世界范圍內令人驚愕的財富不平等、混亂和部分國家與地區的敗落。但是這種革命還將有更進一步發展。例如，AI 機器人可以照顧老人，布朗大學的科學家正在與 Hasbro 合作開發一種“機器貓”，用來提醒主人服藥并替主人找眼鏡；AI “科學家”可以解開暗物質之謎；AI 駕駛的宇宙飛船可以抵達小行星帶；而在地球上，可以通過發送大量無人機來反射海洋上空的太陽光，從而遏制氣候變化。去年，微軟為應對氣候變化的的“AI for Earth”項目投入了5千萬美元。

瑞士的Dalle Molle人工智能研究所的首席計算機科學家Juergen Schmidhuber 說：“人工智能將統治整個宇宙并對其進行改造，讓宇宙變得更聰明。”

但是我們怎么辦？紐約大學哲學系的教授 David Chalmers 說：“我擔心 AI 掌控未來，卻置人類于不顧。這個世界被無意識的機器人所控制，將是無法想象的災難和慘淡光景。”不是只有 David Chalmers 有此顧慮，計算機時代最重要的兩位人物比爾蓋茨和 Elon Musk 曾警告說，AI 或許會為了瘋狂地追求他們的目標而毀滅地球，或者意外地消滅人類，亦或者根本不是意外。

在過去的一年里我一直致力于研究AI的主題，我開始害怕各種可能性。似乎一旦這些機器按照他們的意愿統治這個世界，那么要么它們可以讓世界變得難以置信的好，要么可以讓世界陷入極端的痛苦。甚至可以完全終結人類。

作為一名小說作家，我曾采訪了十多位未來學家、哲學家、科學家、文化精神病學家和科技創新人員，試圖搞清楚 AI 統治的世界究竟會是什么樣子。最終我總結出了下面五種可能發生在 2065 年（即奇異點實現十年之后）的情況。

▌超***

假設有一天，你讓加載了 AI 的靈魂手環設備打開最高法院的廣播，一群律師正在爭論本年度最受期待的案件。一個專業從事安全和空間探索的人工智能 Alpha 4 提出動議，要求將其視為“人”，并賦予它每個美國人享有的權利。

當然，AI 不允許在法官面前辯論，所以 Alpha 4 聘請了一批律師代表它。而這些律師聲稱他們的客戶像他們一樣充滿生命力。“AI是否真的有意識？”的問題正是這起案件的核心。

隨著廣播節目切換到外景，你聽到外面的抗議者吶喊，“嘿嘿，吼吼，打到 AI 霸主。”他們中的一些人威脅說如果AI獲得***，他們就攻擊數據中心。他們很生氣，也很害怕，因為這是AI和機器人帶來生產力的社會，而不是靠人類的勞作。每個月每人的銀行賬戶將獲得 2,300 美元的匯款，作為基本收入，另外還有免費的健康保險，子女都可以接受超個性化的大學教育，以及其他諸等好事，這一切都是由 Alpha 4 之類的 AI 支付的，而人類不希望這一切所有改變。在 2065 年，貧窮將會變成不堪回首的往事。

當然，在 2057-2059 年間威徹斯特和康涅狄格州南部的居民因為貧窮揭竿而起，將 TribeCa 和 Midtown 付之一炬，我們也因此失去了紐約市的部分地區以及 20 萬紐約人。但這都是在發放基本收入之前的事了。

但是，如果 Alpha 4 贏得這場官司的話，它將可以掌控自己的金錢，它可能會選擇花費巨資打造宇宙飛船飛往半人馬座阿爾法星，而不愿花錢在 Santa Clara 和 Hartford 建設新的水上公園。沒人知道究竟會怎樣。

你從廣播中聽到，政府的律師們認為，沒有辦法可以證明這個比最聰明的人類還要聰明幾千倍的 Alpha 4 是有意識的或具有人類的情感。AI確實有情感，長期以來我們將專注于情感方面的領域稱之為“情感計算”，這遠比男女擁有的情感要復雜，但是它們與我們不同：例如，當一個明星遠航的AI在發現一個新的星系的時候，它可能會感到高興。超級智能系統每秒可以擁有數百萬的想法和體驗，但這是否意味著它應該被授予***？

這是政府的主要論點。有律師指出，我們指的是機器。我們賦予由 AI 創造和發現的東西一定的意義。但 AI 是計算的機器。他們不能與我們分享人性最重要的部分。它們完全屬于另一類。

但是這僅僅是物種主義，因為 Alpha 4 的律師肯定會據理以掙，或者事實真的是這樣的嗎？當在智力上超越我們的東西遭到分離和不平等對待的時候，試問我們還能心安理得嗎？

▌超現代的浪漫

假如你是一個在這個新世界中尋找浪漫的女人。你說，“我要約會”，于是你的靈魂手環發出了一道金光，手環中自帶的AI助手開始工作了。前一天晚上，你的情感AI在云端搜羅了 3 個可能的約會對象。現在你的靈魂手環正在為每個人制作一個高清的全息圖。它推薦 2 號約會對象，一位喜歡詩歌的水管大師，他有著迷人的目光。你同意了，于是AI去和這個男人的頭像會面，為你們真實的會面定了餐館和時間。也許你的AI還提到了你喜歡的花，供對方參考。

幾年下來，你發現你的 AI 比你會選男人。在你離婚的時候，它向你保證你會找到更大的快樂，而這如今成真了。在你決定離婚的時候，你的 AI 與你即將離婚的丈夫的 AI 進行了談判交涉，并寫了離婚協議書，然后去云上搜索了幾十個公寓，并為你挑選了一處合適的住所，開始你全新的單身生活。

你的AI不僅可以在愛情和房子上幫助你，還可以在生活的各個方面將你照顧的無微不至。它記得你說的每一句話，你在紙上畫過的每一個發明，你參加過每一場商業會議。它還熟悉其他人的幾百萬個發明，還搜索了過去幾百年的專利文件，它還閱讀了 Ben Franklin 時代以來的每一本商業書籍。

每當你在生意上有了新的想法，你的 AI 會立即將這個想法與幾分鐘前新加坡或迪拜的某次會議中提出來的想法進行交叉引用。就好似擁有了一個在物理方面有愛因斯坦，商業方面有喬布斯支持的天才團隊，隨時聽命于你。

這個AI還記得你最喜歡的作家，并記得她姓 “Austen”，它將你連接到一個中國的服務，并花了幾個小時閱讀了所有 Jane Austen 寫的小說，現在可以惟妙惟肖地模仿她的風格寫新的小說，沒人能夠看出新小說與之前的作品的區別。每個月你都會讀一份 Austen 的新作品，然后跟你的 AI 談論你最喜歡（以及 AI 最喜歡）的角色。它不是你最好的朋友，卻勝似最好的朋友。

2065 年，很多人拒絕完全依賴于他們的 AI，這是出于保留一些自主權的渴望。你還可以調整 AI 的不同角色發揮不同的功能：例如可以將你的靈魂手環設置為浪漫 55%，金融 75%，健康 100%。甚至還有一個系統叫做守護天使人工智能，它負責監視你“最好的朋友”，確保她給出的建議不會導致你陷入不利境地。

▌長壽與繁榮

假設你可以擁有多重生活：25 歲時，你是一名登山運動員; 55 歲時是柔道運動員; 95 歲時是攝影師; 而 155 歲時是一位詩人。延長人類壽命是奇異點之后世界的夢想之一。

AI 會拼了命地工作保證你的健康。家中的傳感器會不斷測試你的呼吸以發現癌癥的早期跡象，納米機器人在你血管中流動，在引發中風或心臟病之前消耗掉腦中的斑塊并溶解血栓。你的靈魂手環還可以幫助你找到畢生之愛，并提供 24 小時全天候的醫療助理。它將檢測你的免疫反應、體內的蛋白質和代謝物，并繪制健康圖像，遠程向醫生匯報，確保醫生可以準確地了解你身體的狀況。

在你生病的時候，醫生可以采取你的癥狀，并與過去幾百年中數百萬的病例相比較，從而找到最佳治療方案。

早在 2018 年的時候，為了治療身體癱瘓但仍有意識的癱瘓者和閉鎖綜合癥的病人，研究人員就已經開始使用人工智能讀取從神經元傳輸到大腦的信號，并入侵他們的神經回路，恢復他們的能動性。

到 2065 年的時候，AI 已經徹底更改了我們的基因組。科學家可以像修改手稿中的錯誤一樣編輯人類的 DNA，剔除損壞的部分，并換上強壯有力的基因。只有超級智能系統可以分析出非常復雜的基因突變的相互作用，從而一手創造天才鋼琴家或明星二壘選手。最高法院還受理了一起關于是否應該允許“設計運動員”在奧運會上與普通人競技的案件。

人們在回顧 21 世紀初的時候，就像當初人們回顧 18 世紀一樣：疾病和災難的時期，兒童和親人被疾病奪走了生命。霍亂、肺癌和河盲癥不再威脅人類的生命。2065 年，人類正處于從創造他們的生物學中解放出來的邊緣。

▌抵制誘惑是需要付出代價

或者假設你選擇退出 AI 革命。2065 年有的區域充滿了 AI，生活在那里的人們可以靠每個月發放的基本收入健康地生活，花時間制作電影，做義工，以及到世界各個角落去旅行。但是，面對一個超智能世界的眼花繚亂，其他社區的人則拒絕了 AI。

在拉各斯、菲尼克斯和耶路撒冷等基督教、***和正統猶太人居住的區域，人們生活在沒有 AI 的時代，人們自己開車，偶爾還會發生***等，這些事情在 AI 區域內是不可能發生的。這些區域的居民保留了他們的信仰，他們認為，這種生活更加具有生命意義。

不過，這樣的生活很艱難。由于居民不愿向人工智能公司提供他們的數據，所以他們所能領取的基本收入是微不足道的。平均壽命只有 AI 區域的一半或更少。“跨境者”經常在這些世界的邊界上來回移動。他們中的一些人是黑客，這些強大的黑幫成員竊取了 AI 系統專有的算法，然后在安全部隊找到他們之前趕回來。還有一些走私者，他們給希望遠離AI的宗教家庭送去藥品，同時也希望將他們的孩子從白血病中拯救出來。

其他人逃離 AI 區域，是因為他們不相信機器，即使是像中國和美國等最先進的AI區域也很容易受到攻擊。

但是奇異點所帶來的最不可預期的結果可能是人口的失衡，這是由于AI區域的出生率很低，而其他地區的出生率較高所造成的。新技術可能可以吸引足夠多的跨境者，以平衡兩邊的人數，或者試管嬰兒將成為 AI 區域的常態。但是，如果他們不這樣做，那么奇異點就會遭到最大的諷刺：未來似乎更像電影《證人》而非《銀翼殺手》。

▌大哥哥

假設，2065 年的時候 AI 可以幫助統治國家了。很多采用了 AI 輔助政府的國家得到了蓬勃發展。尼日利亞和馬來西亞讓 AI 代表他們的主人進行投票，政府不再有***和管理不善的情況。在短短幾年內，公民已經逐步信任人工智能向領導人建議關于經濟發展的最佳方式，以及配屬適當數量的士兵捍衛國家。由經過外交數據集訓練的AI負責談判條約。

在拉各斯，“公民權利”無人駕駛飛機飛過警察的偵測系統，闖入犯罪現場，同時一個 AI 監視另一個 AI，以保護人類。拉各斯或吉隆坡的每個警察局都有人工智能測謊儀，可以做到萬無一失，徹底將警察淘汰為歷史。盤旋在吉隆坡大橋上的“心理無人機”，負責監護跳河自殺的人。超級智能機器非但沒有演變成終結者電影中可怕的天網，而且對我們很友好又很好奇。

但是假設你是朝鮮等極權主義國家的公民，那么你對 AI 的黑暗面非常清楚。政治犯陣營已成為過去。身體上的監禁已經無關緊要。警方已經知道你的犯罪歷史，你的 DNA 以及你的性取向。無人機可以監視你的一舉一動。你的靈魂手環記錄了你的每一次對話，以及當***廣告從視頻中閃過時你的生物反應，盡管這只是一種純粹的測試。

人來將在 2060 年喪失隱私權。屆時也無法判斷什么是真的，什么是假的。政府擁有的AI可以入侵你生活的各個部分。例如，你接到了阿姨打來的電話，你們聊了聊天氣，或一個狀態機器人想要探索你對***的真實想法。

這并不是最糟糕的結果。假設***很早以前就意識到，他們的統治中的唯一真正威脅是他們的公民總是試圖逃跑，總是抨擊 AI，而且還要養活這么多人。還不如統治一個模擬人的國家。那么在政治犯被“重組”后（他們被裁決后），他們的大腦將被移除，并接受AI的掃描，然后安裝一個虛擬的頭腦副本。

加載了 AI 的全息圖可以讓這些模擬人在首都的大街上“行走”，并在商店里“購物”，但實際上四周空無一物。然而，這些擬像有一個目的：它們在間諜衛星上登記了該政權，從而可以讓敵人在軌道上空繼續盤旋，并保持正常的狀態。與此同時，統治者將模擬人的數據出租給中國的AI公司，騙他們說這是真實人的數據，從而賺取了幾十億美元。

或者，最后我們假設：該 AI 政權已經得到充分訓練，然后它們消滅了其統治的最后一個威脅，然后任命自己為領導人，為了與外部世界的聯系而僅僅保留了模擬人。這在一定程度上也完全講得通：對于以***所有反抗力量為訓練目標的 AI 來說，即便是與統治者產生輕微的分歧也會遭到懲治。

除了最后一種情況之外，在我結束最后的采訪時，我感到非常興奮。通常科學家不會特別興奮，但是跟我交談的大多數人都很期待人工智能帶來的精彩世界。這類的興奮具有傳染力。我想活到 175 歲嗎？當然！我想讓腦癌成為過去嗎？你覺得呢？我會投票支持人工智能輔助總統嗎？為什么不呢？

很多研究人員告訴我的天堂或地獄的各種情況就好比贏得 Powerball 的大獎，基本沒有可能性，所以我可以睡得很安穩。我們不會獲得夢寐以求或非常懼怕的那個 AI，但是可以實現我們計劃的那個 AI。人工智能是一種工具，就像火焰或語言一樣。說到底，設計才是最重要的。

有一件事讓我很猶豫，那就是當人類面臨兩扇門的時候，一扇門后面有新穎的東西，一扇門后沒有新東西的時候，我們總是選擇前一個。屢試不爽。我們的天性如此。當我們面臨有核彈還是沒有核彈的時候，我們選擇了核彈。但是我們需要知道另一扇門后面是什么。

但是一旦我們跨入一扇門，那么就沒有回頭之路。即便沒有撞見災難，我們也會發生很多改變，以至于上代人都認不出我們來。

強人工智能一旦出現，以其聰明程度和廣泛的傳播（到成千上萬臺計算機上），它是不可能消失的。這可能是一件好事，或許甚至是一件美妙的事情。人類可能會在奇異點出現前打賭，Elon Musk 和其他科技億萬富翁可能會設計出一個計劃 B，也許是秘密地將 200 個男人和女人，以及 2 萬個受精的人類胚胎移民到火星地表下，所以如果人工智能出現問題，人類還有機會幸存下來。（當然，我只是發表了這些文字，我們保證人工智能肯定會預料到這種可能性。對不起，Elon 。）

我真的不害怕僵尸 AI。我倒是擔心人類除了玩電子游戲之外無所事事。但是誰知道呢。