通用人工智能的出現是一個轉折點，但它也可能是危險的。

改變我們生活方式的技術一直受到質疑，特別是信息技術。當新技術取代了效率低下的方式與世界接軌時，鼓吹技術將如何對人類產生負面影響的末日宣言便甚囂塵上。曾經甚至都有人說，印刷機是我們文化滅亡的預兆。然而，從長遠來看，許多信息技術對現代世界做出了積極貢獻。

人工智能尚處于起步階段，因此從某種意義上說，人類對它的不信任與任何其他改變游戲規則的技術沒有什么不同。在未來25到50年內，人工智能可能會重蹈印刷機、早期計算機或汽車的覆轍：初始應用將變得越來越強大。各界權威人士都會警告人們其巨大的潛力和潛在的災難。而一旦爭議平息，人工智能可能將為社會貢獻凈正增益。

需要明確的是，對狹義人工智能的短期視角認為它們只擅長于特定任務。今天的人工智能仍然很簡陋，一般只擅長完成一件事。我認為狹義人工智能在未來十年能力已被高估，但我仍然相信我們將在不久的將來大受裨益。

通用人工智能能讓事情變得更加有趣，但它也可能是危險的。那時我們會看到機器學習達到與人類旗鼓相當甚至超越人類的程度，那時的程序可以執行一系列認知任務，也可以做得比人類更好。通用人工智能的出現意味著以前的增產技術已不再重要，因為我們根本無法預測人工智能可以將產量提高多少。

即使人工智能在短期內對社會有益，但它也會產生一些消極影響。除非我們認真對待風險和收益，否則在我們的有生之年，可能將面臨安全、信息和生存方面的威脅，因為人工智能變得更聰明。

不久的將來

迄今為止，人工智能的實際應用主要表現在在自然語言和圖像處理上，而傳統計算機很難做到這一點。狹義的人工智能能提高工作效率，否則這些完成這些任務的過程就會被減緩或使人類感到厭煩。所以如果能正確使用人工智能，將對商業產生全面的積極影響。

更重要的是，人工智能將在不久的將來帶來兩項重大進步，挽救數百萬人的生命：自動駕駛汽車和人工智能驅動的醫學。

每年全世界有超過100萬人死于汽車事故，其中絕大多數是由于人為錯誤，包括酒駕。自動駕駛汽車可以使駕駛死亡率降低10倍。我們已經看到像Uber這樣的公司在努力制止自動駕駛汽車上路(盡管它們投入了數十億美元)，但即使從最悲觀的角度看，自動駕駛汽車也將在未來20年內上路，供私人使用。

人工智能驅動的醫學也能帶來令人難以置信的潛在好處。人工智能在醫療領域的應用證明它將在醫藥工業中發揮革命性的作用。目前，將一種藥物投放到美國市場的成本遠遠超過十億美元。這迫使制藥公司必須優先考慮大眾藥和所謂的救命藥，因為消費者可能會想法設法為這些藥物買單。人工智能可以預測哪些藥物對某一特定疾病有效，這將大幅降低公藥物研發成本和風險，同時還能減少在人類和動物身上進行藥物測試。此外，人工智能引導的DNA分析可能會掀開個性化醫療時代的序幕。

怨恨與錯誤信息危機

隨著技術的發展，挑戰也將隨之增加。第一個關鍵挑戰在于，人們對人工智能越來越不滿，因為它正在搶奪人類的工作，例如駕駛卡車或照顧病人。機器人正從人類身上搶飯碗，這并不是一個新的問題。這一負面作用的影響程度將取決于社會重新分配資源和調整工作崗位的能力。

第二個挑戰是一個錯誤的信息生態系統，致使人類不可能對其做出正確的判斷。當機器學習能創造更好、更細致的信息時，人類將需要數字驗證信息是真實的——或者至少不是假的。但幾乎可以肯定的是，它將變成一場貓鼠游戲：隨著驗證變得越來越嚴格，造假行為也會變得更完善。

我相信在我們的有生之年，人工智能驅動的錯誤信息危機有可能發生。人工智能已經可以令人信服地操縱圖像和視頻。如女明星的面孔被疊加在***照片和視頻上而難辨真假。世界各國領導人也正“被”說出荒謬或煽動性的言論。

假新聞只是其中一個例子。個人將面臨聲譽(偽造裸照發送給同事或網上發布的虛假的報復性***照片)、財務(影響信用的偽造銀行文件)和法律地位(虛假音頻、視頻或其他犯罪證據)上的風險。這并不是危言聳聽，這很有可能成為常態。

如果人們無法分辨什么是真實的或什么是假的，那么個人責任就會被拋到九霄云外。即便在現在，戰略人員也在使用人工智能創建的媒體作為躲避公眾輿論的一種方式。例如，如果一個人被錄下了帶有性別歧視言論的錄音帶，他可以說這盤磁帶是假的。當人工智能足夠好時，那就很難證明他說的話了。在某種程度上，先進技術的簡單存在將足以使人們對幾乎任何信息產生懷疑。

除了對個人及其家人的風險外，人工智能還會構成全球安全隱患。人工智能創造的情報或媒體可用于制造一場政治風暴、引發騷亂，甚至掀起第三次世界大戰。

長期來看：超級人工智能

到目前為止，最大的威脅是由通用人工智能構成的。像人類一樣聰明的人工智能(或更高級)是否可能被創造出來也是一個問題。但是，除非我們找到證據證明人類無法弄清楚人類智能的產生方式，否則超級人工智能的開發只是時間問題。然而，盡管雷·庫茲韋爾說過，但我不相信在我們的有生之年會創造出超人類的人工智能。

人工智能在大多數任務中達到甚至超多人類水平的合理時間線約為250年。任何歷史上需要利用人類智慧來做的任何事情——建立機器、解決問題、做出重要決策——都將由機器更有效地處理。也許會有一些杰出的數學家來計算宇宙的方程式，但我們其余的人將無法給社會貢獻太多。

在這個世界上，大多數人可能會依靠普遍基本收入。我們可以自由地與自己、朋友和家人一起學習和享受時光。但我認為這更可能使我們變得懶惰、無心向學，成為非理性的人，形成一層社會的外殼，就像在《美麗新世界》一樣。對普遍基礎收入的持續長期研究可能揭示這將如何影響我們。

我同意已故斯蒂芬·霍金的觀點，他認為人工智能的誕生可能是“我們文明史上最糟糕的事件。”因為我們根本不知道創造超級人工智能的結果，我們需要對這種可能性保持高度謹慎，因為這可能是人類歷史上最好或最糟糕的事件之一。

還有待觀察的是，這種好處是否會超過人工智能和機器學習帶來的負面影響。人工智能已經打開了通往可能由錯誤信息統治時代的大門。從偽造的銀行對賬單到世界領導人宣布虛假戰爭，人工智能創造的媒體將使我們對我們所讀、所看和聽到的東西產生懷疑。一旦我們深入研究這項技術的可能性，就會得出“人類會被機器取代”的結論。而這些也將是需要解決的大問題，能解決這些問題的公司也將是那些價值數百億美元的巨頭們。除了技術，我沒有看到任何其他解決方案。

我們能做的最重要的事情就是開始討論如何處理通用人工智能。我們需要了解，我們是否能夠建立有效的保障措施，例如阿西莫夫的三大機器人法則，以控制任何可以想象的超級人工智能。

我希望我錯了，但我是懷疑主義者。