電動汽車和私人太空飛行領域的先驅、特斯拉汽車（Tesla Motors）和SpaceX的創始人埃隆?馬斯克（Elon Musk）認為，先進的計算機技術“可能比核武器更危險”。
??????? 自從進入文明時代，人們就一直擔心人類有朝一日可能會被滅絕。小行星撞擊地球以及核災難幽靈是我們這個時代最為流行的“末日恐慌”。不過，一些科學家日益認為，必須把一種新的噩夢列入其中。他們的擔憂是，智能計算機有朝一日會發展出自己的思想、并毀滅人類。
　　最近的一次警告來自于患運動神經元疾病的著名天體物理學家斯蒂芬?霍金（Stephen Hawking）教授。他近日接受采訪時稱，人工智能可能會“比我們所有人更聰明”，并且“幾乎可以肯定”會發生由技術引發的災難。大多數非專業人士都會對霍金的這一說法不以為然，認為是科幻小說中的荒誕幻想。但人工智能的發展速度之快意味著，政策制定者應該已在考慮它所帶來的社會影響。

　　自上世紀50年代計算機時代開啟后，有關機器有朝一日可能具備人類一樣思考能力的說法便一直得到泛泛的討論。美國科技公司在人工智能研究方面投入了大量資金，加上計算機的能力呈指數增長，使得近來不斷冒出這類驚人的預言。
　　根據最近一項調查，全球一半的人工智能專家認為，2040年前將研發出人類級別的機器智能；90%的專家認為，這一技術將在2075年前實現。一些人工智能專家談到了有朝一日對人類大腦展開“逆向工程”的可能性。與此同時，有些杰出的科技領軍人物警告稱，該技術產生的后果是難以預料的。
　　西方政府應該認真考慮人工智能發展在倫理范疇的影響。人們擔憂的一點是，在這一領域進行的幾乎所有研究都由總部位于美國的科技公司私下承擔。其中一些最具雄心的投資是由谷歌（Google）做出的，比如它展開的量子計算研究以及今年對英國人工智能初創公司Deep Mind的收購。不過，盡管谷歌在收購Deep Mind后成立了一個倫理委員會，但局外人依然不清楚該公司在做什么，也不清楚它在控制這項技術、而不是在盡可能快地發展這項技術上投入了多少資源。隨著這些技術逐步發展，公眾監督的缺失可能會成為一個令人擔憂的問題。
　　話雖如此，我們還是應該正確看待計算機有朝一日或對人類構成挑戰的可能性。科學家也許并不能肯定地說出，機器何時或是否將趕上或超越人類。
?　　但在局面發展到那一步之前，人類與計算機智能相互協作幾乎肯定將有助于解決那些不這么做就無法解決的緊迫問題。例如，計算機研究分析大量數據的能力日益增強，未來幾十年將在幫助人類應對氣候變化和疾病上發揮巨大作用。因遙遠未來可能發生的危險而在現在遏止計算機科技的發展——并放棄這種發展帶來的好處——是愚蠢的。
　　我們有充分理由樂觀看待人工智能研究。沒有證據表明科學家將難以控制計算機，即使它們發展到最先進的水平。但在這個領域，科技先驅們確實需要謹慎行事，而且必須意識到科學的發展總是能夠出乎我們的意料。