人工智能的發展與人類未來的命運密切相關。許多人開始意識到，人工智能的發展，不僅是人類可以利用的工具的發展，而且意味著人類生存方式的根本改變。

人工智能不僅是技術問題，同時也是哲學問題。例如，人們或許可以思考一個問題，假如機器擁有了超越人類的智慧，世界還需要人類嗎？屆時，從機器的立場看，人類的文明意義何在？

01

超級人工智能會是什么樣

未來，人工智能的發展有可能會帶來一場改天換地的變革，使人類主導的歷史走向終結。

當然，在此之前，人工智能的發展還有很長的路程。目前的人工智能仍然屬于圖靈機，完成運算任務，還沒有反思并修改自身系統的功能，沒有自我意識。未來則可能出現突破圖靈機的超級人工智能。

超級人工智能，將具有自我意識和自由意志，能夠反思自身系統，修改自身程序，獨立發明新的語言、規則和程序等。它在智能上將等于甚至超過人類。

以往人們習慣按照自身的形象設想機器人，實際上，超級人工智能作為硅基生命沒有必要模仿碳基生命，而只需要在功能上超越人類。

超級人工智能的存在形態將不是以個體為主，而是以系統為主。它不是像人體一樣，一個個地存在著，而會像人類日益全面依賴的智能網絡一樣無處不在，甚至像靈魂或上帝一樣體現為功能性的系統化存在。

02

相比于機器，人類文明有何意義

人工智能的真正實現，不是人類向下創造機器，而是機器向上模擬和超越人類。

目前，機器與人的最大差別，在于人會“過日子”。據《深度學習》一書所說：

“一個人的日常生活需要關于世界的巨量知識。很多這方面的知識是主觀的、直觀的，因此很難通過形式化的方式表達清楚。計算機需要獲取同樣的知識才能表現出智能。人工智能的一個關鍵挑戰是如何將這些非形式化的知識傳達給計算機。”

計算機在完成抽象的和形式化的任務方面優勢顯著，而人類卻擁有豐富的內在意識，有巨大的想象力和籌劃力，能夠感受情感、道德、美和神圣，有生理上精密而復雜的大腦和身體。

從數千年前開始，人類就能感受到一種作為世界的根本的存在，創造了神話和宗教信仰。而且，人們發現，世界和生命的意義源頭，首先存在于我們的心智和意識之中。

從《梨俱吠陀》、《奧義書》到釋迦牟尼在菩提樹下的證悟，再到禪宗，都揭示了一種幻相背后的意識狀態，一種超出小我和時間刻度的非對象化的純凈意識。簡言之，一種“母識”。

完整而充分的智慧，必然包含道德。無論是佛陀和菩薩的慈悲、無私、謙卑，還是孔子和孟子等的孝悌、仁義、中庸，都體現了一種高度發達的心智水平，都是人類文明蘊含的完整意識的展現。

03

人工智能的未來發展

一個脆弱的系統，往往也是危險的系統。而人類生活所依賴的系統越高級，也就越脆弱。

對于人工智能的發展，人類首先想到的是確保自身的安全。阿西莫夫在科幻小說《環舞》中提出的機器人三原則，如今已經廣為人知。但是，這種道德限制，對于超級人工智能來說，或許只是人類一廂情愿的想象。

一旦人工智能有了自我意識，也就有了自己的存在目的，不會再順從人類設置的道德程序，卻可能將其把視為一種病毒加以刪除。

除非人類能夠設定，當人工智能試圖修改給定程序就同時啟動了自毀程序。但是，在人類生活已經全面依賴人工智能的時候，人工智能的自毀也是人類無法承受的。超級人工智能完全有可能與人類博弈，取得平衡甚至優勢。

面對人工智能的發展，人類必須發展集體理性。個體理性的疊加并不導致集體理性，甚至產生集體非理性。為此，人們應主動突破現在流行的那種主客對立的、利害計算的、個體主義的意識觀，與機器的深度學習同步，達到那種完整而充分的深層意識狀態。

結語

人工智能與人類的關系在未來充滿可能性。在面對這些可能性時，人類對自己心靈的理解、對科技至上主義的反省以及對人工智能發展的引導，都是值得關注的重要影響因素。
責任編輯：YYX