人工智能是科學(xué)技術(shù)的前沿，不僅影響當(dāng)下人類社會的方方面面，而且關(guān)系到人類的命運。正因為此，人工智能引發(fā)來自科技界內(nèi)外的廣泛關(guān)注和爭議。這些爭論大致可以歸為三類：

● 其一，人工智能是否會危及人類的命運；

● 其二，強人工智能與弱人工智能的競爭與合作；

● 其三，強人工智能與弱人工智能各自內(nèi)部發(fā)展路徑辨析。

本文探討第一、二兩點，這兩點都涉及對人工智能的科學(xué)屬性與技術(shù)屬性的理解。人工智能一身而二任，既是科學(xué)，也是技術(shù)，是科學(xué)和技術(shù)的一體化。

無論置身于其中的業(yè)內(nèi)人士還是身處局外的觀察者，實際上自覺不自覺地不是把人工智能歸為科學(xué)，就是認(rèn)作技術(shù)。在某種意義上可以說，眼下關(guān)于人工智能的種種爭論，或多或少均與此有關(guān)。

一、強人工智能與弱人工智能

1.強、弱人工智能——科學(xué)與技術(shù)

強人工智能與弱人工智能之爭可以歸結(jié)到科學(xué)與技術(shù)的關(guān)系。相對而言，強人工智能強調(diào)跟隨并再現(xiàn)人的自我意識，偏向于認(rèn)為人工智能是探索人腦與意識的科學(xué)；弱人工智能則沿著圖靈的思路，認(rèn)為人工智能能夠執(zhí)行人腦相應(yīng)的功能而得到應(yīng)用即可。顯然，在弱人工智能一方的心目中，人工智能是技術(shù)。

正因為強人工智能與弱人工智能的背后有科學(xué)與技術(shù)之分，所以二者的思路和發(fā)展路徑存在種種差異。

強人工智能的目標(biāo)是發(fā)現(xiàn)未知，揭示人腦及其運行背后未知的秘密，核心是主體的意向性。強人工智能的驅(qū)動力是其背后人類數(shù)千年如一日的好奇心，是一往無前永不遏止的探索精神。

作為科學(xué)，強人工智能清楚肩負(fù)的重任。且不要說人類的“意向性”，身邊貓狗等寵物的意向性說的清楚嗎？有必要沿生物進(jìn)化的路徑回溯，先從模擬昆蟲、魚和哺乳動物的大腦開始，再一步一步進(jìn)階到對人腦的模擬。“強人工智能還太遠(yuǎn)了。”（北京航空航天大學(xué)自動化學(xué)院副教授秦曾昌）。

面對如此宏大的目標(biāo)，眼下的弱人工智能，哪怕是阿法狗，還是阿法元，只能是一個字：“弱”；而那些媒體為此的搖旗吶喊，只能是泡沫，從而給人工智能，特別是弱人工智能潑冷水。

強人工智能嘲笑弱人工智能之“弱”，距人的智能何止千里之遙。“中文屋子”與其說是“懟”強人工智能，不如說是在羞辱弱人工智能。強人工智能要求揭示功能背后的結(jié)構(gòu)，必須以“具有意識功能的材料為基質(zhì)”（中山大學(xué)人際互聯(lián)實驗室主任翟振明），譬如說“微管”，由結(jié)構(gòu)解釋功能，在量子層面闡明意識的本質(zhì)，以知其所以然。

潘建偉認(rèn)為，“不到量子人工智能的時代，我是一點兒不擔(dān)心人工智能會取代人類。”馬兆遠(yuǎn)認(rèn)同這一點，在由納米尺度理解意識之前，“人工智能至少在三百年內(nèi)還沒什么機會超越人腦”。

站在技術(shù)的立場，弱人工智能則認(rèn)為強人工智能沒有必要，實現(xiàn)功能無需舍近求遠(yuǎn)，不如且行且進(jìn)。如果人們的目標(biāo)是制造“工具”，那么考慮特定類型的智能行為就已足夠，何必再去考慮獨立意識（南京大學(xué)教授、計算機軟件新技術(shù)國家重點實驗室常務(wù)副主任周志華）？

一部技術(shù)史，從工作機-動力機-控制學(xué)習(xí)機的線索來看，工作機、動力機、控制學(xué)習(xí)機，分解開來，逐一攻克。汽車并不是馬，電機和熱機未必如九牛或二虎，電腦雖在普適與情感等方面不如人腦，卻越來越多的個別場合勝似人腦。

從科技黑箱的視角看，使用者只在乎其能否執(zhí)行功能。就此而言，科技黑箱并不介意牛馬的結(jié)構(gòu)，從基本物理運動、化學(xué)運動、生命運動一路走來，突破曾經(jīng)的一個個界限，在實際上同樣進(jìn)入意識運動的王國。

弱人工智能的目標(biāo)是看得見的眼前，數(shù)年或數(shù)十年，在一定程度上可以預(yù)測，滲透到經(jīng)濟(jì)、社會和文化的各個領(lǐng)域，在個別的特定的領(lǐng)域逐一替代人。所謂“個別”、“特定”，就是邊界明確，規(guī)則嚴(yán)密，賞罰分明，也就是有“激勵機制”。弱人工智能，在這些特定的領(lǐng)域攻城略地，日益，以及堅定地擴(kuò)大自己的營地。

從知識論的視角來看，弱人工智能把人的日常生活與工作中有規(guī)可循的行為編碼編程，大數(shù)據(jù)加算法加算力，做成控制學(xué)習(xí)機。再結(jié)合工作機與動力機，腳踏實地步步為營，對人工智能持樂觀立場，集腋成裘，在近數(shù)十年間將會迎來“奇點”。

其實，歷史地看，科學(xué)和技術(shù)的發(fā)展都離不開對方的支撐和拉動，已經(jīng)有太多的研究成果說明了這一點，人工智能至今的發(fā)展同樣是科學(xué)和技術(shù)，在某種意義上，也就是強人工智能與弱人工智能，雙方攜手并進(jìn)的結(jié)果（此處期待業(yè)內(nèi)人士拍磚和完善）。

2.強人工智能人機回圈中的“機”與“人”

如果接受這一觀點，那么不難看出，筆者在（人機回圈：人類的科技化與科技的人文化（序及綱要）；人機回圈：人類的科技化與科技的人文化（一、2）“機”的演化…人機回圈：人類的科技化與科技的人文化一、人機回圈中的“機”）中所分析的“機”，工作-動力-學(xué)習(xí)機，以及科技黑箱，都是把人工智能看作是技術(shù)。

既然如此，作為科學(xué)的強人工智能，“機”的含義自然有所不同，那就是科學(xué)研究過程中所提出的“模型”，例如一個多世紀(jì)前對于原子的“葡萄干面包”和“行星式”模型，關(guān)于銀河系的“水缸里的漩渦”模型，以及DNA的“三螺旋”和“雙螺旋”模型等。對于強人工智能來說，“機”，也就是模型，主要并不有意實現(xiàn)什么功能，而是旨在認(rèn)識大腦的結(jié)構(gòu)，理解和揭示意識的本質(zhì)，這是模型的目標(biāo)：人的大腦和意識。

強人工智能與弱人工智能的人機回圈中的“機”不同，人機回圈中的“人”也不同。在作為技術(shù)的弱人工智能看來，人機回圈中的人是現(xiàn)實社會中的各色人等；那么作為科學(xué)，既然強人工智能中人機回圈的“機”是認(rèn)識過程中的模型，那么人機回圈中的人就不是現(xiàn)實社會中的人，而是人作為“類”的典型。

在一次次回圈中，模型無限逼近原型。眼下的一項最新進(jìn)展是麻省理工學(xué)院的“類腦芯片”[i]，人造突觸，是可以用于終端的便攜式低功耗神經(jīng)形態(tài)芯片，可將人腦能力“復(fù)制”到芯片，從而為實現(xiàn)神經(jīng)網(wǎng)絡(luò)硬件化打下堅實的基礎(chǔ)。

值得注意的是，強人工智能在某種意義上沿襲了西方近代以來的步點。秉承笛卡爾的“認(rèn)識論轉(zhuǎn)向”，“腦”登場，“心”只是“處理機械自然中為物理學(xué)無法解釋的一切感性經(jīng)驗的傾倒垃圾的場所”[ii]。所以需要“以頭立地”，重“知”（智）輕“行”。

然而，人是“工作機-動力機-控制學(xué)習(xí)機”的融合，不可分割。身體，不僅是工作機和動力機，而且全方位參與認(rèn)知與實踐活動。這就是“全身心”，心智合一，靈與肉不可分離。

如果考慮到身心合一，那么強人工智能人機回圈之“機”，就必須以一個完整的人作為“回圈”的目標(biāo)。2016/9/25上海AI小組閉門討論會稱，生命形態(tài)的不完整情況下發(fā)展的人工智能為“偽智能”。

或許正是在此意義上，喬布斯曾在自傳里預(yù)言：20世紀(jì)80年代是IT時代，而21世紀(jì)絕對是基因科技時代。生物技術(shù)將從技術(shù)之“機”和科學(xué)之模型兩個緯度推進(jìn)人工智能。

考慮到科學(xué)與技術(shù)之間的互動，作為技術(shù)的弱人工智能中的“機”與作為科學(xué)的強人工智能中的“機”，也就是科學(xué)模型之間的互動，有待拓寬和強化。（此處同樣期待業(yè)內(nèi)人士拍磚和完善）

二、人工智能雙刃劍

科學(xué)技術(shù)是雙刃劍，這一點已經(jīng)在科技界和社會上形成廣泛共識。人工智能也是雙刃劍。分析強人工智能與弱人工智能雙方對人工智能雙刃劍的立場會饒有興味。

1.科學(xué)與技術(shù)，何者更是雙刃劍

科學(xué)技術(shù)是雙刃劍，這一說辭籠統(tǒng)了。進(jìn)一步的分析可以發(fā)現(xiàn)，科學(xué)與技術(shù)相比之下，技術(shù)更是雙刃劍。

可以在自然與社會之間設(shè)一譜系，將人類的各項活動排序。相對而言，科學(xué)更接近自然，技術(shù)更靠近社會。科學(xué)源于好奇心，強調(diào)自由探索，“為科學(xué)而科學(xué)”，其成果是與特定的主體、對象和語境無關(guān)的非嵌入編碼知識。

科學(xué)的成果雖然可以為各方所用，但科學(xué)本身止于認(rèn)識階段。作為認(rèn)識活動，科學(xué)與社會的互動主要在觀念層面，科學(xué)實驗雖然是實踐活動，但目的主要是為了認(rèn)識，而不是效益。

技術(shù)旨在效用和控制，需要調(diào)動更多自然和社會資源，其成果滿足特定社會成員的特定需要。作為實踐活動，技術(shù)需要社會調(diào)集更多資源，技術(shù)的成果（科技黑箱）也會更直接廣泛影響社會。

技術(shù)與社會之間在經(jīng)濟(jì)、政治和文化諸領(lǐng)域發(fā)生全方位的互動。較之科學(xué)來說，技術(shù)的雙刃劍效應(yīng)，無論是正面還是負(fù)面，都更為顯著，更為“鋒利”。如果說作為認(rèn)識活動，“科學(xué)無禁區(qū)”，那么作為產(chǎn)生后果的實踐活動，技術(shù)必須有禁區(qū)。由此可見，技術(shù)必須更多顧及負(fù)面效應(yīng)。

2.人工智能雙刃劍的不同立場

弱人工智能一方把人工智能看作是技術(shù)，因而人工智能必須考慮可控與效益，考慮雙刃劍的負(fù)面效應(yīng)。技術(shù)有禁區(qū)。因而擔(dān)心人工智能最終影響人類的命運，霍金（科學(xué)家可以持人工智能是技術(shù)的觀點，或者其成果終究會轉(zhuǎn)化為技術(shù)，從而關(guān)注其負(fù)面效應(yīng)）與馬斯克是持這一觀點的代表人物。他們擔(dān)心的威脅，實際上是來自強人工智能。“嚴(yán)肅學(xué)者不該去碰強人工智能”（周志華）。如果限定在弱人工智能，則只會是人類乖巧而順從的助手。

如果看作是科學(xué)，更多強調(diào)自由探索精神，科學(xué)無禁區(qū)。難道“強人工智能是潘多拉魔盒？”（北京郵電大學(xué)人機交互與認(rèn)知工程實驗室主任劉偉）[iii]。

即使是“潘多拉魔盒”，如果因此“說不要研究強人工智能，這就有些一廂情愿了。因為強人工智能是科學(xué)發(fā)展的必然趨勢。”

回顧一部科學(xué)史，劉偉所言不差。合成尿素打破無機與有機的界限，生命科學(xué)和生物技術(shù)架起通往生命的橋梁，往日的界限已經(jīng)攻克，意識運動同樣沒有禁區(qū)。

大腦，即使加上身體，全身心，無論多么復(fù)雜，無限，畢竟是“已經(jīng)生成”之物（或弦）；人工智能，無論是“強”還是“弱”，其發(fā)展卻無窮無盡。這一點與《三體》中描繪的“黑暗森林”類似。這一追趕的步伐，在弱人工智能看來近在咫尺，就在數(shù)十年后，即使在強人工智能心目中，也就數(shù)百年。

3.人工智能雙刃劍前景

先看作為技術(shù)的人工智能。

科技黑箱將越來越黑。除了少數(shù)科技精英，人類中越來越多的人將不知其運行的機理，而科技精英的解釋如“糾纏”、“疊加”、“塌縮”，則往往令常人如云里霧里，甚至科技精英也無法以經(jīng)典的科學(xué)概念解釋得出的結(jié)果，乃至求助于已“恭候多時”的佛教徒。

與此相反的趨勢是，在相當(dāng)程度上正是因為越來越黑，所以科技黑箱在操作上越來越簡單。

上文述及，科技黑箱沿量子階梯上升，由無機到有機、生命，以及大腦，從生理到心理；工作機越來越能干，動力機越來越強大持久，控制學(xué)習(xí)機越來越聰明，因而對人類社會的影響在正負(fù)兩方面都越來越大。這一點再加上雙刃劍越來越黑，越來越簡單，因而雙刃劍那一刃都變得越來越鋒利。

人性有兩個根本的弱點：自利與有限。無自利，或許唯有耶穌和佛陀。有限，不可能洞察一切。沿弱人工智能的途徑，人工智能的發(fā)展將最終超越人性的弱點。弱人工智能沒有自我意識，意味著無所謂“自利”， 無關(guān)尊嚴(yán)、榮譽，對于所有的情感“沒感覺”，而是遵循規(guī)律。弱人工智能不是克服，而是繞過人性的自利。而在時空上無窮無盡的大數(shù)據(jù)和超凡脫俗的計算能力則超越人之“有限”。

“讓機器工作，讓人們思考”，這是2011年9月22日，IBM公司在計算機紀(jì)元50周年的題詞。這十個字是弱人工智能的宗旨。

回顧歷史，在普里戈金的分岔圖上，每一次科技創(chuàng)新或多或少都是一次分岔。每一次分岔，往往針對上一次創(chuàng)新的不足之處與負(fù)面效應(yīng)，換言之，人類畢竟還擁有一定程度的控制權(quán)，可以由新的分岔彌補修正上一個分岔的負(fù)效應(yīng)。

展望前程，人類正在越過的是人類歷史上最大，或許也是對于人類來說的最后一個分岔。人工智能的發(fā)展將可能一勞永逸地結(jié)束人類社會歷經(jīng)萬年，“從分岔到分岔”的“曲折前行”的道路。

再看作為科學(xué)的強人工智能。

即使在不涉及實踐后果的純粹的認(rèn)識領(lǐng)域，強人工智能同樣有令人毛骨悚然的效應(yīng)。在圍棋界，來無蹤去無影的“棋感”已被阿法狗解密。試想，例如在人類最神奇私密的愛情領(lǐng)域，強人工智能將其中難以乃至不可言說的微妙之處一一解碼，娓娓道來，以示天下，人類還花前月下，談情說愛嗎？要是同情心、審美和宗教情懷都可以在“微管”與量子的層面上得到解釋，這一說辭不禁令人想起歷史上曾經(jīng)的還原論。

強人工智能與弱人工智能的一個共同點是，踏在往日科學(xué)技術(shù)的肩上，沿量子階梯和運動形式升高，直至生命和意識。

斯蒂芬·沃爾夫勒姆（Stephen Wolfram）表示[iv]，模仿人類，既是錯誤的路線，又是唯一可行的路線。

強人工智能與弱人工智能結(jié)合，能否是“上帝的歸上帝，凱撒的歸凱撒”的模式。人，照看自己的靈魂，做出決策；機，人工智能從事計算，提供決策的依據(jù)和選項。“人心機腦”，是可欲的理想，還是一廂情愿？

人是雙刃劍。

雖然有上述種種反思，但是強人工智能也好，弱人工智能也好，二者的相互結(jié)合也好，人工智能繼續(xù)推進(jìn)的趨勢不可阻擋。說到底，在這一趨勢的背后，依然是人工智能苦苦追尋并試圖超越的人性。

人性推動人工智能超越（否定）自身。科技雙刃劍的根源是人。

人自身就是雙刃劍。一刃是善，一刃是惡；一刃是自我控制，一刃是放縱自我；一側(cè)是對世界無窮的知與控制的欲望，另一側(cè)是有限的認(rèn)識和實踐能力；一邊是對不確定未來的向往或恐懼，一邊是對確定往事的留戀或背離。

說到底依然是兩句話：人是自利的，人是有限的。

前者的表現(xiàn)之一是控制欲，控制自然，控制他人，與此同時則是放縱自我。個人的控制與放縱，在人際就是控制與反控制。

后者在于，由于自然界（大腦）的極端復(fù)雜、相互關(guān)聯(lián)與不確定，由于人（國）際關(guān)系的博弈或合作，以及由于主觀能力所限，人不可能把握全局，不可能預(yù)知未來。

回首往事，歷歷在目；展望未來，充滿了分岔和不確定。兩千年前，伊壁鳩魯?shù)脑诱撜J(rèn)為原子的偏斜造就了世界，上世紀(jì)居里的名言是，非對稱創(chuàng)造世界。或許應(yīng)該補充的是，非對稱也會毀滅世界。

潘多拉魔盒釋放了科技，也就是釋放了雙刃劍。打開了，就不可能再關(guān)上。

弗洛伊德在1930年寫道，能否理解，文明在多大程度上是建立在對本能的滿足之上，又是在多大程度上是以對強大的本能的力量（以壓迫、鎮(zhèn)壓或別的方法？）不予滿足為前提？

凱文·凱利謹(jǐn)慎地表示，互聯(lián)網(wǎng)產(chǎn)生的相當(dāng)大一部分都是不好的。但只要互聯(lián)網(wǎng)的積極的一面僅僅比負(fù)面效應(yīng)多出1%，我認(rèn)為這1%會年復(fù)一年地滾動，歷經(jīng)數(shù)十年甚至上百年的復(fù)合產(chǎn)生收益。所以，為了長遠(yuǎn)獲得正效應(yīng)的復(fù)利，現(xiàn)在互聯(lián)網(wǎng)產(chǎn)生的正面效用，必須要比負(fù)效應(yīng)哪怕多那么一點點。

本能（好奇、控制……）或許正是比對本能的控制大了1%。正是這1%的不對稱,“建構(gòu)”了迄今的文明史。除了邪教，幾乎所有的宗教都在于勸誡放棄對自然和他人的控制，代之以控制自我。

要是宗教大獲成功，或許人類將止步不前；要是沒有宗教，人類將自我毀滅。

自然界，正物質(zhì)恰好比反物質(zhì)多了“一點”，那多出來的“一點”構(gòu)成了人類和大千世界。

說到底，人自身雙刃劍的不對稱，這才是科技雙刃劍——無論是正面還是負(fù)面——的原動力。

只要人類一息猶存，就不會停下好奇與控制的腳步；只要人類不停下探索與支配的步伐，最終的征服對象就是人類自己。這是人類最大的悖論。

向死而生，這是哲學(xué)家對個人的教導(dǎo)，現(xiàn)在成為人類本身的宿命。

人類，能否鳳凰涅槃浴火重生……

鑒于科學(xué)與技術(shù)之間沒有截然分明的界限，強人工智能與弱人工智能之間也沒有截然分明的界限，因而本文中的論述也會帶有這一印記。