和大多數(shù)人憧憬人工智能技術(shù)發(fā)展會(huì)給人類社會(huì)帶來哪些福利有所不同，法學(xué)家們的思考出發(fā)點(diǎn)是：人工智能技術(shù)是一把“雙刃劍”，在造福人類的同時(shí)，也可能蘊(yùn)藏著新的風(fēng)險(xiǎn)。

今天是上海書展的最后一天。下午四點(diǎn)，知名刑法學(xué)家、華東政法大學(xué)刑事法學(xué)研究院院長(zhǎng)劉憲權(quán)攜新作《人工智能時(shí)代的刑法觀》而來，并作了同題的法學(xué)講座。

在學(xué)校上課時(shí)，這位明星法學(xué)教授總喜歡從提問開始、啟發(fā)學(xué)生思考。在今天的講座現(xiàn)場(chǎng)，劉憲權(quán)的講述同樣是從一則大眾關(guān)心的問題開始的：當(dāng)人工智能機(jī)器人被作為犯罪工具、開始危害社會(huì)時(shí)，現(xiàn)有刑法是否能夠完全規(guī)制人工智能犯罪？

“有人直到目前為止仍然認(rèn)為，用于實(shí)施犯罪的人工智能機(jī)器人，本質(zhì)上就是一個(gè)作案工具，是一件器物，現(xiàn)行刑法完全可以對(duì)相關(guān)犯罪行為進(jìn)行規(guī)制。但事實(shí)真是如此嗎，刑法的完全規(guī)制能夠適用多久？”結(jié)合近年在人工智能法學(xué)領(lǐng)域的研究，劉憲權(quán)給出了他的結(jié)論：按照機(jī)器人智能化程度，目前暫分為普通機(jī)器人、弱人工智能機(jī)器人和強(qiáng)人工智能機(jī)器人。而這個(gè)升級(jí)發(fā)展的過程，本質(zhì)上是機(jī)器人“機(jī)器”的成分越來越少，“人”的成分越來越多的過程。

眾所周知，人是有意識(shí)和思維的。隨著技術(shù)的發(fā)展，未來的強(qiáng)人工智能機(jī)器人一旦有了“思維”，刑法這道“最后的防線”為了保護(hù)社會(huì)的安穩(wěn)有序健康，就有必要作出相應(yīng)的修訂。

“技術(shù)的發(fā)展和更迭往往超乎人類的想象。當(dāng)風(fēng)險(xiǎn)轉(zhuǎn)變?yōu)楝F(xiàn)實(shí)危險(xiǎn)后才考慮刑法規(guī)制問題，將使人類陷入被動(dòng)的局面。”因此，針對(duì)一些學(xué)者所憂慮的法律的規(guī)制會(huì)束縛人工智能技術(shù)發(fā)展的手腳、遏制技術(shù)進(jìn)步不同，劉憲權(quán)在他此次的新作中提出明確主張：法律就應(yīng)該未雨綢繆。而刑法更應(yīng)該秉持前瞻性的理念，未雨綢繆，確保人工智能技術(shù)在應(yīng)用層面安全、可靠、可控。

即便是眼下，一些案件的發(fā)生，已經(jīng)讓司法界感到棘手。

劉憲權(quán)舉了一個(gè)案例。2015年2月，英國(guó)首例達(dá)芬奇手術(shù)機(jī)器人心瓣修復(fù)手術(shù)進(jìn)行。這原本是一場(chǎng)最尖端的醫(yī)療AI技術(shù)展示，沒想到卻成了一場(chǎng)鮮血四濺的慘案。當(dāng)時(shí)，達(dá)芬奇手術(shù)機(jī)器人出現(xiàn)了“暴走”，不但把患者的心臟縫錯(cuò)了位置，還戳穿了患者的大動(dòng)脈，導(dǎo)致患者在手術(shù)后一周去世，手術(shù)以失敗告終。分析可知，雖然醫(yī)生在手術(shù)中存在醫(yī)療過錯(cuò)行為，但醫(yī)療損害事故的發(fā)生并不完全是因?yàn)獒t(yī)生的過失，醫(yī)療機(jī)器人在同樣存在“失誤”。這一案已經(jīng)提示人們注意，醫(yī)療機(jī)器人因機(jī)器故障或算法失誤，就可能導(dǎo)致醫(yī)療損害，存在一定的刑事風(fēng)險(xiǎn)。

“就目前的人工智能技術(shù)發(fā)展水平而言，我國(guó)現(xiàn)行刑法規(guī)定可以規(guī)制大部分涉人工智能犯罪。但需要針對(duì)條文規(guī)定過于模糊的地方，通過司法解釋予以明確，或者調(diào)整部分犯罪的構(gòu)成要件，將人工智能時(shí)代出現(xiàn)的新型行為方式予以包涵。”而劉憲權(quán)認(rèn)為針對(duì)人工智能時(shí)代出現(xiàn)的特有新型犯罪，則需要踐行人工智能時(shí)代刑法的前瞻性理念，增設(shè)濫用人工智能產(chǎn)品罪和人工智能產(chǎn)品事故罪等罪名，實(shí)現(xiàn)技術(shù)飛速發(fā)展和刑法條文相對(duì)穩(wěn)定性之間的平衡。

值得一提的是，劉憲權(quán)還大膽地在新作中提出了一個(gè)觀點(diǎn)：依據(jù)人工智能機(jī)器人自身的特點(diǎn)，增設(shè)能夠適用于人工智能機(jī)器人的刑罰處罰方式，無疑是人工智能時(shí)代規(guī)制涉人工智能犯罪的重要內(nèi)容。

他建議，在對(duì)人工智能刑事立法具體條文的修訂和增設(shè)方面，應(yīng)當(dāng)修改侵害計(jì)算計(jì)信息系統(tǒng)類犯罪、交通肇事罪、危險(xiǎn)駕駛罪等犯罪的主體和行為方式，使其適應(yīng)人工智能技術(shù)的發(fā)展現(xiàn)狀和未來趨勢(shì)。同時(shí)，在刑法中針對(duì)人工智能機(jī)器人增設(shè)刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰處罰的方式。

今年是劉憲權(quán)連續(xù)第四年在上海書展舉行新作簽署。每年上海書展都有法學(xué)研究領(lǐng)域的新作問世，劉憲權(quán)的“高產(chǎn)”和勤勉，也成為了學(xué)術(shù)界的佳話。

除了慣有的對(duì)待學(xué)術(shù)研究的認(rèn)真與執(zhí)著，在接受文匯報(bào)記者采訪時(shí)劉憲權(quán)直言，每年一本著作上新，學(xué)術(shù)“高產(chǎn)”的根本驅(qū)動(dòng)力是他對(duì)新生事物的好奇。“像人工智能技術(shù)發(fā)展對(duì)法律和未來社會(huì)帶來的挑戰(zhàn)這類問題，是一個(gè)很大的時(shí)代課題，可以研究一輩子。”