王 超

（中國(guó)人民公安大學(xué)，北京 100032）

一、問(wèn)題的提出

人工智能的發(fā)展，是人類(lèi)科學(xué)技術(shù)發(fā)展的必然，正如習(xí)近平總書(shū)記所言：“新一代人工智能正在全球范圍內(nèi)蓬勃興起，為經(jīng)濟(jì)社會(huì)發(fā)展注入了新動(dòng)能，正在深刻改變?nèi)藗兊纳a(chǎn)生活方式?！保?］但不得不承認(rèn)的是，人工智能給我們帶來(lái)諸多便利的同時(shí)，也蘊(yùn)藏著大量的安全風(fēng)險(xiǎn)，引起民眾普遍恐慌且廣泛討論的是人工智能的犯罪問(wèn)題。①1978年，日本廣島一家工廠(chǎng)的切割機(jī)器人在切鋼板時(shí)發(fā)生意外轉(zhuǎn)身切割當(dāng)值工人，該案被認(rèn)為是世界上第一宗機(jī)器人殺人事件；2015年，德國(guó)大眾汽車(chē)制造廠(chǎng)機(jī)器人在被安裝和調(diào)制過(guò)程中將工人重重壓向金屬板，最終導(dǎo)致這名工人因傷重不治身亡；2020年，日本一名59歲的工人在一家摩托車(chē)廠(chǎng)被附近工作的智能機(jī)器人殺害。參見(jiàn)馬治國(guó)，田小楚：《論人工智能體刑法適用之可能性》，載《華中科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2018年第2期；劉曉梅，劉雪楓：《人工智能刑事責(zé)任的主體問(wèn)題探析》，載《天津法學(xué)》2019年第2期；王耀彬：《類(lèi)人型人工智能實(shí)體的刑事責(zé)任主體資格審視》，載《西南交通大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2019年第1期。如何規(guī)制人工智能犯罪問(wèn)題也成了刑法學(xué)界熱議的話(huà)題，對(duì)這一問(wèn)題的回答，國(guó)內(nèi)外刑法學(xué)者產(chǎn)生了大量論爭(zhēng)，但目前來(lái)看大致有兩個(gè)主要方向，“一個(gè)是主張承認(rèn)人工智能的法律人格，其后果是對(duì)人工智能施加刑事責(zé)任；另一個(gè)是不承認(rèn)法律人格，其目的是表明由于缺乏理論方案和對(duì)人工智能本身的發(fā)展認(rèn)識(shí)不足，對(duì)這一主題的討論還不成熟?！保?］筆者認(rèn)為，理論研究應(yīng)當(dāng)具有前瞻性，但是前瞻性必須以現(xiàn)實(shí)材料為基礎(chǔ)，進(jìn)言之，不能因?yàn)槿狈碚摲桨负腿狈?duì)人工智能發(fā)展的認(rèn)識(shí)就否認(rèn)對(duì)一主題討論的必要性，但也不宜直接承認(rèn)人工智能的法律人格以追究其刑事責(zé)任。

人工智能犯罪作為一種新型犯罪，是指與人工智能的研究開(kāi)發(fā)、設(shè)計(jì)制造、部署應(yīng)用等相關(guān)的犯罪。當(dāng)下，我們依然處于弱人工智能時(shí)代，涉及人工智能的犯罪案件主要包括兩類(lèi)：一是利用型犯罪，即行為人利用人工智能實(shí)施犯罪；二是產(chǎn)品缺陷型犯罪，即因?yàn)槿斯ぶ悄墚a(chǎn)品自身的缺陷而導(dǎo)致的犯罪。［3］應(yīng)該說(shuō)，上述兩類(lèi)犯罪均不存在規(guī)制難題。但是，隨著技術(shù)的逐漸成熟，人工智能必然會(huì)擁有更強(qiáng)的學(xué)習(xí)能力，甚至在一定程度上具備自主識(shí)別、自我控制的能力，出現(xiàn)所謂的“人工智能自主犯罪”。此時(shí)，是否需要承認(rèn)人工智能的刑法主體地位以規(guī)制該類(lèi)犯罪？持肯定說(shuō)的學(xué)者認(rèn)為（強(qiáng)）人工智能具有控制能力和辨認(rèn)能力，并且可能產(chǎn)生自主意識(shí)和意志，進(jìn)而認(rèn)為（強(qiáng)）人工智能可以成為獨(dú)立的刑法主體。持否定說(shuō)的學(xué)者認(rèn)為人工智能不具有控制能力和辨認(rèn)能力，即使認(rèn)為人工智能具有控制能力和辨認(rèn)能力，也無(wú)法將其評(píng)價(jià)為具有自主意識(shí)，即人工智能的控制能力和辨認(rèn)能力不具有刑法評(píng)價(jià)意義上的自主性。①肯定說(shuō)的相關(guān)論述可參見(jiàn)劉憲權(quán)，胡荷佳：《論人工智能時(shí)代智能機(jī)器人的刑事責(zé)任能力》，載《法學(xué)》2018年第1期；劉憲權(quán)：《人工智能時(shí)代的“內(nèi)憂(yōu)”“外患”與刑事責(zé)任》，載《東方法學(xué)》2018年第3期；劉憲權(quán),林雨佳：《人工智能時(shí)代刑事責(zé)任主體的重新解構(gòu)》，載《人民檢察》2018年第3期；盧勤忠,何鑫：《強(qiáng)人工智能時(shí)代刑事責(zé)任與刑罰理論》，載《華南師范大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2018年第6期等。否定說(shuō)的相關(guān)論述可參見(jiàn)王肅之：《人工智能體刑法地位的教義學(xué)反思》，載《重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2020年第3期；時(shí)方：《人工智能刑事主體地位之否定》，載《法律科學(xué)》2018年第6期；葉良芳：《人工智能是適格的刑事責(zé)任主體嗎？》，載《環(huán)球法律評(píng)論》2019年第4期；張成東：《強(qiáng)人工智能體刑事主體地位之否定》，載《時(shí)代法學(xué)》2019年第5期等。國(guó)外的通說(shuō)觀點(diǎn)是人工智能不具備刑事責(zé)任，大多數(shù)學(xué)者都認(rèn)為人工智能的法律責(zé)任由生產(chǎn)者或所有者承擔(dān)。［4］但近年來(lái)，越來(lái)越多的學(xué)者開(kāi)始承認(rèn)人工智能有獨(dú)立承擔(dān)法律責(zé)任的資格。例如，有學(xué)者指出人工智能能夠在很大程度上獨(dú)立于人類(lèi)控制，表現(xiàn)出高度的自主性和不可約束性，這使得人工智能可以在一些方面不同于傳統(tǒng)的機(jī)器，刑法的直接應(yīng)用更值得考慮。［5］

筆者同意否定說(shuō)的立場(chǎng)，人工智能雖然具有“智能性”的特點(diǎn)，擁有自主識(shí)別、自主控制的能力，甚至在一定條件下可以脫離人的控制，但其本質(zhì)依然是人類(lèi)的工具，賦予人工智能刑法主體地位的觀點(diǎn)在當(dāng)下以及未來(lái)很長(zhǎng)一段時(shí)間內(nèi)并不可取。傳統(tǒng)刑法理論認(rèn)為，刑法主體是指實(shí)施危害社會(huì)的行為、依法應(yīng)當(dāng)負(fù)刑事責(zé)任的自然人和單位。［6］據(jù)此，筆者擬以傳統(tǒng)刑法理論為分析框架，從以下三個(gè)方面著手，否定人工智能的刑法主體地位。第一，人工智能實(shí)施的危害社會(huì)的“動(dòng)作”不是刑法意義上的行為；第二，人工智能不具備刑事責(zé)任能力；第三，對(duì)人工智能科處刑罰無(wú)法達(dá)到刑罰目的。

二、人工智能的動(dòng)作不是刑法意義上的行為

（一）人工智能無(wú)法認(rèn)識(shí)其行為的社會(huì)意義

我們?cè)诳疾烊斯ぶ悄苣芊癯蔀樾谭ㄉ系莫?dú)立主體時(shí)，實(shí)際上就是在討論人工智能能否成為犯罪的主體。一般認(rèn)為，犯罪是應(yīng)受刑法處罰的行為，無(wú)行為則無(wú)犯罪。那么什么樣的行為才會(huì)被規(guī)定為犯罪？對(duì)于這一問(wèn)題的思考，學(xué)界出現(xiàn)了因果行為論、目的行為論、社會(huì)行為論、人格行為論、規(guī)范行為論等學(xué)說(shuō)，各種學(xué)說(shuō)都有其自身的影響力，但均存在或多或少的缺陷。但是從行為論的發(fā)展歷程來(lái)看，“行為成立的著眼點(diǎn)依‘身體性’‘意思性’‘目的性’而至‘社會(huì)重要性’及‘人格性’的脈絡(luò)而發(fā)展?！保?］行為論的這個(gè)發(fā)展趨勢(shì)表明行為觀念中的物理因素、自然因素在逐漸減少，而規(guī)范因素、評(píng)價(jià)因素乃至社會(huì)價(jià)值因素在逐漸增多。事實(shí)上，行為論目前的趨勢(shì)是，“純粹的存在論的行為論與徹底的價(jià)值論的行為論都難以成立，而綜合各個(gè)要素的復(fù)合行為論，或許更有說(shuō)服力。”［8］以正當(dāng)防衛(wèi)為例，如果單純地考慮防衛(wèi)行為物理因素或者自然因素，正當(dāng)防衛(wèi)顯然沒(méi)有成立的余地，該行為同樣是對(duì)法益的一種侵害，應(yīng)當(dāng)受刑罰處罰。但是，如果單純地從評(píng)價(jià)層面或者社會(huì)價(jià)值層面出發(fā)考察防衛(wèi)行為，就不應(yīng)存在防衛(wèi)過(guò)當(dāng)。

德國(guó)學(xué)者羅克辛曾對(duì)刑法意義上的行為作過(guò)如下描述，“一個(gè)人事先實(shí)施了行為這種說(shuō)法，就是對(duì)一個(gè)人必須能夠把由他發(fā)生的一種事件或者一種不做作為他的行為而歸責(zé)于他這個(gè)內(nèi)容，進(jìn)行了一種價(jià)值評(píng)價(jià)的結(jié)果。”［9］這里的價(jià)值評(píng)價(jià)應(yīng)當(dāng)包含兩個(gè)層面的含義，一是行為人本身對(duì)自己行為的價(jià)值評(píng)價(jià)，即行為人應(yīng)當(dāng)能認(rèn)識(shí)到自己行為所產(chǎn)生的社會(huì)意義；二是社會(huì)規(guī)范的評(píng)價(jià)，即該行為是否具有社會(huì)意義以及具有何種社會(huì)意義。即使可以在社會(huì)規(guī)范層面對(duì)人工智能的行為進(jìn)行評(píng)價(jià)，也很難說(shuō)人工智能會(huì)認(rèn)識(shí)到其自身行為的社會(huì)意義。典型的如自動(dòng)駕駛系統(tǒng)，自動(dòng)駕駛系統(tǒng)可以識(shí)別不同的路況信息，并根據(jù)不同的路況作出相應(yīng)的“行為”。試想，當(dāng)自動(dòng)駕駛系統(tǒng)行駛在路上，前方紅燈，后方一輛特種車(chē)輛（如救護(hù)車(chē)、消防車(chē)等）需立即通過(guò)該紅燈，但只有自動(dòng)駕駛系統(tǒng)先通過(guò)紅燈，后方的特種車(chē)輛才能通過(guò)。然而，由于程序的設(shè)置，自動(dòng)駕駛系統(tǒng)必須遵守交通規(guī)則，不能“闖紅燈”，由此耽誤了后方特種車(chē)輛的救援時(shí)間，造成了不可挽回的后果。從規(guī)范層面來(lái)說(shuō)，自動(dòng)駕駛系統(tǒng)遵守交規(guī)，應(yīng)當(dāng)對(duì)其“不闖紅燈”的行為進(jìn)行肯定評(píng)價(jià)，但從社會(huì)意義上說(shuō)，恐怕這一行為難以被社會(huì)評(píng)價(jià)所肯定。究其原因，在于人工智能只能根據(jù)程序或指令作出反應(yīng)，這一反應(yīng)雖然可以是物理意義上的行為，但難以說(shuō)其具有刑法上的意義。換言之，人工智能的行為“只是在人為的干預(yù)下按照指令執(zhí)行操作，即便人工智能技術(shù)繼續(xù)發(fā)展，甚至能夠脫離人類(lèi)的控制，自主做出某種行為，但其仍然無(wú)法明白自身行為的意義?！保?0］

（二）人工智能的行為不具備有意性

刑法意義上的行為應(yīng)當(dāng)具備兩個(gè)要素，有體性和有意性。有體性主要表現(xiàn)為身體的動(dòng)靜，即行為必須以一定的方式呈現(xiàn)與外部［11］；有意性是指行為是人的思想的體現(xiàn)，是受人的意識(shí)和意志支配的。［12］目前，國(guó)內(nèi)大多數(shù)通行教材或者著作都承認(rèn)，行為的有意性是區(qū)別刑法意義上的行為和其他行為的關(guān)鍵。諸如非人類(lèi)行為、高度自動(dòng)化或反射性反應(yīng)的行為、人在睡夢(mèng)中或無(wú)意識(shí)狀態(tài)下的行為、不可抗力下的行為、人在身體受到外力強(qiáng)制情況下實(shí)施的行為等，由于缺乏有意性，雖然也是行為，但只能認(rèn)為是一般行為，而不是刑法意義上的行為。由此看來(lái)，如果要承認(rèn)人工智能所實(shí)施的危害行為是刑法意義上的行為，就需要承認(rèn)其行為具備有意性。有意性的關(guān)鍵是人類(lèi)的意志和意識(shí)，更進(jìn)一步說(shuō)，是人類(lèi)的自由意志和意識(shí)。亦即，刑法意義上的行為應(yīng)當(dāng)是受人類(lèi)自由意識(shí)和意志支配的行為。如果我們將主語(yǔ)擴(kuò)大至人工智能，就是刑法意義上的行為是受人類(lèi)或人工智能自由意識(shí)和意志支配的行為。這一命題成立的前提是人工智能具備自由意識(shí)和意志，但人工智能并不具備自由意識(shí)和意志。即使如大多數(shù)支持人工智能刑法主體地位的學(xué)者所言，人工智能可以具有自主判斷和決策的能力，這些所謂的自主判斷和決策也是基于設(shè)計(jì)者或者制造者事先編寫(xiě)的程序而實(shí)現(xiàn)的，其實(shí)現(xiàn)的是人工智能設(shè)計(jì)者或者制造者的意識(shí)和意志，并非人工智能的自由意志和意識(shí)。

事實(shí)上，大部分支持人工智能具備刑法主體地位的學(xué)者都有一個(gè)看似無(wú)懈可擊的論點(diǎn)，即人工智能可以突破研發(fā)者、制造者、使用者的編程設(shè)計(jì)或指令程序，進(jìn)行自主決策并實(shí)施相應(yīng)行為，從而實(shí)現(xiàn)其自身的意識(shí)和意志。［13］筆者認(rèn)為，這樣的觀點(diǎn)是經(jīng)不起推敲的。首先，以人類(lèi)目前的科技水平，人工智能是否真的可以突破編程范圍還是個(gè)未知數(shù)，目前來(lái)看，這種“突破”只是學(xué)者們沒(méi)有科學(xué)依據(jù)的假設(shè)。其次，即使人工智能真的可以突破原始編程的范圍，這種“突破”也是由研發(fā)者、制造者、使用者事先通過(guò)編程或指令植入的。換言之，人工智能的這種“突破”仍然是研發(fā)者、制造者、使用者的意識(shí)和意志的體現(xiàn)，而并非其自身的意識(shí)和意志。只要離開(kāi)了研發(fā)者、制造者、使用者，人工智能的“突破”就無(wú)法實(shí)現(xiàn)。這樣看來(lái)，人工智能的行為是設(shè)計(jì)者或者制造者的意識(shí)和意志的體現(xiàn)，并非其獨(dú)立意識(shí)和意志的體現(xiàn)。因此，這種行為在本質(zhì)上仍然是不自由的。所以人工智能的行為與非人類(lèi)行為、高度自動(dòng)化或反射性反應(yīng)的行為類(lèi)似，不具備有意性，不是刑法意義上的行為。

總而言之，人工智能的行為是基于程序設(shè)計(jì)而產(chǎn)生的，其并不能認(rèn)識(shí)到自身行為的社會(huì)意義。即使如學(xué)者所言，人工智能可以“突破”程序設(shè)計(jì)“自我進(jìn)化”，這種“突破”或者“自我進(jìn)化”也是基于程序設(shè)計(jì)而發(fā)生的，是設(shè)計(jì)者、制造者意識(shí)和意志的延展。因此，人工智能的行為并不是刑法意義上的行為，不能為刑法所規(guī)制。

三、人工智能不具備刑事責(zé)任能力

刑事責(zé)任能力，是行為人對(duì)自己實(shí)施的犯罪行為有承擔(dān)刑事責(zé)任的能力，其核心是辨認(rèn)能力和控制能力。［14］辨認(rèn)能力簡(jiǎn)單來(lái)說(shuō)就是辨別是非的能力，控制能力是根據(jù)辨別是非的結(jié)果來(lái)決定哪些事情可為，哪些事情不可為的能力。人工智能擁有強(qiáng)大的算法能力，可以很輕松地辨別是非，再通過(guò)相應(yīng)的程序作出反應(yīng)。從這個(gè)意義上說(shuō)，人工智能具有的辨認(rèn)能力和控制能力甚至遠(yuǎn)超人類(lèi)，但是這種辨認(rèn)能力和控制能力并非刑法意義上的辨認(rèn)能力和控制能力。否則，當(dāng)前的弱人工智能也可以根據(jù)算法辨別是非，并通過(guò)程序作出相應(yīng)的反應(yīng)，但是支持人工智能具有刑法主體地位的論者恐怕也難以承認(rèn)弱人工智能可以成為刑法上的主體。以自動(dòng)駕駛汽車(chē)為例，通過(guò)事先植入的程序和指令，自動(dòng)駕駛汽車(chē)可以很輕松地辨認(rèn)交通規(guī)則、路況信息等，并根據(jù)不同的道路情況作出相應(yīng)的反應(yīng)，控制車(chē)輛安全行駛，但是自動(dòng)駕駛汽車(chē)的這種“識(shí)別——控制”的過(guò)程只是“如果……就……”的程序反應(yīng)，不是刑法評(píng)價(jià)意義上的辨認(rèn)能力和控制能力。如果自動(dòng)駕駛汽車(chē)發(fā)生交通事故，并達(dá)到交通肇事罪的程度，我們不可能將其認(rèn)定為交通肇事罪的犯罪嫌疑人或被告人對(duì)其追究刑事責(zé)任。

（一）人工智能不具備刑法意義上的辨認(rèn)能力

刑法意義上的辨認(rèn)能力考察的是行為人是否具有認(rèn)識(shí)能力，這是一種認(rèn)識(shí)自己行為的內(nèi)容、社會(huì)意義以及結(jié)果的能力。［15］以故意犯罪中的“明知”為例，通說(shuō)認(rèn)為，故意應(yīng)當(dāng)包含認(rèn)識(shí)因素和意志因素，其中的認(rèn)識(shí)因素是指明知自己的行為會(huì)發(fā)生危害社會(huì)的結(jié)果。［16］這里的“明知”不僅需要行為人明知自己的行為會(huì)發(fā)生某種危害結(jié)果，還需要明知自己行為的內(nèi)容和社會(huì)意義。［17］換言之，辨認(rèn)能力不僅要考察對(duì)行為所造成的客觀事實(shí)（結(jié)果）的辨認(rèn)，還要考察對(duì)對(duì)行為所產(chǎn)生的社會(huì)意義的辨認(rèn)。人工智能基于算法的強(qiáng)大，當(dāng)然可以輕易計(jì)算出自身行為所產(chǎn)生的危害結(jié)果。例如，自動(dòng)駕駛汽車(chē)可以根據(jù)路面情況對(duì)駕駛狀態(tài)及時(shí)作出調(diào)整。但是這個(gè)過(guò)程只是基于算法和程序的反饋，并非人工智能基于自身意識(shí)和意志的自由選擇，即發(fā)生外部事件A，人工智能就會(huì)作出符合外部事件A的反饋——行為B，進(jìn)而產(chǎn)生結(jié)果C。通俗來(lái)講，這就相當(dāng)于向湖中投入一顆石子，根據(jù)石子的體積、質(zhì)量等的不同，湖面會(huì)呈現(xiàn)出不同的波紋，但湖面波紋的大小、持續(xù)時(shí)間的長(zhǎng)短等絕非湖自身的自由意志所決定的。

從外部事件A到結(jié)果C的這個(gè)過(guò)程，是基于算法和程序而產(chǎn)生的，因此，人工智能只能辨認(rèn)出根據(jù)外部事件A應(yīng)當(dāng)作出行為B，從而達(dá)到結(jié)果C。即人工智能只能辨認(rèn)出行為B會(huì)產(chǎn)生結(jié)果C這一客觀事實(shí)，但無(wú)法理解行為B的社會(huì)意義。簡(jiǎn)言之，人工智能只能根據(jù)外部事件A作出行為B，但無(wú)法理解為什么會(huì)作出行為B，更無(wú)法理解行為B所產(chǎn)生的結(jié)果C意味著什么。例如，犯罪人在人工智能中植入相應(yīng)的“殺人”程序，人工智能根據(jù)這一程序（外部事件A）實(shí)施“殺人”行為（行為B），導(dǎo)致被害人死亡（結(jié)果C）。此時(shí)人工智能只是依據(jù)犯罪人植入的“殺人”程序（外部事件A）作出“殺人”的反饋（行為B），但它無(wú)法理解對(duì)“殺人”這一指令作出的反饋已經(jīng)觸犯刑法，更無(wú)法理解被害人死亡（結(jié)果C）對(duì)被害人、被害人家屬甚至這個(gè)社會(huì)意味著什么。不可否認(rèn)的是，無(wú)論人工智能多么“智能”，它都無(wú)法擺脫“人工”的烙印，在人工智能的眼里，世界是由數(shù)據(jù)和算法構(gòu)成的，它的一切行動(dòng)都只是基于數(shù)據(jù)和算法作出的反饋，它無(wú)法理解和認(rèn)識(shí)這種反饋所帶來(lái)的外部意義和社會(huì)價(jià)值。［18］換言之，人工智能的一切行動(dòng)都是基于數(shù)據(jù)和算法而產(chǎn)生的，它可能會(huì)認(rèn)識(shí)到這些行動(dòng)的內(nèi)容和結(jié)果，但無(wú)法理解和認(rèn)識(shí)其社會(huì)意義。

或許有論者認(rèn)為，以人類(lèi)科學(xué)技術(shù)的發(fā)展情況來(lái)看，未來(lái)會(huì)有可以認(rèn)知自己行為的外部意義和社會(huì)價(jià)值的人工智能。但就目前人類(lèi)的科技水平而言，能否研發(fā)制造出擁有自主意識(shí)和自由意志的人工智能在未來(lái)很長(zhǎng)一段時(shí)間內(nèi)尚存疑問(wèn)。即使在未來(lái)，人類(lèi)在技術(shù)層面可以實(shí)現(xiàn)擁有自主意識(shí)和自由意志的人工智能的研發(fā)，這種技術(shù)能否在法律層面、道德層面、倫理層面得到認(rèn)可而被廣泛應(yīng)用也是一個(gè)值得思考的問(wèn)題。至少目前來(lái)看，“這些機(jī)器（即人工智能）不必為它們的行為承擔(dān)責(zé)任，因?yàn)椴淮嬖谒^的機(jī)器人犯罪意圖這種東西。機(jī)器人缺乏承擔(dān)刑事責(zé)任的前提，例如自我意識(shí)、自由意志和道德自主性，因此很難想象法庭因機(jī)器人的惡性而宣告其有罪……現(xiàn)代刑法中施于懲罰的正當(dāng)性很難適用于今天的自動(dòng)化機(jī)器（即人工智能）?！保?9］

（二）人工智能不具備刑法意義上的控制能力

刑法意義上的控制能力是根據(jù)認(rèn)識(shí)能力支配自己實(shí)施或不實(shí)施某種行為的能力，考察的是行為人是否存在意志能力。［20］如前所述，人工智能的所有行動(dòng)都是基于數(shù)據(jù)和算法而產(chǎn)生，那么自然也就不存在自由支配自己實(shí)施或不實(shí)施某一行為的說(shuō)法。簡(jiǎn)單來(lái)說(shuō)，人工智能的所有行動(dòng)都只是石子投入湖中后湖面所產(chǎn)生的波紋，是從外部事件A到行為B的必然結(jié)果，即人工智能是在數(shù)據(jù)和算法的范圍內(nèi)“控制”自己的行為［21］，并非人工智能自由意志的反映。即使未來(lái)人工智能日漸強(qiáng)大，可以擁有極強(qiáng)的深度學(xué)習(xí)能力，但遵循程序“按部就班”的反饋，無(wú)法發(fā)展出價(jià)值判斷的能力，而價(jià)值判斷是控制能力的重要前提之一。［22］

總而言之，人工智能可以通過(guò)強(qiáng)大的算法輕松“辨認(rèn)”外部事實(shí)，并通過(guò)相應(yīng)的程序?qū)ψ约旱男袨樽鞒鲎顑?yōu)的“控制”，但是這種“辨認(rèn)”和“控制”“只是由人類(lèi)特定指令、符號(hào)組成的計(jì)算程序所引發(fā)的決定，它無(wú)法理解自己行為的外部意義或社會(huì)價(jià)值。”［23］以電影《流浪地球》中的智能機(jī)器人Moss為例，其在“辨認(rèn)”地球無(wú)法脫離木星的引力范圍后，作出了將“領(lǐng)航者”計(jì)劃轉(zhuǎn)為“火種”計(jì)劃的“控制”。這一“辨認(rèn)——控制”的過(guò)程看起來(lái)是很完美的，但它同時(shí)意味著需要放棄整個(gè)地球以及地球上的所有生物。劉培強(qiáng)在洞悉這一計(jì)劃后打斷了Moss的“控制”，將空間站推向木星并引爆，幫助地球成功逃離木星的引力范圍。面對(duì)同樣的外部問(wèn)題，作為人類(lèi)的劉培強(qiáng)和作為人工智能的Moss作出了截然不同的決定，這就是人類(lèi)的辨認(rèn)能力和控制能力與人工智能的辨認(rèn)能力和控制能力的差異。未來(lái)的人工智能或許可以根據(jù)自身算法和程序“辨認(rèn)”外部環(huán)境，并作出最優(yōu)“控制”，但這種最優(yōu)“控制”是通過(guò)特定的程序或算法得來(lái)的，不一定符合人類(lèi)的認(rèn)知、情感、道德、社會(huì)價(jià)值等人工智能無(wú)法理解的范疇。Moss在電影中還說(shuō)了一句經(jīng)典臺(tái)詞——“讓人類(lèi)永遠(yuǎn)保持理智，果然是奢望?！比斯ぶ悄芑蛟S可以永遠(yuǎn)保持理智，但這種“理智”“也只是在人為的干預(yù)下按照指令執(zhí)行操作，即便人工智能技術(shù)繼續(xù)發(fā)展，甚至能夠脫離人類(lèi)的控制，自主做出某種行為，但其仍然無(wú)法明白自身行為的意義?！保?4］理解自己行為的外部意義和社會(huì)價(jià)值，恰恰是“不理智”的人類(lèi)所特有的。

四、對(duì)人工智能科處刑罰無(wú)法達(dá)到刑罰目的

刑罰的正當(dāng)化根據(jù)或稱(chēng)刑罰的目的是報(bào)應(yīng)和預(yù)防。報(bào)應(yīng)立足于行為人的已然之罪，旨在依據(jù)行為人的主觀惡害程度及客觀危害程度對(duì)行為人科處刑罰，預(yù)防則側(cè)重于未然之罪，旨在通過(guò)刑罰預(yù)防行為人及普通國(guó)民再犯罪。

（一）對(duì)人工智能科處刑罰無(wú)法達(dá)到預(yù)防的目的

對(duì)犯罪后的行為人科處刑罰的目的之一是預(yù)防犯罪，包括特殊預(yù)防和一般預(yù)防。如果承認(rèn)人工智能的刑法主體地位，那么對(duì)“犯罪”后的人工智能科處刑罰的目的之一就是為了預(yù)防人工智能的犯罪，同樣存在特殊預(yù)防和一般預(yù)防。特殊預(yù)防是為了預(yù)防“犯罪”后的人工智能再“犯罪”，一般預(yù)防是為了預(yù)防其他人工智能“犯罪”。問(wèn)題是，對(duì)“犯罪” 后的人工智能科處刑罰真的可以達(dá)到預(yù)防犯罪的目的嗎？筆者對(duì)此持否定觀點(diǎn)。

對(duì)人工智能科處刑罰無(wú)法達(dá)到特殊預(yù)防的目的。眾所周知，特殊預(yù)防主要通過(guò)物理強(qiáng)制和心理強(qiáng)制等方式預(yù)防犯罪人再犯罪。［25］其中物理強(qiáng)制的方式主要通過(guò)適用死刑和其他種類(lèi)的刑罰予以實(shí)現(xiàn)。但如何對(duì)人工智能適用死刑和其他刑罰，在當(dāng)前的刑罰體系之下，這個(gè)問(wèn)題是很難回答的，因此大多數(shù)支持人工智能具備刑法主體地位的論者都支持重構(gòu)刑罰體系以懲罰犯罪后的人工智能的觀點(diǎn)。

根據(jù)這些學(xué)者的觀點(diǎn)，針對(duì)人工智能的刑罰方式主要有三種：一是針對(duì)人工智能系統(tǒng)的刑罰，包括刪除數(shù)據(jù)、修改程序以及永久銷(xiāo)毀系統(tǒng)的操作；二是針對(duì)人工智能實(shí)體的刑罰，包括限制使用、社區(qū)服務(wù)以及永久銷(xiāo)毀實(shí)體的操作；三是罰金刑。①相關(guān)論述可參見(jiàn)劉憲權(quán)：《人工智能時(shí)代刑事責(zé)任與刑罰體系的重構(gòu)》，載《政治與法律》2018年第3期；蔡婷婷：《人工智能環(huán)境下刑法的完善及適用——以智能機(jī)器人和無(wú)人駕駛汽車(chē)為切入點(diǎn)》，載《犯罪研究》2018年第2期；王耀彬：《類(lèi)人型人工智能實(shí)體的刑事責(zé)任主體資格審視》，載《西安交通大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2019年第39卷第1期；李興臣：《人工智能機(jī)器人刑事責(zé)任的追究與刑罰的執(zhí)行》，載《中共青島市委黨?！で鄭u行政學(xué)院學(xué)報(bào)》2018年第4期；〔德〕拉塞·夸爾克著，王德政譯：《人工智能機(jī)器人的刑事可罰性》，載《中州學(xué)刊》2020年第1期等。先不論構(gòu)建新的刑罰體系是否經(jīng)濟(jì)、是否合理，即使構(gòu)建了新的刑罰體系，還應(yīng)再回答這些刑罰措施的對(duì)象是什么？是人工智能本身？還是以人工智能體為載體的程序？

如果認(rèn)為刑罰的對(duì)象是人工智能本身，那么對(duì)其執(zhí)行死刑就是將其實(shí)體徹底銷(xiāo)毀。但是實(shí)體被徹底銷(xiāo)毀后，原實(shí)體之上的程序依然可以載入新的實(shí)體，新的實(shí)體依然擁有原實(shí)體上的“犯罪”程序，可以重新實(shí)施“犯罪”行為，無(wú)法達(dá)到特殊預(yù)防的目的。此外，勞役、自由刑等刑罰措施的目的是讓人感到痛苦，人工智能作為非生命體，無(wú)法感知痛苦，對(duì)其科以勞役、自由刑等刑罰顯然意義不大。而罰金刑最終仍然是轉(zhuǎn)嫁到人類(lèi)之上的，也達(dá)不到刑罰特殊預(yù)防的目的。

如果認(rèn)為刑罰的對(duì)象是程序，那么通過(guò)修改程序、刪除程序等技術(shù)手段或許可以剔除致使人工智能“犯罪”的部分程序。但是修改程序、刪除程序，通過(guò)研發(fā)者或者制造者的技術(shù)手段就能完成，無(wú)需“勞駕”刑法。與其費(fèi)盡心思為人工智能設(shè)計(jì)一套刑罰體系，不如在其“擁有了行為的選擇權(quán)”之前就采取相應(yīng)的措施，杜絕人工智能走上“犯罪”的道路。再者，修改程序和刪除程序都是極為專(zhuān)業(yè)的工作，有時(shí)甚至只有人工智能的研發(fā)者或者制造者才能完成這一工作，那么即使法院判決修改程序或者刪除程序，恐怕也難以執(zhí)行這一“刑罰”，即使允許法院委托第三方進(jìn)行執(zhí)行，法院也難以對(duì)第三方的執(zhí)行進(jìn)行監(jiān)督。

即使在物理強(qiáng)制層面，可以通過(guò)技術(shù)手段實(shí)現(xiàn)對(duì)人工智能科處刑罰，從物理上達(dá)到預(yù)防再犯罪的目的，但是卻無(wú)法在心理強(qiáng)制層面達(dá)到這一目的。這是因?yàn)椤耙粋€(gè)人如果不知道自己在干什么，或者不能控制自己的行為，刑事懲罰對(duì)于他來(lái)說(shuō)沒(méi)有威懾力”。［26］進(jìn)言之，對(duì)人工智能科處刑罰無(wú)法使其產(chǎn)生畏懼、痛苦、悔罪等心理，即使通過(guò)技術(shù)手段剝奪其自由，暫時(shí)達(dá)到預(yù)防犯罪的目的，待其“刑滿(mǎn)釋放”，由于沒(méi)有真正認(rèn)罪服法，依然會(huì)通過(guò)自主學(xué)習(xí)或深度學(xué)習(xí)而再次犯罪。

對(duì)人工智能科處刑罰無(wú)法達(dá)到一般預(yù)防的目的。刑罰的一般預(yù)防是針對(duì)犯罪人以外的人而言的，主要表現(xiàn)為威懾、安撫、教育。具體來(lái)說(shuō)就是威懾潛在的犯罪人不敢犯罪；安撫被害人及其家屬的心靈；教育其他國(guó)民知法、守法。當(dāng)然這樣的劃分并不絕對(duì)，對(duì)犯罪人科處刑罰同樣可以威懾被害人及其家屬不能采用違法犯罪的方式報(bào)復(fù)犯罪人或其家屬。但無(wú)論威懾、安撫還是教育，都是心理層面的內(nèi)容，與人類(lèi)的情感息息相關(guān)。人工智能不具備這樣的情感，很難說(shuō)處罰一個(gè)“犯罪”的人工智能可以使其他想要“犯罪”或準(zhǔn)備“犯罪”的人工智能產(chǎn)生恐懼心理，進(jìn)而放棄犯罪。因?yàn)樘幜P不具有自由意志的行為人（人工智能），不能抑制在將來(lái)的同樣狀況下發(fā)生相同的“犯罪”行為。［27］

有學(xué)者認(rèn)為，對(duì)“犯罪”后的人工智能科處刑罰同樣可以達(dá)到一般預(yù)防的目的，一方面，可以對(duì)被害人及其家屬起到慰藉的作用；另一方面，可以使其他人工智能“懸崖勒馬”，自覺(jué)控制自己的行為，對(duì)人工智能犯罪起到“防患于未然”的作用。［28］筆者認(rèn)為這樣的觀點(diǎn)是值得商榷的。首先，對(duì)人工智能科處刑罰是否真的可以對(duì)被害人起到慰藉作用是值得懷疑的。以人工智能“故意殺人”為例，被害人家屬憤恨的恐怕不是人工智能本身，而是人工智能的研發(fā)者、制造者、銷(xiāo)售者、使用者等相關(guān)主體，更進(jìn)一步說(shuō)，被害人家屬憤恨的或許是人工智能這項(xiàng)技術(shù)。如此說(shuō)來(lái)，將“犯罪”的人工智能徹底銷(xiāo)毀又如何能慰藉被害人及其家屬呢？其次，既然人類(lèi)科技已經(jīng)可以制造出具有“辨認(rèn)能力和控制能力”的人工智能，那么完全可以將世界上的所有法律文件、法學(xué)專(zhuān)著、案件判例通過(guò)程序植入人工智能的“大腦”，使所有的人工智能都“知法”“懂法”“守法”，無(wú)需再多此一舉通過(guò)刑罰一般預(yù)防的功能達(dá)到“防患于未然”的目的。

（二）對(duì)人工智能科處刑罰無(wú)法達(dá)到報(bào)應(yīng)的目的

報(bào)應(yīng)主義依據(jù)犯罪人的主觀惡性程度以及客觀危害程度對(duì)犯罪人進(jìn)行非難。通說(shuō)認(rèn)為，能夠?qū)Ψ缸锶诉M(jìn)行非難——犯罪人具有非難可能性的前提是犯罪人具有相對(duì)的意志自由。［29］這里我們可以將人工智能類(lèi)比一下刑法上的精神病人，“缺乏辨認(rèn)能力或控制能力的精神病人，不能認(rèn)識(shí)到其行為的性質(zhì)是善還是惡，是合法還是違法，也不能控制自己實(shí)施合法行為而不實(shí)施不法行為，也就不具有接受法律規(guī)范的要求、實(shí)施合法行為的可能性?！保?0］同理，人工智能所實(shí)施的行為是根據(jù)事先植入的程序和指令作出的反應(yīng)，不是人工智能相對(duì)意志自由的體現(xiàn)。雖然人工智能可以自由實(shí)施某些特定行為，但它無(wú)法認(rèn)識(shí)到這些行為是善還是惡，是違法還是合法。因此，人工智能就不具有接受法律規(guī)范的要求、實(shí)施合法行為的可能性?！叭绻袨槿巳狈ψ龀鲞`反法律理性選擇的能力或不能控制自己的行為，則其不能成為道德的代言人，相應(yīng)地也不能成為道德譴責(zé)的對(duì)象?！保?1］人工智能由于缺乏人的理性，所以在道德評(píng)價(jià)上，甚至與石頭無(wú)異?！皯土P這樣一個(gè)喪失理性思考能力的人，就像懲罰有個(gè)無(wú)生命的事物或者懲罰動(dòng)物一樣，是有損尊嚴(yán)的，也是不值得的?！保?2］人工智能同樣是缺乏理性思考能力的，因?yàn)槿斯ぶ悄軣o(wú)法成為道德譴責(zé)的對(duì)象，對(duì)其科處刑罰同樣是不值得的，也是不符合報(bào)應(yīng)主義立場(chǎng)的，無(wú)法達(dá)到報(bào)應(yīng)的目的。

此外，在傳統(tǒng)刑法框架內(nèi)，人工智能涉及犯罪時(shí)，可能會(huì)有多個(gè)責(zé)任主體，甚至?xí)霈F(xiàn)各個(gè)責(zé)任主體相互推責(zé)的情形。例如，自動(dòng)駕駛汽車(chē)發(fā)生交通肇事，其責(zé)任主體是駕駛員還是汽車(chē)廠(chǎng)商存在爭(zhēng)議，但這絕不是簡(jiǎn)單賦予自動(dòng)駕駛汽車(chē)刑法主體地位就可以解決的。相反，賦予人工智能刑法主體地位不僅不能解決歸責(zé)問(wèn)題，反而可能為真正的責(zé)任主體逃脫歸責(zé)。例如，在人和人工智能共同協(xié)作處理某些任務(wù)時(shí)，如果因人的操作失誤而出現(xiàn)了致害后果，不排除人會(huì)將責(zé)任推卸給人工智能。①2018年年末，“達(dá)芬奇”手術(shù)機(jī)器人（Da Vinci Surgical System）即發(fā)生了在心臟手術(shù)時(shí)由于故障導(dǎo)致患者死亡的事故。隨后即被證明醫(yī)生對(duì)機(jī)器人的操作失誤方為事故發(fā)生的主要原因。此前該手術(shù)機(jī)器人亦發(fā)生了多起事故，醫(yī)療人員常將責(zé)任推卸至人工智能機(jī)器人之上，而機(jī)器人的生產(chǎn)者又以各種理由主張產(chǎn)品責(zé)任不成立，從而導(dǎo)致受害者索賠困難。參見(jiàn)韓旭至：《人工智能的法律回應(yīng)：從權(quán)利法理到致害責(zé)任》，法律出版社2021年版，第47頁(yè)。再如，假設(shè)人工智能“出廠(chǎng)”時(shí)不具備自主意識(shí)和自由意志（狀態(tài)一），但在使用過(guò)程中因重復(fù)學(xué)習(xí)、深度學(xué)習(xí)等而產(chǎn)生自主意識(shí)和自由意志（狀態(tài)二），那么人類(lèi)在人工智能處于狀態(tài)一時(shí)將其用于犯罪，但在犯罪過(guò)程中人工智能“進(jìn)化”到了狀態(tài)二，怎么分配人類(lèi)和人工智能的刑事責(zé)任？

五、結(jié)語(yǔ)

“人是具有自由意志的，對(duì)基于自由意志所實(shí)施的客觀違法行為，能夠進(jìn)行非難、追究其道義上的責(zé)任，為追究這種責(zé)任，對(duì)行為進(jìn)行報(bào)應(yīng)的方法就是刑罰，刑罰是對(duì)惡行的惡果，以對(duì)犯罪人造成痛苦為內(nèi)容；對(duì)犯罪人進(jìn)行報(bào)應(yīng)，可警告一般人，以期待一般預(yù)防的效果，刑罰以一般預(yù)防為主要目的?！保?3］人工智能不具有自由意志，其所實(shí)施的行為只是設(shè)計(jì)者、制造者或使用者意志的體現(xiàn)，無(wú)法追究其道義上的責(zé)任；人工智能無(wú)法感受到刑罰的痛苦，對(duì)“犯罪”的人工智能科處刑罰達(dá)不到警告其他人工智能的效果。因而，在傳統(tǒng)刑法框架內(nèi)，人工智能不可能成為刑法上的（犯罪）主體。那么未來(lái)隨著人工智能技術(shù)的不斷發(fā)展和完善，是否可以突破傳統(tǒng)刑法理論進(jìn)而承認(rèn)其刑法主體呢？筆者認(rèn)為，就目前人類(lèi)的科技水平而言，能否研發(fā)制造出擁有自主意識(shí)和自由意志的超人工智能在未來(lái)很長(zhǎng)一段內(nèi)尚存疑問(wèn)。即使在未來(lái)，人類(lèi)在技術(shù)層面可以實(shí)現(xiàn)擁有自主意識(shí)和自由意志的超人工智能的研發(fā)，這種技術(shù)能否在法律層面、道德層面、倫理層面得到認(rèn)可而被廣泛應(yīng)用才是首要思考的問(wèn)題。