李盈萱 張志光 鄭金華

摘要：人工智能技術(shù)及其應(yīng)用發(fā)展，為我們敲響了智能時代人機(jī)安全的警鐘。但在人工智能技術(shù)尚未到達(dá)的時候，其刑事主體地位的認(rèn)定，不宜操之過急，而應(yīng)當(dāng)理性審視其合理性、必要性與可行性，根據(jù)人工智能發(fā)展的實(shí)際情況，做好適當(dāng)防范，以應(yīng)對人工智能時代給刑法帶來的挑戰(zhàn)。

關(guān)鍵詞：人工智能;刑事責(zé)任主體;AI安全

近年來，隨著互聯(lián)網(wǎng)、大數(shù)據(jù)的快速崛起，人工智能的發(fā)展也進(jìn)入了時代快車道。然而，就在人工智能技術(shù)日新月異，人工智能產(chǎn)品逐步走進(jìn)人類生活的方方面面的時候，人工智能給世界帶來的安全挑戰(zhàn)也愈發(fā)清晰。在涉人工智能犯罪研究方面，關(guān)于人工智能機(jī)器人能否成為刑事責(zé)任主體、人工智能犯罪的刑事責(zé)任分配等問題成為爭論焦點(diǎn)。

一、人工智能的內(nèi)涵及發(fā)展現(xiàn)狀

人工智能，是通過賦予機(jī)器感知和模擬人類思維的能力，人工智能使機(jī)器達(dá)到乃至超越人類的智能。雖然近年來人工智能產(chǎn)業(yè)在我國乃至世界范圍內(nèi)仍呈高速發(fā)展態(tài)勢，但截止目前乃至未來很長一段時間，世界各國關(guān)于人工智能技術(shù)的研發(fā)應(yīng)用仍處于早期階段。一方面，在我們可預(yù)見的情況下，人工智能將起到幫助人類的作用，而不是成為人類的替代品。另一方面，嚴(yán)重依賴數(shù)據(jù)輸入和計(jì)算能力的人工智能距離真正的人類智能還有較大的差距。

根據(jù)人工智能的發(fā)展應(yīng)用，大部分學(xué)者基于人工智能產(chǎn)品的應(yīng)用范圍和人工智能產(chǎn)品是否具有超出人類設(shè)計(jì)和編制的程序范圍外運(yùn)作的能力，將人工智能界分為弱人工智能、強(qiáng)人工智能與超人工智能三大類。亦有部分學(xué)者認(rèn)為此種分類過于簡單粗糙，應(yīng)根據(jù)機(jī)器人的智能分層。但筆者認(rèn)為人工智能的刑法討論應(yīng)當(dāng)由淺入深，由簡入繁，本文也將采用此種分類展開論述。

二、弱人工智能（體）刑事責(zé)任地位之否定

弱人工智能，即專用人工智能，其人工智能產(chǎn)品僅實(shí)現(xiàn)設(shè)計(jì)者或使用者的意志，無法獨(dú)立于人類設(shè)計(jì)的編程算法之外獨(dú)立判斷并自主做出決策。例如在無人駕駛領(lǐng)域應(yīng)用廣泛的無人駕駛汽車、自動泊車系統(tǒng)等，其利用先進(jìn)的環(huán)境感知技術(shù)與決策規(guī)劃控制技術(shù)實(shí)現(xiàn)半自動或全自動的駕駛，實(shí)際上仍舊是基于人工智能技術(shù)與編程算法之下，根據(jù)這些程序執(zhí)行命令，不存有任何的主觀意志。

現(xiàn)階段的人工智能正處于弱人工智能時代，其犯罪的主要形式有兩種，一是行為人非法利用（包括濫用和故意）人工智能技術(shù)及產(chǎn)品實(shí)施犯罪行為。例如，2017年9月浙江警方破獲的一起全國首例利用AI犯罪案，涉案平臺通過人工智能技術(shù)快速識別驗(yàn)證碼，截取、販賣了10多億份公民個人信息，供合作團(tuán)伙進(jìn)行詐騙。此時的人工智能具有明顯的“工具”屬性，犯罪團(tuán)伙對該人工智能產(chǎn)品握有絕對的控制權(quán)，犯罪主體顯而易見。被當(dāng)作工具使用的人工智能產(chǎn)品不應(yīng)成為該類型犯罪的刑事責(zé)任主體，而應(yīng)由實(shí)施犯罪的人工智能的使用者承擔(dān)刑事責(zé)任。

二是弱人工智能產(chǎn)品在脫離人類控制的情況下，超出設(shè)計(jì)者或使用者的意志，自主的進(jìn)行違法犯罪活動。對比上一種情況來說，這種情況顯得更為復(fù)雜。據(jù)英國《金融時報(bào)》報(bào)道， 2015年7月 1日，德國大眾位于卡塞爾附近的一家工廠發(fā)生的一起機(jī)器人殺人案件，當(dāng)時一名年僅21歲的工人正在安裝和調(diào)試機(jī)器人，后者突然出手，狠狠地?fù)糁羞@名工人的前胸部，隨后又將其按倒在金屬版上，隨后這名工人當(dāng)場死亡。2018年3月18日晚，美國亞利桑那州一名女子被優(yōu)步自動駕駛汽車撞傷，之后不幸身亡。路透社報(bào)道稱此為全球首例自動駕駛車輛致人死亡事件。上述兩例弱人工智能犯罪案件，在現(xiàn)行刑法體系中涉及到故意殺人罪與交通肇事罪。首先，故意殺人罪、交通肇事罪作為故意及過失犯罪，要求犯罪必須存在故意或過失，在人工智能系統(tǒng)獲得獨(dú)立的思考能力之前，不論是機(jī)器人還是無人駕駛汽車都是不存在任何故意或過失的主觀意志的，它只是根據(jù)數(shù)據(jù)和代碼的編輯程序執(zhí)行命令。即使是行為本身造成了危害結(jié)果，最終也不具備有責(zé)性，因此它就不是刑罰適格的主體。其次，我們還應(yīng)該看到人工智能的設(shè)計(jì)者、使用者是否對該人工智能產(chǎn)品存在過失。眾所周知，不論是傳統(tǒng)的機(jī)械技術(shù)亦或是如今的人工智能技術(shù)，都是存在著一定的技術(shù)風(fēng)險(xiǎn)的。如果人工智能的設(shè)計(jì)者，在設(shè)計(jì)中出現(xiàn)系統(tǒng)漏洞或技術(shù)缺陷，本該進(jìn)行改良或及時告知使用者卻未盡到改良告知義務(wù)的，應(yīng)該追究其過錯責(zé)任。因此，筆者認(rèn)為此種情況應(yīng)當(dāng)審視為由人工智能“設(shè)計(jì)風(fēng)險(xiǎn)”“技術(shù)風(fēng)險(xiǎn)”帶來的技術(shù)事故、意外事故定性，人工智能不應(yīng)成為適格刑事責(zé)任主體，可對人工智能產(chǎn)品的設(shè)計(jì)者、制造者、使用者追究相應(yīng)的過錯責(zé)任來轉(zhuǎn)移風(fēng)險(xiǎn)。

三、強(qiáng)人工智能（體）刑事責(zé)任地位之否定

強(qiáng)人工智能是一種具有通用智能的機(jī)器的概念，它可以模仿人類的智能或行為，并具有深度學(xué)習(xí)和應(yīng)用智能的能力，它與弱人工智能的最大區(qū)別就在于是否擁有意識。有學(xué)者認(rèn)為，強(qiáng)人工智能產(chǎn)品是完全能夠在設(shè)計(jì)和編制的程序范圍之外實(shí)施嚴(yán)重危害社會的行為，完全有可能嚴(yán)重侵犯人權(quán)和刑法所保護(hù)的社會關(guān)系。因而覺得應(yīng)當(dāng)明確強(qiáng)人工智能為刑法中的適格刑事主體，并追究強(qiáng)人工智能犯罪之刑事責(zé)任。

筆者認(rèn)為，隨著人工智能的逐步發(fā)展，強(qiáng)人工智能時代的到來興許不是人類的幻想，加強(qiáng)前瞻預(yù)防是大方向，但是對于強(qiáng)人工智能能否成為刑事責(zé)任主體，應(yīng)秉持萬分慎重的態(tài)度，就目前來看，將強(qiáng)人工智能早早地通過立法來納入刑事主體范疇未免有些操之過急，應(yīng)該保持否定立場。

（一）不具有必要性

首先，眾所周知科學(xué)技術(shù)的發(fā)展需要時間的沉淀，人工智能產(chǎn)業(yè)發(fā)展也是如此。即使人工智能正處于快速發(fā)展的階段，但仍有許多研發(fā)的核心難點(diǎn)、問題無法突破與解決，人工智能產(chǎn)生意識進(jìn)化為強(qiáng)人工智能也是遙遙無期，即便是人工智能領(lǐng)域的專家也不知道需要多久才能實(shí)現(xiàn)這一目標(biāo)。在目前這個階段，只看到一種可能，便認(rèn)為人工智能會毀滅人類，過早的進(jìn)行立法明確人工智能主體的刑事責(zé)任主體地位意義不大。

其次，假設(shè)人工智能能夠發(fā)展到擁有獨(dú)立自主的意識階段，此時的人工智能帶來的風(fēng)險(xiǎn)已然上升到一個新的高度。在人類無法準(zhǔn)確接收到關(guān)于人工智能意識的反饋時，對于人工智能產(chǎn)生的意識也愈發(fā)一無所知，到那時，人類很有可能就會失去對人工智能的控制，用立法來確定人工智能的刑事責(zé)任主體地位，并讓它們遵守法律的規(guī)制無疑更是難上加難。若是無法證實(shí)刑法對其意識能產(chǎn)生約束，就算早早的將其作為適格刑事責(zé)任主體，也無法應(yīng)對其帶來的社會安全風(fēng)險(xiǎn)。屆時唯有通過科學(xué)技術(shù)的應(yīng)用才有可能直接、有效的解決人工智能制造的危機(jī)。

（二）不具有合理性

目前，人工智能的發(fā)展正遭遇著巨大的科研瓶頸，在第三次人工智能熱潮到來之際，回望曾經(jīng)兩次的歷史經(jīng)驗(yàn)，我們對任一產(chǎn)業(yè)的期盼，都應(yīng)建立在一定的現(xiàn)實(shí)基礎(chǔ)上，在人工智能方面，我們要充分意識到人工智能的可能性與極限性。強(qiáng)人工智能產(chǎn)品能否產(chǎn)生意識，迄今為止仍然是未知數(shù)，對人工智能未來的預(yù)測預(yù)見，在未經(jīng)科學(xué)研究充分證實(shí)的情況下，依然擁有無限的未知等待我們探索。在不明狀況的情況下，就給人工智能帶來的風(fēng)險(xiǎn)下一劑猛藥，這不是“對癥下藥”，反而是極其不科學(xué)、不合理的。

從道德倫理上看，人工智能作為和自然人一樣地位的刑事責(zé)任主體亦不具備合理性。2014年影視作品《她》在美國上映，為我們講述了一個有血有肉的人與代碼數(shù)據(jù)之間的愛情。雖然這只是影視創(chuàng)作的一個構(gòu)想，但無疑為我們提出了這樣一個問題，一個有獨(dú)立思考能力有意識的人工智能能否享有人權(quán)？倘若我們給強(qiáng)人工智能上了刑法這一道枷鎖，讓他擁有了刑事責(zé)任能力，需要履行守法義務(wù)，否則就要科處刑罰，那么根據(jù)權(quán)利與義務(wù)的關(guān)系強(qiáng)人工智能理應(yīng)享受和自然人一樣的權(quán)利。因?yàn)闊o數(shù)的歷史事實(shí)告訴我們，階級的不平等必定帶來反抗?？扇羰墙o予了機(jī)器人和人類一樣的權(quán)利地位，這種平等不僅將對現(xiàn)今社會傳統(tǒng)的道德倫理發(fā)起巨大的挑戰(zhàn)——我們無法想象機(jī)器人與人類結(jié)婚生子會造成什么后果。不僅如此，還可能對人類自身的發(fā)展產(chǎn)生不良影響。

（三）不具有可行性

我國現(xiàn)行刑法中的刑事主體包括自然人和單位。其承擔(dān)責(zé)任首要的就是要具備刑事責(zé)任能力。眾所周知，自然人的刑事責(zé)任能力要依據(jù)自然人犯罪時是否擁有辯認(rèn)能力、控制能力以及是否到法定年齡來進(jìn)行判定。但是對于機(jī)器人而言，我們無法給定一個與自然人相同的標(biāo)準(zhǔn)，就算確定了刑事責(zé)任主體地位，其犯罪時刑事責(zé)任能力有無的判斷我們尚未可知，現(xiàn)行刑法中的標(biāo)準(zhǔn)顯然不適用于智能機(jī)器人之中，這就給現(xiàn)行刑法以人為本的中心造成了巨大的沖擊，如果不進(jìn)行適當(dāng)過度就直接立法，勢必影響現(xiàn)行刑法的穩(wěn)定。

對于確認(rèn)刑事責(zé)任主體地位后的適用刑刑罰等相關(guān)問題，不具備可行性。我國現(xiàn)行刑法中對于自然人的刑罰于沒有生命沒有情感的智能機(jī)器人而言根本達(dá)不到處罰的目的，刑法的刑罰預(yù)防功能對于它們產(chǎn)生的意識也不具有威懾力。強(qiáng)人工智能實(shí)施犯罪后，適用于人類的刑罰類型如緩刑、監(jiān)禁、死刑等都不適用于人工智能，因?yàn)槿斯ぶ悄芗炔粫兄纯啵膊粫劳?。唯物論中物質(zhì)與意識的辯證關(guān)系指出意識除了包括感性認(rèn)識和理性認(rèn)識這兩種基本的認(rèn)識形式，還包括非邏輯的認(rèn)識形式。這絕大都數(shù)都是人類世界獨(dú)有的，強(qiáng)人工智能就算擁有了類人的感性認(rèn)識能力和理性認(rèn)識能力，也未必能同人類一般，具有愿望、情感等非邏輯的認(rèn)識形式。為此，有學(xué)者就智能機(jī)器人的刑罰進(jìn)行了設(shè)想，即對機(jī)器人進(jìn)行再程序化或者重新設(shè)計(jì)，如刪除數(shù)據(jù)、修改程序、永久銷毀等，但是此類刑罰措施仍然難以發(fā)揮刑罰的報(bào)應(yīng)功能，對于沒有肉感痛感的人工智能而言，刪除數(shù)據(jù)與添加數(shù)據(jù)一樣，對它們來說只是無關(guān)痛癢的小事，而被人工智能傷害的受害者們承受的遠(yuǎn)遠(yuǎn)不止于此，這般刑罰真的能做到讓受害者滿意嗎，筆者認(rèn)為就目前來看還遠(yuǎn)遠(yuǎn)不能為大眾所接受。而且因?yàn)槿斯ぶ悄芗夹g(shù)的復(fù)雜性，其操作能否達(dá)到預(yù)設(shè)的效果也未必能如愿以償。

對于強(qiáng)人工智能犯罪后的刑事訴訟程序上，同樣不具備可行性。就自然人作為被告人而言，我國刑事訴訟法規(guī)定了被告人享有申請回避的權(quán)利、委托代理的權(quán)利、用本民族語言進(jìn)行訴訟的權(quán)利等等，但是于強(qiáng)人工智能而言，這些權(quán)利的實(shí)現(xiàn)存在巨大的困難。譬如一個沒有財(cái)產(chǎn)權(quán)的人工智能如何支付相應(yīng)金錢聘請律師為其辯護(hù)，聘請自然人抑或是類人機(jī)器人？就人工智能參與刑事訴訟流程中的偵察、拘捕階段而言，造型大同小異的人工智能，我們?nèi)绾螌θ斯ぶ悄苓M(jìn)行抓捕、追逃？諸如此類。因而，人工智能作為刑事責(zé)任主體參與的刑事訴訟將會面臨施行困難又沖擊現(xiàn)有訴訟程序的囧境。

（四）不具有自洽性

對于肯定論者提出的觀點(diǎn)，其有多處都不具有自洽性?？隙ㄅ蓪W(xué)者一方面假設(shè)人工智能具有毀滅人類的能力，聲稱這不是危言聳聽我們應(yīng)該未雨綢繆，另一方面又主張通過立法、科處刑罰來對人工智能進(jìn)行限制。試問若是人工智能真的到了能毀滅人類，徹底改變?nèi)藱C(jī)關(guān)系那一天，刑法對其的約束還能實(shí)現(xiàn)嗎？一方面在論述強(qiáng)人工智能自主意識的產(chǎn)生時，做出了與人類意識產(chǎn)生方式不同的解釋，另一方面在意志的機(jī)能上又做出同人腦具有類似機(jī)能的解釋。一方面將其當(dāng)作自然人，主張與自然人一樣，擁有刑事責(zé)任能力，又因?yàn)槠錂C(jī)器人的屬性創(chuàng)造刑罰，承人了機(jī)器人的本質(zhì)。邏輯上不能自洽。

四、結(jié)語

人工智能的發(fā)展帶來的挑戰(zhàn)與探索從未停止，學(xué)術(shù)界正呈現(xiàn)出“百花齊放”“百家爭鳴”的新局面。刑法進(jìn)行理論上的前瞻性探討和研究無可厚非，但我們也要看到人工智能與人類完全不同的一面，科學(xué)、理性地思考人工智能與人類的關(guān)系。對于人工智能刑事主體立法的問題，我們要始終保持嚴(yán)謹(jǐn)、慎重的態(tài)度，用發(fā)展的眼光全面地看待人工智能給刑法帶來的挑戰(zhàn)。就目前來看，否定人工智能體的犯罪主體資格，立足于現(xiàn)行的刑法規(guī)范，不僅有助于刑法的穩(wěn)定，也是應(yīng)對人工智能時代刑事風(fēng)險(xiǎn)的應(yīng)有之道。

參考文獻(xiàn)：

[1] 張鑫， 王明輝. 中國人工智能發(fā)展態(tài)勢及其促進(jìn)策略[J]. 改革， 2019， （9）：31-44.

[2] 胡莎. 對人工智能體作為刑事責(zé)任主體的反思[J]. 廣州大學(xué)學(xué)報(bào)（社會科學(xué)版）， 2019， 第18卷（2）：109-115.

[3] 劉憲權(quán). 人工智能時代的“內(nèi)憂”“外患”與刑事責(zé)任[J]. 東方法學(xué)， 2018， （1）：134-142.

[4] 張茜， 賀建鵬. 人工智能的發(fā)展及趨勢[J]. 電子技術(shù)與軟件工程， 2019， （8）：241-242.

[5] 尹蕾， 王讓新. 人工智能發(fā)展的喜與憂[J]. 人民論壇， 2018， （35）：84-85.

[6] 劉憲權(quán). 涉人工智能犯罪刑法規(guī)制的路徑[J]. 現(xiàn)代法學(xué)， 2019， 第41卷（1）：75-83.

（遼寧省阜新市遼寧工程技術(shù)大學(xué)?遼寧?阜新?123000）