夏陳婷

內(nèi)容提要：人工智能技術(shù)推動(dòng)社會(huì)進(jìn)一步轉(zhuǎn)型，并不斷呈現(xiàn)深度學(xué)習(xí)、自主操控的新特征，由此必然會(huì)給法律體系帶來(lái)新的挑戰(zhàn)。人工智能產(chǎn)品存在刑事風(fēng)險(xiǎn)，對(duì)其采取相應(yīng)的刑事規(guī)制不可避免。本文從風(fēng)險(xiǎn)刑法角度選擇行之有效的人工智能犯罪刑事歸責(zé)原則，并討論在不同類型的人工智能犯罪中的適用，以探索有效的刑法規(guī)制原則，確保人工智能產(chǎn)品能夠在有益于人類共同利益的范圍內(nèi)進(jìn)行研制開(kāi)發(fā)。

人工智能的概念被認(rèn)為追溯于 “人工智能之父”Marvin Minsky在1956年夏季達(dá)特茅茨人工智能項(xiàng)目議案中所提出的：“讓機(jī)器從事需要人的智能的工作的科學(xué)”。①J.McCarthy，M.L.Minsky，N.Rochester，C.E.Shannon，A proposal for the Dartmouth summer research project on artificial intelligence， August 31，1955，see:http://www-formal.stanford.edu/jmc/history/dartmouth/， 2018 年 7 月 10日訪問(wèn)。在人類神經(jīng)物理學(xué)、神經(jīng)解剖學(xué)以及 “圖靈機(jī)”（Turing Machine）的理論模型的研究基礎(chǔ)之上，Marvin Minsky在該項(xiàng)議案中提出：“人工智能研究建立在機(jī)器可以模擬人類的前提下，通過(guò)程序語(yǔ)言、構(gòu)建理論模型的方式幫助解決人類現(xiàn)實(shí)問(wèn)題，并提高人類解決相關(guān)問(wèn)題的能力”。從中可以看出，人工智能的理論前提是設(shè)計(jì)的模擬能力，而人工智能的模擬能力除了來(lái)自設(shè)計(jì)研究者的初設(shè)程序設(shè)定之外，更多地來(lái)自人工智能的深度學(xué)習(xí)能力。

根據(jù)深度學(xué)習(xí)能力的習(xí)得，人工智能產(chǎn)品迅速完成了代際的更替，不斷模仿并超越人類智慧的極限。作為對(duì)人工智能產(chǎn)品主體資格的確認(rèn)，沙特阿拉伯于2017年10月26日在 “未來(lái)投資峰會(huì)”上授予Hanston Robotics公司研發(fā)的Sophia人形機(jī)器人合法公民身份。②https://www.cnbeta.com/articles/tech/664757.htm，2018年7月10日訪問(wèn)。2018年3月21日，Sophia又作為代表參加聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)亞洲和太平洋地區(qū)創(chuàng)新大會(huì)。盡管Sophia的創(chuàng)始人漢森承認(rèn)，目前Sophia距離自我意識(shí)覺(jué)醒還很遠(yuǎn)，因?yàn)槠洮F(xiàn)在還處于 “嬰兒期”。但是可以預(yù)見(jiàn)到的是，伴隨著深度學(xué)習(xí)能力的發(fā)展，Sophia終會(huì)具有自主意識(shí)并能夠獨(dú)立支配自己的行為，成為辨認(rèn)控制能力和行為能力完備的 “人”。

一、人工智能產(chǎn)品存在刑事風(fēng)險(xiǎn)

作為發(fā)明者和創(chuàng)造者，人類在前幾次生產(chǎn)方式變革中仍然占據(jù)主宰者的地位，掌握著先進(jìn)生產(chǎn)力的核心技術(shù)。但在以人工智能技術(shù)應(yīng)用為標(biāo)志的人工智能時(shí)代中，人工智能技術(shù)已經(jīng)逐步突破科技和人類的固有界限，技術(shù)由工具化走向擬人化、類人化，人類在此次變革中扮演的角色不再僅是技術(shù)發(fā)動(dòng)者，同時(shí)也是技術(shù)承擔(dān)者、共享者。不可忽視的是，人工智能技術(shù)研發(fā)和應(yīng)用中存在倫理風(fēng)險(xiǎn)、道德風(fēng)險(xiǎn)以及相應(yīng)而生的法律風(fēng)險(xiǎn)，其中涉及的刑事風(fēng)險(xiǎn)不僅在于其會(huì)使得犯罪行為 “升級(jí)”，同時(shí)會(huì)使得部分犯罪的危害發(fā)生 “量變”。③劉憲權(quán)：《人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)》，載 《法商研究》2018年第1期。具體而言，人工智能產(chǎn)品涉及的刑事風(fēng)險(xiǎn)主要表現(xiàn)在以下兩個(gè)方面：

其一，人工智能產(chǎn)品作為犯罪工具或犯罪手段存在。人工智能技術(shù)首先表現(xiàn)為在社會(huì)生活全方面覆蓋，無(wú)論是醫(yī)療科技、藝術(shù)創(chuàng)作、工業(yè)生產(chǎn)或者智能生活方面，都表現(xiàn)出強(qiáng)勁的發(fā)展?jié)摿Γ瑫r(shí)也和人類的生產(chǎn)生活方式融合得更加緊密。人工智能技術(shù)可以使得產(chǎn)品更加智能化，同時(shí)也使得犯罪工具或犯罪手段更加先進(jìn)，一方面幫助犯罪行為更加隱蔽，另一方面促使犯罪行為造成的后果更加嚴(yán)重、更加難以挽回。犯罪人利用人工智能技術(shù)作為犯罪工具或犯罪手段，不僅可以利用人工智能識(shí)別和決策功能中的漏洞，自動(dòng)通過(guò)人工智能監(jiān)控系統(tǒng)的監(jiān)測(cè)或管理，而且可以通過(guò)干擾或欺騙人工智能監(jiān)控系統(tǒng)，使得自己的犯罪行為合法化，不致遭受監(jiān)控或追查。

其二，人工智能產(chǎn)品作為獨(dú)立的犯罪主體存在。在現(xiàn)行的刑罰體系構(gòu)成中，只有自然人和單位可以成為刑事責(zé)任主體。但人工智能產(chǎn)品在具備獨(dú)立的辨認(rèn)控制能力和行為能力的前提下，在自主意識(shí)支配下實(shí)施或控制超出設(shè)計(jì)研發(fā)的程序范圍的犯罪行為，我們有理由認(rèn)定實(shí)施或控制類似犯罪行為的人工智能產(chǎn)品實(shí)現(xiàn)的是 “自己”的意識(shí)，和其他具有刑事責(zé)任能力的主體一樣，完全可以作為一種全新的刑事責(zé)任主體。在此情形下，人工智能產(chǎn)品對(duì)其在設(shè)計(jì)研發(fā)的程序范圍內(nèi)實(shí)施的行為不需要承擔(dān)刑事責(zé)任，但對(duì)其在設(shè)計(jì)研發(fā)的程序范圍之外實(shí)施的犯罪行為需要承擔(dān)相應(yīng)的刑事責(zé)任。

總之，人工智能產(chǎn)品開(kāi)始具備獨(dú)立的辨認(rèn)控制能力和行為能力是其承擔(dān)相應(yīng)的刑事責(zé)任的前提。我們有必要在考慮人工智能在具備民事行為能力和刑事責(zé)任能力的前提下，思考如何界定人工智能的責(zé)任承擔(dān)和歸屬，從而為爭(zhēng)議問(wèn)題的解決提供參照思路，積極應(yīng)對(duì)人工智能技術(shù)成熟后所面臨的社會(huì)風(fēng)險(xiǎn)和法律挑戰(zhàn)。

二、人工智能產(chǎn)品的分類及相應(yīng)的刑事責(zé)任能力

正如同單位能夠被認(rèn)定為犯罪主體的依據(jù)主要在于其具備獨(dú)立的自由意志，人工智能基于深度學(xué)習(xí)能力也能夠獲得獨(dú)立的自由意志。從法律屬性上看，人工智能擁有的獨(dú)立意志相較于單位的集體意志，更符合 “法律人”的主體特征。既然可以將犯罪行為、刑事責(zé)任等歸責(zé)方法適用于單位，也完全可以將其適用于產(chǎn)生獨(dú)立意志的人工智能產(chǎn)品。刑法上的辨認(rèn)能力是對(duì)行為的性質(zhì)、后果、作用的認(rèn)識(shí)能力，其中包括事實(shí)層面的認(rèn)識(shí)和規(guī)范層面的認(rèn)識(shí)，人工智能的深度學(xué)習(xí)能力為其通過(guò)學(xué)習(xí)掌握事實(shí)層面和規(guī)范層面的辨認(rèn)能力提供可能；而刑法上的控制能力是根據(jù)對(duì)事實(shí)和規(guī)范的認(rèn)識(shí)控制自己行為的能力，人工智能通過(guò)程序設(shè)計(jì)和控制能夠具備相較于人類更強(qiáng)的控制能力。人工智能完全具備掌握刑法意義上的辨認(rèn)、控制能力的條件，因此其作為新的刑事法律主體納入刑事法律體系應(yīng)當(dāng)成為未來(lái)刑法的發(fā)展目標(biāo)。相應(yīng)地，如何規(guī)制人工智能犯罪便成為該前提之下的應(yīng)有之義。

針對(duì)人工智能的類型劃分，目前學(xué)界仍然存在不同觀點(diǎn)：有學(xué)者提出 “兩分法”，指出以人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力，可以將人工智能產(chǎn)品劃分為弱人工智能產(chǎn)品與強(qiáng)人工智能產(chǎn)品；⑥劉憲權(quán)：《人工智能時(shí)代的 “內(nèi)憂”“外患”與刑事責(zé)任》，載 《東方法學(xué)》2018年第1期。也有學(xué)者提出 “三分法”，即按照意識(shí)的有無(wú)和程度的差別，人工智能可以劃分為弱人工智能、強(qiáng)人工智能和超人工智能。⑦黨家玉：《人工智能的倫理和法律風(fēng)險(xiǎn)問(wèn)題研究》，載 《信息安全研究》2017年第12期。筆者認(rèn)為，無(wú)論 “兩分法”還是 “三分法”，其類型劃分的依據(jù)仍然是對(duì)照人的辨認(rèn)能力和控制能力，判斷人工智能是否具有類比人類的能力，從而進(jìn)一步判斷人工智能是否具備獨(dú)立承擔(dān)責(zé)任的前提。因此，無(wú)論人工智能具備和人類同樣的智能或是超越人類的智能，其本質(zhì)都在于認(rèn)定該人工智能已經(jīng)具備獨(dú)立承擔(dān)刑事責(zé)任的基礎(chǔ)，即應(yīng)當(dāng)認(rèn)定該人工智能具有刑事責(zé)任能力。在筆者看來(lái)，在刑事法律的語(yǔ)境下，刑事責(zé)任能力的有無(wú)是討論人工智能刑事責(zé)任承擔(dān)的核心，“兩分法”解決了人工智能刑事責(zé)任判定的前提問(wèn)題，因此更具有學(xué)術(shù)研究?jī)r(jià)值。

因此，根據(jù)人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力，可以相應(yīng)地確定人工智能是否具備相應(yīng)的刑事責(zé)任能力。因?yàn)槟壳叭斯ぶ悄芗夹g(shù)還未發(fā)展到強(qiáng)人工智能水平，即便是已經(jīng)獲得公民身份的Sophia人形機(jī)器人還未達(dá)到自我意識(shí)覺(jué)醒的程度，故現(xiàn)有的人工智能產(chǎn)品還只能歸屬弱人工智能產(chǎn)品的范疇。在當(dāng)前人工智能還不具備完全刑事責(zé)任能力的前提下，如何界定人工智能的刑事責(zé)任承擔(dān)的范圍和程度具有重要的實(shí)證意義。目前的主流觀點(diǎn)認(rèn)為弱人工智能作出的判斷和行為仍是在程序控制范圍之內(nèi)，即使實(shí)施了嚴(yán)重危害社會(huì)的行為，也只能將其視為設(shè)計(jì)者或使用者實(shí)施犯罪行為的 “工具”，人工智能產(chǎn)品本身不應(yīng)當(dāng)承擔(dān)刑事責(zé)任，而應(yīng)當(dāng)由人工智能產(chǎn)品的設(shè)計(jì)者或使用者承擔(dān)刑事責(zé)任。只有當(dāng)強(qiáng)人工智能超出設(shè)計(jì)和編制程序?qū)嵤┪：π袨?，才?yīng)當(dāng)獨(dú)立承擔(dān)刑事責(zé)任，同時(shí)負(fù)有預(yù)見(jiàn)義務(wù)和監(jiān)督義務(wù)的設(shè)計(jì)者或使用者也有被追究刑事責(zé)任的可能。⑧參加前引⑥，劉憲權(quán)文。也有觀點(diǎn)認(rèn)為人工智能僅是一項(xiàng)技術(shù)，本身不具備刑事責(zé)任能力。機(jī)器人無(wú)論以何種方式承擔(dān)責(zé)任，最終的責(zé)任承擔(dān)者都是人。而人工智能觸犯法律，歸根到底是使用者、所有者、制造者在利用人工智能技術(shù)過(guò)程中違法犯罪，因而理應(yīng)由人來(lái)承擔(dān)刑事責(zé)任。⑨參加前引④，黃京平文。由此看來(lái)，目前學(xué)界探討的焦點(diǎn)還是人工智能產(chǎn)品犯罪以及刑事責(zé)任承擔(dān)的可能性，而對(duì)于強(qiáng)、弱人工智能犯罪的刑事歸責(zé)原則及方法尚無(wú)深入探討，而這對(duì)于弱人工智能時(shí)代已然來(lái)臨的當(dāng)下顯得準(zhǔn)備過(guò)于不足。以無(wú)人駕駛技術(shù)為例，因?yàn)闆](méi)有人工智能法律限制，該項(xiàng)技術(shù)尚未成熟便已經(jīng)上路行駛公測(cè)，導(dǎo)致相關(guān)道路交通安全事故頻頻發(fā)生。2018年3月18日晚10點(diǎn)，一輛Uber無(wú)人駕駛汽車在美國(guó)亞利桑那州坦佩市與一名正過(guò)馬路的行人相撞，后者不治身亡。該起全球首例無(wú)人駕駛汽車在公共道路上撞擊行人致死事件在暴露弱人工智能產(chǎn)品的技術(shù)缺陷的同時(shí)，也充分說(shuō)明了法律應(yīng)對(duì)不足帶來(lái)的危害。同樣，對(duì)于類似案例的處理，也沒(méi)有形成公認(rèn)的刑事歸責(zé)原則供參照援用，大量案件停留在個(gè)案爭(zhēng)議的基礎(chǔ)之上，尚未形成系統(tǒng)的案件爭(zhēng)議解決機(jī)制。這也是本文關(guān)注并試圖解決的問(wèn)題，筆者將在下文中繼續(xù)展開(kāi)討論。

三、人工智能犯罪對(duì)傳統(tǒng)的刑事歸責(zé)理論提出挑戰(zhàn)

在我國(guó)刑法中，刑事歸責(zé)通常指的是刑事責(zé)任歸責(zé)，即將違反刑事義務(wù)的行為歸因于行為人。⑩馮軍：《刑事責(zé)任論》，法律出版社1996年版，第18頁(yè)。刑事責(zé)任歸責(zé)是對(duì)廣義的定罪活動(dòng)的一種抽象性概括，是以定罪或犯罪構(gòu)成的定罪意義為前提，依據(jù)犯罪構(gòu)成認(rèn)定犯罪是否成立，在此基礎(chǔ)上經(jīng)由刑事訴訟程序的有效配合，最終確定犯罪是否成立和刑事責(zé)任是否存在及其程度的一系列活動(dòng)的總和，也是犯罪與刑事責(zé)任關(guān)系 (罪責(zé)關(guān)系)的集中展現(xiàn)。

現(xiàn)代刑事歸責(zé)理論產(chǎn)生于德日犯罪論體系背景之下，而德日的犯罪論體系是一種階層式的犯罪論體系，包括構(gòu)成要件符合性、違法性和有責(zé)性三個(gè)階層，不同于我國(guó)的犯罪構(gòu)成四要件的平面式犯罪論體系。而我國(guó)的犯罪構(gòu)成理論沒(méi)有明確區(qū)分刑事違法和刑事責(zé)任，完全符合犯罪構(gòu)成既是刑事違法的前提，也是刑事責(zé)任的成立條件。由于四要件的犯罪構(gòu)成理論自身不能涵蓋刑事責(zé)任能力和違法性阻卻事由等歸責(zé)要素，因此，有學(xué)者認(rèn)為四要件的犯罪構(gòu)成沒(méi)有很好地解決歸責(zé)問(wèn)題，進(jìn)而提出只有三階層的犯罪論體系才能使犯罪構(gòu)成合理化。①陳興良：《教義刑法學(xué)》，中國(guó)人民大學(xué)出版社2010年版，第128-129頁(yè)。筆者認(rèn)為，在我國(guó)的刑法體系中，適用犯罪構(gòu)成四要件論并沒(méi)有在前提上絕對(duì)否認(rèn)刑事歸責(zé)理論的適用，刑事歸責(zé)理論是一種實(shí)質(zhì)判斷構(gòu)成要件的理論，與犯罪構(gòu)成理論在刑事責(zé)任判定的過(guò)程中共同作用，最終在裁判活動(dòng)中實(shí)現(xiàn)將違反刑事義務(wù)的行為歸因?yàn)樾袨槿说哪繕?biāo)，其歸責(zé)路徑與德日公認(rèn)的客觀歸責(zé)理論在本質(zhì)上是一致的。

一般認(rèn)為，刑事歸責(zé)是客觀歸責(zé)和主觀歸責(zé)的統(tǒng)一，包括行為歸責(zé)和結(jié)果歸責(zé)，行為歸責(zé)的要素是從行為人到行為，而結(jié)果歸責(zé)的要素是從行為到結(jié)果?？陀^歸責(zé)的目的在于確認(rèn)符合構(gòu)成要件的行為可以從客觀上歸責(zé)于行為人，同時(shí)構(gòu)成要件結(jié)果對(duì)于構(gòu)成要件行為是可以客觀歸責(zé)的；主觀歸責(zé)的目的則在于確認(rèn)行為人的行為故意在主觀上可以歸責(zé)于行為人，同時(shí)具體結(jié)果的發(fā)生對(duì)于故意來(lái)說(shuō)是可以主觀歸責(zé)的?，F(xiàn)代刑事歸責(zé)理論的代表是德國(guó)學(xué)者羅克辛的客觀歸責(zé)理論，該理論的初衷在于解決過(guò)失犯罪的刑事歸責(zé)問(wèn)題，將因果關(guān)系與歸責(zé)問(wèn)題相區(qū)別，而兩者聯(lián)系的紐帶是法規(guī)范意義上的風(fēng)險(xiǎn)，即行為制造并實(shí)現(xiàn)了刑法保護(hù)的風(fēng)險(xiǎn)，則將產(chǎn)生的后果歸屬于行為人。②張明楷：《外國(guó)刑法綱要》，清華大學(xué)出版社2007年版，第126頁(yè)?？偨Y(jié)傳統(tǒng)的刑事歸責(zé)理論，其理論的前提在于將行為人假設(shè)為自然人，其中無(wú)論風(fēng)險(xiǎn)的制造、實(shí)現(xiàn)時(shí)導(dǎo)致刑事歸責(zé)或者風(fēng)險(xiǎn)的減少、未實(shí)現(xiàn)時(shí)導(dǎo)致刑事歸責(zé)的排除，都離不開(kāi)一般人的預(yù)見(jiàn)可能性這一判斷標(biāo)準(zhǔn)，即行為人通過(guò)預(yù)見(jiàn)可能性判斷進(jìn)而選擇制造或阻止、增加或減少風(fēng)險(xiǎn)的形成并進(jìn)而實(shí)現(xiàn)之。總而言之，傳統(tǒng)的刑事歸責(zé)理論以行為人實(shí)施的侵害行為為基礎(chǔ)，其默認(rèn)的責(zé)任主體是存在預(yù)見(jiàn)可能性缺失或認(rèn)識(shí)錯(cuò)誤可能性的自然人。

人工智能犯罪作為技術(shù)進(jìn)步的不利后果，既是工業(yè)社會(huì)的產(chǎn)物，也是風(fēng)險(xiǎn)社會(huì)下技術(shù)性風(fēng)險(xiǎn)③[德]烏爾里?！へ惪?《風(fēng)險(xiǎn)社會(huì)》，何博聞譯，譯林出版社2004年版，第19頁(yè)。的典型體現(xiàn)，其制造的社會(huì)風(fēng)險(xiǎn)嚴(yán)重程度遠(yuǎn)遠(yuǎn)超出人類事先預(yù)警檢測(cè)和事后處理的能力，因此對(duì)人工智能犯罪進(jìn)行刑事規(guī)制的必要性不言而喻。但是，人工智能作為高度理性的 “人”，具備準(zhǔn)確的預(yù)見(jiàn)能力和完備的認(rèn)識(shí)能力，不可能存在預(yù)見(jiàn)不足或認(rèn)識(shí)錯(cuò)誤的情形，其不但能夠制造并實(shí)現(xiàn)法律不允許的風(fēng)險(xiǎn)，而且能夠通過(guò)運(yùn)算控制準(zhǔn)確避免風(fēng)險(xiǎn)的減少和喪失，也就意味著人工智能一旦實(shí)施侵害行為，就應(yīng)當(dāng)承擔(dān)所有的不利后果，刑事歸責(zé)的論證過(guò)程顯得多余，同時(shí)也不存在刑事責(zé)任排除的余地。囿于傳統(tǒng)刑事歸責(zé)理論的責(zé)任主體限制，對(duì)其適用傳統(tǒng)的刑事責(zé)任歸責(zé)和刑事責(zé)任排除存在理論障礙，因此，有必要構(gòu)建符合風(fēng)險(xiǎn)社會(huì)特征的人工智能犯罪歸責(zé)原則，解決規(guī)制人工智能犯罪的核心問(wèn)題。

四、人工智能犯罪的刑事歸責(zé)原則之選擇

刑事歸責(zé)原則是在犯罪成立的基礎(chǔ)上進(jìn)行刑事法律責(zé)任判定的基本準(zhǔn)則。不同于具體的刑事歸責(zé)過(guò)程，刑事歸責(zé)原則應(yīng)當(dāng)依據(jù)社會(huì)共同體的價(jià)值共識(shí)進(jìn)行判斷，最大程度地體現(xiàn)刑法規(guī)范目的所蘊(yùn)藏的憲法權(quán)利和基本原則等價(jià)值。

EOLDs過(guò)程中如醫(yī)生、患者、家屬無(wú)法達(dá)成一致意見(jiàn)時(shí)，經(jīng)患者及家屬知情同意，需請(qǐng)倫理委員會(huì)輔助EDLDs。倫理顧問(wèn)審查患者醫(yī)療記錄，采訪治療患者的相關(guān)人員，綜合評(píng)估和推斷患者的生命質(zhì)量以及根據(jù)相關(guān)政策，幫助醫(yī)患雙方解決分歧，達(dá)成意見(jiàn)一致，并保存此次倫理記錄。實(shí)踐證明，倫理委員會(huì)的介入沒(méi)有影響患者的死亡率，但明顯地減少了ICU的無(wú)效治療。

傳統(tǒng)的刑事歸責(zé)原則的主要內(nèi)容在于法律責(zé)任的承擔(dān)以主觀上的過(guò)錯(cuò)為前提條件，行為人的主觀過(guò)錯(cuò)是承擔(dān)刑事責(zé)任的起點(diǎn)。故意或者過(guò)失作為主觀過(guò)錯(cuò)的內(nèi)容，不僅是犯罪構(gòu)成的主觀構(gòu)成要件，同時(shí)也是確定刑事責(zé)任的前提。因此，行為人主觀上無(wú)過(guò)錯(cuò)則不承擔(dān)刑事責(zé)任，簡(jiǎn)言之，即“無(wú)罪過(guò)即無(wú)犯罪”，強(qiáng)調(diào)刑法中的主客觀相統(tǒng)一原則。隨著風(fēng)險(xiǎn)社會(huì)、風(fēng)險(xiǎn)概念的引入，傳統(tǒng)的過(guò)錯(cuò)責(zé)任原則受到了沖擊，大量嚴(yán)重威脅社會(huì)公共利益的業(yè)務(wù)性犯罪伴隨著風(fēng)險(xiǎn)社會(huì)業(yè)已出現(xiàn)，但卻因?yàn)檫^(guò)錯(cuò)責(zé)任原則的限制或者責(zé)任方復(fù)雜化等原因而出現(xiàn)刑事歸責(zé)不能的情況。面對(duì)技術(shù)進(jìn)步帶來(lái)的眾多復(fù)雜難控的社會(huì)風(fēng)險(xiǎn)，刑法理論界產(chǎn)生界分，有觀點(diǎn)認(rèn)為應(yīng)當(dāng)突破以過(guò)錯(cuò)責(zé)任原則為基礎(chǔ)、以消極司法地位自守的罪責(zé)刑法的限制，將刑法的任務(wù)轉(zhuǎn)向風(fēng)險(xiǎn)防控以維護(hù)安全，④郝艷兵：《風(fēng)險(xiǎn)刑法：以危險(xiǎn)犯為中心展開(kāi)》，中國(guó)政法大學(xué)出版社2012年版，第66頁(yè)。也有觀點(diǎn)認(rèn)為應(yīng)當(dāng)堅(jiān)持罪責(zé)刑法的謙抑性原則，守住刑法保障自由的底線。⑤勞東燕：《風(fēng)險(xiǎn)社會(huì)與變動(dòng)中的刑法理論》，載 《中外法學(xué)》2014年第1期。盡管刑法學(xué)界對(duì)此意見(jiàn)不一，但是社會(huì)實(shí)踐和法律發(fā)展依循其內(nèi)在規(guī)律發(fā)展嬗變，刑法作為解決社會(huì)防控的最后一道防線，其本身隨著時(shí)代的變更而不斷豐富自身的內(nèi)容。隨著刑事立法領(lǐng)域由結(jié)果本位向行為本位轉(zhuǎn)變，嚴(yán)格責(zé)任原則便成為刑法應(yīng)對(duì)風(fēng)險(xiǎn)社會(huì)的重大風(fēng)險(xiǎn)時(shí)所作的主動(dòng)調(diào)試，在進(jìn)行刑事歸責(zé)時(shí)強(qiáng)調(diào)主觀過(guò)錯(cuò)與刑事歸責(zé)的適度分離。

刑法中的嚴(yán)格責(zé)任原則被認(rèn)為是英美法系所特有的刑事歸責(zé)原則，起源于民事侵權(quán)法，同時(shí)也是英美法系功利主義的集中體現(xiàn)，主要應(yīng)用于英美國(guó)家的公共福利犯罪和少量道德犯罪中，它代表的是罪過(guò) （或犯意）要求的邊緣化趨勢(shì)，即罪過(guò)之于犯罪定義的構(gòu)建與犯罪的認(rèn)定正在逐漸喪失決定力和影響力。⑥李立豐：《美國(guó)刑法犯意研究》，中國(guó)政法大學(xué)出版社2009年版，第132頁(yè)。嚴(yán)格責(zé)任原則是在認(rèn)定少數(shù)侵犯社會(huì)公共利益類犯罪時(shí)，因?yàn)樨?zé)任人的主觀過(guò)錯(cuò)難以直接證明或需要耗費(fèi)過(guò)度的司法資源來(lái)證明，在此條件下認(rèn)定有無(wú)犯罪意圖對(duì)責(zé)任人來(lái)說(shuō)都不是實(shí)質(zhì)性的歸責(zé)依據(jù)，責(zé)任人即使提出無(wú)犯罪意圖的證據(jù)也無(wú)法對(duì)其進(jìn)行刑事責(zé)任排除。嚴(yán)格責(zé)任原則的出現(xiàn)標(biāo)志過(guò)錯(cuò)責(zé)任原則已被突破和變革，其強(qiáng)調(diào)以法規(guī)范的保護(hù)目的為導(dǎo)向進(jìn)行責(zé)任分配，更加符合風(fēng)險(xiǎn)社會(huì)的預(yù)防目的和安全價(jià)值的實(shí)現(xiàn)，但在我國(guó)目前的刑法中尚未得到承認(rèn)。⑦參見(jiàn)前引⑤，勞東燕文。

正如前文所述，人工智能犯罪是技術(shù)性風(fēng)險(xiǎn)的集中體現(xiàn)，符合風(fēng)險(xiǎn)社會(huì)中現(xiàn)代性和風(fēng)險(xiǎn)不確定性并存的特征，同時(shí)人工智能產(chǎn)品通過(guò)深度學(xué)習(xí)能夠達(dá)到并超越人類智能的可能性又大幅增加了其制造不可控制的風(fēng)險(xiǎn)的幾率。與此同時(shí)，由于人工智能產(chǎn)品中 “黑箱”技術(shù)⑧許可：《人工智能的算法黑箱與數(shù)據(jù)正義》，載 《社會(huì)科學(xué)報(bào)》2018年3月29日第6版。的使用導(dǎo)致其算法不透明，終端用戶并不清楚人工智能產(chǎn)品的算法是如何得出結(jié)論的，在此技術(shù)性障礙之下進(jìn)行人工智能產(chǎn)品的決策說(shuō)明成為一項(xiàng)不經(jīng)濟(jì)甚至不可能完成的任務(wù)，而依照傳統(tǒng)的罪過(guò)責(zé)任原則，刑事責(zé)任主體的決策說(shuō)明在刑事歸責(zé)過(guò)程中至關(guān)重要并且不可或缺。筆者由此認(rèn)為，基于人工智能犯罪的風(fēng)險(xiǎn)不可控性和行為決策不透明性，對(duì)其刑事歸責(zé)適用嚴(yán)格責(zé)任原則更加符合人工智能時(shí)代的技術(shù)規(guī)范要求和法規(guī)范要求。

盡管如此，適用嚴(yán)格責(zé)任原則并不意味著必然招致絕對(duì)嚴(yán)格責(zé)任，即不問(wèn)主觀心態(tài)，由人工智能承擔(dān)全部責(zé)任，否則難免落入客觀歸罪或結(jié)果歸罪之嫌。實(shí)施嚴(yán)格責(zé)任的初衷在于減輕甚至不需要公訴方履行證明行為人主觀要件的證明責(zé)任，辯護(hù)方自然不能以主觀罪過(guò)的缺乏為由進(jìn)行抗辯，但在某些國(guó)家也允許提出事實(shí)錯(cuò)誤此種否定犯意的辯護(hù)理由，不過(guò)由行為人承擔(dān)證明責(zé)任而已。⑨周新：《英國(guó)刑法嚴(yán)格責(zé)任的構(gòu)造和借鑒》，載 《政治與法律》2011年第2期。隨著理論和司法實(shí)踐的深入，英美刑法中的嚴(yán)格責(zé)任原則經(jīng)歷從絕對(duì)的嚴(yán)格責(zé)任原則到相對(duì)嚴(yán)格責(zé)任原則的演化。作為與民法中的過(guò)錯(cuò)推定責(zé)任相對(duì)應(yīng)的刑事歸責(zé)原則，相對(duì)嚴(yán)格責(zé)任原則一般要求舉證責(zé)任倒置和過(guò)錯(cuò)推定原則，即公訴方在起訴時(shí)不負(fù)擔(dān)行為人的主觀罪過(guò)的舉證責(zé)任，但同時(shí)允許行為人提出無(wú)過(guò)失等辯護(hù)理由并承擔(dān)相應(yīng)的舉證責(zé)任。筆者認(rèn)為，相對(duì)嚴(yán)格責(zé)任原則同樣適用于嚴(yán)重危害社會(huì)公共安全和公共利益的人工智能犯罪，人工智能產(chǎn)品中 “黑箱”技術(shù)能夠在最大程度上掩飾或隱藏人工智能產(chǎn)品的主觀過(guò)錯(cuò)，直接導(dǎo)致司法證明不能或者司法資源利用極不經(jīng)濟(jì)，從而難以直接有效地實(shí)現(xiàn)刑法的預(yù)防犯罪功能。相對(duì)嚴(yán)格責(zé)任原則蘊(yùn)含的功利價(jià)值能夠最大程度地對(duì)抗人工智能產(chǎn)品帶來(lái)的刑事風(fēng)險(xiǎn)，不僅有利于減輕公訴機(jī)關(guān)對(duì)人工智能主觀罪過(guò)的證明責(zé)任，在極大程度上提高訴訟效率，同時(shí)與人工智能犯罪的風(fēng)險(xiǎn)不可控性和行為決策不透明性相契合。另外也應(yīng)該看到，我國(guó)刑法中規(guī)定的犯罪的實(shí)質(zhì)特征包括：社會(huì)危害性、刑事違法性和應(yīng)受刑罰處罰性，對(duì)人工智能犯罪適用相對(duì)嚴(yán)格責(zé)任原則并不違背犯罪的實(shí)質(zhì)特征，在承認(rèn)人工智能犯罪存在主觀過(guò)錯(cuò)的前提下免除公訴機(jī)關(guān)相應(yīng)的證明責(zé)任實(shí)質(zhì)上沒(méi)有打破犯罪的基本構(gòu)成，也是風(fēng)險(xiǎn)社會(huì)下刑事證明的應(yīng)對(duì)之舉。

五、人工智能犯罪的刑事歸責(zé)原則之適用

如上文所述，面對(duì)人工智能犯罪風(fēng)險(xiǎn)已然來(lái)臨的威脅，刑法的任務(wù)除了討論確認(rèn)具備獨(dú)立的辨認(rèn)能力和控制能力的強(qiáng)人工智能法律主體資格之外，更應(yīng)當(dāng)選擇合適的刑事歸責(zé)原則以解決不同情形下的人工智能犯罪的刑事責(zé)任規(guī)制。筆者在前文中已探討在人工智能時(shí)代引入相對(duì)嚴(yán)格責(zé)任的刑事歸責(zé)原則的可能性，但應(yīng)同時(shí)看到，考慮到嚴(yán)格責(zé)任原則對(duì)人權(quán)價(jià)值的限制，即使在英美法系國(guó)家中，其適用也是嚴(yán)格限定于制定法中的少量危害社會(huì)公共利益犯罪和道德犯罪。筆者認(rèn)為，我國(guó)對(duì)人工智能犯罪適用相對(duì)嚴(yán)格責(zé)任原則也應(yīng)當(dāng)實(shí)行嚴(yán)格的法定主義原則，即通過(guò)法律條文明文限制相對(duì)嚴(yán)格責(zé)任的刑事歸責(zé)原則的適用范圍和適用程度。在此前提下，針對(duì)人工智能的強(qiáng)弱之分，以及人工智能和自然人的結(jié)合程度，有必要確認(rèn)以過(guò)錯(cuò)責(zé)任原則為主，以相對(duì)嚴(yán)格責(zé)任原則為補(bǔ)充的刑事歸責(zé)原則。

就弱人工智能產(chǎn)品的刑事歸責(zé)而言，目前學(xué)者多數(shù)持 “工具說(shuō)”或 “代理說(shuō)”，⑩吳漢東：《人工智能時(shí)代的制度安排與法律規(guī)制》，載 《法律科學(xué)》2017年第5期。認(rèn)為應(yīng)當(dāng)由人工智能產(chǎn)品的設(shè)計(jì)者或使用者承擔(dān)刑事責(zé)任，尤其在弱人工智能產(chǎn)品被使用者利用實(shí)施故意犯罪時(shí)應(yīng)當(dāng)根據(jù)自然人的主觀過(guò)錯(cuò)，認(rèn)定由使用者承擔(dān)刑事責(zé)任。筆者認(rèn)為，盡管弱人工智能產(chǎn)品尚未具備完全的自我意識(shí)，從刑事責(zé)任能力認(rèn)定來(lái)看尚不具備獨(dú)立的辨認(rèn)能力和控制能力，不可能獨(dú)立實(shí)施故意犯罪，但也不完全等同于傳統(tǒng)的技術(shù)工具。弱人工智能具備深度學(xué)習(xí)能力，運(yùn)用 “黑箱”技術(shù)作出相應(yīng)的決策，因此相應(yīng)具有一定的個(gè)體特征，即使由同樣的生產(chǎn)者按著同樣設(shè)計(jì)者的設(shè)計(jì)框架系統(tǒng)生產(chǎn)，弱人工智能產(chǎn)品在 “智力”上仍有可能呈現(xiàn)個(gè)體差異，甚至出現(xiàn)超出設(shè)計(jì)者意圖的情形出現(xiàn)。①《俄羅斯一機(jī)器人一周內(nèi)兩度自主逃跑，或?qū)⒈徊鸾狻罚W(wǎng)易網(wǎng)：http://tech.163.com/16/0623/18/BQ92HASN00097U7R.html，2018年7月10日訪問(wèn)。此種情形下的人工智能過(guò)失犯罪應(yīng)當(dāng)如何進(jìn)行刑事歸責(zé)存在爭(zhēng)議，筆者認(rèn)為有必要引入相對(duì)嚴(yán)格責(zé)任原則厘清人工智能程序設(shè)計(jì)者、生產(chǎn)者、所有者、使用者的責(zé)任分擔(dān)。以無(wú)人駕駛汽車的交通肇事案件為例，在使用者未參與駕駛行為的自動(dòng)駕駛模式下，使用者因?yàn)闆](méi)有參與駕駛行為，因此排除其未盡到注意義務(wù)的責(zé)任，依照相對(duì)嚴(yán)格責(zé)任原則，應(yīng)當(dāng)由無(wú)人駕駛汽車的所有者、生產(chǎn)商或程序設(shè)計(jì)者承擔(dān)責(zé)任，但此種情況屬產(chǎn)品責(zé)任問(wèn)題，應(yīng)由相關(guān)方承擔(dān)連帶賠償責(zé)任，相關(guān)方可以按照各自提出的主張排除和確定責(zé)任份額；在使用者部分參與駕駛行為的自動(dòng)駕駛模式下，使用者雖可以以未完全參與駕駛排除自己未盡主要注意義務(wù)的責(zé)任，但依照相對(duì)嚴(yán)格責(zé)任原則，使用者在使用過(guò)程出現(xiàn)緊急狀態(tài)時(shí)未能采取及時(shí)有效的制動(dòng)措施防止結(jié)果發(fā)生，應(yīng)當(dāng)承擔(dān)事故的刑事責(zé)任，使用者連同所有者、生產(chǎn)商或程序設(shè)計(jì)者承擔(dān)連帶賠償責(zé)任，相關(guān)方同樣可以按照各自提出的主張排除和確定責(zé)任份額。

就強(qiáng)人工智能產(chǎn)品的刑事歸責(zé)而言，如前所述，強(qiáng)人工智能具備類人的辨認(rèn)能力和控制能力，因此，具備相應(yīng)的刑事責(zé)任能力，因此對(duì)于其實(shí)施的犯罪行為，完全可以依照過(guò)錯(cuò)責(zé)任原則進(jìn)行刑事歸責(zé)。盡管有觀點(diǎn)認(rèn)為強(qiáng)人工智能的到來(lái)可能意味著人類的毀滅，②霍金：《讓人工智能造福人類及其賴以生存的家園》，搜狐網(wǎng)：http://www.sohu.com/a/137173188_609518，2018年7月10日訪問(wèn)。但筆者認(rèn)為科技改進(jìn)生活的努力不會(huì)停止，法律不斷調(diào)適進(jìn)而規(guī)制科技發(fā)展進(jìn)程的努力同樣也不會(huì)停止。正因?yàn)槿绱?，“立法者的任?wù)不是建立某種特定的秩序，而只是創(chuàng)造一些條件，在這些條件下，一個(gè)有序的安排得以自生自發(fā)地建構(gòu)起來(lái)，并得以不斷地重構(gòu)”。③[德]弗里德利?！ゑT·哈耶克：《自由秩序原理》，鄧正來(lái)譯，生活·讀書(shū)·新知三聯(lián)書(shū)店1997年版，第201頁(yè)。筆者相信，立法者有足夠的智慧將強(qiáng)人工智能的發(fā)展限制在維護(hù)人類基本利益的范疇之內(nèi)，因此，關(guān)于強(qiáng)人工智能產(chǎn)品的刑事歸責(zé)的討論并非沒(méi)有必要。

可以預(yù)見(jiàn)的是，未來(lái)人工智能和自然人結(jié)合的模式會(huì)成為常態(tài)。就人工智能和自然人結(jié)合體的刑事歸責(zé)而言，筆者認(rèn)為應(yīng)當(dāng)區(qū)別情況分別處置。在人工智能產(chǎn)品與自然人結(jié)合，且不影響自然人的辨識(shí)能力和判斷能力的情形下，此時(shí)的人工智能產(chǎn)品應(yīng)當(dāng)認(rèn)定為純粹的輔助工具，屬于弱人工智能，如輔助醫(yī)療改善系統(tǒng)，那么結(jié)合體實(shí)施犯罪應(yīng)當(dāng)根據(jù)過(guò)錯(cuò)責(zé)任原則，由其自身承擔(dān)刑事責(zé)任；在人工智能產(chǎn)品與自然人結(jié)合，且部分影響自然人的辨識(shí)能力和判斷能力的情形下，此時(shí)的人工智能產(chǎn)品理論上仍舊屬于弱人工智能，但其決策判斷引導(dǎo)或影響自然人實(shí)施犯罪行為，那么結(jié)合體實(shí)施犯罪應(yīng)當(dāng)適用相對(duì)嚴(yán)格責(zé)任原則，對(duì)人工智能產(chǎn)品生產(chǎn)者、設(shè)計(jì)者及結(jié)合體追究刑事責(zé)任；在人工智能產(chǎn)品與自然人結(jié)合，且主導(dǎo)和控制自然人的辨識(shí)能力和判斷能力的情形下，此時(shí)的人工智能產(chǎn)品理論上已經(jīng)屬于強(qiáng)人工智能，而強(qiáng)人工智能具備刑事責(zé)任能力，根據(jù)過(guò)錯(cuò)責(zé)任原則理應(yīng)承擔(dān)刑事責(zé)任，此種情形下的結(jié)合體應(yīng)當(dāng)予以分解，對(duì)自然人免責(zé)。

六、結(jié)語(yǔ)

人工智能技術(shù)不僅代表未來(lái)科技發(fā)展的方向，同時(shí)也是未來(lái)法律發(fā)展的推動(dòng)力。2017年7月8日，國(guó)務(wù)院發(fā)布 《新一代人工智能發(fā)展規(guī)劃》，④《新一代人工智能發(fā)展規(guī)劃》，中華人民共和國(guó)中央人民政府官方網(wǎng)站：http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm，2018年7月10日訪問(wèn)。明確提出建立人工智能法律法規(guī)、倫理規(guī)范和政策體系的要求。其中，人工智能立法的重要原則包括保護(hù)人類利益原則、透明性原則和責(zé)任原則，責(zé)任原則不僅意味著人工智能可以被問(wèn)責(zé)，還涉及人工智能應(yīng)當(dāng)如何被問(wèn)責(zé)。因此，構(gòu)建行之有效的刑事歸責(zé)原則也是建立人工智能刑事法律的重要組成。