劉 旭

(中南財經政法大學 刑事司法學院,湖北 武漢 430073)

人工智能概念的首次提出是在1956年召開的達特茅斯會議上。隨著科技的發(fā)展,自動駕駛車輛等人工智能體逐漸走入人們的日常生活之中，然而,任何事物都具有兩面性,科學技術的發(fā)展也不例外。高級階段的人工智能體逐漸擺脫人類控制,擁有相對獨立的意識和自主行為能力，它在為人們的生活帶來便利的同時,也給現(xiàn)行法律制度帶來了巨大的沖擊。在刑法層面,面對人工智能體犯罪,刑法將面臨無從限制的境地。因此,筆者將以自動駕駛汽車為切入點,從自動駕駛模式下交通肇事罪的困境和出路著手,提出人工智能時代刑法的應對之路,以期彌合刑法在時代發(fā)展面前的滯后性,促進刑法的發(fā)展和完善。

一、人工智能體對現(xiàn)行刑法的挑戰(zhàn)——以自動駕駛汽車為例

自動駕駛汽車是指使用傳感器對道路進行偵測、識別,通過特別設計的電腦程序對操作系統(tǒng)進行控制的車輛,其具備駕駛過程中自動調整速度、變更駕駛方向、緊急情況下的剎車、停車的功能。美國汽車工程師協(xié)會以智能化程度為標準,將智能汽車劃分為五個等級。其中前三等級為智能輔助系統(tǒng),駕駛過程中控制車輛運行的是駕駛者,交通事故發(fā)生后的法律責任承擔主體與非智能汽車交通事故法律責任承擔主體一致,不會對傳統(tǒng)的法律體系造成沖擊,故在此不作討論。第四、五等級是指汽車在行駛過程中間歇性或完全地脫離駕駛者的掌控,傳統(tǒng)駕駛者不再控制車輛的運行,車載智能系統(tǒng)成為車輛“駕駛者”,汽車實現(xiàn)自動駕駛。本文所討論的自動駕駛汽車僅指該分類中的第四等級和第五等級。自動駕駛系統(tǒng)不會像人一樣產生判斷失誤、疲勞、松懈等狀況,因而能夠極大地降低交通事故發(fā)生率,為人們提供更加安全、便捷的出行環(huán)境。但駕駛環(huán)境會受到各種各樣的因素影響,自動駕駛汽車發(fā)生交通事故的情形也在所難免。在刑法層面,自動駕駛技術將引發(fā)交通肇事罪的適用困境,困境的根本原因具體體現(xiàn)在以下方面:

(一)犯罪主體的不適格

交通肇事罪的犯罪主體既可以是車輛的駕駛者,也可以是車輛的實際控制者,無論何種主體,均與車輛的駕駛活動產生聯(lián)系。但在自動駕駛模式下,傳統(tǒng)意義上的交通肇事罪主體已經不再控制車輛的運行,車輛駕駛者的角色被無人駕駛系統(tǒng)所替代,車輛的駕駛活動由車載智能系統(tǒng)控制。車輛上的乘客僅實施了啟動自動駕車車輛的行為,該行為并非為刑法意義上的犯罪實行行為,因而無法成為交通肇事罪主體。

(二)犯罪主觀方面的非契合性

交通肇事罪是典型的過失犯罪，其成立以行為人違反注意義務為前提。所謂違反注意義務,是指違反結果預見義務和結果回避義務。在自動駕駛模式下,乘客乘坐并啟動自動駕駛汽車的行為是基于對車輛安全性能的信賴,乘客既不具備對危險結果的預見義務,也談不上具有對結果發(fā)生的避免義務,故不滿足成立過失犯罪所應具備的主觀過錯。因而,自動駕駛模式下交通肇事罪的成立存在主觀方面的非契合性。

(三)因果聯(lián)系的差異性

要將發(fā)生的危害結果歸責于某一行為主體,就必須要求該行為主體的實行行為與危害結果之間具有客觀內在聯(lián)系,也即因果關系。[1]因此,行為人的行為與危害結果之間的因果聯(lián)系是刑事歸責的重要條件,在不具備因果關系的情形下,不能要求行為人承擔刑事責任。在自動駕駛模式下,車輛的所有者、駕駛者和乘客選擇自動駕駛車輛并不存在主觀上的過錯,交通事故的發(fā)生是由于自動駕駛系統(tǒng)的原因或者外界因素干擾所致,駕駛者和乘客的行為與交通事故之間并不具備刑法上的因果關系。因此,當自動駕駛車輛的所有者、駕駛者或者乘客的行為與交通事故之間不存在因果關系時,盲目對之科處刑罰有違現(xiàn)代刑法的罪責自負原則。

二、人工智能體的犯罪主體地位及刑罰體系的完善

在人工智能技術的發(fā)展趨勢下,人工智能體將會具備獨立的認識和意志,并且能夠在人類控制范圍之外活動。若人工智能體基于意志自由實施犯罪活動,現(xiàn)有刑法體系無法對人工智能體進行歸責。因此,我國刑法必須深入研究將具備高度自主性的人工智能體納入刑事責任主體范圍的可行性,并在此基礎上探索建立與之相適應的刑罰體系。

(一)人工智能體犯罪主體地位

在人工智能體實施犯罪行為,造成嚴重法益侵害的情形下,否定行為構成犯罪的主要依據(jù)是人工智能體不具備犯罪主體地位,具體表現(xiàn)為對人工智能體行為的主體性和刑罰感知能力的質疑。筆者將對以上兩點質疑進行正面回應,試圖說明人工智能體能夠成為犯罪主體的理論依據(jù)。

1.人工智能體是對現(xiàn)行刑法行為主體的突破?！盁o行為則無犯罪亦無刑罰”這句格言詮釋了行為在刑法構造中的基礎性地位。刑法理論界雖然存在“行為”概念的不同學說,但我們從中可以抽象概括出行為的一般性特點:第一,行為必須與人的主觀意志相結合,是意志支配下的產物;第二,行為能夠對他人或者社會產生影響,具有互動性。從法哲學的角度講,刑法上的行為主體必須具備思辨理性和實踐理性,能夠自由決定為或不為某種行為,并能為自己的行為后果承擔刑事責任。

人工智能體雖然不是生命體,但具有獨立的思維能力和一定的自主行為能力。[2]在發(fā)展的初始階段,人工智能體還只是傳統(tǒng)意義上的“工具”“產品”,并不具備獨立的認識和意志,所有的外在“行為”都是通過程序、算法預先設置的,因而也就不具備犯罪主體地位,無法對其實施的“行為”承擔刑事責任。但在世界各主要國家都將人工智能體納入戰(zhàn)略發(fā)展計劃的背景下,人工智能體技術飛速發(fā)展。通過對大數(shù)據(jù)深度分析,人工智能體在某些方面的能力甚至已經超過人類。自動駕駛系統(tǒng)通過使用單目或者多目攝像頭,實現(xiàn)類似人的視覺感知,并在復雜的路況和交通條件下,完成多角度多目標的識別任務和智能避障功能。就人工智能體所具備的獨立意識和自主行為能力而言,其已滿足作為刑法行為主體所應具備的條件,是對現(xiàn)有刑法體系下行為主體概念的突破。

行為主體的概念主要是以自然人為中心而建立,[3]但我國刑法同樣賦予了無生命體特征的單位行為主體的地位,這為同樣作為非生命體的人工智能體突破現(xiàn)有行為主體框架提供了可能。之所以能將單位納入到刑事責任主體范圍之內,是由于單位通過聚合其內部的成員意志形成集體意志,該集體意志就是單位的獨立意志。高級階段人工智能體的“內核”是通過強化模仿和學習人的思維體系而形成的,與單位的集體意志相比具有更強的意志自由。因此,既然能夠將單位規(guī)定為犯罪主體,那么將人工智能體納入到犯罪主體范圍之內,使其獨立承擔刑事責任具有合理性。

2.人工智能體具備刑罰感知能力。反對賦予人工智能體犯罪主體地位的學者認為，人工智能體無法感知刑罰,刑事責任的承擔流于形式,并無實際意義。筆者認為,人工智能體雖然不是生命體,但能夠感知生命,因而具備刑罰感知能力,通過技術設計和制度安排,對人工智能體施加刑罰能夠實現(xiàn)刑罰一般預防和特殊預防。

首先,人工智能體具有感知生命的能力。特殊的非生命體也能感受生命,尤其是高級階段的人工智能體,能夠具有類似人的思維能力。從生物學的角度上看,大腦超高數(shù)量級的腦細胞的神經傳導是人類產生意識的根源,大腦結構和神經連接上的差異與犯罪之間的聯(lián)系也得到了初步的證明。[4]人工智能體在技術上可以實現(xiàn)模擬人類大腦結構以及神經連接,類似人的意識也由此產生。高級階段的人工智能體能夠確切地感受到自身的存在方式,同時也能夠產生對于刑罰所帶來的相對剝奪感。因此,為高級階段的人工智能體量身定做相應的刑罰措施能夠實現(xiàn)預防犯罪的目標。

其次,在技術層面,通過對大數(shù)據(jù)的整合學習,能夠實現(xiàn)人工智能體對人類社會主流價值觀的認可。人工智能體的研發(fā)者在研制人工智能體產品過程中，必須將人類社會認可的法律價值體系和道德規(guī)范體系植入人工智能體的“大腦”中，使人工智能體在“出生”的那一刻便已懂法、遵法、守法,在其存續(xù)期間通過系統(tǒng)的更新不斷充實自己的法律“思維”,知道何者可為何者不可為。人工智能體所應習得的法律體系應該至少包括兩個層面:一是人類社會中的本源性法律和基礎性法律,包括憲法和刑法等;二是與人工智能體從事領域密切相關的法律規(guī)范。例如,自動駕駛汽車除了應該掌握刑法相關知識,具備區(qū)分罪與非罪的能力,還應理解并遵守道路交通安全領域的法律規(guī)范。此外,在人工智能體的研發(fā)過程中，還應通過程序設計使人工智能體在遭受刑罰時能夠意識到自己的行為已經違反其“大腦”程序中的法律規(guī)范和道德體系,并感受到刑罰帶來的“痛苦”。這樣一來,人工智能體就能像人類一樣體會到刑罰所帶來的相對剝奪感,進而實現(xiàn)刑罰的一般預防和特殊預防。

(二)人工智能時代刑罰體系的完善

在賦予人工智能體刑事責任主體地位之后,必須在刑法中設置相應的刑罰措施,建立與之相適應的刑罰體系。人工智能體犯罪的社會危害性程度評價標準大體與傳統(tǒng)犯罪社會危害性評價體系一致,但考慮人工智能體的特殊屬性,還應有所不同。著名科幻作家阿西莫夫在其作品《我,機器人》中提出了著名的“機器人三原則”,即“機器人不得傷害人類;機器人必須服從人類的命令,除非這條命令與第一條相矛盾;機器人必須保護自己,除非這種保護與以上兩條相矛盾。筆者認為,“機器人三原則”就是人工智能體的行為綱領,對該原則的破壞越深,其犯罪的社會危害性就越大。因此,就人工智能體犯罪而言,傷害人類的犯罪比不聽從人類命令具有更高的社會危害性,在人工智能體自身利益與人類利益相沖突時,應以保護人類利益為先。在具體刑罰設置上,結合現(xiàn)行刑罰體系,筆者建議根據(jù)實施犯罪種類的不同可分別對人工智能體實施以下刑事制裁措施:第一,對于實施嚴重危害社會行為的人工智能體,比照現(xiàn)行刑罰體系中的死刑,徹底銷毀人工智能體,斷絕其再犯可能性。第二,考慮刑罰的經濟成本,對于雖然實施了具有社會危害性行為,通過更新其程序能夠確保不會再犯的人工智能體,對其處以“修改、更新或刪除程序”的刑罰。

三、人工智能體之外相關責任主體的歸責路徑

人工智能體進入社會之后的表現(xiàn),與研發(fā)者、生產者和使用者的行為密不可分。相關主體若違反注意義務,致使人工智能體實施犯罪行為的,相關主體有可能因此承擔相應責任。

(一)利用人工智能體實施犯罪的歸責路徑

在未來,利用人工智能體實施犯罪與利用具有刑事責任能力的自然人實施犯罪具有同樣的效果,具體情形包括如下類型:第一,人工智能體與人類共同犯罪,即人工智能體與人類基于共謀實施的犯罪,此時應按照共同犯罪的相關規(guī)定加以規(guī)制;第二,人工智能體為人類所利用而實施某種犯罪,即使人工智能體具備刑事責任能力,但該項犯罪是人類利用人工智能體的“無意識行為”而完成,此時人工智能體不成立犯罪,而人工智能體背后的利用者成立該項犯罪的間接正犯。人工智能體充當犯罪工具的情形,會出現(xiàn)因為認識錯誤導致不同的刑事責任類型。例如,行為人為了利用人工智能體去殺害某甲,對人工智能體的程序進行篡改。但在犯罪實行過程中,人工智能體錯將某乙當做某甲而殺害。此種情況屬于對象錯誤,根據(jù)法定符合說的觀點,“行為人所認識的事實與實際發(fā)生的事實,只要在犯罪構成范圍內是一致的,就成立故意的既遂犯”。[5]

(二)研發(fā)者和使用者的監(jiān)督過失責任

高級階段的人工智能體能夠通過模仿和高度的自主學習能力產生類似人的獨立認識和意志,在獨立意志支配下人工智能體可以實施犯罪行為。人工智能體雖然具備人類的某些特性,但歸根究底只是一種服務于人類的產品。因此,在人工智能體實施犯罪行為時對人工智能體追究刑事責任之余,還應厘清人工智能體的研發(fā)者的相關責任歸屬。如果研發(fā)者和使用者在研發(fā)、使用過程中沒有盡到應盡的注意義務,就有可能成立相關過失犯罪。世界各國刑法都以處罰故意犯罪為原則,處罰過失犯罪為例外,我國刑法也不例外。因此，即便需要對人工智能體外的相關主體追究刑事責任,也必須以刑法的相關規(guī)定為依據(jù)。

過失犯罪的成立以行為人具備預見可能性為前提，[6]人工智能體的研發(fā)者和使用者是否具備預見可能性應當以所處時代背景下的人工智能體技術發(fā)展水平為判斷標準。換言之,如果在當時的技術水平下,人工智能體的研發(fā)者和使用者能夠預見到危害結果的發(fā)生,那么就可以肯定研發(fā)者和使用者具備預見可能性。如果研發(fā)者或者使用者具備預見可能性,但是沒有采取措施避免危害結果的發(fā)生,那么不履行結果回避義務與發(fā)生危害結果之間就具備刑法上的因果關系,人工智能體的研發(fā)者或使用者構成相關過失犯罪。

此外,人工智能體的使用者也對人工智能體產品負有一定的監(jiān)督責任。使用者必須按照操作說明來使用人工智能體產品,否則,在發(fā)生危害結果的場合,使用者也有可能成立相關的過失犯罪。同時，人工智能體的使用者必須遵守相關操作領域的法律法規(guī)。例如,自動駕駛的使用者除了需要嚴格按照自動駕駛“出廠說明”外,在享受自動駕駛服務過程中必須遵守交通領域的法律規(guī)范。如德國最新交通法規(guī)規(guī)定,自動駕駛的使用者在乘坐過程中需要履行對自動駕駛車輛的“隨時接管義務”。如果沒有履行這一義務,導致危害結果發(fā)生的,就有可能成立交通肇事罪。