房慧穎

(華東政法大學(xué) 刑事法學(xué)院，上海 200042)

與工業(yè)革命塑造的勞動(dòng)者駕馭無自主能力的機(jī)械化工具的生產(chǎn)力結(jié)構(gòu)不同的是，智能革命締造的生產(chǎn)力結(jié)構(gòu)是勞動(dòng)者利用有自主能力的智能化工具。(1)何立民：《人工智能時(shí)代是什么時(shí)代？》，《單片機(jī)與嵌入式系統(tǒng)應(yīng)用》2020年第4期。“駕馭”意味著機(jī)械化工具作用的發(fā)揮離不開勞動(dòng)者的直接操控，而“利用”則意味著智能化工具作用的發(fā)揮無需勞動(dòng)者的直接參與，勞動(dòng)者僅需啟動(dòng)智能化工具，并等待著“享受”智能化工具所產(chǎn)生的成果。(2)黃素珍：《人工智能的責(zé)任困境：以自主能動(dòng)性和道德圖靈測(cè)試為探討中心》，《山東社會(huì)科學(xué)》2020年第4期。由此，“工具化”的生產(chǎn)工具逐步演變?yōu)椤氨倔w化”的生產(chǎn)工具。這意味著直接實(shí)施“危害行為”的主體由人轉(zhuǎn)變?yōu)橹悄芑ぞ撸纱嗽斐尚袨榕c人的分離化。(3)于沖：《刑事合規(guī)視野下人工智能的刑法評(píng)價(jià)進(jìn)路》，《環(huán)球法律評(píng)論》2019年第6期。問題在于，智能化工具實(shí)施危害行為的原始發(fā)動(dòng)力的確是人類提供的，但是整個(gè)算法循環(huán)運(yùn)作過程卻無人類直接參與。確切地說，人類被排除在了算法循環(huán)之外，被動(dòng)接受算法運(yùn)行結(jié)果。(4)[英]瑪格麗特·博登：《人工智能哲學(xué)》，劉西瑞等譯，上海譯文出版社2001年版，第11頁(yè)?！拔ｋU(xiǎn)在于沒有人能確保該算法設(shè)計(jì)正確，尤其是當(dāng)它與眾多算法交互時(shí)?！?5)[美]皮埃羅·斯加魯菲：《智能的本質(zhì)：人工智能與機(jī)器人領(lǐng)域的64個(gè)大問題》，任莉等譯，人民郵電出版社2017年版，第169頁(yè)。換言之，當(dāng)數(shù)量驚人的算法交互運(yùn)作，且速度遠(yuǎn)超人類想象時(shí)，人類社會(huì)所面臨的風(fēng)險(xiǎn)以及對(duì)危害結(jié)果進(jìn)行歸責(zé)的困難便顯而易見了。

由于人工智能犯罪與普通犯罪相比，存在行為與人分離這一顯著特征，在人工智能犯罪刑事責(zé)任歸屬與認(rèn)定方面，也就存在區(qū)別于普通犯罪的特質(zhì)。本文所要解決的問題是，其一，人工智能犯罪的刑事責(zé)任歸屬應(yīng)遵循什么樣的標(biāo)準(zhǔn)，也即人工智能犯罪的刑事責(zé)任在智能機(jī)器人的生產(chǎn)者和使用者之間應(yīng)當(dāng)如何分配？其二，人工智能犯罪刑事責(zé)任的認(rèn)定應(yīng)遵循什么樣的標(biāo)準(zhǔn)，也即刑法應(yīng)如何確定智能機(jī)器人的生產(chǎn)者或者使用者構(gòu)成犯罪的尺度或底線？以上問題需結(jié)合智能機(jī)器人的本質(zhì)屬性以及人工智能犯罪的實(shí)質(zhì)，契合刑法理論在人工智能時(shí)代的走向，以得出妥善的結(jié)論。

一、端本正源：人工智能犯罪的本質(zhì)

在現(xiàn)階段，智能機(jī)器人尚不具有獨(dú)立自主的意識(shí)和意志，其本質(zhì)屬性仍是人類的工具。人工智能犯罪實(shí)質(zhì)上是人類犯罪，刑法規(guī)制人工智能犯罪并非規(guī)制智能機(jī)器人所實(shí)施的犯罪行為，而是規(guī)制智能機(jī)器人背后的人類過錯(cuò)。

(一)智能機(jī)器人的本質(zhì)屬性是人類的工具

現(xiàn)階段的智能機(jī)器人在人類編寫的算法控制之下，為了滿足人類的需求而運(yùn)作，盡管在運(yùn)作過程中，智能機(jī)器人能夠發(fā)揮相當(dāng)程度的自主性，無需人類的逐步操控。換言之，在程序運(yùn)作時(shí)，人類被排除在了控制智能機(jī)器人的算法循環(huán)之外，被動(dòng)接受算法的運(yùn)行結(jié)果，但這并不意味著智能機(jī)器人取得了自主性，擺脫了作為人類工具的“命運(yùn)”。事實(shí)上，在智能機(jī)器人運(yùn)作過程中，其自主性的發(fā)揮完全在程序編寫者的預(yù)期范圍內(nèi)，仍符合作為工具的兩大屬性，即可為人類所支配，不能在自主意識(shí)和意志支配下實(shí)施影響客觀世界的行為。

一方面，智能機(jī)器人可為人類所支配。能夠?yàn)槿祟愔涞墓ぞ呔哂星Р钊f別的表現(xiàn)形式，但其在本質(zhì)上都是對(duì)人類身體某一部分機(jī)能的替代。從遠(yuǎn)古時(shí)代人類打造的石器、青銅器、鐵器等工具到近現(xiàn)代人類發(fā)明創(chuàng)造的各種大型機(jī)械等工具，都是對(duì)人類手、腳等軀體功能的替代。而在智能時(shí)代，計(jì)算機(jī)、智能機(jī)器人等實(shí)現(xiàn)的主要是對(duì)人類大腦功能的替代。盡管智能機(jī)器人與其他工具相比，在復(fù)雜程度、精密程度、對(duì)人類身體的替代程度上具有天壤之別，但是智能機(jī)器人并未超越工具的本質(zhì)屬性，都是在人類的支配下替代人類身體某一部分機(jī)能。

另一方面，智能機(jī)器人不能在自主意識(shí)和意志支配下實(shí)施影響客觀世界的行為。智能機(jī)器人能夠在人類編寫的程序控制之下自動(dòng)運(yùn)作，對(duì)客觀世界產(chǎn)生影響，其自動(dòng)運(yùn)作的前提是遵循人類編寫的程序。盡管從外觀上看來，智能機(jī)器人在一定程度上發(fā)揮了主觀能動(dòng)性，但究其實(shí)質(zhì)，程序體現(xiàn)了編寫人的意識(shí)和意志，而非智能機(jī)器人自身的意識(shí)和意志。事實(shí)上，智能機(jī)器人并無自主意識(shí)和意志，其實(shí)施的所有影響客觀世界的行為均體現(xiàn)人類的意識(shí)和意志。

以自動(dòng)駕駛汽車為例，盡管自動(dòng)駕駛汽車能夠自主確定行駛速度、最優(yōu)路線，但是其所實(shí)施的上述行為均在人類編寫的程序控制之下，遵循人類輸入的指令。換言之，盡管自動(dòng)駕駛汽車在外觀上表現(xiàn)出一定的主觀能動(dòng)性，但是這種主觀能動(dòng)性的發(fā)揮實(shí)質(zhì)上是人類意識(shí)和意志的具體化，并非體現(xiàn)自動(dòng)駕駛汽車自身的意識(shí)和意志。自動(dòng)駕駛汽車的一切行為均受控于人類，即為人類所支配。

(二)人工智能犯罪的本質(zhì)是人類犯罪

從形式上看，人工智能犯罪是智能機(jī)器人作出的危害社會(huì)行為，但實(shí)質(zhì)上人工智能犯罪體現(xiàn)的并非智能機(jī)器人的過錯(cuò)，而是智能機(jī)器人背后的人類過錯(cuò)。人工智能犯罪本質(zhì)上是人類在使用智能機(jī)器人過程中故意或者過失地導(dǎo)致嚴(yán)重危害社會(huì)結(jié)果發(fā)生的行為。

首先，指導(dǎo)和控制智能機(jī)器人作出行為的是人類編寫的算法，產(chǎn)生刑事風(fēng)險(xiǎn)的算法偏差并非智能系統(tǒng)本身運(yùn)作過程所存在的技術(shù)性偏差，而是融入了人為影響的由算法導(dǎo)致的“技術(shù)霸凌”。信息技術(shù)、人工智能技術(shù)發(fā)展的三要素是算法、數(shù)據(jù)和算力(6)賽迪顧問股份有限公司：《2018人工智能核心產(chǎn)業(yè)發(fā)展白皮書》，《中國(guó)計(jì)算機(jī)報(bào)》2018年11月26日第8版。，算法對(duì)智能系統(tǒng)的運(yùn)作有著決定性影響。算法具有高度的專業(yè)性，未受過專業(yè)訓(xùn)練的人往往無法掌握算法的運(yùn)作原理，更無法對(duì)算法的運(yùn)作過程施加影響。因此，算法的高度專業(yè)性使得算法的編寫與運(yùn)行過程被極少數(shù)專業(yè)人士所掌握。(7)周游：《我國(guó)亟待建立人工智能算法審查機(jī)制》，《中國(guó)計(jì)算機(jī)報(bào)》2018年5月14日第12版。算法作為智能技術(shù)的核心體現(xiàn)，本身是中立的，不具有個(gè)人偏好或者人類的善惡價(jià)值。但是，智能技術(shù)本身的中立并不代表智能系統(tǒng)運(yùn)行之后產(chǎn)生的結(jié)果中立。智能系統(tǒng)運(yùn)作的過程看上去體現(xiàn)了充分的自主性，并非受到人為控制，但是智能系統(tǒng)運(yùn)作的原動(dòng)力——算法，在被編寫與設(shè)計(jì)的階段，往往會(huì)不可避免地受到算法設(shè)計(jì)者倫理道德、價(jià)值取向、結(jié)果導(dǎo)讀、指標(biāo)標(biāo)準(zhǔn)的影響。(8)于沖：《刑事合規(guī)視野下人工智能的刑法評(píng)價(jià)進(jìn)路》，《環(huán)球法律評(píng)論》2019年第6期?！凹词顾惴ńY(jié)果是由數(shù)據(jù)自動(dòng)化處理得出，從本質(zhì)上講就是人為編制的運(yùn)算法則，其中的回報(bào)函數(shù)體現(xiàn)著工程師的設(shè)計(jì)意圖和價(jià)值取向?！?9)于沖：《人工智能的刑法評(píng)價(jià)路徑：從機(jī)器規(guī)制向算法規(guī)制》，《人民法治》2019年第17期。融入了設(shè)計(jì)者不良倫理道德、不當(dāng)價(jià)值取向的算法，即是存在偏差的算法。某一算法的編寫往往影響不只一個(gè)智能系統(tǒng)，而可能會(huì)同時(shí)作用于多個(gè)系統(tǒng)，又或者，一個(gè)智能系統(tǒng)可能會(huì)影響一個(gè)特定領(lǐng)域，也可能會(huì)影響多個(gè)領(lǐng)域。算法偏差的影響非個(gè)人力量所能比擬，其通常會(huì)呈現(xiàn)規(guī)模化、系統(tǒng)化特征，從而對(duì)社會(huì)發(fā)展不利。

其次，現(xiàn)階段的智能機(jī)器人不具有實(shí)質(zhì)意義上的法律人格。歐洲議會(huì)在2016年針對(duì)智能機(jī)器人在外觀上能夠自主作出并執(zhí)行決策的情況，在立法建議報(bào)告中提出賦予智能機(jī)器人“電子人格”，但并沒有如何貫徹智能機(jī)器人“電子人格”的建議。賦予智能機(jī)器人“電子人格”，意味著承認(rèn)智能機(jī)器人的行為能力與責(zé)任能力，而具有行為能力與責(zé)任能力的智能機(jī)器人在給他人造成損害時(shí)，應(yīng)承擔(dān)相應(yīng)的賠償責(zé)任。在該立法建議中，對(duì)智能機(jī)器人造成損害時(shí)所承擔(dān)的賠償責(zé)任的具體落實(shí)，僅提議智能機(jī)器人的生產(chǎn)商為其購(gòu)買強(qiáng)制性保險(xiǎn)。假定智能機(jī)器人具有“電子人格”能夠獲得法律的認(rèn)可，最終承擔(dān)責(zé)任的仍舊是人類，且賦予智能機(jī)器人所謂的“電子人格”并未在實(shí)質(zhì)上影響人類社會(huì)的法律關(guān)系。因此，目前智能機(jī)器人還不可能具有實(shí)質(zhì)意義上的法律人格。

最后，現(xiàn)階段的智能機(jī)器人不具有實(shí)質(zhì)意義上的刑事責(zé)任能力。智能機(jī)器人的設(shè)計(jì)者、生產(chǎn)者作為信息技術(shù)領(lǐng)域和人工智能技術(shù)領(lǐng)域的專業(yè)人士，是智能時(shí)代社會(huì)風(fēng)險(xiǎn)源頭的有力影響者甚至是實(shí)際控制者。而現(xiàn)階段的智能機(jī)器人不具有自主的意識(shí)和意志，無論是人類故意利用智能機(jī)器人實(shí)施犯罪行為，還是在使用智能機(jī)器人過程中因過失導(dǎo)致嚴(yán)重危害社會(huì)的結(jié)果，智能機(jī)器人都只是作為工具而存在，危害后果的發(fā)生并非智能機(jī)器人意識(shí)和意志作用的結(jié)果。智能機(jī)器人作出的所有行為，均未超出人類編寫、設(shè)計(jì)的程序范圍。智能機(jī)器人的行為目的、行為邊界由人類界定。換言之，智能機(jī)器人在完成人類設(shè)定目的的過程中能夠發(fā)揮自主性，但是自主性的發(fā)揮被嚴(yán)格限定在人類編寫的程序射程之內(nèi)，也即智能機(jī)器人的行為均在人類的概括掌控之下。

二、正本清源：人工智能犯罪刑事責(zé)任的歸屬

人工智能犯罪的刑事責(zé)任歸屬應(yīng)遵循什么樣的標(biāo)準(zhǔn)，也即人工智能犯罪的刑事責(zé)任在智能機(jī)器人的生產(chǎn)者和使用者之間應(yīng)當(dāng)如何分配？如果生產(chǎn)者或者使用者故意利用智能機(jī)器人實(shí)施犯罪行為，則只需根據(jù)生產(chǎn)者或者使用者的故意內(nèi)容確定其刑事責(zé)任，此時(shí)不存在刑事責(zé)任歸屬的難題。當(dāng)生產(chǎn)者或者使用者都不存在犯罪故意，卻在過失的情況下導(dǎo)致了嚴(yán)重危害社會(huì)的結(jié)果發(fā)生時(shí)，應(yīng)如何確定刑事責(zé)任的歸屬？筆者認(rèn)為，除使用者違反操作規(guī)程使用智能機(jī)器人的情況之外，過失犯罪刑事責(zé)任均應(yīng)由生產(chǎn)者承擔(dān)。也即人工智能過失犯罪刑事責(zé)任以歸屬于智能機(jī)器人生產(chǎn)者為原則，以歸屬于智能機(jī)器人使用者為例外。

首先，智能機(jī)器人生產(chǎn)者承擔(dān)的注意義務(wù)遠(yuǎn)多于智能機(jī)器人使用者，使用者只應(yīng)承擔(dān)按照操作規(guī)程使用智能機(jī)器人的注意義務(wù)。理論上認(rèn)為，對(duì)過失犯罪而言，無結(jié)果即無犯罪。追究智能機(jī)器人生產(chǎn)者或者使用者過失犯罪刑事責(zé)任的前提是，生產(chǎn)者或者使用者違反注意義務(wù)并因此導(dǎo)致嚴(yán)重危害社會(huì)的結(jié)果發(fā)生。因此，探討人工智能過失犯罪刑事責(zé)任歸屬問題的關(guān)鍵便是，誰承擔(dān)并違反了注意義務(wù)。與使用普通產(chǎn)品不同，使用智能機(jī)器人時(shí)，使用者對(duì)智能機(jī)器人發(fā)揮的影響力極弱，智能機(jī)器人按照算法決定的程序作出行為，使用者只是單純利用算法運(yùn)作所產(chǎn)生的結(jié)果。而生產(chǎn)者是算法的編寫者，能夠從根本上決定智能機(jī)器人的行為，能夠?qū)χ悄軝C(jī)器人的作用發(fā)揮產(chǎn)生決定性影響。不同主體所承擔(dān)的注意義務(wù)理應(yīng)根據(jù)對(duì)智能機(jī)器人影響力的大小而調(diào)整。因此，生產(chǎn)者應(yīng)承擔(dān)絕大部分注意義務(wù)，而使用者只承擔(dān)極少部分注意義務(wù)，也即只要使用者未違反操作規(guī)程使用智能機(jī)器人，便應(yīng)當(dāng)認(rèn)為使用者未違反注意義務(wù)。

其次，人工智能過失犯罪刑事責(zé)任原則上歸屬于智能機(jī)器人生產(chǎn)者，符合“支配原則”。“支配原則”是指，“風(fēng)險(xiǎn)屬于誰的管轄范圍，誰便需要對(duì)風(fēng)險(xiǎn)及由此產(chǎn)生的結(jié)果來負(fù)責(zé)”(10)勞東燕：《過失犯中預(yù)見可能性理論的反思與重構(gòu)》，《中外法學(xué)》2018年第2期。。算法是智能機(jī)器人運(yùn)作的動(dòng)力和依據(jù)，而算法由智能機(jī)器人生產(chǎn)者掌控。當(dāng)算法存在瑕疵時(shí)，智能系統(tǒng)將會(huì)在運(yùn)作過程中將這一瑕疵傳遞并放大，進(jìn)而帶來不良后果。(11)于沖：《刑事合規(guī)視野下人工智能的刑法評(píng)價(jià)進(jìn)路》，《環(huán)球法律評(píng)論》2019年第6期。如果智能機(jī)器人生產(chǎn)者在編寫算法過程中將存在瑕疵的數(shù)據(jù)輸入，可能引發(fā)嚴(yán)重的社會(huì)危害后果，甚至帶來相應(yīng)的刑事風(fēng)險(xiǎn)。(12)李智勇：《終極復(fù)制：人工智能將如何推動(dòng)社會(huì)巨變》，機(jī)械工業(yè)出版社2016年版，第90頁(yè)。尤其是對(duì)于與生命健康或者財(cái)產(chǎn)安全息息相關(guān)的領(lǐng)域而言，如自動(dòng)駕駛、醫(yī)療、工程機(jī)械等智能系統(tǒng)，一旦原始數(shù)據(jù)存在瑕疵，將會(huì)造成難以想象的惡果。而使用者在使用智能機(jī)器人過程中，一般無法干預(yù)智能機(jī)器人的運(yùn)作過程。生產(chǎn)者的支配力不僅作用于智能機(jī)器人的生產(chǎn)領(lǐng)域，而且可以延伸到智能機(jī)器人的使用領(lǐng)域。這與普通產(chǎn)品的生產(chǎn)和使用存在質(zhì)的區(qū)別。以汽車為例，普通汽車在生產(chǎn)領(lǐng)域由生產(chǎn)者支配，而在使用領(lǐng)域則由使用者支配。如果普通汽車發(fā)生交通事故，除汽車本身存在瑕疵，如剎車系統(tǒng)存在故障外，都應(yīng)被認(rèn)為是在駕駛員支配領(lǐng)域發(fā)生的事故，即應(yīng)由駕駛員而非汽車生產(chǎn)者承擔(dān)責(zé)任。但對(duì)于自動(dòng)駕駛汽車而言，即使是汽車使用領(lǐng)域，也仍屬于汽車生產(chǎn)者的支配范疇。只要自動(dòng)駕駛汽車的使用者未違反汽車操作規(guī)程，則無論是因汽車本身瑕疵而引發(fā)交通事故，還是因汽車違反交通規(guī)則而引發(fā)交通事故，均屬在汽車生產(chǎn)者支配領(lǐng)域發(fā)生的事故。

再次，人工智能過失犯罪刑事責(zé)任原則上歸屬于智能機(jī)器人生產(chǎn)者，契合“合理信賴原則”?！昂侠硇刨囋瓌t”是指，智能機(jī)器人使用者有理由相信智能機(jī)器人生產(chǎn)者會(huì)按照法律法規(guī)、人工智能行業(yè)規(guī)范的要求生產(chǎn)出值得信任、不存在產(chǎn)品瑕疵、能夠安全使用的智能機(jī)器人，只要使用者遵循智能機(jī)器人的操作規(guī)程，智能機(jī)器人便會(huì)正常發(fā)揮作用，不會(huì)引發(fā)事故?；凇昂侠硇刨囋瓌t”，智能機(jī)器人的生產(chǎn)者應(yīng)當(dāng)在當(dāng)前技術(shù)發(fā)展程度內(nèi)，窮盡智能機(jī)器人可能引發(fā)事故的所有瑕疵并及時(shí)糾正。智能機(jī)器人含有較高科技含量，非專業(yè)人士無法掌握其運(yùn)作規(guī)則。因此，智能機(jī)器人使用者不可能具有預(yù)見并糾正智能機(jī)器人瑕疵的能力，只能信賴智能機(jī)器人生產(chǎn)者能生產(chǎn)出符合安全標(biāo)準(zhǔn)的無瑕疵智能機(jī)器人。“市場(chǎng)經(jīng)濟(jì)通過交換關(guān)系將不同的利益主體聯(lián)系到一起, 這是人類合作秩序的擴(kuò)展。為保障人類的合作, 為保證社會(huì)秩序的公正和公平, 市場(chǎng)經(jīng)濟(jì)必然伴隨著道德倫理和法律制度的建設(shè)?！?13)高劍平、曲用心：《論利益內(nèi)在的矛盾運(yùn)動(dòng)——基于歷史唯物主義的視野》，《新時(shí)代馬克思主義論叢》2021年第1期。而智能機(jī)器人生產(chǎn)者應(yīng)遵循法律法規(guī)、人工智能行業(yè)規(guī)范以及產(chǎn)品說明和承諾，預(yù)見智能機(jī)器人的瑕疵并及時(shí)進(jìn)行糾正，以防引發(fā)嚴(yán)重危害社會(huì)的后果。

最后，人工智能過失犯罪刑事責(zé)任原則上歸屬于智能機(jī)器人生產(chǎn)者，契合人工智能技術(shù)誕生的最初宗旨。人工智能技術(shù)之所以誕生，主要是科學(xué)家們希望通過探求能夠替代人類大腦的機(jī)器，將人類從繁雜勞動(dòng)中解放出來，為人類探求更高層次的生命價(jià)值和人生意義留出更充足的大腦空間。如果法律仍為智能機(jī)器人使用者設(shè)定較高的注意義務(wù)，則與智能機(jī)器人的設(shè)計(jì)與生產(chǎn)初衷背道而馳。仍以自動(dòng)駕駛汽車為例，生產(chǎn)者為汽車設(shè)計(jì)自動(dòng)駕駛程序，初衷就是把駕駛員從駕駛的疲勞與機(jī)械動(dòng)作中解放出來，以便“駕駛員”能夠在汽車行駛過程中同時(shí)實(shí)施其他行為。正因如此，與普通汽車相比，自動(dòng)駕駛汽車“駕駛員”在汽車行駛途中理應(yīng)承擔(dān)遠(yuǎn)小于普通汽車駕駛員的注意義務(wù)。換言之，自動(dòng)駕駛汽車“駕駛員”只需遵循汽車操作規(guī)程來啟動(dòng)汽車以及在汽車發(fā)出警報(bào)等必要時(shí)刻介入駕駛行為，在其他時(shí)間無需干擾自動(dòng)駕駛汽車的自動(dòng)運(yùn)行。在行駛過程中遵守交通法律法規(guī)，控制汽車的行進(jìn)方向、路線、速度等，是自動(dòng)駕駛汽車程序運(yùn)行所能自動(dòng)達(dá)成的要求和目標(biāo)，無需使用者介入。如果法律賦予自動(dòng)駕駛汽車使用者除簡(jiǎn)單、必要地按照操作規(guī)程所需作出動(dòng)作之外的義務(wù)，如持續(xù)地監(jiān)督自動(dòng)駕駛汽車的運(yùn)行狀況，則與自動(dòng)駕駛汽車的設(shè)計(jì)與生產(chǎn)初衷相悖。

三、本立道生：人工智能犯罪刑事責(zé)任的認(rèn)定

對(duì)智能機(jī)器人所實(shí)施行為能夠產(chǎn)生決定性影響的是智能機(jī)器人生產(chǎn)者。當(dāng)生產(chǎn)者或者使用者都不存在犯罪故意，卻在過失的情況下導(dǎo)致了嚴(yán)重危害社會(huì)的結(jié)果發(fā)生時(shí)，除使用者存在違反操作規(guī)程使用智能機(jī)器人的情況之外，過失犯罪刑事責(zé)任均應(yīng)由生產(chǎn)者承擔(dān)。但是，這并不意味著對(duì)智能機(jī)器人生產(chǎn)者的刑事歸責(zé)具有隨意性。相反，刑法認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪應(yīng)遵循什么樣的標(biāo)準(zhǔn)，也即刑法應(yīng)如何確定智能機(jī)器人生產(chǎn)者構(gòu)成犯罪的尺度或底線，是一個(gè)值得深入探究的課題。

(一)認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪應(yīng)遵循的原則

第一，確定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)時(shí)，應(yīng)遵循在安全與發(fā)展中求平衡的原則。(14)房慧穎：《預(yù)防刑法的天然偏差與公共法益還原考察的化解方式》，《政治與法律》2020年第9期。應(yīng)當(dāng)看到，刑法認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)，會(huì)直接影響人工智能技術(shù)為社會(huì)帶來的風(fēng)險(xiǎn)及智能機(jī)器人生產(chǎn)者技術(shù)創(chuàng)新的熱情。具體而言，如果智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)過低，即智能機(jī)器人生產(chǎn)者動(dòng)輒面臨被追究刑事責(zé)任的風(fēng)險(xiǎn)，則其研發(fā)、設(shè)計(jì)、生產(chǎn)智能機(jī)器人的積極性將大大降低，這將會(huì)限制甚至阻礙人工智能技術(shù)的進(jìn)步與發(fā)展；如果智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)過高，則生產(chǎn)者在研發(fā)、設(shè)計(jì)、生產(chǎn)智能機(jī)器人時(shí)可能會(huì)不認(rèn)真履行保證人義務(wù)，從而導(dǎo)致產(chǎn)品安全問題產(chǎn)生，進(jìn)而導(dǎo)致人工智能技術(shù)風(fēng)險(xiǎn)的不當(dāng)升高。“過失犯是開放的構(gòu)成要件，對(duì)于過失犯的把握要非常謹(jǐn)慎。”(15)儲(chǔ)陳城：《人工智能時(shí)代刑法歸責(zé)的走向——以過失的歸責(zé)間隙為中心的討論》，《東方法學(xué)》2018年第3期。刑法所設(shè)定的智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)既不能過高，也不能過低，而應(yīng)盡量在降低人工智能技術(shù)風(fēng)險(xiǎn)與促進(jìn)人工智能技術(shù)發(fā)展之間達(dá)到平衡。

第二，確定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)時(shí)，應(yīng)依循現(xiàn)有科技發(fā)展水平設(shè)定生產(chǎn)者的注意義務(wù)。違反注意義務(wù)是構(gòu)成過失犯罪的前提，法律所設(shè)定的智能機(jī)器人生產(chǎn)者注意義務(wù)的多少將直接影響對(duì)智能機(jī)器人生產(chǎn)者是否構(gòu)成過失犯罪的認(rèn)定。隨著人工智能技術(shù)的發(fā)展，人類可以通過編寫算法達(dá)成越來越多的目的，但是“技術(shù)黑箱”始終存在，算法始終都有不可控制、不可解釋的側(cè)面。(16)沈偉偉：《算法透明原則的迷思——算法規(guī)制理論的批判》，《環(huán)球法律評(píng)論》2019年第6期。智能機(jī)器人生產(chǎn)者對(duì)于智能機(jī)器人投入使用后的所有風(fēng)險(xiǎn)，在當(dāng)前的技術(shù)水平之下，未必能夠全面地預(yù)見和避免。對(duì)于當(dāng)前技術(shù)水平下生產(chǎn)者無法預(yù)見的風(fēng)險(xiǎn)產(chǎn)生危害結(jié)果的情況，當(dāng)然不能認(rèn)為生產(chǎn)者違反了相應(yīng)的注意義務(wù)。(17)房慧穎：《預(yù)防性刑法的風(fēng)險(xiǎn)及應(yīng)對(duì)策略》，《法學(xué)》2021年第9期。筆者在此僅強(qiáng)調(diào)具有結(jié)果預(yù)見可能性是生產(chǎn)者違反注意義務(wù)的前提，而不強(qiáng)調(diào)具有結(jié)果回避可能性是生產(chǎn)者違反注意義務(wù)的前提，原因在于，具有結(jié)果預(yù)見可能性是具有結(jié)果回避可能性的前提和基礎(chǔ)。生產(chǎn)者不具有結(jié)果預(yù)見可能性時(shí)，必然也不具備結(jié)果回避可能性。當(dāng)然，假如在生產(chǎn)智能機(jī)器人時(shí)，生產(chǎn)者對(duì)智能機(jī)器人所造成的嚴(yán)重社會(huì)危害結(jié)果具有結(jié)果預(yù)見可能性，基于人工智能風(fēng)險(xiǎn)在當(dāng)前技術(shù)水平下存在一定程度的不可控性，生產(chǎn)者應(yīng)完全切斷具有較高風(fēng)險(xiǎn)的智能機(jī)器人投入使用領(lǐng)域的渠道，以防不可控的具有較高風(fēng)險(xiǎn)的智能機(jī)器人在投入使用領(lǐng)域后帶來嚴(yán)重危害社會(huì)的結(jié)果。

第三，確定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)時(shí)，應(yīng)遵循“被允許的危險(xiǎn)”原則。人工智能技術(shù)發(fā)展創(chuàng)新所帶來的無法預(yù)測(cè)、無法避免的風(fēng)險(xiǎn)應(yīng)由全人類共同分擔(dān)，而非由智能機(jī)器人生產(chǎn)者承擔(dān)。雖然人工智能技術(shù)已歷經(jīng)近70年發(fā)展歷程，但從總體而言，人工智能技術(shù)仍處于初級(jí)發(fā)展階段。在人工智能技術(shù)的創(chuàng)新及應(yīng)用過程中，仍存有諸多人類無法預(yù)測(cè)、無法避免的風(fēng)險(xiǎn)。既然人工智能技術(shù)發(fā)展創(chuàng)新所產(chǎn)生的“紅利”由全人類共同享受，則其所帶來的無法預(yù)測(cè)、無法避免的風(fēng)險(xiǎn)也理應(yīng)由全人類共同承擔(dān)。“如果沒有證據(jù)證明任何人有注意義務(wù)的違反的話，雖然會(huì)出現(xiàn)責(zé)任的空白地帶，但是鑒于刑法的謙抑精神，應(yīng)該將這種空白地帶讓社會(huì)全體來承擔(dān)?！?18)儲(chǔ)陳城：《人工智能時(shí)代刑法歸責(zé)的走向——以過失的歸責(zé)間隙為中心的討論》，《東方法學(xué)》2018年第3期。這種無法預(yù)測(cè)、無法避免的風(fēng)險(xiǎn)現(xiàn)實(shí)化后所產(chǎn)生的危害結(jié)果，即屬于刑法理論中的“被允許的危險(xiǎn)”(19)[日]西田典之：《日本刑法總論》，劉明祥等譯，中國(guó)人民大學(xué)出版社2007年版，第104頁(yè)。?！氨辉试S的危險(xiǎn)”當(dāng)然不能作為智能機(jī)器人生產(chǎn)者承擔(dān)刑事責(zé)任的來源和依據(jù)。

第四，確定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)時(shí)，應(yīng)遵循“法律不強(qiáng)人所難”原則?！胺梢笮袨槿说牧x務(wù)是以行為人能夠履行義務(wù)為前提的。所以，預(yù)見義務(wù)是以預(yù)見可能為前提的。如果行為人沒有預(yù)見能力，則不要求其必須履行負(fù)有的義務(wù)。”(20)劉憲權(quán)：《刑法學(xué)》，上海人民出版社2016年版，第161頁(yè)。如果基于當(dāng)前社會(huì)生產(chǎn)力的發(fā)展水平與人工智能技術(shù)發(fā)展現(xiàn)狀，智能機(jī)器人生產(chǎn)者在設(shè)計(jì)、研發(fā)、生產(chǎn)智能機(jī)器人過程中，已經(jīng)根據(jù)法律法規(guī)、人工智能行業(yè)規(guī)范、人工智能產(chǎn)品承諾等充分盡到了審慎義務(wù)，但仍未能阻止智能機(jī)器人引發(fā)嚴(yán)重危害社會(huì)的結(jié)果，則應(yīng)認(rèn)為智能機(jī)器人生產(chǎn)者對(duì)該危害結(jié)果的發(fā)生沒有能力預(yù)見，智能機(jī)器人生產(chǎn)者也就沒有義務(wù)阻止該結(jié)果發(fā)生。

(二)認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪應(yīng)參考新過失論

行為人違反注意義務(wù)是構(gòu)成過失犯罪的前提。關(guān)于認(rèn)定行為人違反注意義務(wù)的標(biāo)準(zhǔn)，刑法理論上存在諸多學(xué)說。舊過失論認(rèn)為，注意義務(wù)的核心是結(jié)果預(yù)見義務(wù)；新過失論認(rèn)為，注意義務(wù)的核心是結(jié)果避免義務(wù)，而履行該義務(wù)的前提是對(duì)危害結(jié)果具有具體預(yù)見可能性；新新過失論也認(rèn)為，注意義務(wù)的核心是結(jié)果避免義務(wù)，但是與新過失論不同的是，新新過失論認(rèn)為，履行結(jié)果避免義務(wù)的前提僅是對(duì)危害結(jié)果具有抽象預(yù)見可能性。(21)馬克昌：《比較刑法原理——外國(guó)刑法學(xué)總論》，武漢大學(xué)出版社2015年版，第228-233頁(yè)。分析上述學(xué)說可知，舊過失論只關(guān)注結(jié)果預(yù)見義務(wù)而忽視結(jié)果避免義務(wù)，有可能導(dǎo)致認(rèn)定行為人違反注意義務(wù)的標(biāo)準(zhǔn)過低，從而導(dǎo)致過失犯罪成立范圍不當(dāng)擴(kuò)大，并不足?。欢滦逻^失論提出的對(duì)危害結(jié)果僅具有抽象預(yù)見可能性的觀點(diǎn)，導(dǎo)致作為履行結(jié)果避免義務(wù)前提的結(jié)果預(yù)見義務(wù)的內(nèi)容模糊不清，且缺乏可操作性，也不足取。(22)[日]松尾浩也等：《刑法判例百選I總論》，有斐閣1997年版，第108頁(yè)。因此，舊過失論和新新過失論因自身所存在的不足，不宜作為認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的參考理論。而在判斷智能機(jī)器人生產(chǎn)者是否違背注意義務(wù)時(shí)，新過失論頗具可取之處，可以作為重要參考。

在風(fēng)險(xiǎn)社會(huì)中，諸多風(fēng)險(xiǎn)雖可以被預(yù)見卻無法被避免，而新過失論排除了智能機(jī)器人生產(chǎn)者預(yù)見危害結(jié)果卻無法避免危害結(jié)果從而構(gòu)成過失犯罪的情況，在一定程度上避免了不當(dāng)擴(kuò)大認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的范圍。具體而言，智能時(shí)代不僅帶來了物質(zhì)文明的加速發(fā)展，也導(dǎo)致人類面臨的風(fēng)險(xiǎn)急劇增加。人類為了享受現(xiàn)代文明的便捷、舒適，就不得不容忍一定程度的風(fēng)險(xiǎn)。在現(xiàn)代社會(huì)，諸多風(fēng)險(xiǎn)雖可以被預(yù)見但無法被完全避免。(23)房慧穎：《新型操縱證券市場(chǎng)犯罪的規(guī)制困局與破解之策》，《華東政法大學(xué)學(xué)報(bào)》2022年第1期。以汽車等交通工具為例，其在帶來人類出行效率提高的同時(shí)，也內(nèi)含著導(dǎo)致被害人死傷的風(fēng)險(xiǎn)。人類雖可通過規(guī)范駕駛行為、提高汽車的安全性能等方式降低事故發(fā)生幾率，但卻無法在根本上杜絕汽車所帶來的交通安全風(fēng)險(xiǎn)。人工智能領(lǐng)域的情況亦是如此。智能機(jī)器人在替代人類大腦、減輕人類負(fù)擔(dān)、方便人類生活的同時(shí)，也包含著人類可能預(yù)見但卻無法從根本上完全避免的風(fēng)險(xiǎn)。新過失論強(qiáng)調(diào)結(jié)果避免義務(wù)，而非像舊過失論那樣強(qiáng)調(diào)結(jié)果預(yù)見義務(wù)，有利于將智能機(jī)器人生產(chǎn)者預(yù)見危害結(jié)果但無法從根本上避免危害結(jié)果的情況排除，避免不當(dāng)擴(kuò)大認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的范圍。

智能時(shí)代的風(fēng)險(xiǎn)是與便捷、舒適的現(xiàn)代生活共存的。換言之，人類社會(huì)面臨兩種選擇：一是人類在享受現(xiàn)代物質(zhì)文明的同時(shí)承擔(dān)技術(shù)發(fā)展所帶來的相應(yīng)風(fēng)險(xiǎn)；二是人類為了從根本上杜絕現(xiàn)代文明所帶來的風(fēng)險(xiǎn)，從而舍棄現(xiàn)代文明。第一種選擇是理性的，是人類社會(huì)發(fā)展的必由之路，而第二種選擇是荒謬的。(24)房慧穎：《預(yù)防性刑法的具象考察與理念進(jìn)路》，《法學(xué)論壇》2021年第6期。正因如此，人工智能技術(shù)發(fā)展過程中伴隨的抽象危險(xiǎn)一直存在，將內(nèi)容模糊不清的抽象危險(xiǎn)作為智能機(jī)器人生產(chǎn)者預(yù)見義務(wù)的內(nèi)容顯然并不合理。將具體的、可感知的具體危險(xiǎn)作為認(rèn)定智能機(jī)器人生產(chǎn)者預(yù)見義務(wù)的內(nèi)容，更有利于限制對(duì)生產(chǎn)者注意義務(wù)范圍的認(rèn)定，也更有利于限縮生產(chǎn)者過失犯罪成立的范圍，從而維持技術(shù)發(fā)展與風(fēng)險(xiǎn)防范的平衡。

(三)認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的標(biāo)準(zhǔn)

根據(jù)新過失論，智能機(jī)器人生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是認(rèn)定其違反結(jié)果回避義務(wù)的前提，違反結(jié)果回避義務(wù)是認(rèn)定其違反注意義務(wù)的核心，而違反注意義務(wù)是認(rèn)定其構(gòu)成過失犯罪的必要條件。

首先，智能機(jī)器人生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是認(rèn)定其違反結(jié)果回避義務(wù)的前提。“以客觀預(yù)見義務(wù)的面目出現(xiàn)的預(yù)見可能性，只是作為結(jié)果避免義務(wù)的前提而存在，或者確切地說，是作為履行安全標(biāo)準(zhǔn)的必要前提，它本身并不具有獨(dú)立的意義?！?25)勞東燕：《過失犯中預(yù)見可能性理論的反思與重構(gòu)》，《中外法學(xué)》2018年第2期。換言之，智能機(jī)器人生產(chǎn)者違反結(jié)果回避義務(wù)，則其必然違反了結(jié)果預(yù)見義務(wù)，反之則不成立。具體而言，智能機(jī)器人生產(chǎn)者違反結(jié)果回避義務(wù)的前提是根據(jù)現(xiàn)有科技發(fā)展水平，其有能力預(yù)見到行為所造成的具體危害社會(huì)結(jié)果并采取相應(yīng)措施阻止結(jié)果發(fā)生，但因?yàn)槭韬龃笠舛鴽]有預(yù)見或者已經(jīng)預(yù)見而輕信能夠避免，從而導(dǎo)致危害社會(huì)結(jié)果發(fā)生。此種情況下，才能認(rèn)為智能機(jī)器人生產(chǎn)者違反了結(jié)果回避義務(wù)。反之，并不能由智能機(jī)器人生產(chǎn)者預(yù)見到其行為所造成的具體危害社會(huì)后果，推斷出其違反了結(jié)果回避義務(wù)。例如，根據(jù)現(xiàn)有科技發(fā)展水平，智能機(jī)器人生產(chǎn)者并無能力阻止危害結(jié)果發(fā)生，此時(shí)不能認(rèn)為智能機(jī)器人生產(chǎn)者違反了結(jié)果回避義務(wù)，否則便可能不當(dāng)擴(kuò)大智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪的范圍。

其次，智能機(jī)器人生產(chǎn)者違反結(jié)果回避義務(wù)是認(rèn)定其違反注意義務(wù)的核心。如果智能機(jī)器人生產(chǎn)者違反了注意義務(wù)，則其必然違反了結(jié)果回避義務(wù)，反之則不成立。例如，自動(dòng)駕駛汽車因生產(chǎn)者編寫的算法瑕疵而超速行駛，與超速駕駛摩托車的某甲相撞并導(dǎo)致某甲死亡。在這個(gè)案例中，由于不具有結(jié)果回避的可能性，所以應(yīng)當(dāng)否定生產(chǎn)者的結(jié)果回避義務(wù)，則無論其是否違反了結(jié)果預(yù)見義務(wù)，都不能認(rèn)為其違反了注意義務(wù)。但反之，如果智能機(jī)器人生產(chǎn)者違反了結(jié)果回避義務(wù)，并不必然能夠得出其違反了注意義務(wù)的結(jié)論。根據(jù)《刑法》第16條之規(guī)定，智能機(jī)器人生產(chǎn)者雖然違反了結(jié)果回避義務(wù)，但是不是出于故意或過失，而是由不具有結(jié)果預(yù)見可能性所引起的，則不能認(rèn)定行為人違反了注意義務(wù)。

最后，智能機(jī)器人生產(chǎn)者違反注意義務(wù)是認(rèn)定其構(gòu)成過失犯罪的必要條件。如果智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪，則其必然違反了注意義務(wù)，反之則不成立?！盀榱顺闪⑦^失，違反法律上認(rèn)為必要的注意義務(wù)是必要的?！?26)馬克昌：《比較刑法原理——外國(guó)刑法學(xué)總論》，武漢大學(xué)出版社2015年版，第234-235頁(yè)。如前文所述，智能機(jī)器人生產(chǎn)者應(yīng)遵守的注意義務(wù)范圍不僅限于法律法規(guī)的規(guī)定，還應(yīng)包括人工智能行業(yè)規(guī)范和生產(chǎn)者對(duì)人工智能產(chǎn)品的承諾。無論智能機(jī)器人生產(chǎn)者的行為在客觀上是否造成了嚴(yán)重危害社會(huì)結(jié)果，只要其遵守了法律法規(guī)規(guī)定、人工智能行業(yè)規(guī)范和對(duì)人工智能產(chǎn)品的承諾，就不能認(rèn)為智能機(jī)器人生產(chǎn)者違反了注意義務(wù)，更不可能認(rèn)定其構(gòu)成過失犯罪。(27)房慧穎：《智能風(fēng)險(xiǎn)刑事治理的體系省思與范式建構(gòu)》，《山東社會(huì)科學(xué)》2021年第2期。但反之，如果智能機(jī)器人生產(chǎn)者違反了注意義務(wù)，則不必然能夠得出其構(gòu)成過失犯罪的結(jié)論?！氨M管行為人侵害了法益，但仍需考察，其所違反的規(guī)范是否是用于保護(hù)該類法益。若否，則規(guī)范的違反并沒有對(duì)被害人造成相關(guān)的危險(xiǎn)。”(28)[德]埃里克·希爾根多夫：《因果關(guān)系與客觀歸屬——原理與問題》，徐凌波譯，載陳澤憲主編：《刑事法前沿》(第7卷)，中國(guó)人民公安大學(xué)出版社2013年版，第127頁(yè)。刑法的規(guī)范保護(hù)目的與其他法律的規(guī)范保護(hù)目的不完全一致。智能機(jī)器人生產(chǎn)者雖違反了注意義務(wù)，但該注意義務(wù)與危害結(jié)果不存在直接關(guān)聯(lián)時(shí)，不能認(rèn)定智能機(jī)器人生產(chǎn)者構(gòu)成過失犯罪。此時(shí)，危害結(jié)果的發(fā)生無法歸因于智能機(jī)器人生產(chǎn)者實(shí)施的行為，也就無法將危害結(jié)果歸責(zé)于智能機(jī)器人生產(chǎn)者。