劉憲權(quán) 朱 彥

毫無疑問，在過去的2017年里，“人工智能”是各行各業(yè)最熱門的詞匯，“人工智能”似一股洪流洶涌澎湃且不可阻擋地快速滲透進(jìn)社會生活的方方面面，已經(jīng)引起界內(nèi)界外的各方關(guān)注?！斑@是最好的時(shí)代，也是最壞的時(shí)代”①[英]狄更斯：《雙城記》，宋兆霖譯，大眾文藝出版社2000年版，第1頁。，有學(xué)者提出，人工智能既是人類社會的偉大發(fā)明，同時(shí)也會給法律秩序帶來巨大的風(fēng)險(xiǎn)。其中，人工智能技術(shù)在民事主體法、著作權(quán)法、侵權(quán)責(zé)任法、人格權(quán)法、交通法、勞動(dòng)法等諸多方面與現(xiàn)有法律制度形成沖突。②參見吳漢東：《人工智能時(shí)代的制度安排與法律規(guī)制》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2017年第5期。筆者認(rèn)為，在人工智能時(shí)代，刑法也不能忽視人工智能技術(shù)所帶來的時(shí)代變遷，有必要從刑法學(xué)的角度來看待人工智能時(shí)代的到來。在時(shí)代更迭的洪流中，我們應(yīng)當(dāng)審慎對待人工智能技術(shù)可能帶來的新的刑事風(fēng)險(xiǎn)，適當(dāng)改變現(xiàn)有的刑法體系，以便應(yīng)對和適應(yīng)人工智能時(shí)代所可能帶來的各種挑戰(zhàn)和新的變化。

一、人工智能技術(shù)會引起犯罪行為的變化

（一）犯罪行為中人工智能技術(shù)的應(yīng)用

人工智能技術(shù)簡單來說就是利用計(jì)算機(jī)程序模擬人類神經(jīng)網(wǎng)絡(luò)，深度學(xué)習(xí)基本規(guī)則和大數(shù)據(jù)，從而可以對外界事物進(jìn)行分析、判斷以及決策的技術(shù)。人工智能技術(shù)現(xiàn)已應(yīng)用于許多行業(yè)：在新聞媒體行業(yè)中已經(jīng)出現(xiàn)了人工智能準(zhǔn)確報(bào)道的新聞，①參見 《九寨溝地震，第一個(gè)發(fā)布該消息的竟是人工智能機(jī)器人》，http://www.sohu.com/a/163384062_391356，搜狐網(wǎng)，2017年12月21日訪問。在醫(yī)療行業(yè)中已經(jīng)出現(xiàn)了高分通過執(zhí)業(yè)醫(yī)師資格考試的醫(yī)療機(jī)器人，②參見馮爍： 《人工智能牽手醫(yī)療產(chǎn)業(yè) “現(xiàn)代華佗”給行業(yè)帶來哪些驚喜》，http://www.52ai.com/AIyingyong/3841.html，人工智能網(wǎng)，2017年12月21日訪問。在藝術(shù)行業(yè)已經(jīng)出現(xiàn)了人工智能創(chuàng)作的優(yōu)美的旋律③參見曾夢龍：《索尼用人工智能寫了兩首歌，你覺得怎么樣》，http://www.qdaily.com/articles/32649.html，好奇心網(wǎng)，2017年12月21日訪問?！敲?，人工智能技術(shù)是否也可以被犯罪行為人所利用，對犯罪行為“推波助瀾”？筆者認(rèn)為，答案應(yīng)該是肯定的，人工智能技術(shù)在改變?nèi)藗兩畹耐瑫r(shí)，也必然帶來一定的風(fēng)險(xiǎn)。人工智能技術(shù)完全可能使犯罪行為的社會危害性在“量”和“質(zhì)”兩方面發(fā)生變化。

其一，人工智能技術(shù)可能使犯罪行為的社會危害性發(fā)生“量”的變化。每一次科技的重大發(fā)展都可以帶來社會生活時(shí)代的更迭，而每一次時(shí)代的更迭都會帶來犯罪行為社會危害性的變化。當(dāng)互聯(lián)網(wǎng)時(shí)代來臨的時(shí)候，一些傳統(tǒng)的犯罪行為借助于網(wǎng)絡(luò)可謂“如虎添翼”，社會危害性呈現(xiàn)出巨大的“量變”。④參見劉憲權(quán)：《網(wǎng)絡(luò)犯罪的刑法應(yīng)對新理念》，《政治與法律》2016年第9期。而如今人工智能時(shí)代已然到來，傳統(tǒng)的犯罪行為借助于人工智能技術(shù)可謂“如虎再添翼”，社會危害性再次發(fā)生“量變”。一方面，隨著人工智能技術(shù)的不斷普及與深化，一些重要的系統(tǒng)，例如金融系統(tǒng)和政府系統(tǒng)，深深依賴于人工智能程序，一旦人工智能程序出現(xiàn)了問題或者不法分子改造人工智能程序，那么完全可能造成災(zāi)難性的危害。另一方面，人工智能技術(shù)可以使犯罪工具或手段更加“智能”，例如證券投資者利用人工智能技術(shù)獲得違背三公原則的速度優(yōu)勢進(jìn)行交易獲利，顯然侵害了其他證券投資者的利益，完全可能構(gòu)成比一般操縱證券市場行為更嚴(yán)重的操縱行為。

其二，人工智能技術(shù)可能使犯罪行為的社會危害性發(fā)生“質(zhì)”的變化。人工智能技術(shù)往往與大數(shù)據(jù)緊密結(jié)合，人工智能技術(shù)的發(fā)展容易造成對信息的侵犯，從而產(chǎn)生新型侵犯信息類犯罪。為了使人工智能技術(shù)得到更為有效、廣泛的應(yīng)用，人工智能產(chǎn)品往往包含強(qiáng)大的數(shù)據(jù)庫，而數(shù)據(jù)的集中本身就具有很高的風(fēng)險(xiǎn)。例如，以往黑客獲取信息可能需要通過破壞不同的系統(tǒng)從而獲得不同的數(shù)據(jù)，但數(shù)據(jù)一旦集中，黑客只需要通過攻擊數(shù)據(jù)庫就能獲取海量信息。此外，面對強(qiáng)大的數(shù)據(jù)庫，不法分子完全可能通過人工智能技術(shù)的分析得到關(guān)鍵、敏感信息（例如涉及國家安全的重要信息），并利用這些信息實(shí)施相關(guān)嚴(yán)重危害社會的犯罪，目前對于數(shù)據(jù)的安全防護(hù)手段可能無法跟上人工智能技術(shù)發(fā)展的速度，也就無法及時(shí)針對新的犯罪行為做出及時(shí)反應(yīng)。另一方面，在數(shù)據(jù)保護(hù)系統(tǒng)并不健全的現(xiàn)在，數(shù)據(jù)的收集事實(shí)上也混雜著合法與非法的手段，涉及對公民個(gè)人信息的侵犯。然而數(shù)據(jù)的集中本身是人工智能技術(shù)的“生命之源”，科技的創(chuàng)新難免會產(chǎn)生風(fēng)險(xiǎn)。筆者認(rèn)為，這種新型侵犯信息類的犯罪與傳統(tǒng)侵犯信息類的犯罪相比，社會危害性有著“質(zhì)”的區(qū)別，主要原因是一些涉及侵犯公民個(gè)人信息行為的主要目的是為了人工智能技術(shù)的革新。因此，對于此類行為，刑法應(yīng)當(dāng)審慎對待。

（二）人工智能時(shí)代犯罪行為變化的應(yīng)對

由上述分析可知，在人工智能技術(shù)可能使犯罪行為的社會危害性發(fā)生“量”與“質(zhì)”兩方面變化的情況下，我國刑法應(yīng)當(dāng)重視人工智能技術(shù)所可能帶來的危害。筆者認(rèn)為，我國刑法應(yīng)當(dāng)對濫用人工智能技術(shù)的犯罪行為加以處罰。具體而言，可以從行為人故意和過失兩方面分析行為人濫用人工智能技術(shù)的刑事責(zé)任。

首先，筆者認(rèn)為，如果行為人故意利用人工智能技術(shù)實(shí)施嚴(yán)重危害社會的犯罪行為，我們可以根據(jù)具體情況按照“從平”“從重”和“從輕”三種不同思路和方式分別加以處理。

其一，如果人工智能技術(shù)的應(yīng)用與否不會從根本上改變犯罪行為的社會危害性，那么就應(yīng)當(dāng)按照傳統(tǒng)犯罪行為的標(biāo)準(zhǔn)進(jìn)行“從平”處理。例如，行為人利用人工智能技術(shù)實(shí)施占有類侵犯他人財(cái)物的行為，由于利用人工智能技術(shù)實(shí)施侵財(cái)行為從本質(zhì)上無異于其他各類傳統(tǒng)侵財(cái)行為，差異只是利用的工具或者手段不盡相同而已。雖然在占有類的侵財(cái)犯罪中，行為人利用人工智能技術(shù)可能更容易或更快地占有他人的財(cái)物，但對其社會危害性程度的評判，我們完全可以用“數(shù)額累計(jì)”的方式來衡量或體現(xiàn)，而完全沒有必要在刑法中針對這種特殊的手段專門設(shè)置獨(dú)立的罪名。正如殺人案件中，雖然行為人用槍殺人要比用棍子殺人更容易致人死亡，但對他人生命權(quán)利的侵害其實(shí)并沒有本質(zhì)的區(qū)別，我們就沒有必要在刑法中專門設(shè)置“用槍殺人罪”的罪名?？梢姡瑢χT如利用人工智能技術(shù)實(shí)施侵財(cái)行為等犯罪的處理，按現(xiàn)有刑法條文加以適用完全足夠，無需在刑法條文中再單獨(dú)設(shè)置相關(guān)罪名。

其二，如果人工智能技術(shù)的應(yīng)用使犯罪行為的社會危害性發(fā)生“量變”，而對這種“量變”的社會危害性程度評判，又無法在刑法相關(guān)罪名的規(guī)定中得到充分體現(xiàn)，那么就應(yīng)當(dāng)參照傳統(tǒng)犯罪行為的標(biāo)準(zhǔn)進(jìn)行從重處理。例如，利用人工智能技術(shù)對政府信息系統(tǒng)進(jìn)行攻擊或破壞以實(shí)施犯罪行為，嚴(yán)重危害國家安全、國家信息安全以及社會管理秩序的；或者利用人工智能技術(shù)實(shí)施貶低他人人格損害他人名譽(yù)的犯罪行為，嚴(yán)重危害公民的人格權(quán)和名譽(yù)權(quán)的。由于行為人是在利用人工智能技術(shù)的情況下實(shí)施這些行為的，其行為所具有的社會危害性程度會因?yàn)槔萌斯ぶ悄芗夹g(shù)而呈現(xiàn)幾何倍數(shù)增長，很多情況下其行為所造成的后果將不堪設(shè)想。但是，現(xiàn)行刑法中相關(guān)犯罪的規(guī)定均只是針對傳統(tǒng)犯罪所設(shè)定的，無法將這種呈幾何倍數(shù)增長社會危害的程度進(jìn)行諸如“數(shù)額累計(jì)”等量化評判，因此，對此類應(yīng)用人工智能技術(shù)的犯罪行為應(yīng)當(dāng)從重處理。

其三，如果人工智能技術(shù)的應(yīng)用使犯罪行為的社會危害性發(fā)生“質(zhì)變”，那么就應(yīng)當(dāng)參照傳統(tǒng)犯罪行為的標(biāo)準(zhǔn)進(jìn)行從輕處理。以數(shù)據(jù)庫的建立可能涉及侵犯公民個(gè)人信息罪為例，正如前述，數(shù)據(jù)庫是科技發(fā)展特殊時(shí)期的產(chǎn)物，數(shù)據(jù)庫的建立既可能在很大程度對社會發(fā)展帶來重大利益，也可能因行為人的違法犯罪行為而對公民個(gè)人信息保護(hù)造成沖擊。由于數(shù)據(jù)庫是一個(gè)全新的事物，其建立的過程很難避免如傳統(tǒng)意義上對公民個(gè)人信息侵犯的情況出現(xiàn)。因此，如果行為人在利用人工智能技術(shù)建立數(shù)據(jù)庫的行為觸犯現(xiàn)行法律規(guī)定，對其行為在定罪和量刑上均應(yīng)該充分體現(xiàn)從輕處理的精神，也即我們應(yīng)當(dāng)根據(jù)具體情況審慎適用刑法。

其次，如果行為人對于人工智能技術(shù)所造成的危害結(jié)果的主觀罪過不是故意，行為人可能成立過失犯罪。筆者認(rèn)為，判斷行為人是否成立過失犯罪，應(yīng)當(dāng)首先考慮行為人對于危害結(jié)果的發(fā)生是否負(fù)有預(yù)見義務(wù)。那么如何判斷行為人在使用人工智能技術(shù)的過程中是否對危害結(jié)果負(fù)有預(yù)見義務(wù)？筆者認(rèn)為，該判斷需要考慮行為人在使用人工智能技術(shù)之時(shí)人工智能技術(shù)的發(fā)展水平。如果根據(jù)人工智能技術(shù)的發(fā)展水平，行為人完全可以預(yù)見危害結(jié)果的發(fā)生，那么行為人就負(fù)有預(yù)見義務(wù)。反之，則行為人不負(fù)有預(yù)見義務(wù)。人工智能技術(shù)屬于高風(fēng)險(xiǎn)技術(shù)，所以行為人在使用人工智能技術(shù)之時(shí)需要盡一切可能來保證技術(shù)的應(yīng)用不具有安全隱患，不會造成危害結(jié)果的發(fā)生。如果科技的發(fā)展水平確實(shí)限制了行為人的預(yù)見能力，行為人也確實(shí)不應(yīng)為最終造成的危害結(jié)果“埋單”，對此時(shí)危害結(jié)果的發(fā)生可以理解為意外事件。此外，筆者認(rèn)為，應(yīng)當(dāng)盡快完善人工智能技術(shù)應(yīng)用過程中研發(fā)者和使用者的義務(wù)體系。目前，一些研發(fā)機(jī)構(gòu)如谷歌、Lucid AI等，已經(jīng)設(shè)立了倫理審查委員會，以期避免人工智能產(chǎn)品出現(xiàn)安全問題。如果人工智能技術(shù)的研發(fā)和使用過程沒有一套完整的義務(wù)體系支撐，那么人工智能技術(shù)就如一顆置于社會生活中的“不定時(shí)炸彈”，無法預(yù)知什么時(shí)候會威脅到我們的社會生活。一旦義務(wù)體系建立，如果行為人在使用人工智能技術(shù)的過程中違反了相關(guān)的研發(fā)和使用義務(wù)，最終造成危害結(jié)果，那么行為人也需要承擔(dān)相應(yīng)的刑事責(zé)任。

二、智能機(jī)器人可能成為新的刑事責(zé)任主體

應(yīng)該看到，目前對于人工智能技術(shù)發(fā)展最大的擔(dān)憂就是未來是否會出現(xiàn)能夠威脅到人類社會的智能機(jī)器人。當(dāng)谷歌公司的代表性產(chǎn)品Alpha Go戰(zhàn)勝了世界圍棋冠軍，隨后AlphaGo Zero在僅對圍棋的基本規(guī)則進(jìn)行深度學(xué)習(xí)的情況下又戰(zhàn)勝了Alpha Go，人工智能技術(shù)再次被推至“風(fēng)口浪尖”。著名物理學(xué)家霍金提出人工智能可能在未來會威脅到人類，特斯拉CEO伊隆·馬斯克也曾表示過相同的看法，認(rèn)為人工智能完全可以傷害人類。對于舉世矚目的“人機(jī)大戰(zhàn)”，人們認(rèn)為贏得比賽的就是Alpha Go而不會認(rèn)為是設(shè)計(jì)團(tuán)隊(duì)贏得了比賽。隨著人工智能技術(shù)的不斷發(fā)展，人們不禁提出一個(gè)疑問：智能機(jī)器人是否會成為“新人類”？智能機(jī)器人是否會脫離人類的控制發(fā)生“機(jī)器人犯罪”呢？在著名科幻電影《2001太空漫游》中，機(jī)器人HAL為了防止飛船上的科學(xué)家們關(guān)閉自己的系統(tǒng)，設(shè)計(jì)殺害了4名科學(xué)家，這種可怕的場景在未來是否真的可能出現(xiàn)？對于機(jī)器人的發(fā)展，阿西莫夫曾提出著名的“機(jī)器人三定律”，即“機(jī)器人不得危害人類、必須服從人類的命令、在不違反第一條和第二條的情況下必須保護(hù)自己”。①[美]艾薩克·阿西莫夫：《我，機(jī)器人》，葉李華譯，江蘇文藝出版社2013年版，第59-60頁。但事實(shí)上智能機(jī)器人真的會完全“聽從”人類的命令嗎？智能機(jī)器人如果擺脫了人類的控制，實(shí)施了嚴(yán)重危害社會的犯罪行為，是否應(yīng)當(dāng)作為刑事責(zé)任主體承擔(dān)刑事責(zé)任？面對上述種種疑問和猜想，我們應(yīng)當(dāng)從刑事責(zé)任主體本質(zhì)的角度分析智能機(jī)器人的“定位”。筆者認(rèn)為，智能機(jī)器人一旦擁有屬于自己的獨(dú)立的辨認(rèn)能力和控制能力，即擁有了刑事責(zé)任能力，在這種情況下如果智能機(jī)器人實(shí)施了嚴(yán)重危害社會的犯罪行為完全可以成為獨(dú)立的刑事責(zé)任主體。

（一）智能機(jī)器人的分類

筆者認(rèn)為，對于智能機(jī)器人能否成為獨(dú)立的刑事責(zé)任主體的討論不能一概而論，應(yīng)當(dāng)先根據(jù)智能機(jī)器人行為與程序之間的關(guān)系對其進(jìn)行分類。理論上有人將人工智能分為弱人工智能和強(qiáng)人工智能：弱人工智能指的是通過編程實(shí)現(xiàn)機(jī)器的邏輯判斷、數(shù)據(jù)存儲和搜索等過程的智能；強(qiáng)人工智能指的是使機(jī)器能夠產(chǎn)生思維意識，并具有與人類相當(dāng)甚至超過人類的智能。②參見龔園：《關(guān)于人工智能的哲學(xué)思考》，武漢科技大學(xué)2010年碩士論文，第28頁。筆者認(rèn)為，具有強(qiáng)人工智能的智能機(jī)器人行為也依賴于程序，其行為可能在設(shè)計(jì)和編制的程序范圍內(nèi)，也可能超過設(shè)計(jì)和編制的程序范圍外。就此而言，如果將智能機(jī)器人分為在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為的智能機(jī)器人和在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人，似乎更具有針對性且更加合理、科學(xué)，同時(shí)，我們還可以將這一分類標(biāo)準(zhǔn)作為判斷智能機(jī)器人是否具有獨(dú)立辨認(rèn)能力以及能否成為刑事責(zé)任主體的標(biāo)準(zhǔn)。

在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為的智能機(jī)器人不具有獨(dú)立的辨認(rèn)能力和控制能力。此時(shí)，智能機(jī)器人的行為受制于程序，智能機(jī)器人的行為也符合設(shè)計(jì)和編制程序的預(yù)期。在智能機(jī)器人尚未產(chǎn)生自我意識之時(shí)，智能機(jī)器人的行為體現(xiàn)的是程序的研發(fā)者和使用者的意志，智能機(jī)器人只能被看作是研發(fā)者和使用者的“智能工具”。例如，現(xiàn)已經(jīng)開始逐步得到臨床應(yīng)用的外科手術(shù)機(jī)器人，可以通過深度學(xué)習(xí)自主判斷病人的病情并作出相應(yīng)的診斷。在診斷的過程中，外科手術(shù)機(jī)器人的行為完全受到設(shè)計(jì)和編制程序的控制，雖然其擁有一定的自主決定權(quán)，但這種決定權(quán)仍然是在設(shè)計(jì)和編制的程序范圍內(nèi)。因此，現(xiàn)階段的外科手術(shù)機(jī)器人因受制于設(shè)計(jì)和編制的程序而不具有獨(dú)立的辨認(rèn)能力和控制能力。對于智能機(jī)器人只能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為的情況，如果行為人為了實(shí)施殺人的目的，設(shè)計(jì)出一種“智能殺手”并利用“智能殺人”實(shí)施了故意殺人的行為。即使“智能殺手”可以自我判斷在何時(shí)何地殺害他人，但此時(shí)“智能殺手”只是行為人的殺人工具，不應(yīng)當(dāng)成為獨(dú)立的刑事責(zé)任主體，需要承擔(dān)殺人刑事責(zé)任的是設(shè)計(jì)并使用“智能殺手”的行為人。

一旦智能機(jī)器人通過深度學(xué)習(xí)，產(chǎn)生了自主意識和自我意志，能夠在設(shè)計(jì)和編制的程序范圍外實(shí)施行為，此時(shí)這種能在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人就已經(jīng)具有了獨(dú)立的辨認(rèn)能力和控制能力。智能機(jī)器人的辨認(rèn)能力體現(xiàn)在對自己的行為對社會造成的影響有一定的認(rèn)知，知道自己在做什么。當(dāng)然，筆者承認(rèn)這種辨認(rèn)能力成立的基礎(chǔ)在于研發(fā)者在設(shè)計(jì)和編制程序之時(shí)已經(jīng)對智能機(jī)器人的行為進(jìn)行了基本行為準(zhǔn)則的設(shè)定，也即智能機(jī)器人能明確知道自己的行為是否符合基本行為準(zhǔn)則，這種能力即為辨認(rèn)能力。智能機(jī)器人的控制能力體現(xiàn)在其可以選擇做或者不做某個(gè)行為。智能機(jī)器人既然能在設(shè)計(jì)和編制的程序范圍外行為，就完全可以在自己的意識、意志支配之下對自己的行為進(jìn)行操控。所以，能夠在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人在意識和意志上與自然人幾乎相同，即具有獨(dú)立的辨認(rèn)能力和控制能力。

（二）智能機(jī)器人可能成為刑事責(zé)任主體的理論基礎(chǔ)

筆者認(rèn)為，在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人能夠成為刑事責(zé)任主體，主要理由是：

首先，智能機(jī)器人能否成為刑事責(zé)任主體的關(guān)鍵在于其是否具有刑事責(zé)任能力。對于刑事責(zé)任能力的內(nèi)涵學(xué)界曾有過相關(guān)討論。通說認(rèn)為，刑事責(zé)任能力即為辨認(rèn)能力和控制能力。但也有學(xué)者認(rèn)為，辨認(rèn)能力和控制能力是成立犯罪主體的基本條件，而只有確定一個(gè)人構(gòu)成了犯罪，并確定其應(yīng)當(dāng)承擔(dān)刑事責(zé)任的時(shí)候，才需要進(jìn)一步考察其有無刑事責(zé)任能力，因此刑事責(zé)任能力不是辨認(rèn)能力和控制能力。①參見侯國云、么惠君：《辨認(rèn)控制能力不等于刑事責(zé)任能力》，《中國人民公安大學(xué)學(xué)報(bào)》2005年第6期。筆者認(rèn)為，這種觀點(diǎn)是不妥的，因?yàn)樾淌仑?zé)任能力不是承擔(dān)刑事責(zé)任的能力，我們完全可以認(rèn)為一個(gè)不需要承擔(dān)刑事責(zé)任的人具有刑事責(zé)任能力。根據(jù)我國刑法規(guī)定，已滿 16周歲的人犯罪，應(yīng)當(dāng)負(fù)刑事責(zé)任；同時(shí)規(guī)定精神病人在不能辨認(rèn)或者控制自己行為的時(shí)候造成危害結(jié)果，經(jīng)法定程序鑒定確定的，不負(fù)刑事責(zé)任。筆者認(rèn)為，這兩條規(guī)定中的“負(fù)刑事責(zé)任”可以解讀為具有刑事責(zé)任能力。從這兩條規(guī)定可以得出兩個(gè)結(jié)論：一是任何一個(gè)已滿16周歲的精神正常的自然人都具有刑事責(zé)任能力，無論其是否實(shí)施了嚴(yán)重危害社會的犯罪行為；二是刑事責(zé)任能力的表現(xiàn)形式即為辨認(rèn)能力和控制能力，因?yàn)槲覀冊谂袛嗑癫∪耸欠窬哂行淌仑?zé)任能力的過程就是判斷其是否具有辨認(rèn)能力和控制能力的過程。就此而言，筆者認(rèn)為，我們完全可以將刑事責(zé)任能力直接理解為辨認(rèn)能力和控制能力。

其次，具有刑事責(zé)任能力的行為人可以成為刑事責(zé)任主體。目前我國規(guī)定的刑事責(zé)任主體包括自然人和單位。自然人的刑事責(zé)任能力受到年齡和精神狀況的影響，只有達(dá)到法定年齡，精神狀況正常的自然人才可以成為刑事責(zé)任主體。對于單位而言，其刑事責(zé)任能力來源于單位內(nèi)部人員的個(gè)人意志，也即個(gè)人意志的集合形成了單位意志，從而使單位具有刑事責(zé)任能力，可以認(rèn)為單位的刑事責(zé)任能力是一種“間接的”刑事責(zé)任能力。誠如前文所述，筆者認(rèn)為，在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人具有辨認(rèn)能力和控制能力，所以也應(yīng)當(dāng)認(rèn)為此類智能機(jī)器人具有刑事責(zé)任能力。與單位相比，在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人具有的刑事責(zé)任能力更為“直接”，不需要通過其他主體的意志來表現(xiàn)，更類似于自然人的刑事責(zé)任能力。早期德國刑法學(xué)理論認(rèn)為單位不能成為刑事責(zé)任主體，例如，費(fèi)爾巴哈曾明確表示：“只有個(gè)人才能成為犯罪的可能的主體，而法人（如公司、大學(xué)或者學(xué)院等）決不可能成為犯罪的主體。”①［德］安塞爾姆?里特爾?馮?費(fèi)爾巴哈：《德國刑法教科書》，徐久生譯，中國方正出版社2010年版，第37頁。而如今在世界范圍內(nèi)，大多數(shù)國家都承認(rèn)單位可以成為刑事責(zé)任主體。我們既然都可以接受具有“間接”刑事責(zé)任能力的單位成為刑事責(zé)任主體，在強(qiáng)人工智能時(shí)代到來之時(shí)，我們?yōu)楹尾荒軐⒕哂歇?dú)立辨認(rèn)能力和控制能力（即具有“直接”刑事責(zé)任能力）的智能機(jī)器人納入刑事責(zé)任主體范圍內(nèi)？筆者認(rèn)為，這種理解雖然對傳統(tǒng)理論有很大突破，但卻是確實(shí)可行的。在舊的理論無法回答新時(shí)代所帶來的問題之時(shí)，我們所需要做的就是對舊理論加以改造和完善。將智能機(jī)器人納入刑事責(zé)任主體范圍之內(nèi)并非是沒有理論依據(jù)的，只需要我們在舊理論的基礎(chǔ)上灌以新的血液，就能回答人工智能時(shí)代所提出的新的疑問。

三、智能機(jī)器人可以適用刑罰

縱觀世界各國的刑罰體系，刑罰主要包括生命刑、自由刑和財(cái)產(chǎn)刑等。智能機(jī)器人不同于自然人和單位，其既沒有生命、人身自由，也沒有財(cái)產(chǎn)（就目前階段而言），所以其既不能適用生命刑、自由刑，也不能適用財(cái)產(chǎn)刑。所以有人可能會提出一個(gè)問題：即使承認(rèn)了智能機(jī)器人可以成為刑事責(zé)任主體，我們又如何對其適用刑罰？甚至有人可能會提出對智能機(jī)器人進(jìn)行定罪處罰是毫無意義的。筆者認(rèn)為，這些看法都是不妥當(dāng)?shù)摹χ悄軝C(jī)器人進(jìn)行定罪處罰是有意義的，這種意義可以從智能機(jī)器人適用刑罰的必要性和可能性兩個(gè)角度加以論證。

（一）智能機(jī)器人適用刑罰的必要性

有人可能會認(rèn)為，人們完全可以通過類似于“維修電腦”的維修機(jī)器的方式來實(shí)現(xiàn)對智能機(jī)器人的有效控制，為什么一定要對其施加“刑罰”？換言之，如果能通過簡單的維修或報(bào)銷機(jī)器的方式對智能機(jī)器人進(jìn)行改造或銷毀，為什么還要浪費(fèi)司法成本來對智能機(jī)器人進(jìn)行定罪處罰？筆者認(rèn)為，最主要的原因在于如前文所述，具有辨認(rèn)能力和控制能力的智能機(jī)器人不僅僅只是“機(jī)器”而已經(jīng)成為實(shí)質(zhì)意義上的“人”了，也即可以成為刑事責(zé)任主體。既然具有辨認(rèn)能力和控制能力的智能機(jī)器人可以在其獨(dú)立意識、意志支配之下實(shí)施嚴(yán)重危害社會的行為，我們對這種作用于社會的刑事責(zé)任主體的控制就當(dāng)然應(yīng)該上升到“刑罰”的高度。從另一個(gè)角度而言，我們應(yīng)當(dāng)將智能機(jī)器人理解為社會成員的一部分。

在人工智能時(shí)代，智能機(jī)器人在經(jīng)濟(jì)社會生活中發(fā)揮著至關(guān)重要的作用。通常而言，生產(chǎn)力決定生產(chǎn)關(guān)系，而法律制度的設(shè)計(jì)又取決于生產(chǎn)關(guān)系。因此，智能機(jī)器人能否成為社會成員，主要取決于其是否在經(jīng)濟(jì)社會生活中占有重要地位。智能機(jī)器人具有辨認(rèn)能力和控制能力，加之其往往能突破人類的極限，做“人所不能及”之事，這些都決定了在未來智能機(jī)器人能對經(jīng)濟(jì)社會生活產(chǎn)生重要影響。筆者可以大膽預(yù)言，“人機(jī)協(xié)作”模式將深入經(jīng)濟(jì)社會生活的各個(gè)領(lǐng)域。事實(shí)上，就目前的經(jīng)濟(jì)社會生活而言，人工智能技術(shù)的應(yīng)用對于經(jīng)濟(jì)社會生活的重大影響就已經(jīng)初露端倪。例如，從醫(yī)學(xué)影像、輔助診療到健康管理等，醫(yī)療鏈條的各個(gè)環(huán)節(jié)上都出現(xiàn)了人工智能技術(shù)的身影。2017年由阿里健康研發(fā)的醫(yī)療人工智能“Doctor You”正式發(fā)布，未來人工智能將承擔(dān)醫(yī)生助手的角色。①參見馮爍：《人工智能牽手醫(yī)療產(chǎn)業(yè) “現(xiàn)代華佗”給行業(yè)帶來哪些驚喜》，http://www.52ai.com/AIyingyong/3841.html，人工智能網(wǎng)，2017年11月29日訪問。按照現(xiàn)在人工智能技術(shù)令人瞠目結(jié)舌的發(fā)展速度，智能機(jī)器人必然能成為未來經(jīng)濟(jì)社會生活中不可缺少的部分。就此而言，未來智能機(jī)器人與人類形成相互依存、并肩合作的關(guān)系并非天方夜譚，賦予智能機(jī)器人社會成員的資格是十分有必要的。

其次，刑罰具有特殊預(yù)防和一般預(yù)防兩種功能。對于智能機(jī)器人而言，這兩種功能同樣適用。刑罰的特殊預(yù)防功能指的是刑罰對于犯罪人適用而可能產(chǎn)生的積極的社會作用，具體表現(xiàn)在剝奪或限制再犯能力功能，個(gè)別威懾功能，個(gè)別教育功能以及改造功能。對于智能機(jī)器人而言，其既然具有辨認(rèn)能力和控制能力，就同樣可以接受改造，接受教育，受到威懾等。特殊預(yù)防的圓滿結(jié)果在于受刑人由不能再犯，到不敢再犯，到不愿再犯，最終改造成為新人。②參見劉憲權(quán)：《刑法學(xué)》（第4版），上海人民出版社2016年版，第279頁。智能機(jī)器人具有獨(dú)立的辨認(rèn)能力和控制能力，所以如果對智能機(jī)器人加以刑罰，同樣可以達(dá)到特殊預(yù)防的圓滿結(jié)果，接受改造的智能機(jī)器人仍然可以繼續(xù)為社會生活作貢獻(xiàn)。刑罰的一般預(yù)防功能指的是刑罰對于犯罪人以外的其他人可能產(chǎn)生的積極的社會作用，具體表現(xiàn)在一般威懾功能，安撫、補(bǔ)償功能和一般教育功能。一方面，在智能機(jī)器人實(shí)施犯罪行為的情況下，對智能機(jī)器人實(shí)施刑罰實(shí)際上能對被害人起到慰藉作用。以智能機(jī)器人殺人為例，對于被害人而言，其并不在乎犯罪主體究竟是自然人還是智能機(jī)器人，刑罰既然可以施加給自然人，同樣也應(yīng)該施加給智能機(jī)器人。通過對實(shí)施殺人行為的智能機(jī)器人適用刑罰，完全可以滿足社會公正的報(bào)應(yīng)要求。另一方面，除了自然人以外，刑罰的一般預(yù)防對象也可以是智能機(jī)器人。對智能機(jī)器人處以刑罰不僅可以讓其他具有辨認(rèn)能力和控制能力的智能機(jī)器人“懸崖勒馬”，還可以通過明確犯罪行為的性質(zhì)，使一些具有獨(dú)立意識、意志但又不知法的智能機(jī)器人自覺控制自己的行為，從而對智能機(jī)器人犯罪起到“防患于未然”的作用。

（二）智能機(jī)器人適用刑罰的可能性

誠然，我國刑法目前所確立的刑罰體系是僅以自然人和單位為適用對象而設(shè)計(jì)，其中包括主刑（管制、拘役、有期徒刑、無期徒刑、死刑）和附加刑（罰金、剝奪政治權(quán)利、沒收財(cái)產(chǎn)）。而智能機(jī)器人與自然人、單位相比，不享有財(cái)產(chǎn)權(quán)，不享有參與政治生活的權(quán)利，不存在“人身權(quán)”，更不具有生命權(quán)。但是，我們完全可以通過對刑罰體系的重構(gòu)來實(shí)現(xiàn)對智能機(jī)器人的刑事處罰。

智能機(jī)器人雖然沒有生命，但其行為受到編程的影響。編程之于智能機(jī)器人猶如生命之于自然人，智能機(jī)器人的辨認(rèn)能力和控制能力來源于編程。我們可以通過對自然人的生命、自由進(jìn)行限制來對自然人進(jìn)行定罪處罰，我們也同樣可以通過對智能機(jī)器人的編程進(jìn)行調(diào)整來對其進(jìn)行定罪處罰。

筆者認(rèn)為，只要能構(gòu)建出一套較為完整的針對智能機(jī)器人的刑罰體系，那么智能機(jī)器人適用刑罰就完全可以變成現(xiàn)實(shí)。構(gòu)建智能機(jī)器人的刑罰體系時(shí)必須堅(jiān)持以下三個(gè)原則：第一，罪刑相適應(yīng)原則。罪刑相適應(yīng)原則的基本含義主要是刑罰的輕重必須與犯罪的輕重相適應(yīng)，不能重罪輕判，也不能輕罪重判，也即犯罪社會危害性的大小決定著刑罰的輕重，做到重罪重罰，輕罪輕罰。罪刑相適應(yīng)原則要求刑罰體系的建構(gòu)必須有一定的層次，也即要有一定的刑罰階梯，否則刑罰體系就不具有可操作性。筆者認(rèn)為，為了符合罪刑相適應(yīng)原則，對于智能機(jī)器人所施加的刑罰不能是單一的，而應(yīng)當(dāng)層次分明，以適應(yīng)具有不同社會危害性的犯罪行為。第二，目的導(dǎo)向原則。目的導(dǎo)向原則指的是刑罰的構(gòu)建與設(shè)置必須要滿足刑罰的目的，如果認(rèn)為刑罰的目的是預(yù)防犯罪，包括消除犯罪人的人身危險(xiǎn)性，使犯罪人改惡從善等，那么成為刑罰適用根據(jù)的犯罪就必須是主客觀相統(tǒng)一的。我們不對動(dòng)物和物品施加刑罰是因?yàn)獒槍?dòng)物和物品不可能實(shí)施道義或法律報(bào)應(yīng)，但是智能機(jī)器人則不同，能在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的智能機(jī)器人具有辨認(rèn)能力和控制能力，能夠理解行為規(guī)范與裁判規(guī)范，對其施加刑罰是有意義的。此外，刑罰種類的設(shè)計(jì)也應(yīng)該以刑罰的目的為導(dǎo)向。不能實(shí)現(xiàn)刑罰目的的刑罰即是不合理、無必要的刑罰。如果對智能機(jī)器人只是進(jìn)行簡單的“斷電”處理，那么智能機(jī)器人就無法從“被斷電”的經(jīng)歷中被有效威懾，因此以“斷電”作為刑罰的意義便微乎其微；第三，節(jié)儉性原則。智能機(jī)器人的存在從某種程度上而言就是為了促進(jìn)經(jīng)濟(jì)社會生活的快速發(fā)展，因此對于智能機(jī)器人刑罰的設(shè)置也必須考慮經(jīng)濟(jì)效率。當(dāng)智能機(jī)器人實(shí)施了嚴(yán)重危害社會的犯罪行為之時(shí)，我們一方面需要考慮風(fēng)險(xiǎn)的防控，另一方面我們不能花費(fèi)過高的經(jīng)濟(jì)成本來對智能機(jī)器人進(jìn)行刑事處罰。貝卡利亞曾言：“只要刑罰的惡果大于犯罪所帶來的好處，刑罰就可以收到它的效果……除此之外的一切都是多余的，因而也就是暴虐的”。①[意]切薩雷·貝卡利亞：《論犯罪與刑罰》，黃風(fēng)譯，北京大學(xué)出版社2008年版，第63頁。筆者認(rèn)為，刑罰設(shè)置需要具有一定的節(jié)儉性。我們在對智能機(jī)器人適用刑罰之時(shí)，我們需要考慮智能機(jī)器人本身的研發(fā)和使用成本，盡量減少對智能機(jī)器人判處永久銷毀的刑罰，盡量使智能機(jī)器人能夠“回爐重造”，再為人類所用。綜上，筆者認(rèn)為，罪刑相適應(yīng)原則，目的導(dǎo)向原則以及節(jié)儉性原則是人工智能時(shí)代對智能機(jī)器人適用刑罰所必須遵循的三大原則，三大原則相互補(bǔ)充，相互作用，缺一不可。

對于智能機(jī)器人的刑事處罰的具體內(nèi)容，筆者作以下初步構(gòu)想：適用于智能機(jī)器人的刑罰可以有三種，分別為刪除數(shù)據(jù)、修改編程、永久銷毀。刪除數(shù)據(jù)指的是刪除智能機(jī)器人實(shí)施犯罪行為所依賴的數(shù)據(jù)信息，使其“回到”設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，從而避免其實(shí)施違法犯罪行為。修改編程指的是在刪除數(shù)據(jù)仍然無法阻止智能機(jī)器人實(shí)施違法犯罪行為的情況下，強(qiáng)制修改其基礎(chǔ)編程，限制其深度學(xué)習(xí)的能力，進(jìn)而限制其實(shí)施的行為，也就是剝奪其再實(shí)施犯罪行為的可能性。永久銷毀是一種相對于自然人“生命刑”的刑罰，指的是在刪除數(shù)據(jù)、修改編程均無法降低實(shí)施了犯罪行為的智能機(jī)器人的社會危害時(shí)，對其進(jìn)行徹底性、毀滅性的刑罰。這三種刑罰所形成的刑罰體系不僅能滿足筆者在上文所論述三大原則，同時(shí)具有一定的可實(shí)施性，也使我們在人工智能時(shí)代對犯罪的智能機(jī)器人適用刑罰具有可能性。