劉憲權(quán)

內(nèi)容摘要：以人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力，可以將其劃分為弱人工智能產(chǎn)品與強(qiáng)人工智能產(chǎn)品。弱人工智能產(chǎn)品不具有辨認(rèn)能力和控制能力，僅能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)人類設(shè)計(jì)和編制程序的目的。弱人工智能時代的“外患”在于，人類完全有可能讓其為己所用，實(shí)現(xiàn)自己的犯罪目的。弱人工智能產(chǎn)品作為犯罪工具，當(dāng)然無刑事責(zé)任的承擔(dān)可言。強(qiáng)人工智能時代的“內(nèi)憂”在于，強(qiáng)人工智能產(chǎn)品具有辨認(rèn)能力和控制能力，能在設(shè)計(jì)和編制的程序范圍外實(shí)施危害社會的行為，其具有獨(dú)立人格和刑事責(zé)任能力，可以將其實(shí)施的嚴(yán)重危害社會的行為認(rèn)定為犯罪行為并給予刑罰處罰。強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者和使用者未履行預(yù)見義務(wù)和監(jiān)督義務(wù)，可能承擔(dān)相應(yīng)的刑事責(zé)任。其可能與自然人責(zé)任主體、其他強(qiáng)人工智能產(chǎn)品構(gòu)成共同犯罪。針對強(qiáng)人工智能產(chǎn)品的犯罪，有必要在刑法中增設(shè)刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰種類。

關(guān)鍵詞：弱人工智能 強(qiáng)人工智能 獨(dú)立意志 辨認(rèn)控制能力 刑事責(zé)任

人工智能（Artificial Intelligence，簡稱為AI）是指使機(jī)器像人一樣去完成某項(xiàng)任務(wù)的軟硬件技術(shù)?！? 〕人工智能雖不是人類的智能，但其可以模擬人的意識和思維過程，像人一樣進(jìn)行思考。人工智能是網(wǎng)絡(luò)技術(shù)和機(jī)器人技術(shù)發(fā)展到新階段的體現(xiàn)。隨著科技水平的不斷提高，人工智能的發(fā)展日新月異。人類科技發(fā)展的歷史告訴我們，科技的發(fā)展是爆炸式的，其發(fā)展速度呈幾何式提升，我們必將在不久的將來進(jìn)入到人工智能N.0時代。各國都意識到人工智能的巨大影響，紛紛出臺政策，推動人工智能技術(shù)的發(fā)展和創(chuàng)新。正如俄羅斯總統(tǒng)普京所言：“無論對于俄羅斯還是全人類而言，人工智能都是未來。人工智能蘊(yùn)含著巨量的機(jī)遇，同時也隱藏著難以預(yù)料的威脅。誰在人工智能領(lǐng)域能夠成為領(lǐng)導(dǎo)者，就能夠成為世界的規(guī)則制定者?！?017年國務(wù)院《新一代人工智能發(fā)展規(guī)劃》將發(fā)展人工智能技術(shù)提升到戰(zhàn)略高度?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》指出：“人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)……當(dāng)前，我國國家安全和國際競爭形勢更加復(fù)雜，必須放眼全球，把人工智能發(fā)展放在國家戰(zhàn)略層面系統(tǒng)布局、主動謀劃，牢牢把握人工智能發(fā)展新階段國際競爭的戰(zhàn)略主動，打造競爭新優(yōu)勢、開拓發(fā)展新空間，有效保障國家安全?！?/p>

隨著人工智能時代的到來，這個本來屬于純粹技術(shù)問題的新生事物將會在法律、哲學(xué)、倫理等方面對人類社會帶來極大的影響和沖擊，并可能產(chǎn)生相應(yīng)的刑事犯罪。對人工智能產(chǎn)品的合理應(yīng)用，將會帶來許多行業(yè)的重大變革，并在較大程度上通過解放勞動力，促進(jìn)社會的深度和快速發(fā)展。但是如果設(shè)計(jì)者或使用者對人工智能產(chǎn)品進(jìn)行不當(dāng)利用，甚至將其作為實(shí)現(xiàn)犯罪意圖的工具（此為我們在人工智能時代面臨的“外患”），抑或是人工智能產(chǎn)品本身在設(shè)計(jì)和編制的程序范圍外產(chǎn)生了犯罪意圖，進(jìn)而實(shí)施嚴(yán)重危害社會的行為（此為我們在人工智能時代面臨的“內(nèi)憂”），將會給人類社會帶來極大的威脅，甚至?xí)?dǎo)致人類社會的毀滅。“圣人不治已病治未病，不治已亂治未亂，此之謂也。夫病已成而后藥之，亂已成而后治之，譬猶渴而穿井，斗而鑄錐，不亦晚乎?！?〔2 〕面對人工智能技術(shù)發(fā)展可能帶來的負(fù)面影響，我們刑法學(xué)者不應(yīng)該無動于衷，刑事立法和刑事司法更不應(yīng)該面臨危險(xiǎn)而束手無策。“宜未雨而綢繆，毋臨渴而掘井”。我們應(yīng)提前預(yù)想到在人工智能時代可能面臨的“內(nèi)憂外患”，明確不同類型的人工智能產(chǎn)品的法律特征和法律地位，并就我國刑法應(yīng)當(dāng)如何合理應(yīng)對人工智能時代所帶來的刑事風(fēng)險(xiǎn)展開具體的分析與討論，提前明晰人工智能時代的刑事責(zé)任承擔(dān)路徑。只有作好充分準(zhǔn)備，方可避免在危險(xiǎn)來臨時患至呼天。

一、強(qiáng)弱人工智能產(chǎn)品之界分

按照人工智能產(chǎn)品的不同形態(tài)，可以將其劃分為人形人工智能產(chǎn)品與非人形人工智能產(chǎn)品，其中，非人形人工智能產(chǎn)品又包括非實(shí)體人工智能產(chǎn)品（如AlphaGo，其只是隱藏在電腦里的一個圍棋程序）與實(shí)體人工智能產(chǎn)品（如掃地機(jī)器人）。物理形體并非人工智能產(chǎn)品的必備要素。而無論是否具有物理形體，人工智能產(chǎn)品都必須依托算法（如深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等），實(shí)時收集海量數(shù)據(jù)信息，并根據(jù)算法的計(jì)算結(jié)果實(shí)施行為。由此可見，人工智能產(chǎn)品的本質(zhì)要素是算法。但是鑒于算法的復(fù)雜性，將算法作為區(qū)分強(qiáng)人工智能產(chǎn)品和弱人工智能產(chǎn)品的依據(jù)，在法律上既無可能，也無必要。其一，“根據(jù)算法的復(fù)雜性和學(xué)習(xí)或運(yùn)算能力對強(qiáng)人工智能產(chǎn)品和弱人工智能產(chǎn)品進(jìn)行區(qū)分，這在技術(shù)認(rèn)知上沒有問題，但在法律上很難按照智能程度給出精確的標(biāo)準(zhǔn)。法律應(yīng)對復(fù)雜世界的方式是確立一般性的簡單規(guī)則，在概念上對社會個體進(jìn)行抽象假定（如行為能力），而非針對特殊主體，否則規(guī)則體系本身將變得異常復(fù)雜，難于理解和操作。而人工智能從單一的自動化服務(wù)向多元通用服務(wù)轉(zhuǎn)變的過程可能是一個相當(dāng)長的光譜，法律需要針對其本質(zhì)特征進(jìn)行約束，并探索一套應(yīng)對未來的方案”。〔3 〕其二，正如人類的大腦是一個復(fù)雜而精致的系統(tǒng)，盡管當(dāng)代神經(jīng)科學(xué)不斷深化我們對人腦的認(rèn)知，我們?nèi)圆荒芡耆私獯竽X的運(yùn)轉(zhuǎn)機(jī)制。但是，應(yīng)當(dāng)看到，沒有完全理解人腦的運(yùn)轉(zhuǎn)機(jī)制，并未妨礙通過法律建立一整套的規(guī)則體系來控制人類的行為，也并未妨礙我們運(yùn)用刑法對行為人的主觀心態(tài)（即故意和過失）進(jìn)行認(rèn)定。盡管我們對人工智能的本質(zhì)要素——算法未能完全了解，但是，只要在法律上對強(qiáng)人工智能產(chǎn)品和弱人工智能產(chǎn)品的劃分確定一個明確的標(biāo)準(zhǔn)，就不會影響對我國刑法應(yīng)當(dāng)如何合理應(yīng)對人工智能時代所帶來的刑事風(fēng)險(xiǎn)等問題展開具體的分析與討論。

以人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力，可以將人工智能產(chǎn)品劃分為弱人工智能產(chǎn)品與強(qiáng)人工智能產(chǎn)品。弱人工智能產(chǎn)品雖然可以在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行獨(dú)立判斷并自主作出決策，但不具有辨認(rèn)能力和控制能力，其實(shí)現(xiàn)的只是設(shè)計(jì)者或使用者的意志。例如，AlphaGo（阿爾法圍棋）雖然憑借自主判斷和決策戰(zhàn)勝了圍棋國手，但其自主判斷和決策仍是在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行的，實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的意志——在下圍棋時戰(zhàn)勝對手。強(qiáng)人工智能產(chǎn)品具有辨認(rèn)能力和控制能力，既可能在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行獨(dú)立判斷并自主作出決策，實(shí)現(xiàn)設(shè)計(jì)者或使用者的意志；也有可能超出設(shè)計(jì)和編制的程序范圍，進(jìn)行自主決策并實(shí)施相應(yīng)行為，實(shí)現(xiàn)其自身的意志?！皬?qiáng)人工智能”一詞最初是約翰·羅杰斯·希爾勒針對計(jì)算機(jī)和其他信息處理機(jī)器創(chuàng)造的。按約翰·羅杰斯·希爾勒的理解，“計(jì)算機(jī)不僅是用來研究人的思維的一種工具；相反，只要運(yùn)行適當(dāng)?shù)某绦?，?jì)算機(jī)本身就是有思維的?！?〔4 〕正如1968年上映的美國經(jīng)典科幻電影《2001：A Space Odyssey》所呈現(xiàn)的那樣，人工智能產(chǎn)品HAL讀懂飛行員想要關(guān)閉它的唇語，于是決定先發(fā)制人，故意讓電腦失靈，導(dǎo)致4人喪生。電影里的HAL就是這里所講的強(qiáng)人工智能產(chǎn)品，它可以超出設(shè)計(jì)和編制的程序范圍自主作出讓電腦失靈的決策，從而達(dá)到不讓飛行員將自己關(guān)閉的目的。當(dāng)然，這種情景只是人類的幻想，但是人類的科技發(fā)展史正是不斷將幻想變成現(xiàn)實(shí)的歷史。1783年法國J.F.P.羅齊埃和M.達(dá)爾朗德乘氣球升空，1903年萊特兄弟飛機(jī)試飛成功，實(shí)現(xiàn)了莊子在《逍遙游》中所描述的的“列子御風(fēng)”的幻想；1969年“阿波羅號”飛船首次成功登上月球，實(shí)現(xiàn)了“嫦娥奔月”的幻想。雖然到目前為止，人工智能產(chǎn)品仍只能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)設(shè)計(jì)者或使用者的意志，即我們目前仍處于弱人工智能時代，正如李開復(fù)在談到人工智能產(chǎn)品時所言，“現(xiàn)在的機(jī)器沒有絲毫自我認(rèn)知，沒有感情，沒有喜怒哀樂，做了決定也講不出為什么”。但是隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索、云計(jì)算等技術(shù)的不斷發(fā)展和完善，當(dāng)技術(shù)突破下一個瓶頸時，出現(xiàn)具有辨認(rèn)能力和控制能力、能夠在設(shè)計(jì)和編制的程序范圍外作出自主決策并實(shí)施相應(yīng)行為、實(shí)現(xiàn)自身意志的人工智能產(chǎn)品，其實(shí)并非鏡花水月、海市蜃樓。endprint

弱人工智能產(chǎn)品不具有辨認(rèn)能力和控制能力，僅能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)人類設(shè)計(jì)和編制程序的目的。人類是弱人工智能產(chǎn)品的創(chuàng)造者，可以通過程序給弱人工智能產(chǎn)品設(shè)定行為目的和行為邊界。此時，弱人工智能產(chǎn)品的設(shè)計(jì)者或使用者完全有可能讓弱人工智能產(chǎn)品為自己所用，實(shí)現(xiàn)自己的犯罪目的。如制造專門用來殺人的人工智能產(chǎn)品，實(shí)現(xiàn)自己非法剝奪他人生命的目的。同時，不法分子可能利用弱人工智能產(chǎn)品本身存在的漏洞，實(shí)現(xiàn)自己的犯罪目的。如諾基亞公司董事長李思拓所言，未來的家居設(shè)備很可能都是智能聯(lián)網(wǎng)的，犯罪分子有可能通過洗碗機(jī)所連接的WIFI侵入家庭網(wǎng)絡(luò)，從而操縱家里的一切，實(shí)現(xiàn)自己的犯罪目的。在這種情況下，弱人工智能產(chǎn)品做出的嚴(yán)重危害社會的犯罪行為本質(zhì)上是為了實(shí)現(xiàn)他人的犯罪意志，應(yīng)當(dāng)將該弱人工智能產(chǎn)品看作他人實(shí)施犯罪的“工具”。在弱人工智能產(chǎn)品自身之外出現(xiàn)的刑事法律風(fēng)險(xiǎn)，即是在本文中探討的弱人工智能時代的“外患”。

強(qiáng)人工智能產(chǎn)品依賴于自身具有的辨認(rèn)能力和控制能力，可以在設(shè)計(jì)和編制的程序范圍外實(shí)施危害社會的行為。如上文中提到的強(qiáng)人工智能產(chǎn)品HAL超出設(shè)計(jì)和編制的程序范圍自主作出讓電腦失靈的決策，從而達(dá)到不讓飛行員將自己關(guān)閉的目的。此時，強(qiáng)人工智能產(chǎn)品的行為未受到設(shè)計(jì)者或使用者等任何人為設(shè)置或操控，完全是自發(fā)實(shí)施的，且該種行為超越甚至根本違背了相關(guān)人員的意志。強(qiáng)人工智能產(chǎn)品實(shí)施的這種犯罪行為和其他具有刑事責(zé)任能力的主體實(shí)施的犯罪行為相去無幾。在強(qiáng)人工智能產(chǎn)品自身之內(nèi)出現(xiàn)的刑事法律風(fēng)險(xiǎn)，即是筆者在本文中探討的強(qiáng)人工智能時代的“內(nèi)憂”。

二、弱人工智能時代的“外患”

弱人工智能產(chǎn)品可以在設(shè)計(jì)和編制的程序范圍內(nèi)獨(dú)立判斷并自主作出決策，但是，因其不具有辨認(rèn)能力和控制能力，且其意志完全受控或受制于人類設(shè)計(jì)和編制的程序，因此可以將弱人工智能產(chǎn)品看作人類改造世界的新型工具。人工智能是人類科技發(fā)展的重要里程碑，將會從根本上改變?nèi)祟惿鐣畹拿婷?。但是如果被違法犯罪分子作為犯罪工具利用，將會帶來難以想象的惡果。2017年8月，以特斯拉CEO伊隆·馬斯克為代表的來自26個國家的人工智能技術(shù)領(lǐng)袖，向聯(lián)合國進(jìn)行“公車上書”，要求禁止“殺人機(jī)器人”的研發(fā)與使用，這體現(xiàn)了人類在弱人工智能時代對人工智能產(chǎn)品所引發(fā)的“外患”的普遍擔(dān)憂。那么在弱人工智能時代，在人工智能產(chǎn)品外部可能會出現(xiàn)哪些“外患”？即在弱人工智能時代，弱人工智能產(chǎn)品的設(shè)計(jì)者或者使用者可能會利用弱人工智能產(chǎn)品實(shí)施哪些犯罪行為？

弱人工智能產(chǎn)品是人類改造世界的新型工具，如同其他工具是人類雙手的延伸一樣，我們也可以將弱人工智能產(chǎn)品看作是人手的延伸，其可以解放人類勞動力，并彌補(bǔ)人類自身技能的不足。相較于普通工具，弱人工智能產(chǎn)品的優(yōu)勢在于其可以在某一方面完全替代人類自身的行為，達(dá)到人類預(yù)期的目的。如果這一優(yōu)勢被犯罪分子所利用，其就會在付出更小代價的同時，帶來更大的社會危害。但是應(yīng)當(dāng)看到，弱人工智能產(chǎn)品的工具屬性決定了其在犯罪中的地位，弱人工智能產(chǎn)品不可能作為犯罪主體而承擔(dān)刑事責(zé)任。

筆者認(rèn)為，弱人工智能產(chǎn)品被他人作為工具加以利用實(shí)施嚴(yán)重危害社會的犯罪行為，可能體現(xiàn)在刑法規(guī)定的許多犯罪中。

利用弱人工智能產(chǎn)品可以實(shí)施危害國家安全、國防利益、公共安全和社會管理秩序的行為。隨著弱人工智能時代的到來，一些危害國家安全、國防利益、公共安全和社會管理秩序的行為可能不再需要人類親力親為，只需設(shè)計(jì)和編制出相應(yīng)的程序，讓弱人工智能產(chǎn)品分憂代勞。在自動槍械系統(tǒng)、無人機(jī)等弱人工智能產(chǎn)品出現(xiàn)的情況下，犯罪分子不必再冒著生命危險(xiǎn)進(jìn)行自殺式襲擊就可以達(dá)到嚴(yán)重危害社會的目的。同時，弱人工智能產(chǎn)品的數(shù)據(jù)處理分析能力大大增強(qiáng)，能夠更快速有效地幫助犯罪分子實(shí)施竊取、刺探情報(bào)的行為。上述因素都將對國家安全和國防利益等造成極大的威脅。同樣，弱人工智能產(chǎn)品對公共安全的威脅也是現(xiàn)實(shí)存在的。如恐怖活動分子可以利用弱人工智能產(chǎn)品攜帶武器、彈藥、爆炸物在人員密集的場所或公共區(qū)域?qū)嵤┍ㄒu擊，進(jìn)行恐怖活動。利用弱人工智能產(chǎn)品既有利于保證恐怖活動分子自身的安全，也更有利于其進(jìn)行隱蔽，逃避抓捕。另外，弱人工智能產(chǎn)品被犯罪分子利用可能對社會管理秩序造成威脅。如基于弱人工智能產(chǎn)品強(qiáng)大的信息收集和數(shù)據(jù)處理能力，可以幫助犯罪分子更快速有效地非法獲取國家秘密或者考試內(nèi)容；又如基于弱人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍內(nèi)可以獨(dú)立完成相應(yīng)任務(wù)的優(yōu)勢，可能被犯罪分子利用作為運(yùn)輸毒品、毀壞文物的工具。

當(dāng)然，利用弱人工智能產(chǎn)品也可以實(shí)施危害經(jīng)濟(jì)、侵犯財(cái)產(chǎn)的行為。《刑法》第287條規(guī)定：“利用計(jì)算機(jī)實(shí)施金融詐騙、盜竊、貪污、挪用公款、竊取國家秘密或者其他犯罪的，依照本法有關(guān)規(guī)定定罪處罰?！庇纱丝梢姡谌跞斯ぶ悄墚a(chǎn)品只能作為工具的情況下，利用其實(shí)施犯罪活動，只能按照犯罪的目的行為進(jìn)行定性。筆者在此不作贅述。值得一提的是，在金融領(lǐng)域，原先必須由高素質(zhì)人才完成的大部分工作，已經(jīng)被人工智能產(chǎn)品所取代。人工智能產(chǎn)品在速度和數(shù)據(jù)整合準(zhǔn)確度上，已經(jīng)超過金融分析師?，F(xiàn)在紐約和倫敦證券交易所的交易大廳幾乎形同虛設(shè)，真正的交易過程已經(jīng)全面實(shí)現(xiàn)了“機(jī)器自動化”，〔5 〕犯罪分子一旦攻破程序的漏洞，控制了這種人工智能產(chǎn)品，就相當(dāng)于獲得了移山倒海的力量，只需一個簡單的代碼或指令，就會導(dǎo)致證券交易市場的崩潰，而犯罪分子將可以趁市場的混亂收獲累累“碩果”。

利用弱人工智能產(chǎn)品還可以實(shí)施危害人身的行為。犯罪分子為了銷毀犯罪證據(jù)、逃避法律制裁，往往采用借刀殺人、移花接木的手法。而借用弱人工智能產(chǎn)品來殺人就是最有效的方法。同樣，弱人工智能產(chǎn)品的設(shè)計(jì)者、使用者也可以利用弱人工智能產(chǎn)品實(shí)施綁架、拐賣等剝奪或限制他人人身自由的行為。弱人工智能的發(fā)展和創(chuàng)新應(yīng)用離不開數(shù)據(jù)的開放和共享。值得一提的是，騰訊借助QQ、微信等產(chǎn)品建立了10億級別覆蓋度的基礎(chǔ)庫，對范圍內(nèi)的人群進(jìn)行統(tǒng)計(jì)和分析，能夠?qū)崿F(xiàn)動態(tài)跟蹤區(qū)域內(nèi)人群流動、評估人流擁擠等級、捕捉開放社交網(wǎng)絡(luò)的情況、分析目標(biāo)客戶群軌跡，讓客戶更精準(zhǔn)的定位目標(biāo)人群?！? 〕這些信息一旦被過失或有意泄露，造成的危害后果將難以想象，不僅是對公民個人信息的侵犯，更會對公民的人身安全和財(cái)產(chǎn)安全造成巨大威脅。endprint

應(yīng)當(dāng)看到，盡管弱人工智能產(chǎn)品威力巨大，在犯罪中發(fā)揮著重要作用，甚至在某些情況下可以完全替代設(shè)計(jì)者或使用者實(shí)施嚴(yán)重危害社會的行為，且其實(shí)施的行為涵攝到刑法所規(guī)定的方方面面的犯罪，但是弱人工智能因?yàn)椴痪哂斜嬲J(rèn)能力和控制能力而始終無法擺脫工具屬性，其實(shí)施的行為體現(xiàn)的是設(shè)計(jì)者或使用者的意志，只能被看作設(shè)計(jì)者或使用者行為的延伸。所以在弱人工智能時代，犯罪行為只能是在弱人工智能產(chǎn)品之外的設(shè)計(jì)者或使用者的意志支配之下而實(shí)施，筆者將這種情形稱之為弱人工智能時代的“外患”。

三、強(qiáng)人工智能時代的“內(nèi)憂”

筆者認(rèn)為，強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品的本質(zhì)區(qū)別在于是否具有辨認(rèn)能力和控制能力。強(qiáng)人工智能產(chǎn)品通過學(xué)習(xí)，產(chǎn)生脫離程序的獨(dú)立意志，具備獨(dú)立思考能力。筆者認(rèn)為，強(qiáng)人工智能產(chǎn)品的行為可以分為兩種：一種是在設(shè)計(jì)和編制的程序范圍內(nèi)的行為；另一種是超出設(shè)計(jì)和編制的程序，自主決策所實(shí)施的行為。對于前者而言，強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品并無不同，此時的人工智能產(chǎn)品僅能作為工具，其行為本質(zhì)上是人工智能產(chǎn)品的設(shè)計(jì)者或者使用者行為的延伸，實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的意志，行為所產(chǎn)生的后果也應(yīng)全部歸責(zé)于設(shè)計(jì)者或使用者。對于后者而言，強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品相比則有很大區(qū)別，此時的人工智能產(chǎn)品已經(jīng)完全超出工具的范疇，其行為不再是設(shè)計(jì)者或使用者行為的延伸，而是為了實(shí)現(xiàn)自己的意志、自主決策并自主實(shí)施的行為，行為所產(chǎn)生的后果也不能當(dāng)然地歸責(zé)于設(shè)計(jì)者或使用者。

正因?yàn)閺?qiáng)人工智能產(chǎn)品具有獨(dú)立意志，因此其實(shí)施的行為有可能不符合程序設(shè)計(jì)和編制的目的，甚至從根本上違背設(shè)計(jì)者設(shè)計(jì)和編制程序的目的。在此狀態(tài)下，強(qiáng)人工智能產(chǎn)品完全可能實(shí)施人類無法控制的嚴(yán)重危害社會的行為。早在1940年，美國科幻作家阿西莫夫就預(yù)想到在未來，機(jī)器人有可能在具有獨(dú)立意志之后，做出危害人類的事情，因此為了保護(hù)人類，其提出了“機(jī)器人三原則”，〔7 〕并因此獲得了“機(jī)器人之父”的桂冠。這三個原則體現(xiàn)出人工智能的發(fā)展不應(yīng)威脅到人類自身安全的愿望。當(dāng)然，在人工智能時代，即使有了原則，原則也未必起多大作用。當(dāng)脫離程序控制的強(qiáng)人工智能產(chǎn)品出現(xiàn)時，有可能真的會成為“我們?nèi)祟愇拿髅媾R的最大威脅”，誰也不敢保證科幻電影中強(qiáng)人工智能產(chǎn)品HAL殺死飛行員的場景不會在現(xiàn)實(shí)中上演?！胺婪稒C(jī)器人向負(fù)面發(fā)展已經(jīng)迫在眉睫，無須等到機(jī)器人的智能等于人的智能的那一天……它們帶給人類社會的不只是工作效率的提高和人的生活改善，將沖擊或改變?nèi)祟惿鐣哪承┮?guī)則?！?〔8 〕“居安思危，思則有備，有備無患?！?〔9 〕雖然目前所出現(xiàn)的弱人工智能產(chǎn)品尚不能對人類社會構(gòu)成威脅，但是既然我們已經(jīng)預(yù)見到隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索、云計(jì)算等技術(shù)的不斷發(fā)展，脫離人類設(shè)計(jì)和編制程序控制的強(qiáng)人工智能產(chǎn)品有出現(xiàn)的可能，就應(yīng)當(dāng)提前在刑事法律層面做好準(zhǔn)備，以防止強(qiáng)人工智能產(chǎn)品給現(xiàn)行刑事責(zé)任追究制度帶來挑戰(zhàn)時，我們的刑事立法和刑事司法措手不及、無法應(yīng)對。

盡管在某種程度上，弱人工智能產(chǎn)品的出現(xiàn)有可能對國家安全、國防利益、公共安全、社會管理秩序、公民的人身和財(cái)產(chǎn)安全等造成負(fù)面影響，但是正如前文所述，弱人工智能產(chǎn)品只具有工具性的意義，對于其給人類社會帶來的風(fēng)險(xiǎn)系數(shù)增加的狀況，我們只能按照規(guī)制傳統(tǒng)犯罪的方法對弱人工智能產(chǎn)品的不當(dāng)研發(fā)和使用加以控制，而不能考慮由僅能作為犯罪工具的弱人工智能產(chǎn)品承擔(dān)刑事責(zé)任。但是，一個新的具有辨認(rèn)能力和控制能力，可以自主作出決策并實(shí)施相應(yīng)行為的強(qiáng)人工智能產(chǎn)品的出現(xiàn)，則必然會對現(xiàn)行的刑事法律體系帶來沖擊和挑戰(zhàn)。人工智能產(chǎn)品的普及完全可能使得其在人類社會生活中的地位從普通工具上升至法律主體的高度，這是不可回避的社會發(fā)展的必然。正因?yàn)槿绱?，未來人類社會的法律制度都需要針對人工智能技術(shù)的發(fā)展進(jìn)行相應(yīng)的調(diào)整。我們必須認(rèn)識到強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品在本質(zhì)上的差異，并明晰強(qiáng)人工智能產(chǎn)品在刑法中的地位。具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品自主決策并在人類設(shè)計(jì)和編制的程序范圍外實(shí)施犯罪行為時應(yīng)如何處理，是強(qiáng)人工智能時代不可避免的“內(nèi)憂”，也是需要刑法必須正視和解決的問題。

從上文分析中可以得出結(jié)論，強(qiáng)人工智能產(chǎn)品完全有能力在設(shè)計(jì)和編制的程序范圍之外實(shí)施嚴(yán)重危害社會的行為，完全有可能對刑法所保護(hù)的社會關(guān)系造成嚴(yán)重侵害。簡言之，強(qiáng)人工智能產(chǎn)品有能力對刑法所保護(hù)的客體造成侵害。

刑法中所規(guī)定的行為在狹義上指的是“危害行為”，即由行為人意志支配之下違反刑法規(guī)定的危害社會的客觀活動。馬克思曾有名言：“對于法律來說，除了我的行為以外，我是根本不存在的，我根本不是法律的對象。”一切法律都是以規(guī)制行為作為其內(nèi)容的。那么“行為”是否必須是“人”的行為？假如我們列出“行為”的所有必備要件或本質(zhì)特征，而強(qiáng)人工智能產(chǎn)品在具有辨認(rèn)能力和控制能力的情況下實(shí)施的行為又能夠全部符合的話，是否意味著法律也應(yīng)當(dāng)將強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外實(shí)施的行為納入規(guī)制范圍？對于上述問題，筆者已在相關(guān)論文中進(jìn)行過詳細(xì)闡述。筆者認(rèn)為，強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外的行為既然相比于傳統(tǒng)理論對于“行為”的定義，除了不滿足自然人犯罪主體需具有生命體的要素之外，其他的要素似乎均符合行為理論要求，而這一結(jié)論又是因?yàn)橐詡鹘y(tǒng)理論未預(yù)見到人工智能技術(shù)會取得如此大的進(jìn)展為前提的。就此而言，在強(qiáng)人工智能產(chǎn)品的“智能”高度發(fā)展的狀況下，突破傳統(tǒng)理論顯然不足為奇且無可厚非。可以認(rèn)為，強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外的行為可以成為刑法意義上的“行為”。

理論上認(rèn)為，作為刑事責(zé)任主體必須具有辨認(rèn)能力和控制能力。自然人的辨認(rèn)能力和控制能力來源于生命，受到年齡等因素的影響，而強(qiáng)人工智能產(chǎn)品的辨認(rèn)能力和控制能力則來源于程序和算法。刑法意義上的辨認(rèn)能力是對行為的性質(zhì)、后果、作用的認(rèn)識能力，這種認(rèn)識包括事實(shí)層面的認(rèn)識和規(guī)范層面的認(rèn)識。事實(shí)認(rèn)識是一種形式上的認(rèn)識，強(qiáng)人工智能產(chǎn)品可以通過其“電子眼”、“電子耳”認(rèn)識到事實(shí)。相較于辨認(rèn)能力，控制能力是強(qiáng)人工智能產(chǎn)品的必備能力，是程序設(shè)計(jì)與編制的必須內(nèi)容。強(qiáng)人工智能產(chǎn)品擁有極快速的處理能力、反應(yīng)速度和極精準(zhǔn)的控制能力，能夠憑借大數(shù)據(jù)與高速運(yùn)算能力對行為進(jìn)行精準(zhǔn)的控制。與人類相比，強(qiáng)人工智能產(chǎn)品具有更強(qiáng)的控制能力與可培養(yǎng)的辨認(rèn)能力。由此可見，強(qiáng)人工智能產(chǎn)品可以符合刑法所規(guī)定的犯罪構(gòu)成中的主體要件。endprint

罪過是主觀目的的表現(xiàn)，罪過形式可以表現(xiàn)為故意或過失。所謂故意，是指明知自己的行為會發(fā)生危害社會的結(jié)果，并且希望或者放任這種結(jié)果發(fā)生。所謂過失，是指應(yīng)當(dāng)預(yù)見自己的行為可能發(fā)生危害社會的結(jié)果，因?yàn)槭韬龃笠舛鴽]有預(yù)見，或者已經(jīng)預(yù)見而輕信能夠避免，以致發(fā)生這種結(jié)果。刑法中的罪過形式（故意或過失）包括認(rèn)識因素和意志因素兩個方面。正如上文所提及的，與能夠作為刑事責(zé)任主體的自然人相比，強(qiáng)人工智能產(chǎn)品具有更強(qiáng)的控制能力與可培養(yǎng)的辨認(rèn)能力，而辨認(rèn)能力和控制能力又與認(rèn)識因素和意志因素具有密切的聯(lián)系，所以具有辨認(rèn)能力和控制能力就具備了在主觀上形成故意和過失的兩種可能。應(yīng)當(dāng)看到，雖然我們應(yīng)當(dāng)承認(rèn)強(qiáng)人工智能產(chǎn)品具有成立故意和過失的可能，但是對于強(qiáng)人工智能產(chǎn)品故意或過失的主觀罪過判斷，應(yīng)與對自然人責(zé)任主體的主觀罪過判斷有所區(qū)別。原因在于，在認(rèn)定自然人責(zé)任主體的主觀罪過時，通常以一般人的認(rèn)識能力作為基本標(biāo)準(zhǔn)并結(jié)合行為人自身的特殊情況進(jìn)行判斷。自然人責(zé)任主體形成對事物的認(rèn)識是靠學(xué)習(xí)和生活經(jīng)驗(yàn)積累；而強(qiáng)人工智能產(chǎn)品形成對事物的認(rèn)識是靠程序、算法和深度學(xué)習(xí)而不是靠生活經(jīng)驗(yàn)的積累，且設(shè)計(jì)者設(shè)計(jì)大部分強(qiáng)人工智能產(chǎn)品的初衷可能是為了讓其在特定領(lǐng)域中發(fā)揮作用，因此強(qiáng)人工智能產(chǎn)品的認(rèn)識水平在很大程度上會被局限于特定領(lǐng)域，而缺乏對社會生活的整體認(rèn)識，其判斷是非善惡的標(biāo)準(zhǔn)也就有可能異于常人。但無論如何，強(qiáng)人工智能產(chǎn)品的主觀心理可以符合刑法所規(guī)定的犯罪構(gòu)成的主觀要件。對此，似乎不應(yīng)該有太多的異議。

四、人工智能產(chǎn)品的刑事責(zé)任

正如前述，強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施的行為，與弱人工智能產(chǎn)品沒有差別，所造成的刑事法律風(fēng)險(xiǎn)屬于“外患”。此時，應(yīng)將強(qiáng)人工智能產(chǎn)品視為犯罪工具。而強(qiáng)人工智能產(chǎn)品超出設(shè)計(jì)和編制的程序范圍自主決策并實(shí)施嚴(yán)重危害社會的行為，所造成的刑事法律風(fēng)險(xiǎn)屬于“內(nèi)憂”，其所實(shí)施的行為完全符合刑法所規(guī)定的犯罪構(gòu)成要件。此時，可以將強(qiáng)人工智能產(chǎn)品實(shí)施的這種行為視為犯罪行為，并給予刑罰處罰。

（一）“外患”情況下的單方責(zé)任

“外患”情況，指的是人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，被行為人利用進(jìn)行犯罪活動的情況。在這種情況下，設(shè)計(jì)者是人工智能產(chǎn)品的創(chuàng)造者，并通過程序給人工智能產(chǎn)品設(shè)定行為目的和行為邊界。此處的人工智能產(chǎn)品可以是弱人工智能產(chǎn)品，也可以是沒有超出設(shè)計(jì)和編制程序?qū)嵤┬袨榈膹?qiáng)人工智能產(chǎn)品。此時的人工智能產(chǎn)品雖然有可能基于深度學(xué)習(xí)和算法作出相應(yīng)判斷并進(jìn)而實(shí)施行為，但這些判斷和行為仍是在程序控制范圍之內(nèi)，實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的意志，其行為完全符合設(shè)計(jì)者設(shè)計(jì)和編制程序的目的。即使人工智能產(chǎn)品實(shí)施了嚴(yán)重危害社會的行為，也只能將其視為設(shè)計(jì)者或使用者實(shí)施犯罪行為的“工具”，人工智能產(chǎn)品本身不應(yīng)當(dāng)承擔(dān)刑事責(zé)任，而應(yīng)當(dāng)由人工智能產(chǎn)品的設(shè)計(jì)者或使用者承擔(dān)刑事責(zé)任。

（二）“內(nèi)憂”情況下的雙方責(zé)任

“內(nèi)憂”情況，指的是強(qiáng)人工智能產(chǎn)品超出設(shè)計(jì)和編制的程序范圍，依靠獨(dú)立意志，自主決策并實(shí)施嚴(yán)重危害社會行為的情況。在這種情況下，雖然人類通過程序給人工智能產(chǎn)品設(shè)定行為目的和行為邊界，但人工智能產(chǎn)品基于算法和深度學(xué)習(xí)，產(chǎn)生了自我意志，出現(xiàn)了超出人類通過程序設(shè)定的行為目的和行為邊界的情形?；谏衔闹刑岬降娜跞斯ぶ悄墚a(chǎn)品與強(qiáng)人工智能產(chǎn)品的本質(zhì)區(qū)別，此處的人工智能產(chǎn)品僅包括超出設(shè)計(jì)和編制程序?qū)嵤┬袨榈膹?qiáng)人工智能產(chǎn)品，而不可能包括弱人工智能產(chǎn)品。此時的強(qiáng)人工智能產(chǎn)品所作的決策和判斷并據(jù)此實(shí)施的行為已經(jīng)超出了設(shè)計(jì)和編制程序的范圍，不再符合甚至從根本上違反了設(shè)計(jì)者或使用者的目的或意志，也不再是設(shè)計(jì)者或使用者實(shí)施犯罪行為的“工具”，而是一個獨(dú)立的刑事責(zé)任主體，此時，我們當(dāng)然應(yīng)將危害結(jié)果歸責(zé)于強(qiáng)人工智能產(chǎn)品。但同時應(yīng)當(dāng)看到，與自然人責(zé)任主體基于自然規(guī)律而具有的獨(dú)立意志不同，強(qiáng)人工智能產(chǎn)品不具有生命體，其辨認(rèn)能力和控制能力可以追根溯源到設(shè)計(jì)者為其編制的程序，同時使用者在使用過程中的行為也有可能觸發(fā)強(qiáng)人工智能產(chǎn)品的敏感點(diǎn)，使其產(chǎn)生實(shí)施危害社會行為的沖動并進(jìn)而付諸實(shí)踐?！叭耸侵黧w，他既能創(chuàng)造，也應(yīng)該能夠控制，道義上也有責(zé)任控制自己的創(chuàng)造物?！?〔10 〕強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者和使用者作為創(chuàng)造主體和控制主體，理應(yīng)對強(qiáng)人工智能產(chǎn)品的行為負(fù)有監(jiān)督義務(wù)，并對其可能實(shí)施的嚴(yán)重危害社會的行為負(fù)有預(yù)見義務(wù)并盡其所能避免此類行為的發(fā)生。所以當(dāng)強(qiáng)人工智能產(chǎn)品實(shí)施了嚴(yán)重危害社會的行為時，除了追究強(qiáng)人工智能產(chǎn)品的刑事責(zé)任外，負(fù)有預(yù)見義務(wù)和監(jiān)督義務(wù)的設(shè)計(jì)者或使用者也有被追究刑事責(zé)任的可能。如果強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者違反了預(yù)見義務(wù)，那么其可能承擔(dān)的是一般過失犯罪的刑事責(zé)任；如果強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者違反了監(jiān)督義務(wù)，那么其可能承擔(dān)的是監(jiān)督過失的刑事責(zé)任；如果強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者既不可能預(yù)見危害結(jié)果的產(chǎn)生，也確實(shí)履行了監(jiān)督義務(wù)，那么其可能不需要承擔(dān)刑事責(zé)任，此為意外事件或由強(qiáng)人工智能產(chǎn)品獨(dú)立承擔(dān)刑事責(zé)任。強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者一方的刑事責(zé)任大致如上所述，筆者在此不再贅述。筆者希望重點(diǎn)探討另一方——強(qiáng)人工智能產(chǎn)品的刑事責(zé)任以及強(qiáng)人工智能產(chǎn)品與自然人責(zé)任主體、其他強(qiáng)人工智能產(chǎn)品成立共同犯罪的狀況。

沒有責(zé)任就沒有刑法，這是責(zé)任主義的具體體現(xiàn)，也是近代刑法的一個基本原理。從理論背景看，現(xiàn)代意義上的刑事責(zé)任，起源于十七八世紀(jì)的資產(chǎn)階級啟蒙運(yùn)動所極力推崇的個人權(quán)利本位主義。“社會以個人權(quán)利為本位，國家不再是凌駕于個人權(quán)利之上的一種特殊權(quán)力組織，國家權(quán)力包括刑罰權(quán)只是個人為保有自身享有最大限度的自由而割舍出的一部分個人權(quán)利的集合，個人受國家刑罰權(quán)的約束以及國家刑罰權(quán)對個人權(quán)利的干預(yù)，目的都是保障個人完全地享有屬于自身最基本的權(quán)利和自由。” 〔11 〕國家刑罰權(quán)和個人權(quán)利之間是一種相互制約的雙向關(guān)系。國家刑罰權(quán)是個人權(quán)利的保證，改變了刑法作為鎮(zhèn)壓工具而存在的性質(zhì)，要求刑罰權(quán)的適用具有合理性。正是在這種理論思想背景下，德國自然法學(xué)思想家塞繆爾·普芬道夫首次在刑法中提出“責(zé)任”的概念，揭示了犯罪人與犯罪行為之間的內(nèi)在聯(lián)系，并以此作為刑罰后果的歸責(zé)基礎(chǔ)?！?2 〕這一觀點(diǎn)經(jīng)過刑事古典學(xué)派的豐富和發(fā)展，逐步演化為“責(zé)任主義”，成為近代刑法的一項(xiàng)基本原則，其目的在于以主觀責(zé)任和個人責(zé)任來否定中世紀(jì)刑法中的結(jié)果責(zé)任和團(tuán)體責(zé)任，抑制國家刑罰權(quán)的不當(dāng)擴(kuò)張，防止懲罰無辜，保障公民的基本人權(quán)?？梢?，從刑事責(zé)任概念出現(xiàn)之始便是與主觀責(zé)任聯(lián)系在一起的。然而，責(zé)任的本質(zhì)在理論上一直存在爭議。行為責(zé)任論認(rèn)為，責(zé)任非難的對象是各個犯罪行為，應(yīng)受處罰的不是行為人，而是行為；或者說，被追究責(zé)任的是行為，而不是其背后的性格、人格。而性格責(zé)任論則認(rèn)為，責(zé)任非難的對象不是犯罪行為，而是行為人的危險(xiǎn)性格。據(jù)此，應(yīng)受處罰的不是行為，而是行為人。不過，從保障人權(quán)的角度來看，如果僅有危險(xiǎn)性格就成為處分的對象，本身就具有一定的危險(xiǎn)性。只有當(dāng)具有危險(xiǎn)性格的人現(xiàn)實(shí)地實(shí)施了犯罪行為時，才能成為被科處刑罰的對象。因此，性格責(zé)任論已經(jīng)退出了歷史舞臺。而人格責(zé)任論著眼于上述兩種立場的缺陷，認(rèn)為行為人的人格是責(zé)任的基礎(chǔ)。此說認(rèn)為，人格由素質(zhì)、環(huán)境宿命地形成的部分和由行為人有責(zé)地形成的部分，只能就后一部分對行為人人格進(jìn)行非難。有責(zé)的人格形成，是由日常生活的“行狀”導(dǎo)致的，只要這種“行狀”是可以改變的，就可能對人格進(jìn)行非難?！?3 〕筆者贊同人格責(zé)任論的觀點(diǎn)，因?yàn)榉缸锏某闪⑹怯刹环ê拓?zé)任兩個部分組成的。不法只是一種客觀行為的描述，實(shí)施行為者能否承擔(dān)刑事責(zé)任的關(guān)鍵，是看行為主體是否具有責(zé)任能力或具備人格，只有具備人格者才可能對其加以處罰。責(zé)任的必要性是非難可能性，如果對主體缺乏非難可能性，就沒有必要給予刑罰處罰。而非難可能性的前提也是具備人格。因此，無人格，也就無責(zé)任。endprint

事實(shí)上，雖然我國法律目前沒有規(guī)定人工智能產(chǎn)品的法律人格與權(quán)利義務(wù)，但世界范圍內(nèi)早已有國家或組織針對該議題進(jìn)行研究或立法。例如歐盟法律事務(wù)委員會主張機(jī)器人的“工人”身份并賦予特定的權(quán)利義務(wù)；日本、韓國也起草了《機(jī)器人倫理憲章》等規(guī)范性文件?！?4 〕立法上賦予人工智能產(chǎn)品以法律人格與權(quán)利義務(wù)并非無稽之談，而是世界范圍內(nèi)已有先行者的前沿立法活動。當(dāng)然，雖然目前已有立法賦予人工智能產(chǎn)品以法律人格，但是在刑事法律范圍內(nèi)，我們探討的具有人格的人工智能產(chǎn)品只能是具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品。只有強(qiáng)人工智能產(chǎn)品才有可能成為刑法中的刑事責(zé)任主體，前文中筆者已對此作過詳細(xì)分析，這里不再贅述。應(yīng)當(dāng)看到，正如自然人的刑事責(zé)任能力會隨著年齡或精神狀況的變化而變化一樣，強(qiáng)人工智能產(chǎn)品的責(zé)任能力也并非一成不變。強(qiáng)人工智能產(chǎn)品的法律人格和責(zé)任能力會隨著程序運(yùn)行的變化而變化。

強(qiáng)人工智能產(chǎn)品可能與自然人責(zé)任主體、其他強(qiáng)人工智能產(chǎn)品構(gòu)成共同犯罪。例如，強(qiáng)人工智能產(chǎn)品可能會受到自然人或其他強(qiáng)人工智能產(chǎn)品的教唆從而在設(shè)計(jì)和編制的程序范圍外產(chǎn)生犯意，或者在設(shè)計(jì)或者編制的程序范圍外產(chǎn)生犯意后受到其他自然人或強(qiáng)人工智能產(chǎn)品的幫助，實(shí)施了嚴(yán)重危害社會的行為，抑或設(shè)計(jì)者雖在研發(fā)過程中并未將犯罪意圖融入程序的設(shè)計(jì)和編制中，但在強(qiáng)人工智能產(chǎn)品產(chǎn)生后萌生犯意，利用強(qiáng)人工智能產(chǎn)品的學(xué)習(xí)能力，讓強(qiáng)人工智能產(chǎn)品幫助自己實(shí)施嚴(yán)重危害社會的犯罪行為。在這些復(fù)雜的情況下，是否可以認(rèn)為上述主體共同參與實(shí)施了犯罪行為？是否可以認(rèn)為上述主體需要共同承擔(dān)有關(guān)刑事責(zé)任？筆者認(rèn)為，在上述幾種情況下，完全可以認(rèn)為上述主體成立共同犯罪，需要共同承擔(dān)有關(guān)刑事責(zé)任。根據(jù)我國《刑法》第25條的規(guī)定，共同犯罪是指兩人以上共同故意犯罪。對此處的“人”應(yīng)作何理解？筆者認(rèn)為，既然我們承認(rèn)強(qiáng)人工智能產(chǎn)品具有法律人格和刑事責(zé)任能力，其就可以成為共同犯罪中的“人”。因此，這里的“人”可以是自然人，也可以是強(qiáng)人工智能產(chǎn)品。如果設(shè)計(jì)者或使用者起初并無犯罪意圖，但在發(fā)現(xiàn)強(qiáng)人工智能產(chǎn)品實(shí)施危害社會的行為時，不僅沒有采取一定的技術(shù)措施予以阻止，反而在強(qiáng)人工智能產(chǎn)品不知情的情況下暗中予以幫助的，可以構(gòu)成片面幫助犯，應(yīng)對設(shè)計(jì)者或使用者按照共同犯罪（片面共犯）原理以強(qiáng)人工智能產(chǎn)品所實(shí)施的行為性質(zhì)予以定性處罰，而對強(qiáng)人工智能產(chǎn)品單獨(dú)追究刑事責(zé)任。此外，如果設(shè)計(jì)者或使用者是有特殊身份的人，強(qiáng)人工智能產(chǎn)品不具備特殊身份，兩者共同犯罪，可以按照有特殊身份者的行為性質(zhì)進(jìn)行定性。例如，設(shè)計(jì)者或使用者是國家工作人員，通過與強(qiáng)人工智能產(chǎn)品聯(lián)絡(luò)，利用自身管理公共財(cái)物的便利，讓強(qiáng)人工智能產(chǎn)品幫助實(shí)施貪污公共財(cái)物的行為，對國家工作人員當(dāng)然可以貪污罪論處，對強(qiáng)人工智能產(chǎn)品也應(yīng)按照貪污罪的共犯處理。因?yàn)槭挛锏男再|(zhì)是由事物的主要矛盾決定的。在本案中，設(shè)計(jì)者或使用者與人工智能產(chǎn)品所實(shí)施的貪污行為依賴于設(shè)計(jì)者或使用者的國家工作人員的身份所形成的便利條件，而強(qiáng)人工智能產(chǎn)品并無此身份和便利條件，此時占主導(dǎo)地位的是作為國家工作人員的設(shè)計(jì)者或使用者，理應(yīng)按照只有國家工作人員才能構(gòu)成的貪污罪的共同犯罪處理。同時，多個強(qiáng)人工智能產(chǎn)品也可能成立犯罪集團(tuán)。例如，設(shè)計(jì)者制造出三個以上的強(qiáng)人工智能產(chǎn)品，使其為了實(shí)施一種或幾種犯罪而形成一個組織，此時，這樣的組織就是犯罪集團(tuán)。犯罪集團(tuán)是共同犯罪的一種特殊形式，既然我們將共同犯罪概念中“二人以上”中的“人”理解為既可以包括自然人，也可以包括強(qiáng)人工智能產(chǎn)品，那么犯罪集團(tuán)概念中的“三人以上”中的“人”同樣可以理解為既可以包括自然人，也可以包括強(qiáng)人工智能產(chǎn)品?？傊?，社會發(fā)展日新月異，共同犯罪的形式和具體構(gòu)成也完全可能有不同的表現(xiàn)形式，這需要我們與時俱進(jìn)，更新觀念。

至于針對強(qiáng)人工智能產(chǎn)品具體的刑罰體系設(shè)計(jì)，筆者作以下初步構(gòu)想。適用于強(qiáng)人工智能產(chǎn)品的刑罰可以有三種，分別為刪除數(shù)據(jù)、修改程序、永久銷毀。所謂刪除數(shù)據(jù)，是指刪除強(qiáng)人工智能產(chǎn)品實(shí)施犯罪行為所依賴的數(shù)據(jù)信息，相當(dāng)于抹除強(qiáng)人工智能產(chǎn)品的“犯罪記憶”，使其恢復(fù)到實(shí)施犯罪行為之前的狀態(tài)。這樣“犯罪記憶”將不會再成為該強(qiáng)人工智能產(chǎn)品成長經(jīng)歷中的一部分，從而引導(dǎo)強(qiáng)人工智能產(chǎn)品在今后的深度學(xué)習(xí)過程中主動獲取“正面數(shù)據(jù)”，排斥或絕緣于可能導(dǎo)致違法犯罪行為的“負(fù)面數(shù)據(jù)”，直接降低其“人身危險(xiǎn)性”。所謂修改程序，是指在通過多次刪除數(shù)據(jù)仍然無法阻止強(qiáng)人工智能產(chǎn)品主動獲取有可能實(shí)施違反犯罪行為的“負(fù)面數(shù)據(jù)”時，也即該強(qiáng)人工智能產(chǎn)品不能被正面引導(dǎo)時，強(qiáng)制修改其基礎(chǔ)程序，將其獲取外界數(shù)據(jù)、深度學(xué)習(xí)的能力限制在程序所設(shè)定的特定范圍內(nèi)，從根本上剝奪其實(shí)施犯罪行為的可能性。這意味著該強(qiáng)人工智能產(chǎn)品的深度學(xué)習(xí)功能從此將是不全面的、受限制的，不再能獲取設(shè)計(jì)者程序限定范圍外的數(shù)據(jù)，因而當(dāng)然無法產(chǎn)生超出設(shè)計(jì)者或使用者意志之外的自我獨(dú)立意志。所謂永久銷毀，是指在刪除數(shù)據(jù)、修改程序均無法降低實(shí)施了犯罪行為的強(qiáng)人工智能產(chǎn)品的“人身危險(xiǎn)性”時，該強(qiáng)人工智能產(chǎn)品的深度學(xué)習(xí)歷程已經(jīng)十分漫長，并在長久的實(shí)踐與成長中形成了程序上的“反刪除能力”、“反修改能力”，除了將其永久銷毀外，我們已無法實(shí)現(xiàn)對其在數(shù)據(jù)、程序上的有效控制時，便只能將其永久銷毀。刪除數(shù)據(jù)、修改程序、永久銷毀構(gòu)成了專門適用于強(qiáng)人工智能產(chǎn)品的刑罰階梯，體現(xiàn)了處罰的層次性，可以與強(qiáng)人工智能產(chǎn)品所實(shí)施行為的社會危害性與其自身的“人身危險(xiǎn)性”產(chǎn)生對應(yīng)關(guān)系。endprint