趙秉志, 詹奇瑋

一、前 言

近年來(lái)，隨著神經(jīng)網(wǎng)絡(luò)算法的不斷改進(jìn)和計(jì)算機(jī)硬件運(yùn)算處理能力的大幅提高，人工智能技術(shù)開(kāi)始在許多領(lǐng)域中推廣應(yīng)用。互聯(lián)網(wǎng)全面普及產(chǎn)生的海量數(shù)據(jù)，使基于大規(guī)模數(shù)據(jù)集和大規(guī)模計(jì)算設(shè)備的技術(shù)方法日漸成熟，在語(yǔ)音識(shí)別、圖像識(shí)別、語(yǔ)義理解等數(shù)據(jù)豐富的應(yīng)用場(chǎng)景下，人工智能技術(shù)已經(jīng)達(dá)到甚至超過(guò)人類(lèi)水平。新一代人工智能技術(shù)及其應(yīng)用所引發(fā)的，將是各國(guó)經(jīng)濟(jì)結(jié)構(gòu)的重大變革、人類(lèi)生活方式和思維模式的深刻改變。許多行業(yè)人士認(rèn)為，人工智能將引領(lǐng)繼蒸汽革命、規(guī)模化生產(chǎn)革命以及電子革命之后的第四次工業(yè)革命。面對(duì)這一新的機(jī)遇，西方發(fā)達(dá)國(guó)家紛紛出臺(tái)支持性規(guī)劃，在國(guó)家層面對(duì)人工智能產(chǎn)業(yè)進(jìn)行戰(zhàn)略布局，以在未來(lái)的競(jìng)爭(zhēng)中搶占技術(shù)制高點(diǎn)。在人工智能席卷全球的浪潮中，我國(guó)政府也表明了積極參與的態(tài)度與決心。2017年7月20日，國(guó)務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，從戰(zhàn)略態(tài)勢(shì)、總體要求、重點(diǎn)任務(wù)、資源配置、保障措施和組織實(shí)施等六個(gè)方面對(duì)我國(guó)人工智能的發(fā)展作出了總體規(guī)劃和戰(zhàn)略部署。

需要注意的是，科技進(jìn)步帶來(lái)的社會(huì)效應(yīng)恰如一個(gè)硬幣擁有正反兩面，人類(lèi)在享受科技發(fā)展提供的極大便利的同時(shí)，也必然要直面伴隨而來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)。人工智能將為人類(lèi)世界帶來(lái)新的發(fā)展機(jī)遇，這種影響是廣泛而深刻的，但是人工智能發(fā)展的不確定性也會(huì)對(duì)社會(huì)安全形成構(gòu)成新的威脅。作為一種影響廣泛的顛覆性技術(shù)，人工智能可能帶來(lái)改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則等問(wèn)題，將對(duì)政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。因此，在大力發(fā)展人工智能的同時(shí)，也須高度重視伴隨而來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)，確保人工智能安全、可靠、可控地發(fā)展。

歷史經(jīng)驗(yàn)無(wú)數(shù)次表明，刑法從來(lái)都不是引領(lǐng)社會(huì)發(fā)展的“急先鋒”，刑法在社會(huì)發(fā)展進(jìn)程中往往扮演著社會(huì)底線守護(hù)者的角色，通過(guò)刑法規(guī)范將危害行為予以類(lèi)型化來(lái)為人們提供行動(dòng)指引，通過(guò)刑罰的威懾和實(shí)施來(lái)實(shí)現(xiàn)對(duì)危害行為的有力防控，這種制度性安排體現(xiàn)了人類(lèi)社會(huì)和現(xiàn)代國(guó)家趨利避害的理性本能，在很大程度上可以抵消發(fā)展與變革引發(fā)的社會(huì)風(fēng)險(xiǎn)，并將潛在風(fēng)險(xiǎn)向現(xiàn)實(shí)危害轉(zhuǎn)化的可能性盡量降低。與此同時(shí)，刑法功能的發(fā)揮也受保障人權(quán)理念、立法技術(shù)水平和人類(lèi)認(rèn)識(shí)歷史局限性等因素的制約。刑法作為保衛(wèi)社會(huì)的最后一道防線，雖在懲治犯罪、抵御風(fēng)險(xiǎn)方面具有不可替代的重要作用，但同時(shí)也有其自身固有的局限性。只有明確了這種認(rèn)識(shí)，刑法才能以正確的姿態(tài)來(lái)迎接人工智能帶來(lái)的挑戰(zhàn)，妥善發(fā)揮其保護(hù)公民權(quán)益、維護(hù)社會(huì)穩(wěn)定的積極功能。

在此背景和認(rèn)識(shí)基礎(chǔ)上，本文擬通過(guò)簡(jiǎn)要梳理人工智能的發(fā)展歷程來(lái)分別明確我們對(duì)專(zhuān)用人工智能與通用人工智能的應(yīng)有態(tài)度；進(jìn)而分析刑法應(yīng)如何應(yīng)對(duì)圍繞專(zhuān)用人工智能產(chǎn)生的社會(huì)風(fēng)險(xiǎn)，并對(duì)通用人工智能對(duì)刑法可能帶來(lái)的挑戰(zhàn)進(jìn)行展望性探討，以期對(duì)人工智能的法律制度建設(shè)有所裨益。

二、總體態(tài)度：基于專(zhuān)用人工智能與通用人工智能的二分視角

人工智能是涉及多領(lǐng)域的交叉學(xué)科，這種復(fù)雜性使得人們對(duì)其概念存在不同認(rèn)識(shí)。《人工智能標(biāo)準(zhǔn)化白皮書(shū)(2018版)》認(rèn)為，人工智能是利用數(shù)字計(jì)算機(jī)或者數(shù)字計(jì)算機(jī)控制的機(jī)器模擬、延伸和擴(kuò)展人的智能，感知環(huán)境、獲取知識(shí)并使用知識(shí)獲得最佳結(jié)果的、理論、方法、技術(shù)及其應(yīng)用系統(tǒng)。根據(jù)應(yīng)用范圍的不同，人工智能可以分為專(zhuān)用人工智能、通用人工智能、超級(jí)人工智能三類(lèi)。同時(shí)，這三個(gè)類(lèi)別也對(duì)應(yīng)于人工智能的不同發(fā)展層次。其中，專(zhuān)用人工智能又被稱(chēng)作弱人工智能，指的是通過(guò)感知以及記憶存儲(chǔ)來(lái)實(shí)現(xiàn)特定領(lǐng)域或者功能為主的人工智能。這種人工智能技術(shù)正處于高速發(fā)展階段，并已經(jīng)取得較為豐富的成果。而通用人工智能，又稱(chēng)為強(qiáng)人工智能，是基于認(rèn)知學(xué)習(xí)與決策執(zhí)行的能力可實(shí)現(xiàn)多領(lǐng)域的綜合智能。雖然當(dāng)前的人工智能技術(shù)遠(yuǎn)未達(dá)到這種水平，但卻是人工智能的未來(lái)發(fā)展方向。超級(jí)人工智能會(huì)在行動(dòng)能力、思維能力和創(chuàng)造能力等方面全方位超越人類(lèi)，但這還只是人類(lèi)遙遠(yuǎn)的幻想。

專(zhuān)用人工智能與通用人工智能，在技術(shù)性質(zhì)和技術(shù)能力等方面有著本質(zhì)上的不同。當(dāng)下備受關(guān)注和發(fā)展迅猛的人工智能屬于專(zhuān)用人工智能的范疇，它是建立在大數(shù)據(jù)基礎(chǔ)上的，受腦科學(xué)啟發(fā)的類(lèi)腦智能機(jī)理綜合起來(lái)的理論、技術(shù)、方法形成的智能系統(tǒng)。這種人工智能可以在特定事項(xiàng)中具有接近甚至超過(guò)人類(lèi)水平的功能，但由于其無(wú)法產(chǎn)生人類(lèi)特有的自主意識(shí)，所以并不擁有真正的“智能”。而且，就專(zhuān)用人工智能的發(fā)展路徑而言，即使擁有更高性能的計(jì)算平臺(tái)和更大規(guī)模的大數(shù)據(jù)助力，這種提升仍然還只是量變而非質(zhì)變，因而在人類(lèi)真正理解自身智能機(jī)理之前，通用人工智能仍然還是一種遙遠(yuǎn)的設(shè)想。事實(shí)上，圍繞人工智能開(kāi)展的刑法學(xué)研究，本就具有相當(dāng)?shù)那罢靶裕欢?dāng)下的刑法學(xué)界乃至整個(gè)法學(xué)界在討論涉人工智能法學(xué)問(wèn)題的時(shí)候，存在著一種過(guò)于超前的傾向，這種傾向的具體體現(xiàn)，就是將專(zhuān)用人工智能的現(xiàn)實(shí)風(fēng)險(xiǎn)與通用人工智能的未來(lái)挑戰(zhàn)置于同一層面進(jìn)行探討，導(dǎo)致對(duì)人工智能的理論關(guān)切存在一定的錯(cuò)位。形成這種傾向的根本原因，在于討論者未從技術(shù)層面上對(duì)人工智能的發(fā)展歷程與未來(lái)趨勢(shì)予以準(zhǔn)確把握，過(guò)于注重對(duì)設(shè)想性問(wèn)題的探討。

以史為鑒，可以知興替。了解人工智能的歷史演變和發(fā)展趨勢(shì)，也有助于我們?cè)陉P(guān)注人工智能法律問(wèn)題過(guò)程中秉持客觀、理性的態(tài)度?！叭斯ぶ悄堋币辉~出自1956年的達(dá)特茅斯會(huì)議，此次會(huì)議標(biāo)志著人工智能作為一個(gè)研究領(lǐng)域的正式誕生。在1959年，亞瑟·塞繆爾(Arthur Samuel)提出了機(jī)器學(xué)習(xí)，推動(dòng)人工智能進(jìn)入了第一次繁榮期。到了20世紀(jì)70年代初，人們漸漸發(fā)現(xiàn)僅具有邏輯推理能力遠(yuǎn)遠(yuǎn)不夠?qū)崿F(xiàn)人工智能，很多系統(tǒng)一直停留在玩具階段。之前過(guò)于樂(lè)觀的態(tài)度讓人們期望過(guò)高，而現(xiàn)實(shí)又缺乏有效的進(jìn)展，人工智能遭遇了第一次低谷。在20世紀(jì)80年代中期，隨著美國(guó)和日本的立項(xiàng)支持以及機(jī)器學(xué)習(xí)方法的改進(jìn)，出現(xiàn)了具有更強(qiáng)可視化效果的決策樹(shù)模型和突破早期感知機(jī)局限的多層人工神經(jīng)網(wǎng)絡(luò)，人工智能又迎來(lái)第二次繁榮期。但是，由于當(dāng)時(shí)的計(jì)算機(jī)存在難以模擬高復(fù)雜度和大規(guī)模神經(jīng)網(wǎng)絡(luò)的局限性，導(dǎo)致專(zhuān)家系統(tǒng)存在的應(yīng)用領(lǐng)域狹窄、知識(shí)獲取困難、維護(hù)費(fèi)用昂貴等問(wèn)題逐漸暴露，人工智能也隨之進(jìn)入了第二次低谷期。2006年以來(lái)，以深度學(xué)習(xí)為代表的機(jī)器學(xué)習(xí)算法在機(jī)器視覺(jué)、語(yǔ)音識(shí)別等領(lǐng)域取得了極大的成功，而云計(jì)算、大數(shù)據(jù)等技術(shù)在提升運(yùn)算速度、降低計(jì)算成本的同時(shí)，也為人工智能發(fā)展提供了豐富的數(shù)據(jù)資源，協(xié)助訓(xùn)練出更加智能化的算法模型。人工智能的發(fā)展模式逐步轉(zhuǎn)向以機(jī)器與人結(jié)合而成的增強(qiáng)型混合智能系統(tǒng)，用機(jī)器、人、網(wǎng)絡(luò)結(jié)合成新的群智系統(tǒng)，以及用機(jī)器、人、網(wǎng)絡(luò)和物結(jié)合成的更加復(fù)雜的智能系統(tǒng)。

半個(gè)多世紀(jì)的發(fā)展歷程表明，受算法、計(jì)算速度、存儲(chǔ)水平等因素的影響，人工智能歷經(jīng)兩起兩落，直至今天又迎來(lái)了第三次發(fā)展高潮。如今，人類(lèi)似乎從來(lái)沒(méi)有如此接近“真正的”人工智能，但其實(shí)在先前的繁榮期也曾出現(xiàn)過(guò)機(jī)器即將完全取代人類(lèi)的論調(diào)，最后都因遇到種種原因而慘淡收?qǐng)?。這需要人們尤其是刑法學(xué)者引以為戒，對(duì)人工智能保持理性、克制的態(tài)度。我們?cè)诖瞬⒎且俺ァ比斯ぶ悄艿默F(xiàn)實(shí)影響與未來(lái)前景，因?yàn)樾乱淮斯ぶ悄芗夹g(shù)帶來(lái)的巨大變化有目共睹，這是誰(shuí)也無(wú)法否認(rèn)的。但是，正是因?yàn)槿斯ぶ悄芗夹g(shù)在當(dāng)下極為炙手可熱，所以也應(yīng)避免過(guò)分的夸大和不當(dāng)?shù)匿秩?。針?duì)人工智能的刑法學(xué)研究，在當(dāng)前應(yīng)將重點(diǎn)放在作為技術(shù)工具的專(zhuān)用人工智能方面，結(jié)合其運(yùn)行機(jī)制和功能特點(diǎn)進(jìn)行全面深入分析。對(duì)于人工智能潛藏的刑事風(fēng)險(xiǎn)，在維護(hù)現(xiàn)行刑法典穩(wěn)定性的基礎(chǔ)上予以適當(dāng)回應(yīng)。與此同時(shí)，考慮到當(dāng)前的技術(shù)水平和未來(lái)的發(fā)展趨勢(shì)，通用人工智能和超人工智能可能帶來(lái)的挑戰(zhàn)，并非刑法亟須回應(yīng)的問(wèn)題，更何況技術(shù)水平的突破并不能代表價(jià)值藩籬的逾越，對(duì)于通用智能機(jī)器人的有關(guān)探討應(yīng)堅(jiān)持謹(jǐn)慎的立場(chǎng)。

三、現(xiàn)實(shí)挑戰(zhàn)：關(guān)于專(zhuān)用人工智能的刑法學(xué)思考

(一)現(xiàn)實(shí)的影響

就專(zhuān)用人工智能而言，其為人類(lèi)社會(huì)可能帶來(lái)的最具變革性影響，在于使網(wǎng)絡(luò)空間與現(xiàn)實(shí)空間實(shí)現(xiàn)真正意義上的全面融合與深度互動(dòng)。在網(wǎng)絡(luò)1.0時(shí)期，網(wǎng)絡(luò)只是把所有的終端聯(lián)接到一起，無(wú)論是網(wǎng)民之間還是網(wǎng)民與網(wǎng)絡(luò)之間，只能實(shí)現(xiàn)較為簡(jiǎn)單信息交換。到了網(wǎng)絡(luò)2.0時(shí)代，網(wǎng)民之間、網(wǎng)民與網(wǎng)絡(luò)之間的“點(diǎn)對(duì)點(diǎn)”互動(dòng)交流是此階段的基本特征。及至網(wǎng)絡(luò)3.0時(shí)代，以社交為中心的網(wǎng)絡(luò)平臺(tái)的出現(xiàn)，使得“網(wǎng)絡(luò)”成為具有相對(duì)獨(dú)立意義的空間范疇。依托于網(wǎng)絡(luò)空間而形成的網(wǎng)絡(luò)社會(huì)，與現(xiàn)實(shí)社會(huì)共同形成了“雙層社會(huì)”的新型社會(huì)結(jié)構(gòu)。在此階段，網(wǎng)絡(luò)平臺(tái)不僅能夠?qū)崿F(xiàn)即時(shí)通信和信息分享，還可以提供支付、金融等其他種類(lèi)的服務(wù)，這表明網(wǎng)絡(luò)的觸角已經(jīng)逐漸向現(xiàn)實(shí)社會(huì)方方面面進(jìn)行延伸。在此基礎(chǔ)上，專(zhuān)用人工智能的日漸成熟及其廣泛應(yīng)用，不論是在廣度上還是在深度上，都會(huì)加速推進(jìn)這種由網(wǎng)絡(luò)到現(xiàn)實(shí)進(jìn)行全方位覆蓋的趨勢(shì)。具體而言，人工智能系統(tǒng)在借助傳感器等器件對(duì)外界環(huán)境的感知能力采集數(shù)據(jù)之后，在網(wǎng)絡(luò)空間依靠大數(shù)據(jù)技術(shù)和人工神經(jīng)網(wǎng)絡(luò)算法，加工、處理、分析這些豐富、海量的數(shù)據(jù)，從而最大程度地出挖掘數(shù)據(jù)的信息價(jià)值，進(jìn)而通過(guò)先進(jìn)算法模型的學(xué)習(xí)能力和適應(yīng)能力，使其能夠作出更具類(lèi)人化、實(shí)質(zhì)化的反應(yīng)，在現(xiàn)實(shí)中為人類(lèi)提供多領(lǐng)域、精準(zhǔn)化的服務(wù)功能。也就是說(shuō)，智能終端為人類(lèi)提供服務(wù)的同時(shí)可以接受各種各樣的信息，而人工智能技術(shù)利用這些信息進(jìn)行深度學(xué)習(xí)之后，可以根據(jù)新的現(xiàn)實(shí)情況調(diào)節(jié)相應(yīng)參數(shù)、優(yōu)化算法模型，進(jìn)而以更加合理的方式反饋于現(xiàn)實(shí)當(dāng)中。如此循環(huán)往復(fù)，由云端至終端再到人和物，相互之間逐步建立廣泛而深入的數(shù)字化連接，人與機(jī)器的關(guān)系呈現(xiàn)出“互為鏡像”、“互為嵌入”和“互為信息”的趨勢(shì)，最終在網(wǎng)絡(luò)與現(xiàn)實(shí)之間實(shí)現(xiàn)高度的融合和交互?？梢灶A(yù)見(jiàn)，在不久的將來(lái)，如果人工智能從專(zhuān)業(yè)性較強(qiáng)的領(lǐng)域逐步拓展到社會(huì)生活的各個(gè)方面，人類(lèi)未來(lái)會(huì)在“萬(wàn)物皆互聯(lián)、無(wú)處不計(jì)算”的環(huán)境下精準(zhǔn)生活。以數(shù)據(jù)為媒介，人工智能終端可以大量采集和上傳現(xiàn)實(shí)中的信息，通過(guò)智能算法的分析和處理，從而提出更加科學(xué)的解決方案、做出更加合理的現(xiàn)實(shí)反映?，F(xiàn)實(shí)世界中的更多情況將會(huì)同步反映在網(wǎng)絡(luò)空間之中，而人們?cè)诰W(wǎng)絡(luò)世界的所作所為也會(huì)在現(xiàn)實(shí)世界中產(chǎn)生更大的影響。

基于上述分析，由于專(zhuān)用人工智能沒(méi)有形成類(lèi)似于人類(lèi)的自主意識(shí)，所以將智能機(jī)器人納入刑法規(guī)制的行為主體范圍沒(méi)有現(xiàn)實(shí)必要性，因而也就無(wú)須對(duì)以自然人為中心建立的犯罪論體系和刑罰體系進(jìn)行徹底改造。但是，這并不意味著當(dāng)下的刑法制度與刑法學(xué)理論可以無(wú)動(dòng)于衷。事實(shí)上，既然人工智能的廣泛應(yīng)用會(huì)實(shí)現(xiàn)網(wǎng)絡(luò)空間與現(xiàn)實(shí)空間的全面交融，那么未來(lái)無(wú)論在網(wǎng)絡(luò)空間中還是在現(xiàn)實(shí)空間中，人工智能技術(shù)潛藏的刑事風(fēng)險(xiǎn)就既有可能會(huì)廣泛觸及并沖擊我國(guó)刑法典分則的罪刑規(guī)范，也有可能會(huì)產(chǎn)生目前刑法難以規(guī)制的嚴(yán)重危害行為。有論者認(rèn)為，刑事法律在人工智能時(shí)代將面臨“內(nèi)憂”與“外患”，即在弱人工智能時(shí)代，刑法面臨的“外患”在于設(shè)計(jì)者或使用者對(duì)人工智能產(chǎn)品進(jìn)行不當(dāng)利用，甚至將其作為實(shí)現(xiàn)犯罪意圖的工具；而在強(qiáng)人工智能時(shí)代，刑法面臨的“內(nèi)憂”在于人工智能產(chǎn)品本身在設(shè)計(jì)和編制的程序范圍外產(chǎn)生了犯罪意圖，進(jìn)而實(shí)施嚴(yán)重危害社會(huì)的行為，給人類(lèi)社會(huì)帶來(lái)極大威脅。對(duì)此，我們認(rèn)為，強(qiáng)人工智能時(shí)代的“內(nèi)憂”并非迫在眉睫，這不是刑法規(guī)范與刑法學(xué)理論面臨的現(xiàn)實(shí)挑戰(zhàn)。而且，基于專(zhuān)用人工智能的技術(shù)特點(diǎn)和具體應(yīng)用，刑法既要關(guān)注其引發(fā)的“外憂”，也要關(guān)注人工智能系統(tǒng)內(nèi)部潛藏的安全風(fēng)險(xiǎn)。

(二)面臨的風(fēng)險(xiǎn)

1.專(zhuān)用人工智能的內(nèi)部風(fēng)險(xiǎn)

近些年來(lái)，人工智能之所以取得迅猛發(fā)展，在很大程度上得益于大數(shù)據(jù)、智能算法和硬件算力等基礎(chǔ)性支撐技術(shù)的突破。正是上述三者相結(jié)合產(chǎn)生了“化學(xué)反應(yīng)”，賦予人工智能更加強(qiáng)大、豐富的功能為人類(lèi)提供服務(wù)。因此，人工智能系統(tǒng)內(nèi)部的刑事風(fēng)險(xiǎn)，極有可能是圍繞海量數(shù)據(jù)與智能算法而產(chǎn)生的。

一方面，人工智能系統(tǒng)遭受非法攻擊或者人工智能服務(wù)提供者的違規(guī)操作，可能導(dǎo)致大量數(shù)據(jù)泄露甚至被非法利用，進(jìn)而使各種重要信息遭受侵犯。所謂數(shù)據(jù)，是指所有能輸入到計(jì)算機(jī)并被計(jì)算機(jī)程序處理的符號(hào)的介質(zhì)的總稱(chēng)。數(shù)據(jù)是信息的表現(xiàn)形式和載體，而信息則是數(shù)據(jù)的內(nèi)涵。在人工智能時(shí)代，網(wǎng)絡(luò)空間與現(xiàn)實(shí)空間高度融合的重要表現(xiàn)，就是越來(lái)越多的信息以數(shù)據(jù)形式被記錄并存在于網(wǎng)絡(luò)空間之中，人工智能系統(tǒng)分析和處理的海量數(shù)據(jù)正源于此。人工智能各種應(yīng)用功能的實(shí)現(xiàn)，都是基于對(duì)海量用戶數(shù)據(jù)的搜集和大數(shù)據(jù)技術(shù)的挖掘、分析。因此，人工智能時(shí)代下的數(shù)據(jù)高度集中，既有可能使人類(lèi)享受更加便利、精準(zhǔn)的服務(wù)，也有可能發(fā)生更大規(guī)模的數(shù)據(jù)泄露事件。而且，少量數(shù)據(jù)所承載的信息雖然只能側(cè)面反映局部?jī)?nèi)容，但是經(jīng)過(guò)大數(shù)據(jù)技術(shù)的交叉分析甚至簡(jiǎn)單分析，就可以描繪出完整、精確的實(shí)質(zhì)內(nèi)容，一旦人工智能系統(tǒng)遭到不法分子的入侵，其內(nèi)部數(shù)據(jù)就可能面臨大規(guī)模泄露，從而對(duì)公民、公司和政府的信息安全構(gòu)成極大威脅。另外，人工智能服務(wù)提供者對(duì)系統(tǒng)內(nèi)部海量數(shù)據(jù)的保護(hù)不力，或者對(duì)搜集的數(shù)據(jù)進(jìn)行不當(dāng)使用(例如現(xiàn)實(shí)中一些互聯(lián)網(wǎng)企業(yè)利用大數(shù)據(jù)“殺熟”的現(xiàn)象)，也會(huì)侵犯網(wǎng)絡(luò)用戶的個(gè)人信息和其他合法權(quán)益。正如有論者所指出，大數(shù)據(jù)時(shí)代的數(shù)據(jù)犯罪的指向已經(jīng)演變?yōu)橐源髷?shù)據(jù)對(duì)象為中心，縱向侵害技術(shù)與現(xiàn)實(shí)雙層法益，形成的一個(gè)多行為方式，危害后果橫向跨越個(gè)人、社會(huì)、國(guó)家各層面與政治、軍事、財(cái)產(chǎn)、人身和民主權(quán)利各領(lǐng)域的大犯罪體系。所以，面對(duì)人工智能應(yīng)用在未來(lái)對(duì)數(shù)據(jù)的大量搜集與深度處理可能引發(fā)的社會(huì)風(fēng)險(xiǎn)，刑法必須給予更全面、更有力的保護(hù)。

另一方面，人工智能系統(tǒng)內(nèi)部算法的漏洞與偏差，可能導(dǎo)致人工智能系統(tǒng)對(duì)數(shù)據(jù)分析之后形成錯(cuò)誤決策，做出人類(lèi)意料不到的反應(yīng)并引發(fā)外部風(fēng)險(xiǎn)。算法、數(shù)據(jù)和計(jì)算能力是人工智能的三大要素，而算法在其中發(fā)揮著主導(dǎo)作用，可稱(chēng)之為人工智能的“大腦”。也就是說(shuō)，人工智能之所以能夠做出自動(dòng)智能化決定，在很大程度上是基于智能算法對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行深度分析和“學(xué)習(xí)”，然后具備了預(yù)測(cè)和推斷的能力。但是，人工智能并非完美無(wú)缺，它會(huì)一直朝著達(dá)到甚至超越人類(lèi)智能的方向不斷改進(jìn)，如果人工智能的內(nèi)部算法存在缺陷，就可能忽視或者歪曲數(shù)據(jù)反映的現(xiàn)實(shí)情況，然后借助自動(dòng)化決定機(jī)制對(duì)外界做出不合理的反應(yīng)。更何況，智能算法分析的海量數(shù)據(jù)并非價(jià)值中立，這些數(shù)據(jù)在承載信息的同時(shí)必然也夾帶著人類(lèi)社會(huì)既存的價(jià)值偏差和觀念歧視。因此，如果在智能算法模型的設(shè)計(jì)中忽視了糾正機(jī)制的構(gòu)建，那么機(jī)器學(xué)習(xí)可能會(huì)在重復(fù)累計(jì)的運(yùn)算過(guò)程中惡化這些偏差，從而導(dǎo)致人工智能系統(tǒng)做出與倫理道德偏差的決策。此外，以深度學(xué)習(xí)算法為例，它并不是一個(gè)數(shù)據(jù)輸入、特征提取、預(yù)測(cè)的過(guò)程，而是由計(jì)算機(jī)直接從訓(xùn)練數(shù)據(jù)集得原始特征出發(fā)，自動(dòng)學(xué)習(xí)并提取出深層特征或者規(guī)律，從而形成高級(jí)的認(rèn)知能力。在人工智能輸入的數(shù)據(jù)和其輸出的答案之間，存在著我們無(wú)法洞悉的“隱層”(hidden layer)，它被稱(chēng)為“黑箱”(black box)。在通常情況下，人工智能系統(tǒng)的開(kāi)發(fā)者出于維護(hù)自身商業(yè)利益的考慮，并不會(huì)公開(kāi)其算法具體實(shí)現(xiàn)細(xì)節(jié)，這就大大增加了第三方對(duì)其采取監(jiān)管的難度，進(jìn)而出現(xiàn)一些不可預(yù)見(jiàn)的問(wèn)題。因此，對(duì)這種內(nèi)部算法存在缺陷、漏洞以及缺乏透明性的情況，如果刑法在必要時(shí)予以介入，這樣不僅可以保證正常良好的研發(fā)、設(shè)計(jì)秩序，還能夠避免由內(nèi)部風(fēng)險(xiǎn)而引起的外部刑事風(fēng)險(xiǎn)和歸責(zé)困境。

2.專(zhuān)用人工智能的外部風(fēng)險(xiǎn)

在內(nèi)部風(fēng)險(xiǎn)的基礎(chǔ)上進(jìn)一步分析，專(zhuān)用人工智能外部的刑事風(fēng)險(xiǎn)挑戰(zhàn)大體上會(huì)表現(xiàn)為以下兩種：其一，濫用人工智能的刑事風(fēng)險(xiǎn)；其二，由人工智能內(nèi)部風(fēng)險(xiǎn)轉(zhuǎn)化為現(xiàn)實(shí)危害的刑事風(fēng)險(xiǎn)。

(1)濫用人工智能的刑事風(fēng)險(xiǎn)。

科學(xué)技術(shù)固然可以推動(dòng)人類(lèi)文明的發(fā)展進(jìn)步，但技術(shù)本身是中立的，它為社會(huì)服務(wù)的同時(shí)也可能產(chǎn)生人類(lèi)難以把控的風(fēng)險(xiǎn)。就此意義而言，人工智能技術(shù)是一把極為鋒利的“雙刃劍”：如果將其運(yùn)用于正當(dāng)途徑，可以提高人類(lèi)的生產(chǎn)效率和生活質(zhì)量，幫助人們擺脫枯燥乏味和高度危險(xiǎn)的工作；如果這種技術(shù)被不法分子利用在犯罪活動(dòng)中，那么在其加功作用的助力下產(chǎn)生的危害后果亦會(huì)呈現(xiàn)“放大效應(yīng)”。而且，與傳統(tǒng)的公共安全(例如核技術(shù))需要強(qiáng)大的基礎(chǔ)設(shè)施作為支撐不同，人工智能以計(jì)算機(jī)和互聯(lián)網(wǎng)為依托，無(wú)須昂貴的基礎(chǔ)設(shè)施就能造成安全威脅。掌握相關(guān)技術(shù)的人員可以在任何時(shí)間、地點(diǎn)且沒(méi)有昂貴基礎(chǔ)設(shè)施的情況下做出人工智能產(chǎn)品。就此情形而言，利用人工智能技術(shù)作為輔助犯罪實(shí)施的工具和手段，雖然不會(huì)使傳統(tǒng)犯罪的性質(zhì)發(fā)生“質(zhì)變”，但卻可能發(fā)生顯著“量變”。例如，在2017年破獲的國(guó)內(nèi)首例利用AI技術(shù)打碼案中，犯罪分子運(yùn)用機(jī)器深度學(xué)習(xí)技術(shù)訓(xùn)練機(jī)器，使其能夠自主操作并有效識(shí)別圖片驗(yàn)證碼，輕松繞過(guò)互聯(lián)網(wǎng)公司設(shè)置賬戶登錄安全策略。將這種技術(shù)提供給網(wǎng)絡(luò)平臺(tái)之后，網(wǎng)絡(luò)平臺(tái)就可以輕易對(duì)黑客竊取的賬號(hào)和密碼進(jìn)行“洗號(hào)”，進(jìn)而獲得更為精準(zhǔn)的公民個(gè)人信息，然后出售給個(gè)人信息產(chǎn)業(yè)鏈下游的詐騙集團(tuán)、廣告商。相比于傳統(tǒng)的人工“打碼”，利用人工智能技術(shù)進(jìn)行“打碼”的效率提高了兩千倍，而且識(shí)別正確率極高。因此，如果不法分子將人工智能技術(shù)作為犯罪的工具和手段，不僅可以大大減少犯罪成本、降低犯罪門(mén)檻，還會(huì)使一些犯罪行為的社會(huì)危害性顯著提升。對(duì)此，刑法也需引起高度關(guān)注。

(2)由人工智能內(nèi)部風(fēng)險(xiǎn)轉(zhuǎn)化為現(xiàn)實(shí)危害的風(fēng)險(xiǎn)。

專(zhuān)用人工智能的技術(shù)特點(diǎn)，決定其能夠?qū)崿F(xiàn)無(wú)人類(lèi)干預(yù)的，基于知識(shí)能夠自我修正地自動(dòng)化運(yùn)行，即在特定領(lǐng)域中實(shí)現(xiàn)自主判斷、自主決定甚至自主反應(yīng)，這就意味著人工智能可以在某種程度上全面替代人類(lèi)的操作行為。因此，如果人工智能系統(tǒng)存在設(shè)計(jì)缺陷或技術(shù)漏洞，而且在投入現(xiàn)實(shí)應(yīng)用之前沒(méi)有避免和消除，那么人工智能內(nèi)部風(fēng)險(xiǎn)將會(huì)在現(xiàn)實(shí)應(yīng)用過(guò)程中引發(fā)外部風(fēng)險(xiǎn)。例如，人工智能與交通工具相結(jié)合產(chǎn)生的無(wú)人駕駛技術(shù)，其本質(zhì)正是在大數(shù)據(jù)的支撐上使用算法計(jì)算出最佳駕駛策略。智能駕駛系統(tǒng)可以讓人類(lèi)擺脫駕駛的辛苦勞累，而且其在人工智能領(lǐng)域內(nèi)的發(fā)展較為成熟，在不遠(yuǎn)的將來(lái)很有可能實(shí)現(xiàn)大規(guī)模應(yīng)用。在人類(lèi)駕駛汽車(chē)發(fā)生交通事故的情況下，其所造成的危害后果不會(huì)超過(guò)汽車(chē)自身及其周?chē)h(huán)境，然而如果無(wú)人駕駛系統(tǒng)本身存在技術(shù)缺陷，那么在其推廣應(yīng)用之后，所有使用此項(xiàng)技術(shù)的汽車(chē)都會(huì)存在這種安全隱患，從而對(duì)大范圍的交通秩序和公共安全構(gòu)成巨大威脅。又如，人工智能與醫(yī)療行業(yè)相結(jié)合產(chǎn)生的智能醫(yī)療技術(shù)在輔助診療、疾病預(yù)測(cè)、醫(yī)療影像輔助診斷、藥物開(kāi)發(fā)等方面發(fā)揮了重要作用。如果醫(yī)生基于智能醫(yī)療系統(tǒng)的錯(cuò)誤診斷而作出了錯(cuò)誤的治療決定，或者智能醫(yī)療系統(tǒng)因內(nèi)部缺陷，在獨(dú)立診斷治療的情況下造成就診人死亡或者嚴(yán)重?fù)p害其身體健康，也將面臨著如何追究醫(yī)療事故相關(guān)責(zé)任的問(wèn)題。

(三)刑法的應(yīng)對(duì)

針對(duì)現(xiàn)階段的專(zhuān)用人工智能可能產(chǎn)生的刑事風(fēng)險(xiǎn)，應(yīng)從以下三個(gè)方面予以應(yīng)對(duì)。

1.刑法應(yīng)堅(jiān)持罪刑法定的總體底線與謙抑性的內(nèi)在品質(zhì)

面對(duì)人工智能對(duì)刑法提出的挑戰(zhàn)，我們不僅需要思考如何通過(guò)改變予以應(yīng)對(duì)，還需要明確應(yīng)當(dāng)堅(jiān)守的刑法理念與刑法原則。這其中，最為重要的就是罪刑法定原則。保障人權(quán)作為現(xiàn)代刑法的價(jià)值基石，是各國(guó)刑法學(xué)人在啟蒙思想影響下努力灌溉而收獲的寶貴果實(shí)。及至如今，以保障人權(quán)為內(nèi)在意蘊(yùn)的罪刑法定原則仍然是現(xiàn)代刑法不可逾越的底線，也是刑法理論研究奉行的金科玉律。有論者認(rèn)為，濫用人工智能行為的客觀表現(xiàn)形式多種多樣，未來(lái)還可能出現(xiàn)囿于人工智能技術(shù)發(fā)展?fàn)顩r而無(wú)法全面考慮到的情況，因此可以考慮直接將濫用人工智能技術(shù)行為作為規(guī)制的對(duì)象并規(guī)定相應(yīng)兜底條款。但是，在一個(gè)罪名中將所有濫用人工智能的行為方式進(jìn)行具體列舉難度較大，直接將濫用人工智能行為作為一種概括性的兜底條款也可能會(huì)使其成為“口袋罪名”，進(jìn)而引發(fā)司法實(shí)務(wù)的操作困惑；而且，濫用人工智能行為既有可能侵犯公民的合法權(quán)益，也有可能危害公共秩序甚至是國(guó)家安全，設(shè)立這種極具包容性的罪名會(huì)泛化其保護(hù)的法益，由此角度來(lái)看也缺乏合理性和可行性。事實(shí)上，現(xiàn)階段的人工智能技術(shù)仍然可以作為一種實(shí)施犯罪的工具和手段予以評(píng)價(jià)，利用人工智能技術(shù)實(shí)施犯罪的情形對(duì)現(xiàn)行刑法典罪名體系并不會(huì)產(chǎn)生顯著影響，我國(guó)現(xiàn)行刑法也絕非對(duì)嚴(yán)重危害社會(huì)的濫用人工智能行為完全束手無(wú)策?；诖?，即使在社會(huì)上出現(xiàn)了涉及人工智能技術(shù)的新型犯罪，如果不能為現(xiàn)行刑法和司法解釋所評(píng)價(jià)，也不能通過(guò)類(lèi)推解釋進(jìn)行定罪處刑。

另一方面，刑法還需堅(jiān)守自身的謙抑性，圍繞人工智能的刑法調(diào)控應(yīng)注重與相關(guān)領(lǐng)域的其他部門(mén)法相結(jié)合。例如，人工智能生成的內(nèi)容只要由機(jī)器人獨(dú)立完成，即構(gòu)成受著作權(quán)保護(hù)的作品，但由于機(jī)器人并不能像自然人作者或法人作者那樣去行使權(quán)利，因此該項(xiàng)著作權(quán)應(yīng)歸屬于機(jī)器人的創(chuàng)造人或所有人，在這種情況下可參照著作權(quán)法關(guān)于職務(wù)作品或雇傭作品的規(guī)定，由創(chuàng)制機(jī)器的“人”而不是機(jī)器人去享有和行使權(quán)利。由此可見(jiàn)，在著作權(quán)法及其理論對(duì)人工智能生成作品的權(quán)屬和權(quán)能作出界定的情況下，侵犯人工智能生成作品的著作權(quán)犯罪才能進(jìn)行具體認(rèn)定。此外，刑法對(duì)人工智能犯罪的規(guī)制也應(yīng)注意與民法、行政法相銜接。有論者主張，只有刑法的規(guī)制才能真正減少濫用人工智能行為的發(fā)生，刑法以外法律法規(guī)的規(guī)制不足以威懾人工智能產(chǎn)品的研發(fā)者和使用者。我們認(rèn)為，這種看法存在一定偏差。刑法在整個(gè)法律體系內(nèi)居于“保護(hù)法”和“后盾法”的地位，在民事制裁和行政制裁不能或者不足以規(guī)制危害行為的時(shí)候應(yīng)當(dāng)使用刑事制裁。對(duì)人工智能的風(fēng)險(xiǎn)防控主要應(yīng)依靠強(qiáng)制性的技術(shù)標(biāo)準(zhǔn)和具體操作的使用規(guī)則，而這些內(nèi)容往往依托于大量的行政法律法規(guī)。此外，民商法中的民事責(zé)任也能起到一定程度的懲罰和補(bǔ)償作用。所以，在對(duì)人工智能技術(shù)及其應(yīng)用進(jìn)行規(guī)制的過(guò)程中，應(yīng)盡量避免“刑法萬(wàn)能”的錯(cuò)誤傾向，讓各部門(mén)法都能充分發(fā)揮其應(yīng)有作用，而且首先應(yīng)當(dāng)由非刑事法律去發(fā)揮作用。

2.刑法應(yīng)提升對(duì)公民個(gè)人信息和數(shù)據(jù)安全的保護(hù)力度

在人工智能時(shí)代，公民、公司和政府等社會(huì)主體的信息安全都將面臨前所未有的挑戰(zhàn)。一方面，人工智能系統(tǒng)及其使用的大數(shù)據(jù)技術(shù)可以通過(guò)終端采集更廣范圍和更多數(shù)量的數(shù)據(jù)，這些海量數(shù)據(jù)的集聚既會(huì)產(chǎn)生更具實(shí)質(zhì)性的信息價(jià)值，同時(shí)也會(huì)形成巨大的安全風(fēng)險(xiǎn)。另一方面，人工智能技術(shù)的進(jìn)步與普及也為實(shí)施侵犯信息安全的犯罪提供了更加便利的條件，前文提到的利用人工智能打碼的情形即為典型示例。對(duì)于侵犯信息和數(shù)據(jù)的犯罪行為，可通過(guò)刑法典第253條之一的侵犯公民個(gè)人信息罪和第258條的非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪予以規(guī)制。

具體而言，侵犯公民個(gè)人信息罪以“公民個(gè)人信息”為保護(hù)對(duì)象，并且設(shè)定了“非法獲取”、“提供”和“出售”三種行為方式。就保護(hù)對(duì)象而言，“兩高”發(fā)布的《關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問(wèn)題的解釋》將“公民個(gè)人信息”進(jìn)一步明確為“以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人身份或者反映特定自然人活動(dòng)情況的各種信息”，從而劃定了較為廣泛的保護(hù)范圍，可將記載上述信息的電子數(shù)據(jù)囊括其中。此外，上述三種行為方式實(shí)際上是從公民個(gè)人信息的“來(lái)源”和“去向”兩個(gè)方面對(duì)侵犯行為進(jìn)行類(lèi)型化界定，這種保護(hù)路徑顯然是立足于信息的橫向流動(dòng)過(guò)程，在一定情況下難以觸及信息的縱向使用過(guò)程。另外，同樣涉及公民個(gè)人信息保護(hù)的拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，也在一定程度上體現(xiàn)了這種保護(hù)路徑。然而，對(duì)數(shù)據(jù)的廣泛采集和深度分析正是人工智能技術(shù)及其應(yīng)用不可缺少的重要一環(huán)。在人工智能對(duì)包含個(gè)人信息的數(shù)據(jù)進(jìn)行分析和處理過(guò)程中，個(gè)人信息的合理使用問(wèn)題就會(huì)凸現(xiàn)出來(lái)。而且，公民在強(qiáng)大的網(wǎng)絡(luò)公司面前處于極為不利的弱勢(shì)地位，其個(gè)人信息一旦被采集，之后就難以再進(jìn)行有效的自主控制。因此，面對(duì)即將在社會(huì)上實(shí)現(xiàn)廣泛應(yīng)用的人工智能，侵犯公民個(gè)人信息罪在行為方式方面的結(jié)構(gòu)性缺失亟須彌補(bǔ)。與之相對(duì)，刑法典針對(duì)數(shù)據(jù)安全的刑法保護(hù)則顯得“靜態(tài)有余，動(dòng)態(tài)不足”?！按髷?shù)據(jù)時(shí)代的海量數(shù)據(jù)具有動(dòng)態(tài)價(jià)值，對(duì)一系列的數(shù)據(jù)收集、存儲(chǔ)、挖掘和應(yīng)用能體現(xiàn)出巨大的政治、經(jīng)濟(jì)、軍事、生活價(jià)值。這種數(shù)據(jù)在處理過(guò)程中可能侵害到宏觀的整體數(shù)據(jù)環(huán)境與微觀的個(gè)人數(shù)據(jù)權(quán)利，也可能侵害到主觀與客觀方面的個(gè)人法益?！比欢欠ǐ@取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪只是將數(shù)據(jù)作為行為對(duì)象，其最終保護(hù)落足于計(jì)算機(jī)信息系統(tǒng)功能和通信安全，這種模式使得刑法難以對(duì)圍繞數(shù)據(jù)產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行全程調(diào)控，這種局面在我國(guó)刑法典中也需盡快改善。

3.刑法應(yīng)針對(duì)人工智能進(jìn)行全方位調(diào)控

考慮到人工智能的技術(shù)復(fù)雜性、功能強(qiáng)大性和影響不確定性，刑法應(yīng)介入對(duì)其技術(shù)研發(fā)、生產(chǎn)制造、系統(tǒng)運(yùn)營(yíng)、現(xiàn)實(shí)使用等環(huán)節(jié)的調(diào)控。

首先，應(yīng)對(duì)人工智能的技術(shù)研發(fā)行為和生產(chǎn)制造行為進(jìn)行規(guī)制。在未來(lái)，人工智能產(chǎn)品的設(shè)計(jì)者和制造者可能會(huì)受到巨大的經(jīng)濟(jì)利益誘惑，將不成熟的技術(shù)和產(chǎn)品投入市場(chǎng)，而人工智能技術(shù)及其應(yīng)用如果存在技術(shù)漏洞或者設(shè)計(jì)、制造缺陷，不僅會(huì)使系統(tǒng)自身易受攻擊而遭受損失，而且會(huì)將這種內(nèi)部風(fēng)險(xiǎn)轉(zhuǎn)化為現(xiàn)實(shí)危害。對(duì)此，可按照刑法典第140條的生產(chǎn)、銷(xiāo)售偽劣產(chǎn)品罪和第146條的生產(chǎn)、銷(xiāo)售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪定罪處罰。除此之外，還可以考慮在建立人工智能技術(shù)標(biāo)準(zhǔn)體系(例如制定相關(guān)規(guī)則約束算法設(shè)計(jì)者遵守設(shè)計(jì)標(biāo)準(zhǔn)和保證算法的透明性和可解釋性以及限定人工智能應(yīng)用的功能設(shè)計(jì)范圍等)的基礎(chǔ)上，對(duì)人工智能技術(shù)研發(fā)者違反國(guó)家規(guī)定或者強(qiáng)制性標(biāo)準(zhǔn)的行為增設(shè)專(zhuān)罪予以規(guī)制。

其次，應(yīng)對(duì)人工智能系統(tǒng)運(yùn)營(yíng)者的行為進(jìn)行重點(diǎn)調(diào)控。人工智能的服務(wù)提供者在人工智能系統(tǒng)運(yùn)營(yíng)過(guò)程中扮演了關(guān)鍵角色，它既要負(fù)責(zé)相關(guān)基礎(chǔ)性技術(shù)的整合與協(xié)調(diào)，也要在提供服務(wù)的同時(shí)負(fù)責(zé)系統(tǒng)的日常維護(hù)。人工智能的系統(tǒng)運(yùn)營(yíng)者在廣義上也屬于網(wǎng)絡(luò)服務(wù)提供者的范疇，因此對(duì)于符合法定情形的犯罪行為，可按照《刑法修正案(九)》增設(shè)的拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪進(jìn)行處理。但是，由于前罪的成立要求“經(jīng)監(jiān)管部門(mén)責(zé)令采取改正措施而拒不改正”，這可能會(huì)導(dǎo)致該罪難以對(duì)有關(guān)違規(guī)行為及時(shí)發(fā)現(xiàn)并予以處罰；而且，法律法規(guī)規(guī)定的信息網(wǎng)絡(luò)安全管理義務(wù)與人工智能系統(tǒng)服務(wù)提供者的技術(shù)能力往往存在一定的落差，而該罪目前的立法模式不能促使其主動(dòng)積極履行相關(guān)義務(wù)；此外，由于該罪的法定刑標(biāo)準(zhǔn)總體較輕且缺乏相應(yīng)的區(qū)分檔次，對(duì)一些具有嚴(yán)重情節(jié)情形的處理可能難以實(shí)現(xiàn)罪責(zé)刑相適應(yīng)。對(duì)上述這些立法欠缺，應(yīng)根據(jù)需要予以立法修正。

最后，應(yīng)對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的情形予以堅(jiān)決懲處。對(duì)此情形，總體應(yīng)根據(jù)具體的行為方式和侵害的法益，按照相應(yīng)的普通犯罪罪名和網(wǎng)絡(luò)犯罪罪名予以規(guī)制。在此基礎(chǔ)上，還可結(jié)合人工智能的技術(shù)運(yùn)行原理和作用模式，對(duì)其中的犯罪對(duì)象、工具、場(chǎng)域等要素進(jìn)行擴(kuò)張解釋?zhuān)瑪[脫對(duì)構(gòu)成要件內(nèi)容的物化理解。必要時(shí)，還可考慮對(duì)利用人工智能實(shí)施犯罪的情形從重處罰。

四、未來(lái)展望：關(guān)于通用人工智能的刑法學(xué)思考

對(duì)于專(zhuān)用人工智能所帶來(lái)的現(xiàn)實(shí)危害，刑法制度與刑法學(xué)理論應(yīng)及時(shí)作出合理回應(yīng)。但是，對(duì)于未來(lái)通用人工智能可能造成的法律風(fēng)險(xiǎn)，刑法學(xué)人應(yīng)當(dāng)客觀看待并審慎應(yīng)對(duì)。通用人工智能與現(xiàn)階段的專(zhuān)用人工智能在本質(zhì)上有著根本差別。在通用人工智能時(shí)代，我們將從所有大腦區(qū)域的逆向工程中學(xué)習(xí)人類(lèi)智能的實(shí)現(xiàn)原理，并將這些理論應(yīng)用到具有大腦智力的計(jì)算平臺(tái)。人工智能的應(yīng)用將有更廣闊的領(lǐng)域，并且它們的表現(xiàn)會(huì)更加靈活，這將極大地豐富不斷發(fā)展基礎(chǔ)的工具集。如果人工智能在未來(lái)的確能夠達(dá)到甚至超過(guò)人類(lèi)智能，這的確可能會(huì)對(duì)整個(gè)法律體系的有效運(yùn)行提出巨大挑戰(zhàn)。而且，“由于法律具有滯后性，現(xiàn)有的法律體系并不能很好地預(yù)測(cè)和解釋人工智能以及機(jī)器擬人化后可能出現(xiàn)的法律現(xiàn)象，可以說(shuō)，在人工智能的沖擊下，法律體系可能需要全面重塑”。在這種情況下，應(yīng)否以及如何評(píng)價(jià)通用智能機(jī)器人的行為，就可能會(huì)成為刑法領(lǐng)域最為棘手的理論與實(shí)踐問(wèn)題。但是，就當(dāng)前人類(lèi)的科技水平而言，通用人工智能時(shí)代依然遙不可及?！叭斯ぶ悄艿囊恍╊I(lǐng)域似乎特別具有挑戰(zhàn)性，如語(yǔ)言、創(chuàng)造力和情感。如果人工智能不能模擬它們，要實(shí)現(xiàn)強(qiáng)人工智能就好似做白日夢(mèng)?！蹦壳埃谭▽W(xué)界出現(xiàn)了肯定智能機(jī)器人擁有獨(dú)立刑事責(zé)任主體資格的觀點(diǎn)。例如，有論者提出：“在程序設(shè)計(jì)和編制范圍內(nèi)智能機(jī)器人實(shí)施犯罪行為是按照人類(lèi)的意識(shí)和意志，應(yīng)當(dāng)將智能機(jī)器人看作人類(lèi)實(shí)施犯罪行為的‘工具’，而發(fā)展到一定階段的智能機(jī)器人可能超越程序的設(shè)計(jì)和編制范圍，按照自主的意識(shí)和意志實(shí)施犯罪行為，因而完全可能成為行為主體而承擔(dān)刑事責(zé)任?！边€有論者認(rèn)為，人工智能體應(yīng)當(dāng)是介于人與物之間的特殊刑事責(zé)任主體，并提出將人工智能體的智能化程度比擬自然人的刑事責(zé)任年齡，進(jìn)而判定人工智能體的刑事責(zé)任能力。對(duì)此我們認(rèn)為，智能機(jī)器人難以成為與自然人相并列的刑事責(zé)任主體，對(duì)通用人工智能機(jī)器人實(shí)施犯罪應(yīng)否承擔(dān)刑事責(zé)任的問(wèn)題應(yīng)持謹(jǐn)慎態(tài)度。

(一)通用智能機(jī)器人不具有相對(duì)的自由意志

人的存在具有自在價(jià)值，追求自由與幸福是人類(lèi)的本性。人類(lèi)由必然王國(guó)走向自由王國(guó)的進(jìn)程體現(xiàn)為真正認(rèn)識(shí)并依照自然規(guī)律自覺(jué)支配自己的社會(huì)行動(dòng)。從馬克思主義刑法學(xué)觀點(diǎn)來(lái)看，對(duì)犯罪人追究刑事責(zé)任的哲學(xué)根據(jù)在于行為人具有相對(duì)的意志自由，或者說(shuō)自由選擇能力，即行為人能選擇非犯罪行為卻選擇了犯罪行為，因而才追究其刑事責(zé)任。因此，擁有相對(duì)自由的意志，是行為人承擔(dān)刑事責(zé)任的基本前提。然而，通用智能機(jī)器人存在的根本目的是為人類(lèi)服務(wù)，其存在的終極意義仍然是一種工具價(jià)值，不會(huì)也不應(yīng)有追求自在價(jià)值的自由意志。無(wú)論智能機(jī)器人發(fā)展到何種高級(jí)的程度，從來(lái)源上看它還是人類(lèi)的創(chuàng)造物。人類(lèi)發(fā)明人工智能的目的，無(wú)疑是為了使其更好地服務(wù)于人類(lèi)，使人們的生活與工作更加舒適、便利。基于此，智能機(jī)器人似乎難以完全擺脫人類(lèi)的控制，更不應(yīng)有追求實(shí)現(xiàn)自我的自在價(jià)值。更何況，從當(dāng)前的科技發(fā)展水平來(lái)看，通用人工智能時(shí)代依然遙遙無(wú)期，因此很難想象智能機(jī)器人會(huì)具有相對(duì)的自由意志。

(二)通用智能機(jī)器人實(shí)施的“犯罪”難以與刑法學(xué)中的行為理論相兼容

刑法學(xué)中的行為理論學(xué)說(shuō)眾多，各種觀點(diǎn)對(duì)如何界定刑法中的“行為”見(jiàn)仁見(jiàn)智。歸根結(jié)底，這是由于不同時(shí)期、不同國(guó)家的刑法學(xué)者基于不同現(xiàn)實(shí)對(duì)犯罪行為形成的本質(zhì)認(rèn)識(shí)有所不同。而關(guān)于行為理論的觀點(diǎn)分歧也表明，沒(méi)有一種行為理論可以在一國(guó)刑法制度或者一個(gè)學(xué)者的理論體系內(nèi)實(shí)現(xiàn)完美自洽。從行為理論的發(fā)展歷史可以看出，各學(xué)說(shuō)均是以具有生命體征的自然人為核心來(lái)進(jìn)行探討的。例如，根據(jù)德國(guó)刑法學(xué)者韋爾策爾于20世紀(jì)30年代提出的目的行為論，應(yīng)當(dāng)把人的行為的本質(zhì)作為有目的的追求活動(dòng)來(lái)把握，而所謂行為，是指通過(guò)有目的的意思對(duì)包括外部的舉動(dòng)在內(nèi)的因果進(jìn)行支配、操控。又如，由日本著名刑法學(xué)家團(tuán)藤重光提出的人格行為論認(rèn)為，行為是行為者人格的主體的實(shí)現(xiàn)化的身體舉動(dòng)?？梢?jiàn)，無(wú)論是目的行為論還是人格行為論，都將行為的主體界定為具有生命特征的自然人。而作為“人造人”的智能機(jī)器人是不具有這種生命屬性的，因此不符合目的行為論與人格行為論的要求。總而言之，通用智能機(jī)器人的非生命體征使其實(shí)施的“犯罪行為”與各種行為理論難以兼容。

(三)承認(rèn)通用智能機(jī)器人的主體地位會(huì)面臨一系列判斷難題

在刑法領(lǐng)域中承認(rèn)一種全新的犯罪主體，并非僅僅涉及法條文字的改動(dòng)以及相關(guān)理論的變化。即使在觀念上認(rèn)可通用智能機(jī)器人刑事責(zé)任的主體資格，在司法實(shí)踐中也會(huì)遇到一些棘手的，甚至無(wú)法解決的現(xiàn)實(shí)問(wèn)題。對(duì)比，首要問(wèn)題是如何判斷通用智能機(jī)器人是基于自己獨(dú)立的意志而實(shí)施行為。有學(xué)者認(rèn)為，應(yīng)當(dāng)以是否在設(shè)計(jì)程序與編制范圍之內(nèi)來(lái)判定智能機(jī)器人是否具有意志自由。智能機(jī)器人的產(chǎn)生終究出自于人類(lèi)之手，而人類(lèi)對(duì)智能機(jī)器人所設(shè)定的程序很難不對(duì)智能機(jī)器人的行為產(chǎn)生影響。因此，以設(shè)計(jì)程序與編制范圍作為判斷智能機(jī)器人有無(wú)獨(dú)立的辨認(rèn)與控制自己行為的能力，排除了一部分受人類(lèi)控制的行為，具有一定的合理性。然而，如何準(zhǔn)確判斷其行為是否在此范圍之內(nèi)將會(huì)面臨許多實(shí)際困難。從客觀上來(lái)講，人們很難事先全面而準(zhǔn)確地對(duì)智能機(jī)器人的行為做出預(yù)設(shè)。換言之，由于智能機(jī)器人具有獨(dú)立的意志，因此人們很難對(duì)智能機(jī)器人的行為是否超出預(yù)設(shè)做出精準(zhǔn)的判斷。又如，有學(xué)者通過(guò)將人工智能的智能化程度比擬刑事責(zé)任年齡而對(duì)智能機(jī)器人的刑事責(zé)任能力做出了劃分。從整體上來(lái)看，這種制度設(shè)計(jì)將智能機(jī)器人做出了擬人化的處理，具有一定的合理性。但是，與單純以年齡作為刑事責(zé)任能力的判斷依據(jù)相比，這種判斷方式也面臨更多的不確定性。因?yàn)槟挲g在自然人出生之時(shí)就被確定下來(lái)了，但是智能化程度卻不是以出廠時(shí)間為基準(zhǔn)計(jì)算出來(lái)的。在具體認(rèn)定過(guò)程中，對(duì)智能化程度的判斷將會(huì)更為復(fù)雜與困難。以上僅以?xún)蓚€(gè)方面的問(wèn)題作為可能性事例，但是在實(shí)踐中必然會(huì)遇到更多的技術(shù)難題。所以，承認(rèn)智能機(jī)器人獨(dú)立的刑事責(zé)任主體資格不僅僅是觀念與制度層面的問(wèn)題，而且還涉及司法實(shí)踐中的諸多現(xiàn)實(shí)難題。

(四)技術(shù)水平的突破并不等于價(jià)值觀念的逾越

或許在未來(lái)某一天，科學(xué)技術(shù)的發(fā)展將會(huì)突破人工智能在刑事責(zé)任認(rèn)定上的技術(shù)難題，但是這并不意味著刑法規(guī)范與刑法理論一定要立刻隨之發(fā)生根本性改變。正如近年來(lái)一度成為熱議話題的風(fēng)險(xiǎn)刑法理論，試圖對(duì)刑法理論做出傷及筋骨的改變。風(fēng)險(xiǎn)刑法是基于對(duì)風(fēng)險(xiǎn)社會(huì)的考量而產(chǎn)生的對(duì)刑法理論的變革，對(duì)此，有學(xué)者認(rèn)為：“現(xiàn)代風(fēng)險(xiǎn)的特性決定風(fēng)險(xiǎn)社會(huì)中公共政策的基調(diào)：不是要根除或被動(dòng)防止風(fēng)險(xiǎn)，也非簡(jiǎn)單考慮風(fēng)險(xiǎn)的最小化，而是設(shè)法控制不可欲的、會(huì)導(dǎo)致不合理的類(lèi)型化危險(xiǎn)的風(fēng)險(xiǎn)，并盡量公正地分配風(fēng)險(xiǎn)。對(duì)這項(xiàng)規(guī)制任務(wù)，刑法顯然有些力不從心。現(xiàn)代刑法形成于絕對(duì)主義國(guó)家背景下，以國(guó)家與個(gè)體的二元對(duì)立為邏輯基礎(chǔ)。其價(jià)值取向在于對(duì)個(gè)體權(quán)利的保障，法益概念主要圍繞個(gè)體權(quán)利構(gòu)建；在責(zé)任形式上，它強(qiáng)調(diào)規(guī)范意義的主觀責(zé)任與個(gè)人責(zé)任，認(rèn)為責(zé)任的本質(zhì)是行為人基于自由意志選擇違法行為，他應(yīng)當(dāng)承擔(dān)受譴責(zé)的責(zé)任。這種以權(quán)利保障為導(dǎo)向的刑法在解決風(fēng)險(xiǎn)問(wèn)題時(shí)容易遭遇挫敗，無(wú)法識(shí)別和容納現(xiàn)代風(fēng)險(xiǎn)?！闭\(chéng)然，風(fēng)險(xiǎn)刑法具有不可否認(rèn)的理論價(jià)值，但是其理論本身也具有一定的風(fēng)險(xiǎn)，因此受到了諸多學(xué)者的理性批判。當(dāng)然，學(xué)界并不是全盤(pán)否定風(fēng)險(xiǎn)刑法的理論價(jià)值，而是應(yīng)當(dāng)客觀看待與理性借鑒。當(dāng)我們可能面臨風(fēng)險(xiǎn)社會(huì)的到來(lái)之時(shí)，能夠理性地對(duì)風(fēng)險(xiǎn)刑法理論做出判斷，這說(shuō)明人類(lèi)社會(huì)的不斷發(fā)展雖然對(duì)刑法理論造成了沖擊，但是并不意味著以往的刑事責(zé)任體系就應(yīng)當(dāng)做出根本性的改變。與風(fēng)險(xiǎn)刑法的情況相類(lèi)似，在人工智能時(shí)代出現(xiàn)的新情況超出了現(xiàn)有刑法理論的能力范圍，但是這并不意味著應(yīng)當(dāng)立即建立一個(gè)全新的規(guī)則體系來(lái)進(jìn)行回應(yīng)，也并不意味著現(xiàn)有理論完全無(wú)法做出應(yīng)對(duì)。因此，在這種情況下，刑法學(xué)人首先應(yīng)當(dāng)考慮如何對(duì)現(xiàn)有的刑法理論做出完善，而不是倉(cāng)促推翻現(xiàn)有的觀念與理論。

(五)對(duì)通用智能機(jī)器人適用刑罰的合理性和必要性尚存疑問(wèn)

即使承認(rèn)智能機(jī)器人能夠獨(dú)立承擔(dān)刑事責(zé)任，但是對(duì)于智能機(jī)器人適用刑罰的合理性與必要性問(wèn)題仍需進(jìn)一步探討。就目前而言，刑事責(zé)任的主要實(shí)現(xiàn)形式是刑罰。對(duì)于智能機(jī)器人而言，如果承認(rèn)其具有獨(dú)立的刑事責(zé)任主體資格，從邏輯上講也應(yīng)適用現(xiàn)有的刑罰類(lèi)型。因?yàn)?，如果在觀念上承認(rèn)智能機(jī)器人具有控制與辨認(rèn)自己行為的能力，則意味著將智能機(jī)器人作為了一個(gè)真正的人來(lái)看待。實(shí)際上，也正是因?yàn)榘阎悄軝C(jī)器人等同于具有生命體征的自然人，在邏輯上才能夠承認(rèn)其獨(dú)立承擔(dān)刑事責(zé)任的主體資格。然而，這種理念似乎又難以被人們所接受。正如有些贊同智能機(jī)器人獨(dú)立承擔(dān)刑事責(zé)任的學(xué)者，同時(shí)建議針對(duì)智能機(jī)器人增設(shè)刪除數(shù)據(jù)、修改程序、永久銷(xiāo)毀等刑罰種類(lèi)。但是，這實(shí)際上是對(duì)智能機(jī)器人做出了區(qū)別性的對(duì)待。在判定其是否具有刑事責(zé)任主體資格時(shí)，承認(rèn)智能機(jī)器人具有對(duì)行為的控制與辨認(rèn)能力，因此這事實(shí)上是將智能機(jī)器人等同于活生生的自然人。但是，在確定其刑事責(zé)任的實(shí)現(xiàn)形式時(shí)，卻又承認(rèn)了其作為機(jī)器的本質(zhì)屬性，因此相當(dāng)于又否定了其作為人的資格。從根本上講，即使智能機(jī)器人達(dá)到甚至超越人類(lèi)智能的水平，也似乎無(wú)法被界定為“人”。因此，對(duì)于智能機(jī)器人適用刑罰的問(wèn)題還需進(jìn)一步探討。

五、結(jié) 語(yǔ)

本文對(duì)人工智能的發(fā)展歷程與未來(lái)趨勢(shì)進(jìn)行了梳理和分析，并提出區(qū)別對(duì)待專(zhuān)用人工智能與通用人工智能的基本立場(chǎng)。在當(dāng)前，面對(duì)即將大規(guī)模應(yīng)用的專(zhuān)用人工智能，刑法應(yīng)當(dāng)重點(diǎn)防控其可能引發(fā)的內(nèi)部風(fēng)險(xiǎn)和外部風(fēng)險(xiǎn)；而通用人工智能仍是一種較為遙遠(yuǎn)的設(shè)想，刑法對(duì)此應(yīng)保持謹(jǐn)慎克制的立場(chǎng)。在堅(jiān)持罪刑法定的總體底線和謙抑的內(nèi)在品質(zhì)的同時(shí)，立足于現(xiàn)階段人工智能的技術(shù)原理和功能特點(diǎn)，應(yīng)充分發(fā)掘傳統(tǒng)罪名的適用潛力，在刑法解釋論上更新視角，必要時(shí)可增設(shè)專(zhuān)罪予以規(guī)制。對(duì)此，刑法學(xué)理論還需進(jìn)一步深入研究。就通用智能機(jī)器人應(yīng)否成為刑事責(zé)任主體的問(wèn)題而言，從技術(shù)水平、價(jià)值觀念、具體認(rèn)定等方面尚存在較大困難，刑法對(duì)此應(yīng)堅(jiān)持克制、理性的態(tài)度，不可貿(mào)然將機(jī)器人納入刑法規(guī)制的行為主體范圍?？傮w而言，我們應(yīng)謹(jǐn)慎對(duì)待人工智能引發(fā)社會(huì)風(fēng)險(xiǎn)，并在此基礎(chǔ)上積極迎接人工智能時(shí)代的全面到來(lái)。