蘆 丹

（國防大學(xué) 政治學(xué)院西安校區(qū)，陜西 西安 710068）

人工智能在各行各業(yè)所引發(fā)的變革毫不遜色于人類發(fā)展史上的農(nóng)業(yè)革命、工業(yè)革命與信息革命，對于犯罪預(yù)防而言，人工智能理論層面的深度發(fā)展與應(yīng)用層面的持續(xù)下沉引發(fā)了犯罪防治模式的重大變革，也為犯罪預(yù)測、偵查、預(yù)防、治理提供了強有力的技術(shù)支持。然而，欣喜于科技進步的同時，人們應(yīng)當意識到“人工智能是一把雙刃劍”，其既是社會進步，使得復(fù)雜犯罪動態(tài)的預(yù)防與治理成了可能，又是社會風(fēng)險，可能引發(fā)一系列諸如道德、倫理、人類失業(yè)、犯罪風(fēng)險等。然而，現(xiàn)階段國內(nèi)外關(guān)于人工智能時代的犯罪預(yù)防與治理研究仍稍顯滯后。因此，有必要立足人工智能時代犯罪預(yù)防與治理面臨的機遇與挑戰(zhàn)，思考人工智能時代犯罪預(yù)防與治理的創(chuàng)新思路，以借助人工智能實現(xiàn)技術(shù)防治的同時，有效規(guī)避人工智能非法應(yīng)用可能引發(fā)的犯罪風(fēng)險。

一、人工智能時代犯罪預(yù)防與治理面臨的機遇與挑戰(zhàn)

（一）人工智能助力犯罪預(yù)防與治理模式的轉(zhuǎn)型

在傳統(tǒng)犯罪防治領(lǐng)域，無論是人防、物防抑或技防，均基于人為經(jīng)驗的基礎(chǔ)上制定防治措施，然而，實踐顯示，此種防治模式無論科學(xué)性，還是前瞻性均不甚理想，且成本高、效果差。而人工智能技術(shù)的應(yīng)用成功打破了傳統(tǒng)經(jīng)驗主義式犯罪防治模式的弊端，其借助大數(shù)據(jù)預(yù)測，集統(tǒng)計學(xué)、心理學(xué)及計算機學(xué)于一體的研究方法等，成功將犯罪態(tài)勢動態(tài)發(fā)展規(guī)律的分析從定性轉(zhuǎn)向定量研究、從宏觀轉(zhuǎn)向微觀預(yù)測、從數(shù)理模型轉(zhuǎn)向智慧模型，極大地提升了犯罪防治的科學(xué)性與精確度。不僅如此，隨著人工智能技術(shù)的持續(xù)革新與應(yīng)用落地，“AI+犯罪防治”逐步興起，區(qū)別于傳統(tǒng)以人力為主、技術(shù)為輔的守備、監(jiān)控、尋跡、研判與布防等犯罪防治模式，其通過收集各類跨媒體異構(gòu)數(shù)據(jù)，借助機器學(xué)習(xí)、生物識別、圖像理解等AI技術(shù)，達到對現(xiàn)實情境的精準檢測與控制，完成了跨場景異化空間行為的解讀、跨實體與虛擬空間社會形態(tài)的分析、大范圍社會觀測與群體認知等，實現(xiàn)了與犯罪產(chǎn)生機制關(guān)聯(lián)因素的交互感知與認知理解，推動了傳統(tǒng)被動、單線的模式逐步向主動、復(fù)合的犯罪防治模式轉(zhuǎn)型升級，不僅極大地節(jié)約了公共資源，優(yōu)化了警務(wù)配置，還高效整合了平臺技術(shù)，拓寬了犯罪防治的深度與廣度，也為犯罪智慧監(jiān)測與安全控制體系建設(shè)提供了支持〔1〕。

（二）人工智能深入應(yīng)用可能引發(fā)系列犯罪風(fēng)險

雖然，人工智能的應(yīng)用推動了犯罪防治模式的轉(zhuǎn)型升級，但若規(guī)制不足極有可能引發(fā)諸多犯罪風(fēng)險。人工智能的發(fā)展可劃分為三個階段，即弱人工智能、強人工智能、超人工智能階段。現(xiàn)階段人類社會正處在人工智能的起步階段，在犯罪防治領(lǐng)域的技術(shù)輔助也僅僅局限于某一特定的任務(wù)，如語音識別、圖像識別等。技術(shù)漏洞、人力限制及道德約束會極大地影響犯罪預(yù)測結(jié)果，導(dǎo)致預(yù)測滯后甚至與事實相悖，加上犯罪防治領(lǐng)域主客體間的“博弈”與“互動反射”進一步增大了預(yù)測的不確定性，極有可能導(dǎo)致預(yù)測結(jié)果反向偏差，不僅達不到預(yù)防犯罪的目的，甚至成為誤導(dǎo)或妨礙犯罪防治的關(guān)鍵性因素。不僅如此，相比于人工智能所引發(fā)的諸如道德、倫理、失業(yè)等尚未到來的社會風(fēng)險，人工智能領(lǐng)域的犯罪風(fēng)險顯得尤為突出與緊迫。根據(jù)犯罪學(xué)理論，犯罪可通過模仿在人群中迅速傳播，而人工智能時代，智能機器人的規(guī)?；瘧?yīng)用逐步使犯罪主體與對象由傳統(tǒng)的人類轉(zhuǎn)向與之行為模式、認知水平等方面極為相似的機器人，引發(fā)新型犯罪。而且隨著人工智能的縱深發(fā)展與應(yīng)用，若機器人具備深度自我學(xué)習(xí)能力，甚至習(xí)得人類犯罪行為，也有可能實施與人類類似的犯罪行為，甚至在智能技術(shù)支持下實施更為復(fù)雜的網(wǎng)絡(luò)犯罪。從2017年浙江衛(wèi)視報道的首例利用人工智能犯罪大案到2019年央視曝光的“智能騷擾電話機器人”，人工智能的非法應(yīng)用所引發(fā)的犯罪風(fēng)險逐步暴露出來，甚至形成了一條貫通上下游犯罪的黑色商業(yè)鏈，加上其與網(wǎng)絡(luò)犯罪的高度關(guān)聯(lián)性及犯罪活動便利性，導(dǎo)致人工智能犯罪不斷朝著虛擬空間蔓延，引發(fā)涉網(wǎng)犯罪案件的激增〔2〕。

二、人工智能時代犯罪預(yù)防與治理的創(chuàng)新思路

人工智能時代，犯罪防治的構(gòu)成涉及法治、主體與目標三大要素。其中，法治要素是防治犯罪的根本性、全局性、持久性保障；主體要素強調(diào)組織全社會力量參與犯罪預(yù)防，使犯罪分子無處藏身、犯罪行為無法得逞；目標要素強調(diào)通過技術(shù)賦能犯罪防治，兼顧發(fā)展與安全兩大目標。除此以外，人工智能時代的犯罪防治還要正視其可能引發(fā)的犯罪風(fēng)險，通過犯罪學(xué)理論規(guī)引強化風(fēng)險防控。

（一）理論規(guī)引

理論對實踐發(fā)揮著關(guān)鍵的指引作用。隨著人工智能的深入應(yīng)用可能引發(fā)的犯罪風(fēng)險，需要借助國家安全觀理論、犯罪學(xué)理論進行指導(dǎo)與規(guī)引，以引導(dǎo)人們科學(xué)認識與把握人工智能領(lǐng)域的刑事風(fēng)險，提升犯罪風(fēng)險防控意識。一方面，犯罪學(xué)研究十分重視犯罪預(yù)防與治理的學(xué)術(shù)性問題，并強調(diào)利用犯罪學(xué)理論指導(dǎo)人工智能時代的犯罪防治工作，以期在精準把握人工智能技術(shù)的基礎(chǔ)上提升抵御其刑事風(fēng)險的能力，因此，要圍繞人工智能領(lǐng)域的刑事風(fēng)險，從防治視角研究、論證與創(chuàng)新，強化犯罪學(xué)理論研究與“人工智能+犯罪防治”實踐探索的有機結(jié)合，構(gòu)建防治工作與理論研究互動機制，為人工智能時代的犯罪防治提供優(yōu)秀的理論輸出與指導(dǎo)；另一方面，要在犯罪學(xué)理論研究的基礎(chǔ)上，進一步加強立法、制度、監(jiān)管、產(chǎn)業(yè)綜合治理、社會參與防治、技術(shù)治理等理論研究，持續(xù)探索人工智能倫理框架的完善思路，明確其技術(shù)工具的基本屬性，以有效規(guī)避該領(lǐng)域可能引發(fā)的犯罪風(fēng)險〔3〕。此外，要加快人工智能的倫理研究，完善倫理框架，明確智能機器人的工具性，避免生產(chǎn)與人類相似的機器人，使之高度模仿人類，甚至模仿人類的犯罪行為。正如英國史密斯教授所提及的：“對待人與機器之間的關(guān)系，最有效的方式是將機器視為人類機器系統(tǒng)的延伸，而非將其視為智能系統(tǒng)進行交流?！睓C器工具主義的支持可有效規(guī)避人工智能深度發(fā)展可能引發(fā)的犯罪風(fēng)險。

（二）立法防治

謙抑性與部門法律的補充性是刑法的基本特征與性質(zhì)，只有當部門法律無法保護法益、不足以抑制某種危害行為時，才由刑法保護與禁止。上文提及，當前人類社會人工智能的發(fā)展僅處于“弱人工智能”階段，人工智能技術(shù)僅應(yīng)用于部分領(lǐng)域，橫向與縱向發(fā)展均不平衡、不充分，如此形勢下，還需加快推進立法進程，完善罪名體系，以立法強化犯罪防治。具體而言，一方面，國家要考慮增設(shè)罪名，加快推進科技立法，建立健全數(shù)據(jù)內(nèi)容管理、人工智能信息保護機制，針對人工智能非法應(yīng)用問題，首先要考慮民法、行政法等部門法律的適用性，提前將刑事犯罪風(fēng)險扼殺在搖籃中，同時，要深度研究“故意”“過失”“意志自由”和“打擊錯誤”等刑法理論，以充分發(fā)揮刑法對一般犯罪的預(yù)防作用；另一方面，國家要從立法層面強化人工智能研發(fā)者、設(shè)計者的責(zé)任規(guī)制，避免將“機器人”作為責(zé)任主體，還要注重以個體信息保護制切斷人工智能非法應(yīng)用的數(shù)據(jù)支持，減少個體信息遭受侵害的可能性；此外，國家要加快完善個人信息保護相關(guān)法律法規(guī)，通過隱私保護徹底切斷因人工智能非法應(yīng)用而引發(fā)的犯罪行為，現(xiàn)今出現(xiàn)的人工智能非法應(yīng)用犯罪案例中頻繁出現(xiàn)個人信息被竊取等情況，為了規(guī)避此類犯罪行為，僅僅運用刑法完善個人信息保護仍遠遠不夠，還要加快完善具體的地方行政法規(guī)，加強有關(guān)部門對個人信息收集、使用等行為的監(jiān)管，同時要完善行業(yè)標準，強化行業(yè)自律，針對收集、分析、管理、利用個人信息的各類行業(yè)出臺明確的行業(yè)標準，簽訂安全協(xié)議，規(guī)避有關(guān)人員竊取個人信息的可能性，還要設(shè)置行為準則，確立網(wǎng)絡(luò)空間信息收集的行為規(guī)范，通過推進《數(shù)據(jù)安全管理辦法》等規(guī)范，全面保障個人信息與重要數(shù)據(jù)的安全性。

（三）社會預(yù)防

人工智能犯罪可謂世界性難題。因此，需要發(fā)揮全社會的力量強化犯罪防治。一方面，要積極借鑒網(wǎng)絡(luò)“新楓橋經(jīng)驗”，探索警企合作、群防群治的犯罪防治新模式，充分發(fā)揮互聯(lián)網(wǎng)企業(yè)的技術(shù)優(yōu)勢，鼓勵網(wǎng)絡(luò)群眾參與，將其作為預(yù)防和打擊人工智能犯罪的重要力量，將犯罪防治延伸到虛擬空間，協(xié)同各地各級政法機關(guān)共同維護實體與虛擬空間的安全性。另一方面，要推動人工智能技術(shù)進入基層社區(qū)，探索人工智能與社區(qū)預(yù)防相結(jié)合的犯罪防治新模式。以成都“社區(qū)矯正監(jiān)管機器人”為例，其集信息查詢、視頻播放、業(yè)務(wù)申報、語言報送、錄音錄像等功能于一體，可利用特征提取技術(shù)、計算機視覺等進行轄區(qū)內(nèi)居民生物特征的采集，識別不同個體的指紋、聲紋、人像、芯片，有效加強了社區(qū)高風(fēng)險群體的日常管理、跟蹤監(jiān)測、學(xué)習(xí)培訓(xùn)及全過程心理評估，可謂“人工智能+犯罪防治”領(lǐng)域的典范〔4〕。此外，為了治理網(wǎng)絡(luò)灰黑產(chǎn)業(yè)，還需從預(yù)防與治理兩大視角共同發(fā)力，既要通過強化社區(qū)法治宣傳，明確制度規(guī)范，又要加強網(wǎng)絡(luò)“灰黑產(chǎn)業(yè)”的綜合治理，包括虛假賬號注冊等源頭性“灰黑產(chǎn)業(yè)”，非法交易平臺，木馬植入、釣魚網(wǎng)站、惡意軟件等以及惡意注冊、虛假認證、盜號等形式實現(xiàn)的網(wǎng)絡(luò)黑賬號，徹底掃除人工智能非法應(yīng)用的生存土壤。

（四）技術(shù)防治

科技本身既無害也無利，關(guān)鍵是如何利用。人工智能技術(shù)有著超越人類數(shù)據(jù)處理及分析的強大功能，對于強化犯罪預(yù)防與治理具有十分重要的價值，為了充分發(fā)揮其在犯罪領(lǐng)域的技術(shù)防治效能，一方面，要借助人工智能強大的數(shù)據(jù)獲取能力與高速數(shù)據(jù)處理能力，高效處理和分析非結(jié)構(gòu)化數(shù)據(jù)，如基于物聯(lián)網(wǎng)、智能手機、車聯(lián)網(wǎng)等的智能終端及傳感器所存儲備份的圖像、音視頻、地理位置、活動軌跡、網(wǎng)絡(luò)日志等數(shù)據(jù)，全面整合、統(tǒng)籌利用犯罪情報信息，實現(xiàn)對潛在犯罪的快速反應(yīng)與協(xié)同作戰(zhàn)；另一方面，利用人工神經(jīng)網(wǎng)絡(luò)自我學(xué)習(xí)、自助診斷、最優(yōu)決策等功能，打破傳統(tǒng)犯罪防治的思維定勢，通過情報信息深度加工整合，實現(xiàn)犯罪行為的精準打擊與全面預(yù)防，還要借助人工智能持續(xù)不斷地自我修正，持續(xù)完善人臉識別等實用性犯罪預(yù)防技術(shù)，通過核心算法優(yōu)化、信息采集渠道拓展、多元分域數(shù)據(jù)庫建設(shè)等，提升技術(shù)準確率，方便更精準識別犯罪行為〔5〕；此外，借助人工智能對非結(jié)構(gòu)數(shù)據(jù)智能結(jié)構(gòu)化分析與異構(gòu)數(shù)據(jù)智能融合功能，打破傳統(tǒng)視頻監(jiān)控應(yīng)用深度淺、資源浪費率高等問題，通過視頻結(jié)構(gòu)化方案與服務(wù)器集群，以數(shù)倍于人工排查的效率完成偵查任務(wù)，提高犯罪防治效果〔6〕。