国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

刑事司法中的人工智能應(yīng)用探究

2022-03-04 12:28:46熊秋紅
關(guān)鍵詞:量刑司法人工智能

熊秋紅

人類社會(huì)發(fā)展以科技創(chuàng)新為引擎,經(jīng)歷了從農(nóng)業(yè)社會(huì)、工業(yè)社會(huì)到信息社會(huì)的變遷,而信息社會(huì)以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等為主要特征。關(guān)于人工智能一詞,通常的理解是“透過程式設(shè)計(jì)及建置,使電腦有類似于人們的知識(shí)及反應(yīng),做到理解人們的表達(dá)、學(xué)習(xí)、推論及解決問題,以及記憶”①參見李榮耕:《初探刑事程序法的人工智慧應(yīng)用——以犯罪熱區(qū)為例》,載劉靜怡主編:《人工智慧相關(guān)法律議題芻議》,元照出版有限公司2020年版,第122 頁。。人工智能有一般人工智能(強(qiáng)人工智能)和狹義人工智能(弱人工智能)之分。一般人工智能是指一個(gè)計(jì)算機(jī)系統(tǒng)在所有領(lǐng)域都表現(xiàn)出人的或超人的智力,它能將一個(gè)領(lǐng)域的知識(shí)轉(zhuǎn)移到另一個(gè)領(lǐng)域,這在短期內(nèi)尚難實(shí)現(xiàn)。迄今為止,人類在人工智能方面取得的所有成就均屬于狹義人工智能范疇。狹義人工智能不涉及全意識(shí)(即與人類相當(dāng)?shù)闹橇Γ?,但它能夠通過提高工作效率和自動(dòng)化,對(duì)社會(huì)產(chǎn)生巨大影響。人工智能經(jīng)歷了基于規(guī)則的系統(tǒng)、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)三個(gè)發(fā)展階段。②參見熊秋紅:《人工智能在刑事證明中的應(yīng)用》,《當(dāng)代法學(xué)》2020年第3 期。人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心力量,正在推動(dòng)傳統(tǒng)產(chǎn)業(yè)升級(jí)換代,并在教育、醫(yī)療、養(yǎng)老、環(huán)境保護(hù)、城市運(yùn)行等諸多領(lǐng)域發(fā)揮積極作用,并因此可能劇烈改變?nèi)祟惖慕?jīng)濟(jì)、社會(huì)和文化生活方式。在刑事司法領(lǐng)域,由于人工智能可以在短時(shí)間內(nèi)分析及處理大量的資料信息,因而被運(yùn)用于犯罪預(yù)測(cè)、犯罪偵查和犯罪預(yù)防;運(yùn)用于預(yù)測(cè)個(gè)體是否會(huì)再次犯罪、是否會(huì)在開庭日出庭等的可能性,從而影響關(guān)于保釋和緩刑的決定;運(yùn)用于分析量刑總體態(tài)勢(shì),從而影響檢察官和法官關(guān)于量刑的決定;運(yùn)用于評(píng)估罪犯的風(fēng)險(xiǎn)等級(jí),從而影響關(guān)于假釋和矯正措施的決定??梢灶A(yù)見,未來人工智能在刑事司法中的應(yīng)用范圍將會(huì)逐漸擴(kuò)大。刑事訴訟立法應(yīng)當(dāng)如何回應(yīng)人工智能的運(yùn)用,就成為一個(gè)亟待研究的問題。從技術(shù)發(fā)展與法律的關(guān)系來看,法律往往落后于技術(shù)發(fā)展,但另一方面,技術(shù)又是在法律的框架下發(fā)展的,有時(shí)法律會(huì)限制技術(shù)的發(fā)展,反過來,技術(shù)發(fā)展成為推動(dòng)法律發(fā)展的源動(dòng)力。在世界范圍內(nèi),關(guān)于人工智能的法律規(guī)制在數(shù)據(jù)治理、算法治理和應(yīng)用系統(tǒng)治理層面,均形成了較為廣泛的共識(shí)。從司法人工智能開發(fā)與法律規(guī)制的關(guān)系上看,歐盟與美國采取的政策有所不同,歐盟以統(tǒng)一立法、強(qiáng)調(diào)安全、事先規(guī)制為特點(diǎn),美國則以逐步立法、強(qiáng)調(diào)開放、事后救濟(jì)為特點(diǎn)。在我國,對(duì)于人工智能在刑事司法中的應(yīng)用,起初存在較大分歧,但近些年來在國家人工智能發(fā)展戰(zhàn)略的推動(dòng)下獲得了突飛猛進(jìn)的發(fā)展。有學(xué)者①參見李訓(xùn)虎:《刑事司法人工智能的包容性規(guī)制》,《中國社會(huì)科學(xué)》2021年第2 期。據(jù)此認(rèn)為,對(duì)刑事司法人工智能的規(guī)制,與歐盟的嚴(yán)格監(jiān)管模式和美國的漸進(jìn)規(guī)制模式相比,我國采取了發(fā)展優(yōu)位的模式,使得人工智能在刑事司法領(lǐng)域的應(yīng)用走在世界前列。此外,認(rèn)為歐美國家司法實(shí)務(wù)機(jī)關(guān)對(duì)于人工智能在刑事司法領(lǐng)域的應(yīng)用,普遍持相對(duì)保守的態(tài)度,而我國則采取了積極研發(fā)的態(tài)度。在世界各國,人工智能在刑事司法中的應(yīng)用狀況究竟如何,人工智能在刑事司法中的應(yīng)用帶來了哪些爭(zhēng)議問題,對(duì)人工智能在刑事司法中的應(yīng)用應(yīng)當(dāng)如何進(jìn)行規(guī)制,本文就上述問題進(jìn)行探討。

一、人工智能在刑事司法中的應(yīng)用狀況

從人工智能的起源來看,1950年,英國電腦科學(xué)家圖靈(Turing)在《計(jì)算機(jī)器與智能》一文中,提出著名的圖靈測(cè)試,測(cè)試電腦是否可以和人類一樣展露出智力的行為。②See Alan M.Turing,“Computing Machinery and Intelligence”,59 MIND 433,433-460(1950).1956年,麥卡錫、明斯基等科學(xué)家在美國達(dá)特茅斯學(xué)院開會(huì)研討“如何用機(jī)器模擬人的智能”,首次提出了“人工智能”的概念,人工智能學(xué)科由此誕生。③參見譚鐵牛:《人工智能的歷史、現(xiàn)狀和未來》,《求是》2019年第4 期。當(dāng)前,隨著人工智能技術(shù)的快速發(fā)展,各國均在通過創(chuàng)新工具建構(gòu)智能管控體系,設(shè)計(jì)全方位整合式服務(wù)方案,結(jié)合相關(guān)資源在不同領(lǐng)域提高效能,同時(shí)完備人工智能法制,用更有效的方式推進(jìn)社會(huì)治理和智慧治理。弗蘭克·帕斯奎爾(Frank Pasquale)④Frank Pasquale,“A Rule of Persons,Not Machine: The Limits of Legal Automation”,87 Geo.Wash.L.Rev.1 (2019),https://papers.ssrn.com/sol3/papers.cfm?abstract_ id=3135549,accessed by Oct.10,2022.曾指出,已取代法律人任務(wù)的人工智能系統(tǒng)應(yīng)該受到約束,相反地,在法治理念下我們應(yīng)該發(fā)展輔助性的智能系統(tǒng)。早在20世紀(jì)80年代,資訊科技已開始應(yīng)用于刑事司法,進(jìn)入21世紀(jì)之后,各種自動(dòng)化或人工智能技術(shù)的應(yīng)用更為深入,人工智能兼具大數(shù)據(jù)和機(jī)器學(xué)習(xí)兩大技術(shù)特色。從世界范圍內(nèi)來看,目前刑事司法領(lǐng)域的人工智能應(yīng)用,主要集中在偵查、保釋、暫緩起訴、量刑、假釋或監(jiān)所的矯治及管理等領(lǐng)域。在我國臺(tái)灣地區(qū),人工智能在刑事司法領(lǐng)域的應(yīng)用包括犯罪人危險(xiǎn)評(píng)估、犯罪空間制圖、大數(shù)據(jù)智能管控對(duì)策、高風(fēng)險(xiǎn)再犯征兆的輔助判斷、建立信心指數(shù)與預(yù)警機(jī)制、分析犯罪人有關(guān)行蹤軌跡、違規(guī)模式和犯罪熱點(diǎn)等資訊的大數(shù)據(jù)預(yù)測(cè)系統(tǒng)等。①參見蔡清祥:《人工智慧與法務(wù)》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第7 頁。而在我國大陸,由于“上海刑事案件智能輔助辦案系統(tǒng)”(簡(jiǎn)稱“206 工程”或“206 系統(tǒng)”)、貴陽政法大學(xué)數(shù)據(jù)辦案系統(tǒng)的研發(fā),人工智能在刑事司法中有了比其他國家和地區(qū)更為廣泛的應(yīng)用。

(一)犯罪預(yù)測(cè)

早期的數(shù)據(jù)預(yù)測(cè),采用的統(tǒng)計(jì)技術(shù)較為傳統(tǒng),且資料限制較多,當(dāng)運(yùn)用在刑事司法領(lǐng)域時(shí),常存在樣本數(shù)量不足或集中在特定案件等局限,加上研究方法也可能有瑕疵,導(dǎo)致無法全面推廣應(yīng)用,對(duì)刑事政策制定以及個(gè)案決策的助益也相對(duì)有限?,F(xiàn)在的數(shù)據(jù)預(yù)測(cè),采用更精密的多變量統(tǒng)計(jì)技術(shù),并且重視統(tǒng)計(jì)效度,強(qiáng)調(diào)長期觀察現(xiàn)象變動(dòng),將早期數(shù)據(jù)預(yù)測(cè)中存在的缺陷逐一改善。再者,當(dāng)前的資訊呈現(xiàn)巨量、迅速、多元的特征,面對(duì)大數(shù)據(jù)時(shí)代,傳統(tǒng)的資料分析方法必然難以應(yīng)付,人工智能的勃興,恰可解決這些問題,提供更有意義的數(shù)據(jù)預(yù)測(cè)。這不僅能對(duì)刑事司法實(shí)務(wù)提供幫助,更可能從中獲得意想不到的發(fā)現(xiàn)。②參見王紀(jì)軒:《人工智慧于司法實(shí)務(wù)的應(yīng)用》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第132 頁。

相關(guān)研究③參見李榮耕:《初探刑事程序法的人工智慧應(yīng)用——以犯罪熱區(qū)為例》,載劉靜怡主編:《人工智慧相關(guān)法律議題芻議》,元照出版有限公司2020年版,第124 頁。表明,利用人工智能分析大量的既有信息,如犯罪記錄、報(bào)案資料、經(jīng)濟(jì)數(shù)據(jù)、地理資料等,可以進(jìn)行以下四種類型的犯罪預(yù)測(cè):(1)預(yù)測(cè)犯罪可能發(fā)生的地點(diǎn)及時(shí)間;(2)預(yù)測(cè)可能進(jìn)行犯罪的人;(3)預(yù)測(cè)可能成為犯罪者的特征;(4)預(yù)測(cè)可能成為被害者之人。在美國,警察在執(zhí)法中有時(shí)會(huì)使用軟件和算法(如紐約市警察局1994年起使用的COMPSTAT 系統(tǒng)、2011年加州圣塔克魯茲市警察局采用的Predpol 系統(tǒng)),預(yù)測(cè)犯罪可能發(fā)生的時(shí)間、地點(diǎn),鎖定“犯罪熱區(qū)”,從而使警方能夠合理配置警力資源。④參見蕭奕弘:《AI 是否會(huì)讓刑事司法更公平》,載張麗卿主編:《人工智慧與法律挑戰(zhàn)》,元照出版有限公司2021年版,第678 頁。警察還可從個(gè)案的行蹤記錄建構(gòu)犯罪地理圖像,分析哪些地點(diǎn)是受監(jiān)控個(gè)案最常出現(xiàn)的群聚位置、何時(shí)是犯罪熱門時(shí)段,因此,加強(qiáng)警察巡邏以預(yù)防犯罪。從2012年起,帕蘭提爾(Palantir)科技公司與紐奧良警方建立合作關(guān)系,追蹤幫派成員的關(guān)系及犯罪記錄、社交網(wǎng)站,預(yù)測(cè)可能的犯罪地點(diǎn),讓警察機(jī)關(guān)鎖定高度風(fēng)險(xiǎn)者。⑤同注①,第679 頁。

為了有效地打擊毒品犯罪,我國臺(tái)灣地區(qū)司法部門運(yùn)用資料探勘與社會(huì)網(wǎng)絡(luò)分析技術(shù),結(jié)合觀護(hù)體系的無毒防護(hù)溫暖關(guān)懷計(jì)劃,以及警察機(jī)關(guān)對(duì)各地社區(qū)大樓建立毒情通報(bào)及協(xié)助機(jī)制,并納入社區(qū)管理委員會(huì)和保全系統(tǒng),分別從案件資料及社區(qū)通報(bào)等各項(xiàng)資訊,分析毒品施用者群聚分布情形,針對(duì)疑似高風(fēng)險(xiǎn)再犯族群進(jìn)行介入,對(duì)社區(qū)型毒販實(shí)施打擊,有效地掌握了毒品有關(guān)人口,降低了毒品的蔓延。建立毒品犯罪者資料庫之后,警察和檢察官只要登錄該資料庫平臺(tái),輸入欲查詢對(duì)象的特征,如人名、車牌號(hào)碼、電話號(hào)碼等,資料庫就可以進(jìn)行對(duì)比分析。該系統(tǒng)探討了毒品施用者與暴力犯罪的關(guān)聯(lián)性,整合相關(guān)系統(tǒng)資料庫進(jìn)行研究,以巨量資料分析及多目標(biāo)決策等方法論技術(shù),尋找毒品施用者及暴力犯罪之再犯因子及高風(fēng)險(xiǎn)行為預(yù)測(cè)指標(biāo),協(xié)助有關(guān)人員建立決策分析支援模式,發(fā)揮犯罪風(fēng)險(xiǎn)管理效能,可用于犯罪預(yù)防措施的采用、毒品施用者及暴力犯罪者的社區(qū)處遇等。①參見蔡清祥:《人工智慧與法務(wù)》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第5-6 頁。

(二)犯罪偵查

人工智能在刑事偵查中起著情報(bào)智能收集、情報(bào)數(shù)據(jù)智能研判、證據(jù)智能獲取、犯罪嫌疑人智能拘捕等作用,具有風(fēng)險(xiǎn)防控提前化、信息渠道多元化、數(shù)據(jù)采集精確化、刑事證明精細(xì)化等特點(diǎn)。在企業(yè)涉嫌金融犯罪等案件中,警察和檢察官可以借助人工智能,快速取得與本案相關(guān)的證據(jù)。如果某地區(qū)發(fā)生刑事案件,可以通過分析該地區(qū)在過去特定期間曾經(jīng)出現(xiàn)過的個(gè)案行蹤軌跡,過濾出可能的犯罪嫌疑人,判斷該個(gè)案中犯罪嫌疑人在場(chǎng)或不在場(chǎng)。若犯罪嫌疑人、被告人、罪犯逃亡,人工智能技術(shù)可以提供助力。人工智能的視覺資料處理系統(tǒng)可以準(zhǔn)確地進(jìn)行人臉識(shí)別,建構(gòu)更全面的監(jiān)控系統(tǒng),具有人工智能技術(shù)支持的監(jiān)控系統(tǒng)可以瞬間在影像內(nèi)發(fā)現(xiàn)逃亡人員的臉型或車牌,并且找出資料庫中逃亡人員的相關(guān)資料,再佐以地圖技術(shù),迅速判斷逃亡人員的蹤跡。如我國的天網(wǎng)監(jiān)控系統(tǒng),建立了龐大的人臉識(shí)別系統(tǒng),在司法實(shí)踐中,采用人像比對(duì)系統(tǒng)、車輛比對(duì)識(shí)別系統(tǒng)、超級(jí)搜索、標(biāo)簽畫像等技術(shù)認(rèn)定并抓獲了大量的犯罪嫌疑人和在逃犯。②參見梁坤、周韜:《當(dāng)前人工智能偵查的應(yīng)用困境及突破進(jìn)路》,《山東警察學(xué)院學(xué)報(bào)》2018年第3 期。2017年,我國臺(tái)灣地區(qū)警察部門稱,“行動(dòng)警察M-Police”可通過人臉識(shí)別系統(tǒng),尋找通緝犯、確認(rèn)酒駕肇事者的身份。③參見王紀(jì)軒:《人工智慧于司法實(shí)務(wù)的應(yīng)用》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第142 頁。

在德國,聯(lián)邦刑警局在20世紀(jì)70年代開展了“網(wǎng)格式偵查”,并為《德國刑事訴訟法》第98a條所規(guī)定。就網(wǎng)格式偵查而言,資訊學(xué)者在分析前所擬的分析框架全然依程式而運(yùn)作,其結(jié)果之出現(xiàn)與否,屬于一種必然的現(xiàn)象。《德國刑事訴訟法》第100g 條關(guān)于聯(lián)絡(luò)資訊偵查的規(guī)定,其背后需要運(yùn)用數(shù)據(jù)剖析技術(shù),除非運(yùn)用相關(guān)預(yù)測(cè)性分析,否則不可能有效達(dá)到該條第1 項(xiàng)所要求的“對(duì)犯罪嫌疑人所在地之調(diào)查”。為此,系統(tǒng)必須依高度或然率提出相關(guān)預(yù)測(cè),即不可能提出單一的必然結(jié)果。例如,當(dāng)警方不知犯罪嫌疑人為何人,但似乎可以確定犯罪嫌疑人以假名承租某大都市的公寓,所以將該都市中的所有承租人資料與其他官方資料(如出生登記、駕照等)加以對(duì)比,且依此排除不可能為犯罪嫌疑人的人群。在這種數(shù)位偵查中,大量數(shù)據(jù)的運(yùn)用,越來越容易使得分析系統(tǒng)首先將所有民眾的資訊當(dāng)作母數(shù),然后在此潛在犯罪嫌疑人的大眾中找出真正的嫌疑人。④參見葛祥林:《數(shù)位化、大數(shù)據(jù)和人工智慧對(duì)刑事訴訟的沖擊》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第219-223 頁。

(三)輔助審前羈押與保釋

在刑事司法中,人工智能可以作為風(fēng)險(xiǎn)評(píng)估工具,用于輔助審前程序中關(guān)于羈押與保釋、附條件不起訴或暫緩起訴等決策。在美國,有一半以上的州采用COMPAS、PSA、LSI-R 三種主要的風(fēng)險(xiǎn)評(píng)估軟件來輔助保釋、量刑和假釋。實(shí)踐中,這些模型首先會(huì)根據(jù)與不特定被評(píng)估者個(gè)人的歷史數(shù)據(jù)來作出風(fēng)險(xiǎn)評(píng)估。隨后,這些模型會(huì)針對(duì)被評(píng)估者個(gè)人提出一系列的問題,并從評(píng)估者個(gè)人回答或是從其犯罪記錄中提取答案,問題的答案會(huì)進(jìn)一步和歷史數(shù)據(jù)進(jìn)行比對(duì)。⑤參見李本:《美國司法實(shí)踐中的人工智能:?jiǎn)栴}與挑戰(zhàn)》,《中國法律評(píng)論》2018年第2 期。許多州將人工智能作為保釋程序中的風(fēng)險(xiǎn)評(píng)估工具,包括對(duì)公共安全的風(fēng)險(xiǎn)和不出庭的可能性,而非被告人是否有能力繳納一定數(shù)量的保釋金。新澤西州的公共安全風(fēng)險(xiǎn)評(píng)估工具使用了9 個(gè)因素來確定再犯可能性,這些因素包括:逮捕時(shí)的年齡;暴力犯罪;犯重罪時(shí)還面臨另一指控;被告人被指控行為不檢點(diǎn)或犯有其他輕罪;被告人曾經(jīng)犯重罪;被告人曾犯擾亂治安者的犯罪;以前的暴力犯罪;過去2年曾缺席審前程序;過去2年以上曾缺席審前程序;曾被判處監(jiān)禁刑。①See Benoit Dupont et al.,“Artificial Intelligence in the Context of Crime and Criminal Justice: A Report for the Korean Institute of Criminology”,December,2018,pp.121-124,http://www.cicc-iccc.org/public/media/files/prod/publication_files/Artificial-Intelligence-in-the-Context-of-Crime-and-Criminal-Justice_KICICCC_2019.pdf,accessed by May 1,2022.根據(jù)其風(fēng)險(xiǎn)高低,作出羈押或保釋決定。2009年,美國司法部發(fā)布了一份名為《聯(lián)邦法院審判前風(fēng)險(xiǎn)評(píng)估:為擴(kuò)大羈押替代手段之行使》的文件,該文件從統(tǒng)計(jì)學(xué)和技術(shù)意義上確定了相關(guān)預(yù)測(cè)因子,用來判斷對(duì)被告采取保釋的社會(huì)危險(xiǎn)性程度及其司法完整性影響。②參見江溯:《大數(shù)據(jù)在刑事司法體系中的應(yīng)用及其問題》,載張麗卿主編:《人工智慧與法律挑戰(zhàn)》,元照出版有限公司2021年版,第587 頁。

(四)輔助量刑

量刑可以說是刑事審判程序中最為困難的工作,量刑偏差和量刑不均衡是長期存在的全球性問題。運(yùn)用人工智能輔助量刑,越來越成為各國共同的趨勢(shì)。在澳大利亞新南威爾士州,自2003年以來,司法委員會(huì)和量刑委員會(huì)建立了完善的“量刑資訊系統(tǒng)”,后又發(fā)展為“量刑資訊研究系統(tǒng)”,被譽(yù)為世界上最詳盡、最復(fù)雜且最精密的司法資訊研究系統(tǒng)。所有的法律圖書、法律條文及案例(5 000 萬個(gè)案例)均收集在內(nèi)。該系統(tǒng)利用科技資訊,提供給法官大量的前案資訊,包括刑罰統(tǒng)計(jì)資料庫、裁判資料庫、個(gè)案摘要資料庫、量刑原則與實(shí)務(wù)資料庫、當(dāng)?shù)亓啃淘O(shè)施資料庫、進(jìn)階記錄資料庫、電子法官手冊(cè)資料庫、立法資料庫等。該系統(tǒng)透過個(gè)別犯罪“量刑趨勢(shì)”的分析,提供有關(guān)類似案件的最高和最低的量刑規(guī)定,讓法官從保證量刑一致性的角度考慮,盡量選擇該資料庫提供的平均值。早期只有法官可以免費(fèi)使用該系統(tǒng),后來立法要求提供分享,公設(shè)辯護(hù)人及法律援助律師也可免費(fèi)使用,至于一般從業(yè)人員,則需付費(fèi)。律師、檢察官可將查詢所得資料作為法庭上量刑辯論的重要根據(jù)。該系統(tǒng)現(xiàn)已成為法庭審判的重要輔助工具,對(duì)法官量刑和檢察官上訴都產(chǎn)生了某種程度的影響。③參見郭豫珍:《量刑與刑量——量刑輔助制度的全觀微視》,元照出版有限公司2013年版,第46-56 頁。

在荷蘭,早在20世紀(jì)90年代,檢察總署就開發(fā)了以規(guī)則為主的求刑決策支持系統(tǒng)。該系統(tǒng)提供檢察官具體求刑的量刑建議,檢察官只須回答有關(guān)個(gè)案犯罪事實(shí)與情況的特定問題,例如,偷竊金錢的數(shù)額、武器的使用、對(duì)被害人使用暴力等,系統(tǒng)就會(huì)將答案轉(zhuǎn)換成檢察官具體求刑的點(diǎn)數(shù)與百分比,檢察官基于合理的理由才能偏離該系統(tǒng)輸出的結(jié)論。由于意識(shí)到法官量刑不能過度依賴公訴政策,因此,后來又發(fā)展了“法官與檢察官量刑系統(tǒng)”,但法官不被強(qiáng)制要求使用該系統(tǒng),該系統(tǒng)可以為法官處理個(gè)案提供相關(guān)的資料。④同注③,第71-73 頁。

美國1998年開發(fā)的“COMPAS”⑤該軟件的全稱為“Correctional Offender Management Profiling for Alternative Sanctions”,可譯為“罪犯矯正替代性制裁分析管理系統(tǒng)”。軟件,基于被告人或罪犯對(duì)137 個(gè)問題的回答進(jìn)行預(yù)測(cè),以此評(píng)估其再犯風(fēng)險(xiǎn)。該軟件被美國不少州采用。有研究①See Benoit Dupont et al.,“Artificial Intelligence in the Context of Crime and Criminal Justice: A Report for the Korean Institute of Criminology”,December,2018,pp.129-131,http://www.cicc-iccc.org/public/media/files/prod/publication_files/Artificial-Intelligence-in-the-Context-of-Crime-and-Criminal-Justice_KICICCC_2019.pdf,accessed by May 1,2022.表明,該軟件的總體再犯預(yù)測(cè)準(zhǔn)確率為65.1%。在“威斯康星州訴盧米斯案”②See State of Wisconsin v.Eric L.Loomis,2016 Wis.68,881 N.W.2d.749(2016).中,威斯康星州懲戒署提供了一份包括“COMPAS 風(fēng)險(xiǎn)評(píng)估”在內(nèi)的判刑前調(diào)查報(bào)告,法庭在量刑判決中提到了“COMPAS 評(píng)估”,并部分地依據(jù)這一評(píng)估,判處盧米斯6年有期徒刑和5年的延期監(jiān)督。盧米斯向初審法院提出了動(dòng)議,認(rèn)為法院依據(jù)“COMPAS 評(píng)估”對(duì)其加以判處侵犯了其正當(dāng)程序權(quán)利。初審法院駁回了盧米斯的動(dòng)議;威斯康星州上訴法院和最高法院維持了原判。法院所持理由主要包括:在評(píng)測(cè)中所用信息的準(zhǔn)確性已經(jīng)得到了驗(yàn)證;評(píng)估報(bào)告不是作出決定的唯一依據(jù);法院即使考慮了“COMPAS 評(píng)估”的因素,仍然足以進(jìn)行個(gè)別化裁判,因?yàn)榉ü儆邢鄳?yīng)的辨別力和必要的信息。③參見朱體正:《人工智能輔助刑事裁判的不確定性風(fēng)險(xiǎn)及其防范——美國威斯康星州訴盧米斯案的啟示》,《浙江社會(huì)科學(xué)》2018年第6 期。

在我國,早在20世紀(jì)80年代末,就有學(xué)者④參見趙廷光:《論“電腦量刑”的基本原理》,《湖北警官學(xué)院學(xué)報(bào)》2007年第2 期。開始研究量刑公正與人工智能的結(jié)合問題,并于1993年完成了人工智能軟件“輔助量刑系統(tǒng)”的研制。2006年3月,山東省淄博市淄川區(qū)人民法院在量刑規(guī)范化改革中推出了與高科技公司聯(lián)合研制的電腦量刑軟件⑤參見郭新磊:《淄博電腦量刑挑戰(zhàn)自由裁量權(quán)》,《民主與法治時(shí)報(bào)》2006年9月11日。,實(shí)現(xiàn)了對(duì)人工智能在法院量刑中的運(yùn)用。地方司法機(jī)關(guān)研發(fā)的量刑輔助系統(tǒng),還包括廣州市人民法院的智審輔助量刑裁決系統(tǒng)、海南省人民法院的量刑規(guī)范化智能輔助系統(tǒng)、南京市人民法院的同案不同判預(yù)警系統(tǒng)⑥參見潘庸魯:《人工智能介入司法領(lǐng)域路徑分析》,《東方法學(xué)》2018年第3 期。、江蘇省蘇州工業(yè)園區(qū)人民檢察院的量刑建議輔助系統(tǒng)⑦參見《蘇州:開發(fā)輔助軟件系統(tǒng)規(guī)范量刑建議工作》,http://www.paxm.xm.gov.cn/tszs/201301/t20130125_612631.htm,2022年10月2日訪問。、重慶市檢察機(jī)關(guān)的量刑建議輔助系統(tǒng)等。⑧參見李立峰:《運(yùn)行升級(jí)版量刑建議輔助系統(tǒng)》,《檢察日?qǐng)?bào)》2019年12月27日。

在我國臺(tái)灣地區(qū),司法部門自2011年2月開始進(jìn)行資訊化量刑改革至2013年5月,相繼完成了“妨害性自主罪量刑資訊系統(tǒng)”“不能安全駕駛罪量刑資訊系統(tǒng)”“槍炮彈藥刀械管制條例案件量刑資訊系統(tǒng)”等,供法官量刑時(shí)參考使用。法官在實(shí)際量刑時(shí),只要按其所審理案件的犯罪類別,進(jìn)入相關(guān)的量刑資訊系統(tǒng),參酌審理所得資料,依系統(tǒng)設(shè)定的因子,檢索相同或類似案件的量刑情形,勾選相關(guān)欄位,量刑資訊系統(tǒng)就會(huì)自動(dòng)將具備相同量刑因子的相同或類似案件搜出,并同時(shí)顯示這些案件判刑的主刑概率、最重刑度、最低刑度、各別主刑平均刑度及量刑分布。⑨參見郭豫珍:《量刑與刑量——量刑輔助制度的全觀微視》,元照出版有限公司2013年版,第133 頁,第139 頁。2018年,又正式啟用“量刑趨勢(shì)建議系統(tǒng)”,能夠針對(duì)妨害性自主罪、殺人及傷害致死罪、盜竊罪、搶奪罪、強(qiáng)盜罪、電信欺詐罪、不能安全駕駛罪及槍炮案件等類型案件,為法官量刑提供參考,也開放給檢辯雙方及民眾查詢使用。當(dāng)前的“量刑趨勢(shì)建議系統(tǒng)”尚處于初步階段,主要是將量刑資訊系統(tǒng)中的判決資料,透過統(tǒng)計(jì)回歸方法,分析各種犯罪的刑度,以及各種量刑因子對(duì)于刑度之影響力的大小,再邀請(qǐng)專家與民間組織調(diào)整而成。⑩參見王紀(jì)軒:《人工智慧于司法實(shí)務(wù)的應(yīng)用》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第130 頁。雖然該系統(tǒng)并不直接提供所擬判決的結(jié)果,更不直接指示量刑權(quán)的運(yùn)作,該系統(tǒng)產(chǎn)生的建議,對(duì)法官并無實(shí)質(zhì)約束力。但是,只要法官愿意使用該量刑系統(tǒng),仍然能夠起到提醒作用,避免對(duì)于類似案件產(chǎn)生過度的量刑差異。

(五)輔助假釋與矯正

在刑罰執(zhí)行方面,可以結(jié)合人工智能的數(shù)據(jù)預(yù)測(cè),從服刑人、其家庭及社會(huì)等相關(guān)因素切入,探討再犯危險(xiǎn)因子,預(yù)測(cè)其再犯可能性,通過建立再犯風(fēng)險(xiǎn)評(píng)估指標(biāo)體系,綜合評(píng)估服刑人的表現(xiàn)、社會(huì)危險(xiǎn)性、再社會(huì)化可能性等,避免僅憑司法工作人員的主觀經(jīng)驗(yàn)進(jìn)行是否予以假釋的判斷。在監(jiān)禁刑執(zhí)行中,通過評(píng)估罪犯的風(fēng)險(xiǎn)等級(jí),從而對(duì)不同級(jí)別的罪犯實(shí)施監(jiān)控力度不同的管理,針對(duì)罪犯的需求制定相應(yīng)的矯治方案。在美國,聯(lián)邦民政事務(wù)總署根據(jù)大約10 萬名罪犯的數(shù)據(jù),編制了一套風(fēng)險(xiǎn)精算工具“定罪后風(fēng)險(xiǎn)評(píng)估系統(tǒng)”,其中包括風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)和需求評(píng)估標(biāo)準(zhǔn),以此確定對(duì)罪犯采取的具體矯正措施。①參見江溯:《大數(shù)據(jù)在刑事司法體系中的應(yīng)用及其問題》,載張麗卿主編:《人工智慧與法律挑戰(zhàn)》,元照出版有限公司2021年版,第589 頁。2019年1月,我國臺(tái)灣地區(qū)法務(wù)矯正部門提出了“智慧監(jiān)獄建置計(jì)劃”,其中有智慧卡片整合、智慧安全監(jiān)控、智慧健康照護(hù)、行動(dòng)接見、矯正機(jī)關(guān)智慧管理、智慧自營作業(yè)等系統(tǒng)。該計(jì)劃希望運(yùn)用人工智能,輔之以其他科技(如遠(yuǎn)距離通信科技),能夠在有限的監(jiān)所人力資源下,提升監(jiān)所管教效能以及受刑人權(quán)利。例如:正在服刑的罪犯可以與遠(yuǎn)地和行動(dòng)不便的家屬以視頻方式會(huì)見;罪犯可以在線購物;遠(yuǎn)距離監(jiān)控服刑;等等。②參見王紀(jì)軒:《人工智慧于司法實(shí)務(wù)的應(yīng)用》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第131 頁。

(六)其他領(lǐng)域的應(yīng)用

在我國,最高人民檢察院2017年編制的《檢察大數(shù)據(jù)行動(dòng)指南(2017—2020年)》指出,要擴(kuò)展檢察大數(shù)據(jù)應(yīng)用體系,支撐檢察職能作用發(fā)揮,包括:運(yùn)用大數(shù)據(jù)技術(shù),為審查逮捕、偵查活動(dòng)監(jiān)督、立案監(jiān)督案件辦理通過智能輔助;運(yùn)用大數(shù)據(jù)技術(shù)統(tǒng)一證據(jù)審查標(biāo)準(zhǔn),智能生成法律文書,智能輔助量刑建議,智能輔助刑事審判監(jiān)督;運(yùn)用大數(shù)據(jù)分析技術(shù),建立數(shù)學(xué)分析模型,實(shí)現(xiàn)刑罰變更執(zhí)行監(jiān)督和羈押必要性審查評(píng)估,實(shí)現(xiàn)對(duì)社區(qū)矯正人員脫管漏管行為及時(shí)發(fā)現(xiàn),實(shí)現(xiàn)對(duì)刑事財(cái)產(chǎn)執(zhí)行案件有效監(jiān)督;以及推進(jìn)大數(shù)據(jù)在刑事申訴檢察、死刑復(fù)核法律監(jiān)督、未成年人檢察、國際司法合作等領(lǐng)域的應(yīng)用。2017年4月,最高人民法院發(fā)布的《關(guān)于加快建設(shè)智慧法院的意見》指出,“支持辦案人員最大限度地減輕非審判性事務(wù)負(fù)擔(dān),充分運(yùn)用外包服務(wù)方式,建立先進(jìn)的電子卷宗隨案同步生成技術(shù)保障和運(yùn)行保障機(jī)制,為案件信息智能化應(yīng)用提供必要前提;不斷提高法律文書自動(dòng)生成、智能糾錯(cuò)及法言智能推送能力,庭審語音同步轉(zhuǎn)錄、輔助信息智能生成及實(shí)時(shí)推送能力,基于電子卷宗的文字識(shí)別、語義分析和案情理解能力,為輔助法官辦案、提高審判質(zhì)效提供有力支持;深挖法律知識(shí)資源潛力,提高海量案件案情理解深度學(xué)習(xí)能力,基于案件事實(shí)、爭(zhēng)議焦點(diǎn)、法律適用類腦智能推理,滿足辦案人員對(duì)法律、案例、專業(yè)知識(shí)的精準(zhǔn)化需求,促進(jìn)法官類案同判和量刑規(guī)范化”。為了配合以審判為中心的刑事訴訟制度改革,政法機(jī)關(guān)研發(fā)了一些綜合性的辦案輔助系統(tǒng),如貴陽市政法大數(shù)據(jù)辦案系統(tǒng)、上海刑事案件人工智能輔助辦案系統(tǒng)(簡(jiǎn)稱“206 工程”或“206 系統(tǒng)”)。上海刑事案件智能輔助辦案系統(tǒng)設(shè)計(jì)了24 項(xiàng)功能,包括:(1)證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則指引;(2)單一證據(jù)校驗(yàn);(3)逮捕條件審查;(4)證據(jù)鏈和全案證據(jù)審查判斷;(5)社會(huì)危險(xiǎn)性評(píng)估;(6)電子卷宗移送;(7)庭前會(huì)議;(8)類案推送;(9)量刑參考;(10)知識(shí)索引;(11)文書生成;(12)辦案程序監(jiān)督;(13)非法言詞證據(jù)排除;(14)庭審實(shí)質(zhì)化;(15)案件評(píng)議;(16)減刑假釋案件辦理;(17)刑罰執(zhí)行狀況監(jiān)督;(18)簡(jiǎn)易速裁案件辦理;(19)贓款、贓物管理;(20)要素式訊問;(21)全程錄音錄像;(22)法律服務(wù)辦案輔助;(23)刑罰執(zhí)行銜接;(24)特殊人群銜接。該系統(tǒng)包括以下大數(shù)據(jù)資源庫:證據(jù)標(biāo)準(zhǔn)庫1 039 項(xiàng)、案例庫25 635 個(gè)、裁判文書庫2 210 萬篇、法律法規(guī)庫146萬條、辦案業(yè)務(wù)文件庫1 107 件。①參見崔亞東:《司法科技?jí)簦荷虾P淌掳讣悄茌o助辦案系統(tǒng)的實(shí)踐與思考》,《人民法治》2018年第18 期。該系統(tǒng)的研發(fā)實(shí)現(xiàn)了公檢法司辦理刑事案件網(wǎng)上運(yùn)行、互聯(lián)互通、數(shù)據(jù)共享,并且系統(tǒng)以大數(shù)據(jù)為依托、多項(xiàng)功能集成,全面地推進(jìn)了人工智能在刑事司法中的應(yīng)用。在我國,除了犯罪預(yù)測(cè)與偵查,輔助保釋、量刑、假釋和矯正之外,人工智能的應(yīng)用還包括其他一些領(lǐng)域,如證據(jù)審查判斷、文書生成、訴訟監(jiān)督等。

二、在刑事司法中應(yīng)用人工智能引發(fā)的爭(zhēng)論

人工智能在刑事司法中具有廣闊的應(yīng)用前景,利用人工智能輔助司法人員辦案,日益成為一種世界性的趨勢(shì)。關(guān)于人工智能在刑事司法中的應(yīng)用,除了既有的應(yīng)用之外,未來可能的應(yīng)用也被納入討論之列。例如,關(guān)于即時(shí)、完整制作筆錄。刑事訴訟中的各種筆錄,如警詢筆錄、偵訊筆錄、庭審筆錄等,過去依賴書記員制作,有可能因書記員優(yōu)秀既快又好,也有可能因書記員記錄速度慢遺漏部分內(nèi)容,還可能出現(xiàn)錯(cuò)別字。通過人工智能語音識(shí)別系統(tǒng),可以快速且正確地制作筆錄,提高刑事訴訟活動(dòng)的效率。隨著人工智能翻譯能力持續(xù)優(yōu)化,當(dāng)有外國人是當(dāng)事人或者證人時(shí),人工智能系統(tǒng)也可以提供翻譯。再如,為當(dāng)事人提供法律幫助。如Law4TW 創(chuàng)建的“自助法律文件”,可以利用人工智能系統(tǒng),協(xié)助當(dāng)事人制作法律文書。關(guān)于法律問題的咨詢,透過人工智能資料分析能力匯整豐富的案例資料,也可以達(dá)成。當(dāng)事人要找律師,可以借助人工智能的協(xié)助,去尋找合適的律師。如我國臺(tái)灣地區(qū)2012年問世的評(píng)律網(wǎng),系利用“司法院”公開的裁判書為資料庫,再透過大量裁判書找到律師姓名,再統(tǒng)計(jì)、分析該律師的業(yè)務(wù)狀況,執(zhí)業(yè)年資、過去承辦案件的受判決數(shù)及裁判內(nèi)容,承辦案件類型的百分比,以及其他資訊等,協(xié)助當(dāng)事人尋找合適的律師。未來人工智能視聽辨識(shí)技術(shù)還可能用于對(duì)證人證言真假的判斷。證人出庭作證,可能因算計(jì)、情緒,或因記憶力、感官能力等限制,導(dǎo)致證言真假難辨。人工智慧技術(shù)可用于對(duì)證人證言真假的輔助判斷,通過對(duì)證人的表情、聲色、語調(diào)等,進(jìn)行收集、推論、判讀,進(jìn)而推斷證言真假的可能性程度。②參見王紀(jì)軒:《人工智慧于司法實(shí)務(wù)的應(yīng)用》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第135-138 頁。

基于人工智能強(qiáng)大的數(shù)據(jù)搜集和分析能力,該技術(shù)對(duì)于刑事政策的制定者、對(duì)于計(jì)算機(jī)和數(shù)據(jù)科學(xué)家而言,無疑是一個(gè)具有吸引力的工具。從其他國家和地區(qū)的討論情況看,贊成者一般認(rèn)為,人工智能的使用具有以下優(yōu)勢(shì):其一,有助于減少案件積壓。面對(duì)法院普遍存在的訴訟爆炸、案件積壓?jiǎn)栴},人工智能高效的運(yùn)算、決策能力可以使大量事實(shí)清楚、情節(jié)簡(jiǎn)單的案件得到迅速處理。通過減少案件積壓,實(shí)際上減少了當(dāng)事人因?yàn)樵V訟拖延而遭受的不公正待遇。其二,有助于限制人為的偏見。人工智能不會(huì)被主觀情感所左右,可以提供一個(gè)用來減少人為偏見的客觀標(biāo)尺,有利于案件得到客觀公正的處理。其三,人工智能具有科學(xué)性和專業(yè)性,操作起來也方便快捷,是一個(gè)有利于提高司法人員辦案質(zhì)效的科技手段。反對(duì)者則認(rèn)為,人工智能技術(shù)介入和引導(dǎo)刑事司法可能因?yàn)槭褂昧瞬豢煽康臄?shù)據(jù),從而給刑事司法中的當(dāng)事人造成傷害。除非保釋程序和量刑程序存在明顯缺陷、除非能夠肯定使用這些風(fēng)險(xiǎn)評(píng)估工具的效率和準(zhǔn)確性超過了其潛在的危害,方可考慮使用這些工具,否則,應(yīng)當(dāng)限制使用這些工具。①See Benoit Dupont et al.,“Artificial Intelligence in the Context of Crime and Criminal Justice: A Report for the Korean Institute of Criminology”,December,2018,pp.133-137,http://www.cicc-iccc.org/public/media/files/prod/publication_files/Artificial-Intelligence-in-the-Context-of-Crime-and-Criminal-Justice_KICICCC_2019.pdf,accessed by May 1,2022.人工智能的使用將會(huì)帶來以下問題:其一,準(zhǔn)確性問題。有學(xué)者通過實(shí)證研究證明人工智能及其算法并不能很好地預(yù)測(cè)未來的暴力犯罪。部分學(xué)者認(rèn)為人工智能及其算法在風(fēng)險(xiǎn)預(yù)測(cè)領(lǐng)域并不優(yōu)于其他方法。許多學(xué)者認(rèn)為,量刑模型在適用于被告人個(gè)體時(shí)會(huì)出現(xiàn)偏差,而且一些納入模型的因素帶有內(nèi)在的偏見;這些模型可能在預(yù)估某一群體的累犯風(fēng)險(xiǎn)時(shí)相對(duì)可靠,但對(duì)于某一個(gè)人的累犯風(fēng)險(xiǎn)預(yù)測(cè)卻會(huì)失準(zhǔn)。此外,依靠算法來進(jìn)行決策使量刑在很大程度上取決于對(duì)被告人累犯風(fēng)險(xiǎn)的評(píng)估,將累犯風(fēng)險(xiǎn)變成量刑中的主導(dǎo)因素,甚至是唯一因素。其二,公平性問題。預(yù)測(cè)評(píng)估時(shí)會(huì)參考被告人及其親屬的生活環(huán)境、受教育程度、收入情況、違法記錄等因素,形成對(duì)貧困者的壓制。相關(guān)設(shè)計(jì)還可能引發(fā)種族偏見和歧視風(fēng)險(xiǎn)。其三,透明度問題。負(fù)責(zé)設(shè)計(jì)算法的公司拒絕公開它們的算法所考量的因素,被告人無法知曉這些算法究竟是如何設(shè)計(jì)的。在美國,目前針對(duì)法律程序中算法的使用,幾乎不存在任何規(guī)則或者標(biāo)準(zhǔn),因而在一定程度上形成了“黑箱”。其四,權(quán)利保障問題。警方使用的預(yù)測(cè)模型將會(huì)令傳統(tǒng)的“罪后出警”向“罪前出警”轉(zhuǎn)變,將普通公民轉(zhuǎn)變成嫌疑犯,違反無罪推定原則;同時(shí)預(yù)測(cè)型出警還會(huì)助長種族歧視的風(fēng)險(xiǎn)。算法量刑侵犯了量刑個(gè)別化的權(quán)利,算法模型是依據(jù)經(jīng)驗(yàn)法則建立的,長期使用人工智能會(huì)導(dǎo)致法官過度重視“專家”的經(jīng)驗(yàn)證據(jù),而忽視個(gè)案中的自由裁量。②參見李本:《美國司法實(shí)踐中的人工智能:?jiǎn)栴}與挑戰(zhàn)》,《中國法律評(píng)論》2018年第2 期。

對(duì)于人工智能在刑事司法中的應(yīng)用,我國理論界和實(shí)務(wù)界總體上持樂觀態(tài)度。主要原因在于在刑事司法中使用人工智能具有以下幾方面的優(yōu)勢(shì):其一,有利于打擊犯罪。當(dāng)前,犯罪動(dòng)態(tài)化、智能化、科技化特征顯著,犯罪空間拉大、犯罪鏈條拉長、犯罪動(dòng)機(jī)增強(qiáng),人工智能的使用是應(yīng)對(duì)新形勢(shì)下犯罪態(tài)勢(shì)的戰(zhàn)略選擇,有利于實(shí)現(xiàn)對(duì)犯罪的專業(yè)化、精準(zhǔn)化打擊,搶占與犯罪作斗爭(zhēng)的制高點(diǎn)。借助大數(shù)據(jù)相關(guān)性原則,能夠?qū)Π概c人、案與物等立體式的連結(jié)點(diǎn)進(jìn)行信息收集,全方位、多角度地思考分析案情,以此搜尋破案線索、清理破案思路、劃定偵查范圍、有效配置警力。如2015年,江蘇省檢察機(jī)關(guān)偵查中運(yùn)用“兩化”(偵查信息化、裝備現(xiàn)代化)手段輔助偵破的案件占全部案件總數(shù)的91.8%,辦案效率大幅提升,充分體現(xiàn)了“智慧偵查”的威力。③參見趙志剛、金鴻浩:《智慧檢務(wù)初論》,中國檢察出版社2017年版,第415 頁。其二,有利于“同案同判”。黨的十八大以來的司法責(zé)任制改革導(dǎo)致案件處理權(quán)限下放,加大了同案不同判的風(fēng)險(xiǎn),因此,法院系統(tǒng)實(shí)行了強(qiáng)制性的類案檢索制度,通過技術(shù)手段防止法官濫用自由裁量權(quán)。通過制定證據(jù)標(biāo)準(zhǔn)指引,明確各類案件的證據(jù)規(guī)則,有利于統(tǒng)一證據(jù)標(biāo)準(zhǔn),規(guī)范辦案行為,保證辦案質(zhì)量。如貴州刑事司法大數(shù)據(jù)系統(tǒng)試運(yùn)行6 個(gè)月,審結(jié)了151 起試點(diǎn)案件,運(yùn)用大數(shù)據(jù)分析系統(tǒng)作智能輔助分析,判決結(jié)果偏離度均為零或者在合理數(shù)值區(qū)間,保證了同案同判,實(shí)現(xiàn)了量刑均衡,且一審服判率達(dá)到93.38%,與同期審結(jié)未納入試點(diǎn)范圍的其他案件服判率相比高出8.15%。①參見潘庸魯:《人工智能介入司法領(lǐng)域路徑分析》,《東方法學(xué)》2018年第3 期。其三,有利于提高訴訟效率。從我國人民法院近年來的審判數(shù)據(jù)看:2018年,審結(jié)一審刑事案件119.8 萬件,判處罪犯142.9 萬人;2019年,審結(jié)一審刑事案件129.7 萬件,判處罪犯166 萬人;2020年,審結(jié)一審刑事案件111.6 萬件,判處罪犯152.7 萬人;2021年,審結(jié)一審刑事案件125.6 萬件,判處罪犯171.5 萬人。②參見最高人民法院2019年、2020年、2021年工作報(bào)告。刑事案件數(shù)量總體在高位運(yùn)行。人工智能的運(yùn)用可以緩解“案多人少”的矛盾。刑事案件人工智能技術(shù)輔助辦案,可以大大減少檢察官和法官閱卷和梳理證據(jù)的時(shí)間,案卷越多、證據(jù)越復(fù)雜的案件,運(yùn)用該系統(tǒng)辦案的優(yōu)勢(shì)體現(xiàn)得越明顯。③參見崔亞東:《人工智能與司法現(xiàn)代化》,上海人民出版社2019年版,第190 頁。在海南,截至2017年12月,25 家人民法院的307 位刑事法官使用智能量刑系統(tǒng)生成量刑表1423 份,智能生成法律文書1 072 份,其中判決書773 份,其他文書299 份。使用該系統(tǒng)后,法官辦理量刑規(guī)范化案件的時(shí)間減少約50%,制作裁判文書的時(shí)間縮短約70%,制作程序性法律文書的時(shí)間減少近90%,大幅度減輕了法官量刑辦案的工作量。④同注①。

部分學(xué)者對(duì)人工智能介入刑事司法持保留甚至反對(duì)立場(chǎng),認(rèn)為人工智能的介入會(huì)帶來以下弊端:其一,導(dǎo)致司法人員機(jī)械司法。“訴訟主體所需求的正義是個(gè)別正義、實(shí)質(zhì)正義和溫度正義,而人工智能只能提供一般、機(jī)械和毫無情感的正義?!雹萃ⅱ?。在擠壓法官自由裁量權(quán)的基礎(chǔ)上追求同案同判,本質(zhì)上是以“機(jī)械正義”取代“個(gè)案正義”,倡導(dǎo)量刑科技化而通過精密的科技程序去運(yùn)算結(jié)果,機(jī)械地追求量刑結(jié)果的整齊劃一而達(dá)至同案同判,這些都不具有正當(dāng)性。⑥參見倪震:《量刑改革中“機(jī)械正義”之糾正——兼論人工智能運(yùn)用的邊界及前景》,《江西社會(huì)科學(xué)》2018年第2 期。其二,背離司法的親歷性原則。親歷性是傳統(tǒng)司法的重要特征,并在一定程度上支撐起刑事司法裁判過程的正當(dāng)性。人工智能的介入造成了法官審判、算法裁判的局面,弱化了司法的親歷性,不利于庭審實(shí)質(zhì)化。其三,造成冤假錯(cuò)案,破壞司法公正。借助人工智能進(jìn)行裁判,造成對(duì)證據(jù)的采信、事實(shí)的認(rèn)定和法律的適用都無法進(jìn)行充分說理,導(dǎo)致本身就非常弱化的司法推理與法律論證技術(shù)更是無從談起;算法黑箱導(dǎo)致公眾對(duì)司法裁判的不信任、不接受。在這種情況下,容易造成冤假錯(cuò)案。⑦參見馬嘯、狄小華:《人工智能背景下刑事錯(cuò)案悖論及消解》,《湖湘論壇》2019年第2 期。其四,侵犯公民的隱私權(quán)。人工智能的運(yùn)用以大數(shù)據(jù)為依托,在收集大量數(shù)據(jù)的過程中,有可能侵犯公民的隱私權(quán)。其五,有勞民傷財(cái)之嫌?;ㄙM(fèi)巨額費(fèi)用來研發(fā)和適用智能算法是否有必要,存在疑問。對(duì)于簡(jiǎn)易案件而言,雖然案件要素較易結(jié)構(gòu)化,但完備的上訴程序以及極低的錯(cuò)判率,使得無須花費(fèi)巨額費(fèi)用來研發(fā)和適用智能量刑算法;而對(duì)于復(fù)雜案件而言,復(fù)雜的事實(shí)判斷和價(jià)值判斷使得人工智能在這些案件中的使用并不具備優(yōu)勢(shì)。人工智能的引入,不僅會(huì)改變司法人員的辦案模式,而且增加了司法人員的工作負(fù)擔(dān)。其六,模糊司法責(zé)任。人工智能的介入導(dǎo)致司法人員的主體地位受到?jīng)_擊,法治主義演化為技治主義,與此同時(shí),承擔(dān)司法責(zé)任的主體應(yīng)為司法人員還是機(jī)器變得晦暗不明;人工智能的普遍使用,最終將會(huì)使算法取代司法人員的主體地位,并且使審級(jí)制度名存實(shí)亡。

關(guān)于人工智能在刑事司法中的應(yīng)用,存在著積極主義和消極主義兩種不同立場(chǎng)。持積極主義立場(chǎng)者更多地看到了使用人工智能帶來的增強(qiáng)打擊犯罪的能力、提高司法效率、貫徹客觀主義等好處;而持消極主義立場(chǎng)者往往固守傳統(tǒng)的法律理念及其制度文化,對(duì)于刑事司法中的自動(dòng)化決策抱有相當(dāng)程度的憂慮,一方面擔(dān)心沖擊司法人員的主體地位,另一方面懷疑自動(dòng)化決策的準(zhǔn)確性、公正性以及研發(fā)成本與收益是否成正比問題。對(duì)于政策制定者而言,前者產(chǎn)生了“鼓勵(lì)創(chuàng)新”模式,后者產(chǎn)生了“預(yù)警原則模式”。有學(xué)者①參見李訓(xùn)虎:《刑事司法人工智能的包容性規(guī)制》,《中國社會(huì)科學(xué)》2021年第2 期。試圖調(diào)和這兩種不同的立場(chǎng),提出了“刑事司法人工智能的包容性規(guī)制”的主張。人工智能的發(fā)展以及在刑事司法中的應(yīng)用已是大勢(shì)所趨,現(xiàn)階段各國在刑事司法領(lǐng)域應(yīng)用人工智能的范圍和程度存在較大差異,但未來人工智能極有可能在刑事司法中扮演不可小覷的角色,同時(shí)將會(huì)浮現(xiàn)各種各樣的法律問題。

三、人工智能對(duì)刑事司法制度帶來的沖擊和挑戰(zhàn)

國內(nèi)外學(xué)術(shù)界和實(shí)務(wù)界圍繞人工智能在刑事司法中的應(yīng)用所引發(fā)的爭(zhēng)論,其原因在于人工智能的應(yīng)用對(duì)于社會(huì)的基本規(guī)范體系及其道德基礎(chǔ)帶來了極大的沖擊和挑戰(zhàn)。一方面,科技革命迫使我們反思既有的規(guī)范體系及其指導(dǎo)性價(jià)值;另一方面,對(duì)于新技術(shù)的應(yīng)用又需放在既有的價(jià)值和規(guī)范體系下進(jìn)行審視,并在必要時(shí)對(duì)新技術(shù)的使用從倫理和法律規(guī)范的層面進(jìn)行限制。概而言之,人工智能對(duì)刑事司法制度帶來的沖擊和挑戰(zhàn)主要在于合法性、公正性、民主性、有效性、倫理性等五個(gè)方面的問題。

(一)合法性問題

法律發(fā)展滯后于技術(shù)發(fā)展導(dǎo)致司法實(shí)務(wù)中人工智能的應(yīng)用面臨“合法性赤字”或者合法性質(zhì)疑。在許多國家和地區(qū),現(xiàn)行刑事訴訟法尚未對(duì)人工智能的應(yīng)用進(jìn)行規(guī)制,而通過解釋既有法條容納人工智能的應(yīng)用容易產(chǎn)生合法性爭(zhēng)議。例如,德國聯(lián)邦刑警局在20世紀(jì)70年代開展了“網(wǎng)格式偵查”,并為《德國刑事訴訟法》第98a 條所規(guī)定。就網(wǎng)格式偵查而言,資訊學(xué)者在分析前所擬的分析框架時(shí)全然依程式而運(yùn)作,其結(jié)果出現(xiàn)與否屬于一種必然的現(xiàn)象。《德國刑事訴訟法》第100g 條關(guān)于聯(lián)絡(luò)資訊偵查的規(guī)定,其背后需要運(yùn)用數(shù)據(jù)剖析技術(shù),除非運(yùn)用相關(guān)預(yù)測(cè)性分析,否則不可能有效達(dá)到該條第1 項(xiàng)所要求的“對(duì)犯罪嫌疑人所在地之調(diào)查”。為此,系統(tǒng)必須依高度或然率提出相關(guān)預(yù)測(cè),即不可能提出單一的必然結(jié)果。傳統(tǒng)的搜查方式停留在單向設(shè)定的形式邏輯層次,甚至部分必須以人工方法加以進(jìn)行,但已經(jīng)干預(yù)到無數(shù)非犯罪者的個(gè)人資訊。在一定條件之下,雖然偵查單位知道,具體犯罪嫌疑人的人數(shù)極少,但為了確定該嫌疑人為何人,仍然可以將社會(huì)大眾當(dāng)作非特定嫌疑人的偵查對(duì)象,這種數(shù)位化偵查是否侵犯憲法規(guī)定的公民資訊自主權(quán),部分學(xué)者表示疑慮。但德國聯(lián)邦憲法法院并沒有宣告《德國刑事訴訟法》第98a 條違憲,甚至將該條規(guī)定作為審查類似偵查行為合憲性的標(biāo)準(zhǔn)。其中的理由為對(duì)比例原則的維護(hù),即國家可以公眾安全等受高度威脅為由,對(duì)個(gè)人資訊自主權(quán)進(jìn)行干預(yù)。在運(yùn)用大數(shù)據(jù)的數(shù)位化偵查與憲法基本權(quán)的保護(hù)之間形成了一定程度的沖突。目前,德國尚未確立對(duì)數(shù)據(jù)進(jìn)行綜合分析的規(guī)范,導(dǎo)致一些問題不明確,如當(dāng)偵查部門對(duì)犯罪嫌疑人的電話進(jìn)行定位時(shí),是否可以將該定位記錄與犯罪嫌疑人的臉書資料或其他社群媒體上所“公布”的資料加以對(duì)比?是否可以基于社群媒體上所留下的記錄進(jìn)行犯罪嫌疑人的心理分析及溝通對(duì)象的數(shù)據(jù)剖析?法律規(guī)定缺位造成了司法機(jī)關(guān)對(duì)數(shù)位偵查行為合法性的疑慮。①參見葛祥林:《數(shù)位化、大數(shù)據(jù)和人工智慧對(duì)刑事訴訟的沖擊》,載張麗卿主編:《人工智慧與法律沖突》,元照出版有限公司2020年版,第219-237 頁。

(二)公正性問題

鑒于公正性是司法制度的本質(zhì)特征,因此公正性問題成為人工智能應(yīng)用于刑事司法時(shí)的核心爭(zhēng)議。將人工智能技術(shù)用于犯罪預(yù)測(cè)和偵查,導(dǎo)致偵查模式從回應(yīng)式偵查走向預(yù)防性偵查,警方對(duì)犯罪的應(yīng)對(duì)主動(dòng)化和長效化,警方在獲得犯罪預(yù)測(cè)結(jié)果后對(duì)“犯罪熱區(qū)”進(jìn)行特別干預(yù),部署警力定向打擊某類犯罪。一旦將某一區(qū)域劃為“犯罪熱區(qū)”,警察會(huì)更傾向于在該區(qū)域發(fā)動(dòng)攔停、盤查,甚至采取逮捕等強(qiáng)制性措施,并且自覺或不自覺地降低證明標(biāo)準(zhǔn),這樣居住在該區(qū)域的居民,其人身自由和隱私權(quán)等更易受到限制或者侵害。在司法實(shí)踐中,以行為人為中心進(jìn)行犯罪預(yù)防和偵查,通過大數(shù)據(jù)分析,鎖定高危犯罪人員,提前預(yù)防其可能實(shí)施的犯罪。警方通過收集個(gè)人各方面的信息,如犯罪前科、幫派成員情況、假釋情況、社會(huì)關(guān)系、社交媒體通信記錄、就業(yè)狀況、是否有吸毒史和酗酒史、家庭穩(wěn)定狀況等,將大量個(gè)人信息輸入智能系統(tǒng),便可測(cè)算出其對(duì)社會(huì)的可能威脅程度。人工智能系統(tǒng)依靠大數(shù)據(jù)和算法運(yùn)行所產(chǎn)生的結(jié)果,可能固化甚至放大不平等的風(fēng)險(xiǎn)。有研究②See Melissa Hamilton,“The Biased Algorithm: Evidence of Disparate Impact om Hispanics”,56(4) Am.Crim L.Rev.1553 (2019).指出:人工智能風(fēng)險(xiǎn)評(píng)估工具在刑事司法中運(yùn)用時(shí),往往不成比例地高估來自少數(shù)族群的個(gè)人犯罪再犯率。加拿大最高法院在Ewert v.Canada 一案③See Ewert v.Canada.2018 SCC 30,[2018] 2 SCR 165.中認(rèn)定,依據(jù)多數(shù)族群數(shù)據(jù)所開發(fā)驗(yàn)證的風(fēng)險(xiǎn)評(píng)估測(cè)試,已對(duì)原住居民背景的被告產(chǎn)生族群偏見和不公平待遇。在欠缺情境知識(shí)、事先告知、同意后使用以及其他正當(dāng)程序機(jī)制保障的情況下,大數(shù)據(jù)偵查可能產(chǎn)生較大的侵害公民隱私權(quán)的風(fēng)險(xiǎn)。如廣泛使用的人臉識(shí)別技術(shù),系統(tǒng)中所儲(chǔ)存的大量影像存在確認(rèn)當(dāng)事人同意之困難、影像資料利用之不透明、當(dāng)事人未預(yù)期資料被收集、敏感性資料附帶取得等問題造成了公民隱私權(quán)被侵犯的風(fēng)險(xiǎn)。

(三)民主性問題

人工智能在刑事司法中的應(yīng)用是否符合法治社會(huì)的民主性要求,主要在于其是否具有透明性與可問責(zé)性。人工智能應(yīng)用中的“法律黑匣子”和“技術(shù)黑匣子”對(duì)刑事司法的透明性和可問責(zé)性帶來了巨大的挑戰(zhàn)。人類心靈活動(dòng)本身就具有復(fù)雜性和不透明性,而這正是人工智能所模仿的對(duì)象。算法比司法人員自由裁量具有更為不透明的特性導(dǎo)致對(duì)于司法決策的監(jiān)督和審查變得更加困難。人工智能的自動(dòng)化特征,通常使受其影響者難以覺察和知悉,即使某種程度可以被覺察和知悉,人工智能系統(tǒng)決策的過程與方法,也往往缺乏詳細(xì)的說明,其決策過程和結(jié)果是否公平,難以進(jìn)行監(jiān)督和審查。大數(shù)據(jù)偵查通過相關(guān)性原理進(jìn)行分析和預(yù)測(cè),難以對(duì)其中的因果關(guān)系進(jìn)行具體說明。從目前的情況看,法院往往無法評(píng)價(jià)人工智能風(fēng)險(xiǎn)評(píng)估工具的可信賴性和完整性,也難以探究如何給予風(fēng)險(xiǎn)評(píng)分以及衡量不同因子的權(quán)重。應(yīng)用人工智能系統(tǒng)決策可能出錯(cuò),一旦出錯(cuò),算法的責(zé)任難以追查、人的責(zé)任難以歸咎。由于并無做成決策的相關(guān)記錄可供核查,當(dāng)事人缺乏充足的資料重建決策過程,因此難以判斷決策是否錯(cuò)誤。人工智能應(yīng)用中的這種不透明和追責(zé)難,可能掏空正當(dāng)法律程序所保護(hù)的價(jià)值。

(四)有效性問題

如果在刑事司法中通過人工智能作出的決定,可以避免司法人員的偏見,在公正性方面明顯優(yōu)于人類判斷的結(jié)果,那么,人工智能的使用無疑就具有可接受性。但是,對(duì)此問題尚無明確的答案。在美國,在刑事司法實(shí)踐中所使用的風(fēng)險(xiǎn)評(píng)估工具,目前,尚不清楚其評(píng)估準(zhǔn)確率是否超過了刑事法官的平均準(zhǔn)確率。一些州的數(shù)據(jù)表明,算法在減少被羈押率方面確實(shí)有一定的作用。有學(xué)者①參見李本:《美國司法實(shí)踐中的人工智能:?jiǎn)栴}與挑戰(zhàn)》,《中國法律評(píng)論》2018年第2 期。對(duì)此提出質(zhì)疑:在保釋和量刑程序中需要人工智能技術(shù)來幫助法官嗎?如果說法官所作出的保釋和量刑決策存在著一定程度的不準(zhǔn)確現(xiàn)象,那么,這種不準(zhǔn)確是否造成了對(duì)刑事司法制度或者對(duì)社會(huì)公眾的傷害?由于對(duì)這些問題無法作出具體的、可測(cè)量的回答,因此,難以評(píng)估在刑事司法中使用人工智能是否具有迫切性。人工智能系統(tǒng)以實(shí)然面的統(tǒng)計(jì)資料為基礎(chǔ),對(duì)于應(yīng)然面的社會(huì)期待往往難以納入其中,就量刑輔助系統(tǒng)而言,在保障量刑的一貫性和一致性方面具有助益,但在保障量刑適當(dāng)性方面卻存在局限。如果在過去的司法實(shí)踐中存在量刑普遍偏低或普遍偏高的現(xiàn)象,人工智能系統(tǒng)提供給法官的量刑參考數(shù)據(jù),可能背離國民的法律情感,從而誤導(dǎo)法官量刑。被告人在接受法院審判時(shí),希望法院能夠重新檢視其行為,決定罪責(zé)相當(dāng)?shù)男塘P,而不是用過去的群體資料或印象作為判斷的依據(jù)?;谶^去的信息、案件事實(shí)和法律見解認(rèn)定現(xiàn)在的案件,由于案件千差萬別,可能產(chǎn)生量刑失當(dāng)問題。

(五)倫理性問題

人工智能自始就是一個(gè)哲學(xué)問題,機(jī)器學(xué)習(xí)對(duì)人的自由意志提出了挑戰(zhàn)。在應(yīng)用人工智能的過程中,機(jī)器的擬人化與人性的機(jī)器化或自然化雙軌并行,人工與“真正的智慧”——心靈之間的差異日漸模糊,長此以往,人類治理是否會(huì)被機(jī)器治理所取代,這是人工智能在開發(fā)和應(yīng)用中的隱憂和倫理爭(zhēng)議。將人工智能應(yīng)用于刑事司法中,需要解決訴訟主體對(duì)于人工智能系統(tǒng)中的自主學(xué)習(xí)有多大的決定能力、對(duì)于人工智能系統(tǒng)產(chǎn)生的結(jié)果有多大的控制能力等問題。為了確保人類的情感與尊嚴(yán),將刑事司法的決策權(quán)完全交給機(jī)器,這是不能接受的,目前多是將人工智能作為刑事司法中的輔助性工具加以使用,并未產(chǎn)生取代人類決策的危機(jī),現(xiàn)在的關(guān)鍵問題是要解決司法人員應(yīng)當(dāng)如何與機(jī)器進(jìn)行合作的問題,即人機(jī)如何協(xié)同的問題。

四、刑事司法中應(yīng)用人工智能的原則與基本要求

人工智能對(duì)于法治的影響可謂喜憂參半。一方面,人工智能帶來的可預(yù)見性、可度量性和高效率,有利于促進(jìn)法治;另一方面,使用人工智能帶來了各種可測(cè)和不可測(cè)的風(fēng)險(xiǎn)。為了防范人工智能所帶來的風(fēng)險(xiǎn),安全和以人為本成為兩項(xiàng)最為重要的倫理原則。2018年,歐盟成立了由52 名專家組成的“歐盟人工智能高級(jí)專家組”,該專家組在2019年發(fā)布了關(guān)于《可信賴人工智能倫理準(zhǔn)則》,其中“可信賴的人工智能”包括三個(gè)要素:合法;在道德上可接受;強(qiáng)大。在以人為本方面,主要體現(xiàn)為保障公民的七項(xiàng)基本權(quán)利,即享有最低生活水平的權(quán)利、自主的自我發(fā)展權(quán)利、不受極度痛苦的權(quán)利、維護(hù)最低限度隱私的權(quán)利、心理和精神完整的權(quán)利、法律上基本的平等權(quán)、最低程度的受尊重權(quán)利。根據(jù)尊重人類自主、避免危害、公平、可解釋性等倫理原則,提出了七項(xiàng)基本要求,包括:人權(quán)機(jī)構(gòu)和監(jiān)督;技術(shù)的穩(wěn)健性和安全性;隱私和資料管理;透明度;多樣性、非歧視性和公平性;社會(huì)和環(huán)境福祉;問責(zé)制。①參見[德]Eric Hilgendorg:《數(shù)位化及虛擬化的挑戰(zhàn)——〈歐盟可信賴人工智慧倫理規(guī)則〉》,陳俊榕譯,載張麗卿主編:《人工智慧與法律挑戰(zhàn)》,元照出版有限公司2021年版,第46-49 頁。上述原則和基本要求理應(yīng)適用于刑事司法中人工智能的應(yīng)用場(chǎng)景。

我國采取發(fā)展優(yōu)先的立場(chǎng)積極推進(jìn)人工智能在刑事司法中的應(yīng)用,因此,出現(xiàn)了人工智能使用泛化的局面,但從司法實(shí)踐中的實(shí)際運(yùn)用來看,在大數(shù)據(jù)偵查、輔助量刑等領(lǐng)域相對(duì)深入,在其他領(lǐng)域的運(yùn)用尚處于淺表的層次。由于在刑事司法中使用人工智能尚未形成成熟的經(jīng)驗(yàn),相關(guān)研究也只是初步展開,目前對(duì)此進(jìn)行專門立法、系統(tǒng)立法尚為時(shí)過早。即便在人工智能使用相對(duì)深入的領(lǐng)域,人工智能多是作為一種輔助性工具加以使用,相應(yīng)降低了對(duì)其進(jìn)行立法規(guī)制的必要性和緊迫性。目前人工智能技術(shù)尚處于快速發(fā)展中,具有變動(dòng)性、高度復(fù)雜性與不確定性,相應(yīng)增加了對(duì)刑事司法中使用人工智能進(jìn)行法律規(guī)制的難度。更為緊迫的是對(duì)刑事司法中人工智能的應(yīng)用提供方向性指導(dǎo)。

首先,應(yīng)當(dāng)認(rèn)識(shí)到,在刑事司法這一特殊的領(lǐng)域,人工智能的應(yīng)用具有較大的局限性。以量刑智能輔助系統(tǒng)為例,設(shè)計(jì)科學(xué)的量刑智能輔助系統(tǒng)存在不少困難。其一是案件信息數(shù)字化、結(jié)構(gòu)化之困難。如:諸多非言詞的量刑證據(jù)無法進(jìn)行結(jié)構(gòu)化處理和量化賦值評(píng)估;雖然對(duì)客觀證據(jù)可以進(jìn)行代碼式處理,但對(duì)案件背后的情景或天理人情難以顧及;司法的地區(qū)差異導(dǎo)致同樣的量刑情節(jié)難以給予同樣的量化賦值評(píng)價(jià),而算法模型往往立足于從全國范圍進(jìn)行數(shù)字提取與建模。其二是案件信息數(shù)字化轉(zhuǎn)換存在技術(shù)障礙。人工智能開發(fā)者與司法實(shí)踐者之間存在專業(yè)上的鴻溝,刑事案件包含諸多的法定量刑情節(jié)、酌定量刑情節(jié),尤其是酌定量刑情節(jié)千差萬別,對(duì)類案比對(duì)系統(tǒng)的數(shù)據(jù)提取構(gòu)成了挑戰(zhàn);即使相同或相似的案情,還要考慮被告人的人身危險(xiǎn)性、主觀惡性、認(rèn)罪悔罪態(tài)度、退贓退賠、被害人的態(tài)度、案件所引起的社情民意等諸多因素,這些因素導(dǎo)致完全的類型化難以實(shí)現(xiàn)。這是導(dǎo)致司法實(shí)踐中類案比對(duì)系統(tǒng)識(shí)別率偏低的主要原因。其三是刑罰適用統(tǒng)一化與個(gè)別化的矛盾難以調(diào)和。量刑公正、量刑均衡、量刑合理、量刑效率是量刑制度所欲達(dá)到的理想目標(biāo),但這四者之間并非完全一致,人工智能的介入或許有助于量刑均衡、量刑效率目標(biāo)的實(shí)現(xiàn),但可能與量刑公正、量刑合理之間產(chǎn)生沖突,這種既面對(duì)過去、又面向未來的量刑活動(dòng)充滿復(fù)雜的價(jià)值判斷和選擇,人工智能的介入可能帶來弱化各種因素綜合考量、各種利益綜合平衡的風(fēng)險(xiǎn)。這就決定了量刑智能輔助系統(tǒng)只能起輔助作用,而無法取代法官、檢察官的量刑判斷。

其次,對(duì)于刑事司法中人工智能應(yīng)用的規(guī)制應(yīng)當(dāng)從數(shù)據(jù)治理、算法治理和應(yīng)用系統(tǒng)治理三個(gè)基本層面展開。從數(shù)據(jù)治理的角度看,應(yīng)當(dāng)保障資料的全面性、準(zhǔn)確性以及合法性。資料的全面性和準(zhǔn)確性是人工智能系統(tǒng)進(jìn)行正確判斷的前提。量刑智能輔助系統(tǒng),涉及對(duì)過去判決書中的相關(guān)數(shù)據(jù)的提取,但并非所有量刑信息都體現(xiàn)在判決書之中。如果提取的量刑信息不完整,判斷結(jié)果就有可能失準(zhǔn)。應(yīng)當(dāng)要求法官將完整的量刑判斷信息記錄在判決書中,以便讓機(jī)器全面學(xué)習(xí);為了保障信息的全面性和準(zhǔn)確性,輸入量刑智能輔助系統(tǒng)的數(shù)據(jù),除了來自判決書以外,還應(yīng)從案卷中的錄音錄像、各種筆錄、訴訟文書等中提取相關(guān)信息;在錄入計(jì)算機(jī)系統(tǒng)前,應(yīng)當(dāng)對(duì)所有數(shù)據(jù)進(jìn)行檢驗(yàn)核查,去除包含歷史偏見或者可能造成歧視的變量。在運(yùn)用大數(shù)據(jù)進(jìn)行犯罪預(yù)測(cè)和偵查時(shí),對(duì)于調(diào)取個(gè)人信息,應(yīng)當(dāng)遵循目的正當(dāng)性、相關(guān)性、比例性、個(gè)人參與等原則,應(yīng)當(dāng)保障資料主體的知情權(quán)、接近使用權(quán)、更正權(quán)、被遺忘權(quán)、限制處理權(quán)、資料可攜帶權(quán)、解釋權(quán)以及免受完全自動(dòng)化處理決策的權(quán)利。從算法治理的角度看,應(yīng)當(dāng)保障算法的科學(xué)性、透明性和公正性。目前,機(jī)器學(xué)習(xí)這種前沿技術(shù)的適用仍然存在著某種不確定性,因?yàn)樗菑膭?dòng)態(tài)環(huán)境下收集的有限數(shù)據(jù)中歸納出結(jié)論。在刑事司法中運(yùn)用人工智能,是在一個(gè)高度非結(jié)構(gòu)化的情況下,試圖通過應(yīng)用程序作出預(yù)測(cè),這種預(yù)測(cè)是否具有可靠性值得警惕。刑事司法系統(tǒng)需要穩(wěn)健、可靠、失敗率極低的技術(shù)工具,因此,如何提高算法的科學(xué)性是其中的關(guān)鍵問題。如果刑事司法透過人工智能算法協(xié)助決策,就必須讓被告人知道機(jī)器是如何作出決策的,什么樣的因子在決策中有影響力,影響的程度如何。應(yīng)當(dāng)以“可了解和可理解的人工智能”作為設(shè)計(jì)和選擇算法時(shí)的努力目標(biāo),應(yīng)當(dāng)讓人工智能算法的過程與結(jié)果可以讓人類解讀。人工智能系統(tǒng)往往由司法機(jī)構(gòu)和掌握人工智能技術(shù)的公司合作開發(fā),負(fù)責(zé)研發(fā)的公司可能基于市場(chǎng)原因,希望對(duì)算法保密。但是,在刑事司法中,為了防止侵犯人權(quán),應(yīng)當(dāng)保持司法透明度。如此一來,不愿公開算法與要求公開算法之間就產(chǎn)生了嚴(yán)重沖突。對(duì)此沖突的處理,應(yīng)當(dāng)以保障人權(quán)為重,要求研發(fā)公司公開算法。在算法形成過程中,應(yīng)當(dāng)關(guān)注犯罪嫌疑人、被告人及其辯護(hù)律師的需求,維護(hù)被追訴方的合法權(quán)益;在使用前,應(yīng)當(dāng)對(duì)自變量進(jìn)行徹底審查,防止一些與被告人、被害人的身份、社會(huì)經(jīng)濟(jì)地位相關(guān)的變量在使用時(shí)導(dǎo)致對(duì)當(dāng)事人的偏見;被告方有權(quán)對(duì)算法進(jìn)行檢查。從應(yīng)用系統(tǒng)治理的角度看,應(yīng)當(dāng)保障應(yīng)用系統(tǒng)的安全性、有效性和訴訟主體使用應(yīng)用系統(tǒng)的平等性。脆弱性是人工智能系統(tǒng)的一個(gè)關(guān)鍵特征,在大多數(shù)情況下人工智能系統(tǒng)能夠在非常狹窄的任務(wù)上勝過人類,但是,也可能在看似微小的細(xì)節(jié)上轟然失敗,因?yàn)榉治龅哪硞€(gè)數(shù)據(jù)細(xì)節(jié)干擾了其內(nèi)在邏輯。人工智能系統(tǒng)發(fā)生故障可能造成對(duì)犯罪嫌疑人、被告人、被害人的傷害,因此應(yīng)當(dāng)對(duì)人工智能在刑事司法中的運(yùn)用持謹(jǐn)慎態(tài)度,時(shí)刻關(guān)注其可能產(chǎn)生的風(fēng)險(xiǎn),并制定人工智能風(fēng)險(xiǎn)評(píng)估工具的具體標(biāo)準(zhǔn)。在應(yīng)用系統(tǒng)使用過程中,應(yīng)當(dāng)保障當(dāng)事人具有表達(dá)意見、有效參與的權(quán)利,如擴(kuò)大專家輔助人制度的使用范圍,確保應(yīng)用系統(tǒng)所產(chǎn)生的結(jié)果受到檢驗(yàn)和審查。應(yīng)用系統(tǒng)依賴過去決策未來,過去的資料可能成為正確決策的障礙,也可能因不斷累積而造成偏見。要透過個(gè)案,對(duì)于應(yīng)用系統(tǒng)決策的正確性進(jìn)行檢視,防止系統(tǒng)性的偏見以及產(chǎn)生新的弱勢(shì)群體。在使用刑事司法人工智能系統(tǒng)時(shí),應(yīng)當(dāng)保障當(dāng)事人新的程序權(quán)利(即數(shù)位權(quán)利①2013年,一群關(guān)注隱私權(quán)議題的專家發(fā)起《世界數(shù)位權(quán)利宣言倡議行動(dòng)》,促進(jìn)對(duì)數(shù)位權(quán)利的承認(rèn)和保障。參見林勤富、李怡俐:《人工智慧時(shí)代下的國際人權(quán)法——規(guī)范與制度的韌性探索與再建構(gòu)》,載李建良主編:《法律思維與制度的智慧轉(zhuǎn)型》,元照出版有限公司2020年版,第454 頁。),規(guī)定國家專門機(jī)關(guān)新的積極義務(wù),促進(jìn)訴訟各方對(duì)人工智能系統(tǒng)的平等應(yīng)用;應(yīng)當(dāng)提高應(yīng)用系統(tǒng)的透明度和溝通能力,以便能夠理解和控制其決策;應(yīng)當(dāng)建立應(yīng)用系統(tǒng)決策出錯(cuò)的救濟(jì)機(jī)制和責(zé)任追究機(jī)制,應(yīng)當(dāng)重視人類思維與人工智能算法之間的差異,采取更為細(xì)致的方法回應(yīng)人工智能系統(tǒng)決策中的可問責(zé)性問題。

最后,應(yīng)當(dāng)堅(jiān)守司法人員在刑事司法中的主導(dǎo)地位,實(shí)行規(guī)則指導(dǎo)與智能輔助相結(jié)合。人工智能的介入使得刑事司法在法治主義之上疊加了“技治主義”,無論是法治主義還是技治主義,都不應(yīng)當(dāng)動(dòng)搖司法人員的主導(dǎo)地位。法官裁判結(jié)果可以接受算法裁判結(jié)果的檢驗(yàn),但算法裁判不能取代法官裁判。司法人員不能以人工智能的運(yùn)用推卸司法責(zé)任,人工智能只是輔助手段,真正在刑事司法中起主導(dǎo)作用以及決定案件最終處理結(jié)果的還應(yīng)當(dāng)是司法人員。每個(gè)案件、每個(gè)被追訴人均有差異,用過去的資料預(yù)測(cè)未來,僅能作為參考,不能直接決定案件處理的結(jié)果,犯罪嫌疑人、被告人的刑事責(zé)任最終仍然需要由警察、檢察官、法官綜合各種因素后審慎判斷。在刑事司法中解釋和運(yùn)用法律包含著價(jià)值判斷,應(yīng)當(dāng)由具有同理心的司法人員完成,而不能完全訴諸技術(shù)理性。人工智能的科學(xué)性為可能隱藏的價(jià)值偏見披上了合理正確的外衣,應(yīng)當(dāng)防止司法人員對(duì)機(jī)器結(jié)果準(zhǔn)確性的盲目信任,使其放棄對(duì)結(jié)果的審查和質(zhì)疑。司法人員在規(guī)則指導(dǎo)與智能輔助下決策,要兼顧實(shí)然與應(yīng)然,通過人工智能系統(tǒng)立足實(shí)然,通過規(guī)則指導(dǎo)糾正實(shí)然中的執(zhí)法偏差,并且回應(yīng)社會(huì)公眾對(duì)合理執(zhí)法、公正司法的期待。

五、結(jié) 語

人工智能在刑事司法中的應(yīng)用已經(jīng)是不可逆轉(zhuǎn)的大趨勢(shì),其正在經(jīng)歷由淺入深、由窄到寬的發(fā)展過程。在瞬息萬變的數(shù)字時(shí)代,刑事訴訟理念和制度發(fā)展應(yīng)當(dāng)與時(shí)俱進(jìn)。刑事司法中所開發(fā)的人工智能應(yīng)用系統(tǒng)基于系統(tǒng)論、控制論以及信息理論的理論成果,采用數(shù)學(xué)模型的統(tǒng)計(jì)技巧和信息科技,集法律規(guī)定與專家經(jīng)驗(yàn)、案例分析于一體,具有增進(jìn)效能、避免錯(cuò)誤、減少成本等益處,但也存在新的人權(quán)保障風(fēng)險(xiǎn),在科技化與自動(dòng)化、數(shù)字化與虛擬化的趨勢(shì)下,正當(dāng)法律程序原則實(shí)質(zhì)轉(zhuǎn)化為“科技正當(dāng)程序”。②參見劉靜怡:《網(wǎng)路時(shí)代的隱私保護(hù)困境》,元照出版有限公司2021年版,第367 頁。在人工智能時(shí)代,仍然應(yīng)當(dāng)保有對(duì)人類的友善性,維護(hù)人的尊嚴(yán),為此,應(yīng)當(dāng)創(chuàng)新治理方式,防止自動(dòng)化決策的偏見和錯(cuò)誤,建立新的人權(quán)保障標(biāo)準(zhǔn),并對(duì)現(xiàn)有法律制度進(jìn)行開創(chuàng)性的解釋和發(fā)展。

基于人工智能運(yùn)用于刑事司法可能產(chǎn)生的風(fēng)險(xiǎn)以及人工智能介入刑事訴訟本身所具有的局限性,在使用人工智能時(shí)應(yīng)當(dāng)保障數(shù)據(jù)的全面性、準(zhǔn)確性以及合法性,保障算法的科學(xué)性、透明性和公正性,保障應(yīng)用系統(tǒng)的安全性、有效性和訴訟主體使用應(yīng)用系統(tǒng)的平等性,并且堅(jiān)守司法人員在刑事司法中的主導(dǎo)地位,做到人工智能介入有限、運(yùn)用有度、輔助有力。與其他國家和地區(qū)對(duì)于人工智能技術(shù)的有限使用相比,我國刑事司法領(lǐng)域的人工智能應(yīng)用在發(fā)展規(guī)劃上呈現(xiàn)無限擴(kuò)張的態(tài)勢(shì),人工智能的泛化使用可能招致在技術(shù)的穩(wěn)健性和安全性、過程和結(jié)果的可解釋性、應(yīng)用系統(tǒng)使用的平等權(quán)等方面的質(zhì)疑,從而難以構(gòu)建可信賴的人工智能應(yīng)用體制機(jī)制。

由于人工智能在刑事司法中的應(yīng)用涉及法律問題和技術(shù)問題,因此,對(duì)其進(jìn)行規(guī)則治理應(yīng)當(dāng)同時(shí)從法律和技術(shù)層面展開,人工智能應(yīng)用系統(tǒng)的研發(fā)和有關(guān)的規(guī)則制定應(yīng)當(dāng)由法律專家和技術(shù)專家共同組成的專家咨詢委員會(huì)進(jìn)行審查。人工智能的應(yīng)用應(yīng)當(dāng)趨利避害、揚(yáng)長避短,妥善處理安全與自由、公正與效率、實(shí)然與應(yīng)然的關(guān)系,達(dá)致多元法律價(jià)值的平衡和兼顧。在研發(fā)和運(yùn)用人工智能的過程中,應(yīng)當(dāng)注重對(duì)其公平性的全過程檢視、保障受人工智能決策影響的當(dāng)事人可以適時(shí)更正不當(dāng)或錯(cuò)誤的自動(dòng)決策結(jié)果;受到人工智能系統(tǒng)決策影響的當(dāng)事人應(yīng)當(dāng)具有要求解釋的權(quán)利;在人工智能系統(tǒng)的有效性存疑的情況下,受到人工智能系統(tǒng)決策影響的當(dāng)事人應(yīng)當(dāng)享有“退出的權(quán)利”,選擇只接受單純的人為決策。對(duì)于人工智能在普通案件和簡(jiǎn)易輕微案件中的使用,應(yīng)當(dāng)有所區(qū)別。例如,對(duì)于量刑因子復(fù)雜多樣的案件,法官使用人工智能系統(tǒng)輔助量刑,操作較為簡(jiǎn)便,可根據(jù)應(yīng)用系統(tǒng)所顯示的結(jié)果進(jìn)行上下微調(diào);對(duì)于簡(jiǎn)單輕微案件,進(jìn)入量刑智能輔助系統(tǒng)查閱量刑狀況,反而耗時(shí)費(fèi)事,不如制作簡(jiǎn)單輕微案件量刑參考表,更為實(shí)用。①參見郭豫珍:《量刑與刑量——量刑輔助制度的全觀微視》,元照出版有限公司2013年版,第135-136 頁。

在我國,人工智能在刑事司法中的應(yīng)用從粗放式發(fā)展走向精細(xì)化規(guī)制,將是數(shù)字時(shí)代刑事法治發(fā)展的必由之路。從明確原則和基本要求,到完善相關(guān)立法,刑事司法人工智能治理的法治化還有很長的路要走。在此過程中,如何讓人工智能的應(yīng)用使刑事司法更公正、更有效率,是刑事司法人工智能法制建設(shè)的基本價(jià)值追求。

猜你喜歡
量刑司法人工智能
刑事程序法向度的量刑規(guī)范化研究
制定法解釋中的司法自由裁量權(quán)
法律方法(2021年4期)2021-03-16 05:34:28
司法所悉心調(diào)解 墊付款有了著落
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
非正式司法的悖謬
人工智能與就業(yè)
數(shù)讀人工智能
小康(2017年16期)2017-06-07 09:00:59
下一幕,人工智能!
論司法公開的困惑與消解
論自首在量刑中的適用
西藏科技(2015年5期)2015-09-26 11:55:20
剑河县| 湖北省| 平江县| 台南县| 阳山县| 会泽县| 宿州市| 灯塔市| 长治市| 甘泉县| 霸州市| 翼城县| 松江区| 平阳县| 依兰县| 和林格尔县| 义马市| 太湖县| 清水河县| 垣曲县| 昭通市| 石台县| 专栏| 电白县| 柳林县| 鹤岗市| 达孜县| 阜新市| 凭祥市| 中卫市| 桦川县| 连江县| 灵川县| 潞西市| 酉阳| 江源县| 临邑县| 郎溪县| 民乐县| 瑞丽市| 屏山县|