徐前權(quán) 郭倫
(1.長江大學(xué) 人文社科處,湖北 荊州 434023;2.長江大學(xué) 法學(xué)院,湖北 荊州 434023)
法院信息化建設(shè)與量刑規(guī)范化改革是當下司法改革的兩大任務(wù),加之AI技術(shù)的逐漸成熟,三者共同促成了人工智能輔助量刑系統(tǒng)的研發(fā)推廣。所謂人工智能輔助量刑,是指在大數(shù)據(jù)、云計算的技術(shù)支撐下構(gòu)建法律圖譜,通過提取法律文書要素,進行類案識別和模型訓(xùn)練,用機器學(xué)習等人工智能方法形成量刑算法,在此基礎(chǔ)上實現(xiàn)量刑預(yù)測和偏離度測算。[1]
人工智能輔助量刑是大數(shù)據(jù)時代司法改革的嘗試,與傳統(tǒng)的刑事訴訟相比,其核心有兩點。第一,以大數(shù)據(jù)技術(shù)為突破口,以人工智能為載體,借以解決人類思維局限性、司法壓力大、量刑公信力低等問題,將科技價值與人類情感價值相結(jié)合,互補短板,以人工智能輔助量刑推動法院量刑規(guī)范化、精細化,最大限度發(fā)揮科技的法律價值。第二,通過在量刑程序中引入人工智能,以人工智能量刑的獨立性,為量刑程序的相對獨立保駕護航,這對于定罪程序與量刑程序的相對分離有極其重要的作用。其本質(zhì)都是為了更好地實現(xiàn)量刑規(guī)范化改革與法院信息化建設(shè)。
在司法政策的支持下,各地法院積極將人工智能引入審判體系,涌現(xiàn)出許多人工智能輔助量刑系統(tǒng),如北京“睿法官”系統(tǒng)、廣州“智審輔助量刑裁決系統(tǒng)”、上?!?06”系統(tǒng)等,這些系統(tǒng)盡管不盡相同,但大都具有卷宗識別提取、理論量刑建議、實證量刑分析三大底層功能。然而,相較于刑事政策與司法實踐的積極主動,學(xué)界在對人工智能輔助量刑的應(yīng)用表示歡迎的同時,更多了一份謹慎?,F(xiàn)階段,人工智能輔助量刑系統(tǒng)正在全國推廣應(yīng)用,其風險還未充分暴露。人工智能輔助量刑系統(tǒng)實現(xiàn)其價值主要依靠邏輯算法與數(shù)據(jù)庫,本文將以二者為出發(fā)點,探討人工智能輔助量刑系統(tǒng)的應(yīng)用可能造成的風險,進而為規(guī)避其風險提出對策。
馬克斯·韋伯曾說過“司法不是自動售貨機”,這句法律人耳熟能詳?shù)脑捊?jīng)常被用來批判司法過程中的機械主義。人工智能輔助量刑系統(tǒng)的應(yīng)用,固然對量刑規(guī)范化改革有很大益處,但同時我們也應(yīng)當警惕機器對人的價值的過度排斥,防止量刑規(guī)范化改革向機械主義量刑轉(zhuǎn)變。在刑事量刑過程中,我們應(yīng)當注意到,刑罰的裁量不僅僅是對已有犯罪行為的懲罰和報復(fù),還有對人身危險性、再犯可能性的判斷。人工智能可以通過對司法數(shù)據(jù)庫的檢索分析得出基本犯罪事實的類同量刑結(jié)果,但是對于人身危險性、再犯可能性的判斷,人工智能無法全面涵蓋和考量,因為后者除了通過對犯罪人已有犯罪行為以及行為后的表現(xiàn)來推斷,很多方面還需要法官當面交流、切實感受,即所謂的“察言觀色”、個人體會,這里需要的是經(jīng)驗、情感,而不是大數(shù)據(jù)與算法。一個合格的司法裁判,不僅要立足于案件事實和法律規(guī)定的硬性因素,更要結(jié)合社會倫理、價值判斷、社情民意等軟性因素進行綜合考量,自由心證、排除合理懷疑等制度設(shè)計,就是為了緩解機械司法所帶來的弊端。[2]證據(jù)裁判規(guī)則對法官的每一項決定都作出了證據(jù)要求,這似乎為人工智能介入量刑提供了很好的理論支撐,但是,在實踐中人的因素不可避免,這就導(dǎo)致了機器與人之間的博弈。
綜上,人工智能介入量刑確實會實現(xiàn)類案類判這一價值目的,但是,人工智能的介入不是毫無界限的,不能因為人的因素不可控,就將法官的自由裁量權(quán)無限壓縮甚至排除在量刑之外。量刑不僅具有法律價值,還具有情感價值,在“弱人工智能”的今天,量刑不可能完全機器化、數(shù)據(jù)化,機器無“人性”這一特性導(dǎo)致機器無法實現(xiàn)量刑中的情感價值,在考慮罪犯的人身危險性和再犯可能性時,人的因素還是占主導(dǎo)地位。對于法官濫用自由裁量權(quán)的問題,解決的關(guān)鍵在于意識培養(yǎng)與監(jiān)督制約,而不是剝奪權(quán)力。即便在“強人工智能”時代,機器可以發(fā)揮情感價值,擁有了人的屬性,這時候?qū)ζ溥M行監(jiān)督,無非是今天對法官監(jiān)督的一個輪回。再小的權(quán)力都有濫用的風險,我們需要尊重這一現(xiàn)實,做好對權(quán)力的監(jiān)督制約,而不是剝奪法官的自由裁量權(quán)。
目前,司法機關(guān)普遍存在對司法效率的過度追求,忽略司法公正。以“于歡辱母案”為例,于歡因不堪母親受辱,持刀刺傷四人,最終導(dǎo)致一人死亡。在整個事件中,不論是警察執(zhí)法還是法院司法,效率優(yōu)先都體現(xiàn)得淋漓盡致。警察在執(zhí)法過程中一直秉持“大事化小,小事化了”的理念,未及時采取相關(guān)強制措施,以致悲劇最終發(fā)生。在法院審判過程中,于歡一審被聊城市中級人民法院判處無期徒刑,輿論發(fā)酵后,山東省高級人民法院在二審中撤銷了一審判決,二審判處于歡有期徒刑五年。聊城中院做出一審判決的理由是,當時的情況下,于歡及其母親的生命健康權(quán)受到的危險性較小,不存在防衛(wèi)的緊迫性。[3]事實上,法官還是沒有站在被告人當時的地位考慮問題,沒有從人性角度出發(fā),沒有考慮當時環(huán)境下被告人于歡的判斷力和控制力。更多的底層邏輯依然是司法效率,對于命案依然是穩(wěn)妥且迅速辦理,缺乏對案件的開創(chuàng)性思考,本質(zhì)上就是缺乏對司法公正的執(zhí)著追求,這種效率優(yōu)先的思維在智能輔助量刑的實踐中更需警惕。
效率和公正都是司法所追求的目標,二者不可偏廢。在人工智能迅猛發(fā)展和司法改革的背景下,全國各地法院都掀起了“智慧法院”建設(shè),大力發(fā)展司法人工智能,想要借此打破“案多人少”和“類案別判”的司法困境。司法人工智能的應(yīng)用無疑有巨大潛力,但是,過于追求解決目前司法困境的功利性目的,勢必會造成對司法公正的忽略。利用人工智能輔助法官辦案會提高辦案效率,但同時也加強了對法官的監(jiān)督,限制了法官自由裁量權(quán)的行使,類案畢竟有別,法官的自由裁量權(quán)的行使有利于個案正義的實現(xiàn),這就需要尋找一個契合點,找準人工智能與法官之間的界限?!八痉ㄊ蔷S護社會公平正義的最后一道防線”[4],司法人工智能的發(fā)展應(yīng)當同時關(guān)注司法效率與司法公正。我們也應(yīng)當明白,公正是司法的第一追求,當司法人工智能的運用導(dǎo)致司法效率與司法正義二者沖突時,應(yīng)當堅持“公正優(yōu)先,兼顧效率”的原則,[5]始終把公平正義作為根本目標和價值追求。
算法歧視將會是一種最根本、最徹底、最統(tǒng)一的歧視。[6]人工智能輔助量刑系統(tǒng)在對犯罪人既存的犯罪事實進行分析的基礎(chǔ)上,結(jié)合已經(jīng)存在的類似的犯罪歷史數(shù)據(jù),通過不摻雜私人感情的、客觀公正的算法計算,得出一個最終的量刑結(jié)果,這減少了人的主觀因素等不確定因素對案件量刑的影響。但是,作為計算基礎(chǔ)的數(shù)據(jù)庫是已經(jīng)存在的,如果數(shù)據(jù)庫存在數(shù)據(jù)偏差,那么,算法將被迫接受這樣的規(guī)律,最終導(dǎo)致統(tǒng)一的、大規(guī)模的量刑偏差。例如,無業(yè)盜竊犯往往更會引起法官的厭惡,在法官自由裁量權(quán)范圍內(nèi)可能會遭受更重的刑罰;住所地與法院所在地是否一致,成為法官是否決定適用緩刑的重要考量因素等。如果一個地區(qū)大部分法官都帶有這種非法律因素的偏見,那么,人工智能輔助量刑在對司法大數(shù)據(jù)進行分析時會被迫接受這種原始歧視,并且這種原始歧視將得到系統(tǒng)強化,甚至發(fā)展成為統(tǒng)一的、百分之百的司法錯誤。在法官主導(dǎo)司法的過程中,即便人的種種不確定因素會影響量刑結(jié)果的準確性,但不可否認的是,仍然會有一部分法官堅守對量刑公正的追求,這會不斷糾偏,并且隨著相關(guān)監(jiān)管措施的落實,法官單獨量刑的準確性必然會得到提高,只是需要時間來達到這一目標。如果盲目地使用智能輔助量刑系統(tǒng),可能會導(dǎo)致人工智能對已判案件量刑情節(jié)和結(jié)果的機械性適用,一旦原始數(shù)據(jù)出現(xiàn)上述量刑歧視的情況,而人工智能的機械性又注定其不具有實現(xiàn)個案正義的開創(chuàng)性,系統(tǒng)會從司法數(shù)據(jù)庫中尋找類同于“住所地決定緩刑適用”這樣的潛規(guī)則并指導(dǎo)實踐,實踐案例又將成為系統(tǒng)學(xué)習的“母本”,最終這條潛規(guī)則將架空法律。因此,在量刑這樣具有價值判斷的領(lǐng)域,應(yīng)當保證法官的主導(dǎo)地位。
算法作為人工智能的核心決定著智能化系統(tǒng)的行為,對于多數(shù)人(包括司法人員和當事人)來說,算法的隱秘性決定了它是一個黑箱般的存在,人們只知其果,不知其因,尤其是對大數(shù)據(jù)中類同案件的分析取舍,人們無法得知,或者說,也難以明白其算法邏輯,這對需要接受量刑結(jié)果的當事人而言,有悖于司法透明化原則。美國威斯康星州訴盧米斯案是人工智能輔助量刑中關(guān)于算法黑箱的典型案例,懲戒署官員制作量刑前調(diào)查報告時,利用COMPAS風險評估工具對盧米斯進行累犯風險評估,因為COMPAS背后的評估算法屬于商業(yè)秘密,所以懲戒署提供的報告中僅有累犯風險的評估數(shù)值。法院在量刑時參考了該評估結(jié)果,并部分基于此判處了盧米斯6年有期徒刑和5年社區(qū)監(jiān)督(extended supervision)。盧米斯主張COMPAS以性別作為其量刑分析的考量因素違憲,法院依靠COMPAS系統(tǒng)做出的量刑判決侵犯了自己的正當程序權(quán)利,但最終威斯康星州最高法院維持了原判。[7]COMPAS風險評估工具所使用的算法由于涉及商業(yè)秘密是不公開的,過程不公開必然導(dǎo)致最終量刑結(jié)果的說理不充分,直接影響司法透明化甚至是司法公正,要想解決算法黑箱,需要從源頭入手,相關(guān)法學(xué)工作者需要介入算法的初始設(shè)計階段,進行監(jiān)督和學(xué)習,算法設(shè)計企業(yè)也需要做出妥協(xié),目前公開算法是解決該問題最可行的辦法。
人工智能輔助量刑系統(tǒng),“輔助”二字就表明了系統(tǒng)的工具屬性,其價值是幫助法官更好地進行司法裁判,而不是侵蝕甚至取代法官的獨立裁判地位,其所追求的是人工智能和法官都能實現(xiàn)自己對于案件的價值。具體而言,就是將案件的情感價值與法律價值相分離,法官解決案件的情感問題,人工智能解決案件的法律問題,二者之間是配合而不是替代關(guān)系,并且法官將一直占據(jù)主導(dǎo)地位。這是因為目前的人工智能和人腦差距巨大,人工智能所依靠的核心是算法,機器深度學(xué)習是在算法不斷更新、數(shù)據(jù)不斷錄入的情況下進行的,這是一個十分艱難的過程。而人腦基于天然的優(yōu)勢,每次攝入數(shù)據(jù)都會帶來人們思維上的長進,只有人腦可以應(yīng)對新情況、新問題,而機器對數(shù)據(jù)的解讀能力是以算法能夠覆蓋數(shù)據(jù)為前提的。[8]因此,人工智能只是技術(shù)工具,無法代替人類進行主體性思考。將人工智能引入量刑是為了提升司法效率和推進量刑規(guī)范化改革,這與保留法官自由裁量權(quán)并不沖突,在現(xiàn)階段,二者之間有一個契合,即法官占主導(dǎo)地位,人工智能起輔助作用。這樣做的考量有二:一是目前的社會觀念無法接納機器深度介入量刑,法官的權(quán)力來源于公共授權(quán),法官以事實為依據(jù),以法律為準繩,獨立行使司法權(quán),不受任何人與機構(gòu)的制約,如果人工智能取代法官的主導(dǎo)地位,將人類置于機器人的司法管轄之下,不僅違背了公眾對于法官的期待,還有悖于倫理與法理;[2]二是目前的智能量刑算法模型、機器深度學(xué)習等核心技術(shù)尚未成熟,暫時還沒有深度介入司法裁判全過程的能力。人工智能還遠遠不能實現(xiàn)量刑過程中的情感價值,諸如在對犯罪人人身危險性、再犯可能性進行考量時,法官可以通過長時間生活、工作形成的經(jīng)驗和人類情感上的共鳴來切實感受,而機器是在對犯罪人既存的犯罪事實和表現(xiàn)綜合分析的基礎(chǔ)上得出結(jié)論,相較于法官的切實感受而言,機器分析存在明顯的覆蓋瑕疵。因此,現(xiàn)階段人工智能只可能是法官量刑的一種技術(shù)性輔助工具。
人工智能輔助量刑作為一種技術(shù)性輔助工具可以很好地發(fā)揮提升司法效率的價值,同時,法官的主導(dǎo)地位又可以最大限度地兼顧個案的正義,這對于解決目前的司法困境和推進量刑規(guī)范化改革都具有重要意義。為了更好地保障法官的主體地位,防止對人工智能的過度依賴,需要在立法層面對人工智能輔助量刑的輔助屬性進行確定,對此,可以參考國家衛(wèi)生和計劃生育委員會頒布的《人工智能輔助診斷技術(shù)管理規(guī)范(2017 年版)》,該規(guī)范明確規(guī)定在醫(yī)療活動中,人工智能輔助診斷技術(shù)屬于臨床診斷決策的參考,不能直接作為臨床最終診斷的結(jié)論,最終的診斷必須經(jīng)由具備資格的臨床醫(yī)師決定。[9]此外,需要加強對法官使用人工智能輔助量刑的培訓(xùn)學(xué)習,明確相關(guān)的操作流程和使用風險,切實發(fā)揮好機器輔助法官的科技價值。
數(shù)據(jù)庫是人工智能輔助量刑的根基,司法大數(shù)據(jù)應(yīng)用的前提是數(shù)據(jù)客觀、真實、準確。要保證量刑結(jié)果的客觀公正,首先需要保證數(shù)據(jù)的客觀公正。
1.保證數(shù)據(jù)客觀完整
第一,注重對入庫案件的質(zhì)量審查。對已經(jīng)入庫的案件要做質(zhì)量篩選,將文書語言不規(guī)范、法律適用不合理、量刑失衡的案件剔除,在初期階段對準備入庫的案件也要審查相關(guān)的文書語言與量刑內(nèi)容,保證原始數(shù)據(jù)的準確可靠。第二,整合數(shù)據(jù)庫,保證數(shù)據(jù)的全面性。使用智能量刑輔助系統(tǒng)的地方司法機關(guān)應(yīng)做好案件公開工作,整合當?shù)氐乃痉〝?shù)據(jù)庫,解決數(shù)據(jù)庫局限的問題。還要擴大司法數(shù)據(jù)的收集范圍,不僅僅是案件的裁判文書收集,還需將訊問筆錄、庭審筆錄等相關(guān)信息收集錄入,保證案件信息的完整性。
2.保證數(shù)據(jù)精準合理
第一,及時更新數(shù)據(jù)庫。隨著經(jīng)濟、社會的不斷發(fā)展,很多法律條文也在不斷更新,以廢止掉的法律為依據(jù)量刑的案件也就不再適宜作為新案件量刑的參考數(shù)據(jù),這就需要定時對司法數(shù)據(jù)庫進行鑒別篩選。新出臺的相關(guān)法規(guī)也需要及時錄入,并及時補充以其為依據(jù)的案件。對此,需要建立一套完整的篩選更新機制,保證數(shù)據(jù)庫的時效性。第二,加大指導(dǎo)案例的參考價值。經(jīng)過司法人工智能產(chǎn)出的量刑數(shù)據(jù)屬于“二手數(shù)據(jù)”,法官對其的控制權(quán)并不大,在目前這樣一個適用人工智能輔助量刑的初級階段,限制人工智能輔助量刑產(chǎn)出數(shù)據(jù)的錄入,提高指導(dǎo)性案例的參考價值,保證法官對司法核心數(shù)據(jù)的控制權(quán),是十分必要的。
3.保證數(shù)據(jù)分類科學(xué)
數(shù)據(jù)完整與數(shù)據(jù)精準是對司法數(shù)據(jù)的內(nèi)容優(yōu)化,科學(xué)分類則是對司法數(shù)據(jù)的系統(tǒng)優(yōu)化。第一,按照司法裁判數(shù)據(jù)中的基本信息進行分類,包括但不限于裁判年份、法院層級、地域及文書類型、案由。第二,細化裁判文書關(guān)鍵內(nèi)容分類,如故意犯、偶犯、共同犯罪、自首、立功、人身權(quán)利、財產(chǎn)權(quán)利等。第三,對法官說理部分合理分類,法官說理是法官情感價值在裁判文書中的集中體現(xiàn),可以按照法官在說理中所引述的法條、原則和裁決關(guān)鍵詞進行分類。通過多方面、多層次的科學(xué)分類,做到類案檢索的快、全、準。
算法歧視和算法黑箱是司法人工智能繞不過去的問題,算法的隱秘性和數(shù)據(jù)庫的復(fù)雜性是造成二者的原因所在,也是影響量刑公正的原因所在。解決算法歧視的關(guān)鍵在于,保證司法數(shù)據(jù)庫中的數(shù)據(jù)客觀、完整、合理,屬于前面優(yōu)化資源所追求的目標。
對于解決算法黑箱,筆者有兩點建議。
1.完善審查機制,強制算法公開
算法黑箱的本質(zhì)是算法的隱秘性,解決問題的關(guān)鍵也在于此。在算法構(gòu)建引入的初期,司法機關(guān)就需要做好相關(guān)的審查工作,做好對算法模型構(gòu)建的監(jiān)督工作,評估其算法的客觀性、合理性,會同社會相關(guān)專家研討,并公布相關(guān)的審查報告,做好對算法構(gòu)建的內(nèi)部監(jiān)督。人工智能輔助量刑是為了維護和促進司法公正,但算法往往因為涉及商業(yè)秘密而無法公布,反過來損害了司法公正,這有悖于司法人工智能的設(shè)計初衷。為了維護司法的透明化和司法公正,算法設(shè)計的相關(guān)企業(yè)機構(gòu)需要做出讓步。
2.構(gòu)建問責機制,保障權(quán)利救濟
任何權(quán)力都有被濫用的風險,不論是算法設(shè)計還是算法應(yīng)用,都需要構(gòu)建相關(guān)的問責機制。在對算法設(shè)計進行監(jiān)督的同時需要明確相關(guān)的責任,不論是設(shè)計者還是監(jiān)督者,都需要對自己行為的結(jié)果承擔責任。法官對輔助量刑系統(tǒng)的應(yīng)用也需要受到責任制約,否則,法官將量刑責任推給人工智能輔助量刑系統(tǒng),那么,群眾的權(quán)利救濟就相當困難。如果二審?fù)瑯舆m用人工智能輔助量刑,那么,只要法官在量刑輔助系統(tǒng)里填入相同的信息,一審二審的量刑結(jié)果將完全一致,上訴也就失去了意義。為了保障犯罪人得到公正裁決,必須在人工智能輔助量刑的新模式下構(gòu)建相應(yīng)的權(quán)利救濟途徑和相關(guān)的問責機制。
人工智能輔助系統(tǒng)的算法模型擁有案件量刑情節(jié)提取分析、文書生成的功能,方便法官量刑的同時也削弱了量刑程序?qū)Ψü俚慕^對依靠,法官在擺脫體力勞動的同時也減輕了腦力勞動,這就可能導(dǎo)致法官量刑責任意識的惰化。法官在智能輔助量刑中的情感價值無法得到固定量化之前,法官憑借輔助系統(tǒng)便可完成案件的量刑分析甚至是部分說理,這就會導(dǎo)致法官逃避甚至是無需說理,造成法官辦案能力的下降。筆者認為,即便智能輔助量刑可以起到釋法的功能,但是說理的功能仍然應(yīng)當由法官獨立完成,并且在智能輔助量刑的背景下得到加強。由機器發(fā)揮法律價值,由法官發(fā)揮情感價值,都應(yīng)該在判決書中得到體現(xiàn)。在智能輔助量刑系統(tǒng)應(yīng)用的初級階段,強化判決書的釋法說理是十分必要的,這不僅是對個案權(quán)威的追求,也是對司法數(shù)據(jù)庫原始數(shù)據(jù)的優(yōu)化,可以為人工智能深化學(xué)習提供良好的基礎(chǔ)。具體實踐上,可以明確規(guī)制法官對判決書中分析說理的獨立書寫權(quán),限制智能系統(tǒng)對判決書釋法說理的自動生成,并且明確法官對量刑結(jié)果尤其是說理部分的責任。
人工智能輔助量刑是我國正在進行的一項司法智能化改革,目前正處在初級實踐階段,還有很多技術(shù)需要完善。在這樣的背景下,關(guān)于人工智能輔助量刑的立法幾乎沒有,僅有最高人民檢察院、最高人民法院和政府的一些規(guī)劃書,這就導(dǎo)致了各省都有自己的具體實施計劃,其所利用的人工智能輔助量刑系統(tǒng)也不盡相同,并且這些系統(tǒng)缺乏國家的統(tǒng)一管理。智能輔助量刑系統(tǒng)的定位、算法風險、機械性風險都是目前暴露出來的問題,不論是明確定位還是公開算法,都需要國家出臺相關(guān)法律,在全國進行統(tǒng)一規(guī)劃,需要明確各省政府采購和使用智能輔助量刑系統(tǒng)的具體事項和限制,明確法官對智能輔助量刑所承擔的法律責任,明確智能輔助量刑系統(tǒng)設(shè)計廠商所應(yīng)遵守的具體規(guī)定和相應(yīng)的法律責任,明確智能輔助量刑系統(tǒng)的監(jiān)管和權(quán)利救濟途徑。在人工智能輔助量刑技術(shù)逐漸成熟,系統(tǒng)擁有和使用的司法權(quán)力越來越大的趨勢下,立法以明確人工智能輔助量刑的相關(guān)內(nèi)容,能夠很好地緩和智能輔助量刑系統(tǒng)與法官和現(xiàn)行相關(guān)法律之間的沖突,有利于更好地實現(xiàn)司法的程序正義與實體正義。
在大數(shù)據(jù)技術(shù)迅猛發(fā)展的背景下,刑事司法智能化是必然趨勢,在司法改革的背景下,智能輔助量刑系統(tǒng)是必然結(jié)果。智能輔助量刑系統(tǒng)的應(yīng)用符合目前的司法需求和社會現(xiàn)狀,其對法院的量刑規(guī)范化改革有時代賦予的契合性和重要性,當前全國各地智能量刑輔助系統(tǒng)的普及應(yīng)用也表明了國家政策的肯定與支持,在此背景下,警惕智能輔助量刑所蘊含的機械性風險和算法風險并作出相應(yīng)的完善,對智能輔助量刑系統(tǒng)的良好運行和司法正義的實現(xiàn)具有重要意義。