文/張凌寒

技術(shù)創(chuàng)新驅(qū)動(dòng)了社會(huì)生產(chǎn)與生活方式的變革，也給司法領(lǐng)域帶來了革命性改變。我國(guó)的智慧警務(wù)、智慧司法、智慧檢務(wù)等重大建設(shè)方案也紛紛出臺(tái)落地，人工智能技術(shù)在其中扮演了核心角色并發(fā)揮了重要作用。

人工智能技術(shù)起到的作用大致可以分為以下兩類：一類是信息收集與管理技術(shù)，旨在實(shí)現(xiàn)司法業(yè)務(wù)相關(guān)信息的收集工作，并促進(jìn)信息在司法環(huán)節(jié)中的順暢流轉(zhuǎn)；另一類是信息處理技術(shù)，旨在應(yīng)用人工智能技術(shù)實(shí)質(zhì)性地處理法律案件。我國(guó)偏重第二類的信息處理技術(shù)，因此，國(guó)家積極推進(jìn)智慧檢務(wù)、智慧司法等涉及司法實(shí)務(wù)各個(gè)流程的制度建設(shè)，提出了“全流程網(wǎng)上辦案”并積極研發(fā)“數(shù)據(jù)＋算法”的司法輔助系統(tǒng)。

但是，在司法裁判中對(duì)信息量與處理速度的過度追求，可能造成司法裁判中的信息過載、司法決策權(quán)力讓渡給算法決策系統(tǒng)、司法機(jī)關(guān)過度依賴技術(shù)公司等一系列問題。這些新問題對(duì)現(xiàn)有司法制度中的正當(dāng)程序、權(quán)力專屬原則等提出了挑戰(zhàn)，如何在智慧司法如火如荼的建設(shè)中規(guī)避與應(yīng)對(duì)此類問題，將成為人工智能時(shí)代必須解決的重要課題。

從技術(shù)輔助到技術(shù)主導(dǎo)：人工智能驅(qū)動(dòng)下的智慧司法變革

在智慧司法建設(shè)中，對(duì)司法系統(tǒng)影響最大的技術(shù)應(yīng)用方式與邏輯可從三個(gè)方面展開：事關(guān)法律事實(shí)認(rèn)定的證據(jù)收集與采信，有關(guān)司法決策的決策輔助系統(tǒng)，以及以技術(shù)主導(dǎo)為理念的司法系統(tǒng)改造工程。在國(guó)家大力推進(jìn)的智慧司法系統(tǒng)建設(shè)中，技術(shù)的影響從輔助逐漸走向主導(dǎo)。

（一）證據(jù)運(yùn)用中的技術(shù)應(yīng)用

在智慧司法中，有關(guān)證據(jù)的收集、存證和采信的技術(shù)應(yīng)用構(gòu)成了技術(shù)影響從輔助轉(zhuǎn)向主導(dǎo)的起點(diǎn)。第一，在證據(jù)收集中，技術(shù)手段深刻改變了證據(jù)信息收集的方式、時(shí)間節(jié)點(diǎn)與收集對(duì)象。第二，在存證過程中，電子證據(jù)的大量增加及其在證明案件事實(shí)中的作用日益重要，使得“區(qū)塊鏈存證”成為證據(jù)保存的重要制度。第三，在證據(jù)采信中，為了使計(jì)算機(jī)系統(tǒng)識(shí)別出案件要素與證據(jù)標(biāo)準(zhǔn)，從而進(jìn)行自動(dòng)關(guān)聯(lián)匹配，“證據(jù)標(biāo)準(zhǔn)數(shù)據(jù)化”成為智慧司法的基礎(chǔ)性環(huán)節(jié)。

（二）具體司法決策中的技術(shù)支持

通過技術(shù)支持法官的日常工作與司法決策，減輕法官的事務(wù)性工作負(fù)擔(dān)，提高司法效率，一直是智慧司法建設(shè)的核心價(jià)值目標(biāo)。對(duì)司法決策的技術(shù)支持，也從發(fā)揮簡(jiǎn)單的辦公便利輔助功能逐漸深入到對(duì)法官的決策產(chǎn)生實(shí)質(zhì)性影響。

首先，技術(shù)將法官?gòu)男姓聞?wù)中解放出來。2016年發(fā)布的《最高人民法院信息化建設(shè)五年發(fā)展規(guī)劃（2016—2020）》的核心目標(biāo)之一就是利用信息系統(tǒng)和智能化服務(wù)，將法官?gòu)拇罅烤唧w、繁瑣的事務(wù)中解放出來，提升法官的司法能力。

其次，技術(shù)系統(tǒng)為法官提供決策支持。最高人民法院提出，要建設(shè)基于大數(shù)據(jù)智能服務(wù)的審判支持系統(tǒng)，實(shí)現(xiàn)“部分法院基于人工智能、虛擬現(xiàn)實(shí)完善審判支持系統(tǒng)，實(shí)現(xiàn)審判支持精準(zhǔn)化、高效化”。

最后，在某些司法場(chǎng)景中技術(shù)系統(tǒng)直接取代了人類的決策?！度嗣穹ㄔ盒畔⒒ㄔO(shè)五年發(fā)展規(guī)劃（2019—2023）》中規(guī)定，“需要構(gòu)建大數(shù)據(jù)分析系統(tǒng)……，為人民群眾提供司法公開和類案智能推送、訴訟結(jié)果預(yù)判等訴訟服務(wù)智能服務(wù)，為審判執(zhí)行提供決策支持和監(jiān)控預(yù)警智能服務(wù)，為司法管理提供司法研究和工作評(píng)估智能服務(wù)”。

（三）智慧司法系統(tǒng)建設(shè)中的技術(shù)主導(dǎo)

技術(shù)系統(tǒng)不僅是提高效率提供便利的工具，更是從深層次推動(dòng)了治理能力現(xiàn)代化中的司法制度改革。這種技術(shù)對(duì)司法系統(tǒng)建設(shè)的深度影響體現(xiàn)在具體技術(shù)應(yīng)用、司法技術(shù)系統(tǒng)建設(shè)等層面，同時(shí)對(duì)傳統(tǒng)法律制度提出了不容忽視的挑戰(zhàn)。

首先，以具體技術(shù)應(yīng)用中最為常見的類案推送為例，其已經(jīng)從技術(shù)輔助系統(tǒng)升格為最高人民法院對(duì)法官的制度性要求。最高人民法院構(gòu)建了跨層級(jí)、跨地域、跨部門、跨業(yè)務(wù)的“大數(shù)據(jù)管理和服務(wù)平臺(tái)”，法官和普通公眾可以利用其智能推送功能，從該平臺(tái)海量裁判文書中搜索出相類似的案件材料。

其次，通過司法平臺(tái)化建設(shè)對(duì)司法系統(tǒng)進(jìn)行全面升級(jí)與改造本身就是智慧司法建設(shè)的目標(biāo)。國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》明確“智慧法庭”建設(shè)要平臺(tái)化，將線下工作搬到線上，實(shí)現(xiàn)司法任務(wù)執(zhí)行網(wǎng)絡(luò)化、可視化和平臺(tái)化。

（d）變更：當(dāng)用戶的分配部門或崗位、密級(jí)等其他信息發(fā)生變化后，系統(tǒng)管理員在權(quán)威數(shù)據(jù)源中對(duì)用戶信息進(jìn)行修改和更新，然后通過（b）、（c）兩個(gè)步驟將用戶信息同步至統(tǒng)一用戶身份庫(kù)，然后由統(tǒng)一用戶身份管理系統(tǒng)統(tǒng)一更新并同步該用戶關(guān)聯(lián)的其他信息系統(tǒng)中的賬戶信息。

在技術(shù)建設(shè)的推進(jìn)下，司法公開、公正、透明等價(jià)值得到凸顯與放大，傳統(tǒng)的司法制度也面臨著變革。一方面，技術(shù)推動(dòng)司法公開達(dá)到前所未有的水平，人民法院在裁判文書公開、庭審公開、審判流程公開和執(zhí)行信息公開領(lǐng)域建設(shè)了四大公開平臺(tái)。另一方面，傳統(tǒng)司法制度面臨著技術(shù)變革帶來的挑戰(zhàn)，這已成為制約智慧法院建設(shè)的瓶頸因素。

綜上所述，在智慧司法中本為輔助司法流程開發(fā)的技術(shù)應(yīng)用，最終卻引發(fā)了技術(shù)主導(dǎo)下的司法制度變革。那么，在技術(shù)主導(dǎo)下的司法制度深刻變革中，智慧司法建設(shè)存在哪些隱憂與挑戰(zhàn)呢？

從技術(shù)主導(dǎo)到技術(shù)依賴：智慧司法中技術(shù)應(yīng)用的挑戰(zhàn)與隱憂

在技術(shù)介入司法的過程中，司法決策與智慧司法系統(tǒng)建設(shè)可能產(chǎn)生技術(shù)依賴。這種具體司法決策中人對(duì)技術(shù)的依賴和系統(tǒng)建設(shè)中司法機(jī)關(guān)對(duì)技術(shù)公司的依賴，可能給權(quán)力專屬原則、司法監(jiān)督制度和責(zé)任分配制度帶來挑戰(zhàn)。

（一）從技術(shù)主導(dǎo)到技術(shù)依賴：技術(shù)介入司法的挑戰(zhàn)

技術(shù)依賴既是指在具體的司法決策中個(gè)體對(duì)技術(shù)支持的依賴，也是指司法機(jī)關(guān)在智慧司法建設(shè)中困于自身技術(shù)力量，不可避免產(chǎn)生的對(duì)技術(shù)公司的依賴。

首先，在司法決策中產(chǎn)生技術(shù)依賴。傳統(tǒng)的司法組織和法官的判斷力及其威權(quán)在技術(shù)控制中逐步下降，人（司法機(jī)關(guān)）與技術(shù)的關(guān)系從技術(shù)輔助走向技術(shù)主導(dǎo)，并有可能繼續(xù)滑向技術(shù)依賴。技術(shù)系統(tǒng)架構(gòu)下僵化的信息種類、模式與評(píng)價(jià)指標(biāo)必然導(dǎo)致信息多樣化受損，靈活的人類決策模式逐步被替代。同時(shí)，追求類案同判與降低自由裁量權(quán)的制度目標(biāo)，必然使司法決策變得可預(yù)期、普遍化與系統(tǒng)化，這進(jìn)一步加大了推翻機(jī)器決策的難度。

其次，在平臺(tái)系統(tǒng)建設(shè)中產(chǎn)生技術(shù)依賴。司法機(jī)關(guān)不僅需要從技術(shù)公司購(gòu)買技術(shù)，還需要技術(shù)公司長(zhǎng)期提供技術(shù)以對(duì)相關(guān)系統(tǒng)進(jìn)行維護(hù)和改造。技術(shù)公司為了壟斷相關(guān)技術(shù)領(lǐng)域，會(huì)以涉及商業(yè)秘密為由拒絕將技術(shù)開源或者公布，這會(huì)進(jìn)一步強(qiáng)化這種依賴關(guān)系。

（二）智慧司法中技術(shù)依賴帶來的隱憂

具體決策和系統(tǒng)建設(shè)中的技術(shù)依賴，可能導(dǎo)致以下問題：

第一，技術(shù)對(duì)司法專屬原則的挑戰(zhàn)引發(fā)正當(dāng)性難題。龐大的司法信息化市場(chǎng)使得技術(shù)公司有動(dòng)機(jī)批評(píng)傳統(tǒng)的人類審判模式，推銷自身的“精準(zhǔn)、公開、高效”的技術(shù)替代方案。平臺(tái)系統(tǒng)建設(shè)的政策驅(qū)動(dòng)帶來相關(guān)科技市場(chǎng)的繁榮，但不可避免地以將自由裁量與解釋法律的權(quán)力部分地交給技術(shù)系統(tǒng)（公司）為代價(jià)。

第二，判定標(biāo)準(zhǔn)與程序的缺失導(dǎo)致監(jiān)督難題。既往針對(duì)人類法官的司法決策監(jiān)督機(jī)制和程序遭遇了前所未有的挑戰(zhàn)。智慧司法中技術(shù)系統(tǒng)的輸出結(jié)果直接關(guān)系到法律事實(shí)認(rèn)定與司法裁判結(jié)果，但缺乏具有公信力的、統(tǒng)一的技術(shù)標(biāo)準(zhǔn)。與此同時(shí)，監(jiān)督檢測(cè)智慧司法中技術(shù)系統(tǒng)的程序也尚未建立，這使得算法系統(tǒng)決策的準(zhǔn)確率無法保證，一旦出錯(cuò)可能造成無法挽回的損失。

第三，責(zé)任鏈條分配產(chǎn)生追責(zé)難題。首先，人工智能技術(shù)系統(tǒng)的開發(fā)和運(yùn)行通常是在復(fù)雜和動(dòng)態(tài)的環(huán)境中進(jìn)行的，當(dāng)發(fā)生錯(cuò)誤決策時(shí)，如何在復(fù)雜的責(zé)任鏈條中認(rèn)定責(zé)任與分配責(zé)任？其次，人類法官和機(jī)器混合作出決策將逐漸成為未來司法的常態(tài)。審判責(zé)任分配的第一種方式是完全讓法官承擔(dān)責(zé)任，這個(gè)方式必然會(huì)引發(fā)法官對(duì)技術(shù)系統(tǒng)的不信任；第二種方式是完全由人工智能的設(shè)計(jì)者或者生產(chǎn)者承擔(dān)責(zé)任，這極有可能導(dǎo)致司法機(jī)關(guān)對(duì)人工智能技術(shù)的濫用。最后，多個(gè)技術(shù)疊加于某個(gè)系統(tǒng)、多環(huán)節(jié)技術(shù)系統(tǒng)互動(dòng)已經(jīng)成為智慧司法的常態(tài)，在技術(shù)之間出現(xiàn)交互錯(cuò)誤時(shí)，難以勘定與及時(shí)更正，追究責(zé)任更是難上加難。

應(yīng)對(duì)技術(shù)依賴的理念與制度：勘定技術(shù)嵌入司法權(quán)力的邊界

人工智能時(shí)代的人機(jī)關(guān)系并非新的命題，但基于司法活動(dòng)在人類社會(huì)中的定分止?fàn)幾饔门c在權(quán)力體系中的地位，技術(shù)介入司法活動(dòng)應(yīng)更為謹(jǐn)慎。對(duì)于智慧司法中的人機(jī)分工，可從以下三個(gè)層次討論：

（一）控制機(jī)制：司法裁判相關(guān)信息的準(zhǔn)入與流出

當(dāng)信息技術(shù)觸及司法領(lǐng)域，需要受到司法活動(dòng)自身規(guī)律的限制，智慧司法應(yīng)當(dāng)在信息的質(zhì)與量上都進(jìn)行合理的控制。否則，智慧司法將面臨大量的信息噪聲和信息失真現(xiàn)象，最終難以從紛繁的信息數(shù)據(jù)中提取真正有益的信息。

司法裁判依賴的信息包括兩大類：一是有關(guān)案件本身的信息；二是為司法裁判決策提供支持的“類案”信息。這兩大類信息均應(yīng)貫徹“信息準(zhǔn)入”的理念。第一，在司法裁判中，有關(guān)案件本身的信息對(duì)法律事實(shí)認(rèn)定與司法決策生成至關(guān)重要，因此，在智慧司法階段仍然要堅(jiān)持“信息準(zhǔn)入制度”。第二，對(duì)類案檢索的支持系統(tǒng)也需進(jìn)行質(zhì)與量的控制，總量多與有意義的案件數(shù)量足夠多并無必然聯(lián)系，進(jìn)行量的控制可避免司法效率的降低。

從司法領(lǐng)域流出的信息并非越多越好，要受到司法規(guī)律和特點(diǎn)的限制，要從公開范圍和信息種類的層面合理控制信息流出。第一，司法信息公開的原則是尊重司法規(guī)律與法官尊嚴(yán)。具體而言，一是要尊重法庭尊嚴(yán)，控制司法信息流出的范圍；二是要保障法官主體性地位，控制司法信息公開的種類。第二，司法信息公開的底線是尊重司法倫理與保護(hù)當(dāng)事人權(quán)益。司法信息公開的尺度需在司法公開與尊重法官主體性和當(dāng)事人權(quán)益之間找到平衡，既不得影響法官獨(dú)立、公正行使審判權(quán)，也不得過分暴露當(dāng)事人的隱私及個(gè)人信息。

（二）司法決策：人類“算法”與機(jī)器算法的合理分工

一個(gè)具體司法決策并不是人類決策和機(jī)器決策的簡(jiǎn)單加合，而是有機(jī)混合的系統(tǒng)化結(jié)果。人類算法與機(jī)器算法的合理分工，意味著具體司法決策可兼顧司法的公平、效率、靈活、人文關(guān)懷等價(jià)值，并避免人類決策和機(jī)器決策的弊端。

在外部制度構(gòu)建上，需要在具體司法決策中避免人類對(duì)機(jī)器決策的技術(shù)依賴，將具體司法決策看作整體社會(huì)系統(tǒng)的一部分，而非單純的人類與算法決策的關(guān)系問題。第一，智慧司法的技術(shù)系統(tǒng)設(shè)計(jì)需注重信息收集的多樣化，避免信息減損影響決策質(zhì)量。第二，智慧司法的技術(shù)系統(tǒng)需重視人文主義的設(shè)計(jì)理念，充分發(fā)揮人的主體性作用，以規(guī)避技術(shù)系統(tǒng)可能帶來的機(jī)械化偏差。第三，智慧司法的技術(shù)系統(tǒng)需注重架構(gòu)設(shè)計(jì)與更新頻次，其一是注重智慧司法系統(tǒng)中法官與技術(shù)系統(tǒng)互動(dòng)的架構(gòu)設(shè)計(jì)，其二是智慧司法的技術(shù)系統(tǒng)必須強(qiáng)制更新。

在內(nèi)部合理分工上，需從人機(jī)混合決策系統(tǒng)的合理標(biāo)準(zhǔn)出發(fā)，設(shè)置鼓勵(lì)人類參與的責(zé)任框架體系和合理的事后責(zé)任追究制度。第一，合理的人機(jī)混合決策標(biāo)準(zhǔn)是人類與算法各司其職，而非“人在環(huán)中”（human in loop）。第二，設(shè)置鼓勵(lì)人類參與的司法責(zé)任追究制度，保留人在算法決策中的參與，以回應(yīng)社會(huì)對(duì)于自動(dòng)化決策的擔(dān)憂。

（三）系統(tǒng)建設(shè)：謹(jǐn)慎應(yīng)對(duì)技術(shù)權(quán)力與司法權(quán)力的共建

在智慧司法的制度建設(shè)中，應(yīng)謹(jǐn)慎應(yīng)對(duì)技術(shù)權(quán)力與司法權(quán)力的共建，在智慧司法系統(tǒng)謀求高質(zhì)量技術(shù)支持的同時(shí)，增強(qiáng)司法機(jī)關(guān)對(duì)技術(shù)權(quán)力的掌控能力，避免司法系統(tǒng)對(duì)技術(shù)公司的技術(shù)依賴。

要增強(qiáng)司法系統(tǒng)的技術(shù)掌控能力。避免智慧司法系統(tǒng)建設(shè)的技術(shù)依賴，需要突出強(qiáng)調(diào)司法機(jī)關(guān)在與技術(shù)資本合作中的相對(duì)獨(dú)立性和主導(dǎo)性。第一，要抑制司法機(jī)構(gòu)的惰性，避免將智慧司法建設(shè)簡(jiǎn)單地全盤外包給各類技術(shù)公司。第二，應(yīng)強(qiáng)化司法部門技術(shù)能力，使得司法部門能夠?qū)λ痉ㄏ到y(tǒng)與技術(shù)公司的合作關(guān)系事宜作出合理判斷，避免智慧司法系統(tǒng)建設(shè)被算法綁架、被技術(shù)公司控制。第三，智慧司法建設(shè)應(yīng)構(gòu)建技術(shù)標(biāo)準(zhǔn)體系，并建立詳細(xì)的采購(gòu)程序來對(duì)其進(jìn)行控制。

要明晰智慧司法的責(zé)任鏈條。要防止無責(zé)任的權(quán)力和無代價(jià)的技術(shù)，貫徹司法問責(zé)制等傳統(tǒng)制度，進(jìn)而維持司法系統(tǒng)的穩(wěn)定和秩序，避免過于強(qiáng)調(diào)效率、利益的智慧司法系統(tǒng)對(duì)司法責(zé)任制的沖擊。第一，將智慧司法技術(shù)系統(tǒng)的研發(fā)者、設(shè)計(jì)者、維護(hù)者共同納入司法問責(zé)的體系中，通過研發(fā)者責(zé)任、設(shè)計(jì)倫理等將其共同納入司法責(zé)任的治理框架中。第二，在人機(jī)混合決策中分配責(zé)任，明確技術(shù)系統(tǒng)與人類共同的司法責(zé)任，避免動(dòng)因遷移（agentic shift）使技術(shù)成為人類推卸責(zé)任的對(duì)象。

結(jié)語(yǔ)

技術(shù)嵌入司法系統(tǒng)必須有明確的權(quán)力邊界，以避免技術(shù)依賴的產(chǎn)生。技術(shù)嵌入司法系統(tǒng)，既要避免混淆技術(shù)處理海量信息的邊界，有效篩選對(duì)于司法有意義的信息，控制司法信息的流出與流入；又要在人類和機(jī)器之間合理分工，明確人類與機(jī)器決策之所長(zhǎng)，充分利用各自的決策優(yōu)勢(shì)而規(guī)避其劣勢(shì)。除此之外，還要警惕技術(shù)公司、技術(shù)資本對(duì)司法權(quán)力的侵蝕，增強(qiáng)司法系統(tǒng)對(duì)于技術(shù)權(quán)力的掌控能力，并合理進(jìn)行司法責(zé)任的分配。