孫占利，胡錦浩

(廣東財(cái)經(jīng)大學(xué) 法學(xué)院，廣東 廣州 510320)

2019年底人民法院信息化建設(shè)3.0版完美收官，智慧法院的格局初步建成。最高人民法院院長周強(qiáng)在全國法院第七次網(wǎng)絡(luò)安全和信息化工作會(huì)議上提出，2025年將全面建成以知識(shí)為中心的信息化4.0版，推動(dòng)智慧法院朝著智能化、一體化、協(xié)同化、泛在化和自主化的智慧司法服務(wù)邁進(jìn)，充分發(fā)揮司法數(shù)據(jù)中臺(tái)、智慧法院大腦的智慧引擎作用，打通“信息孤島”和“數(shù)據(jù)壁壘”，實(shí)現(xiàn)智慧法院的高質(zhì)量發(fā)展[1]。智慧法院之所以“智慧”，根本原因是人工智能的深度參與和科學(xué)輔助，人工智能應(yīng)用于司法審判對(duì)促進(jìn)司法公正、提升司法效能、提高司法公信力具有重要意義。然而，人工智能應(yīng)用于司法審判也會(huì)產(chǎn)生一系列新問題，這些問題并不否定智慧法院建設(shè)取得的巨大成就和未來發(fā)展前景，但需要未雨綢繆做好分析、預(yù)測(cè)和應(yīng)對(duì)，否則將影響智慧法院的建設(shè)進(jìn)程，甚至可能成為智慧法院建設(shè)的實(shí)質(zhì)性障礙。

一、人工智能輔助裁判系統(tǒng)對(duì)訴訟程序的影響

2020年12月18日，最高人民法院副院長姜偉在“智慧法院的跨越發(fā)展”的主題演講中提到，從我國法院司法信息化的發(fā)展過程看，我國法院的信息化建設(shè)依次經(jīng)歷了電子化(始于1986年，先是電腦普及化)、網(wǎng)絡(luò)化(始于1996年)、數(shù)據(jù)化(始于2006年)、智慧化(始于2016年)四個(gè)階段。2016年是我國智慧法院建設(shè)元年，基本實(shí)現(xiàn)卷宗電子化、網(wǎng)絡(luò)一體化、數(shù)據(jù)資源化，開始步入審理智能化?？傮w而言，智慧法院并不是簡單地將傳統(tǒng)司法從線下流程搬到線上、審判空間由當(dāng)事人的對(duì)席變?yōu)閷?duì)屏、審理時(shí)間變集中舉證質(zhì)證為異步舉證質(zhì)證，而是再造審判流程，推動(dòng)訴訟程序重構(gòu)、司法模式變革和訴訟規(guī)則完善。

就人工智能的司法審判應(yīng)用而言，其目的是打造集效率和公正為一體的“數(shù)字正義”，當(dāng)前的典型應(yīng)用是人工智能輔助裁判系統(tǒng)。2016年，河北省高級(jí)人民法院受最高人民法院的委托研發(fā)了“智審”系統(tǒng)，該“智審”系統(tǒng)通過對(duì)案件材料的智能識(shí)別、抽取、歸類，能夠?qū)⒎ㄔ菏芾淼膫€(gè)案與全國法院的司法文書或指導(dǎo)性判例連接匹配，從而實(shí)現(xiàn)對(duì)電子卷宗的智能分析，并通過一鍵操作自動(dòng)生成民事、刑事、行政等各類型的司法文書，形成電子卷宗自動(dòng)錄入和司法文書自動(dòng)生成的緊密銜接和深度融合，助力法官實(shí)現(xiàn)電子卷宗“隨案同步生成”[2]?！爸菍彙毕到y(tǒng)的應(yīng)用既可有效降低法官在司法裁判中的人為失誤率，保證司法文書的精確度和穩(wěn)定性，還能最大限度地減輕法官的工作負(fù)擔(dān)，使其擺脫繁瑣的程序性事務(wù)，將更多的精力和時(shí)間投入到疑難案件和復(fù)雜問題的處理上。

從當(dāng)前的實(shí)踐看，人工智能輔助裁判系統(tǒng)可以分析案件事實(shí)，并提供裁判參考意見，在部分類型的案件中甚至可以自動(dòng)生成裁判文書。然而，人工智能在司法裁判中的過度應(yīng)用可能會(huì)打破司法的技術(shù)功能和規(guī)范功能之間的平衡。法官在長期的司法智能系統(tǒng)的輔助中會(huì)逐漸形成技術(shù)依賴和思維定勢(shì)，甚至從庭審的開放性結(jié)構(gòu)中逃離，轉(zhuǎn)而投向司法人工智能算法的封閉性規(guī)則推理，其結(jié)果即是法官的自由裁量權(quán)和司法能動(dòng)性被技術(shù)弱化。

智慧司法的圖景將呈現(xiàn)出“案件事實(shí)—自然語言—算法演繹—生成判決”的流水線生產(chǎn)范式，這將在一定程度上動(dòng)搖傳統(tǒng)庭審以法官為主導(dǎo)的組織結(jié)構(gòu)，甚至?xí)?duì)法院系統(tǒng)內(nèi)部的司法行政管理形式造成沖擊，改變上下級(jí)法院之間審判業(yè)務(wù)的行政化處理方式[3]。而且，偵查機(jī)關(guān)、公訴機(jī)關(guān)可以借助人工智能的自動(dòng)化決策，提前和隨時(shí)預(yù)測(cè)審判結(jié)果，進(jìn)而依據(jù)預(yù)測(cè)結(jié)果改變其訴訟活動(dòng)，表面上看可以提高司法效率和促進(jìn)司法公正，但自動(dòng)化決策的實(shí)質(zhì)性提前介入很可能會(huì)影響到訴訟程序的正當(dāng)性。

誠然，人工智能輔助裁判系統(tǒng)的引入的確能夠起到規(guī)范和約束法官裁量的作用，上級(jí)法院可基于人工智能輔助裁判系統(tǒng)實(shí)現(xiàn)對(duì)下級(jí)法院判決的錯(cuò)案預(yù)警、發(fā)回重審、依法改判。然而，基于上下級(jí)法院之間的系統(tǒng)互聯(lián)互通和數(shù)據(jù)共享，甚至法院系統(tǒng)內(nèi)部可以使用同一個(gè)“智審”系統(tǒng)，在類案檢索制度的加持影響下，下級(jí)法院的法官在作出裁判時(shí)，容易為了降低上訴率、改判率及再審率而選擇遵照人工智能的算法推理和自動(dòng)化決策，從而導(dǎo)致人工智能的決策結(jié)果在法官內(nèi)心形成非規(guī)范性的現(xiàn)實(shí)約束力，長此以往甚至還可能出現(xiàn)“唯智是從”的機(jī)械司法思維習(xí)慣。

前瞻地看，隨著智慧法院一體化建設(shè)進(jìn)程的深入發(fā)展，如果全國法院使用統(tǒng)一的人工智能輔助裁判系統(tǒng)或裁判文書生成系統(tǒng)，使用同樣系統(tǒng)的法院就會(huì)作出同樣的判決。那么，如果不考慮新證據(jù)等特殊情況，訴訟程序中還有必要設(shè)置二審和再審嗎？當(dāng)然，這只是一種假設(shè)，而且是非常極端的假設(shè)，但可以揭示出相關(guān)問題的重要性?？梢灶A(yù)見的是，未來的智慧法院將可能會(huì)對(duì)司法制度產(chǎn)生結(jié)構(gòu)性的影響，訴訟程序也將相應(yīng)地進(jìn)行結(jié)構(gòu)性的調(diào)整，二審法院和再審法院的職能也將隨之變革。按照人工智能技術(shù)革命的發(fā)展現(xiàn)狀和趨勢(shì)，對(duì)相關(guān)問題進(jìn)行關(guān)注和研究并非為時(shí)過早，一些問題也已經(jīng)引起了國內(nèi)外的關(guān)注，未雨綢繆方能化解智慧法院建設(shè)的障礙。

二、人工智能輔助裁判系統(tǒng)對(duì)當(dāng)事人訴訟權(quán)利的影響

庭審結(jié)構(gòu)與當(dāng)事人的訴訟地位和訴訟權(quán)利緊密相關(guān)。傳統(tǒng)的庭審結(jié)構(gòu)以法官居中裁判，當(dāng)事人以兩造對(duì)抗的等腰三角形為特征。我國歷史上，此結(jié)構(gòu)理論可追溯至西周《尚書·呂刑》的“兩造具備，師聽五辭”，即使在刑事訴訟、行政訴訟中，法律也通過對(duì)控訴方、行政主體課以嚴(yán)格的舉證責(zé)任，降低被告人和行政相對(duì)人與公權(quán)力對(duì)抗時(shí)的不平等性，保障當(dāng)事人的訴訟權(quán)利得以充分主張和實(shí)現(xiàn)。根據(jù)哈貝馬斯的“程序性模式”司法裁判理論，司法裁判不是獨(dú)白式的裁判，而是對(duì)話式的裁判[4]。

所謂對(duì)話，其強(qiáng)調(diào)的是兩造在庭審上須經(jīng)歷充分舉證、質(zhì)證和辯論環(huán)節(jié)，司法親歷性和直接言詞原則應(yīng)涵蓋在庭審之中，這也是審判中心主義的內(nèi)在價(jià)值體現(xiàn)。唯有賦予當(dāng)事人在法官面前訴盡權(quán)利主張和事實(shí)理由的機(jī)會(huì)，才能實(shí)現(xiàn)案件事實(shí)從訴辯雙方的證明向裁判者心證位移。庭審現(xiàn)場的親歷性有助于法官運(yùn)用經(jīng)驗(yàn)法則和法律論證的推理邏輯，厘清案件的事實(shí)和法律關(guān)系，梳理爭議焦點(diǎn)，行使必要的司法釋明權(quán)，最終提供忠于法律和合乎情理的裁判結(jié)果。

然而，智慧法院的人工智能輔助裁判模式可能消減訴訟的兩造結(jié)構(gòu)，智能審判系統(tǒng)通過類案檢索、案例數(shù)據(jù)學(xué)習(xí)、提取裁判要素、自動(dòng)生成判決等流水線式運(yùn)作，基于相對(duì)封閉性的司法數(shù)據(jù)集和算法模型得出最終的裁判結(jié)果，本質(zhì)上與“卷宗主義”(或“案卷筆錄中心主義”)及其展現(xiàn)的“偵查中心主義”無異，且與司法親歷性和直接言詞原則不兼容，必然影響到當(dāng)事人的訴訟權(quán)利及其程序保障。而且，人工智能應(yīng)用還可能會(huì)對(duì)當(dāng)事人的訴訟權(quán)利產(chǎn)生其他方面的消極障礙，突出表現(xiàn)在刑事訴訟領(lǐng)域。在刑事訴訟中，檢方作為國家公權(quán)力的代表，和已被限制人身權(quán)利的被告人相比本就具有天然的優(yōu)勢(shì)，檢方裝備上以人工智能、大數(shù)據(jù)為核心技術(shù)應(yīng)用的智慧檢務(wù)系統(tǒng)時(shí)就進(jìn)一步加劇了此現(xiàn)象，自動(dòng)化決策的實(shí)質(zhì)性介入很可能會(huì)損害程序正義并進(jìn)而影響當(dāng)事人的訴訟權(quán)利，且傳統(tǒng)的公檢法流水線作業(yè)和利用智能審判系統(tǒng)提前預(yù)測(cè)審判結(jié)果也可能與之形成疊加效應(yīng)。

申言之，法律人工智能系統(tǒng)能通過偵查獲取的證據(jù)和材料事先預(yù)判案件的走向，被告人在刑事訴訟中的命運(yùn)也許在偵查活動(dòng)開始前已然注定。而且，由于存在算法黑箱和技術(shù)壁壘的限制，辯護(hù)人將無法在證據(jù)開示階段獲取和知悉人工智能的決策過程[5]，這也使得被告人在人工智能系統(tǒng)前處于“無助”的境地，其辯護(hù)人也無法與手握技術(shù)優(yōu)勢(shì)的公權(quán)力機(jī)關(guān)進(jìn)行“抗衡”，將可能直接影響到其能否實(shí)現(xiàn)有效辯護(hù)。

當(dāng)然，不能因此否定人工智能的司法應(yīng)用的積極價(jià)值，而是要對(duì)此問題尋求新的應(yīng)對(duì)措施，為被告人及其辯護(hù)人提供多元化、便捷性的法律人工智能技術(shù)支持是可能的解決之道，律師界已經(jīng)開始探索人工智能在法律服務(wù)中的應(yīng)用，一些企業(yè)也開發(fā)出了以“智慧律師”或其他名稱命名的法律服務(wù)人工智能系統(tǒng)。從法律制度上看，司法機(jī)關(guān)的案件信息和智能決策信息的公開等措施也是保障被告人訴訟權(quán)利的必要選項(xiàng)。

三、人工智能輔助裁判系統(tǒng)的算法黑箱和算法歧視

“從邏輯上講，一旦證據(jù)標(biāo)準(zhǔn)規(guī)則程序設(shè)定完畢，辦案系統(tǒng)也就不存在對(duì)證據(jù)理解和適用不統(tǒng)一情形的發(fā)生”[6]。這其實(shí)是一種誤解，目前的人工智能依靠的是算法而非傳統(tǒng)的程序。在威斯康星州訴盧米斯一案(Wisconsin v. Loomis)中，被告人埃里克·盧米斯(Eric Loomis)被Compas風(fēng)險(xiǎn)評(píng)估系統(tǒng)評(píng)定為“高風(fēng)險(xiǎn)”，主審法官最終判罰盧米斯長期徒刑。盧米斯提出了上訴，因?yàn)樵谂袑徠陂g他并沒有接觸這個(gè)算法的權(quán)限。上訴法院駁回了盧米斯的上訴，原因是算法輸出的信息有著足夠的透明度。由于要保持算法的隱匿性，盧米斯一案最終沒有對(duì)工具算法進(jìn)行核查[7]。值得關(guān)注的是，2017年12月，紐約市議會(huì)通過《關(guān)于政府機(jī)構(gòu)使用自動(dòng)化決策系統(tǒng)的當(dāng)?shù)胤ā?，該法要求成立一個(gè)自動(dòng)化決策工作組，解決算法透明、解釋權(quán)以及救濟(jì)權(quán)等算法規(guī)制的核心問題。2019年11月，紐約市政府發(fā)布了《紐約市自動(dòng)決策系統(tǒng)特別工作組報(bào)告》，但并未直面算法歧視問題。

在迎接和擁抱司法人工智能帶來的高效和便利的同時(shí)，法律界已經(jīng)注意到了其背后蘊(yùn)藏的算法風(fēng)險(xiǎn)，特別是算法黑箱和算法歧視問題。關(guān)于算法黑箱，Jenna Burrell認(rèn)為源于三種情形：一是基于國家秘密或商業(yè)秘密所代表的不透明性而導(dǎo)致；二是由于技術(shù)的專業(yè)性、復(fù)雜性和相對(duì)不透明而導(dǎo)致；三是機(jī)器學(xué)習(xí)內(nèi)在的自主性和不確定性所導(dǎo)致[8]。算法黑箱是客觀存在的現(xiàn)象，算法公開、算法解釋等方法不足以徹底解決算法黑箱問題，重視算法黑箱的影響就成為必然選擇。就司法算法黑箱而言，可能會(huì)引起當(dāng)事人對(duì)判決結(jié)果的不理解和不信任，不諳算法技術(shù)但又必須為判決結(jié)果負(fù)責(zé)的法官也會(huì)對(duì)人工智能保持戒備心理進(jìn)而產(chǎn)生疏離感。

算法作為一種技術(shù)表達(dá)，理應(yīng)秉持技術(shù)中立原則，但算法設(shè)計(jì)和運(yùn)行已然表明其并非是一種完全價(jià)值中立的數(shù)學(xué)活動(dòng)。算法歧視是由數(shù)據(jù)分析導(dǎo)致的對(duì)特定群體具有的系統(tǒng)性、可重復(fù)的不公正對(duì)待，其形成原因較為復(fù)雜，但大致可以歸納為四類：一是數(shù)據(jù)歧視，即支撐算法作出決策的數(shù)據(jù)本身存在歧視；二是規(guī)則歧視，即算法在不同環(huán)境下運(yùn)行的區(qū)分規(guī)則本身也具有歧視的色彩；三是模型歧視，即算法在運(yùn)行過程中依托的某些技術(shù)模型所產(chǎn)生的歧視；四是訓(xùn)練歧視，即算法在自我學(xué)習(xí)模式下運(yùn)用的反饋循環(huán)形式會(huì)偏離訓(xùn)練數(shù)據(jù)從而導(dǎo)致歧視[9]。

算法黑箱與算法歧視密切相關(guān)，至少其不透明性為算法歧視提供了代碼或技術(shù)意義上的庇護(hù)空間。重新審視盧米斯案件，該案之所以成為算法黑箱和算法歧視的典型案例，主要是因?yàn)镃ompas系統(tǒng)將性別和種族因素作為量刑評(píng)估的根據(jù)，從而觸發(fā)了算法歧視問題。此外，法院出于保護(hù)商業(yè)秘密的目的，剝奪了被告人對(duì)該系統(tǒng)設(shè)計(jì)和運(yùn)行機(jī)理的知情權(quán)，使算法黑箱凌駕于當(dāng)事人的基本權(quán)利之上，也使得公眾開始質(zhì)疑人工智能算法的公正性。客觀地看，司法人工智能系統(tǒng)雖然可減少由法官濫用裁量權(quán)或主觀過失造成冤假錯(cuò)案的幾率，但同時(shí)也誘發(fā)了司法數(shù)據(jù)機(jī)密、商業(yè)秘密以及當(dāng)事人知情權(quán)三者之間的沖突，也為司法透明乃至司法公正留下了隱患。

可以預(yù)見，隨著人工智能在司法審判中的廣泛應(yīng)用，智慧司法將無法回避司法算法公開的呼聲。譬如，經(jīng)由人工智能裁決算法的自動(dòng)化決策，雖能夠生成裁判文書并闡明裁判理由，但當(dāng)事人無法知悉算法決策的依據(jù)、算法模型的參數(shù)以及算法決策結(jié)果的價(jià)值取向。然而，保障當(dāng)事人對(duì)算法決策過程和算法規(guī)則的知情權(quán)是維護(hù)當(dāng)事人訴訟權(quán)利的重要途徑，也是落實(shí)司法信息公開和實(shí)現(xiàn)智慧司法的“數(shù)字正義”的應(yīng)有之義。

對(duì)人工智能輔助裁判系統(tǒng)而言，裁判的結(jié)果取決于法律和事實(shí)，法律是確定的，輸入系統(tǒng)的證據(jù)也是特定的，裁決結(jié)果直接取決于算法，算法將成為智慧法院建設(shè)的重點(diǎn)。相應(yīng)地，智慧法院建設(shè)工作必然著力于算法的改進(jìn)及其司法應(yīng)用，并從制度上解決算法黑箱、算法歧視、算法解釋、算法審計(jì)、算法問責(zé)及算法救濟(jì)等算法規(guī)制問題，特別是要構(gòu)建科學(xué)合理、公開透明的人工智能技術(shù)規(guī)范體系，探索建立司法數(shù)據(jù)公開制度，以算法透明和算法的可信解釋回應(yīng)算法公開訴求，保障當(dāng)事人對(duì)算法規(guī)則的知情權(quán)和社會(huì)公眾對(duì)算法的監(jiān)督權(quán)，輔之以算法審計(jì)、算法問責(zé)及算法救濟(jì)制度，系統(tǒng)化地破解算法黑箱和算法歧視難題，推動(dòng)實(shí)現(xiàn)司法算法的公平與正義，從而在新型的智慧司法活動(dòng)中切實(shí)實(shí)現(xiàn)司法公正。

四、情、理、法的考量與司法人工智能的價(jià)值判斷

目前人工智能在司法裁判中主要承擔(dān)事務(wù)性的任務(wù)，但已經(jīng)開始在專業(yè)性的工作中“大顯身手”。前者指為法官提供案件信息的識(shí)別、分類、歸納及整合方面的司法輔助服務(wù)，例如識(shí)別和確認(rèn)當(dāng)事人信息、檢索和推薦相關(guān)法律文件、自動(dòng)生成訴訟程序中的格式化文書等；后者則實(shí)質(zhì)性介入司法審判和直接服務(wù)于裁判結(jié)果，例如利用大數(shù)據(jù)分析和算法推理判斷證據(jù)的真?zhèn)?，解析案件事?shí)，分析法律關(guān)系，檢索推送類案裁判，評(píng)估預(yù)測(cè)判決效果，為法官作出裁判結(jié)果提供最接近正義的事實(shí)根據(jù)、法律依據(jù)及裁判理由。

在司法審判過程中，法官需要針對(duì)案情進(jìn)行事實(shí)判斷和法律判斷，但其中都蘊(yùn)含著法官的價(jià)值判斷，彰顯著法官對(duì)情、理、法的個(gè)性化考量及其與裁判的社會(huì)效果的統(tǒng)一。當(dāng)前的司法人工智能尚不能令人信服地解決證據(jù)的審查判斷問題，也無法實(shí)現(xiàn)往返于情、理、法之間作出符合普遍正義和個(gè)案公平的價(jià)值判斷。司法人工智能技術(shù)的迭代更新無法逃脫司法裁判的價(jià)值檢驗(yàn)，然而并非所有的法律語言都能用相應(yīng)的算法代碼來表示。事實(shí)上，對(duì)于非法律專業(yè)人士都難以理解的法律術(shù)語，無法要求當(dāng)前的人工智能能夠準(zhǔn)確理解，更不能苛求司法人工智能就法律專業(yè)問題給出準(zhǔn)確答案。然而，即使人工智能在司法裁判中僅具有功能意義上的輔助性或從屬性，對(duì)裁判結(jié)果無決定權(quán)或主導(dǎo)權(quán)，但當(dāng)司法人工智能開始實(shí)質(zhì)性地介入法官的專業(yè)性工作時(shí)，特別是通過司法大數(shù)據(jù)分析和算法推理實(shí)施自動(dòng)化決策并進(jìn)而影響法官的裁判結(jié)果時(shí)，也會(huì)面臨著情、理、法的考量及其蘊(yùn)含的價(jià)值判斷問題。

不可否認(rèn)，智慧司法是現(xiàn)代信息技術(shù)應(yīng)用于司法活動(dòng)的理想狀態(tài)，可以最大限度地提升司法信息化水平，推進(jìn)實(shí)現(xiàn)司法審判能力和審判體系現(xiàn)代化，對(duì)于促進(jìn)司法公正、提高司法效能以及提升司法公信力具有重要意義。但與此同時(shí)，也不能忽視其在價(jià)值判斷中的局限性。有學(xué)者認(rèn)為：“人工智能對(duì)于司法裁判的介入，基本上是通過建構(gòu)模型的方式，將自由裁量或價(jià)值判斷這部分排除在外”[10]?？傮w而言，雖然人工智能輔助裁判系統(tǒng)是基于龐大的裁判文書數(shù)據(jù)庫的訓(xùn)練，這些裁判文書中蘊(yùn)含的價(jià)值判斷必然會(huì)在一定程度上反映到系統(tǒng)生成的輔助裁判意見中，但由于立法的變動(dòng)性、裁判主體的差異性、非結(jié)構(gòu)化數(shù)據(jù)的處理難度以及裁判文書質(zhì)量的參差不齊等原因，目前的司法人工智能面對(duì)案件的價(jià)值取向判斷問題時(shí)，一般是將價(jià)值判斷問題轉(zhuǎn)化為事實(shí)陳述、參數(shù)模型及決策規(guī)則，本質(zhì)上仍屬于機(jī)械推演的范疇。

因此，司法人工智能雖然能基于龐大的數(shù)據(jù)庫、強(qiáng)大的數(shù)據(jù)分析能力、不斷優(yōu)化的算法推理能力在證據(jù)的審查判斷、案件事實(shí)認(rèn)定及裁判結(jié)果等方面為法官提供決策參考，但不可能像人類一般具備綜合運(yùn)用情感、知識(shí)、規(guī)則、邏輯及理性思維能力，無法將“目光”在事實(shí)與法律規(guī)范之間往返流動(dòng)，也不能準(zhǔn)確把握法律規(guī)范背后深刻的立法目的和深遠(yuǎn)的社會(huì)價(jià)值追求，從而根據(jù)案件的爭議焦點(diǎn)和個(gè)案差異作出兼具形式合法與實(shí)質(zhì)正義的價(jià)值判斷。

前瞻地看，機(jī)器學(xué)習(xí)特別是深度學(xué)習(xí)使得人工智能有可能在某種意義上學(xué)習(xí)人類的情與理，也可能從海量的司法裁判文書庫中習(xí)得司法經(jīng)驗(yàn)，甚至擁有規(guī)則學(xué)習(xí)的能力(自主學(xué)習(xí)的AlphaGo Zero在圍棋比賽中戰(zhàn)勝AlphaGo就說明人工智能已經(jīng)超越經(jīng)驗(yàn)學(xué)習(xí)和具備了規(guī)則學(xué)習(xí)能力)。然而，情、理、法的綜合考量與價(jià)值判斷畢竟是人類獨(dú)有的能力，對(duì)于司法人工智能而言，這將是不可逾越的障礙，至少目前看來是這樣的。這也就決定了司法人工智能的空間與限度，同時(shí)也要求應(yīng)當(dāng)客觀、中肯地評(píng)價(jià)司法人工智能的地位和作用。

五、“智慧審判”的裁判主體、效力及責(zé)任

智慧法院的特征在于凸顯“智慧”元素，必然離不開人工智能技術(shù)的深度參與和有效介入，這意味著未來的司法審判不再是純粹的人為活動(dòng)?？v觀司法審判的歷史演進(jìn)過程，即使每個(gè)時(shí)期的庭審結(jié)構(gòu)與裁判方式都有所異變，但法官在審判中的主導(dǎo)和支配地位始終巋然不動(dòng)。然而，當(dāng)法官憑借智慧或智能審判系統(tǒng)一鍵生成裁判文書時(shí)，裁判的主體是誰，對(duì)裁判的效力有無影響，錯(cuò)誤裁判的責(zé)任又由誰來承擔(dān)，均是需要正視的問題。

理論上，固然可以解釋為法官是裁判的把關(guān)者和最終的決定者，但由于人工智能系統(tǒng)生成的裁判文書對(duì)法官會(huì)存在一定的影響，故此解釋并不能全然消解對(duì)裁判主體和效力的質(zhì)疑?！白屓斯ぶ悄茏詣?dòng)生成判決、根據(jù)大數(shù)據(jù)矯正法律決定的偏差等做法勢(shì)必形成審判主體的雙重結(jié)構(gòu)、甚至導(dǎo)致決定者的復(fù)數(shù)化，事實(shí)上將出現(xiàn)程序員、軟件工程師、數(shù)據(jù)處理商、信息技術(shù)公司與法官共同作出決定的局面。一旦審判主體和決定者難以特定，那么權(quán)力邊界也就變得模糊不清，司法問責(zé)制就很容易流于形式，至少推卸責(zé)任的可能性被大幅度擴(kuò)充了”[11]。

從實(shí)踐中看，人工智能的司法應(yīng)用大致可分為司法行政輔助和司法裁判輔助。前者集中表現(xiàn)為人臉識(shí)別、語音識(shí)別、文書自動(dòng)生成等提高司法效率的數(shù)據(jù)處理活動(dòng)；后者則多應(yīng)用于類案推送、量刑輔助、判決偏離預(yù)警、智能執(zhí)行等服務(wù)于法官裁判的輔助活動(dòng)?？梢?，弱人工智能不具備替代法官從事裁判活動(dòng)的技術(shù)和能力，而且，由于弱人工智能因缺乏人類的自主意識(shí)和表意能力，不能像人類一樣對(duì)外界的信號(hào)刺激作出條件反射和情感表達(dá)，因此，也不宜將其作為主體對(duì)待?？傊?，“智慧審判”尚停留在以人工智能輔助法官判案的初級(jí)層面，裁判的主體仍是法官，裁判的效力和責(zé)任問題也因?qū)儆诜ü俚娜斯げ门卸靡韵猓辽僭谥贫葘用媸沁@樣的。然而，如果法官對(duì)智能審判系統(tǒng)生成的裁判文書進(jìn)行審核，那么就不能停留在僅對(duì)裁判文書進(jìn)行表面審核，而應(yīng)按照傳統(tǒng)的工作方式和審判經(jīng)驗(yàn)等進(jìn)行全面審核并做出最終判斷，則將可能弱化智能審判系統(tǒng)的實(shí)際效用，且不能因此而避免裁判者錯(cuò)誤裁判時(shí)推卸責(zé)任或主張減輕責(zé)任。

在堅(jiān)持“讓審理者裁判、讓裁判者負(fù)責(zé)”的司法責(zé)任制下，還需要考慮人工智能輔助裁判系統(tǒng)出現(xiàn)錯(cuò)誤時(shí)的責(zé)任承擔(dān)問題。如果因人工智能系統(tǒng)的數(shù)據(jù)采集和算法設(shè)計(jì)等技術(shù)原因?qū)е洛e(cuò)誤決策時(shí)，此時(shí)法院固然可以向其生產(chǎn)商或銷售商追究賠償責(zé)任，但這屬于民事責(zé)任范疇，并非司法責(zé)任制下的司法責(zé)任。同時(shí)還應(yīng)考慮到，法官在使用人工智能輔助裁判系統(tǒng)時(shí)，是否會(huì)受到算法歧視的影響而形成對(duì)不同審判對(duì)象的印象偏差，最終導(dǎo)致法律評(píng)價(jià)有失偏頗。例如，Skeem在美國招募了300位法官，并將其隨機(jī)分配為四組進(jìn)行對(duì)照試驗(yàn)，依此判斷犯罪嫌疑人是否應(yīng)服刑。其中兩組使用算法結(jié)果輔助，另兩組無算法結(jié)果參考。四組的自變量條件都是嫌疑人社會(huì)經(jīng)濟(jì)狀況的好壞之別。試驗(yàn)的結(jié)果頗耐人尋味，算法使法官對(duì)貧富差距的認(rèn)知和判斷發(fā)生了“逆轉(zhuǎn)”。在不采用算法輔助的場景中，法官傾向于輕判社會(huì)經(jīng)濟(jì)狀況較差的嫌疑人。但在獲得算法輔助的場景中，法官傾向于重判社會(huì)經(jīng)濟(jì)狀況較差的嫌疑人[12]。那么，在法官和人工智能輔助裁判系統(tǒng)都有“過錯(cuò)”的情形下，又該如何歸責(zé)或法官應(yīng)該承擔(dān)何種責(zé)任呢？

實(shí)際上，人工智能的意義在于幫助人類解放生產(chǎn)力，提高工作效率和精準(zhǔn)度。無論人工智能系統(tǒng)的自動(dòng)決策和智能裁判如何先進(jìn)，都應(yīng)堅(jiān)持法官在人機(jī)協(xié)同中的主導(dǎo)作用，裁判的最終決定權(quán)都應(yīng)牢牢掌握在法官手中，人工智能技術(shù)不能也不應(yīng)該取代法官的獨(dú)立審判地位。一般而言，人工智能“決策輔助系統(tǒng)”并沒有幫助法官脫離責(zé)任承擔(dān)的主體范圍，法官也不可能通過主張自己是使用了“決策輔助系統(tǒng)”而免除將來可能承擔(dān)的裁判風(fēng)險(xiǎn)[13]。但是，確系因技術(shù)原因?qū)е路ü僮鞒鲥e(cuò)誤決策時(shí)，應(yīng)根據(jù)具體的情形適當(dāng)減免法官的責(zé)任，否則有違公平原則，且可能導(dǎo)致法官不愿意使用人工智能輔助裁判系統(tǒng)。

理論研究應(yīng)在扎根現(xiàn)實(shí)的同時(shí)保持對(duì)未來的敏銳和警惕，應(yīng)前瞻觀察在強(qiáng)人工智能時(shí)代人工智能對(duì)審判主體、效力及責(zé)任的影響問題。所謂強(qiáng)人工智能，是指把人工智能和意識(shí)、感性、知識(shí)和自覺等人類的特征相結(jié)合，具有提出問題和獨(dú)立推理與解決問題能力的智能機(jī)器[14]。一旦人工智能具有學(xué)習(xí)人類思維方式和給予情感反饋的能力，則將在形式上具備了智能機(jī)器人擬人化的條件。從“智慧審判”的角度看，強(qiáng)人工智能可以實(shí)現(xiàn)對(duì)具體個(gè)案的深度學(xué)習(xí)及擬人運(yùn)作，并模擬法官思維進(jìn)行邏輯推理和規(guī)范評(píng)價(jià)，進(jìn)而以類似人類的思維方式和理念對(duì)案件作出裁決。那么，如果所謂的“智慧法官”具備這樣的能力，能否認(rèn)定其為裁判主體呢？

即使進(jìn)入了強(qiáng)人工智能時(shí)代，人工智能的審判主體資格也不能僅從技術(shù)實(shí)現(xiàn)的角度考量，還須回歸法律主體的本源加以討論?，F(xiàn)行法律只規(guī)定了自然人、法人和其他組織(《民法典》稱之為“非法人組織”)依法享有權(quán)利、履行義務(wù)及承擔(dān)責(zé)任。雖然法人和其他組織是法律擬制主體，但其意思表示和法律后果都會(huì)間接歸受于擬制主體背后的自然人，本質(zhì)上仍屬于人類的“自主意識(shí)”和“表意能力”的產(chǎn)物，人工智能則與此不同。持人工智能主體化觀點(diǎn)的學(xué)者在此基礎(chǔ)上衍生出“人格擬制說”“代理人說”“電子人格說”“有限人格說”等理論學(xué)說，認(rèn)為人工智能可通過擬制、代理、虛擬人格、責(zé)任限縮等方式實(shí)現(xiàn)法律主體的正當(dāng)性和合法性[15]。然而，至少目前看來，就人工智能主體的可責(zé)性而言，由于強(qiáng)人工智能并非法律主體，即使其能夠基于深度學(xué)習(xí)模擬人類的思維方式，但由電子元件和數(shù)字代碼構(gòu)成的智能系統(tǒng)永遠(yuǎn)無法將其物理屬性轉(zhuǎn)化為具有血肉之軀的生物屬性，更無法從身體組織和思想精神層面感知和理解法律內(nèi)在的指引、評(píng)價(jià)、教育和強(qiáng)制功能。

六、法官的職業(yè)替代與法律人工智能人才培養(yǎng)

吳漢東教授提出：“凡是可以描述的、重要的、有固定規(guī)則和標(biāo)準(zhǔn)答案的工作崗位，都有被智能機(jī)器人取代的可能”[16]。這與當(dāng)前人工智能領(lǐng)域?qū)＜业闹髁髋袛嗍且恢碌模陕殬I(yè)替代問題已經(jīng)引起了國內(nèi)外法律界的熱議。當(dāng)前的人工智能司法尚處于輔助階段，但隨著人工智能輔助裁判系統(tǒng)在證據(jù)審查、事實(shí)認(rèn)定、法律適用、生成裁判文書等方面的功能日益強(qiáng)大，法官的職業(yè)替代問題將成為現(xiàn)實(shí)問題。迎接人工智能時(shí)代的職業(yè)替代挑戰(zhàn)，需要頂層設(shè)計(jì)，更需要每個(gè)法律人的自我提升，以適應(yīng)智慧法院建設(shè)和應(yīng)用的專業(yè)人才需求。須知，當(dāng)汽車代替馬車后，司機(jī)更多了，真正的問題在于如何成為新時(shí)代的“司機(jī)”。

司法人工智能系統(tǒng)的開發(fā)與應(yīng)用仍然依賴于人的作用，智慧法院的“司機(jī)”應(yīng)當(dāng)是“法律+人工智能”的復(fù)合型人才。當(dāng)然，即使強(qiáng)人工智能的自動(dòng)化審判時(shí)代到來，智慧法院也離不開傳統(tǒng)法官對(duì)人工智能裁判的復(fù)盤和校驗(yàn)，在具有疑難性、開放性和模糊性的裁判場合，機(jī)器(即使是智能的)仍然無法取代法官的經(jīng)驗(yàn)判斷和價(jià)值考量。而且，相較于人工智能基于數(shù)據(jù)理性和機(jī)械學(xué)習(xí)而產(chǎn)生的自動(dòng)化決策，法官以人工裁判的方式作出對(duì)案件的最終判斷，更容易獲取同生物性質(zhì)主體的當(dāng)事人之信任和服從。

之所以要強(qiáng)調(diào)“法律+人工智能”的復(fù)合型人才，是因?yàn)橹腔鄯ㄔ航ㄔO(shè)急需這方面的人才從事系統(tǒng)開發(fā)和研究工作。例如近年來備受關(guān)注的類案檢索、智能訴訟機(jī)器人等司法服務(wù)技術(shù)，都需要既懂得技術(shù)又諳熟法律的跨界人才的深度參與，蓋因單純的技術(shù)人員無法對(duì)法律術(shù)語進(jìn)行代碼轉(zhuǎn)化和專業(yè)解釋，而傳統(tǒng)的法律人員也無從掌握技術(shù)上的算法規(guī)則和代碼原理。因此，智慧法院建設(shè)應(yīng)著重培養(yǎng)既懂人工智能又懂法律知識(shí)的復(fù)合型人才。隨著人工智能與法律工作的深入交融，無論是智慧法院抑或是法律技術(shù)服務(wù)公司，將催生出更多如“術(shù)語翻譯師”“法律數(shù)據(jù)開發(fā)者””法律代碼程序員”[17]等具有交叉學(xué)科背景的新職業(yè)。

智慧法院建設(shè)必須依靠既懂技術(shù)又懂法律的復(fù)合型人才，但當(dāng)前的人才缺口較大。一些高等院校已經(jīng)在教育理念上與時(shí)俱進(jìn)，積極創(chuàng)新人才培養(yǎng)方案，著力培養(yǎng)兼?zhèn)浞▽W(xué)理論和科學(xué)技術(shù)的“科技+法律”的復(fù)合型人才。從當(dāng)前的情況看，“科技+法律”的復(fù)合型人才的培養(yǎng)重點(diǎn)宜放在研究生教育階段，應(yīng)大力鼓勵(lì)具有理工科背景的高校本科生攻讀法律碩士或法學(xué)碩士，全面提升跨學(xué)科人才培養(yǎng)的深度和廣度。例如，清華大學(xué)法學(xué)院設(shè)立計(jì)算法學(xué)研究生項(xiàng)目，試圖徹底扭轉(zhuǎn)當(dāng)前將法學(xué)視為純粹人文社科的陳舊理念，積極探索將交叉學(xué)科與傳統(tǒng)的法學(xué)培養(yǎng)體系的結(jié)合之道，此類模式值得推而廣之[17]。

近年來，法學(xué)教育界開始討論開設(shè)法律博士學(xué)位的必要性和可行性，為復(fù)合型人才培養(yǎng)提供了新思路。不同于在單個(gè)學(xué)科內(nèi)以認(rèn)知為目的的知識(shí)生產(chǎn)模式，法律博士的知識(shí)生產(chǎn)模式應(yīng)當(dāng)是在應(yīng)用情境中運(yùn)作，并具有跨學(xué)科或多學(xué)科性質(zhì)的特征[18]。因此，法律博士學(xué)位的創(chuàng)設(shè)對(duì)于縱深培養(yǎng)“科技+法律”跨學(xué)科的復(fù)合型人才而言也具有重要意義，可以有效彌補(bǔ)法律與科技融合領(lǐng)域的應(yīng)用型人才缺口，為智慧法院乃至智慧社會(huì)建設(shè)提供充足的人才保障，因此，值得進(jìn)一步的研判和探索。

嚴(yán)格來說，智慧法院與智能法院有質(zhì)的差別。從語義上分析，“智能”是把技術(shù)嵌入到事物中，使得技術(shù)可以最大限度地幫助事物達(dá)到目的。而“智慧”卻要綜合考慮事物之間的關(guān)系、政策制度、社會(huì)環(huán)境等多方面的因素，并輔以先進(jìn)的技術(shù)手段，達(dá)到經(jīng)濟(jì)效益和社會(huì)效益的最大化，實(shí)現(xiàn)可持續(xù)發(fā)展[19]。質(zhì)言之，智慧是辨析判斷、發(fā)明創(chuàng)造的能力。在人工智能技術(shù)應(yīng)用于智慧法院建設(shè)時(shí)，應(yīng)正視技術(shù)這把雙刃劍，既要充分發(fā)揮人工智能的積極價(jià)值，也要避免“唯智是從”的理念，保持足夠的理性和謹(jǐn)慎，未雨綢繆預(yù)判可能產(chǎn)生的問題，并在預(yù)判問題的基礎(chǔ)上回歸技術(shù)與法治耦合治理的路徑探索科學(xué)、合理、可行的問題解決方案，化解智慧法院建設(shè)的障礙，防止可能引發(fā)的司法風(fēng)險(xiǎn)乃至社會(huì)問題。