姜懿容，蘇 宇

（中國人民公安大學(xué)，北京 100038）

一、問題的提出

2017 年，國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》（國發(fā)〔2017〕35 號，以下簡稱《規(guī)劃》），將“推進(jìn)社會治理智能化”作為重點(diǎn)任務(wù)，提出要開發(fā)適于政府服務(wù)與決策的人工智能平臺?！兑?guī)劃》的出臺標(biāo)志著人工智能已成為我國發(fā)展的戰(zhàn)略支撐，如何將人工智能融入法治政府建設(shè)是黨和國家決策者面臨的重大課題。國務(wù)院辦公廳于2018 年印發(fā)了《關(guān)于全面推行行政執(zhí)法公示制度執(zhí)法全過程記錄制度重大執(zhí)法決定法制審核制度的指導(dǎo)意見》（國辦發(fā)〔2018〕118 號），強(qiáng)調(diào)全面推進(jìn)行政執(zhí)法信息化建設(shè)，積極推進(jìn)人工智能技術(shù)在行政執(zhí)法實(shí)踐中的運(yùn)用。黨的十九屆四中全會明確指出要加強(qiáng)和深化人工智能技術(shù)在行政法律制度中的運(yùn)用。2023 年，中共中央、國務(wù)院印發(fā)《數(shù)字中國建設(shè)整體布局規(guī)劃》，提出“發(fā)展高效協(xié)同的數(shù)字政務(wù)”的要求。隨著計(jì)算機(jī)、人工智能、大數(shù)據(jù)等現(xiàn)代技術(shù)與行政活動不斷融合，行政機(jī)關(guān)借助自動化設(shè)備實(shí)施行政行為或輔助行政決策的趨勢日益明顯。例如，在行政處罰領(lǐng)域，“海燕系統(tǒng)”可通過大數(shù)據(jù)實(shí)現(xiàn)對車內(nèi)駕駛?cè)藛T以及乘客行為的自動分析，從而精準(zhǔn)識別交通違法行為；在行政許可領(lǐng)域，北京市海淀區(qū)依托“一網(wǎng)通辦”平臺，通過技術(shù)創(chuàng)新和流程再造，實(shí)現(xiàn)“實(shí)時(shí)比對核驗(yàn)、自動開展審批、即時(shí)出具結(jié)果”的“秒批”服務(wù)，推動審批模式由人辦到系統(tǒng)辦的轉(zhuǎn)變。這些事例有力表明了自動化技術(shù)有助于行政效率的提升，但也帶來了自動化行政過程中權(quán)益保障是否充分、公平性和準(zhǔn)確性如何保證等疑問。盡管已有較多學(xué)者對自動化行政的法治問題進(jìn)行了深入研究，但學(xué)界對自動化行政法治化的探討主要聚焦于類型分級、適用范圍及法律風(fēng)險(xiǎn)分析等問題，相對忽略了公眾參與在自動化行政中的重要意義，自動化行政中的公眾參與法理、制度與程序亟待進(jìn)一步探討。

自動化行政的運(yùn)作原理是將大量相同或相似的行政活動類型化，并將行政活動所基于的事實(shí)要件、所適用的法律以及二者之間的結(jié)果對應(yīng)關(guān)系編寫成可識別的程序語言并事先設(shè)定、植入自動化行政設(shè)備，由自動化行政設(shè)備通過自行獲取或人工輸入的具體數(shù)據(jù)以自動控制的方式來批量處理行政事務(wù)。[1]自動化行政依托標(biāo)準(zhǔn)化、客觀化、專業(yè)化的數(shù)據(jù)分析和處理顯著提高行政行為的便捷程度，如虛擬人工智能警務(wù)網(wǎng)絡(luò)只需通電即可對社會隱患、違法犯罪行為等24 小時(shí)進(jìn)行運(yùn)算和預(yù)警，全程不需要人工干預(yù)。[2]然而，自動化系統(tǒng)的應(yīng)用使自動化行政過程較傳統(tǒng)行政過程而言存在程序性權(quán)利缺失等問題。例如，在“杜寶良事件”中，杜寶良因105 次交通違法行為被處以10500 元的巨額罰款，而這105 次違法行為均屬同一違法情節(jié)、發(fā)生在同一地點(diǎn)且持續(xù)時(shí)間較長，交通管理部門利用“電子眼”對違法行為拍攝后就自動生成了處罰結(jié)果，卻沒有及時(shí)提醒或警告違法司機(jī)，使同一違法行為長期、持續(xù)且反復(fù)發(fā)生。[3]既有研究更多致力于強(qiáng)化相對人自身的程序權(quán)利保障，但我們也需要注意到，公眾參與是縮小行政機(jī)關(guān)與公眾之間的信息鴻溝、保障公眾知情權(quán)與監(jiān)督權(quán)的一項(xiàng)重要制度設(shè)計(jì)。現(xiàn)階段，公眾參與自動化行政過程存在立法缺失、公眾參與渠道有限、參與能力不足、參與效果欠佳等困境，需要在數(shù)字法治政府建設(shè)的過程中加以充分考量。

二、公眾參與自動化行政的理論認(rèn)知和既有實(shí)踐

（一）公眾參與自動化行政的理論認(rèn)知

對于公眾參與公權(quán)力機(jī)關(guān)的活動這一重要議題，20 世紀(jì)末，雷迪什和馬歇爾明確指出，參與是正當(dāng)程序應(yīng)當(dāng)維護(hù)的持久價(jià)值之一，參與的機(jī)會對個(gè)人而言在心理上有作出貢獻(xiàn)的滿足感，對社會而言可以消解公職人員的秘密行事，促使他們同不被其行為所影響的人進(jìn)行交流。①M(fèi)artin H.Redish&Lawrence C.Marshall,Adjudicatory Independence and the Values of Procedural Due Process,95 YALE L.J.455(1986).隨著自動化技術(shù)的出現(xiàn)，公眾參與同技術(shù)交織的趨勢日益凸顯。希特倫和帕斯奎爾同樣認(rèn)為參與性是正當(dāng)程序的基本價(jià)值，應(yīng)當(dāng)被應(yīng)用于對自動預(yù)測系統(tǒng)的監(jiān)督。②Danielle Keats Citron&Frank Pasquale,The Scored Society:Due Process for Automated Predictions,89 Wash.L.REV.1(2014).希特倫還認(rèn)為，計(jì)算機(jī)程序員在構(gòu)建自動化系統(tǒng)代碼時(shí)，不可避免地要參與規(guī)則制定，而這種規(guī)則制定缺乏行政程序法（the Administrative Procedure Act）、信息自由法（the Freedom of Information Act）以及其他類似的州立法的程序規(guī)制和保障，構(gòu)成了一種令人不安的立法權(quán)下放。③Danielle Keats Citron,Technological Due Process,85 Wash.U.L.REV.1249(2008).克勞福德和舒爾茨指出，大數(shù)據(jù)在決策時(shí)通常排除一切用戶的參與，但參與、披露和隱私保護(hù)有助于優(yōu)化大數(shù)據(jù)在公共決策中的作用，中立的數(shù)據(jù)裁量者的參與對于確保有實(shí)質(zhì)意義的聽證尤為重要。④Kate Crawford&Jason Schultz,Big Data and Due Process:Toward a Framework to Redress Predictive Privacy Harms,55 B.C.L.REV.93(2014).

國內(nèi)學(xué)界對公眾參與自動化行政的理論研究方興未艾。張凌寒認(rèn)為算法自動化決策嵌入行政活動加劇了行政機(jī)關(guān)與相對人之間的信息不對稱，應(yīng)堅(jiān)持和發(fā)展適應(yīng)算法治理時(shí)代的正當(dāng)程序制度，尤其是行政公開原則、公眾參與原則與說明理由制度。[4]張濤將與行政程序法有關(guān)的程序要素的規(guī)定歸納為透明化、參與化、論辯化三大取向。[5]馬長山提出，通過拓展公民數(shù)字參與的深度和廣度、提升數(shù)字公民能力、強(qiáng)化數(shù)字監(jiān)督能力等途徑保障數(shù)字公民參與權(quán)利，以良性充分的民主參與為數(shù)字法治政府建設(shè)提供內(nèi)驅(qū)動力和根本支撐。[6]馬顏昕指出人工智能在過程和結(jié)果上往往超出人類的理解，自動化決策面臨結(jié)果失控、算法偏見與算法黑箱的挑戰(zhàn)，同時(shí)也加深公眾對于自動化決策的不安。[7]潘靖分析了自動化裁量系統(tǒng)應(yīng)用帶來的主體能動性喪失、個(gè)案正義喪失、程序價(jià)值缺失等風(fēng)險(xiǎn)。[8]李晴將自動化行政處罰系統(tǒng)分為發(fā)現(xiàn)系統(tǒng)、輔助系統(tǒng)和替代系統(tǒng)，在裁量型替代系統(tǒng)中存在算法代替人決策消解個(gè)案正義的風(fēng)險(xiǎn)。[9]劉星提出從行政主體的深度嵌入機(jī)制、第三方審計(jì)機(jī)制、裁量偏差預(yù)警與人工介入機(jī)制三個(gè)方面構(gòu)建數(shù)字化裁量的內(nèi)部人機(jī)協(xié)同機(jī)制。[10]王賓將自動化行政中的算法分為轉(zhuǎn)譯型算法和自我學(xué)習(xí)型算法，針對自我學(xué)習(xí)型算法，應(yīng)當(dāng)在“民主—科學(xué)”的合法性框架下，圍繞保障公眾主體地位和算法科學(xué)性對算法進(jìn)行控制。[11]蘇宇對技術(shù)性正當(dāng)程序的既有實(shí)踐和理論主張進(jìn)行了專門的梳理，以社會公眾全過程、全方位地賦能為核心旨趣，從全程參與、原理公開、充分告知、有效交流、留存記錄、人工審查六方面構(gòu)建技術(shù)性正當(dāng)程序的理想化模型。[12]趙宏提出法律對算法的規(guī)制必須以人的主體性為核心和基礎(chǔ)，要借由算法影響評估來化解傳統(tǒng)法治對于公共機(jī)構(gòu)適用算法決策的治理難題，應(yīng)在技術(shù)性和安全性之外，更多考慮公眾參與的保障和問責(zé)機(jī)制的納入。[13]

總而言之，國內(nèi)外早期的理論研究都是在正當(dāng)程序的價(jià)值框架內(nèi)探討公眾參與問題，強(qiáng)調(diào)公眾參與之于正當(dāng)程序價(jià)值實(shí)現(xiàn)的重要作用。相比國外，國內(nèi)開展自動化領(lǐng)域的公眾參與研究稍晚，二者在研究側(cè)重點(diǎn)上也略有不同。前者強(qiáng)調(diào)公權(quán)力機(jī)關(guān)的告知和解釋說明義務(wù)，以及對公眾聽證權(quán)利的保障，后者強(qiáng)調(diào)人的主觀能動性，呈現(xiàn)出重視公眾賦能的局面。這些研究為大數(shù)據(jù)時(shí)代公眾參與自動化行政的制度實(shí)踐提供了理論基礎(chǔ)。然而，現(xiàn)有理論研究未能與技術(shù)日新月異的發(fā)展速度相匹配，且缺少切實(shí)可行的具體制度，在實(shí)踐運(yùn)用中難以落地生根。

（二）公眾參與自動化行政的既有實(shí)踐

近年來，規(guī)范自動化行政過程的公眾參與的制度舉措不斷涌現(xiàn)，集中體現(xiàn)在道路交通和污染監(jiān)測等領(lǐng)域。盡管相關(guān)制度主要存在于地方立法層面，亦未形成完備的法律體系，但足以為公眾參與自動化行政的實(shí)踐發(fā)展指明方向。

在道路交通安全領(lǐng)域，部門規(guī)章和地方立法均針對以電子技術(shù)監(jiān)控設(shè)備記錄作為主要證據(jù)的情形提出了向社會公布的要求。例如，《公安部關(guān)于貫徹實(shí)施行政處罰法的通知》（2021）提到：“利用電子技術(shù)監(jiān)控設(shè)備收集、固定違法事實(shí)的，要事前經(jīng)過法制和技術(shù)審核，確保電子技術(shù)監(jiān)控設(shè)備符合標(biāo)準(zhǔn)、設(shè)置合理、標(biāo)志明顯，并向社會公布設(shè)置地點(diǎn)?！薄短K州市道路交通安全條例》(2022）第四十四條規(guī)定：“公安機(jī)關(guān)交通管理部門應(yīng)當(dāng)加強(qiáng)對交通技術(shù)監(jiān)控設(shè)備的管理，公布設(shè)置固定式交通技術(shù)監(jiān)控設(shè)備的地點(diǎn)?！钡胤搅⒎ㄖ幸泊嬖诼犎『筒杉{公眾意見的要求。例如，《南京市道路交通安全條例》（2019）第三十一條規(guī)定：“公安機(jī)關(guān)交通管理部門、交通運(yùn)輸行政主管部門應(yīng)當(dāng)依據(jù)職責(zé)分工，保持各項(xiàng)交通設(shè)施功能完好。根據(jù)道路通行情況和公眾意見，及時(shí)增設(shè)、調(diào)整、更新交通信號燈、交通標(biāo)志、交通標(biāo)線和交通技術(shù)監(jiān)控設(shè)備、防撞護(hù)欄等交通設(shè)施。相關(guān)單位應(yīng)當(dāng)給予協(xié)助和配合?！薄顿裰菔谐鞘械缆方煌ㄖ刃蚬芾?xiàng)l例》（2022）第二十五條第二款規(guī)定：“公安機(jī)關(guān)交通管理等相關(guān)部門應(yīng)當(dāng)及時(shí)研究社會公眾意見，合理的予以采納?！?/p>

有關(guān)接受公眾監(jiān)督的規(guī)定，在污染防治領(lǐng)域的法規(guī)中較為常見。例如，《河北省港口污染防治條例》（2022）第二十二條規(guī)定：“納入重點(diǎn)揚(yáng)塵污染源責(zé)任單位的港口經(jīng)營人應(yīng)當(dāng)按照規(guī)定安裝、使用揚(yáng)塵污染物在線監(jiān)測設(shè)備及其配套設(shè)施，與生態(tài)環(huán)境主管部門的監(jiān)控設(shè)備聯(lián)網(wǎng)，并保持正常運(yùn)行，依法向社會如實(shí)公開監(jiān)測數(shù)據(jù)等有關(guān)環(huán)境信息，接受公眾監(jiān)督。不得破壞、損毀或者擅自拆除、閑置，不得篡改、偽造監(jiān)測數(shù)據(jù)?！薄逗颖笔∪嗣翊泶髸?wù)委員會關(guān)于加強(qiáng)揚(yáng)塵污染防治的決定》（2018）第二十三條第二款規(guī)定：“被確定為重點(diǎn)揚(yáng)塵污染源的企業(yè)事業(yè)單位和其他生產(chǎn)經(jīng)營者，應(yīng)當(dāng)按照規(guī)定安裝、使用揚(yáng)塵污染物排放自動監(jiān)測設(shè)備及其配套設(shè)施，并與環(huán)境保護(hù)主管部門的監(jiān)控設(shè)備聯(lián)網(wǎng)，保證監(jiān)測設(shè)備正常運(yùn)行，依法向社會如實(shí)公開自動監(jiān)測數(shù)據(jù)等有關(guān)環(huán)境信息，接受公眾監(jiān)督。不得破壞、損毀或者擅自拆除、閑置揚(yáng)塵污染物排放自動監(jiān)測設(shè)備，不得篡改、偽造監(jiān)測數(shù)據(jù)?！?/p>

當(dāng)前，電子技術(shù)監(jiān)控設(shè)備是捕捉道路交通違法行為的重要手段，存在涉及范圍廣、權(quán)益影響大的特點(diǎn)。以立法形式在向社會公布設(shè)備設(shè)置地點(diǎn)、聽取和采納公眾意見等方面吸納公眾參與，可有效避免自動化設(shè)備在行政處罰過程中形成程序性權(quán)利缺失的風(fēng)險(xiǎn)。在揚(yáng)塵污染治理中強(qiáng)調(diào)公眾監(jiān)督，其正當(dāng)性在于空氣是人類賴以生存的資源，揚(yáng)塵污染的治理效果直接影響人類的生存質(zhì)量和公眾的健康權(quán)益。保障公眾的監(jiān)督權(quán)不僅對揚(yáng)塵污染治理效果具有促進(jìn)作用，也是對公眾健康權(quán)益的必要保障機(jī)制?，F(xiàn)有立法是自動化行政過程中公眾參與制度完善的良好基礎(chǔ)，但相關(guān)規(guī)定目前仍不多見，僅涉及道路交通和污染治理等少數(shù)領(lǐng)域，公眾參與亦缺乏明確的程序性機(jī)制，規(guī)制的現(xiàn)實(shí)作用和范圍均屬有限。

三、公眾參與自動化行政的意義與挑戰(zhàn)

公眾參與已成為現(xiàn)代公共行政發(fā)展的世界性趨勢，[14]其深度和廣度體現(xiàn)一國公共行政民主化和有效性的程度。健全自動化行政過程的公眾參與制度，保障公眾參與權(quán)利，對于助推數(shù)字法治政府建設(shè)以及防范算法權(quán)力濫用具有不可估量的作用，是建設(shè)共建共治共享社會治理格局的題中應(yīng)有之義。然而，法律依據(jù)缺乏、參與渠道有限、參與能力不足、參與效果欠佳等問題對自動化行政過程中的公眾參與提出了挑戰(zhàn)。

（一）自動化行政過程中公眾參與的意義

1.公眾參與自動化行政過程助推數(shù)字法治政府建設(shè)

2021 年，中共中央、國務(wù)院印發(fā)的《法治政府建設(shè)實(shí)施綱要（2021-2025 年）》明確提出“全面建設(shè)數(shù)字法治政府”的目標(biāo)。黨的二十大報(bào)告強(qiáng)調(diào)要扎實(shí)推進(jìn)依法行政，提高行政效率和公信力。數(shù)字法治政府建設(shè)與公眾參與之間具有雙向效應(yīng)，信息時(shí)代的到來化解公眾參與成本高、渠道少等困境，公眾參與自動化行政過程助推數(shù)字法治政府建設(shè)。

第一，公眾參與提高行政行為的合法性。以“契約”方式組建的國家結(jié)束了無秩序的混亂局面，消解了人對人的反抗與傷害。[15]人民賦予國家權(quán)力，國家以維護(hù)人民利益為目的而存在，公眾參與自動化行政過程恰是行政機(jī)關(guān)了解民意、順應(yīng)民情、維護(hù)人民利益的重要途徑。行政機(jī)關(guān)吸納公眾參與信息獲取、信息處理、結(jié)果輸出三階段，實(shí)現(xiàn)自動化行政的全過程公眾參與，在權(quán)力的擁有者與權(quán)力的行使者之間建立有效通道，遏制行政機(jī)關(guān)在自動化行政過程中的權(quán)力濫用，避免出現(xiàn)權(quán)力異化的情形。第二，公眾參與提高行政行為的合理性。人類自身認(rèn)識能力的有限性體現(xiàn)為行政機(jī)關(guān)無法獲取近乎無限的知識以規(guī)劃構(gòu)造完美的行政行為，并且依其目前的認(rèn)知能力所做的決策很有可能在將來看來是缺乏理性的。[16]行政機(jī)關(guān)僅憑自身力量無法獲得實(shí)施自動化行政行為所需的全部信息，在自動化行政過程中聽取公眾的意見可為其行為提供支撐。

2.公眾參與自動化行政過程防范算法權(quán)力濫用

傳統(tǒng)自動化行政主要是機(jī)械性地按照人類預(yù)設(shè)的條件執(zhí)行指令，機(jī)器學(xué)習(xí)技術(shù)的加入使自動化行政有了新的內(nèi)涵。依托于機(jī)器學(xué)習(xí)技術(shù)的大部分算法具有不透明性，使得公眾對算法如何形成決策的認(rèn)識如同置于黑箱之中，這種情形亦被稱為“算法黑箱”。算法的黑箱性使算法權(quán)力存在濫用的風(fēng)險(xiǎn)。一方面，算法決策體現(xiàn)設(shè)計(jì)者的傾向。算法參與的自動化行政過程雖然脫離了行政機(jī)關(guān)工作人員個(gè)人情感和價(jià)值觀的干預(yù)，但因算法本身產(chǎn)生于人為設(shè)計(jì)，不可避免地融入了設(shè)計(jì)者的主觀傾向。[17]設(shè)計(jì)者將帶有不符合法律目的的主觀考量編入算法中，或者編入自身對法律法規(guī)和政策理解偏差的傾向，則存在影響決策公正性的風(fēng)險(xiǎn)。[18]另一方面，算法權(quán)力滲透行政權(quán)力。算法的運(yùn)行包括經(jīng)私主體研發(fā)投入網(wǎng)絡(luò)平臺使用和在公權(quán)力運(yùn)行的平臺上實(shí)施兩種，即算法權(quán)力的主體為公權(quán)力機(jī)關(guān)或技術(shù)公司，其背后是算法的設(shè)計(jì)者或?qū)嶋H控制人，不排除其中可能有人會故意或過失操縱算法，進(jìn)而加強(qiáng)對行政權(quán)的控制，使得算法取代公權(quán)力機(jī)關(guān)成為真正決策者，[19]而算法深度介入行政規(guī)制領(lǐng)域，可能導(dǎo)致算法規(guī)則凌駕于法律之上，削弱現(xiàn)代法治政府的根基。[20]《中華人民共和國行政處罰法》（以下簡稱《行政處罰法》）在修訂時(shí)吸納了交警非現(xiàn)場執(zhí)法的核心要素，要求非現(xiàn)場執(zhí)法應(yīng)及時(shí)告知當(dāng)事人違法事實(shí)，并采用多種手段為當(dāng)事人聽證和申辯提供方便。[21]自動化行政的應(yīng)用要求行政機(jī)關(guān)對算法決策過程進(jìn)行解釋說明，公眾有權(quán)知曉行政行為的決策邏輯，掌握自己的哪些信息被收集，這些信息將被如何應(yīng)用等。公眾角色從結(jié)果的被動接受者到?jīng)Q策影響者的轉(zhuǎn)變，使算法過程趨于透明，實(shí)現(xiàn)行政行為與公眾信任之間的平衡。

（二）自動化行政過程中公眾參與的挑戰(zhàn)

1.缺乏法律依據(jù)

目前，我國對自動化行政的規(guī)制以政策文件引導(dǎo)為主，與公眾參與相關(guān)的法律較少且規(guī)定分散。2021 年新修訂的《行政處罰法》第41 條規(guī)定了行政機(jī)關(guān)應(yīng)當(dāng)向社會公布收集、固定違法事實(shí)的電子技術(shù)監(jiān)控設(shè)備的地點(diǎn)，切實(shí)保障當(dāng)事人的陳述權(quán)和申辯權(quán)。作為首部對自動化行政進(jìn)行回應(yīng)的法律，《行政處罰法》表明了我國立法對自動化行政逐漸重視的趨勢，但僅有一條規(guī)定尚不足以規(guī)范自動化行政處罰，亦無法為公眾參與自動化行政提供合法性依據(jù)。應(yīng)當(dāng)看到，我國尚未制定專門規(guī)范自動化行政的法律法規(guī)，對自動化行政的定義、適用范圍、責(zé)任主體、監(jiān)督救濟(jì)等缺乏明確界定，在公眾參與制度建設(shè)方面更是留有大量空白，亟須通過法律明確公眾參與的主要制度和程序，加強(qiáng)對公眾參與的規(guī)范與保障。

2.參與渠道有限

行政機(jī)關(guān)在大力推進(jìn)自動化行政的過程中，應(yīng)當(dāng)保證公眾參與渠道的多樣與暢通，保障公眾可以表達(dá)個(gè)人意見，積極行使個(gè)人權(quán)利，保護(hù)個(gè)人合法利益。[22]從公眾參與自動化行政的既有實(shí)踐來看，主要的參與渠道是線下陳述和申辯，行政機(jī)關(guān)未充分利用技術(shù)優(yōu)勢推進(jìn)線上聽證會、在線陳述申辯等線上方式來保障公眾的參與權(quán)利。相較傳統(tǒng)行政行為，行政程序的自動化減少了行政機(jī)關(guān)與相對人之間面對面的溝通，其中的陳述申辯往往發(fā)生于相對人對自動化決策產(chǎn)生懷疑或自身權(quán)益受到損害后。參與方式的傳統(tǒng)和單一將自動化行政過程中實(shí)質(zhì)參與的主體限定為行政相對人，普遍意義上的公眾面臨參與無門的困境。

3.參與能力不足

在早期的自動化行政過程中，公眾已經(jīng)出現(xiàn)參與能力不足的問題，這一問題在人工智能因素加入的自動化行政中更為突出。在人工智能系統(tǒng)面前，參與能力不足的進(jìn)一步突出與算法透明度的缺失有關(guān)。算法不透明可分為為保護(hù)商業(yè)秘密的“刻意不透明”、因?qū)I(yè)知識不通造成的“文盲不透明”、由算法本身的難以解釋特性導(dǎo)致的“固有不透明”三種類型。[23]算法作為自動化行政的技術(shù)支撐，無論是在運(yùn)行原理還是決策程序上都不為社會大眾所熟知，具有高度的隱蔽性和復(fù)雜性，非經(jīng)技術(shù)公司披露和專業(yè)人士分析很難被公眾理解。在傳統(tǒng)的行政過程中，行政機(jī)關(guān)工作人員通過與相對人面對面說理的方式，使其對行政決定的做出過程產(chǎn)生直觀認(rèn)識和理解。自動化行政依靠算法內(nèi)在的自主分析而快速做出決策，算法的黑箱性使公眾很難對決策的考量過程和處理邏輯產(chǎn)生直觀感受和形成準(zhǔn)確的理解。公眾參與自動化行政應(yīng)以決策過程可視化為基礎(chǔ)，否則無法規(guī)避盲目參與的風(fēng)險(xiǎn)，算法透明度的缺失又使自動化行政過程的可視化面臨障礙。

4.參與效果欠佳

公眾參與原則的核心理念即為聽取公民意見，自動化行政過程中的公眾參與應(yīng)當(dāng)以參與者的意見受到行政機(jī)關(guān)的實(shí)質(zhì)考慮和有效回應(yīng)為目的，未經(jīng)信息接收方進(jìn)行深入考慮并作出反饋的意見表達(dá)不具備實(shí)質(zhì)意義，存在架空公眾參與原則的風(fēng)險(xiǎn)。公眾提出意見后有時(shí)無法獲取行政機(jī)關(guān)的有效反饋，長此以往會削弱公眾對行政機(jī)關(guān)的信任，導(dǎo)致公眾參與的效果不盡如人意。不僅如此，作為自動化行政過程一方的相對人進(jìn)行陳述和申辯后，行政機(jī)關(guān)往往僅針對該特定的自動化決策進(jìn)行解釋和說明，缺乏有效的機(jī)制促使行政機(jī)關(guān)對相關(guān)共性問題進(jìn)行及時(shí)歸納和總結(jié)，推進(jìn)對自動化行政過程中可改進(jìn)之處的深入思考。

四、公眾參與自動化行政的解題之道：技術(shù)性正當(dāng)程序理論的延伸

公眾參與的要求在傳統(tǒng)正當(dāng)程序理論中是有所表達(dá)的。然而，面對行政領(lǐng)域的數(shù)字化、自動化、智能化趨勢，傳統(tǒng)正當(dāng)程序理論的解釋力和指導(dǎo)力有所欠缺。在自動化行政飛速發(fā)展的當(dāng)下，“人”的缺席是導(dǎo)致傳統(tǒng)正當(dāng)程序理論陷入危機(jī)的根源所在，[24]公眾參與的缺位也是“人”之缺席的重要體現(xiàn)。自動化行政過程中的公眾參與需要新的行政程序法治理念與原則提供支持，而技術(shù)性正當(dāng)程序已具備此種潛力。我們有必要從法律和技術(shù)的雙重視角出發(fā)，以既有的正當(dāng)程序理論為參照，通過發(fā)展及應(yīng)用技術(shù)性正當(dāng)程序理論，填補(bǔ)傳統(tǒng)正當(dāng)程序理論的不足，進(jìn)而破解自動化行政過程中的公眾參與難題。

（一）技術(shù)性正當(dāng)程序理論為何能化解挑戰(zhàn)

技術(shù)性正當(dāng)程序理論主張以向相對人、利害關(guān)系人和公眾賦能的方式，使他們有機(jī)會和能力知悉、理解乃至挑戰(zhàn)自動化系統(tǒng)的決定。①Danielle Keats Citron&Frank Pasquale,The Scored Society:Due Process for Automated Predictions,89 Wash.L.REV.1(2014).技術(shù)性正當(dāng)程序的相關(guān)理論主張發(fā)軔于美國系列判決對正當(dāng)程序適用情境的考量，本文所論述的技術(shù)性正當(dāng)程序已抽離了美國行政法的特殊語境。雖然傳統(tǒng)的正當(dāng)程序理論與技術(shù)性正當(dāng)程序理論的適用場景不盡相同，但二者同處于正當(dāng)程序的框架內(nèi)，對于維護(hù)程序公平、保障人性尊嚴(yán)等價(jià)值理念的追求具有超越時(shí)空的特性，在自動化行政領(lǐng)域中也不會過時(shí)。因?yàn)槿斯ぶ悄芗夹g(shù)的服務(wù)對象是人，只要人的主體性保持恒定，對人性尊嚴(yán)的尊重之要求亦不會改變。用計(jì)算機(jī)科學(xué)的術(shù)語來講，正當(dāng)程序的價(jià)值理念具有“魯棒性”（robustness），即在受到持續(xù)擾動時(shí)仍保持原有的性能。[25]正因如此，必須將充分參與等保障人性尊嚴(yán)的標(biāo)準(zhǔn)作為數(shù)字技術(shù)運(yùn)用的基本目標(biāo)以滿足技術(shù)性程序正義的基本要求。

首先，推動自動化行政應(yīng)用的重要目標(biāo)是提高效率，排除個(gè)人情感對行政行為公正性的干擾。但若僅從經(jīng)濟(jì)原則和效率價(jià)值出發(fā)考慮，則會導(dǎo)致在實(shí)踐中行政機(jī)關(guān)脫離行政程序的嚴(yán)格規(guī)制，自動化行政過程中的權(quán)力可能會通過多種隱蔽途徑被濫用。然而，只有在人的尊嚴(yán)和體面得到保障和尊重的前提下，這些次要價(jià)值的充分實(shí)現(xiàn)才有充分的正當(dāng)性基礎(chǔ)。[26]其次，行政機(jī)關(guān)使用自動化設(shè)備做出的決策可能存在錯(cuò)誤，算法的黑箱性有侵犯公民知情權(quán)、申訴權(quán)的風(fēng)險(xiǎn)。如果相對人不了解行政決定的原因，不理解自身為什么會敗訴，公權(quán)力行為的合法性將會遭受質(zhì)疑。[27]如果行政機(jī)關(guān)不聽取相對人的陳述和申辯，不在個(gè)案裁決中發(fā)揮裁量作用，公權(quán)力行為的正當(dāng)性將會受到侵蝕。在人工智能場景中貫徹正當(dāng)程序理論，更要求行政機(jī)關(guān)不能全然依賴自動化設(shè)備形成判斷，并將這種判斷作為最終作出行政行為的決定性依據(jù)。應(yīng)防止系統(tǒng)對個(gè)人進(jìn)行概括性評價(jià)而導(dǎo)致有失公允和精準(zhǔn)的局面。最后，作為行政決定產(chǎn)生依據(jù)的法律文本并不能完全體現(xiàn)正義。自動化設(shè)備的運(yùn)行原理是預(yù)先設(shè)定一組事實(shí)及對應(yīng)的法律后果，其對法律規(guī)則的應(yīng)用較為固定和一致，此時(shí)行政機(jī)關(guān)一定程度的自由裁量權(quán)可作為法律體系的必要補(bǔ)充部分。[28]然而，隨著行政機(jī)關(guān)對人工智能的依賴加深，算法將有可能成為實(shí)際運(yùn)行的“法律”，甚至取代行政機(jī)關(guān)的行政裁量職能。利用技術(shù)性正當(dāng)程序理論保障公眾參與自動化行政過程，不僅有助于捍衛(wèi)公眾的尊嚴(yán)，也能在一定程度上避免行政機(jī)關(guān)的尊嚴(yán)被削弱，淪為“橡皮印章”和“自動售貨機(jī)”。[29]

（二）技術(shù)性正當(dāng)程序理論如何化解挑戰(zhàn)

技術(shù)性正當(dāng)程序理論的核心要旨是實(shí)現(xiàn)“人”的賦能。[30]實(shí)踐中，應(yīng)當(dāng)以自動化行政做出決策的步驟為導(dǎo)向，構(gòu)建公眾的決策參與、過程參與、末端參與制度：完善事前意見收集；明確事中參與主體及方式；構(gòu)建良性的事后監(jiān)督和評價(jià)機(jī)制，對包括行政相對人在內(nèi)的社會公眾予以全過程、全方位的賦能，[31]確?！叭恕痹谧詣踊姓^程中充分享有正當(dāng)程序的保障。

建立公眾決策參與制度。在法律體系建設(shè)規(guī)劃中，我國需建立以規(guī)范自動化行政的法律為統(tǒng)領(lǐng)，以公眾參與自動化行政專項(xiàng)立法為著力點(diǎn)，以公眾參與制度各項(xiàng)實(shí)施細(xì)則為補(bǔ)充的法律體系。生成良善之法的必要條件在于其制定應(yīng)借助于正當(dāng)程序，且應(yīng)當(dāng)遵循客觀規(guī)律，以廣大人民群眾的意志為依歸。[32]公眾對行政行為的認(rèn)知較為直觀，其感受往往直接代表著社會公共利益。隨著法治國家和服務(wù)型政府建設(shè)的推進(jìn)，行政機(jī)關(guān)更加著眼于公眾的切身利益，并將其置于首位，而公眾自身對其利益實(shí)現(xiàn)和權(quán)益保障的關(guān)注也逐漸增多，二者在最終歸宿上具有一致性。受中國傳統(tǒng)官本位思想的影響，“官”“民”之間、政府與社會之間始終存在著某種心理距離。[33]以立法的方式鼓勵(lì)公眾參與決策，破除傳統(tǒng)支配和服從關(guān)系根深蒂固的影響，促使行政機(jī)關(guān)兼顧各方利益主體的正當(dāng)利益，有助于加深公眾對自動化行政的理性認(rèn)識，提升政府公信力。

建立公眾過程參與制度。在參與主體上，公民個(gè)人、具備算法技術(shù)的產(chǎn)業(yè)部門及個(gè)體企業(yè)應(yīng)被納入其中。公民個(gè)人作為自動化行政過程的一方主體，自動化決策的最終結(jié)果關(guān)乎其直接利益。掌握算法技術(shù)的產(chǎn)業(yè)部門及個(gè)體企業(yè)可依其專業(yè)知識指出自動化行政中普通公眾所不能發(fā)現(xiàn)的問題，使自動化行政過程的公眾參與更具實(shí)效性。在參與方式上，應(yīng)當(dāng)以聽證會為首要方式，座談會和論證會為保障手段，問卷調(diào)查為補(bǔ)充途徑。舉行聽證的過程也是政府部門與公眾代表之間進(jìn)行利益表達(dá)的過程，雙方能夠就現(xiàn)有問題進(jìn)行充分交流。座談會方式適用于受自動化行政影響的公眾，而論證會形式則適合于人工智能和算法領(lǐng)域的專家等技術(shù)人員，他們對自動化行政的相關(guān)規(guī)則進(jìn)行充分論證并提出專業(yè)化建議。通過問卷的合理設(shè)計(jì)，行政機(jī)關(guān)可以有效獲知公眾對于自動化行政規(guī)則設(shè)計(jì)合理與否的普遍看法。這些參與方式應(yīng)當(dāng)被合理鑲嵌于自動化行政過程的不同環(huán)節(jié)，使自動化行政過程的合法性與正當(dāng)性能夠通過全過程的公眾參與得到系統(tǒng)化的增強(qiáng)。

建立公眾末端參與制度。公眾參與的回應(yīng)與參與的機(jī)會本身同等重要。一個(gè)不必有任何回應(yīng)的參與，僅是滿足形式上的參與要件，對參與者或開發(fā)者而言都無實(shí)質(zhì)的意義。[34]公眾的實(shí)時(shí)監(jiān)督能有效應(yīng)對部分產(chǎn)業(yè)利益集團(tuán)對政府部門施加的影響，保障自動化行政過程的公正性。上級政府可以設(shè)立第三方獨(dú)立機(jī)構(gòu)以保障公眾監(jiān)督信息的有效反饋和及時(shí)處理，促進(jìn)行政機(jī)關(guān)依法行政。公眾的末端參與制度可細(xì)分為聽取意見前的參與和聽取意見后的參與兩種：聽取公眾意見前，行政機(jī)關(guān)應(yīng)當(dāng)告知公眾自動化行政應(yīng)用的背景和初衷，提供決策生成過程的原理，告知參與的方式和途徑等，尋找公眾與行政機(jī)關(guān)之間的信息平衡點(diǎn)，獲取公眾去情緒化的、理性的意見；聽取公眾意見后，行政機(jī)關(guān)需要對意見進(jìn)行整理，區(qū)分合理的與不合理的訴求，對收集的意見作出回應(yīng)，將公眾退出自動化行政過程的時(shí)間節(jié)點(diǎn)明確為行政機(jī)關(guān)反饋意見后，而不是公眾表達(dá)意見后。必要時(shí)，還需要對公眾與政府之間的互動機(jī)制作出細(xì)節(jié)性的規(guī)定。合理的后續(xù)回應(yīng)與互動機(jī)制能夠更好發(fā)揮公眾參與機(jī)制的應(yīng)有機(jī)能，促進(jìn)自動化行政的發(fā)展。

五、公眾參與自動化行政的制度建議

對于自動化行政過程中的公眾參與，我國的現(xiàn)有立法未作出明確規(guī)定，執(zhí)法實(shí)踐中也缺乏重視和保障，應(yīng)從公眾參與邊界、原理說明義務(wù)和當(dāng)事人的拒絕權(quán)利著手，構(gòu)建公眾參與的機(jī)制。

（一）厘定公眾參與的邊界

如前文所述，公民個(gè)人、具備算法技術(shù)的產(chǎn)業(yè)部門及個(gè)體企業(yè)都應(yīng)當(dāng)作為參與自動化行政的主體。然而，并非所有的主體都適合融入自動化行政過程，也并非自動化行政的所有領(lǐng)域都適合公眾參與，一刀切地參與和不參與都不可取。厘定公眾參與的邊界，以不否定公眾參與自動化行政具有顯著意義為前提，行政機(jī)關(guān)應(yīng)當(dāng)關(guān)注公眾參與的必要性和適當(dāng)性，未來可采取按行政事項(xiàng)分類推進(jìn)公眾參與的思路，以公眾參與為原則，不參與為例外，設(shè)置公眾的分級參與機(jī)制。

自動化行政過程中公眾參與的邊界將主要由法律規(guī)范中的禁止性規(guī)定予以規(guī)制，除狹義上的法律規(guī)則外，行政法規(guī)、規(guī)章乃至其他規(guī)范性文件等將對此起到關(guān)鍵作用。根據(jù)處理事項(xiàng)的不同類型，以行政立法的方式將公眾參與分為三級：一是涉及國家秘密的事項(xiàng)，以絕對禁止的方式排除公眾參與，但應(yīng)避免對涉及國家秘密的事項(xiàng)在處理細(xì)節(jié)上的粗糙，尤其是應(yīng)當(dāng)避免大幅擴(kuò)展“國家秘密”的范圍，如應(yīng)通過保密工作部門明確行政機(jī)關(guān)不得將以內(nèi)部文件為依據(jù)進(jìn)行自動化決策作為禁止公眾參與答復(fù)的依據(jù)。二是有關(guān)商業(yè)秘密和個(gè)人隱私的事項(xiàng)，采用相對禁止的方式賦予公眾層次性的參與機(jī)會。對于與商業(yè)秘密有關(guān)的自動化行政，適用損害衡量和公共利益衡量，強(qiáng)化不損害商業(yè)秘密的算法解釋等技術(shù)輔助機(jī)制的運(yùn)用。而行政相對人及其近親屬、其他與行政決定有利害關(guān)系的人可參與自動化行政中涉及個(gè)人隱私的事項(xiàng)。三是除國家秘密、商業(yè)秘密、個(gè)人隱私外的其他事項(xiàng)，應(yīng)全面保障公眾的參與性權(quán)利。

（二）明確原理說明的義務(wù)

所有的意見和陳述都存在不恰當(dāng)?shù)貦?quán)衡了一些相互矛盾的信息，以及在決策過程中帶有偏見的風(fēng)險(xiǎn)，規(guī)制該風(fēng)險(xiǎn)的一種方法是披露決策過程中的一切信息。明確說明什么對決策過程更重要通常比簡單陳述結(jié)論更有價(jià)值。①Yavar Bathaee,Artificial Intelligence Opinion Liability,35 BERKELEY TECH.L.J.113(2020).例如，司法裁判中不僅闡明法官已經(jīng)得出的結(jié)果，而且還對法官如何作出判決進(jìn)行解釋。在自動化行政過程中，人類的適用法律活動經(jīng)技術(shù)轉(zhuǎn)變?yōu)榇a和算法操作，但這一轉(zhuǎn)換過程模糊不清，要求行政機(jī)關(guān)作出相應(yīng)說明，從而提高自動化行政技術(shù)手段的透明度和可解釋性，便成為可值得嘗試的制度方案。[35]原理說明對自動化行政背景下踐行正當(dāng)程序原則具有重要意義，有助于實(shí)現(xiàn)程序性權(quán)利的工具性價(jià)值與非工具性價(jià)值。

具體的制度設(shè)計(jì)可做如下考量：其一，鑒于技術(shù)問題的復(fù)雜性，算法原理的說明義務(wù)主體應(yīng)為負(fù)責(zé)開發(fā)算法模型的行政機(jī)關(guān)，實(shí)際開發(fā)者負(fù)有協(xié)助說明義務(wù)；其二，在說明內(nèi)容方面，義務(wù)主體應(yīng)就自動化行政的算法決策過程進(jìn)行解釋，包括法律依據(jù)是什么、如何進(jìn)行代碼轉(zhuǎn)譯、裁量因素在個(gè)案中何以體現(xiàn)等；其三，由于自動化行政適用場景多元，不同系統(tǒng)的技術(shù)復(fù)雜程度存在巨大差異，所以在說明方式上難以作出統(tǒng)一的要求，可進(jìn)行層次化的原理說明。例如，對于部分“白箱型”的自動化決策算法，因其可以實(shí)現(xiàn)“自解釋”，只需利用簡單的文字說明或規(guī)則可視化表達(dá)即可，而針對“黑箱型”的人工智能算法可采用局部代理模型等算法解釋方法進(jìn)行說明。[36]

（三）設(shè)定請求人工干預(yù)的權(quán)利

過分強(qiáng)調(diào)公權(quán)力容易導(dǎo)致專斷和濫用權(quán)力，而過分強(qiáng)調(diào)私權(quán)利容易導(dǎo)致行政執(zhí)法活動的軟弱無力，法律應(yīng)明確公眾方或行政相對方在特定條件下有權(quán)以適當(dāng)方式對抗行政主體，尋求公權(quán)力和私權(quán)利的平衡關(guān)系。[37]自動化行政過程中，相對人有充分理由認(rèn)為行政機(jī)關(guān)僅通過自動化設(shè)備作出的決策不足以使其信服的，除少數(shù)緊急情況外，應(yīng)享有請求人工干預(yù)和決定的權(quán)利。例如，《個(gè)人信息保護(hù)法》第24 條賦予個(gè)人“要求個(gè)人信息處理者予以說明，并有權(quán)拒絕個(gè)人信息處理者僅通過自動化決策的方式作出決定”的權(quán)利。這一規(guī)定盡管并不完全適用于行政活動，但卻可以為類似的行政程序制度建設(shè)提供重要的參考。

然而，自動化行政的專業(yè)性較強(qiáng)，對算法專業(yè)知識的掌握要求較高，普通公眾可能本身就難以理解其原理，在行政機(jī)關(guān)或?qū)嶋H開發(fā)者進(jìn)行解釋說明后同樣面臨理解不到位的風(fēng)險(xiǎn)。因此，一方面要保障公眾參與邊界厘定機(jī)制和原理說明義務(wù)明確機(jī)制的落地生根，這將作為人工干預(yù)請求權(quán)的基礎(chǔ)；另一方面，應(yīng)在一定程度上限定公眾請求人工干預(yù)的范圍，否則將降低行政機(jī)關(guān)工作效率，造成社會資源的浪費(fèi)，削弱政府公信力。該機(jī)制要首先明確，權(quán)利主體只能是自動化行政的當(dāng)事人或利害關(guān)系人，除當(dāng)事人或利害關(guān)系人以外的其他主體概不享有人工干預(yù)請求權(quán)。其次，人工干預(yù)請求權(quán)所指向的內(nèi)容應(yīng)當(dāng)是與行政機(jī)關(guān)事前所作的原理說明明顯不相符的自動化行政行為。例如，應(yīng)用自動化設(shè)備實(shí)施的行政審批業(yè)務(wù)中，行政機(jī)關(guān)應(yīng)當(dāng)事先將審批所依據(jù)的因素悉數(shù)告知公眾，倘若完全符合條件的相對人提交審批后未通過，即有權(quán)選擇拒絕確認(rèn)并請求人工干預(yù)。因?yàn)榇朔N情形下無法排除是自動化設(shè)備自身故障導(dǎo)致錯(cuò)誤決策產(chǎn)生的可能性。公眾對自動化行政過程的不了解，使其無法識別設(shè)備故障產(chǎn)生的錯(cuò)誤。在合理界定公眾參與的邊界及明確行政機(jī)關(guān)的原理說明義務(wù)后賦予相對人和利害關(guān)系人的人工干預(yù)請求權(quán)，可及時(shí)糾正錯(cuò)誤決策，增進(jìn)公眾對自動化決策系統(tǒng)的理解和信任，增強(qiáng)公眾參與的有效性。

結(jié)語

科技的進(jìn)步給行政行為方式的革新帶來了無限可能，對技術(shù)性正當(dāng)程序理論的研究有助于夯實(shí)公眾參與自動化行政的理論基礎(chǔ)，突破“算法黑箱”對公民權(quán)益保障所造成的障礙，打破自動化技術(shù)帶來的“信息鴻溝”。自動化行政過程需要公眾參與，而公眾參與實(shí)質(zhì)作用的發(fā)揮，需要在數(shù)字法治政府建設(shè)中進(jìn)行更加長遠(yuǎn)的行政管理體制改革和國家治理能力現(xiàn)代化建設(shè)，還需要從理論到實(shí)踐、從立法到執(zhí)法的多維度引導(dǎo)和規(guī)范。在未來，有望以行政立法的形式明確規(guī)定技術(shù)性正當(dāng)程序的理念或原則，全面建立公眾參與自動化行政過程的法律制度，使公眾參與權(quán)利的保障能夠始終緊密跟隨技術(shù)發(fā)展的腳步。