劉嘉誠

（湖南師范大學(xué)，湖南 長沙 410081）

引言

隨著人臉識(shí)別、自動(dòng)駕駛、機(jī)器學(xué)習(xí)等算法技術(shù)與應(yīng)用逐漸進(jìn)入人們的視野，無論接受與否，人類社會(huì)都已步入算法時(shí)代。從技術(shù)上看，算法是對人腦的一種模擬，通過對已有信息的數(shù)字化處理形成數(shù)據(jù)模型及范式，從而更好地對往后的信息進(jìn)行分析、加工及修正①參見王靜、王軒等：《算法：人工智能在想什么》，國家行政管理出版社2021 年版，第8 頁。?；谒惴夹g(shù)帶來的高效及便利，其以技術(shù)理性的形式嵌入公共行政的過程當(dāng)中，并形成了“自動(dòng)收集、自動(dòng)分析、自動(dòng)決策”的算法行政體系②參見翟月熒：《算法行政的興起、風(fēng)險(xiǎn)及其防控》，載《新視野》2022 年第3 期，第81-85 頁。。算法給行政活動(dòng)帶來了不少便利，其強(qiáng)大的數(shù)據(jù)收集及分析能力能顯著性地提高行政效率，減少行政負(fù)擔(dān)。與傳統(tǒng)行政活動(dòng)相比，算法行政可憑借自身計(jì)算能力的優(yōu)勢將碎片化的公共資源進(jìn)行重組，進(jìn)而提高治理效能。然而，科技是把雙刃劍，算法行政對行政法治帶來的挑戰(zhàn)也不容忽視。數(shù)據(jù)泄露、算法“黑箱”及算法歧視等問題無不給行政活動(dòng)帶來負(fù)面影響。這是因?yàn)椤八惴ㄔ谛姓?guī)制中的實(shí)質(zhì)性運(yùn)用，并不能必然表明其在理論和規(guī)范層面的合法性”③王貴：《算法行政的興起、挑戰(zhàn)及法治化調(diào)適》，載《電子政務(wù)》2021 年第7 期，第2-14 頁。。值得注意的是，算法行政的背景下，傳統(tǒng)行政程序已然受到嚴(yán)重沖擊。算法的不透明性與專業(yè)性、算法歧視及算法的封閉性都對傳統(tǒng)行政程序的基本原則提出挑戰(zhàn)。如何應(yīng)對算法技術(shù)給行政正當(dāng)程序帶來的挑戰(zhàn)，有效地保障行政相對人的程序權(quán)利是算法時(shí)代不可忽視的法治問題。

一、算法給行政活動(dòng)帶來的變化

隨著算法對行政活動(dòng)的不斷深入，政府公共行政逐漸走向數(shù)字時(shí)代。部分傳統(tǒng)行政方式被算法自動(dòng)化或半自動(dòng)化行政所替代，行政效率得到明顯增強(qiáng)。從當(dāng)前的數(shù)字政府建設(shè)實(shí)踐來看，算法技術(shù)對行政活動(dòng)帶來多方面的改變。

（一）從固定場所辦公到虛擬化作業(yè)

算法技術(shù)的革新將傳統(tǒng)的行政活動(dòng)從物理空間拓展至線上領(lǐng)域。以往行政活動(dòng)受時(shí)空限制，工作人員“坐堂辦事”，當(dāng)事人需要去指定地點(diǎn)才能享受政務(wù)服務(wù)?！盎ヂ?lián)網(wǎng)+政務(wù)服務(wù)”帶來“最多跑一次”“一網(wǎng)通辦”“一網(wǎng)統(tǒng)管”“一網(wǎng)協(xié)同”等創(chuàng)新手段?！吨腥A人民共和國行政許可法》專門規(guī)定行政機(jī)關(guān)應(yīng)當(dāng)建立和完善有關(guān)制度，方便申請人采取數(shù)據(jù)電文等方式提出行政許可申請。可見，行政算法化更新了以往傳統(tǒng)的書面形式。其中，較為典型的示例是電子政務(wù)服務(wù)平臺(tái)的出現(xiàn)，這使得當(dāng)事人在行政許可領(lǐng)域可網(wǎng)上辦理，“零跑堂”成為現(xiàn)實(shí)。以湖南為例，政務(wù)服務(wù)“新湘事成”APP 的上線實(shí)現(xiàn)46 個(gè)省直廳局1600 項(xiàng)行政審批事項(xiàng)“掌上辦”，當(dāng)事人僅需上傳申請材料至APP，相關(guān)責(zé)任部門便可實(shí)現(xiàn)相應(yīng)材料對接，各自審批，匯總后平臺(tái)再反饋至當(dāng)事人，這極大地簡化了當(dāng)事人的辦事流程，提高了行政效率。

行政活動(dòng)從線下向線上的轉(zhuǎn)變得益于算法技術(shù)支持下實(shí)現(xiàn)的數(shù)字共享局面。在技術(shù)方面，算法數(shù)字技術(shù)打破政府部門之間的信息壁壘，各部門實(shí)現(xiàn)數(shù)據(jù)互通，交流共享，使政府跨部門交流協(xié)作成為可能。在行政組織層面，大數(shù)據(jù)強(qiáng)化了整體政府理念，推進(jìn)行政組織內(nèi)部優(yōu)化升級(jí)，破除了科層制系統(tǒng)運(yùn)行碎片化、分散化的桎梏。目前，我國已設(shè)立國家數(shù)據(jù)局，其由國家發(fā)改委管理，承擔(dān)統(tǒng)籌數(shù)據(jù)資源整合和開發(fā)利用的功能，將進(jìn)一步強(qiáng)化數(shù)字法治政府的功能作用。

（二）從現(xiàn)場執(zhí)法到非現(xiàn)場執(zhí)法

算法時(shí)代行政效率和執(zhí)法技術(shù)產(chǎn)生了新的標(biāo)準(zhǔn)，從而出現(xiàn)非現(xiàn)場執(zhí)法。電子監(jiān)控技術(shù)的發(fā)展使得行政機(jī)關(guān)在不接觸相對人的情況下，可通過電子監(jiān)控系統(tǒng)收集原始樣本，并通過算法自動(dòng)轉(zhuǎn)化成相應(yīng)的數(shù)值固定成電子證據(jù)，行政機(jī)關(guān)再基于此作出行政決定。早在1996 年，我國第一套“搶紅燈自動(dòng)拍攝器”在北京市試驗(yàn)成功，我國交通執(zhí)法領(lǐng)域就已開始進(jìn)行監(jiān)控系統(tǒng)的運(yùn)用探索，隨著信息化技術(shù)的發(fā)展，新型科技更是給非現(xiàn)場監(jiān)管執(zhí)法領(lǐng)域注入了新的活力。GPS、人臉識(shí)別及無人機(jī)航拍等技術(shù)的出現(xiàn)，非現(xiàn)場執(zhí)法已從交通管理逐漸拓展至海事、市場監(jiān)管、生態(tài)環(huán)境保護(hù)等其他領(lǐng)域，相應(yīng)的規(guī)范性文件也逐漸出臺(tái)。此外，2021 年修正的《中華人民共和國行政處罰法》還專門規(guī)定電子技術(shù)監(jiān)控設(shè)備執(zhí)法的相關(guān)標(biāo)準(zhǔn)。

非現(xiàn)場執(zhí)法能夠輔助或者獨(dú)立進(jìn)行行政執(zhí)法活動(dòng)，極大地彌補(bǔ)了執(zhí)法上的人力不足。從執(zhí)法自動(dòng)化水平上看，完整的非現(xiàn)場執(zhí)法可以分為兩個(gè)階段：一是監(jiān)控技術(shù)設(shè)備記錄取證，二是以記錄的信息為證據(jù)進(jìn)行處罰④參見楊曦：《利用自動(dòng)監(jiān)控進(jìn)行非現(xiàn)場執(zhí)法的進(jìn)路及規(guī)范構(gòu)建——基于事實(shí)認(rèn)定的視角》，載《行政法學(xué)研究》2022 年第6 期，第86-96 頁。。第一階段主要由監(jiān)控技術(shù)設(shè)備發(fā)揮作用，通過算法自動(dòng)化系統(tǒng)對現(xiàn)場情況進(jìn)行識(shí)別，從而完成調(diào)查取證。第二階段則需要進(jìn)行人機(jī)互動(dòng)，行政機(jī)關(guān)依據(jù)通過技術(shù)監(jiān)控系統(tǒng)收集的數(shù)據(jù)而作出行政決定或者由算法直接作出行政決定。在交通執(zhí)法領(lǐng)域，自助處理平臺(tái)經(jīng)過算法處理后往往直接作出行政處罰決定。但由于其算法邏輯的關(guān)聯(lián)性與法律邏輯的因果性不相契合，故而難以獲得學(xué)理上的支持。就多數(shù)非現(xiàn)場執(zhí)法而言，通常由行政機(jī)關(guān)完成分析與決定環(huán)節(jié)。故此，非現(xiàn)場執(zhí)法中電子技術(shù)監(jiān)控設(shè)備的運(yùn)用僅發(fā)揮著輔助作用，行政機(jī)關(guān)及其工作人員仍然占據(jù)主導(dǎo)地位⑤參見李曉菲、張闖：《論非現(xiàn)場執(zhí)法中的行政相對人程序性權(quán)利保障》，載《長春理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023 年第1 期，第47-51 頁。。隨著算法技術(shù)的不斷進(jìn)步，未來行政活動(dòng)中自動(dòng)化程度將會(huì)不斷提高，但仍不可忽視人工在行政活動(dòng)當(dāng)中的作用。

（三）從人工裁量到算法決策

數(shù)字技術(shù)的飛速發(fā)展將國家工作人員從大量繁雜的行政任務(wù)中解放出來。對于過去需投入大量人力才能完成的機(jī)械性作業(yè)，如今行政機(jī)關(guān)借助算法技術(shù)就能夠完成，甚至在某些領(lǐng)域運(yùn)用算法決策完全替代人工裁量，幾乎實(shí)現(xiàn)完全意義上的算法行政。例如，美國阿肯色州衛(wèi)生部門就利用算法系統(tǒng)的自主分析來完成醫(yī)療資源的分配。有國家已經(jīng)以立法的形式確定了在行政活動(dòng)中運(yùn)用算法決策的行為。如德國《聯(lián)邦行政程序法》在2017 年修改時(shí)規(guī)定了完全自動(dòng)化行為。算法決策給行政活動(dòng)帶來了許多便利，但需要注意的是，算法運(yùn)作可在無人工干預(yù)下做出決策，即便是算法輔助決策，決策者往往也對算法的技術(shù)理性存在較高的依賴性。若算法的運(yùn)用在權(quán)利分配的過程當(dāng)中起到了決定作用，則此時(shí)的算法已成為某種意義上的權(quán)力主體⑥參見雷剛：《數(shù)字政府時(shí)代的算法行政：形成邏輯、內(nèi)涵要義及實(shí)踐理路》，載《 電子政務(wù)》2023 年第8 期，第73-89 頁。。

“在技術(shù)自主的維度下，以工具性、自主性和主體性作為判斷標(biāo)準(zhǔn)，可以將算法行政劃分為算法輔助行政、半自動(dòng)化算法行政和全自動(dòng)化算法行政，隨之對應(yīng)的‘人機(jī)關(guān)系’也是有差異的?！雹邊⒁娗白ⅱ?，雷剛文，第73-89 頁。算法輔助行政為一種“去人格化”的存在，其運(yùn)作方式如傳送帶一般將原始材料通過算法轉(zhuǎn)碼處理后再交由人工決斷。就其運(yùn)用而言，可對算法邏輯進(jìn)行預(yù)設(shè)，使其抓取特定人群的特定種類信息，并進(jìn)一步推導(dǎo)出該類特定人員的心理意愿，從而給行政決策提供有價(jià)值的參考信息⑧杜昕怡、肖澤晟：《人工智能算法輔助行政決策的法治風(fēng)險(xiǎn)及其化解路徑》，載《學(xué)習(xí)論壇》2023 年第3 期，第122-130 頁。。半自動(dòng)化的算法行政則出現(xiàn)一種“人機(jī)共治”的情形。此時(shí)的算法運(yùn)行不再是人工決策的替代運(yùn)行，而是起到建議、提示及預(yù)測作用的專家。“隨著技術(shù)的不斷發(fā)展和迭代，我們可以預(yù)期機(jī)器學(xué)習(xí)算法將用于政府部門做出更多的定性評估、建議和指導(dǎo)，甚至可能是評估性行政決定?！雹釓垵骸蹲詣?dòng)化行政對行政程序的挑戰(zhàn)及其制度因應(yīng)》，載《華中科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2022 年第5 期，第60-69+89 頁。全自動(dòng)化算法行政即為技術(shù)理性占據(jù)主導(dǎo)地位的行政活動(dòng)方式，此時(shí)需特別注意算法的運(yùn)作邏輯，以防止“算法官僚”現(xiàn)象的出現(xiàn)，從而造成算法歧視等不公正的社會(huì)問題。

二、算法行政對行政正當(dāng)程序的沖擊

“權(quán)力行使高效化，權(quán)利保障卻邊緣化?！雹庵芪那澹骸哆^程論視野下自動(dòng)化行政行為的司法審查——以道路交通非現(xiàn)場執(zhí)法時(shí)空情境分析為視角》，載《行政法學(xué)研究》第2022 第1 期，第105-118 頁。數(shù)字技術(shù)的持續(xù)更新?lián)Q代使得算法行政廣泛應(yīng)用于行政活動(dòng)之中，行政方式出現(xiàn)變革式的轉(zhuǎn)變，但與此同時(shí)，算法裁量代替人工決策卻無法完全掌握復(fù)雜的人類社會(huì)的語言。發(fā)揮到極致的技術(shù)理性固然能夠羈束行政權(quán)力的任意性，但卻無法匹配傳統(tǒng)行政活動(dòng)的溝通理性，隨之而來的便是算法行政與傳統(tǒng)行政程序的不兼容。

（一）算法的不透明性及專業(yè)性沖擊行政公開原則

行政公開是為成就公民對行政事務(wù)的知情權(quán)和參與權(quán)而對行政機(jī)關(guān)施加的義務(wù)。行政公開原則要求行政權(quán)力的運(yùn)行邏輯、行使過程及結(jié)果向公眾公開，并能夠使公眾理解。然而，在算法行政的背景下，算法成為行政權(quán)力運(yùn)行的主體，算法的運(yùn)行邏輯通常不會(huì)被公開，即便是公開，由于算法的專業(yè)性，一般人幾乎不可能理解算法的運(yùn)行邏輯，就更談不上像在傳統(tǒng)行政活動(dòng)中一樣行使自己的程序性權(quán)利。

算法的不透明性基于其具有商業(yè)秘密的屬性，且可能涉及對個(gè)人隱私的侵犯。算法行政的關(guān)鍵技術(shù)前提是符合預(yù)期目的的算法系統(tǒng)。然而，當(dāng)前僅憑行政機(jī)關(guān)自身的專業(yè)技術(shù)和能力還遠(yuǎn)遠(yuǎn)無法滿足所有行政領(lǐng)域的自動(dòng)化活動(dòng)。因此，目前的算法開發(fā)及部署主要還是通過公私合作的方式來實(shí)現(xiàn)的?參見王懷勇、鄧若翰：《算法行政：現(xiàn)實(shí)挑戰(zhàn)與法律應(yīng)對》，載《行政法學(xué)研究》2022 年第4 期，第104-118 頁。。2022 年，在智搜公司訴光速蝸牛公司等侵犯商業(yè)秘密糾紛案中，深圳市中級(jí)人民法院將模型選擇優(yōu)化形成的核心算法認(rèn)定為商業(yè)秘密予以保護(hù)。該案作為我國首例將算法認(rèn)定成商業(yè)秘密予以保護(hù)的案例，進(jìn)一步明確了算法的商業(yè)秘密屬性。對于企業(yè)來說，算法具有重要的商業(yè)價(jià)值，若將其運(yùn)行邏輯及基本架構(gòu)公開，使其暴露在競爭對手的視線之中，則極其不利。因此，作為企業(yè)方?jīng)]有理由公開其制定的算法，而陷于技術(shù)困境的行政機(jī)關(guān)即便想公開算法，又不得不考慮對合作企業(yè)方商業(yè)秘密的保護(hù)。此外，公開算法可能涉及公民知情權(quán)和隱私權(quán)之間的博弈。算法的運(yùn)作需要大量的數(shù)據(jù)輸入，其模型架構(gòu)中可能包含大量的公民的個(gè)人信息。也就是說，將算法公開或造成公民個(gè)人信息的集體披露，而公民的信息群又構(gòu)成一種公共利益，行政機(jī)關(guān)將陷入兩種公共利益之間取舍的困境，使其不得不更加審慎地考慮。

算法的專業(yè)性導(dǎo)致即便算法得以公開，行政相對人的知情權(quán)仍得不到落實(shí)。算法的技術(shù)構(gòu)造包括輸入端、技術(shù)程序?qū)蛹拜敵龆恕Ｕw而言，算法運(yùn)行過程涉及大量的數(shù)據(jù)信息及精密的分析方法，并且以計(jì)算機(jī)語言的形式呈現(xiàn)。因此，對于大多數(shù)人來說算法行政就是難以理解的技術(shù)“黑箱”。盡管早在2017 年《新一代人工智能發(fā)展規(guī)劃》中指出要“實(shí)現(xiàn)對人工智能算法設(shè)計(jì)等程序的全流程監(jiān)管”，但對于受數(shù)字素養(yǎng)限制而被排除在算法“黑箱”之外的普通民眾而言也僅是泛泛而談。“算法黑箱的存在使得算法漏洞、算法缺陷得以隱藏，一旦算法在數(shù)據(jù)、模型、方法等方面出現(xiàn)問題，算法應(yīng)用結(jié)果將會(huì)與應(yīng)用目標(biāo)相悖。”?譚九生、范曉韻：《算法“黑箱”的成因、風(fēng)險(xiǎn)及其治理》，載《湖南科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2020 年第6 期，第92-99 頁。因此，在算法所營造的隱秘空間內(nèi)，相對人缺乏算法的知識(shí)譜系，逐漸喪失原有的知情權(quán)所要求的心理能力，也就難以判斷行政主體是否仍在遵循普遍已知的和通常理解的行政權(quán)力行使規(guī)范?參見程關(guān)松、苗運(yùn)衛(wèi)：《相對人參與算法行政的困境與出路》，載《東南法學(xué)》2021 年第2 期，第43-57 頁。。

（二）算法歧視撼動(dòng)行政公正原則

行政公正要求行政機(jī)關(guān)在行政權(quán)力行使的全過程中平等對待每一個(gè)相對人，不論其身份、民族、性別和宗教等。行政公正原則的邏輯起點(diǎn)在于行政機(jī)關(guān)在行使公權(quán)力時(shí)享有自由裁量權(quán)，但該自由裁量權(quán)要受到正義與道德倫理的限制。算法時(shí)代的到來，使得部分自由裁量權(quán)轉(zhuǎn)交由算法行使。算法行政的預(yù)設(shè)目的是提升行政效率，運(yùn)用非情感導(dǎo)向的數(shù)字處理技術(shù)來減輕過多的行政負(fù)擔(dān)。因此，技術(shù)中立的算法被認(rèn)為在行政決策中是比行政人員更為公正的存在。然而，實(shí)踐卻證明即使是沒有感情的算法，同樣也存在歧視與偏見。例如，臉書（Facebook）的廣告管理系統(tǒng)（Ads Manager）傾向性地向某種特定性別或特定種族群體投放特定的廣告。

算法歧視的產(chǎn)生有多重原因。一是算法設(shè)計(jì)者本身的偏見。算法的數(shù)據(jù)處理邏輯歸根結(jié)底由人輸入。因此，在算法設(shè)計(jì)者設(shè)計(jì)算法時(shí)就存在將其本身的偏見植入算法當(dāng)中。帶有偏見的算法用歧視的角度處理行政過程，那么行政結(jié)果往往也難以得到保障。但又由于算法的技術(shù)隱秘性，此種算法歧視又難以發(fā)現(xiàn)。二是數(shù)據(jù)偏差。行政決策的作出需要適量的數(shù)據(jù)“喂養(yǎng)”。基于機(jī)器學(xué)習(xí)系統(tǒng)，在接收大量數(shù)據(jù)之后會(huì)形成對特定事件處理的特定模式。如此一來，未被數(shù)據(jù)采樣的部分可能會(huì)被無差別地適用到既有的特定模式當(dāng)中，成為被歧視的對象。當(dāng)前的算法缺少嚴(yán)格的數(shù)據(jù)過濾及篩選的功能，歧視性的數(shù)據(jù)信息往往無法被提前識(shí)別或抹除，反而進(jìn)一步出現(xiàn)在多種交互性場合，這將導(dǎo)致更加嚴(yán)重的算法歧視問題?參見朱寶麗：《數(shù)據(jù)正義、算法歧視與規(guī)制》，載《征信》2023 年第3 期，第8-12 頁。。三是算法學(xué)習(xí)產(chǎn)生的偏見。對于機(jī)器自主學(xué)習(xí)的算法，其深度有時(shí)設(shè)計(jì)者自身都無法預(yù)估。算法具有技術(shù)中立性，而人類社會(huì)卻充滿著傲慢與偏見。如果不對機(jī)器學(xué)習(xí)過程加以嚴(yán)格的監(jiān)控和把關(guān)，其發(fā)展到何種程度是難以預(yù)估的。據(jù)法國BFMTV 報(bào)道，ChatGPT 被人類“挑戰(zhàn)權(quán)威”時(shí)，不僅會(huì)生氣，甚至?xí)鲅晕耆栌脩?參見《ChatGPT“學(xué)壞了？“虛擬朋友”發(fā)飆罵人、還性騷擾！歐盟即將立法監(jiān)管》，載網(wǎng)易網(wǎng)，https：//www.163.com/dy/article/HTSQN1360514BTOD.html，2023 年6 月27 日訪問。。

任何技術(shù)都無法保證自身的絕對穩(wěn)定，算法基于其本身的技術(shù)缺陷導(dǎo)致其無法在所有行政決策中都做到公正對待。算法歧視必然造成個(gè)案的不公，每一個(gè)具體個(gè)案的不公通過疊加會(huì)導(dǎo)致群體的不公，亦會(huì)增加社會(huì)的不穩(wěn)定因素?參見崔冬、楊兆圓：《自動(dòng)化行政對行政正當(dāng)程序的挑戰(zhàn)與對策》，載《寶雞文理學(xué)院學(xué)報(bào)（社會(huì)科學(xué)版）》2023年第2 期，第43-49 頁。。故此，算法歧視對行政公正造成的動(dòng)搖問題亟待解決。

（三）算法的封閉性動(dòng)搖行政參與原則

行政參與原則是民主原則在行政法中的體現(xiàn)，旨在行政相對人能在行政決策中施加影響力，對行政行為進(jìn)行監(jiān)督，對于不正當(dāng)?shù)暮蠊枰约m正。隨著民主思想深入人心及行政觀念的轉(zhuǎn)變，政府的職能與地位發(fā)生轉(zhuǎn)變，政府不再僅是管理者，而且還是服務(wù)者。行政權(quán)力的強(qiáng)制屬性慢慢地被合作治理理念所柔性化。而在行政權(quán)行使中貫徹合作要素的關(guān)鍵便是切實(shí)地保障行政相對人的行政參與權(quán)。行政參與的關(guān)鍵要素是政府與相對人的雙向互動(dòng)。相對人“合理期待”的實(shí)現(xiàn)需通過參與行政過程， 行政決策中相對人參與權(quán)的行使是一個(gè)利益整合與協(xié)調(diào)過程， 而這個(gè)過程必然是在行政機(jī)關(guān)和相對人的良性互動(dòng)中實(shí)現(xiàn)的?參見王學(xué)輝、王亞棟：《行政法治中實(shí)質(zhì)性公眾參與的界定與構(gòu)建》，載《法治研究》2019 年第2 期，第50-59 頁。。行政相對人在行政過程中提出陳述、進(jìn)行辯論是行政機(jī)關(guān)和相對人實(shí)現(xiàn)良性互動(dòng)最為重要的方式。行政相對人在行政機(jī)關(guān)作出行政決策（尤其是對自身不利的行政決策）中表達(dá)意見，形成約束行政權(quán)力濫用可能性的外在力量，從而提升行政決策的透明度、公正性和接受度?參見前注?，程關(guān)松、苗運(yùn)衛(wèi)文，第43-57 頁。。

在傳統(tǒng)的行政活動(dòng)當(dāng)中，行政機(jī)關(guān)在作出行政決策前應(yīng)當(dāng)聽取行政相對人的意見，通常是行政機(jī)關(guān)的工作人員與行政相對人之間的當(dāng)面交談或是書面形式進(jìn)行。而基于算法決策的自動(dòng)化行政方式，由于其機(jī)械計(jì)算的瞬時(shí)性，行政過程通常是輸入數(shù)據(jù)——分析數(shù)據(jù)——輸出結(jié)果的無縫銜接閉環(huán)，導(dǎo)致相對人無法在行政決策中發(fā)表意見。此外，行政機(jī)關(guān)在傳統(tǒng)行政過程中的說明理由義務(wù)往往也會(huì)因算法不具備可解釋性而大打折扣。因此，在行政決策中，算法總是掌握著話語主導(dǎo)權(quán)，相對人的參與權(quán)存在被架空的風(fēng)險(xiǎn)。盡管算法加持的自動(dòng)化行政方式在諸多方面給行政機(jī)關(guān)及相對人帶來便捷，但人類情感的復(fù)雜性注定使人機(jī)互動(dòng)在某些方面無法替代人與人之間的互動(dòng)。

三、算法行政的程序保障完善路徑

在便利與風(fēng)險(xiǎn)并存的算法時(shí)代，必須時(shí)刻關(guān)注著公民的權(quán)利在時(shí)代洪流中是否得到彰顯。算法行政對行政正當(dāng)程序原則帶來的沖擊伴隨著的是行政相對人程序權(quán)利的缺失。因此，為完善算法行政的程序保障，彌補(bǔ)行政相對人程序權(quán)利的缺失，有必要通過增強(qiáng)算法行政透明程度，限制算法行政裁量空間及開放算法行政全過程以改進(jìn)算法行政的程序路徑。

（一）增強(qiáng)算法行政透明程度落實(shí)行政公開

1.構(gòu)建算法披露機(jī)制增強(qiáng)算法的透明度。算法披露機(jī)制是指行政機(jī)關(guān)將算法的邏輯結(jié)構(gòu)以自然語言的形式進(jìn)行有意義的披露，使行政相對人知曉算法在行政活動(dòng)中進(jìn)行決策的依據(jù)，以增強(qiáng)算法透明度的機(jī)制。透明化的行政活動(dòng)是公民參與合作治理的前提與基礎(chǔ)。將算法進(jìn)行有意義的披露可以達(dá)到行政公開原則的要求，使相對人的知情權(quán)得到保障。有意義的算法披露不是簡單地將代碼與數(shù)據(jù)公開，而是要達(dá)到相對人知悉的程度，因此算法披露需達(dá)到一定的技術(shù)性標(biāo)準(zhǔn)。2021 年9 月29 日，國家網(wǎng)信辦等九部委聯(lián)合制定的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》中強(qiáng)調(diào)了算法自動(dòng)化決策的披露要求，要求引導(dǎo)算法應(yīng)用公平公正，透明可釋，但文件當(dāng)中大多是原則性的要求。因此，目前我國的算法披露機(jī)制仍缺乏具體可操作性的規(guī)定。對此，應(yīng)盡快明確算法披露的標(biāo)準(zhǔn)化技術(shù)規(guī)定。“算法具體透明要求在算法‘透明可釋’原則基礎(chǔ)上，對算法的運(yùn)行邏輯、運(yùn)行結(jié)果、算法參數(shù)和影響因子等予以公開?！?靳雨露：《算法披露的域外經(jīng)驗(yàn)與啟示》，載《情報(bào)雜志》2022 年第7 期，第91-99 頁。對于算法行政而言，算法披露的內(nèi)容至少應(yīng)當(dāng)包括算法的法律授權(quán)、技術(shù)規(guī)范、預(yù)期目標(biāo)、適用范圍、對行政相對人及利害關(guān)系人可能造成的不利后果及算法合理性評估過程等。

2.構(gòu)建算法解釋機(jī)制增強(qiáng)算法的可釋義性?！吨腥A人民共和國個(gè)人信息保護(hù)法》（以下簡稱《個(gè)人信息保護(hù)法》）第48 條規(guī)定：“個(gè)人有權(quán)要求個(gè)人信息處理者對其個(gè)人信息處理規(guī)則進(jìn)行解釋說明?！边@是個(gè)人信息保護(hù)領(lǐng)域?yàn)榱舜_保公民能夠理解個(gè)人信息處理規(guī)則所設(shè)定的應(yīng)對措施。因?yàn)榧幢阍谝?guī)則公開的情況下（即便已轉(zhuǎn)化為自然語言），公民也有可能不能準(zhǔn)確地把握其含義，這時(shí)就需要對規(guī)則進(jìn)行解釋說明。因此，只要有專業(yè)性的算法處理存在的領(lǐng)域，就存在即使公開規(guī)則卻仍然無法理解的情況，而在算法行政領(lǐng)域，亦是如此。在傳統(tǒng)行政中，行政機(jī)關(guān)對行政相對人作出不利決定時(shí)，行政相對人通常可要求行政機(jī)關(guān)作出解釋。因此，可借鑒《個(gè)人信息保護(hù)法》第48條的規(guī)定，在算法行政中引入算法解釋機(jī)制，以確保算法公開能落到實(shí)處。算法解釋機(jī)制遵循著以權(quán)利制約權(quán)力的邏輯，是矯正信息不對稱，促進(jìn)平等、正義價(jià)值實(shí)現(xiàn)的工具?參見何新新：《算法解釋權(quán)的證成與限定》，載《大連理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023 年第3 期，第65-73 頁。。算法解釋機(jī)制主要包括解釋主體、解釋內(nèi)容及解釋標(biāo)準(zhǔn)三個(gè)方面。在解釋主體方面，鑒于行政機(jī)關(guān)的算法技術(shù)支持通常來源于第三方企業(yè)，因此算法解釋主體應(yīng)包括行政主體及算法開發(fā)主體，如此一來，可預(yù)防算法開發(fā)主體只管開發(fā)、逃逸責(zé)任的情況。在解釋內(nèi)容方面，結(jié)合前述算法披露的內(nèi)容，算法開發(fā)主體應(yīng)對數(shù)據(jù)的收集和使用、算法設(shè)計(jì)的基本原理、算法程序運(yùn)行目的、原理以及算法標(biāo)準(zhǔn)等技術(shù)規(guī)范作出解釋，而行政機(jī)關(guān)則對算法決策的法律依據(jù)進(jìn)行解釋，以求消除算法規(guī)則的歧義，增強(qiáng)相對人的可接受性。在解釋標(biāo)準(zhǔn)方面，歐盟《一般數(shù)據(jù)保護(hù)條例》中提出的“向數(shù)據(jù)主體提供與算法邏輯相關(guān)的有意義信息”?胡嘉妮、葛明瑜譯：歐盟《一般數(shù)據(jù)保護(hù)條例》，載《互聯(lián)網(wǎng)金融法律評論》2017 年第1 期，第28-120 頁。可為算法解釋機(jī)制提供借鑒。行政相對人對算法決策規(guī)則提出解釋要求時(shí)，通常是在算法行政可能侵害其合法權(quán)益的情況?；诖耍坝幸饬x的信息”至少是與行政相對人合法權(quán)益相關(guān)的。除此之外，還要保證算法解釋的可理解性與可接受性。

（二）限制算法行政裁量空間保障行政公正

1.確保算法裁量正當(dāng)保障整體公正。根據(jù)算法決策系統(tǒng)的自動(dòng)化程度的不同，可將其分為基于規(guī)則的專家系統(tǒng)與基于機(jī)器學(xué)習(xí)的算法系統(tǒng)?See Monika Zalnieriute, lyria Bennett Moses ＆ George Williams, The Rule of Law and Automation of Government Decisionmaking, The modern law review, Vol.3, p.425-455（2019）.?；谝?guī)則的專家系統(tǒng)將數(shù)據(jù)輸入預(yù)先設(shè)定的規(guī)則并得出結(jié)果，其基本的邏輯形式是“如果—那么”邏輯。例如樂山市城管局自助開發(fā)的“智能評判系統(tǒng)”對違法行為26 個(gè)裁量基準(zhǔn)因素和減輕從輕處罰11 個(gè)判別因素進(jìn)行識(shí)別、統(tǒng)計(jì)、疊加，最終得出違法程度和處罰階次?參見《首創(chuàng)！市城管局建設(shè)行政處罰裁量智能評判系統(tǒng)上線！》，載樂山市人民政府網(wǎng)，https：//www.leshan.gov.cn/lsswszf/bmdtthr/202304/23238315c0774f14b1f4e098a7fbf64e.shtml，2023 年6 月27 日訪問。。為排除基于規(guī)則的專家系統(tǒng)的算法歧視，保障行政公正，應(yīng)當(dāng)對預(yù)設(shè)規(guī)則——即行政裁量基準(zhǔn)進(jìn)行規(guī)制。首先，要評估裁量基準(zhǔn)的合理性，審查其規(guī)范邏輯是否存在偏見的前提。其次，要盡可能地將裁量基準(zhǔn)細(xì)化，以追求結(jié)果一致性，保證同案同判。基于機(jī)器學(xué)習(xí)的算法系統(tǒng)并不是人工預(yù)先輸入的固定程序及范式，而是對海量數(shù)據(jù)的發(fā)掘再據(jù)此作出決斷?；跈C(jī)器學(xué)習(xí)的算法系統(tǒng)“不僅可以完成效果裁量，尚可以不斷完善、充實(shí)裁量規(guī)則，尋求最優(yōu)的裁量結(jié)果”?王正鑫：《機(jī)器何以裁量：行政處罰裁量自動(dòng)化及其風(fēng)險(xiǎn)控制》，載《行政法學(xué)研究》2022 年第2 期，第166-176 頁。。能夠不斷自我更新完善是基于機(jī)器學(xué)習(xí)的算法系統(tǒng)的優(yōu)勢所在，但同時(shí)也會(huì)因決策能力的發(fā)展而導(dǎo)致決策結(jié)果沖出正當(dāng)邊界。對此，應(yīng)當(dāng)引入對基于機(jī)器學(xué)習(xí)的算法系統(tǒng)的專家審查機(jī)制，深入持續(xù)跟蹤算法系統(tǒng)，及時(shí)發(fā)現(xiàn)其缺陷并進(jìn)行修正。

2.健全人工干預(yù)機(jī)制保障個(gè)案公正。行使行政裁量權(quán)時(shí)，需在事實(shí)與規(guī)范之間不斷地審視，結(jié)合個(gè)人的特殊情況進(jìn)行衡平，而算法決策實(shí)難做到這點(diǎn)。無論是基于規(guī)則的專家系統(tǒng)還是基于機(jī)器學(xué)習(xí)的算法系統(tǒng)，因其關(guān)注點(diǎn)是既定的規(guī)則或過去的數(shù)據(jù)，故審視“未來的”案件時(shí)很可能帶入先驗(yàn)的偏見導(dǎo)致無法保障個(gè)案公正。換言之，在算法自動(dòng)化裁量過程中，算法無法在無數(shù)個(gè)差異的個(gè)案當(dāng)中靈活變通，也難以總結(jié)出新的經(jīng)驗(yàn)保障下一個(gè)個(gè)案的公正解決。因此，“需要建立系統(tǒng)裁量偏差的預(yù)警識(shí)別機(jī)制以及特定情形下的人工介入機(jī)制”?杜昕怡、肖澤晟：《人工智能算法輔助行政決策的法治風(fēng)險(xiǎn)及其化解路徑》，載《學(xué)習(xí)論壇》2023 年第3 期，第122-130 頁。。首先，要塑造服務(wù)行政的理念。在我國算法行政運(yùn)行的過程中人工干預(yù)機(jī)制之所以長期缺位，與對待算法行政的理念存有偏差不無關(guān)系?施立棟：《自動(dòng)化行政中的人工干預(yù)機(jī)制：以公安領(lǐng)域?yàn)槔罚d《中國社會(huì)科學(xué)院大學(xué)學(xué)報(bào)》2022 年第6 期，第83-99+165 頁。。若不塑造服務(wù)行政的理念，算法行政的技術(shù)理性只會(huì)侵蝕行政公開，僅僅將行政相對人當(dāng)作“流水線”上的處理對象對待。其次，要開發(fā)切實(shí)可行的系統(tǒng)裁量偏差預(yù)警識(shí)別技術(shù)。例如，可建立類案偏差預(yù)警機(jī)制。當(dāng)算法行政對個(gè)案作出嚴(yán)重偏離類案結(jié)果一致性的裁斷時(shí)，則可提示人工介入。最后，要賦予行政機(jī)關(guān)主動(dòng)介入人工干預(yù)算法決策的權(quán)限。使算法裁量發(fā)生偏差時(shí)，行政機(jī)關(guān)工作人員享有介入、撤回及修正的權(quán)限，視具體情況進(jìn)行靈活處理。

（三）開放算法行政全過程確保行政參與

公眾參與是民主政治中不可或缺的范疇。在任一行政法治政府作出重大決策之前，都將通過充分的公眾參與以保證潛在的利益相關(guān)團(tuán)體的發(fā)言權(quán)，從而使其作出的行政決策更具科學(xué)性及有效性。算法行政實(shí)質(zhì)上也是權(quán)力裁量的過程?；谒惴夹g(shù)的不斷更迭導(dǎo)致其將擴(kuò)充至更多重要的公共行政領(lǐng)域，有必要在算法行政全過程中確保公眾的行政參與。

1.在算法行政啟動(dòng)階段引入公眾參與。算法行政啟動(dòng)的物質(zhì)前提是具有能夠承載算法的自動(dòng)化設(shè)備。自動(dòng)化設(shè)備不同于政府機(jī)關(guān)采購的其他商品或服務(wù)，它將顛覆式地變更政府行政活動(dòng)的方式，以代替人工的形式跨越內(nèi)部直接影響到行政相對人的合法權(quán)益?參見關(guān)保英、汪駿良：《行政處罰中自動(dòng)化方式適用的程序控制構(gòu)建》，載《青海社會(huì)科學(xué)》2021 年第6 期，第150-159 頁。。除此之外，若自動(dòng)化設(shè)備投入后，出現(xiàn)算法運(yùn)算錯(cuò)誤對行政相對人權(quán)益造成減損的情況，基于其計(jì)算過程的瞬時(shí)性，行政相對人將難以參與其中。故此，有必要在算法自動(dòng)化設(shè)備采購環(huán)節(jié)中引入公眾參與機(jī)制。具體而言，可要求行政機(jī)關(guān)在設(shè)備選擇環(huán)節(jié)公開自動(dòng)化設(shè)備的參數(shù)、性能特點(diǎn)以及可能對行政相對人權(quán)益造成的正面或負(fù)面的影響等因素，公眾可針對行政機(jī)關(guān)公開的內(nèi)容進(jìn)行問詢和質(zhì)疑，行政機(jī)關(guān)應(yīng)當(dāng)對此作出答復(fù)。

2.在算法行政運(yùn)行階段引入公眾參與。欲破解算法代替人工作出行政決定具有瞬時(shí)性導(dǎo)致行政相對人難以參與行政過程的困境，就要特別注重行政相對人對行政過程參與權(quán)的保障。第一，為避免算法自動(dòng)化行政行為直接作用于行政相對人的權(quán)利義務(wù)，應(yīng)確保算法決策的有效告知。有效告知的標(biāo)準(zhǔn)應(yīng)包括告知內(nèi)容全面、告知時(shí)限及時(shí)和告知方式合理等。首先，告知內(nèi)容全面要求告知的內(nèi)容不僅包括行政決定事實(shí)認(rèn)定與法律依據(jù)，還應(yīng)包括作出行政決定的算法邏輯。如此一來，不僅可以確保行政相對人在行政決定中的具體程序權(quán)利，還可強(qiáng)化其對算法決策本身的抽象性監(jiān)督。其次，告知時(shí)限及時(shí)要求算法在行政決定特別是損益性行政決定生效前要切實(shí)地通知行政相對人，允許行政相對人與算法權(quán)力主體商榷，否則行政相對人的后續(xù)參與就無法發(fā)揮實(shí)質(zhì)作用。最后，告知方式合理要求采用能夠切實(shí)送達(dá)行政相對人的告知方式。行政機(jī)關(guān)應(yīng)考慮不同行政相對人的數(shù)字素養(yǎng)，采用電子送達(dá)形式時(shí)要預(yù)先取得同意，且采取告知之后確保行政相對人已收悉的措施。第二，要保障行政相對人陳述與申辯的權(quán)利。當(dāng)前的人工智能技術(shù)盡管能夠做到與人類進(jìn)行對話交流的程度，但其終究沒有人類的情感，無法考慮到個(gè)案中的衡平因素。故此，欲保障行政相對人的陳述與申辯的權(quán)利，雙向交流論證環(huán)節(jié)仍需回歸傳統(tǒng)行政的方式。對此，可設(shè)置人工客服，以此保證行政機(jī)關(guān)與相對人的有效交流。

3.在算法行政反思階段引入公眾參與?！叭绻f算法透明度和可解釋性的要求是以過程控制結(jié)果的機(jī)制設(shè)計(jì)的話，那么算法影響評估機(jī)制則是典型的‘過程+結(jié)果’ 控制型制度工具”?郭春鎮(zhèn)、勇琪：《算法的程序正義》，載《中國政法大學(xué)學(xué)報(bào)》2023 第1 期，第164-180 頁。。算法影響評估機(jī)制在結(jié)果上對算法行政運(yùn)作過程進(jìn)行風(fēng)險(xiǎn)把控，并以此作為改進(jìn)的前提，是算法行政最后環(huán)節(jié)中的重要反思機(jī)制。而社會(huì)公眾作為算法自動(dòng)化行政的最終承受者，來自他們的反饋信息是算法優(yōu)化與改進(jìn)的重要依據(jù)?張紅春、宋洪：《從排斥到包容公眾：參與式政府算法治理的邏輯與進(jìn)路》，載《貴州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023 年第2 期，第33-44 頁。。首先，可通過公眾調(diào)查的形式吸收公眾意見。數(shù)字化背景下的公眾調(diào)查可采取線上問卷、線上留言以及意見征集等多種方式，其既具有較低的實(shí)施成本與公眾參與成本，又可廣泛收集公眾意見。基于公眾調(diào)查的隨機(jī)性與廣泛性，行政機(jī)關(guān)可接收到較為全面的算法行政的反饋信息。其次，可通過聽證的形式加強(qiáng)政民雙向交流。聽證是較為高效的雙向交流形式?？捎嗅槍π缘匮埶惴ㄐ姓嫦嚓P(guān)團(tuán)體參與聽證，長期與某一領(lǐng)域算法行政打交道的群體往往能提出建設(shè)性的改進(jìn)意見。