□胡敏潔

（浙江大學(xué)光華法學(xué)院，浙江杭州310008）

引言

自動(dòng)化行政被日漸廣泛運(yùn)用于行政領(lǐng)域之中，它具有使行政決定更為精確、一致，以及節(jié)約成本并有助于成本收益，減少行政官員任意用權(quán)等優(yōu)點(diǎn)，但同時(shí)也可能帶來諸多問題，如破壞正當(dāng)程序、產(chǎn)生算法黑箱等[1]。例如，2018年，杭州某公民參加了小客車指標(biāo)搖號，并于2019年6月獲得了指標(biāo)，但由于未接到通知，直到2020年指標(biāo)已過期時(shí)才發(fā)現(xiàn)。根據(jù)《杭州市小客車總量調(diào)控管理規(guī)定》第46條規(guī)定，逾期未使用的，視為放棄指標(biāo)，自有效期屆滿次日起，兩年內(nèi)不得申請?jiān)隽恐笜?biāo)。該情形實(shí)際上是由于系統(tǒng)發(fā)送失敗，導(dǎo)致該公民未獲得相關(guān)短信。面對此種情況，該行政相對人如何才能獲得相應(yīng)救濟(jì)？再如，2014年最高人民法院發(fā)布的指導(dǎo)案例26號“李健雄訴廣東省交通運(yùn)輸廳政府信息公開案”。原告于2011年6月1日通過廣東省人民政府網(wǎng)絡(luò)系統(tǒng)向被告廣東省交通運(yùn)輸廳提出政府信息公開申請，根據(jù)《中華人民共和國政府信息公開條例》規(guī)定，被告應(yīng)在當(dāng)月23日前答復(fù)原告，但被告未在法定期限內(nèi)答復(fù)及提供所申請的政府信息，故原告請求法院判決確認(rèn)被告未在法定期限內(nèi)答復(fù)的行為違法；而被告廣東省交通運(yùn)輸廳辯稱，由于外網(wǎng)進(jìn)入內(nèi)網(wǎng)數(shù)據(jù)處理需要一定的時(shí)間，致使被告未能收到，進(jìn)而未能及時(shí)受理申請①“李健雄訴廣東省交通運(yùn)輸廳政府信息公開案”，參見廣東省廣州市越秀區(qū)人民法院一審行政判決書(2011)越法行初字第252號。。此案中公民是按照要求通過政府公眾網(wǎng)絡(luò)提交政府信息公開申請，但如何界定收到政府信息公開申請起算日期？再如，新冠肺炎疫情防控期間，由于某種技術(shù)故障、個(gè)人信息更新不及時(shí)，或者在高鐵途經(jīng)中高風(fēng)險(xiǎn)地區(qū)但乘客未下車的情況下，仍然可能導(dǎo)致健康碼顯示為不合格，相對人又該如何尋求救濟(jì)？可以預(yù)見，諸如此類具有瑕疵的指令在自動(dòng)化行政指令頻繁使用的未來，會(huì)更多地浮出水面。

參考行政行為瑕疵理論，本文所指的自動(dòng)化行政瑕疵指令主要是指基于自動(dòng)化行政中的數(shù)據(jù)來源錯(cuò)誤、算法錯(cuò)誤以及系統(tǒng)錯(cuò)誤等產(chǎn)生的瑕疵，情況嚴(yán)重的情形下也可包括違法的自動(dòng)化指令，如存在歧視、違背公平等瑕疵指令。

由于自動(dòng)化行政很多情形下為“一次性”生成，需要對自動(dòng)化行政中產(chǎn)生的瑕疵指令加以區(qū)分并依不同路徑給予救濟(jì)和保障。本文所探討的問題正集中于此，即對于因自動(dòng)化行政中產(chǎn)生的瑕疵指令所引發(fā)的后果，行政相對人如何獲得相應(yīng)的救濟(jì)。

一、自動(dòng)化行政中瑕疵指令的來源

自動(dòng)化行政中的瑕疵指令來源于多種可能，我們不能僅從其表象來判斷法律責(zé)任或者救濟(jì)措施。這種表象背后所形成的機(jī)理，包括后續(xù)的相應(yīng)救濟(jì)手段各異。

（一）數(shù)據(jù)來源瑕疵

任何一種自動(dòng)化行政都需要搜集數(shù)據(jù)。如果數(shù)據(jù)來源出現(xiàn)問題，那以此得出的結(jié)論則從根本上就是錯(cuò)誤的。例如，健康碼生成過程中，因個(gè)人不慎填寫了錯(cuò)誤數(shù)據(jù)導(dǎo)致紅碼而無法現(xiàn)場修正；再如，信息獲取時(shí)識別錯(cuò)誤，2018年，寧波交警執(zhí)法時(shí)曾通過自動(dòng)化人臉識別系統(tǒng)所搜集的董明珠“違法”信息，實(shí)則為相應(yīng)的車身廣告上的照片，并無真實(shí)違法事件發(fā)生①參見《董明珠闖紅燈被交警公示？人臉識別出錯(cuò)鬧烏龍》，https://baijiahao.baidu.com/s?id=161779451500800089 9&wfr=spider&for=pc.；還有，電子監(jiān)控設(shè)備由于其固有的缺陷，可能會(huì)無法辨識某一時(shí)刻的特定行為所導(dǎo)致的錯(cuò)誤判斷。2020年公安部修改的《道路交通安全違法行為處理程序規(guī)定》②參見公安部關(guān)于修改《道路交通安全違法行為處理程序規(guī)定》（公安部令第157號）。第22條規(guī)定，“交通技術(shù)監(jiān)控設(shè)備記錄或者錄入道路交通違法信息管理系統(tǒng)的違法行為信息，有下列情形之一并經(jīng)核實(shí)的，應(yīng)予以消除：警車、消防車、救護(hù)車、工程救險(xiǎn)車執(zhí)行緊急任務(wù)的；機(jī)動(dòng)車被盜搶期間發(fā)生的；有證據(jù)證明救助危難或者緊急避險(xiǎn)造成的；現(xiàn)場已被交通警察處理的；因交通信號指示不一致造成的；……其他應(yīng)予消除的情形?！被谠摋l所規(guī)定的消除情形進(jìn)行反向思考，也可認(rèn)為，錄入道路交通違法信息管理系統(tǒng)的違法行為信息有可能會(huì)出現(xiàn)與實(shí)際情況不符合的“錯(cuò)誤”情形。

如在“高瑞麗與鄭州市公安局交警十大隊(duì)公安交通處罰案”中，原告年審核驗(yàn)時(shí)，遇到被告以原告車輛有“電子眼”違章記錄為由要求交納罰款，否則不給審車，直到2013年12月11日，原告在被迫交納“電子眼”違章罰款后，車輛才審驗(yàn)③“高瑞麗與鄭州市公安局交警十大隊(duì)公安交通處罰案”，參見河南省鄭州市金水區(qū)人民法院一審行政判決書（2014）金行初字第124號。。該案原告認(rèn)為，被告所采用的電子眼均沒有依法向計(jì)量法規(guī)定的政府計(jì)量監(jiān)督管理部門申請安裝檢定和強(qiáng)制性年度檢驗(yàn)，該“電子眼”的信息作為處罰依據(jù)是不合法的。當(dāng)然，法院最終認(rèn)為《中華人民共和國計(jì)量法》相關(guān)規(guī)定因機(jī)動(dòng)車年檢的行政主體與交通違法處理的行政主體不同，前者為質(zhì)檢部門，后者為交通管理部門；機(jī)動(dòng)車年檢并非作為被告的交管部門的法定職責(zé)，原告所稱的被告濫用職權(quán)沒有依據(jù)。然而，這并不表明“電子眼”即使未經(jīng)年審也不存在合法性的問題，只是在本案中因?yàn)橹黧w不適格，法院未予以認(rèn)定。再如當(dāng)下，公共治理的許多領(lǐng)域都在使用的信用評價(jià)懲戒機(jī)制，信用評價(jià)其實(shí)也是基于各種各樣的數(shù)據(jù)來源，如果這些數(shù)據(jù)本身存在問題，結(jié)果亦然?！渡虾Ｊ嗅t(yī)療衛(wèi)生人員權(quán)益保障辦法》第37條規(guī)定：公安機(jī)關(guān)等應(yīng)當(dāng)依法及時(shí)向市公共信用信息平臺(tái)歸集相關(guān)信息；相關(guān)違法行為輕微或者主動(dòng)消除、減輕違法行為危害后果的，不予歸集；市衛(wèi)生健康主管部門應(yīng)當(dāng)匯總前款規(guī)定的失信信息，及時(shí)推送至醫(yī)療衛(wèi)生機(jī)構(gòu)及醫(yī)療保障機(jī)構(gòu)④參見《上海市醫(yī)療衛(wèi)生人員權(quán)益保障辦法》（上海市人民政府令第40號，2021年3月1日發(fā)布）。。

自動(dòng)化行政縮減了公務(wù)人員的裁量空間，將規(guī)則以電子化形式確定，這在一定程度上有助于行政主體更為理性地處理案件，但也正因?yàn)槠浞浅９潭ê蜋C(jī)械化，導(dǎo)致行政指令過于依賴數(shù)據(jù)反受其制約，從而滋生由數(shù)據(jù)錯(cuò)誤所導(dǎo)致的諸多問題。

（二）算法瑕疵

計(jì)算機(jī)不僅是數(shù)字計(jì)算器，還是數(shù)字和符號處理器。它需要按照一定的規(guī)則進(jìn)行計(jì)算，或者比較擅長計(jì)算以及類似工作[2]，但如果出現(xiàn)了部分指令錯(cuò)誤或者缺損，其最終也會(huì)給出一個(gè)錯(cuò)誤的結(jié)果。例如，健康碼實(shí)施以后，實(shí)際上各地就發(fā)生過很多例由于后臺(tái)信息搜集錯(cuò)誤所導(dǎo)致的非正常變碼案例，因健康碼顯示與實(shí)際不符而申請復(fù)核的人數(shù)僅在上線四天內(nèi)便有三萬余人⑤參見《“杭州健康碼”網(wǎng)絡(luò)復(fù)核通道開通》，杭州新聞網(wǎng)，https://hznews.hangzhou.com.cn/chengshi/content/2020-02/16/content_7677066.htm.。各地在具體信息搜集程序上差異明顯，也存在統(tǒng)一規(guī)范等方面的問題。技術(shù)后臺(tái)基于哪些數(shù)據(jù)比對分析？對各類數(shù)據(jù)如何賦值？在數(shù)據(jù)沖突時(shí)如何處理？如何具體確定風(fēng)險(xiǎn)等級的評定標(biāo)準(zhǔn)以及動(dòng)態(tài)調(diào)整的具體依據(jù)為何？這些由行政機(jī)關(guān)設(shè)定的標(biāo)準(zhǔn)并未被公開[3]。

再如，某個(gè)內(nèi)部系統(tǒng)指令設(shè)計(jì)可能存在問題，因?yàn)榧词棺詈玫某绦蛟O(shè)計(jì)者，都會(huì)存在不足。由于缺乏具有個(gè)案特點(diǎn)的語境，同時(shí)交通違法測速中也需要一些傳統(tǒng)的警察領(lǐng)域知識，算法會(huì)出現(xiàn)一定的瑕疵，包括缺乏適當(dāng)?shù)膫鞲衅鲾?shù)據(jù)或無法處理軟件中的高級認(rèn)知功能[4]。

（三）系統(tǒng)瑕疵

就目前人類所處的智能時(shí)代而言，自動(dòng)化行政所依托的智能系統(tǒng)本身難免具有瑕疵，不能獨(dú)立作出行政決策，典型的如各種道路上所設(shè)置的交通電子化監(jiān)控設(shè)備?！兜缆方煌ò踩`法行為處理程序規(guī)定》第15條規(guī)定，公安機(jī)關(guān)交通管理部門可以利用交通技術(shù)監(jiān)控設(shè)備收集、固定違法行為證據(jù)；交通技術(shù)監(jiān)控設(shè)備應(yīng)當(dāng)符合國家標(biāo)準(zhǔn)或者行業(yè)標(biāo)準(zhǔn)，并經(jīng)國家有關(guān)部門認(rèn)定、檢定合格后，方可用于收集違法行為證據(jù)；交通技術(shù)監(jiān)控設(shè)備應(yīng)當(dāng)定期進(jìn)行維護(hù)、保養(yǎng)、檢測，保持功能完好。在“方毅與金華市公安局交通警察支隊(duì)公安行政管理、道路交通管理二審案”中，上訴人指出，交通技術(shù)監(jiān)控設(shè)備如果不符合法律規(guī)定，就等于這么多年一直在侵犯社會(huì)公眾的巨大合法經(jīng)濟(jì)利益還有安全利益……法律既然規(guī)定了需要對交通技術(shù)監(jiān)控設(shè)備定期維護(hù)、校準(zhǔn)、檢測，交警當(dāng)然必須要依法執(zhí)行①“方毅訴金華市公安局交通警察支隊(duì)公安行政管理、道路交通管理二審行政案”，參見浙江省金華市中級人民法院二審行政判決書（2020）浙07行終字195號。。上訴人的主張雖然較為樸素，但實(shí)際上也生動(dòng)地表明了機(jī)器故障可能會(huì)引發(fā)的問題。當(dāng)然，法院最終認(rèn)為在認(rèn)定違法行為的證據(jù)確實(shí)充分的情況下，是否達(dá)到該技術(shù)規(guī)范要求以及是否提供設(shè)備維護(hù)證據(jù)，并不影響案涉行政處罰合法性的認(rèn)定。

再如，行文之初的最高人民法院指導(dǎo)案例26號中，被告廣東省交通運(yùn)輸廳辯稱：原告申請政府信息公開通過的是廣東省人民政府公眾網(wǎng)絡(luò)系統(tǒng)，即省政府政務(wù)外網(wǎng)（以下簡稱省外網(wǎng)），而非被告的內(nèi)部局域網(wǎng)（以下簡稱廳內(nèi)網(wǎng)）。由于被告的廳內(nèi)網(wǎng)與互聯(lián)網(wǎng)、省外網(wǎng)有物理隔離，互聯(lián)網(wǎng)、省外網(wǎng)數(shù)據(jù)都無法直接進(jìn)入廳內(nèi)網(wǎng)處理，需通過網(wǎng)閘以數(shù)據(jù)“擺渡”方式接入廳內(nèi)網(wǎng)辦理，因此被告工作人員未能立即發(fā)現(xiàn)原告在廣東省人民政府公眾網(wǎng)絡(luò)系統(tǒng)中提交的申請，致使被告未能及時(shí)受理申請。從中我們可以看出，系統(tǒng)故障會(huì)影響信息公開申請的時(shí)間點(diǎn)，也會(huì)對后續(xù)事實(shí)的認(rèn)定產(chǎn)生影響。

二、自動(dòng)化行政中瑕疵指令救濟(jì)的法規(guī)范基礎(chǔ)

自動(dòng)化行政指令以數(shù)據(jù)為基礎(chǔ)，依托于各種計(jì)算機(jī)系統(tǒng)，借助算法進(jìn)而形成某個(gè)規(guī)則、命令。從行政機(jī)關(guān)來看，它替代了各種行政人員的調(diào)查取證，甚至發(fā)展到現(xiàn)在，可以在自動(dòng)收集證據(jù)的基礎(chǔ)上自動(dòng)直接作出行政決定。例如，在“田志鵬訴陜西省西安市公安局站前分局行政處罰糾紛案”中，西安市公安局交通警察支隊(duì)設(shè)立了道路交通違法自助繳納系統(tǒng)。田志鵬因在交警大廳處理違章時(shí)，沒有出具簡易程序《處罰決定書》，違反了《道路交通安全法》中關(guān)于處罰程序的規(guī)定，請求依法撤銷行政處罰決定②“田志鵬訴陜西省西安市公安局站前分局行政處罰糾紛案”，參見西安鐵路運(yùn)輸法院一審行政判決書（2017）陜7102行初1115號。。這種自動(dòng)化行政是否還須遵循傳統(tǒng)的行政程序法要求？相應(yīng)的后續(xù)救濟(jì)措施應(yīng)當(dāng)為何？這便是對自動(dòng)化行政帶來的瑕疵指令所應(yīng)當(dāng)考慮的法規(guī)范基礎(chǔ)。

（一）自動(dòng)化行政中瑕疵指令的實(shí)質(zhì)

相對于傳統(tǒng)行政而言，自動(dòng)化行政最直觀的特征是，自動(dòng)化行政指令一般是電子化的，而我們傳統(tǒng)的行政活動(dòng)方式以及決定常常強(qiáng)調(diào)書面、正式等要求，即所謂的要式行政行為；僅僅對于一些緊急情況或者行為內(nèi)容較為簡單的情形，可能采用非要式行政行為方式。這是形式意義上的差別，而從實(shí)質(zhì)比較來看，自動(dòng)化行政指令易出現(xiàn)瑕疵，至少有如下兩個(gè)方面：

1.縮減裁量：自動(dòng)化行政縮減了行政機(jī)關(guān)工作人員的裁量空間。依靠指令，這種裁量成為了機(jī)械化的規(guī)則制定，裁量中須考量的相關(guān)因素可以通過系統(tǒng)事先的設(shè)定輸入，不需要考量的相關(guān)因素則事先被剔除。機(jī)器將計(jì)算出數(shù)以百萬計(jì)連接的微指令，這些指令可以實(shí)現(xiàn)法律規(guī)范的策略目標(biāo)。這個(gè)復(fù)雜的微指令目錄可以針對行為的小實(shí)例應(yīng)用于更大的行為動(dòng)作網(wǎng)絡(luò)，實(shí)現(xiàn)更廣泛的目標(biāo)[5]43。當(dāng)然，法哲學(xué)家對此頗有爭議，因?yàn)樵谒麄兛雌饋矸杀厝皇悄：筒淮_定的，法律推理過程需要理解和支持類比推理的原則[6]。再比如，法律往往要求實(shí)現(xiàn)公平，那這種公平可以被量化嗎？首先，公平是一個(gè)模糊的概念，法律上的公平被翻譯成算法公平可能存在困難；其次，公平被量化、被算法化可能帶來歧視問題。美國聯(lián)邦貿(mào)易委員會(huì)（FTC）發(fā)布的《大數(shù)據(jù)：包容性工具抑或排斥性工具？》（Big Data:a Tool for Inclusion or Exclusion?）報(bào)告，特別關(guān)注大數(shù)據(jù)中的歧視和偏見問題：數(shù)據(jù)集是否具有代表性？所使用的數(shù)據(jù)模型是否會(huì)導(dǎo)致偏見？基于大數(shù)據(jù)進(jìn)行預(yù)測的準(zhǔn)確性如何？對大數(shù)據(jù)的依賴是否會(huì)導(dǎo)致道德或者公平性問題？這些問題往往都伴隨著縮減裁量而產(chǎn)生[7]。盡管我們一直為濫用裁量權(quán)所困，但基于行政的效率考量以及個(gè)案決定要求，它的存在卻是必要的。當(dāng)我們從一個(gè)需要個(gè)性化判斷的行政決定走向規(guī)程化的程序中，社會(huì)的整體利益、人性情感、地方習(xí)俗等因素都可能被忽略。

2.縮減程序：自動(dòng)化行政縮減了行政行為的程序環(huán)節(jié)。如在“田志鵬訴陜西省西安市公安局站前分局行政處罰糾紛案”中，田志鵬認(rèn)為，在交警大廳處理違章時(shí)，行政主體沒有出具簡易程序《處罰決定書》，違反了《道路交通安全法》的程序規(guī)定。法院在審判中認(rèn)為，田志鵬的違法行為事實(shí)清楚，被告適用簡易程序符合規(guī)定，至于未出具《處罰決定書》，那是因?yàn)樽灾U納系統(tǒng)本身可以自行打印且被告在處理大廳公示了違法處理流程，張貼有《法律文書補(bǔ)打流程告知》以及相關(guān)操作說明；田志鵬可依據(jù)操作說明在處理大廳自助系統(tǒng)打印出《處罰決定書》，但原告未按照上述告知內(nèi)容打印，因而其主張被告沒有明示自助繳費(fèi)，不向其出具《處罰決定書》等意見，法院不予采納，其訴訟請求被駁回。該案從形式上來看，程序被縮減，但實(shí)質(zhì)上轉(zhuǎn)移為另一種形式，即自助打印，而此時(shí)原告已繳納罰款，可視為自行放棄了相應(yīng)權(quán)利。但這里自然提出相關(guān)問題，是不是自動(dòng)化行政所依賴的程序都是簡易程序？或者可以缺省必要的程序？此時(shí)是否可以將行政主體的義務(wù)轉(zhuǎn)化為行政相對人的權(quán)利？自動(dòng)化執(zhí)法系統(tǒng)會(huì)威脅程序性權(quán)利，即相對人被通知和進(jìn)行申辯的機(jī)會(huì)。為救濟(jì)相對人的合法權(quán)益，任何自動(dòng)化執(zhí)法系統(tǒng)都應(yīng)該有大量的失效保護(hù)、冗余備份及相關(guān)機(jī)制，以確保完成適當(dāng)?shù)耐ㄖ覀€(gè)人可以有效地對自動(dòng)出具的懲戒提出上訴[8]。

（二）理解自動(dòng)化行政的核心：算法

算法是自動(dòng)化行政的核心內(nèi)容。理解算法，才能理解緣何自動(dòng)化行政會(huì)產(chǎn)生瑕疵并引發(fā)諸多問題?！八惴ň褪且幌盗兄噶?，告訴計(jì)算機(jī)該做什么”。“算法的核心就是按照設(shè)定程序運(yùn)行以期獲得理想結(jié)果的一套指令”[8]。所有的算法都包括如下共同特點(diǎn)：輸入、輸出、明確性、有限性、有效性。自動(dòng)化行政發(fā)展的趨勢便是學(xué)習(xí)型算法，這種算法會(huì)增加諸多人類所具有的判斷，具有直覺和獨(dú)創(chuàng)性，可以根據(jù)概率來權(quán)衡可能的未來。盡管當(dāng)下我們上文所討論的很多問題還稱不上是這種學(xué)習(xí)型算法，但類似地，技術(shù)監(jiān)控也好，自動(dòng)化罰款繳納系統(tǒng)也罷，這其中都存在技術(shù)盲區(qū)，即所謂的算法黑箱。我們無法知道系統(tǒng)背后所考量的因素是什么，算法的不公開、不透明使得自動(dòng)化行政容易出現(xiàn)漫無邊際的裸奔感[9]。

由此，自動(dòng)化行政便會(huì)產(chǎn)生包括隱私權(quán)保護(hù)、個(gè)人信息保護(hù)在內(nèi)的與人權(quán)保護(hù)相關(guān)的核心命題①General Data Protection Regulation（GDPR）即《通用數(shù)據(jù)保護(hù)法案》于2018年5月25日正式生效。其中便強(qiáng)調(diào)了數(shù)據(jù)安全和隱私保護(hù)問題，強(qiáng)調(diào)數(shù)據(jù)隱私是公民的基本權(quán)利。?；谖覈F(xiàn)有的行政行為救濟(jì)路徑，可根據(jù)《行政訴訟法》第16條第12款規(guī)定，認(rèn)為行政機(jī)關(guān)侵犯其他人身權(quán)、財(cái)產(chǎn)權(quán)等合法權(quán)益的，可提起訴訟。然而問題在于，“等合法權(quán)益”在自動(dòng)化行政中，常常被淹沒在算法黑箱之中。算法形成的黑箱進(jìn)一步擴(kuò)展而成為網(wǎng)絡(luò)化。我們很多人時(shí)刻生活在網(wǎng)絡(luò)化的社會(huì)中，自己的信息何時(shí)、如何以及是否被侵犯，很多時(shí)候甚至無從得知。換言之，依據(jù)黑箱中算法的自動(dòng)化行政并不能像傳統(tǒng)行政行為一樣，依賴某個(gè)決定及時(shí)知曉自己的權(quán)益保護(hù)情況，這些都增加了對瑕疵指令進(jìn)行后續(xù)救濟(jì)的難度。

（三）瑕疵指令救濟(jì)的傳統(tǒng)行政法學(xué)基礎(chǔ)

對自動(dòng)化行政中的瑕疵指令救濟(jì)除了上述權(quán)利基礎(chǔ)之外，還需要進(jìn)一步明確其指令的相關(guān)救濟(jì)可歸入傳統(tǒng)行政法視域中的哪些范疇之內(nèi)。依數(shù)據(jù)來源瑕疵、算法瑕疵、系統(tǒng)瑕疵三種主要類型，實(shí)際上對應(yīng)著幾種救濟(jì)的可能性，即針對行政程序、行政活動(dòng)以及事實(shí)行為的救濟(jì)。如圖1所示。

1.數(shù)據(jù)來源瑕疵：由于數(shù)據(jù)是作為基礎(chǔ)性的數(shù)據(jù)搜集和分析依據(jù)，一般來說不會(huì)直接構(gòu)成某個(gè)決定，所以在某種意義上，它類似于一種行政程序。如“高瑞麗與鄭州市公安局交警十大隊(duì)公安交通處罰案”的一審行政判決書中，“電子眼”所搜集相關(guān)信息成為后續(xù)行政處罰的依據(jù)，在行政訴訟法中是一種證據(jù)材料①“高瑞麗與鄭州市公安局交警十大隊(duì)公安交通處罰案”，參見河南省鄭州市金水區(qū)人民法院一審行政判決書（2014）金行初字第124號。。當(dāng)這作為一種程序時(shí)，單獨(dú)依賴這種程序所作出的決定確實(shí)可能存在合法性的問題。本案中就車輛在鄭州機(jī)場轄區(qū)的違法信息記錄，原告如有異議，應(yīng)當(dāng)向該路段的交通管理部門提出。原告主動(dòng)到被告處接受異地違法信息處理，且對《處罰決定書》標(biāo)明的“如是異地交通違法，無異議后簽名確認(rèn)”等內(nèi)容未表示異議，原告在被處罰人簽名處簽署姓名并主動(dòng)履行罰款繳納義務(wù)，這是對自己權(quán)利的處分行為，應(yīng)當(dāng)視為對違法事實(shí)沒有異議。換言之，相對人等于自己放棄了相應(yīng)的陳述、申辯等程序性權(quán)利。本案中，電子眼所搜集的信息并未構(gòu)成最終決定，而是因?yàn)楸惶幜P人簽名、繳納罰款的實(shí)際行為認(rèn)可了該行政處罰的有效性。當(dāng)然，數(shù)據(jù)來源的瑕疵情形有很多種，如自己填寫信息錯(cuò)誤則應(yīng)屬于歸由自己的原因，需要有充分的理由說明才能予以更正。

2.算法瑕疵：由于絕大多數(shù)情形下，算法背后所依賴的仍然是設(shè)定算法的技術(shù)人員，且這種利用機(jī)器所作出的自動(dòng)化行政決定，其內(nèi)容也是由公務(wù)人員確定并通過輸入程序來實(shí)現(xiàn)的，因而，這種依賴算法的決定是一種行政活動(dòng)。相應(yīng)地，由于算法錯(cuò)誤所導(dǎo)致的問題，也應(yīng)歸由行政機(jī)關(guān)及其工作人員承擔(dān)相應(yīng)的責(zé)任。然而，基于算法黑箱等因素，如果是純粹的全自動(dòng)化行政決定，如何審查算法仍需要進(jìn)一步探究。換言之，算法也是一種“法”的實(shí)質(zhì)，對于算法瑕疵的審查應(yīng)該成為自動(dòng)化行政發(fā)展后的獨(dú)立命題，并不屬于當(dāng)下行政法律體系中的既有內(nèi)容。

3.系統(tǒng)瑕疵：此時(shí)，更接近于一種事實(shí)行為，也會(huì)引起后期的賠償問題。理論上，自動(dòng)化系統(tǒng)的問題可能是由于不可抗力的自然因素，也可能是由于人為因素所導(dǎo)致的錯(cuò)誤。如果是前者，沒有合法性的問題，但由此造成的損害也會(huì)產(chǎn)生賠償問題；而如果是后者，由于這個(gè)系統(tǒng)與行政機(jī)關(guān)之間的密切關(guān)聯(lián)，也應(yīng)由行政機(jī)關(guān)及其工作人員負(fù)主要責(zé)任。

綜上所述，基于自動(dòng)化行政的過程，即數(shù)據(jù)來源、算法（黑箱）再到所形成的系統(tǒng)，這樣一個(gè)數(shù)據(jù)流向下，有些相關(guān)問題可在現(xiàn)有的法律體系中得以部分調(diào)整。但更多的救濟(jì)則需要依賴更具有針對自動(dòng)化行政特點(diǎn)的救濟(jì)方式，對此后文仍將進(jìn)一步加以探討。

三、對瑕疵指令進(jìn)行救濟(jì)的可能路徑

基于上述基礎(chǔ)，我們可探索性地給出一個(gè)對自動(dòng)化行政中瑕疵指令進(jìn)行救濟(jì)的可能路徑。

（一）瑕疵指令的救濟(jì)路徑之一：正當(dāng)行政程序

從廣義的角度來看，行政程序也是救濟(jì)路徑之一，如告知、聽證等。上文已討論過自動(dòng)化行政會(huì)縮減程序，那么這種縮減程序的邊界在哪里？是否會(huì)因縮減程序產(chǎn)生后續(xù)的救濟(jì)問題呢？這兩個(gè)問題實(shí)際上可以歸入一種，即自動(dòng)化行政指令帶有黑箱屬性，使得很多程序都在實(shí)際上被縮減，使得行政相對人的權(quán)利、義務(wù)依然受到相應(yīng)的影響?？偨Y(jié)前文所討論的數(shù)個(gè)自動(dòng)化罰款繳納案例發(fā)現(xiàn)：一般來說，對于自動(dòng)化行政指令而言，更適合被用在能夠采用簡易程序處理的案件之中。當(dāng)然，隨著科技的發(fā)展，未來人工智能如果能夠處理復(fù)雜的編碼和個(gè)案情形，也不排除它會(huì)從根本上挑戰(zhàn)我們現(xiàn)有的行政程序法規(guī)范。對于處罰數(shù)額不大、情節(jié)認(rèn)定較容易的違法情形，自動(dòng)化執(zhí)法完全可以引入，同時(shí)為了保障相對人的程序性權(quán)利，減少或避免后續(xù)出現(xiàn)的救濟(jì)等問題，應(yīng)要求當(dāng)事人知情、確認(rèn)并認(rèn)可，而不能單純依賴自動(dòng)化執(zhí)法機(jī)器，不然很容易使相對人陷于“無知之幕”的恐慌之中。告知環(huán)節(jié)本身也應(yīng)依行政程序法的要求，行政機(jī)關(guān)應(yīng)采取短信、網(wǎng)絡(luò)等電子化方式輔之以書面告知等形式。此外，還有一點(diǎn)需要強(qiáng)調(diào)，即依賴自動(dòng)化行政所作出的決定，在技術(shù)手段上需要確保行政相對人，即指令施加對象的可識別性。例如，在很多地方和領(lǐng)域都采取的人臉識別中，對行政主體的識別賦予優(yōu)先性是基本要求。即使在采用電子化監(jiān)控設(shè)備的道路交通執(zhí)法中，行政主體對車輛基本信息的識別也是需要被優(yōu)先考慮的。

除了上述簡單程序外，復(fù)雜程序中的一些救濟(jì)程序的采用是否還有可行之處？如聽證會(huì)。筆者認(rèn)為，在多數(shù)情況下，自動(dòng)化行政更適宜于可采用簡易程序的場合，實(shí)際上也就排除了聽證會(huì)的適用問題。如果自動(dòng)化行政在獲取信息的后續(xù)過程中，出現(xiàn)了諸如隱私權(quán)的侵?jǐn)_等問題，也就依然需要程序上的保障，尤其是正當(dāng)程序的保障。例如，在新冠肺炎疫情防控期間，有些地方要求公職人員“不得通過互聯(lián)網(wǎng)、社交軟件等途徑捏造、傳播、散布謠言，要保守工作秘密，不擅自發(fā)布、傳播、泄露非公開發(fā)布的疫情防控工作信息”①參見《通化市關(guān)于嚴(yán)明新冠肺炎疫情防控期間紀(jì)律要求的通知》（中共通化市紀(jì)律檢查委員會(huì)通化市監(jiān)察委員會(huì)2020年2月14日發(fā)布）。。2020年2月4日，中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室發(fā)布的《關(guān)于做好個(gè)人信息保護(hù)利用大數(shù)據(jù)支撐聯(lián)防聯(lián)控工作的通知》明確指出：為疫情防控、疾病防治收集的個(gè)人信息，不得用于其他用途；任何單位和個(gè)人未經(jīng)被收集者同意，不得公開姓名、年齡、身份證號碼、電話號碼、家庭住址等個(gè)人信息，因聯(lián)防聯(lián)控工作需要，且經(jīng)過脫敏處理的除外②參見《關(guān)于做好個(gè)人信息保護(hù)利用大數(shù)據(jù)支撐聯(lián)防聯(lián)控工作的通知》（中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室2020年2月4日發(fā)布）。。《網(wǎng)絡(luò)安全法》第43—45條也規(guī)定了相應(yīng)的個(gè)人信息保護(hù)有關(guān)內(nèi)容。

技術(shù)性正當(dāng)程序要求告知、聽證等必要的程序適用[9]，尤其當(dāng)自動(dòng)化行政決定涉及到公民的人身權(quán)、自由權(quán)時(shí)；同時(shí)還須在技術(shù)上采用無歧視的數(shù)據(jù)挖掘技術(shù)，避免個(gè)人被歧視；此外，還要求行政機(jī)關(guān)作出一定的理由說明[10]。例如，英國在2018年《數(shù)據(jù)保護(hù)法案》第14條規(guī)定，使用人工智能的公共管理部門必須在合理期限內(nèi)以書面形式就自動(dòng)化決策內(nèi)容盡快通知被執(zhí)行自動(dòng)化決策的主體，數(shù)據(jù)主體可以在收到通知后一個(gè)月內(nèi)，要求公共組織重新考慮對自己作出的自動(dòng)化決策，或由自然人對決策進(jìn)行重新評估③參見Data Protection Act 2018,https://www.legislation.gov.uk/ukpga/2018/12/contents.。

（二）瑕疵指令的救濟(jì)路徑之二：申訴

作為傳統(tǒng)的救濟(jì)方式，申訴是常用的方式。在自動(dòng)化行政中是否還能適用？其實(shí)類似于程序，在特定的情形之下，這些手段仍存在適用的必要性。然而，基于自動(dòng)化行政的特征，我們需要對現(xiàn)有的申訴、信訪制度進(jìn)行一定程度上的改革以適應(yīng)信息時(shí)代。例如，設(shè)立機(jī)器智能委員會(huì)等專業(yè)委員會(huì)來辨別判定一些涉及到自動(dòng)化行政的專業(yè)性問題。再如，歐洲議會(huì)法律事務(wù)委員會(huì)主張建立歐洲機(jī)器人和人工智能機(jī)構(gòu)；還有些學(xué)者主張建立跨國的、獨(dú)立的、多利益相關(guān)的人工智能和數(shù)據(jù)委員會(huì)。他們認(rèn)為，人工智能不僅僅是一個(gè)公用事業(yè)，一旦成熟就需要被監(jiān)管，它更是重塑生活、互動(dòng)和環(huán)境的強(qiáng)大力量，是人類棲息地向信息圈深刻轉(zhuǎn)變的一個(gè)部分[11]。

中國實(shí)際上也有諸多類似的機(jī)構(gòu)，例如中國自動(dòng)化學(xué)會(huì)模式識別與機(jī)器智能(Pattern Rec?ognition and Machine Intelligence,PRMI)專業(yè)委員會(huì)成立于1981年，是國際模式識別協(xié)會(huì)(IAPR)的成員組織。此外，還有機(jī)器學(xué)習(xí)專業(yè)委員會(huì)、自然語言理解專業(yè)委員會(huì)、離散智能計(jì)算專業(yè)委員會(huì)、智能教育技術(shù)專業(yè)委員會(huì)、智能控制與智能管理專業(yè)委員會(huì)等。這些委員會(huì)更強(qiáng)調(diào)專業(yè)性，常常容易走向技術(shù)精深化的建構(gòu)路徑，而對于公民參與的提升作用還很有限，甚至大多數(shù)普通公民無從知曉它們的存在。人工智能專業(yè)委員會(huì)不應(yīng)僅僅是行政機(jī)關(guān)的智囊團(tuán)，也應(yīng)當(dāng)為行政機(jī)關(guān)和普通公民之間搭建橋梁，對于自動(dòng)化行政決策發(fā)揮說明、闡釋作用。在處置申訴、信訪過程中可以借鑒這種專業(yè)委員會(huì)的設(shè)置目標(biāo)，即加入專業(yè)性的考量因素，借助第三方委托、協(xié)助等方式，更好地提升申訴、信訪處置的水平以及行政機(jī)關(guān)處理自動(dòng)化行政所涉問題的能力。如健康碼實(shí)施至今，各地都有設(shè)立復(fù)核制度，通過網(wǎng)絡(luò)化的復(fù)核實(shí)則也是信息化時(shí)代的一種申訴方式。

下一步，司法實(shí)踐領(lǐng)域可借鑒英國法的經(jīng)驗(yàn)，設(shè)立數(shù)據(jù)保護(hù)專員（Data Protection Officer）為數(shù)據(jù)控制者提供數(shù)據(jù)方面的建議，處理申訴。實(shí)際上，我國有些地方實(shí)踐中已有類似的做法，例如《上海市公共數(shù)據(jù)和一網(wǎng)通辦管理辦法》第43條規(guī)定，公共管理和服務(wù)機(jī)構(gòu)應(yīng)當(dāng)設(shè)置或者確定專門的安全管理機(jī)構(gòu)并確定安全管理責(zé)任人①參見《上海市公共數(shù)據(jù)和一網(wǎng)通辦管理辦法》（滬府令9號）。。安全管理責(zé)任人與英國的數(shù)據(jù)保護(hù)專員角色多少有些類似，但是不同點(diǎn)在于，安全管理責(zé)任人多為行政機(jī)關(guān)內(nèi)部的工作人員，常以技術(shù)責(zé)任為主，并不擴(kuò)展到申訴等后續(xù)責(zé)任的處理。值得注意的是，由于自動(dòng)化行政的“即時(shí)性”更強(qiáng)，因此在有相應(yīng)系統(tǒng)的情形下不能或者不必適用傳統(tǒng)的時(shí)效制度規(guī)定。相應(yīng)地引起行政相對人權(quán)益減損的時(shí)效規(guī)定也需考慮作出調(diào)整，尤其是一些可以及時(shí)確定的救濟(jì)措施可在第一時(shí)間予以處理，如健康碼信息的復(fù)核，一旦發(fā)現(xiàn)問題需及時(shí)予以恢復(fù)。

（三）瑕疵指令的救濟(jì)路徑之三：行政復(fù)議和行政訴訟

針對瑕疵指令所導(dǎo)致的不同后果，行政程序、行政活動(dòng)抑或事實(shí)行為更易在復(fù)議和訴訟環(huán)節(jié)發(fā)揮作用?？傮w上，更多情況下，數(shù)據(jù)來源的瑕疵在自動(dòng)化行政決定中更容易構(gòu)成復(fù)議和訴訟中的證據(jù)來源。算法瑕疵在理論上是有可能構(gòu)成復(fù)議、訴訟的直接審查對象的，也就是說，伴隨著法院審查算法能力的加強(qiáng)，未來也應(yīng)具備審查算法的能力。系統(tǒng)瑕疵，則更多被歸入事實(shí)行為，即使因此產(chǎn)生了對相對人權(quán)利義務(wù)的影響，也有復(fù)議、訴訟的可能性。在現(xiàn)有的法律體系下，審查對象實(shí)際上依然只是依據(jù)自動(dòng)化行政所作出的相應(yīng)的決定，而非自動(dòng)化行政本身。

在復(fù)議和訴訟環(huán)節(jié)，涉及到自動(dòng)化行政的案件需考量幾點(diǎn)：首先，從系統(tǒng)的設(shè)定、算法的設(shè)計(jì)等方面來看，自動(dòng)化行政在當(dāng)下更多地發(fā)揮了“輔助”和“助手”的功能，即便在直接作出決定的情形中也是如此。因此，在絕大多數(shù)情形下，相應(yīng)責(zé)任也應(yīng)歸由行政機(jī)關(guān)及其工作人員承擔(dān)，除非有相反證據(jù)可以排除其責(zé)任；其次，舉證責(zé)任的分配或者相關(guān)問題的解釋都應(yīng)本著有利于行政相對人的角度來進(jìn)行。例如，在上述指導(dǎo)性案例26號“李健雄訴廣東省交通運(yùn)輸廳政府信息公開案”中，一審法院認(rèn)為，由于廣東省人民政府“政府信息網(wǎng)上依申請公開系統(tǒng)”作為政府信息申請公開平臺(tái)所應(yīng)當(dāng)具有的整合性與權(quán)威性，如未作例外說明，則從該平臺(tái)上遞交成功的申請應(yīng)視為相關(guān)行政機(jī)關(guān)已收到原告通過互聯(lián)網(wǎng)提出的政府信息公開申請。至于外網(wǎng)與內(nèi)網(wǎng)、上下級行政機(jī)關(guān)之間對于該申請的流轉(zhuǎn)屬于行政機(jī)關(guān)內(nèi)部管理事務(wù)，不能成為行政機(jī)關(guān)延期處理的理由。從最高人民法院選擇此案例作為指導(dǎo)性案例的原因來看，也是因?yàn)楸景咐龑τ诰W(wǎng)絡(luò)電子數(shù)據(jù)證據(jù)效力的認(rèn)定正確，充分考慮了當(dāng)事人舉證能力平衡問題，對于規(guī)范行政機(jī)關(guān)網(wǎng)上受理政府信息公開申請，保護(hù)公眾依法申請政府信息公開的權(quán)利具有一定意義[12]，本案例對于指導(dǎo)類似案件的審判具有積極作用。當(dāng)然在很多情形下，自動(dòng)化行政所涉及的電子化文件，在行政訴訟或者復(fù)議中實(shí)則轉(zhuǎn)化為證據(jù)，可適用行政訴訟證據(jù)規(guī)則等來加以認(rèn)定。實(shí)際上，隨著自動(dòng)化行政的發(fā)展，更需要加強(qiáng)對事前、事中的控制，司法機(jī)關(guān)作為最后的救濟(jì)主體，在未來會(huì)面臨著更多算法審查的挑戰(zhàn)。

結(jié)語

自動(dòng)化行政為我們編織了一張密密麻麻的網(wǎng)絡(luò)，使得本就涉及“從搖籃到墳?zāi)埂钡男姓▽W(xué)內(nèi)容更加與公民生活息息相關(guān)。面對數(shù)字化，行政機(jī)關(guān)既可以利用自動(dòng)化行政，提高行政效率，但也會(huì)因自動(dòng)化行政，對正當(dāng)程序、隱私保護(hù)、意思自治等產(chǎn)生影響。這也是一種新型的技術(shù)風(fēng)險(xiǎn)，行政機(jī)關(guān)可以將規(guī)則通過機(jī)器編碼化來防范與應(yīng)對。由此，如何確定這些編碼，確定算法仍將依賴于法律與信息技術(shù)專家自身的努力。

李建良曾指出，AI發(fā)展若要有與之相應(yīng)的良好人文條件和思辨環(huán)境，認(rèn)識論與規(guī)范論二者交疊互傳的思考元素須進(jìn)入公法秩序之中[13]。當(dāng)人類面對鋪天蓋地、無邊無際的數(shù)位入侵時(shí)，法律制度與秩序是否需要“人性保留”的規(guī)范機(jī)制和實(shí)踐構(gòu)想，還需要慎重考慮。換言之，作為可能與自動(dòng)化行政時(shí)常相伴的人類，在系統(tǒng)創(chuàng)設(shè)之時(shí)便應(yīng)考量到尊嚴(yán)、平等、公平等人性價(jià)值，即先要去盡可能避免后續(xù)所產(chǎn)生的問題。自動(dòng)化行政瑕疵指令的處理，需要我們充分考量自動(dòng)化行政特點(diǎn)，在必要情況下仍然需要輔助于人工復(fù)核等手段。如果將自動(dòng)化行政視為行政過程，我們更需要從紛繁復(fù)雜的網(wǎng)絡(luò)化表象中，厘清各種法律關(guān)系、行為屬性，以確定后續(xù)救濟(jì)的相應(yīng)路徑。

然而實(shí)際上，基于其獨(dú)特性，仍存在諸多需要進(jìn)一步探討的問題?？梢哉f，技術(shù)革命將影響法律指令的結(jié)構(gòu)，以及代表公權(quán)力的行政主體與相對人之間的關(guān)系。甚至還有學(xué)者認(rèn)為，未來將更為強(qiáng)調(diào)立法者如何選擇目標(biāo)，而不是如何實(shí)施法律，學(xué)術(shù)界對司法行為等主題的興趣將逐漸消失[5]53。對此，我們不得而知。但從困在算法里的騎手們①參見《外賣騎手，困在系統(tǒng)里》，《人物》微信公眾號，2020年9月8日發(fā)布，http：//baijiahao.baidu.com/S?id=1677231323622d6633&wfr=spider&for=pc，訪問日期：2021年2月5日。到因北斗掉線而被處罰直至自殺的司機(jī)[14]，自動(dòng)化行政以及技術(shù)革命所帶來的挑戰(zhàn)已然無法回避。深處算法時(shí)代，行政法的“變”與“不變”仍待我們進(jìn)一步探究。