鐘一葦

(貴州財經(jīng)大學(xué) 法學(xué)院, 貴州 貴陽 550025)

一、引言

數(shù)字時代,人工智能自動發(fā)現(xiàn)疑似違法行為的能力正迅速提升。隨著大數(shù)據(jù)技術(shù)的迅猛發(fā)展,先進的傳感器技術(shù)、深度學(xué)習(xí)技術(shù)、算法技術(shù)以及網(wǎng)絡(luò)技術(shù),使人工智能系統(tǒng)能夠與執(zhí)法反饋循環(huán)機制有效結(jié)合起來[1]。相較于傳統(tǒng)執(zhí)法模式耗費大量人力物力且賦予執(zhí)法人員自由裁量權(quán)的不確定性,“智慧執(zhí)法”系統(tǒng)不僅能以較低的成本對違法行為加以懲罰,亦能保證執(zhí)法行為的確定性與公正性,從而為提高執(zhí)法質(zhì)量,為科學(xué)的執(zhí)法決策提供客觀而精準的依據(jù)。

在國外,許多以人工智能技術(shù)為基礎(chǔ)的“智慧執(zhí)法”系統(tǒng)已開始應(yīng)用于具體的執(zhí)法活動中。如在美國,紐約警方使用的“領(lǐng)域識別系統(tǒng)”,能夠鏈接并記錄約9 000個傳感器收集的視頻資料,并通知執(zhí)法人員正在發(fā)生的疑似違法行為[2]。IBM研發(fā)的“交通事故處理系統(tǒng)”,能通過識別要素,利用指數(shù)、時間、地點、天氣等來預(yù)測可能發(fā)生的交通事故,執(zhí)法人員只需在事故高發(fā)的時段重點巡查,即可減少交通事故。在德國,“屬地型警務(wù)預(yù)測軟件”依據(jù)數(shù)據(jù)智能分析結(jié)果,通過挖掘某一地區(qū)的違法行為報告,進而預(yù)測未來可能發(fā)生的同類違法行為[3]。

在我國,自《法治政府建設(shè)實施綱要(2021—2025年)》提出“積極推進智慧執(zhí)法,加強信息化技術(shù)、裝備的配置和應(yīng)用”以來,學(xué)界對“智慧執(zhí)法”建設(shè)亦作出了富有成效的探討。如在理論方面,雷磊[4]將“智慧執(zhí)法”界定為利用網(wǎng)絡(luò)與人工智能技術(shù)推動政府服務(wù)管理信息化,推動社會治理模式創(chuàng)新。具體而言,即將傳感器收集的執(zhí)法信息匯總到執(zhí)法系統(tǒng)中,通過智能化的算法技術(shù),將信息分發(fā)到相應(yīng)的執(zhí)法終端,并由其關(guān)聯(lián)和實時處理[5]?！爸腔蹐?zhí)法”的核心問題是如何讓人工智能在執(zhí)法中進行自主推理,實現(xiàn)調(diào)查取證的自動化,進而達成處罰決策的自動化[6]。在實踐方面,近年來各地執(zhí)法部門亦開啟了“智慧執(zhí)法”應(yīng)用的建設(shè)之路:如北京“規(guī)劃和自然資源領(lǐng)域違法行為信息系統(tǒng)”,通過線上移動執(zhí)法APP應(yīng)用,實現(xiàn)規(guī)劃國土執(zhí)法業(yè)務(wù)融合[7]。浙江“環(huán)境執(zhí)法通”應(yīng)用將立案、告知、決定、執(zhí)行、結(jié)案設(shè)置為軟件操作程序,實現(xiàn)案件現(xiàn)場檢查、調(diào)查取證、行政處罰的全過程“云辦理”[8]。貴州“執(zhí)法司法辦案平臺”則以業(yè)務(wù)應(yīng)用系統(tǒng)為基礎(chǔ),推出執(zhí)法辦案流程、政法協(xié)同、法律監(jiān)督、智能輔助、職務(wù)犯罪偵查等線上功能[9]。

然而,不管在理論還是實踐中,現(xiàn)有的大多數(shù)研究仍集中于對“智慧執(zhí)法”概念與發(fā)展趨勢的探討,或聚焦于對各地執(zhí)法機關(guān)實踐應(yīng)用的梳理與總結(jié)[10]。不僅忽略了對“智慧執(zhí)法”建設(shè)中具體路徑的分析,亦鮮有論文專門對“智慧執(zhí)法”可能面臨的風險及如何規(guī)制進行論證。因此,在世界各國都在努力通過人工智能技術(shù)提高其視覺、聽覺、嗅覺及記憶能力,使其執(zhí)法行為變得更加“智慧”的背景下,本文試圖在積極的立場上論證我國人工智能應(yīng)用于“智慧執(zhí)法”的三層次路徑,并對“智慧執(zhí)法”在運行過程中存在的兩大隱憂——算法黑箱與被執(zhí)法人信息保護問題進行分析,從技術(shù)、程序與實體3個層面探尋對應(yīng)規(guī)制之策,從而使“智慧執(zhí)法”應(yīng)用真正成為治理違法行為,保護公眾權(quán)利的利器。

二、人工智能應(yīng)用于“智慧執(zhí)法”中的建設(shè)路徑

(一)“智慧執(zhí)法”建設(shè)的具體路徑

1.執(zhí)法監(jiān)測系統(tǒng):違法信息自動收集

“智慧執(zhí)法”應(yīng)用的主要目標是通過人工智能中的數(shù)據(jù)分析、深度學(xué)習(xí)、自動化等技術(shù),輔助執(zhí)法人員形成科學(xué)的執(zhí)法決策,幫助其減輕負擔、提高效率,進而解決各類社會問題。其首要功能是以較低的成本持續(xù)監(jiān)測可能涉嫌違法的區(qū)域,并通過網(wǎng)絡(luò)化傳感系統(tǒng),對監(jiān)測設(shè)備記錄的違法數(shù)據(jù)進行收集與保存[11],即利用人工智能技術(shù)對可能或已經(jīng)發(fā)生的違法信息進行公開收集,為執(zhí)法行為的實施提供依據(jù),并對可能的違法行為形成“威懾”。根據(jù)執(zhí)法用途,執(zhí)法監(jiān)測系統(tǒng)主要具有“識別”“定位”“跟蹤”3種功能:

第一,執(zhí)法的首要環(huán)節(jié)是對違法人員及其行為進行識別,當系統(tǒng)通過傳感器監(jiān)測到違法行為并將相關(guān)信息連接至數(shù)據(jù)庫時,即能夠以一定的準確度通過運行算法確定主體身份。例如:在交通執(zhí)法中,車牌讀取器可以精準識別牌照,通過查詢機動車記錄數(shù)據(jù)庫即可以確定車主。在網(wǎng)絡(luò)執(zhí)法中,Web瀏覽器亦能夠被唯一識別,如某人在某網(wǎng)站發(fā)布違法信息時,可由網(wǎng)站向Web瀏覽器發(fā)送Cookie來唯一識別瀏覽器,進而識別違法主體。在“智慧執(zhí)法”應(yīng)用中,影像識別技術(shù)能夠?qū)?zhí)法監(jiān)測系統(tǒng)收集到的各類影像進行精確判斷。通過對影像信息的預(yù)處理、區(qū)域分割及智能提取,系統(tǒng)就能對違法主體的信息進行精準篩選。同時,結(jié)合系統(tǒng)的監(jiān)測數(shù)據(jù),通過建立違法主體活動區(qū)域的監(jiān)測模型,即可鎖定其身份信息并進行有效識別。

第二,在完成對違法主體行為與身份的識別后,人工智能能夠為監(jiān)測系統(tǒng)提供自動的且具備高精度的定位機制。例如:GPS接收器的功能之一即為提供位置信息,攜帶具有GPS定位功能的設(shè)備(如智能手機、智能導(dǎo)航儀)的人或車輛均能夠被精準定位。又如射頻識別標簽(RFID tag)收集的信息亦可在幾十米范圍內(nèi)被讀取,通過監(jiān)控相機指向已知方向來監(jiān)測被關(guān)注的主體,并精確定位主體的位置。在“智慧執(zhí)法”應(yīng)用中,地域管控監(jiān)測系統(tǒng)則能夠利用矢量數(shù)據(jù),實現(xiàn)對行為人的定位,并評判出監(jiān)測區(qū)域的各類違法情況:對于可能的違法行為,可利用收集到的歷史數(shù)據(jù)與實時數(shù)據(jù),通過相關(guān)分析、聚類分析、回歸分析等方式,分析其可能發(fā)生的時間、區(qū)域、頻率及變化趨勢;對于已經(jīng)發(fā)生的違法行為,則可利用區(qū)域衛(wèi)星監(jiān)測圖、衛(wèi)片對比影像圖等數(shù)據(jù),核實某一違法行為在何時何地發(fā)生,并篩選出同一類型的違法線索。

第三,對于一系列定位信息的記錄,系統(tǒng)會產(chǎn)生疑似違法人員移動的軌跡和路徑。由此,系統(tǒng)即可對疑似違法人員加以追蹤,以防止可能的違法行為,并對已經(jīng)產(chǎn)生的違法行為進行處罰。例如:電子收費系統(tǒng)能夠記錄相應(yīng)車輛進出高速公路的時間和地點數(shù)據(jù),交通監(jiān)控攝像機亦可以對監(jiān)測區(qū)域內(nèi)部和周邊的道路進行常規(guī)性監(jiān)控。在“智慧執(zhí)法”應(yīng)用中,視頻監(jiān)控與可視化技術(shù)則能夠輔助執(zhí)法人員對違法行為進行追蹤。通過從視頻監(jiān)控數(shù)據(jù)平臺讀取視頻數(shù)據(jù)流,按執(zhí)法需求對視頻內(nèi)容進行實時分析,并對分析出的數(shù)據(jù)流中的異常情況進行預(yù)警。而可視化技術(shù)則用于幫助執(zhí)法人員直觀地看到分析結(jié)果,以解決傳統(tǒng)執(zhí)法模式中無法從大量數(shù)據(jù)中精準識別目標信息的困境。通過可視化技術(shù),執(zhí)法人員能夠迅速篩選出與違法行為相關(guān)的數(shù)據(jù)流,以實現(xiàn)對違法行為的直接追蹤。

2.信息處理系統(tǒng):違法數(shù)據(jù)自動分析

“智慧執(zhí)法”應(yīng)用的一個重要特征,是能夠以遠超人類計算能力的速度處理信息。相比于傳統(tǒng)執(zhí)法模式,“智慧執(zhí)法”系統(tǒng)通過對違法主體與行為的定位、追蹤與識別,能夠快速聚合若干傳感器收集的數(shù)據(jù),以形成一個對違法主體活動更為全面的認識[12]。更為重要的是,這種數(shù)據(jù)聚合可將系統(tǒng)收集的不同時間、不同地理位置、不同來源的數(shù)據(jù)結(jié)合起來,并利用深度分析技術(shù),對可能或已經(jīng)發(fā)生的違法行為進行預(yù)測與事后分析。

第一,預(yù)測分析,其主要作用是利用收集到的時間、位置、身份信息等聚合數(shù)據(jù),結(jié)合執(zhí)法系統(tǒng)的智能分析結(jié)果,對可能出現(xiàn)的違法行為進行預(yù)測并加以防范[13]。目前,已有很多系統(tǒng)軟件能夠?qū)崿F(xiàn)該功能,如PredPol系統(tǒng)能夠通過已有的違法類型、違法地點、違法時間等載體信息來預(yù)測未來可能的違法行為。Beware軟件以個人的交易數(shù)據(jù)、社交媒體信息、公共行為記錄為基礎(chǔ),對個人行為進行評估并劃分等級,使執(zhí)法人員能夠以此為依據(jù)對相關(guān)人員進行調(diào)查[14]。而HunchLab模型則可將各種物理情境、社會環(huán)境、個體行為等不同因素賦予不同的風險權(quán)重,并結(jié)合不同的違法行為類型,形成統(tǒng)一的違法分布圖,通過風險的疊加與分配提煉最有可能出現(xiàn)違法的區(qū)域,為合理調(diào)配執(zhí)法力量提供參考[15]。

第二,事后分析,其主要作用在于通過對已發(fā)生的違法事件的智能分析,將收集并保存的信息作為證據(jù),為執(zhí)法行為的合法性提供相關(guān)依據(jù);同時,亦可對違法行為的原因進行分析,并對相應(yīng)的執(zhí)法措施進行評價,形成可定量分析的案例,從而為后續(xù)更準確的預(yù)測與執(zhí)法響應(yīng)提供支持。以違停執(zhí)法為例,過去一名執(zhí)法人員可能需要花費大量時間來確定車輛是否違停并開具罰單,而“智慧執(zhí)法”系統(tǒng)則能同時監(jiān)測大量車輛,且在毫秒內(nèi)完成分析并作出處罰決定。正如Glasson[16]所言:“那些結(jié)合新興人工智能技術(shù)、傳感技術(shù)以及數(shù)據(jù)挖掘技術(shù)的智慧執(zhí)法系統(tǒng),意味著未來的執(zhí)法活動能夠?qū)V泛且不斷擴大的違法主體列為目標并予以審查及處罰,處理事務(wù)的時間不斷縮減,且沒有潛在的人為干預(yù)。”

3.執(zhí)法應(yīng)用系統(tǒng):執(zhí)法措施自動采取

以人工智能為基礎(chǔ)的“智慧執(zhí)法”應(yīng)用的原理與邏輯是:數(shù)據(jù)收集→數(shù)據(jù)分析→數(shù)據(jù)預(yù)測與應(yīng)用,在對傳感器監(jiān)測到的數(shù)據(jù)進行收集與分析后,系統(tǒng)即可根據(jù)具體的違法情況自動采取相應(yīng)的執(zhí)法措施,主要包括:取證(如監(jiān)測設(shè)備對違法行為的錄音錄像)、通知(如發(fā)送信息告知違法主體的違法行為)、警告(如通過手機APP向使用者列明哪些行為可能導(dǎo)致違法)、處罰(根據(jù)法律規(guī)定自動采取相應(yīng)處罰措施)等。以公共交通執(zhí)法為例,“智慧執(zhí)法”的應(yīng)用場景為:

第一,數(shù)據(jù)收集:通過在街道和高速等道路網(wǎng)絡(luò)設(shè)置的傳感器與監(jiān)控設(shè)備,收集海量的道路交通信息,如車流信息、車速信息、時間信息、位置信息、車輛行駛軌跡信息等。第二,數(shù)據(jù)分析:對收集到的海量數(shù)據(jù)進行智能分析,如某時段某區(qū)域車流量大,交通擁堵,車輛違法頻率高;某高速道路某時段超速現(xiàn)象頻發(fā);某時某刻駕駛員更傾向于行駛至某條道路,以逃避酒駕審查等。第三,數(shù)據(jù)預(yù)測與應(yīng)用:通過分析后的脫敏數(shù)據(jù),對違法行為進行處置。事前數(shù)據(jù)預(yù)測:通過智慧執(zhí)法系統(tǒng)或授權(quán)第三方,提示駕駛員該路段為違章或超速多發(fā)區(qū),告知其若違法將承擔相應(yīng)的法律后果;提前至酒駕高發(fā)區(qū)域布置執(zhí)法人員,查處可能的酒駕行為。事后數(shù)據(jù)應(yīng)用:監(jiān)測到駕駛員違法行駛時由系統(tǒng)自動開具罰單;若違法主體提出異議,則轉(zhuǎn)換為人工審查,公布審查結(jié)果,并告知其權(quán)利救濟的手段(如向執(zhí)法機關(guān)提出復(fù)議或向司法機關(guān)起訴)。

圖1 “智慧執(zhí)法”應(yīng)用的工作流程

(二)“智慧執(zhí)法”運行中面臨的風險

1.技術(shù)風險:算法的黑箱困境

黑箱困境是指在利用人工智能分析數(shù)據(jù)時,工作人員只是輸入指令然后得到系統(tǒng)的輸出結(jié)果,而并不了解其內(nèi)部運作機制,即系統(tǒng)的整個運算過程是不透明的[17]。在傳統(tǒng)的執(zhí)法模式中,執(zhí)法決定需要進行充分的說理和論證以便公眾理解,但以人工智能為基礎(chǔ)的智慧執(zhí)法系統(tǒng)卻并不如此運作,普通人往往很難理解算法的機制和原理,因為自動化決策通常是在“黑箱”中作出的。公眾對執(zhí)法決定的信任是建立在透明的基礎(chǔ)上,但如果算法保持“神秘”,在本質(zhì)上即與執(zhí)法的“公開”屬性存在沖突。算法確定性與執(zhí)法靈活性的區(qū)別正如規(guī)則與標準之間的區(qū)別:規(guī)則是事先設(shè)計和確定的法律要求,易于理解和執(zhí)行,但缺乏靈活性;標準是與事實相關(guān)的指向,往往由執(zhí)法機構(gòu)事后依據(jù)案件事實決定,具有靈活性,卻缺乏可預(yù)見性和確定性[18]。因此,系統(tǒng)依據(jù)事先設(shè)計的確定程序所作出的執(zhí)法決策可能并不適用于具體且靈活的案件事實。由此引發(fā)的問題是:

第一,執(zhí)法人員無法理解系統(tǒng)為什么會作出這個決策?！爸腔蹐?zhí)法”系統(tǒng)雖能夠在并不為人知的深度和細節(jié)上判斷違法主體的傾向、特征和意圖,并以此為依據(jù)預(yù)測違法主體未來的行為,但也會未經(jīng)反思地使用收集到的數(shù)據(jù)。這些數(shù)據(jù)或缺失了原有的語境,或不能反映最新的事態(tài),而若系統(tǒng)基于上述數(shù)據(jù)作出決策,則很可能讓人無法理解作出這些決策的過程和原因。正如有學(xué)者所言:“在使用算法的情況下,即使參與創(chuàng)建算法的設(shè)計者對被深度學(xué)習(xí)修改后的程序也不甚了解?？朔詣訄?zhí)法系統(tǒng)的黑箱特性,需要高水平的專業(yè)知識和使用復(fù)雜的程序,其障礙是巨大的?！盵19]

第二,若被執(zhí)法人對決策有疑問或反對,執(zhí)法機構(gòu)亦無法很好地對作出該決策的理由和依據(jù)進行解釋。當一位公民的行為因執(zhí)法系統(tǒng)的決策而被判定為違法時,其并不了解系統(tǒng)作出該決策的依據(jù),亦看不到判定其行為為何違法的全過程。而執(zhí)法人員并非程序的設(shè)計者,不僅無法解釋系統(tǒng)作出的執(zhí)法行為的成因,也無法提供審查所需要的依據(jù)和相關(guān)解釋說明?！耙恍┑胤降闹腔壑卫砑觿×顺鞘械膬蓸O分化和社會隔閡,并產(chǎn)生了由技術(shù)官僚化帶來的計算機官僚主義為城市設(shè)置的新道德秩序?！盵20]因此,若系統(tǒng)作出的執(zhí)法決策既難以解釋又不公開透明,那么執(zhí)法機構(gòu)制定規(guī)則的權(quán)力與責任便會受到質(zhì)疑,執(zhí)法行為的透明度及準確性亦會丟失。

2.法律風險:被執(zhí)法人信息的違法收集

“智慧執(zhí)法”應(yīng)用的基礎(chǔ)在于對公民行為信息廣泛地自動收集與使用。而每一個執(zhí)法系統(tǒng)又需要不同的組織來設(shè)計、安裝、操作、運行和執(zhí)行,一旦這些個人信息通過數(shù)據(jù)網(wǎng)絡(luò)連接至系統(tǒng),電腦內(nèi)的軟件即會通過運行算法來自動確定即將或已經(jīng)發(fā)生的違法行為。但問題的關(guān)鍵在于,系統(tǒng)在收集和使用信息時,并不會自動判斷其目的與手段是否合法正當,亦無法區(qū)分其采集的個人信息哪些是合法的、哪些是違法的。

盡管執(zhí)法決策是執(zhí)法機關(guān)依職權(quán)作出的行為,實際上是執(zhí)法機關(guān)履行公權(quán)力的“副產(chǎn)品”。我們并不能認為執(zhí)法機構(gòu)只要是在履職過程中即可以隨意收集公共數(shù)據(jù)并以此為依據(jù)作出執(zhí)法決策,且不受任何約束和限制。根據(jù)法治的基本精神與理念,個人信息的保護應(yīng)始終伴隨著對公權(quán)力的限制,執(zhí)法機構(gòu)不能無節(jié)制地采集和利用個人信息。因此,法律應(yīng)對執(zhí)法者收集、處理和利用公民個人信息的能力進行限制,以確保公權(quán)力不被濫用;同時,亦應(yīng)采取必要措施,保障個人信息的安全。

可見,由智能系統(tǒng)取代人工進行自動執(zhí)法,乍看似乎是一個節(jié)約成本的實用方法,但在推進“法治中國”建設(shè)的今天,執(zhí)法活動應(yīng)是社會共同體的延伸以及公眾自發(fā)遵從的結(jié)果,而非對于執(zhí)法系統(tǒng)的“恐懼”。若任由“智慧執(zhí)法”系統(tǒng)無節(jié)制地收集和利用個人信息,其引發(fā)對被執(zhí)法人權(quán)利的損害,很可能會抵消為提高執(zhí)法效率而帶來的收益。因此,如何通過法律手段來確定執(zhí)法系統(tǒng)收集信息的目的與手段是否合法正當,如何判斷系統(tǒng)收集的信息哪些屬于合法信息可以使用,哪些屬于違法信息不能使用,這些是當前“智慧執(zhí)法”在應(yīng)用過程中亟需解決的問題。

三、完善“智慧執(zhí)法”應(yīng)用的規(guī)制途徑

(一)技術(shù)層面:優(yōu)化算法的透明度

1.增強算法的可解釋性

對于“智慧執(zhí)法”應(yīng)用中算法的“黑箱困境”,可針對不同的執(zhí)法場景,采取不同的解釋模型與方法,以增強系統(tǒng)在決策過程中的可解釋性。

第一,對于執(zhí)法場景較為簡單的案件,如治安、交通執(zhí)法等,可采用“自解釋模型”。該模型本身是可解釋的,即對于已完成訓(xùn)練的模型,無需額外信息即可理解其決策過程與依據(jù)。自解釋模型主要包括邏輯回歸、線性模型、貝葉斯決策列表等,這些方法均可使觀察者能夠測試系統(tǒng)中機器訓(xùn)練與深度學(xué)習(xí)的可靠性,以確定是否可以信任該模型?！霸鰪娙斯ぶ悄艿目山忉屝砸馕吨_發(fā)分析工具,使系統(tǒng)具備觀察和分析自身操作的能力,從而識別因果決定因素,并以人類可理解的方式予以呈現(xiàn)?！盵21]例如:谷歌推出的“模型卡片”,通過為算法提供簡明易懂的可視化解釋文檔,對算法的運作原理進行解釋。該模型能夠清晰地展現(xiàn)犯罪預(yù)測系統(tǒng)識別人臉時的運作機制與考量要素,顯現(xiàn)其是否存在算法偏見或歧視[22]。又如IBM研發(fā)的“AI事實清單”機制,通過對人工智能模型用途、指標、影響因素、訓(xùn)練數(shù)據(jù)、警告與建議等方面的解釋說明,使執(zhí)法者能夠更好地理解AI模型[23]。

第二,對于執(zhí)法場景較為復(fù)雜的案件,如網(wǎng)絡(luò)執(zhí)法、環(huán)境執(zhí)法等,則可采用“獨立于模型的解釋”。該方法將解釋過程與機器學(xué)習(xí)模型分離,主要依靠分析特征的輸入與輸出,而不關(guān)注模型的內(nèi)部細節(jié)。其優(yōu)點是松耦合,解釋時能夠替換底層學(xué)習(xí)模型,具有解釋靈活性,主要包括部分依賴圖(PDP)、個體條件期望(ICE)、累積局部效應(yīng)(ALE)等[24]。如在網(wǎng)絡(luò)執(zhí)法中,即可采用PDP解釋方法,該方法能夠描述“特征(表示為被執(zhí)法人在網(wǎng)絡(luò)中的具體行為)”是如何影響模型預(yù)測的,并解釋“特征”和“標簽(表示為判定行為是否違法的標準)”之間是否相關(guān)。其解釋流程為:將預(yù)測完成的某個違法“特征”進行展示,利用訓(xùn)練模型將“特征”與“標簽”進行比對,通過繪制PDP圖,解釋兩者是否相符、是否具有線性相關(guān)性。而在環(huán)境執(zhí)法中,則可采用ICE解釋方法,該方法能夠解釋“個體(表示被執(zhí)法人)”的預(yù)測值與“變量(表示為行為是否導(dǎo)致環(huán)境違法的范圍)”之間的關(guān)系。其解釋流程為:對某一“個體”,隨機置換選定的特征“變量”的取值,繪制“個體”與特征“變量”的ICE關(guān)系圖,通過可視化方式對“個體”的行為是否超出了“變量”的限度進行解釋。

第三,對于稅務(wù)執(zhí)法等針對特定對象的現(xiàn)場執(zhí)法案件,則可采用“反解釋方法”。即在不打開“黑箱”的情況下提供反事實的推理解釋,其原理為:某人顯示一個Xi的特征,對其進行反事實推理解釋的模型則為“因為你的特征是Xi,所以生成的結(jié)果是Y;而如果展現(xiàn)的特征是非Xi(-Xi),那么則會生成結(jié)果-Y”[25]。將該解釋方法應(yīng)用到“智慧執(zhí)法”系統(tǒng)中,即為對執(zhí)法的負面結(jié)果做一張“正面清單”。例如:某納稅人在申請退稅時被執(zhí)法系統(tǒng)拒絕,即會收到系統(tǒng)發(fā)出一份反事實的表格,表明還需要提供哪些必需的信息或修改哪些資料才能申請退稅成功。由于該解釋是基于“反事實”的假設(shè)展示了一個具體可代替的未來,且對于被執(zhí)法人來說具有較高的可理解性,因此在執(zhí)法實踐中,亦可能會提高被執(zhí)法人改變自己的行為或減少對負面執(zhí)法決定提出異議的幾率。

2.推進算法的全過程公開參與

在“智慧執(zhí)法”應(yīng)用的運行過程中,若將絕對透明視為算法解釋的標準,難免過于苛刻,就效果而言,亦未必能良好地維護公眾的權(quán)益。因此,在不能保證算法完全透明或具有極高解釋性的情況下,執(zhí)法機構(gòu)要對系統(tǒng)運行的機制與原理予以披露,并賦予被執(zhí)行者申請解釋的權(quán)利。

一方面,執(zhí)法機構(gòu)應(yīng)對“智慧執(zhí)法”系統(tǒng)算法予以披露與公布。首先,其有責任和義務(wù)告知公眾“智慧執(zhí)法”系統(tǒng)的存在,并披露與系統(tǒng)相連接的執(zhí)法設(shè)備在何時、何地及哪些領(lǐng)域(如交通、稅務(wù)、環(huán)境、網(wǎng)絡(luò)等)已準備或開始應(yīng)用。披露的內(nèi)容則應(yīng)包括目的、范圍、數(shù)據(jù)來源、做法及實施時間表等詳細信息。例如:2017年,紐約立法當局責成“使用算法自動處理數(shù)據(jù)系統(tǒng),對個人進行執(zhí)法并施加處罰”的公共機構(gòu)應(yīng)當“在該機構(gòu)的網(wǎng)站上發(fā)布該系統(tǒng)的源代碼”。2018年,德國國家司法部長會議建議履行向公眾通報使用自動化決策系統(tǒng)情況的一般職責,立法強制使用自動化決策的公共部門必須發(fā)布系統(tǒng)的“邏輯”“權(quán)重”以及管理人員的專業(yè)程度等信息;其次,執(zhí)法機構(gòu)應(yīng)將“智慧執(zhí)法”系統(tǒng)的相關(guān)信息予以公布,以使公眾能夠了解系統(tǒng)的運行原理與執(zhí)法方式,為公民被執(zhí)法后的權(quán)利救濟及上級機構(gòu)的監(jiān)督提供依據(jù)與保障。公布的信息則應(yīng)包括:系統(tǒng)的基礎(chǔ)數(shù)據(jù)、模型和決策邏輯、執(zhí)法系統(tǒng)的數(shù)據(jù)標準、系統(tǒng)的參考或配置文件、系統(tǒng)針對有關(guān)個人作出的執(zhí)法決策的判斷標準等。

另一方面,應(yīng)賦予被執(zhí)法人獲得人工解釋的權(quán)利。由于算法的確定性和非精準決策無法涵蓋所有可能落入合理使用范疇的情形,亦無法對較為復(fù)雜的情形作出準確判斷,因此,若被執(zhí)法人就算法提出異議或申訴,應(yīng)在算法審查標記為不確定的情況下,進行人工解釋[26]。對此,丁曉東[27]指出:“當個人提出算法解釋權(quán)的主張時,自動化決策者應(yīng)通過人工服務(wù)的方式解釋算法的運行機制?！睂I(yè)高效的人工解釋更有利于信任的建立,對于一些造成重大社會影響的算法,人工解釋應(yīng)成為兜底性要求和保障,以便公眾對算法應(yīng)用主體進行監(jiān)督。由此,在執(zhí)法的參與層面,應(yīng)賦予被執(zhí)法人相應(yīng)的程序性權(quán)利:一為算法的參與權(quán),執(zhí)法機構(gòu)可通過便捷、可視化的操作流程,實時向公眾展示對執(zhí)法系統(tǒng)算法的解釋信息,并對其疑問進行回應(yīng);二為算法解釋的申請權(quán),當被執(zhí)法人不信任對其造成不利后果的算法時,有權(quán)向執(zhí)法機構(gòu)申請啟動算法的人工解釋程序[28]。

(二)程序?qū)用?保證系統(tǒng)執(zhí)法決策的正當性

1.目的合法:明確執(zhí)法信息的使用目的

在“智慧執(zhí)法”系統(tǒng)自動作出執(zhí)法決策的過程中,如何確保被執(zhí)法人的合法權(quán)利不受侵犯,關(guān)乎“智慧執(zhí)法”應(yīng)用的合法性基礎(chǔ)與實施前景。因此,行使國家的賦權(quán)責任,需要在程序?qū)用鎸χ腔蹐?zhí)法系統(tǒng)的目標和理念予以規(guī)制,也即系統(tǒng)在行使執(zhí)法權(quán)力時,必須有明確的目的并經(jīng)合法程序,才能收集和使用個人信息。有學(xué)者對人工智能在執(zhí)法過程中應(yīng)遵守的義務(wù)進行了闡述:(1)揭示系統(tǒng)的規(guī)制作用;(2)保護與使用系統(tǒng)有關(guān)數(shù)據(jù)和信息的安全;(3)保證與使用系統(tǒng)有關(guān)的透明度;(4)明確與使用系統(tǒng)有關(guān)的責任和義務(wù)[29]。

目的合法是“智慧執(zhí)法”應(yīng)采取的首要原則,即系統(tǒng)對個人信息的利用應(yīng)具有明確和特定的目的和用途,且應(yīng)在法律規(guī)定的目的和用途范圍內(nèi)收集與使用數(shù)據(jù)。具體而言,明確執(zhí)法目的的合法性應(yīng)主要包括如下3個方面:(1)數(shù)據(jù)處理的目的必須是明確的,并具有結(jié)果的可預(yù)見性,不能是一個寬泛而抽象的目的(如國家安全、公共利益等)。(2)數(shù)據(jù)處理的目的不得以侵犯公民的基本權(quán)利為代價,不能侵犯商業(yè)秘密和個人隱私。(3)數(shù)據(jù)處理的目的應(yīng)符合形式標準。即若個人信息的收集或使用可能對數(shù)據(jù)主體的權(quán)利造成不利影響,應(yīng)給予其質(zhì)疑、表達意見與尋求司法救濟的機會和權(quán)利。

2.手段正當:明示執(zhí)法信息的處理規(guī)則

除目的合法外,“智慧執(zhí)法”應(yīng)用的手段亦應(yīng)是正當?shù)?即要求執(zhí)法機構(gòu)必須明示收集信息的范圍與方式,并在執(zhí)法中盡到告示、說明和警示義務(wù)。具體而言,要求執(zhí)法主體審查數(shù)據(jù)處理所選擇的手段是否足以實現(xiàn)預(yù)定的目的:(1)執(zhí)法數(shù)據(jù)處理的手段,包括收集、存儲、記錄、使用、恢復(fù)、刪除等全周期,均應(yīng)有明確的程序并予以公開。(2)執(zhí)法系統(tǒng)擬采取的手段,亦應(yīng)與數(shù)據(jù)處理可能給數(shù)據(jù)主體權(quán)利造成損害的范圍、程度和性質(zhì)相適應(yīng)。

由此,應(yīng)從事前、事中、事后3個環(huán)節(jié)對執(zhí)法系統(tǒng)收集和使用個人信息的自動決策機制進行規(guī)制:首先,在執(zhí)法前,公開執(zhí)法信息的收集使用規(guī)則,明確信息安全評估程序;其次,在執(zhí)法時,對收集到的信息進行再審查,判斷系統(tǒng)使用信息的手段是否正當、執(zhí)法結(jié)果與對被執(zhí)法主體造成的損失是否相適應(yīng);最后,在執(zhí)法完成后,向被執(zhí)法主體提供針對自動決策結(jié)果的救濟渠道與人工復(fù)核。

(三)實體層面:規(guī)范執(zhí)法系統(tǒng)對信息的收集與使用

1.信息自決:強化個人敏感信息的保護

在保證執(zhí)法目的與手段合法正當?shù)幕A(chǔ)上,“智慧執(zhí)法”應(yīng)用還須解決的問題是:被執(zhí)法主體的哪些信息是合法的,可以收集使用?哪些信息是不合法的,不能收集使用?目前,我國法律對個人信息的收集與使用遵循“授權(quán)原則”，即數(shù)據(jù)主體基于具體的目的而對處理其個人數(shù)據(jù)的行為表示同意。其理論基礎(chǔ)來源于“信息自決權(quán)”,即“保護個人數(shù)據(jù)不被無限制地提取、存儲、使用和繼續(xù)傳輸,保障個人有權(quán)自我決定、透露或使用其個人數(shù)據(jù)的權(quán)利”。根據(jù)上述要旨,公民擁有對其個人數(shù)據(jù)自決處理的權(quán)利,司法與執(zhí)法的任務(wù)在于保障公民的信息權(quán)不受來自國家公權(quán)力的侵害。因此,為劃定“合法”與“違法”信息的界限,明確哪些信息在執(zhí)法活動中“能夠”或“不能”被收集使用,筆者認為對于個人敏感信息,應(yīng)遵循“信息自決”原則,對“智慧執(zhí)法”系統(tǒng)認定和處理敏感信息的行為進行規(guī)制。

目前,我國《個人信息保護法》對敏感信息的界定采取“概括+列舉”的方式,將其認定為“一旦泄露或非法使用,容易導(dǎo)致人格尊嚴、人身、財產(chǎn)安全受到侵害的信息”,并列舉了“生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡、不滿十四周歲未成年人的個人信息”7種類型。但在具體的執(zhí)法實踐中,由于敏感信息更多是主觀認識,沒有具體的評價標準,導(dǎo)致系統(tǒng)對敏感信息的認定存在極大困難。在此情況下,較為可行的方法是:首先,細化敏感信息的類型,使執(zhí)法系統(tǒng)更容易識別。如生物識別信息可細化為遺傳信息、家族病史信息;醫(yī)療健康信息可細化為病歷材料、體檢資料、醫(yī)療記錄;金融賬戶信息可細化為財務(wù)記錄、收入記錄、銀行卡賬號密碼等。其次,可基于“場景理論”輔助敏感信息的判斷。該理論可對個人信息在不同場景的信息要素進行評價:(1)信息主體要素,如不滿14周歲的個人信息即應(yīng)認定為敏感信息;(2)信息處理的身份要素,如醫(yī)生使用患者的醫(yī)療健康信息即不應(yīng)認定為敏感信息;(3)信息處理的目的要素,如公民購買汽車行為不被視為敏感信息,但若持續(xù)收集其駕駛軌跡、出行規(guī)律等行為,則應(yīng)被認定為敏感信息[30]。由此,可根據(jù)被執(zhí)法人的信息要素,制定不同場景中的執(zhí)法模型,進行深度學(xué)習(xí)與反復(fù)訓(xùn)練,輔助判斷其是否屬于敏感信息。

在對個人敏感信息進行認定后,執(zhí)法系統(tǒng)還需判斷是否有必要收集和使用該信息。若判斷為“否”,則放棄對該信息的處理,這是執(zhí)法系統(tǒng)易于做到的;而若判斷為“是”,系統(tǒng)對敏感信息的處理則須符合法律的規(guī)定。目前,《個人信息保護法》規(guī)定了敏感信息處理的條件,即“特定目的”與“充分必要”。首先,“特定目的”要求執(zhí)法行為的目的必須是具體明確且特定化的。其次,“充分”要求執(zhí)法行為只有在理由充分的情形下方能處理,“必要”則要求是否有其他方式可以替代。然而,在當前“弱人工智能”局面下,要求系統(tǒng)進行如此復(fù)雜的主觀價值判斷,顯然勉為其難。因此,若系統(tǒng)將被執(zhí)法人的行為認定為敏感信息,且判斷確有必要進行處理,即應(yīng)告知執(zhí)法人員,由人工判斷該信息是否應(yīng)被收集和使用,以及是否應(yīng)成為執(zhí)行執(zhí)法決策的依據(jù)。

2.利益平衡:推進個人一般信息的利用

在具體的執(zhí)法活動中,若完全遵循“信息自決”原則,那么執(zhí)法權(quán)則可能會失去行使的空間。因此,為保障執(zhí)法活動的正常開展,對于個人非私密可公開的一般信息,法律應(yīng)授權(quán)執(zhí)法系統(tǒng)合法收集并使用,以兼顧敏感信息保護與執(zhí)法決策實施的利益平衡。正如趙宏[31]指出,法律對信息自決權(quán)的確認與保護,并不意味著將這一權(quán)利的絕對化,“信息自決并非無限,對于其自身信息,個人并不具有任何絕對的控制。個人是在社會共同體之下發(fā)展其個性,即便是個人信息,亦同樣是社會事實的反映,而非純粹與個人關(guān)聯(lián)”。因此,為了迫切的公共利益,個人在原則上必須接受對其信息自決權(quán)的某種限制。

在未來的數(shù)字社會中,數(shù)據(jù)治理需要兼顧個人信息的權(quán)利保護與流動,并全面促進數(shù)據(jù)的利用。例如:《歐盟GDPR合規(guī)指引》制定之目的即解決個人信息權(quán)利保護與數(shù)據(jù)流動的平衡。該“指引”開宗明義指出:“本條例旨在確立個人數(shù)據(jù)處理中的自然人保護和數(shù)據(jù)自由流通的規(guī)范?！币虼?推進個人一般信息的利用,促進其公共管理與社會價值的發(fā)揮,已成為數(shù)字時代各國掌握信息話語權(quán)的必然選擇。在我國,新頒布的《數(shù)據(jù)安全法》即明確鼓勵數(shù)據(jù)的依法合理有效利用與有序自由流動,以促進數(shù)字經(jīng)濟和數(shù)字治理的發(fā)展。同時,相關(guān)法律亦規(guī)定了授權(quán)原則的例外,如個人自行公開或已合法公開、與公共安全或公共利益直接相關(guān)、與刑事判決執(zhí)行直接相關(guān)的信息,無需取得信息主體的同意即可收集?？梢?設(shè)計“智慧執(zhí)法”應(yīng)用的目標不僅僅是對個人數(shù)據(jù)權(quán)利的保護,更是民眾利益或福利的最大化。正如程嘯[32]所強調(diào):“不能僅僅為了保護自然人的權(quán)利,無限度擴張對個人數(shù)據(jù)權(quán)利的保護邊界,從而妨礙數(shù)據(jù)的流動、分享與利用?！币虼?將個人一般信息納入“智慧執(zhí)法”系統(tǒng)合法收集并使用的范圍,能夠保證執(zhí)法機構(gòu)為了公共管理與社會利益,在不侵犯公民信息自決權(quán)的前提下,最大程度地利用個人信息。