文／于文軒 劉麗紅

人工智能算法在極大促進經(jīng)濟發(fā)展和政府管理效率的同時，也在政治、經(jīng)濟和社會等諸方面帶來前所未有的巨大風險。[1]在數(shù)據(jù)是重要生產(chǎn)要素的算法時代，數(shù)據(jù)要素的所有者、生產(chǎn)者和管理者擁有了新型、隱形的難以控制的權力。這樣的新權力形態(tài)，對傳統(tǒng)政府、市場和社會之間的權力結構和互動模式產(chǎn)生了巨大沖擊。在市場和資本的加持下，算法權力進一步激化了社會的不平等和階層分化，給民主和人文帶來巨大風險，其破壞性傷害之大堪稱大規(guī)?！皵?shù)字殺傷性武器”。[2]

算法的內(nèi)在復雜性使得傳統(tǒng)以政府行政機關為主體的監(jiān)管模式舉步維艱，作為規(guī)制者的政府不得不采用新的監(jiān)管方式，賦予監(jiān)管對象一定程度的裁量空間，要求監(jiān)管對象設定自身的內(nèi)部管理規(guī)范，著重對監(jiān)管對象自我設定的管理規(guī)范進行監(jiān)管。這種將政府強監(jiān)管和行業(yè)自我規(guī)制相結合的“元規(guī)制”模式被認為是一種理想的監(jiān)管模式。[3]盡管“元規(guī)制”模式對傳統(tǒng)的基于“命令—控制”的科層式監(jiān)管模式進行了改良，但由于算法黑箱的復雜性和政府行業(yè)監(jiān)管的難度，使得這種模式在監(jiān)管實踐中難以實現(xiàn)政策目標。[4]有研究表明，現(xiàn)有準則規(guī)范并不能影響利益相關者在參與人工智能算法和應用過程中的合規(guī)行為。[5]日益復雜的算法、數(shù)據(jù)保護的情境性以及算法運算的實時性極大提高了監(jiān)管難度，對算法規(guī)制需要更加動態(tài)的監(jiān)管哲學、思路和方法。起源于20世紀90年代，為應對日益復雜、迅速變化和日益多元的計算機軟件開發(fā)環(huán)境和需求而發(fā)展起來的“敏捷方法”的“敏捷治理”理論框架，為進一步進行算法規(guī)制提供了新思路和新方法。因此，本文旨在將“敏捷治理”的框架引入算法治理，為如何更好地進行算法規(guī)制提供分析框架與解決方案。

一 敏捷治理：算法規(guī)制的新范式

在后現(xiàn)代風險社會，傳統(tǒng)政府依靠科層制和專業(yè)公務員隊伍進行的公共管理活動已經(jīng)很難滿足治理的需要。如何有效應對越來越多的“棘手問題”，是全世界各國政府面臨的嚴重挑戰(zhàn)。2020年以來的全球新冠疫情的大流行，是對全世界各國政府解決“棘手問題”能力的一場大考。后疫情時代的政府治理需要超越傳統(tǒng)科層制與市場的新的思路和方法。在這個背景下，基于計算機軟件工程“敏捷方法”的敏捷治理成為國內(nèi)外學術界關注的新議題。

計算機軟件工程“敏捷方法”被引入公共管理研究領域，起源于《Government Information Quarterly》2018年組織的一個?？?。包括Ines Mergel在內(nèi)的學者針對英美各國電子政務平臺建設實踐，將計算機軟件開發(fā)中的“敏捷方法”引入政府管理活動中，提出了“敏捷政府”和“敏捷創(chuàng)新”的概念。[6]計算機軟件工程中的“敏捷方法”突出體現(xiàn)在2001年17名軟件開發(fā)專家發(fā)表的敏捷宣言(Agility Manifesto)里。其背景是隨著互聯(lián)網(wǎng)和軟件產(chǎn)業(yè)的發(fā)展，軟件開發(fā)的過程越來越復雜，用戶對軟件的需求越來越多。特別是當政府開始大規(guī)模采納電子政務平臺，不斷變化的政務電子化的需求，海量的用戶和數(shù)據(jù)，對傳統(tǒng)線性計算機軟件開發(fā)和項目管理模式產(chǎn)生巨大挑戰(zhàn)。計算機軟件開發(fā)領域的專家開始倡導“敏捷方法”以應對這一挑戰(zhàn)。2001年的敏捷宣言揭開了全球范圍內(nèi)電子政務領域“敏捷運動”（Agility Movement）的序幕。

敏捷宣言呼吁計算機軟件開發(fā)要以用戶需求為核心，新的軟件開發(fā)“敏捷方法”指出軟件開發(fā)的目的是通過持續(xù)不斷地及早交付有價值的軟件使客戶滿意；軟件開發(fā)過程要欣然面對需求變化，即使在開發(fā)后期也一樣；為了客戶的競爭優(yōu)勢，敏捷過程要擁抱變化，要經(jīng)常地交付可運作的軟件；業(yè)務人員和開發(fā)人員必須相互合作，項目中的每一天都不例外；要激發(fā)個體的斗志，以他們?yōu)楹诵拇罱椖?。提供所需的環(huán)境和支援，輔以信任，從而達成目標；不論團隊內(nèi)外，傳遞信息效果最高效率的方式是面對面的交談；可運作的軟件是進度的首要度量標準；敏捷過程倡導可持續(xù)開發(fā)，責任人、開發(fā)人員和用戶要能夠共同維持步調(diào)穩(wěn)定延續(xù)；要堅持不懈地追求技術卓越和良好設計，增強敏捷能力；要以簡潔為本，極力減少不必要的工作量；通過自組織的團體發(fā)展最好的架構、設計；團隊要定期反思如何提高工作成效，并依此調(diào)整自身的工作表現(xiàn)。2012年美國會計總署和隨后英國國家審計署都要求電子政府平臺建設中必須采用敏捷方法，并為敏捷方法的使用和監(jiān)管提供了指南。

早期研究聚焦敏捷電子政務軟件開發(fā)和敏捷項目管理，而后續(xù)學者側(cè)重探討如何利用敏捷方法建設敏捷政府和進行政府創(chuàng)新。Ines Mergel等學者認為“敏捷方法”是一種新型治理。筆者曾結合新公共管理理論、創(chuàng)新理論、治理理論發(fā)展出了一個包括十大要素的敏捷治理框架，并結合廈門2021年抗擊新冠疫情的實踐，闡釋了這十大要素對于后疫情時代提升政府治理體系和治理能力現(xiàn)代化的重要的理論和實踐意義。這十大要素包括：（1）維持穩(wěn)定性的同時又可以保持組織靈活的靈巧組織的建立；（2）快速動員利益相關方合作的能力；（3）跨部門合作；（4）自我組織能力和組織的培養(yǎng)；（5）復雜性的分解；（6）靈活的基礎設施；（7）擁抱變化；（8）充分溝通；（9）信息的開放與共享；（10）容錯的組織學習。[7]

敏捷治理的框架為治理算法規(guī)制提供了一個新的思路和方法。在傳統(tǒng)算法風險規(guī)制實踐中，保障算法安全、規(guī)避算法風險的主要舉措是算法標準、算法認證、算法倫理審查、算法事后救濟等監(jiān)管模式。然而算法發(fā)展的復雜性和多變性使得不同計算機語言之間的“專業(yè)槽”程度不斷加深。[8]算法自主深度學習的屬性，使得算法設計者可能都無法對自己編寫代碼進行解讀，算法審查主體在特定期限能力有限，不足以對算法應用進行審查。算法風險的范圍也不再僅局限于網(wǎng)絡環(huán)境，業(yè)已延伸至線下。算法風險的引發(fā)者不再限于算法設計應用開發(fā)平臺。隨著計算機編程語言的擴展與開放源代碼活動的興起，個體也能利用算法知識和代碼設計快速搭建自己的算法應用，造成算法風險。因此，隨著算法應用的多元化，算法風險呈現(xiàn)分散、多變以及形式多元的特征。[9]傳統(tǒng)自上而下的監(jiān)管方式根本難以預計和防范日益復雜的算法風險。敏捷治理的核心要義就是要針對內(nèi)外部環(huán)境的動態(tài)變化和不確定性，通過迭代創(chuàng)新的方式實現(xiàn)對公民訴求的快速響應。相對于以往政府的強監(jiān)管和行業(yè)的自我規(guī)制，面對變化莫測的內(nèi)外部風險因素，將敏捷治理的思維引入算法規(guī)制，更易從集中于風險鏈條的中間節(jié)點擴展至整個風險鏈條的全過程，對算法風險的快速發(fā)展和演化展開有效應對。

將敏捷治理引入算法規(guī)制并不是對政府強監(jiān)管和行業(yè)自我規(guī)制的摒棄，而是對二者的強化與補充。作為規(guī)制主體的引導者，政府規(guī)制在權威性和執(zhí)行力方面有著顯著優(yōu)勢，但限于專業(yè)知識、資源和信息的缺乏，政府規(guī)制在實際操作過程中難以應對復雜的現(xiàn)實。[10]行業(yè)自我規(guī)制一定程度上彌補了政府規(guī)制的缺陷，自我規(guī)制者擁有比政府更高水平的專業(yè)技術知識，自我規(guī)制者往往比政府更密切接觸被規(guī)制對象，更易獲取規(guī)制信息，這極大地緩解了政府的能力和資源的不足。然而政府和自我規(guī)制者并非全能，并且規(guī)制作為經(jīng)濟系統(tǒng)的內(nèi)生變量，一旦政府為企業(yè)所俘獲，致使“規(guī)制合謀”現(xiàn)象發(fā)生，算法權力異化所引發(fā)的算法風險將成倍損害公共利益。

敏捷治理可以使組織在復雜多變的環(huán)境中快速識別社會問題和公眾需求，預測其發(fā)展趨勢和潛在影響，對組織結構和工作流程進行迅速調(diào)整，以快速迭代的方式重新設計公共產(chǎn)品和服務，滿足公眾不斷變化的需求。算法規(guī)制的敏捷治理可以顯著提升政府和企業(yè)對算法規(guī)制措施迭代創(chuàng)新的能力，這無疑是對政府監(jiān)管和行業(yè)自我規(guī)制應對算法風險動態(tài)變化力量的強化。此外，敏捷治理重視公民的治理主體地位，將以公民和社會非營利組織等利益相關方引入算法規(guī)制，形成政府、市場和社會的戰(zhàn)略三角關系，以多元治理主體抗衡動態(tài)變化的算法風險。

二 權力與權利：算法規(guī)制何以敏捷

傳統(tǒng)政府規(guī)制情境下，國家和政府代表的公權力和公民代表的私權利相互制衡。然而，算法權力所具有的內(nèi)在風險與外部的不可控引發(fā)了算法極權，公民的基本權利在算法社會中被邊緣化，形成一種“弱政府”“強市場”“弱社會”的局面。[11]算法規(guī)制中的敏捷治理具有兩方面的功能：在權力層面，算法規(guī)制的敏捷治理突出公民的治理主體地位，在政府和市場之間劃界；在權利層面，通過靈活、迭代的規(guī)制方式建立算法風險防御體系，在外部環(huán)境變化過程中對算法風險源的發(fā)展規(guī)律進行預測以制衡算法權力，動態(tài)迅速維護公民的合法權益。

（一）面向權力：實現(xiàn)公權力與算法權力的良性互動

算法失控而引發(fā)的算法風險分為兩種情形：一是技術為人所操控而對社會形成控制；二是技術不為人所控制而配置社會資源。面對這種彌散性、隱蔽性、非均衡權力形態(tài)所引發(fā)的算法風險，現(xiàn)有規(guī)制路徑存在著諸多限制，很難分清現(xiàn)有的規(guī)制方式是出于公共利益還是資本利益，同時也難以有效防御算法權力失控而引發(fā)的風險。[12]權力層面強調(diào)以下內(nèi)容。

1.凸顯公民在算法治理中的主體地位。大型互聯(lián)網(wǎng)科技平臺憑借自身技術優(yōu)勢不斷擴張自身的算法權力，利益最大化的驅(qū)使，讓平臺更易將自身利益內(nèi)嵌在算法運行中，借助算法權力形成與消費者的不公平交易，催生“監(jiān)視資本主義”。而算法黑箱的存在讓平臺可以用非常隱蔽的形式進行價格歧視，侵犯消費者的合法權益。政府部門因自身權威優(yōu)勢，在算法社會中處于優(yōu)勢地位，當算法嵌入政治權力運行的各個環(huán)節(jié)來參與社會治理時，如若缺乏相關制約機制，則會引發(fā)“算法利維坦”，嚴重挑戰(zhàn)正當程序制度和權力專屬原則。[13]

算法權力異化的實質(zhì)是政府或企業(yè)憑借對數(shù)據(jù)的控制，獲得了不被監(jiān)督和制衡的權力。數(shù)據(jù)權的真正擁有者（公民）的合法權益被侵蝕，卻又無力尋求救濟。因此，強化公民在算法社會中的治理主體地位，實現(xiàn)權力的去中心化，無疑是算法時代防范算法權力異化的重要保證。而敏捷治理嵌入算法規(guī)制本身就是對算法規(guī)制路徑的一種改造與創(chuàng)新，通過強化公民自組織能力、利益相關體的合作，來提升社會群體在算法社會中的治理主體地位，將數(shù)據(jù)控制權歸還于民，進而對公權力與算法權力的“共謀”進行制約，形成政府、市場與社會之間的“鐵三角”關系，以此來確保數(shù)據(jù)控制者運用被賦予的裁量權，去實現(xiàn)公共規(guī)制目的而非自身的私人利益。[14]

2.強調(diào)對算法權力異化的控制。當前人工智能算法已經(jīng)逐漸形成一套復雜的自主性體系，即算法在沒有任何人為干預的情況下，憑借算法自主學習的能力自動地從數(shù)據(jù)中提取知識，在算法黑箱的“掩藏”下，其結果具有不確定性、不可解釋性和不可控性。算法可以直接轉(zhuǎn)變?yōu)樾袨橐?guī)范，影響甚至決定個人的行為。[15]萊斯格教授提出的“代碼即法律”原則充分體現(xiàn)了網(wǎng)絡空間的這一特征。而這種算法技術的“僭越”將導致各種社會關系依附于算法數(shù)據(jù)的分析和設計邏輯，基于理性自治的官僚結構和企業(yè)組織將從“人的組織”轉(zhuǎn)向“算法的組織”。算法治理下的所有人，包括使用算法治理的人都將不得不在算法測量、統(tǒng)計、計算中尋求生存。算法治理強化了技術政治的自主性，導致“人的政治”的價值主張所具有的政治自律出現(xiàn)危機。[16]

算法規(guī)制的敏捷治理一方面要求政府和企業(yè)組織不斷根據(jù)形勢的需要優(yōu)化結構、制度和流程，強化其對算法權力失控的及時響應和應對能力；另一方面，敏捷治理通過對公民自我組織能力的強化以及功能性自組織的養(yǎng)成，對算法權力失控行為進行監(jiān)管。社會和公眾自我意識的覺醒和自我組織能力的培養(yǎng)和壯大，是避免算法權力異化的最有效途徑。

（二）面向權利：迅速響應公民訴求

在算法社會，基于經(jīng)濟發(fā)展、社會便利與政治安全的訴求，公民不得不將自己的權利讓渡給算法權力。算法規(guī)制的敏捷治理要求對公民的利益訴求進行快速的響應。

1.打破算法對用戶的“囚禁”。在算法社會中，個性化算法與公民的關聯(lián)最為緊密。然而，個性化算法為公民帶來便利的同時隱藏著眾多算法風險。一方面，算法利用用戶在互聯(lián)網(wǎng)中披露的個人數(shù)據(jù)，通過進一步數(shù)據(jù)分析和測算判斷出用戶心理和需求偏好，以此為前提向用戶推送“定制”信息，進而左右用戶的主觀態(tài)度和判斷，誘導用戶的行為。另一方面，算法繼承社會偏見導致“算法歧視”。如國外著名網(wǎng)站上的高薪工作更多地向白人推薦，簡歷篩選過程中，男性求職者的簡歷分數(shù)往往比女性求職者的簡歷分數(shù)高。同時，算法歧視將進一步固化現(xiàn)有社會結構，阻礙階層的流動?，F(xiàn)有的“數(shù)據(jù)鴻溝”會讓貧困者的數(shù)據(jù)更為稀少，其數(shù)據(jù)也就難以進入民生保障的數(shù)據(jù)集，算法在這一數(shù)據(jù)集的基礎上進行決策，易造成本應獲得更多民生保障的貧困者無法得到應有的保障。[17]

算法權力的異化導致的“算法歧視”“大數(shù)據(jù)殺熟”“數(shù)據(jù)鴻溝”等算法風險嚴重侵犯了公民的隱私權、自由權、平等權甚至生存權等基本合法權益。與傳統(tǒng)規(guī)制方式相比，算法規(guī)制的敏捷治理要求以公民訴求為中心，通過建設靈活的“數(shù)據(jù)資源”、跨部門合作、有效溝通等方式及時對算法風險進行規(guī)制，對用戶的需求迅速做出反饋，打破算法對用戶的“囚禁”。

2.預防侵權“耐受”行為。個性化算法還會帶來另一個深層風險，那就是在個性化服務的“伺奉”下，個體逐漸失去自主判斷與選擇權，越來越多地被算法或機器控制。個性化算法所提供的便利服務精準迎合用戶的心理需求，加之以往對“技術理性”的慣性認知使其“沉迷”于算法所帶來的便利與福祉。在算法的演進過程中，人們對算法的依賴不斷加深，并在不知不覺中被算法麻痹，被其控制。在算法時代，大部分系統(tǒng)的運行都必須以用戶的信息為載體，這就導致人們在享受智能化便利的時候必須“以隱私換便利”。大部分用戶都是“技術盲”，他們并不知道隱私會被如何侵犯以及侵犯到何種程度。用戶與算法設計應用者之間存在這種天然的不對等關系，一部分人即使意識到了這種風險卻也無可奈何。

無論是用戶“被幸福地操縱”，還是被迫以隱私換便利，都是公民產(chǎn)生侵權“耐受”行為的一種體現(xiàn)。[18]算法規(guī)制的敏捷治理重要目的就是喚醒公民的主體意識，防止侵權“耐受”行為的發(fā)生。盡管以隱私換便利是用戶不得已的選擇，但用戶應該有權利知道，出讓的是哪些隱私數(shù)據(jù)，能獲取哪些便利，以及如何提升自我組織能力，進而通過合法渠道去參與算法治理，維護自身合法權益。[19]基于此，政府要注重培養(yǎng)公民的“數(shù)據(jù)素養(yǎng)”，實現(xiàn)公民對自身數(shù)據(jù)權的重視和掌控，促使算法設計應用者提升其數(shù)據(jù)分析能力和水平，引導算法向“善”。

三 算法的敏捷治理

面對算法風險的多樣性、動態(tài)性，政府必須及時調(diào)整算法規(guī)制思路，創(chuàng)新算法規(guī)制路徑以提升規(guī)制效力，敏捷治理為算法治理提供了一個新的范式。

（一）規(guī)制主體的轉(zhuǎn)變

傳統(tǒng)的規(guī)制路徑主要依賴政府強監(jiān)管與行業(yè)自我規(guī)制，但政府和市場受專業(yè)知識和自利性的局限，難以有效解決算法風險問題。算法規(guī)制的敏捷治理要求規(guī)制主體從政府和企業(yè)，轉(zhuǎn)向政府、企業(yè)與公民以及公民組織的協(xié)同共治。

1.跨部門合作。政府監(jiān)管面臨的一個重要挑戰(zhàn)是協(xié)調(diào)與整合。如何建立起跨越部門監(jiān)管界限的協(xié)同監(jiān)管機制變得越來越重要。[20]一方面，對算法風險的監(jiān)管需要網(wǎng)信部門、市場監(jiān)管部門等的協(xié)同合作。另一方面，算法風險的監(jiān)管既是政治問題，也是經(jīng)濟和法律問題。行政和司法系統(tǒng)雖然有著權威性優(yōu)勢，但技術壁壘的存在，使得行政和司法系統(tǒng)在算法黑箱面前往往束手無策。經(jīng)濟系統(tǒng)雖有專業(yè)能力，但又很難確保其是否致力于公共利益的實現(xiàn)。要想真正地破解算法難題，必須找到各系統(tǒng)之間的協(xié)作方向和具體事項，達成跨部門的合作。[21]在這方面，德國推行的個人數(shù)據(jù)保護顧問制度頗有啟發(fā)借鑒意義。在德國，個人數(shù)據(jù)保護顧問既擔任著法律義務，同時也是企業(yè)系統(tǒng)的一員。政府作為規(guī)制主體的引導者，可通過數(shù)據(jù)監(jiān)管機構與個人數(shù)據(jù)保護顧問這類部門合作來應對算法監(jiān)管問題，以提升規(guī)制效力。個人數(shù)據(jù)保護顧問的存在也促使行政系統(tǒng)內(nèi)生自律性，預防政治領域算法權力的異化。

2.快速動員利益相關方。算法行為具有跨學科、跨領域的屬性。同時，“算法黑箱”的存在也模糊了公私領域的界限。為保證對算法權力的全方位監(jiān)督，應支持學術性組織和非營利機構的適當介入，加強第三方監(jiān)管力量，維護算法公正、透明的運行。目前在德國已經(jīng)出現(xiàn)了由資深媒體人和技術專家牽頭成立的名為“監(jiān)控算法”的非營利組織，通過審核訪問協(xié)議的嚴密性、商定數(shù)字管理的道德準則、任命專人監(jiān)管信息、在線跟蹤個人信息再次使用的情況，允許用戶不提供個人數(shù)據(jù)、為數(shù)據(jù)訪問設置時間軸、未經(jīng)同意不得將數(shù)據(jù)轉(zhuǎn)賣給第三方等方式防范算法濫用。

3.以公民為代表的公民自組織的養(yǎng)成。傳統(tǒng)的算法規(guī)制路徑忽視了以公民為代表受算法影響的個體或組織的治理主體地位，導致政府—市場—社會關系的失衡。算法規(guī)制迫切需要公民自我組織起來牽制或驅(qū)動相關主體各負其責。在算法治理的各相關主體之中，受算法影響的公民和非營利組織顯然最有意愿和動力對算法中存在的不當問題進行治理。他們或許不理解人工智能算法的設計原理，但會預測算法決策的結果。算法規(guī)制的敏捷治理除了強調(diào)政府的強監(jiān)管以及行業(yè)自我規(guī)制，更強調(diào)算法影響的公民、非營利組織等社會個人和組織的自組織能力。美國目前正試圖通過提供資金援助的方式，鼓勵非公益組織以及個人測試算法運行系統(tǒng)，以期通過測試和執(zhí)法行為預防或消除算法風險。如果通過驗證發(fā)現(xiàn)，算法運行過程中的確嵌入了算法歧視、大數(shù)據(jù)殺熟等行為，那么這些功能性自組織就可以主張歧視和不公，進而要求政府監(jiān)管機構強制算法設計開發(fā)應用者修改算法以確保公平。采用自組織的方式去解決算法規(guī)制問題的同時，政府應該加強引導，建立適度的框架模式和邊界條件，以便更好地促進“涌現(xiàn)現(xiàn)象”的形成。[22]

（二）規(guī)制方式的轉(zhuǎn)變

算法規(guī)制的敏捷治理除了要在現(xiàn)有規(guī)制主體上發(fā)生轉(zhuǎn)變，形成規(guī)制多元共治的局面，還要通過迭代創(chuàng)新的規(guī)制方式，靈活應對動態(tài)變化的算法風險問題。

1.建立強大的反饋機制。算法設計和實際運行的復雜性決定了算法規(guī)制問題不可能一蹴而就。算法監(jiān)管必須在原有監(jiān)管模式的基礎上不斷進行迭代創(chuàng)新，才能有效應對新興技術和未知風險的挑戰(zhàn)。因此，算法監(jiān)管系統(tǒng)應建立強大的反饋機制，便于用戶反饋情況，進而發(fā)現(xiàn)和把握各種算法規(guī)制活動的內(nèi)在連續(xù)性，打破算法運行的自我強化學習循環(huán)。此外，算法規(guī)制的相關主體也要通過一定的反饋機制，進行持續(xù)對話、互動與溝通以實現(xiàn)信息的交流與共享，不斷優(yōu)化、不斷容錯、糾錯以實現(xiàn)算法治理問題的有效解決。

2.分解算法風險的復雜性。算法的實質(zhì)是一系列通過預先設定的步驟、解決特定問題的計算機程序。[23]它的設計邏輯是將人類解決問題的過程分解為若干步驟，再通過程序設計，將這一過程公式化，借助計算機算法求解復雜問題。[24]有效的算法規(guī)制同樣需要按照公眾的合法訴求對算法風險的復雜性進行分解，將其劃分為若干步驟或若干類型，最終實現(xiàn)不同形式的算法風險都有相應的負責主體和監(jiān)管模式。要針對算法設計應用進行流程劃分,以分解風險問題；要注重在數(shù)據(jù)采集階段提高數(shù)據(jù)的可解釋性；要避免“臟數(shù)據(jù)”等粗糙數(shù)據(jù),以優(yōu)化事前防范；要強化對算法運行環(huán)節(jié)是否內(nèi)嵌算法設計應用者的偏見或利己主義的審查,以便事中監(jiān)督；要加強對算法應用服務結果是否侵害公眾利益的驗證,以便事后救濟。此外，針對不同類型、不同級別的算法風險則需要塑造“分級分類監(jiān)管”的理念。[25]對于事關國家安全、社會秩序、公眾利益的算法應用，應按照風險等級進行排序來分解算法風險的復雜性，同時根據(jù)不同的算法應用場景，進行相應的規(guī)制強度和形式的設計。

3.建設靈活的數(shù)據(jù)保護“基礎設施”。靈活的數(shù)據(jù)保護“基礎設施”是敏捷治理嵌入算法規(guī)制的基礎。西方國家在數(shù)據(jù)應用方面走在世界前列，很大程度上是因為政府機構在數(shù)據(jù)質(zhì)量、透明性和數(shù)據(jù)使用規(guī)范方面都打下了良好的基礎。進入大數(shù)據(jù)時代，美國政府進一步推進了數(shù)據(jù)資源的“基礎設施”建設。美國聯(lián)邦貿(mào)易委員會技術研究和調(diào)查辦公室就通過向聯(lián)邦貿(mào)易委員會(FTC)消費者保護調(diào)查員和律師提供有關算法透明度的培訓和技術專業(yè)知識。2018年歐盟也出臺《歐盟通用數(shù)據(jù)保護條例》旨在維護公民或者個人用戶的隱私數(shù)據(jù)，規(guī)范企業(yè)對用戶數(shù)據(jù)的規(guī)范使用。同時，規(guī)定第三方機構可以在接受數(shù)據(jù)主體委托和無須獲得數(shù)據(jù)主體同意兩種情況下向數(shù)據(jù)監(jiān)管機構提出申訴和行使救濟權。[26]

四 結論與展望

隨著算法風險的動態(tài)變化，及時規(guī)制算法權力、規(guī)避算法風險以切實保障公民的合法權益，是算法社會中預防算法權力異化的必然要求。政府和市場作為現(xiàn)有算法規(guī)制的主體，由于種種原因，難以保證算法治理公共性的實現(xiàn)。算法深度自主學習的屬性也導致“技術政治”超越“人的政治”，引發(fā)算法失控的風險。算法規(guī)制敏捷治理的核心要義，就是凸顯以公民為代表的社會群體的治理主體地位，將數(shù)據(jù)權還政于公民。算法規(guī)制的敏捷治理，不僅要求在治理哲學上進行轉(zhuǎn)變，更需要在機構、運作方法和具體規(guī)制手段上擁抱快速變化的社會政治經(jīng)濟和技術發(fā)展，不斷對規(guī)制方式進行迭代創(chuàng)新，以應對算法風險的多元性與動態(tài)性。算法規(guī)制的敏捷治理特別強調(diào)公民數(shù)據(jù)權意識的覺醒和公民自組織體系和能力的培養(yǎng)。政府數(shù)據(jù)治理體系和治理能力的建設，公民社會自我確權意識的培養(yǎng)、自我組織和保護能力的培養(yǎng)的結合，是規(guī)制算法權力、抵制資本對公民數(shù)據(jù)權益的侵犯和充分有效利用數(shù)據(jù)要素造福社會的終極武器。