許曉東 鄺 巖

(華中科技大學(xué) 公共管理學(xué)院， 湖北 武漢 430074)

隨著大數(shù)據(jù)、人工智能等技術(shù)的不斷發(fā)展，智能算法得以廣泛應(yīng)用于社會(huì)生活的各個(gè)領(lǐng)域，在助力經(jīng)濟(jì)發(fā)展、保障公共安全、改善公共服務(wù)等方面發(fā)揮著愈發(fā)重要的作用。當(dāng)前，算法已經(jīng)成為社會(huì)運(yùn)行的重要規(guī)則[1]，并逐漸演進(jìn)成一種新的權(quán)力形態(tài)，在無形中影響著公眾的認(rèn)知框架和價(jià)值選擇[2]。這種新的權(quán)力形態(tài)在推動(dòng)社會(huì)進(jìn)步的同時(shí)，也不可避免地引入了新的風(fēng)險(xiǎn)，“算法歧視”“算法霸權(quán)”“算法黑箱”等問題層出不窮，給公民權(quán)利以及公共利益的實(shí)現(xiàn)帶來了不同程度的損害，其治理問題也引起了學(xué)者們越來越多的關(guān)注?，F(xiàn)有關(guān)于算法治理的研究主要集中在以下幾個(gè)方面：一是針對算法權(quán)力的運(yùn)行規(guī)律思考權(quán)力的規(guī)制方式，相關(guān)的研究主要聚焦于算法權(quán)力的資本化、壟斷化以及黑箱化[3][4]，并從行政、法律、倫理規(guī)范等方面提出了相應(yīng)的規(guī)制方式[5][6]。二是以算法風(fēng)險(xiǎn)的特征表現(xiàn)為著眼點(diǎn)進(jìn)行治理路徑的選擇，如針對隱私泄露的加劇[7]、個(gè)人主體性的喪失、傳統(tǒng)決策模式的失效[8]、意識形態(tài)的偏離[9]等問題進(jìn)行的治理路徑構(gòu)建。三是在具體的應(yīng)用領(lǐng)域?qū)λ惴ㄖ卫韱栴}進(jìn)行分析，研究的內(nèi)容涵蓋了電子商務(wù)[10]、新聞傳播[11]、社會(huì)治理[12]等多個(gè)方向。算法風(fēng)險(xiǎn)的產(chǎn)生源自算法權(quán)力的擴(kuò)散，其治理也應(yīng)更多的著眼于對算法權(quán)力形成及運(yùn)轉(zhuǎn)過程的準(zhǔn)確把握。然而，“算法即權(quán)力”雖然已成為了學(xué)者們的一種共識，現(xiàn)有的研究也在算法權(quán)力運(yùn)行規(guī)律、算法風(fēng)險(xiǎn)表現(xiàn)形式及治理路徑探索等方面積累了豐富的成果，但關(guān)于算法權(quán)力形態(tài)的形成和發(fā)展邏輯、運(yùn)轉(zhuǎn)的基本要素分析等方面的研究尚顯不足，本文將著重從這些方面進(jìn)行探討，并在此基礎(chǔ)上尋求算法權(quán)力風(fēng)險(xiǎn)治理的有效路徑。

一、算法技術(shù)的發(fā)展及影響力擴(kuò)張

現(xiàn)代意義上的算法指的是一個(gè)定義清晰、計(jì)算機(jī)可執(zhí)行的有限計(jì)算步驟或次序，是一種用系統(tǒng)的方法描述解決問題的策略機(jī)制[13]。早期的算法受限于計(jì)算機(jī)算力的不足，其應(yīng)用更多的偏向于科學(xué)計(jì)算、工程設(shè)計(jì)、數(shù)據(jù)處理等數(shù)值應(yīng)用領(lǐng)域。此后，隨著計(jì)算機(jī)硬件的高速發(fā)展以及算力的快速提升，算法逐漸深入應(yīng)用到了工業(yè)、商業(yè)、文化教育、社會(huì)服務(wù)等各個(gè)領(lǐng)域，已成為當(dāng)前社會(huì)運(yùn)行的重要規(guī)則。算法技術(shù)的快速發(fā)展也推動(dòng)著其影響范圍由私人領(lǐng)域向公共領(lǐng)域不斷擴(kuò)張，進(jìn)而為算法權(quán)力形態(tài)的產(chǎn)生奠定了基礎(chǔ)，而人工智能的發(fā)展以及網(wǎng)絡(luò)平臺(tái)的普及在這個(gè)過程中起到了重要的推動(dòng)作用：一方面，人工智能的發(fā)展成熟使得算法產(chǎn)生了針對不同場景進(jìn)行感知和決策的能力，進(jìn)而在各類事務(wù)的處理過程中擁有了不同程度的權(quán)力；另一方面，網(wǎng)絡(luò)平臺(tái)的普及應(yīng)用推動(dòng)著算法影響力完成了向公共領(lǐng)域的擴(kuò)張，部分公共事務(wù)的執(zhí)行從公共管理部門轉(zhuǎn)由平臺(tái)運(yùn)營機(jī)構(gòu)通過智能算法系統(tǒng)來完成(如圖1)。

(一)人工智能的發(fā)展與算法決策能力的產(chǎn)生

人工智能技術(shù)誕生于上世紀(jì)50年代，但受限于早期的理論缺陷以及計(jì)算機(jī)發(fā)展水平的不足，其在很長一段時(shí)期內(nèi)都未得到廣泛應(yīng)用。進(jìn)入新世紀(jì)以來，隨著計(jì)算機(jī)算力的提升和支持向量機(jī)、深度學(xué)習(xí)等理論技術(shù)的發(fā)展成熟，人工智能迎來了爆發(fā)式的發(fā)展階段，當(dāng)前已應(yīng)用于社會(huì)生活的各個(gè)領(lǐng)域。在人工智能廣泛應(yīng)用之前，傳統(tǒng)的算法只是通過執(zhí)行在給定條件下的給定動(dòng)作來完成設(shè)計(jì)者明確的工作流程[14]，其本質(zhì)是一種嚴(yán)格執(zhí)行相關(guān)指令的自動(dòng)化工具。而人工智能技術(shù)的發(fā)展使得算法可以基于大數(shù)據(jù)完成自我訓(xùn)練、自我學(xué)習(xí)的過程，并在此基礎(chǔ)上形成了針對不同場景進(jìn)行感知和決策的能力。這種感知與決策能力的出現(xiàn)使算法的運(yùn)行邏輯由機(jī)械的執(zhí)行轉(zhuǎn)變?yōu)榱藙?dòng)態(tài)的規(guī)劃，也在實(shí)質(zhì)上完成了整個(gè)工作系統(tǒng)中部分權(quán)力由人向算法的轉(zhuǎn)移。同時(shí)，由于算法的自主決策行為不再需要人為的干預(yù)，其原本透明的執(zhí)行過程隨之變得難以監(jiān)測，而算法在行使權(quán)力的過程中并不能承擔(dān)相應(yīng)的責(zé)任，這也打破了原有工作體系中的權(quán)力運(yùn)行監(jiān)督機(jī)制，形成了一種新的權(quán)力運(yùn)轉(zhuǎn)模式。在此模式下，算法運(yùn)行不透明以及權(quán)責(zé)不匹配的狀況都會(huì)帶來安全性、公正性等方面的風(fēng)險(xiǎn)，且隨著人工智能算法的應(yīng)用逐漸深入，這些風(fēng)險(xiǎn)的影響也在不斷的變大。

(二)網(wǎng)絡(luò)平臺(tái)的普及與算法影響范圍的擴(kuò)張

從早期的信息溝通和資源共享，到當(dāng)前包含即時(shí)通信、社交媒體、網(wǎng)絡(luò)購物等內(nèi)容的多行業(yè)、多領(lǐng)域應(yīng)用，互聯(lián)網(wǎng)的發(fā)展從根本上改變了我國的社會(huì)結(jié)構(gòu)和運(yùn)行方式[15]。在這個(gè)過程中，各類互聯(lián)網(wǎng)應(yīng)用平臺(tái)逐漸發(fā)展壯大，在集成公眾線上社會(huì)活動(dòng)的同時(shí)，也實(shí)現(xiàn)了線上與線下的有機(jī)結(jié)合，成為了網(wǎng)絡(luò)時(shí)代不可或缺的基礎(chǔ)設(shè)施[16]。作為以互聯(lián)網(wǎng)、人工智能等技術(shù)為基礎(chǔ)的數(shù)字化組織，互聯(lián)網(wǎng)平臺(tái)的運(yùn)轉(zhuǎn)離不開各類算法的支撐，其應(yīng)用的普及也使得算法嵌入到了社會(huì)生活的各個(gè)領(lǐng)域，推動(dòng)著算法完成了影響范圍的迅速擴(kuò)張。算法通過網(wǎng)絡(luò)平臺(tái)與社會(huì)生活的深入嵌套，使得網(wǎng)絡(luò)平臺(tái)背后的經(jīng)營者獲得了強(qiáng)大的支配力和影響力[17]，能夠以算法為媒介對社會(huì)產(chǎn)生實(shí)質(zhì)性的影響，完成以企業(yè)私權(quán)利行使公共管理職能的過程，這在客觀上已經(jīng)改變了傳統(tǒng)的社會(huì)權(quán)力結(jié)構(gòu)。這種改變不可避免地會(huì)給整個(gè)社會(huì)引入新的風(fēng)險(xiǎn)：一方面，人工智能發(fā)展所產(chǎn)生的算法決策權(quán)力，將隨著算法應(yīng)用范圍的擴(kuò)大而產(chǎn)生更加廣泛的影響，其所帶來的風(fēng)險(xiǎn)也會(huì)隨之由單一的工作空間擴(kuò)散至相關(guān)的公共領(lǐng)域；另一方面，商業(yè)平臺(tái)在承擔(dān)公共職能的同時(shí)，也會(huì)導(dǎo)致公共權(quán)力運(yùn)轉(zhuǎn)的混亂，公私權(quán)利混淆、權(quán)利濫用等風(fēng)險(xiǎn)都將成為不可忽視的問題?？傮w來看，網(wǎng)絡(luò)平臺(tái)的興起推動(dòng)著算法成為了一種社會(huì)運(yùn)行規(guī)則，而由于規(guī)則制定主體的權(quán)力正當(dāng)性、規(guī)則運(yùn)行的透明性等問題，使得這種規(guī)則不能如傳統(tǒng)法律法規(guī)、社會(huì)規(guī)范一般具有權(quán)威性和穩(wěn)定性，從而形成了一種不完善的新型社會(huì)事務(wù)運(yùn)轉(zhuǎn)體系，并在此體系中產(chǎn)生了新的權(quán)力運(yùn)轉(zhuǎn)模式。

二、算法權(quán)力形態(tài)的產(chǎn)生及運(yùn)轉(zhuǎn)要素

算法權(quán)力源自其由單純的計(jì)算工具向事務(wù)運(yùn)行規(guī)則轉(zhuǎn)變過程中所產(chǎn)生的潛在約束作用，且隨著算法邏輯由生產(chǎn)領(lǐng)域向公共領(lǐng)域的蔓延，這種約束作用逐漸成為了?？滤枋龅纳鐣?huì)規(guī)訓(xùn)權(quán)力[18]。社會(huì)規(guī)訓(xùn)權(quán)力的運(yùn)轉(zhuǎn)往往需要具備三個(gè)條件：一是具有特定的權(quán)力空間，使得相應(yīng)的規(guī)則能在其中穩(wěn)定運(yùn)行；二是具有相應(yīng)的權(quán)力資源，可以支撐權(quán)力擁有者完成規(guī)則的制定并進(jìn)行規(guī)訓(xùn)行為；三是可以造成活動(dòng)上的影響，將規(guī)則內(nèi)化于主體行為之中并成為常態(tài)化的權(quán)力。在此基礎(chǔ)上，算法影響范圍不斷擴(kuò)張所賦予其的公共性又進(jìn)一步推動(dòng)了當(dāng)前算法權(quán)力形態(tài)產(chǎn)生，因而相應(yīng)的公共空間、公共資源和公共行為便成為了算法規(guī)訓(xùn)權(quán)力實(shí)現(xiàn)的基礎(chǔ)要素，具體到算法權(quán)力體系中即為平臺(tái)、數(shù)據(jù)和用戶交互。

(一)平臺(tái)：算法權(quán)力運(yùn)行的公共空間

算法規(guī)則的運(yùn)轉(zhuǎn)需要一個(gè)特定的空間范圍，而這個(gè)空間也成為了算法權(quán)力的容器。就當(dāng)前的算法權(quán)力形態(tài)而言，以算法作為規(guī)則實(shí)施載體的各類平臺(tái)構(gòu)成了算法權(quán)力的主要運(yùn)行空間，具體包含了兩種類型：一是互聯(lián)網(wǎng)發(fā)展所產(chǎn)生的各類網(wǎng)絡(luò)平臺(tái)，如社交網(wǎng)絡(luò)平臺(tái)、電子商務(wù)平臺(tái)等；二是運(yùn)用算法改善其運(yùn)行效率后的傳統(tǒng)公共領(lǐng)域，如智能化公共交通系統(tǒng)、治安防控系統(tǒng)等。對于各類網(wǎng)絡(luò)平臺(tái)，算法權(quán)力來源于平臺(tái)所擁有的用戶以及技術(shù)優(yōu)勢，其掌控者一般為平臺(tái)背后的科技公司。由于權(quán)力的掌控主體并非公共組織，算法權(quán)力在網(wǎng)絡(luò)平臺(tái)中的運(yùn)轉(zhuǎn)一般由商業(yè)利益所驅(qū)動(dòng)，體現(xiàn)的是一種政府監(jiān)管下的市場邏輯。對于傳統(tǒng)的公共領(lǐng)域，算法權(quán)力來源于相關(guān)公共權(quán)力部門的賦予，權(quán)力運(yùn)轉(zhuǎn)的范圍在算法引入之時(shí)已經(jīng)確定，其掌控者為本領(lǐng)域事務(wù)的主管單位。由于權(quán)力的歸屬在算法應(yīng)用前后并未發(fā)生變化，算法權(quán)力在傳統(tǒng)領(lǐng)域中的運(yùn)轉(zhuǎn)由公共利益所驅(qū)動(dòng)，雖然其運(yùn)轉(zhuǎn)方式變得更為智能化，但本質(zhì)上仍是一種公共管理行為。

(二)數(shù)據(jù)：算法權(quán)力依賴的基礎(chǔ)資源

權(quán)力的運(yùn)作與知識的生產(chǎn)積累之間存在著緊密聯(lián)系：知識作為權(quán)力干預(yù)和控制社會(huì)的基本手段有著規(guī)范化的功能，可以為權(quán)力在空間上的運(yùn)作提供合法性，與權(quán)力存在著共謀共生的關(guān)系[19][20]。而數(shù)據(jù)作為信息時(shí)代重要的戰(zhàn)略資源，在算法權(quán)力運(yùn)轉(zhuǎn)過程中是知識生產(chǎn)的基礎(chǔ)原料，也成為了算法權(quán)力得以實(shí)現(xiàn)的基礎(chǔ)要素。算法權(quán)力所依托的數(shù)據(jù)資源主要有如下幾個(gè)來源：一是各級政府部門在依法履行職責(zé)過程中制作或者獲取的各類數(shù)據(jù)資源[21]，此類數(shù)據(jù)一般完全由政府部門掌握，但在我國推進(jìn)公共信息資源開放的政策背景下，已經(jīng)在保證國家安全和公民隱私的前提下部分向社會(huì)開放[22]。二是外部機(jī)構(gòu)在與政府合作進(jìn)行公共管理事務(wù)的過程中所產(chǎn)生的數(shù)據(jù)，此類數(shù)據(jù)由于與政府項(xiàng)目和服務(wù)相關(guān)，往往也具有重要的公共價(jià)值，不能進(jìn)行隨意的公開使用。三是網(wǎng)絡(luò)平臺(tái)在運(yùn)行過程中收集的用戶數(shù)據(jù)，此類數(shù)據(jù)一般由平臺(tái)背后的科技公司所掌握，產(chǎn)生于平臺(tái)中進(jìn)行的各類商業(yè)性業(yè)務(wù)，雖然表面上屬于商業(yè)數(shù)據(jù)，但隨著平臺(tái)規(guī)模的擴(kuò)張已具備了一定的公共屬性。對于前兩類數(shù)據(jù)，由于管理部門為政府等公共組織，其使用及監(jiān)管較為嚴(yán)格，一般不會(huì)產(chǎn)生數(shù)據(jù)利用的風(fēng)險(xiǎn)。而對于第三類數(shù)據(jù)，其商業(yè)屬性和公共屬性的混淆會(huì)導(dǎo)致在使用過程中產(chǎn)生數(shù)據(jù)濫用的風(fēng)險(xiǎn)，需要相關(guān)領(lǐng)域的管理部門完善相應(yīng)的監(jiān)管機(jī)制。

(三)用戶交互：算法權(quán)力影響的公共行為

智能算法利用技術(shù)和數(shù)據(jù)所產(chǎn)生的知識在平臺(tái)空間中進(jìn)行著社會(huì)規(guī)則的塑造，并通過用戶交互過程完成對相關(guān)主體行為的引導(dǎo)。與傳統(tǒng)的社會(huì)規(guī)范相比，這種引導(dǎo)的過程往往更加隱蔽，并且其驅(qū)動(dòng)因素也更為復(fù)雜。首先，不同平臺(tái)的算法權(quán)力掌握者有著不同的價(jià)值準(zhǔn)則，政府等公共部門會(huì)以公共利益的實(shí)現(xiàn)為目的來規(guī)范公眾的行為，而企業(yè)則會(huì)以自身商業(yè)利益的獲取為主要依據(jù)來引導(dǎo)用戶的行為。其次，平臺(tái)中各類算法的執(zhí)行過程往往是不透明的，導(dǎo)致公眾只能在定義模糊的規(guī)則下進(jìn)行相關(guān)活動(dòng)，這在實(shí)質(zhì)上形成了一種平臺(tái)與用戶地位不對等的情況。再次，深度學(xué)習(xí)等算法可以基于海量的數(shù)據(jù)來對用戶進(jìn)行畫像，并在此基礎(chǔ)上預(yù)測用戶的偏好，進(jìn)而基于平臺(tái)方的利益需求設(shè)計(jì)策略來引導(dǎo)用戶的行為，而這種行為可能會(huì)違背用戶原本的意愿。總體來看，算法作為一種規(guī)訓(xùn)權(quán)力，在運(yùn)轉(zhuǎn)過程中對公眾行為的影響是其權(quán)力實(shí)現(xiàn)的主要方式，而這個(gè)過程并非全部是以公眾的利益為驅(qū)動(dòng)且往往難以被察覺。算法權(quán)力在潛移默化中重塑了公眾的行為模式，使得平臺(tái)空間中的各類主體打上了算法規(guī)范的烙印[23]，在不同程度上失去了自身行為的自主權(quán)，這在一定程度上反映了算法權(quán)力運(yùn)轉(zhuǎn)所帶來的不利影響。

三、算法權(quán)力風(fēng)險(xiǎn)的表現(xiàn)形式

規(guī)訓(xùn)權(quán)力的實(shí)施通常有兩方面的意義：一是通過給人以懲罰和強(qiáng)制行為的聯(lián)想和威懾，使其服從于權(quán)力擁有者的意志；二是通過教人以某種的知識體系，使其可以順利融入相應(yīng)的生產(chǎn)生活系統(tǒng)[24]。這種權(quán)力的運(yùn)行有其自身的“意向性”，旨在實(shí)現(xiàn)對特定空間系統(tǒng)的有效支配[25]，而這種意向性決定了權(quán)力運(yùn)轉(zhuǎn)結(jié)果的善與惡。就算法權(quán)力形態(tài)而言，各類平臺(tái)空間在成為人們?nèi)粘＝煌鶊鏊倪^程中，權(quán)力已經(jīng)強(qiáng)制性地滲入到了人們的工作生活之中，若算法權(quán)力的行使不以公共利益為導(dǎo)向且未受有效監(jiān)管，平臺(tái)空間則可能成為規(guī)訓(xùn)、監(jiān)控人們行為的牢籠。同時(shí)，算法權(quán)力可以通過一系列技術(shù)和策略的有效運(yùn)作，使得權(quán)力運(yùn)轉(zhuǎn)在損害部分人群利益的同時(shí)又不引起其不適或反抗[26]，進(jìn)而導(dǎo)致“算法歧視”“算法霸權(quán)”等風(fēng)險(xiǎn)的產(chǎn)生。算法權(quán)力風(fēng)險(xiǎn)的產(chǎn)生與權(quán)力的分配和行使密切相關(guān)，這與傳統(tǒng)官僚制體系的問題具有一定的相似之處，信息傳達(dá)不暢導(dǎo)致的政策效果不佳、權(quán)力分配運(yùn)轉(zhuǎn)混亂導(dǎo)致的權(quán)責(zé)不匹配、工作不透明導(dǎo)致的運(yùn)轉(zhuǎn)黑幕以及價(jià)值導(dǎo)向偏離導(dǎo)致的權(quán)力主體履職不力等問題，在算法權(quán)力形態(tài)中具體表現(xiàn)為政策執(zhí)行失真、權(quán)力結(jié)構(gòu)失序、過程監(jiān)管失效和主體行為失范四種形式。

(一)政策執(zhí)行失真

政策執(zhí)行失真是指算法由于設(shè)計(jì)缺陷或運(yùn)行故障，導(dǎo)致實(shí)際執(zhí)行的效果背離了算法使用者的真實(shí)初衷，進(jìn)而引發(fā)難以預(yù)估的不良后果，其產(chǎn)生的原因主要是部分決策和執(zhí)行權(quán)力由人向算法的轉(zhuǎn)移。與傳統(tǒng)官僚制體系中政策執(zhí)行失真的問題不同，智能算法雖然在任務(wù)的執(zhí)行過程中具有一定的決策權(quán)力，但其本身并不具有相應(yīng)的利益訴求，因此不存在對任務(wù)的主觀性抵制、截留和替換等行為。網(wǎng)絡(luò)平臺(tái)所屬的科技公司一般具有完整的算法設(shè)計(jì)、測試、部署及評估體系，其對于算法執(zhí)行過程的控制相對成熟，而政府等公共組織在進(jìn)行算法應(yīng)用時(shí)往往采用合作建設(shè)的模式，其使用者和設(shè)計(jì)者有時(shí)并不相同，因此算法執(zhí)行失真的問題在公權(quán)領(lǐng)域更為突出。具體來說，算法執(zhí)行失真主要有三種情況：一是由算法運(yùn)行過程中軟硬件故障導(dǎo)致的業(yè)務(wù)中斷，如在疫情防控健康碼系統(tǒng)的使用過程中，由于服務(wù)器難以處理激增訪問量所產(chǎn)生的健康碼系統(tǒng)失效等問題。二是由于算法設(shè)計(jì)或執(zhí)行未能準(zhǔn)確反映業(yè)務(wù)需求所導(dǎo)致的執(zhí)行效果偏差，如在早期的政府網(wǎng)上辦事大廳建設(shè)過程中，辦事流程不明晰、信息處理不及時(shí)等問題都制約了網(wǎng)上政務(wù)服務(wù)的效率，使其背離了提升服務(wù)效率的初衷。三是由于部分用戶群體不具備使用信息化服務(wù)所需的知識及設(shè)備保障，導(dǎo)致公共事務(wù)算法化運(yùn)行不能覆蓋所有的目標(biāo)群體，如當(dāng)前日益普遍的網(wǎng)絡(luò)化公共服務(wù)模式就造成了老年人群體難以適應(yīng)的情況，已經(jīng)成為了一個(gè)難以忽視的社會(huì)問題。

以當(dāng)前疫情防控工作中健康碼的應(yīng)用為例，算法執(zhí)行失真的幾種情況在其中都有典型的表現(xiàn)。首先，由于軟硬件故障導(dǎo)致的健康碼崩潰問題時(shí)有發(fā)生，且此問題往往發(fā)生在疫情防控形勢較為嚴(yán)峻的時(shí)期，其造成的不良影響也較為嚴(yán)重，例如2021年12月的西安健康碼崩潰直接影響了集中核酸檢測等工作的順利推進(jìn)。其次，健康碼、行程碼在應(yīng)用場景等方面的設(shè)計(jì)不足都影響了疫情防控、居民出行的效率，例如健康碼異地互認(rèn)、健康碼與行程碼整合等問題。最后，健康碼系統(tǒng)在使用初期未能覆蓋老年人等弱勢群體，導(dǎo)致老年人出行困難的問題屢見不鮮，產(chǎn)生了事實(shí)上的算法歧視問題，直至后續(xù)配套措施的實(shí)行才得到妥善解決?？傮w而言，算法執(zhí)行失真的問題主要是由于相關(guān)技術(shù)不成熟、建設(shè)模式不規(guī)范等原因?qū)е?，因此隨著技術(shù)水平以及建設(shè)模式的不斷發(fā)展會(huì)逐漸得到改善。

(二)權(quán)力結(jié)構(gòu)失序

權(quán)力結(jié)構(gòu)失序是指隨著算法在公共領(lǐng)域的普及應(yīng)用，一些非公共組織在獲取相關(guān)公共權(quán)力的同時(shí)并不能切實(shí)履行相應(yīng)的公共職能，這些組織以自身商業(yè)利益為導(dǎo)向行使權(quán)力的過程，打破了原有公共權(quán)力運(yùn)轉(zhuǎn)體系的秩序。算法權(quán)力結(jié)構(gòu)失序的根源是算法制度化所帶來的公共事務(wù)管理職能轉(zhuǎn)移以及權(quán)力運(yùn)轉(zhuǎn)模式改變，主要體現(xiàn)在以下三個(gè)方面：首先，作為基礎(chǔ)設(shè)施的各類平臺(tái)已經(jīng)嵌入到當(dāng)前的社會(huì)體系之中，附著于其上的算法在成為社會(huì)規(guī)則的同時(shí)也賦予了平臺(tái)公司一定的公共權(quán)力，而平臺(tái)公司作為以營利為目的的機(jī)構(gòu)，難以保證其權(quán)力實(shí)施過程中具有正確的公共價(jià)值導(dǎo)向，這會(huì)影響到社會(huì)公共利益的實(shí)現(xiàn)。其次，在社會(huì)規(guī)則算法化運(yùn)轉(zhuǎn)的過程中，對平臺(tái)數(shù)據(jù)的操控形成為新的權(quán)力實(shí)現(xiàn)方式，而數(shù)據(jù)作為一種新型的戰(zhàn)略資源是由平臺(tái)參與者共同產(chǎn)生的，這使得現(xiàn)實(shí)中的利益群體可以通過雇傭“水軍”、使用機(jī)器人等方式來操縱數(shù)據(jù)，以擾亂正常公共秩序的方式來實(shí)現(xiàn)自身的利益。再次，在基于數(shù)據(jù)和算法驅(qū)動(dòng)的規(guī)則體系中，用戶會(huì)不同程度的失去對自身行為及選擇偏好的主導(dǎo)權(quán)，算法權(quán)力的掌握者將自身的利益隱藏于具有黑箱性質(zhì)的算法之中，并以之為媒介實(shí)現(xiàn)對用戶行為機(jī)制的重新塑造[27]，潛在破壞了正常的社會(huì)生活秩序。

當(dāng)前，以微博、微信為代表的社交平臺(tái)是算法權(quán)力結(jié)構(gòu)失序的典型場所，這些平臺(tái)在獲取部分公共權(quán)力的同時(shí)卻難以充分履行相應(yīng)的公共職能，導(dǎo)致了各類社會(huì)問題的產(chǎn)生。有研究指出，不同的利益群體會(huì)利用社交平臺(tái)作為策略工具來提升其在議程設(shè)置中的影響[28]，這個(gè)過程在以流量為價(jià)值導(dǎo)向的社交平臺(tái)中會(huì)衍生諸如“網(wǎng)絡(luò)水軍”、群體對立、誘導(dǎo)用戶等社會(huì)問題，且平臺(tái)公司基于對自身商業(yè)利益的考慮往往會(huì)弱化對各類不良行為的監(jiān)管，導(dǎo)致正常的社會(huì)秩序受到嚴(yán)重的影響。以微博為例，近些年由于不良信息泛濫、誘導(dǎo)粉絲打榜、干擾輿論秩序等問題多次被網(wǎng)信辦等部門約談并予以行政處罰，反映了其運(yùn)轉(zhuǎn)過程中存在著明顯的權(quán)力失序問題?？偟膩砜矗瑱?quán)力結(jié)構(gòu)失序的產(chǎn)生主要是由于相關(guān)利益主體在利用技術(shù)優(yōu)勢取得社會(huì)權(quán)力的同時(shí)又規(guī)避了所需承擔(dān)的社會(huì)責(zé)任，這種現(xiàn)象并不會(huì)隨著技術(shù)的發(fā)展而自然得到解決，有賴于政府以公共價(jià)值為基礎(chǔ)主導(dǎo)構(gòu)建多元協(xié)同的治理體系。

(三)過程監(jiān)管失靈

過程監(jiān)管失靈是指隨著平臺(tái)的普及與算法影響力的不斷擴(kuò)張，原有的權(quán)力監(jiān)管體系在算法權(quán)力形態(tài)中難以發(fā)揮預(yù)期的作用，使得算法權(quán)力在運(yùn)行過程中不能受到合理的規(guī)制。過程監(jiān)管失靈的出現(xiàn)與算法固有的技術(shù)特性及法律的滯后性等因素有關(guān)，相應(yīng)會(huì)表現(xiàn)為權(quán)力的黑箱化運(yùn)作、責(zé)任的技術(shù)性規(guī)避與監(jiān)管的制度性缺失等形式。一方面，以機(jī)器學(xué)習(xí)為代表的智能算法主要通過自我訓(xùn)練、自我學(xué)習(xí)的方式，通過對運(yùn)行參數(shù)的動(dòng)態(tài)調(diào)整來完成既定目標(biāo)，其運(yùn)行過程具有不可解釋的“黑箱”特性，這也使得附著于其中的權(quán)力在運(yùn)作過程中處于不透明的狀態(tài)。同時(shí)，算法背后的操控主體也可能基于算法權(quán)力運(yùn)行黑箱化的特征，進(jìn)行權(quán)力的不當(dāng)行使并將相應(yīng)的不良后果以技術(shù)原因推脫于算法本身，從而實(shí)現(xiàn)責(zé)任的技術(shù)性規(guī)避。另一方面，智能算法在成為公共領(lǐng)域運(yùn)行規(guī)則的同時(shí)往往又是科技公司的商業(yè)秘密，使得掌握算法的科技公司可以利用商業(yè)保護(hù)的便利來規(guī)避相應(yīng)的監(jiān)管[29]，給算法權(quán)力的規(guī)制帶來了制度性的困境。在此背景下，算法技術(shù)的快速普及應(yīng)用使得法律規(guī)范的滯后性在當(dāng)前的環(huán)境中尤為凸顯，程序繁復(fù)的立法程序難以匹配當(dāng)前算法權(quán)力規(guī)制的現(xiàn)實(shí)需求，導(dǎo)致了算法權(quán)力監(jiān)管的制度性缺失。過程監(jiān)管失靈會(huì)在很大程度上阻礙對算法濫用、算法歧視等問題的治理，例如百度競價(jià)排名算法所引發(fā)的“魏則西事件”、近些年備受關(guān)注的“大數(shù)據(jù)殺熟”現(xiàn)象以及外賣平臺(tái)算法對騎手的壓榨等問題，均與算法權(quán)力運(yùn)作過程缺乏監(jiān)管有所關(guān)聯(lián)?？傮w來看，過程監(jiān)管失靈是算法技術(shù)快速發(fā)展和監(jiān)管制度滯后所產(chǎn)生的問題，需要主管部門從技術(shù)、法律規(guī)范等多個(gè)維度制定針對性的監(jiān)管措施。

(四)主體行為失范

主體行為失范是指隨著算法在公共領(lǐng)域的普及應(yīng)用并引發(fā)權(quán)力結(jié)構(gòu)的轉(zhuǎn)變，公共權(quán)力的實(shí)施主體背離了其應(yīng)有的價(jià)值導(dǎo)向和行為準(zhǔn)則。主體行為失范與算法作為新型社會(huì)規(guī)則在設(shè)計(jì)運(yùn)行過程中工具理性和價(jià)值理性之間的平衡有關(guān)，其中工具理性關(guān)注對效率、效益的提升, 注重算法的實(shí)踐操作性與現(xiàn)實(shí)可行性, 卻往往忽視算法自身的價(jià)值性、正義性等問題。而價(jià)值理性則強(qiáng)調(diào)對算法公共價(jià)值的把握，包含對倫理道德、公平正義等多方面的需求，主張通過善的手段來發(fā)展科學(xué), 促進(jìn)人與社會(huì)的全面和諧發(fā)展[30]。主體行為失范的情況不僅存在于公共部門人員群體之中，隨著算法普及所導(dǎo)致部分公共權(quán)力的轉(zhuǎn)移，其在平臺(tái)企業(yè)的技術(shù)人員群體中也會(huì)有所體現(xiàn)。一方面，管理主義行為的盛行深刻地影響著公共領(lǐng)域的管理實(shí)踐，造成了“價(jià)值中立、效率中心、技術(shù)至上”的傾向，這種傾向影響著公共領(lǐng)域中算法應(yīng)用的價(jià)值導(dǎo)向，導(dǎo)致公平、公正等公共價(jià)值的弱化，進(jìn)而對公共部門人員的價(jià)值導(dǎo)向產(chǎn)生不利影響。另一方面，算法設(shè)計(jì)相關(guān)專業(yè)的教育體系往往具有很強(qiáng)的工具理性特征，對算法可行性、運(yùn)行效率、復(fù)雜度等技術(shù)指標(biāo)的追求是強(qiáng)化專業(yè)能力過程中的重點(diǎn)方向，這就可能導(dǎo)致算法設(shè)計(jì)者具有技術(shù)至上的價(jià)值傾向，在進(jìn)行算法設(shè)計(jì)的過程中缺少對公共價(jià)值的考慮。而隨著部分公共權(quán)力向平臺(tái)企業(yè)的轉(zhuǎn)移，相關(guān)技術(shù)人員的工作也具有了一定的公共性，其原有的價(jià)值導(dǎo)向與當(dāng)前的工作屬性難以匹配，從而導(dǎo)致了行為失范的問題。例如，在當(dāng)年“快播案”所引發(fā)的輿論中，以“技術(shù)無罪”為當(dāng)事人辯護(hù)的觀點(diǎn)得到了不少人的支持，在某種程度上體現(xiàn)了工具理性所產(chǎn)生的普遍影響?？傮w來看，主體行為失范的現(xiàn)象與公共領(lǐng)域?qū)嵺`中的價(jià)值導(dǎo)向、技術(shù)人員的教育培養(yǎng)體系等因素密切相關(guān)，需要從價(jià)值引領(lǐng)、教育改革等方面構(gòu)建長效治理機(jī)制。

四、算法權(quán)力風(fēng)險(xiǎn)治理的路徑

基于平臺(tái)、數(shù)據(jù)和用戶交互的算法權(quán)力形態(tài)給公共事務(wù)的管理提出了更高的要求，政府既需要主動(dòng)使用各類智能技術(shù)來適應(yīng)時(shí)代的發(fā)展需求，又要對社會(huì)事務(wù)算法化運(yùn)行過程中產(chǎn)生的各類問題進(jìn)行治理。算法權(quán)力風(fēng)險(xiǎn)治理的有效推進(jìn)需要緊抓算法權(quán)力所依托的核心要素，針對算法權(quán)力風(fēng)險(xiǎn)的不同表現(xiàn)形式，制定相應(yīng)的法律法規(guī)體系并構(gòu)建合理的治理路徑。

(一)構(gòu)建算法權(quán)力風(fēng)險(xiǎn)治理的制度體系

社會(huì)發(fā)展問題的治理首先表現(xiàn)為制度規(guī)范體系的構(gòu)建[31]，健全的制度規(guī)范體系是約束和監(jiān)督算法權(quán)力運(yùn)行，規(guī)范各類主體行為的有力保障。當(dāng)前，我國在網(wǎng)絡(luò)信息化領(lǐng)域已經(jīng)出臺(tái)了針對不同問題的法律、行政法規(guī)及部門規(guī)章，其中多項(xiàng)法律法規(guī)與算法治理緊密相關(guān)(見表1)，尤其是2022年3月施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，更是成為了首部專門針對算法的法律文件。

表1 算法治理相關(guān)的主要法律法規(guī)

這些法律法規(guī)涵蓋了算法權(quán)力運(yùn)轉(zhuǎn)過程中平臺(tái)、數(shù)據(jù)及交互行為等各類要素的管理以及電子商務(wù)、信息服務(wù)等各項(xiàng)業(yè)務(wù)的規(guī)范，成為算法權(quán)力風(fēng)險(xiǎn)治理的重要保障。然而，當(dāng)前我國的算法制度體系雖初具雛形，但仍然是碎片化的，相關(guān)的法律法規(guī)尚不夠細(xì)化，難以針對性地解決算法權(quán)力風(fēng)險(xiǎn)治理中的各種困境。一方面，健全的算法制度體系應(yīng)對算法權(quán)力形態(tài)中的參與主體、職責(zé)范圍、業(yè)務(wù)要求及法律責(zé)任等內(nèi)容進(jìn)行明確，同時(shí)配套完善算法運(yùn)轉(zhuǎn)的相應(yīng)措施、標(biāo)準(zhǔn)、指南等文件。當(dāng)前，算法的應(yīng)用已覆蓋了社會(huì)生活的方方面面，但相關(guān)制度體系的構(gòu)建仍處于起步階段，需要針對各類細(xì)化問題進(jìn)一步構(gòu)建具有較強(qiáng)操作性的制度規(guī)范文件，如當(dāng)前我國正著手建立的數(shù)據(jù)資源確權(quán)、開放、流通交易相關(guān)制度等。另一方面，算法制度體系的運(yùn)行需要相應(yīng)治理結(jié)構(gòu)的完善，在明確政府、企業(yè)和公民等主體在算法權(quán)力風(fēng)險(xiǎn)治理中權(quán)利和義務(wù)的基礎(chǔ)上，構(gòu)建政府監(jiān)管、企業(yè)履責(zé)、公眾監(jiān)督并行的多元治理模式。就政府部門而言，需要從中央到地方的統(tǒng)籌規(guī)劃、分級布局，充分考慮組織架構(gòu)、部門間職能分配等問題，建立運(yùn)轉(zhuǎn)流暢的權(quán)威性管理體系。就企業(yè)而言，應(yīng)不斷強(qiáng)調(diào)其在算法權(quán)力形態(tài)中的治理主體責(zé)任，并從制度規(guī)范層面加強(qiáng)對其履責(zé)過程和結(jié)果的監(jiān)管。就公眾而言，應(yīng)鼓勵(lì)其積極發(fā)揮好監(jiān)督作用，同時(shí)加強(qiáng)公眾與政府、企業(yè)間的信息交流和有效溝通，以保證算法的社會(huì)化運(yùn)轉(zhuǎn)具有良好的糾偏機(jī)制。

(二)算法權(quán)力風(fēng)險(xiǎn)治理的路徑構(gòu)建

針對政策執(zhí)行失真、權(quán)力結(jié)構(gòu)失序、過程監(jiān)管失靈以及主體行為失范等幾種算法權(quán)力風(fēng)險(xiǎn)的表現(xiàn)形式，相應(yīng)的治理路徑可以從以下四個(gè)方面進(jìn)行構(gòu)建。

1.加強(qiáng)數(shù)字基礎(chǔ)設(shè)施建設(shè)及公共部門專業(yè)人員培養(yǎng)

權(quán)力的算法化運(yùn)行需要完善的數(shù)字基礎(chǔ)設(shè)施以及專業(yè)的管理隊(duì)伍。在當(dāng)前基于算法的新型社會(huì)事務(wù)運(yùn)轉(zhuǎn)體系中，這些現(xiàn)實(shí)基礎(chǔ)保障尚不完備，存在著基礎(chǔ)設(shè)施覆蓋不足、業(yè)務(wù)人員工作脫節(jié)等問題。一方面，數(shù)字基礎(chǔ)設(shè)施是算法權(quán)力形態(tài)運(yùn)轉(zhuǎn)的物理支撐，而互聯(lián)網(wǎng)、智能終端等信息時(shí)代的新型生產(chǎn)生活要素尚未得到充分普及，社會(huì)中“數(shù)字鴻溝”的現(xiàn)象仍然存在，這會(huì)導(dǎo)致部分區(qū)域、部分人群被隔離于算法社會(huì)之外。在我國大力推進(jìn)“新基建”的背景下，數(shù)字基礎(chǔ)設(shè)施的建設(shè)既要注重建設(shè)速度，更要注重質(zhì)量及穩(wěn)定性，這樣才能使算法規(guī)則不會(huì)因?yàn)楦黝愜浻布收隙y以有效運(yùn)轉(zhuǎn)，以保障其作為新型社會(huì)規(guī)則的權(quán)威性和公正性。另一方面，算法規(guī)則運(yùn)行的特點(diǎn)決定了管理部門至少需要具備基本的技術(shù)邏輯和識別判斷力，然而當(dāng)前我國公共管理部門在人才隊(duì)伍的信息化能力方面相對薄弱[32]，“業(yè)務(wù)人員不懂技術(shù)、技術(shù)人員不懂業(yè)務(wù)”的現(xiàn)實(shí)困境仍普遍存在。通過培養(yǎng)具備良好信息技術(shù)素養(yǎng)的公共管理人才隊(duì)伍，提升其在計(jì)算機(jī)編程、數(shù)據(jù)分析等方面的技能，可以有效提升業(yè)務(wù)部門與設(shè)計(jì)部門的溝通效率及準(zhǔn)確度，保證算法規(guī)則設(shè)計(jì)的完備性，防止算法權(quán)力在運(yùn)轉(zhuǎn)過程中出現(xiàn)政策執(zhí)行失真的情況。

2.探索算法權(quán)力運(yùn)轉(zhuǎn)過程中公共價(jià)值與商業(yè)利益的平衡

基于各類算法的平臺(tái)作為一種重要基礎(chǔ)設(shè)施正逐步嵌入到社會(huì)運(yùn)轉(zhuǎn)體系之中，并通過與用戶的交互不斷獲取數(shù)據(jù)資源、重塑公眾的公共行為，其運(yùn)行過程具有了很強(qiáng)的公共性，社會(huì)公共價(jià)值的實(shí)現(xiàn)也隨之成為其必須承擔(dān)的責(zé)任[33]。然而，平臺(tái)公司在履行公共職能的過程中雖然具有表面上的中立性，其本質(zhì)仍是以營利為目的的企業(yè)主體，因而在實(shí)踐中的價(jià)值取向未必與公共利益保持一致。在算法規(guī)則設(shè)計(jì)和運(yùn)行的過程中，公權(quán)和資本存在著一種博弈關(guān)系，而雙方博弈的態(tài)勢及社會(huì)實(shí)踐的具體要求決定了算法運(yùn)行的價(jià)值導(dǎo)向[3]。資本通過投入大量資金和人力推動(dòng)了算法技術(shù)的發(fā)展及普及應(yīng)用，并實(shí)現(xiàn)了對平臺(tái)資源和算法權(quán)力的掌控，這本質(zhì)上是一種利益驅(qū)動(dòng)的商業(yè)邏輯。而隨著算法不斷應(yīng)用于公共領(lǐng)域，算法權(quán)力具有了公共權(quán)力的屬性，這種商業(yè)邏輯就難以滿足社會(huì)發(fā)展的價(jià)值需求，需要政府部門以公共價(jià)值為導(dǎo)向進(jìn)行規(guī)制。對資本算法權(quán)力的規(guī)制不能簡單的壓制商業(yè)邏輯的運(yùn)行，應(yīng)結(jié)合各類平臺(tái)的運(yùn)行特征尋求公共價(jià)值與商業(yè)利益的平衡點(diǎn)，在保證公共價(jià)值不受損害的前提下實(shí)現(xiàn)二者的良性互動(dòng)。

3.構(gòu)建覆蓋全過程的算法監(jiān)督體制機(jī)制

如何對算法權(quán)力進(jìn)行有效的監(jiān)督，確保算法權(quán)力在公共領(lǐng)域的運(yùn)轉(zhuǎn)始終以公共價(jià)值的實(shí)現(xiàn)為導(dǎo)向，是算法權(quán)力風(fēng)險(xiǎn)治理的關(guān)鍵所在。然而，由于智能算法的技術(shù)特性以及平臺(tái)企業(yè)的商業(yè)訴求等原因，當(dāng)前的制度體系以及監(jiān)管手段難以匹配現(xiàn)實(shí)的監(jiān)管需求，對智能算法的監(jiān)管面臨著重重困境。尤其是智能算法不透明的“黑箱”特性給權(quán)力的有效監(jiān)管帶來極大的困難，使得權(quán)力濫用的情況難以得到及時(shí)控制。當(dāng)前，我國對各類平臺(tái)的監(jiān)管更多的是針對算法執(zhí)行的結(jié)果，在監(jiān)管效果上難免具有一定的滯后性。我國《新一代人工智能發(fā)展規(guī)劃》指出，要“建立健全公開透明的人工智能監(jiān)管體系，實(shí)行設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實(shí)現(xiàn)對人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管”，這為算法權(quán)力風(fēng)險(xiǎn)治理的監(jiān)管體系構(gòu)建指明了方向。一方面，要結(jié)合法律規(guī)范體系的不斷完善，針對算法運(yùn)行的復(fù)雜性、不確定性、可解釋性等問題制定覆蓋全流程的監(jiān)督機(jī)制和評估指標(biāo)體系；另一方面，政府也應(yīng)加大技術(shù)研發(fā)投入，豐富自身監(jiān)管工作的技術(shù)工具庫，逐漸補(bǔ)齊監(jiān)管技術(shù)能力的短板。

4.優(yōu)化完善算法從業(yè)人員的教育培養(yǎng)體系

算法技術(shù)本身是中立的，但在算法設(shè)計(jì)和應(yīng)用的過程中，算法設(shè)計(jì)者以及公共部門管理人員可能會(huì)有自身的偏見，這會(huì)直接導(dǎo)致算法的應(yīng)用出現(xiàn)價(jià)值導(dǎo)向的偏差。當(dāng)前，技術(shù)人員的教育培養(yǎng)體系往往更加注重技術(shù)能力的提升，而對技術(shù)實(shí)現(xiàn)過程中的價(jià)值導(dǎo)向問題有所忽視，使得“技術(shù)至上”等工具理性導(dǎo)向廣泛存在于技術(shù)人員群體之中，進(jìn)而導(dǎo)致算法實(shí)現(xiàn)過程中工具理性與價(jià)值理性的背離問題。同時(shí)，管理主義的盛行也影響著算法權(quán)力在公共領(lǐng)域運(yùn)轉(zhuǎn)的價(jià)值導(dǎo)向，引發(fā)公共管理部門算法權(quán)力實(shí)施主體的行為失范問題。在此背景下，應(yīng)當(dāng)樹立“科技向善”的理念，強(qiáng)調(diào)公共價(jià)值在算法權(quán)力運(yùn)轉(zhuǎn)實(shí)踐中的重要性，并對算法從業(yè)人員的教育培養(yǎng)體系進(jìn)行優(yōu)化，引導(dǎo)其正確運(yùn)用科學(xué)技術(shù)為社會(huì)的健康發(fā)展創(chuàng)造福祉：一方面，要在注重技術(shù)能力提升的同時(shí)加強(qiáng)技術(shù)倫理等方面的學(xué)習(xí)，使技術(shù)人員在實(shí)踐中可以從道德層面進(jìn)行自我約束；另一方面，要在行業(yè)層面進(jìn)行技術(shù)倫理的制度及標(biāo)準(zhǔn)體系構(gòu)建，通過行業(yè)協(xié)會(huì)等組織對相關(guān)領(lǐng)域從業(yè)人員進(jìn)行培訓(xùn)引導(dǎo)，實(shí)現(xiàn)工具理性向價(jià)值理性的轉(zhuǎn)變。