魏詩琪

摘?要：大數(shù)據(jù)時(shí)代，算法應(yīng)用橫向擴(kuò)展，機(jī)器學(xué)習(xí)縱向延伸，使得網(wǎng)絡(luò)公共領(lǐng)域逐漸被算法秩序統(tǒng)治。算法在為人們帶去個(gè)性化服務(wù)的同時(shí)，也觸碰了實(shí)體法律的邊界。從經(jīng)濟(jì)理性、工具理性及公共理性三重理性，提出利益、技術(shù)、價(jià)值三維框架。指出在數(shù)據(jù)收集、模型搭建及運(yùn)算、模型輸出及應(yīng)用過程中，算法應(yīng)用所暴露的侵權(quán)問題。闡釋算法規(guī)制的邏輯起點(diǎn)，以論證算法亟待規(guī)制的必要性。引入“第三域”概念，考察算法規(guī)制中正式制度與非正式制度的互動(dòng)關(guān)系。結(jié)論指出，算法規(guī)制過程中，應(yīng)兼納正式制度與非正式制度之長(zhǎng)，營(yíng)造適度的制度空間，以達(dá)到平衡狀態(tài)。

關(guān)鍵詞：“第三域”；算法規(guī)制；正式制度；非正式制度

中圖分類號(hào)：D9?????文獻(xiàn)標(biāo)識(shí)碼：A??????doi：10.19311/j.cnki.16723198.2023.04.080

0?引言

人工智能的核心推動(dòng)力是算法技術(shù)的合理應(yīng)用。技術(shù)革新過程中，算法一方面介入人們?nèi)粘Ｉ钪?，為人們帶來新的生活方式。但與此同時(shí)，也產(chǎn)生了一些負(fù)面的社會(huì)影響，如美國(guó)大選過程中Facebook假新聞事件。用戶偏好數(shù)據(jù)推送信息，制造了信息“過濾泡沫”。信息繭房作用下，用戶接受的觀點(diǎn)極端，認(rèn)知壁壘高且頑固，社會(huì)心態(tài)浮躁。更有甚，算法開始逐漸用于公共部門管理以影響并侵犯公眾權(quán)利。如何對(duì)算法進(jìn)行有效規(guī)制，以實(shí)現(xiàn)網(wǎng)絡(luò)生態(tài)文明，是人工智能時(shí)代算法規(guī)制亟待彌補(bǔ)的一塊短板。中國(guó)古代，算法被稱為“術(shù)”；三國(guó)時(shí)期，魏國(guó)數(shù)學(xué)家劉徽提出計(jì)算圓周率的方法，稱之為“割圓術(shù)”。在現(xiàn)代意義上，算法是指一種通過將輸入數(shù)據(jù)轉(zhuǎn)換為所需輸出來解決問題的編碼程序。算法實(shí)質(zhì)上是一種決策方式，如貝葉斯決策理論模型。通過數(shù)學(xué)語言建構(gòu)成模型，以呈現(xiàn)客觀現(xiàn)象，是“一種有限、確定、有效并適合用計(jì)算機(jī)程序來實(shí)現(xiàn)的解決問題的方法”。人類對(duì)算法依賴性的增強(qiáng)，算法出現(xiàn)異質(zhì)化，存在算法偏見、算法黑箱、算法鴻溝等問題。

1?算法規(guī)制的邏輯起點(diǎn)

1.1?利益驅(qū)動(dòng)下的數(shù)據(jù)收集與獲取

對(duì)于輕資產(chǎn)企業(yè)來說，一手?jǐn)?shù)據(jù)是一種寶貴資產(chǎn)，其價(jià)值可得到二次或者多次的挖掘。以零門檻作為吸引，通過用戶的附加價(jià)值和信息無意識(shí)泄露來賺取廣告收入和增值收入。依托多個(gè)免費(fèi)的產(chǎn)品市場(chǎng)吸引用戶，通過少數(shù)市場(chǎng)獲取增值收入。消費(fèi)者在使用基礎(chǔ)服務(wù)之后，有興趣進(jìn)一步消費(fèi)。企業(yè)收集到的數(shù)據(jù)信息趨于全面，用戶偏好和信息獲取更為廣泛，用戶黏度由此增強(qiáng)，利益增加。在儲(chǔ)存信息的過程中，信息轉(zhuǎn)化成可支配和控制的財(cái)產(chǎn)。

從財(cái)產(chǎn)上看，免費(fèi)內(nèi)容的商業(yè)模式造成互聯(lián)網(wǎng)“公共池”假象。通過短反饋吸引用戶跟風(fēng)，并放棄自身隱私。在無序、浮躁的混亂中，影響人們的認(rèn)知和行為；從勞動(dòng)上看，互聯(lián)網(wǎng)企業(yè)極大依賴于用戶的貢獻(xiàn)與創(chuàng)造，享有其集體勞動(dòng)成果的價(jià)值，卻不想承認(rèn)其中的勞動(dòng)關(guān)系。企業(yè)通過建立數(shù)據(jù)庫(kù)的形式，根據(jù)自身需要設(shè)置算法規(guī)則，實(shí)現(xiàn)定向廣告、個(gè)性化促銷以及定價(jià)的工作。從數(shù)據(jù)生產(chǎn)意義上來看，用戶和互聯(lián)網(wǎng)之間的關(guān)系是免費(fèi)勞動(dòng)力和工廠的關(guān)系。傳統(tǒng)互聯(lián)網(wǎng)企業(yè)，國(guó)家對(duì)其規(guī)制思路是歸口和屬地化管理。但算法時(shí)代的到來，使得以數(shù)據(jù)業(yè)務(wù)為主的互聯(lián)網(wǎng)企業(yè)打破了時(shí)空限制，跨越了條塊分割的現(xiàn)狀。數(shù)據(jù)所用者可從各種渠道獲取數(shù)據(jù)信息，賽博空間的“無秩序”使得其找到了規(guī)則的“避風(fēng)港”，形成一種“有組織的混亂”現(xiàn)象。

1.2?技術(shù)驅(qū)動(dòng)下的模型搭建及運(yùn)算

“賬戶-行為數(shù)據(jù)-算法”這一底層架構(gòu)已經(jīng)構(gòu)成了數(shù)字時(shí)代法律、市場(chǎng)和社會(huì)規(guī)范共同起作用的基礎(chǔ)，也受到商業(yè)生產(chǎn)邏輯和行政控制邏輯的雙重影響。在模型搭建和運(yùn)算階段，組織結(jié)合計(jì)算目標(biāo)，搭建算法架構(gòu)。利用機(jī)器深度學(xué)習(xí)的能力，將大量數(shù)據(jù)投入到算法中去進(jìn)行運(yùn)算和學(xué)習(xí)。算法設(shè)計(jì)者根據(jù)機(jī)器在自我學(xué)習(xí)過程中的表現(xiàn)，調(diào)整算法以得出更好地結(jié)果。代碼是算法的載體，代碼也是賽博空間中隱形的“秩序”，即萊辛格提出的“代碼即法律”的思想。因此，在算法搭建和運(yùn)算過程中，代碼編譯者的價(jià)值判斷、算法設(shè)計(jì)者的設(shè)計(jì)理念均會(huì)在代碼中得以反饋。代碼成為一門語言，并將信息和理念傳遞出去。因此，依賴于算法模型的設(shè)計(jì)、代碼的編寫，會(huì)由于實(shí)施者認(rèn)知壁壘、知識(shí)面偏頗而構(gòu)成算法歧視和算法偏見，這亦是算法規(guī)制中亟須考慮的技術(shù)視角。

1.3?權(quán)力驅(qū)動(dòng)下的模型應(yīng)用及輸出

哈貝馬斯認(rèn)為，從歷史上看，公共領(lǐng)域經(jīng)歷了三種形態(tài)的演變：一是古希臘城邦中以政治生活為本質(zhì)內(nèi)容的公共生活；二是中世紀(jì)歐洲封建社會(huì)時(shí)期，國(guó)家與社會(huì)沒有發(fā)生分離；三是直到18世紀(jì)，德國(guó)開始出現(xiàn)社團(tuán)組織和協(xié)會(huì)這種獨(dú)立于政府當(dāng)局的社會(huì)實(shí)體后，與當(dāng)時(shí)的新聞媒介共同構(gòu)成了哈貝馬斯筆下的資產(chǎn)階級(jí)公共領(lǐng)域，即第三種形態(tài)的公共領(lǐng)域。

互聯(lián)網(wǎng)2.0時(shí)代后期，算法被賦予工具化的意義。大型服務(wù)提供者演化為網(wǎng)絡(luò)平臺(tái)，平臺(tái)經(jīng)濟(jì)蓬勃生機(jī)，但也暗藏危機(jī)，即平臺(tái)私權(quán)力的侵犯。由于網(wǎng)絡(luò)空間管理相關(guān)法律滯后于網(wǎng)絡(luò)技術(shù)的發(fā)展，網(wǎng)絡(luò)空間領(lǐng)域處于一種“混沌化”狀態(tài)。平臺(tái)的迅速崛起促進(jìn)了其對(duì)于人類自愿放棄的公共領(lǐng)域的侵占，算法代替了法律的空缺，實(shí)際上承擔(dān)了網(wǎng)絡(luò)空間的日常治理。行至當(dāng)下，以算法作為秩序的規(guī)則弊端叢生，并呈現(xiàn)出越界侵占公共領(lǐng)域的苗頭，甚至隨著數(shù)字化政府的到來，隱隱顯露出侵占公共權(quán)力領(lǐng)域的威脅。

這些信息被傳到移動(dòng)終端時(shí)，脫離所有者的控制。用戶協(xié)議的信息不對(duì)稱性，使得終端企業(yè)可永久分析用戶的數(shù)據(jù)，卻不承擔(dān)法律問責(zé)的成本。用戶處于弱勢(shì)一方，只有被動(dòng)要求互聯(lián)網(wǎng)企業(yè)刪除信息的權(quán)利，而沒有主動(dòng)監(jiān)控其信息被使用情況的主動(dòng)權(quán)。

2?算法規(guī)制的可能路徑及其問題

2.1?算法公開

算法的不透明會(huì)造成開放者與使用者的信息不對(duì)稱，因此有一部分學(xué)者提出“確保算法透明性的直觀方案就是要求企業(yè)公布自身的算法”。但該措施存在著不可操作性，一方面對(duì)于公司來說，算法的不透明是一種自我保護(hù)手段。對(duì)于技術(shù)型公司而言，算法是企業(yè)的核心機(jī)密。一旦公開，會(huì)面臨成本增加、競(jìng)爭(zhēng)優(yōu)勢(shì)被取代等風(fēng)險(xiǎn)。如為公共利益而公開算法，本質(zhì)上違背了市場(chǎng)經(jīng)濟(jì)中企業(yè)以盈利為目的的組織目標(biāo)。法律應(yīng)是確保規(guī)范性期望實(shí)現(xiàn)，疏解和救濟(jì)失望的工具。另一方面，算法公開后，算法審查的成本較高，這種技術(shù)鴻溝使得即便算法公開，也會(huì)被大眾選擇性忽視。有一部分學(xué)者認(rèn)為可以發(fā)揮媒體的宣傳作用將算法解釋給大眾，這只是將算法知識(shí)的解讀交給了社會(huì)組織中的某一群體（在這里是媒體），那依然需要媒體具備專業(yè)的算法知識(shí)。因此，可看出，不論將算法公開的審查權(quán)交給誰來實(shí)施都會(huì)遇到同樣的技術(shù)壁壘問題，總之，達(dá)摩克利斯之劍并未真正落下，算法的技術(shù)性形成了天然的溝通屏障。

2.2?算法驗(yàn)證

算法形成之后，需要對(duì)其給予測(cè)試和驗(yàn)證。算法驗(yàn)證一般分為兩種，即靜態(tài)驗(yàn)證和動(dòng)態(tài)驗(yàn)證。從結(jié)構(gòu)-功能角度來說，靜態(tài)驗(yàn)證是指重新檢查代碼，查詢?cè)O(shè)計(jì)上的不足；從過程-事件角度來說，動(dòng)態(tài)驗(yàn)證是指先進(jìn)行小樣本的預(yù)測(cè)試，通過模擬的形式，檢查代碼實(shí)際運(yùn)行過程中的情況，并給予及時(shí)的調(diào)整。部分學(xué)者認(rèn)為，為保證程序正義和捍衛(wèi)網(wǎng)絡(luò)公共空間的公共價(jià)值，應(yīng)將算法驗(yàn)證交由第三方認(rèn)證。但這種驗(yàn)證方式也存在一定的弊端，即成本過高和尋租。一方面，這種認(rèn)證機(jī)制可能會(huì)給企業(yè)帶來財(cái)務(wù)壓力，這種財(cái)務(wù)壓力會(huì)使得中小初創(chuàng)型的技術(shù)公司陷入死板單一的機(jī)械化困境，致使技術(shù)研發(fā)的停滯。

2.3?算法解釋

算法具有自我生產(chǎn)能力，這種自主性使得算法規(guī)則具有復(fù)雜性。“人類知道的遠(yuǎn)比其能表達(dá)出來的更多”，即隱性知識(shí)。然而，以機(jī)器學(xué)習(xí)為代表的人工智能，目前已擺脫了需要依賴人類表達(dá)能力的局限，打破了“波蘭尼悖論”的束縛。有學(xué)者認(rèn)為，當(dāng)自動(dòng)化決策算法的具體決定對(duì)相對(duì)人有法律上或者經(jīng)濟(jì)上的顯著影響時(shí)，相對(duì)人有權(quán)向算法使用人提出異議，要求其提供對(duì)具體決策解釋，并要求更新數(shù)據(jù)或更正錯(cuò)誤，此即為算法解釋權(quán)。這個(gè)可能路徑同樣存在不可規(guī)避的問題。算法解釋首先依賴于算法在技術(shù)上的可解釋性。這就會(huì)存在算法黑箱問題。一些簡(jiǎn)單的算法，設(shè)計(jì)師可以對(duì)其進(jìn)行解釋。但隨著機(jī)器學(xué)習(xí)的縱向發(fā)展，算法的運(yùn)算過程和決策過程更多地像一個(gè)看不見摸不著的黑箱。算法在模擬人類思維的過程中，會(huì)出現(xiàn)不可解釋性的演化。它所能被解釋的可能性越來越渺茫，設(shè)計(jì)者能夠提供算法的模型，卻沒辦法提供算法決策產(chǎn)生的依據(jù)。例如，我們雖能很容易記住一張面孔、辨別一個(gè)聲音，但卻并不能很好地闡述或解釋我們?yōu)槭裁纯梢詫?shí)現(xiàn)這一功能?？偨Y(jié)來看，機(jī)器學(xué)習(xí)模式下則不可能要求“解釋具體決定的邏輯和個(gè)人數(shù)據(jù)的權(quán)重”，因此通過算法解釋對(duì)算法進(jìn)行規(guī)制也不具有普適性。

3?算法規(guī)制的新思路：走向“第三域”

算法規(guī)制過程中，一方面以“公”為代表的公權(quán)力有著防控算法過度剝奪公民自由，提防“奇點(diǎn)來臨”導(dǎo)致人類災(zāi)難的政治使命；另一方面以“私”為代表的私權(quán)力強(qiáng)調(diào)經(jīng)營(yíng)的自由，但過度強(qiáng)調(diào)經(jīng)濟(jì)效率易引發(fā)外部環(huán)境對(duì)算法的不信任甚至恐慌。

3.1?“第三域”概念的引入

“第三域”由黃宗智先生在鄉(xiāng)村治理的議題下提出，其認(rèn)為第三域不是非此即彼的二元對(duì)立，而是“具有超出國(guó)家與社會(huì)之影響的自身特性和自身邏輯的存在”。改革時(shí)期，黃宗智認(rèn)為：“正是在第三領(lǐng)域這一地帶，國(guó)家聯(lián)合社會(huì)進(jìn)行超出正式官僚機(jī)構(gòu)能力的公共活動(dòng)，也是在這一地帶，新型的國(guó)家與社會(huì)的關(guān)系在逐漸衍生。這里可能是更具協(xié)商性而非命令性的新型權(quán)力關(guān)系的發(fā)源地。”正式制度和非正式制度之間具有一定的制度空間，這一制度空間即是“第三域”。算法規(guī)制的理論基礎(chǔ)是國(guó)家與社會(huì)的關(guān)系，將此概念遷移到算法規(guī)制中具有一定的適用性。

3.2?正式制度與非正式制度

所謂正式制度，是人們?yōu)榱颂囟ǖ哪康挠幸庾R(shí)地建立起來并被正式確認(rèn)的各種制度的總稱，它是依靠權(quán)力機(jī)構(gòu)為后盾來實(shí)施的成文規(guī)范，包括法律、法規(guī)、政策、規(guī)章和契約等。在算法規(guī)制中，正式制度是指國(guó)家針對(duì)互聯(lián)網(wǎng)經(jīng)濟(jì)制定的法律條文、規(guī)章制度、行為準(zhǔn)則等。它是源于國(guó)家法律制度建設(shè)之中的，對(duì)于以技術(shù)作為內(nèi)驅(qū)動(dòng)力的算法而言，則是外來的制度，是建構(gòu)性的制度體系。一旦有人破壞這些制度，便會(huì)受到來自國(guó)家強(qiáng)制力的懲罰。這種正式制度是以政府為主導(dǎo)的，以公共利益作為基礎(chǔ)，目的是對(duì)公共領(lǐng)域與私人領(lǐng)域界限范圍的重新界定，以建立智能經(jīng)濟(jì)時(shí)代的顯性秩序，規(guī)范智能經(jīng)濟(jì)，挖掘經(jīng)濟(jì)價(jià)值的同時(shí)，使其關(guān)注公共價(jià)值。

非正式制度是人們?cè)陂L(zhǎng)期的共同生活或社會(huì)交往過程中形成的約定俗成的且被一致認(rèn)同并共同遵守的行為準(zhǔn)則，包括意識(shí)形態(tài)、價(jià)值信念、文化傳統(tǒng)、風(fēng)俗習(xí)慣和倫理道德等。在算法規(guī)制中，公平是第一位的公共價(jià)值，而在這一概念框架下的非正式制度主要是指算法、算法設(shè)計(jì)者以及算法使用者的道德、價(jià)值信念和倫理道德，簡(jiǎn)言之，即算法德性與技術(shù)倫理。這種制度是算法設(shè)計(jì)者和使用者內(nèi)化于心的行為準(zhǔn)則，往往產(chǎn)生于人的工作環(huán)境、行業(yè)領(lǐng)域、人際交往的過程中，依賴于人的自身素質(zhì)和職業(yè)責(zé)任感。這種不是以法律作為基石的行為準(zhǔn)則有著很強(qiáng)的情感根基，一旦有人逾越，便會(huì)受到來自職業(yè)共同體的藐視、譴責(zé)和疏離，使其在工作環(huán)境或者行業(yè)領(lǐng)域受到情感上的排擠，也會(huì)形成一種公眾輿論對(duì)當(dāng)事人造成壓迫感致使其糾正錯(cuò)誤。這種非正式制度并不是以政府主導(dǎo)的，而是以私人領(lǐng)域的每一個(gè)主體為主導(dǎo)而產(chǎn)生的，是一種他律性與自律性的體現(xiàn)，也是公共利益與私人利益之間可能的融合點(diǎn)。

3.3?“第三域”—正式制度與非正式制度的制度空間

正式制度與非正式制度的互動(dòng)是頂層設(shè)計(jì)和基層呼應(yīng)的良性互動(dòng)。非正式制度是內(nèi)“嵌”于算法運(yùn)作的全程之中的，因此更容易被接受和吸納，以彌補(bǔ)正式制度外入的剛性制約。與正式制度的剛性手段相比，非正式制度更多的是一種柔性手段，可以內(nèi)化于心，外化于行。因此，在算法規(guī)制中可以將非正式制度作為正式制度的必要補(bǔ)充，但另一方面，在涉及底線問題的時(shí)候，正式制度又是非正式制度的守門員與警戒線。在正式制度和非正式制度之間存在的并非是黑白對(duì)立，或者涇渭分明的一條線，而是一個(gè)可以共融的合作空間和制度空間，且這一空間具有很強(qiáng)的“協(xié)商性而非命令性”特點(diǎn)，因此，在面對(duì)一些算法規(guī)制中道德價(jià)值沖突的問題時(shí)，正式制度和非正式制度都可以介入，可以采取兩者的互動(dòng)方式來解決糾紛，化解沖突和對(duì)立，合作共贏，達(dá)成一種平衡狀態(tài)。

參考文獻(xiàn)

［1］Karen?Yeung.Algorithmic?regulation：A?critical?interrogation[J].Regulaton?&?Governance，2018，（12）：505523.

[2]查道林，蔣智慧，曹高輝，等.信息系統(tǒng)用戶感知算法焦慮的內(nèi)涵及其結(jié)構(gòu)維度研究[J].情報(bào)科學(xué)，2022，40（06）：6673.

[3]Robert?Sedgewick，Kevin?Wayne.算法（第四版）[M].謝路云譯.北京：人民郵電出版社，2012.

[4]金觀濤.賽先生的夢(mèng)靨：新技術(shù)革命二十講[M].北京：東方出版社，2019：105113.

[5]胡凌.互聯(lián)網(wǎng)與公共領(lǐng)域：財(cái)產(chǎn)與勞動(dòng)的視角[J].網(wǎng)絡(luò)法律評(píng)論，2013，17（02）：6167.

[6]阿里爾·扎拉奇，莫里斯.m.斯圖克.算法的陷阱：超級(jí)平臺(tái)、算法壟斷與場(chǎng)景欺騙[M].北京：中信出版集團(tuán)，2018.

[7]哈貝馬斯.公共領(lǐng)域的結(jié)構(gòu)轉(zhuǎn)型[M].曹衛(wèi)東等譯.上海：學(xué)林出版社，1999.

[8]林洹民.自動(dòng)決策算法的法律規(guī)制：以數(shù)據(jù)活動(dòng)顧問為核心的二元監(jiān)管路徑[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2019，37（03）：4353.

[9][德]尼古拉斯·盧曼.法社會(huì)學(xué)[M].賓凱，趙春燕，譯.上海：上海人民出版社，2013.

[10]張凌寒.商業(yè)自動(dòng)化決策的算法解釋權(quán)研究[J].法律科學(xué)，2018，（3）：6872.

[11]黃宗智.中國(guó)的“公共領(lǐng)域”與“市民社會(huì)”———國(guó)家與社會(huì)間的第三領(lǐng)域[C]//鄧正來.國(guó)家與市民社會(huì)：一種社會(huì)理論的研究路徑.北京：中央編譯出版社，2002：420443.

[12]章榮君.鄉(xiāng)村治理中正式制度與非正式制度的關(guān)系解析[J].行政論壇，2015，22（03）：2124.

[13]王芳.正式制度、非正式制度與公共品供給——來自地級(jí)市的證據(jù)[J].世界經(jīng)濟(jì)文匯，2018，（04）：5365.

[14]劉友華.算法偏見及其規(guī)制路徑研究[J].法學(xué)雜志，2019，（06）：5566.

[15]周申倡，戴玉琴.論新時(shí)代深化村民自治的“雙向制度”供給——基于村民自治制度與鄉(xiāng)村非正式制度融合的視角[J].學(xué)海，2019，（03）：139145.