郭子涵

一、技術(shù)利維坦問(wèn)題與自主性視角下的技術(shù)監(jiān)管

(一)利維坦與國(guó)家監(jiān)管

利維坦本是十七世紀(jì)著名的唯物主義哲學(xué)家和政治思想家托馬斯·霍布斯(以下簡(jiǎn)稱(chēng)霍布斯)在其經(jīng)典著作《利維坦》中提出的政治思想，即將國(guó)家比作《圣經(jīng)》中擁有巨大力量的巨獸“利維坦”，從而闡述其國(guó)家的起源和本質(zhì)、主權(quán)學(xué)說(shuō)以及政體等理論。在霍布斯看來(lái)，由于自然狀態(tài)中的高度不安全性，即“在沒(méi)有一個(gè)共同權(quán)力使大家懾服的時(shí)候，人們便處在所謂的戰(zhàn)爭(zhēng)狀態(tài)下……這種戰(zhàn)爭(zhēng)是每一個(gè)人對(duì)每個(gè)人的戰(zhàn)爭(zhēng)”[1]94-95，人類(lèi)便以訂立社會(huì)契約的方式從自然狀態(tài)走入政治社會(huì)。契約的訂立賦予了國(guó)家一系列職能，其中最重要的職能是“為人民求得安全”[1]260。而在馬克思主義看來(lái)，國(guó)家本質(zhì)上是一種“從社會(huì)中產(chǎn)生但又自居于社會(huì)之上并且日益同社會(huì)相異化的力量”[2]，國(guó)家的重要職能就是對(duì)社會(huì)沖突的控制，只有在這種秩序中，一切的人類(lèi)活動(dòng)才能有序展開(kāi)。因此，可以說(shuō)，無(wú)論是為了安全還是為了秩序，國(guó)家都必須負(fù)起照看社會(huì)的職責(zé)。國(guó)家既要實(shí)現(xiàn)政治統(tǒng)治，也要實(shí)現(xiàn)社會(huì)職能，政治統(tǒng)治和社會(huì)職能是相輔相成的，“國(guó)家和這種職位都要履行以維護(hù)社會(huì)公共利益、處理社會(huì)公共事務(wù)為主要任務(wù)的社會(huì)職能”[3]，因此對(duì)技術(shù)的監(jiān)管與控制也是國(guó)家職能的應(yīng)有之義。

(二)技術(shù)利維坦的概念

技術(shù)利維坦問(wèn)題或數(shù)字利維坦問(wèn)題是近代以來(lái)隨著科學(xué)技術(shù)的發(fā)展逐漸出現(xiàn)的一種技術(shù)侵害假說(shuō)。在這種假說(shuō)中，技術(shù)具有的自主性是引發(fā)技術(shù)侵害的重要原因。然而，什么是技術(shù)利維坦？什么意義上的技術(shù)利維坦才是問(wèn)題？技術(shù)利維坦的主體是技術(shù)還是國(guó)家？這些問(wèn)題當(dāng)前還不具有一個(gè)統(tǒng)一的說(shuō)法。筆者以為，學(xué)界對(duì)技術(shù)利維坦的理解實(shí)際上涉及了兩個(gè)方向的主題：其一是指技術(shù)使國(guó)家獲得了新的政治控制手段，從而產(chǎn)生了國(guó)家利維坦進(jìn)化為技術(shù)利維坦的問(wèn)題，技術(shù)“極易被國(guó)家俘獲用于社會(huì)控制和政治權(quán)力再生產(chǎn)，技術(shù)手段從而成為社會(huì)治理的重要工具”[4]；其二是指技術(shù)由于智能化而具有了自主性，脫離了人類(lèi)的控制，從而產(chǎn)生了技術(shù)自身成為利維坦的問(wèn)題?！跋嘈偶夹g(shù)以某種方式擺脫了控制，獨(dú)立于人的指導(dǎo)而沿著自身進(jìn)程前行”[5]10“人們逐漸成為算法的附庸，臣服于算法程序監(jiān)控之下”[6]。

雖然兩種技術(shù)利維坦都是關(guān)于技術(shù)侵害的重要角度，但是學(xué)者們卻相對(duì)忽視了另一種技術(shù)利維坦，即科學(xué)技術(shù)的供給主體科技公司以技術(shù)作為借口獲得了自主性，采取了違背公共利益的策略、行為，侵害公共利益。這種角度的技術(shù)利維坦問(wèn)題實(shí)際上是算法權(quán)力問(wèn)題。從這種侵害公共利益的風(fēng)險(xiǎn)形式入手，掌握算法的企業(yè)和組織利用技術(shù)優(yōu)勢(shì)，把控社會(huì)的信息及資源，引導(dǎo)政府的決策，形成了一種非國(guó)家力量的“準(zhǔn)公權(quán)力”[7]?？茖W(xué)技術(shù)本身具有了自主性的技術(shù)利維坦問(wèn)題主要涉及對(duì)先進(jìn)技術(shù)的監(jiān)管，而科技公司具有了自主性的技術(shù)利維坦問(wèn)題則更多聚焦于對(duì)科技公司的監(jiān)管。

(三)技術(shù)進(jìn)步與自主性危機(jī)

人類(lèi)歷史上發(fā)生了四次工業(yè)革命，都極大地推動(dòng)了生產(chǎn)力的發(fā)展，而技術(shù)進(jìn)步則是工業(yè)革命的主要成果。但是前三次的工業(yè)革命主要都是生產(chǎn)力的發(fā)展問(wèn)題，沒(méi)有涉及人類(lèi)的自主性危機(jī)問(wèn)題。然而，隨著第四次工業(yè)革命的推進(jìn)，“全世界進(jìn)入顛覆性變革新階段。”[8]人工智能、大數(shù)據(jù)的廣泛應(yīng)用，技術(shù)越來(lái)越智能化，人們對(duì)技術(shù)的依賴(lài)日漸加深，技術(shù)自主性以及建立在技術(shù)自主性基礎(chǔ)上的技術(shù)利維坦問(wèn)題日漸成為一種理論關(guān)切。第四次工業(yè)革命具有智能化的特殊性質(zhì)，對(duì)技術(shù)利維坦的形成有著直接的推動(dòng)作用。這是因?yàn)橹悄芑w現(xiàn)為機(jī)器具有相當(dāng)程度的自我學(xué)習(xí)能力以及高于人類(lèi)智能的傾向。

人類(lèi)自主性面臨危機(jī)。從某種程度來(lái)說(shuō)，這些負(fù)的外部性效應(yīng)有著類(lèi)似“失控”的風(fēng)險(xiǎn)。未來(lái)的人工智能不斷強(qiáng)化，“那些由我們制造出來(lái)的東西將會(huì)具備學(xué)習(xí)、適應(yīng)、自我治愈，甚至是進(jìn)化的能力”[9]，人們可能向我們自己的造物低頭。在這樣的技術(shù)利維坦的風(fēng)險(xiǎn)下，人們的自由很可能失去。顯然，如果技術(shù)發(fā)展賦予相應(yīng)主體自主性，那么擁有自主性的技術(shù)或科技公司就是國(guó)家應(yīng)重點(diǎn)關(guān)注的監(jiān)管對(duì)象。因此，正確認(rèn)識(shí)技術(shù)利維坦帶來(lái)的風(fēng)險(xiǎn)并合理應(yīng)對(duì)就有著十分重要的意義。

二、技術(shù)利維坦問(wèn)題的需求側(cè)分析

人們對(duì)技術(shù)的需要是技術(shù)利維坦問(wèn)題產(chǎn)生的基礎(chǔ)，但需要技術(shù)利維坦本身的原因則在于以技術(shù)監(jiān)管技術(shù)的趨勢(shì)。

(一)技術(shù)智能化對(duì)人類(lèi)自主性的影響

人類(lèi)對(duì)技術(shù)的控制存在弱化的傾向。由于技術(shù)原本是完全在人類(lèi)控制之下的工具，因此歷史上長(zhǎng)期沒(méi)有興起有關(guān)技術(shù)利維坦的擔(dān)心，工具是忠誠(chéng)的，它沒(méi)有自由意志。“對(duì)自己制造出的東西，人類(lèi)還加以控制。這是常識(shí)。”[5]21在過(guò)去很長(zhǎng)的時(shí)期內(nèi)，我們不僅能夠控制和運(yùn)用已有工具，而且還會(huì)發(fā)明和創(chuàng)造新工具，推動(dòng)科學(xué)技術(shù)的不斷發(fā)展。然而，考慮到人類(lèi)自主性的問(wèn)題，如今兩方面原因使得人們對(duì)技術(shù)的控制能力減弱了。

一方面，如前文所述，第四次工業(yè)革命中的人工智能技術(shù)擁有了“智能”，這是前所未有的事情。在第四次工業(yè)革命之前人類(lèi)對(duì)技術(shù)的控制是有自由意志的人對(duì)無(wú)自由意志的物的控制，而在此之后人對(duì)技術(shù)的控制卻可能是有自由意志的人對(duì)同樣有自由意志的物的控制。當(dāng)有自由意志的人對(duì)同樣有自由意志的物進(jìn)行控制時(shí)，這種控制是不穩(wěn)固的，因?yàn)橹挥挟?dāng)人的自由意志高于物的自由意志才能實(shí)現(xiàn)控制，而當(dāng)人的自由意志低于物的自由意志時(shí)，人可能反過(guò)來(lái)被物所控制。因此，人工智能對(duì)人存在僭越的可能。另一方面，隨著社會(huì)分工的不斷發(fā)展，公眾對(duì)技術(shù)的了解已經(jīng)越來(lái)越少。因此，在技術(shù)知識(shí)掌握的意義上，“我們了解、判斷或控制技術(shù)工具的能力衰退了，失控顯而易見(jiàn)?！盵5]25我們需要技術(shù)而又不夠了解技術(shù)，這就為技術(shù)的自主性提供了前提條件。

(二)技術(shù)智能化對(duì)政治民主的積極影響

在社會(huì)治理的過(guò)程中，利益相關(guān)方的共同參與對(duì)于治理實(shí)踐有著巨大的促進(jìn)作用。這種利益相關(guān)方共同參與的治理實(shí)踐就是“協(xié)商政治”，“協(xié)商政治有效運(yùn)作的動(dòng)力來(lái)自不斷擴(kuò)大、不斷制度化的多元與多向的參與”[10]，因此在協(xié)商政治中，社會(huì)利益相關(guān)方的積極參與是基本動(dòng)力。在一國(guó)政治發(fā)展中，應(yīng)該推動(dòng)參與“合力”的形成[11]。在我國(guó)的社會(huì)治理實(shí)踐中，堅(jiān)持黨的領(lǐng)導(dǎo)與公民的積極參與能夠?yàn)檫@種合力的形成提供動(dòng)力。因此，在堅(jiān)持黨的領(lǐng)導(dǎo)的根本前提下，政治制度和政治安排要盡可能為公眾參與提供便利。

技術(shù)智能化對(duì)政治民主有著正反兩個(gè)方面的影響。技術(shù)既能在政治參與意義上促進(jìn)民主，也能在算法支配下操控民主。技術(shù)智能化對(duì)政治民主的積極意義主要體現(xiàn)在兩方面：一是擴(kuò)大政治參與的數(shù)量和范圍，二是提高政治參與的質(zhì)量和水平。人們可以通過(guò)網(wǎng)絡(luò)實(shí)現(xiàn)更廣泛的政治參與，而不用像原來(lái)一樣受限于因時(shí)間成本和空間有限而產(chǎn)生的代議制民主，也就是說(shuō)直接民主越來(lái)越成為可能。互聯(lián)網(wǎng)等科學(xué)技術(shù)可以在政治參與中發(fā)揮橋梁與紐帶的作用，使分散的人們普遍聯(lián)系起來(lái)。在提高民主以及政治參與質(zhì)量方面，“民主制度可以通過(guò)技術(shù)改進(jìn)來(lái)保證合理而智慧的公共選擇，從而把偏好加總的民主轉(zhuǎn)變?yōu)橹R(shí)加權(quán)的民主?！盵12]也就是說(shuō)，借助技術(shù)，民主將可能不僅在形式上得到增進(jìn)，也將在實(shí)質(zhì)上更符合人們的切身利益，增進(jìn)“理性選擇”，這將是一種可能的“智慧民主”。這種智慧民主在克服人性缺點(diǎn)上有其獨(dú)特的優(yōu)勢(shì)。顯然，在理想狀況下，更好的民主不僅僅是可欲的，更是可能的，技術(shù)在實(shí)現(xiàn)這類(lèi)追求的過(guò)程中有著重要的促進(jìn)作用。但是，智能化技術(shù)存在操縱民主的可能性，其負(fù)面影響將在技術(shù)利維坦的供給側(cè)詳盡論述。

(三)技術(shù)監(jiān)管催生對(duì)技術(shù)利維坦的需求

由于智能化是第四次工業(yè)革命的重要特征，而這種技術(shù)的智能化對(duì)應(yīng)了人的自主性的下降，這表現(xiàn)為人們?cè)谡螀⑴c和社會(huì)治理過(guò)程中自主性也在下降，因此在政治生活和社會(huì)治理的過(guò)程中，避免智能化等技術(shù)對(duì)國(guó)家和社會(huì)的不利影響成為重要的現(xiàn)實(shí)問(wèn)題，而這就催生了對(duì)技術(shù)進(jìn)行監(jiān)管的需求。

隨著機(jī)器學(xué)習(xí)的不斷進(jìn)步，哪怕是技術(shù)的開(kāi)發(fā)者也不知道技術(shù)何以得出的答案，因此技術(shù)的自我學(xué)習(xí)就成了一個(gè)黑箱?！八惴ǖ哪康暮鸵鈭D是什么，包括編輯的目標(biāo)；誰(shuí)開(kāi)發(fā)和控制這些算法；誰(shuí)對(duì)這些內(nèi)容負(fù)責(zé)；最終產(chǎn)品在發(fā)表前是否有人類(lèi)編輯閱覽?！盵13]在這個(gè)黑箱中，技術(shù)自我學(xué)習(xí)、演化。甚至當(dāng)人類(lèi)試圖理解其得出的答案時(shí)，技術(shù)由于自我學(xué)習(xí)更新或更改了答案。這就導(dǎo)致人類(lèi)對(duì)于智能化技術(shù)得出的結(jié)論的理解永遠(yuǎn)趕不上其得出結(jié)論并在新的學(xué)習(xí)中對(duì)結(jié)論進(jìn)行更改的腳步。如何應(yīng)對(duì)這種監(jiān)管難題？答案就在于技術(shù)。顯然，人工方式已經(jīng)趕不上機(jī)器的自我學(xué)習(xí)速度了，只有通過(guò)研發(fā)對(duì)應(yīng)技術(shù)來(lái)進(jìn)行技術(shù)監(jiān)管才能實(shí)現(xiàn)對(duì)智能化技術(shù)的監(jiān)管。這種監(jiān)管技術(shù)只有掌握先進(jìn)科學(xué)技術(shù)的科技公司才有條件生產(chǎn)，因此對(duì)技術(shù)監(jiān)管的需要就成為對(duì)技術(shù)利維坦的需要。同時(shí)，政府想要真正實(shí)現(xiàn)對(duì)科技公司的監(jiān)管就需要將自身技術(shù)化，以此來(lái)適應(yīng)這種監(jiān)管技術(shù)的發(fā)展?！巴苿?dòng)技術(shù)工具與科層組織的深度融合與雙重再造?！盵14]國(guó)家技術(shù)化后，對(duì)科技公司的監(jiān)管就更加充分，在此基礎(chǔ)上探索以技術(shù)監(jiān)管技術(shù)的模式。雖然用技術(shù)監(jiān)管技術(shù)無(wú)法在邏輯上徹底解決智能化技術(shù)的監(jiān)管難題，卻是一種具有可行性的應(yīng)對(duì)方式，有助于緩解智能化技術(shù)監(jiān)管問(wèn)題的困境。

三、技術(shù)利維坦問(wèn)題的供給側(cè)分析

從供給側(cè)來(lái)說(shuō)，科技公司是智能技術(shù)的供給主體，因此對(duì)科技公司的監(jiān)管應(yīng)當(dāng)成為技術(shù)監(jiān)管的重要內(nèi)容之一，這主要由兩方面原因?qū)е碌模阂环矫?，技術(shù)智能化本身就是重大的監(jiān)管難題；另一方面，技術(shù)的智能化搭配大數(shù)據(jù)技術(shù)的應(yīng)用產(chǎn)生了對(duì)人們參與社會(huì)治理的不利影響，也就是說(shuō)對(duì)智能化技術(shù)的監(jiān)管以及明確技術(shù)開(kāi)發(fā)者的意圖是技術(shù)監(jiān)管的關(guān)鍵。

(一)技術(shù)智能化對(duì)科技公司自主性的影響

技術(shù)智能化提高了科技公司的自主性。首先，由于科技公司集中于創(chuàng)新領(lǐng)域，而在這些領(lǐng)域監(jiān)管和制度可能不夠健全，這就給科技公司帶來(lái)了自主性。與此同時(shí)，由于科技公司往往在自我利益最大化的動(dòng)機(jī)下行事，因此這種自主性是帶有風(fēng)險(xiǎn)的?？萍脊竟倘挥袆?chuàng)新的動(dòng)力，卻也有違背公共利益而為自身利益服務(wù)的動(dòng)力。

其次，對(duì)先進(jìn)科技的掌握使其獲得較為重要的地位。智能化的先進(jìn)技術(shù)很多是由科技公司提供的，在特定領(lǐng)域中，這種對(duì)技術(shù)的理解更深入的優(yōu)勢(shì)就成了其話語(yǔ)權(quán)的優(yōu)勢(shì)?！凹夹g(shù)創(chuàng)新水平高的企業(yè)在國(guó)家標(biāo)準(zhǔn)制定中的話語(yǔ)權(quán)更大?！盵15]技術(shù)能力越強(qiáng)，科技公司就在行業(yè)標(biāo)準(zhǔn)制定等方面擁有更大的話語(yǔ)權(quán)，因此其自主性由于這種地位也相應(yīng)提高了。

再次，科技公司在政府鼓勵(lì)創(chuàng)新的條件下具有了更高的自主性。在轉(zhuǎn)型時(shí)期，中國(guó)政府的定位更多表現(xiàn)為“政府在一些職能領(lǐng)域的退出，或一些職能的削弱正是市場(chǎng)和社會(huì)成長(zhǎng)的一個(gè)必然結(jié)果”[16]。由于改革開(kāi)放以來(lái)始終強(qiáng)調(diào)市場(chǎng)的積極作用，中國(guó)政府在一些領(lǐng)域的職能有所收縮，以此來(lái)給市場(chǎng)中的主體創(chuàng)造一個(gè)相對(duì)寬松的政策環(huán)境。在這樣的宏觀政策背景下，科技公司作為社會(huì)主義市場(chǎng)經(jīng)濟(jì)主體中的一員，擁有了相當(dāng)程度的自主性。

最后，科技公司有著雄厚的物質(zhì)基礎(chǔ)，這也加強(qiáng)了其自身的自主性。由于科技公司往往掌握大量先進(jìn)的科學(xué)技術(shù)，其通過(guò)先進(jìn)技術(shù)應(yīng)用于經(jīng)濟(jì)領(lǐng)域獲得了巨額的收益、利潤(rùn)。因此，其物質(zhì)力量基礎(chǔ)較為雄厚，經(jīng)濟(jì)基礎(chǔ)的改善使其自主性得到了顯著提升。

(二)技術(shù)智能化對(duì)政治民主的消極影響

從先進(jìn)技術(shù)的供給側(cè)來(lái)看，科技公司及其算法權(quán)力對(duì)于政治民主可能有著不利的影響。這是因?yàn)?，科技公司的利益并不必然與公共利益相一致，其利益最大化的動(dòng)機(jī)下可能對(duì)公眾產(chǎn)生特定的影響，這種影響在較弱的時(shí)候表現(xiàn)為“助推”，在較強(qiáng)的時(shí)候表現(xiàn)為“操縱”。助推是一種功能，這種功能利用人們的認(rèn)知局限、偏見(jiàn)和習(xí)慣影響人們的判斷、選擇和行為[17]。顯然，無(wú)論是算法本身還是科技公司，即使其算法權(quán)力沒(méi)有達(dá)到徹底控制公眾的地步，也有很大可能對(duì)公眾進(jìn)行助推從而達(dá)到其自身目的。

科技公司研發(fā)的算法往往為其自身利益尤其是經(jīng)濟(jì)利益服務(wù)，這就對(duì)公眾的自主性產(chǎn)生了侵害。人工智能技術(shù)的進(jìn)步背后是算法的進(jìn)步，而算法進(jìn)步的背后是高等數(shù)學(xué)等基礎(chǔ)理論的發(fā)展和突破?！八惴ǖ暮诵木褪前凑赵O(shè)定程序運(yùn)行以期獲得理想結(jié)果的一套指令。”[18]如果沿著算法的道路走得太遠(yuǎn)，會(huì)有諸多的問(wèn)題出現(xiàn)，例如，算法甚至可以使公眾在由自己的意志編織起來(lái)的“信息繭房”中背離事實(shí)，削弱其理性判斷力，從而實(shí)現(xiàn)對(duì)公眾的意識(shí)操縱[19]。

從“數(shù)據(jù)”到“大數(shù)據(jù)”，不僅僅是數(shù)量上的差別，更是數(shù)據(jù)質(zhì)量的提升[20]。由于大數(shù)據(jù)的真正優(yōu)勢(shì)不僅在于數(shù)據(jù)的規(guī)模大，更在于對(duì)多元數(shù)據(jù)類(lèi)型的匯聚和處理方式。同樣的數(shù)據(jù)在經(jīng)過(guò)算法這種特定的排列組合后，能夠產(chǎn)生與先前完全不同的作用。因此，在人工智能、大數(shù)據(jù)的干預(yù)下，人們的選擇很可能遠(yuǎn)不是自由狀態(tài)下的選擇，而是一種受控狀態(tài)下的選擇。羅伯特·達(dá)爾(以下簡(jiǎn)稱(chēng)達(dá)爾)在《論民主》中提出的民主過(guò)程的五條標(biāo)準(zhǔn)中就包括了“充分的知情權(quán)”和“對(duì)議程的最終控制”兩項(xiàng)。達(dá)爾認(rèn)為“如果違背了任何一個(gè)條件，成員將不再是政治上平等的”[21]。但是在技術(shù)干預(yù)的條件下，無(wú)論是充分的知情權(quán)還是對(duì)議程的最終控制都受到不同程度的影響。大數(shù)據(jù)選擇性的推送影響著人們的知情權(quán)，同時(shí)由于算法的影響，人們對(duì)最終議程的控制也只是停留在了名義上，技術(shù)的分析結(jié)論是最終的、更可靠的決策依據(jù)。

(三)技術(shù)供給催生對(duì)技術(shù)利維坦的監(jiān)管

在技術(shù)供給側(cè)，科技公司是重要主體。然而，“當(dāng)平臺(tái)以算法為掩護(hù)，擁有了制定游戲規(guī)則的權(quán)限時(shí)，權(quán)力的結(jié)構(gòu)必然發(fā)生變化。我們不應(yīng)該再把機(jī)器算法預(yù)設(shè)為中立的技術(shù)手段，應(yīng)對(duì)其保持警惕性?！盵22]算法不是中立的，算法反映了技術(shù)開(kāi)發(fā)人員、科技公司的偏好，這種狀況就使得對(duì)技術(shù)利維坦的監(jiān)管變?yōu)閷?duì)科技公司的監(jiān)管。

事實(shí)上，第四次工業(yè)革命后的世界是一個(gè)技術(shù)無(wú)處不在的世界，人們想要擁有絕對(duì)的自主性事實(shí)上是不可能的。因此，自主性的重點(diǎn)應(yīng)當(dāng)為人類(lèi)自主性，即用國(guó)家利維坦馴化技術(shù)利維坦的方式為人類(lèi)整體保有自主性。國(guó)家利維坦想要對(duì)技術(shù)利維坦進(jìn)行控制，就必然要用技術(shù)化的手段進(jìn)行監(jiān)管，科技公司就在參與技術(shù)監(jiān)管的意義上成為治理技術(shù)利維坦的重要手段。因此，國(guó)家的監(jiān)管目標(biāo)也就不再是虛無(wú)飄渺的技術(shù)，而將監(jiān)管的重點(diǎn)放在了科技公司。政府監(jiān)管科技公司，科技公司監(jiān)管技術(shù)，這樣就形成了一種可操作的模式，構(gòu)建了對(duì)技術(shù)的間接監(jiān)管。除了明確監(jiān)管對(duì)象以外，國(guó)家還需要提升自身的監(jiān)管能力。在人工智能時(shí)代尚未完全展現(xiàn)其“猙容”之前，創(chuàng)新社會(huì)治理機(jī)制、完善社會(huì)保障體系，這可能是平衡技術(shù)創(chuàng)新與社會(huì)風(fēng)險(xiǎn)的最佳途徑[23]。顯然，新技術(shù)不斷發(fā)展，使得國(guó)家不僅要明確科技公司的重要責(zé)任地位，而且監(jiān)管體制也要相應(yīng)進(jìn)步才能真正實(shí)現(xiàn)對(duì)技術(shù)的監(jiān)管。

四、控制和監(jiān)管技術(shù)利維坦的可能途徑

技術(shù)監(jiān)管涉及兩方面的問(wèn)題：其一是對(duì)技術(shù)本身進(jìn)行監(jiān)管，這表現(xiàn)在技術(shù)利維坦的需求側(cè)上，用技術(shù)監(jiān)管技術(shù)，技術(shù)監(jiān)管需要特定的監(jiān)管技術(shù)，而先進(jìn)的監(jiān)管技術(shù)往往需要依靠第三方科技公司，因此用技術(shù)監(jiān)管技術(shù)的同時(shí)，對(duì)科技公司的監(jiān)管也是應(yīng)有之義。其二是對(duì)科技公司的監(jiān)管?？萍脊驹诮?jīng)濟(jì)利益驅(qū)動(dòng)下可能做出背離公共利益的行為，科技公司借助算法黑箱的借口使得自身逃避追責(zé)。

(一)堅(jiān)持人本主義與對(duì)公民的賦權(quán)

人本主義和技術(shù)對(duì)人的賦能是為了保證公民的自主性?？茖W(xué)技術(shù)不是為了替代人，而是為了服務(wù)人，因此技術(shù)要在賦能的意義上推動(dòng)人的自主能力的發(fā)展。技術(shù)一方面要發(fā)揮其連接公眾的作用，為公眾參與提供便利途徑；另一方面法律層面要給公眾賦予特定權(quán)利，使得公眾參與對(duì)技術(shù)的治理和監(jiān)管常態(tài)化、制度化。

技術(shù)要在促進(jìn)公民參與社會(huì)治理的意義上增加使用，而非在自動(dòng)化決策的意義上徹底代替公眾進(jìn)行判斷?！靶闹桥c道德的能力，跟體力一樣，只有運(yùn)用才能得到增強(qiáng)……如果某項(xiàng)意見(jiàn)尚未為一個(gè)人的理性所信服就予以采納，那么他的理性非但不會(huì)因此有所增強(qiáng)，甚至還有可能被削弱?！盵24]由于人類(lèi)自身的認(rèn)知能力必須在不斷的鍛煉中才能得到增強(qiáng)，因此減少人類(lèi)自己的判斷就意味著人的判斷和認(rèn)知能力的下降。因此，當(dāng)涉及社會(huì)重大問(wèn)題時(shí)，要明確人工介入，而非完全依靠自動(dòng)化決策。

在對(duì)技術(shù)風(fēng)險(xiǎn)的治理中，民眾的監(jiān)督有著十分重要的意義。由于技術(shù)的廣泛性以及持續(xù)運(yùn)用于社會(huì)治理的過(guò)程，因此只有對(duì)民眾進(jìn)行賦權(quán)，讓民眾參與到監(jiān)管的過(guò)程中，才能實(shí)現(xiàn)對(duì)基礎(chǔ)的常態(tài)化監(jiān)管。“個(gè)人享有數(shù)據(jù)權(quán)利、增強(qiáng)數(shù)據(jù)獲取與分析的能力，既可增加與算法權(quán)力博弈的資本，也可對(duì)抗算法權(quán)力的侵害。”[25]公民有權(quán)利和義務(wù)自發(fā)監(jiān)督技術(shù)應(yīng)用的情況，并且及時(shí)向有關(guān)政府部門(mén)反映問(wèn)題，進(jìn)行公民層面的監(jiān)督。對(duì)民眾基本的數(shù)字權(quán)利的保障，有助于對(duì)技術(shù)進(jìn)行常態(tài)化監(jiān)管。

(二)引入第三方監(jiān)管實(shí)現(xiàn)合作治理

在技術(shù)自主性方面的監(jiān)管問(wèn)題上，用技術(shù)監(jiān)管技術(shù)是技術(shù)利維坦問(wèn)題的需求側(cè)的邏輯結(jié)論。從科學(xué)技術(shù)的需求側(cè)來(lái)說(shuō)，科技可能擴(kuò)大政治參與并促進(jìn)政治民主和社會(huì)治理，因此要支持科學(xué)技術(shù)的健康正常發(fā)展。但是，新技術(shù)發(fā)展可能導(dǎo)致算法操縱問(wèn)題。因此當(dāng)算法滲透和影響社會(huì)治理時(shí)，國(guó)家就要對(duì)技術(shù)發(fā)展的方向進(jìn)行干預(yù)，修正出了問(wèn)題的技術(shù)發(fā)展領(lǐng)域。這時(shí)候就面臨如何監(jiān)管技術(shù)的難題。由于智能化技術(shù)本身難以監(jiān)管，需要有先進(jìn)的監(jiān)管技術(shù)進(jìn)行監(jiān)管，因此就需要在監(jiān)管部門(mén)和第三方監(jiān)管兩個(gè)方面提升監(jiān)管能力。

國(guó)家監(jiān)管部門(mén)要提升自身的技術(shù)化水平，從而對(duì)技術(shù)進(jìn)行有效的監(jiān)管。由于我國(guó)已經(jīng)在數(shù)字政府層面有著大量的資金投入和技術(shù)建設(shè)，因此具有一定的基礎(chǔ)。接下來(lái)的重點(diǎn)在建立專(zhuān)門(mén)、專(zhuān)業(yè)的監(jiān)管部門(mén)，優(yōu)化技術(shù)手段，不斷提升自身處理復(fù)雜問(wèn)題的能力。第三方監(jiān)管在技術(shù)監(jiān)管上有著十分重要的意義。在合作治理的前提下，第三方科技公司或組織有著專(zhuān)業(yè)的團(tuán)隊(duì)和技術(shù)參與技術(shù)監(jiān)管，有助于提早發(fā)現(xiàn)技術(shù)或算法存在的問(wèn)題并與政府共同應(yīng)對(duì)技術(shù)監(jiān)管難題。在以上兩方面作用的合力之下，可以說(shuō)是“技術(shù)責(zé)任制度專(zhuān)任化”[26]，通過(guò)更高的專(zhuān)業(yè)水平來(lái)應(yīng)對(duì)可能的技術(shù)風(fēng)險(xiǎn)。

(三)技術(shù)審查與對(duì)科技公司的監(jiān)管

從供給側(cè)角度來(lái)說(shuō)，技術(shù)供給的主體是科技公司，因此對(duì)科技公司及其技術(shù)的算法進(jìn)行監(jiān)管具有重要意義。多數(shù)學(xué)者在分析技術(shù)利維坦問(wèn)題時(shí)，將抽象的而不是具體的技術(shù)作為控制的對(duì)象進(jìn)行討論，從而在一定程度上忽視了技術(shù)的載體，而監(jiān)管的主要對(duì)象應(yīng)為物質(zhì)載體。我們不是在真空中進(jìn)行討論，而是在物質(zhì)實(shí)體的基礎(chǔ)上討論，對(duì)技術(shù)利維坦的監(jiān)管就可以體現(xiàn)在政治管理的意義上，對(duì)相應(yīng)的企業(yè)主體進(jìn)行監(jiān)管以及對(duì)具體技術(shù)背后的算法意圖進(jìn)行監(jiān)管。

如果科技公司出現(xiàn)了明顯的壟斷化或者科技利益集團(tuán)具有過(guò)度的自主性而侵害了公民的權(quán)利，阻礙了社會(huì)治理，政府的監(jiān)管就要及時(shí)介入，因此，這種監(jiān)管是一種事后監(jiān)管。出現(xiàn)特定社會(huì)問(wèn)題后要通過(guò)對(duì)科技公司進(jìn)行追責(zé)來(lái)實(shí)現(xiàn)監(jiān)管，這種監(jiān)管方式有助于科技公司明白自身負(fù)有的監(jiān)管義務(wù)，有助于督促其進(jìn)行自查自糾，提早將技術(shù)風(fēng)險(xiǎn)與隱患處理掉，因此是一種不可或缺的監(jiān)管思路。

還有對(duì)自動(dòng)化決策的意圖進(jìn)行審查。由于技術(shù)的背后是算法，而算法的本質(zhì)是一套指令，只要是實(shí)現(xiàn)特定目標(biāo)的指令就必然具有特定的價(jià)值觀前提。因此，對(duì)算法進(jìn)行審查，科技公司和技術(shù)開(kāi)發(fā)者有義務(wù)將算法意圖進(jìn)行明確的解釋?zhuān)瑥亩鴮?duì)可能侵犯公共利益的算法進(jìn)行直接監(jiān)管和控制。因此，這種監(jiān)管方式是一種事前監(jiān)管，有助于在前提的意義上遏制技術(shù)風(fēng)險(xiǎn)，實(shí)現(xiàn)對(duì)技術(shù)的有效監(jiān)管。