何佳麗 姚 璐

數(shù)字技術(shù)發(fā)展速度之快、影響范圍之廣、威脅程度之深和未來前景之遠(yuǎn)要求我們對數(shù)字風(fēng)險予以關(guān)注。部分?jǐn)?shù)字風(fēng)險超出人類感知能力，一旦爆發(fā)將引發(fā)大規(guī)模破壞，其后的挽回行動可能收效甚微。全球數(shù)字治理需要我們轉(zhuǎn)換視角，以“風(fēng)險導(dǎo)向”進(jìn)行審視。目前相關(guān)研究存在三點不足：第一，既有關(guān)于風(fēng)險感知的文獻(xiàn)集中在突發(fā)事件中的公眾風(fēng)險感知，這暗含著一種假設(shè)，即公眾對風(fēng)險的感知呈現(xiàn)“非理性”特征，而國家能“理性”看待風(fēng)險，一定程度上忽視了由于數(shù)字風(fēng)險不確定性以及國家間關(guān)系所導(dǎo)致的“非理性”感知偏差。風(fēng)險感知偏差也反映了國家對利益的訴求，不同的數(shù)字發(fā)展階段和發(fā)展側(cè)重帶來了數(shù)字風(fēng)險感知的差異。第二，既有關(guān)于數(shù)字風(fēng)險的文獻(xiàn)集中在數(shù)字經(jīng)濟(jì)和數(shù)字金融領(lǐng)域的風(fēng)險研究，或是將數(shù)字問題與數(shù)字風(fēng)險混淆，沒有突出風(fēng)險的特征。第三，既有關(guān)于全球數(shù)字治理方案的文獻(xiàn)集中在加強數(shù)字合作和構(gòu)建制度等宏觀層面，忽視了科技本身在數(shù)字治理中的重要角色。現(xiàn)代化的自反性階段決定了數(shù)字技術(shù)的發(fā)展構(gòu)成了它自身需要面臨的風(fēng)險，它既是風(fēng)險的來源，又是評估風(fēng)險的媒介，同時也是解決風(fēng)險的手段。本文的研究問題是：數(shù)字風(fēng)險感知如何影響全球數(shù)字治理？基于數(shù)字風(fēng)險感知的全球數(shù)字治理路徑是怎樣的？文章將首先探討治理視角的轉(zhuǎn)換、數(shù)字風(fēng)險的類別與風(fēng)險感知的三種類型，進(jìn)而分析在數(shù)字風(fēng)險感知偏弱和偏強情況下對全球數(shù)字治理的阻礙作用，最后闡述如何正確審視數(shù)字風(fēng)險并進(jìn)行有效治理。

一、從“問題導(dǎo)向”到“風(fēng)險導(dǎo)向”

數(shù)字風(fēng)險正在成為全球數(shù)字治理中的重要課題，既包括技術(shù)本身的內(nèi)在風(fēng)險，也包括應(yīng)用過程中產(chǎn)生的伴生風(fēng)險?！帮L(fēng)險導(dǎo)向”的全球數(shù)字治理有助于從源頭遏制問題產(chǎn)生，其過程依賴于準(zhǔn)確的風(fēng)險感知。對待風(fēng)險的態(tài)度受到風(fēng)險感知的影響，風(fēng)險感知的準(zhǔn)確與否和強弱偏差將影響全球數(shù)字治理中的共識與合作。

（一）治理視角的轉(zhuǎn)換：從問題到風(fēng)險

一直以來，全球治理皆以“問題導(dǎo)向”為主，我們將全球治理視作解決和管理跨越國界的全球性問題的方式?！八^全球治理，指的是通過具有約束力的國際規(guī)制（Regimes）解決全球性的沖突、生態(tài)、人權(quán)、移民、毒品、走私、傳染病等問題，以維持正常的國際政治經(jīng)濟(jì)秩序?！?俞可平：《全球治理引論》，載于《馬克思主義與現(xiàn)實》2002年第1期。近年來也出現(xiàn)了從風(fēng)險社會視域探索全球治理不確定性的研究，從烏爾里?！へ惪说娘L(fēng)險社會理論出發(fā)，提出全球治理中的不確定性上升的現(xiàn)狀是人類社會現(xiàn)代化全球化進(jìn)程的必然結(jié)果2參見王亞琪：《風(fēng)險社會視域下全球治理的不確定性探析》，載于《東北亞論壇》2022年第3期。。數(shù)字技術(shù)基于其跨越國界的特性正在對全球各國產(chǎn)生影響，作為一項快速發(fā)展的新技術(shù)，我們難以依據(jù)過往經(jīng)驗對其進(jìn)行研判，更多的威脅潛藏于未來。因此，當(dāng)前數(shù)字技術(shù)發(fā)展帶來的諸多全球性風(fēng)險促使我們轉(zhuǎn)化視角來看待全球數(shù)字治理。

“風(fēng)險”與“問題”相比具有長期性、概率性和系統(tǒng)性的顯著特征。首先，風(fēng)險是尚未發(fā)生但可能發(fā)生的未來損失，是一種存在于未來的超越時間和空間束縛的情境。相較過去而言，現(xiàn)在的風(fēng)險具有更加明確的人為性和多樣性，可以在人們尚未感知到的地方傳播，也可以在漫長的世代中發(fā)揮作用。第二，風(fēng)險具有概率性。風(fēng)險是不可預(yù)見的，與特定事件無關(guān)，難以直接觀測，或是脫離了人的直接感知能力，這種情況導(dǎo)致風(fēng)險的后果變得巨大且難以計算。第三，風(fēng)險具有系統(tǒng)性。風(fēng)險是一種系統(tǒng)性的問題，人們難以預(yù)料到某種決策所帶來的后果。單一形式的風(fēng)險尚且難以預(yù)測，涉及全球多個環(huán)節(jié)的系統(tǒng)性風(fēng)險更加難以控制。現(xiàn)代化風(fēng)險的“回旋鏢”效應(yīng)打破了階級圖式，能夠影響包括風(fēng)險制造者在內(nèi)的全部主體。在人機結(jié)合的復(fù)雜系統(tǒng)中，某一分支環(huán)節(jié)受到損害，均可能引發(fā)全局性的系統(tǒng)危機。

全球數(shù)字治理需要通過“風(fēng)險導(dǎo)向”加以審視，這源自于數(shù)字技術(shù)帶來的不僅有確切的和亟待解決的“問題”，更多的是未知的和不確定的“風(fēng)險”。數(shù)字化時代的風(fēng)險相比工業(yè)化時代的風(fēng)險具有更強的全球化特征，在多個層次上爆發(fā)和蔓延，包括全球?qū)哟?、國家間層次、國內(nèi)和跨國安全層次、公司媒體層次和個人層次3參見薛曉源、劉興華：《數(shù)字全球化、數(shù)字風(fēng)險與全球數(shù)字治理》，載于《東北亞論壇》2022年第3期。。數(shù)字技術(shù)發(fā)展得越快，這種不確定性也將越強烈，并且更直接地嵌入和影響到整個社會系統(tǒng)、生產(chǎn)系統(tǒng)和政治系統(tǒng)等領(lǐng)域，經(jīng)由全球化轉(zhuǎn)變?yōu)槿蛐缘睦Ь?。從“問題導(dǎo)向”轉(zhuǎn)換為“風(fēng)險導(dǎo)向”的方式看待全球數(shù)字治理，有助于預(yù)測和控制人類活動的未來結(jié)果，有效防范技術(shù)負(fù)外部性風(fēng)險的爆發(fā)。

（二）數(shù)字風(fēng)險的類型：內(nèi)生與伴生

在探討全球數(shù)字治理前，我們必須準(zhǔn)確辨別存在哪些數(shù)字風(fēng)險，以及數(shù)字風(fēng)險有哪些類型，在此基礎(chǔ)上進(jìn)行有針對性的治理。數(shù)字技術(shù)帶來的風(fēng)險可以分為內(nèi)生和伴生兩個層面，內(nèi)生風(fēng)險源于技術(shù)研發(fā)過程中的不可見或非預(yù)期功能；伴生風(fēng)險源于利用數(shù)字技術(shù)進(jìn)行的惡意行為，以及可能帶來的社會風(fēng)險等。

一方面，數(shù)字技術(shù)的內(nèi)生風(fēng)險源于技術(shù)本身。人工智能系統(tǒng)經(jīng)歷遞歸的自我改進(jìn)，可能引發(fā)智力爆炸。在機器可以進(jìn)行深度學(xué)習(xí)的領(lǐng)域，它可能在未來變得比人類更聰明，其有意或無意地造成巨大傷害的可能性是無可置疑的。我們并不能夠清楚地知道某種科學(xué)技術(shù)的發(fā)展會帶來怎樣的后果，為解決某一問題而發(fā)展出的技術(shù)可能產(chǎn)生另一種潛在的副作用，這種副作用可能累積為新的風(fēng)險，且每一次減少風(fēng)險的嘗試都可能產(chǎn)生其他風(fēng)險，當(dāng)前的研究與治理將有助于防止此類風(fēng)險帶來的后果。另一方面，數(shù)字技術(shù)的伴生風(fēng)險可以分為兩類：第一類是數(shù)字系統(tǒng)的脆弱性可能誘發(fā)的危害性行動。當(dāng)前諸多全球活動在數(shù)字空間進(jìn)行，重要和敏感的信息也正在被轉(zhuǎn)移到數(shù)字空間。低進(jìn)入成本、匿名性和網(wǎng)絡(luò)空間透明度的缺乏導(dǎo)致了網(wǎng)絡(luò)犯罪風(fēng)險的提高。第二類是數(shù)字技術(shù)發(fā)展帶來的社會風(fēng)險。隨著數(shù)字技術(shù)縱向切入人類生活程度的加深，個人的生活軌跡、情感偏好等全部暴露在數(shù)字技術(shù)的視野和控制之下，逐漸淪為受技術(shù)控制的“奴隸”4參見陳龍：《積極應(yīng)對數(shù)字技術(shù)的社會風(fēng)險》，《中國社會科學(xué)報》，2022年01月04日。。同時，新技術(shù)的發(fā)展總是伴隨著就業(yè)結(jié)構(gòu)的變革，工業(yè)革命使機器代替了部分重復(fù)性作業(yè)的工人，而如今生成式人工智能的快速發(fā)展也引發(fā)了關(guān)于AI將取代哪些職業(yè)的激烈探討。新技術(shù)的出現(xiàn)可能使部分職業(yè)被取代，但同時也會催生出新的工作崗位。因此，數(shù)字技術(shù)發(fā)展是否會構(gòu)成就業(yè)結(jié)構(gòu)失調(diào)風(fēng)險，或是將對就業(yè)結(jié)構(gòu)構(gòu)成怎樣的影響還未可知，由此構(gòu)成了難以被量化的伴生風(fēng)險。

（三）風(fēng)險感知的評估：辨強弱與準(zhǔn)確

人類行為由感知驅(qū)動，而非事實驅(qū)動，因此風(fēng)險感知而非風(fēng)險本身決定了國家應(yīng)對風(fēng)險的策略。數(shù)字風(fēng)險具有全球性的特點，同時起源于多個國家并對全球產(chǎn)生影響，但風(fēng)險是否可以接受和容忍正在引發(fā)爭議。作為一種社會建構(gòu)，風(fēng)險感知總是產(chǎn)生于社會環(huán)境之中，不能完全獨立于我們的思想和文化。數(shù)字風(fēng)險的概率可以部分通過量化途徑獲取，但數(shù)字風(fēng)險感知或是在量化研究輔助下的風(fēng)險感知才能直接影響主體行為。在統(tǒng)計學(xué)上擁有足夠的事件類型經(jīng)驗時，我們可以通過收集和分析經(jīng)驗來確定其概率，但對于新的未經(jīng)測試的技術(shù)，由于缺乏事故統(tǒng)計數(shù)據(jù)，難以獲取特定類型事故的風(fēng)險概率。如果說數(shù)字技術(shù)的內(nèi)生風(fēng)險的概率難以計算，那么受到人類行為影響的數(shù)字技術(shù)伴生風(fēng)險更加難以預(yù)測。風(fēng)險的處理方式根本上由風(fēng)險感知決定，風(fēng)險感知可能存在“實際風(fēng)險”與“感知風(fēng)險”的偏差，難以確保對風(fēng)險的統(tǒng)一認(rèn)知。不同文化原型對風(fēng)險的態(tài)度不同，每種文化原型都發(fā)展出各自的一套事務(wù)優(yōu)先順序，不同國家在同一領(lǐng)域上存在不同風(fēng)險感知，而同一國家在不同風(fēng)險領(lǐng)域也可能存在不同的風(fēng)險偏向。

數(shù)字風(fēng)險感知可以分為三種類型，分別為“風(fēng)險感知偏強”“風(fēng)險感知偏弱”和“風(fēng)險感知準(zhǔn)確”。首先，風(fēng)險感知偏強意味著對風(fēng)險的感知高于實際風(fēng)險，可分為兩種類型，一種情況是風(fēng)險規(guī)避者過分強調(diào)數(shù)字技術(shù)帶來的負(fù)面影響，不愿意接受技術(shù)發(fā)展帶來的風(fēng)險，因此對繼續(xù)發(fā)展數(shù)字技術(shù)持反對態(tài)度。另一種情況是先發(fā)制人者將風(fēng)險感知轉(zhuǎn)化為威脅感知，采取過度防御性措施，進(jìn)而達(dá)到獲取競爭優(yōu)勢的目的。風(fēng)險感知偏強的后果是數(shù)字技術(shù)發(fā)展受阻，部分常規(guī)問題被上升到安全問題，治理難以推進(jìn)。其次，風(fēng)險感知偏弱意味著對風(fēng)險的感知低于實際風(fēng)險，可分為兩種類型，一是風(fēng)險忽視者沒能意識到某一事物可能帶來的風(fēng)險，二是風(fēng)險愛好者期待在風(fēng)險中獲得期望收入，更多關(guān)注的是收獲的回報而不是投入的風(fēng)險。風(fēng)險感知偏弱的后果是對風(fēng)險治理的不足。最后，風(fēng)險感知準(zhǔn)確意味著對風(fēng)險的感知與實際風(fēng)險較為平衡，在風(fēng)險較小的領(lǐng)域可以選擇適當(dāng)忽視長遠(yuǎn)的風(fēng)險以獲得快速發(fā)展，風(fēng)險較大的領(lǐng)域則成為治理的關(guān)鍵。這里的風(fēng)險大小依靠定量和定性相結(jié)合的兩種路徑進(jìn)行識別，既要運用定量的方式評估風(fēng)險概率，進(jìn)而實現(xiàn)以“技術(shù)”治理“技術(shù)”；又要運用定性的方式進(jìn)行風(fēng)險評估，即依靠專業(yè)機構(gòu)的專家以及決策者判斷風(fēng)險發(fā)生的可能性以及爆發(fā)后的影響。

圖1（筆者自制）

二、數(shù)字風(fēng)險感知偏強：風(fēng)險規(guī)避與先發(fā)制人

數(shù)字風(fēng)險感知偏強將導(dǎo)致兩種選擇：一種是風(fēng)險規(guī)避，即為避免遭遇風(fēng)險而拒絕引發(fā)風(fēng)險的行動；另一種是先發(fā)制人，即為避免受到風(fēng)險的負(fù)面影響而采取過度防御性的戰(zhàn)略，這兩種選擇都是對數(shù)字風(fēng)險過度感知的結(jié)果。

（一）風(fēng)險規(guī)避：排斥數(shù)字技術(shù)發(fā)展

風(fēng)險規(guī)避意味著放棄可能引發(fā)風(fēng)險的行為，數(shù)字技術(shù)的部分專家擔(dān)憂未來人工智能發(fā)展可能會對人類構(gòu)成生存風(fēng)險，正在呼吁監(jiān)管措施成熟前暫停相關(guān)技術(shù)的發(fā)展。此類擔(dān)憂源于在發(fā)布ChatGP T不到四個月后，OpenAI就發(fā)布了升級版的GPT-4，全球人工智能實驗室陷入了技術(shù)研發(fā)的競賽，用以開發(fā)和部署更強大的通用型人工智能，但是即使是它的創(chuàng)造者也無法可靠的加以控制。當(dāng)一些人工智能系統(tǒng)在部分任務(wù)上變得比人類更有競爭力的時候，我們必須對其可能引發(fā)的風(fēng)險進(jìn)行考量，但在國家間競爭背景下實現(xiàn)全球性的技術(shù)研發(fā)暫停幾乎是不可能完成的任務(wù)，即使部分政府聯(lián)合起來暫停技術(shù)創(chuàng)新，也會有人堅持對先進(jìn)技術(shù)的追求，而創(chuàng)新發(fā)展與推進(jìn)有效治理應(yīng)是并行不悖的兩條共進(jìn)道路。

此外，被數(shù)字技術(shù)邊緣化的國家因被置于圈層之外而排斥技術(shù)發(fā)展。從不發(fā)達(dá)國家和地區(qū)的視角來看，人工智能為其社會體系帶來嚴(yán)峻挑戰(zhàn)。通過控制軟件、硬件和網(wǎng)絡(luò)連接這三個數(shù)字生態(tài)系統(tǒng)的核心支柱，美國能夠獲得巨大的政治、經(jīng)濟(jì)和社會權(quán)力，而數(shù)字殖民主義卻使全球南方籠罩在陰影中1參見邁克爾·奎特、顧海燕：《數(shù)字殖民主義：美帝國與全球南方的新帝國主義》，載于《國外理論動態(tài)》2022年第3期。。面對強勢語言和高技術(shù)能力國家的通用大語言模型的大規(guī)模數(shù)據(jù)獲取，小國家難以進(jìn)行抵御，可能成為強算力國家的數(shù)據(jù)附庸。即使并非處于邊緣地位的國家，也在新興通用人工智能領(lǐng)域采取保守態(tài)度。隨著時間推移，指數(shù)級增長的算力將使人工智能成為一種聚集力量，強大的人工智能系統(tǒng)將由小部分利益相關(guān)者把控，系統(tǒng)的創(chuàng)建者能夠通過擴(kuò)散價值觀來加強權(quán)力，這些負(fù)面影響構(gòu)成了國家采取風(fēng)險規(guī)避的原因。

從長遠(yuǎn)的眼光來看，風(fēng)險規(guī)避并不可行，因噎廢食斷不可取。暫停技術(shù)發(fā)展并不能解決其帶來的挑戰(zhàn)，反而會阻礙創(chuàng)新。創(chuàng)新能力是發(fā)明、采用和適應(yīng)新技術(shù)的能力，高科技武器系統(tǒng)增強了軍事力量，新的平臺和標(biāo)準(zhǔn)提供了經(jīng)濟(jì)杠桿。一個國家力量的來源不是自然資源、財富或是掌握某一特定技術(shù)，而是其持續(xù)創(chuàng)新的能力，更好、更快的創(chuàng)新能力將決定大國競爭的結(jié)果。世界需要技術(shù)創(chuàng)新來克服當(dāng)前正在面臨的多種威脅，也需要數(shù)字技術(shù)帶來新的全球增長點。零風(fēng)險和絕對安全顯然不可行，活力、創(chuàng)新、自由與風(fēng)險通常相伴而生。

（二）先發(fā)制人：過度防御的數(shù)字戰(zhàn)略

風(fēng)險感知偏強帶來的另一種情況是采取先發(fā)制人的防御戰(zhàn)略，這類情況關(guān)注可能造成傷害的條件，傾向于有意識地打造更為寬裕的安全條件。2018年美國曾提出“向前防御”（defending-forward）概念，這是一種戰(zhàn)術(shù)層面存在進(jìn)攻性因素的防御戰(zhàn)略，政治計劃的重點從傷害（威脅）的直接原因轉(zhuǎn)向使未來傷害（風(fēng)險）成為可能的條件。此戰(zhàn)略的主要思想是“將交戰(zhàn)場域前移至對手場域，在風(fēng)險源頭攔截網(wǎng)絡(luò)威脅，并對潛在風(fēng)險點采取網(wǎng)絡(luò)攻擊行動，迫使對手不得不專注網(wǎng)絡(luò)防御而無暇對外網(wǎng)絡(luò)攻擊”2張心志：《拜登政府?dāng)?shù)字外交中的進(jìn)攻性網(wǎng)絡(luò)安全政策及影響》，載于《中國信息安全》2022年第10期。。這種通過主動發(fā)起小規(guī)模網(wǎng)絡(luò)進(jìn)攻行為進(jìn)而降低敵國網(wǎng)絡(luò)攻擊威脅的做法可能帶來不必要的沖突。

風(fēng)險感知偏強通常伴隨著將“風(fēng)險感知”上升為“威脅感知”，混淆風(fēng)險與威脅的情況出現(xiàn)。威脅是具體的，是關(guān)于能力、意圖和手段的，具有可定位和可追蹤的特點，可以根據(jù)實力對比進(jìn)行威脅來源的鎖定，而風(fēng)險是難以預(yù)見的，與特定事件無關(guān)，難以直接觀測。風(fēng)險的模糊性為決策者提供了寬泛的選擇范圍，風(fēng)險思維正在塑造著國家戰(zhàn)略。美國對中國的看法經(jīng)歷了從風(fēng)險認(rèn)知轉(zhuǎn)變?yōu)橥{認(rèn)知的過程，自從美國將中國定義為“修正主義大國”，中國便不再被視為美國主導(dǎo)體系中負(fù)責(zé)任的利益相關(guān)者，而是對美國利益和規(guī)范的嚴(yán)重威脅。這種轉(zhuǎn)變部分源于中國技術(shù)能力的快速提升，但這只符合了能力、意圖和手段中的其中一個條件，僅憑實力因素塑造威脅感知是一種將風(fēng)險與威脅混淆，塑造假想敵的做法。

在數(shù)字領(lǐng)域采取先發(fā)制人的防御戰(zhàn)略的不可取之處在于，這種行為將誘發(fā)安全困境。在充滿風(fēng)險的世界中，防御性、分散性和以危機為導(dǎo)向的做法是短視的，往往會導(dǎo)致惡性循環(huán)。每個國家在安全外延上拓寬的做法，并不亞于一種領(lǐng)土拓寬帶來的危機。以安全為借口，已經(jīng)成為一個國家合法使用武力的關(guān)鍵所在，它為國家進(jìn)行動員或者獲得特殊權(quán)力，以便為消除“存在性威脅”打開了通道3參見[英]巴瑞·布贊、[丹]奧利·維夫、[丹]迪·懷爾德：《新安全論》，朱寧譯，浙江人民出版社2003年版，第29-30頁。。隨著各個國家在界定安全問題上的拓展，普通的問題通過安全指涉上升為安全事務(wù)，就會造成國與國之間對認(rèn)知空間的爭奪，擠壓國家原本存在的彈性空間，造成觀念上的安全困境，最后從觀念層面上升到物質(zhì)層次，構(gòu)成真正的安全困境?！皯?zhàn)爭和大規(guī)模軍事行為作為‘風(fēng)險管理手段’合理化了新的軍備競賽，帶來更深的不安和更大的不確定性”4唐士其、龐珣：《綜合安全論：風(fēng)險的反向界定和政治邏輯》，載于《國際政治研究》2022年第6期。。因此，如果人們試圖用先發(fā)制人的手段阻止一種風(fēng)險變成現(xiàn)實，結(jié)果很可能是造成新的風(fēng)險，新產(chǎn)生的風(fēng)險將會上升到議程的首要位置，尤其是當(dāng)數(shù)字技術(shù)與安全問題掛鉤時，治理的推進(jìn)難度將大大增加。

三、數(shù)字風(fēng)險感知偏弱：風(fēng)險忽視與風(fēng)險愛好

數(shù)字風(fēng)險感知偏弱將導(dǎo)致兩種選擇：一種是風(fēng)險忽視，即沒有意識到風(fēng)險或低估了風(fēng)險；另一種是風(fēng)險愛好，即沒能認(rèn)識到風(fēng)險的嚴(yán)重后果，為獲取高收益而接受高風(fēng)險。這兩種選擇都是對數(shù)字風(fēng)險感知不足的結(jié)果，將使全球數(shù)字系統(tǒng)的脆弱性提高，治理效用不足。

（一）風(fēng)險忽視：數(shù)字風(fēng)險認(rèn)知局限

數(shù)字技術(shù)已經(jīng)蔓延到了生產(chǎn)生活的各個角落，其風(fēng)險也逐漸受到了廣泛的重視。忽視數(shù)字風(fēng)險的主要原因在于數(shù)字技術(shù)更新過快且難以把握，同時數(shù)字化能力不足，缺乏數(shù)字素養(yǎng)和風(fēng)險意識，低估了潛在的風(fēng)險且沒有采取適當(dāng)?shù)闹卫泶胧?。正如“科林格里奇困境”，一項技術(shù)的后果無法在技術(shù)的早期被預(yù)測，但如果控制得過晚，已經(jīng)成為整個經(jīng)濟(jì)和社會結(jié)構(gòu)的一部分，就可能走向失控，采取行動的成本過高1參見David Collingridge，The Social Control of Technology，F(xiàn)rance Pinter Publisher，1980，p.16.。對風(fēng)險的忽視往往會成為風(fēng)險肆意生長的土壤，應(yīng)對系統(tǒng)性的數(shù)字風(fēng)險需要具備高度敏感性和對突發(fā)問題保持警惕，這意味著我們要通過提升今天的能力以滿足明天的需求。對于非技術(shù)專業(yè)的人來說，理解和應(yīng)對復(fù)雜的數(shù)字風(fēng)險是一項巨大挑戰(zhàn)。數(shù)字環(huán)境中存在“無知無畏”現(xiàn)象，對數(shù)字環(huán)境接觸不多、對網(wǎng)絡(luò)使用頻率較低的群體反而對數(shù)字環(huán)境表現(xiàn)較高的信任和安全性。同時，由于心理學(xué)上的“烏比岡湖效應(yīng)”，人們可能高估自己的實際水平并低估潛在的風(fēng)險，或?qū)⑵浞旁谄渌聞?wù)的優(yōu)先級之后，認(rèn)為自己不會成為數(shù)字攻擊的目標(biāo)，或認(rèn)為后果并不嚴(yán)重，從而忽視了采取適當(dāng)防護(hù)措施的時機，最終陷入被動的局面。在國際層面，盡管大多數(shù)國家政府都對數(shù)字風(fēng)險保持警惕，但發(fā)展水平存在參差，缺乏風(fēng)險度量指標(biāo)會使國家更難評估當(dāng)前風(fēng)險。

在數(shù)字全球化的背景下，風(fēng)險忽視導(dǎo)致的治理失靈所帶來的負(fù)面影響是連鎖性的，一個環(huán)節(jié)出現(xiàn)問題將導(dǎo)致整體風(fēng)險的爆發(fā)。比較優(yōu)勢激勵不同組織依賴相同的第三方硬件、軟件或服務(wù)提供商，當(dāng)共享服務(wù)或常用技術(shù)被網(wǎng)絡(luò)攻擊者破壞時，這種風(fēng)險將會集中爆發(fā)。在全球供應(yīng)鏈網(wǎng)絡(luò)攻擊問題上，由于供應(yīng)鏈環(huán)節(jié)的強互連性，攻擊可能對供應(yīng)鏈的連續(xù)性產(chǎn)生嚴(yán)重后果。供應(yīng)鏈可以通過其不同的鏈路受到攻擊，攻擊的影響因目標(biāo)鏈路而異。大公司對信息系統(tǒng)安全進(jìn)行大量投資，但部分小企業(yè)及其供應(yīng)鏈較為脆弱，有可能缺乏管理內(nèi)部風(fēng)險所需的網(wǎng)絡(luò)安全專家，沒有能力應(yīng)對突發(fā)事件。大型企業(yè)通常在其供應(yīng)鏈中有中小型組織，當(dāng)這些關(guān)鍵合作伙伴因技術(shù)原因而面對風(fēng)險無法采取行動時，整個生態(tài)系統(tǒng)都會受到負(fù)面影響。確保集體對尚不存在的未來后果采取當(dāng)下行動是一項艱難的任務(wù)，但數(shù)字風(fēng)險要求我們必須對未來進(jìn)行預(yù)計，進(jìn)而決定眼前的治理行動。

（二）風(fēng)險愛好：追求數(shù)字優(yōu)勢的高收益

風(fēng)險愛好意味著未能正確認(rèn)識到風(fēng)險帶來的嚴(yán)重后果，并選擇為了獲取高收益而接受高風(fēng)險，即使它可能帶來毀滅性的后果。在這一過程中，獲取競爭優(yōu)勢的邏輯戰(zhàn)勝了風(fēng)險感知的邏輯，越是緊迫的行動越能成為滋生風(fēng)險的土壤。大國競爭使得全球合作更加困難，地緣政治的緊張局勢可能迫使各國接受越來越大的風(fēng)險，如果他們認(rèn)為這是一場值得為促進(jìn)其安全利益而進(jìn)行的賭博2參見Macaskill, William，"The Beginning of History：Surviving the Era of Catastrophic Risk"，F(xiàn)oreign Affairs，Vol.101，No.5，2022，p.14.。轉(zhuǎn)移風(fēng)險曾是部分發(fā)達(dá)國家的一項普遍選擇，而數(shù)字領(lǐng)域的風(fēng)險難以被避免、局限或是轉(zhuǎn)讓，施害者和受害者可能面臨相同境地。選擇接受高風(fēng)險的重要原因是為了獲得高收益，擁有最智能的人工智能系統(tǒng)的國家將具有重要戰(zhàn)略優(yōu)勢。

高強度的數(shù)字風(fēng)險往往對規(guī)則的需求更加迫切，也會引發(fā)更加激烈的爭論。為了獲取軍事領(lǐng)域優(yōu)勢而加快自主武器系統(tǒng)研發(fā)將帶來極大的風(fēng)險。致命性自主武器的現(xiàn)實應(yīng)用很難保證不會沖擊交戰(zhàn)規(guī)則，因而應(yīng)該盡早達(dá)成一項有約束力的國際公約以管制自主武器的研發(fā)、部署和應(yīng)用。人類控制自主武器方面，以美國為代表的發(fā)達(dá)國家主張建立非約束性原則。美國等發(fā)達(dá)國家組成的聯(lián)盟主張對致命性自主武器建立一個相對寬松的、自愿性的國際規(guī)制清單，人權(quán)觀察組織、紅十字國際委員會等國際組織則加入“禁止殺手機器人”運動。隨著對致命性自主武器的認(rèn)知程度逐漸提高，技術(shù)弱國與公民社會組織更加堅定地反對在國際談判場合討論軍事無人化的優(yōu)勢。人類正站在未來戰(zhàn)爭時代的邊緣，自主武器系統(tǒng)將塑造未來戰(zhàn)爭的新形態(tài)。

風(fēng)險愛好的不可取之處在于，技術(shù)進(jìn)步的根本是為全人類謀福祉，當(dāng)技術(shù)應(yīng)用的目的背離了這一目標(biāo)時，人類的生存將陷入威脅中。自主武器系統(tǒng)將改變未來的作戰(zhàn)模式，突破傳統(tǒng)戰(zhàn)場的限制，可能引發(fā)大規(guī)模的國際局勢動蕩，對人的生命權(quán)構(gòu)成威脅。人工智能自主武器與其他技術(shù)的區(qū)別在于，大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)等的應(yīng)用目的是增強連接性并大幅提高整體經(jīng)濟(jì)效率，其帶來的風(fēng)險屬于技術(shù)發(fā)展的副作用，而人工智能自主武器一旦投入使用將成為“戰(zhàn)術(shù)核武器”，將使全球穩(wěn)定受到根本性的威脅。全球治理是在不同行為體之間開展的一種協(xié)同和合作，帶有顯著的協(xié)商和協(xié)作的特性，全球合作是全球治理的表現(xiàn)形式，為競爭目的而追求高風(fēng)險和高收益的行為將破壞全球行為體的努力，損害全球治理的效果。

四、基于準(zhǔn)確風(fēng)險感知的治理路徑

當(dāng)有關(guān)數(shù)字技術(shù)的爭論越來越激烈的情況頻繁出現(xiàn)，也就昭示著全球數(shù)字治理關(guān)鍵時刻的到來。準(zhǔn)確感知風(fēng)險首先要摒棄零和思維與極端思維，運用灰度思維提高對多變的數(shù)字風(fēng)險的適應(yīng)性，堅持底線思維以做好充分的準(zhǔn)備和爭取最好的結(jié)果，通過概率演算和直覺判斷兩種路徑實現(xiàn)有效數(shù)字治理。

（一）正確審視數(shù)字風(fēng)險：動態(tài)中找尋規(guī)律

風(fēng)險是取決于當(dāng)前人類活動的一種動態(tài)的概念，簡單風(fēng)險的原因和后果較為明顯，不確定性低，容易通過統(tǒng)計數(shù)據(jù)進(jìn)行預(yù)測。在風(fēng)險分析中如果有足夠數(shù)量的數(shù)據(jù)則可以用于客觀分析模型，但大部分風(fēng)險都是系統(tǒng)性風(fēng)險，意味著風(fēng)險已然潛入社會背景中，需要更為全面的評估和管理方法1參見Renn O，Klinke A，Asselt M V，"Coping with Complexity，Uncertainty and Ambiguity in Risk Governance：A Synthesis"，Ambio，Vol.40，No.2，2011，p.234.。因此，要在探索變化的過程中繪制數(shù)字風(fēng)險之間的相互聯(lián)系，在明確目標(biāo)的基礎(chǔ)上對數(shù)字風(fēng)險進(jìn)行有效評估和分類處理。

正確審視數(shù)字風(fēng)險要求我們秉持灰度思維和底線思維。一方面，灰度思維意味著保持開放的態(tài)度面對數(shù)字風(fēng)險。風(fēng)險不僅意味著“壞事發(fā)生的概率”，有時也蘊藏著機遇，規(guī)避了風(fēng)險的同時可能也意味著規(guī)避了機遇的到來。數(shù)字風(fēng)險治理的目的在于降低風(fēng)險至可接受的水平，而不是完全消除風(fēng)險。因此，最關(guān)鍵的是在可接受和合理的程度上識別和減輕風(fēng)險損害，根據(jù)可接受的風(fēng)險水平以及當(dāng)前風(fēng)險管理技術(shù)和控制措施，合理量化系統(tǒng)所構(gòu)成的風(fēng)險的性質(zhì)和程度。另一方面，底線思維意味著守住最低目標(biāo)的前提下爭取最大期望值。黨的二十大報告指出：“我們必須增強憂患意識，堅持底線思維，做到居安思危、未雨綢繆，準(zhǔn)備經(jīng)受風(fēng)高浪急甚至驚濤駭浪的重大考驗?！?習(xí)近平：《高舉中國特色社會主義偉大旗幟 為全面建設(shè)社會主義現(xiàn)代化國家而團(tuán)結(jié)奮斗——在中國共產(chǎn)黨第二十次全國代表大會上的報告》，人民出版社2022年版，第26頁。威脅大多源自外部的不安全感，而風(fēng)險是個人自身行為體的產(chǎn)物，每一次創(chuàng)新也帶來了新的風(fēng)險、威脅和潛在危害。在技術(shù)發(fā)展的影響和人為的干預(yù)下，脫離于意圖的風(fēng)險越來越多。底線思維限定了數(shù)字技術(shù)發(fā)展的邊界，避免滑向威脅人類生存的深淵，同時又不設(shè)上限而實現(xiàn)有為有守。

有效的治理路徑不僅需要秉持正確的思維方式，同時也需要配合高效的實踐方案，即技術(shù)方法和經(jīng)驗方法兩種路徑的有機結(jié)合。技術(shù)方法衡量的是風(fēng)險對人類及其環(huán)境產(chǎn)生負(fù)面影響的事件的平均預(yù)期概率，在這種情況下風(fēng)險的大小可以通過對負(fù)面影響的概率權(quán)重來確定，為總體風(fēng)險分析提供了基礎(chǔ)3參見Vasvári T，"Risk，Risk Perception, Risk Management-a Review of the Literature"，Public Finance Quarterly，Vol.60，No.1，2015，p.31.。在預(yù)測概率的基礎(chǔ)上進(jìn)行可視化風(fēng)險管理，劃定哪些是要降低的風(fēng)險，哪些是可以接受的風(fēng)險。但是，技術(shù)方法通常缺乏對風(fēng)險的整體審視，我們對于具有嚴(yán)重影響的低風(fēng)險事件和具有較低影響的高風(fēng)險事件的態(tài)度從來都是不同的。經(jīng)驗方法依靠的是過往的經(jīng)驗、對風(fēng)險的預(yù)判和對風(fēng)險后果的評估，其優(yōu)勢在于可對風(fēng)險進(jìn)行較為全面的理解，但缺陷在于科學(xué)性不足，且可能受到?jīng)Q策者個人風(fēng)險偏好的影響。在進(jìn)行定性分析時應(yīng)注意主觀因素的影響，對結(jié)果持懷疑態(tài)度，根據(jù)專業(yè)論據(jù)來估計可能發(fā)生的風(fēng)險概率。兩種評估風(fēng)險路徑互為補充，將二者有機結(jié)合有利于正確審視風(fēng)險和治理風(fēng)險。

（二）打造數(shù)字免疫系統(tǒng)：以技術(shù)治理技術(shù)

數(shù)字治理這一概念通常有兩種理解方式，一是對數(shù)字技術(shù)發(fā)展帶來的問題進(jìn)行治理，二是利用數(shù)字技術(shù)為治理賦能。此外，還存在第三種理解方式，即利用數(shù)字技術(shù)來治理數(shù)字技術(shù)發(fā)展帶來的問題或風(fēng)險。數(shù)字技術(shù)不僅能夠通過數(shù)據(jù)和算法推進(jìn)智慧城市建設(shè)、增強政府治理效率和提高國家治理能力，也能夠?qū)崿F(xiàn)自我規(guī)制。機器學(xué)習(xí)依賴于訓(xùn)練數(shù)據(jù)，但時常存在數(shù)據(jù)選擇偏差或數(shù)據(jù)質(zhì)量低下等情況，技術(shù)本身也存在不可解釋和魯棒性差等缺陷。在治理這些問題的過程中，數(shù)字技術(shù)既是“矛”，也是“盾”。

全球數(shù)字治理規(guī)則正在爭議中構(gòu)建，大國的技術(shù)競爭及全球發(fā)展水平的差異延緩了規(guī)則成型的進(jìn)程，但在形成完善的治理規(guī)則前，我們可以利用已經(jīng)擁有的工具——數(shù)字技術(shù)本身。部分風(fēng)險的治理依靠數(shù)字技術(shù)本身的“盾”，而這一角色需要由具備專業(yè)知識的機構(gòu)和科技公司擔(dān)任。企業(yè)作為人工智能系統(tǒng)的設(shè)計者和服務(wù)提供者，最了解其中的技術(shù)細(xì)節(jié)和可能蘊含的風(fēng)險，需要主動承擔(dān)相關(guān)責(zé)任、充分評估潛在風(fēng)險并做出相應(yīng)的防范?？萍及l(fā)展的道路上總是要不斷面臨新的風(fēng)險，尤其在數(shù)字技術(shù)的內(nèi)生風(fēng)險領(lǐng)域，僅靠國家內(nèi)部或國際組織的規(guī)則難以有效治理。對于數(shù)字技術(shù)的內(nèi)生風(fēng)險，問責(zé)機制和防范體系是必要的，但從技術(shù)根源層面降低風(fēng)險才是一種“釜底抽薪”的處理方式。以數(shù)字技術(shù)為“盾”進(jìn)行的風(fēng)險治理的關(guān)鍵在于促進(jìn)風(fēng)險的可視化，通過對新聞、社交媒體和報告等進(jìn)行文本數(shù)據(jù)分析，重點關(guān)注數(shù)據(jù)流轉(zhuǎn)中的動態(tài)安全風(fēng)險。同時，圍繞算法公平性問題，通過預(yù)處理、過程中處理和后處理公平性技術(shù)保障技術(shù)運行全過程的公平性，減少數(shù)據(jù)或算法中的固有和后天偏見。最終，通過定量分析輸出風(fēng)險概率的數(shù)值，通過定性分析闡釋風(fēng)險的嚴(yán)重程度及后果可能性，二者綜合得出風(fēng)險的評估結(jié)果。

（三）全球數(shù)字治理機構(gòu)：以機構(gòu)協(xié)調(diào)風(fēng)險

治理數(shù)字風(fēng)險不僅是一種技術(shù)工作，同時涉及到政治、經(jīng)濟(jì)、社會和文化等跨學(xué)科多領(lǐng)域?？茖W(xué)的專業(yè)化分工難以應(yīng)對系統(tǒng)性的全球數(shù)字風(fēng)險，數(shù)字風(fēng)險本質(zhì)上復(fù)雜且多面，應(yīng)對和預(yù)防重大事件的能力往往取決于綜合和協(xié)作解決方案，沒有任何一個國家、機構(gòu)或組織有能力單獨應(yīng)對數(shù)字風(fēng)險。世界需要一個專業(yè)的全球治理機構(gòu)，這一機構(gòu)應(yīng)該具有全球性、中立性、非營利的特質(zhì)，由政府、大型技術(shù)公司、非營利組織、學(xué)術(shù)界提供指導(dǎo)，旨在合作找尋治理和技術(shù)解決方案，以促進(jìn)安全和有保障的數(shù)字技術(shù)發(fā)展。該機構(gòu)應(yīng)發(fā)揮兩方面的作用：一是為數(shù)字風(fēng)險建立科學(xué)的評估框架，二是協(xié)調(diào)不同國家的數(shù)字風(fēng)險應(yīng)對傾向。

一方面，全球數(shù)字治理機構(gòu)首先要評估數(shù)字風(fēng)險后果、統(tǒng)合數(shù)字風(fēng)險類別，準(zhǔn)確判斷風(fēng)險的強弱屬性、時間緊迫性以及后果的嚴(yán)重性，以此構(gòu)建有約束力的行業(yè)標(biāo)準(zhǔn)。在對人類生存安全有著較高風(fēng)險的技術(shù)領(lǐng)域，采取更為直接和有效的治理手段。要求研發(fā)主體加強對人工智能研發(fā)活動的自我約束，避免使用可能產(chǎn)生嚴(yán)重消極后果的不成熟技術(shù)，確保人工智能始終處于人類控制之下1參見《中國關(guān)于全球數(shù)字治理有關(guān)問題的立場》，中華人民共和國外交部官網(wǎng)(https://www.mfa.gov.cn/web/wjb_673085/zzjg_673183/jks_674633/zclc_674645/qt_674659/202305/t20230525_11083602.shtml.)。另一方面，全球數(shù)字治理機構(gòu)的重要任務(wù)是協(xié)調(diào)各國的數(shù)字風(fēng)險傾向，推進(jìn)全球數(shù)字治理共識的達(dá)成和規(guī)則的制定。世界各國正在制定和實施法律、監(jiān)管和政策框架以及基礎(chǔ)設(shè)施方面取得重大進(jìn)展。在一個日益全球化和密切相互關(guān)聯(lián)的世界里，應(yīng)對數(shù)字風(fēng)險需要無國界和全球性的應(yīng)對措施，由政府、執(zhí)法部門和全球科技行業(yè)共同構(gòu)成治理主體。

全球數(shù)字治理機構(gòu)的設(shè)置和規(guī)則的制定必然需要一段時間。社會需要時間來學(xué)習(xí)如何為新技術(shù)制定規(guī)則，就如同美國向日本投擲核彈二十年后，才達(dá)成了《部分禁止核試驗條約》和《核不擴(kuò)散條約》2參見Nye，Joseph S，Jr，"The End of Cyber-Anarchy?"Foreign Affairs，Vol.101，No.1，2022，p.33.。每個技術(shù)炒作周期都會伴隨著制定新的法律法規(guī)和機制的呼吁聲，但如果每當(dāng)出現(xiàn)新的技術(shù)便制定相應(yīng)的法規(guī)，那么理論上將消耗大量的資源。正確的方式是在全球數(shù)字治理機構(gòu)的統(tǒng)領(lǐng)下以新的方式最大程度地發(fā)揮現(xiàn)有規(guī)則的效用，并在此基礎(chǔ)上根據(jù)具體情況加以完善，最終構(gòu)建統(tǒng)一框架下的治理機制。隨著數(shù)字技術(shù)的進(jìn)步和知識的增長，未來將越來越難以預(yù)測，正是無數(shù)不確定的事件構(gòu)成了紛繁復(fù)雜的世界圖景。未來對全球數(shù)字風(fēng)險的治理需要更多的跨學(xué)科研究，以及各相關(guān)領(lǐng)域研究人員的共同努力。