段偉文

(中國社會科學(xué)院哲學(xué)研究所，北京 100732，duanweiwencass@163.com)

什么是科技倫理治理？“科技創(chuàng)新，倫理先行”又意味著什么？雖然現(xiàn)在并沒有關(guān)于什么是科技倫理治理的定義，但現(xiàn)在它既然作為一個從國際到國家層面倡導(dǎo)的多主體協(xié)同體系，就必然會在實踐中構(gòu)建出一個決定相關(guān)認(rèn)知與行動的框架，并且對科技倫理本身作出新的規(guī)定。從現(xiàn)象上來看，不論是2017年人工智能熱之后的人工智能倫理熱和數(shù)字治理，還是2018年重大科技倫理事件后的國家科技倫理治理體系建設(shè)，雖然以往來自科技倫理和應(yīng)用倫理的傳統(tǒng)的科技倫理研究者在其中發(fā)揮了一定的作用，但作為在此過程中廣泛接觸到政、產(chǎn)、學(xué)、研、媒等方面的親歷者和參與者，不得不指出的是，參與科技倫理治理研究和實踐的主體更多的是科技、管理、法律等方面的人士。這實際上表明，科技倫理治理與其說是將科技納入倫理框架，毋寧說是將科技倫理納入科技的框架。因此，從科技倫理治理的角度來講，意味著在科技和倫理兩個方面的創(chuàng)新，而且往往是在實踐層面尋找中間方案的過程，這是我們對此應(yīng)有的基本認(rèn)知?；谶@一認(rèn)知，科技倫理研究者應(yīng)從國際和國內(nèi)科技倫理治理的實踐出發(fā)，在理解和思考其中的創(chuàng)新文化、價值取向和運作機制的基礎(chǔ)上，探尋面向現(xiàn)實的科技倫理治理之道。

1 作為研究與創(chuàng)新“紅綠燈”的科技倫理原則

科技倫理治理的一個重要內(nèi)容是明確科技倫理原則。其實倫理原則在理論和實踐上比較復(fù)雜，包括道德哲學(xué)前提、倫理論證方式、倫理原則排序以及倫理原則本身的局限性等。但近幾年來，出現(xiàn)了大量的科技倫理原則，特別是在人工智能倫理領(lǐng)域，像出現(xiàn)了倫理規(guī)范、準(zhǔn)則、標(biāo)準(zhǔn)的“寒武紀(jì)爆發(fā)”，來自科技、法律、公管、社會學(xué)以及科技倫理與應(yīng)用倫理等各個領(lǐng)域的人參與其中。因為來自不同領(lǐng)域，原則的制定本身就不再是一個學(xué)理的討論，最后得到的倫理原則及其表述是不同領(lǐng)域參與者都能接受的內(nèi)容，所以得出的各種倫理原則大同小異，如造福人類、尊重生命權(quán)利、維護(hù)公平公正、確保安全可控等，基本上反映的是人類共同價值再加上頒布原則的主體的核心倫理訴求。然而，現(xiàn)在國內(nèi)的科技活動主體對倫理原則的理解有兩大誤區(qū)：一是只是用它來顯現(xiàn)和表達(dá)對科技倫理問題的重視；二是只是將它視為一套禁止性規(guī)范，對其多少有些敬而遠(yuǎn)之。但實際上，倫理原則在英美主導(dǎo)的當(dāng)代科技創(chuàng)新文化中可能更多地意味著游戲規(guī)則，其主要內(nèi)涵是說如果滿足了什么條件或者遵守一些原則，那就是可行的。比如，2019年10月31日，美國國防創(chuàng)新委員會推出《人工智能原則：國防部人工智能應(yīng)用倫理的若干建議》，這是對軍事人工智能應(yīng)用所導(dǎo)致倫理問題的首次回應(yīng)。從這個案例來看，創(chuàng)新主體如果接受了這種游戲規(guī)則意識，就可能傾向于認(rèn)為，一旦在遵循了某些特定的倫理原則之后，就是可行的。

因此，很多具體的科技倫理的準(zhǔn)則、規(guī)范和指南實際上是研究和創(chuàng)新的“紅綠燈”，但不同文化對此有不同理解。在東方文化里面主要關(guān)注的可能是“紅燈”及由其帶來的“罪與罰”，往往在犯規(guī)和不犯規(guī)之間抗?fàn)?。歐洲大陸文化因其歷史教訓(xùn)而強調(diào)堅定地維護(hù)人類尊嚴(yán)和人的基本權(quán)利，據(jù)此歐洲十分重視新興與顛覆性科技的倫理風(fēng)險評估與預(yù)見，出臺了很多比較剛性的具有法律規(guī)范性的條例，并且希望通過施行道德敏感設(shè)計、倡導(dǎo)負(fù)責(zé)任的研究和創(chuàng)新使科技合乎倫理。英美—盎格魯撒克遜文化則更多地受到殖民冒險和商業(yè)創(chuàng)新的影響，對創(chuàng)新的態(tài)度是風(fēng)險偏好型的，在重視消費者權(quán)益和兒童權(quán)利的底線之上，對科技的治理目的更多的是鼓勵創(chuàng)新，往往是為科技前沿的探索和創(chuàng)新設(shè)定可行性條件。針對存在科技倫理爭議的前沿領(lǐng)域，英國的納菲爾德基金會等智庫和美國國家科學(xué)院等機構(gòu)一直在開展各種預(yù)見性的研究，積極地制定具體領(lǐng)域的倫理指引。我國的科技創(chuàng)新與治理文化主要受到東方文化和英美文化的影響，而現(xiàn)實層面的實現(xiàn)科技強國目標(biāo)、維護(hù)國家形象以及新的地緣政治之爭等重要因素是理解其科技倫理治理特色的關(guān)鍵線索。從國家科技倫理委員會的建立到《關(guān)于加強科技倫理治理的意見》的出臺，既是重大科技倫理事件推動的結(jié)果，更是高水平科技自立自強與勇闖科技“無人區(qū)”的態(tài)勢下對立于道德制高點和有效管控科技倫理風(fēng)險的國家需求所致。

2 科技倫理治理旨在促進(jìn)研究和創(chuàng)新

不論是從學(xué)習(xí)者還是競爭者的維度，我們應(yīng)該認(rèn)真體會英美科技創(chuàng)新與倫理治理的相關(guān)論述中的價值偏好、內(nèi)在邏輯和實踐智慧。例如，2017年美國國家科學(xué)院、工程院和醫(yī)學(xué)院發(fā)布的《人類基因組編輯：科學(xué)·倫理·管理》中指出，進(jìn)行生殖系基因組編輯至少需要滿足以下幾項條件：①缺乏合適的替代技術(shù)；②將編輯嚴(yán)格限制在預(yù)防嚴(yán)重疾病、會導(dǎo)致嚴(yán)重疾病的基因且被編輯的版本常見于人群且沒有嚴(yán)重的不良反應(yīng)的范圍內(nèi)；③有良好的臨床數(shù)據(jù)表明編輯的安全性與效用；④穩(wěn)健的監(jiān)管并確保受試者安全；⑤有長期的跨代際健康監(jiān)控措施；⑥臨床研究實施過程透明且保護(hù)受試者隱私；⑦避免預(yù)防疾病之外的用途。也就是說，只要滿足以上條件，就是可以做的。

由此不難看到，科技倫理治理的論述邏輯與道德哲學(xué)和倫理學(xué)研究中的論證或論述方式是不一樣的。以其中第二條“將編輯嚴(yán)格限制在預(yù)防嚴(yán)重疾病、會導(dǎo)致嚴(yán)重疾病的基因且被編輯的版本常見于人群且沒有嚴(yán)重的不良反應(yīng)的范圍內(nèi)”為例，這句話本身就是在進(jìn)行倫理論證。科技要造福人類，要帶來社會福祉，首先要預(yù)防嚴(yán)重疾病，那么所預(yù)防的這個嚴(yán)重的疾病就是常見的。換句話說，這里面就有一個公共衛(wèi)生資源分配的公正性問題。所以我們一定要解讀其中的價值預(yù)設(shè)和倫理內(nèi)涵，看到其辯護(hù)的理由，而不是簡單地當(dāng)作原則去套用。

其實，這些文件的制定，并非原則性的“大話”“好詞”的羅列，而是一個策略性的創(chuàng)造過程。其中，尤為重要的策略是，通過設(shè)定研究和監(jiān)管上的條件，為其所支持的研究和創(chuàng)新創(chuàng)造模糊的可行性空間——當(dāng)然其背后的動力機制是經(jīng)濟(jì)社會發(fā)展、全球問題應(yīng)對，以及國家競爭和區(qū)域競爭對科技領(lǐng)先的剛性需求。例如，“有良好的臨床數(shù)據(jù)表明編輯的安全性與效用”實際上是建議在這個領(lǐng)域可以進(jìn)行探索性研究，至于怎么探索，可能是動物實驗或其他替代性實驗，也可能是游走在現(xiàn)有規(guī)則的邊緣，甚至進(jìn)入有爭議的無人區(qū)。因此，前沿領(lǐng)域的科技倫理治理的實踐智慧在于科技可能性與倫理可行性的模糊空間的創(chuàng)造。如第四條提到“穩(wěn)健的監(jiān)管并確保受試者安全”，什么是穩(wěn)健的監(jiān)管？怎樣確保受試者的安全？第五條“有長期的跨代際健康監(jiān)控措施”，就是說生殖系基因編輯固然會影響到后代，但可以通過某種跨代際健康監(jiān)控措施防范可能的風(fēng)險。對這些措施的解讀和評估不僅不是絕對的，還為研究和創(chuàng)新者提供了證明其創(chuàng)新在倫理上可接受性的路徑。

換言之，這些建議和指南中的原則與條件的提出實際上是“親技術(shù)的”，其目的是要促進(jìn)而不是阻止創(chuàng)新，它們是在給科學(xué)家具體的和正面的暗示，即在重視基本的生命安全紅線和倫理底線的前提下，倫理上可接受的科學(xué)是一片大可探索創(chuàng)新的天地。又如2018年6月，英國納菲爾德生命倫理協(xié)會(Nuffield Council on Bioethics，NCB)發(fā)布的報告《基因組編輯與人類生殖：社會與倫理議題》指出，盡管當(dāng)前的條件并不滿足倫理可接受性指出，但在特定情況下人類生殖系基因組編輯在倫理上是可接受的。為此，報告列出了需要滿足的5個條件。與前述美國“三院”的文件類似，其中的第三條指出“在技術(shù)被用于臨床之前，需要有充分的循證醫(yī)學(xué)證據(jù)”，那什么樣的循證醫(yī)學(xué)證據(jù)叫作充分的？由誰來論證？顯然，這是在提示研究和創(chuàng)新者可以從這個方面的自我評估與管理來實現(xiàn)與監(jiān)管的對接。

3 “親技術(shù)”的ELSI研究與科技倫理“軟著陸”機制

納菲爾德的報告對社會與倫理議題的強調(diào)實際上表明科技倫理治理不僅涉及倫理，且涉及安全、政治、法律、社會等方面的問題；而我們對其加以解讀的時候不應(yīng)該停留在對相關(guān)問題的認(rèn)知上，還要看到其中所建議的解決問題的方案。例如，該報告第一條是 CRISPR Cas 9系統(tǒng)在未來被證明是安全的；第二條指出“要通過持續(xù)不斷的公共教育使公眾理解生殖系基因編輯并達(dá)到對科學(xué)的信任，避免出現(xiàn)‘優(yōu)生學(xué)’”；第四條和第五條是“研究應(yīng)該有足夠的社會效益，應(yīng)表明基因編輯能夠服務(wù)于患者及其家庭的福祉”“在開展基因編輯之前，該技術(shù)應(yīng)該已經(jīng)經(jīng)過社會公開討論和征求意見”。這里面不僅有倫理正確，更有生命安全、政治正確和社會接受等方面的考量，這些問題顯然不可能完全由科學(xué)家和政治家決定，最終需要通過改變公眾的認(rèn)知消除其對科技倫理風(fēng)險的疑慮。

科技倫理治理當(dāng)然離不開科技倫理等相關(guān)研究。英國等歐美國家在進(jìn)入二十一世紀(jì)以來就十分重視新興科技的倫理、法律、社會問題(ELSI)研究，一個重要的策略是強調(diào)科技傳播和公眾參與科學(xué)。固然可以說其宗旨在于促進(jìn)負(fù)責(zé)任的研究與創(chuàng)新，但其中未明確表達(dá)的訴求對研究和創(chuàng)新所導(dǎo)致的社會、倫理與法律問題進(jìn)行調(diào)解與協(xié)調(diào)，在一定程度上具有研究創(chuàng)新公關(guān)的意味。當(dāng)前國際社會生命科技等新興科技的ELSI研究的努力方向是增進(jìn)社會對科學(xué)的信任。也就是說，與哲學(xué)和倫理層面的批判性反思不同，ELSI研究的目的不是揭示和批評研究和創(chuàng)新中的問題，而是要讓它們得到化解和監(jiān)管，從而使科技在社會基本可以接受的情況下進(jìn)行研究和創(chuàng)新。

當(dāng)前國際ELSI研究的重要策略是汲取早期瘋牛病、轉(zhuǎn)基因、納米等領(lǐng)域科學(xué)傳播和公共討論中的教訓(xùn)，以避免對新興科技的不確定性與風(fēng)險的過度解讀和對科技過度不信任。為此，基于ELSI研究的兩個科技倫理治理策略值得關(guān)注。一是對新興科技研究和應(yīng)用的命名盡可能減少價值預(yù)設(shè)，例如“合成生物學(xué)”的命名就是汲取了“轉(zhuǎn)基因”命名的教訓(xùn)，而最近中國科技企業(yè)和網(wǎng)絡(luò)主管部門將人工智能應(yīng)用中的“深度偽造”命名為“深度合成”也是基于這方面的考量。作為科技倫理的研究者要思考的是，通過這樣的策略性操作，固然可以使相關(guān)討論少受修辭的影響，但也有淡化社會、法律和倫理風(fēng)險的可能。二是在合成生物學(xué)等前沿領(lǐng)域，ELSI研究者越來越多地通過合作研究或獲得資助在研究的早期就參與其中，這種上游參與策略不僅使得倫理學(xué)家和社會科學(xué)家能夠更好地理解前沿研究與創(chuàng)新，而且使其更有效地在科學(xué)家和公眾之間扮演中間人的角色。也就是說，倫理學(xué)家和社會科學(xué)家的觀點，先在與科學(xué)家的互動中產(chǎn)生，然后通過媒介傳播和與公眾互動影響社會。顯然，在這種機制中會產(chǎn)生一些問題：建立合作關(guān)系和獲得資助會不會影響ELSI研究者的立場？會不會出現(xiàn)科學(xué)家說服ELSI研究者、ELSI研究者再說服公眾的單向影響模式？

由此，可以觀察到所謂“科技創(chuàng)新，倫理優(yōu)先”的目的是為科技創(chuàng)新構(gòu)建倫理“軟著陸”機制，即在對相關(guān)倫理風(fēng)險的認(rèn)知與共識的基礎(chǔ)上，大致劃定安全紅線和倫理底線，使倫理問題得到有效的管控。而這些問題則取決于知識經(jīng)驗和利益訴求不同的相關(guān)群體，特別是擁有話語權(quán)和解釋權(quán)的群體的認(rèn)知。而且，在科技倫理治理實踐中，將倫理看作研究與創(chuàng)新的優(yōu)先事項的結(jié)果往往是通過技術(shù)和管理手段尋求倫理風(fēng)險的止損點。其基本策略是將倫理風(fēng)險轉(zhuǎn)化為技術(shù)和管理上的解決方案，如將數(shù)據(jù)倫理中的隱私問題轉(zhuǎn)化為隱私計算，進(jìn)而形成可操作的行業(yè)標(biāo)準(zhǔn)，而不是不斷地深挖可能的倫理風(fēng)險及其根源。

進(jìn)一步而言，透過科技倫理治理及相關(guān)研究可以看到，滲透其中的科技創(chuàng)新文化建立在當(dāng)前主流的國家主導(dǎo)的科技創(chuàng)新框架之上，其實質(zhì)是推動創(chuàng)新的，是親技術(shù)的，而非人文反思和哲學(xué)批判性的。

在科技倫理治理層面的這些特征，無疑有助于科技倫理研究者反思在新興科技倫理治理中的研究和協(xié)同策略。正如卡爾·米切姆(Carl Mitcham)等[1]在《中國技術(shù)哲學(xué)應(yīng)該重視批判性》一文中所指出的那樣，自由與知情同意、人權(quán)、風(fēng)險-成本-收益分析、科研誠信、隱私以及利益沖突等技術(shù)倫理研究的基本立場是“親技術(shù)”的。由于國內(nèi)的大多數(shù)科技倫理研究者的大多數(shù)研究基于對國外科技倫理研究和實踐的評介，而很少參與到管理部門、科學(xué)家和企業(yè)對科技倫理治理的討論之中，往往沒有明確地認(rèn)識到這一點。近期，中國科學(xué)院長期研究致毀性科技風(fēng)險的劉益東[2]在《對兩種科技倫理的對比與研判》一文中強調(diào)：“目前科技倫理研究已成熱點，以是否維護(hù)主流科技發(fā)展模式為判據(jù)，科技倫理可分為兩種：維護(hù)辯護(hù)式科技倫理和變革轉(zhuǎn)型式科技倫理，可分別簡稱為科技倫理I、科技倫理II。前者默認(rèn)當(dāng)前(西方或世界)主流科技發(fā)展模式可持續(xù)，以此為前提，用科技倫理來彌補、修復(fù)、解決科技發(fā)展中產(chǎn)生的倫理問題，維護(hù)其繼續(xù)發(fā)展；后者則作深度反思，揭示科技倫理風(fēng)險的根源在于主流科技發(fā)展模式的內(nèi)在缺陷，認(rèn)為治標(biāo)要治本，變革轉(zhuǎn)型科技發(fā)展模式才是根本解決之道和當(dāng)務(wù)之急。”在他看來，目前主流科技倫理治理是在科技的框架下進(jìn)行的，不論是負(fù)責(zé)任的研究與創(chuàng)新，還是平衡風(fēng)險與受益的平衡論，都是高科技、高風(fēng)險賭局的一部分，也難以約束科學(xué)狂人和尖端武器研發(fā)競賽。

在主流科技創(chuàng)新框架下，這一鮮明的批判立場一時難以改變現(xiàn)實，但明確地認(rèn)識到其所揭示的科技倫理治理親技術(shù)的現(xiàn)實，認(rèn)識到科技倫理治理的相對性，無疑有助于科技倫理研究者反思在新興科技倫理治理中的研究和協(xié)同策略。

4 面向深度科技化時代的實踐智慧

當(dāng)前，新興科技的發(fā)展日益走向深度科技化時代，對生命、社會和文明具有突破性和顛覆性影響的科技創(chuàng)新層出不窮，科技倫理研究的一個重要方面是探討科技倫理治理中的群體認(rèn)識論策略，直面既有科技倫理治理的創(chuàng)新文化、價值取向和運作機制，探尋有效推進(jìn)科技倫理治理的實踐智慧。

首先，要看到目前科技倫理治理中尋求技術(shù)、管理和制度上的解決方案可能并不完美和徹底，但可以在主流科技創(chuàng)新框架下探尋可操作的管理舉措并不斷改進(jìn)。以2021年法國、德國和英國等聯(lián)合發(fā)布的《關(guān)于人類遺傳基因組編輯倫理的聯(lián)合聲明》為例，該聲明向世界各地的政府和利益相關(guān)者發(fā)出呼吁：所有司法管轄區(qū)都明確地將可遺傳的基因組編輯置于相關(guān)公共當(dāng)局的控制之下，并使其濫用受到適當(dāng)?shù)闹撇?；在對相關(guān)干預(yù)措施的可接受性進(jìn)行廣泛的社會辯論之前，不可臨床嘗試使用可遺傳的基因組編輯；在研究將臨床使用風(fēng)險的相當(dāng)大的不確定性降低到可接受的水平之前，不應(yīng)進(jìn)一步嘗試臨床使用；在允許臨床試驗或申請之前，必須對個人、群體和整個社會的不利影響風(fēng)險進(jìn)行適當(dāng)評估，并采取措施對其進(jìn)行監(jiān)測和審查；在對相關(guān)干預(yù)措施的可接受性進(jìn)行廣泛的社會辯論之前，不可臨床嘗試使用可遺傳的基因組編輯等。

為了不讓這些倡議束之高閣，就需要從管理上建立一套機制。就目前來看，至少可以采取兩方面的舉措。一方面，通過廣泛的調(diào)研和預(yù)見性研究與評估，設(shè)立具體領(lǐng)域的科技倫理高風(fēng)險清單，目前國家科技倫理委員會正在研制生命倫理、醫(yī)學(xué)倫理和人工智能倫理的高風(fēng)險清單。這些清單的發(fā)布和動態(tài)更新的目的就是要讓科技共同體、管理者和整個社會公眾等群體認(rèn)識到具體的科技倫理風(fēng)險所在，盡管這樣并不能預(yù)防那些難以預(yù)見的風(fēng)險，但現(xiàn)實是我們只能通過提升研究的質(zhì)量加以改進(jìn)；另一方面，可以從開源創(chuàng)新和開放科學(xué)的維度，要求具有較高科技倫理風(fēng)險的研究和創(chuàng)新活動在啟動階段公開注冊，通過數(shù)據(jù)開放存儲與共享，在研究實驗的全生命周期保持研究數(shù)據(jù)的透明性和可核查性，以便及時接受必要的倫理風(fēng)險評估和審查。近年來，國家科技主管部門和科技機構(gòu)越來越重視開源創(chuàng)新和開放科學(xué)，為增進(jìn)知識共享和應(yīng)對科學(xué)研究的可重復(fù)性危機提供了有效途徑，將來在科技倫理治理方面應(yīng)有較大的發(fā)展空間。

其次，科技倫理的協(xié)同共治需要進(jìn)一步探索相應(yīng)的面向多元共治的群體協(xié)同認(rèn)識論。一些重大科技倫理事件的教訓(xùn)表明，研究主體突破科技倫理底線的行為往往是在問題研究公開發(fā)表之后才為人所知。為了避免科技倫理治理的被動，在不同主體知識、信息和話語權(quán)不對稱的情況下，需要在系統(tǒng)思維和底線思維的基礎(chǔ)上形成一種有利于協(xié)同共治的群體認(rèn)知文化。對此，中國航天的總體設(shè)計和系統(tǒng)工程中的認(rèn)知文化具有一定的啟發(fā)意義。二十世紀(jì)六十年代，在東風(fēng)導(dǎo)彈的研制中，時任國防部五院一分院總體設(shè)計部政委劉川詩組織起草并提出了“謙虛、信賴、交底、講理”八字協(xié)作方針，后來又發(fā)展成 “謙虛、信賴、交底、講理、主動、負(fù)責(zé)”十二字指導(dǎo)方針。不難看到，在科技倫理治理中，不同主體之間的信賴、交底、講理、主動、負(fù)責(zé)無疑是至關(guān)重要的，而營造這種群體認(rèn)知文化，顯然有助于克服闖禍的研究者不對同行和管理部門交底等關(guān)鍵問題。

另一個航天系統(tǒng)工程中的群體認(rèn)識論是巨浪導(dǎo)彈總設(shè)計師黃緯祿當(dāng)年提出的“四個共同”工作理念，即“有問題共同商量、有困難共同克服、有余量共同掌握、有風(fēng)險共同承擔(dān)”。巨浪導(dǎo)彈是一個固體的燃料導(dǎo)彈，由于要在潛艇里面發(fā)射，因此它的總體積是很有限的，所以每個部分都要做得足夠小，這里面涉及一個很重要的問題就是余量。如果每一個系統(tǒng)都有余量，就不能夠把它盡量的做小，到最后整體就不行。在未來的科技倫理治理中，如果能夠做到“四個共同”，那么就會有助于提升科技倫理治理在實踐中的協(xié)同性。作為一個哲學(xué)家和倫理學(xué)家，如果參與科技倫理治理可能要注意不要將哲學(xué)上的批判絕對化。而研究算法治理的法學(xué)家，也不應(yīng)該只是從法律規(guī)定的角度對一些發(fā)展中的問題作出絕對化的斷定，而應(yīng)該對現(xiàn)有法律認(rèn)知和法規(guī)尚未認(rèn)識到和覆蓋到的一些新問題有所意識。同樣地，對于監(jiān)管者來說，要想清楚監(jiān)管的力度是不是恰當(dāng)；對于科技公司來說，要充分認(rèn)識到其產(chǎn)品、服務(wù)和經(jīng)營方式的社會影響，尤其是社會公眾的印象和社會接受程度。簡言之，相關(guān)主體的認(rèn)知與行為都要有“余量”是科技倫理治理必不可少的群體認(rèn)知論策略和實踐智慧。

最后，科技倫理治理要注重遵循相稱性原則，既要避免松懈也要防止過于嚴(yán)格。二十世紀(jì)七十年代，我國曾經(jīng)對人工智能進(jìn)行過批判。對此，我國杰出的人工智能專家馬希文在二十世紀(jì)為德雷福斯的著作《計算機不能做什么？》作的代中譯本序中提出了反思。在他看來，由于人們過分強調(diào)了計算機在生產(chǎn)自動化方面的作用，甚至把計算機應(yīng)用的目的片面地解釋為節(jié)約勞動力，這就使得很多人擔(dān)心這會帶來勞動力過剩的問題，進(jìn)而對之產(chǎn)生疑問，最終導(dǎo)致了我國計算機應(yīng)用日程推后了若干年。他不無洞察地指出：如果我們認(rèn)真從這件事情吸取了教益，那就應(yīng)該慎重地對待當(dāng)前宣傳中越來越普遍使用的“電腦”這一綽號——這如果不算是“港臺風(fēng)”，也至少使我們想起二十世紀(jì)四十年代有人把摩托車稱為“電驢”，不應(yīng)只從商品心理學(xué)的角度談?wù)撨@個問題，因為它暗示了計算機可以取代人腦這一個重大的哲學(xué)命題。他強調(diào)，實際上，許多學(xué)者已經(jīng)清楚地把這個命題表達(dá)出來了；如果漫不經(jīng)心地把沒有經(jīng)過科學(xué)認(rèn)證過的命題應(yīng)用到社會生活中去，我們很可能再一次付出代價[3]。

這些反思和洞見中體現(xiàn)的群體認(rèn)識論策略就是國際科技倫理治理中非常重視的相稱性原則，其基本內(nèi)涵是既不忽視問題也不夸大問題，而是展開針對性地治理。包括聯(lián)合國教科文組織新近頒布的人工智能倫理建議等國際科技倫理指引中都強調(diào)了這一原則。但如何做到相稱呢？如果沿著協(xié)同治理和保留 “余量”的策略，可以從兩個方面入手。

一方面，科技不要“沖”得過快，并且科技活動的主體應(yīng)該認(rèn)識到為了使科技倫理風(fēng)險可控，需要及時地作出倫理回調(diào)?？茖W(xué)共同體應(yīng)該認(rèn)識到，干細(xì)胞研究中因為倫理爭議導(dǎo)致研究議程減緩等教訓(xùn)已表明，科研“沖”得過快而不考慮倫理問題就難免踢到倫理鐵板，而不得不作出倫理回調(diào)。研究者應(yīng)該認(rèn)識到，在生命醫(yī)學(xué)等存在高倫理風(fēng)險的前沿領(lǐng)域，在沒有對倫理風(fēng)險作出清晰的研判并形成共識、沒有經(jīng)過透明的公眾參與的討論之前，莽撞地“沖”到前面去，會使中國的科學(xué)共同體乃至國家聲譽受損。真正認(rèn)識到這一點，就意味著在做科學(xué)研究的時候，不要急于追求新奇的東西；在進(jìn)行突破性研究時，實驗應(yīng)該設(shè)計得更精致，數(shù)據(jù)更可靠，盡力使得研究過程合乎國際科技倫理規(guī)范，盡可能多地考量研究結(jié)果可能存在的倫理風(fēng)險。

另一方面，在對科技企業(yè)的倫理治理、法律規(guī)制與行政監(jiān)管中，應(yīng)該致力于通過恰當(dāng)?shù)谋O(jiān)管促使其及時作出必要的倫理回調(diào)，同時應(yīng)該避免過于嚴(yán)苛的處置。近年來，由于基于網(wǎng)絡(luò)平臺的大科技公司在數(shù)據(jù)與隱私保護(hù)、算法歧視、信息繭房等問題上飽受詬病，國際上出現(xiàn)了強烈的科技反沖(techlash)?！翱萍挤礇_”這個詞體現(xiàn)了各國政府和社會公眾對于大科技公司所帶來的負(fù)面影響和巨大力量的疑慮、抵制和不信任等態(tài)度。但是，在數(shù)字治理等科技倫理治理中，應(yīng)對科技反沖的態(tài)度有所節(jié)制，而不易簡單地否定科技企業(yè)，如因視其為絕對的壟斷的力量，從以往的“包容審慎，鼓勵創(chuàng)新”突然轉(zhuǎn)向過度的強監(jiān)管。為了克服政策的一百八十度轉(zhuǎn)彎等兩極化偏誤，應(yīng)從公共管理層面展開對科技公司的科技倫理治理，引導(dǎo)企業(yè)讓科技更好地去發(fā)揮造福人類的作用，推動科技的公平應(yīng)用，使社會中的每個人分享更多的創(chuàng)新紅利。

當(dāng)前，之所以科技倫理治理的相稱性很重要，是因為不論是新冠疫情的暴發(fā)還是國際政治與科技格局的巨變，都意味著我們需要構(gòu)建一個更具韌性的社會；而提升社會韌性的關(guān)鍵在于，面對諸多驟變的沖擊，我們比以往更需要在科技力量的幫助下恢復(fù)社會的活力，開創(chuàng)文明的生機。對此，《金融時報》2021年底推薦的年度最佳經(jīng)濟(jì)學(xué)讀物之一《韌性社會》(TheResilientSociety)一書的觀點也頗有借鑒價值。該書指出，面對巨大的風(fēng)險，有時穩(wěn)健性并不是最好的前進(jìn)方式，韌性更能夠經(jīng)受住風(fēng)暴并更易恢復(fù)。書中引用了拉封丹(Jean de La Fontaine)詩歌中橡樹和蘆葦?shù)碾[喻，主張疫情沖擊下的人類社會應(yīng)該像“我彎曲，但不折斷”的蘆葦那樣，更具韌性。這一觀念對包括數(shù)字治理在內(nèi)的政策的啟發(fā)是：面對疫情的挑戰(zhàn)，應(yīng)該使各項政策賦予包括企業(yè)和個人在內(nèi)的整個社會更大的韌性。