劉鵬

“科技是發(fā)展的利器，也可能成為風(fēng)險的源頭”。當(dāng)代科技發(fā)展正日益改變著人類個體的生存狀態(tài)和人類社會整體的存在形態(tài)，這就意味著科技與倫理不再是人類知識圖譜上分屬于左右兩端的“兩種文化”，而是在現(xiàn)實中深刻交織的同一行動過程?？茖W(xué)技術(shù)的發(fā)展，不管是從其內(nèi)在蘊(yùn)含還是從其社會效應(yīng)的角度來說，都必然會帶來倫理問題；而倫理問題一旦走出哲學(xué)的理論邊界，必然又會演變成為治理問題。因此，科技、倫理與治理實際上成了同一社會發(fā)展過程的三個界面。正是深刻認(rèn)識到科技發(fā)展與倫理秩序之間的這種內(nèi)在關(guān)聯(lián)，充分意識到科技倫理問題的解決是一個理論研究和現(xiàn)實治理雙向合力的過程，同時也準(zhǔn)確把握到我國在科技倫理治理能力方面的欠缺，2022年3月中共中央辦公廳、國務(wù)院辦公廳聯(lián)合印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見》（以下簡稱《意見》）才會強(qiáng)調(diào)，要“進(jìn)一步完善科技倫理體系，提升科技倫理治理能力，有效防控科技倫理風(fēng)險，不斷推動科技向善、造福人類，實現(xiàn)高水平科技自立自強(qiáng)”。因此，如何認(rèn)識科技、倫理、治理之間的三位一體關(guān)系，進(jìn)而塑造適應(yīng)現(xiàn)代科技發(fā)展要求、倫理訴求和治理需求的高水平科技倫理治理體系，不僅是一個迫切需要解決的現(xiàn)實問題，也是我國在2035年“實現(xiàn)高水平科技自立自強(qiáng)，進(jìn)入創(chuàng)新型國家前列”的一項長遠(yuǎn)舉措。

一、科技倫理治理需以科技為基

開展科技倫理治理，必須以對科技與倫理關(guān)系的恰當(dāng)理解為前提，要實現(xiàn)這種恰當(dāng)理解，則必須以對當(dāng)代科技發(fā)展本質(zhì)特征深刻把握為前提。只有從理論與實踐兩個層面上厘清倫理介入科技的多重路徑，才能夠開展針對性的倫理治理工作，進(jìn)而為“科技向善”的落地機(jī)制找到現(xiàn)實錨點。

科學(xué)技術(shù)的實踐導(dǎo)向必然會導(dǎo)致倫理的介入。傳統(tǒng)觀點往往將科學(xué)視為純粹知識，進(jìn)而將技術(shù)視為純粹知識的現(xiàn)實應(yīng)用，于是才有了純粹科學(xué)與應(yīng)用科學(xué)的分類。如果我們回溯近代科學(xué)的發(fā)展歷程，就會發(fā)現(xiàn)自第二次工業(yè)革命以來，科學(xué)與技術(shù)的關(guān)系變得日益緊密，科學(xué)的應(yīng)用性特征日漸增強(qiáng)。正是準(zhǔn)確把握到了科學(xué)發(fā)展的這一時代特征，許多當(dāng)代哲學(xué)家也才使用“技性科學(xué)”這一概念來描述當(dāng)代學(xué)術(shù)研究中科學(xué)、技術(shù)、社會之間的一體化狀態(tài)。在此意義上，科學(xué)不再僅僅是“沉思”的學(xué)問，更是一種“干預(yù)”的行動，這就使得當(dāng)代科學(xué)帶有了強(qiáng)烈的實踐導(dǎo)向。實踐指向意味著科學(xué)技術(shù)的強(qiáng)目的性特征，特定目的在科技研發(fā)階段以內(nèi)嵌于科技的方式得以落地，在科技應(yīng)用階段以功能落地的方式得以實現(xiàn)。當(dāng)然，這里的強(qiáng)目的性并不意味著人類可以恣意而為，它能否達(dá)成及其達(dá)成的程度，一方面會受到其研發(fā)對象以及研發(fā)能力的影響，另一方面也會而且也應(yīng)該受到倫理規(guī)則和倫理風(fēng)險評估的約束。此外，同樣需要注意的是，不管是科技本身還是科技與人類社會關(guān)系的情境性實現(xiàn)方式都帶有極大的不確定性，這就使得科學(xué)技術(shù)的功能在落地時并非只有預(yù)先設(shè)計好的那一種，這就更加要求對科技及其功能開展充分的前瞻性研判，盡可能規(guī)避各類倫理風(fēng)險的出現(xiàn)。要做到這一點，就必須對現(xiàn)代科技不確定性的來源形成充分的理論認(rèn)知。

科技的不確定性增加了倫理介入的不確定性。確定性是科學(xué)技術(shù)有別于其他知識體系的核心特征，然而這種確定性并非絕對的確定性，它仍然是相對的。這種不確定性來自科技與自然關(guān)系的非絕對性，一方面從認(rèn)識論的角度來說，科技本身是否達(dá)至對自然的終極理解，這是一個難以判斷的問題，人們只能用預(yù)測——驗證模型來確定科學(xué)技術(shù)的經(jīng)驗合理性，但這種合理性并非真理意義上的合理性，而且此種檢驗的受控性也使得人們無法窮盡科技應(yīng)用中所出現(xiàn)的可能性；另一方面從歷史的角度來說，科學(xué)技術(shù)都是在不斷的替代中前進(jìn)的，這種替代關(guān)系本身就是對科學(xué)之絕對真理性的否定。從實踐層面而言，科學(xué)技術(shù)的不確定性確實導(dǎo)致了大量風(fēng)險事件的發(fā)生。1986年，英國坎布里亞地區(qū)受到核輻射威脅，科學(xué)家們基于失當(dāng)?shù)目茖W(xué)模型給出了錯誤的決策，給當(dāng)?shù)啬撩駧砗艽髶p失，進(jìn)而導(dǎo)致牧民對科學(xué)家乃至政府的質(zhì)疑。當(dāng)然，承認(rèn)科學(xué)技術(shù)的不確定性，并不是否定科技本身，恰恰相反，這種承認(rèn)基于對科學(xué)不完備性的認(rèn)可，進(jìn)而要求科學(xué)技術(shù)保持一種面向未來的認(rèn)識論開放性，進(jìn)而是倫理上的開放性。在此意義上，即便科學(xué)技術(shù)的不確定性很難提前研判，但至少要對其保持一種開放心態(tài)，并對其可能帶來的倫理風(fēng)險的不確定性保持充分警醒。

科技功能的開放性放大了倫理介入的偶然性。科學(xué)技術(shù)往往會以技術(shù)制品的形式呈現(xiàn)，然而技術(shù)制品一旦遇到人類社會，其用途便具有了偶然性和開放性，進(jìn)而設(shè)計者賦予科技產(chǎn)品的倫理意向并非科技產(chǎn)品所可能呈現(xiàn)出來的唯一倫理屬性，技術(shù)決定論在這里并不適用。就如同刀可以成為人類切開食物的工具，也可能成為犯罪的兇器，甚至也可能成為具有收藏價值的藝術(shù)品、具有考古意義的文物，如此等等。當(dāng)然，這種功能上的偶然性并非等同于任意性，其開放性也并非等同于一種簡單的社會決定論，它們之所以會發(fā)生，是因為技術(shù)制品并非擁有一個封閉的邊界并以此邊界將其本質(zhì)框定在內(nèi)，邊界的開放性使得其本質(zhì)向所處情境開放，于是在人與物的情境性關(guān)系中技術(shù)制品的功能得以實現(xiàn)。這種偶然性和開發(fā)性要求我們必須密切關(guān)注使用中的科學(xué)技術(shù)，必須要對其可能產(chǎn)生的后果保持倫理敏感和警醒。

二、科技倫理治理要以倫理為綱

如果說科學(xué)技術(shù)本身并非超然于價值之外，而是一直處于與倫理的糾纏之中，那么以一種倫理上可取的方式發(fā)展和使用科技，便成為一個不得不思考的問題。

以倫理上可取的方式發(fā)展科技，需要堅決貫徹倫理先行的理念。傳統(tǒng)觀點主張將科學(xué)技術(shù)的研發(fā)階段與使用階段區(qū)分開來，并認(rèn)為前者價值中立，后者才是價值介入的切入點。這種二段式觀點一方面并未注意到倫理介入科技的第一種方式即科學(xué)技術(shù)的功能在很大程度上與其研發(fā)意圖高度相關(guān)，另一方面也未注意到倫理介入的第二種和第三種方式也與研發(fā)階段密切相關(guān)，如若不然，放任科學(xué)技術(shù)的不確定性和科技制品的開放性，會帶來無法估量的倫理風(fēng)險，甚至?xí)?dǎo)致各種“黑天鵝”“灰犀?！笔录陌l(fā)生。正如“科林格里奇困境”所言：“一項技術(shù)的社會后果在技術(shù)發(fā)展的早期階段是無法預(yù)期的。然而，當(dāng)某些不可取的后果顯現(xiàn)出來時，技術(shù)已經(jīng)成為作為整體的經(jīng)濟(jì)和社會結(jié)構(gòu)中的一個重要部分，以至于對它的控制變得非常困難?！痹诖艘饬x上，技術(shù)發(fā)展的早期階段特別是在研發(fā)階段的倫理研判就顯得尤為重要。正是關(guān)注到了這一重要性，《意見》才將倫理先行作為科技倫理治理的第一要求，即“將科技倫理要求貫穿科學(xué)研究、技術(shù)開發(fā)等科技活動全過程”。同樣，2021年國家新一代人工智能治理專業(yè)委員會發(fā)布的《新一代人工智能倫理規(guī)范》，在其“總則”的第一條同樣要求“將倫理道德融入人工智能全生命周期”。貫徹倫理先行理念，一方面要對科技研發(fā)階段倫理介入的各種可能性保持清醒，另一方面要盡可能通過前置的風(fēng)險研判規(guī)避后發(fā)的倫理風(fēng)險。

以倫理上可取的方式發(fā)展科技，應(yīng)使倫理研究與科技發(fā)展同頻共振。新一輪科技革命日新月異，新科技成就層出不窮，在此意義上科技引發(fā)倫理問題和介入倫理生活的方式與路徑也在不斷變化。因此，倫理研究人員必須密切注意科技動向，強(qiáng)化與科技研究人員的合作，共同展開對前沿科技的倫理研究。近段時間獲得極高關(guān)注度的ChatGPT，盡管人們對其生成的文本內(nèi)容到底是創(chuàng)新性的突破還是一本正經(jīng)的胡說各執(zhí)一詞，但社會已經(jīng)對其做出了迅速回應(yīng)。例如，《自然》雜志明確規(guī)定，ChatGPT之類的大語言模型因為其無法承擔(dān)作者的責(zé)任，進(jìn)而也就不能獲得作者的身份，但《自然》雜志并未禁止ChatGPT的使用，只不過要求文章在恰當(dāng)?shù)牡胤綄κ褂们闆r作出說明。香港大學(xué)也明確規(guī)定，禁止學(xué)生在課堂學(xué)習(xí)和課程作業(yè)中使用ChatGPT，但這只是一項臨時政策，至于長遠(yuǎn)政策則需要在校方慎重考慮并參考全校師生廣泛討論的意見之后再行確定。在此意義上，新技術(shù)總是和與之相適應(yīng)的一套倫理規(guī)則同步而行的，這就要求倫理研究人員必須緊跟技術(shù)步伐，開展敏捷性甚至前瞻性倫理研究。同時，當(dāng)代科技發(fā)展呈現(xiàn)出學(xué)科細(xì)化與交叉融合兩個看似矛盾的特征，這更加要求倫理研究人員必須關(guān)注到不同領(lǐng)域的科學(xué)技術(shù)所可能呈現(xiàn)出的倫理差異，從而形成適用于不同學(xué)科、領(lǐng)域特征的倫理規(guī)范。因此，科技倫理研究并非一個先驗領(lǐng)域，而是由經(jīng)驗指向的，實踐的開放性決定了科技倫理研究的開放性。

以倫理上可取的方式發(fā)展科技，必須培養(yǎng)科研人員的倫理風(fēng)險意識?？萍嫉膫惱韮?nèi)嵌本性與不確定性特征及其帶來的倫理敏感性，必然要求科研人員具有同樣的倫理敏感性。倫理意識和倫理敏感性的培養(yǎng)，首先要求科研人員必須從理論層面明確倫理先行原則的必要性，若非如此，研發(fā)階段的倫理敏感性就沒有了存在的認(rèn)識論根基；其次科研人員必須以一種負(fù)責(zé)任的態(tài)度對待科技研發(fā)，強(qiáng)化自己的風(fēng)險研判能力，開展負(fù)責(zé)任的研究與創(chuàng)新，只有如此，科技向善才有可能從理念落實為行動；最后科研人員需要將倫理意識貫穿科技研發(fā)與科技應(yīng)用全過程，必須對使用者的倫理反饋保持高度敏感，并構(gòu)建一套倫理問題應(yīng)對的敏捷反應(yīng)機(jī)制，強(qiáng)化自己應(yīng)對倫理難題、化解技術(shù)風(fēng)險的能力，盡量減少甚至規(guī)避負(fù)面效應(yīng)的出現(xiàn)。倫理意識屬于道德范疇，不僅需要科研人員本身的內(nèi)在自律，同樣需要全社會塑造一種良好的倫理治理氛圍，通過內(nèi)外兩種途徑加以強(qiáng)化，最終將倫理意識內(nèi)化為科研人員的道德良知，進(jìn)而使得一種高度自覺、高度敏感的倫理意識和風(fēng)險研判能力成為科研人員的自覺行為。

三、科技倫理治理應(yīng)以治理為標(biāo)

科學(xué)技術(shù)對人類生存狀態(tài)與生存方式的深層次介入，需要科技倫理學(xué)對其展開本體論的考察，這是一種哲學(xué)意義上的研究，這種介入的實踐導(dǎo)向同樣決定了科技倫理研究的現(xiàn)實指向，這是一種治理意義上的研究。就此而言，科技倫理研究的最終目標(biāo)是治理，這就要求我們實現(xiàn)從倫理研究向倫理治理的轉(zhuǎn)化。

治理導(dǎo)向的科技倫理研究，應(yīng)當(dāng)實現(xiàn)倫理理念向治理規(guī)則的轉(zhuǎn)化。作為哲學(xué)的一部分，倫理學(xué)研究往往強(qiáng)調(diào)倫理理念的重要性。然而理念之所以能夠成為理念，其中一個重要原因就是其涵蓋范圍的普遍性，而這種抽象性和普遍性的獲得是以其可操作性的降低為代價的。因此，理念的重要性在于為科技倫理治理指明方向，但這一方向的達(dá)成卻需要將理念細(xì)化為操作規(guī)則。同時，理念的高度抽象性也降低了其可解讀性，于是同樣一件事情，不同群體、不同視角可能會產(chǎn)生不同甚至相反的理解，這類“執(zhí)行鴻溝”現(xiàn)象的存在，會弱化理念的指導(dǎo)作用。在此雙重意義上，我們必須將理念轉(zhuǎn)化為規(guī)則，從而實現(xiàn)理念的落地。目前，除了相應(yīng)的法律、法規(guī)之外，各級各類倫理委員會以及倫理審查制度也承擔(dān)了治理規(guī)則的職能。倫理審查是維護(hù)科技研究倫理底線的主要抓手，但需要清楚的一點是，倫理審查要根據(jù)審查對象的倫理風(fēng)險程度開展差異性審查，對常規(guī)性科研工作開展快速審查以提高效率，對創(chuàng)新性科研工作充分研判風(fēng)險以深化倫理把關(guān)。此外，要強(qiáng)化倫理委員會對科研項目執(zhí)行過程中的監(jiān)督功能，充分確?？蒲腥藛T在項目執(zhí)行過程中真正做到依法、依規(guī)科研，真正做到在倫理批件允許的范圍內(nèi)展開合乎倫理的研究。

治理導(dǎo)向的科技倫理研究，必須堅持個體倫理和社會治理的并重?？蒲腥藛T的倫理責(zé)任意識是微觀層面上推進(jìn)科技倫理治理的重要一環(huán)。然而，作為一種個體倫理意識，它會面臨自覺性和敏感性的難題。就前者而言，不管是在理論意義上還是現(xiàn)實意義上，內(nèi)在道德良知的達(dá)成只能是一個導(dǎo)向，并不能承擔(dān)起科技倫理治理的全部重?fù)?dān)，正如技術(shù)哲學(xué)家米切姆所言：“僅僅從技術(shù)倫理的角度來思考是不夠的……任何技術(shù)倫理本身都將趨于軟弱——如果不是無能的話?！本秃笳叨?，科研人員個體倫理敏感性和風(fēng)險研判能力的差異，也會給治理效果帶來不確定性。因此，必須構(gòu)建一個多主體協(xié)同的倫理治理模式，形成一個由政府、社會、媒體、公眾等多方組成的風(fēng)險研判精準(zhǔn)、問題反饋通暢、監(jiān)督機(jī)制有效、治理行動敏捷的治理共同體。由此，以內(nèi)、外兩條路徑，構(gòu)筑科技發(fā)展的倫理屏障。正是在此意義上，2019年國家新一代人工智能治理專業(yè)委員會發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》才強(qiáng)調(diào)：“推動國際組織、政府部門、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動。”

治理導(dǎo)向的科技倫理研究，必須做到倫理治理與科技發(fā)展的統(tǒng)一。對科技展開倫理治理，其目的并非限制科技，而是推動科技以一種倫理上可接受的方式實現(xiàn)高質(zhì)量發(fā)展。正如《意見》所言，科技活動要“有利于促進(jìn)經(jīng)濟(jì)發(fā)展、社會進(jìn)步、民生改善和生態(tài)環(huán)境保護(hù)，不斷增強(qiáng)人民獲得感、幸福感、安全感，促進(jìn)人類社會和平發(fā)展和可持續(xù)發(fā)展”。倫理原則是指在一定歷史時期內(nèi)科技發(fā)展所應(yīng)遵循的規(guī)則，但要注意這些規(guī)則是在特定社會歷史背景和科技發(fā)展水平的條件下形成的，不可避免地帶有時代特征，它只具有相對穩(wěn)定性，特別是當(dāng)上述背景和條件發(fā)生變化時，這些原則可能會有所變動。例如，國際干細(xì)胞研究學(xué)會發(fā)布的2021版《干細(xì)胞研究與臨床轉(zhuǎn)化指南》，在某種程度上松動了對人體胚胎體外研究的14天規(guī)則的要求：“如果在某一管轄范圍內(nèi)得到工作廣泛支持且獲得當(dāng)?shù)卣吆头ㄒ?guī)許可，出于科學(xué)上的目標(biāo)，專門的科學(xué)監(jiān)督和倫理監(jiān)督程序可以權(quán)衡是否有必要超出14天的培養(yǎng)，并證明其合理性，同時要確保使用能夠達(dá)成研究目標(biāo)的最小數(shù)量的胚胎?！蔽覀儗萍紓惱斫绲拇祟愖钚伦兓瘧?yīng)該保持敏感，既不能過于簡單地接受，又不能置之不理，而應(yīng)采取一種審慎的態(tài)度，鼓勵“多學(xué)科、多領(lǐng)域?qū)＜壹吧鐣姽餐接?，研判該原則的現(xiàn)實價值及未來走向”。在此意義上，倫理治理需要在穩(wěn)定與動態(tài)之間保持張力，說其穩(wěn)定是因為倫理原則至少在一段歷史時期內(nèi)是相對固定的，說其動態(tài)是因為倫理規(guī)則要對科技最前沿保持敏感，但不管規(guī)則處于何種狀態(tài)，無可否認(rèn)的是，倫理治理的目標(biāo)是形成科學(xué)技術(shù)與倫理規(guī)范、自然秩序與社會秩序良性互動、協(xié)同發(fā)展的態(tài)勢，這本身就是高水平科技自立自強(qiáng)的內(nèi)涵之一。

綜合而論，科技倫理治理必須立足科技，充分研判倫理介入科技的多種進(jìn)路，由此針對性地構(gòu)建治理路徑；必須緊扣倫理，準(zhǔn)確把握倫理先行的理論可能性和現(xiàn)實必要性，強(qiáng)化科研人員倫理意識和風(fēng)險研判能力；必須瞄準(zhǔn)治理，正確理解治理的行動性和社會性特征，真正做到推動科技與善協(xié)同而行。在此意義上，科技倫理治理工作必須秉持科技、倫理、治理三者同向同行的原則，構(gòu)建科技、倫理、治理“三位一體”格局，形成科技啟航、倫理導(dǎo)航、治理護(hù)航的良序發(fā)展態(tài)勢，既充分發(fā)揮現(xiàn)代科技的“力度”，又充分彰顯科學(xué)技術(shù)的“溫度”，為國家實現(xiàn)高水平科技自立自強(qiáng)構(gòu)建倫理治理支撐體系。

（作者系南京大學(xué)哲學(xué)系副主任，教授、博士生導(dǎo)師）

責(zé)任編輯：劉景昌