馬婉寧，陳亞平，韓鳳芹

中國財政科學研究院，北京 100142)

0 引言

科技是引領發(fā)展的第一動力，是建設現代化經濟體系的戰(zhàn)略支撐。應該看到，科學技術具有兩面性，是發(fā)展的利器，也可能成為風險的源頭。ChatGPT的出現彰顯了生成式AI技術對人類社會生活的強大重塑力，但與此同時帶來的數據泄露、隱私安全、學術抄襲、公共安全等倫理風險引起社會廣泛關注，1000多名科技專家共同簽署了題為 《暫停大型人工智能研究》的公開信，呼吁暫停大型AI項目，并深入研究和探討人工智能技術。人工智能等新興技術的發(fā)展亟需進一步加快倫理治理的步伐，通過構建科技倫理治理體系來規(guī)范科技創(chuàng)新發(fā)展，引領科研創(chuàng)新行為。

20世紀90年代以來，科技部、衛(wèi)生部等部門在生物醫(yī)學領域持續(xù)出臺了相關倫理規(guī)則和審查辦法，包括1998年出臺的 《人類遺傳資源管理暫行辦法》、2003年制定的 《人胚胎干細胞研究倫理指導原則》、2016年出臺的 《涉及人的生物醫(yī)學研究倫理審查辦法》等。近年來，黨中央、國務院高度重視科技倫理治理體系建設，黨的十九屆四中全會提出 “健全科技倫理治理體制”，黨的十九屆五中全會提出 “完善國家科技治理體系，健全科技倫理體系”，2019年中央全面深化改革委員會審議通過 《國家科技倫理委員會組建方案》，2022年中共中央辦公廳、國務院辦公廳印發(fā) 《關于加強科技倫理治理的意見》 (以下簡稱 《意見》)，這些決策為中國科技倫理治理工作做出了頂層設計和全面部署。但是，在顛覆性技術迅猛發(fā)展的態(tài)勢下， “從0到1”的原始創(chuàng)新越來越成為國家科技競爭的制高點，一些新技術往往不確定性大、更新速度快，在促進經濟社會快速發(fā)展的同時，也可能產生危害公共安全、損害公共利益、污染生態(tài)環(huán)境等負面效應，給新時期科技倫理治理提出了新挑戰(zhàn)和新要求。

科技倫理是開展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，本身屬于價值觀范疇，核心任務是基于道德原則 (如增進人類福祉、尊重生命權利等)來規(guī)范人類的科研行為和活動，并給出價值判斷——什么是向善的科學。倫理規(guī)范是非強制性的，對科研人員更多是一種軟約束，容易產生治理浮在表面、難以落地的問題。為了促進科技倫理治理落到實處，使倫理治理真正體現在科技活動中，仍然需要在頂層設計的指導下，以倫理先行、依法依規(guī)、敏捷治理、立足國情、開放合作為抓手，發(fā)揮科技活動全過程中多元主體的協同治理能力，真正使得科技倫理治理同科技創(chuàng)新發(fā)展相互促進，共同推動科技向善，實現負責任的研究與創(chuàng)新。科技發(fā)展促使治理結構變革，本文在重新思考科技倫理治理的核心要義、趨勢發(fā)展和面臨困局的基礎上，嘗試構建 “一體一基三翼”科技倫理治理機制，以期為完善中國科技倫理治理體系提供思路。

1 科技倫理治理的核心要義與最新趨勢

科技創(chuàng)新發(fā)展和科技倫理就像是科技的一體兩面，二者是相互促進的關系，核心是共同促進向善的科學。在新興科技快速發(fā)展的背景下，科技倫理治理蘊含著引領科技活動、與科學研究相互促進、多主體協同共治的核心要義。

1.1 科技倫理治理的核心要義

(1)引領科技活動。 《意見》在科技倫理治理中指明了 “倫理先行”的要求，要加強源頭治理，注重預防，將科技倫理要求貫穿科學研究、技術開發(fā)等科技活動全過程。這一要求也道出科技倫理治理本質上是主動牽引型，對科技活動具有一定的引領性。科技倫理治理需要先于科技活動的開展來判定倫理風險，將科技倫理嵌入具體科研項目中，而不只是簡單的事后懲戒。正如 《意見》所要求：科技項目 (課題)負責人要嚴格按照科技倫理審查批準的范圍開展研究，加強對團隊成員和項目 (課題)研究實施全過程的倫理管理。

中國科技發(fā)展長期處于 “跟跑”狀態(tài)，科技倫理治理在實踐中基于 “發(fā)展先行”原則形成了 “做了再說”的被動治理模式，在給予科研人員極大自由度的同時也埋下了科技倫理風險隱患。以人工智能技術為例，人工智能和移動互聯網、物聯網等技術相互賦能，使人類社會快速進入 “智能+”時代，帶有認知、預測和決策功能的人工智能算法被廣泛應用于眾多社會場景，但算法歧視、算法推薦機制等也帶來諸多倫理失范問題，造成個體自主權缺失和社會公正失調。因此，需要科技倫理治理來引領科技活動的健康有序發(fā)展，以更為主動的源頭治理規(guī)避風險，形成科技倫理和科技活動良性互動的有機邊界。

(2)與科學研究相互促進。傳統科技觀認為，科學技術追求客觀自然規(guī)律，科技應該是價值中立的。基于 “價值中立說”，有人擔憂將倫理治理嵌入科技活動中會阻礙科技發(fā)展。但 “價值中立說”在現實中并不成立，因為科技活動并不等于科學理論本身，科技活動同人類實踐聯系在一起，科學試驗的設計、科研成果的推廣應用等都是人參與其中，必然帶有人的價值判斷，也就存在科技被誤用、濫用的風險。因此，科技倫理治理盡早介入科研活動當中，也能盡早避免消極后果的產生，從而讓科技創(chuàng)新更可持續(xù)。倫理審查也是為了借助審查和監(jiān)管手段規(guī)避科技活動潛藏的倫理風險，讓科技倫理治理和科學研究更好地相互促進。科技倫理治理的相關原則、標準、規(guī)范是為科技活動服務的，相當于科技活動的 “保護層”，明晰的倫理規(guī)則為科技活動提供支持，使得科研人員能夠在倫理規(guī)則的保障下順利開展科學研究。比如，生命醫(yī)學領域簽訂 “知情同意書”的正當程序，在維護受試者自主權的同時也使研究者獲得受試者的支持。

從 “治理”本身來說，治理不同于傳統的自上而下的管理，而是各社會行為角色協調、互動、磋商的過程，不同行為者通過正式或非正式的相互作用機制來管理共同事務，表現為一個持續(xù)過程[1]。因此，從治理本身的特點來看，科技倫理治理蘊含著倫理商議空間，人們在此空間內討論和確定倫理治理的科學方向，重構各方責任，共同促進科技向善。比如，歐盟腦科學計劃 (HBP)將 “倫理與社會”議題作為子課題納入研究中，并構建了倫理商議的空間和機制，從其余11個子課題中各提名一人組成倫理調查員團隊作為課題間溝通的正式機制[2]，促進識別、分析和解決HBP倫理問題，使HBP符合相關的倫理與法律規(guī)范。HBP作為將科學問題同倫理問題有機結合的典型范例，也通過實踐驗證了科技倫理治理同科學研究相互促進的關系。

(3)多主體協同共治。科技倫理問題包括科學研究本身的倫理問題，以及科技發(fā)展帶來的倫理問題[2]。自20世紀90年代中期以來，隨著瘋牛病事件暴發(fā)、轉基因作物大量上市以及基因治療、干細胞研究和克隆技術等生物技術的飛速發(fā)展，科學技術的不確定性和風險日益凸顯，科學技術的誤用、濫用所造成的社會風險及倫理問題更加廣泛地影響到不同社會領域和群體。在這一背景下，傳統的政府單一 “統治”已不足以及時有效應對新技術發(fā)展帶來的挑戰(zhàn)，科技政策亟需與其他領域政策協調配合，擴大政策制定和實施參與開始成為重要議題， “治理”思想也逐漸被引入科技倫理領域。解決科技倫理問題需要新的治理機制，協調政府、科研機構、企業(yè)、社會公眾等多方利益相關者，發(fā)展倫理共識，確保科技造福人類。

隨著科技對人類健康、環(huán)境生態(tài)、社會文化、信息媒介等的深度嵌入，科技決策需要科學知識之外越來越多的 “社會知識”[3]，也愈發(fā)需要除了科研人員之外的多領域專家、社會人士所掌握的 “社會知識”支持。國內外學界和政策界也采用多主體協同共治的治理機制，比如，HBP項目的子課題12通過公眾和在線專家面對面研討和辯論的形式展開公共對話，共同討論人腦計劃可能產生的倫理和社會困境[2]；在2015年第527次北京香山會議上，來自自然科學、社會科學等領域的學者針對納米科學可能帶來的安全與倫理問題開展對話交流[4]。此外，一些組織機構的人員設置也映射出多主體共同參與科技倫理治理的現象，比如，聯合國于1997年成立的 “世界科學知識與技術倫理委員會” (COMEST)由科學、法學、哲學等多領域權威學者組成，共同致力于科技倫理研究；中國的 《涉及人的生物醫(yī)學研究倫理審查辦法 (2016年)》等政策規(guī)定，倫理委員會的委員應當從生物醫(yī)學領域和倫理學、法學、社會學等領域的專家和非本機構的社會人士中遴選產生。

1.2 科技倫理治理的最新趨勢

(1) “負責任的研究與創(chuàng)新”思想指導科技倫理治理。負責任的研究與創(chuàng)新 (RRI)是一個整合性的治理概念，具有充分的國際實踐基礎，最初在美國國家納米技術倡議 (NNI)中使用，后被歐盟正式接受，推動著科技倫理治理思想的發(fā)展，讓科技創(chuàng)新增加對社會需要和倫理的關注。RRI意味著科研人員、社會公眾、政府、企業(yè)等社會參與者在研究與創(chuàng)新全過程共同努力，其思想價值導向明確，將涉及的公共對話、風險管理、行為規(guī)范、研究誠信等科技治理概念整合在一起，應用于微觀層面的實驗室、中觀層面的制度結構和實踐、宏觀層面的公共政策，可以有效指導整個國家的科技倫理治理體系。RRI通過透明、互動的過程而實現，包含 “預期、反思、包容和回應”四個維度[2]，即在科技倫理治理實踐上促使人們分析預期潛在影響，反思和考慮不確定性和風險，接受利益相關者的包容性參與并做出回應，確?？萍佳刂_的方向發(fā)展。

(2)前瞻性治理體系愈發(fā)關鍵。隨著顛覆性技術的迅猛發(fā)展，在前瞻性治理體系指導下，運用前瞻的視角，提前進行系統性部署，預見、研判顛覆性技術的未來作用發(fā)揮、潛在風險并動態(tài)治理顯得尤為重要。前瞻性治理體系具有以下四個特征：前瞻性、動態(tài)性、系統性和多元性[5]，在部分國家出臺的相關監(jiān)管政策和倡議中也有所體現。比如，2019年英國出臺的 《第四次工業(yè)革命的監(jiān)管政策白皮書》涵蓋了前瞻性、系統性的監(jiān)管計劃和措施。同年，英美兩國主持召開的首次 “國際人類種系基因組編輯臨床應用委員會”會議也強調搭建共識框架，使多元主體能有效參與科技倫理治理。

(3)治理邁向全球化。近代科學向現代科學的演進，已經從科學家個人的自由探索演變到國際科研合作，形成了開放科學的新格局，科技發(fā)展的全球化趨勢不斷加速，伴隨而來的各類風險和倫理問題也不再局限于某一固定的國家或地區(qū)，而是向全球蔓延擴散，科技風險的全球化使得世界各地進入一個跨越時空的 “全球性風險社會”[6]。因此，當下的科技倫理治理也表現出 “全球化治理”的新趨勢，需要形成實現人類命運共同體的全球共識，構建共同應對危害人類利益的 “風險共識”，以總體性的全球科技倫理治理框架來降低科技倫理風險。

2 科技倫理治理的分析框架：治理五要素

當前，學者多從某一重點領域和新興科技的治理實踐出發(fā)，對科技倫理治理進行研究，或者探討對治理思想和科技倫理治理的理論認識，或者基于某類方法、工具闡述對科技倫理治理的總體認識。本文在上述學者研究的基礎上，將治理目標、主體、對象、手段和模式統一起來進行系統考察，并基于治理五要素構建科技倫理治理的分析框架。

2.1 治理五要素的總體認識

根據系統論思想，系統是一個有機整體，要素則是構成一個系統存在并維持其動態(tài)運轉的必要因素和基礎。系統要素分析是從系統觀點出發(fā)，將作為系統的要素作為考察對象，將其放在系統所處的特定環(huán)境中，分析其同系統以及系統其他要素之間的相互作用[7]?？萍紓惱碇卫硎且粋€閉環(huán)的互動治理體系，需要系統性認識 “治理什么” (治理目標和治理對象)、 “誰來治理” (治理主體)、 “怎么治理” (治理手段和治理模式)這一系列治理問題，才能有的放矢、真正推動科技倫理治理體系有效落地。在整個科技倫理治理體系中，治理主體在各自專業(yè)領域和職責范圍內綜合運用多種手段進行主動治理，以共同達成科技向善發(fā)展的目標。具體來說，科技倫理治理目標應該是推動科技向善發(fā)展，治理主體是多主體構成的行為者網絡，治理對象是科技活動全過程，治理手段是負責任研究與創(chuàng)新基礎上的多種治理方式，治理模式是主動治理 (見圖1)。五方面治理要素相互關聯、有機互動，共同構成科技倫理治理體系的關鍵組成部分。

圖1 科技倫理治理體系中的治理五要素

2.2 治理五要素的具體闡釋

(1)治理目標：推動科技向善發(fā)展?？萍及l(fā)展應有其明確的價值取向，旨在促進科技本身和全社會的可持續(xù)健康發(fā)展，因此科技發(fā)展應該是向善的，是不危害人類自身安全的發(fā)展。從風險視角來看，科技向善要做到使公共風險最小化，避免科技風險蔓延成為全社會風險。高質量發(fā)展是 “十四五”時期乃至更長時期的經濟社會發(fā)展主題，科技創(chuàng)新則是支撐高質量發(fā)展的重要驅動力，未來中國將持續(xù)加大科技發(fā)展方面人力、物力和財力的投入，因此有必要為快速發(fā)展的科技創(chuàng)新劃出合理的倫理 “紅線”，讓政府、科研院校、企業(yè)等創(chuàng)新主體投入的各類資源充分發(fā)揮其正向效用。

(2)治理主體：多主體構成的行為者網絡。科技倫理治理體系中政府、科研院校、企業(yè)、科技團體、科研人員、社會公眾等多主體共同構成一個行為者網絡，在科技活動的不同過程中發(fā)揮著各自作用。政府是國家科技戰(zhàn)略的布局者、科技計劃的資助者以及科技倫理治理體系建設的主導者?？蒲性盒Ｊ菄一A研究和應用研究的主要執(zhí)行部門，是科研人員集中分布的組織部門，其倫理治理水平和倫理教育水平對于提升全國科技倫理治理能力影響重大。企業(yè)已經成為創(chuàng)新主體，是研發(fā)經費的最大投入部門，也是參與科技倫理治理的重要主體，需要把握好技術開發(fā)和應用的倫理關口?？萍紙F體為倫理治理提供重要智力支撐，是促成倫理標準、原則形成和倫理普及的重要組織力量?？蒲腥藛T直接參與研發(fā)設計，對科技倫理負首要責任，科研人員自身的倫理意識直接影響對研發(fā)活動是否符合倫理規(guī)范和審查范圍的判斷。社會公眾作為支持國家科技活動的納稅人和科技產品的消費者，承接科技發(fā)展的最終影響，自然也有權力參與到治理決策中，對相關倫理問題展開公共對話。

(3)治理對象：科技活動全過程?？萍紓惱碇卫淼膶ο笫强萍及l(fā)展全過程，包括科技戰(zhàn)略部署和研究資助、研發(fā)活動以及研發(fā)成果應用的倫理治理。需要國家科技倫理委員會和科技部、財政部等部委協同做好科技倫理治理的關口前置工作，在科技戰(zhàn)略部署和研究資助布局中納入科技倫理考慮和設計，尤其是對于國家重要領域的倫理與社會問題，做好倫理風險的提前研判和相關政策的規(guī)劃部署。在研發(fā)活動進行過程中，對研究項目的目的、受試對象、試驗設計和過程等做好倫理審查，確保符合倫理規(guī)范。在研發(fā)成果應用時，同樣需要借助倫理審查和監(jiān)督把握好科技倫理治理的 “后門”，避免倫理失范的成果造成社會范圍的負面影響。

(4)治理手段：負責任的研究與創(chuàng)新基礎上的多種治理方式。科技倫理治理需要遵循整體性原則，在基礎性治理手段的基礎上注重引入多種新型治理方式。當前國際上廣泛接受和采用的RRI思想充分反映了科技倫理治理原則和價值導向，歐盟新的 “地平線2020”議程中RRI思想內含的整體性治理理念能夠幫助我們更好地構建國家科技治理體系。在RRI思想指導下，構建倫理商議和對話平臺、開展多主體共同參與的倫理和社會影響預見活動、構建匯集并解決倫理問題的互動磋商機制等均是中國科技倫理治理體系可以借鑒采用的敏捷治理方式。

(5)治理模式：主動治理。科技倫理治理的首要環(huán)節(jié)就是判定倫理風險[8]，提前規(guī)避科技成果應用時給個人層面和社會層面帶來的潛在風險，這意味著科技倫理治理本質上應該是遵循 “預防原則”的主動治理，通過倫理審查主動把好科技倫理關，應對科技活動的不確定性。 《意見》所提出的 “倫理先行” “源頭治理” “注重預防” “風險預警”等要求正是對倫理問題進行主動治理的體現。

3 中國科技倫理治理面臨的困局與成因分析

3.1 中國科技倫理治理面臨的困局

在治理五要素分析框架下深入剖析中國科技倫理治理面臨的困局，發(fā)現中國科技倫理治理頂層設計落地難一定程度上表現為治理目標達成度難以確定、各主體認識不統一，治理對象不明晰、不確定，甄別、防控科技倫理風險能力不足，倫理審查力度不足等困局。

(1)治理目標：達成度難以確定?？萍紓惱碇卫淼淖罱K目標是促進科技向善、造福人類，但在治理過程中，平衡科技發(fā)展和科技治理，其合適的度在哪里？也就是說，倫理底線設在何處才能妥善權衡好科技創(chuàng)新的風險收益，達到最佳的治理水平？美國學術界之前討論過關于科學的一些倫理困惑，包括應該停止科學研究嗎？是否應該在科學領先的時候退出？應該給予其他動物權利嗎？將其他生命形式的痛苦降至最低是一個值得稱贊的目標，但也要考慮人類的福祉。從這些倫理困惑中可以看出，在科技倫理治理解決倫理困境時，常常面臨科技倫理治理目標達成度難以確定的困局。不同的目標達成度其治理結果可能不同，或可促進科技健康有序發(fā)展，或會抑制科技創(chuàng)新發(fā)展。

(2)治理主體：各主體尚未達成倫理治理共識。中國政府在宏觀層面對科技倫理治理的認識水平越來越高，近年來不斷加快相關倫理規(guī)范和政策體系建設，但是企業(yè)、科研人員、社會公眾等主體認識水平還不夠，各主體尚未達成倫理治理的共識。企業(yè)同其他主體存在利益差異，成立之初即以盈利為目的，一些科技類企業(yè)采用的算法推薦機制一定程度上造成了科技倫理失范的結果，內容推薦機制使同一階層的人匯聚在一起，加劇了知識鴻溝和社會兩極分化，算法歧視使社會公正面臨失調，進一步強化了對社會弱勢群體的歧視， “大數據殺熟”更是將歧視延伸至每一個人[9]，而且一些企業(yè)容易在追逐利益的過程中忽視倫理問題，違法違規(guī)收集使用個人信息，造成公民信息泄露。公安部在 “凈網2021”專項行動中共偵辦侵犯公民個人信息案件9800余起[10]， “凈網2022”專項行動偵辦案件數量更多，達到1.6萬余起[11]?？蒲腥藛T是科技活動的直接參與者，應該是倫理問題的第一責任人，但是中國科研人員的倫理意識還不夠強，部分科技工作者對倫理審查工作存在偏見，對科研項目的倫理考量不足。根據 《科技工作者狀況調查年度報告 (2020年)》，2020年約有一半科研人員認為自己對科技倫理規(guī)范了解不夠，四成左右科研人員認為我國科技界存在有違科技倫理規(guī)范的現象[12]。另據統計，有25%～50%的科技工作者表示不考慮潛在倫理風險而繼續(xù)開展科技活動[13]?？蒲腥藛T科技倫理意識淡薄不僅影響科技創(chuàng)新高質量發(fā)展，還可能在國際合作中開展有倫理爭議的科技活動，進而引發(fā) “倫理傾銷”[14]。社會公眾對科技倫理的認識也不足，公眾科學素質不高、參與科技咨詢和決策的經驗不足，公眾權利被忽視，尚未建立合理的公眾參與和協商溝通機制，公眾參與決策、協商談判、自主治理的程度較低。醫(yī)學領域倫理審查已有公眾參與的積極嘗試，但公眾參與多數時候較為被動，且公眾參與的范圍、方式和程序等內容尚未制度化。例如，一些倫理審查委員會開展倫理審查時，限于公眾選擇的實際困難，往往只能讓本單位的保安等后勤保障人員參與，公眾參與的客觀性和專業(yè)性不足[14]。

(3)治理對象：不明晰、不確定。隨著越來越多的科技創(chuàng)新活動步入 “無人區(qū)”，研究人員很難準確預測研發(fā)行為邊界和異常情況，研發(fā)過程中具體的治理對象也就更為模糊，充滿了不確定性。而且隨著人工智能、基因編輯、輔助生殖、大數據等新興科學技術的深入發(fā)展，未曾預知的科技倫理事件在全球頻繁發(fā)生，科技發(fā)展的對象逐漸從 “物”轉移到 “人”，使得科技倫理治理對象更難確定，識別科技倫理失范行為更加困難。比如，人工智能發(fā)展中產生的智能機器人屬性界定問題、無人駕駛交通事故的責任方認定問題等都比較模糊。此外，從現有研究來看，科技倫理治理的研究重點主要集中于概念辨析、原則討論、機制分析等，而對科技倫理究竟治理什么仍然不夠明晰，需要明確治理哪些領域、治理哪些倫理問題這些關于治理對象的關鍵點[13]。

(4)治理手段：甄別、防控科技倫理風險能力不足?？萍紕?chuàng)新在給社會釋放大量紅利的同時，也可能因忽視科技倫理風險而給人類帶來不可控的災難性后果，甄別、防控科技倫理風險的難度往往較大，存在 “能力高位蒙蔽困境”和 “防漏補漏機制困境”[15]。前者主要指低能力者難以識別高能力者有意或無意制造的風險隱患，表現為制造風險和甄別、防控風險不對稱，2018年中國發(fā)生的震驚中外的 “賀建奎基因編輯事件”就是如此。后者主要指當前的認知還達不到及時識別并確定是否禁止該項研究的預備條件，表現為科技發(fā)展和科技倫理治理的進程不對稱。比如，當前人工智能快速發(fā)展帶來的人與智能產品之間的倫理沖突，大數據快速發(fā)展帶來的 “大數據殺熟”、算法歧視等，這些都給負責任的研究與創(chuàng)新帶來挑戰(zhàn)，而科技與資本的結合更是加重了防漏補漏的難度，資本對科技的助推使得科技非理性逐利，導致科技發(fā)展可能不受控。

(5)治理模式：倫理審查力度不足。從倫理審查相關政策來看，中國僅在涉及人的生物醫(yī)學研究方面出臺了專門的倫理審查辦法，其他新興科技領域還未有對應的倫理審查細則。從倫理審查機構設置來看，中國倫理審查機構采取 “一院一委”的備案登記制，倫理審查委員會屬于內設部門，審查效率高，但難以確保審查獨立性，也難以真正遵守回避制度，機構內部的利益關聯性削弱了審查的制度功能。以醫(yī)療機構為例，倫理委員會的負責人一般由機構領導擔任，考慮醫(yī)院發(fā)展需要難免會對某些重點科研項目特殊關照，當缺乏外部監(jiān)管時，倫理審查委員會極易 “既當運動員又當裁判”，影響審查結果的公信力。何光喜等[16]在2020年的調查結果顯示，倫理審查發(fā)揮不出應有的規(guī)制效應，約四分之一 (24.9%)的受訪者認為中國科研機構的倫理審查委員會在對科研項目進行倫理審查時， “直接蓋章同意和批復”的現象 “非常普遍”或 “比較普遍”，其中醫(yī)療機構、高校和企業(yè)的這一比例分別為21.1%、31.3%和35.2%。盡管大多數涉及人的科研項目經過了倫理審查，但在一定程度上存在 “走形式”的現象，且企業(yè)和高校是科研倫理審查的薄弱環(huán)節(jié)。

3.2 原因分析

(1)科技活動自身存在較強的不確定性。傳統技術相對而言較為直觀、目的單一、責任明確，現代技術則表現得較為復雜、目的多樣、責任模糊，其不確定性也就更大。人工智能、合成生物等新興科技多是不同學科領域的融合發(fā)展，由不同學科研究人員合作推進，復雜的研發(fā)過程蘊含著相比傳統科技更多的不確定性。此外，當科技和資本結合時，資本逐利的特性和科技發(fā)展的 “初心”可能相差甚遠，導致科技發(fā)展可能不受控，全球化和跨國發(fā)展更加使得這種不確定性被放大。

(2)科技倫理治理相關體制機制仍待完善。中國科技倫理治理體系的建設起步比較晚，盡管當前科技倫理治理體系的頂層設計不斷完善，但相關制度體系尚未有效建立，可落地實施的政策體系還不健全，制度的可操作性較弱，倫理審查和社會公眾協商發(fā)揮的作用有限。較長時期以來的科技倫理治理集中在生物醫(yī)學領域，但倫理審查形式大于實質的情況也反映出中國在倫理審查工作細化和倫理監(jiān)管問責方面的工作還不足，缺乏相應的公開透明機制，未能充分發(fā)揮社會公眾的監(jiān)督作用。這些問題的解決都需要可實際落地實施的體制機制設計，努力克服科學技術發(fā)展的不確定性和倫理滯后性。

(3)科技倫理普及和教育力度不足。2021年中國科協針對全國科技工作者展開的調查顯示，只有28.5%的科研人員認為當前高等教育中的科研誠信和倫理教育充足，55.1%認為不充足；另外，51.8%的科研人員不知道自己單位是否有倫理審查機構[17]。說明中國科技倫理教育理念、模式和方法還不成熟，高校和企業(yè)針對科技倫理的教育和培訓還不足。高校教育是青年學生成為科技工作者之前的關鍵教育環(huán)節(jié)，但當前高校之間的科技倫理教育水平參差不齊，多數學校并沒有針對科研活動開設專門的倫理教育課堂，也缺乏統一規(guī)范的教材。社會倫理環(huán)境建設也不健全，企事業(yè)單位缺乏主動進行科技倫理培訓的意識和機制，各類科技團隊在宣傳普及科技倫理知識方面的工作還普遍不足。在中國科協重點打造的創(chuàng)新資源融通服務平臺—— “科創(chuàng)中國”網站上，僅查詢到中國藥理學會、青海省科協、無錫市醫(yī)學會等少部分學會團體開展的相關科研倫理培訓信息，未見其他學會團體的倫理培訓宣傳報道。

4 新時期科技倫理治理的行動取向和實現機制

新時期科學技術發(fā)展迅速，科技倫理治理也應緊跟形勢，從國家科技安全治理以及實現高水平科技自立自強的高度出發(fā)，搭建好科技發(fā)展的 “剎車系統”，并推動建立多層次、多主體的科技倫理治理體系，追求科技向善，促進負責任的研究與創(chuàng)新。

4.1 新時期科技倫理治理的行動取向

(1)宏觀層面：科技倫理治理同國家科技布局有機結合。從宏觀層面來看，新時期科技創(chuàng)新高質量發(fā)展需要國家在進行科技布局時同科技倫理治理有機結合，從而使科技發(fā)展同高水平安全良性互動?？萍紓惱碇卫砗涂萍及l(fā)展 “互為鏡像”，科技倫理治理水平也反映了一個國家的科技水準[18]。 “十四五”時期，中國將科技倫理治理內嵌于科技自立自強發(fā)展戰(zhàn)略，鼓勵自由探索，支持科學前沿拓展。尤其是在國家科技計劃布局的量子科學、腦科學、合成生物學等重點新興科技、前沿領域，未知因素更多，科技倫理風險相對更大，更加需要政府作為治理主體來統籌引領做好科技倫理治理工作，在國家科技布局中體現對科技倫理治理的支持，增加對科技倫理治理的項目研究資助，助力實現高水平科技自立自強。

(2)微觀層面：科技倫理治理同具體科研項目有機結合。從微觀層面來看，若要將科技倫理治理的頂層設計落到實處，則需要將科技倫理治理嵌入具體科研項目，使項目和治理相伴隨。未來中國需要進一步深化科技倫理治理，將治理原則、標準等真正轉化成項目實踐，推動中國治理從被動應對轉為主動預防。科研項目參與人員在需要著重考慮倫理風險的項目中可以運用倫理設計等方法，將倫理內嵌于具體項目中。荷蘭學派 “道德物化”理論代表了科技倫理從理論走向實踐這一方向，表現為將道德理念通過設計嵌入到物或計算系統中，包括使用加密技術、密鑰管理技術、安全多方計算技術等實現個人隱私保護。大數據和人工智能領域流行的隱私計算、公平計算也是倫理嵌入算法的具體實踐[19]。此外，還可以借助價值敏感設計 (Value Sensitive Design)這一技術創(chuàng)新方法，在概念分析、經驗分析和技術分析三層遞進的分析方法中將增進人類福祉、尊重生命權利、堅持公平公正等抽象的倫理原則轉為有形的、可操作的技術要求[20]，增強科研項目參與人員的倫理意識和價值敏感性，有效實現其與各個利益相關者的互動，在項目早期設計階段和項目進展過程中規(guī)避倫理沖突。

4.2 新時期科技倫理治理的實現機制

科技倫理治理是一項系統性工程，在科技倫理治理體系下，強調系統考慮科技倫理治理五要素，綜合運用科技倫理的價值理念和科技治理的工具和方法來促進科技向善?；诖耍疚臉嫿?“一體一基三翼”科技倫理治理機制 (見圖2)，治理機制內嵌倫理共治，覆蓋科技發(fā)展全過程，在各主體協同共治中平衡科技創(chuàng)新發(fā)展和科技倫理治理的關系，突破倫理治理困局，從而在規(guī)避倫理失范風險時不至于遏制創(chuàng)新。

圖2 “一體一基三翼”科技倫理治理機制邏輯

(1) “一體”：完善各層級科技倫理治理制度體系。倫理在科技治理中發(fā)揮作用，離不開制度的保障。加強科技倫理治理，應該根據科技發(fā)展需要來完善倫理原則、行業(yè)標準規(guī)范等 “軟法”以及部門規(guī)章、法律法規(guī)等 “硬法”，進而推動形成各層級的科技倫理治理制度體系。

第一，對于一些剛剛步入探索的前沿領域或原始創(chuàng)新 “無人區(qū)”，面臨著倫理治理空白的挑戰(zhàn)，可由科學家、倫理學家、社會學家等多學科專家和公眾代表共同商討形成相對寬泛的倫理原則，以 “粗線條”的解決方案[21]來進行恰當的倫理治理，并為科技創(chuàng)新留出發(fā)展空間。

第二，對于發(fā)展較為成熟，通過技術成果轉化與應用形成產業(yè)鏈的成熟科技領域，應該由具體行業(yè)領域的科研人員、技術專家、成果使用者等共同磋商，形成各主體認可的行業(yè)規(guī)范來指導科技活動。當前中國已發(fā)布了 《新一代人工智能倫理規(guī)范》，其他重要科技領域、科技細分行業(yè)也需加緊推動倫理規(guī)范的形成。

第三，對于一些規(guī)范性、強制性較高的倫理要求，研發(fā)設計中的核心倫理原則與規(guī)定應該明確為強制性的部門規(guī)章和法律法規(guī)，以強制性的程序要求來支持或保障倫理治理的執(zhí)行和效果，基于底線約束、保障私人權利、兼顧公共利益保護、可行性來實現科技倫理法治[22]。相關立法也要體現 “全過程”的科技倫理治理要求，既要有對 “上游”研發(fā)設計的原則性、程序性規(guī)制，也要有對 “下游”科技使用違法行為的處罰和糾偏機制，將敏感價值的保護需要作為判斷立法優(yōu)先性和是否提升法律位階的實質標準，并以科技倫理基本法和科技重點領域專項性立法[23]來構建中國科技倫理治理法律制度框架。

應該注意，要避免將科技倫理問題過度泛化，倫理問題無法全靠法律法規(guī)來解決[19]，法律不等于倫理，法律是倫理的底線，很多倫理問題都是不同群體間的價值沖突，需要共同磋商形成互相認可的倫理標準。

(2) “一基”：加強科技倫理普及和教育。樹立科技倫理意識是建設科技倫理規(guī)范、推動科技倫理治理的前提。全社會各科研單位、科技類企業(yè)都有責任進行科技倫理普及和教育，行業(yè)組織、社會團體以及高校則是重要的排頭兵。

第一，發(fā)揮中國科協、地方科協、各研究領域學會在科技倫理普及、宣傳教育方面的重要作用，推動完善科技界的倫理自律體系，并助力提升社會公眾的科技倫理意識。充分利用現有的各類科技平臺，在 “科創(chuàng)中國”平臺、科技服務公共平臺、技術交易平臺及各地、各領域政產學研平臺上嵌入科技倫理宣傳交流模塊，發(fā)揮各類平臺的科技倫理宣傳教育作用。各科研單位、企業(yè)應該將科技倫理培訓納入科技人員入職培訓體系當中，可主動組建倫理研究團隊來完善本單位的倫理自律自治機制。各級科協、各類學會和研究會等行業(yè)組織、社會團體應該積極主動作為，借助各類峰會、研討會、公開演講和辯論、科普知識講座、科普讀物、專門的教育培訓等途徑傳播科技倫理知識，宣傳科技倫理治理相關制度，促進全社會層面形成倫理共識。

第二，強化高?？萍紓惱斫逃瑢⑵浼{入專門課程，作為相關專業(yè)學科本?？粕?、研究生教育的重要內容，引導青年學生主動遵守科技倫理規(guī)范，培養(yǎng)負責任的下一代科研人員，充實復合型的科技倫理專業(yè)人才隊伍。當前，清華大學正在牽頭推動高校科技倫理教育工作[24]，未來需在專題研究探討、科技倫理課程建設、專業(yè)教材建設方面下功夫，還需在課堂之外將科技倫理教育融入科研活動中，以避免科技倫理教育泛化，讓科技倫理觀念真正內化于心、外化于行。

(3) “三翼”：完善倫理審查機制、多主體互動治理機制和全球合作機制。

一是完善倫理審查機制。第一，保證倫理審查委員會的獨立性，提高非本機構社會人士擔任委員的比重，吸收所在行業(yè)學會的高水平專家擔任委員，對于同社會公眾密切聯系的科研機構或科技型企業(yè)，也可以吸收專業(yè)水平高的公眾代表擔任委員，提升倫理審查的客觀性。在設立程序上采用 “第三方認證制度”，以保證審查主體擁有合格的倫理審查和監(jiān)督資質。第二，基于倫理風險評估完善倫理分級審查機制，可以按照省級行政區(qū)劃建立省內各科技領域的區(qū)域倫理審查委員會，完善倫理審查委員會層級。加強前瞻性治理，通過問題清單、倫理悖論推演等多種形式評估風險水平，及時出臺分領域的科技倫理高風險科技活動清單。低風險科技活動由機構內部自行開展倫理審查，比如體細胞的基礎研究；中風險科技活動在必要時可以引入外部區(qū)域倫理審查委員會進行倫理審查復核，比如體細胞的臨床試驗；高風險科技活動必須經由國家科技倫理委員會逐一進行個案審批，比如生殖系基因組編輯[23]，以最大程度降低倫理風險。第三，基于 “敏感價值+關鍵領域”合理確定倫理審查范圍。敏感價值即人類主體性價值，包括利益與福祉、自由與自主、人性與權利、環(huán)境與安全等，關鍵領域包括國家科技計劃重點關注的人工智能、量子科學、腦科學、納米科學、干細胞、合成生物學等前沿領域[13]，這些前沿領域中涉及敏感價值的部分則是倫理審查的重點范圍。另外，還要完善科技倫理應急審查機制，滿足特殊時期的科技需求，并做好國際合作研究項目的科技倫理審查，防止將不符合所在國倫理要求的研究轉移到倫理監(jiān)管相對寬松的國家繼續(xù)進行的倫理傾銷行為[8]。第四，在倫理監(jiān)管問責上，明晰倫理失范的識別方式和具體范圍，明確科技倫理治理的底線和失范行為的問責處置。政府在監(jiān)管科技倫理風險時要注重擴大監(jiān)管覆蓋面，實現對新技術研發(fā)應用的全過程倫理監(jiān)管，讓負責任的研究與創(chuàng)新貫穿所有環(huán)節(jié)。要有底線意識，根據國內外公認的倫理原則和必須遵守的價值理念劃出科學倫理治理的底線，形成科技活動嚴格的道德倫理邊界和底線，對嚴重失范行為實施終身追責，建立倫理失范的科學家黑名單制度，對其申請資助和開展研究項目實施限制，涉嫌違法犯罪的及時移送司法機關處理。

二是完善多主體互動治理機制。在科技發(fā)展戰(zhàn)略制定、政策形成與實施、研究活動與應用等整個過程中，各個行為主體發(fā)揮著不同程度的治理作用。第一，政府方面應該打破科研管理各部門多頭管理的困局，促進跨機構協作治理，依托國家科技倫理委員會統一協調推進倫理審查、評估、監(jiān)管體系建設，依托公開統一的國家科技管理平臺，公布科研項目全過程倫理審查等信息，對違反科技倫理規(guī)則的項目進行相應的懲處，包括取消資助項目、收回資助項目資金等，發(fā)揮財政資助項目的倫理示范效應；政府也要積極轉向服務型政府，牽頭構建多主體協商機制，搭建國家級的科技倫理綜合網絡平臺，支持不同利益相關者借助平臺對話交流，鼓勵社會公眾通過網絡途徑參與到討論和決策中來。第二，企業(yè)應該做好自我規(guī)約，各類型科技企業(yè)應營造良好的企業(yè)倫理文化，加強行業(yè)自律，根據行業(yè)特點制定企業(yè)自律原則，做好本企業(yè)科研項目倫理風險評估，對照國家發(fā)布的重點領域科技倫理高風險科技活動清單做好項目的倫理審查，發(fā)布倫理原則遵循情況和倫理審查情況年度報告，主動回應公眾訴求，積極承擔社會責任。第三，發(fā)揮人文和社會科學專家、科技團體、社會公眾等的監(jiān)督和反思作用，暢通事前主動介入倫理治理的渠道，充分表達利益訴求，深度參與到決策過程中；科研人員應該主動遵守倫理治理相關規(guī)則，在制度框架內從事科技活動，主動通過倫理設計等方式將倫理原則轉化為行動。第四，構建多主體互動協作下的行動者網絡[19]，通過選舉程序選出各主體代表，組建多主體代表聯席商議倫理團體，發(fā)揮團體代表的決策咨詢作用，以合作研究、互動磋商、頭腦風暴等形式將分散的知識協調組織起來，讓各主體在透明交互的過程中互相交流、充分反饋科技活動全過程的倫理問題，讓應該遵守的倫理底線明晰化，以提升甄別、防控科技倫理風險的能力和水平。

三是完善全球合作機制。歷史上的中國是引進模仿型創(chuàng)新， “先做事、后討論”的模式引發(fā)的一些科技倫理問題嚴重影響了中國科技發(fā)展的國際形象，隨著越來越多的科技領域由 “跟跑”走向 “并跑” “領跑”，國家科技計劃強化原始顛覆型創(chuàng)新導向，必須轉變傳統的 “先做事、后討論”策略，積極主動參與國際科技倫理治理合作，在國際科技競爭中掌握科技倫理話語權，防止國際上的科技倫理 “霸權”。同時，新技術的快速發(fā)展很快打破了國家邊界，科技活動具備全球性，科技倫理風險是全人類面臨的共同挑戰(zhàn)，加強科技倫理全球對話和商議，推動國際社會形成各個領域的倫理共識是未來各國共同努力的方向。應該注意，不同國家的科技倫理治理水平參差不齊，使得倫理傾銷問題可能出現，因此在全球合作中應從 “人類命運共同體”的立場出發(fā)，破除狹隘的國家保護主義、民族主義，建立有效的國際信任、磋商機制，構建統一的國際倫理標準和公約，共同促進科技真正造福全人類。