劉益東

“科技重大風險治理研究與人類安全”專欄

科技重大風險與人類安全危機：前所未有的雙重挑戰(zhàn)及其治理對策

劉益東

（中國科學院 自然科學史研究所，北京 100190）

開展科技重大風險治理研究，確保人類安全與可持續(xù)創(chuàng)新及發(fā)展是當務(wù)之急。科技重大風險研究主要包括三項內(nèi)容：一是研判科技重大風險的嚴峻性與緊迫性，這是首要前提；二是確定開展科技重大風險專門研究的重點難點，這是研究主體；三是探討新型決策機制，這是治理對策的切入點和啟動方案。指出近年來尖端科技發(fā)展迅速、威力異常，呈現(xiàn)出科技大爆發(fā)態(tài)勢，其不可控性和不確定性日益增強，科技倫理事件頻發(fā)，貿(mào)易戰(zhàn)、科技戰(zhàn)、軍備競賽不斷升級，科技重大風險愈演愈烈，而當前防控科技重大風險的多道人類安全防線都存在嚴重漏洞，深陷危機，人類面臨前所未有的雙重挑戰(zhàn)。為此急需新型決策機制，急需啟動從粗放式創(chuàng)新與競爭向可持續(xù)創(chuàng)新與合作的大轉(zhuǎn)型予以應(yīng)對。

科技重大風險；致毀知識；人類安全；非傳統(tǒng)安全；底線思維；硬倫理；分配革命；競爭方式陷阱

進入21世紀，特別是最近10年來，尖端科技發(fā)展迅速、威力異常，呈現(xiàn)出科技大爆發(fā)態(tài)勢，其不可控性和不確定性日益增強，科技倫理事件頻發(fā)，科技重大風險備受關(guān)注?？萍贾卮箫L險源于多種因素，科技的粗放式發(fā)展、粗放式創(chuàng)新與粗放式競爭是主因。筆者以致毀知識為主要研究對象開展科技重大風險研究22年，深知防控科技重大風險的研究至少包括六大必備要素，總體上分為三個部分：一是研判科技重大風險的嚴峻性與緊迫性，這是首要前提；二是確定開展科技重大風險專門研究的內(nèi)容，這是研究主體；三是探討新型決策機制，這是治理對策的切入點和啟動方案，這也構(gòu)成了本文的三個部分。

1 前所未有的雙重挑戰(zhàn)：科技重大風險愈演愈烈與人類安全防線存在諸多漏洞

研判科技重大風險的嚴峻性與緊迫性是當務(wù)之急，也是科技重大風險治理的首要前提，只有認清和把握風險的嚴峻性與緊迫性，才可能對其研究和治理給予及時充分的重視與資源配置。目前關(guān)于科技重大風險（科技巨風險、科技極端風險等）研究的情況是，在國內(nèi)除了幾篇政策解讀性文章之外，鮮有以其為主題的研究；國際上在“生存風險”、“全球巨災(zāi)風險”研究中有涉及科技重大風險的內(nèi)容（下文詳評），但是在研判風險嚴峻性緊迫性這個環(huán)節(jié)明顯不足，主要表現(xiàn)為對科技重大風險的現(xiàn)象、統(tǒng)計、成因和趨勢有所分析論述，但是忽視了對科技重大風險防控措施局限性和漏洞的揭示及概括。

1.1 科技的粗放式發(fā)展、粗放式創(chuàng)新與粗放式競爭導致科技重大風險愈演愈烈

科技發(fā)展的動力是多方面的，個人和機構(gòu)的好奇心、優(yōu)先權(quán)、專利權(quán)、競爭優(yōu)勢及科技、經(jīng)濟、軍事、國家等各種利益，都是科技發(fā)展的驅(qū)動力，其中競爭居于核心地位。科學社會學家哈麗特?朱克曼（Harriet Zuckerman）引用西蒙?韋爾的名言指出有三種原因推動科學前進：1）技術(shù)應(yīng)用；2）棋賽（棋賽意味著競爭、獎金和獎?wù)拢?）通向上帝之路（追求真理）[1]?？萍际泛同F(xiàn)實都表明，在職業(yè)科研活動中，優(yōu)先權(quán)競爭往往是第一位的，當優(yōu)先權(quán)與追求真理沖突時大都如此，因此從職業(yè)的角度看，棋賽競爭是科學發(fā)展的第一動力。在市場經(jīng)濟中競爭居于核心地位，科技經(jīng)濟一體化，所以科學技術(shù)發(fā)展，競爭也居于核心地位。競爭是多層次多領(lǐng)域的，包括科技、經(jīng)濟、軍事、社會制度等的競爭，而惡性競爭危害巨大，筆者將其稱之為“競爭方式陷阱”或“賽道陷阱”，用以說明只顧與對手競爭，忽視競爭方式本身的缺陷而迷失方向損人害己陷入危機的情況。競爭方式比競爭對手的危害更大是指：在該競爭方式下戰(zhàn)勝對手的同時也損害自己，而且損害自己的程度有時比對手戰(zhàn)勝自己更嚴重，發(fā)動核戰(zhàn)爭就是如此[2]。工業(yè)革命以來形成的西方市場經(jīng)濟制度有三大缺陷，一是犧牲環(huán)境的粗放式發(fā)展，二是犧牲安全的粗放式創(chuàng)新[3]，三是既犧牲環(huán)境也犧牲安全的粗放式競爭，三者互相結(jié)合、加強，不僅破壞環(huán)境，更是對人類安全造成巨大威脅。環(huán)境問題已經(jīng)引起重視，而人類安全問題被長期忽視。眾所周知，科技風險伴隨科技的大規(guī)模發(fā)展與應(yīng)用而不斷增多，有學者根據(jù)世界衛(wèi)生組織“突發(fā)事件數(shù)據(jù)庫”統(tǒng)計數(shù)據(jù)，發(fā)現(xiàn)自1900年至2006年所發(fā)生的科技災(zāi)難共約6152起，且隨著科技進步的加速而同步上升，技術(shù)災(zāi)難的數(shù)量增長接近于指數(shù)增長規(guī)律，且近30年來發(fā)生的技術(shù)災(zāi)難數(shù)量占了整個技術(shù)災(zāi)難數(shù)量的92%[4]。隨著生物安全實驗室的增加，實驗室泄漏事件也隨之增加，2004～2014年，美國生物安全實驗室的數(shù)量增加約2倍，美國CDC2012年報告指出，美國生物實驗室泄漏事件2004年有16起，2008和2010年則分別為128和269起?！督股镂淦鞴s》已于1975年生效，但它并不禁止預防和防御性的研發(fā)，結(jié)果是不少國家仍在進行相關(guān)研究。隨著新興生物技術(shù)的快速發(fā)展，有軍事專家認為，21世紀人類面臨的最大威脅可能就是不斷改進的生化武器[5]。拉瑞?羅曼諾夫（Larry Romanoff）指出：幾十年來，美國政府及其許多機構(gòu)對生物戰(zhàn)進行了深入研究，其中許多研究都集中在種族特異性病原體上。在提交給美國國會的一份報告中，美國國防部透露，其制造人工生物制劑的計劃包括修改非致死性病毒使其具有致命性，以及通過基因工程改變生物制劑的免疫學特性，使其無法治療和接種疫苗。這份軍事報告承認，當時它經(jīng)營著大約130個生物武器研究設(shè)施[6]。同樣以“防御性”為名的美國《生物盾牌計劃》于2004年實施，2004～2013年美國政府為生物盾牌計劃撥款55.93億美元[7]。如果說核戰(zhàn)爭沒有贏家，玉石俱焚，那么生物戰(zhàn)更沒有贏家，病毒通吃，生物武器被稱為窮國的原子彈，能夠掌握生物武器的國家遠比掌握核武器的國家多，而且其不依賴稀缺的原材料，使用門檻又比較低。研發(fā)和儲藏過程中，實驗室安全不能完全保障，而且實驗室關(guān)得住病毒卻關(guān)不住制造病毒、復制病毒的知識，極易被恐怖分子和生物黑客利用或誤用濫用，因此發(fā)展和競爭生物武器完全是損人害己。在競爭至上、眼前利益優(yōu)先等傳統(tǒng)理念和有關(guān)利益集團的推動下，科技冷戰(zhàn)、軍備競賽愈演愈烈，美國不僅廢除中導條約（2019.8），不斷增加軍費（2019財年7160億美元），不斷開發(fā)尖端武器，更可怕的是，美國政府機構(gòu)于2018年底批準了爭議巨大、非常危險的禽流感病毒改造實驗等[8]，這些凸顯“競爭方式陷阱”的惡果，是典型的只關(guān)注競爭對手，忽視了競爭方式帶來的威脅和危害，錯誤的競爭方式使科技重大風險不斷升級。正如劉孝廷指出的：“生態(tài)問題的存在之根本就是以競爭為基礎(chǔ)的整個地球文明有致命缺陷。”[9]“如果不反思發(fā)展的前提、發(fā)展的動機和目的、發(fā)展的手段等，盲目發(fā)展的后果是不堪設(shè)想的?！盵10]綜上所述，科技重大風險愈演愈烈，并且是制度性、系統(tǒng)性和累增性的，挑戰(zhàn)極為嚴峻，前所未有[11]。

1.2 防控科技重大風險的人類安全防線存在諸多嚴重漏洞、不堪重任

關(guān)于科技重大風險，近年來越來越受到學術(shù)界和社會的重視，但是已有研究忽視了防范化解科技重大風險面臨的困難。筆者發(fā)現(xiàn)目前多道人類安全防線存在嚴重漏洞，風險防控形勢異常嚴峻。筆者揭示和概括出人類安全防線的十大主要漏洞如下。[12, 13]

（一）科技倫理、科技法律與安全監(jiān)管存在嚴重漏洞

近年來人工智能、合成生物學、基因編輯技術(shù)等發(fā)展迅速，引起人們的擔憂和恐慌，為此引發(fā)了科技倫理、科技法律熱潮。筆者認為科技倫理、科技法律存在嚴重漏洞，甚至可以說是科技倫理失靈、科技法律失靈，即科技倫理和科技法律不能約束世界上所有實驗室和科技專家。用倫理法律約束不端行為，在社會生活中有效，少數(shù)人違反的危害畢竟有限，但是在科技領(lǐng)域效果并不理想，因為世界上有233個國家和地區(qū)，科技倫理、法律各異，倫理和法律的空白和漏洞很多，公海和荒島更難監(jiān)控，黑客、創(chuàng)客與瘋狂科學家等不受約束。例如，美國禁止基因編輯“三父母”嬰兒技術(shù)，美國科學家團隊就在不限制該技術(shù)的墨西哥進行操作，使得世界上首例細胞核移植“三父母”嬰兒于2016年誕生。一些企業(yè)研發(fā)機構(gòu)也不會因為其產(chǎn)品容易轉(zhuǎn)化而被恐怖分子利用就自我約束。對于科學發(fā)現(xiàn)與技術(shù)發(fā)明而言，做出1次和做出100次是一樣的，在知識極易擴散的互聯(lián)網(wǎng)時代，加強科技倫理、科技法律和安全監(jiān)管至關(guān)重要，但是也應(yīng)該清楚其本身存在的局限和漏洞[12]。近期，科技倫理研究雖成熱點，遺憾的是，不少研究忽視了科技倫理法律存在嚴重漏洞，忽視了研究科技倫理科技法律的前提是研判目前科技重大風險的嚴峻性與緊迫性，結(jié)果事倍功半。

（二）提高科技專家及相關(guān)人員的責任水平、自律水平和道德水平存在嚴重漏洞

長期以來的主流觀點認為科技是雙刃劍、技術(shù)是雙刃劍，科技本身是工具、是中性的，提高科技專家和科技應(yīng)用者的責任感、自律水平、自治水平和道德水平是科技至善、防控科技風險的關(guān)鍵?！皣鈱W者盡管研究科學技術(shù)負面效應(yīng)問題的觀點和角度不同，但最終都落在人的問題上。這是不難理解的，因為人是科學技術(shù)負面效應(yīng)問題的焦點，所有科學技術(shù)負面效應(yīng)問題都是由于人對科學技術(shù)把握的水平、思維方式以及道德動機落后于現(xiàn)實等原因造成的。提高人的素質(zhì)，挖掘人的潛力是解決科學技術(shù)負面效應(yīng)問題的關(guān)鍵?！盵14]可見，主流觀點是把治理科技風險和負面作用寄托在提高人的素質(zhì)、責任水平、道德水平和倫理及法律的約束之上，負責任研究與創(chuàng)新（RRI）就是如此。這種主張的漏洞在于：一是即使人們普遍提高了責任感和道德水平，只要有少數(shù)科技專家、創(chuàng)客、瘋狂科學家不負責任即可釀成大禍（理由如科技倫理法律失靈），更何況掌握尖端科技可以讓個人擁有君臨天下的生殺大權(quán)，總會有人禁不住誘惑，利用尖端科技為非作歹；二是在錯誤的科技發(fā)展模式下（信奉科學無禁區(qū)的科學模式下），即使完全遵循科技倫理規(guī)范進行負責任的研究與創(chuàng)新仍然不能防控科技重大風險，例如發(fā)現(xiàn)核裂變的奧托?哈恩做的就是負責任的研究，否則怎么可能得到諾貝爾化學獎？三是不同角度對負責任的理解不同，愛因斯坦提議美國研發(fā)原子彈，是因為擔心納粹德國搶先造出原子彈，當時的美國曼哈頓計劃就是負責任的創(chuàng)新（而從人類視角看研發(fā)核武器是最不負責任的創(chuàng)新）。因此在許多情況下，對負責任、有道德可以有不同理解，有相對性，無法用“負責任研究與創(chuàng)新”來防控科技重大風險。

（三）確保相互摧毀不能確保自身安全，平衡戰(zhàn)略存在嚴重漏洞

科技史和現(xiàn)實情況表明，尖端科技的出現(xiàn)和發(fā)展，往往會被用于尖端武器研發(fā)，科技界和社會對此司空見慣，科學家對此聽之任之，也許是因為相信只要確保相互摧毀，就能確保自身安全。此信念來自所謂的“核平衡”，即1945年原子彈爆炸之后沒有再發(fā)生核戰(zhàn)爭，使人誤以為是核平衡的作用，進而把核平衡擴大到基因武器平衡、人工智能武器平衡、納米武器平衡等，認為發(fā)展尖端武器，只要確保相互摧毀，維持尖端武器平衡等平衡戰(zhàn)略，就可確保自身安全。筆者認為這完全是誤解。第一，沒有發(fā)生核大戰(zhàn)與核災(zāi)難，并非是有效控制了核風險，而是因為幸運，二戰(zhàn)后世界上發(fā)生多次核危機和事故讓核戰(zhàn)爭一觸即發(fā)，僥幸才得以避免[11]。正如美國哲學家理查德?羅蒂（Richard Rorty）指出的，“人類活過了原子彈造出以后的五十年，純粹是偶然的?！钡诙?，生物、納米、人工智能等尖端武器，不像核武器那樣依賴稀缺的原材料，使用門檻較低，容易擴散、為壞人所有。第三，創(chuàng)客、黑客、極客、企業(yè)實驗室、瘋狂科學家乃至科技恐怖分子都可以借助全球化的公共研發(fā)平臺進行尖端科技與尖端武器研發(fā)，生物實驗室等尖端科技實驗室的泄漏、失竊事件不斷發(fā)生，研發(fā)活動并不能得到有效控制。“相互摧毀的能力”不能完全控制在國家政府的手中，不對稱戰(zhàn)爭和恐怖活動隨時可能發(fā)生，因此確保相互摧毀并不能確保自身安全，開發(fā)尖端武器的理由根本不成立，最終害人害己[11]。例如，以防御為名開發(fā)生物武器，無論有意還是事故，都可能導致生物病毒疫災(zāi)在全球泛濫，沒有國家可以幸免。

（四）揚長難以避短：揚長避短機制存在嚴重漏洞

人類進化與文明演進發(fā)展出許多重要智慧和體制機制，揚長避短就是其中之一。在科技發(fā)展問題上的揚長避短，就是解決“在科技發(fā)展與應(yīng)用的過程中，如何發(fā)揚科技的正面效應(yīng)而避免其負面效應(yīng)？能否防范化解科技重大風險？”這一問題。筆者的研究表明，科技發(fā)展可以揚長（科技繼續(xù)發(fā)展、應(yīng)用以增加正面效應(yīng)）但是難以避短（難以防范化解伴隨而來的科技負面效應(yīng)與風險），理由有六點：1）考慮問題的角度不同，對負面效應(yīng)的理解不同，應(yīng)用核科技研制原子彈，從軍事角度看它不是負面效應(yīng)，從人類安全角度看就是負面效應(yīng)，當然我們要以人類安全為主視角，但是在現(xiàn)實當中，總有不同視角和不同利益訴求；2）時效不同，有些成果短期看是正面效應(yīng)，長期才暴露出負面效應(yīng)，如DDT；3）考慮成本和競爭，即使知道有負面效應(yīng)，為了節(jié)約成本、提高競爭力，企業(yè)急功近利且容易逃避責任，故意不消除其負面作用，造成對消費者的慢傷害，例如食品添加劑、草甘膦農(nóng)藥；4）不可分割、不可抵消，科技成果一旦進入學術(shù)界、社會、市場將會得到各種可能的應(yīng)用，加上不同視角、不同時效、節(jié)約成本等因素，使得成果的正面效應(yīng)、負面效應(yīng)等各種效應(yīng)都不可避免，對于尖端科技而言，其正負效應(yīng)不能抵消，例如核電站、核醫(yī)學不能夠抵消核戰(zhàn)爭、核事故，生物制藥、基因療法不能抵消基因武器和生物病毒所致災(zāi)難[15]，不能抵消的結(jié)果就是正面效應(yīng)再大也不能避短，是一壞遮百好；5）面對科技身不由己，是否使用、如何使用科技有時并不由使用者決定，在利益驅(qū)動和競爭格局下，科技會誘使、迫使人們使用，即使產(chǎn)生負面效應(yīng)、即使對自己不利，也不得不研發(fā)使用，一些國家進行核武器生物武器研發(fā)就是如此；6）科技負面作用，特別是巨大的負面作用，可以給制造者生殺予奪的權(quán)力，世界上總有壞人和極端分子以及機器人，會用它發(fā)號施令、為非作歹，何況人會權(quán)衡利弊得失，面對巨大權(quán)力總有人禁不住誘惑。以上分析表明，在當下世界主流經(jīng)濟與科技發(fā)展模式下，不能籠統(tǒng)地、一廂情愿地說科技是雙刃劍要揚長避短，實際上，科技發(fā)展可以揚長卻不能避短或難以避短[12]，對此，我們必須實事求是地予以面對，要具體分析在什么條件下可以揚長避短、可以科技至善。

（五）甄別風險與安全隱患的能力存在嚴重漏洞

防控風險需要及時甄別風險和安全隱患，而這高度依賴某種能力，能力低者難以識別能力高者有意或無意制造的風險、隱患和造假及圈套，如同二三流智囊軍師無法識破一流智囊軍師設(shè)計的圈套一樣，陷入“能力高位蒙蔽困境”，這與人們所說的高段位能力者可以向下兼容有類似之處，這里所指的能力范圍較廣，包括科技能力、智庫能力、研究能力、技藝能力、情感能力等。風險制造容易、甄別卻很困難、防控更困難，在多種情況下都可以制造風險，而甄別風險、防控風險卻需要達成共識，風險的制造與甄別防控極不對稱。如果領(lǐng)先的高水平科技制造風險和安全隱患（有意或無意），同等水平和較低水平科技就難以甄別和防控，體育等領(lǐng)域的興奮劑制造使用與興奮劑檢查上的技術(shù)博弈就是如此，這也是人們熱衷研發(fā)“黑科技”的原因之一。筆者稱這種現(xiàn)象為“能力高位蒙蔽現(xiàn)象”或“能力高位蒙蔽定律”（簡稱“高位蒙蔽定律”）[13]，可見科技倫理法律的實施與安全監(jiān)管困難重重，絕非易事。

（六）廣義科林里奇困境：防漏補漏機制失靈

對安全漏洞的防控和修補至關(guān)重要，對于人類安全漏洞而言更是如此。防漏補漏的前提是認知到位，認知科學中的短橋原理表明任何新的知識都需要在接近的舊知識（預備條件）的基礎(chǔ)上才能得到。得到新認知往往經(jīng)歷“模糊-清晰-非共識-共識”等階段，因此防漏補漏絕非易事。與此有關(guān)的包括科林里奇困境（Collingridge dilemma）和科研禁區(qū)困境，前者指在評估技術(shù)發(fā)展中面臨的困境：在技術(shù)還未成型、還未廣泛應(yīng)用之前難以準確預測其后果，當技術(shù)確定之后再控制或改變它卻非常困難；后者是筆者根據(jù)認知科學中的短橋原理提出的科研禁區(qū)困境，從時間與空間兩方面豐富了科林里奇困境，即當時間提前較多、來得及禁止時卻因預備條件尚未出現(xiàn)而難以識別和確定該研究是否應(yīng)該禁止，當預備條件出現(xiàn)后能確定該研究屬于應(yīng)禁之列時又由于連鎖效應(yīng)和關(guān)聯(lián)效應(yīng)而禁止不住了，設(shè)置的科研禁區(qū)范圍大可以實現(xiàn)有效禁止，但是范圍大的禁區(qū)難以設(shè)置，科研禁區(qū)范圍小，容易設(shè)置，卻又不能有效禁止[15]。據(jù)此，筆者進一步提出“防漏補漏機制困境”，包括三點：1）防止出現(xiàn)漏洞和及時修補漏洞，都需要認知到位，而認知過程（模糊-清晰-非共識-共識）的特點決定了及時防止漏洞出現(xiàn)和及時修補漏洞絕非易事；2）因為漏洞的出現(xiàn)有多種方式，有漸進形成型，也有突然涌現(xiàn)型，前者可能由于“溫水煮青蛙”，因沒有足夠的警覺和清晰的共識而無法及時阻止漏洞的出現(xiàn)，突然涌現(xiàn)型更是防不勝防；3）及時修補漏洞也不容易，因為出現(xiàn)漏洞意味著相關(guān)因素已經(jīng)成型，盤根錯節(jié)，所謂修補需要改變的不僅是漏洞本身，更要改變漏洞的成因，而且漏洞一旦出現(xiàn)就可能有正反饋，如民諺所說的“一針不補，十針難縫”、“千里之堤毀于蟻穴”，許多情況下，修補漏洞比另起爐灶更難。目前的人類安全防務(wù)同樣陷入防漏補漏機制困境。

（七）知識生產(chǎn)與增長的選擇機制存在嚴重漏洞

知識生產(chǎn)與增長的選擇性是防控科技風險的關(guān)鍵，筆者通過提出“致毀知識”概念、提出和解決一組問題（4個前提和1個問題，詳見本文2.2節(jié)）來對此進行分析，得出的結(jié)論是：在目前發(fā)達國家主流科技與經(jīng)濟一體化發(fā)展模式下，不能有選擇地生產(chǎn)知識，不能有選擇地進行創(chuàng)新，有26個原因說明在科技知識增長與應(yīng)用的同時不能阻止致毀知識的增長與應(yīng)用，因此人類面臨毀滅的危險是不斷累加和遞增的，達到一定程度必然會發(fā)生毀滅性災(zāi)難，而且這種不可逆增長的危險累進方式，使得毀滅性災(zāi)難發(fā)生的幾率越來越大，如不及時制止，必然直至爆發(fā)[15]。由此可見，知識生產(chǎn)與增長的選擇機制失靈，人類安全防線存在嚴重漏洞。

（八）西方科技發(fā)展模式存在著與生俱來且不斷惡化的嚴重缺陷與轉(zhuǎn)型困難

現(xiàn)代科技是西方科技，存在著與生俱來的內(nèi)在缺陷和科技與社會關(guān)系方面的缺陷，把優(yōu)先權(quán)、專利權(quán)等知識產(chǎn)權(quán)的即時競爭與市場經(jīng)濟制度的眼前利益優(yōu)先巧妙地結(jié)合起來，活力十足，卻急功近利。西方科技及其市場轉(zhuǎn)化事業(yè)碩果累累，但是從安全的角度評價，存在巨大缺陷：科學上長期信奉科學無禁區(qū)、認識無禁區(qū)，管理上獎懲極不對稱（做出科學發(fā)現(xiàn)可以得到科學大獎，即使其應(yīng)用引起巨大災(zāi)難）；科學技術(shù)與資本結(jié)合，科學技術(shù)與個人主義結(jié)合，科學個人主義（科學主義+個人主義）盛行，眼前利益優(yōu)先，作為科技產(chǎn)業(yè)典范的硅谷，無論研發(fā)和創(chuàng)新存在多大風險與隱患，信奉的是“先做出來，再請求諒解”，倫理不是硅谷頂級科技專家考慮的事，他們一貫將倫理視為技術(shù)創(chuàng)新和進步的絆腳石[16]?？萍甲鳛橥顿Y對象的結(jié)果是，科技按照資本的邏輯運行，許多非理性、賭博、集體瘋狂行為都會出現(xiàn)?？萍疾粌H成為經(jīng)濟驅(qū)動力，同時也是國家戰(zhàn)略資源，在信奉叢林法則和競爭至上的某些西方國家里，科技成為軍備競賽的核心能力。西方科技發(fā)展模式就是科技的粗放式發(fā)展與粗放式創(chuàng)新，它們只考慮或主要考慮經(jīng)濟收益和競爭優(yōu)勢，不考慮或不優(yōu)先考慮科技風險、創(chuàng)新風險和創(chuàng)新負面效應(yīng)（考慮的也是投資的財務(wù)風險），不考慮負的外部性，以犧牲安全為代價在爭議中快速發(fā)展[17]。這種科技發(fā)展模式多是產(chǎn)生、加劇而不是防范化解科技重大風險，而且還削弱科技倫理法律等防范措施的作用[18]?！巴ㄟ^研究的制度化，把科學并入現(xiàn)行的經(jīng)濟結(jié)構(gòu)，使之成為商業(yè)組織的一個正常部分”（丹尼爾?貝爾），因此，西方科技發(fā)展模式的缺陷是與西方市場經(jīng)濟制度的缺陷密不可分的。要改變目前西方主流科技發(fā)展模式，從粗放式創(chuàng)新轉(zhuǎn)向可持續(xù)創(chuàng)新絕非易事，因為粗放式創(chuàng)新是西方科技創(chuàng)新的主體，形成了從觀念、文化、教育到組織、制度、體制機制及既得利益集團等以國家安全和財富為中心的體系，要轉(zhuǎn)變?yōu)橐匀祟惏踩珵橹行牡目沙掷m(xù)創(chuàng)新體系，需要盡快克服一系列巨大困難。

（九）囚車劍魔四大困境：知錯糾錯機制存在嚴重漏洞

知錯糾錯機制是人類生存發(fā)展的最重要的機制之一，工業(yè)革命以來形成的市場經(jīng)濟制度下科技與經(jīng)濟一體化發(fā)展模式，因科技與資本結(jié)合，活力十足，但是急功近利，這種錯誤的發(fā)展模式正在危及人類安全，必須予以糾正，但是目前社會的知錯糾錯機制存在嚴重漏洞，甚至可以說是糾錯機制失靈。把著名的囚徒困境與筆者提出的動車困境、雙刃劍困境、魔戒困境合在一起，從人類是否犯重大錯誤和能否認清、糾正、抵消、易犯重大錯誤的角度來揭示人類面臨的根本性困境和人類安全漏洞，簡稱“囚車劍魔”四大困境[19]。囚徒困境表明吃一塹未必長一智，認清錯誤、避免錯誤很困難。動車困境表明錯誤是在人類活動中產(chǎn)生的，發(fā)現(xiàn)錯誤時往往不能實行“先暫停、再糾錯”，而是“邊繼續(xù)、邊爭論、邊糾錯”。小的錯誤可以通過獲得正確的認識來糾正，但是大的錯誤，特別是關(guān)乎科技與經(jīng)濟發(fā)展模式的大錯，僅有正確的認識是遠不足以糾正的，通常需要具備四項條件才可能糾正重大錯誤：一是有正確的認識并達成共識；二是能夠在利益上形成共贏的行動預期；三是能夠采取有效的共同行動；四是其他有關(guān)條件同時具備[19]。因此糾正大錯絕非易事，在不完全具備四項條件的情況下，發(fā)現(xiàn)錯誤不能糾正錯誤，達成共識也不足以糾正錯誤?？梢娂m錯條件十分苛刻，在巨大慣性之下糾錯更是難上加難。迄今為止，在糾正重大錯誤方面，環(huán)境問題邁過了達成共識這第一道關(guān)檻，但是沒有邁過預期共贏這第二道關(guān)檻，美國不簽訂京都議定書就是明證；對于科技風險問題，連達成共識這第一道關(guān)檻都沒有邁過，樂觀派與悲觀派各執(zhí)一詞，目前樂觀派、謹慎的樂觀派仍然占主流。此外，動車困境還說明了較為普遍存在著的“集體惰性”，由于從眾、習慣、懶惰、心存僥幸和路徑依賴，導致很難發(fā)生糾正錯誤的集體行動，表現(xiàn)為得過且過的“集體惰性”，它比個體惰性更糟糕。從政治制度的角度看，改變現(xiàn)狀變得十分困難，社會慣性作用巨大。尖端生物技術(shù)一直存在風險爭議，為此科學家、社科學者、法律專家、政府官員等召開過兩次里程碑式的會議，1975年在美國加利福尼亞州舉行的阿西洛馬會議和2015年在華盛頓特區(qū)舉辦的人類基因編輯國際峰會。高璐對比兩次會議的目標、觀念、措施和結(jié)果發(fā)現(xiàn)，盡管40年間生物技術(shù)突飛猛進，然而人類社會與其相互適應(yīng)的能力卻提高不多，甚至在某種意義上是原地踏步[20]。弗朗西斯?福山指出，美國的民主政治已經(jīng)變成了否決政治，基于制衡機制，政治體制的某一部分能相對輕易地阻撓其他部分，整個體制完全受制于否決權(quán)[21]。金燦榮發(fā)現(xiàn)美國參議院內(nèi)部的政黨極化可謂美國政黨極化現(xiàn)象的縮影，表現(xiàn)為阻撓與限制模式，少數(shù)派利用審議程序阻撓法案通過，而多數(shù)派利用審議程序限制少數(shù)派的阻礙。他認為美國體制要自我拯救困難重重，通過制度改革緩解政黨極化的可能性微乎其微[22]。雙刃劍困境表明科技的正負效應(yīng)、特別是尖端科技的正負效應(yīng)，無法抵消、無法彌補，是一“壞”遮百“好”，科技做一萬件好事可能抵消不了做一件壞事的效果。魔戒困境表明犯重大錯誤的門檻越來越低，人有理性所以經(jīng)不住誘惑，尖端科技使小人物和機器人可以犯大錯誤。四大困境表明人類不斷犯大錯、大錯誤又難以糾正、無法抵消、無法彌補、犯大錯誤的門檻越來越低，小人物和機器人也能犯大錯誤，這是人類面臨的最嚴峻的四大困境，人類在科技發(fā)展與應(yīng)用問題上所犯的錯誤最為嚴重[19]。知錯糾錯機制失靈，是人類安全防線中最嚴重的漏洞。

（十）認知存在嚴重不足：科技重大風險研究尚且薄弱

以上論述表明，人類安全的多道防線存在嚴重漏洞，形勢極為嚴峻。當然，人類安全的首要屏障是人類的認知，只要認知升級，所有漏洞都有修補加固的可能。筆者從事科技重大風險研究22年，一直關(guān)注學術(shù)界的相關(guān)研究，對照研究科技重大風險需要包括的六大基本要素，可以發(fā)現(xiàn)目前國際上關(guān)于科技重大風險研究存在六大缺陷。

（1）忽視了研究的首要前提，沒有揭示出科技重大風險的嚴峻性與緊迫性。開展科技重大風險、科技倫理、科技法律、科技治理等研究時應(yīng)該首先深入探究目前科技的負面作用和風險究竟有多嚴峻、多兇險，因為這直接決定了研究工作的挑戰(zhàn)性、艱巨性、緊迫性，決定了能否調(diào)動充足的社會資源、社會力量和注意力加以應(yīng)對。如果對此自己沒有新發(fā)現(xiàn)新見解也應(yīng)該檢索這方面的研究成果作為研究的起點和前提。遺憾的是國際上對此缺乏深入探究，前提不對，思路不對，結(jié)果可想而知。例如，烏爾里希?貝克（Ulrich Beck）在1986年創(chuàng)立了風險社會理論，成為學術(shù)大師，但是貝克沒有進一步探究具體的最大風險，和許多學者一樣，他也認為氣候變化是最大風險，結(jié)果使得風險社會理論在對科技重大風險的研究中沒有發(fā)揮應(yīng)有的作用[17]。又如，歐洲興起的負責任研究與創(chuàng)新（RRI）思潮和理論就是一個不成功的典型，它忽視了本該首先需要解決的問題：“最不負責任、最危險的研究與創(chuàng)新是什么？如何解決？”這直接決定了RRI的任務(wù)和政策制定的艱巨性和緊迫性，決定了RRI的理論建構(gòu)和政策取向[23]。結(jié)果在不負責任的研究與創(chuàng)新愈演愈烈的當下，歐洲卻轉(zhuǎn)換了主題（其接下來的主題是開放科學Open Science）。此外，國際上忽視了對科技重大風險防控措施局限性和漏洞的揭示與概括。

（2）沒有明確注意到科技重大風險的特點及其與科技普通風險的差異。研究者往往只是直觀地認為科技重大風險在危害程度、規(guī)模范圍、治理難度上超過科技普通風險，卻忽視了科技重大風險還有一系列獨有的特點（如本文2.1節(jié)所述），沒有發(fā)現(xiàn)這些特點，就不可能對科技重大風險做出有效研究。

（3）缺乏對科技重大風險研究的基本假設(shè)、基本概念和基本問題，理論化程度低。國際上相關(guān)研究普遍缺乏明確的基本的假設(shè)、概念和問題，西方的“生存風險”、“全球巨災(zāi)風險”研究包括科技重大風險和氣候異常、小行星撞地球等自然界重大風險，兩類風險性質(zhì)不同，卻混在一起作為統(tǒng)一的研究對象，因而難以對科技重大風險進行深入研究。

（4）缺乏對科技重大風險研究重點和難點的準確把握。例如，沒有發(fā)現(xiàn)和重視科技倫理法律在約束網(wǎng)絡(luò)時代科研活動的局限性，忽視了科技倫理法律失靈這一治理難點；缺乏對西方主流科技與經(jīng)濟發(fā)展模式內(nèi)在缺陷的深刻反思，就事論事，對策往往就是默認在現(xiàn)行主流科技與經(jīng)濟體制下進行防范和化解。牛津大學人類未來研究所所長尼克?波斯特羅姆（Nick Bostrom）于2002年提出“生存性風險”（Existential Risks，自然界與科技等的威脅人類生存的風險）概念，研究生存風險至今18年，對生存風險的概念和分類有精湛的研究，也許是國際上研究涉及科技重大風險時間最長、影響最大的工作。2017年其研究團隊發(fā)布《生存風險：外交與治理》報告，指出人類面臨最迫切的三項生存風險是重大流行病、極端氣候變化和核戰(zhàn)爭，提出三點對策：一是強調(diào)區(qū)域合作以及全球合作；二是提高全球風險治理能力；三是呼吁國際社會應(yīng)明確保護人類未來的價值，努力降低生存風險[24, 25]。該報告沒有深刻反思現(xiàn)行西方社會經(jīng)濟與科技的發(fā)展模式的內(nèi)在缺陷，沒有探究生存風險防控的安全漏洞和制約因素。鮑姆（Seth Baum）、威爾遜（Grant Wilson）等開展的全球巨災(zāi)風險（Global Catastrophic Risk）研究，認為“雖然全球性巨災(zāi)風險發(fā)生的概率較低，但它一旦爆發(fā)，則意味著人類滅亡或?qū)Φ厍虍a(chǎn)生不可逆轉(zhuǎn)的災(zāi)難性后果”[26]?？梢娖湔J識還停留在直觀的水平上（“巨災(zāi)風險后果嚴重但發(fā)生的概率低”只是老生常談，筆者的研究結(jié)論與之截然不同）。

（5）缺乏有深度的案例研究。盡管有不少案例研究，但是因為上述四個缺陷，導致研究缺乏深度。

（6）在對策的有效性、可行性和時限性方面存在嚴重缺陷。學術(shù)研究與政策實踐兩張皮，嚴重低估了科技治理的難度，關(guān)于科技風險治理研究，盡管不乏真知灼見，但是沒有考慮所批評的陳舊觀念和理論已經(jīng)與現(xiàn)實中的強大利益集團融合，不是新概念、新理論所能夠輕易改變的，如在長期傳統(tǒng)安全觀念影響下形成的軍工軍需、科技與商業(yè)、金融經(jīng)濟等龐大既得利益體系，不是“建構(gòu)主義、后結(jié)構(gòu)主義、后殖民主義”等非傳統(tǒng)安全研究的新概念、新理論、新著作可以輕易撼動的?？萍寂c經(jīng)濟“兩張皮”現(xiàn)象同樣存在于人文社科與政策實踐領(lǐng)域[13]。迄今為止國際上關(guān)于科技風險治理的研究幾乎都忽視了限時原則，即忽視了在各種研究中都應(yīng)該考慮需要在限定時間內(nèi)解決問題這樣一個約束條件。這與缺乏對科技重大風險嚴峻性、艱巨性和緊迫性的認知有關(guān)，也與以往學術(shù)研究缺乏“限時原則”的傳統(tǒng)有關(guān)，例如約翰?羅爾斯的《正義論》等許多倫理學名著都缺乏對限時原則的重視[19]。又如，建構(gòu)性技術(shù)評估（CTA）是國際上著名的技術(shù)管理和政策分析工具，它從技術(shù)發(fā)明與開發(fā)之初就開始塑造技術(shù)（而不是預測技術(shù)的風險后再進行預警干預），其思路策略優(yōu)于同類方法，但是由于它沒有考慮“限時原則”，沒有考慮只有在一定時間內(nèi)全面完成塑造技術(shù)才能夠有效治理技術(shù)風險，而逐個參與塑造技術(shù)要受人力（受過建構(gòu)性技術(shù)評估訓練的社會科學家的數(shù)量）、物力和財力的限制，CTA對普通技術(shù)風險治理尚可一用，而對于需要及時全面完成才起效的科技重大風險治理而言是杯水車薪，解決問題的思路難以成立。應(yīng)該創(chuàng)建限時科技倫理法律、限時科技治理、限時STS等[17]。此外，科技治理體系與科技創(chuàng)新體系在目標、行動主體、動力機制、評價標準等多方面并不一致，甚至有矛盾之處，如何在短時間內(nèi)協(xié)調(diào)兩者關(guān)系，是實現(xiàn)科技重大風險的有效治理的關(guān)鍵。對此，國際學術(shù)界也沒有給予應(yīng)有的重視。

可見，目前國際上關(guān)于科技重大風險的研究可謂只知其一、不知其二，只知其一是認識到科技風險愈演愈烈的現(xiàn)狀和趨勢，分析生成機制，強調(diào)要加強國際合作以防控科技風險；不知其二是指忽視了目前科技風險防控措施中存在諸多嚴重漏洞，忽視了目前發(fā)達國家主流的科技與經(jīng)濟一體化粗放式發(fā)展模式存在嚴重缺陷，遠不是依靠加強科技倫理法治建設(shè)與國際合作就可以解決的。這些缺陷和不足，導致目前國際上的科技重大風險治理是治標不治本，甚至連治標也做不到[13]。

綜上所述，目前學術(shù)界對科技重大風險的研究比較薄弱，正如著名學者鮑姆（Seth Baum）與巴雷特（Anthon Barrett）所指出的，在如何降低“全球性災(zāi)難風險”的問題上，全球范圍內(nèi)的研究者都還沒有取得重大突破[27]。

以上列舉了十項主要的人類安全漏洞，其中有些是交叉或部分重疊的，而且還有遺漏，但是這些已經(jīng)足以表明人類安全防線失效、不堪重負、深陷危機的嚴峻現(xiàn)實。可以看到，人類面臨雙重前所未有的巨大挑戰(zhàn)：一方面隨著新興科技爆炸式發(fā)展，科技冷戰(zhàn)、軍備競賽不斷升級，科技重大風險與日俱增，愈演愈烈；另一方面，科技重大風險的多道安全防控措施存在嚴重漏洞，無法有效應(yīng)對，人類安全深陷危機。目前恐怖及個人恐怖主義盛行，企業(yè)實驗室與創(chuàng)客的知識生產(chǎn)難以控制，互聯(lián)網(wǎng)使致毀知識易于擴散，人類處境越發(fā)兇險[28, 29]。我們必須直面雙重挑戰(zhàn)，盡快尋到化險為夷、轉(zhuǎn)危為機的新思路和新方案。

2 開展科技重大風險專門研究的主要內(nèi)容

與泛泛的科技重大風險研究和案例研究不同，筆者認為對科技重大風險進行專門研究需要至少包括六大必備要素：一是準確揭示科技重大風險帶來挑戰(zhàn)的嚴峻性與緊迫性，這是先決條件，它決定了研究科技重大風險的重要性與緊迫性、時間限制條件和資源配置；二是揭示科技重大風險的特點及其與科技普通風險的區(qū)別，這決定了研究科技重大風險的特殊性和有效性以及與科技普通風險研究的銜接；三是基本假設(shè)、基本概念與基本問題，這是理論研究的必備條件；四是確定研究和治理科技重大風險的重點與難點；五是案例研究，要對現(xiàn)實中發(fā)生的事實進行案例分析，要體現(xiàn)和驗證前面四個要素；六是對策的有效性、可行性和時限性，對策的有效性和可行性是基于對風險嚴峻性緊迫性、風險成因的準確性系統(tǒng)性、風險治理的艱巨性時限性的正確認知與把握，特別是必須考慮完成對策的時間限制。只有明確考慮到這六大要素或更多要素，才稱得上對科技重大風險開展專門研究。筆者正是基于這樣的考慮來開展科技重大風險研究的，也是與其他同類研究的區(qū)別所在。上文已經(jīng)探討了準確揭示科技重大風險帶來挑戰(zhàn)的嚴峻性與緊迫性問題，下面重點對另外三大要素進行探討。

2.1 科技重大風險的特點及其與科技普通風險的區(qū)別

以往關(guān)于科技風險的研究較多，但是因為沒有明確意識到科技重大風險自身的特點，因此缺乏根據(jù)這些特點對科技重大風險做的專門研究。筆者認為科技重大風險有以下八個特點[17, 28-30]。

（1）在危害、規(guī)模、范圍、程度、因素、變化、后果、治理方面比科技普通風險更大、更深、更復雜、更快速、更嚴重更困難，這眾所周知。

（2）科技正負效應(yīng)不能抵消、不能彌補[15]。許多尖端科技的正負效應(yīng)不能抵消，例如核電站核醫(yī)學再好也抵消不了核戰(zhàn)爭核災(zāi)難，生物制藥基因療法再好也抵消不了基因武器可能造成的全球疫災(zāi)和種族滅絕，而一些普通的科技正負效應(yīng)能夠抵消和彌補，比如上網(wǎng)便于搜索信息以節(jié)約時間，上網(wǎng)也因好奇瀏覽、玩游戲等浪費時間，兩者能夠抵消或部分抵消。

（3）揚長不能避短、揚長難以避短。因為科技重大風險的“短”危害大、范圍廣，因此規(guī)避困難，有時甚至無法規(guī)避和防范，而普通科技風險的“短”相對不嚴重，比較容易規(guī)避、防控。

（4）科技重大風險被低估的后果非常嚴重。風險低估和高估的后果是不對稱的，如果高估風險被證明是錯了，至多是因為過于謹慎而放緩、延遲科技發(fā)展，如果低估風險錯了，則將發(fā)生重大災(zāi)難，甚至將錯失糾正錯誤的最后時機，對此，科技普通風險與科技重大風險非常不同：科技普通風險被低估的后果多數(shù)情況不嚴重（當然少數(shù)情況下也可能嚴重，千里之堤毀于蟻穴），科技重大風險被低估的后果則必定非常嚴重，因此需要用底線思維思考、決策。

（5）積累效應(yīng)會形成科技重大風險。某些普通的或較小的科技風險的積累、會聚或與其他風險等因素的結(jié)合可以形成科技重大風險，包括蝴蝶效應(yīng)等。

（6）重大錯誤難以糾正?？萍贾卮箫L險多源于重大錯誤，知錯糾錯機制失靈表明大錯難以糾正，造成普通風險的小錯誤可能容易糾正。

（7）研究科技重大風險應(yīng)該從人類視角考慮。研究科技重大風險不僅從個人、集體（企業(yè)、國家等）視角考慮，更應(yīng)該從人類視角考慮，因為科技重大風險事關(guān)人類安全、人類命運。兩種視角非常不同，例如對于核武器，集體（國家等）視角都主張要擁有和發(fā)展，因為落后就要挨打、就會受到核訛詐，而人類視角就非常明確，根本不應(yīng)擁有核武器，人類根本不需要也不會允許在自己體內(nèi)出現(xiàn)能夠毀滅自己幾十次的東西[17]。鑒于科技重大風險，從人類視角考慮，就應(yīng)該采取寧可信其有的底線思維，既然目前爭議很大，就應(yīng)該讓高風險的尖端科技發(fā)展放緩或暫停，畢竟人類還有很長的日子要過，不差這幾十年的快慢，但是對于個人和企業(yè)而言，就不能錯過?？萍贾卮箫L險研究需要從人類視角考慮，而科技普通風險研究就未必，這是兩者的顯著區(qū)別。

（8）對科技重大風險治理的復雜性艱巨性緊迫性估計不足。盡管容易想到科技重大風險治理更困難，但是缺乏深入分析，對困難估計嚴重不足，從上文列出的科技重大風險防控存在的十大漏洞即可知。筆者還指出科技重大風險在危害與兇險程度、相關(guān)因素范圍與復雜程度、認知和共識的難度、防范與化解的難度、緊迫程度、發(fā)生概率等六個方面都達到前所未有的最高級[12]。

由此可見，只有明確認識到科技重大風險的這些特點，加之有恰當?shù)幕炯僭O(shè)或前提、基本概念、基本問題和研究方法，才可能開展對科技重大風險的專門研究。

2.2 研究科技重大風險的基本假設(shè)、基本概念與基本問題

為了系統(tǒng)化、理論化地研究科技重大風險，需要提出基本假設(shè)、基本概念與基本問題，筆者提出4個基本假設(shè)與前提[11]：（1）尖端科技的正負效應(yīng)不可抵消；（2）科技知識增長不可逆；（3）知識與應(yīng)用具有連鎖效應(yīng)；（4）科技發(fā)展自我增強永無止境。尖端科技正負效應(yīng)不能抵消、不能彌補，是“一壞遮百好”（如上文所述）；科技知識增長不可逆意味著科技知識一旦產(chǎn)生，就不能消除，可以銷毀核武器、卻不能銷毀制造核武器的知識；知識與應(yīng)用具有連鎖效應(yīng)是指知識出現(xiàn)后就傾向于被應(yīng)用，R&D就是連鎖的制度化，越是破壞力巨大的知識越要付諸應(yīng)用，否則落后就要挨打；科技發(fā)展自我增強永無止境是指科技知識增長具有自我支持、自我增強、鏈式反應(yīng)的特點，科技知識不僅滿足人們的需要而且還創(chuàng)造需要，科研一旦開啟，在好奇心、優(yōu)先權(quán)、競爭壓力和資本驅(qū)動下，會一發(fā)而不可收，沒完沒了，窮盡各種可能及其應(yīng)用，如同原子彈之父奧本海默所指出的“一個深刻而必要的真理是：深藏在科學中的事物并非由于它們有用而被發(fā)現(xiàn)，它們被發(fā)現(xiàn)是由于有可能發(fā)現(xiàn)它們”。DNA雙螺旋結(jié)構(gòu)的發(fā)現(xiàn)者之一詹姆斯?沃森強調(diào)“在科學和發(fā)現(xiàn)的名義下，我們在道德上的義務(wù)就是向前、向前”?？茖W研究通常不會適可而止、見好就收[11]。這些基本假設(shè)和前提可以有效破除一些陳舊觀念，例如堅持“科學無禁區(qū)”者也承認技術(shù)有禁區(qū)，而在現(xiàn)實當中科學成果與技術(shù)應(yīng)用具有連鎖效應(yīng)，因此承認技術(shù)有禁區(qū)也就必須承認科學有禁區(qū)，風險防控要從源頭抓起。

關(guān)于基本概念這里只論及“致毀知識”。筆者于1999年提出致毀知識概念，并以其為主要研究對象開展科技重大風險研究。所謂致毀知識[28]，是指可用于制造毀滅性武器等導致毀滅性災(zāi)難的各種產(chǎn)品或方案的核心原理、核心技術(shù)等核心知識，如核裂變知識、鏈式反應(yīng)知識、DNA重組技術(shù)和基因編輯技術(shù)。致毀知識不是以好壞來區(qū)分的，而是以其應(yīng)用（軍用、惡用）是否具有巨大的破壞力來界定的[11]。拙著《智業(yè)革命》對提出致毀知識概念的新穎性、合理性、狹義與廣義、硬致毀知識與軟致毀知識、致毀技術(shù)、致毀科技、致毀創(chuàng)新等有詳細討論[21]。用致毀知識概念分析科技風險簡潔有效，而用“雙刃劍”分析則容易各執(zhí)一詞[11]。

基本問題包括：在科技知識增長的同時，如何阻止其中一類破壞力極大的科技知識——致毀知識——的增長與擴散?如何有選擇地生產(chǎn)知識？如何有選擇地進行創(chuàng)新？[17]擴展的問題是：在科技發(fā)展的同時，如何有效防控科技重大風險？如何有選擇地生產(chǎn)知識，如何有選擇地進行創(chuàng)新？如果要實現(xiàn)科技重大風險的有效治理以確?？萍祭^續(xù)造福人類，確?？萍己蜕鐣目沙掷m(xù)創(chuàng)新與發(fā)展，需要哪些條件和變革？如何實施？未來10年、30年會出現(xiàn)哪些科技重大風險？如何防范和化解？[11]開拓問題空間至關(guān)重要，辯護或者批判是以往人們對待科學的兩種態(tài)度，劉大椿先生提出了科學審度觀，把審度作為對待科學的第三種取向，它用多元、理性、寬容的觀點看待科學[31]?？茖W審度觀拓展了思考科技與創(chuàng)新問題的空間，極具啟發(fā)性。李伯聰先生指出把“確證”當作知識論主要任務(wù)的傳統(tǒng)知識論（知識論1）的局限和缺陷日益凸顯，需要被“更新?lián)Q代”為“知識論2”了，需要更加關(guān)注“設(shè)計思維”、“操作知識”、“程序知識”、“人工物知識”、“評價知識”、“制度知識”、“知識轉(zhuǎn)化”、“知識管理”等問題[32]。“知識論2”對研究包括致毀知識在內(nèi)的科技知識、工程知識的風險治理具有重要意義。

此外，研究科技重大風險需要多種方法和理論，需要多學科、跨學科研究，在此不贅?；谶@些基本假設(shè)、基本概念，研究這些基本問題，可以深入探討科技重大風險及其治理的條件關(guān)系與對策。

2.3 研究和治理科技重大風險的重點與難點

明確重點和難點是深入研究的必要條件，科技重大風險研究的重點和難點包括上文述及的探究科技風險嚴峻性緊迫性等六大要素，此外，筆者認為還有六大難點亟待破解。

（1）底線思維，直面雙重挑戰(zhàn)。盡快讓社會各界對目前人類面臨的前所未有的雙重挑戰(zhàn)給予應(yīng)有的重視，這是應(yīng)對挑戰(zhàn)、化解危機的先決條件，以此確立“科技創(chuàng)新、風控先行”原則，是否創(chuàng)造和發(fā)展一種科技，不是由其正效應(yīng)決定的，而是由其負效應(yīng)能否被防控所決定的，這與目前的科技發(fā)展觀完全不同[11]。正如武夷山指出的“創(chuàng)新本身不是目的，人類社會以人為本的可持續(xù)發(fā)展才是根本目的。因此，并非一切創(chuàng)新都是好事?！盵33]實現(xiàn)底線思維絕非易事，因為目前社會的主流認識仍然是比較樂觀的，科學無禁區(qū)、（粗放式）創(chuàng)新優(yōu)先仍然是主流意識形態(tài)。創(chuàng)建知識更新理論，強調(diào)知識更新與知識創(chuàng)新同等重要、科技治理與科技創(chuàng)新同等重要，知識更新理論不僅成為科學傳播和科普的理論基礎(chǔ)，更應(yīng)該與知識創(chuàng)新理論一起成為知識社會的理論基礎(chǔ)。

（2）實事求是，正視科技倫理法律失靈，提出新型科技倫理法律。科技倫理法律至關(guān)重要，但是在目前的科技發(fā)展模式下，其存在的嚴重缺陷不容忽視，筆者研究科技倫理法律有三個特點，一是揭示科技倫理法律失靈，二是以此為前提探討新型科技倫理法律，三是通過科學轉(zhuǎn)型（從平面科學變革為立體科學）將新型倫理法律植入科研體系內(nèi)部。新型科技倫理法律包括筆者提出的“科技硬倫理”（簡稱“硬倫理”）和全球統(tǒng)一科技法律，具有覆蓋全球的強制性的科技倫理規(guī)范和科技法律法規(guī)，以區(qū)別于現(xiàn)行的約束力較弱的軟倫理和各國各行其是的法律法規(guī)。硬倫理具有五個要素：1）原則上是底線思維、安全第一，科學有禁區(qū)、研究有禁區(qū)，凡是違背科技倫理法律者永久禁止其從事該領(lǐng)域的科研工作，永久禁止其發(fā)表科研成果，一票否決；2）制度上實行專家牌照制度，對于從事高風險科研活動（合成生物學、基因編輯技術(shù)、強人工智能等）的專家學者，實行牌照制度，牌照由國家或國際相關(guān)權(quán)威機構(gòu)頒發(fā)，持證上崗，嚴格遵守相關(guān)倫理法律，比如應(yīng)嚴格遵守中國科學院《關(guān)于科學理念的宣言》“要求科學工作者更加自覺地規(guī)避科學技術(shù)的負面影響，承擔起對科學技術(shù)后果評估的責任，包括：對自己工作的一切可能后果進行檢驗和評估；一旦發(fā)現(xiàn)弊端或危險，應(yīng)改變甚至中斷自己的工作；如果不能獨自做出抉擇，應(yīng)暫緩或中止相關(guān)研究，及時向社會報警?！盵34]一旦違反倫理規(guī)范或法律法規(guī)，吊銷牌照；3）建立全球科研成果溯源系統(tǒng)，在網(wǎng)絡(luò)、紙媒等各種媒體中出現(xiàn)的文本、照片、視頻等高風險領(lǐng)域科研成果，要配有溯源碼，表明作者擁有牌照，供核查，凡是沒有溯源碼或核查不實的數(shù)據(jù)，一律刪除，利用人工智能系統(tǒng)自動或輔助實施，最大限度實施倫理規(guī)范和法律法規(guī)；4）與法律法規(guī)緊密結(jié)合，通過聯(lián)合國等國際機構(gòu)，建立全球統(tǒng)一的科技法律法規(guī)和倫理規(guī)范，兩者相輔相成，硬倫理強法律共同約束和阻止科研不端，防控科技風險；5）倫理法律：從參與輔助到規(guī)范引領(lǐng)。迄今為止的科學都在“現(xiàn)象–分析”二維平面內(nèi)進行，應(yīng)該引入價值維，轉(zhuǎn)型為“現(xiàn)象–分析–價值”三維空間，實現(xiàn)從“平面”科學到“立體”科學的轉(zhuǎn)型[28]，倫理法律將作為價值維的必要組成部分嵌入科學內(nèi)部，以改變目前倫理法律作為輔助因素外在于科學而難以發(fā)揮應(yīng)有作用的狀況。在科研與創(chuàng)新活動中，倫理法律從參與者、輔助者升級強化為規(guī)范者、引領(lǐng)者，體現(xiàn)出“科技創(chuàng)新、風控先行”原則，實行科技重大風險總量控制。正如王大洲指出的“工程倫理準則固然重要，但只有內(nèi)置于工程實踐之中，才能真正發(fā)揮作用?！盵35]科技倫理法律也是如此，只有內(nèi)置于科研實踐之中，才能卓有成效，“立體”科學提供了融合空間?？萍紓惱矸傻挠行耘c科技發(fā)展模式密不可分，引入價值維的新科學，有助于科技倫理法律發(fā)揮應(yīng)有的作用?？萍加矀惱砼c全球統(tǒng)一科技法律之所以如此嚴苛，是因為人類面臨雙重挑戰(zhàn)的嚴峻性與緊迫性所致。

（3）盡快解決非共識決策和限時決策、限時完成任務(wù)的問題。由于雙重挑戰(zhàn)的嚴峻性與緊迫性，我們要做的不僅是解決問題，而是要盡快解決問題，要在一定時間內(nèi)解決問題，因此就不可能通過充分討論、達成共識之后再決策、行動，因此需要盡快創(chuàng)建非共識決策和限時決策、限時完成任務(wù)的方法和機制，盡快創(chuàng)建限時科技倫理、限時科技法律、限時科技治理、限時科技重大風險治理等方法理論和機制。[17]

（4）盡快完成科技與經(jīng)濟社會轉(zhuǎn)型研究。在觀念和眼界層面，用“轉(zhuǎn)型圖存、安全發(fā)展”的第三種未來觀以超越樂觀順延與悲觀末日兩種流行的未來觀，第三種未來觀強調(diào)未來發(fā)展“合作比競爭重要、安全比財富重要、方向比速度重要、行穩(wěn)致遠比一時繁榮重要”[2]，在科技領(lǐng)域奉行“科技創(chuàng)新、風控先行，科學研究、倫理先行”原則，不走西方“先污染后治理、先創(chuàng)新后倫理”的老路、彎路[2]，相應(yīng)的世界觀、價值觀、發(fā)展觀、科學觀、教育觀等都應(yīng)該隨之改變；在科技與經(jīng)濟層面實現(xiàn)從粗放式研究與創(chuàng)新向可持續(xù)研究與創(chuàng)新轉(zhuǎn)型，大力推進以底線安全的科學、社會科學與交叉科學崛起為特征的新科學革命，以受控技術(shù)受控創(chuàng)新與可持續(xù)創(chuàng)新崛起為特征的新技術(shù)革命，以智庫與文創(chuàng)產(chǎn)業(yè)、文化科技產(chǎn)業(yè)及社會企業(yè)崛起為特征的新產(chǎn)業(yè)革命[12]，特別是評價方法與勝出機制變革引發(fā)社會科學與交叉科學崛起是關(guān)鍵[36]；在政治國家層面從以國家安全為中心的傳統(tǒng)安全向以人類安全為中心的非傳統(tǒng)安全轉(zhuǎn)型；社會組織層面從“經(jīng)驗–試錯”社會進入“預演–試錯”社會等。[2]

（5）促進財富分配革命，實現(xiàn)激勵均衡。在社會運行機制中，財富分配是比財富創(chuàng)造更深層的機制，解決重大社會問題，認識、觀念、理論、方案只是第一個環(huán)節(jié)（認知環(huán)節(jié)），利益集團的形成和驅(qū)動才是決定性環(huán)節(jié)（利益驅(qū)動環(huán)節(jié)），西方主流經(jīng)濟學的缺陷在于過分強調(diào)市場的資源配置功能，忽視了市場更重要的“貢獻–分配”功能，如果按貢獻定分配，貧富不可能如此懸殊，不可能出現(xiàn)十億百億富豪，因為個人的經(jīng)濟貢獻不會如此之大。財富分配革命的核心是對為社會長遠需要和人類安全做出貢獻者給予充分回報和激勵，改變目前回報和激勵過少的現(xiàn)狀。確保社會可持續(xù)發(fā)展與人類安全的根本解決之道，是使得此項工作成為高激勵事業(yè)，并形成以此為職責的人才濟濟的公共利益集團?？梢姡敻环峙洳粌H關(guān)乎公平公正，更決定人類前途和生死存亡[29]。

（6）盡快破除專業(yè)壁壘與同行相輕，認清人類面臨的雙重挑戰(zhàn)的嚴峻性與緊迫性。新觀點、新思想不容易被接受，普朗克科學定律（一個新的科學真理取得勝利并不是說服了反對者，而是反對者們最終死去，熟悉它的新一代成長起來）千真萬確，但事態(tài)緊急，無法等到反對者們逐漸逝去。如果不能盡快讓更多人了解并認清人類面臨雙重挑戰(zhàn)的嚴峻性與緊迫性，則上述研究和建議就是一紙空文，將錯失保衛(wèi)人類安全的最后機會。專業(yè)壁壘和同行相輕問題嚴重，斯諾指出的“兩種文化”隔閡不僅沒有解決，反而隨著專業(yè)化程度提高、注意力學術(shù)與注意力經(jīng)濟的發(fā)達、“后真相”泛濫而加劇。例如，盡管科技長期在社會經(jīng)濟活動中占據(jù)中心位置，人類進入科技時代已經(jīng)超過一個世紀，但是以科技為研究對象的學科卻始終處于學界邊緣：科技史是史學邊緣，科學社會學是社會學邊緣，科技哲學是哲學邊緣。缺乏對科技的深入研究、對科技重大風險更是知之甚少的經(jīng)濟學，居然可以成為科技時代的顯學。加強人文社科研究刻不容緩，正如韓啟德院士指出的“既然科學存在方向和價值問題，那就提醒人們要重視人文的作用，因為人文是科學發(fā)展的方向盤和剎車器。在發(fā)展科學技術(shù)的同時，必須大力發(fā)展科學文化?！盵37]在話語權(quán)比話語內(nèi)容重要、說話本身比說什么重要的注意力時代，雙管齊下才能破解普朗克科學定律困境：既加強學術(shù)界內(nèi)部的交流合作，更要加強面向決策者、公眾及社會有識之士的多媒體傳播和知識更新。

3 結(jié)論：新型決策機制促使人們直面雙重挑戰(zhàn)，做出有效應(yīng)對

3.1 決策新模式：“直面-回避”問題的象限模型

為實現(xiàn)實事求是地直面雙重挑戰(zhàn)，筆者通過對比決策在情勢快變化與慢變化時的差異，提出決策的“直面-回避”問題象限模型，作為面對科技重大風險時的新決策機制[38]。核心思想是，決策與其后果承擔的關(guān)系隨事物變化快慢而有所不同，往往在變化快的情況下，決策的后果自負，因為還來不及推脫后果與責任，決策后果就落實到?jīng)Q策者身上；在慢變化的情況下，決策的后果有可能推卸給他人后人，決策者可逃脫責任。從決策者理性的利弊得失考慮，在情勢快變化的條件下，于公于私，都應(yīng)該實事求是地直面問題，及時做出明智決策，否則就是損人害己，得不償失。在慢變化的情況下，回避問題、拖延問題解決，有時也不失為個人的精明之舉。決策的“直面-回避”問題象限模型如圖1所示[38]。

圖1 決策的“直面-回避”問題象限模型

當前新冠疫情席卷全球，疫情爆炸式擴散再一次告誡人們，及時直面問題而不是回避問題才能化險為夷?？v觀歷史，張大慶指出“傳染病一直影響著人類社會的發(fā)展，往往比戰(zhàn)爭、革命更為深刻和全面，因為疾病直接攻擊文明的核心和根基：人類自身、人類的軀體及其心靈。”[39]2020年5月瑞士科學家在國際著名刊物《自然》上發(fā)文表示在實驗室可以人工合成新冠病毒[40]，昭示了尖端科技的巨大威力和風險，它并不證明新冠病毒來自實驗室，但它足以證明來自實驗室合成的病毒可以像新冠病毒一樣危害整個世界。在極端分子、恐怖分子、科技狂人與黑客出沒的當今社會，一種病毒邪惡的驚天能量和效果所產(chǎn)生的負面示范效應(yīng)更加危險，這是最需要引起人們高度警惕和反思的。

科技重大風險對人類安全構(gòu)成威脅，在科技大爆發(fā)的當下，科技與社會快速多變，地球村中的所有人，都應(yīng)該實事求是地直面挑戰(zhàn)，因為決策的后果必然由在世的所有人共同承擔。與環(huán)境問題不同，富人可以用金錢規(guī)避環(huán)境風險，但是無法用金錢規(guī)避科技重大風險（富人反而最先受到敲詐勒索），自然科學家與人文社科學者及公眾都在一條船上，大家要同舟共濟。直面問題包括三要素：實事求是、盡早盡快和竭盡所能。前兩者是態(tài)度，竭盡所能是團結(jié)一切可以團結(jié)的力量，特別需要重視一流人才，“是否擁有創(chuàng)造力是區(qū)分一流人才和三流人才的分水嶺”（哈佛大學前校長納森?普西語）。因為一流人才與二三流人才的區(qū)別不是程度上的，不是95分與70分的差距，而是“方向”和“層次”上的差別，是“有解”和“無解”的差別[38]，是“想到”與“想不到”的差別。面對極為復雜的問題和前所未有的挑戰(zhàn)，必須盡最大可能充分調(diào)動各種人才的積極性與創(chuàng)造性，破解難題，化險為夷，轉(zhuǎn)危為機。

3.2 轉(zhuǎn)型圖存，安全發(fā)展：加快建設(shè)人類命運共同體

本文探討科技重大風險與人類安全，可謂人類社會的頭等大事，事關(guān)人類安全，應(yīng)該具有底線思維?？萍及l(fā)展的樂觀派與悲觀派是不對稱的，如果悲觀派錯了，最多是延緩、推遲科技的發(fā)展，如果樂觀派錯了，則災(zāi)難頻發(fā)、積重難返，錯失人類自我拯救的良機[41]。18世紀工業(yè)革命以來形成的西方市場經(jīng)濟制度，深陷粗放式發(fā)展、粗放式創(chuàng)新與粗放式競爭等三大缺陷，隨著新興科技爆發(fā)式發(fā)展，科技冷戰(zhàn)、軍備競賽不斷升級換代，不確定性和科技重大風險愈演愈烈，致毀知識不可逆、不可抵消地增長與擴散，更糟糕的是目前人類防控科技重大風險的多道安全防護措施存在嚴重漏洞、難堪重任、深陷危機，人類面臨前所未有的雙重挑戰(zhàn)。某些西方國家思想僵化，繼續(xù)信奉叢林法則，把戰(zhàn)勝對手作為首選戰(zhàn)略，沒有意識到對自身最大的威脅不是競爭對手而是錯誤的競爭方式，深陷“競爭方式陷阱”和“修昔底德陷阱”不能自拔。目前國際社會四分五裂，英國脫歐、美國退群等等，碎片化嚴重，與科技重大風險治理急需國際社會的廣泛合作與精誠團結(jié)，背道而馳。目前科技發(fā)展速度極快、動力十足、剎車失靈、方向盤幾乎失控。科技重大風險治理與人類安全研究，迄今在總體上還顯薄弱，筆者在該領(lǐng)域研究22年，深知任重道遠，希望有更多志同道合者加入此行列。實事求是地直面雙重挑戰(zhàn)，這是應(yīng)對挑戰(zhàn)、化解危機的先決條件，是實施本文對策建議的先決條件。人類社會亟待全面升級關(guān)于重大風險的認知水平和自我保護能力，急需新型決策機制，急需啟動從粗放式創(chuàng)新與競爭向可持續(xù)創(chuàng)新與合作的大轉(zhuǎn)型予以應(yīng)對。在世界上確立“合作比競爭重要、安全比財富重要、方向比速度重要、和平相處比獨占鰲頭重要”原則，“和為貴”不僅是中國文化傳統(tǒng)的主張，更是高科技巨風險時代，不得不遵循的生存法則。轉(zhuǎn)型圖存、安全發(fā)展，加快人類命運共同體建設(shè)，中國的和平崛起為人類可持續(xù)安全及發(fā)展帶來新的機遇和希望。

[1] 哈里特?朱克曼. 科學界的精英——美國的諾貝爾獎金獲得者[M]. 周葉謙, 馮世則譯. 北京: 商務(wù)印書館, 1979: 2.

[2] 劉益東. 虛擬科學與大IT革命：支撐未來學的快速崛起[J]. 未來與發(fā)展, 2019(10): 1-8.

[3] 劉益東. 科技重大風險治理：重要性與可行性[J]. 國家治理周刊, 2020(3): 40-43.

[4] 劉 雯. 科技風險、災(zāi)難與負面效應(yīng)的實證研究[D]. 中國科學技術(shù)大學, 2008: 1-84.

[5] 孫 琳, 楊春華. 美國近年生物恐怖襲擊和生物實驗室事故及其政策影響[J]. 軍事醫(yī)學, 2017(11): 923-928.

[6] Romanoff L. Biological Weapons: A Useful and Timely Factual Overview[EB/OL]. https://www.globalresearch. ca/biological-weapons-useful-timely-factual-overview/ 5702842.

[7] 吉榮榮, 雷二慶, 徐天昊. 美國生物盾牌計劃的完善進程及實施效果[J]. 軍事醫(yī)學, 2013(3): 176.

[8] 張夢然. 危險實驗被禁后悄然重啟？美批準曾引巨大爭議的禽流感病毒改造項目[N].科技日報, 2019-02-13: 2.

[9] 劉孝廷. 新型冠狀病毒肺炎疫情下的哈姆雷特之問[J]. 工程研究-跨學科視野中的工程, 2020(1): 9-13.

[10] 劉孝廷. 超越技術(shù)與進步——從核風險看人類發(fā)展文化的取向[J]. 山東科技大學學報（社會科學版）, 2011(10): 7-10.

[11] 劉益東. 粗放式創(chuàng)新向可持續(xù)創(chuàng)新的戰(zhàn)略轉(zhuǎn)型研究——科技重大風險研究21年[J].智庫理論與實踐, 2019(4): 75-79.

[12] 劉益東. 致毀知識與科技倫理失靈: 科技危機及其引發(fā)的智業(yè)革命[J]. 山東科技大學學報(社會科學版), 2018(6): 1-15.

[13] 劉益東. 科技重大風險：非傳統(tǒng)安全治理的重要視角[J]. 國家治理周刊, 2020(18): 22-25.

[14] 徐 飛, 張秉倫. 科技文明的代價[M]. 濟南: 山東人民出版社, 1999: 26-27.

[15] 劉益東. 試論科學技術(shù)知識增長的失控(下)[J]. 自然辯證法研究, 2002(5): 32-36.

[16] 王鶄峰. 美國高校將人工智能倫理引入課堂[EB/OL]. [2018-09-25].http://www.ccidnet.com/2018/0723/10408573. shtml.

[17] 劉益東. 科技巨風險與可持續(xù)創(chuàng)新及發(fā)展研究導論——以致毀知識為中心的戰(zhàn)略研究與開拓[J]. 未來與發(fā)展, 2017(12): 4-17.

[18] 劉益東. 試論粗放式創(chuàng)新、致毀創(chuàng)新、可持續(xù)創(chuàng)新理論與知識安全學[J]. 科技資訊, 2014(25): 238-242.

[19] 劉益東. 挑戰(zhàn)與機遇:人類面臨的四大困境與最大危機及其引發(fā)的科技革命[J]. 科技創(chuàng)新導報, 2016(35): 221-230.

[20] 高 璐. 從阿西洛馬會議到華盛頓峰會：專家預警在生物技術(shù)治理中的角色與局限[J]. 山東科技大學學報（社會科學版）, 2018(6): 28-32.

[21] 弗朗西斯?福山. 要民主專政不要否決政治[EB/OL]. [2011-12-02]. https://www.guancha.cn/america/2011_12_ 02_62559.shtml.

[22] 金燦榮, 湯禎瀅. 從“參議院綜合癥”透視美國政黨極化的成因[J]. 美國研究, 2019(2): 8, 147-160.

[23] 劉益東. 網(wǎng)絡(luò)力量辦大事與創(chuàng)本位及N度人才[J]. 科技創(chuàng)新導報, 2016(13): 138-145, 147.

[24] Farquhar S, Halstead J, Cotton-Barratt O, et al. Existential Risks: Diplomacy and Governance[EB/OL]. [2020-06-01]. https://ishare.iask.sina.com.cn/f/avthKNubTjL.html.

[25] 趙 媛. 生存風險:理解可持續(xù)發(fā)展新角度[N]. 中國社會科學報, 2017-02-13.

[26] Wilson G. Minimizing global catastrophic and existential risks from emerging technologies through international law[J]. Virginia Environmental Law Journal, 2013, 31(2): 307-364.

[27] Baum S，Barrett A. Global catastrophes: The most extreme risks[M]// Vicki Bier (Ed.). Risk in extreme environments: Preparing, avoiding, mitigating, and managing. New York: Routledge, 2018: 182-184.

[28] 劉益東. 人類面臨的最大挑戰(zhàn)與科學轉(zhuǎn)型[J]. 自然辯證法研究, 2000(4): 50-55.

[29] 劉益東. 智業(yè)革命: 致毀知識不可逆增長逼迫下的科技轉(zhuǎn)型產(chǎn)業(yè)轉(zhuǎn)型與社會轉(zhuǎn)型[M]. 北京: 當代中國出版社, 2007.

[30] 劉益東. 科學的目的是追求真理嗎?[M]// 宋正海. 邊緣地帶:來自學術(shù)前沿的報告. 北京: 學苑出版社, 1999: 17-28.

[31] 劉大椿, 等. 審度：馬克思科學技術(shù)觀與當代科學技術(shù)論研究[M]. 北京: 中國人民大學出版社, 2017: 1-6.

[32] 李伯聰. 工程知識論的艱難出場與“知識論2”的展望[J]. 哲學分析, 2020(3): 146-162, 198.

[33] 武夷山. 創(chuàng)新往往發(fā)生于邊緣地帶[EB/OL]. 文匯報, 2014-12-26. http://whb.cn/zhuzhan/guandian/20141226/ 21281.html.

[34] 中國科學院. 關(guān)于科學理念的宣言[N]. 科學時報, 2007-02-27: A4.

[35] 王大洲. 走向負責任的工程：倫理準則的解釋與內(nèi)置[J]. 化工高等教育, 2020(3): 1-7.

[36] 劉益東. 從同行承認到規(guī)范推薦——開放評價引發(fā)的開放科學革命與人才制度革命[J].北京師范大學學報（社會科學版）, 2020(3): 29-41.

[37] 韓啟德. 人文是科學發(fā)展的方向盤和剎車器[EB/OL]. https://www.sohu.com/a/351255067_260616.

[38] 劉益東. 病毒效應(yīng)與“直面-回避”問題的決策模型——生物安全風險防控的新思維[J]. 工程研究-跨學科視野中的工程, 2020(1): 21-23.

[39] 張大慶. 歷史上重大傳染病的始與終[J]. 中國醫(yī)學人文, 2020(2): 68-72.

[40] Thao T T N, Labroussaa F. Rapid reconstruction of SARS-CoV-2 using a synthetic genomics platform[J]. Nature, 2020, 582(7813): 561-565.

[41] 劉益東. 科技危機引發(fā)新科技革命和新產(chǎn)業(yè)革命[N]. 社會科學報, 2018-09-13: 5.

Huge Scientific Risk and Human Security Crisis: Unprecedented Dual Challenges and Its Governance Measures

Liu Yidong

(Institute for the History of Science, Chinese Academy of Sciences, Beijing 100190, China)

To ensure human security as well as sustainable innovation and development, it is essential to investigate significant scientific risks. This paper proposes that research on huge scientific risks includes three aspects: analysis of the seriousness and urgency of huge a scientific risk, which forms the premise for this study; identification of the key issues and difficulties; and discussion of new decision-making mechanisms, which form the basis of governance measures for managing scientific risks. In recent years, there have been cutting-edge developments in technology, which has grown rapidly and powerfully. This has been followed by it being more uncontrollable and uncertain, which has led to cases of scientific ethics misconduct. Trade wars, S&T wars, and arms races are escalating, and there are increasing cases of huge scientific risks. However, there are serious deficiencies in many human security systems that prevent huge scientific risks. This crisis poses unprecedented dual challenges to the human race. To solve this, a new decision-making mechanism and the transition from extensive creation and competition to sustainable innovation and cooperation are urgently needed.

huge scientific risk; ruin-causing knowledge; human security; non-traditional security; bottom-line thinking; hard ethics;reapportionment revolution; competition modes trap

2020–02–26;

2020–07–06

中國科學院自然科學史研究所重點培育方向“科技的社會風險”項目（E029001101）

劉益東（1961–），男，研究員，博士生導師，研究方向為科技史、科技戰(zhàn)略、科技與社會、科技哲學。E-mail：liuyidong.cn@263.net

N01；C93

A

1674-4969(2020)04-0321-16

10.3724/SP.J.1224.2020.00321