致毀知識(shí)增長與科技倫理失靈：高科技面臨的巨大挑戰(zhàn)與機(jī)遇

劉益東 中國科學(xué)院自然科學(xué)史研究所研究員

近年來，高科技在快速發(fā)展的同時(shí)，科技風(fēng)險(xiǎn)、科技倫理問題也越來越成為社會(huì)各界熱議的話題。2018年新學(xué)期開始，哈佛大學(xué)、斯坦福大學(xué)、MIT等美國高校開設(shè)人工智能倫理、數(shù)據(jù)科學(xué)倫理、技術(shù)倫理、機(jī)器人倫理等新課，這是對(duì)公眾因人工智能等新技術(shù)感到擔(dān)憂的回應(yīng)。國內(nèi)科技倫理研究也紛紛上馬。人們普遍認(rèn)為，只要加強(qiáng)科技倫理研究和實(shí)施，就可以解決科技風(fēng)險(xiǎn)問題。但是，這也許是一個(gè)錯(cuò)誤判斷。筆者提出 “致毀知識(shí)”概念并以其增長、傳播、擴(kuò)散、應(yīng)用、禁止、治理等為研究對(duì)象開展科技巨風(fēng)險(xiǎn)研究至今20年，主要結(jié)論是：在知識(shí)極易擴(kuò)散的互聯(lián)網(wǎng)時(shí)代，科技倫理因不能約束所有研發(fā)活動(dòng)而失靈，目前興起的基因技術(shù)倫理、人工智能倫理等尖端科技倫理難以奏效，這是世界面臨的史無前例的嚴(yán)峻挑戰(zhàn)！本文主要探討科技危機(jī)、科技倫理失靈與科技總體安全觀和科技底線倫理，以及高科技面臨的巨大挑戰(zhàn)與機(jī)遇。

1 致毀知識(shí)增長和科技倫理失靈導(dǎo)致的科技危機(jī)是人類面臨的最大危機(jī)與挑戰(zhàn)

1945年原子彈爆炸后， “科技發(fā)展下去將發(fā)生毀滅性災(zāi)難甚至毀滅人類”逐漸成為流行的觀點(diǎn)，但并沒有得到學(xué)術(shù)界和社會(huì)主流的認(rèn)可，迄今科技發(fā)展的樂觀派仍是社會(huì)主流。筆者于1999年提出 “致毀知識(shí)”概念，并以其為研究對(duì)象開展科技巨風(fēng)險(xiǎn)研究。所謂致毀知識(shí)是可用于制造毀滅性武器等導(dǎo)致毀滅性災(zāi)難的各種產(chǎn)品或方案的核心原理、核心技術(shù)等核心知識(shí)，如核裂變知識(shí)、鏈?zhǔn)椒磻?yīng)知識(shí)、DNA重組技術(shù)和基因編輯技術(shù)。核心問題包括三個(gè)前提和一個(gè)問題，三個(gè)前提是 “尖端科技的正負(fù)效應(yīng)不可抵消、科技知識(shí)增長不可逆、知識(shí)與應(yīng)用具有連鎖效應(yīng)”，一個(gè)問題是 “在科技知識(shí)增長的同時(shí)，能否阻止其中一類破壞力極大的科技知識(shí)——致毀知識(shí)——的增長與擴(kuò)散? 能否有選擇地生產(chǎn)知識(shí)？能否有選擇地進(jìn)行創(chuàng)新？”尖端科技正負(fù)效應(yīng)不能抵消、不能彌補(bǔ)，即無論尖端科技的正面效應(yīng)(如核電站、核醫(yī)學(xué))多大，也無法抵消、無法彌補(bǔ)其負(fù)面效應(yīng)(如核武器災(zāi)難、核事故)，是 “一壞遮百好”，是可以揚(yáng)長卻不能避短。研究表明，致毀知識(shí)增長與擴(kuò)散是不可逆和不可抵消的，在目前世界主流科技與經(jīng)濟(jì)發(fā)展模式下，致毀知識(shí)的增長與擴(kuò)散又是不可阻止的，這意味著人類面臨毀滅的危險(xiǎn)是不斷累加和遞增的，達(dá)到一定程度必然會(huì)發(fā)生毀滅性災(zāi)難，而且這種不可逆增長的危險(xiǎn)累進(jìn)方式，使得毀滅性災(zāi)難發(fā)生的幾率越來越大，如不及時(shí)制止，必然直至爆發(fā)。這是科技的生存危機(jī)(簡(jiǎn)稱科技危機(jī))，也是人類面臨的最大危機(jī)和挑戰(zhàn)。

2 科技倫理失靈

為了治理科技風(fēng)險(xiǎn)，容易想到的是加強(qiáng)科技倫理研究和實(shí)施。但是，筆者注意到：實(shí)際上科技倫理并不能約束所有科技專家和所有實(shí)驗(yàn)室的科研行為，使本應(yīng)禁止的某些科研活動(dòng)得不到有效禁止而使得科技倫理失靈，在知識(shí)極易擴(kuò)散的互聯(lián)網(wǎng)時(shí)代和尖端科技領(lǐng)域，科技倫理失靈尤為嚴(yán)重?？萍嫉奶攸c(diǎn)決定了只要不能約束所有人的研發(fā)行為(如不能約束軍方和創(chuàng)客、黑客)，少數(shù)人研發(fā)的成果同樣可以擴(kuò)散而導(dǎo)致科技倫理失靈，因?yàn)橐豁?xiàng)科研成果被發(fā)現(xiàn)1次和被發(fā)現(xiàn)100次是一樣的。這與社會(huì)生活不同，社會(huì)上大多數(shù)人遵循倫理就有較好效果，少數(shù)人違反倫理的危害是有限的。法律硬約束都難以禁止違法之事，倫理軟約束更是難以限制，學(xué)術(shù)研究的復(fù)雜性為陽奉陰違者提供了借口和便利?？梢娍萍紓惱碛行У臈l件十分苛刻，在目前條件下，尖端科技在法律保護(hù)下用于軍方武器研發(fā)是不可避免的，黑客、創(chuàng)客不受倫理約束，企業(yè)研發(fā)機(jī)構(gòu)也不會(huì)因易于有危害的轉(zhuǎn)化而束手束腳，科技倫理失靈是不可避免的。霍金、伊隆·馬斯克等上千名知名科學(xué)家和人工智能專家于2015年簽署的公開信指出，AI武器將在幾年內(nèi)就會(huì)出現(xiàn)，這將帶來極大風(fēng)險(xiǎn)，警告不要進(jìn)行AI軍備競(jìng)賽，敦促聯(lián)合國發(fā)布針對(duì) “攻擊性自動(dòng)化武器”的禁令。顯然，這項(xiàng)努力不會(huì)奏效，因?yàn)闊o法禁止軍方進(jìn)行防御性AI武器的研發(fā)，更不能禁止黑客和恐怖分子進(jìn)行武器研發(fā)。軍方研發(fā)的AI武器的核心知識(shí) (即致毀知識(shí))很容易擴(kuò)散，與制造核武器依賴稀缺的原材料不同，制造AI武器、基因武器并不需要稀缺的原材料。以基因編輯技術(shù)為例，有一定高等教育背景和生物學(xué)基礎(chǔ)者，兩年左右就能夠掌握，生物創(chuàng)客、極客、極端分子、軍方研發(fā)以及一些不顧及科技倫理而研發(fā)容易轉(zhuǎn)化為生物武器的產(chǎn)品的高科技企業(yè)，都可能制造基因武器或類似產(chǎn)品，危害社會(huì)。因此，加強(qiáng)科技倫理研究和實(shí)施、讓科學(xué)家遵從安全規(guī)范、加強(qiáng)安全監(jiān)管等措施并不意味著就可以解決科技風(fēng)險(xiǎn)問題，實(shí)際情況要復(fù)雜得多、嚴(yán)峻得多，要面對(duì)科技倫理失靈和安全監(jiān)管失靈這些不利條件，思考真正有效的應(yīng)對(duì)之策。

3 科技總體安全觀和科技底線倫理

為了應(yīng)對(duì)科技倫理失靈，筆者提出科技底線倫理作為新的科技倫理，它基于科技總體安全觀，科技的總體安全包括底線安全、人類安全、可持續(xù)安全。底線安全就是即使軍事應(yīng)用、惡意應(yīng)用和濫用也能避免或也能承受或也能化解的科技才是可以接受的科技，一項(xiàng)科技是否應(yīng)該發(fā)展首先不取決于其正面效應(yīng)，也不取決于為其采取了多么嚴(yán)格的安全規(guī)范和安全措施，而是首先取決于其負(fù)面效應(yīng)的嚴(yán)重性，取決于社會(huì)能否承受、化解、抵消該科技的負(fù)面效應(yīng)。在此基礎(chǔ)上，筆者提出科技底線倫理，它是為了實(shí)現(xiàn)科技底線安全與可持續(xù)創(chuàng)新所規(guī)定的科技工作者及其共同體應(yīng)恪守的價(jià)值觀念、社會(huì)責(zé)任和行為規(guī)范?？萍嫉拙€倫理包括四項(xiàng)基本原則：①以不能威脅人類生存為最高原則，凡是與此相悖者，必須改變或停止，因此需要確立技術(shù)有禁區(qū)、科學(xué)也有禁區(qū)的原則，因?yàn)榭茖W(xué)上的突破可能會(huì)被用于技術(shù)開發(fā)，越是威力巨大的科學(xué)發(fā)現(xiàn)越是如此，原子彈的研發(fā)就是明證；②科學(xué)研究底線安全原則，基礎(chǔ)研究等科研要確保致毀知識(shí)零增長，因?yàn)檎?fù)效應(yīng)不能抵消，所以盡管會(huì)出現(xiàn)不可預(yù)知的好結(jié)果，也不能抵消壞結(jié)果，因此只要有可能產(chǎn)生危害社會(huì)的成果就應(yīng)該叫停，如 《中國科學(xué)院關(guān)于科學(xué)理念的宣言》所述 “要求科學(xué)工作者更加自覺地規(guī)避科學(xué)技術(shù)的負(fù)面影響，承擔(dān)起對(duì)科學(xué)技術(shù)后果評(píng)估的責(zé)任，包括：對(duì)自己工作的一切可能后果進(jìn)行檢驗(yàn)和評(píng)估；一旦發(fā)現(xiàn)弊端或危險(xiǎn)，應(yīng)改變甚至中斷自己的工作；如果不能獨(dú)自做出抉擇，應(yīng)暫緩或中止相關(guān)研究，及時(shí)向社會(huì)報(bào)警?！崩纾词谷斯ぶ悄懿怀^人類，只要人工智能發(fā)展下去要產(chǎn)生致毀知識(shí)，就必須叫停；③技術(shù)開發(fā)底線安全原則，以知識(shí)擴(kuò)散不可避免為前提制定措施，例如，只要人工智能武器 (即使以防御為目的)被開發(fā)，其核心知識(shí)就遲早會(huì)擴(kuò)散到社會(huì)，為恐怖分子等所利用，因此必須禁止研發(fā)人工智能武器，如果無法禁止，則科技界不能繼續(xù)相關(guān)研究以避免被用來研發(fā)人工智能武器；④全體持續(xù)底線安全原則，尖端科技是揚(yáng)長不能避短、正負(fù)效應(yīng)不能抵消，需要全體研究者長期恪守底線，獨(dú)善其身是不能解決問題的，如果無法做到，就只能廣泛設(shè)置禁區(qū)群加以強(qiáng)行限制。

綜上所述，重視科技的底線安全極為必要。以人類視角考慮，目前擁有的科技已經(jīng)很多，如果善用已經(jīng)可以給人類相當(dāng)多的便利和福祉，冒著越來越大的風(fēng)險(xiǎn)去發(fā)展尖端科技是否值得？至少發(fā)展那些高危的尖端科技肯定得不償失。當(dāng)然，如果用個(gè)人 (科學(xué)家等)視角、集體 (包括企業(yè)和國家等)視角考慮，則是寧可在爭(zhēng)議中冒險(xiǎn)發(fā)展。顯然，用人類視角思考人類未來更合理，更符合可持續(xù)發(fā)展的長遠(yuǎn)需要。值得注意的是，科技發(fā)展的樂觀派與悲觀派是不對(duì)稱的，如果作為目前國際國內(nèi)的主流看法的樂觀派是正確的，未來發(fā)展就是趨勢(shì)外推，則我國將在相當(dāng)長的一段時(shí)間內(nèi)處于追趕西方發(fā)達(dá)國家的狀態(tài)之中；反之，如果筆者的研判正確或基本正確，則局面完全不同，西方發(fā)達(dá)國家因路徑依賴、積重難返而難以及時(shí)轉(zhuǎn)變，我國卻具有后發(fā)優(yōu)勢(shì)，可率先發(fā)動(dòng)以社會(huì)科學(xué)與交叉科學(xué)崛起為特征的新科學(xué)革命、以受控技術(shù)崛起為特征的新技術(shù)革命、以智庫與文創(chuàng)產(chǎn)業(yè)崛起為特征的新產(chǎn)業(yè)革命，完全可以徹底擺脫修昔底德陷阱，建立人類視角下的人類命運(yùn)共同體，引領(lǐng)世界的和平發(fā)展和永續(xù)繁榮。

人工智能安全風(fēng)險(xiǎn)挑戰(zhàn)與法律應(yīng)對(duì)

袁立科 中國科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院科技預(yù)測(cè)與評(píng)價(jià)研究所研究員

當(dāng)前，人工智能技術(shù)迅猛發(fā)展，表現(xiàn)出與人類歷史上以往技術(shù)變革迥然不同的特征，正在重塑人類的生產(chǎn)和生活空間。人工智能不僅具有深度學(xué)習(xí)能力，而且將具有主動(dòng)學(xué)習(xí)與創(chuàng)新能力，未來甚至可能擁有超級(jí)智能。人工智能的發(fā)展促進(jìn)了人類社會(huì)進(jìn)步，同時(shí)也將引發(fā)社會(huì)變革和各種新的風(fēng)險(xiǎn)，應(yīng)該未雨綢繆、規(guī)范先行。

1 人工智能技術(shù)正從監(jiān)督學(xué)習(xí)走向強(qiáng)化學(xué)習(xí)，未來可能出現(xiàn)超級(jí)智能

2017年10月18日， 《Nature》發(fā)表DeepMind的圍棋人工智能新成果AlphaGoZero，不需棋譜數(shù)據(jù)和先驗(yàn)知識(shí)，通過強(qiáng)化學(xué)習(xí)算法創(chuàng)新以100:0完勝AlphaGo，探索了特定應(yīng)用中不依賴領(lǐng)域數(shù)據(jù)，通過自我學(xué)習(xí)獲得強(qiáng)大推理決策能力的人工智能技術(shù)發(fā)展新路線。2018年12月7日，DeepMind的最強(qiáng)棋類算法 AlphaGoZero 作為 《 Science》封面論文發(fā)表，正式引入學(xué)界和公眾的視野。而且，除了圍棋，AlphaGoZero自學(xué)了另外兩種復(fù)雜棋類游戲——國際象棋和日本將棋。AlphaGoZero不再被人類認(rèn)知所局限，能夠發(fā)現(xiàn)新知識(shí)、開發(fā)新策略，它讓深度學(xué)習(xí)用于復(fù)雜決策更加方便可行。從AlphaGo到AlphaGoZero,體現(xiàn)了機(jī)器學(xué)習(xí)技術(shù)的快速迭代和進(jìn)步方向。2017年10月26日，沙特阿拉伯授予美國漢森機(jī)器人公司生產(chǎn)的機(jī)器人 “索菲亞”公民身份。這件事目前更多的是一種噱頭，它給我們的啟示更多的是提醒我們?nèi)斯ぶ悄芪磥戆l(fā)展出超級(jí)智能的一種可能性，并引發(fā)人們對(duì)出現(xiàn)這種可能之后需要如何應(yīng)對(duì)的思考。

2 人工智能沖破人類控制的風(fēng)險(xiǎn)初現(xiàn)端倪

人工智能的發(fā)展具有階段性，其可能引發(fā)的安全挑戰(zhàn)也表現(xiàn)出不同特點(diǎn)。目前，人工智能正處于從弱人工智能向強(qiáng)人工智能逐步發(fā)展的階段，近期更多的是需要應(yīng)對(duì)技術(shù)的不完善或?yàn)E用帶來的安全問題；遠(yuǎn)期需要防范其可能產(chǎn)生超級(jí)智能而帶來的不可控性。

一是算法模型的復(fù)雜性，易導(dǎo)致結(jié)果不確定性。以深度學(xué)習(xí)為代表的智能計(jì)算模型體現(xiàn)出很強(qiáng)的學(xué)習(xí)能力，但目前的機(jī)器學(xué)習(xí)模型仍屬于一種黑箱工作模式，對(duì)于人工智能運(yùn)行中發(fā)生的異常情況，人們往往很難對(duì)其原因做出合理的解釋，開發(fā)者也難以準(zhǔn)確預(yù)測(cè)和把控智能系統(tǒng)運(yùn)行的行為邊界。如2017年人機(jī)圍棋對(duì)弈中，AlphaGo多次弈出 “神之一手”，很多人表示難以說清楚其決策的具體過程。而且，從監(jiān)督學(xué)習(xí)進(jìn)入到強(qiáng)化學(xué)習(xí)，沒有任何人類知識(shí)的AlphaGoZero在自我對(duì)弈的初期常常出現(xiàn)一些毫無邏輯的詭異棋局，后期也會(huì)有出其不意的打法。當(dāng)越來越多的智能系統(tǒng)替代人類做出決策、影響大眾生活的時(shí)候，人們需要能夠?qū)ζ浣Y(jié)果的合理性、安全性進(jìn)行準(zhǔn)確評(píng)估。

二是技術(shù)濫用、管理缺陷引發(fā)的安全威脅。人工智能技術(shù)本身并無好壞之分，運(yùn)用結(jié)果取決于人們使用的目的與管理過程。政府和職能部門、網(wǎng)絡(luò)服務(wù)供應(yīng)商、商業(yè)公司，如不能公平、正當(dāng)守法使用和管理隱私數(shù)據(jù)，將引發(fā) “隱私戰(zhàn)”。從全球來看，谷歌、蘋果、微軟等通過收購等方式，不斷聚集資本、人才和技術(shù)壟斷優(yōu)勢(shì)，形成 “數(shù)據(jù)寡頭”或 “技術(shù)寡頭”的趨勢(shì)增強(qiáng)，可能會(huì)產(chǎn)生 “數(shù)據(jù)孤島”效應(yīng)，影響人工智能發(fā)展的透明性和共享性，與政府的博弈將越發(fā)激烈。

網(wǎng)絡(luò)黑客可能會(huì)通過智能方法發(fā)起網(wǎng)絡(luò)攻擊，加大個(gè)人、企業(yè)、政府網(wǎng)絡(luò)運(yùn)行管理風(fēng)險(xiǎn)，影響社會(huì)穩(wěn)定。智能化的網(wǎng)絡(luò)攻擊軟件能自我學(xué)習(xí)，模仿系統(tǒng)中用戶的行為，并不斷改變方法，以盡可能長時(shí)間地待在計(jì)算機(jī)系統(tǒng)中。如果安全防護(hù)技術(shù)或措施不完善，無人駕駛汽車、機(jī)器人和其他人工智能裝置可能受到非法入侵和控制，這些人工智能系統(tǒng)就有可能按照犯罪分子的指令，做出對(duì)人類有害的事情。

三是超級(jí)智能的出現(xiàn)會(huì)帶來巨大的不可控性。隨著人工智能的快速發(fā)展，智能機(jī)器人擁有越來越強(qiáng)大的智能，在很多能力上都將超過人類，而沒有自我意識(shí)的人工智能終將是人類的助手。比爾·蓋茨、斯蒂芬·霍金、埃隆·馬斯克、雷·庫茲韋爾等人所擔(dān)憂的遠(yuǎn)期風(fēng)險(xiǎn)是，未來機(jī)器人或其他人工智能系統(tǒng)能夠自我演化，并可能發(fā)展出類人的自我意識(shí)，從而對(duì)人類的主導(dǎo)權(quán)甚至存續(xù)造成威脅。盡管我們還不清楚這種超級(jí)智能或 “奇點(diǎn)”是否會(huì)出現(xiàn)，但考慮到技術(shù)發(fā)展的不確定性，仍需要在法律制度、倫理規(guī)范等各方面做好充分準(zhǔn)備，并在沒有把握對(duì)其能夠妥善應(yīng)對(duì)之前，避免人工智能向這一方向發(fā)展。

3 人工智能安全發(fā)展亟待規(guī)范先行

人工智能的迅速發(fā)展將深刻改變?nèi)祟惿睢⒏淖兪澜?，給當(dāng)前的法律規(guī)則、社會(huì)秩序、道德標(biāo)準(zhǔn)和公共管理系統(tǒng)帶來前所未有的挑戰(zhàn)。在民事主體法律、侵權(quán)責(zé)任法律、交通法律、勞動(dòng)法律等諸多方面，不僅缺乏有效的法律產(chǎn)品供給，而且與現(xiàn)行的法律秩序相沖突，甚至顛覆我們已經(jīng)構(gòu)成的法律認(rèn)知。人工智能技術(shù)的發(fā)展可使犯罪工具和犯罪手段更加智能化，違法行為危害性正在發(fā)生 “量變”，甚至引發(fā) “質(zhì)變”，新的違法犯罪形式也會(huì)層出不窮。因此，需主動(dòng)應(yīng)對(duì)其技術(shù)發(fā)展的不確定性所帶來的新的風(fēng)險(xiǎn)和治理挑戰(zhàn)，一方面從國家法律規(guī)制、科學(xué)家自律及社會(huì)監(jiān)督等方面規(guī)范先行，提前布局、審慎應(yīng)對(duì)；另一方面要從技術(shù)上對(duì)人工智能的發(fā)展有所制約、有所設(shè)計(jì)。

一是分步驟、有序推進(jìn)人工智能立法。人工智能技術(shù)發(fā)展迅速，滲透到經(jīng)濟(jì)、社會(huì)的方方面面，意味著立法者必須全面審視現(xiàn)有法律框架，并使其適應(yīng)不斷變化的社會(huì)需求。按照 “急用先立、成熟先立”的原則，針對(duì)新產(chǎn)業(yè)新業(yè)態(tài)的發(fā)展需要，加強(qiáng)對(duì)現(xiàn)有法律法規(guī)的修訂和解釋工作。同時(shí)可以由國務(wù)院等部門出臺(tái)個(gè)人信息保護(hù)、數(shù)據(jù)資源管理等法律條例，之后在實(shí)踐中修改完善，待條件成熟后再上升為國家法律。在已經(jīng)商業(yè)化或產(chǎn)業(yè)比較成熟的人工智能特定應(yīng)用領(lǐng)域，如無人機(jī)、機(jī)器人等，基于地方和行業(yè)出臺(tái)的一些臨時(shí)性應(yīng)對(duì)政策基礎(chǔ)上，國家層面應(yīng)加強(qiáng)研究儲(chǔ)備，適時(shí)出臺(tái)統(tǒng)一法規(guī)。

二是構(gòu)建國家法律規(guī)制、科學(xué)家自律及社會(huì)他律監(jiān)督， “三律結(jié)合”的規(guī)范調(diào)控體系。開展 《人工智能安全保障法》前期戰(zhàn)略研究，制定出臺(tái) 《人工智能研究開發(fā)安全保障管理細(xì)則》，推動(dòng)試行 《人工智能及機(jī)器人推廣應(yīng)用管理辦法》，在國家層面建立一套公開透明的人工智能監(jiān)管體系，實(shí)現(xiàn)對(duì)人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)、數(shù)據(jù)采集和產(chǎn)品應(yīng)用的全流程監(jiān)管，確保算法及其決策可以有效接受中立第三方或者監(jiān)管機(jī)構(gòu)的審查，實(shí)現(xiàn)算法決策的透明性和公平性。制定 《人工智能安全與倫理準(zhǔn)則》，引導(dǎo)行業(yè)組織發(fā)起設(shè)立人工智能發(fā)展自律公約，將價(jià)值與規(guī)范嵌入人工智能系統(tǒng)。

三是立法設(shè)立負(fù)面清單，防范人工智能 “作惡”。加強(qiáng)前沿智能技術(shù)預(yù)測(cè)、研判，研發(fā)更為透明、可解釋性更高的智能計(jì)算模型，降低智能系統(tǒng)行為的不可預(yù)知性和不確定性。對(duì)人工智能的發(fā)展規(guī)劃和前沿技術(shù)的研發(fā)進(jìn)行審慎評(píng)估，在可能引發(fā)人工智能不可控發(fā)展的技術(shù)領(lǐng)域，立法設(shè)立紅區(qū)或研發(fā)限制規(guī)范。同時(shí)，研究人工智能自我終結(jié)機(jī)制，從底層固件構(gòu)建 “安全防火墻”。

四是積極參與人工智能全球治理和安全國際規(guī)則的制定。宜貫徹人類命運(yùn)共同體理念，支持科研團(tuán)體、專家學(xué)者、企業(yè)廣泛開展國際人工智能安全發(fā)展合作，主動(dòng)搭建人工智能國際法律、政策等制度建設(shè)合作平臺(tái)，積極參與國際標(biāo)準(zhǔn)和規(guī)則制定。針對(duì)機(jī)器人異化和安全風(fēng)險(xiǎn)管控、治理等重大國際共性問題，加強(qiáng)立法政策研究，提出中國方案，貢獻(xiàn)中國智慧，發(fā)揮中國作用。

偽生態(tài)的倫理與教育分析

范春萍 北京理工大學(xué)人文學(xué)院編審、教授

隨著生態(tài)環(huán)境問題加劇引發(fā)的公眾焦慮和生態(tài)意識(shí)覺醒，以及國家對(duì)生態(tài)文明建設(shè)的強(qiáng)調(diào)， “生態(tài)”具有了符號(hào)、導(dǎo)向、履行職責(zé)、回應(yīng)訴求，以至?xí)r尚的功能。然而，與實(shí)質(zhì)性生態(tài)文明建設(shè)需要相匹配的 “真”生態(tài)素養(yǎng)、生態(tài)教育、生態(tài)判斷力、生態(tài)決策力等卻都沒有跟上。此時(shí)，出于政績需要、包裝過關(guān)需要、眼球博彩需要、附庸風(fēng)雅需要等，及至出于真心想做些生態(tài)建設(shè)的愿望卻因缺乏相應(yīng)判斷力而走向反面的情況，許多產(chǎn)品、課題、工程、商業(yè)行為等，都穿上了生態(tài)的外衣，致使偽生態(tài)大行其道。

1 偽生態(tài)及其危害

所謂生態(tài)，是指地球生物圈或區(qū)域生境中生物的生存狀態(tài)以及生物彼此之間、生物與環(huán)境之間的相互關(guān)系，后被引申到不同領(lǐng)域，用以指代系統(tǒng)或人群的相應(yīng)狀態(tài)和關(guān)系。由于原本研究的是在未受干擾的自然情境下的狀態(tài)和關(guān)系，因此在不同語境下， “生態(tài)”一詞常被用來指代或形容生態(tài)狀況的好，或某些產(chǎn)品、舉措、行為等符合生態(tài)要求。

在這個(gè)意義上， “偽生態(tài)”即指或貌似或假借或偽裝生態(tài)，實(shí)質(zhì)卻是非生態(tài)、反生態(tài)、毀生態(tài)。環(huán)顧周圍人工環(huán)境和社會(huì)事務(wù)，小到種草植樹鋪路，大到前沿重大科技工程、政府工作規(guī)劃，偽生態(tài)現(xiàn)象如同魔咒附體，鬼影幢幢。

有時(shí)， “生態(tài)”和 “環(huán)境”在一些語境下，可以互用。與偽生態(tài)相應(yīng)的，還有偽環(huán)保，道理相近，如出一轍。

例如：社區(qū)或校園中，原本野草野花喬灌交映、蜂蝶齊舞、鳥鵲合鳴，非常豐富的一塊自然生境，卻無端地被蕩滌干凈，種上清一色的單一草坪、矯飾的盆栽，或等距或錯(cuò)落地碼排上單品種松、柏、銀杏之類 “美化”樹種，再裝點(diǎn)些彩燈、噴泉；甬路鋪設(shè)透水磚，下面卻是水泥墊底；打著生態(tài)建設(shè)旗號(hào)的城市河湖景觀性修復(fù)；大樹進(jìn)城，根雕藝術(shù)，等等。

另如，一浪高過一浪的 “調(diào)水濟(jì)疆” “重建新疆美好生態(tài)”運(yùn)動(dòng)：先有 “泵渤海之水西上”的 “引渤入疆工程” “挖隧道引藏水入疆”的 “紅旗河工程”，后有號(hào)稱天地一體、以航天衛(wèi)星協(xié)同監(jiān)測(cè)，從空中搬運(yùn)水氣入疆的 “天河工程”。專家大佬齊上陣，你方唱罷我登場(chǎng)。

又如，許多占有強(qiáng)勢(shì)區(qū)位或財(cái)大氣粗的地方政府，在做自己的區(qū)域規(guī)劃時(shí)，紛紛把遠(yuǎn)方的水源規(guī)劃進(jìn)去；一些生態(tài)建設(shè)示范區(qū)的規(guī)劃、一些海洋生態(tài)項(xiàng)目的規(guī)劃一點(diǎn)兒都不生態(tài)，有的甚至直接說 “生態(tài)搭臺(tái)經(jīng)貿(mào)唱戲”；還有生態(tài)學(xué)家為了長江黃金貨運(yùn)水道，帶領(lǐng)團(tuán)隊(duì)論證必須炸掉包括南京長江大橋在內(nèi)的沿江十幾座 “矮橋”，改建可以讓萬噸以上巨輪穿橋而過、直達(dá)重慶的 “高橋”。

再如，許多理論，或?yàn)槔碚撎綄け旧?，或在以理論作為政策支撐的研究中，?“以人為本”框架下，導(dǎo)出的許多結(jié)論不僅傷害生態(tài)，而且最終必將傷害人類。

偽生態(tài)比直接明了的生態(tài)破壞危害尤甚。因?yàn)榧夹g(shù)演化到今天，已經(jīng)到了只要人類行動(dòng)就會(huì)傷害生態(tài)環(huán)境的程度。盡管如此，考慮生態(tài)因素的行為和舉措也還是會(huì)比不考慮有所不同。如果某事項(xiàng)因確有其他不可抗拒的理由而必須做，那么明確講清其可能會(huì)對(duì)生態(tài)環(huán)境帶來什么樣的破壞，可能在未來形成什么樣的傷害，就可以在規(guī)劃中盡最大可能地減少傷害和破壞，起碼預(yù)先規(guī)劃出對(duì)傷害和破壞的某些補(bǔ)救措施。如果經(jīng)過嚴(yán)謹(jǐn)、誠信的評(píng)估，判斷對(duì)自然形成的負(fù)擔(dān)超過生態(tài)承載力，或傷害不能消除，則可以改變或取消規(guī)劃。而偽生態(tài)打著生態(tài)環(huán)保的幌子，混淆觀念、蒙蔽視聽，將輿論導(dǎo)向、經(jīng)濟(jì)生活和生態(tài)文明建設(shè)等引向歧途。而事情一旦走入歧途，再想校正回來代價(jià)相當(dāng)慘重，將不但造成龐大的經(jīng)濟(jì)損失，浪費(fèi)健康發(fā)展的機(jī)會(huì)，而且所造成的進(jìn)一步的、環(huán)環(huán)相扣的生態(tài)破壞基本不可逆。

2 如何辨別偽生態(tài)

辨別偽生態(tài)的第一法寶是生態(tài)倫理學(xué)宗師利奧波德 (Aldo Leopold)所指出的 “像山那樣思考”：想一想自然生態(tài)系統(tǒng)本來的樣子、應(yīng)該的樣子；問一問如果這樣做， “山”會(huì)有什么感受；所造成的自然改變有沒有辦法補(bǔ)救，所阻斷的自然循環(huán)有沒有可能代償？單因素代償夠不夠，其他因素有沒有考慮周全？

這里需回顧一下利奧波德領(lǐng)悟到的自然奧秘的殘酷故事。20世紀(jì)40年代下半葉時(shí)人類對(duì)自然界的認(rèn)識(shí)還很有限，認(rèn)為狼是有害的，殺死狼可以保護(hù)鹿，沒有狼的世界就是獵人的天堂。那時(shí)的美國人，都以射殺狼為正義之舉。利奧波德在沙郡農(nóng)場(chǎng)進(jìn)行土地恢復(fù)實(shí)驗(yàn)期間，某一天，他看到懸崖下一只狼從河水中爬上岸，六只小狼歡天喜地地簇?fù)磉^來迎接母狼。槍法不太準(zhǔn)的利奧波德扣動(dòng)了扳機(jī)。當(dāng)來復(fù)槍內(nèi)的子彈射光之時(shí)，他看見母狼倒了下去，小狼們逃散，一只小狼拖著傷腿躲到巖石背后。利奧波德來到母狼前，撞見母狼眼中難過、驚懼、垂死的綠光，他從這雙狼的眼中看到了某種他從前不曾領(lǐng)悟的東西： “那似乎是只有母狼自己和山才了解的東西?！弊源艘院?，利奧波德再未殺過狼；他開始努力從狼和山的角度理解人與自然的關(guān)系。利奧波德還專門為殺狼的事寫了一篇著名札記 “像山那樣思考”，進(jìn)行了諸多倫理考察和理論研究，提出大地倫理概念；提出人類應(yīng)該與自然和諧相處，共同生活于大地之上。利奧波德的 “大地” “山”，就是今天所說的生物圈、生態(tài)系統(tǒng)。

人類歷史上像美國人殺狼造成鹿泛濫、植被被啃光、餓死的鹿尸橫遍野，生態(tài)系統(tǒng)遭到全面破壞，不尊重自然規(guī)律，唯我獨(dú)尊受到自然懲罰的例子比比皆是。自然生態(tài)系統(tǒng)經(jīng)過億萬斯年的進(jìn)化發(fā)展到今天，是承載人類所有活動(dòng)、所有生存條件的依托，是不可取代、不可再生的。而今，生物圈已經(jīng)處于崩潰邊緣，再也承受不了更大的破壞了。

人類今天必須明白一個(gè)道理：只要違背生態(tài)規(guī)律，特別是試圖大范圍、大跨度地改變自然面貌，不管披著怎樣的高科技外衣、舉著多大的專業(yè)招牌、打著怎樣的生態(tài)幌子，都可以判斷其是偽生態(tài)的。偽生態(tài)會(huì)為腐敗或蠻干者庇護(hù)遮羞，影響公眾共識(shí)、影響健康的文化基因傳承、影響國家決策，貽害無窮，更使生態(tài)文明建設(shè)、可持續(xù)發(fā)展淪為空談，必須扼制、抵制。

3 倫理和教育分析

偽生態(tài)大行其道，究其原因無非兩種情況：一是無德；二是無知。這種無知有時(shí)單純地表現(xiàn)為知識(shí)缺乏，有時(shí)是知識(shí)結(jié)構(gòu)偏頗并以此導(dǎo)致不同的價(jià)值觀，形成不同的判斷。

無德與大小官場(chǎng)懶政、腐敗互為因果，其中也關(guān)聯(lián)著 “以學(xué)術(shù)權(quán)力謀取非學(xué)術(shù)利益、以非學(xué)術(shù)權(quán)力謀取學(xué)術(shù)利益”的學(xué)術(shù)腐敗。無知導(dǎo)致嚴(yán)重的能力缺位，致使無從判斷所做事情的生態(tài)后果。管理部門常從程序正義出發(fā)依賴一些專家、智庫決策，而這樣的專家們也存在兩種可能：一是知識(shí)結(jié)構(gòu)不合理造成判斷偏頗；二是懷著某種小心思、大圖謀，與利益相關(guān)方互通款曲。最后的結(jié)果就是，偽生態(tài)上馬，生態(tài)遭到破壞，當(dāng)代人的生存環(huán)境、后代人的發(fā)展希望雙雙被葬送。

事關(guān)職業(yè)和職責(zé)的所謂倫理，無非相關(guān)者各明其責(zé)，各擔(dān)其責(zé)。明責(zé)、擔(dān)責(zé)者符合倫理，混淆視聽、推諉責(zé)任，胡作為、亂作為者，或假公濟(jì)私者，則違背倫理，亦為無德。而現(xiàn)狀是，許多情況下，只管程序、符號(hào)合規(guī)，而不顧實(shí)質(zhì)責(zé)任是否得到了履行。特別是有些真專家充當(dāng)偽生態(tài)工程的開路先鋒，以生態(tài)學(xué)家身份從事偽生態(tài)工程的調(diào)研論證，竟還是一幅洋洋自得的架勢(shì)。

擔(dān)責(zé)的前提是明責(zé)，而生態(tài)職責(zé)的明了，與是否具有相關(guān)知識(shí)高度相關(guān)。對(duì)于因無知而造成錯(cuò)誤判斷、錯(cuò)誤決策的情況——只要明責(zé)即會(huì)擔(dān)責(zé)的情況，需要也可以通過生態(tài)教育來解決。另一種情況就是因無德而有意造成錯(cuò)誤決策的情況，不僅事關(guān)生態(tài)(環(huán)境)教育，還關(guān)涉?zhèn)惱斫逃?/p>

生態(tài)教育的目的在于使受教育者了解生態(tài)知識(shí)、掌握生態(tài)規(guī)律，能夠理解 “山的想法”。這樣的教育，一方面要通過書本知識(shí)學(xué)習(xí)，另一方面也需要走進(jìn)大自然，在與自然的接觸中領(lǐng)會(huì)，這一點(diǎn)對(duì)于從小沒有機(jī)會(huì)接觸自然的 “城里人”尤為重要。生態(tài)教育是非常緊迫的事情，真正的千年大計(jì)、萬年大計(jì)，應(yīng)該從幼兒園到大學(xué)都安排這樣的學(xué)習(xí)程序和學(xué)習(xí)機(jī)會(huì)。

相對(duì)于生態(tài)教育，倫理教育則復(fù)雜得多。因?yàn)樯鷳B(tài)教育更多的是知識(shí)的學(xué)習(xí)和領(lǐng)會(huì)，而倫理涉及人的品德、靈魂和價(jià)值觀，有時(shí)又與利益糾扯在一起。而價(jià)值觀，是需要達(dá)成共識(shí)才能形成引領(lǐng)社會(huì)行為的價(jià)值取向的。

中國的倫理教育需要完成的是啟蒙任務(wù)，是一個(gè)疊加人類第一次啟蒙和科技高度發(fā)展、生態(tài)系統(tǒng)面臨崩潰危機(jī)所要求的第二次啟蒙的緊迫任務(wù)，是需要政府、學(xué)界、社會(huì)各界真正重視，所有人參與討論、相互啟蒙才能完成的任務(wù)，非常艱難。

綜上，對(duì)于偽生態(tài)這樣嚴(yán)重的問題，應(yīng)該警醒并提上解決日程。

以法律制裁侵害社會(huì)的科學(xué)

田 松 北京師范大學(xué)價(jià)值與文化研究中心、科學(xué)史與科學(xué)哲學(xué)研究所教授

賀建奎之基因編輯嬰兒事件，是一個(gè)標(biāo)志性事件。它標(biāo)志著中國公眾對(duì)科學(xué)活動(dòng)之基本態(tài)度的方向性轉(zhuǎn)變，從無條件相信走向懷疑和質(zhì)疑。從科學(xué)和倫理的邏輯，基因編輯嬰兒與轉(zhuǎn)基因只有程度的差別，所有用來反駁反對(duì)轉(zhuǎn)基因的理由，都可以用來反駁對(duì)基因編輯嬰兒的反對(duì)。

你說技術(shù)上不可靠、不成熟、不必要；他就可以說，技術(shù)要進(jìn)步，進(jìn)步就需要探索，探索就要有代價(jià)，總得有第一個(gè)，不能因噎廢食。你說政策上不允許，他可以說政策也是會(huì)變的，還動(dòng)不動(dòng)就拿布魯諾做例子。你說倫理上不允許，他可以說倫理總是滯后的，以前不合乎倫理的，現(xiàn)在也被接受了。以前對(duì)人體胚胎嚴(yán)格禁止實(shí)驗(yàn)，不也放寬到14天了。能放寬到14天，就能放寬到140天、1400天……這種辯護(hù)邏輯，挺轉(zhuǎn)科學(xué)家運(yùn)用得一向非常熟練。而意外的是，以往支持轉(zhuǎn)基因的 “知識(shí)分子”微信公眾號(hào)，這次卻率先發(fā)布一批包括挺轉(zhuǎn)人士在內(nèi)的科學(xué)家反對(duì)賀建奎的聲明——這對(duì)輿論的徹底反轉(zhuǎn)起到了關(guān)鍵性的作用。這意味著，基因編輯嬰兒的確觸碰到了人類的某一條底線。

然而，即使輿論如此激昂，科技部也表示 “將按照中國有關(guān)法律和條例進(jìn)行處理”，但是中國現(xiàn)行法律對(duì)賀建奎完全沒有約束，也就是說，賀建奎編輯嬰兒基因，不觸犯任何法律！

至于倫理?xiàng)l例，仔細(xì)研究就會(huì)發(fā)現(xiàn)，他所能夠遭到的最嚴(yán)厲的懲罰，也無非是開除公職，不讓他在南科大上學(xué)而已。而這對(duì)賀建奎來說，根本就算不上懲罰，他本人早在半年前就已經(jīng)停薪留職，且他的公司可調(diào)用大量資金。也就是說，他如果不要職稱、不要公職、不想發(fā)表文章，但是接著創(chuàng)造基因編輯嬰兒，這個(gè)社會(huì)竟然拿他沒辦法，除了罵他！

而在人們的罵聲之中，還會(huì)有人把他當(dāng)作為科學(xué)進(jìn)步、為人類未來永遠(yuǎn)免除遺傳性疾病而勇于、甘于下地獄的英雄！——我相信這樣的聲音很快就會(huì)浮現(xiàn)出來。

此事倫理上的是非姑且放在一邊，幾十年后看賀建奎是勇于上火刑柱的布魯諾還是科學(xué)罪人，也先放在一邊。問題在于，就在當(dāng)下，賀建奎公然挑戰(zhàn)社會(huì)的基本觀念，對(duì)社會(huì)構(gòu)成了傷害，而社會(huì)卻沒有自我保護(hù)的能力。

在以往的科學(xué)主義意識(shí)形態(tài)之下，人們無條件地相信科學(xué)會(huì)為人類造福，并且只會(huì)為人類造福。即使在原子彈給出了核冬天的可能性之后，即使在 《寂靜的春天 》闡釋了農(nóng)藥對(duì)生態(tài)與人類的系統(tǒng)性傷害之后，即使在科學(xué)技術(shù)雙刃劍的提法成為社會(huì)常識(shí)之后，人們?nèi)匀徊辉敢夤_討論科學(xué)傷害社會(huì)的可能性，人們?nèi)匀幌嘈?，這種可能性可以通過倫理原則加以防范。

科學(xué)社會(huì)學(xué)的創(chuàng)始人羅伯特·默頓已經(jīng)意識(shí)到科學(xué)之強(qiáng)力的另一面，但是他相信，科學(xué)家的道德能夠保障科學(xué)不去傷害社會(huì)。他提出了流傳至今的 “科學(xué)的精神氣質(zhì)”說—— “有感情情調(diào)的一套約束科學(xué)家的規(guī)則、規(guī)定、習(xí)俗、信仰、價(jià)值和預(yù)設(shè)的綜合”，并為其規(guī)定了 “四組體制上的規(guī)則——普遍性、公有性、無私利性、有條理的懷疑論”。這個(gè)表述其實(shí)存在著內(nèi)在矛盾，四原則到底是 “精神氣質(zhì)”，還是 “體制上的規(guī)則”？到底是內(nèi)在的秉性，還是外在的約束？默頓并沒有說清楚。但無論是哪一個(gè)，都不是對(duì)現(xiàn)實(shí)的科學(xué)共同體的描述，而是他一廂情愿地構(gòu)想的理想狀態(tài)。依賴這四原則或者四氣質(zhì)去防范科學(xué)對(duì)社會(huì)的傷害，無異于與虎謀皮。

從基因編輯嬰兒消息發(fā)布的時(shí)間軸看，賀建奎做了精心的安排。他相信自己是在幫助艾滋病患者，并為 “他的工作而自豪”。賀建奎完全可以把自己視為默頓的科學(xué)精神四原則的代表。這一事件表明，依靠科學(xué)家的道德自覺，依靠科學(xué)共同體自我協(xié)商的倫理原則，都不足以防范科學(xué)侵害社會(huì)。

這一事件提供了一個(gè)契機(jī)，我們這個(gè)社會(huì)需要在法律層面防止、防范科學(xué)對(duì)社會(huì)的傷害，并以刑法來制裁和懲罰已經(jīng)發(fā)生的對(duì)社會(huì)的傷害。對(duì)科學(xué)活動(dòng)加以限制，并且從刑法層面加以約束，在以往是超出想象的，但是今后應(yīng)該成為社會(huì)共識(shí),科學(xué)活動(dòng)并非是必然為人類造福的。

科學(xué)及其技術(shù)具有強(qiáng)大的威力，能夠給人類所生活的世界造成不可逆的轉(zhuǎn)變。當(dāng)氫氟烴 (第一例是杜邦公司生產(chǎn)的氟利昂)被發(fā)明出來，作為制冷劑的時(shí)候，獲得了全世界的歡呼，這是科學(xué)技術(shù)的又一大勝利給人類帶來的巨大便利。它的發(fā)明人也因此獲得了各種贊美、各種獎(jiǎng)勵(lì)。然而，后來，人們發(fā)現(xiàn)氫氟烴造成了臭氧層的空洞，對(duì)社會(huì)造成了嚴(yán)重的傷害，但是氫氟烴的發(fā)明人并未因此而遭受任何懲罰。他在人們不知情的情況下給世界造成了不可逆的轉(zhuǎn)變，只能獲得榮譽(yù)，不應(yīng)該受到懲罰嗎？

在1962年 《寂靜的春天》出版之前，人們還可以說這是科學(xué)家好心做了壞事，那么，在此之后，我們是否應(yīng)有所警惕、有所防范呢？

最近傳聞，艾滋病的病毒是一位美國科學(xué)家在實(shí)驗(yàn)室里發(fā)明出來的。倘若是真的，他給世界造成了如此巨大的變化，不應(yīng)該遭受懲罰嗎？當(dāng)然，現(xiàn)行法律拿他沒有辦法；那么，對(duì)于未來可能發(fā)生的類似行為，人們是否應(yīng)該有所警惕有所防范呢？

在化學(xué)工業(yè)之后，科學(xué)及其技術(shù)不斷地把這個(gè)世界從來沒有過的東西發(fā)明出來，鋪滿全球，這些東西將會(huì)產(chǎn)生什么樣的影響，是發(fā)明人自己也無法預(yù)料的。如果帶來好的結(jié)果，得到贊美和獎(jiǎng)勵(lì)也是應(yīng)該的；那么，當(dāng)壞的結(jié)果來臨，是否也應(yīng)該接受咒罵和懲罰呢？

如果人們相信科學(xué)技術(shù)是中性的，或者相信雙刃劍的說法，那么就沒有理由不相信，科學(xué)也會(huì)降禍于人、也會(huì)傷害社會(huì)。而這種傷害，并不會(huì)自動(dòng)受到約束。那么，從法律層面加以約束、管理、制裁，也并不是不能想象的。

如果我們已經(jīng)知道，一項(xiàng)未知的東西可能會(huì)產(chǎn)生嚴(yán)重的負(fù)面后果，那么在這樣的東西廣泛應(yīng)用之前，在這樣的東西被發(fā)明之前，是否就應(yīng)該預(yù)先接受公眾的審核呢？如果公眾普遍認(rèn)為這樣的東西不應(yīng)該出現(xiàn)，是否應(yīng)該有法律來保障公眾的意愿，不受某些 “勇敢的”科學(xué)家的傷害呢？如果這樣的勇敢的 “科學(xué)家”敢于冒天下之大不韙，是否應(yīng)該讓他受到更嚴(yán)厲的懲罰呢？

2009年，意大利拉奎拉發(fā)生一場(chǎng)5.8級(jí)地震，三百多人死亡。2012年，6位地震專家和1名官員被地方法院判決 “過失殺人”，監(jiān)禁6年，賠償900萬歐元。這是因?yàn)椋卣鹎鞍肽?，?dāng)?shù)鼐用窬透惺艿捷p微地震。由于這7人所在的 “重大危險(xiǎn)預(yù)測(cè)和預(yù)防全國委員會(huì)”一再向公眾表示 “不必?fù)?dān)心”，導(dǎo)致居民未能及時(shí)疏散。

刑不上科學(xué)家的時(shí)代應(yīng)該過去了，類似賀建奎的活見鬼事件，應(yīng)該引起社會(huì)的嚴(yán)肅對(duì)待。國家應(yīng)該制定專門的法律，或者在刑法中列入相關(guān)的條款，對(duì)科學(xué)活動(dòng)進(jìn)行約束，在法律層面有所防范、有所制裁、有所懲罰，以減少對(duì)社會(huì)的傷害。

挑戰(zhàn)和應(yīng)對(duì)：人胚胎基因編輯的國家治理

艾涼瓊 新鄉(xiāng)醫(yī)學(xué)院馬克思主義學(xué)院副教授

“基因編輯嬰兒”于2018年11月26日宣布在中國誕生，隨后引發(fā)了國內(nèi)外學(xué)界的一片爭(zhēng)議、質(zhì)疑和譴責(zé)，也加深了學(xué)術(shù)界對(duì)基因編輯技術(shù)濫用的憂患，帶來了一系列挑戰(zhàn)，提出了人胚胎基因編輯如何可控、有序推進(jìn)的國家治理問題，以促進(jìn)人胚胎基因編輯真正造福于人類，實(shí)現(xiàn)新興技術(shù)國家治理的科學(xué)化、民主化和現(xiàn)代化。

1 “基因編輯嬰兒”事件及挑戰(zhàn)

以預(yù)防疾病為目的的 “基因編輯嬰兒”之所以遭到學(xué)術(shù)界的普遍反對(duì)，其根本原因有兩個(gè)方面：一方面是理論不成熟，人類對(duì)自身基因組復(fù)雜性的認(rèn)知有限，還無法區(qū)分所謂的好基因、壞基因，更何況好壞是應(yīng)景的、相對(duì)的、動(dòng)態(tài)的；另一方面技術(shù)不可控，基因編輯嬰兒讓人詬病的正是安全性，對(duì)可遺傳性狀的改變，安全性是前提，以規(guī)避可能出現(xiàn)不可預(yù)測(cè)、不可逆轉(zhuǎn)的技術(shù)風(fēng)險(xiǎn)。

“基因編輯嬰兒”突破了國際學(xué)術(shù)界達(dá)成的人胚胎基因編輯共識(shí)，破壞了中國科學(xué)家恪守規(guī)則的良好形象，對(duì)已有科研倫理規(guī)范、法律規(guī)范及科學(xué)精神的挑戰(zhàn)，帶來了不良后果。其一是挑戰(zhàn)了已有的科研倫理規(guī)范。基因編輯嬰兒事件，無論是對(duì)于人類還是被編輯基因的嬰兒都風(fēng)險(xiǎn)巨大，違反了收益大于風(fēng)險(xiǎn)的原則，是典型的科研功利主義；其二是違背了科學(xué)精神。 “基因編輯嬰兒”事件偏離了同行監(jiān)督下開展創(chuàng)新研究的科學(xué)精神要求，無法保證其科學(xué)性。其三是挑戰(zhàn)了國家的相關(guān)法律規(guī)范。 “基因編輯嬰兒”事件違反了我國的《人類輔助生殖技術(shù)規(guī)范》等法律規(guī)范?？茖W(xué)界的自律、自治和社會(huì)規(guī)范均未能阻止基因編輯嬰兒的誕生，這就為人胚胎基因編輯的國家治理提出了現(xiàn)實(shí)要求。

2 人胚胎基因編輯國家治理的現(xiàn)實(shí)性

國際學(xué)術(shù)界呼喚全球人胚胎基因編輯倫理規(guī)范的構(gòu)建，全球治理具有必要性、迫切性，但不具有現(xiàn)實(shí)性。即使構(gòu)建了全球倫理規(guī)范，但倫理規(guī)范畢竟屬于 “軟約束”，不具有強(qiáng)制力，在全球?qū)用嫔霞夹g(shù)濫用的治理顯得軟弱無力，更無法懲罰那些不負(fù)責(zé)任的人胚胎基因編輯行為，第二屆國際基因組編輯峰會(huì)對(duì)基因編輯嬰兒誕生 “意外和令人深感不安”就是明證。由于國家具有地域性和強(qiáng)制力，實(shí)現(xiàn)人胚胎基因編輯的國家治理具有現(xiàn)實(shí)性、可操作性。

3 建立人胚胎基因編輯的國家治理機(jī)制

無論屬于治療性、預(yù)防性還是增強(qiáng)性的人胚胎基因編輯，對(duì)個(gè)體、社會(huì)乃至人類均會(huì)產(chǎn)生不可忽視的影響，科技界既然無法做到自律、自治，就需要建立有效的國家治理機(jī)制。

(1)參與主體的有效互動(dòng)。鑒于人胚胎基因編輯對(duì)社會(huì)影響的深度和廣度，需要相關(guān)的專家、政府、公眾及利益相關(guān)主體參與、有效互動(dòng)。其一是專家，專家因擁有該領(lǐng)域的專長而具有參與技術(shù)治理的合理性，人胚胎基因編輯涉及科技、倫理、法律等社會(huì)的很多方面，為此，基因編輯的遺傳學(xué)家、生物技術(shù)安全專家、倫理學(xué)家以及法學(xué)家均應(yīng)作為治理主體參與進(jìn)來，但要給專家意見以合適的權(quán)重，同時(shí)需要有效溝通和協(xié)調(diào)，為國家治理提供有力的智力支撐。其二是利益相關(guān)主體及其他公眾，由于治療性人胚胎基因編輯對(duì)基因缺陷或變異而導(dǎo)致的遺傳疾病 “根治”具有誘人前景，備受折磨的遺傳病人及家屬就是利益相關(guān)主體，理應(yīng)參與；其他公眾也是基因編輯技術(shù)的受益者與責(zé)任承擔(dān)者，公眾參與以實(shí)現(xiàn)技術(shù)治理的民主化。其三是政府。涉及到公共利益的人胚胎基因編輯行為構(gòu)成了公共利益風(fēng)險(xiǎn)，需要政府積極主動(dòng)監(jiān)管、治理，實(shí)現(xiàn)其有序、穩(wěn)步推進(jìn)更離不開政府的組織、協(xié)調(diào)和溝通，發(fā)揮各主體的參與功能。多主體協(xié)同參與，有效互動(dòng)，發(fā)揮專家特長，傾聽各方聲音、凝聚各方智慧，平衡各方利益，讓人胚胎基因編輯健康發(fā)展。

(2)參與部門的分工協(xié)作、協(xié)同治理。我國涉及人胚胎基因編輯的有多個(gè)監(jiān)管部門，如衛(wèi)生健康委員會(huì)、國家衛(wèi)生計(jì)生委、科技部、各級(jí)各類倫理審查委員會(huì)，有行政監(jiān)管、倫理監(jiān)管，但眾多部門的監(jiān)管職能重疊、缺乏統(tǒng)籌協(xié)調(diào)，在某種情況下監(jiān)管可能無法真正落實(shí)，導(dǎo)致人胚胎基因編輯的 “濫用”。我國對(duì)人胚胎基因編輯的基礎(chǔ)研究、臨床研究和治療的監(jiān)管，可以采用設(shè)立首批機(jī)構(gòu)的辦法，比如像英國開展這類研究必須得到英國人工授精與胚胎學(xué)管理局的批準(zhǔn)，美國開展此類研究必須由人類研究保護(hù)辦公室(OHRP)批準(zhǔn)，法國設(shè)立的生物醫(yī)學(xué)研究參與者保護(hù)咨詢委員會(huì)(CCPBR)也在履行同樣的職能。這樣，經(jīng)過各級(jí)各類倫理審查機(jī)構(gòu)審查的結(jié)果需要特定部門的審批，可以對(duì)其他監(jiān)管部門監(jiān)督、監(jiān)管不力設(shè)置最后一道防線，可以對(duì)技術(shù)濫用進(jìn)行有效治理。

(3)治理舉措的與時(shí)俱進(jìn)。當(dāng)前基因編輯技術(shù)發(fā)展迅猛、前景誘人，人胚胎基因編輯的風(fēng)險(xiǎn)較高，加上資本的強(qiáng)力介入，我國卻沒有出臺(tái)相應(yīng)的治理措施，科技治理具有明顯的滯后性，給人胚胎基因編輯的技術(shù)濫用提供了較大空間，治理舉措需要與時(shí)俱進(jìn)。隨著基因編輯技術(shù)的進(jìn)步，制定相應(yīng)人胚胎基因編輯的技術(shù)準(zhǔn)入標(biāo)準(zhǔn)、切實(shí)可行的倫理審查制度以及健全法律等治理舉措，使得技術(shù)治理科學(xué)化、動(dòng)態(tài)化。

4 構(gòu)筑人胚胎基因編輯的國家治理體系

中國是個(gè)負(fù)責(zé)任的大國，在中國開展任何科技活動(dòng)合乎人類的倫理共識(shí)、符合人類的共同利益是當(dāng)仁不讓的責(zé)任和義務(wù)，構(gòu)筑人胚胎基因編輯的國家治理體系也是當(dāng)務(wù)之急。

(1)構(gòu)建 “良序科學(xué)”運(yùn)行制度保障。人胚胎基因編輯該何去何從，能否讓失控的研究其后果得到可控，實(shí)現(xiàn)英國哲學(xué)家菲利普·基切爾 (Philip Kitcher)教授描述的 “良序科學(xué)”圖景，需要構(gòu)建 “良序科學(xué)”運(yùn)行的制度保障。讓公眾、政府、科學(xué)家或?qū)＜叶喾絽⑴c主體充分表達(dá)各自的意見，對(duì)如何選擇 “無私利”專家參與、如何組織參與主體討論該議題及如何設(shè)置嚴(yán)格的審批機(jī)構(gòu)等，在中國當(dāng)前法律不完善、倫理監(jiān)管不給力的狀態(tài)下，需要構(gòu)建人胚胎基因編輯的全面監(jiān)管、有效治理的制度保障。

(2)制定完備法律、法規(guī)體系。我國涉及人胚胎基因編輯的相關(guān)法律并不完全空缺，但的確不完備。我國法律對(duì)于基礎(chǔ)研究、預(yù)防性治療并沒有詳細(xì)的規(guī)定，雖然基因編輯技術(shù)CRISPR在治療遺傳疾病進(jìn)行嘗試性研究達(dá)成了國際共識(shí)，但治療性研究、預(yù)防性研究、增強(qiáng)性研究還是基礎(chǔ)研究的界限并不那么清晰，而相關(guān)的法律又無明確規(guī)定。就 “基因編輯嬰兒”事件來說，屬于疾病預(yù)防性，但是并沒有針對(duì)性的特定法律規(guī)范，更缺乏相應(yīng)的違規(guī)法律補(bǔ)救。因此，制定完備的法律法規(guī)，是實(shí)現(xiàn)國家治理的法律要求。

(3)提升倫理監(jiān)督能力。我國的國家級(jí)、省市級(jí)、科研機(jī)構(gòu)的三級(jí)倫理審查委員會(huì)倫理監(jiān)督能力參差不齊，甚至有些倫理委員會(huì)并不能進(jìn)行有效倫理監(jiān)督，需要提升各級(jí)倫理審查委員會(huì)的倫理審查能力，在一定程度上實(shí)行 “追責(zé)”，實(shí)現(xiàn)人胚胎基因編輯 “可控”。同時(shí)以倫理委員會(huì)為主導(dǎo)，加大科技倫理道德宣傳、教育，提高科研人員的科研倫理素養(yǎng)和認(rèn)同，有效發(fā)揮倫理委員會(huì)的職能。

(4)加強(qiáng)風(fēng)險(xiǎn)評(píng)估。充分認(rèn)識(shí)人胚胎基因編輯的技術(shù)風(fēng)險(xiǎn)，有效風(fēng)險(xiǎn)評(píng)估是有效治理的重要前提。可以成立專門的機(jī)構(gòu)，組織一支專業(yè)素質(zhì)良好的專家隊(duì)伍，對(duì)人胚胎基因編輯的全程進(jìn)行定期風(fēng)險(xiǎn)評(píng)估，把握其態(tài)勢(shì)，依靠國家強(qiáng)制力，及時(shí)叫停不當(dāng)應(yīng)用，確保合理應(yīng)用。

總之，人胚胎基因編輯具有前沿性、重大性、復(fù)雜性、挑戰(zhàn)性。許多研究人員因其誘人的醫(yī)療前景躍躍欲試，因其安全性欠缺、倫理爭(zhēng)議不得不 “權(quán)衡”利弊得失，三思而后行。對(duì)人胚胎基因編輯明確其基礎(chǔ)研究應(yīng)用、治療性應(yīng)用、增強(qiáng)性應(yīng)用、預(yù)防性應(yīng)用，分類監(jiān)管、有序開放，不斷評(píng)估，防控風(fēng)險(xiǎn)，有效規(guī)制，讓人胚胎基因編輯在 “安全、可控、有利、健康”的軌道上發(fā)展，實(shí)現(xiàn)國家的技術(shù)治理目標(biāo)。