胡泳

英國(guó)作家伊安·莫蒂默（Ian Mortimer）的書《變革的世紀(jì)》中，討論了這樣一個(gè)問題：哪個(gè)世紀(jì)我們看到的變革最多？莫蒂默認(rèn)為，11世紀(jì)最重要的東西是城堡，12世紀(jì)是法律和秩序，13世紀(jì)最重要的發(fā)明是市場(chǎng)，14世紀(jì)最大的變化是瘟疫（當(dāng)時(shí)黑死病橫掃整個(gè)歐洲，死掉三分之一的人口），15世紀(jì)是哥倫布，16世紀(jì)是個(gè)人暴力的減少，17世紀(jì)最關(guān)鍵的是科學(xué)革命，18世紀(jì)是法國(guó)革命，19世紀(jì)是通信，而20世紀(jì)最重要的變革是對(duì)未來的發(fā)明。

毫無疑問，技術(shù)極大地改變了我們?cè)?0世紀(jì)的生存和死亡方式。但是，它也標(biāo)記了可能更為深刻的變化。1900年，很少有人認(rèn)真考慮過未來，而今天，我們幾乎預(yù)測(cè)所有事情：天氣會(huì)怎樣，股市又如何，我們需要什么樣的住房，我們的退休金將價(jià)值多少，等等。我們?cè)絹碓蕉嗟刂v述將要發(fā)生的事情，而不是已經(jīng)發(fā)生的事情。在這個(gè)意義上，我們把20世紀(jì)視為現(xiàn)代世界開始的起點(diǎn)——人類從此開始考慮未來。

21世紀(jì)，迄今已邁過20年。如果說20世紀(jì)是現(xiàn)代世界的起點(diǎn)，那么，我們又將如何描述21世紀(jì)？

我認(rèn)為，21世紀(jì)是人類歷史上最重要的世紀(jì)，雖然這個(gè)世紀(jì)還遠(yuǎn)遠(yuǎn)沒有過完。這并不是因?yàn)槟阄疑硖庍@個(gè)世紀(jì)——我們都知道，人類擁有一種將自己的時(shí)代看成前所未有、獨(dú)一無二的傾向。存在三個(gè)核心論點(diǎn)，可以證明我們生活在人類歷史的關(guān)鍵時(shí)刻。

危險(xiǎn)時(shí)刻

第一個(gè)論點(diǎn)可以叫作“危險(xiǎn)時(shí)刻”理據(jù)。

這個(gè)理據(jù)很簡(jiǎn)單：本世紀(jì)我們只有克服巨大的挑戰(zhàn)才能擁有任何未來，僅此一點(diǎn)，就足以使其成為迄今為止所有世紀(jì)中最重要的世紀(jì)。假如被這些挑戰(zhàn)所擊敗，人類就將處于毀滅的邊緣，這也令本世紀(jì)比未來的世紀(jì)更加關(guān)鍵。

牛津大學(xué)的哲學(xué)家托比·奧爾德說：“按照人類歷史的標(biāo)準(zhǔn)，我們目前正處于一個(gè)非常特殊的時(shí)期，我們的行為可能會(huì)破壞我們的世界?！彼耐履峥耍坎ㄋ固芈迥穼⒋朔Q為人類的“存在風(fēng)險(xiǎn)”（existential risk），即某些威脅可能導(dǎo)致人類滅絕或摧毀起源于地球的智慧生命。

過去，人類不可能完全消滅自己。然而，并不算太久之前的1945年，人類在戰(zhàn)爭(zhēng)中首次使用核武器，發(fā)展出滅絕自身的能力。從那以后，我們不斷磨煉這種死亡能力，現(xiàn)在地球上有了成千上萬件核武器。專家們對(duì)核戰(zhàn)爭(zhēng)到底會(huì)帶來多大的災(zāi)難持不同看法，但很顯然，人類自毀不再遙遠(yuǎn)，而且每年都在變得越來越容易。

我們也朝著其他威脅文明的方式邁進(jìn)——從氣候變化到流行病，從基因技術(shù)到人工智能。隨著我們侵占自然并把地球人口擴(kuò)大到80億人，病毒可能反復(fù)來襲，這是與我們作為一個(gè)“成功”物種必然相伴的災(zāi)難。氣候變化不會(huì)使地球變得無法居住，但它肯定會(huì)使其變得更脆弱，彈性更低，全球協(xié)調(diào)性下降，并且更容易受到生態(tài)系統(tǒng)或地緣政治環(huán)境的其他沖擊源的影響。人工智能研究者對(duì)于顛覆性AI技術(shù)究竟是10年還是200年到來并沒有共識(shí)，但許多人同意，除非經(jīng)過精心設(shè)計(jì)，它的降臨將會(huì)是災(zāi)難性的。

根據(jù)存在風(fēng)險(xiǎn)論，從我們發(fā)明各種自毀方法到某種形式的全球治理浮現(xiàn)，令我們可以通過協(xié)調(diào)而系統(tǒng)的方式解決挑戰(zhàn)，而不是依賴運(yùn)氣的時(shí)期，構(gòu)成歷史上的樞紐期（the hinge of history）。只有我們?cè)诮酉聛淼臅r(shí)間內(nèi)采取明智的行動(dòng)，人類才將得以度過最危險(xiǎn)和最具決定性的時(shí)期。沒有度過這個(gè)時(shí)期之前，你我他、每一個(gè)人，都是憑借著運(yùn)氣生活，存在著巨大的偶然性。

不能確定這個(gè)非常特殊的時(shí)期正好是一個(gè)世紀(jì)之久；它很容易持續(xù)數(shù)百年。但極其明顯的是，樞紐期將不會(huì)永遠(yuǎn)持續(xù)下去。如果我們每年僅靠運(yùn)氣生存，那么到了某些年份，我們會(huì)倒霉。

美國(guó)人口生態(tài)學(xué)家保羅·艾里奇最有名的著作是1968年出版的轟動(dòng)一時(shí)的《人口爆炸》，該書認(rèn)為世界人口當(dāng)時(shí)已經(jīng)超過了地球生態(tài)環(huán)境的承載能力，正威脅著整個(gè)人類的生存。由于出版社的決定，他的妻子安妮·艾里奇沒有成為《人口爆炸》一書的共同作者。但之后的很多書和文章都署名為艾里奇夫婦。

這對(duì)夫婦寫過一本書叫《滅絕》，前言里講了一個(gè)寓言故事，很快就在生態(tài)學(xué)術(shù)圈中流傳開來，就像“人口炸彈”的比喻對(duì)外界發(fā)生巨大影響一樣。

這個(gè)故事講述的是，一名旅客注意到一個(gè)機(jī)修工正從他將要乘坐的飛機(jī)機(jī)翼上敲出鉚釘。機(jī)修工解釋說航空公司將因此獲得一大筆錢。同時(shí)，機(jī)修工也向這位震驚的旅客保證，飛機(jī)上有上千鉚釘，絕對(duì)是萬無一失的。事實(shí)上他已經(jīng)這樣做了一陣子了，也沒見有飛機(jī)掉下來。

這則寓言的重點(diǎn)在于，我們無從知曉究竟哪一顆鉚釘會(huì)是導(dǎo)致飛機(jī)失事的最后一根稻草。但對(duì)于乘客而言，哪怕敲掉一顆鉚釘都是瘋狂的行為。然而艾里奇教授卻嚴(yán)正指出，在地球這艘大型宇宙船上，人類正在以越來越快的速度敲掉一顆顆的“鉚釘”：“生態(tài)學(xué)家并不能預(yù)言失去一個(gè)物種的結(jié)果，正如乘客無法估計(jì)飛機(jī)失去一顆鉚釘會(huì)有什么后果一樣?！?blockquote>量子理論告訴我們，不可預(yù)測(cè)性不一定是一件壞事。也許它為我們?nèi)绾蚊鎸?duì)未來提供了一個(gè)教訓(xùn)——通過負(fù)責(zé)任的計(jì)劃，同時(shí)也包含未來的不確定性，人類可以提高為未來做好準(zhǔn)備的概率。

這個(gè)寓言精妙地顯示了，我們每一年都在依靠運(yùn)氣生存。因此，存在風(fēng)險(xiǎn)的研究者希望我們能夠結(jié)束導(dǎo)致危險(xiǎn)的全球局勢(shì)，而不是僅僅試圖度過每一年的危險(xiǎn)。如果我們能夠做到這一點(diǎn)，它將對(duì)未來產(chǎn)生巨大的決定性影響。

價(jià)值鎖定

第二種理據(jù)叫作“價(jià)值鎖定”。

價(jià)值觀鎖定的觀點(diǎn)認(rèn)為，在不久的將來，人們可以通過某些方式，為更遙遠(yuǎn)的未來的人類后代鎖定一種特定的路線。如果這樣做，我們需要確保我們不會(huì)鎖定未來道德進(jìn)步的潛力。

一些研究人員認(rèn)為，開發(fā)更先進(jìn)的技術(shù)將意味著，把有關(guān)人類價(jià)值觀的許多最重要的問題，有效地置于人類控制之外。如果我們對(duì)率先問世的先進(jìn)計(jì)算機(jī)系統(tǒng)進(jìn)行編程，讓它分享我們的價(jià)值觀，那就是它會(huì)做的，哪怕我們后來決定我們想要某種不同的東西。

第二次世界大戰(zhàn)時(shí)期，阿蘭·圖靈密碼破譯小組的首席統(tǒng)計(jì)師兼數(shù)學(xué)家I.J.古德，大概是清晰闡述人工智能未來圖景的第一人。在那段寫于1965年、后來被經(jīng)常引用的名言中，他這樣寫道：“我們把超智能機(jī)器定義為具備超越所有聰慧人類智能活動(dòng)的機(jī)器?？紤]到設(shè)計(jì)機(jī)器是智能活動(dòng)的一部分，那么超智能機(jī)器甚至能夠設(shè)計(jì)出更好的機(jī)器。毫無疑問，肯定會(huì)出現(xiàn)諸如‘智能爆發(fā)這樣的局面，人類智能會(huì)被遠(yuǎn)遠(yuǎn)地甩在后面。因此，第一臺(tái)超智能機(jī)器將是人類創(chuàng)造的最后一臺(tái)機(jī)器，當(dāng)然前提條件是這臺(tái)機(jī)器足夠聽話，并告訴我們要怎樣才能控制它?！?/p>

在《超級(jí)智能》一書中，尼克？波斯特洛姆循著古德的思想認(rèn)為：“如果有一天我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦，那么這種超級(jí)智能將會(huì)非常強(qiáng)大。并且，正如現(xiàn)在大猩猩的命運(yùn)更多地取決于人類而不是它們自身一樣，人類的命運(yùn)將取決于超級(jí)智能機(jī)器……一旦不友好的超級(jí)智能出現(xiàn)，它就會(huì)阻止我們將其替換或者更改其偏好設(shè)置，而我們的命運(yùn)就因此被鎖定了?！?/p>

所以，超級(jí)智能帶來的挑戰(zhàn)，很可能是人類面對(duì)的最重要和最可怕的挑戰(zhàn)。而且，不管我們成功還是失敗，這大概都是我們將要面對(duì)的最后一個(gè)挑戰(zhàn)。“我們要的不僅僅是嫻熟的技術(shù)以引燃智能爆炸，我們還要能在更高水平上掌握控制權(quán)，以免我們?cè)诒ㄖ猩硎桩愄??！?/p>

大多數(shù)關(guān)注“價(jià)值鎖定”的研究人員都在考慮人工智能問題。不過還有一種更一般的說法。牛津大學(xué)學(xué)者威爾·麥克斯基爾將其總結(jié)為：“最關(guān)鍵的點(diǎn)是，我們?nèi)绾伍_發(fā)用于設(shè)計(jì)謀劃人類后代的動(dòng)力和價(jià)值的技術(shù)（可能通過AI，但也可能通過其他技術(shù)，例如基因工程或先進(jìn)的洗腦技術(shù)）?！睋Q句話說，如果我們?cè)谶@一步形成的是足夠?qū)Ｖ坪蛷?qiáng)大的威權(quán)，新技術(shù)可能意味著子孫后代將無力推翻或改革它。

群體行動(dòng)

關(guān)于21世紀(jì)如何與眾不同，還有最后一種理據(jù)。在大多數(shù)歷史上，即使人類就某一種行動(dòng)方針達(dá)成一致，整個(gè)世界也無法圍繞這種方針進(jìn)行協(xié)調(diào)。而全球通信技術(shù)已經(jīng)改變了這一點(diǎn)。

在涉及人類交往的情況下，群體行動(dòng)問題無處不在，因此是經(jīng)濟(jì)學(xué)和政治科學(xué)的核心。例如，諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者埃莉諾·奧斯特羅姆就聲稱，“群體行動(dòng)理論是政治學(xué)的中心主題”。任何時(shí)候，只要個(gè)人在不付出時(shí)間和精力的情況下，可以從他人的昂貴行動(dòng)中受益，社會(huì)就會(huì)面臨群體行動(dòng)的困境。而在如此困境中，人類并非一籌莫展，是可以找到應(yīng)對(duì)機(jī)制的。21世紀(jì)的一個(gè)關(guān)鍵任務(wù)，就是去發(fā)現(xiàn)并實(shí)行這樣的應(yīng)對(duì)機(jī)制，由此在全人類的層面上達(dá)成一致并開展共同行動(dòng)。

同樣，在大多數(shù)歷史上，經(jīng)濟(jì)增長(zhǎng)緩慢或者根本沒有增長(zhǎng)。而現(xiàn)在，經(jīng)濟(jì)正在快速地增長(zhǎng)，各行各業(yè)都充滿了變革性。有人認(rèn)為這不可能持續(xù)到遙遠(yuǎn)的未來，因?yàn)楦鲊?guó)仍然在使用20世紀(jì)的標(biāo)準(zhǔn)來衡量幸福感，這個(gè)標(biāo)準(zhǔn)就是國(guó)內(nèi)生產(chǎn)總值（GDP）。為了全球經(jīng)濟(jì)的可持續(xù)發(fā)展，我們既需要捕捉生產(chǎn)資本和金融資本，也需要重視勞動(dòng)力技能（人力資本）、社會(huì)凝聚力（社會(huì)資本）和環(huán)境價(jià)值（自然資本）。

形成未來的兩條道路

所有這一切，使得21世紀(jì)成為一個(gè)不尋常的時(shí)刻，也許是決心改變世界的人們被賦予這樣做的非同尋常的權(quán)力的時(shí)刻。聽起來，有關(guān)21世紀(jì)是否可以稱為人類歷史上最重要的世紀(jì)的宣稱，不論你同意也好，不同意也好，似乎都是主觀抽象的看法。然而對(duì)這個(gè)問題的回答，其實(shí)絕非無關(guān)緊要。

如果21世紀(jì)是一個(gè)非常關(guān)鍵的世紀(jì)，那么對(duì)長(zhǎng)期未來而言，最好將重點(diǎn)放在我們面前的緊迫挑戰(zhàn)上，比如將我們所有的資源都用于應(yīng)對(duì)即將到來的最大威脅。而如果它并不那么關(guān)鍵，那么專注于我們?nèi)绾嗡茉熳訉O后代就更有意義了——也許建立新的長(zhǎng)期機(jī)構(gòu)、資助哲學(xué)和倫理研究以及努力改善網(wǎng)絡(luò)時(shí)代的教育，對(duì)未來才是更重要的。

一些研究遠(yuǎn)景的人認(rèn)為，我們最需要采取有針對(duì)性的干預(yù)措施，以使遠(yuǎn)景變得美好。所謂有針對(duì)性的干預(yù)好有一比，就像阻止小行星撞擊地球一樣。其他人則傾向于以非常廣泛的方式來幫助形成遙遠(yuǎn)的未來，例如使民眾變得更加利他、受過良好教育或富有同情心，相信無論未來遇到什么問題，這些方式都可能提供幫助。由此，判定本世紀(jì)是否獨(dú)特，或者至少是非同尋常，可能會(huì)影響到一個(gè)決斷：到底是有針對(duì)性的干預(yù)好，還是廣泛的幫助更好。

我想引用過去十年來，量子技術(shù)的快速增長(zhǎng)來進(jìn)一步說明這一點(diǎn)。未來雖仍然是不可預(yù)測(cè)的，但幸運(yùn)的是，量子理論告訴我們，不可預(yù)測(cè)性不一定是一件壞事。實(shí)際上，可以將兩個(gè)量子位鎖定在一起，以使它們各自都不確定，但同時(shí)它們又可以完美地實(shí)現(xiàn)同步——兩個(gè)量子位均為0或均為1。也許它也為我們?nèi)绾蚊鎸?duì)未來提供了一個(gè)教訓(xùn)。通過負(fù)責(zé)任的計(jì)劃，同時(shí)也包含未來的不確定性，人類可以提高為未來做好準(zhǔn)備的概率。

簡(jiǎn)而言之，我們?nèi)绾慰创臼兰o(jì)的威脅，可能會(huì)大大影響我們?nèi)绾螒?yīng)對(duì)這些威脅。而當(dāng)全世界最需要大國(guó)攜手處理一些關(guān)鍵事情的時(shí)候，中美卻在分道揚(yáng)鑣。這進(jìn)一步加劇了我們面臨的風(fēng)險(xiǎn)，更加使得21世紀(jì)成為人類歷史上最重要的世紀(jì)。