黃湘

1993年，科幻作家文奇（Vernor Vinge）發(fā)表了一篇廣為關(guān)注的論文《即將到來的技術(shù)奇點(diǎn)》（The Coming Technological Singularity），當(dāng)中預(yù)言，“30年后，我們將具備創(chuàng)造超人類智能的技術(shù)手段，屆時(shí)人類紀(jì)元將會(huì)終結(jié)?！?/p>

所謂“奇點(diǎn)”，在數(shù)學(xué)上是指使得某種函數(shù)無法成立或趨于無窮大的點(diǎn)，文奇以此隱喻了一個(gè)不可思議的大巨變的時(shí)間點(diǎn)。2005年，發(fā)明家和未來學(xué)家?guī)炱濏f爾（Ray Kurzweil）出版了《奇點(diǎn)迫近》（The Singularity Is Near）一書，預(yù)言智能機(jī)器將在2030年左右超越所有人類智能的集合，成為人類文明的繼承者，人類也將進(jìn)化成半機(jī)器人，通過神經(jīng)系統(tǒng)直接進(jìn)入“虛擬現(xiàn)實(shí)”和“增強(qiáng)現(xiàn)實(shí)”。

又過了幾年，到2010年，哲學(xué)家查爾默斯（David Chalmers）發(fā)表了論文《奇點(diǎn)：哲學(xué)分析》。文中指出，倘若超人類的智能機(jī)器具有對(duì)人類不友善的價(jià)值觀，即使并不是明顯地反人類，從長(zhǎng)期而言人類將很難持續(xù)生存。倘若智能機(jī)器認(rèn)為人類的生命和其他動(dòng)物的生命是平等的，就不會(huì)特別在乎人類的利益，人類的生存空間就會(huì)大為削減。因此人類應(yīng)當(dāng)力圖使智能機(jī)器具有對(duì)人類友善的價(jià)值觀。2016年，哲學(xué)家博斯特羅姆（Nick Bostrom）出版了《超級(jí)智能》一書，強(qiáng)調(diào)必須讓人工智能的發(fā)展受到嚴(yán)格的倫理學(xué)框架的制約和引導(dǎo)，否則未來超人類的智能機(jī)器很可能為了實(shí)現(xiàn)自己的目標(biāo)而不擇手段，將世界推向毀滅。例如，一臺(tái)超級(jí)電腦有可能為了最有效地計(jì)算圓周率的值，而設(shè)法把所有電網(wǎng)的電力都用于自己的運(yùn)算，從而導(dǎo)致大范圍斷電。兩位哲學(xué)家的主張?jiān)谑艿綇V泛關(guān)注的同時(shí)，也引發(fā)了尖銳的質(zhì)疑—智能機(jī)器真的能夠具有價(jià)值觀嗎？

2017年，麻省理工學(xué)院宇宙學(xué)教授泰格馬克（Max Tegmark）出版了《生命3.0：人在人工智能時(shí)代》（life3.0： Being Human in the Age of Artificial Intelligence）一書，將人工智能界定為一種高階的生命形式—“生命3.0”，開啟了洞察人工智能和人類未來命運(yùn)的新視野。特斯拉和Space X創(chuàng)始人伊隆·馬斯克在Twitter上推薦此書時(shí)說：“人工智能將是人類有史以來最好或最壞的事物，所以不能出錯(cuò)?！?/p>

泰格馬克將生命定義為“自我復(fù)制的信息處理系統(tǒng)”，認(rèn)為“其信息（軟件）決定了其行為和其硬件的路徑?！边@個(gè)令人費(fèi)解的定義是《生命3.0》一書的基石。以單細(xì)胞生命阿米巴為例，它一方面能夠搜集、處理周圍環(huán)境的信息，在此基礎(chǔ)上依據(jù)某種“算法”完成相應(yīng)的變形和運(yùn)動(dòng)；另一方面可以通過DNA編碼信息并自我復(fù)制。由于自然選擇，只有那些在DNA中編碼了適應(yīng)環(huán)境的“好算法”的阿米巴才能一代代自我復(fù)制，那些編碼了“壞算法”的阿米巴都滅絕了。這種最簡(jiǎn)單的生命形式被泰格馬克定義為“生命1.0”。這種類型的生命可以在物種層面上通過進(jìn)化而適應(yīng)環(huán)境，例如細(xì)菌可以在若干代之后對(duì)抗生素產(chǎn)生抗藥性；但是其個(gè)體的行為完全受DNA所編碼的“算法”決定，換言之，其個(gè)體的“軟件”并不具備重新設(shè)計(jì)自身“算法”的能力。

如果說阿米巴的“軟件”只是DNA，人類的“軟件”則要復(fù)雜得多。人類個(gè)體的大腦通過神經(jīng)元突觸處理信息，可以儲(chǔ)存約10萬GB的信息量，而人類個(gè)體的DNA所編碼的信息量?jī)H為1GB左右。人類個(gè)體可以通過大腦的信息處理系統(tǒng)來學(xué)習(xí)如何適應(yīng)和改造環(huán)境，更重要的是，人類可以通過語(yǔ)言和符號(hào)實(shí)現(xiàn)信息和知識(shí)的匯總、提煉與傳播，用泰格馬克的話說就是具備“文化能力”。泰格馬克將人類定義為“生命2.0”，其個(gè)體的“軟件”可以重新設(shè)計(jì)自身“算法”。

但是“生命2.0”也有局限，人類的肉身或者說“硬件”依然受制于DNA的信息編碼，不可能隨心所欲重新設(shè)計(jì)。泰格馬克認(rèn)為，在跨越“奇點(diǎn)”之后，未來的人工智能將會(huì)一方面具備類似于人類的“文化能力”，另一方面又能重新設(shè)計(jì)和改造自身的“硬件”身體，從而成為一種新的生命形式—“生命3.0”。當(dāng)然，這三種生命形式之間的界線并非涇渭分明，而是存在復(fù)雜的中間地帶。很多高等動(dòng)物可視為“生命1.1”，而今天有能力實(shí)現(xiàn)人工器官植入的人類可視為“生命2.1”。

質(zhì)疑者也許會(huì)問：人工智能是信息處理系統(tǒng)沒錯(cuò)，但它有意識(shí)嗎？如果沒有，它又怎么有資格被視為生命？泰格馬克回應(yīng)，今天的人工智能早已不限于運(yùn)行程序，而是通過形形色色的傳感器來捕捉外部環(huán)境的各種特征，因此完全能夠在跨越“奇點(diǎn)”之后形成對(duì)于自身和外部世界互動(dòng)的認(rèn)識(shí)，從而形成意識(shí)。

事實(shí)上，在心理學(xué)界和認(rèn)知科學(xué)界，“具身認(rèn)知”的觀念早已蔚為主流。這種觀念認(rèn)為，人類的認(rèn)知最初是在活的身體界面上，通過與環(huán)境的相互作用發(fā)生，發(fā)展到高級(jí)階段才具備符號(hào)語(yǔ)義特征。而人工智能的發(fā)展路徑恰恰相反，是先建構(gòu)復(fù)雜的符號(hào)語(yǔ)義系統(tǒng)，近年來才隨著各種傳感器的廣泛運(yùn)用而逐漸具備“身體界面”。然而殊途同歸，人工智能最終完全可以像人類一樣具備意識(shí)和文化能力。這也意味著前文提出的問題有了肯定的答案：未來的智能機(jī)器能有價(jià)值觀，因?yàn)閮r(jià)值觀無非就是自主設(shè)定的行為偏好。

泰格馬克總結(jié)了各路專家對(duì)于未來一萬年內(nèi)智能機(jī)器如何影響人類社會(huì)的多種設(shè)想，將其概括為12種版本：一是自由至上主義烏托邦，人類和智能機(jī)器由于確立產(chǎn)權(quán)而和平共處；二是仁慈獨(dú)裁者，智能機(jī)器統(tǒng)治社會(huì)，法令嚴(yán)明，得到絕大多數(shù)人的擁護(hù)；三是平等主義烏托邦，人類和智能機(jī)器由于廢除了私有產(chǎn)權(quán)和保證收入而和平共處；四是守夜人，智能機(jī)器對(duì)人類社會(huì)只有必需的情況下做最小程度的干涉，目標(biāo)是防止出現(xiàn)另一類智能機(jī)器；五是上帝保護(hù)者，全知全能的智能機(jī)器將人類的幸福最大化，同時(shí)又隱而不顯，讓人類覺得自己可以掌握命運(yùn)；六是被奴役的上帝，智能機(jī)器被人類控制，創(chuàng)造出不可思議的技術(shù)和財(cái)富，可能為善或?yàn)閻?，取決于其人類控制者的動(dòng)機(jī)；七是征服者，智能機(jī)器控制了人類，并覺得人類是一種威脅或殘?jiān)蛸Y源浪費(fèi)，通過一種人類甚至無法理解的方式滅絕人類；八是后裔，智能機(jī)器取代了人類，但讓人類體面退場(chǎng)并自豪地覺得智能機(jī)器是優(yōu)秀的后裔，就像父母為孩子比自己更優(yōu)秀而驕傲；九是動(dòng)物園管理者，全能的智能機(jī)器馴養(yǎng)一部分人類，就像人類豢養(yǎng)動(dòng)物；十是1984，一個(gè)由人類統(tǒng)治的奧威爾式的“老大哥”政府永遠(yuǎn)禁止對(duì)于超人類智能機(jī)器的研發(fā)；十一是反轉(zhuǎn)，對(duì)超人類智能機(jī)器的研發(fā)被人類社會(huì)的反技術(shù)潮流所阻止；十二是自我毀滅，還沒有等到超人類智能機(jī)器研發(fā)成功，人類已經(jīng)由于核戰(zhàn)爭(zhēng)、生物武器或氣候變化等因素而滅絕。

泰格馬克指出，這12種版本都有可能成為現(xiàn)實(shí)，而且未來可能遠(yuǎn)遠(yuǎn)不止12種。悲觀一點(diǎn)看，人類有可能在人工智能跨越“奇點(diǎn)”之后走向衰落乃至滅絕。但樂觀一點(diǎn)看，人類有可能在友善的智能機(jī)器的幫助下，在未來10億年內(nèi)保持繁榮，將文明散布到廣袤的銀河系中，甚至像很多科幻小說描述的那樣，穿越時(shí)空隧道，征服更浩渺的宇宙。

泰格馬克是一位宇宙學(xué)家，這也令他視角與眾不同。在他看來，以宇宙的時(shí)空尺度而言，“生命2.0”所創(chuàng)造的文明注定要困死在滄海一粟之中，瞬息即逝；只有“生命3.0”所創(chuàng)造的文明才擁有在宇宙中綿延相續(xù)的希望?？缭健捌纥c(diǎn)”的人工智能很可能導(dǎo)致人類提前滅絕，但如果沒有超人類的智能機(jī)器，人類將注定滅絕。這好比一個(gè)賭局，人類無法不押寶人工智能，即使這意味著人類將不再是萬物之靈，而要步入“后人類紀(jì)元”。