讓-保爾·德拉埃

當(dāng)人工智能在越來越多的領(lǐng)域超越人類時(shí)，我們不得不思考它到底會(huì)發(fā)展成什么樣，又會(huì)對(duì)人類社會(huì)產(chǎn)生哪些影響。

讓-保爾·德拉埃

（Jean-Paul Delahaye）

人工智能領(lǐng)域的科學(xué)家已經(jīng)取得了一項(xiàng)驚人的成就。戴維·希爾弗（David Silver）是DeepMind團(tuán)隊(duì)的負(fù)責(zé)人，他和團(tuán)隊(duì)共同研發(fā)的AlphaZero從掌握初步規(guī)則開始，通過自己與自己對(duì)戰(zhàn)，獨(dú)立學(xué)會(huì)了國(guó)際象棋、圍棋和將棋（日本棋類游戲）。對(duì)于這三種棋類游戲，AlphaZero已經(jīng)超過了最好的人類棋手。

這一進(jìn)步非常了不起。1997年，計(jì)算機(jī)深藍(lán)（Deep Blue）打敗了國(guó)際象棋世界冠軍加里·卡斯帕羅夫（Gary Kasparov），它結(jié)合了優(yōu)秀的算法與對(duì)棋局的出色理解。最好的人類棋手也貢獻(xiàn)了關(guān)于開局、殘局和局面評(píng)估的專業(yè)知識(shí)，從某種意義上來說，是人類將這些知識(shí)“教”給了程序。

而AlphaZero不同，不需要由人類專家向它傳授自己掌握的知識(shí)。對(duì)于這樣的棋類游戲，AI可以獨(dú)立學(xué)習(xí)，快速達(dá)到人類需要幾個(gè)世紀(jì)才能累積的高度。AlphaZero的研發(fā)人員表示：“無論對(duì)于國(guó)際象棋、將棋還是圍棋， AlphaZero使用的都是同樣的算法，同樣的網(wǎng)絡(luò)結(jié)構(gòu)。結(jié)果表明，通用強(qiáng)化學(xué)習(xí)算法（即能夠勝出的決策將被算法優(yōu)先選擇）能夠從一塊白板出發(fā)，學(xué)會(huì)任何事物。它不需要依靠知識(shí)，也不需要來自人類的特定經(jīng)驗(yàn)?！?/p>

隨著人工智能快速發(fā)展，這個(gè)領(lǐng)域也開始面臨越來越迫切的問題。研究人員、哲學(xué)家還有技術(shù)預(yù)言家紛紛開始辯論，設(shè)想未來可能出現(xiàn)的種種矛盾。無論是感到期待還是恐慌，沒有人會(huì)懷疑人工智能將主導(dǎo)我們的未來。這種主導(dǎo)作用也許是通過互聯(lián)網(wǎng)，也許是與人類融合。

許多思想家都曾經(jīng)深入思考過超級(jí)人工智能（以及它對(duì)人類的態(tài)度），試圖以此預(yù)測(cè)未來的趨勢(shì)。我們將探討尼克·博斯特羅姆（Nick Bostrom）、雷·庫(kù)茲韋爾（Ray Kurzweil）、本（Ben）和泰德·戈?duì)枬蔂柛缸樱═ed Goertzel）、漢斯·莫拉維克（Hans Moravec）、弗朗西斯·海利根（Francis Heylighen）、雨果·德·加里斯（Hugode Garis）和克萊蒙·維達(dá)爾（Clement Vidal）的思考。

評(píng)論的風(fēng)口浪尖

當(dāng)我們還不了解一件事物時(shí)，往往會(huì)作出夸張的設(shè)想，討論它的性質(zhì)時(shí)也會(huì)出現(xiàn)兩極分化的觀點(diǎn)。但是，正如劇作家拉辛（Racine）借他筆下人物所說，AI無法承擔(dān)我們過分施加的榮耀，也不至于因?yàn)樗l(fā)的憂慮而遭受羞辱。

盡管我們對(duì)AI取得的成就感到震驚，也意識(shí)到它可能會(huì)造成巨大的影響，但不能被狂熱沖昏頭腦。AI在許多高度專業(yè)化的任務(wù)中都取得了驚人的成績(jī)，但它仍然難以勝任所有需要常識(shí)的任務(wù)，例如翻譯文學(xué)作品。自動(dòng)駕駛也被寄予厚望，但是專家仍然保持謹(jǐn)慎，認(rèn)為我們至少需要50年的時(shí)間，才可能制造出完全自主駕駛的汽車，讓乘客能夠安心在后排看書。

在我撰寫的專欄中，曾經(jīng)提到過一些能夠欺騙圖片識(shí)別軟件（基于深度神經(jīng)網(wǎng)絡(luò)的算法）的方法。比如，所有人都能一眼看出這是一門大炮的照片，算法卻把它識(shí)別成了鴕鳥。

雖然人工智能已經(jīng)在越來越多的專業(yè)任務(wù)中取得了令人矚目的成就，但它卻面臨兩方面的障礙。首先，對(duì)于同樣的任務(wù)，AI獲得結(jié)果的方式與人類的方式完全不同，它借助技術(shù)設(shè)備和計(jì)算，不需要人類介入。例如，部分自動(dòng)駕駛汽車上裝配的雷達(dá)和激光，它們計(jì)算和存儲(chǔ)海量信息的能力遠(yuǎn)遠(yuǎn)超過人腦；另一方面，盡管取得了這樣的成就，AI仍然無法將多種專業(yè)能力結(jié)合起來，形成一個(gè)自洽的、具備常識(shí)的系統(tǒng)。我們無法合理地推測(cè)它們是否具備自我意識(shí)，擁有感知能力、幽默感，甚至是完備而穩(wěn)定的“人格”。

總是失誤的預(yù)測(cè)

1958年，赫伯特·西蒙（Herbert Simon，1978年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主）宣稱，在未來10年中，計(jì)算機(jī)將在國(guó)際象棋中打敗人類冠軍。他正確預(yù)言了我們將取得的成就，卻弄錯(cuò)了等待的時(shí)間——他的預(yù)言過了40年才實(shí)現(xiàn)。

1966年，英國(guó)著名統(tǒng)計(jì)學(xué)家歐文·古德（Irving Good）為斯坦利·庫(kù)布里克（Stanley Kubrick）的電影《2001太空漫游》擔(dān)任顧問，他設(shè)想在2000年將出現(xiàn)一個(gè)強(qiáng)大的人工智能，達(dá)到甚至超越人類的智力水平?，F(xiàn)在的人工智能還沒有達(dá)到這個(gè)水平，期待強(qiáng)大人工智能的人們只好推遲這個(gè)期限。谷歌工程技術(shù)總監(jiān)庫(kù)茲韋爾和奇點(diǎn)大學(xué)（位于美國(guó)加州的一所私立學(xué)校）聯(lián)合創(chuàng)始人及董事長(zhǎng)彼得·戴曼迪斯（Peter Diamandis）認(rèn)為這個(gè)期限是2030年，而AI研究者泰德·戈?duì)枬蔂柡捅尽じ隊(duì)枬蔂杽t認(rèn)為要等到2040年，甚至2100年。

這很可能會(huì)像國(guó)際象棋AI的發(fā)展一樣：我們實(shí)現(xiàn)了目標(biāo)，只是晚得多。因?yàn)檫@個(gè)問題非常困難，我們只有經(jīng)過年復(fù)一年的努力才會(huì)實(shí)現(xiàn)這一點(diǎn)。如今，最合理的預(yù)測(cè)也許是不要作出任何預(yù)測(cè)！

對(duì)于必將到來的超級(jí)人工智能，人們提出了一個(gè)叫做“奇點(diǎn)”的概念，盡管誰也無法真正了解它究竟是什么。也許是某個(gè)日期，到時(shí)候地球上人工智能的能力曲線將以接近垂直的方式增長(zhǎng)？也許是某個(gè)事件，機(jī)器毀滅人類，奪取了權(quán)力？也許是某一時(shí)刻，由于超越人類的人工智能帶來了翻天覆地的變化，人類再也無法理解這個(gè)世界？

即便考慮著名的“摩爾定律”（計(jì)算設(shè)備的能力每18個(gè)月到2年就會(huì)翻倍，過去50年的發(fā)展基本符合這一定律），“奇點(diǎn)”理論也不會(huì)很快成為嚴(yán)重的威脅。一方面，摩爾定律預(yù)測(cè)的增長(zhǎng)是一個(gè)指數(shù)函數(shù)，它不會(huì)趨于直線；另一方面，在我們的物理世界中，所有的指數(shù)增長(zhǎng)都會(huì)很快遇到阻礙，進(jìn)而停滯不前。沒有人認(rèn)為摩爾定律會(huì)無限延續(xù)下去（它已經(jīng)遇到了困難）。最后，盡管計(jì)算和存儲(chǔ)能力持續(xù)增長(zhǎng)，也無法確保我們始終知道如何使用這些能力，創(chuàng)造出足以和我們對(duì)抗的通用型人工智能。

對(duì)于谷歌、蘋果、臉書、亞馬遜和微軟在這方面發(fā)出的宣言，我們應(yīng)該審慎地看待。和這些技術(shù)公司的發(fā)言人相比，一些研究人員的態(tài)度要謹(jǐn)慎和清醒得多，例如法國(guó)國(guó)家科學(xué)研究中心（CNRS）倫理委員會(huì)主席、人工智能專家讓-加布里埃尓·加納西亞（Jean-Gabriel Ganascia）。加納西亞認(rèn)為，那些人想要發(fā)起一個(gè)由企業(yè)主導(dǎo)、超越國(guó)界的大型項(xiàng)目，可能只是出于無盡的貪欲。奇點(diǎn)的概念被用來轉(zhuǎn)移注意力、制造恐慌，但實(shí)際上這主要是為了勸阻其他人，并掩飾自己想要占據(jù)統(tǒng)治地位的野心。

盡管無法確切地知道超級(jí)人工智能出現(xiàn)時(shí)是什么情形，但也無法阻止我們深入探討、投下賭注。我們可以想象多個(gè)不同的場(chǎng)景，不設(shè)定具體期限，甚至考慮任何猜想都不正確。

尼克·博斯特羅姆在他的書中定義了超級(jí)人工智能，并設(shè)定這種智能在任何一個(gè)方面都大大超過人類的認(rèn)知能力。他還提出了兩個(gè)截然不同的假設(shè)。

（a）基于硅的機(jī)器（包括量子計(jì)算機(jī)）進(jìn)入實(shí)用領(lǐng)域并不斷發(fā)展，最終這些人造設(shè)備在一切可能的智力活動(dòng)中達(dá)到甚至超過人類水平，就像AlphaZero一樣。而我們與它們的功能沒有發(fā)生直接聯(lián)系，也沒有在肢體上與人工智能設(shè)備融合或相連接。

（b）基于生物性元素（人類或其他的）與信息技術(shù)設(shè)備結(jié)合的產(chǎn)物。簡(jiǎn)單地說，就是人類發(fā)明的高級(jí)技術(shù)與生物體有機(jī)地結(jié)合在了一起，他們之間是相互融合的。這種形式也有可能發(fā)展出超級(jí)人工智能。

勢(shì)力分化？

研究人工智能的加里斯則將滿足假設(shè)（a）的智慧生物稱為“人工大腦”，并設(shè)想了一種基于這類技術(shù)的未來，我們將在下一部分討論這種場(chǎng)景。

而長(zhǎng)久以來，科幻作品都采用了假設(shè)（b），并將這類結(jié)合了生物和信息技術(shù)，具備超級(jí)智能的混合體稱為賽博格（cyborgs，或改造人）。例如，假設(shè)為了彌補(bǔ)記憶局限，我們給自己插入容量高達(dá)到數(shù)太字節(jié)（TB）的芯片，從而能夠直接在大腦中讀取整部維基百科的信息。與此同時(shí)，借助一種能夠通過可以瞬間讀取的數(shù)學(xué)計(jì)算模塊，我們能立刻回答“720等于幾”或“sin(cos(x))的五階導(dǎo)數(shù)是什么”之類的問題。我們的智力將大幅提升。

有時(shí)也會(huì)提到第三個(gè)假設(shè)：一臺(tái)全球化的大腦，各地的機(jī)器通過網(wǎng)絡(luò)交換信息，構(gòu)成了某種去中心化、具有思想的存在。我們稍后再回到這個(gè)假設(shè)。

悲觀的加里斯

加里斯認(rèn)為：“社會(huì)將會(huì)分成三個(gè)哲學(xué)派別，派別之間將發(fā)生激烈的斗爭(zhēng)。第一個(gè)派別由宇宙主義者構(gòu)成，他們支持建造人工大腦；第二派別由地球主義者構(gòu)成，他們反對(duì)建造人工大腦；而第三派別則支持賽博格，他們希望對(duì)大腦進(jìn)行改造，從而把自己變成賽博格?！?/p>

加里斯的著作《人工大腦之戰(zhàn)》（The Artilect War）介于科幻小說和嚴(yán)肅的未來學(xué)著作之間。在這部作品中，他認(rèn)為三個(gè)派別之間的戰(zhàn)爭(zhēng)不可避免，并且在他看來，這場(chǎng)戰(zhàn)爭(zhēng)將比地球上發(fā)生過的任何戰(zhàn)爭(zhēng)都更慘烈，將在21世紀(jì)造成超過十億人死亡。地球主義者在這場(chǎng)戰(zhàn)爭(zhēng)中獲勝的希望非常渺茫，如果他們要取得勝利，就必須趕在另外兩個(gè)可能結(jié)盟的派別察覺到威脅之前采取行動(dòng)。在接受探索頻道的訪談時(shí)，加里斯就曾表達(dá)過他的憂慮：“我很高興能活在這個(gè)時(shí)代，我很有可能會(huì)平靜地躺在自己的床上死去。但是我為我的孫輩感到擔(dān)憂，他們可能被卷入人工大腦的戰(zhàn)爭(zhēng)，并且很可能因此喪命?！?/p>

有趣的是，盡管超人類主義者在法國(guó)不受待見，加里斯也在書中對(duì)他們表達(dá)了譴責(zé)或嘲笑，但他們卻非常樂觀地捍衛(wèi)自己的主張。超人類主義者認(rèn)為應(yīng)當(dāng)毫無保留地發(fā)展增強(qiáng)技術(shù)，對(duì)人類進(jìn)行改造——不能止步于眼鏡、助聽器和心臟起搏器，而是要采用一切可能的技術(shù)延長(zhǎng)壽命、提升智力和強(qiáng)化身體機(jī)能。簡(jiǎn)而言之，他們支持賽博格的思想，屬于賽博格主義者的陣營(yíng)。他們將和宇宙主義者結(jié)盟，避免被地球主義者消滅。

至于賽博格主義者和宇宙主義者之間會(huì)發(fā)生什么，超人類主義者和加里斯發(fā)生了分歧。大多數(shù)超人類主義者認(rèn)為，人類賽博格將與具備超級(jí)智能的機(jī)械設(shè)備共存，不會(huì)發(fā)生生物學(xué)上的結(jié)合；而超人類主義者相信，將生物性元素（特指他們自己）和電子技術(shù)元素深度結(jié)合能夠增強(qiáng)人類獲得長(zhǎng)生不死的能力，這才是人類未來的關(guān)鍵。

加里斯的設(shè)想恰好相反：和人工大腦可能取得的成就相比，超人類主義簡(jiǎn)直無足輕重。在他看來，將生命體和未來的信息技術(shù)相融合只是一種幻想：人工大腦將對(duì)改造人這樣的怪物不屑一顧，它只會(huì)毀滅改造人。

而作為世界超人類主義者協(xié)會(huì)（World Transhumanist Association）聯(lián)合創(chuàng)始人，博斯特羅姆也不認(rèn)為人工大腦會(huì)對(duì)人類（人工大腦的創(chuàng)造者，最終會(huì)成為賽博格）采取和平友善的態(tài)度。他催促人們審視未來的智能產(chǎn)物，將它們視為一種威脅。博斯特羅姆的作品得到了埃隆·馬斯克（Elon Musk）、比爾·蓋茨（Bill Gates）和李彥宏的推崇，這種看法似乎打動(dòng)了他們，使他們開始傳播恐慌信息（也就是所謂的人工智能威脅論）。

在加里斯看來，人工大腦（具備意識(shí)的人工智能，或極其智能的機(jī)器）不會(huì)友好地容忍人類甚至賽博格的存在，他說：“這個(gè)想法就像是尾巴搖狗一樣，顯然很荒謬。狗可比它的尾巴大得多，尾巴根本無法搖動(dòng)狗。但超人類主義者認(rèn)為人工大腦會(huì)和人類保持友好，這就犯了同樣的邏輯錯(cuò)誤……我認(rèn)為這種觀念是狂妄而天真的。它假設(shè)人類足夠智能，即便面對(duì)一個(gè)能力超出人類幾十億倍的個(gè)體，也能正確判斷它的動(dòng)機(jī)?！?/p>

?下轉(zhuǎn)第21版

?上接第19版

其他可能

加里斯忽略了另一種思潮：世界上所有的個(gè)體并不一定要互相競(jìng)爭(zhēng)，而是相互連接，成為一種全球尺度的超級(jí)有機(jī)體。這種觀點(diǎn)直接排除了“終結(jié)者之戰(zhàn)”的可能。

這種全球大融合的觀點(diǎn)常常被認(rèn)為是宗教性的。它存在于佛教的哲學(xué)中，也出現(xiàn)在天主教耶穌會(huì)哲學(xué)家德日進(jìn)（Pierre Teilhard de Chardin，1881-1955）的思想中。德日進(jìn)提出了“智慧圈”，這種“一體性的思想由人類的交流形成，覆蓋了地球表面”。

比利時(shí)哲學(xué)家弗朗西斯·海利根堅(jiān)定地認(rèn)為：超級(jí)人工智能將通過互聯(lián)網(wǎng)傳播，形成一個(gè)類似超級(jí)大腦的存在。他指出：“這個(gè)全球化的大腦將克服全球性超級(jí)有機(jī)體可能遭遇的挑戰(zhàn)。它的能力將遠(yuǎn)遠(yuǎn)超過我們現(xiàn)有的水平，將具備某些神性的特質(zhì)：無所不知（知道我們的一切問題的答案）、無處不在（存在于任何時(shí)間和地點(diǎn)）、無所不能（能夠以最高效的方式生產(chǎn)任何物品或服務(wù)）、博愛眾生（致力于為最多的人帶來最大的幸福）?！?/p>

比利時(shí)布魯塞爾自由大學(xué)的哲學(xué)家克萊蒙·維達(dá)爾研究宇宙主義，他引用了威廉·斯塔福德（William Stafford）的詩句“所有的戰(zhàn)爭(zhēng)都有兩個(gè)失敗者”，指出暴力往往是非理性的。而斯蒂芬·平克（Steven Pinker）詳細(xì)論述了世界會(huì)越來越和平，盡管我們覺得這個(gè)過程過于漫長(zhǎng)，但它仍然是可被測(cè)量和解釋的。一方面，無論我們是否愿意，所有人對(duì)所有人的相互依賴都使我們彼此產(chǎn)生聯(lián)系。博弈論和對(duì)囚徒困境模型計(jì)算模擬的結(jié)果都支持這樣的分析。這表明，合作才是多個(gè)社會(huì)和政治團(tuán)體理性的選擇。

殊途同歸

“復(fù)雜性的倫理”是最后一個(gè)論據(jù)，可以證明“地球上不同動(dòng)機(jī)的群體最終會(huì)結(jié)成一個(gè)利益共同體”的想法并不荒謬。如果按照這個(gè)倫理的預(yù)測(cè)，所有的智慧生物都會(huì)選擇為一個(gè)普世價(jià)值共同體服務(wù)，將向著共同的目標(biāo)行動(dòng)，不再有發(fā)動(dòng)戰(zhàn)爭(zhēng)的動(dòng)機(jī)。

盡管不同的討論顯示可能存在某種共同的方向，但這并不能保證當(dāng)超級(jí)人工智能出現(xiàn)時(shí)（如果它們會(huì)出現(xiàn)的話），將與我們這些或多或少變成賽博格的人類和平結(jié)盟，并且在這個(gè)過程中沒有任何一方試圖消滅其他群體。在我看來，我們或許可以堅(jiān)持一種極其簡(jiǎn)單的信念：并不是地球上生物性的軀體才具有人性，他們生產(chǎn)和制造的一切事物也應(yīng)該有，甚至讓這些事物得以存在的一切也有。地球在未來演化出的超級(jí)集合體會(huì)更加智能，內(nèi)部之間的聯(lián)系也越來越團(tuán)結(jié)和緊密，尤其是在地球上剛剛出現(xiàn)的幾個(gè)不同派別之間。這種討論會(huì)永久避免加里斯設(shè)想的內(nèi)部戰(zhàn)爭(zhēng)，因?yàn)閼?zhàn)爭(zhēng)變成了某種形式的自殘甚至自殺行為。

到這里我們已經(jīng)超出了科幻小說的范疇。目前看來，我們要小心避免抨擊任何對(duì)這個(gè)問題的思考，不要斷言它們是愚蠢和不成熟的。AlphaZero已經(jīng)證明，我們能夠借助機(jī)器取得不可思議的成就：人工智能再也不是一個(gè)遙遠(yuǎn)的夢(mèng)。另一方面，物聯(lián)網(wǎng)的快速發(fā)展將把全世界所有的參與者聯(lián)系起來，構(gòu)成一個(gè)致密的繭。毫無疑問，它將形成一個(gè)全新的結(jié)構(gòu)，所有的事物都依賴于所有的因素。而我們就像我們的人工智能一樣，不過是其中的組成部分。

（Scientific American中文版環(huán)球科學(xué)授權(quán)南方周末發(fā)表，戚譯引翻譯）