尹傳紅

“你們?nèi)祟愔皇且环N被設(shè)計(jì)出來(lái)創(chuàng)造更多智能工具的生物機(jī)器，你們已經(jīng)抵達(dá)你們物種的金字塔尖了……你們的大限已到;你們已經(jīng)達(dá)成你們被設(shè)計(jì)出來(lái)時(shí)所賦予的一切使命?！痹谝槐旧鷦?dòng)描述機(jī)器人對(duì)人類發(fā)動(dòng)戰(zhàn)爭(zhēng)的科幻小說(shuō)《機(jī)器人啟示錄》中，一個(gè)有著嬰兒外形、看似淳樸的機(jī)器人，這樣教訓(xùn)制造“他”的人類。近年來(lái)，類似上述的場(chǎng)景和話題，我們也常常能在科幻電影中觸及。

現(xiàn)實(shí)中，史蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克等著名人士，最近幾年都曾發(fā)出警告說(shuō)：人工智能可能是我們面臨的最大滅絕風(fēng)險(xiǎn)。如果智能機(jī)器缺乏監(jiān)管，人類將迎來(lái)一個(gè)黑暗的未來(lái)。前不久，作為新一代人工智能代表的“阿爾法狗”，繼運(yùn)用高超的運(yùn)算能力和縝密的邏輯判斷，擊敗世界圍棋頂尖高手李世石后，又“收拾”了另一位圍棋高手柯潔，再度引來(lái)了世人的驚嘆和熱議。有媒體在評(píng)述此事時(shí)用了一個(gè)意味深長(zhǎng)的標(biāo)題：一場(chǎng)沒(méi)有懸念的人機(jī)大戰(zhàn)與一個(gè)懸念重重的未來(lái)。

這后一個(gè)“懸念”，便是機(jī)器智能超越人類時(shí)的夢(mèng)魘。

其實(shí)，早在計(jì)算機(jī)剛被發(fā)明出來(lái)后不久，學(xué)界就有對(duì)于“思維機(jī)器”可能存在風(fēng)險(xiǎn)的憂慮了。1951年，英國(guó)著名數(shù)學(xué)家、“計(jì)算機(jī)科學(xué)之父”阿蘭·圖靈提示說(shuō)：“……它們可以通過(guò)互相交流來(lái)增進(jìn)它們的心智。所以，到了某一個(gè)階段，我們將不得不考慮機(jī)器控制世界這個(gè)問(wèn)題了?！睅啄赀^(guò)后，美國(guó)應(yīng)用數(shù)學(xué)家、信息論的創(chuàng)始人諾伯特·維納也表達(dá)了一種類似的擔(dān)心：“我們給予機(jī)器的任何程度的獨(dú)立性都可能導(dǎo)致對(duì)我們自身意愿的反抗。瓶子里跑出的精靈不會(huì)心甘情愿地重新回到瓶子里。同樣，我們也沒(méi)有任何理由希望它們善待我們。”

差不多就在那個(gè)時(shí)候，計(jì)算機(jī)的重要奠基人之一、匈牙利裔美籍?dāng)?shù)學(xué)家馮·諾伊曼首次提出，隨著技術(shù)的加速進(jìn)步以及人類生活方式的轉(zhuǎn)變，人類歷史似乎即將面臨某個(gè)本性奇點(diǎn)，自此人類文明將很難延續(xù)。20世紀(jì)90年代初，“奇點(diǎn)”（Singularity）一詞被美國(guó)計(jì)算機(jī)專家和科幻作家弗諾·文奇引述，并進(jìn)行了“改造”，用來(lái)描述那種無(wú)情的、飛速前進(jìn)的科技發(fā)展最終將達(dá)到的一種臨界聚集狀態(tài)。他認(rèn)為，人工智能、人類生物改良或腦機(jī)接口這樣一些由超人類智能驅(qū)動(dòng)的進(jìn)步極其迅速，很可能會(huì)引發(fā)奇點(diǎn)來(lái)臨。

后來(lái)，美國(guó)著名發(fā)明家和思想家雷·庫(kù)茲韋爾對(duì)“奇點(diǎn)”的概念和含義進(jìn)行了更為詳細(xì)的闡釋，并在2005年推出了《奇點(diǎn)臨近：2045年，當(dāng)計(jì)算機(jī)智能超越人類》一書(shū)。在書(shū)中他指出，科技的力量正呈現(xiàn)指數(shù)式的擴(kuò)張。他用“奇點(diǎn)”來(lái)表示獨(dú)特的乃至無(wú)法掌控的事件以及種種奇異的影響，堅(jiān)信奇點(diǎn)就是這樣一個(gè)“技術(shù)以指數(shù)級(jí)的發(fā)展推動(dòng)人類的解放，使人類能力產(chǎn)生質(zhì)變的”時(shí)刻。

在科學(xué)史上，與奇點(diǎn)相似的概念被稱為“范式轉(zhuǎn)移”。這是美國(guó)科學(xué)哲學(xué)家托馬斯·庫(kù)恩在其名著《科學(xué)革命的結(jié)構(gòu)》中提出的一個(gè)重要概念，指的是某種新概念或新技術(shù)的到來(lái)徹底摧毀了人們以往理解事物的方式，導(dǎo)致“科學(xué)革命”的發(fā)生。而據(jù)奇點(diǎn)理論推測(cè)，人工智能研究將不可避免地導(dǎo)致“智能爆發(fā)”和超級(jí)智能的出現(xiàn)。

盡管對(duì)于奇點(diǎn)以及它究竟何時(shí)到來(lái)尚有許多爭(zhēng)議，但一些嚴(yán)肅的問(wèn)題已經(jīng)被提了出來(lái)：一旦奇點(diǎn)來(lái)臨，我們的經(jīng)濟(jì)、社會(huì)乃至人類發(fā)展的進(jìn)程，將會(huì)發(fā)生怎樣的巨變？快速發(fā)展的創(chuàng)新勢(shì)頭和技術(shù)進(jìn)步，會(huì)不會(huì)限制人類進(jìn)行創(chuàng)造性干預(yù)的機(jī)會(huì)，并且超出人類可以有效控制技術(shù)發(fā)展的限度？當(dāng)“覺(jué)醒”了的機(jī)器擁有人性——情感、欲望、自由意志和自主意識(shí)時(shí)，我們將面對(duì)怎樣的世界？第一臺(tái)超智能機(jī)器會(huì)不會(huì)是人類的最后一項(xiàng)發(fā)明，進(jìn)而導(dǎo)致人類命運(yùn)的激進(jìn)變化？

見(jiàn)證科幻變成科學(xué)的瞬間，是喜是憂？有人認(rèn)為，或許到了那時(shí)，解決這些倫理性問(wèn)題最實(shí)際、最好的辦法，就是通過(guò)限制我們追求某些類型的知識(shí)，來(lái)限制過(guò)于危險(xiǎn)的技術(shù)的研發(fā)，甚至完全停止這類研究。

也有人斷定，最不可思議的事件可能是，當(dāng)奇點(diǎn)來(lái)臨時(shí)，所有的規(guī)則都將發(fā)生變化，而我們?nèi)祟悈s不再是規(guī)則的制定者了。

不過(guò)另一些人持懷疑態(tài)度。李開(kāi)復(fù)認(rèn)為，目前的這種深度學(xué)習(xí)技術(shù)只能算作“弱人工智能”，本質(zhì)上僅僅是一個(gè)特別好用的工具而已?！叭跞斯ぶ悄堋钡侥芎腿祟愊嗵岵⒄摰摹皬?qiáng)人工智能”的路都尚未走通，更何況要走通“強(qiáng)人工智能”到“超人工智能”之路。當(dāng)前的人類，既無(wú)法把“智能是什么”用精確的數(shù)學(xué)結(jié)構(gòu)表達(dá)出來(lái)，也極可能不具備去實(shí)現(xiàn)這種數(shù)學(xué)模型的硬件條件。退一萬(wàn)步來(lái)說(shuō)，即使在未來(lái)的某一天，這種超級(jí)智能出現(xiàn)了，它是不是一定會(huì)把毀滅人類作為自己的目標(biāo)，也是未可知的。