●劉慈欣

目前，人工智能已經(jīng)成為熱點(diǎn)話題，在這里想首先討論一個(gè)時(shí)常被忽略但很基本的問(wèn)題：人工智能的定義。

目前廣為人知的定義是圖靈測(cè)試，但這只能被看作一種泛泛的描述，并不是嚴(yán)格和精確的定義。比如參與測(cè)試的人是什么樣的人？向機(jī)器提出的問(wèn)題的內(nèi)容是什么等等都不明確。

上溯歷史，我們發(fā)現(xiàn)人工智能的概念與自動(dòng)化有著密切的關(guān)系，可以說(shuō)自動(dòng)化是這個(gè)概念的起源。在過(guò)去有一段相當(dāng)長(zhǎng)的時(shí)間，在人們的心目中，自動(dòng)化就是人工智能。其實(shí)，人類制造和使用自動(dòng)化裝置的時(shí)間比我們想象的要早，遠(yuǎn)在電氣時(shí)代之前。蒸汽機(jī)上就有自動(dòng)調(diào)節(jié)蒸汽流量的裝置，在更早的十六世紀(jì)，在伊麗莎白女王的宮廷里首次使用的抽水馬桶也是自動(dòng)化裝置，如果向前追溯，肯定還有更早的例子。自動(dòng)化大批出現(xiàn)是在電氣時(shí)代，先是由模擬電路實(shí)現(xiàn)的自動(dòng)化，后來(lái)電子管被晶體管所代替，再后來(lái)出現(xiàn)了集成電路，由日益復(fù)雜的軟件所驅(qū)動(dòng)。在今天，我們?cè)谏钪幸c無(wú)數(shù)的自動(dòng)化系統(tǒng)打交道，比如電子商務(wù)系統(tǒng)、網(wǎng)上銀行系統(tǒng)和網(wǎng)上購(gòu)票系統(tǒng)等。

毋庸置疑，自動(dòng)化系統(tǒng)表現(xiàn)出了相當(dāng)多的智能特征，像網(wǎng)上銀行這類系統(tǒng)處理著相當(dāng)復(fù)雜的業(yè)務(wù)，其效率和精準(zhǔn)度已高于人類雇員。即使是抽水馬桶這樣最簡(jiǎn)單的系統(tǒng)，也表現(xiàn)出一定的智能行為，它能夠在感知水箱的水位，適時(shí)開啟和關(guān)閉給水閥門，這事它做的與人類一樣好。但從抽水馬桶到網(wǎng)上銀行，我們都不把它們看作是人工智能。筆者曾經(jīng)編寫過(guò)一個(gè)寫現(xiàn)代詩(shī)的軟件，現(xiàn)在還在網(wǎng)上流行；而目前網(wǎng)上其他比較完美的自動(dòng)作詩(shī)軟件，所寫出的中國(guó)古典詩(shī)詞很難與人類所做的詩(shī)詞區(qū)分開來(lái)。另外，近年來(lái)已經(jīng)有不止一個(gè)系統(tǒng)在不同的實(shí)驗(yàn)室環(huán)境下通過(guò)了圖靈測(cè)試。但這一切，我們都不把它們看成心目中的人工智能，為什么？

筆者在二十世紀(jì)八十年代最早參與開發(fā)的工業(yè)監(jiān)控系統(tǒng)是以Z80處理器為核心的，用匯編語(yǔ)言編程。這個(gè)系統(tǒng)能夠監(jiān)測(cè)上百個(gè)機(jī)組參數(shù)，并根據(jù)參數(shù)的變化做出適當(dāng)?shù)恼{(diào)節(jié)，其功能是人工無(wú)法實(shí)現(xiàn)的。但在我們的眼中它也完全不是人工智能。匯編語(yǔ)言的特點(diǎn)就是透明性，它要在硬件層次手把手地教機(jī)器做每一步操作，比如把數(shù)據(jù)從這個(gè)存儲(chǔ)器送往那個(gè)存儲(chǔ)器，中斷的調(diào)用和返回等等都一一寫明，所以當(dāng)我從外部看到系統(tǒng)的動(dòng)作時(shí)，腦子中立刻有一幅明晰的流程圖，立刻能知道哪幾條指令被執(zhí)行了。所以這個(gè)監(jiān)控系統(tǒng)，在我看來(lái)與抽水馬桶沒(méi)有本質(zhì)的區(qū)別?，F(xiàn)在那些更復(fù)雜的系統(tǒng)，如網(wǎng)上銀行和電子商務(wù)也一樣，這些軟件的編制者一定清楚所有的內(nèi)部操作流程，他們知道系統(tǒng)的每一步操作在軟件中是如何進(jìn)行的，這同樣也是抽水馬桶更復(fù)雜的版本。至于那些電子詩(shī)人和通過(guò)圖靈測(cè)試的系統(tǒng)也一樣，程序員清楚地知道它們是如何根據(jù)邏輯樹檢索數(shù)據(jù)庫(kù)，然后組合出詩(shī)和答案的，所以至少程序員們知道這不是智能。

這就涉及人工智能學(xué)術(shù)中高明的中文房間比喻，當(dāng)我們意識(shí)到房間中那些忙碌的查找卡片的人的時(shí)候，智能的感覺(jué)就蕩然無(wú)存了。

現(xiàn)在我們認(rèn)為擁有人工智能的那些系統(tǒng)，比如進(jìn)化算法和深度學(xué)習(xí)等，都有一個(gè)共同特點(diǎn)：它們都或多或少地表現(xiàn)出了黑箱的特點(diǎn)，雖然從理論上它們內(nèi)部的運(yùn)算步驟仍然可以追蹤，但由于計(jì)算量的巨大，使這種追蹤實(shí)際上很困難甚至不可能。于是，我們真的感覺(jué)它們有智能了。

到這里，我們?nèi)匀粺o(wú)法得出人工智能的準(zhǔn)確定義，但能夠看到它的一個(gè)重要特點(diǎn)：一個(gè)具有智能特性的人造系統(tǒng)，它產(chǎn)生輸出的內(nèi)部的運(yùn)算過(guò)程是人類智能所無(wú)法解析的。換句話說(shuō)，只有我們不知道機(jī)器在想什么，怎么想時(shí)，才認(rèn)為它有智能。

看到這一點(diǎn)，每個(gè)人的心中應(yīng)該都生出一股隱隱的寒意。是否人工智能的本質(zhì)中，就隱含著它們最終失控的可能性？

這正是目前人們對(duì)人工智能關(guān)注的熱點(diǎn)，用馬斯克的話來(lái)說(shuō)，人工智能正變成比核彈更危險(xiǎn)的東西。媒體輿論給人一個(gè)印象，似乎機(jī)器的征途已經(jīng)開始，AI征服世界指日可待。有本書的題目“讓人工智能站在我們一邊”就顯現(xiàn)了這種擔(dān)憂。庫(kù)茲維爾甚至在《奇點(diǎn)臨近》中給出了AI紀(jì)元到來(lái)具體年份：2045年，那時(shí)，現(xiàn)在讀這篇文章的人有三分之二還活著。

但理智地考察目前人工智能領(lǐng)域的狀況，我們就能發(fā)現(xiàn)智力遠(yuǎn)超人類的強(qiáng)AI仍然屬于科幻的范疇。公眾喜歡從科幻的角度看問(wèn)題，比起平淡的現(xiàn)實(shí)，科幻確實(shí)能讓人興奮，任何從現(xiàn)實(shí)出發(fā)所進(jìn)行的理智的預(yù)測(cè)都被斥為保守和沒(méi)有想象力。但筆者作為科幻作家卻只能說(shuō)，與大家通常的印象不同，科幻小說(shuō)中的預(yù)言真正變?yōu)楝F(xiàn)實(shí)的是少數(shù)，大部分要實(shí)現(xiàn)仍然遙遙無(wú)期。人們的潛意識(shí)中都認(rèn)為，只要在理論上可能突破的技術(shù)障礙，在未來(lái)就一定能夠被突破，但事實(shí)并非如此。在人工智能方面，強(qiáng)AI的實(shí)現(xiàn)面對(duì)著許多巨大的技術(shù)障礙，如非馮·諾依曼體系的新結(jié)構(gòu)計(jì)算機(jī)、對(duì)人類思維機(jī)制的深刻認(rèn)識(shí)等，現(xiàn)在都無(wú)法確知最終能否取得突破。另外一些看似有希望的技術(shù)，如量子計(jì)算等，距實(shí)用還相差甚遠(yuǎn)。

所以，在對(duì)人工智能進(jìn)行科學(xué)幻想的同時(shí)，我們更需關(guān)注即將面對(duì)的近未來(lái)。

人工智能近年來(lái)發(fā)展的趨勢(shì)，是開始走出實(shí)驗(yàn)室進(jìn)入生活，用一位互聯(lián)網(wǎng)大佬的話來(lái)說(shuō)，它們變的能用了。這樣我們就面對(duì)著一個(gè)即將到來(lái)的挑戰(zhàn)：人工智能不會(huì)奪走我們的自由和生命，但會(huì)奪走我們的飯碗，這不需要AI的失控，它們可以在資本家的完全控制下做成這件事。

有學(xué)者認(rèn)為不必為這件事?lián)鷳n，他們回顧工業(yè)化的歷史，在上世紀(jì)初，美國(guó)有50%的農(nóng)業(yè)人口，但隨著農(nóng)業(yè)機(jī)械化，現(xiàn)在的農(nóng)業(yè)人口降到4%，而城市化吸收了多余的農(nóng)民。但眼前發(fā)生的事情是不同的，當(dāng)人工智能大規(guī)模進(jìn)入社會(huì)后，人能做的工作它們大部分都可以做，城市不會(huì)再有更多的就業(yè)崗位留給人類。通行的美好說(shuō)法是，人們?cè)诔Ｒ?guī)工作中被AI取代后，可以去從事創(chuàng)造性的工作。問(wèn)題是創(chuàng)造性的工作不是人人都可以從事的，也不需要那么多的人，如果社會(huì)分配制度不改變，一個(gè)全部由科學(xué)家和藝術(shù)家構(gòu)成的人類世界幾乎是一場(chǎng)噩夢(mèng)，這上百億科學(xué)家和藝術(shù)家的絕大部分注定一生碌碌無(wú)為，對(duì)社會(huì)和自己都毫無(wú)用處，且淪入“創(chuàng)造性”的窮困潦倒中。

但這種思維方式總有些不對(duì)的地方，人類自古以來(lái)為生存而勞作，實(shí)在是迫不得已，工作著是美麗的，但誰(shuí)都知道，不需工作的生活更美麗?，F(xiàn)在終于能夠制造出把自己從工作重負(fù)中解放出來(lái)的機(jī)器，這是人類文明最偉大的成就，無(wú)論如何不應(yīng)該被看作一場(chǎng)災(zāi)難，相反，這可能是人類所面對(duì)的前所未有的偉大機(jī)遇，只是，我們需要改變。

如何完成由現(xiàn)代社會(huì)向人工智能社會(huì)的過(guò)渡，有兩種可能。

一種可能十分黑暗：在現(xiàn)有的社會(huì)、經(jīng)濟(jì)和政治體制下，人工智能帶來(lái)的問(wèn)題幾乎是無(wú)解的。在AI迅速取代人類的過(guò)程中，沒(méi)有及時(shí)建立起與之相適應(yīng)的社會(huì)體制，在席卷全球的失業(yè)浪潮下，世界的政治和經(jīng)濟(jì)將陷入長(zhǎng)久的混亂之中，一切都籠罩在人工智能及其使用者與新盧德派領(lǐng)導(dǎo)的大眾無(wú)休止的沖突中。

另一種可能是，社會(huì)成功地完成轉(zhuǎn)型。這將是有史以來(lái)人類生活方式最大的一次改變，不勞動(dòng)者不得食，這個(gè)理念是人類社會(huì)的基石，文明誕生以來(lái)經(jīng)歷過(guò)多次巨大變革，這一基石從未改變，但人工智能可能會(huì)移除這一基石，進(jìn)而導(dǎo)致從所有制和分配制度，到基本的經(jīng)濟(jì)結(jié)構(gòu)，再到政治體制，直到文化，都發(fā)生根本的變化。這是真正的人類解放，是向著古老的烏托邦理想邁進(jìn)的一大步，今年是《烏托邦》發(fā)表500周年，但托馬斯·莫爾無(wú)論如何不會(huì)想到，他的理想會(huì)借助于智能機(jī)器實(shí)現(xiàn)。我很有興趣地想，如果卡爾·馬克思知道人工智能這回事，他關(guān)于資本主義和共產(chǎn)主義的理論會(huì)是什么樣子？

想象AI時(shí)代的社會(huì)和生活是困難的，即使在科幻小說(shuō)中，我們也只能把種種可能性排列出來(lái)，而哪種可能性最有可能成為現(xiàn)實(shí)，取決于我們的努力和選擇。但不管怎么說(shuō)，那是一個(gè)誘人的時(shí)代，我們正向它走去。