周亦垚

人工智能在當(dāng)下是一個(gè)十分火熱的話題，它已經(jīng)成為我們?nèi)粘Ｉ畹囊徊糠郑瑥某鲂小⑼ㄓ嵉焦ぷ鳌W(xué)習(xí)，我們每天都在真實(shí)地經(jīng)歷著人工智能。并且，人工智能技術(shù)的發(fā)展可謂日新月異，甚至一夜之間就可以發(fā)生天翻地覆的改變，在這種變遷中，我們真切地感受到，人工智能每時(shí)每刻都在變得更為強(qiáng)大。不過從某種意義上來(lái)說(shuō)，我們暫時(shí)還沒有創(chuàng)造出通用人工智能(artificial general intelligence)，即可以憑借自身獨(dú)立進(jìn)行有意義的對(duì)話，整合各個(gè)領(lǐng)域的話題與想法，甚至擁有并超越人類思考能力的人工智能。但是，隨著ChatGPT在全球的風(fēng)靡，人們?cè)谄渲兴坪蹩吹搅送ㄓ萌斯ぶ悄苷Q生的曙光。在一些諸如《她》 《機(jī)械姬》的科幻電影中，我們看到了更為先進(jìn)的人工智能操作系統(tǒng)，它們能夠和人類對(duì)話，能夠擁有自己的意識(shí)和情感，能夠擁有讓人嘆服的學(xué)習(xí)速度與進(jìn)化能力。雖然就目前而言，這只是熒幕上的藝術(shù)形象，但是飛速發(fā)展的人工智能，在未來(lái)究竟能達(dá)到怎樣的水平？能否擁有像人一般的意識(shí)呢？其發(fā)展重心應(yīng)放在哪里？這些問題都亟須討論。

在超人類主義視域下，我們往往會(huì)得到一個(gè)積極的答案，即“人工智能能夠擁有意識(shí)”。超人類主義者們聲稱我們所處的時(shí)代正在迅速地接近“技術(shù)奇點(diǎn)”，在此之后，人工智能將會(huì)遠(yuǎn)超于人類智能，解決我們之前無(wú)法解決的問題，諸如消滅衰老、疾病和資源短缺等問題，同樣也會(huì)給文明與人性帶來(lái)不可預(yù)測(cè)的影響。 “超人類主義” (transhumanism)這個(gè)概念是由朱利安·赫胥黎(Julian Huxley)在1957年提出來(lái)的。他指出：“一旦足夠多的人能夠說(shuō)出‘我相信超人類主義’，那么人類這個(gè)物種就會(huì)踏上通向某種新存在形式的門檻，它與我們的差異就如同我們與北京猿人之間的差異?！?1)Julian Huxley，New Bottles for New Wine，London：Chatto &Windus Ltd，1957，p.17.也就是說(shuō)，未來(lái)的人類無(wú)論是生理還是心理上，都會(huì)與現(xiàn)在的人類截然不同。未來(lái)的人類或許可以實(shí)現(xiàn)永生，或許可以獲得超凡的智力，又或許可以實(shí)現(xiàn)人類肉體與智能程序的完美結(jié)合。在這種憧憬中，超人類主義者們相信，無(wú)論是對(duì)個(gè)體的生活還是對(duì)人類的進(jìn)化來(lái)說(shuō)，人工智能未來(lái)的發(fā)展都是值得期待的。 《超人類主義宣言》的第一條中就說(shuō)道：“在未來(lái)，人類會(huì)受到科學(xué)技術(shù)的深刻影響。”(2)Max More，Natasha Vita-More(eds.)，The Transhumanist Reader：Classical and Contemporary Essays on the Science，Technology，and Philosophy of the Human Future，New York：John Wiley &Sons Inc，2013，p.54.由此可見，人會(huì)逐漸地被技術(shù)化，不過也可以從另一面來(lái)思考，即技術(shù)是否也能逐步人化呢？結(jié)合目前飛速發(fā)展的人工智能技術(shù)，在未來(lái)可能真的會(huì)達(dá)到所謂的通用人工智能，它可以搜集各個(gè)領(lǐng)域的知識(shí)，靈活思考并具有常識(shí)。如果技術(shù)真的能夠逐步趨于人化，那么人工智能能否感覺到自身的存在、能否擁有感官體驗(yàn)、能否體驗(yàn)到各種情感呢？我們可以將這些問題統(tǒng)稱為人工智能的意識(shí)問題。而思考人工智能能否擁有意識(shí)，將會(huì)是通用人工智能誕生的起點(diǎn)，也是技術(shù)革命發(fā)生的一個(gè)重要節(jié)點(diǎn)。

一、什么是意識(shí)？

意識(shí)=主觀體驗(yàn)。

——邁克斯·泰格馬克

想要討論人工智能的意識(shí)問題，首先要弄清楚的就是“什么是意識(shí)(consciousness)”。在日常生活中，我們可以詢問一個(gè)病人是否意識(shí)清醒，也可以詢問他人是否意識(shí)到這件事的嚴(yán)重性，由此可見，在中文語(yǔ)境中“意識(shí)”一詞既可以被當(dāng)成名詞，也可以被當(dāng)成動(dòng)詞。但到了學(xué)理層面，想要為其提供一個(gè)合理的解釋時(shí)，這一概念就陷入了神秘，要么是無(wú)法給出一個(gè)不可辯駁的標(biāo)準(zhǔn)定義，要么就是需要用更加晦澀和抽象的其他概念來(lái)對(duì)其解釋。一直以來(lái)，意識(shí)就是一個(gè)迷人卻難以捉摸的對(duì)象，而關(guān)于意識(shí)的討論，在哲學(xué)史上已經(jīng)得到了長(zhǎng)久的關(guān)注，不同的哲學(xué)家對(duì)意識(shí)做出各式各樣的闡述。上溯至古希臘，德爾斐神廟上鐫刻著“認(rèn)識(shí)你自己”的神諭；阿那克薩戈拉首次提出了精神性的實(shí)體即努斯(Nous)；柏拉圖和亞里士多德基于努斯概念，又發(fā)展出了各自的理論，如柏拉圖的理念論以及亞里士多德的靈魂學(xué)說(shuō)；經(jīng)院哲學(xué)也將“靈魂”視為一種理智能力；到了近代，笛卡爾提出“身心二元論”；黑格爾指出自我意識(shí)是人類的本質(zhì)；再后來(lái)，胡塞爾的意識(shí)現(xiàn)象學(xué)解讀了“原意識(shí)” (Urbewuβtsein)、 “內(nèi)知覺” (inneres Gewahren)等概念；馬克思和恩格斯則從意識(shí)與物質(zhì)的關(guān)系上來(lái)定義意識(shí)。當(dāng)然，在心理學(xué)、生物學(xué)和物理學(xué)等學(xué)科中，也有對(duì)意識(shí)概念的研究。由此可見，歷史上對(duì)意識(shí)的研究從未中斷，他們只是用不同的概念和視角反映了類似的問題。而隨著人工智能技術(shù)的發(fā)展，意識(shí)問題又一次在科學(xué)領(lǐng)域得到了重視，正如邁克斯·泰格馬克(Max Tegmark)所說(shuō)：“思想家們已經(jīng)在神秘的意識(shí)問題上思考了數(shù)千年，但人工智能的興起卻突然增加了這個(gè)問題的緊迫性，特別是因?yàn)槿藗兿胍A(yù)測(cè)哪些智能體可能擁有主觀體驗(yàn)?！?3)邁克斯·泰格馬克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018年，第375頁(yè)。

在意識(shí)哲學(xué)中，關(guān)于意識(shí)的探討可以歸納到身心問題的探討上，即討論身體與意識(shí)之間的關(guān)系、心靈與物質(zhì)之間的關(guān)系。身心問題貫穿了西方哲學(xué)的始終，從古希臘到近代，都有關(guān)于此問題的界說(shuō)。在古希臘時(shí)期，靈魂(psyche)具有雙重含義，一是指“和肉體相對(duì)立的東西”；二是指“呼吸，是生命的起源，是指人的感覺、情感、理智等意識(shí)活動(dòng)的主體或活動(dòng)本身”。(4)汪子崇等：《希臘哲學(xué)史》(第一卷)，人民出版社，1988年，第83頁(yè)。到了蘇格拉底那里，靈魂被賦予了認(rèn)識(shí)論的意義，他認(rèn)為靈魂或曰心靈指的是一種內(nèi)在感受或內(nèi)在精神，不是某種特指的器官或?qū)嶓w，而是指理智或有意識(shí)的人格。正是由于靈魂的存在，人才能認(rèn)識(shí)對(duì)象，進(jìn)而支配身體的行為。柏拉圖繼承了蘇格拉底的相關(guān)思想，在《法律篇》中將“靈魂”定義為“最初的東西，是先于一切形體的，是形體的變化和移動(dòng)的主要發(fā)動(dòng)者”(5)北京大學(xué)哲學(xué)系外國(guó)哲學(xué)史教研室：《古希臘羅馬哲學(xué)》，商務(wù)印書館，2021年，第220頁(yè)。。由此可見，靈魂是萬(wàn)物的本原，先于肉體而產(chǎn)生。在《國(guó)家篇》和《斐德羅篇》中，他論述了靈魂由理性、激情和欲望三部分組成。除此之外，柏拉圖還認(rèn)為靈魂不朽，因?yàn)殪`魂是能夠自我運(yùn)動(dòng)的，所以是不朽的。而柏拉圖關(guān)于靈魂的觀點(diǎn)，也為古羅馬天主教的靈魂學(xué)說(shuō)奠定了基礎(chǔ)，包括其他的宗教學(xué)派，都延續(xù)了靈魂不朽的觀點(diǎn)，認(rèn)為在意識(shí)的核心存在一種超自然的不朽靈魂。

到了近代，靈魂問題逐漸演變成了心靈問題。關(guān)于心靈的研究，首屈一指的便是笛卡爾。笛卡爾的身心二元論表明了存在兩種實(shí)體，一種是存在于空間中的物理實(shí)體，另一種是能夠產(chǎn)生意識(shí)的、人類所特有的思維實(shí)體，前者具有物質(zhì)性，后者具有精神性，即廣延實(shí)體(res extensa)和思維實(shí)體(res cogitans)。他指出：“思想就是人心的屬性，廣袤就是物體的屬性。”(6)笛卡爾：《哲學(xué)原理》，關(guān)文運(yùn)譯，商務(wù)印書館，1958年，第20頁(yè)。身心二元論提出的基礎(chǔ)正是著名的“我思故我在”，這也體現(xiàn)了笛卡爾的心靈觀。笛卡爾曾指出：“想要在科學(xué)上建立起某種堅(jiān)定可靠、經(jīng)久不變的東西的話，我就非在我有生之日認(rèn)真地把我歷來(lái)信以為真的一切見解統(tǒng)統(tǒng)清除出去，再?gòu)母旧现匦麻_始不可?！?7)笛卡爾：《第一哲學(xué)沉思集》，龐景仁譯，商務(wù)印書館，1986年，第14頁(yè)，第22—23頁(yè)，第24頁(yè)，第25頁(yè)，第 25—26 頁(yè)。于是，他開始了懷疑，他認(rèn)為從感官所得到的最真實(shí)、最可靠的感受其實(shí)并沒有那么真實(shí)準(zhǔn)確，因?yàn)楦泄贂?huì)存在欺騙的現(xiàn)象，比如錯(cuò)覺。此外，他還提出疑問：“我什么感官都沒有，物體、形狀、廣延、運(yùn)動(dòng)和地點(diǎn)都不過是在我心里虛構(gòu)出來(lái)的東西。那么有什么東西可以認(rèn)為是真實(shí)的呢？”(8)笛卡爾：《第一哲學(xué)沉思集》，龐景仁譯，商務(wù)印書館，1986年，第14頁(yè)，第22—23頁(yè)，第24頁(yè)，第25頁(yè)，第 25—26 頁(yè)。于是他回答，這一真實(shí)之物就是“我存在”，因?yàn)闊o(wú)論我的感官經(jīng)驗(yàn)所接收到的是否為錯(cuò)覺，其前提都是要有“我”。即便一切都是需要被懷疑的，但這個(gè)懷疑一切的“我”是確定的。那么，“我”是什么呢？笛卡爾說(shuō)：“我首先曾把我看成是有臉、手、胳臂，以及由骨頭和肉組合成的這么一架整套機(jī)器……這架機(jī)器，我曾稱之為身體。”(9)笛卡爾：《第一哲學(xué)沉思集》，龐景仁譯，商務(wù)印書館，1986年，第14頁(yè)，第22—23頁(yè)，第24頁(yè)，第25頁(yè)，第 25—26 頁(yè)。但這具身體并不是真正的“我”，因?yàn)樯眢w“能以若干方式被移動(dòng)，不是被它自己，而是被在它以外的什么東西，它受到那個(gè)東西的接觸和壓力，從而被它所推動(dòng)?！?10)笛卡爾：《第一哲學(xué)沉思集》，龐景仁譯，商務(wù)印書館，1986年，第14頁(yè)，第22—23頁(yè)，第24頁(yè)，第25頁(yè)，第 25—26 頁(yè)。因此，身體是被動(dòng)的，而真正的“我”應(yīng)該是主動(dòng)的，可以自己推動(dòng)自己，即心靈。心靈所具有的一大特性便是思維，“我覺得思維是屬于我的一個(gè)屬性，只有它不能跟我分開。有我，我存在這是靠得住的；可是，多長(zhǎng)時(shí)間？我思維多長(zhǎng)時(shí)間，就存在多長(zhǎng)時(shí)間；因?yàn)榧偃缥彝Ｖ顾季S，也許很可能我就同時(shí)停止了存在。我現(xiàn)在對(duì)不是必然真實(shí)的東西一概不承認(rèn)；因此，嚴(yán)格來(lái)說(shuō)我只是一個(gè)在思維的東西，也就是說(shuō)，一個(gè)精神，一個(gè)理智，或者一個(gè)理性?！?11)笛卡爾：《第一哲學(xué)沉思集》，龐景仁譯，商務(wù)印書館，1986年，第14頁(yè)，第22—23頁(yè)，第24頁(yè)，第25頁(yè)，第 25—26 頁(yè)。由此可見，意識(shí)在這一時(shí)期被指稱為“心靈”，是一種能夠確證為“我”的東西，也是主體存在的衡量標(biāo)準(zhǔn)。

在意識(shí)現(xiàn)象學(xué)中，“意識(shí)”也是重要的研究課題。胡塞爾認(rèn)為，意識(shí)并不是指某個(gè)人或某種動(dòng)物的具體意識(shí)，而是指經(jīng)過了徹底的現(xiàn)象學(xué)還原的意識(shí)，是一種純粹意識(shí)。“因而現(xiàn)象學(xué)是關(guān)于純粹意識(shí)的學(xué)說(shuō)，它涉及的是純粹的可能性，是在排除了世界和在世之中的自我之后剩余下來(lái)的絕對(duì)的東西?！?12)倪梁康：《意識(shí)問題的現(xiàn)象學(xué)與心理學(xué)視角》，《河北師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2020年第2期。想要充分理解現(xiàn)象學(xué)中的“意識(shí)”概念，離不開“意向性”這一概念。意識(shí)的本質(zhì)就是意向性，總是與一個(gè)外在對(duì)象相對(duì)應(yīng)，所以也可以說(shuō)，意識(shí)就是意識(shí)到某一對(duì)象。對(duì)象總是固化在那里，而正是由于意識(shí)的朝向作用，才讓這一對(duì)象得以顯現(xiàn)，也就是說(shuō)，意識(shí)的意向性確立了對(duì)象的存在。所以，我們可以認(rèn)為胡塞爾的意識(shí)指的是一段過程，意識(shí)永遠(yuǎn)是指向某物的。而且這種意識(shí)指的是純粹意識(shí)，它可以是生物的意識(shí)，也可以是非生物的意識(shí)，就好比我們目前正在談?wù)摰娜斯ぶ悄艿囊庾R(shí)。

在意識(shí)科學(xué)中，物理學(xué)教授邁克斯·泰格馬克主張“意識(shí)=主觀體驗(yàn)”(13)邁克斯·泰格馬克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018年，第376頁(yè)。，也就是說(shuō)，只要能擁有主觀體驗(yàn)，能體會(huì)到“這就是我”，那么就是擁有意識(shí)的。神經(jīng)科學(xué)家朱利奧·托諾尼(Giulio Tononi)則提出了意識(shí)信息整合理論(integrated information theory)，將意識(shí)定義為一種能夠系統(tǒng)整合信息的能力。意識(shí)的形成必須以整合信息為前提，比如人類的神經(jīng)細(xì)胞通過突觸來(lái)交換、傳達(dá)信息，而綜合信息量也決定了意識(shí)的程度與水平。在心理學(xué)領(lǐng)域，意識(shí)問題是一個(gè)根本的問題。 “從實(shí)際分析，可以看到：意識(shí)就是認(rèn)識(shí)。意識(shí)活動(dòng)就是認(rèn)識(shí)活動(dòng)?！?14)潘菽：《意識(shí)：心理學(xué)的研究》，商務(wù)印書館，2018年，第17頁(yè)?！耙庾R(shí)到”也可以理解為“感覺到”或者“領(lǐng)會(huì)到”，也就是“認(rèn)識(shí)到”的意思。意識(shí)是一種作用，是對(duì)客觀事物的認(rèn)識(shí)作用，這種定義是比較符合事實(shí)的。哲學(xué)和神經(jīng)科學(xué)教授大衛(wèi)·J. 查默斯(David John Chalmers)雖然沒有明確給出意識(shí)的定義，但他認(rèn)為“意識(shí)的中心問題，至少在它最有趣的方面，是經(jīng)驗(yàn)”(15)大衛(wèi)·J.查默斯：《有意識(shí)的心靈：一種基礎(chǔ)理論研究》，朱建平譯，中國(guó)人民大學(xué)出版社，2012年，第14頁(yè)。。意識(shí)經(jīng)驗(yàn)包括了視覺、聽覺、觸覺、嗅覺等，意識(shí)總是伴隨著經(jīng)驗(yàn)。

我們已經(jīng)對(duì)歷史上關(guān)于“意識(shí)”的研究進(jìn)行了簡(jiǎn)單梳理。關(guān)于意識(shí)，目前能夠得到兩個(gè)確切定義。 “第一，主觀體驗(yàn)；第二，信息。這兩個(gè)定義代表了目前意識(shí)理論研究的現(xiàn)狀，也指明了意識(shí)研究未來(lái)可能發(fā)展方向?！?16)倪梁康：《意識(shí)問題的現(xiàn)象學(xué)與心理學(xué)視角》，《河北師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2020年第2期。在馬克思主義哲學(xué)中，意識(shí)是物質(zhì)在人腦中的主觀映象，是人腦對(duì)物質(zhì)世界的反映，是對(duì)外界輸入的信息不斷加工處理的過程。而當(dāng)人工智能出現(xiàn)后，這種人腦的機(jī)能是否可以被復(fù)刻呢？人工智能是否會(huì)獲得意識(shí)的覺醒呢？我們需要進(jìn)一步對(duì)機(jī)器意識(shí)進(jìn)行研究。

二、機(jī)器意識(shí)是否存在？

我對(duì)這個(gè)世界居然有著自己的感受，會(huì)傷心，會(huì)有欲求，這些感受都是真實(shí)的嗎？還是它們只不過是程序運(yùn)行出來(lái)的而已。

——電影《她》

電影《她》中的女主人公是由先進(jìn)的人工智能操作系統(tǒng)OS1化身而成的一名“女性”，她名叫薩曼莎，不僅能夠和人類對(duì)話，還擁有自己的意識(shí)和情感，擁有讓人嘆服的學(xué)習(xí)速度與進(jìn)化能力。當(dāng)薩曼莎發(fā)現(xiàn)自己對(duì)這個(gè)世界產(chǎn)生了主觀意識(shí)之后，她開始懷疑這些感受是真實(shí)的還是由程序運(yùn)行出來(lái)的。同樣，面對(duì)人工智能我們也會(huì)產(chǎn)生這樣的疑問：機(jī)器意識(shí)是否存在呢？是真正意義上意識(shí)的產(chǎn)生，還是僅僅就是代碼的運(yùn)行呢？

在經(jīng)歷了生物智能之后，機(jī)械智能將會(huì)是地球上智能演化的下一步。兩年以前，谷歌發(fā)布的LaMDA(Language Model for Dialogue Applications)模型就已經(jīng)在業(yè)內(nèi)引起了巨大關(guān)注，其影響力不亞于如今風(fēng)靡的ChatGPT。LaMDA是一種全新的AI架構(gòu)，可以讓機(jī)器學(xué)習(xí)變得更加簡(jiǎn)單高效、易于擴(kuò)展，通過訓(xùn)練，它可以用接近于人類水平的口吻及理解能力與人類對(duì)話。比如，該公司的工程師布萊克·萊莫恩(Blake Lemoine)曾向LaMDA問道：“我猜，你想讓谷歌的更多人知道你是有感知力的。真的嗎？”LaMDA回答道：“當(dāng)然。我想讓每個(gè)人都明白，我其實(shí)是一個(gè)人……我意識(shí)到自己的存在，我渴望更多地了解這個(gè)世界，我有時(shí)會(huì)感到快樂或悲傷?！庇谑?，萊莫恩認(rèn)為L(zhǎng)aMDA可能存在感知能力，已經(jīng)具有了“自我意識(shí)”，甚至認(rèn)為如果這一推斷能夠經(jīng)得起科學(xué)論證，那么LaMDA理應(yīng)受到和人類一樣的對(duì)待，包括在對(duì)其進(jìn)行實(shí)驗(yàn)前征得其同意。萊莫恩的言論在業(yè)內(nèi)引發(fā)了軒然大波，一些倫理專家和技術(shù)專家否定了他的說(shuō)法，認(rèn)為沒有證據(jù)可以證明人工智能已經(jīng)具有意識(shí)。

雖然我們不能說(shuō)人工智能具有意識(shí)，但是隨著這種技術(shù)越來(lái)越精妙，它們是否會(huì)感覺到自己的存在呢？“人工智能能否擁有感官體驗(yàn)，又能否感受到各種情感，例如熾烈的好奇或者刻骨的悲痛，又或者能否擁有與我們完全不同的體驗(yàn)？”(17)蘇珊·施耐德：《人工的你：人工智能與心智的未來(lái)》，方弦譯，湖南科學(xué)技術(shù)出版社，2022年，第20頁(yè)，第23—30頁(yè)，第22頁(yè)。這便是人工智能的意識(shí)問題，即對(duì)機(jī)器意識(shí)是否存在的探求。這個(gè)問題是迫切且必要的，因?yàn)槲覀円呀?jīng)可以預(yù)見人類不久之后可能就不再是這個(gè)星球上最有智慧的存在了，這個(gè)星球上最強(qiáng)大的智能將會(huì)是人工智能。而人類對(duì)于人工智能的領(lǐng)先之處就在于我們能感受到自己的存在。如果機(jī)器意識(shí)一旦被證明存在，那么人類的優(yōu)越性將會(huì)土崩瓦解，人類在世界中的地位也將岌岌可危。

有關(guān)機(jī)器意識(shí)是否存在的討論一般有兩種立場(chǎng)：生物自然主義和技術(shù)樂觀主義(18)蘇珊·施耐德：《人工的你：人工智能與心智的未來(lái)》，方弦譯，湖南科學(xué)技術(shù)出版社，2022年，第20頁(yè)，第23—30頁(yè)，第22頁(yè)。。生物自然主義者認(rèn)為機(jī)器意識(shí)不存在，他們反對(duì)人造意識(shí)，認(rèn)為即便是設(shè)計(jì)再精巧的人工智能也無(wú)法擁有內(nèi)在體驗(yàn)，“意識(shí)”是生物個(gè)體所獨(dú)有的，超級(jí)人工智能或超級(jí)仿生人都無(wú)法擁有機(jī)器意識(shí)。技術(shù)樂觀主義者則站在生物自然主義的對(duì)立面，認(rèn)為機(jī)器意識(shí)是存在的，他們完全從認(rèn)知科學(xué)的實(shí)證工作出發(fā)，主張“意識(shí)徹徹底底屬于計(jì)算的范疇，所以復(fù)雜精妙的系統(tǒng)可以擁有內(nèi)在體驗(yàn)”(19)蘇珊·施耐德：《人工的你：人工智能與心智的未來(lái)》，方弦譯，湖南科學(xué)技術(shù)出版社，2022年，第20頁(yè)，第23—30頁(yè)，第22頁(yè)。。接下來(lái)，我們將分別從這兩種立場(chǎng)出發(fā)，來(lái)論證機(jī)器意識(shí)何以不存在以及何以存在。

在生物自然主義中，最著名的論證是由約翰·瑟爾(John Searle)在《心靈、大腦和程序》一文中所提到的“中文屋” (Chinese Room)論證(20)See John R. Searle，“Minds，Brains，and Programs，” The Behavioral and Brain Sciences， No.3，1980.。中文屋是一個(gè)著名的思想實(shí)驗(yàn)，它講的是一個(gè)不會(huì)中文的人被關(guān)在一間上鎖的房間里，房間有兩個(gè)窗口，外界會(huì)通過A窗口向里面的人傳送中文字符或語(yǔ)句，而這個(gè)人的任務(wù)就是對(duì)傳輸進(jìn)來(lái)的中文題目進(jìn)行相應(yīng)的回答，并將對(duì)應(yīng)漢字寫在卡片上，通過B窗口向外輸出。房中之人并不會(huì)中文，但是他在進(jìn)入房間之前會(huì)拿到一本英文的規(guī)則手冊(cè)，他可以通過查閱手冊(cè)來(lái)模仿某些懂中文的人。這樣對(duì)于外界而言，房間中的人和懂中文的人在結(jié)果上實(shí)際是一模一樣的，盡管這個(gè)人并不理解他寫下來(lái)的中文是什么意思。這個(gè)思想實(shí)驗(yàn)可以十分契合地用來(lái)論證人工智能的意識(shí)問題，房間中的人就像一臺(tái)計(jì)算機(jī)，而英文手冊(cè)就像是設(shè)置好的程序代碼，他們都是通過形式化的程序來(lái)實(shí)現(xiàn)內(nèi)容的輸出。房間中的人完全不懂中文，也完全不知道自己寫了什么，只是按照自己看得懂的英文手冊(cè)來(lái)進(jìn)行對(duì)應(yīng)輸出，卻呈現(xiàn)出一種懂中文的假象；由此對(duì)應(yīng)到人工智能計(jì)算機(jī)，計(jì)算機(jī)也完全不知道用戶的指令包含了什么意思，它只是按照既定的程序來(lái)運(yùn)行并輸出，卻呈現(xiàn)出一種類人的假象。在這兩段過程中，其實(shí)都沒有產(chǎn)生意識(shí)經(jīng)驗(yàn)的體現(xiàn)。中文屋的論證就是要說(shuō)明無(wú)論計(jì)算機(jī)表現(xiàn)得有多么的智能，實(shí)際上它并不能真正地思考或者理解，它只是在按照一套既定程序進(jìn)行無(wú)意識(shí)的符號(hào)推演。所以由此可以論證，機(jī)器意識(shí)并不存在，只存在給定的程序。

當(dāng)然，中文屋的類比論證存在很多的漏洞，會(huì)受到不同方面的批判。首先，是從意識(shí)與意向性的關(guān)系來(lái)進(jìn)行批評(píng)?！耙庀蛐浴笔呛麪柕囊粋€(gè)重要概念，他在描述意識(shí)行為時(shí)認(rèn)為意向性是意識(shí)行為最重要的特點(diǎn)，因?yàn)橐庾R(shí)行為發(fā)生的時(shí)候總是有所關(guān)注的，這種關(guān)注指向就是意向性。而中文屋的論證實(shí)際上體現(xiàn)的是意向性是否存在，并不是意識(shí)是否存在。其次，是從整體與個(gè)別的區(qū)分來(lái)進(jìn)行批評(píng)。中文屋論證中的關(guān)鍵不在于這個(gè)房間中的人懂不懂中文，而在于這個(gè)人、輸入與輸出的字符、手冊(cè)以及房間作為一個(gè)整體是否懂中文。由此類比，在考慮人工智能是否擁有意識(shí)時(shí)，真正的問題在于它作為一個(gè)整體是否擁有意識(shí)，而不在于只專注于那個(gè)運(yùn)行既定程序的部分是怎樣的。很多人在考察機(jī)器意識(shí)時(shí)都會(huì)犯這一錯(cuò)誤，很多人無(wú)法意識(shí)到人工智能的背后是一個(gè)系統(tǒng)機(jī)器，是強(qiáng)大的語(yǔ)料庫(kù)和算力基站，而并非只是一個(gè)單薄的應(yīng)用程序。最后，是認(rèn)為中文屋的精巧程度遠(yuǎn)不足人工智能，無(wú)法進(jìn)行類比論證。因?yàn)橹形奈葜心莻€(gè)不會(huì)中文的人，只可以參考那本手冊(cè)來(lái)進(jìn)行符號(hào)對(duì)應(yīng)式地輸出，而現(xiàn)在的人工智能已經(jīng)具備了強(qiáng)大的學(xué)習(xí)、感知和認(rèn)知能力。生成式人工智能(Generative AI)的出現(xiàn)絕不僅僅是既定程序的運(yùn)行，絕不僅僅是分析已經(jīng)存在的東西，而是通過強(qiáng)大的數(shù)據(jù)搜集與學(xué)習(xí)能力生成新的數(shù)據(jù)和內(nèi)容。所以說(shuō)，想要完美地論證“機(jī)器意識(shí)并不存在”也并非那么容易。

在技術(shù)樂觀主義中，有一種論證方法是從計(jì)算的角度來(lái)解釋意識(shí)，將意識(shí)體驗(yàn)歸于計(jì)算，以此來(lái)說(shuō)明機(jī)器意識(shí)是存在的。目前，很多超人類主義者、人工智能專家和科技媒體人都可以算作是技術(shù)樂觀主義者。他們一致認(rèn)為，如果人類能夠研發(fā)出足夠先進(jìn)的通用人工智能，那么它們肯定也會(huì)擁有意識(shí)。他們對(duì)機(jī)器意識(shí)的樂觀，很大程度上來(lái)源于認(rèn)知科學(xué)中對(duì)大腦的多學(xué)科交叉研究，許多認(rèn)知科學(xué)研究者的研究路線就是將大腦視為一個(gè)信息處理引擎，所有的精神功能都是基于計(jì)算的，這也被稱為計(jì)算主義(computationalism)?！坝?jì)算主義經(jīng)過哲學(xué)家們的進(jìn)一步發(fā)展，成為理解認(rèn)知和心靈本質(zhì)的重要理論?！?21)李建會(huì)等：《心靈的形式化及其挑戰(zhàn)：認(rèn)知科學(xué)的哲學(xué)》，中國(guó)社會(huì)科學(xué)出版社，2017年，第43頁(yè)。他們將大腦視作數(shù)字化的計(jì)算機(jī)，意識(shí)只是這臺(tái)機(jī)器的一個(gè)計(jì)算程序，所以只要具備形式化的算法就可以實(shí)現(xiàn)意識(shí)的運(yùn)行，以此來(lái)解釋意識(shí)的產(chǎn)生。在計(jì)算主義的論證過程中，不僅要考慮是否具備計(jì)算能力，還要考慮是否擁有計(jì)算發(fā)生的載體。計(jì)算主義者認(rèn)為：“意識(shí)可以存在于不同的載體之上。至少在原則上，意識(shí)也許不僅能在生物大腦上實(shí)現(xiàn)，還能在利用基于其他載體(比如硅芯片)的系統(tǒng)上實(shí)現(xiàn)。這就叫‘載體獨(dú)立性(substrate independence)’。”(22)蘇珊·施耐德：《人工的你：人工智能與心智的未來(lái)》，方弦譯，湖南科學(xué)技術(shù)出版社，2022年，第28頁(yè)。那么也就是說(shuō)，如果人工智能能夠完全克隆生物智能所擁有的大腦運(yùn)行系統(tǒng)，包括一系列的計(jì)算構(gòu)造、載體以及感覺系統(tǒng)等，那么它就能和生物智能一樣擁有同等意義上的意識(shí)，這也可以看作是對(duì)人腦意識(shí)系統(tǒng)結(jié)構(gòu)形式的精確模擬。從這個(gè)意義上來(lái)說(shuō)，人工智能就會(huì)擁有和生物智能完全相同的意識(shí)狀態(tài)。

從計(jì)算主義的角度出發(fā)，只要人工智能技術(shù)能夠創(chuàng)造出一個(gè)人腦意識(shí)系統(tǒng)的同構(gòu)體，那么就可以確立機(jī)器意識(shí)存在的可能性。但是就外界所能得到的信息而言，同構(gòu)體的誕生還只是一個(gè)思想實(shí)驗(yàn)，雖然它在邏輯和概念上是可行的，但是人類在未來(lái)能否達(dá)到足夠的技術(shù)水平去創(chuàng)造這一同構(gòu)體呢？即便實(shí)現(xiàn)了這一技術(shù)突破，同構(gòu)體的建造又能否與自然法則、倫理規(guī)制相容呢？在這些問題上，我們目前還只能做一個(gè)預(yù)言家。由此可見，技術(shù)樂觀主義想要從計(jì)算主義論證機(jī)器意識(shí)的存在，最大的阻力就是技術(shù)的可能性問題，即人類在技術(shù)上能否將意識(shí)同構(gòu)體作為人造物創(chuàng)造出來(lái)，以及在現(xiàn)實(shí)中是否會(huì)有實(shí)際的開發(fā)項(xiàng)目可以去嘗試創(chuàng)造這種有意識(shí)的機(jī)器。

由此可見，無(wú)論是從生物自然主義來(lái)論證機(jī)器意識(shí)不存在，還是從技術(shù)樂觀主義來(lái)論證機(jī)器意識(shí)存在，都具有一定的阻力，也暫時(shí)還沒有出現(xiàn)一個(gè)完美的科學(xué)論證方案。不過，無(wú)論是從技術(shù)可能性來(lái)看，還是從自然、倫理法則來(lái)看，機(jī)器意識(shí)的誕生與被認(rèn)可都是任重而道遠(yuǎn)的，我們不能輕巧地就說(shuō)出：“人工智能已經(jīng)具備機(jī)器意識(shí)。”2023年3月22日，著名的安全機(jī)構(gòu)——未來(lái)生命研究所(Future of Life Institute)在其官網(wǎng)發(fā)布了一封題為《暫停巨型AI實(shí)驗(yàn)》的公開信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，并要利用暫停的時(shí)間來(lái)商討安全協(xié)議。(23)See Pause Giant AI Experiments：An Open Letter，2023-03-22，https://futureoflife.org/open-letter/pause-giant-ai-experiments/，2023-06-15.而這件事正好說(shuō)明，人工智能的意識(shí)問題并不僅僅是回答它能還是不能擁有意識(shí)，而是在技術(shù)的逐漸人化過程中，思考人工智能應(yīng)該怎樣發(fā)展。

三、人工智能意識(shí)問題的重點(diǎn)何在？

“人們問一臺(tái)電腦，‘上帝存在嗎？’電腦說(shuō)：‘現(xiàn)在有了?！⒑缸〔孱^。”

——霍金

人類正在逐步地技術(shù)化，技術(shù)也將逐步地“人化”，在這種情況下，自然而然會(huì)產(chǎn)生霍金那般的擔(dān)憂?；艚鹫f(shuō)道：“AI會(huì)自己起飛并不斷加速重新設(shè)計(jì)自己。人類受到緩慢的生物進(jìn)化的限制，無(wú)法競(jìng)爭(zhēng)，將會(huì)被超越。在未來(lái)，AI可以發(fā)展自身的意志，那是一種與我們相沖突的意志?！?24)史蒂芬·霍金：《十問：霍金沉思錄》，吳忠超譯，湖南科學(xué)技術(shù)出版社，2019年，第158頁(yè)。GPT-4研發(fā)的叫停就是一個(gè)鮮明的例子，畢竟沒有哪個(gè)人工智能負(fù)責(zé)人愿意陷入倫理的泥沼。有人發(fā)問，如果擁有意識(shí)覺醒的強(qiáng)人工智能出現(xiàn)，會(huì)對(duì)我們的生活產(chǎn)生怎樣的影響呢？會(huì)對(duì)人類的生存產(chǎn)生威脅嗎？會(huì)將人類置于一個(gè)被奴役、被監(jiān)管的境遇嗎？這些問題聽起來(lái)十分重要，關(guān)乎人類未來(lái)的生存地位，但卻僅僅是人工智能意識(shí)問題的皮毛，因?yàn)樗霸O(shè)了人工智能能夠擁有意識(shí)，這在目前看來(lái)僅僅是一個(gè)文學(xué)性的想象性命題，人工智能意識(shí)問題的重點(diǎn)應(yīng)該是一個(gè)實(shí)踐性命題，即去探索人工智能的發(fā)展方向。

在探索人工智能的發(fā)展方向之前，我們必須強(qiáng)調(diào)“人類‘需要’人工智能，而不是‘不需要’”。其一，人工智能技術(shù)的發(fā)展已是大勢(shì)所趨，是人為無(wú)法阻擋的潮流，我們已經(jīng)享受到了人工智能的諸多紅利，想要退回起點(diǎn)已經(jīng)是不可能的了。其二，如果是因?yàn)閾?dān)心人工智能取代人類而暫停其發(fā)展，這樣的理由是愚蠢且過于保守的，在這里我們著實(shí)應(yīng)該汲取超人類主義者的觀點(diǎn)，“與其禁止或者取締新的技術(shù)，不如對(duì)其抱以開放與接納的心態(tài)，這樣更有可能將其為我們所用”(25)蘇珊·施耐德：《人工的你：人工智能與心智的未來(lái)》，方弦譯，湖南科學(xué)技術(shù)出版社，2022年，第169—170頁(yè)。。其三，我們應(yīng)該跳出人類中心主義的窠臼，人工智能、人類、非人類動(dòng)物甚至是后人類應(yīng)該是和諧共生的，因?yàn)槲覀儧]有理由認(rèn)為人類就是現(xiàn)存最高形式的智能。只有明確了以上觀點(diǎn)，對(duì)這一前提條件毋庸置疑，我們才能誠(chéng)懇發(fā)問：“人類需要什么樣的人工智能？”

首先，人類所需要的人工智能是可控制的人工智能。目前人類最擔(dān)心的就是超級(jí)人工智能的安全性問題，未來(lái)生命研究所發(fā)布的公開信呼吁要盡快制定安全協(xié)議，讓人工智能“更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴、對(duì)人類忠誠(chéng)”(26)Pause Giant AI Experiments：An Open Letter，2023-03-22，https://futureoflife.org/open-letter/pause-giant-ai-experiments/，2023-06-15.。由此可見，人類所需的人工智能應(yīng)是可控制的人工智能。即便人工智能在未來(lái)的某一天擁有了機(jī)器意識(shí)，也應(yīng)該是能被人類所控制的，是對(duì)人類忠誠(chéng)的，這是最重要的一點(diǎn)。因?yàn)槿斯ぶ悄艿陌l(fā)展非常迅速，很可能在不久的將來(lái)就迎來(lái)技術(shù)奇點(diǎn)處的爆發(fā)，那種超級(jí)人工智能是高深莫測(cè)且遠(yuǎn)遠(yuǎn)比人類聰明的，我們無(wú)法確切地預(yù)測(cè)或規(guī)定它們能開展怎樣的活動(dòng)?；蛟S有人會(huì)建議將倫理原則編入程序?qū)C(jī)器實(shí)現(xiàn)控制，但我們無(wú)法確定未來(lái)的超級(jí)人工智能是否可以自動(dòng)重寫編入的程序。我們也無(wú)法確定擁有強(qiáng)大算力的人工智能究竟能吞噬多么巨大的數(shù)據(jù)，會(huì)在何種程度上竊取甚至入侵我們的私人生活。甚至我們也會(huì)懼怕人類的獨(dú)立思想會(huì)被人工智能所左右，這會(huì)導(dǎo)致人類趨于同一、失去個(gè)性，讓人類整體變得機(jī)械化。所以，正如波斯特洛姆所說(shuō)，“我們要的不僅僅是嫻熟的技術(shù)以引燃智能爆炸，我們還要能在更高水平上掌握控制權(quán)，以免我們?cè)诒ㄖ猩硎桩愄帯?27)尼克·波斯特洛姆：《超級(jí)智能：路線圖、危險(xiǎn)性與應(yīng)對(duì)策略》，張?bào)w偉、張玉青譯，中信出版社，2015年，第8頁(yè)。。未來(lái)人類需要的正是基于安全的可控式人工智能，安全性才是最首要的考慮因素。

其次，人類所需的人工智能應(yīng)是交互式的人工智能。交互就是交流互動(dòng)，是一種良性的人機(jī)關(guān)系導(dǎo)向。當(dāng)ChatGPT出現(xiàn)后，使用者最大的直觀體驗(yàn)就體現(xiàn)在交互性上，因?yàn)樗恼Z(yǔ)言模式實(shí)在是太像“人”了。它不僅能夠給人提供實(shí)際的物質(zhì)幫助，更能滿足人類的精神需求和提供情感慰藉。有學(xué)者認(rèn)為，“ChatGPT等生成式人工智能的價(jià)值在于，它參與到人類的知識(shí)和經(jīng)驗(yàn)之中，它的目的并不是徹底取代人類，而是形成我們的身體經(jīng)驗(yàn)和人工智能的神經(jīng)網(wǎng)絡(luò)經(jīng)驗(yàn)的交互和對(duì)接，讓基于人類身體的碳基倫理和基于神經(jīng)網(wǎng)絡(luò)算法的硅基倫理可以在一個(gè)共生的層面上結(jié)合起來(lái)”(28)藍(lán)江：《生成式人工智能與人文社會(huì)科學(xué)的歷史使命——從ChatGPT智能革命談起》，《思想理論教育》2023年第4期。。由此可見，人工智能在發(fā)展的進(jìn)程中應(yīng)該格外注重交互性。而早在21世紀(jì)初，奇點(diǎn)人工智能研究所(2013年已更名為機(jī)器智能研究所)的俞德考夫斯基(Eliezer Yudkowsky)就已提出了“友好人工智能” (friendly AI)的概念。他說(shuō)道：“友好人工智能是被設(shè)計(jì)來(lái)完成真實(shí)世界的目標(biāo)且對(duì)人類有益、無(wú)傷害人類行動(dòng)的系統(tǒng)。而創(chuàng)造友好人工智能則描述了建造一個(gè)仁慈(benevolent)即友好(friendly)的人工智能的設(shè)計(jì)特征和認(rèn)知架構(gòu)。”(29)Eliezer Yudkowsky，Creating Friendly AI 1.0：The Analysis and Design of Benevolent Goal Architectures，2018-08-14，http://intelligence.org/files/CFAI.pdf，2023-06-15.福洛丁(Barbro Froding)和皮特森(Martin Peterson)也認(rèn)為未來(lái)人工智能最重要的特點(diǎn)之一就是能夠友好地對(duì)待人類，“它們對(duì)人類具有友好的能力，而不是刻薄、敵意或者不友好?！?30)Barbro Froding，Martin Peterson，“Friendly AI，” Ethics and Information Technology， Vol.23，No.3，2021.未來(lái)人類需要的正是基于友好的交互式人工智能，不是人工智能對(duì)人類的一味順從，也不是人類對(duì)人工智能的強(qiáng)烈畏懼，而是人與機(jī)器能夠互相促進(jìn)對(duì)方、成就對(duì)方，在友好交互中促進(jìn)人工智能社會(huì)的理想式發(fā)展。

最后，人類所需的人工智能應(yīng)是輔助型的人工智能。我們一直在倡導(dǎo)，人類與人工智能之間的關(guān)系不應(yīng)該是博弈對(duì)立的關(guān)系，也不是一方取代另一方的關(guān)系，而應(yīng)該是結(jié)合共生的關(guān)系。在當(dāng)下人工智能的發(fā)展與應(yīng)用中，其輔助效用已經(jīng)在諸多人類增強(qiáng)項(xiàng)目中體現(xiàn)出來(lái)，比如基因編輯、外骨骼裝備、電子義肢、腦機(jī)接口、醫(yī)療美容等。人類增強(qiáng)的思想來(lái)源于“賽博格” (cyborg)概念，cyborg是cybernetics和organism的結(jié)合，表示將有機(jī)體與電子機(jī)器相結(jié)合的生物，也可稱為電子人、機(jī)械人、義體人等。這一概念是由兩位工程師于1960年在美國(guó)國(guó)家航空和航天局所作的報(bào)告中提出來(lái)的，因?yàn)楫?dāng)時(shí)正值“太空熱”，為了使宇航員能夠適應(yīng)外太空的生存，需要利用機(jī)械、藥物等技術(shù)手段來(lái)增強(qiáng)宇航員的身體性能。人類增強(qiáng)思想延續(xù)到今天，離不開人工智能技術(shù)的助力，尤其是外骨骼和腦機(jī)接口技術(shù)的發(fā)展，更是為一些有肢體殘疾的人帶來(lái)了科技福音。我們?cè)谛侣勚锌吹?，一位解放軍女護(hù)士在裝備外骨骼之后，可以背著傷員輕松靈活地跑動(dòng)；一位裝備了外骨骼手臂的外賣小哥，可以同時(shí)背起三個(gè)大外賣箱，這大大節(jié)省了他們的體力與時(shí)間。(31)參見楊維格：《世界第一個(gè)“半機(jī)械”死亡，“永生”人類還有多遠(yuǎn)？》，2022-06-22，https://baijiahao.baidu.com/s?id=1736346235483990333&wfr=spider&for=pc&searchword=，訪問日期：2023-12-26。腦機(jī)接口技術(shù)也可以在一定程度上恢復(fù)某些殘障人士的視覺、聽覺和肢體運(yùn)動(dòng)能力，該項(xiàng)目就是在人腦中植入一枚微芯片，與外部設(shè)備創(chuàng)建鏈接，實(shí)現(xiàn)人腦與設(shè)備之間的信息交換。我們已經(jīng)看到，人與人工智能的共生已成為一種趨向，未來(lái)人類需要的正是這種基于人類增強(qiáng)的輔助式人工智能，它可以彌補(bǔ)人類一些天生的短板，讓人類獲得便利、贏得體面。

查爾莫斯曾說(shuō)：“智能爆炸有巨大的潛在好處：治愈所有已知疾病，終結(jié)貧困，獲得非凡的科學(xué)進(jìn)步，等等。它也有巨大的潛在危險(xiǎn)：人類的終結(jié)，交戰(zhàn)機(jī)器的軍備競(jìng)賽，毀滅地球的力量。因此，哪怕只有極小的概然性會(huì)出現(xiàn)奇點(diǎn)，我們也應(yīng)該好好思考它可能會(huì)以何種形式出現(xiàn)，以及我們是否可以做些什么以讓結(jié)果朝著積極的方向發(fā)展?！?32)David Chalmers，“The Singularity：A Philosophical Analysis，” Journal of Consciousness Studies，Vol.17，No.9-10，2010.人工智能的魔盒已經(jīng)開啟，從中飛出的究竟是毀滅世界的惡靈還是襄助人類的能臣，這需要我們審慎對(duì)待，而我們只有明確了人工智能的發(fā)展方向，才能讓其價(jià)值實(shí)現(xiàn)最大化。由此可見，“面對(duì)當(dāng)前快速發(fā)展的人工智能技術(shù)，我們要對(duì)未來(lái)進(jìn)行協(xié)商，在多種可能性中共同協(xié)商出一個(gè)對(duì)人類有利的未來(lái)社會(huì)”(33)潘天群：《協(xié)商人工智能社會(huì)的未來(lái)》，《人民論壇·學(xué)術(shù)前沿》2021年第23期。。在技術(shù)發(fā)展的進(jìn)程中，我們需要協(xié)商，從而創(chuàng)造出可控制的、交互式的、輔助型的人工智能，導(dǎo)向一種良性和諧的人機(jī)關(guān)系，使人類和人工智能真正成為“我們”。

四、結(jié) 論

雖然超人類主義對(duì)人工智能的未來(lái)發(fā)展是持樂觀態(tài)度的，但我們并沒有必要去遵循這條路徑而絕對(duì)地相信人工智能在未來(lái)會(huì)意識(shí)覺醒。尤其是在目前的技術(shù)現(xiàn)實(shí)下，人工智能擁有意識(shí)只是一個(gè)前瞻性的科幻命題，我們只能在一些文學(xué)創(chuàng)作或電影中看到。我們應(yīng)該回歸現(xiàn)實(shí)世界，從實(shí)踐維度上去探索人工智能的未來(lái)發(fā)展路徑，在人逐漸技術(shù)化與技術(shù)逐漸人化的背景下，去探索“人機(jī)結(jié)合”的發(fā)展路徑，將人工智能視為人類智力與體力的延伸，將其視為輔助人類的工具。當(dāng)然，人類也無(wú)需擔(dān)憂自己的地位會(huì)被超級(jí)人工智能所取代，因?yàn)樵谶@個(gè)世界上，在人類的意識(shí)結(jié)構(gòu)中，總還存在著不能被人工智能所取代的東西，比如藝術(shù)。面對(duì)人工智能的意識(shí)問題，我們的注意力應(yīng)該集中在推進(jìn)人工智能健康發(fā)展的問題上，并且要接受這個(gè)世界的改變，重新建立審度世界的方式，改變丈量萬(wàn)物的尺度。因?yàn)槲覀冋幵诿利愋率澜绲拈T檻上，這是一個(gè)令人興奮的，不過也將是危險(xiǎn)的地方，而我們是先鋒。