汪 婭

(重慶大學(xué)，重慶 400044)

機(jī)器是否具有意識的問題，不僅涉及到對人類意識本質(zhì)的理解，同時也是人工智能取得突破的關(guān)鍵。圍棋高手“AlphaGo”以及用于社交并擁有公民身份的“索菲亞”機(jī)器人等智能機(jī)器的出現(xiàn)，尤其是伴隨智能機(jī)器發(fā)展的過程中所產(chǎn)生的一些倫理問題以及社會影響，引起了學(xué)術(shù)界對機(jī)器是否能夠擁有意識的討論，首先是是否可以用人工代替生物的問題。

然而，即使拋開人類的偏見，肯定工程上對意識功能實現(xiàn)的積極意義，就人工智能的發(fā)展現(xiàn)狀而言不具有實現(xiàn)機(jī)器意識的可能。本文并非意在探討機(jī)器意識的實現(xiàn)方式，而是以一種調(diào)和的方式，綜合工程上與哲學(xué)上對意識的理解，依據(jù)人工智能的發(fā)展現(xiàn)狀分析機(jī)器意識的有無問題。

一、機(jī)器意識

機(jī)器意識通常也被稱為“人工意識”，對機(jī)器意識的定義代表學(xué)術(shù)界對機(jī)器意識的不同理解，目前缺乏統(tǒng)一的定論，主要分為以下三種類型：一種是從功能性的考慮出發(fā)，主張“機(jī)器意識是指那些設(shè)計和分析信息機(jī)器的人試圖將他們的方法應(yīng)用于理解意識的各種方式，并檢查意識在信息機(jī)器中的可能作用”。[1]另外一種則從哲學(xué)層面出發(fā)，將機(jī)器意識理解為“試圖模擬和實現(xiàn)人類認(rèn)知的某些方面，這些方面被認(rèn)為是難以捉摸和有爭議的意識現(xiàn)象”。[2]而第三種則從單詞的屬性出發(fā)認(rèn)為，“意識機(jī)器的概念在術(shù)語上是矛盾的，因為‘意識’一詞代表自然的東西，‘機(jī)器’一詞代表人工的東西。說機(jī)器是有意識的是荒謬的。因此，機(jī)器意識的概念是一個衍生的概念，在最壞的情況下是一個自相矛盾的概念。”[3]

然而，對意識缺乏統(tǒng)一的定義也是機(jī)器意識問題受到熱議的重要原因。目前連蜜蜂也被證明具有情緒、注意力、遠(yuǎn)見、自我意識等能力。[4]而按照Porcher的觀點，“沒有科學(xué)分支了解意識的本質(zhì)和來源就不存在否定任何生命形式的依據(jù)”，[5]同時他也說明意識能力并不依賴人的大腦。那么機(jī)器有無可能實現(xiàn)意識？本文則嘗試結(jié)合工程上和哲學(xué)上對機(jī)器意識的理解來分析機(jī)器意識有無可能的問題。

二、基于機(jī)器意識的現(xiàn)狀分析

鑒于認(rèn)識到復(fù)制人類意識的好處[6]以及追求科技的進(jìn)步，近幾年，一些學(xué)者創(chuàng)造出了能夠依據(jù)自身的經(jīng)驗身份回答問題的模型ARTSELF、[7]可覺知自身姿勢狀態(tài)的本體感受傳感器、[8]會做夢的機(jī)器人、[9]能夠在鏡子前識別出自己的Robot-MNS-Model模型[10]以及由細(xì)胞組成的可自行復(fù)制、恢復(fù)和治愈的粒子機(jī)器人[11]等意識機(jī)器模型。

事實上，當(dāng)前人工智能在某些方面表現(xiàn)得仍稍遜于孩童，盡管某些機(jī)器模型已經(jīng)在一些領(lǐng)域打敗了人類的世界冠軍。但其中不乏一些繁榮發(fā)展的假象，這些假象背后由資本操縱。例如，聰明的聊天機(jī)器人客服，可能由真人扮演，這是由資本家為獲得利益而進(jìn)行的“欺騙”行為，從而發(fā)展出的“AI拜物教”。

目前，深度學(xué)習(xí)作為人工智能的核心驅(qū)動力，具有先進(jìn)性(自主性)、仿腦性及不可解釋性，這些特性通常被視為與人類意識相關(guān)。這三種特性往往相互作用，彼此成就。由于我們無法確定人腦是否是實現(xiàn)意識的唯一形式，但根據(jù)他者思維問題，我們可以確定作為人類的自己是具有意識的。首先，我們需要探討深度學(xué)習(xí)究竟有無達(dá)到人類意識水平。

“人腦不是一次完成的計算機(jī)硬件，他是在社會生活中完善起來成為意識器官的?！盵12](P10)人腦在社會中進(jìn)化改變，并在豐富多彩的活動中發(fā)展新的神經(jīng)分支，深度學(xué)習(xí)也能夠通過強(qiáng)化學(xué)習(xí)以及調(diào)節(jié)權(quán)重獲得激勵、不斷完善自身算法，這到底有何不同呢？需要說明的是，無論深度學(xué)習(xí)在結(jié)構(gòu)功能上與人類大腦如何接近，結(jié)構(gòu)不等于意識。人的優(yōu)越性在于，“知覺雖然是對當(dāng)前事物的反映，但是當(dāng)刺激物提供的信息不足時，人總是以過去的經(jīng)驗補(bǔ)充當(dāng)前的知覺活動，使其具有一定結(jié)構(gòu)的整體形象，特別他可以從自身經(jīng)驗中，也可以從別人的經(jīng)驗中，從語言刺激中取得信息，以補(bǔ)充當(dāng)前刺激物提供的信息的不足”。[12](P125)深度學(xué)習(xí)模型也能夠通過概率算法填補(bǔ)經(jīng)驗，而人是有選擇地接受刺激，然后加工整理，與人的經(jīng)驗、思維定勢有關(guān)。但概率算法總是難以避免地具有不確定性，“你可以用概率來計算風(fēng)險，但概率本質(zhì)上對任何給定的情況都沒有發(fā)言權(quán)。伴隨著不確定性的影響是存在的?，F(xiàn)在的選擇變得充滿了對不確定未來的恐懼”。[13](P4)深度學(xué)習(xí)的算法特點之一即為概率估計，在很大程度上即使做出最有利的評估與決策，但本質(zhì)上也具有不確定性和不透明性，故具有不可解釋性，那么這種不可解釋性與人類意識中的某種不可解釋性有何區(qū)別呢？

1958年波蘭尼提出一種默會知識，這是一種無法用語言表述的隱性知識。這與賴爾所說的能力之知以及歐克肖特所說的實踐知識類似。王禮鑫認(rèn)為馬克思主義認(rèn)識論的實踐觀具有吸收默會知識的條件，分別將感性認(rèn)識和理性認(rèn)識對應(yīng)于默會知識和明述知識，并根據(jù)人工智能對先驗知識的依賴認(rèn)為人工智能不具備形成默會知識的能力。深度學(xué)習(xí)的“黑盒”問題，究竟在多大程度上與默會知識有關(guān)呢？

根據(jù)默會知識論的三種知識形式，深度學(xué)習(xí)的這種不可解釋性并不屬于格式塔的類型，這種知識類型不可解釋性是由背景知識問題所引起，但與局域主義論以及強(qiáng)默會知識論有些相似，即未能或不能充分用語言表達(dá)，通常以行動表達(dá)的知識。而人的默會知識與深度學(xué)習(xí)的“不可解釋性”的關(guān)鍵區(qū)分在于，深度學(xué)習(xí)是一個有結(jié)論、無過程說明的知識形成過程；人的默會知識是一種無結(jié)論、有行為(過程)的知識表達(dá)。深度學(xué)習(xí)缺乏一種對其結(jié)論的透明性的說明解釋，而人的默會知識伴隨主體的整個實踐、感悟之中。引起深度學(xué)習(xí)的“黑盒”問題的根源在于其算法的復(fù)雜性，而默會知識更像是一種“理解”，其可能高于明述知識的知識表達(dá)，受到環(huán)境、文化、親身實踐的影響，是更完整意義上的知識所得。因此，深度學(xué)習(xí)的不可解釋性與人類的不可解釋性有著本質(zhì)的不同，且它需要被合理地透明化。

再有，深度學(xué)習(xí)的顯性自主性中內(nèi)嵌著很強(qiáng)的人類元素，正如帕斯奎內(nèi)利(Pasquinelli)所說，“即使神經(jīng)網(wǎng)絡(luò)顯示出人類思維無法預(yù)見的相關(guān)性，它們也在訓(xùn)練數(shù)據(jù)集中隱含的(人類)假設(shè)和類別網(wǎng)絡(luò)內(nèi)運行，從這個意義上說，它們不能為發(fā)明全新的類別做出必要的跳躍”，“當(dāng)然，他們沒有表現(xiàn)出‘自主智力’或意識的跡象”，這種對人類先驗知識以及人類計算的依賴是影響機(jī)器意識發(fā)展的重要因素之一。[14]當(dāng)然，深度學(xué)習(xí)目前還有其他一些缺陷，例如，非生物性、超個性化、適應(yīng)性差等。如果克服了這些局限性，深度學(xué)習(xí)能否實現(xiàn)機(jī)器意識呢？

一般來說，機(jī)器意識的實現(xiàn)往往以傳統(tǒng)的二元論為理論支撐。而持自然主義二元論的查爾莫斯認(rèn)為，“意識是自然世界除物理特征之外的另一種獨立的特性，不可能被還原為物理特性。我們不能把意識的存在性問題僅僅處理為解釋某些認(rèn)知或行為的功能作用問題?！盵15]這種觀點強(qiáng)調(diào)，心靈既在一定程度上依賴于物質(zhì)，又存在某種隱秘結(jié)構(gòu)及獨特本原。

人工智能的發(fā)展總是受到笛卡爾思維觀的偏見的影響，但思考這樣一個問題，“如果我們能創(chuàng)造出一個‘真正’的自我意識和自我感知的機(jī)器人，這個機(jī)器人在某種程度上是每個人類都有的，我們怎么知道我們不是造物主創(chuàng)造的有意識的機(jī)器人呢？”[16](P365)其中，施魏策爾(Schweizer)通過思想實驗表明了在其他物理介質(zhì)上復(fù)制人類心智本質(zhì)上具有理論困難。[17](P81-91)拉賈基肖爾·納特也認(rèn)為，“精神生活及其性質(zhì)不能由宇宙的物理條件在法理上決定。”[3]

而針對意識和腦的關(guān)系問題，在醫(yī)學(xué)領(lǐng)域，宣布人類死亡的方式中，腦死亡通常比心臟死亡更為科學(xué)，腦死亡作為人死亡的關(guān)鍵，最終會導(dǎo)致心死亡。現(xiàn)實案例中，存在腦死亡之后，器官功能依然具備刺激反應(yīng)的情況。一般說來，腦死亡之后，不再具有神經(jīng)元所提供的功能，則便不再具有意識。那么，為什么在無意識情況下，身體依然存在刺激反應(yīng)呢？這是否證明行為主義綱領(lǐng)不足以構(gòu)成實現(xiàn)機(jī)器意識研究的充要條件呢？笛卡爾將意識分為有意識活動和無意識活動，其中有意識活動由人腦所產(chǎn)生，無意識活動以“反射”的形式產(chǎn)生。[12](P144)按照笛卡爾的觀點可以說明腦死亡之后，器官即使能夠進(jìn)行反射也只是一種無意識的活動，盡管笛卡爾持有身心二分的觀點，但這至少肯定了大腦對意識產(chǎn)生所起的關(guān)鍵作用。

S.里昂(S.Lyons)指出，“這是一個至關(guān)重要的區(qū)別，因為在生物學(xué)和意識之間有一種假定的(有點不令人驚訝的)聯(lián)系，在這種聯(lián)系中，沒有人類，或者至少沒有生物大腦，意識就不能存在?！盵18](P29)雖然一些實驗結(jié)果證明，人的感受不是由同樣的神經(jīng)狀態(tài)引起的，但同樣的可觀測的神經(jīng)狀態(tài)能夠引起相似的感受這一點，可能對實現(xiàn)機(jī)器意識來說具有十分重要的意義。

馬克思主義主張物質(zhì)對意識的決定作用，馬克思主義認(rèn)識論的偉大之處在于其突破了傳統(tǒng)的意識內(nèi)在性。近代哲學(xué)只能使對象封閉在自我意識當(dāng)中，馬克思借助黑格爾辯證法的“活動原則”走出意識的內(nèi)在性，并以實踐的觀點，說明人的活動先行于特定對象，以此構(gòu)建或設(shè)定對象，通過對象性活動表現(xiàn)主體與客體的聯(lián)系，其中實踐是聯(lián)系主體和客體的中介。正如陳永杰所說，是馬克思的“對象性活動”將“對象”和“我”真正地聯(lián)系了起來。[19]因此，馬克思主義的實踐觀對意識內(nèi)在性的突破是對超自然觀點的有力反駁，同時也蘊(yùn)含著意識的社會性。

由此可見，在人類意識水平上嘗試去實現(xiàn)機(jī)器意識是困難但具有意義的實踐活動。此外，不可忽略在研究機(jī)器意識的過程中對社會產(chǎn)生的消極影響。

三、以馬克思主義認(rèn)識論批判機(jī)器意識

馬克思主義主張，意識是作為認(rèn)識主體的人所獨有的，人應(yīng)是自由的。而機(jī)器意識研究所帶來的消極現(xiàn)象首先是伴隨其發(fā)展所衍生出來的主體性問題以及倫理問題。目前與主體性密切相關(guān)的自由選擇與自主決策已經(jīng)漸漸在被人工智能所代替。隨著人工智能的發(fā)展，人機(jī)融合逐漸成為一種趨勢，在此基礎(chǔ)上，何為認(rèn)識主體尤為重要。讓·米歇爾認(rèn)為，“與機(jī)器進(jìn)行融合對人類來說始終是有害的。生物體在自身機(jī)能中保有不確定性，有著隨機(jī)的部分，而與機(jī)器的融合會否定掉生物體的這一特性?！盵20](P63)正如喬斯林·麥克盧爾(Jocelyn Maclure)所說“人工智能算法是工具，不是被賦予精神生命能力的眾生。他們存在的唯一理由是讓我們的生活變得更好?！盵21]因此，鞏固人類的主體性，避免陷入自我失控境地的問題迫在眉睫。

事實上，技術(shù)總是與資本聯(lián)系在一起的，科技決定論通常以放棄人性為代價，一般而言，剩余價值無法從人工機(jī)器中擺脫出來，技術(shù)的進(jìn)步，不僅加速了資本的發(fā)展，同時也加強(qiáng)了人的不自由的程度，從而發(fā)展出“技術(shù)政治”，尤其是當(dāng)前存在意識形態(tài)隱性傳播的問題，“我們給算法灌輸種族主義、性別歧視和階級偏見，反過來它們又進(jìn)一步扭曲它們”。[22]此外，盡管資本家與科學(xué)家對實現(xiàn)機(jī)器意識十分向往，甚至許多學(xué)者認(rèn)為機(jī)器意識的實現(xiàn)利大于弊，[6]但相關(guān)學(xué)者同時也指出，在假設(shè)情況下能夠生產(chǎn)復(fù)制意識的話，可能會出現(xiàn)資本壟斷，以及加速人類不平等的情況。

此外，機(jī)器人傷人事件的頻繁發(fā)生，機(jī)器意識的研發(fā)引發(fā)責(zé)任追究問題。如2015年7月，在密歇根，維修技師旺達(dá)·霍爾布魯克的頭骨被壓碎，原因是Ventra Ionia工廠的機(jī)器人進(jìn)入了她所在的車間，并“將一個拖車附件裝配部件裝到了她的頭上。這個區(qū)域的房子通常被安全門隔開，但一個故障使機(jī)器人進(jìn)入了霍爾布魯克的區(qū)域，將她困在裝配部件上，當(dāng)場將她殺死”。相關(guān)學(xué)者認(rèn)為，“在威廉姆斯和霍爾布魯克的案例中，責(zé)任最終歸咎于存在缺陷的、人為設(shè)計的安全措施。”[18](P38-39)彼得·阿薩羅從倫理角度指出，“為了維護(hù)人類的道德、尊嚴(yán)、正義和法律，我們不能接受一個自動系統(tǒng)做出奪取人類生命的決定?！盵23]

因此，為了警惕人類自由意志的喪失，在研發(fā)機(jī)器意識的同時，需要充分關(guān)注相應(yīng)的倫理問題，使人工智能的發(fā)展處于可控制狀態(tài)，并促使技術(shù)民主化，以確保人類的主體性。

四、應(yīng)對機(jī)器意識問題的策略

為確保人類生存和精神的獨立性、主體性地位以及維護(hù)人類的合法權(quán)益，本文從以下三個角度考慮，以促進(jìn)機(jī)器意識研究的良性發(fā)展，分別為宏觀層面和微觀層面，其中微觀層面涉及對開發(fā)過程和使用過程的合理引導(dǎo)。

(一)立法監(jiān)管

劉憲權(quán)認(rèn)為，盡管目前弱人工智能的發(fā)展程度不足以威脅人類社會，但按照深度學(xué)習(xí)等神經(jīng)網(wǎng)絡(luò)的這種發(fā)展勢頭有可能導(dǎo)致強(qiáng)人工智能的實現(xiàn)，因此需要提前立法防范。[24]王楠也從倫理道德角度認(rèn)為，需要聯(lián)合各宏觀層面的權(quán)力機(jī)構(gòu)對其編程和程序進(jìn)行審查，以規(guī)范其對社會的影響。[25]尤其是針對刑事犯罪問題，機(jī)器意識的有無，機(jī)器人的決策結(jié)果是否人為授意往往決定誰成為責(zé)任追究的對象。因此，健全的責(zé)任追究機(jī)制亟需得到建立和完善，以促進(jìn)技術(shù)民主化。正如博斯特羅姆和斯圖爾特羅素所認(rèn)為的那樣，人工智能的發(fā)展應(yīng)優(yōu)先考慮“控制”或“價值對齊”問題。[26]而法律能夠為此提供外部保障。

(二)技術(shù)人員提前檢測及自我約束

技術(shù)人員的責(zé)任主要分為兩類，規(guī)范自己以及監(jiān)督他人。應(yīng)避免技術(shù)濫用帶來的危險，因此，要確保技術(shù)人員擁有良好的職業(yè)操守，充分地向機(jī)器注入先驗的利他知識，以避免技術(shù)人員將具有敵意的函數(shù)賦予計算機(jī)，同時做好提前檢測，避免在軟件和硬件投入使用時產(chǎn)生負(fù)面影響。例如，檢測其算法目標(biāo)是否與人類目標(biāo)相一致，是否被賦予了正確的價值觀等，以確保意識形態(tài)安全問題。

(三)用戶保持警惕及參與監(jiān)督

用戶作為計算機(jī)的使用者以及人工智能的受益者，應(yīng)確保自身的主體性地位不受侵犯，同時要認(rèn)清機(jī)器意識的本質(zhì)以及其背后的資本邏輯，避免陷入異化狀態(tài)以及受到負(fù)面的隱性價值觀的影響，并主動參與監(jiān)督，及時反饋，將宏觀層面的監(jiān)管與微觀層面的監(jiān)督相結(jié)合，共同應(yīng)對機(jī)器意識研發(fā)過程中出現(xiàn)的問題。

五、結(jié)語

盡管關(guān)于機(jī)器意識的研究目前出現(xiàn)了眾多可喜的成果，但根據(jù)機(jī)器意識的研究現(xiàn)狀來看，限于人工智能本身的局限性，其目前并不具備意識實現(xiàn)的可能，因此需要一種合理的路徑來調(diào)和工程上對意識功能主義的理解以及哲學(xué)上對意識的形而上學(xué)的理解，其中馬克思主義認(rèn)識論中的實踐觀或許能夠為此提供一個啟示路徑，但同時，仍需要結(jié)合其他理論，以更全面地看待意識問題。