楊慶峰

(復(fù)旦大學(xué) 生命醫(yī)學(xué)倫理研究中心，上海 200444)

一、技術(shù)想象的兩種形式

對(duì)想象與技術(shù)關(guān)系的探討既有助于理解技術(shù)的發(fā)展，又有助于理解技術(shù)文化。一方面，人類的想象與幻想是技術(shù)發(fā)生和發(fā)展的推動(dòng)力。傳統(tǒng)觀點(diǎn)將需求看作是技術(shù)的主要?jiǎng)恿?，而多少忽略其他非需求因素。也有學(xué)者將技術(shù)專家或者工程師的想象力看得無(wú)比重要，認(rèn)為正是這些人的奇思妙想才有了各種各樣的技術(shù)專利和技術(shù)器物。這些人中，最為典型的就是達(dá)芬奇。一般人很容易接受這種傳統(tǒng)觀點(diǎn)，但是這種觀點(diǎn)被美國(guó)技術(shù)史學(xué)者喬治·巴薩拉(George Basalla)批判。在他看來(lái)，這種觀點(diǎn)有明顯的個(gè)人英雄主義的特征。據(jù)此，他提出非專家的想象也對(duì)技術(shù)的發(fā)生和發(fā)展起到了很重要作用的觀點(diǎn)，比如科幻小說(shuō)家、科幻卡通家。這一點(diǎn)在技術(shù)史上是有一定的根據(jù)的。在智能時(shí)代，曾經(jīng)出現(xiàn)在科幻作品中的用具，比如虛擬鍵盤、全息投影人等逐漸變?yōu)楝F(xiàn)實(shí)產(chǎn)品。另一方面，人類不恰當(dāng)?shù)南胂笥肿璧K了技術(shù)的發(fā)展。比如對(duì)人工智能的合理想象導(dǎo)致了未來(lái)美好生活的樣式，然而這種過(guò)度化想象卻會(huì)導(dǎo)致反面的東西，比如機(jī)器人超越和取代人類。隨著新技術(shù)的層出不窮，新的想象內(nèi)容應(yīng)運(yùn)而生。這種想象實(shí)際上已經(jīng)涉及大眾層面了。然而，新技術(shù)是否產(chǎn)生新的想象形式會(huì)變成疑難問(wèn)題。如果說(shuō)想象意味著一種勾勒未知或者未來(lái)對(duì)象的圖像，那么智能技術(shù)催生了新的想象形式又變得可能了。諸如GAN等呈現(xiàn)出各式圖像以及GPT-3等出現(xiàn)足以驗(yàn)證這一點(diǎn)。本文要?jiǎng)澐謨煞N技術(shù)想象形式：合理的想象與過(guò)度的想象。

合理的技術(shù)想象是指以狂迷形式表現(xiàn)出來(lái)的技術(shù)之愛(ài)符合必要的技術(shù)邏輯。必要的技術(shù)邏輯是指與技術(shù)的現(xiàn)狀、發(fā)展以及應(yīng)用有關(guān)的特定規(guī)律。尼古拉·尼葛洛龐帝(Nicholas Negroponte)的技術(shù)想象就屬于這一類。20世紀(jì)90年代他本人是MIT的媒體實(shí)驗(yàn)室的負(fù)責(zé)人，他對(duì)處于實(shí)驗(yàn)室階段的互聯(lián)網(wǎng)技術(shù)做出了暢想，并且勾勒出一幅“數(shù)字化生存”的未來(lái)圖景。所以，他的技術(shù)想象是建立在尚處于不成熟階段的技術(shù)發(fā)明之上的，技術(shù)發(fā)展及應(yīng)用遵循著特定的社會(huì)規(guī)律。在合理的想象中，通常會(huì)將想象主體看作是技術(shù)專家或者熱衷于技術(shù)研發(fā)的人。在這種形式中，有著深藏的以狂迷的形式出現(xiàn)的對(duì)技術(shù)之愛(ài)。如柏拉圖所說(shuō)，狂迷是諸神的饋贈(zèng)，是上蒼給人的最高恩賜。所以愛(ài)技術(shù)者對(duì)于成熟的、現(xiàn)成的技術(shù)并不感興趣，因?yàn)檫@種技術(shù)已經(jīng)喪失了吸引力，狂迷趨于平淡。但是這并不意味著合理化想象的主體是技術(shù)專家或者工程師，社會(huì)大眾對(duì)不成熟的技術(shù)抱有適當(dāng)?shù)念A(yù)期也屬于此類。比如借助人臉識(shí)別技術(shù)有可能有效地避免犯罪現(xiàn)象即屬于上述預(yù)期，這種技術(shù)是建立在合理的技術(shù)理解基礎(chǔ)之上的，對(duì)其應(yīng)用抱有了一定的預(yù)期和憧憬。但如果總體上受制于理性認(rèn)識(shí)，比如警惕科學(xué)主義或者技術(shù)專治(technocracy)，或者以人類價(jià)值、自由和尊嚴(yán)的守護(hù)為出發(fā)點(diǎn)，那么這依然屬于合理的想象化。合理的技術(shù)想象有助于技術(shù)的發(fā)展，成為技術(shù)發(fā)展的想象動(dòng)力。

過(guò)度的技術(shù)想象是指基于人類自身的想象行為對(duì)于特定技術(shù)和文化對(duì)象的“胡思亂想”，這種想象產(chǎn)生了一種超出理性的結(jié)果，比如神話化某物。過(guò)度的技術(shù)想象既可以使用于不成熟的技術(shù)，也可以用于完全成熟的技術(shù)。上面的分析中已經(jīng)指出，愛(ài)技術(shù)之人對(duì)于處于萌芽、不成熟階段的技術(shù)利用狂迷之想象力可以勾勒出技術(shù)成熟時(shí)期的生活樣態(tài)。然而，大眾也會(huì)產(chǎn)生一種技術(shù)想象，這就是從人與技術(shù)對(duì)立的角度勾勒出一種未來(lái)的圖景。這種形式多出現(xiàn)在生活世界之中。對(duì)于不成熟的技術(shù)而言，大眾會(huì)產(chǎn)生一種奇特的社會(huì)心理，就是從完善的未來(lái)技術(shù)形式出發(fā)來(lái)進(jìn)行想象。盡管技術(shù)是欠缺的，但是這種想象化依然有效。當(dāng)前的人工智能想象就是這樣一種情況，即突出了對(duì)人的自主性、尊嚴(yán)等的侵犯和威脅。盡管目前的人工智能只是處于弱人工智能階段，但是相關(guān)的想象性觀點(diǎn)已經(jīng)非常多了。在很多非人工智能專家群體中，出現(xiàn)了烏托邦式和敵托邦式的觀點(diǎn)，如超級(jí)智能爆炸(波斯徹姆)、超級(jí)人工智能體出現(xiàn)等。對(duì)于成熟的技術(shù)而言，過(guò)度想象會(huì)伴隨著某種社會(huì)價(jià)值觀表達(dá)出來(lái)。比如20世紀(jì)初西方電報(bào)傳入中國(guó)后，當(dāng)時(shí)中國(guó)科技落后，人們對(duì)于超前的科技產(chǎn)品缺乏足夠的認(rèn)識(shí)，所以認(rèn)為電報(bào)會(huì)帶來(lái)不好的結(jié)果。此外與成熟的技術(shù)相關(guān)的，就是技術(shù)產(chǎn)品的繁多化。巴薩拉曾經(jīng)談及過(guò)一個(gè)觀點(diǎn)，即“技術(shù)的魔魅化”?！凹夹g(shù)的魔魅化在我們的文化中滲透得如此之深，以至于可以用它來(lái)譏諷它產(chǎn)生的背景——技術(shù)富余現(xiàn)象?！盵1]83他所說(shuō)的“魔魅化”主要是一種技術(shù)主義的表現(xiàn)，即技術(shù)可以解決所有的問(wèn)題，這也是過(guò)度的想象化。過(guò)度的想象化被一些媒介學(xué)者如文森特·莫斯可(Vincent Mosco)稱為技術(shù)迷思，也就是技術(shù)神話。當(dāng)技術(shù)被想象為能夠解決所有問(wèn)題的時(shí)候，就是技術(shù)神話出現(xiàn)的時(shí)候。所以，過(guò)度想象化的一個(gè)基本結(jié)果就是技術(shù)的神話化。

在澄清兩類技術(shù)想象之后，接下來(lái)可以展開對(duì)人工智能這一特殊技術(shù)形式的分析了。盡管AI概念從提出到現(xiàn)在不到70年的時(shí)間，但是這一技術(shù)現(xiàn)象卻如同海底沉沒(méi)多年的艦船，形成了陳年鐵銹與各種生態(tài)系統(tǒng)。過(guò)度的技術(shù)想象已經(jīng)使得人工智能技術(shù)文化出現(xiàn)了將AI神話化的跡象了。國(guó)內(nèi)也有學(xué)者開始關(guān)注到AI神話化的現(xiàn)象了。“由人工智能所產(chǎn)生的一套話語(yǔ)體系，在這一意義上成為現(xiàn)代人再造的一個(gè)新的神話，它一方面表達(dá)了人對(duì)于技術(shù)無(wú)限進(jìn)步的質(zhì)疑和恐懼，一方面又借助于對(duì)它的批判來(lái)捍衛(wèi)人之為人的固有尊嚴(yán)?！盵2]技術(shù)神話化包括兩個(gè)方面的來(lái)源：一種是作為其推動(dòng)力的科學(xué)技術(shù)領(lǐng)域，這一技術(shù)領(lǐng)域的突破為AI發(fā)展提供了理論與創(chuàng)新動(dòng)力；另一種是作為其文化語(yǔ)境而存在的各種文化形式，這些文化形式為AI發(fā)展提供了滋養(yǎng)或干擾因素。舉兩個(gè)現(xiàn)象就可以看出這一點(diǎn)來(lái)，一個(gè)是一般智能體取代人類，另一個(gè)是超級(jí)智能的出現(xiàn)。這兩個(gè)例子催生了AI的神話化，這些想象物因?yàn)槠錈o(wú)限擴(kuò)大的后果而引發(fā)了一些猜測(cè)和恐懼。這些不同的(如理性的、科學(xué)的等)技術(shù)神話來(lái)源都在很大程度上強(qiáng)化了人工智能的神話化。如何面對(duì)這一問(wèn)題？厘清有關(guān)人工智能的想象化現(xiàn)象及其根據(jù)就成為一個(gè)重要的任務(wù)。

二、人工智能想象化的科學(xué)根據(jù)

目前人工智能的范式主要是強(qiáng)、弱人工智能，這一范式英國(guó)哲學(xué)家弗洛里迪(L.Floridi)傾向用“輕(light)人工智能”和“強(qiáng)(strong)人工智能”這樣的表述。他也指出了多種說(shuō)法，如弱人工智能/強(qiáng)人工智能、好的老式人工智能/新的新式人工智能等。在他看來(lái)，這關(guān)系人工智能背后的兩個(gè)靈魂——工程學(xué)和認(rèn)知學(xué)的爭(zhēng)議，我們把它稱為“人工智能領(lǐng)域技術(shù)層面的強(qiáng)弱之爭(zhēng)”。強(qiáng)、弱AI具有不同的科學(xué)基礎(chǔ)。今天的弱AI主要是針對(duì)輔助和智能進(jìn)化的低級(jí)程度而言的，用現(xiàn)象學(xué)的術(shù)語(yǔ)來(lái)說(shuō)，屬于“被動(dòng)智能階段”；而強(qiáng)人工智能更多是針對(duì)基于特定算法而生的智能體以及通用智能(AGI)而言的。就通用智能來(lái)說(shuō)，它也構(gòu)成了科學(xué)與哲學(xué)在人工智能的爭(zhēng)論認(rèn)識(shí)上的另一焦點(diǎn)。這一爭(zhēng)論的實(shí)質(zhì)在于AI是否能夠具有通用意識(shí)。在以往的研究中，我們也指出過(guò)目前通用人工智能研究遭遇到的一些困境，比如災(zāi)難性遺忘。這一困境已經(jīng)有了應(yīng)對(duì)之策。

在超級(jí)人工智能研究上，許多關(guān)鍵性突破逐漸為人類取得。首先是從無(wú)到有生成的智能體正在出現(xiàn)。DeepMind正在提出用環(huán)境促進(jìn)智能生物體的出現(xiàn)。[3]在該系統(tǒng)中，只有環(huán)境，而沒(méi)有智能體。其次是AI智能體可以學(xué)會(huì)動(dòng)物進(jìn)化法則完成自身的進(jìn)化。李飛飛等提出深度進(jìn)化的RL，他們提出了一種新的計(jì)算框架——深度進(jìn)化強(qiáng)化學(xué)習(xí)(DERL)，基于這一框架創(chuàng)建的具身智能體可以在多個(gè)復(fù)雜環(huán)境中執(zhí)行多項(xiàng)任務(wù)?！霸撗芯坎粌H提出了新型計(jì)算框架深度進(jìn)化強(qiáng)化學(xué)習(xí)，并通過(guò)形態(tài)學(xué)習(xí)首次證明了達(dá)爾文-鮑德溫效應(yīng)。形態(tài)學(xué)習(xí)是自然界動(dòng)物進(jìn)化必不可少的技能，現(xiàn)已在我們創(chuàng)建的智能體中展現(xiàn)?！盵4]再次，悄然生成的智能體已成為可能。2021年一篇由曼努爾·阿勒夫色卡(Manuel Alfonseca)等人發(fā)表的論文指出了這一點(diǎn)。文章指出，由于計(jì)算本身固有的限制，人類可能無(wú)法制止超級(jí)人工智能。這一文章指出，超級(jí)人工智能的生成可能不為人們所察覺(jué)；此外，當(dāng)它生成之后，我們就無(wú)法制止其發(fā)展和形成了。[5]關(guān)于超級(jí)智能體的發(fā)展不能不引起人們的警惕。如果說(shuō)傳統(tǒng)人工智能都是建立在無(wú)機(jī)智能體的基礎(chǔ)上，那么當(dāng)前已經(jīng)出現(xiàn)了將有機(jī)智能體作為AI基質(zhì)的跡象。2021年，一篇發(fā)表在ICLR會(huì)議上的論文顯示：研究者們黑進(jìn)了果蠅的神經(jīng)網(wǎng)絡(luò)，用來(lái)跑NLP，結(jié)果發(fā)現(xiàn)非常節(jié)約能耗。這一項(xiàng)研究意味著入侵其他生物體大腦的可能性。[6]果蠅的腦蘑菇體神經(jīng)網(wǎng)絡(luò)主要是嗅覺(jué)，能夠感知溫度、濕度和視覺(jué)的神經(jīng)元輸入，由一群Kenyon細(xì)胞構(gòu)成。研究結(jié)果顯示，“訓(xùn)練果蠅網(wǎng)絡(luò)需要的計(jì)算時(shí)間比訓(xùn)練傳統(tǒng)的NLP架構(gòu)需要的計(jì)算時(shí)間要少一個(gè)數(shù)量級(jí)”[6]。這進(jìn)一步說(shuō)明了智能體與有機(jī)體的有限融合。

在人機(jī)關(guān)系上，人工共情突破的曙光似乎也在眼前。2018年，神經(jīng)科學(xué)專家蒲慕明提出一個(gè)問(wèn)題：神經(jīng)科學(xué)應(yīng)當(dāng)向共情(empathy)這一關(guān)鍵哲學(xué)問(wèn)題進(jìn)軍，并揭示出其神經(jīng)機(jī)制。當(dāng)前這一問(wèn)題基本得到了解決，科學(xué)家已經(jīng)揭示出共情行為的神經(jīng)環(huán)路。斯坦福大學(xué)神經(jīng)科學(xué)和行為學(xué)系羅伯特·瑪萊卡(Robert C.Malenka)研究團(tuán)隊(duì)揭示了共情行為的神經(jīng)機(jī)制,在社交過(guò)程中小鼠通過(guò)不同的神經(jīng)環(huán)路傳遞疼痛或恐懼情緒。在人類和嚙齒類動(dòng)物中控制共情行為最重要的腦區(qū)當(dāng)屬前扣帶皮層(ACC)，該腦區(qū)與調(diào)節(jié)情緒和動(dòng)機(jī)行為的丘腦、島葉、杏仁核和伏隔核(NAc)等多個(gè)大腦區(qū)域之間存在投射連接，進(jìn)行信息交流，其中ACC-BLA環(huán)路編碼恐懼信息的共情行為和ACC-NAc的神經(jīng)環(huán)路編碼疼痛和鎮(zhèn)痛的共情行為分工細(xì)致，各司其職。[7]這些科學(xué)上的進(jìn)步——來(lái)自計(jì)算理論以及神經(jīng)科學(xué)能夠?yàn)槿斯ぶ悄艿难芯刻峁﹫?jiān)實(shí)的科學(xué)根據(jù)。

以人工智能的GPT-3為例來(lái)看，這項(xiàng)算法的表現(xiàn)引起了世界的關(guān)注。2018年GPT第一版發(fā)布，包括了1.17億個(gè)參數(shù)；2019年第二版發(fā)布，包括了15億個(gè)參數(shù)；之后GPT-3擁有1 750億個(gè)參數(shù)。其主要特點(diǎn)是訓(xùn)練數(shù)據(jù)集異常龐大，可以根據(jù)我們輸入的自然語(yǔ)言去完成任務(wù)，尤其是經(jīng)過(guò)特定的訓(xùn)練從文本描述中生成圖像。在圖像生成方面，GAN與GPT-3可以做得很好了，可以說(shuō)是通過(guò)了圖像的圖靈測(cè)試。上述科學(xué)的進(jìn)展可以讓很多人獲得信心：AI發(fā)展已經(jīng)展示出獨(dú)特性，目前智能體已經(jīng)能夠很熟練地使用自然語(yǔ)言，生成場(chǎng)景或者對(duì)應(yīng)圖像；智能體可以通過(guò)特定的環(huán)境生成，能夠?qū)W會(huì)動(dòng)物進(jìn)化。這些技術(shù)上的突破與發(fā)展為人工智能的想象化提供了科學(xué)的根據(jù)。

三、人工智能過(guò)度想象的理性根據(jù)

如果說(shuō)過(guò)度的技術(shù)想象的結(jié)果是將某物神話化，那么討論人工智能的想象化與去想象化不能不關(guān)聯(lián)20世紀(jì)初的馬克斯·韋伯和恩斯特·卡西爾。前者抓住了科學(xué)理性祛魅宗教價(jià)值的社會(huì)現(xiàn)象，后者則闡述了文化理性揚(yáng)棄神話思維的本質(zhì)。

韋伯討論了宗教價(jià)值觀念在理性化的名義下被世俗化之物取代的問(wèn)題；尤其指出，現(xiàn)代科學(xué)在宗教非理性化過(guò)程中起到了重要的作用。這個(gè)現(xiàn)象在“附魅與祛魅”的辯證范疇中加以探討?！艾F(xiàn)代科學(xué)，要為后一個(gè)階段的發(fā)展負(fù)責(zé)，起初是被作為一個(gè)有序的價(jià)值創(chuàng)造替代系統(tǒng)所歡迎，因?yàn)轫f伯在培根的‘科學(xué)作為通達(dá)真實(shí)自然之路’和笛卡爾的‘科學(xué)作為通達(dá)真實(shí)上帝之路’信念發(fā)現(xiàn)了這些?！盵8]韋伯因此也將現(xiàn)代科學(xué)看作是虛無(wú)主義的一個(gè)代表。從韋伯的觀念中我們看到的是科學(xué)對(duì)于世界觀和宇宙秩序產(chǎn)生的祛魅化結(jié)果，這種祛魅的實(shí)質(zhì)是對(duì)宗教價(jià)值理念及價(jià)值秩序的摒棄。這種強(qiáng)調(diào)后果的祛魅分析呈現(xiàn)了科學(xué)如何神話化自身的一個(gè)問(wèn)題。究其實(shí)質(zhì)而言，從技術(shù)想象角度來(lái)說(shuō)，這構(gòu)成了過(guò)度的技術(shù)想象的理性根據(jù)。然而，這還不足以深入理性層面。

要深入神話思維的本質(zhì)那就得依靠卡西爾。他的工作貢獻(xiàn)有三個(gè)方面。第一是分析了神話思維的本質(zhì)。他對(duì)神話思維本質(zhì)的界定主要體現(xiàn)在形式論上，即神話作為思維形式、直觀形式和生活形式的觀點(diǎn)。第二是揭示出文化世界源出神話世界的邏輯過(guò)程。神話對(duì)于卡西爾來(lái)說(shuō)是文化的源頭，這是從先天意義上表現(xiàn)出來(lái)的。他向我們揭示了概念思維的本質(zhì)——符號(hào)與內(nèi)容、意義與內(nèi)容的分離——如何從神話思維中發(fā)展起來(lái)。因此，卡西爾的貢獻(xiàn)是發(fā)生學(xué)意義上的，即從文化發(fā)生邏輯的角度揭示了文化世界的發(fā)生必須建立在對(duì)神話世界的揚(yáng)棄這樣一個(gè)基礎(chǔ)上?！叭祟愇幕澜缁蛟S可以用這種巴比倫傳奇的話來(lái)描述：直到戰(zhàn)勝和征服神話的黑暗，人類文化世界才能夠產(chǎn)生；但神話的魔怪尚未被完全清楚，它們被用來(lái)造成新的宇宙，而且它們?cè)谶@個(gè)新宇宙里存活了下來(lái)，神話的力量被優(yōu)秀的力量挫敗和征服了；只要這種優(yōu)秀的、理智的、倫理的和藝術(shù)的力量足以強(qiáng)壯，那么神話就會(huì)被控制和征服，但如果它一旦失去其力量，那么混亂就又來(lái)臨，神秘的思想又開始重新高漲，彌漫于整個(gè)人類的文化生活和社會(huì)生活?！盵9]297-298第三是分析了神話在現(xiàn)代性中的復(fù)活，也就是現(xiàn)代政治神話的現(xiàn)象。他在《國(guó)家的神話》中首先分析了卡萊爾和黑格爾在現(xiàn)代政治神話起源中所具有的作用；之后確立了對(duì)現(xiàn)代政治神話的批判。“我們應(yīng)該仔細(xì)地研究政治神話的來(lái)源、結(jié)構(gòu)、方法和技巧。為了認(rèn)識(shí)對(duì)手、戰(zhàn)勝對(duì)手，我們必須面對(duì)面地觀察對(duì)手?！盵9]296卡西爾最大的貢獻(xiàn)在于開啟了對(duì)政治神話的批判，之所以如此，也是可以理解的，因?yàn)榭ㄎ鳡柦?jīng)歷了兩次世界大戰(zhàn)，他徹底體會(huì)到了現(xiàn)代性神話(如國(guó)家神話、戰(zhàn)爭(zhēng)神話等)的表現(xiàn)。盡管技術(shù)不是其關(guān)注的主題，但他對(duì)于我們理解技術(shù)神話化來(lái)說(shuō)的重要貢獻(xiàn)在于重新讓技術(shù)魔魅化。

可以看出，韋伯、卡西爾兩位學(xué)者從“祛魅”“揚(yáng)棄”角度闡述了科學(xué)與宗教神話的關(guān)系，最終使現(xiàn)代性神話(科學(xué)神話、政治神話等)得以確立。但是要作出“他們開始了對(duì)技術(shù)神話的剖析”的觀點(diǎn)還尚早。韋伯最多談到了“鐵籠”比喻，而卡西爾并不關(guān)心技術(shù)。從邏輯上看，技術(shù)神話的批判必然會(huì)在政治神話之后開啟。從20世紀(jì)的一段歷史可以看出，技術(shù)繼戰(zhàn)爭(zhēng)之后成為人類命運(yùn)的主導(dǎo)。在揭示這一點(diǎn)上，媒介學(xué)者走在了前面。文森特·莫斯可(Vincent Mosco)的《數(shù)字化崇拜》對(duì)數(shù)字神話現(xiàn)象進(jìn)行了理論上的反思。他指出數(shù)字技術(shù)帶來(lái)了包括歷史終結(jié)、地理終結(jié)和政治終結(jié)的三種神話?！暗拇_，賽博空間在我們時(shí)代的三種神話發(fā)展中是一個(gè)核心動(dòng)力，這些神話都與一種終結(jié)的景象有關(guān)：歷史的終結(jié)、地理的終結(jié)以及政治的終結(jié)。本書的目的就是要理解這些，以增進(jìn)對(duì)電腦傳播的權(quán)利和局限的認(rèn)識(shí)?！盵10]12作者指出，神話是一種對(duì)現(xiàn)實(shí)的歪曲，它賦予那些完全無(wú)法駕馭的問(wèn)題并在想象或夢(mèng)境中無(wú)法成為現(xiàn)實(shí)的事物以生活意義。

在上述分析中我們將對(duì)象神話化的方式歸納為三種不同類型：與價(jià)值祛魅有關(guān)的神秘化、被揚(yáng)棄的神話思維和神化的崇拜行為。在人工智能神話化問(wèn)題上，一些學(xué)者指出，這是對(duì)人工智能賦予了想象性內(nèi)涵，將人工智能的功能特征看作是人之屬性的復(fù)制。“但在對(duì)人工智能的反思和批判中，我們似乎過(guò)多地為這一技術(shù)賦予了想象性內(nèi)涵，將這一技術(shù)進(jìn)步所完成的‘深度學(xué)習(xí)’當(dāng)作對(duì)人之獨(dú)特屬性的復(fù)制?！盵2]除了上述維度外，我們還可以挖掘出更多維度。(1)AI終結(jié)人類。這種終結(jié)具有三種意義：其一是進(jìn)化意義上的終結(jié)，人類進(jìn)化已經(jīng)表現(xiàn)為技術(shù)的進(jìn)化上，而機(jī)器進(jìn)化成為這種進(jìn)化的關(guān)鍵形式，機(jī)器進(jìn)化使得人類自身變得退化；其二是取代意義上的終結(jié)，在很多情況中，機(jī)器取代人類已經(jīng)變得很普遍，自動(dòng)貨車、無(wú)人飛機(jī)等都是如此；其三是超越意義上的終結(jié)，當(dāng)奇點(diǎn)與圖靈測(cè)試被突破，就會(huì)實(shí)現(xiàn)這個(gè)意義上的終結(jié)，目前人工智能通過(guò)圖靈測(cè)試從視覺(jué)上已經(jīng)變?yōu)楝F(xiàn)實(shí)，其他感知的突破會(huì)相繼實(shí)現(xiàn)。(2)AI史源論的構(gòu)建。所謂史源論的構(gòu)建是指對(duì)人工智能史的神話構(gòu)建?！笆吩凑摰囊粋€(gè)特征是，把神話材料吸收到以歷史之物作為媒介的思辨中去。神話中的各種故事首次被轉(zhuǎn)化為歷史中的各種事實(shí)，諸神首次被轉(zhuǎn)化為歷史人物，就是通過(guò)史源論。”[11]138現(xiàn)在人工智能的研究已經(jīng)出現(xiàn)了一種跡象，阿德里安娜·梅約(Adrienne Mayor)指出，第一個(gè)行走的機(jī)器人是被稱為Talos的青銅人。這部作品從神話中挖掘著人工智能機(jī)器的起源。(3)這種人工智能神話化還表現(xiàn)為祛魅意義上的神話，也就是祛除了人類中心主義倫理學(xué)的魔魅，正在催生“物的倫理學(xué)”，這種倫理學(xué)完全是對(duì)傳統(tǒng)倫理學(xué)的沖擊。在這一框架下，“機(jī)器人的偏見(jiàn)”“機(jī)器人的權(quán)利”等都成為一個(gè)個(gè)新的概念，很顯然將人類中心主義的倫理學(xué)之權(quán)威性給予顛覆。此外，對(duì)人工智能的崇拜已然產(chǎn)生，超級(jí)智能體似乎具有維持正義、絕對(duì)公平的能力。其中，對(duì)于人工智能的恐懼卻在現(xiàn)實(shí)中表現(xiàn)較少，更多是某些強(qiáng)調(diào)敵托邦效應(yīng)的科幻電影和小說(shuō)中呈現(xiàn)出來(lái)的形象。(4)人工智能作為掌控、籌劃人類社會(huì)未來(lái)的可能性。超級(jí)人工智能具有一種這樣的趨向，即隨著智能科學(xué)自身取得的諸多突破，超級(jí)智能體的發(fā)生不再是完全地空想，而是具有了一定的科學(xué)基礎(chǔ)。如此，這種結(jié)果既可以導(dǎo)致對(duì)人工智能的崇拜，也可以導(dǎo)致恐懼。甚至是出現(xiàn)了一種結(jié)果就是“人工智能作為現(xiàn)代人某種神話體系的再造，正在借用人們對(duì)它的過(guò)多想象重新詮釋著一個(gè)無(wú)法被人工智能所替代的人之本質(zhì)的規(guī)定”[2]。

四、加劇的疏離感：想象化的限度

在前面已經(jīng)指出，對(duì)AI的過(guò)度想象會(huì)造成AI的神話化結(jié)果，而要抑制這種結(jié)果就必須克服AI的過(guò)度想象，建立與AI的親密關(guān)系，形成一種人與世界的非對(duì)象性關(guān)系。一些哲學(xué)家指出，認(rèn)識(shí)、熟悉感與回憶構(gòu)成了生命充盈的力量。我們?cè)诹_素哲學(xué)中找到了類似的描述：“我們時(shí)常感到可感的環(huán)境中的某種事物是熟悉的……在我們以前時(shí)常去過(guò)的地方，比如家里或熟悉的街道，我們通常擁有這種感受?！盵12]145“絕大多數(shù)的人和動(dòng)物都發(fā)現(xiàn)，在周圍熟悉的環(huán)境中度過(guò)大量的時(shí)間對(duì)于他們的快樂(lè)來(lái)說(shuō)是必要的，并且當(dāng)可能發(fā)生任何危險(xiǎn)時(shí)，這種環(huán)境尤其令人感到安慰?！盵12]145還有伽達(dá)默爾提出：“生命有記憶，通過(guò)體驗(yàn)，生命變得更加豐富，通過(guò)從穿行于生命的循環(huán)過(guò)程它增長(zhǎng)了自身。……生命的原則以及其他思維和回憶的原則如何是一個(gè)以及某種方式上是不可分離的。”[13]80這意味著他們同時(shí)也構(gòu)成了生命體與其所處的環(huán)境的特定關(guān)聯(lián)形式。

然而，熟悉感這一生命充盈的力量卻變得枯竭起來(lái)。盡管我們生活在一個(gè)充滿人工智能體的世界，如產(chǎn)業(yè)領(lǐng)域的機(jī)器人、商業(yè)領(lǐng)域的算法技術(shù)、消費(fèi)領(lǐng)域中的智能攝像頭以及生活領(lǐng)域中的各類可穿戴的智能手表、健康監(jiān)測(cè)器等。但這一切并沒(méi)有形成海德格爾所說(shuō)的“人在對(duì)象之中”的生存論關(guān)系，反而是技術(shù)促逼本性的顯現(xiàn)。數(shù)字對(duì)象、算法對(duì)象以及智能對(duì)象的陌生本質(zhì)依然存在著，人類與AI之間不斷強(qiáng)化的疏離感正在削弱人類與智能環(huán)境的熟悉和親密關(guān)系。這一點(diǎn)一時(shí)難以被接受。因?yàn)槲覀円呀?jīng)生活在上述技術(shù)物品的包圍之中，甚至從哲學(xué)的角度來(lái)說(shuō)，我們已然生活在技術(shù)時(shí)代，然而并沒(méi)有形成與技術(shù)的親密關(guān)系，反而一種疏離感顯現(xiàn)出來(lái)。

首先是由于技術(shù)缺陷使得AI疏離感得以產(chǎn)生。由于智能機(jī)器外形缺陷而產(chǎn)生的陌生-疏離感是技術(shù)缺陷導(dǎo)致的AI疏離感。我們都知道人工智能體有多重存在形態(tài)，這些智能體可以是純軟件，如語(yǔ)音助手、圖像分析軟件、搜索引擎、語(yǔ)音和人臉識(shí)別系統(tǒng)等，也可以是各種嵌入硬件設(shè)備，如先進(jìn)機(jī)器人、自動(dòng)駕駛汽車、無(wú)人機(jī)或物聯(lián)網(wǎng)應(yīng)用等。如果僅僅從功能實(shí)現(xiàn)的角度考慮，這些智能體完全不需要具備人類一樣的外形，通過(guò)類人方式來(lái)獲得對(duì)AI的親近感。它應(yīng)該通過(guò)實(shí)質(zhì)性的方式實(shí)現(xiàn)類人，比如像人一樣理解和表達(dá)情感、像人一樣思考和行動(dòng)?？屏_拉多大學(xué)和杜克大學(xué)的研究人員開發(fā)了一種神經(jīng)網(wǎng)絡(luò)模型EmoNet，該模型能夠準(zhǔn)確地將圖像與11種不同的情緒類別進(jìn)行配對(duì)。對(duì)于這種方式我們也會(huì)提出一定的質(zhì)疑，即便機(jī)器能夠像人一樣思考、行動(dòng)和理解表達(dá)情感，那么它是符合人類主導(dǎo)-機(jī)器輔助的原則的，但是自身的獨(dú)立地位依然難以確認(rèn)。對(duì)于這一點(diǎn)，神經(jīng)科學(xué)界關(guān)于動(dòng)物共情的研究已經(jīng)揭示出恐懼和疼痛傳遞的神經(jīng)機(jī)制，研制出具有共情的AI必然會(huì)成為下一步的目標(biāo)。如果外形類人，那么往往會(huì)消除特定的陌生感，功能的類人也會(huì)推動(dòng)這種陌生感的消除。然而，恐惑谷效應(yīng)卻不可避免地存在。

其次是由于科學(xué)理性要求對(duì)人工智能從計(jì)算理性加以規(guī)定直接導(dǎo)致了人類情感上的疏離。目前隨著AI深度學(xué)習(xí)層級(jí)的增加，深度學(xué)習(xí)算法變得不可解釋已經(jīng)成為公認(rèn)的事實(shí)，不可解釋的AI,深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、生產(chǎn)性對(duì)抗網(wǎng)絡(luò)(GAN)，AI虛擬人臉合成系統(tǒng)，這些不可解釋的算法應(yīng)用讓我們產(chǎn)生了疏離和擔(dān)憂。我們看著逐步變換的臉龐，卻無(wú)從把握住“它是誰(shuí)”這樣的問(wèn)題。某一時(shí)刻，GAN生成了與“我”類似的臉龐，通過(guò)了人臉識(shí)別裝置，機(jī)器將其判定是“我”在操作。這種結(jié)果是直接導(dǎo)致了人類情感上的疏離，技術(shù)是一種無(wú)從琢磨的東西。

第三是充滿反面技術(shù)形象的技術(shù)文化使得人類產(chǎn)生了恐懼和畏懼的社會(huì)心靈。技術(shù)文化源自與科幻小說(shuō)和電影有關(guān)的文化形式。我們都知道，科幻電影塑造了大量的邪性機(jī)器人形象，讓人們對(duì)其產(chǎn)生了恐懼和疏離認(rèn)知，如《終結(jié)者》中的T-800、《超能陸戰(zhàn)隊(duì)》里面的磁力機(jī)器人。這些科幻電影多少源自技術(shù)想象的結(jié)果，通過(guò)媒介制造了一種關(guān)于人與機(jī)器對(duì)抗的敵托邦場(chǎng)景。準(zhǔn)確地說(shuō)，他們塑造了反面的技術(shù)形象，這也使得人與機(jī)器之間的疏離感的產(chǎn)生變得必然。

如果說(shuō)，人工智能與人類的疏離感不斷加劇，那么這必然會(huì)導(dǎo)致一種對(duì)象化的產(chǎn)生，也必然會(huì)導(dǎo)致一種人工智能神話的出現(xiàn)。尤其是當(dāng)人類的自由想象與智能科學(xué)的突破偶然地吻合在一起，后者對(duì)前者提供了足夠堅(jiān)實(shí)的質(zhì)料，那么這種神話化的發(fā)生變得不可避免。

五、尋找熟悉感：去想象化的哲學(xué)之路

建立AI與人類熟悉感的外在路徑還是可以找尋到的：完備技術(shù)讓人更加相像、可解釋的算法以及正面的技術(shù)文化的建立。那么內(nèi)在路徑的情況如何呢？共情可以成為一條可選擇的道路。隨著人工共情研究的深入以及神經(jīng)科學(xué)研究的突破，這一路徑獲得了更為扎實(shí)的基礎(chǔ)。然而，這一條路卻存在著三個(gè)制約。(1)作為哲學(xué)問(wèn)題，共情很晚才進(jìn)入哲學(xué)的視野中，成為哲學(xué)研究的對(duì)象。在哲學(xué)史上，這一概念與同情(sympathy)具有同源詞根，其內(nèi)在關(guān)聯(lián)也是一個(gè)有待于澄清的難題；胡塞爾的學(xué)生埃迪·施泰因(Edith Stein)是第一個(gè)專門研究這一問(wèn)題的現(xiàn)象學(xué)家。從總體來(lái)看，這一問(wèn)題的哲學(xué)分析遠(yuǎn)遠(yuǎn)不夠，尚不成熟。(2)作為科學(xué)問(wèn)題，共情的神經(jīng)機(jī)制突破是針對(duì)疼痛和恐懼的傳遞?？梢哉f(shuō)，從恐懼入手抓住了問(wèn)題的關(guān)鍵。在黑格爾那里，恐懼是自我意識(shí)誕生的源頭，而機(jī)器恐懼是機(jī)器自我意識(shí)發(fā)生的關(guān)鍵所在。除了算法限制讓我們無(wú)法察覺(jué)機(jī)器自我意識(shí)的發(fā)生之外，我們無(wú)法洞察到機(jī)器恐懼的內(nèi)核，這是我們更加無(wú)法觸摸到機(jī)器自我意識(shí)誕生的關(guān)鍵所在。然而，疼痛卻并不重要，這畢竟屬于肉體層面的現(xiàn)象。(3)作為技術(shù)問(wèn)題，人工共情的實(shí)現(xiàn)基礎(chǔ)將是實(shí)體論的。在共情的技術(shù)實(shí)現(xiàn)上，通常的做法是讓與共情有關(guān)的神經(jīng)回路通過(guò)深度學(xué)習(xí)算法加以實(shí)現(xiàn)。這與情感算法的實(shí)現(xiàn)有著一致之處。這樣做存在的一個(gè)最大問(wèn)題是忽視了情感與共情的根本差異。對(duì)于情感來(lái)說(shuō)，把它看作是某一特定實(shí)體的屬性具有哲學(xué)上的根據(jù)，而共情很顯然并非這樣的東西，它是不同主體之間的一種關(guān)聯(lián)。要技術(shù)實(shí)現(xiàn)這一點(diǎn)首先面臨著一個(gè)不可回避的悖論，所以這一條通路有著明顯的局限。

要構(gòu)建親密智能體還需依托人工智能的定義。“人工智能通常指的是能夠感知周圍環(huán)境并采取行動(dòng)以實(shí)現(xiàn)最優(yōu)可能結(jié)果的智能體。”[14]14這個(gè)定義中呈現(xiàn)出一個(gè)關(guān)聯(lián)性概念，也就是說(shuō)人與情景環(huán)境之間的一種關(guān)系確立，但是從現(xiàn)象學(xué)上來(lái)說(shuō)，這種關(guān)系是抽象的，需要加以充實(shí)。充實(shí)可以通過(guò)兩種方式來(lái)實(shí)現(xiàn)。一種是經(jīng)驗(yàn)學(xué)習(xí)的關(guān)系，也就是感知維度的挖掘。智能體能夠“從經(jīng)驗(yàn)中學(xué)習(xí)”，數(shù)據(jù)式經(jīng)驗(yàn)的獲得成為熟悉感和認(rèn)識(shí)的來(lái)源。這種機(jī)器學(xué)習(xí)獲得的經(jīng)驗(yàn)是一種新的經(jīng)驗(yàn)形式，從理解的角度看，需要納入人類新經(jīng)驗(yàn)形式之中。①(1)①參見(jiàn)拙作《作為人類新經(jīng)驗(yàn)形式的“數(shù)據(jù)—經(jīng)驗(yàn)”》，《南京大學(xué)學(xué)報(bào)》2020年第1期。機(jī)器經(jīng)驗(yàn)是一種全新的經(jīng)驗(yàn)形式，需要納入到人類經(jīng)驗(yàn)家族形式中加以考慮。不過(guò)也有學(xué)者提出，機(jī)器經(jīng)驗(yàn)是一種異質(zhì)于人類的經(jīng)驗(yàn)形式。另一種是回憶關(guān)系的確立。智能體具有回憶行為而不是信息存儲(chǔ)的機(jī)械保持變得更為重要。李德毅院士提出“記憶優(yōu)于知識(shí)”等觀點(diǎn)可以概括為給AI增加點(diǎn)記憶。這并不意味著在功能-屬性角度增加一點(diǎn)不同于認(rèn)知、情感等的元素，而是對(duì)于生命本身進(jìn)行思考的結(jié)果。增加點(diǎn)記憶，意味著對(duì)智能體的理解展現(xiàn)了與生命相關(guān)的親密維度，“記憶優(yōu)于知識(shí)”強(qiáng)調(diào)了生命中記憶高于理性的維度。而這一維度的豐富將有助于我們更好地理解自身生命及其親密智能體的本質(zhì)和意義。

六、結(jié)語(yǔ)

本文旨在表明這樣一個(gè)觀點(diǎn)：AI要健康發(fā)展，必須防止對(duì)AI的過(guò)度想象，也就是防止AI神話的出現(xiàn)。然而，在當(dāng)前已經(jīng)出現(xiàn)了AI神話的跡象。如果我們接受這一觀點(diǎn)，那么為這種想象劃定界限在邏輯上就是必要的。

分析技術(shù)想象的限度其根本目的在于防止AI神話的出現(xiàn)。本文從三個(gè)方面展開對(duì)限度的分析：一是將技術(shù)想象限定在合理的范圍內(nèi)。文章一開始就指出，合理的技術(shù)想象有助于技術(shù)的健康發(fā)展，而過(guò)度的技術(shù)想象有害于技術(shù)發(fā)展。合理的技術(shù)想象可以給予技術(shù)創(chuàng)新以動(dòng)力。在技術(shù)史上我們可以看到，人看到鷹、鳥借助翅膀飛翔，于是也設(shè)想能擁有一對(duì)翅膀讓自己飛翔，這種想象是促使新的技術(shù)出現(xiàn)的原始動(dòng)力?；诋?dāng)前AI科學(xué)的事實(shí)研究和技術(shù)成就是非常重要的，只有這樣才能夠讓技術(shù)現(xiàn)象建立在經(jīng)驗(yàn)事實(shí)之上，成為合理的技術(shù)想象。二是洞悉過(guò)度技術(shù)想象背后的因素。那種過(guò)度想象如20世紀(jì)初的人認(rèn)為鐵路會(huì)切斷風(fēng)水一樣，在今天就會(huì)成為難以理解的。然而過(guò)度的想象背后總有特定的文化與價(jià)值觀念在起支配作用，比如抗拒技術(shù)的傳統(tǒng)觀念。只有當(dāng)這種特定的觀念被加以引導(dǎo)、改變時(shí)，過(guò)度的想象才會(huì)消失。對(duì)于中國(guó)的人工智能而言，要使其健康順利發(fā)展，必須消除AI的過(guò)度想象，一方面需要對(duì)科學(xué)領(lǐng)域內(nèi)超級(jí)AI或者通用AI的研究和發(fā)展情況有足夠的把握；另一方面還要警惕由某種特定的文化形式導(dǎo)致的技術(shù)恐懼觀念。三是AI的神話化必然會(huì)造成AI與人類之間的疏離。而要抑制這種結(jié)果，需要重新建立人與AI之間的親密關(guān)系；只有新的親密關(guān)系得以構(gòu)建，AI神話的消解才成為可能。另外，親密性的提出為可信的AI確立起不同于“技術(shù)透明性”的根據(jù)，人工智能需要和環(huán)境之間建立起一種親密關(guān)聯(lián)，這是AI倫理的必然要求。

所以，去想象化是應(yīng)對(duì)AI過(guò)度想象的一個(gè)必然要求，在展開上存在著多種方式，正如上文分析到的，特定價(jià)值觀念的引導(dǎo)和改變、AI神話化的實(shí)質(zhì)認(rèn)識(shí)等，都需要去實(shí)現(xiàn)，只有這樣AI才能夠健康發(fā)展。