閆坤如

摘 要： 馬克思從人的異化和物的異化來(lái)闡釋勞動(dòng)異化，人工智能技術(shù)異化是馬克思主義異化的當(dāng)代表現(xiàn)形式，隨著人工智能技術(shù)的發(fā)展，加深了人的自我異化危機(jī)，導(dǎo)致人類的主體性危機(jī)以及人類交往的異化形態(tài)。文章嘗試從人工智能技術(shù)本身的原因以及人對(duì)技術(shù)的應(yīng)用來(lái)追溯人工智能技術(shù)異化的思想源泉，從人工智能社會(huì)的數(shù)據(jù)主義盛行、客體主體化、算法權(quán)力化等方面深入分析導(dǎo)致人工智能異化的技術(shù)根源，從工具理性的泛濫與價(jià)值理性的缺失的主體性原因分析其思想基礎(chǔ)。

關(guān)鍵詞： 異化;勞動(dòng)異化;人工智能;工具理性;價(jià)值理性

中圖分類號(hào)：TP18

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1004-8634（2020）03-0100-（08）

DOI：10.13852/J.CNKI.JSHNU.2020.03.009

人工智能（以下簡(jiǎn)稱“AI”）技術(shù)的廣泛應(yīng)用在促進(jìn)社會(huì)進(jìn)步的同時(shí)，負(fù)面效應(yīng)凸顯。例如，機(jī)器人應(yīng)用導(dǎo)致失業(yè)現(xiàn)象，AI應(yīng)用導(dǎo)致貧富差距現(xiàn)象，AI算法導(dǎo)致歧視現(xiàn)象，大數(shù)據(jù)的應(yīng)用導(dǎo)致隱私泄露、人類精神生活退化現(xiàn)象，等等，這些都是隨著AI技術(shù)的應(yīng)用帶來(lái)的社會(huì)問(wèn)題。AI應(yīng)用本來(lái)是為了造福人類、解放人類，幫助人類獲得自由的，卻導(dǎo)致人類依賴機(jī)器，受機(jī)器控制，產(chǎn)生異化現(xiàn)象。通過(guò)對(duì)異化理論的追溯，并結(jié)合馬克思主義勞動(dòng)異化的表現(xiàn)，本文旨在分析AI技術(shù)異化的本質(zhì)問(wèn)題。

一、異化理論的研究嬗變及表現(xiàn)形態(tài)

1.異化理論的追溯

“異化”一詞來(lái)源于拉丁語(yǔ)alienatio，原意是讓渡、疏遠(yuǎn)、脫離等。最早在神學(xué)中使用，用來(lái)表示信徒疏遠(yuǎn)上帝。后來(lái)逐漸應(yīng)用到政治學(xué)領(lǐng)域和社會(huì)學(xué)領(lǐng)域。在政治學(xué)領(lǐng)域，“異化”表示權(quán)利的讓渡。例如，霍布斯（Thomas Hobbes）在《利維坦》中討論人類把自己的權(quán)利讓渡給他人;盧梭（Jean-Jacques Rousseau）認(rèn)為，如果人類要從自然狀態(tài)過(guò)渡到政治狀態(tài)，必須讓渡自己的一部分個(gè)人權(quán)利，形成公共意志（general will）。盧梭在《論人類不平等的起源和基礎(chǔ)》中論述了人如何由“自然狀態(tài)”下的自由、平等，異化為“文明狀態(tài)”下的被奴役、不平等。他指出：“由于私有制和法律的建立，不平等終于變得根深蒂固而成為合法的了?！?/p>

盧梭：《論人類不平等的起源和基礎(chǔ)》，李常山譯，商務(wù)印書(shū)館1997年版，第149頁(yè)。在社會(huì)學(xué)領(lǐng)域，異化表現(xiàn)出與他人、與社會(huì)等分離、疏遠(yuǎn)的意思。異化概念在法學(xué)、醫(yī)學(xué)、心理學(xué)領(lǐng)域也有應(yīng)用。異化在法學(xué)上的含義為轉(zhuǎn)讓、讓與，有表示權(quán)利和財(cái)產(chǎn)的讓渡的含義。在醫(yī)學(xué)、心理學(xué)領(lǐng)域，異化則表現(xiàn)出精神錯(cuò)亂、精神病等含義。

“異化”作為哲學(xué)術(shù)語(yǔ)出現(xiàn)在17、18世紀(jì)的唯物主義啟蒙思想家的著作中。費(fèi)希特（Johann Gottlieb Fichte）用“fremd（異己的）”一詞表述“自我”與“非我”。黑格爾（G. W. F. Hegel）也在哲學(xué)含義上使用“異化”，他區(qū)分異化（Engfremdung）和外化（EntauBerung），外化包含了勞動(dòng)與各種社會(huì)活動(dòng)相結(jié)合的復(fù)雜的主客關(guān)系，表征主客體的對(duì)立關(guān)系以及辯證運(yùn)動(dòng)。黑格爾在《精神現(xiàn)象學(xué)》中將“異化”作為“絕對(duì)精神”運(yùn)動(dòng)的內(nèi)在機(jī)制，認(rèn)為“絕對(duì)精神”發(fā)展到一定階段就會(huì)轉(zhuǎn)向自己的對(duì)立面，外化出異己的并制約自身發(fā)展的力量。費(fèi)爾巴哈（Ludwig Andreas Feuerbach）將異化與人結(jié)合在一起，他在《基督教的本質(zhì)》中指出，宗教的本質(zhì)是人類“異化了的自我”。

2.馬克思的勞動(dòng)異化理論

馬克思在批判和吸收黑格爾的異化思想、費(fèi)爾巴哈的人本主義異化理論的基礎(chǔ)上建立起勞動(dòng)異化理論。他吸收和超越了黑格爾的“異化”與勞動(dòng)之間的辯證關(guān)系，結(jié)合資本主義大生產(chǎn)，揭示出異化的本質(zhì)是勞動(dòng)異化，從而形成了勞動(dòng)異化思想。

馬克思的勞動(dòng)異化理論主要體現(xiàn)在其著作《1844年經(jīng)濟(jì)學(xué)—哲學(xué)手稿》《神圣家族》《德意志意識(shí)形態(tài)》以及《資本論》等著作中。馬克思認(rèn)為，異化是人類在發(fā)展過(guò)程中創(chuàng)造的物質(zhì)的或精神的東西，它成為異己的存在力量，并反過(guò)來(lái)控制、奴役人類自身。在馬克思看來(lái)，異化包含兩層含義：一是勞動(dòng)異化必須從主體出發(fā)產(chǎn)生客體，二是客體與主體相對(duì)立并成為異己的統(tǒng)治主體的力量。馬克思主要從勞動(dòng)產(chǎn)品（勞動(dòng)結(jié)果）與勞動(dòng)者相異化、生產(chǎn)活動(dòng)（勞動(dòng)過(guò)程）與勞動(dòng)者相異化、勞動(dòng)者與他的類本質(zhì)相異化以及人與人相異化四個(gè)方面闡釋了他的勞動(dòng)異化理論。下面我們就從這四個(gè)方面來(lái)分析馬克思勞動(dòng)異化理論的具體表現(xiàn)。

第一，勞動(dòng)產(chǎn)品（勞動(dòng)結(jié)果）與勞動(dòng)者相異化。在馬克思看來(lái)，勞動(dòng)產(chǎn)品本來(lái)應(yīng)該屬于工人，但是因?yàn)樗接兄频木壒?，勞?dòng)產(chǎn)品被資本家占有，資本家通過(guò)支付勞動(dòng)者工資的形式掩蓋了占有勞動(dòng)者的勞動(dòng)的事實(shí)。勞動(dòng)者生產(chǎn)的產(chǎn)品“作為一種異己的存在物，作為不依賴于生產(chǎn)者的力量，同勞動(dòng)相對(duì)立”。

馬克思：《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》，人民出版社1985年版，第48頁(yè)。勞動(dòng)產(chǎn)品同勞動(dòng)者相異化，這是從勞動(dòng)結(jié)果的視角對(duì)勞動(dòng)異化表現(xiàn)的陳述。

第二，勞動(dòng)過(guò)程同勞動(dòng)者相異化。勞動(dòng)者具有勞動(dòng)能力，勞動(dòng)過(guò)程是勞動(dòng)者自愿付出、自我滿足的過(guò)程，勞動(dòng)過(guò)程應(yīng)該沒(méi)有外在壓迫，是自由的，但是在資本主義生產(chǎn)關(guān)系中，勞動(dòng)者的生產(chǎn)行為發(fā)生了變化。由于資本主義采取機(jī)器化大生產(chǎn)，機(jī)器開(kāi)始支配人，人成為機(jī)器的一部分，甚至淪為機(jī)器的附屬品，勞動(dòng)不再是勞動(dòng)者自我滿足的過(guò)程，反而成為勞動(dòng)者的負(fù)擔(dān)。首先，勞動(dòng)者的勞動(dòng)是非本質(zhì)的勞動(dòng)。勞動(dòng)者在勞動(dòng)中不承認(rèn)自己，覺(jué)得不幸福、不自由，“肉體受折磨，精神遭摧殘”;

馬克思：《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》，第50頁(yè)。其次，勞動(dòng)者的勞動(dòng)是被強(qiáng)制的勞動(dòng)。勞動(dòng)成為勞動(dòng)者為了滿足生存需要的一種手段，勞動(dòng)者不勞動(dòng)將無(wú)法生存;再次，勞動(dòng)者的勞動(dòng)是受他人支配的勞動(dòng)。在資本主義生產(chǎn)過(guò)程中，勞動(dòng)者在勞動(dòng)中喪失了自身，失去了自由，產(chǎn)生了自我異化。勞動(dòng)過(guò)程同勞動(dòng)者的分離主要是從過(guò)程視角來(lái)考察勞動(dòng)異化的。

第三，勞動(dòng)者與人的類本質(zhì)相異化。馬克思認(rèn)為人與動(dòng)物的區(qū)別在于人有意識(shí)，人的類生活是有意識(shí)的自由活動(dòng)，在勞動(dòng)者的勞動(dòng)結(jié)果和勞動(dòng)過(guò)程異化之后，人就被降低為一種動(dòng)物性的存在。首先，勞動(dòng)成為人類維持肉體生存的手段。人的勞動(dòng)不是有意識(shí)的勞動(dòng)，“異化勞動(dòng)把自主活動(dòng)、自由活動(dòng)貶低為手段，也就是把人的類生活變成維持人的肉體生存的手段”;

馬克思、恩格斯：《馬克思恩格斯文集》（第1卷），人民出版社2009年版，第163頁(yè)。其次，人的精神類本質(zhì)的異化。馬克思認(rèn)為勞動(dòng)是勞動(dòng)者自由、精神愉悅的活動(dòng)，但在異化勞動(dòng)中，勞動(dòng)者不再具有勞動(dòng)的主動(dòng)性和愉悅性，勞動(dòng)成為精神折磨;再次，人的創(chuàng)造性類本質(zhì)的喪失?！皠趧?dòng)用機(jī)器代替了手工勞動(dòng)，但是使一部分工人回到野蠻的勞動(dòng)，并使另一部分工人變成機(jī)器?！?/p>

馬克思：《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》，第50頁(yè)。人成為非人，并把非人的本質(zhì)看成了人的本質(zhì)，人喪失了自我實(shí)現(xiàn)的能力維度，人不再具有勞動(dòng)的主動(dòng)性、創(chuàng)造性。異化勞動(dòng)讓人的類本質(zhì)異化了。

第四，人與人相異化。馬克思認(rèn)為在異化勞動(dòng)的環(huán)境中，勞動(dòng)產(chǎn)品不屬于勞動(dòng)者，卻被異己力量資本家所占有，勞動(dòng)使勞動(dòng)者痛苦，資本家卻通過(guò)攫取剩余價(jià)值享有無(wú)上的權(quán)力和快樂(lè)。勞動(dòng)者生產(chǎn)出異己的人——資本家，這就是馬克思勞動(dòng)異化中人與人的異化。

通過(guò)前述分析我們可以看出，馬克思勞動(dòng)異化理論的第一個(gè)部分——?jiǎng)趧?dòng)結(jié)果同勞動(dòng)者相異化指的是物的異化，馬克思異化理論的后三個(gè)部分指的是人的異化。在馬克思勞動(dòng)異化理論中，不管是勞動(dòng)結(jié)果、勞動(dòng)過(guò)程還是人的類本質(zhì)異化，都是人的“自我異化”。馬克思勞動(dòng)異化理論由人的自我異化和人與人的異化兩個(gè)層面構(gòu)成。馬克思把勞動(dòng)異化的根源歸為私有制和機(jī)器化大生產(chǎn)：生產(chǎn)資料資本家私人占有，勞動(dòng)者失去了生產(chǎn)資料，機(jī)器化大生產(chǎn)的生產(chǎn)方式最終導(dǎo)致了勞動(dòng)異化的出現(xiàn)。人類創(chuàng)造出機(jī)器本來(lái)是為了使人的生產(chǎn)和生活變得更美好，但機(jī)器卻成為“它者”，成為異己的力量，人類被機(jī)器控制，受機(jī)器約束。在步入AI時(shí)代的今天，AI技術(shù)讓機(jī)器取代人的勞動(dòng)成為可能，如果模擬出人類智能，機(jī)器甚至將取代人的主體性地位。如果這些可能變?yōu)楝F(xiàn)實(shí)，那么人類將失去自由意志，失去幸福，AI的“利維坦”將使人類生活變成“敵托邦”。

二、AI技術(shù)異化——馬克思異化理論的新呈現(xiàn)方式

AI是繼蒸汽機(jī)發(fā)明、電氣技術(shù)、網(wǎng)絡(luò)技術(shù)應(yīng)用之后的第四次工業(yè)革命。蒸汽機(jī)技術(shù)的應(yīng)用實(shí)現(xiàn)了物質(zhì)的自由移動(dòng)，電氣技術(shù)的應(yīng)用實(shí)現(xiàn)了能量的自由轉(zhuǎn)換，網(wǎng)絡(luò)技術(shù)的應(yīng)用實(shí)現(xiàn)了信息的自由傳遞，AI技術(shù)的發(fā)展與前三次工業(yè)革命具有同樣的顛覆性作用，它的應(yīng)用促進(jìn)了社會(huì)進(jìn)步和人類發(fā)展，但也帶來(lái)一些意想不到的后果：越來(lái)越遠(yuǎn)離人類的控制，也就是AI技術(shù)的異化。

1.AI算法與算法設(shè)計(jì)者的分離

AI算法是AI算法設(shè)計(jì)者的勞動(dòng)產(chǎn)品，然而在現(xiàn)實(shí)中，由于研發(fā)設(shè)計(jì)AI算法的生產(chǎn)資料即資本并不掌握在算法設(shè)計(jì)者的手中，AI算法設(shè)計(jì)者不占有AI算法，算法設(shè)計(jì)者也沒(méi)有隨意修改或支配算法的權(quán)利，算法設(shè)計(jì)者能夠擁有的只有算法的部分使用權(quán)。算法設(shè)計(jì)者創(chuàng)造了AI算法，但是算法的所有權(quán)、支配權(quán)、使用權(quán)都不屬于算法設(shè)計(jì)者。AI算法與算法設(shè)計(jì)者相疏離，這就是馬克思所說(shuō)的勞動(dòng)產(chǎn)品和勞動(dòng)者的異化。算法設(shè)計(jì)者設(shè)計(jì)的算法越完美，AI產(chǎn)品就越智能，在生活中的應(yīng)用就越廣泛，就越背離它的創(chuàng)造者，并極可能成為設(shè)計(jì)者的敵對(duì)力量。

2.AI機(jī)器加深了人的自我異化危機(jī)

隨著AI機(jī)器被廣泛地應(yīng)用到人類生活的各種場(chǎng)景中，人的技能對(duì)生產(chǎn)的影響越來(lái)越小，相較于傳統(tǒng)的機(jī)器生產(chǎn)，AI機(jī)器加深了勞動(dòng)異化的廣度和深度。

首先是機(jī)器取代人的危機(jī)。AI機(jī)器因其技術(shù)優(yōu)勢(shì)（決策速度快、準(zhǔn)確率高、不受環(huán)境影響等），正在人類的生產(chǎn)和生活中被日益廣泛地應(yīng)用。比如，合成智能機(jī)器通過(guò)算法進(jìn)行自主學(xué)習(xí)，能夠自動(dòng)分析和處理各種復(fù)雜數(shù)據(jù)，形成認(rèn)知和決策，AI算法正在逐漸取代各種復(fù)雜技能的工作。工業(yè)機(jī)器人因其高效、自動(dòng)化、智能化的特點(diǎn)，正在取代生產(chǎn)線上從事簡(jiǎn)單重復(fù)性勞動(dòng)的工人;便捷、快速的移動(dòng)支付正在取代銀行雇員;醫(yī)療機(jī)器人正在取代部分醫(yī)生;家政機(jī)器人已經(jīng)登堂入室取代家政人員;無(wú)人機(jī)正在取代從事危險(xiǎn)、繁重以及瑣碎的低智能工作的“蜘蛛人”、分揀工，等等。勞動(dòng)作為人的最基本的能力和權(quán)利，卻面臨著被機(jī)器剝奪的危險(xiǎn)。人類正在逐步喪失部分勞動(dòng)能力和勞動(dòng)機(jī)會(huì)。

其次是機(jī)器控制人的危機(jī)。AI技術(shù)控制人的現(xiàn)象已悄然出現(xiàn)。據(jù)調(diào)查，半數(shù)網(wǎng)民對(duì)AI技術(shù)產(chǎn)生依賴。各種智能手機(jī)和智能App猶如“技術(shù)多巴胺”控制了部分網(wǎng)民的生活，讓他們對(duì)技術(shù)產(chǎn)生強(qiáng)烈的精神依賴。AI技術(shù)像鴉片一樣讓人類癡迷，深陷其中不能自拔，“技術(shù)成癮”正在控制部分人的行為、情緒、心理、社交等。AI還通過(guò)智能互動(dòng)、智能推送等方式滿足不同個(gè)體的個(gè)性化需要，從而控制人的精神世界，讓人沉溺、上癮，大量侵占人的休閑時(shí)間，使人的精神在泛娛樂(lè)化、泛消費(fèi)主義的大眾文化中日益被物化和匱乏化，人類的精神自由的豐富性被消解。正如弗洛姆（Erich Fromm）所言，“過(guò)去的危險(xiǎn)是人成為奴隸，將來(lái)的危險(xiǎn)是人可能成為機(jī)器人”。

弗洛姆：《健全的社會(huì)》，歐陽(yáng)謙譯，中國(guó)文聯(lián)出版社1988年版，第370頁(yè)。弗洛姆的這一預(yù)言正在成為現(xiàn)實(shí)。

AI技術(shù)不但控制了人類生活，還控制了人類工作，AI技術(shù)提供了新工作機(jī)會(huì)和新崗位，但是這些工作大多需要人來(lái)配合機(jī)器完成。比如，高鐵在自動(dòng)行駛中，為了安全需要，高鐵司機(jī)必須每30秒踏一次踏板，否則高鐵的自動(dòng)駕駛系統(tǒng)就會(huì)減速停車，人類行為必須調(diào)整到配合高鐵的自動(dòng)駕駛，人類被機(jī)器控制。馬克思說(shuō)：“人只有在運(yùn)用自身的動(dòng)物機(jī)能——吃、喝、性行為等等的時(shí)候，才覺(jué)得自己是自由活動(dòng)，而在運(yùn)用人的機(jī)能時(shí)，卻覺(jué)得自己不過(guò)是動(dòng)物。”

馬克思：《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》，第51頁(yè)。在AI機(jī)器控制的情況下，人被迫成為維持機(jī)器運(yùn)轉(zhuǎn)的齒輪，喪失了勞動(dòng)的能動(dòng)性和創(chuàng)造性?！霸跈C(jī)器跟前的工人只專注于直接的目標(biāo)，無(wú)暇也無(wú)興趣去整個(gè)兒地思索生活?！?/p>

卡爾·雅斯貝爾斯：《時(shí)代的精神狀況》，王德峰譯，上海譯文出版社1997年版，第42—43頁(yè)。

AI機(jī)器加深了人的自我異化危機(jī)，無(wú)論是AI取代人的部分勞動(dòng)還是部分控制人的心理和行為，都使人處在一種受支配的和不自由的生產(chǎn)關(guān)系中，在這種生產(chǎn)關(guān)系中，勞動(dòng)是被動(dòng)的、外在的，不屬于勞動(dòng)者自己，并反過(guò)來(lái)成為控制人類自身的力量。

3.AI機(jī)器加深了人的類本質(zhì)異化

AI技術(shù)發(fā)展正在潛移默化地改變著人的認(rèn)知方式、思維方式和生活方式，以及人類的自由勞動(dòng)，人類對(duì)自然界的改造、對(duì)人類精神世界的拓展以及對(duì)人類能力提升的無(wú)限可能性正在被AI技術(shù)消解和取代，面臨著主體被異化的危機(jī)。智能時(shí)代人的類本質(zhì)同人的異化主要表現(xiàn)在以下三個(gè)方面：

首先，AI技術(shù)導(dǎo)致人的精神危機(jī)。隨著AI技術(shù)對(duì)人類生活和生產(chǎn)的全面介入，導(dǎo)致人的精神異化。人們獲取信息咨詢的主要渠道是通過(guò)AI算法，而基于大數(shù)據(jù)的AI算法則可以提供個(gè)性化服務(wù)：一方面能夠高效便捷地幫助人篩選出最優(yōu)信息，滿足其個(gè)性化需要的偏好。另一方面?zhèn)€性化算法也容易使“信息繭房（Information Cocoons）”效應(yīng)擴(kuò)大。“信息繭房”是由哈佛大學(xué)法學(xué)院凱斯·桑斯坦（Cass R. Sunstein）教授在《信息烏托邦——眾人如何生產(chǎn)知識(shí)（infotopia-how many minds produce knowledge）》中提出來(lái)的，它指的是人們的信息領(lǐng)域會(huì)習(xí)慣性地被自己的興趣所引導(dǎo)，從而將自己的生活桎梏于像蠶繭一般的“繭房”中的現(xiàn)象。“信息繭房”使人囿于封閉窄化的信息環(huán)境中，加深人思想認(rèn)知的片面性和單一性，使人的主體性喪失，人的自由意志被物化，人成為單向度的人。

其次，AI機(jī)器導(dǎo)致人的能力危機(jī)。AI的發(fā)展，人類生產(chǎn)和生活中廣泛應(yīng)用各類機(jī)器人，人類放棄原有的技能配合機(jī)器勞動(dòng)，服從機(jī)器的安排，人類的多種能力被機(jī)器的機(jī)械化、程式化取代，人和機(jī)器的主客體地位發(fā)生顛倒，這些現(xiàn)象均會(huì)導(dǎo)致人的主體地位喪失。AI機(jī)器的超強(qiáng)計(jì)算能力、數(shù)據(jù)處理能力、邏輯分析能力和完美的記憶能力等，在節(jié)省了使用者的時(shí)間、提升勞動(dòng)者效率的同時(shí)，又極大地助長(zhǎng)了勞動(dòng)者的惰性，將本來(lái)屬于人的能力轉(zhuǎn)移給了機(jī)器：人只需簡(jiǎn)單的操作就能獲取想要的結(jié)果，機(jī)器代替人做判斷、分析和決策，機(jī)器取代人類成為理性判斷和分析決策的主體，人類的學(xué)習(xí)、記憶、分析、歸納、思辨等能力逐漸被機(jī)器所取代。不管是AI技術(shù)導(dǎo)致人的精神危機(jī)還是AI機(jī)器導(dǎo)致人的能力危機(jī)都是AI時(shí)代人的主體性危機(jī)。

再次，AI算法剝奪了人類尊嚴(yán)。人臉識(shí)別、步態(tài)識(shí)別技術(shù)能夠快速地捕捉、識(shí)別人的位置和信息，使人無(wú)處藏身;醫(yī)療數(shù)據(jù)、人類基因編碼讓人的身體信息赤裸裸地被展示，人類正穿著“皇帝的新裝”集體裸奔;AI可以根據(jù)人的大腦波動(dòng)圖來(lái)分析和解讀人的想法和行為。也許有一天，人最引以為傲的理性思維能力在機(jī)器面前將一覽無(wú)遺，人的尊嚴(yán)在智能機(jī)器面前喪失殆盡。

4.AI機(jī)器加深人的交往危機(jī)

馬克思認(rèn)為，人同人自身的各種關(guān)系，都是通過(guò)人與人的關(guān)系來(lái)體現(xiàn)的，而與他人關(guān)系的實(shí)現(xiàn)又是通過(guò)交往關(guān)系來(lái)確證的。在AI環(huán)境下，人與人的關(guān)系也發(fā)生了異化，人的交往逐漸被置于智能機(jī)器的控制下，人成為透明人。

首先，交往危機(jī)表現(xiàn)在交往的透明性。AI算法使得每個(gè)個(gè)體成為透明人，人類交往也變得透明，無(wú)隱私可言。AI時(shí)代，個(gè)體熱衷于曬家庭住址、旅游地點(diǎn)、收入以及其他個(gè)人隱私，人類交往基于網(wǎng)絡(luò)痕跡和行為模式來(lái)準(zhǔn)確推算和預(yù)測(cè)人的性格偏好和行為;不同個(gè)體具有不同的表達(dá)習(xí)慣和興趣愛(ài)好，評(píng)論、轉(zhuǎn)發(fā)、分享不同的言論，AI時(shí)代的交往根據(jù)不同的利益關(guān)系形成不同的小團(tuán)體，形成“網(wǎng)絡(luò)巴爾干（Cyber-balkanization）”，

M. V. Alstyne， E. Brynjolfsson， “Electronic communities： Global village or cyberbalkans？”， in Economic Theory， 1997.維護(hù)本群體利益，過(guò)濾和抵制非本群體利益，有可能導(dǎo)致AI時(shí)代的群體極化行為。

其次，交往危機(jī)表現(xiàn)在交往的虛擬性。AI機(jī)器還正在使人喪失“現(xiàn)實(shí)性”。傳統(tǒng)意義上集中在一起的、有機(jī)的、統(tǒng)一性的勞動(dòng)模式被消解，離群索居的“宅”生活及工作模式的可能性得以彰顯?！皺C(jī)械化也把他們分裂成孤立的、抽象的原子，他們的工作不再把他們直接地有機(jī)地結(jié)合在一起”，

盧卡奇：《歷史與階級(jí)意識(shí)》，張西平譯，重慶出版社1989年版，第100頁(yè)。勞動(dòng)者成為機(jī)器控制下的孤立個(gè)體。AI機(jī)器“傻瓜”型的使用方法，導(dǎo)致很多心智不成熟的人，特別是青少年，沉溺于網(wǎng)絡(luò)的虛擬世界，疏離現(xiàn)實(shí)世界，加深了人的原子化危機(jī)。

再次，交往危機(jī)表現(xiàn)在交往的疏離性。AI時(shí)代加深了人與人的疏離，對(duì)于數(shù)據(jù)和AI算法的擁有程度、掌握程度、運(yùn)用程度的不同，導(dǎo)致國(guó)際、區(qū)域間、人際間的數(shù)據(jù)鴻溝和算法鴻溝，造成信息落差和算法落差，造成國(guó)家間、地區(qū)間、人際間的關(guān)系疏離。網(wǎng)絡(luò)空間交往“天涯若比鄰”，智能App讓人類上癮、沉迷其中，但卻缺少了父母兒女間的舐?tīng)偾樯钆c承歡膝下，缺少了親朋好友間的促膝長(zhǎng)談與推心置腹。網(wǎng)絡(luò)的便捷性使人的工作時(shí)間無(wú)限地?cái)D壓人的自由支配時(shí)間，網(wǎng)絡(luò)幾乎全面地支配和控制了人的自由時(shí)間，使人陷入社交恐懼之中，加深了人與人的疏離。

三、AI技術(shù)異化的本質(zhì)分析

AI技術(shù)的異化可以從技術(shù)本身的原因以及人類對(duì)技術(shù)的應(yīng)用追溯其本質(zhì)。AI技術(shù)異化源于數(shù)據(jù)主義盛行、AI技術(shù)導(dǎo)致主體客體化、算法權(quán)力和算法霸權(quán)、人對(duì)于AI技術(shù)應(yīng)用中的工具理性泛濫，以及價(jià)值理性的缺失。

1.數(shù)據(jù)主義盛行

AI的基礎(chǔ)是數(shù)據(jù)、算法和算力。數(shù)據(jù)主義者認(rèn)為全人類是單一的數(shù)據(jù)處理系統(tǒng)，一切皆數(shù)據(jù)，《未來(lái)簡(jiǎn)史》的作者尤瓦爾·赫拉利（Y. N. Harari）認(rèn)為，“數(shù)據(jù)主義”盛行導(dǎo)致“人本主義”的崩塌，“數(shù)據(jù)主義者認(rèn)為，宇宙由數(shù)據(jù)流組成，任何現(xiàn)象或者實(shí)體的價(jià)值在于對(duì)數(shù)據(jù)處理的貢獻(xiàn)”。

尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史——從智人到智神》，林俊宏譯，中信出版集團(tuán)2017年版，第333頁(yè)?！按髷?shù)據(jù)已經(jīng)撼動(dòng)了世界的方方面面，從商業(yè)科技到醫(yī)療、政府、教育、經(jīng)濟(jì)、人文以及社會(huì)的其他各個(gè)領(lǐng)域?！?/p>

維克托·邁爾-舍恩伯格，肯尼思·庫(kù)克耶：《大數(shù)據(jù)時(shí)代》，盛楊燕、周濤譯，浙江人民出版社2013年版，第15頁(yè)。萬(wàn)物皆數(shù)據(jù)，數(shù)據(jù)經(jīng)過(guò)分析和挖掘成為推動(dòng)社會(huì)發(fā)展，特別是經(jīng)濟(jì)發(fā)展的新動(dòng)力，整個(gè)社會(huì)的生產(chǎn)方式、經(jīng)營(yíng)方式、治理方式、思維方式等發(fā)生根本改變。首先，生產(chǎn)數(shù)據(jù)化?；诖髷?shù)據(jù)驅(qū)動(dòng)的個(gè)性化算法系統(tǒng)被廣泛地應(yīng)用到經(jīng)濟(jì)生活的各個(gè)領(lǐng)域，改變了企業(yè)傳統(tǒng)的生產(chǎn)、銷售模式。數(shù)據(jù)分析挖掘系統(tǒng)能使企業(yè)從繁雜的數(shù)據(jù)資源中洞察到消費(fèi)者的真實(shí)需求，幫助企業(yè)進(jìn)行有效的質(zhì)量管理提升、服務(wù)改進(jìn)和精準(zhǔn)化營(yíng)銷，以促進(jìn)消費(fèi)，提升盈利空間。大數(shù)據(jù)已經(jīng)成為企業(yè)提升自身競(jìng)爭(zhēng)力的核心要素，“數(shù)字化經(jīng)濟(jì)”正在對(duì)經(jīng)濟(jì)進(jìn)行模式轉(zhuǎn)型。大數(shù)據(jù)在提升政府政策決策的科學(xué)性、執(zhí)行的透明性、實(shí)施的有效性方面發(fā)揮了優(yōu)勢(shì)作用，對(duì)完善政府權(quán)力監(jiān)督，實(shí)現(xiàn)政府信息共享和透明提供了極大助力。“數(shù)字化治理”正在成為政府和社會(huì)的共識(shí)。其次，社會(huì)數(shù)據(jù)化。數(shù)字化技術(shù)的發(fā)展，整個(gè)社會(huì)正在成為以數(shù)據(jù)為支撐和鏈接的共同體。數(shù)據(jù)化社會(huì)使智能算法系統(tǒng)在更廣泛的領(lǐng)域發(fā)揮重要作用，數(shù)據(jù)挖掘、數(shù)據(jù)洞察經(jīng)由智能算法滲入到社會(huì)生活的各個(gè)場(chǎng)景中。數(shù)據(jù)成為可以不斷創(chuàng)造財(cái)富的資源，甚至成為控制社會(huì)的權(quán)力。數(shù)據(jù)搜集者通過(guò)互聯(lián)網(wǎng)技術(shù)等收集、積累并占有大量的數(shù)據(jù)，形成數(shù)據(jù)壟斷，用數(shù)據(jù)來(lái)獲取最大化的商業(yè)價(jià)值和利潤(rùn)。大數(shù)據(jù)不但創(chuàng)造了經(jīng)濟(jì)財(cái)富，還可以通過(guò)個(gè)性化推送干擾到國(guó)家選舉，“大數(shù)據(jù)是人們獲得新的認(rèn)知、創(chuàng)造新的價(jià)值的源泉;大數(shù)據(jù)還是改變市場(chǎng)、組織機(jī)構(gòu)，以及政府與公民關(guān)系的方法”。

維克托·邁爾-舍恩伯格，肯尼思·庫(kù)克耶：《大數(shù)據(jù)時(shí)代》，第9頁(yè)。不但如此，大數(shù)據(jù)的發(fā)展改變了人類的認(rèn)知，之前人類通過(guò)揭示自然界的因果關(guān)系來(lái)尋找宇宙奧秘，現(xiàn)在人類通過(guò)大數(shù)據(jù)來(lái)找到事物間的關(guān)聯(lián)。數(shù)據(jù)主義以其前所未有的優(yōu)勢(shì)在改變著人類關(guān)系、人與自然的關(guān)系，剝奪了人類的生存空間和自由交流，限制了人類精神的解放，導(dǎo)致了“技術(shù)霸權(quán)”和數(shù)據(jù)異化現(xiàn)象。數(shù)據(jù)異化必然會(huì)導(dǎo)致以數(shù)據(jù)為驅(qū)動(dòng)的AI的異化。

2.客體主體化

1950年AI先驅(qū)圖靈（Alan Turing）在《計(jì)算機(jī)器與智能》一文中設(shè)想制造出能夠思維的機(jī)器，這個(gè)機(jī)器可以具有人類意識(shí)，能夠表現(xiàn)出人類的知覺(jué)行為，約翰·麥卡錫（John McCarthy）、西蒙（H.Simon）等AI的先驅(qū)致力于讓機(jī)器“像人一樣思考”“像人一樣行動(dòng)”“理性地思考”“理性地行動(dòng)”等目標(biāo)。瑪格麗特·博登（Margaret Boden）在其著作《AI：人工智能的本質(zhì)與未來(lái)》中將AI定義為“讓計(jì)算機(jī)完成人類心智（mind）能做的各種事情”。

瑪格麗特·博登：《AI：人工智能的本質(zhì)與未來(lái)》，孫詩(shī)惠譯，人民大學(xué)出版社2017年版，第1頁(yè)。AI從不同進(jìn)路出發(fā)致力于研究出具有人類智能的機(jī)器。AI的符號(hào)主義進(jìn)路通過(guò)物理符號(hào)系統(tǒng)讓機(jī)器像人類一樣推理從而模擬人類智能;AI的聯(lián)結(jié)主義進(jìn)路致力于通過(guò)模擬神經(jīng)網(wǎng)絡(luò)以及神經(jīng)網(wǎng)絡(luò)之間的鏈接機(jī)制讓機(jī)器像人類一樣思考;AI的行為主義進(jìn)路致力于通過(guò)控制論模擬人控制中的智能行為來(lái)模擬人類智能。AI的主要思路是模仿人的智能和模仿人的智能控制下的行為。因此，AI機(jī)器可以看成是在模仿人類的智能活動(dòng)基礎(chǔ)上制造出來(lái)的具有一定智能行為的人工系統(tǒng)。AI機(jī)器相比一般的機(jī)器，表現(xiàn)出某種類人的行為或活動(dòng)的能動(dòng)性，也就是某種“主體性”。簡(jiǎn)單機(jī)器是人能動(dòng)地改造世界的工具，是人體功能的延伸，而AI機(jī)器不同于普通機(jī)器，無(wú)論是自動(dòng)完成簡(jiǎn)單、重復(fù)勞動(dòng)的人造機(jī)器，還是自動(dòng)分析和處理各種復(fù)雜數(shù)據(jù)，形成認(rèn)知和決策的合成智能機(jī)器，抑或是具有社交能力的陪伴型機(jī)器人、智能客服系統(tǒng)等，在行為、認(rèn)知、交互等方面都表現(xiàn)出明顯的類人的判斷力和創(chuàng)造性，而能動(dòng)地認(rèn)識(shí)和改造世界正是人的主體性之所在。因此，相較一般機(jī)器，AI機(jī)器作為人所創(chuàng)造的客觀對(duì)象，通過(guò)數(shù)據(jù)驅(qū)動(dòng)的算法程序具有了類人的智能和行為能力，這使得智能機(jī)器的存在形式逐漸轉(zhuǎn)化成具有主體生命結(jié)構(gòu)和本質(zhì)力量的某些因素，而擁有了主體的功能和屬性，表現(xiàn)出明顯的主體化趨勢(shì)。目前AI技術(shù)處于弱人工智能（artificial narrow intelligence）階段，智能機(jī)器在功能上能夠模仿人的思維和行為，已經(jīng)具備了人的某些方面的特征，如圍棋機(jī)器強(qiáng)大的邏輯推演學(xué)習(xí)能力;智能專家系統(tǒng)分析挖掘數(shù)據(jù)的精準(zhǔn)預(yù)測(cè)和決策能力;圖像和語(yǔ)音的智能識(shí)別能力;陪伴機(jī)器人的情感感知和互動(dòng)能力;等等，這些智能體都表現(xiàn)出了類人能力或者超人的能力，在日常的人機(jī)交互中人格化或?qū)偃嘶奶匦悦黠@。今天的AI僅限于完成具體任務(wù)，還沒(méi)有表現(xiàn)出一般性的普適性智慧。AI技術(shù)的未來(lái)發(fā)展階段為強(qiáng)人工智能階段，屆時(shí)人類將制造出真正的有知覺(jué)、有自我意識(shí)、能夠自主推理、具有人類情感的機(jī)器，這種機(jī)器能產(chǎn)生如同人類一樣的思維。機(jī)器一旦產(chǎn)生出和人類一樣甚至超出人類的自主意識(shí)的思維，那么人作為主體的地位將受到嚴(yán)峻的挑戰(zhàn)。

3.算法權(quán)力化

算法是AI的核心。AI算法專家科爾曼（Thomas H. Cormen）認(rèn)為，“算法以某個(gè)值或一組值作為輸入，并生成某個(gè)值或一組值作為輸出。因此，算法是將輸入轉(zhuǎn)換為輸出的一系列計(jì)算步驟”。

Thomas H. Cormen，Charles E. Leiserson， Ronald L. Rivest， CliffordStein， Introductionto Algorithms （3rd Edition）， Cambridge， Massachusetts London， England： The MIT Press，2009，p.5.算法就是基于計(jì)算機(jī)應(yīng)用的程序模型，決定如何更高效、快捷地挖掘數(shù)據(jù)，并將洞察的結(jié)果以特定的方式呈現(xiàn)出來(lái)。因此，有人稱算法為AI的“靈魂”，它決定了機(jī)器的性質(zhì)和功能。當(dāng)前，整個(gè)自然和人類社會(huì)的很多方面都被納入基于大數(shù)據(jù)的智能算法的控制之下，算法正在逐漸成為人類社會(huì)生活的主導(dǎo)性力量，“一切皆算法”、“算法崇拜”等正在成為主流的認(rèn)知。用英國(guó)社會(huì)學(xué)家斯科特·拉什（Scott Lash）的話來(lái)說(shuō)：“在一個(gè)媒體和代碼無(wú)處不在的社會(huì)，權(quán)力越來(lái)越存在于算法之中。”

Lash Scott， “Power after hegemony： cultural studies in mutation？”， in Theory， Culture & Society，2007，24（3）： 55-78.從微觀層面的個(gè)人生活到中觀層面的社會(huì)經(jīng)濟(jì)運(yùn)行再到宏觀層面的國(guó)家發(fā)展，無(wú)不滲透著基于大數(shù)據(jù)的智能算法的痕跡，整個(gè)社會(huì)和自然界被置于智能算法的框架之下，算法高效、精準(zhǔn)的分析挖掘數(shù)據(jù)的預(yù)測(cè)、判斷和決策能力正在重塑人們的思維方式、行為方式和生存方式，也在重塑整個(gè)社會(huì)的運(yùn)行模式和治理模式，算法權(quán)力化成為必然。

開(kāi)發(fā)AI機(jī)器的資本和技術(shù)掌握在少數(shù)人手中，資本家雇傭具有算法設(shè)計(jì)能力的人為其工作。算法設(shè)計(jì)能力可以通過(guò)學(xué)習(xí)獲得，但必須要有非常扎實(shí)的數(shù)學(xué)和計(jì)算機(jī)知識(shí)，這使一些優(yōu)秀的算法設(shè)計(jì)者可以優(yōu)先占有更多的社會(huì)資源，將自己的智能轉(zhuǎn)化為資本，成為人工智能行業(yè)社會(huì)分工的上層。然而，因?yàn)樗惴ㄔO(shè)計(jì)的門框非常高，大部分普通人可能終身都難以了解其運(yùn)行原理，處于被算法控制、操縱的社會(huì)生產(chǎn)生活中，“算法鴻溝”不斷加深。

算法的權(quán)利實(shí)際掌握在數(shù)據(jù)或者科技寡頭手中，并形成行業(yè)壟斷，割裂了其他企業(yè)或者資本進(jìn)入該行業(yè)的途徑和機(jī)會(huì)。算法設(shè)計(jì)者可以通過(guò)對(duì)算法設(shè)計(jì)模型的選擇，引導(dǎo)和控制個(gè)人和群體的行為，甚至重塑他們對(duì)世界的認(rèn)知，以達(dá)到最有利于自身利益的目的。算法權(quán)利因其霸權(quán)地位影響范圍日益廣泛，因算法設(shè)計(jì)者或主導(dǎo)者的偏好、利益訴求及“算法黑箱”而導(dǎo)致的算法歧視、算法不公平和算法濫用必將導(dǎo)致AI異化。

4.工具理性的泛濫與價(jià)值理性的缺失

導(dǎo)致AI異化的原因是復(fù)雜的和多方面的，但其源頭在于技術(shù)理性和價(jià)值理性的背離。工具理性（Instrumental rationality）也稱為工具合理性，由馬克斯·韋伯（Max Weber）把其運(yùn)用于社會(huì)學(xué)領(lǐng)域。工具理性強(qiáng)調(diào)的是人類通過(guò)理性的計(jì)算，自由選擇手段的合理性和有效性，而不管目的是否恰當(dāng)。工具理性只關(guān)注效率、功用、計(jì)算和手段，霍克海默（Max Horkheimer）、阿多諾（T.W.Adorno）、弗洛姆、馬爾庫(kù)塞（Herbert Marcuse）、哈貝馬斯（Jürgen Habermas）等法蘭克福學(xué)派的學(xué)者批評(píng)了馬克斯·韋伯的工具理性，認(rèn)為工具理性導(dǎo)致技術(shù)理性霸權(quán)，消解了人生存的價(jià)值基礎(chǔ)。工具理性和技術(shù)理性成為理性的化身，知識(shí)即技術(shù)，技術(shù)的本質(zhì)是工具，人類可以憑借技術(shù)依靠理性來(lái)征服和控制自然，并最終達(dá)成人類的自由和完善。馬爾庫(kù)塞指出：“技術(shù)理性這個(gè)概念本身可能就是意識(shí)形態(tài)的。不僅技術(shù)的應(yīng)用，而且技術(shù)本身，就是（對(duì)自然和人）統(tǒng)治——有計(jì)劃的、科學(xué)的、可靠的、慎重的控制。統(tǒng)治的特殊目的和利益并不是‘隨后或者外在地強(qiáng)加于技術(shù)的;他們進(jìn)入了技術(shù)機(jī)構(gòu)的建構(gòu)本身。技術(shù)總是一種社會(huì)—?dú)v史的工程;一個(gè)社會(huì)和它的統(tǒng)治利益打算對(duì)人和物所做的事情都在它里面設(shè)計(jì)著?！?/p>

馬爾庫(kù)塞：《單向度的人》，張峰、呂世平譯，重慶出版社1988年版，第116頁(yè)。馬爾庫(kù)塞認(rèn)為技術(shù)理性正在轉(zhuǎn)化為技術(shù)拜物教，把科學(xué)技術(shù)作為意識(shí)形態(tài)控制人類，必須用批判理性代替技術(shù)理性。

價(jià)值理性（Value Rational）注重行為本身的價(jià)值，而非注重行為手段和結(jié)果。在價(jià)值理性中，人是終極目的，價(jià)值理性凸顯人存在的意義。隨著AI的發(fā)展，價(jià)值理性日趨缺失。技術(shù)在創(chuàng)造巨大的物質(zhì)財(cái)富的同時(shí)，并沒(méi)有如人們所期待的那樣帶來(lái)人類的全面解放，反而使人類陷入了深刻的異化危機(jī)之中。AI機(jī)器，作為人所創(chuàng)造的技術(shù)人造物，智能化程度越高、功用越強(qiáng)大，在失控的情況下對(duì)人類造成的破壞可能就越大，這種破壞反映在人身上就是使人自身異化為非人。

技術(shù)因其內(nèi)在規(guī)律的不可知性，人類理性認(rèn)識(shí)的有限性以及技術(shù)風(fēng)險(xiǎn)的不可預(yù)測(cè)性導(dǎo)致技術(shù)后果的不確定性，技術(shù)理性難以把握。1980年，科林格里奇（David Collingridge）在《技術(shù)的社會(huì)控制》中提出科林格里奇困境（Collingridge dilemma），用以表明技術(shù)對(duì)人類的控制：“一項(xiàng)技術(shù)的社會(huì)后果不能在技術(shù)生命的早期被預(yù)料到。然而，當(dāng)不希望的后果被發(fā)現(xiàn)時(shí)，技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，以至于對(duì)它的控制十分困難?！?/p>

D. Collingridge， The Social Control of Technology，New York： St. Martins Press，1981，p.11.由于技術(shù)發(fā)展不可知性導(dǎo)致技術(shù)失去控制，致使AI異化的本質(zhì)呈現(xiàn)出自身的復(fù)雜性和獨(dú)特性。

綜上所述，通過(guò)對(duì)異化研究的嬗變的追溯以及其表現(xiàn)形態(tài)的揭示，我們分析了AI技術(shù)的異化現(xiàn)象，AI技術(shù)的發(fā)展加深了人的自我異化危機(jī)、加深了人的主體性異化危機(jī)，AI技術(shù)加深了人的交往危機(jī)。在此基礎(chǔ)上，我們對(duì)于AI技術(shù)異化的本質(zhì)進(jìn)行追溯，認(rèn)為數(shù)據(jù)主義盛行、客體主體化、算法權(quán)利化、工具理性的泛濫與價(jià)值理性的缺失導(dǎo)致了AI技術(shù)的異化。只有厘清AI技術(shù)異化的根源，才能夠找到AI技術(shù)異化的消解路徑。

（責(zé)任編輯：蘇建軍）