張 燦

(中國礦業(yè)大學(xué) 馬克思主義學(xué)院,江蘇 徐州 221116)

一、引言

人工智能深度偽造(Deepfake)技術(shù)是利用人工智能算法程序,通過合并、替換、疊加圖像和視頻的方式,創(chuàng)造深度假視頻,即“利用機(jī)器學(xué)習(xí)算法,將人臉和聲音插入真人的視頻和音頻,并能夠利用整個數(shù)字空間創(chuàng)造出逼真的模仿?！盵1]簡言之,深度偽造是利用機(jī)器學(xué)習(xí)和人工智能操縱音頻和視頻片段,可以讓任何人似乎說了或做了操縱者想要的任何事情。從技術(shù)原理而言,“深度偽造技術(shù)是生成對抗網(wǎng)絡(luò)(GANs)的產(chǎn)物,即兩個人工神經(jīng)網(wǎng)絡(luò)共同創(chuàng)建。其中一個稱之為生成器(generator),另外一個稱之為鑒別器(discriminator),二者在相同的圖像、視頻或聲音數(shù)據(jù)集中進(jìn)行訓(xùn)練。生成器網(wǎng)絡(luò)試圖創(chuàng)建足夠好的新樣本,以欺騙鑒別器網(wǎng)絡(luò),而后者則確定新樣本是否足夠真實,二者相互對抗,從而推動彼此提高?！盵2]人工智能深度偽造最早應(yīng)用于名人色情虛假視頻,即人工智能虛假色情。(1)2018年1月24日,在著名的社交網(wǎng)站Reddit上,一位匿名人士將蓋爾·加朵(《神奇女俠》女主角)、馬茜·威廉姆斯(《權(quán)力的游戲》女演員)和黛茜·雷德利(《星球大戰(zhàn)》女主角)等名人的照片疊加到色情電影中,標(biāo)題則取名為“deepfake”。隨之,成千上萬的人在Reddit上跟帖分享自己制作的深度虛假色情圖片和視頻。隨著人工智能技術(shù)的進(jìn)展和社會法規(guī)的應(yīng)對,深度偽造技術(shù)逐漸擺脫了色情制造的負(fù)面形象和標(biāo)簽。特別是在商業(yè)化應(yīng)用背景下,深度偽造技術(shù)逐漸展現(xiàn)出正向價值和負(fù)向影響的雙重效應(yīng)。就正向價值而言,深度偽造技術(shù)的應(yīng)用主要包括AI主播新聞報道、教育互動、虛擬藝術(shù)創(chuàng)作、搞笑諷刺、數(shù)字修復(fù);不良使用主要包括法庭假視頻證據(jù)、政治謠言、恐怖主義宣傳、經(jīng)濟(jì)敲詐、市場操縱、重大假新聞等。面對人工智能深度偽造技術(shù)的應(yīng)用,盡管存在相應(yīng)的法律規(guī)范和治理策略,但是在復(fù)雜的數(shù)字化網(wǎng)絡(luò)空間中,政治場景、商業(yè)場景和日常生活場景的深度偽造帶來的諸如隱私侵犯、自由悖論、社會信任沖擊、輿論認(rèn)知變異等社會倫理風(fēng)險仍然是一個重要且緊迫的理論和實踐問題。(2)2023年3月22日,在美國互聯(lián)網(wǎng)社交平臺中,美國前總統(tǒng)唐納德·特朗普被捕的照片被大肆傳播,后被證實圖像是由人工智能生成,但由于AI圖像過于逼真,仍然欺騙了眾多網(wǎng)民,從而扭曲了人們既定的公共認(rèn)知。緊隨其后,3月28日,在中國互聯(lián)網(wǎng)社交平臺中,廣州地鐵站女子正常著裝照片被AI一鍵脫衣的色情造謠圖像被廣泛傳播且沖上熱搜,從而引發(fā)社會熱議和公眾關(guān)注。眾多網(wǎng)友對此表示,AI不應(yīng)當(dāng)用于任何違反倫理規(guī)范和法律法規(guī)的行為。正如有學(xué)者指出,數(shù)字化時代,Deepfake算法和ChatGPT這樣的大規(guī)模語言模型可以被用來創(chuàng)建虛假內(nèi)容,導(dǎo)致社會風(fēng)險,危及了區(qū)分真實和虛假的能力。[3]因此,利用人工智能深度偽造技術(shù),人們可以輕而易舉地制造出各種逼真的視頻、圖片和音頻,以跨越現(xiàn)實身體實踐的物理限制,從而操縱數(shù)字化身體實踐樣態(tài)的生成和流動性建構(gòu)。進(jìn)而言之,無論是人工智能深度偽造技術(shù)的正向應(yīng)用,還是負(fù)向應(yīng)用,以人工智能深度偽造技術(shù)為代表的生成式AI的創(chuàng)造力和技術(shù)想象力正在以“數(shù)字化身體”為焦點,引領(lǐng)AI從“換臉”到“造臉”的升級,以制造一個真實和虛假交融的生活世界。在超真實的數(shù)字化世界中,現(xiàn)實世界被虛擬世界遮蔽,進(jìn)而導(dǎo)致人的認(rèn)知、倫理和生存的虛無化。

二、人工智能深度偽造技術(shù)對數(shù)字化身體的再造

在人工智能深度偽造時代,身體行動被重塑。在現(xiàn)實世界中,物質(zhì)身體構(gòu)成了人具體行動的具身主體。按照現(xiàn)象學(xué)的觀點,身體構(gòu)成原初經(jīng)驗的來源,而非一個被動的客體。就身體主體而言,身體“成為一個體驗,就是內(nèi)在地與世界、身體和他人建立聯(lián)系,和它們在一起,而不是在它們的旁邊?！盵4]梅洛-龐蒂將其稱為身體圖式,一種理解、體驗生活世界和對意義把握的存在論方式?！吧眢w不是自為的客體;它實際上是‘一個自發(fā)的力量綜合、一個身體空間性、一個身體整體和一個身體意向性’。”[5]在此意義上,身體成為社會行動的一個符號系統(tǒng),是社會意義和社會符號的載體和承擔(dān)者,構(gòu)成了一種與社會互動建構(gòu)的場域。一方面,身體內(nèi)生于現(xiàn)實生活世界的深層次交往結(jié)構(gòu);另一方面,身體被技術(shù)美學(xué)、工業(yè)消費(fèi)主義所塑造。正如約翰·奧尼爾把身體區(qū)分為生理身體和交往身體,我們同樣可以把身體區(qū)分為現(xiàn)實身體和數(shù)字化身體。所謂的“數(shù)字化身體”,是指“公民在網(wǎng)絡(luò)空間和虛擬世界中所具有的、用以標(biāo)榜自我身份的一系列符號的總稱。”[6]數(shù)字化身體一方面復(fù)制了現(xiàn)實身體在生活世界的行動邏輯,另一方面也打破了身體的時空物理限制。數(shù)字化身體不是身體在虛擬世界的簡單數(shù)據(jù)化,而是塑造了一種數(shù)字時代的生存圖景,展現(xiàn)出新的特征。

(一)數(shù)字化身體的流動性

身體不是精神和意識的依附,而是標(biāo)志自我存在且能夠感知生活世界的主體。在社會場域中,內(nèi)生于具體的情境實踐,身體構(gòu)成了一種自我反身性的投射,從而建構(gòu)一種確定性的行動綱領(lǐng)和自我認(rèn)同。但是,在高度現(xiàn)代性的社會中卻產(chǎn)生了一種悖論。一方面,“高度現(xiàn)代性中的人們傾向于更加重視身體作為自我的構(gòu)成要素”;[7]另一方面,“現(xiàn)代性的抽象體系徹底滲透了自我與身體,并使之成為各種生活方式選擇的檢驗場”,[8]身體日益變得不確定。特別是在數(shù)字抽象化系統(tǒng)中,數(shù)字化身體具有高度的流動性。在數(shù)字現(xiàn)實和物理現(xiàn)實不斷融合的時空中,以數(shù)據(jù)、算法、智能平臺抽象而成的數(shù)字化身體具有一種高度流動性。一方面,以人工智能深度偽造技術(shù)為代表的數(shù)字化技術(shù)模糊了實體身體與數(shù)字化身體的界限;另一方面,不可避免地重新配置了身體在數(shù)字化網(wǎng)絡(luò)空間中的體驗、行為和社會關(guān)系,產(chǎn)生了一種不可預(yù)知性和不可感知性。數(shù)字化身體展現(xiàn)出一種數(shù)字化脫域機(jī)制,從具體交互式行動中抽離出來,而變得不可捉摸。更為重要的是,物質(zhì)身體是內(nèi)在具有人格同一性的實體存在,而數(shù)字化身體將內(nèi)部空間完全外溢于網(wǎng)絡(luò)社會群體之中,從而導(dǎo)致數(shù)字化身體行動的脆弱性,以一種數(shù)據(jù)信息流的方式在虛擬世界中進(jìn)行傳播和應(yīng)用。在此意義上,人工智能深度偽造技術(shù)創(chuàng)造了一種以身體為焦點的流動性控制和規(guī)訓(xùn),構(gòu)成了齊格蒙特·鮑曼(Zygmunt Bauman)等所言的“液態(tài)監(jiān)視”(liquid surveillance)。在液態(tài)監(jiān)視中,數(shù)字化身體是一種透明性的、可無限復(fù)制和生產(chǎn)的流動性存在材料?！耙簯B(tài)監(jiān)視與其說是一種更加詳細(xì)的監(jiān)視方式,不如說是一種新的定位,一種在當(dāng)今流動和動蕩的現(xiàn)代性中定位監(jiān)視發(fā)展的方式。出于一個目的提取的數(shù)據(jù)更容易被用于另外一個目的,監(jiān)視以迄今為止難以想象的方式蔓延,回應(yīng)并復(fù)制流動性,監(jiān)視不斷溢出各處。”[9]就此而言,就不能僅僅把深度偽造技術(shù)看作是一種簡單復(fù)制和創(chuàng)造數(shù)字化身體圖片的工具,而是應(yīng)當(dāng)把此種技術(shù)理解為一種新的數(shù)字權(quán)力。因為借助于高度智能的數(shù)字化平臺體系,深度偽造技術(shù)構(gòu)成了一種“監(jiān)視組合”,捕獲了可以稱之為身體數(shù)據(jù)的流動,將其轉(zhuǎn)化為高度流動和移動的數(shù)字替身。

(二)數(shù)字化身體的自我敞視

在后全景的流動性世界中,許多被大力收集和用于他處的圖片、視頻等信息實際上是人們自我的積極生產(chǎn)。這種圖景不再是福柯所言的全景式監(jiān)視,因為在?？碌恼軐W(xué)話語中,監(jiān)視必須具備有形的中心實體作為凝視者。但是,在數(shù)字時代,凝視者不再是傳統(tǒng)的凝視/被凝視的二元結(jié)構(gòu),而具有流動性和游牧性的特征,這也被韓炳哲稱之為“透明社會”。因此,要深刻理解人工智能深度偽造技術(shù)的社會機(jī)制,必須根植于數(shù)字透明社會。首先,數(shù)字時代的透明社會是一種自我展示的社會。在數(shù)字化全景展示社會中,“每一個主體都是自己的廣告對象。一切都是以它的展示價值來衡量的……所有的東西都被向外翻開、被揭去遮蔽、被奪走掩護(hù)……過度的展示將一切變成商品?！盵10]因此,我們并不害怕身體的展示和隱私的泄露,而是害怕被拒斥在數(shù)字生活世界之外。我們在主動地自我暴露,以各種數(shù)字化身體的生產(chǎn)和行動遨游于虛擬世界中。在各種身體數(shù)字自拍、身體數(shù)字化場景記錄、身體數(shù)字化虛擬中,將自己主動地暴露于數(shù)字化平臺之中。隨之而來的不是隱私喪失的憂慮和自由被剝奪的恐懼,相反,是各種數(shù)字生活場景自我展示獲得的點贊、積極評論和肯定等帶來的喜悅。這種自我展示邏輯似乎是一種自由,但實際上是一種自我剝削式的強(qiáng)制性視覺暴政和視覺透明主義?！叭缃?只有當(dāng)事物被展示出來并獲得關(guān)注時,才擁有了價值……也因此把自身變成了商品……我們的確狂熱地在社會網(wǎng)絡(luò)上‘生產(chǎn)自己’?！盵11]這種以自我展示為核心的數(shù)字化身體景觀的大量生產(chǎn)導(dǎo)致自我數(shù)字化的超可見性,一切在數(shù)字透明邏輯之中成為同質(zhì)化的被凝視之物。換言之,人既是數(shù)字化身體的凝視者,也是數(shù)字化身體的被凝視者。因此,在數(shù)字化身體圖景中,人們不斷構(gòu)建符號化、流程化和同質(zhì)化的自我暴露美學(xué),從而陷入了數(shù)字景觀崇拜和信息流瀑之中。這自然會導(dǎo)致數(shù)字化身體成為數(shù)字化技術(shù)無限拼接、挪用,復(fù)制、粘貼的去物化之物,為各種技術(shù)敘事和場景敘事提供了可能。因此,數(shù)字化身體是一種“去身體化”的存在,一種去實體化的遮蔽。

三、以數(shù)字化身體為焦點:人工智能深度偽造技術(shù)的倫理風(fēng)險

數(shù)字化身體成為人工智能深度偽造技術(shù)的操作對象和行動焦點。在數(shù)字化身體景觀中,人工智能深度偽造技術(shù)的倫理風(fēng)險涉及四個層次:個人、社會、國家和生存論意義上的本體性安全。

(一)生物識別數(shù)據(jù)隱私與自主性侵蝕

數(shù)字化個體生物識別信息數(shù)據(jù)濫用,從而導(dǎo)致隱私損害和自主性喪失。深度偽造技術(shù)正在以越來越常見的方式應(yīng)用于身體的數(shù)字化,包括人的聲音、肖像等各種生物識別信息。深度偽造并不是對真實生物信息的剽竊,而是對生物信息的數(shù)字化模仿、篡改。生物識別信息數(shù)據(jù)主要包括人臉、身體、表情、指紋、聲音、視網(wǎng)膜等靜態(tài)和動態(tài)圖像,具有四個特征:第一,普遍性,每個人都具備此種特性;第二,可收集性,即可定量測量的特性;第三,差異性,即人與人之間的特征應(yīng)該是不同的;第四,持久性,即特性應(yīng)該保持不變。[12]這四個特征決定生物識別信息關(guān)涉?zhèn)€體的自主性和核心隱私權(quán)利,即自我意識和社會身份的確證。但是,在深度偽造時代,隨著個體和各種智能設(shè)備互聯(lián),盡管受到威脅的不是人的現(xiàn)實身體等生物信息,而是數(shù)字世界中代表其形象和聲音的數(shù)據(jù)、照片、視頻和音頻材料等數(shù)字人格身份標(biāo)識,但是,數(shù)字識別信息代替了生物信息,數(shù)字角色則代表了社會角色。因此,生物識別信息數(shù)據(jù)加劇了隱私損害與自主性侵蝕。信息技術(shù)時代人的隱私權(quán)利分為四種,決策隱私是指個體免于不當(dāng)干擾對生活作出決定的權(quán)利;空間隱私是指個人物理空間的權(quán)利,即未經(jīng)明確同意,不能被侵犯;意向隱私是禁止或阻止可觀察事件或暴露特征的進(jìn)一步交流的權(quán)利;信息隱私是指個體信息訪問限制的權(quán)利,即這些信息代表了可能被用于識別個人身份的信息。[13]深度偽造技術(shù)一方面可以利用人的生物識別信息制造虛假視頻;另一方面,深度偽造技術(shù)可以生成真實的“虛假生物識別信息”。因此,虛擬生物識別信息的再造違背人的意愿,這當(dāng)然不再是簡單的知情同意問題,而是真正改變了個體決策隱私、意向隱私和信息隱私的權(quán)利,從而制造一種難辨真假的行為和思想表達(dá)。以人臉為例,在深度偽造時代,人臉正在成為一個矛盾集中的對象。作為生物事實和圖像、作為社會身份標(biāo)記、作為私人自我和公共空間的界面、作為自我暴露的場所、作為面具和商品,人臉在數(shù)字化時代面臨日益嚴(yán)重的挑戰(zhàn)。其中最重要的是,隨著數(shù)字成像和操縱技術(shù)的興起,作為圖像的人臉與人類主體性的親密、不可侵犯的聯(lián)系日益不穩(wěn)定和具有流動性,人臉可以未經(jīng)允許被過濾、復(fù)制、重塑、偽造和交換。[14]

(二)社會信任危機(jī)與群體分化

數(shù)字化群體的深度偽造導(dǎo)致社會信任異化和假新聞泛濫。假新聞是一個全球性的重大問題,而深度偽造技術(shù)和當(dāng)前人工智能算法的流行,為炮制深度假新聞提供了越來越多的機(jī)會和方式。鑒于政治領(lǐng)袖、行業(yè)專家、知識分子和公眾人物都適合被深度造假,這進(jìn)一步加深了假新聞的負(fù)面效應(yīng),引發(fā)公眾對新聞媒體的不信任感。此種不信任感的核心在于,公眾不一定被深度偽造技術(shù)欺騙,但是卻帶來一種無法區(qū)分真假的社會信任危機(jī),從而導(dǎo)致一種沒有足夠信息進(jìn)行確定性的選擇,即不斷接觸虛假信息的人們對包括視頻在內(nèi)的很多信息缺乏信任感,從而導(dǎo)致一種“信息末日”或“現(xiàn)實冷漠”的現(xiàn)象。沒有聲音是安全的,沒有圖像是安全的。將人工智能技術(shù)融入到這個真相終結(jié)的場景中,人們將無法區(qū)分現(xiàn)實和虛構(gòu)。如果你不能相信你的眼睛和耳朵,你還能相信什么?[15]“研究表明,真實的講話通常會被誤導(dǎo)性的、虛假的內(nèi)容淹沒在一種被稱之為虛幻的真理效應(yīng)之中,試圖糾正謊言往往適得其反。反復(fù)接觸錯誤信息,即使是為了糾正錯誤信息,也會增加錯誤信息被當(dāng)作真實信息的可能性?！盵16]因此,一旦事物的真實性在社會認(rèn)知層面遭遇整體性破壞,深度偽造就會降低人們對生活世界任何存在事物的信任感,從而削弱社會基本認(rèn)同感和社會共同體的道德一致性。為此,深度偽造可能會放大政治偏好、競爭行為、社會交流模式,從而加劇社會的兩極分化。深度偽造帶來可怕的認(rèn)知障礙和信任異化,即除了導(dǎo)致錯誤的信念和破壞真實的信念之外,深度偽造阻止人們獲得真實的信念。[17]這就進(jìn)一步削弱了信息作為信任確證的認(rèn)知價值,因為聲音和圖像的真實性不再被視為可靠與足夠安全。在20世紀(jì)的大部分時間內(nèi),雜志、報紙和電視廣播公司負(fù)責(zé)向公眾傳播信息,而且具有嚴(yán)格的專業(yè)標(biāo)準(zhǔn)和質(zhì)量要求,這意味著,只有有限的個人和組織可以廣泛傳播信息。而數(shù)字化平臺容易受到信息級聯(lián)的影響,即人們在傳遞他人共享信息時,不去檢查信息是否真實,最終結(jié)果是,虛假信息和謊言的傳播速度比以往任何時候都要快,從而成為深度偽造的沃土。換言之,在虛假與現(xiàn)實交融之間,信息泛濫與冗余導(dǎo)致獲得真實更加困難。很多時候,社會群體只能依靠習(xí)慣、情感和價值立場進(jìn)行選擇,從而導(dǎo)致社會群體極化、群體價值沖突激化、網(wǎng)絡(luò)謠言危機(jī)加深、網(wǎng)絡(luò)民粹主義盛行。

(三)政治輿論變異與社會民主破壞

深度偽造無論是對國家傳統(tǒng)安全(如軍事安全和政治安全),還是非傳統(tǒng)安全,以及國際安全,都帶來了越來越大的沖擊和挑戰(zhàn)。首先,是對政治人物的深度造假?；谔囟ㄕ文康摹⑻摷傩麄?、政治抹黑,深度偽造通過對政治人物的陷害、污蔑或勒索,從而引發(fā)政治安全危機(jī):“扭曲民主話語,侵蝕機(jī)構(gòu)信任,加劇社會分裂,破壞公共安全,破壞外交關(guān)系,危害國家安全。”[18]深度偽造會威脅每個政治團(tuán)體、宗教團(tuán)體、體育團(tuán)體,因為它賦予了其雙向攻擊能力,即任何團(tuán)體都可以相互攻擊對方,從而以各種墮落的方式做出垃圾言論和辱罵行為。特別是在重大政治活動前夕,對重要政治人物進(jìn)行視頻合成,歪曲相關(guān)人物的話語、行為,從而煽動社會爭議。而更加令人擔(dān)憂的是,任何人都可以把這些公眾人物疊加到任何視頻之中。鑒于深度偽造軟件的激增,以及公眾可以輕而易舉地訪問社交網(wǎng)站照片,制作這些深度造假并不困難,也不昂貴。用戶并不需要掌握神經(jīng)網(wǎng)絡(luò)的工作機(jī)制,只需要掌握一般的計算機(jī)應(yīng)用程序。在此意義上,很難阻止政治名人虛假視頻的持續(xù)生產(chǎn)和傳播。其次,深度偽造對社會民主造成威脅。其中最重要的挑戰(zhàn)是,深度偽造在社會公共事務(wù)中的非法武器化。惡意造假者可以偽造證據(jù),以助長對公眾人物的虛假指控,甚至可以對公眾人物的性格、身體健康和心理健康狀況進(jìn)行質(zhì)疑和篡改。當(dāng)然,深度偽造也可以針對公眾人物進(jìn)行全新的虛假包裝,包括發(fā)表有爭議的、歧視性的、仇恨性的極端言論,以達(dá)到制造虛假社會分歧或者煽動暴力的目的。再次,深度偽造可以發(fā)布虛假政治信息宣傳。在戰(zhàn)爭、軍事和國際政治較量中,深度造假作為一種虛假信息,可以為戰(zhàn)略、行動甚至戰(zhàn)術(shù)欺騙提供支持。例如,制作一段逼真的假視頻,描述某個國家政客針對其他國家和民族的仇恨性言論或者軍事威脅等,從而影響國家、地區(qū)和民族之間的關(guān)系,干擾國際政治穩(wěn)定。另外,深度偽造對于非國家行為體尤為有用,比如恐怖組織。這些組織歷來缺乏充分資源制作和傳播欺騙性足夠強(qiáng)且可信的音頻或視頻內(nèi)容,但是深度偽造技術(shù)卻為恐怖組織提供了輕而易舉地制造歪曲事實的暴力視頻的能力。

(四)后真相與本體性安全喪失

深度偽造技術(shù)建構(gòu)了“后事實”與“后真相”,消解了真相與客觀性?！昂笳嫦唷钡谋疽馐侵?客觀事實對公眾輿論的影響不如情感和個人價值訴求的影響力。[19]事實可以通過深度偽造進(jìn)行塑造,即“我們看見事實被人們撿起來,摔到墻上,它們自相矛盾,分崩離析,被夸大被模仿。我們正在見證牛頓第二定律的事實版本:在網(wǎng)絡(luò)上,每個事實都有一個大小相等、方向相反的反作用力?！盵20]事實的土崩瓦解,而且以一種感性直觀、真實存在的圖像和視頻的方式瓦解,進(jìn)而造成了后真相的濫觴。進(jìn)而言之,后真相并不是沒有真相,相反,人們獲取和傳播的信息都是真實的。但是,在深度偽造“事實”的場域中,真相無法自我顯現(xiàn)和表達(dá)。就此而言,后真相的本質(zhì)在于無共識。當(dāng)一個社會無法形成基于事實和真相的社會價值和秩序共識,而轉(zhuǎn)向事實在后、客觀在后、真相在后和認(rèn)知在后時,立場、情緒和利益自然成為塑造社會真相的決定性力量。[21]按照鮑德里亞的觀點,圖像等技術(shù)媒介還原的真相,即一種“我”作為主體的不在場,是一種再現(xiàn)的、無意義的符號,是“實際不存在但又偏偏存在的事實。再換句話說,就是幻影。”[22]那么,深度偽造則創(chuàng)造了更加逼真的事實符號化的真相幻影。在本體上,后真相對事實碎片的重組和解讀導(dǎo)致了不確定性風(fēng)險,即認(rèn)知的不確定性和生存論的不確定性。認(rèn)知的不確定性是一種由于缺乏足夠信息進(jìn)行行動的情境,特別是,深度偽造事實的不斷傳播導(dǎo)致人們在互聯(lián)網(wǎng)上即便擁有更為充分的“真相”信息,反而離真相越來越遠(yuǎn),由此走向生存論的不確定性——本體性安全的喪失。本體性安全是指,“大多數(shù)人對其自我認(rèn)同之連續(xù)性以及對他們行動的社會與物質(zhì)環(huán)境之恒常性所具有的信心?！盵23]“人在世界中存在,本體性安全其實就是人對自己遭遇到的世界因確定性而有可靠的感受、恒常的信心,自我也因連續(xù)的經(jīng)驗、經(jīng)歷而擁有清晰、穩(wěn)定的自我認(rèn)同?！盵24]在深度偽造的真實與虛假的來回切換中,人們自我構(gòu)建的經(jīng)驗與認(rèn)知模式在與外在世界系統(tǒng)打交道的過程中頻頻失效,導(dǎo)致時空脫域、信任系統(tǒng)危機(jī),從而陷入一種本體的焦慮。從根本上而言,深度偽造動搖了個體或群體信任經(jīng)驗的認(rèn)知結(jié)構(gòu)和判斷力,從而無法區(qū)分真實與虛假、可信與不可信。因此,后真相的危機(jī)不是簡單的認(rèn)知危機(jī),而是一種社會倫理危機(jī)和社會共識的瓦解,即對于媒介信息的系統(tǒng)性不信任和被欺騙感。深度偽造消融和遮蔽了事物的真實性和客觀性,不可避免地張揚(yáng)了非理性、情感認(rèn)同、政治立場對于事實本身的優(yōu)先地位。

四、人工智能深度偽造技術(shù)的虛無困境

人工智能深度偽造技術(shù)可以對個體隱私信息、群體社交行為、社會政治信息、商業(yè)經(jīng)濟(jì)信息進(jìn)行圖像和視頻的深度偽造和合成,產(chǎn)生認(rèn)知混亂、群體觀念撕裂、社會價值對立等風(fēng)險,從而導(dǎo)致事實的虛無、認(rèn)知的虛無、價值的虛無和技術(shù)虛無主義。

(一)事實的虛無:真相與假相的內(nèi)爆

在人工智能時代,公眾獲取信息和認(rèn)知世界的方式已從傳統(tǒng)的文字閱讀方式轉(zhuǎn)變?yōu)橐詧D像為主的方式。圖像分為靜態(tài)視覺圖像和動態(tài)視頻圖像,它們以具象性、生動化和近似性對現(xiàn)實世界進(jìn)行客觀反映與呈現(xiàn)。因此圖像和真相之間存在一種辯證關(guān)系,真相需要借助于圖像進(jìn)行表征和建構(gòu),與此同時,圖像作為真相呈現(xiàn)的一種方式,并不能完全等同于事實與真相,其存在著擬態(tài)真實和虛假再造。盡管圖像和真相之間并不是一種絕對的同一,但是作為一種事實客觀記錄和生動表達(dá)的圖像,仍然構(gòu)成了“有圖有真相”的觀念。[25]隨著人工智能深度偽造技術(shù)對圖像的合成、設(shè)計、重塑,數(shù)字化圖像以一種極其逼真的方式消解了視覺判斷中世界的真與假,從而具備了強(qiáng)大的事實與真相的遮蔽能力。此種數(shù)字化圖像不是簡單地對真實事物的模仿,不是作為一種模仿存在范式,而是數(shù)字模仿物的再造,從而構(gòu)成數(shù)字圖像仿真存在序列和數(shù)字?jǐn)M像存在序列。深度偽造數(shù)字圖像作為一種按照既定技術(shù)模式生產(chǎn)出來的存在之物,導(dǎo)致了真實與虛假、真相與假相的崩塌與內(nèi)爆。它們系統(tǒng)性地破壞了客體與現(xiàn)實、圖像與表征真相之間的存在論基礎(chǔ)。因此,事實在深度偽造技術(shù)超真實的圖景中不斷被轉(zhuǎn)碼、誤讀、復(fù)制與重構(gòu),由此,真相變成了仿真機(jī)器生產(chǎn)出來的代碼、抽象符號和視覺意象。進(jìn)而言之,深度偽造技術(shù)成為一種媒介,不斷解構(gòu)現(xiàn)實社會和網(wǎng)絡(luò)社會的事實樣態(tài),導(dǎo)致真實與虛假的界限消融,即事實以一種內(nèi)爆的方式走向虛無。此種內(nèi)爆不僅是數(shù)字化圖像事實的內(nèi)爆,更是數(shù)字化圖像意義的內(nèi)爆。事實所傳達(dá)的意義被深度偽造直接扭轉(zhuǎn)與吞噬,從而引發(fā)真相的懸空。

(二)認(rèn)知的虛無:真相衰退與認(rèn)知無能

在人工智能深度偽造技術(shù)的場域中,事實和真相不斷走向虛無,其必然結(jié)果是認(rèn)知的虛無。所謂“認(rèn)知的虛無”是指,人們不再執(zhí)著于事實與真相,而是基于自身的文化背景、社會階層和群體結(jié)構(gòu),利用道德情感、價值判斷、文化傳統(tǒng)對真相進(jìn)行建構(gòu),從而塑造一種后真相認(rèn)知。深度偽造技術(shù)把后真相塑造為一種介于真相和假相之外的不確定性真相和人造真相,進(jìn)入“真相衰退”和認(rèn)知虛無的境地。在深度偽造技術(shù)時代,基于視覺圖像的認(rèn)知虛無主要包括兩個方面。首先,情感壓倒理性成為認(rèn)知的主宰。已有的認(rèn)知科學(xué)研究表明,情感不僅影響對信息的選擇和加工,還規(guī)定了認(rèn)知策略與風(fēng)格,人們會因為所處的情感狀態(tài)不同而采取不同的思考?xì)v程。[26]情感讓人在眾多認(rèn)知對象中具有原初性的選擇和排序,從而影響人的認(rèn)知過程。這突出體現(xiàn)在,真相認(rèn)知樣態(tài)更多以煽情、圈層化、民粹化、想象性、片面化的形式存在。其次,基于人工智能的數(shù)字化圖像的再造導(dǎo)致真相與事實的認(rèn)知無能。一方面,人工智能深度偽造技術(shù)利用強(qiáng)大的網(wǎng)絡(luò)數(shù)據(jù)資源庫,以生成對抗網(wǎng)絡(luò)和自動編碼器為武器,對數(shù)字化圖像進(jìn)行任意裁剪、復(fù)制、拼接、移除和合成,以一種更加具象化、可信性、感染性和擬真化的方式篡改和顛覆真實事件,導(dǎo)致人們深陷一種競爭性真相和事實審查的網(wǎng)絡(luò)社交場域。進(jìn)而言之,人們需要調(diào)動自身既定的認(rèn)知圖式,不斷地將所有的圖像都看作是有待考證的非確切性信息。因此,關(guān)鍵問題不在于簡單地把假相當(dāng)作真相,而是對任何真相進(jìn)行毫無根據(jù)的質(zhì)疑,以期獲得認(rèn)知安全。但是,面對海量的數(shù)字圖像,真相的追尋只能轉(zhuǎn)變?yōu)椤罢嫦嗖粩喾崔D(zhuǎn)和人為闡釋”的循環(huán),從而走向了一種認(rèn)知無能。

(三)道德的虛無:圖像制造的道德困境

在人工智能深度偽造時代,有圖無真相導(dǎo)致了道德虛無的風(fēng)險。人工智能深度偽造技術(shù)利用深度學(xué)習(xí)算法,可以完美復(fù)制人的聲音、指紋和外貌等個性化生物識別信息數(shù)據(jù),制造一個隱私透明的“圖像時代”。一方面,任何人都擁有篡改圖像進(jìn)行各種虛假敘事的能力,從而對特定個體、群體和社會進(jìn)行各種諸如攻擊、污蔑、暴力、造謠、煽動、色情等反道德行為。另一方面,圖像時代的視覺凝視和遠(yuǎn)距離圍觀導(dǎo)致對他人的隱私、痛苦、生活境遇的偷窺和娛樂化更為自由和便捷,甚至產(chǎn)生了一種合理化的快感。因此,傳統(tǒng)的“非禮勿視”的倫理規(guī)范自然失去了約束力,因窺視而產(chǎn)生的畏懼和罪責(zé)愈加淡化。相反,由窺視所產(chǎn)生的新奇、刺激的感官體驗進(jìn)一步強(qiáng)化了主體的窺視沖動,漸而以圖像時代特定的權(quán)力形態(tài)左右著自身的視覺行為。[27]這就塑造了一種“不在場”的道德事實和道德敘事,導(dǎo)致網(wǎng)絡(luò)圖像假相和謠言的超時空和大規(guī)模傳播。因此,道德敘事和道德場景在深度偽造圖像中開始走向迷失,人們獲得的有關(guān)社會事件的道德判斷和道德認(rèn)知正在受到侵蝕,而道德真相本身成為一個有待確證的關(guān)鍵問題,即人們頻繁接觸的虛假道德圖像敘事導(dǎo)致人們對道德情境、道德判斷和道德規(guī)則失去信心。換言之,最大的風(fēng)險并不是人們的隱私和自由受到侵犯,而是會把一切數(shù)字圖像和視頻都看作是蓄意設(shè)計、營造假相、憑空捏造、博取眼球和制造混亂的否定性的道德敘事。因此,深度偽造圖像時代的道德失范不僅是制造虛假圖像行為主體的道德失范,而是公眾可能會對道德事實和理性道德判斷失去興趣和耐心,形成一種后現(xiàn)代性的犬儒主義。進(jìn)而言之,在這樣一個圖像制造凸顯的時代,既定的道德規(guī)則在一定程度上失去了約束力,而新的道德體系尚未形成;復(fù)雜的網(wǎng)絡(luò)道德情境也愈發(fā)進(jìn)入一種真假難辨的境況,進(jìn)而導(dǎo)致道德判斷失去根基和道德后果的無力承擔(dān)。

(四)技術(shù)虛無主義:主體性剩余與存在的限定

何為技術(shù)虛無主義,其僅僅是“技術(shù)”和“虛無主義”兩個詞語的拼接嗎?恰恰相反,技術(shù)與虛無主義具有共同的基礎(chǔ)和內(nèi)在關(guān)聯(lián)?！凹夹g(shù)和虛無主義有著相同的之所以可能的基礎(chǔ),即它們并不是一個被人為捏合起來的毫無意義可言的語詞,它們的意義就在形而上學(xué)之中?！盵28]事實上,海德格爾并沒有直接使用“技術(shù)虛無主義”一詞,但是,在海德格爾看來,形而上學(xué)的本質(zhì)就是虛無主義,而作為現(xiàn)代理性主義產(chǎn)物的技術(shù)同樣也是形而上學(xué)的。技術(shù)作為人類生存的方式,懸置了新的最高價值。技術(shù)的形而上學(xué)本質(zhì)是一種“求意志的意志”,“技術(shù)一詞被等同于正在自行完成的形而上學(xué)概念”。[29]由此,海德格爾給出了技術(shù)形而上學(xué)本質(zhì)的界定,技術(shù)不僅僅是一種手段,技術(shù)乃是一種解蔽方式,作為一種集-置,構(gòu)成了生活世界的統(tǒng)治性力量。

人工智能深度偽造技術(shù)導(dǎo)致的虛無主義不是技術(shù)形態(tài)的簡單更新,而是從實踐層面加深了技術(shù)虛無主義的境況。技術(shù)虛無主義的根源在于,技術(shù)作為現(xiàn)代社會的抽象統(tǒng)治力量,具有強(qiáng)大的同一性和祛魅功能,造成了人類生活世界的千篇一律的狀態(tài)。而人工智能深度偽造技術(shù)深諳其道,并且構(gòu)成了一種新型的數(shù)字化圖像崇拜的形而上學(xué)。人工智能時代的虛無主義不再是哲學(xué)家所設(shè)想的技術(shù)虛無主義批判,而是正在推進(jìn)的時代精神現(xiàn)狀。面對生成式人工智能創(chuàng)造力的涌現(xiàn),人類主體性剩余成為時代標(biāo)簽。人類的認(rèn)知能力、情感能力、價值判斷能力、社會實踐能力不斷被人工智能替代,產(chǎn)生了無聊的主體性剩余。更重要的是,人工智能深度偽造技術(shù)讓剩余的主體性產(chǎn)生了沖突、混亂和虛妄。深度偽造技術(shù)在人與現(xiàn)實生活世界之間建立了一種數(shù)字化聯(lián)系,讓人們擁有且執(zhí)行了之前無法擁有的體驗和感知,以塑造人們的行為。深度偽造技術(shù)不僅能夠?qū)φ鎸嵤澜邕M(jìn)行數(shù)字化再造,而且可以建構(gòu)諸如虛擬數(shù)字人、虛擬偶像、虛擬主播、全息人像投影等各種生活場景,具有強(qiáng)大的技術(shù)可供性(affordance),其不再是由算法和大數(shù)據(jù)所構(gòu)成的純粹物理結(jié)構(gòu),而是具有遮蔽和解蔽數(shù)字生活世界能力、社會表征和象征性的社會建構(gòu)物。一方面,深度偽造技術(shù)能夠增強(qiáng)人與生活世界打交道的能力,從而解蔽和再現(xiàn)某種事實和真相;另一方面,深度偽造技術(shù)對人的認(rèn)知和行為進(jìn)行了遮蔽,對人與真實世界打交道的能力進(jìn)行了技術(shù)限定。因此,人工智能深度偽造技術(shù)重塑了人與世界的關(guān)系。深度偽造技術(shù)絕不是類似于眼鏡之類的身體器官延伸,而是從根本上以圖形和擬像的方式重構(gòu)了人的認(rèn)知能力,建構(gòu)了表征世界的賽博格式的人——媒介混合主體。進(jìn)而言之,深度偽造技術(shù)通過智能算法、大數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò),再造數(shù)字化生活世界,以一種擬人化的意向性重構(gòu)了人與媒介、人與生活世界的關(guān)系。由此,深度偽造技術(shù)作為一種行動者,與人共同生產(chǎn)生活事實,塑造分布式認(rèn)知,擴(kuò)展人的行動能力。深度偽造技術(shù)不是簡單沉默的中介者,而是積極能動的調(diào)節(jié)者,建立了數(shù)字化媒介環(huán)境。在此意義上,深度偽造技術(shù)具有生存論意義,即技術(shù)與人共同建構(gòu)實在。

五、結(jié)語:人工智能技術(shù)的不確定性圖景

以人工智能深度偽造技術(shù)為代表的AI技術(shù)日益復(fù)雜化,應(yīng)用于人類生活世界的各個場景和領(lǐng)域之中,帶來了社會、政治、倫理和存在論意義上的深遠(yuǎn)影響,此種影響往往無法進(jìn)行預(yù)測且伴隨不可預(yù)知的后果。由此可見,人工智能技術(shù)發(fā)展具有內(nèi)在的不確定性以及后果的不確定性。傳統(tǒng)上,人們常常使用“風(fēng)險”或“風(fēng)險社會”的概念形容人工智能技術(shù)的潛在后果。事實上,當(dāng)使用“風(fēng)險”一詞的時候,在認(rèn)識論和行動層面仍然存在概率的定量分析。因此,“風(fēng)險”往往是一個定量的概念,是指危險后果的大小數(shù)量值。當(dāng)然,由于技術(shù)風(fēng)險發(fā)生于具體的社會場景中,風(fēng)險往往還存在主觀預(yù)期和認(rèn)知的差異,從而形成了以客觀性風(fēng)險為基礎(chǔ)的可接受性風(fēng)險,在此就需要考量不同群體的差異、知情同意權(quán)利和相應(yīng)的成本-收益分析,從而形成了一種后果主義的多數(shù)決策原則,以保證技術(shù)風(fēng)險運(yùn)行的經(jīng)濟(jì)合理性和道德可接受性。但是,人工智能技術(shù)帶來的后果不再僅僅是風(fēng)險范式意義上的影響,而是“不確定性圖景”,即根據(jù)當(dāng)前信息和狀態(tài),無法推斷人工智能技術(shù)的未來發(fā)展趨勢。

人工智能技術(shù)的后果從風(fēng)險范式轉(zhuǎn)換為不確定性范式,表現(xiàn)為人工智能技術(shù)展現(xiàn)出強(qiáng)大的自主性力量,擁有內(nèi)在的技術(shù)邏輯和發(fā)展驅(qū)動力?；诖髷?shù)據(jù)、算法、算力、大規(guī)模語言模型、數(shù)字化平臺,人工智能技術(shù)的發(fā)展軌跡具有不可預(yù)知、不可預(yù)見和無法預(yù)測的性質(zhì),即從人工智能技術(shù)的設(shè)計、研究、開發(fā)到產(chǎn)品應(yīng)用、場景應(yīng)用和應(yīng)用后果,都存在著不確定性。當(dāng)然,導(dǎo)致不確定性的原因有很多,包括人工智能技術(shù)內(nèi)在的黑箱效應(yīng)、科學(xué)研究、市場需求、政治決策以及公眾消費(fèi)主義行為等因素。在多重因素的助推下,人工智能技術(shù)的不確定性展現(xiàn)了新特征,即技術(shù)加速主義和數(shù)字資本主義。在資本邏輯的加持下,人工智能技術(shù)通過無限循環(huán)和加速運(yùn)轉(zhuǎn),把人類現(xiàn)實生活世界的生命體驗、時間控制、生活節(jié)奏、倫理原則和法律規(guī)范遠(yuǎn)遠(yuǎn)地拋諸腦后,人們在享受人工智能巨機(jī)器積極后果的同時,也只能疲于應(yīng)付其潛在的負(fù)面效應(yīng)。因此,在人工智能技術(shù)加速之下,人類生活世界日益充滿了脆弱性和不確定性。為了控制此種局面,各國政府、學(xué)術(shù)機(jī)構(gòu)等制定了種種倫理規(guī)范、治理框架和法律法規(guī)。但是,種類繁多的確定性倫理原則和規(guī)范如何應(yīng)對不確定性的人工智能技術(shù)發(fā)展,仍然是一個充滿現(xiàn)實困境的問題。當(dāng)然,強(qiáng)制叫停特定人工智能技術(shù)的發(fā)展也只是權(quán)宜之計,而非終極解決辦法,非但無助于實質(zhì)問題的解決,甚至加劇了公眾對于人工智能技術(shù)的恐慌。

話已至此,面對人工智能技術(shù)加速發(fā)展的不確定性,我們仿佛進(jìn)入了一個悲觀主義境地。事實上,如果說人工智能的超人類主義是虛無主義的未來版本,那么當(dāng)前人工智能技術(shù)的不確定性圖景和虛無是一種正在推進(jìn)的現(xiàn)實境況。面對人工智能內(nèi)在的虛無力量,我們總是以一種迫切的心態(tài)、加速主義方式和一攬子計劃模式去解決和控制技術(shù)的不確定性,從而嘗試建立一個“確定性的世界”。但是,建立一個確定性的世界何嘗不是另外一種虛無主義。如果我們轉(zhuǎn)換一種思路,把技術(shù)當(dāng)作是人類生存的本質(zhì)方式,那么,人工智能技術(shù)對生活世界的虛無、社會政治秩序的解構(gòu)、倫理規(guī)范的挑戰(zhàn),同樣也是對未來社會進(jìn)行重構(gòu)和塑造。因此,關(guān)鍵不在于確定性世界和確定性觀念的建立,更重要的是,以一種生存論哲學(xué)視角去看待人工智能技術(shù),即人工智能技術(shù)就是人的本質(zhì)存在,其帶來的種種問題并不是技術(shù)對人的單向度地反噬和異化,而是人類社會發(fā)展和人的自我建構(gòu)不斷揚(yáng)棄的歷史過程。