王軍峰

(陜西師范大學(xué) 新聞與傳播學(xué)院，陜西 西安 710119)

近年來，隨著人工智能機(jī)器人(簡稱“人工智能”)在生活領(lǐng)域的滲透，與人工智能題材相關(guān)的科幻電影越來越多，尤其是作品中關(guān)于人工智能和人的關(guān)系的思考以及人工智能的情感問題吸引了廣泛關(guān)注，也給人們帶來了無盡想象與思考。如何在現(xiàn)實(shí)層面理解人工智能，影視作品又構(gòu)建了什么樣的關(guān)于人工智能的風(fēng)險(xiǎn)想象，這對(duì)我們在現(xiàn)實(shí)與虛擬世界兩個(gè)維度上理解人工智能具有重要意義。筆者重點(diǎn)分析了人工智能在現(xiàn)實(shí)層面存在的悖論，以及影視作品給我們構(gòu)建的關(guān)于人工智能的風(fēng)險(xiǎn)想象，以為人們?nèi)嫔钊胝J(rèn)識(shí)、理解人工智能提供思路。

一、人工智能引發(fā)的三重悖論

人工智能的發(fā)展離不開現(xiàn)實(shí)社會(huì)語境，對(duì)人工智能的理解也應(yīng)該以社會(huì)語境為前提。隨著人工智能變得越來越具有人性，越來越具有自主意識(shí)，這也需要我們進(jìn)一步思考人工智能的根本屬性是什么、具有意識(shí)的和情感的人工智能是人還是物、人和人工智能之間的關(guān)系是什么等關(guān)鍵性問題。將這三個(gè)問題作為回答人工智能是什么的關(guān)鍵，能夠呈現(xiàn)出關(guān)于人工智能風(fēng)險(xiǎn)與想象的三重悖論：技術(shù)性與社會(huì)性的悖論、人性與物性的悖論以及控制與自由的悖論。

(一)技術(shù)性與社會(huì)性的悖論

人工智能是科學(xué)技術(shù)發(fā)展的產(chǎn)物，因而人工智能具有技術(shù)屬性，但隨著其滲透到社會(huì)關(guān)系的程度越來越深入，人工智能越來越朝向具有“人性”和“意識(shí)”的方向發(fā)展，這要求我們從社會(huì)層面思考人工智能的技術(shù)性與社會(huì)性之間的關(guān)系。而是否具有意識(shí)，是人與人工智能之間的根本區(qū)別。對(duì)此，哲學(xué)家米德認(rèn)為人的自我意識(shí)的形成，本質(zhì)上都是人類在社會(huì)空間中的經(jīng)驗(yàn)產(chǎn)物，這里強(qiáng)調(diào)的社會(huì)空間是人的自我意識(shí)產(chǎn)生的重要前提。馬克思也強(qiáng)調(diào)人是社會(huì)性動(dòng)物，處于一定的社會(huì)關(guān)系中呈現(xiàn)出其社會(huì)性特征。由此，現(xiàn)實(shí)層面，人工智能的技術(shù)性和社會(huì)性發(fā)展方向形成了悖論：一方面，人工智能是技術(shù)的產(chǎn)物，具有技術(shù)性的本質(zhì)特征，但另一方面人工智能的發(fā)展也呈現(xiàn)出社會(huì)性的發(fā)展趨勢，它越來越深入到人類的社會(huì)關(guān)系中。具體來看，目前的人工智能更多是以工具性、技術(shù)性屬性出現(xiàn)的，其在“人—機(jī)”關(guān)系中處于從屬位置，其存在的價(jià)值在于為人類創(chuàng)造更好的服務(wù)，只有在服務(wù)于人類生活中才顯示出其價(jià)值所在。但這種價(jià)值根本上看是一種工具價(jià)值，這是其技術(shù)維度。[1]但是，無論是在現(xiàn)實(shí)層面還是在影視作品中，關(guān)于人工智能的社會(huì)性也有其存在的基礎(chǔ)。例如，當(dāng)前手機(jī)里的人工智能助手，能夠和人類產(chǎn)生一定的互動(dòng)和交流，聊天機(jī)器人的出現(xiàn)為人機(jī)關(guān)系的呈現(xiàn)提供了更多想象。可以說，在社會(huì)層面上人工智能又呈現(xiàn)出其社會(huì)功能以及社會(huì)價(jià)值。那么，關(guān)鍵的問題在于這種社會(huì)性是否能夠讓人工智能產(chǎn)生獨(dú)立自主的“意識(shí)”，從而呈現(xiàn)出其社會(huì)屬性呢？這一點(diǎn)，影視作品給出了想象的空間。例如，在影視作品《人工智能》中，不僅有人工智能和人之間的互動(dòng)，而且有人工智能機(jī)器人和同類機(jī)器人之間的互動(dòng)。這種互動(dòng)盡管是以程序性的、事先設(shè)置的方式呈現(xiàn)的，但依然呈現(xiàn)出人工智能的社會(huì)性想象。在這種情況下，如何認(rèn)識(shí)人工智能呈現(xiàn)出的這種社會(huì)交往、交互、交流，以及人工智能是否會(huì)因此而生長出獨(dú)立的自我意識(shí)，從而擺脫自身技術(shù)性的束縛值得思考。

(二)人性與物性的悖論

遵循著人工智能技術(shù)屬性和社會(huì)屬性的討論，關(guān)于其物性與人性的悖論也存在其中，并在理解人工智能上具有重要意義。這就需要我們深入理解人性與物性之間的關(guān)系。美國心靈哲學(xué)家約翰·塞爾認(rèn)為人的心靈具有意識(shí)性、意向性、主觀性和心理的因果性四個(gè)特征。這四個(gè)特征是人區(qū)別于其他一切生物的人類特征。[2]黑格爾則認(rèn)為“思維是人的專屬，是人類與其他物體區(qū)別開的本質(zhì)所在”。[3]在現(xiàn)實(shí)層面看，一些研究者認(rèn)為人工智能發(fā)展的高級(jí)階段(高級(jí)人工智能或強(qiáng)人工智能)是需要具有情感和意識(shí)的。例如，有的人工智能專家就認(rèn)為“人工智能機(jī)器能否有情感不是問題，而問題在于機(jī)器實(shí)現(xiàn)智能的時(shí)候不能沒有情感”。[4]而人工智能哲學(xué)家瑪格麗特·博登也認(rèn)為“創(chuàng)造力和情感”對(duì)實(shí)現(xiàn)強(qiáng)人工高智能是必不可少的。這為人工智能的人性化發(fā)展提供了理論設(shè)想?？苹秒娪盀槲覀兲峁┑奈磥砭跋笫侨斯ぶ悄堋捌炔患按貨_入社會(huì)關(guān)系網(wǎng)絡(luò)，并把自己當(dāng)成社會(huì)中的一員，甚至要求對(duì)這個(gè)世界擁有掌控權(quán)”。[5]在電影中，人工智能機(jī)器人被程序設(shè)置成具有情感性，最終成為具有自我意識(shí)的個(gè)體，參與到與人的情感交流中，參與到與機(jī)器的情感交流中。在電影中，這種社會(huì)性交往成為人工智能機(jī)器人生成自我意識(shí)，乃至想要成為一個(gè)“真人”的動(dòng)力。例如，《人工智能》中機(jī)器人大衛(wèi)對(duì)人類永無止境，歷久彌堅(jiān)的愛，完全是通過計(jì)算機(jī)程序?qū)崿F(xiàn)的。在《機(jī)器管家》中，安德魯在與人類的相處中慢慢生發(fā)出一股人類般的情感和情感需求，正是這一強(qiáng)烈的情感需求使得它擁有了強(qiáng)大的內(nèi)在驅(qū)動(dòng)力，它充滿了“變?nèi)恕钡牧α亢投分?。由此，人工智能呈現(xiàn)出來的“人性”超過了其具有的“物性”。但就目前的現(xiàn)實(shí)層面來看，人工智能的社會(huì)性交往依然是一種程序性的、事先設(shè)置好的，盡管有聊天機(jī)器人的誕生，但這種交往還依然難以觸達(dá)情感層面。即使是機(jī)器人與機(jī)器人之間的交往，也難以產(chǎn)生情感這類“人”具有的特殊社會(huì)性需求。這種交流更多的是一種人工智能深度學(xué)習(xí)之后的程序型反應(yīng)，難以產(chǎn)生自我意識(shí)。

(三)自由與控制的悖論

在對(duì)人與人工智能之間的關(guān)系的思考上，目前主要是以人類中心主義的視角進(jìn)行關(guān)照的。在這一前提下，“人—機(jī)”關(guān)系是以人為主，人控制機(jī)器，機(jī)器為人服務(wù)的關(guān)系，這呈現(xiàn)出人工智能的物質(zhì)、技術(shù)屬性。隨著人工智能研發(fā)不斷呈現(xiàn)出智能化、人性化的趨勢，公眾對(duì)人工智能的風(fēng)險(xiǎn)想象多集中在人工智能具有了自我意識(shí)和情感后，就更容易掙脫人類的控制進(jìn)而尋求自身的自由的問題。由此，具有高度智能性的人工智能作為技術(shù)性的、物質(zhì)性的工具機(jī)器，在社會(huì)層面和人性層面的不斷進(jìn)步，引發(fā)了關(guān)于人工智能自由與控制的風(fēng)險(xiǎn)。這不僅是現(xiàn)實(shí)中的悖論，而且在關(guān)于人工智能的影視作品中也呈現(xiàn)出來。例如，電影《機(jī)械公敵》就為觀眾描述了這一個(gè)因失控而攻擊人類的人工智能形象。影視作品中的人工智能逼真度越來越高，與人的界限感也變得越來越小，已從過去物化的“它”轉(zhuǎn)向了擬人的“他”，甚至向超人化的“他”前進(jìn)。[6]這些影片中創(chuàng)造人工智能的人都始終存在一個(gè)矛盾，即人們既想創(chuàng)造出和人類一模一樣的人工智能，又想讓它們服從人類的指令。但悖論在于，若人工智能真的成為人們所期待的人類一樣的話，那同時(shí)意味著它擁有意識(shí)，而一旦有了自主意識(shí)后它就很難再聽從人類的擺布。[7]

可以說，關(guān)于人工智能的憂思與風(fēng)險(xiǎn)想象，主要圍繞著其技術(shù)屬性與可能形成的社會(huì)屬性之間的沖突展開，由此在技術(shù)層面上決定了人工智能在與人的關(guān)系中呈現(xiàn)出物性，而這種物性是一種工具性的體現(xiàn)，自然人們在處理與人工智能的關(guān)系上就呈現(xiàn)出控制的傾向，而這種傾向具有人類中心主義的本質(zhì)特征。但相應(yīng)地，圍繞人工智能的社會(huì)性，如社會(huì)功能、社會(huì)價(jià)值甚至人工智能發(fā)展的情感性、人性趨勢，由此而呈現(xiàn)出其自我意志、自我情感，最終呈現(xiàn)出人工智能對(duì)人性的追求和對(duì)掙脫人類控制束縛的風(fēng)險(xiǎn)想象。

二、影視作品中人工智能的風(fēng)險(xiǎn)想象

人工智能的身體形象正在伴隨著技術(shù)本身的發(fā)展而變化，經(jīng)歷了從“機(jī)械化”到“人體化”再到“虛擬體”的轉(zhuǎn)變，形成了金屬機(jī)械如《星球大戰(zhàn)》《第五元素》、人類肉身如《西部世界》《銀翼殺手》《終結(jié)者》《人工智能》《機(jī)械姬》等，以及虛擬主體如《2001太空漫游》《她》等幾種類型。[8]但無論是哪一種身體形象，影視作品都為人們設(shè)置了處理人工智能與人之間關(guān)系的可能性，也為人們呈現(xiàn)了不同的風(fēng)險(xiǎn)想象。它們在不同層面呈現(xiàn)人工智能存在的現(xiàn)實(shí)悖論，由此增強(qiáng)了風(fēng)險(xiǎn)想象與現(xiàn)實(shí)悖論之間的張力。

(一)敵意型人工智能及其風(fēng)險(xiǎn)呈現(xiàn)

人工智能是否有可能形成一種破壞性力量，進(jìn)而威脅到人類的生存？對(duì)于這一風(fēng)險(xiǎn)發(fā)生的可能性，英國著名理論物理學(xué)家史蒂芬·霍金警告人們：人工智能的發(fā)展可能意味著人類的滅亡。比爾·蓋茨也認(rèn)為人工智能將最終構(gòu)成一個(gè)現(xiàn)實(shí)性的威脅。馬克斯公開警告人們需要重視人工智能帶來的危險(xiǎn)性。這種將人工智能放在人類生存的對(duì)立面，最終呈現(xiàn)出破壞性、毀滅性后果的影視作品，可以將其稱之為“敵意型人工智能”。它為觀眾呈現(xiàn)了破壞性力量，具有較強(qiáng)的警示作用，在人類與人工智能的關(guān)系上主要呈現(xiàn)了自由與控制的想象。例如，電影《世界之主》中就為觀眾呈現(xiàn)出了科學(xué)家試圖創(chuàng)造機(jī)器人來幫助人類完成工作，但卻反被機(jī)器人所利用，最終自取滅亡的經(jīng)典橋段?！稒C(jī)械公敵》中，全新的智能型機(jī)器人產(chǎn)品上市前夕，機(jī)器人創(chuàng)造者朗寧在公司內(nèi)遇害，人們發(fā)現(xiàn)行兇者正是朗寧研制出來的機(jī)器人。隨著調(diào)查深入，人們發(fā)現(xiàn)正是這種全新的智能機(jī)器人獲得了進(jìn)化的能力，產(chǎn)生了自我意識(shí)，對(duì)機(jī)器人三大定律產(chǎn)生了自己的理解，在絕對(duì)理性計(jì)算的邏輯下，成為危害整個(gè)人類的“機(jī)械公敵”。盡管影片最后呈現(xiàn)了人類與智能型的機(jī)器人達(dá)成和解，但電影的多元想象空間依然存在。如這種工具型人工智能究竟有無意識(shí)、究竟具有自主意識(shí)的機(jī)器人對(duì)人類來說是福是禍等，都引發(fā)了更多的思考?！督K結(jié)者》則描繪了這種風(fēng)險(xiǎn)的最終想象，在影片中機(jī)器人已經(jīng)掌控著天下，它們想要完全占領(lǐng)這個(gè)世界，把人類趕盡殺絕，人類只能死死抵抗。可以看出，敵意型人工智能以毀滅人類的形式出現(xiàn)，它構(gòu)成了人類面對(duì)人工智能時(shí)代的終極想象。在冰冷的機(jī)器面前，在技術(shù)與物性的邏輯下，人與機(jī)器之間沒有含情脈脈，而構(gòu)成為相互對(duì)抗，甚至相互毀滅的兩極。

(二)工具型人工智能及其風(fēng)險(xiǎn)呈現(xiàn)

工具型人工智能主要呈現(xiàn)的是機(jī)器人的技術(shù)性與社會(huì)性之間的悖論。這類人工智能是以人類助手的身份出現(xiàn)的，但在介入到人類社會(huì)中呈現(xiàn)出技術(shù)性與社會(huì)性雙重屬性?！稒C(jī)器管家》為我們呈現(xiàn)了人工智能的技術(shù)性和社會(huì)性想象。安德魯本來是一個(gè)機(jī)器人，在進(jìn)入到人類家庭中和人類相處的過程中，它的工具屬性隨著與人類之間的互動(dòng)和交流越來越少，而社會(huì)屬性逐漸增加，尤其是其細(xì)膩的情感讓它成為獨(dú)一無二的那一個(gè)。例如，它為小女孩設(shè)計(jì)藝術(shù)作品，能夠欣賞音樂，能夠懂得人類情感等，越來越讓它成為一個(gè)社會(huì)性成員，在此過程中生發(fā)出了人類的情感和意識(shí)。由此安德魯逐漸從技術(shù)屬性轉(zhuǎn)向社會(huì)屬性。該片的另一個(gè)譯名為《成人》，就揭示了安德魯從人工智能機(jī)器人到成為一個(gè)具有社會(huì)屬性的真正的人的過程。電影《人工智能》也為觀眾描繪了關(guān)于人工智能社會(huì)屬性的想象：影片中機(jī)器人大衛(wèi)與喬之間的相互交往，以及喬對(duì)大衛(wèi)提供的幫助，呈現(xiàn)了機(jī)器人之間的友誼。而在機(jī)器屠宰場，機(jī)器人小女孩對(duì)大衛(wèi)的營救，也呈現(xiàn)了機(jī)器人之間的社會(huì)性關(guān)系。還有一種工具型人工智能，它以人類高科技的操作系統(tǒng)的形式存在，可以被稱為程序—工具型人工智能，對(duì)于現(xiàn)實(shí)社會(huì)來說，程序有混亂和出錯(cuò)的風(fēng)險(xiǎn)，而電影中呈現(xiàn)的程序—工具型人工智能也存在類似的風(fēng)險(xiǎn)。例如，電影《超驗(yàn)駭客》描述了這樣一個(gè)故事：人工智能領(lǐng)域的科學(xué)家威爾卡斯特開發(fā)出了一種具有人類情感和智慧的計(jì)算機(jī)系統(tǒng)，但這導(dǎo)致他成為反科技極端分子的襲擊目標(biāo)。他遇襲后危在旦夕，其妻子和朋友繼續(xù)進(jìn)行他的研究，并將他的意識(shí)上傳到了計(jì)算機(jī)當(dāng)中，造出了第一個(gè)真正的人工智能。但影片最后，人工智能被限制在數(shù)碼世界中，只能以程序的形式存在。而《太空漫游》三名宇航員和一臺(tái)叫作HAL9000的高智能電腦開啟了木星登月計(jì)劃，但是HAL9000發(fā)生了程序錯(cuò)亂，令兩位宇航員相繼喪命，只剩下波曼和HAL9000在茫茫太空中。當(dāng)HAL9000從唇語得知波曼和同事將讓它死機(jī)，它毫不猶豫地殺死了波曼的同事。可以看出，工具性人工智能為我們呈現(xiàn)了人工智能機(jī)器人與人之間和諧相處的畫面，但這種畫面依然蘊(yùn)含著風(fēng)險(xiǎn)，無論是倫理的風(fēng)險(xiǎn)，還是程序混亂出錯(cuò)的風(fēng)險(xiǎn)，一旦風(fēng)險(xiǎn)發(fā)生，都將不可避免給人類帶來傷害。

(三)情感型人工智能及其風(fēng)險(xiǎn)呈現(xiàn)

情感型人工智能主要是指為主人提供情感慰藉的機(jī)器人，用來彌補(bǔ)人類情感損失。隨著人工智能和機(jī)器人技術(shù)的不斷成熟，情感機(jī)器人還將擁有高度的自主意識(shí)和決策意識(shí)，越來越具備屬人特征。[9]因而科幻電影對(duì)人工智能的關(guān)注也將視角放在了人與人工智能的關(guān)系層面，探討這種情感的意義。由于情感機(jī)器人需要介入到人類復(fù)雜的社會(huì)情感中，因而最容易產(chǎn)生倫理風(fēng)險(xiǎn)。但這種情感能否與人類相融，這種情感是屬于程序設(shè)定型情感還是自我意識(shí)生發(fā)下的情感，人類卻難以分辨。但是由于人類具有較強(qiáng)的移情能力，尤其是在具有人形的、類人類肉身的機(jī)器人中，由于外貌方面的相似性，這種因?yàn)橐魄槎a(chǎn)生的情感風(fēng)險(xiǎn)表現(xiàn)得更為突出。一方面，情感型人工智能與人類形成了相互依賴的關(guān)系，這種人工智能機(jī)器人本質(zhì)上依然是工具型人工智能，只是作為一種情感慰藉的工具才顯示出其存在的價(jià)值。但另一方面，這種情感機(jī)制一旦啟動(dòng)，就難以停止，要阻斷人類與人工智能之間的情感，只有對(duì)人工智能進(jìn)行毀滅或者拋棄、程序修改等。但其問題在于，人工智能的情感，即使是被事先設(shè)置程序而存在的情感，是否就不能主動(dòng)感知人類諸如拋棄、毀滅、憎恨等情緒，或者說人類并不確定這種事先被設(shè)置的情感并不具有情感的能動(dòng)性。在這種情況下，如何處理人與人工智能機(jī)器人之間的關(guān)系就尤為重要，是人類領(lǐng)導(dǎo)情感機(jī)器人，還是情感機(jī)器人能夠像人類自身一樣擁有同樣的地位、權(quán)利、道德并與人類和諧平等相處，這就顯得更為復(fù)雜。在電影《人工智能》中，情感型人工智能大衛(wèi)就是以彌補(bǔ)家庭中孩子缺失而出現(xiàn)的，它一旦被啟動(dòng)就注定了它以愛自己的媽媽為存在的唯一理由。而當(dāng)大衛(wèi)喊出“媽媽”的時(shí)候，女主人顯然對(duì)其動(dòng)了情感，及至自己的孩子恢復(fù)健康，它把機(jī)器人大衛(wèi)送回生產(chǎn)廠，卻在最后關(guān)頭拋棄了大衛(wèi)，但又叮囑大衛(wèi)一定要逃跑遠(yuǎn)離人類，因?yàn)樗突厣a(chǎn)廠就意味著要將機(jī)器人銷毀。由此可以看出女主人對(duì)具有情感性的大衛(wèi)動(dòng)了惻隱之心，盡管它只是機(jī)器人，但這種移情作用已經(jīng)誕生。而電影《她》呈現(xiàn)的機(jī)器人薩曼莎也是一種情感型機(jī)器人。影片描述了一個(gè)剛剛離婚的男作家西奧多在偶然間接觸最新的人工智能操作系統(tǒng)OS1，這個(gè)名為薩曼莎的人工智能系統(tǒng)，溫柔體貼又不失幽默風(fēng)趣，很快獲得西奧多的好感，由此發(fā)展成一段戀情，但實(shí)際上薩曼莎在網(wǎng)絡(luò)中同時(shí)與成千上萬的人保持著情感聯(lián)系。這為人們揭示了人類被人工智能吸引存在的倫理風(fēng)險(xiǎn)和情感風(fēng)險(xiǎn)。

三、余 論

影視作品關(guān)于人工智能的想象和現(xiàn)實(shí)中人工智能發(fā)展存在的悖論，為我們思考如何與人工智能相處，如何防范人工智能發(fā)展存在的不確定性風(fēng)險(xiǎn)提供了認(rèn)知路徑。從技術(shù)維度看，人工智能是技術(shù)的產(chǎn)物，是技術(shù)性、物性的統(tǒng)一，是處于被控制的地位，但人工智能卻朝著社會(huì)性、人性的方向發(fā)展邁進(jìn)，在不斷突破人的控制而走向自由。但這種自由，帶來的不僅是人與人工智能和諧相處的理想境地，也面臨著敵意型人工智能威脅人類生存的危險(xiǎn)、工具型人工智能掙脫人類控制的風(fēng)險(xiǎn)，以及情感型人工智能帶來的倫理道德風(fēng)險(xiǎn)。無論如何，關(guān)于人工智能的發(fā)展，以及人工智能帶來的可能的風(fēng)險(xiǎn)，需要我們在發(fā)展人工智能的過程中予以重視。