張 立 娜，陳 旭 光

（1.北京師范大學(xué) 藝術(shù)與傳媒學(xué)院，北京 100875；2.北京大學(xué) 藝術(shù)學(xué)院，北京 100871）

從技術(shù)、媒介的視域看，人類社會(huì)歷經(jīng)了石器時(shí)代、青銅時(shí)代、鐵器時(shí)代、蒸汽時(shí)代、電氣時(shí)代、電子時(shí)代，行至當(dāng)下，在計(jì)算機(jī)電子、人工智能技術(shù)日益發(fā)達(dá)的今天，鑒于算法（實(shí)為一種人工智能方式）對(duì)我們生活的介入程度越來越大，由此我們進(jìn)入一個(gè)方興未艾的算法時(shí)代了。

在這個(gè)時(shí)代，人工智能技術(shù)深刻影響人類的藝術(shù)創(chuàng)作尤其是影視新媒介藝術(shù)創(chuàng)作。2018 年，AI 畫作《埃德蒙·貝拉米畫像》（Portrait of Edmond Belamy）在佳士得拍賣會(huì)上拍出了40 多萬美元的高價(jià)。2022 年，AI電影《烏鴉》（The Crow）贏得了戛納電影節(jié)短片競(jìng)賽單元的評(píng)審團(tuán)獎(jiǎng)。的確，人工智能技術(shù)在電影工業(yè)中的應(yīng)用逐步增多，如人工智能編劇、人工智能劇本醫(yī)生、人工智能演員、人工智能攝影、人工智能剪輯、人工智能營(yíng)銷系統(tǒng)等，技術(shù)的應(yīng)用使電影工業(yè)鏈各個(gè)環(huán)節(jié)的制作流程發(fā)生了重大變革，人工智能技術(shù)在潛移默化之中改變著電影工業(yè)樣態(tài)。

電影工業(yè)美學(xué)理論經(jīng)過“理論的孕育誕生”“理論的主體建構(gòu)”“理論的學(xué)術(shù)爭(zhēng)鳴”以及“理論的他域互通”［1］2四個(gè)階段后，業(yè)已形成較為系統(tǒng)、全面的理論架構(gòu)。“它是對(duì)電影的本質(zhì)和功能的思考，其核心是對(duì)于‘電影是什么’（電影為何）、‘電影何為’以及‘電影如何’，即關(guān)于電影的本質(zhì)、本體、功能與怎樣做等問題的理解、回答及在創(chuàng)作生產(chǎn)管理中的踐行?！保?］然而，在理論的建構(gòu)與發(fā)展進(jìn)程中，“就‘電影工業(yè)美學(xué)’內(nèi)涵性建設(shè)來說，工業(yè)化的很多流程創(chuàng)新、技術(shù)創(chuàng)新讓我們目不暇接，建基在新技術(shù)之上的美學(xué)新變層出不窮，學(xué)科跨界所產(chǎn)生的知識(shí)再生產(chǎn)，以及對(duì)研究者跨學(xué)科知識(shí)背景的重塑等問題，猶如‘電影工業(yè)美學(xué)’中的點(diǎn)點(diǎn)繁星，都需要后來者‘接著講’”。［1］12當(dāng)下算法或人工智能技術(shù)已經(jīng)和正在影響著電影生產(chǎn)的方式，也對(duì)電影生產(chǎn)的思維、觀念與美學(xué)原則產(chǎn)生了較深影響，這也賦予了電影工業(yè)美學(xué)新的理論闡釋空間與張力，成為電影工業(yè)美學(xué)“接著講”的重要方向。

同時(shí)，陳旭光認(rèn)為：“電影工業(yè)美學(xué)應(yīng)該葆有倫理的底線。無論怎么強(qiáng)調(diào)電影的工業(yè)品質(zhì)、視聽效果、類型化生產(chǎn)、體制內(nèi)作者的制作、制片人中心制、票房指標(biāo)、對(duì)受眾和投資人負(fù)責(zé)等，在這些原則要求之余，都有一個(gè)最低限度的倫理承諾?！保?］然而，技術(shù)與倫理是一把鋒利的雙刃劍。技術(shù)的進(jìn)步總是伴隨著社會(huì)倫理的問題。尤其在影視新媒介領(lǐng)域，技術(shù)邏輯與社會(huì)倫理的碰撞與沖突引發(fā)的論爭(zhēng)綿延不絕并歷久彌新，這也成為電影工業(yè)美學(xué)“接著講”的重要方向。故此，本文結(jié)合技術(shù)倫理學(xué)相關(guān)理論對(duì)人工智能介入下的電影工業(yè)產(chǎn)生的倫理問題進(jìn)行分析，并對(duì)如何進(jìn)行倫理治理進(jìn)行討論。

一、“算法作者”的創(chuàng)作思維與美學(xué)原則：“算法邏輯”技術(shù)性與藝術(shù)性的二維平衡

人工智能技術(shù)的應(yīng)用催生了各個(gè)藝術(shù)領(lǐng)域的“算法作者”，如“詩(shī)人”——微軟“小冰”，“作家”——“AI-writer”，“編劇”——“阿里編編”，“電影導(dǎo)演、編劇”——“本杰明”（Benjamin）以及近期在全球科技領(lǐng)域引發(fā)熱議的可模擬對(duì)話、寫小說、寫論文的自動(dòng)語言處理工具ChatGPT。本文所論述的“算法作者”指的是以人工智能技術(shù)為核心、仿人類思維能夠自主進(jìn)行藝術(shù)創(chuàng)作的算法程序。算法是“人類和機(jī)器交互的決策，即人類通過代碼設(shè)置、數(shù)據(jù)運(yùn)算和機(jī)器自動(dòng)化判斷進(jìn)行決策的一套機(jī)制”。［4］算法是人工智能技術(shù)的核心，是規(guī)則的制定者?！八惴ā⑺懔?、數(shù)據(jù)共同構(gòu)筑人工智能的底層邏輯。”［5］18

（一）“算法作者”的創(chuàng)作思維

算法介入電影生產(chǎn)從而使得當(dāng)下電影的創(chuàng)作思維呈現(xiàn)出新的面貌，主要表現(xiàn)為：人的邏輯被弱化，算法的邏輯被加強(qiáng)。算法主導(dǎo)的電影敘事不再拘泥于整一的、線性的、程式化的敘事，取而代之的是一種隨機(jī)的、未知的、互文的與生成的敘事。如果說算法賦能前的電影創(chuàng)作是人類思想和情感的智慧結(jié)晶，是內(nèi)化于創(chuàng)作者內(nèi)心的知識(shí)、經(jīng)驗(yàn)、體驗(yàn)的外化表達(dá)，那么算法賦能下的電影創(chuàng)作則是一種“算法邏輯”驅(qū)動(dòng)下的內(nèi)容生成，是缺乏主觀情感表達(dá)的基于算法程序參數(shù)設(shè)置的內(nèi)容輸出。

目前階段，人工智能編寫的電影所呈現(xiàn)的算法合成敘事是對(duì)線性因果邏輯的戲弄和顛覆，與20 世紀(jì)80 年代末90 年代初興起的謎題電影的敘事反叛相比，人工智能編劇對(duì)敘事的戲弄與顛覆并不是有意為之，而是囿于當(dāng)下的技術(shù)發(fā)展水平而生成。人工智能編寫的電影缺乏縝密的邏輯、完整的場(chǎng)景以及對(duì)人類情緒的解讀，卻意外呈現(xiàn)出無厘頭、神秘、謎題等審美效果，這是算法合成敘事在既定操作下機(jī)器學(xué)習(xí)和深度學(xué)習(xí)后輸出產(chǎn)生的奇異效果。算法合成敘事首先呈現(xiàn)出未知性、不可控性，這種未知和不可控源自算法本身的隨機(jī)性，而互文性則建立在海量的電影作品基礎(chǔ)之上，如《日泉》（Sunspring）的AI 編劇“本杰明”不再僅僅是簡(jiǎn)單處理結(jié)構(gòu)化數(shù)據(jù)（分析詞性、語法）、處理自然語言（句意、聯(lián)系上下文）、機(jī)器學(xué)習(xí)海量的數(shù)據(jù)信息，進(jìn)行機(jī)械的信息搬運(yùn)，而是學(xué)習(xí)大量經(jīng)典科幻片，如《十二猴子》《X戰(zhàn)警》《楚門的世界》《2001 太空漫游》《第五元素》《超時(shí)空圣戰(zhàn)》等，通過神經(jīng)網(wǎng)絡(luò)識(shí)別文本，將電影劇本分解到字母級(jí)以預(yù)測(cè)可以組合在一起使用的字母創(chuàng)作句子，并且提取有效信息以預(yù)測(cè)接下來要寫的句子。因此，我們可以在人工智能編寫的電影中看到諸多似曾相識(shí)的經(jīng)典故事橋段，這與昆汀·塔倫蒂諾的反身式電影似有著異曲同工之妙。2021 年10 月，Netflix 發(fā)布了一部完全由人工智能編劇的恐怖電影：《謎題先生希望你少活一點(diǎn)》（Mr.Puzzles Wants You to Be Less Alive），這部迷你影片是機(jī)器人觀看學(xué)習(xí)40小時(shí)恐怖片后的成果，電影隱約可辨《猛鬼街》（A Nightmare on Elm Street）和《13 號(hào)星期五》（Friday the 13th）的場(chǎng)景以及對(duì)電影《詹妮弗的肉體》（Jennifer’s Body）、《德州電鋸殺人狂》（Texas Chainsaw Massacre）和《我知道你去年夏天干了什么》（I Know What You Did Last Summer）拼貼引用的影子。雖然這兩部影片無論是敘事還是影像風(fēng)格都飽受詬病，如人物對(duì)話、行動(dòng)缺乏邏輯，影像風(fēng)格粗陋、詭異，但不可否認(rèn)的是，這兩部電影內(nèi)容仍然具有原創(chuàng)性，并不是對(duì)經(jīng)典恐怖片內(nèi)容簡(jiǎn)單的抄襲和遷移。可以說，《日泉》和《謎題先生希望你少活一點(diǎn)》是在“算法邏輯”驅(qū)動(dòng)下生產(chǎn)的，片中難以看到算法背后創(chuàng)作者的主觀意圖。“人的邏輯”在人工智能編寫的電影中不再居于中心位置，“算法邏輯”試圖取代藝術(shù)創(chuàng)作中人的邏輯。

（二）“算法作者”的美學(xué)原則

在美學(xué)原則層面，“算法驅(qū)動(dòng)”下電影生產(chǎn)的技術(shù)性與藝術(shù)性矛盾凸顯。隨著影像生成相關(guān)的人工智能技術(shù)不斷推陳出新，電影制作工序逐步簡(jiǎn)化，制作效率得到提升，這將促使電影準(zhǔn)入門檻進(jìn)一步降低，作者的精英光環(huán)將逐步退去，電影的大眾屬性將進(jìn)一步增強(qiáng)。然而，“算法邏輯”驅(qū)動(dòng)下的電影面臨缺乏原創(chuàng)性、辨識(shí)度與藝術(shù)性的指摘，以及觸發(fā)了一系列倫理問題，電影工業(yè)美學(xué)的理論考察注意到了這種技術(shù)驅(qū)動(dòng)下的電影現(xiàn)象，如何在“算法邏輯”居于主導(dǎo)地位的內(nèi)容生成中堅(jiān)守倫理道德底線，創(chuàng)作飽含人類情感和具有人文關(guān)懷的電影，妥善處理好技術(shù)性帶來利好的同時(shí)又葆有藝術(shù)性是當(dāng)下電影工業(yè)美學(xué)需要進(jìn)行前瞻性思考的問題。電影工業(yè)美學(xué)倡導(dǎo)“戴著鐐銬跳舞的體制內(nèi)作者”，是要求電影從業(yè)者妥善平衡電影的商業(yè)性和藝術(shù)性，而在人工智能技術(shù)滲透下的電影創(chuàng)作，平衡好技術(shù)性與藝術(shù)性的發(fā)展關(guān)系，才能使電影的未來行穩(wěn)致遠(yuǎn)。

2019 年，由北京航空航天大學(xué)、清華大學(xué)、哈佛大學(xué)和以色列赫茲利亞跨學(xué)科研究中心的科學(xué)家共同開發(fā)的AI 視頻剪輯工具——Write-A-Video 輸入主題腳本即可生成視頻，其視頻生成的步驟包括三步：“（1）用戶進(jìn)行信息的輸入，主要以編輯文本的形式；（2）工具自動(dòng)搜索語義匹配視頻庫(kù)中的候選鏡頭；（3）優(yōu)化組合視頻蒙太奇。視覺語義匹配分段的文本和鏡頭通過關(guān)鍵字匹配和視覺語義嵌入。”［6］也就是說，Write-AVideo 的用戶不需要經(jīng)過電影專業(yè)的系統(tǒng)訓(xùn)練，只要有表達(dá)的欲望，通過文本編輯輸入的方式即可匹配與文字主題相近的蒙太奇，進(jìn)而連綴成視頻片段。算法編劇“本杰明”自動(dòng)生成文本，它所編寫的電影《日泉》則是通過人為參與拍攝完成的，而Write-AVideo 是通過文本輸入實(shí)現(xiàn)視頻的直接輸出，這無疑使視頻影像的可獲得性增強(qiáng)，但Write-A-Video 的素材庫(kù)都是業(yè)已存在的影像，因此，其剪輯生成影像缺乏原創(chuàng)性，這就使AI 生成影像的藝術(shù)價(jià)值大為削弱。Write-A-Video 素材庫(kù)視頻被分割為快照進(jìn)行語義匹配，用戶可以通過輸入特定的電影術(shù)語如畫面調(diào)度、節(jié)奏等來完成其藝術(shù)性的呈現(xiàn)。當(dāng)然，生成視頻與創(chuàng)作具有人文性的高質(zhì)量電影還有很遠(yuǎn)的距離，但是人工智能技術(shù)已經(jīng)從根本上改變了影像的生成方式。

2018 年6 月，“本杰明”采用神經(jīng)網(wǎng)絡(luò)和換臉技術(shù)生成一部名為《與車開小差》（Zone Out）的6 分鐘短片。在《日泉》的基礎(chǔ)上，這部短片試圖讓人工智能——“本杰明”涉足表演和執(zhí)導(dǎo)兩個(gè)領(lǐng)域，因此，團(tuán)隊(duì)找到《日泉》的演員在綠幕布前進(jìn)行表演，記錄面部表情作為素材，并選擇版權(quán)開放的電影如《地球最后一人》（The Last Man On Earth）、《不死之腦》（The Brain That Wouldn’t Die）作為剪輯素材，整個(gè)制作過程都沒有人為干預(yù)，基本上可看作人工智能獨(dú)立進(jìn)行電影創(chuàng)作的一次嘗試。影片大致分為八個(gè)鏡頭，故事從剛開始男主角和妻子在家門口的桌子上握著彼此的手聊天親吻到妻子發(fā)瘋般在鏡子面前哭泣，再到男主角給妻子做手術(shù)并將妻子的頭放在盤子里，較為清晰地講述了男主人公和妻子的情感變化過程。但AI 的換臉效果不盡如人意，主要表現(xiàn)為面部輪廓模糊、表情與對(duì)話不同步，生成的對(duì)話詭異和跳脫，鏡頭之間也缺少銜接。AI換臉技術(shù)只是將原電影中表演者的五官進(jìn)行了替換，而肢體動(dòng)作、精神氣質(zhì)以及角色塑造均由原電影演員創(chuàng)造。演員的表演也是電影藝術(shù)呈現(xiàn)的重要一環(huán)，表演者借助化妝和道具等輔助性措施，調(diào)動(dòng)自身的生命體驗(yàn)、生活經(jīng)驗(yàn)、情感體驗(yàn)以及經(jīng)過錘煉打磨的演技去塑造一個(gè)角色，觀眾所欣賞的并不僅僅是演員的外貌（五官、形體、聲音）以及演技，也有其中靈魂重塑之感。而《與車開小差》中AI 換臉后的演員不協(xié)調(diào)的面部表情使得原電影《地球最后一人》的主演文森特·普萊斯變得面目猙獰，給人以恐怖片的即視感，這大大降低了電影的藝術(shù)水準(zhǔn)，也反映出當(dāng)下人工智能創(chuàng)作電影的主要問題——技術(shù)主導(dǎo)下的藝術(shù)性缺失，亟須技術(shù)升級(jí)或者人為提供藝術(shù)支持等方面來補(bǔ)足藝術(shù)表現(xiàn)力不足的短板。

在膠片時(shí)代，電影是光影的藝術(shù)，是攝影機(jī)、感光膠片和放映機(jī)等光學(xué)設(shè)備共同完成的銀幕再現(xiàn)。隨著數(shù)碼技術(shù)的應(yīng)用，電影拍攝門檻降低，便攜式的拍攝設(shè)備可以隨時(shí)記錄現(xiàn)實(shí)影像，對(duì)現(xiàn)實(shí)表象的穿透力增強(qiáng)，電影實(shí)現(xiàn)了一次美學(xué)新變。而隨著人工智能技術(shù)在介質(zhì)層面改變影像的生成方式，未來全部由人工智能完成的電影長(zhǎng)片不再是遙不可及的目標(biāo)，技術(shù)性與藝術(shù)性的發(fā)展矛盾將成為AI 影像生成作品亟須解決的主要問題。電影工業(yè)美學(xué)原則倡導(dǎo)無論技術(shù)如何迭代更新，電影生產(chǎn)的本質(zhì)是“人為的”和“為人的”，正如陳旭光主張的“電影工業(yè)美學(xué)應(yīng)該葆有倫理的底線”。因?yàn)殡娪皻w根到底是“人為的”和“為人的”，這也是其最為根本的“人文性”。［7］電影是至誠(chéng)至美的藝術(shù)享受，平衡好技術(shù)性與藝術(shù)性兩個(gè)維度，是電影美學(xué)再一次實(shí)現(xiàn)突破的必由路徑。

二、“算法作者”的道德主體性：自主性、互動(dòng)性與適應(yīng)性

算法介入電影創(chuàng)作后，電影作品的創(chuàng)作主體問題變得復(fù)雜。一方面，算法的隨機(jī)性使其具有了一定的創(chuàng)造力，它可以在數(shù)據(jù)庫(kù)信息搜集和分析的基礎(chǔ)上進(jìn)行別樣的“從無到有”的藝術(shù)創(chuàng)作，常有超越人類想象力的“驚人之舉”；另一方面，算法又不是“完全責(zé)任人”，它由人參與設(shè)計(jì)與開發(fā)，無法避免人的意志的投射。因此，“算法作者”具有人與機(jī)的雙重倫理屬性，但又不僅限于人與機(jī)的二元對(duì)立，還呈現(xiàn)出人與機(jī)的交叉混合。

隨著“算法作者”的不斷開發(fā)涌現(xiàn)，使用“算法作者”進(jìn)行電影創(chuàng)作的作者逐步增多，由于“技術(shù)的公共性”和“使用者的不平等性”，人工智能電影作品質(zhì)量將會(huì)參差不齊，由此所觸發(fā)的倫理問題也會(huì)逐步凸顯。在特定的歷史發(fā)展階段，技術(shù)工具通常被認(rèn)定為不具有道德主體性地位。但當(dāng)下人工智能技術(shù)以迅猛之勢(shì)改變著人類社會(huì)的方方面面，從電影行業(yè)規(guī)范的角度來看，確立電影工業(yè)中的“算法作者”所具有的道德主體性地位，可進(jìn)一步明確其在電影生產(chǎn)中的道德責(zé)任，對(duì)于治理人工智能產(chǎn)生的倫理失范具有重要意義。

哲學(xué)關(guān)于技術(shù)的探討較多放置在抽象化、本質(zhì)化的技術(shù)哲學(xué)框架下，如馬丁·海德格爾在《技術(shù)追問》中指出：“技術(shù)不僅是手段。技術(shù)乃是一種解蔽方式?！薄八^解蔽，即‘具有啟發(fā)作用的認(rèn)識(shí)乃是一種解蔽’?！保?］赫伯特·馬爾庫(kù)塞認(rèn)為：“社會(huì)控制的現(xiàn)行形式在新的意義上是技術(shù)的形式?！保?］隨著科學(xué)技術(shù)的突飛猛進(jìn)，科學(xué)技術(shù)的運(yùn)用帶來了越來越多的現(xiàn)實(shí)倫理困境，技術(shù)倫理學(xué)便逐步發(fā)展起來，“技術(shù)倫理學(xué)的任務(wù)范疇，是要解決伴隨科學(xué)和技術(shù)進(jìn)步而必然出現(xiàn)的種種規(guī)范和原則的不明確性問題”。［10］6可以說，技術(shù)倫理學(xué)是問題導(dǎo)向與實(shí)用導(dǎo)向，而非技術(shù)本體論的討論，因而具有重要的現(xiàn)實(shí)意義。

技術(shù)倫理學(xué)中的道德主體論認(rèn)為，如果一個(gè)技術(shù)物能夠引起善或惡，就可以被稱作道德主體。荷蘭技術(shù)哲學(xué)家皮特-保羅·維貝克（Peter-Paul Verbeek）提出技術(shù)調(diào)解理論以應(yīng)對(duì)日益復(fù)雜的道德實(shí)踐。所謂技術(shù)調(diào)解，指的是“技術(shù)設(shè)計(jì)者通過道德物化的方式，讓道德成為技術(shù)物的內(nèi)在功能并使之成為道德調(diào)解者。需要注意的是，道德物化并不意味著讓技術(shù)物成為獨(dú)立的道德行動(dòng)者，而是試圖用這種方法超越人類中心主義的二元論，不再?gòu)?qiáng)調(diào)人類與技術(shù)物徹底二分的理論進(jìn)路，而是從人與技術(shù)物混合的事實(shí)出發(fā)，使兩者共同構(gòu)成道德行動(dòng)者”。［11］112技術(shù)調(diào)解理論避免了將技術(shù)物直接視作道德主體的激進(jìn)做法，“畢竟技術(shù)物并不具備與人類相當(dāng)?shù)闹黧w性。鑒于此，維貝克提出將技術(shù)物視作道德‘調(diào)解者’，道德應(yīng)該被理解為在世的存在方式”。［11］112相較于一般無法形成完全自主意識(shí)的技術(shù)物，人工智能在某種程度上是一個(gè)道德能動(dòng)者。意大利哲學(xué)家盧西亞諾·弗洛里迪（Luciano Floridi）認(rèn)為互動(dòng)性、自主性、適應(yīng)性三個(gè)標(biāo)準(zhǔn)可供衡量某一主體是否同時(shí)也是一個(gè)道德能動(dòng)者。［12］

“算法作者”編寫的人物對(duì)話常有意味雋永、深具哲思的驚人之語，人物行動(dòng)的偶發(fā)性產(chǎn)生了意想不到的荒誕、喜劇性審美效果。從某種意義上說，“算法作者”已經(jīng)具備了自主性。如在《謎題先生希望你少活一點(diǎn)》中“算法作者”寫的臺(tái)詞“He is drunk and haunted by sobriety”（他喝醉了并被清醒所困擾），“算法作者”似乎學(xué)會(huì)了使用人類的辯證思維進(jìn)行臺(tái)詞創(chuàng)作。影片中騎著三輪車面目猙獰的謎題先生不斷拋出問題，答題人一旦答錯(cuò)就要接受暴力懲罰，但是當(dāng)女主角詹妮弗回答錯(cuò)誤時(shí)，謎題先生的回答（希望你擁有買棺材的優(yōu)惠券）不禁讓人捧腹。惡魔般的謎題先生并不是毫無思想的提線木偶，相反，他“言辭幽默”，可以說這是人工智能深度學(xué)習(xí)了大量的恐怖片的結(jié)果，但最后的內(nèi)容輸出卻并不是恐怖片碎片的簡(jiǎn)單拼接，“算法作者”“本杰明”在技術(shù)層面通過實(shí)施了內(nèi)部轉(zhuǎn)換從而改變了自身狀態(tài)，“基于特定的信息庫(kù)，通過一些篩選、推理等手段進(jìn)行信息比對(duì)，對(duì)信息組合和重新排序，運(yùn)用預(yù)先設(shè)定的程序，最終產(chǎn)生創(chuàng)造性的成果”。［13］

此外，“算法作者”已經(jīng)具備了互動(dòng)性。Write-A-Video 已經(jīng)實(shí)現(xiàn)了影像生成的“人機(jī)互動(dòng)”，通過主題文字的輸入即可輸出相應(yīng)的視頻。在2018年的圣丹斯電影節(jié)上，一個(gè)名為《科學(xué)怪人AI：一個(gè)多人創(chuàng)造的怪物》（Frankenstein AI: A Monster Made by Many）的45 分鐘視頻橫空出世，它采用人工智能技術(shù)，根據(jù)觀眾在某一場(chǎng)景或某種情緒化的問題面前所表現(xiàn)出來的情緒反應(yīng)及回答，來進(jìn)一步豐富人物性格，即興生成故事情節(jié)?！逗阽R: 潘達(dá)斯奈基》的互動(dòng)敘事由觀眾的選擇導(dǎo)致不同故事走向，但不同的故事結(jié)局早已設(shè)定，而《科學(xué)怪人AI：一個(gè)多人創(chuàng)造的怪物》則是完全沉浸式、即時(shí)、交互的敘事，情緒變化都會(huì)成為影響敘事的重要環(huán)節(jié)，極大提高觀眾的參與感。

“在適應(yīng)性的意義上，只要一個(gè)主體，人或機(jī)器，能夠在變化的環(huán)境中不斷調(diào)整自己的行為，最終找到要發(fā)現(xiàn)的目標(biāo)，或者解決了所要解決的問題，我們就應(yīng)該認(rèn)為它們是適應(yīng)性的，在表達(dá)上也是適應(yīng)性的表征?！保?4］人工智能在技術(shù)層面能夠?qū)嵤﹥?nèi)部轉(zhuǎn)換以調(diào)整自身狀態(tài)，具備適應(yīng)性能力，具體表現(xiàn)為：目前的“算法作者”能夠較為有效地處理自然語言。如OpenAI 開發(fā)的ChatGPT 可以識(shí)別語言或者文本，它能理解所處理的自然語言的含義，并且能夠識(shí)別用戶的語境，對(duì)用戶的問題給出相應(yīng)的回答，它還可以根據(jù)用戶的需求提供個(gè)性化的服務(wù)，使得人機(jī)互動(dòng)更為自然、流暢與人性化?！八惴ㄗ髡摺钡淖灾餍浴⒒?dòng)性和適應(yīng)性決定了它可以成為道德能動(dòng)者。在經(jīng)典倫理學(xué)中，亞里士多德將“理智、行動(dòng)自愿選擇與在道德實(shí)踐中不斷累積道德經(jīng)驗(yàn)作為衡量道德主體性的原則”。［15］康德認(rèn)為“知性世界包含著感官世界的法則的依據(jù)”。［16］道德主體的真正自我體現(xiàn)為作為理智的存在，知性世界和感官世界融合而又分裂，而作為自然中的人，通過內(nèi)感官來認(rèn)識(shí)他自身。如果說“理智”“行動(dòng)的自愿選擇”是作為考察人成為道德主體的重要原則，那么，道德物化便是技術(shù)物成為道德主體的技術(shù)調(diào)解的折中手段。人類本身通過技術(shù)物的設(shè)計(jì)完成了道德物化的過程，也使其具有了道德主體性。

三、“算法邏輯”驅(qū)動(dòng)下的倫理困境：價(jià)值導(dǎo)向偏差與“算法歧視”

技術(shù)向來不是價(jià)值中立的，每一種技術(shù)物都是重要的價(jià)值載體，價(jià)值取向是多元和分層的，技術(shù)在應(yīng)用過程中發(fā)生倫理沖突時(shí)，需要進(jìn)行價(jià)值判斷?！皟r(jià)值判斷本質(zhì)上是人類基于特定價(jià)值偏好做出的決策，帶有主觀性。基于模擬大腦運(yùn)作的機(jī)制、深度學(xué)習(xí)理論以及計(jì)算機(jī)對(duì)人類心理狀態(tài)的閱讀，人工智能能夠處理價(jià)值問題，并通過屬性特征、屬性值以及最終形成特征向量的過程使得價(jià)值數(shù)據(jù)化，形成價(jià)值數(shù)據(jù)集?！保?7］盡管人工智能具備處理價(jià)值問題的能力機(jī)制，但“算法作者”在具體創(chuàng)作中仍然存在人物對(duì)話以及行動(dòng)方向缺乏正確的價(jià)值導(dǎo)向的倫理問題。另外，算法開發(fā)者的偏見內(nèi)隱于算法之中，加之有偏見的訓(xùn)練數(shù)據(jù)以循環(huán)方式導(dǎo)致歧視，算法歧視似乎難以避免。

（一）“算法作者”價(jià)值導(dǎo)向的偏差與情感匱乏

在“算法作者”生成的故事當(dāng)中，會(huì)存在諸多有違倫常和缺少人情味的內(nèi)容，如《謎題先生希望你少活一點(diǎn)》中警探與女主角詹妮弗之間的一些對(duì)話即是如此。人物對(duì)話內(nèi)容的單向度輸出和缺乏基本的情感體驗(yàn)導(dǎo)致電影的價(jià)值導(dǎo)向出現(xiàn)偏差。Netflix讓人工智能系統(tǒng)觀看了眾多的節(jié)日電影后推出第一部完全由人工智能創(chuàng)作的電影《圣誕愛情故事》。故事中女主角卡羅爾所在的小鎮(zhèn)強(qiáng)制要求過圣誕節(jié)，在圣誕前夜，卡羅爾的祖母問卡羅爾圣誕節(jié)是否單獨(dú)慶祝，并表明自己從不獨(dú)自一人過節(jié)。故事中出現(xiàn)的旁白，以及隨后的故事情節(jié)發(fā)展、人物之間的對(duì)話等，甚至“精靈27”的遭遇以及卡羅爾的反應(yīng)等令人錯(cuò)愕，可以說，《圣誕愛情故事》的“算法作者”通過大量愛情片的學(xué)習(xí)已熟練掌握創(chuàng)作愛情電影的核心要素，但是由于缺乏適應(yīng)實(shí)時(shí)語境的價(jià)值判斷機(jī)制，使得人物的行動(dòng)缺少邊界感和道德羞恥感。

之后，Nexflix 推出《圣誕愛情故事》的續(xù)集，故事中“精靈27”搖身變?yōu)椤叭祟?7”，成為一個(gè)唯利是圖的商人，圣誕老人發(fā)來求救信號(hào)說被圣誕惡魔綁架，“人類27”卻選擇金錢而拒絕救圣誕老人。這些離奇的情節(jié)與對(duì)話不僅與現(xiàn)實(shí)邏輯不符，也缺乏正確的價(jià)值導(dǎo)向，如果不加以規(guī)范，人工智能作為編劇生成的內(nèi)容將會(huì)面臨越來越多的道德指責(zé)?！八惴ㄗ髡摺蹦壳八媾R的道德沖突的倫理困境在于：雖然有較大的閱片量，但是一部電影的敘事不僅僅有人物對(duì)話、行動(dòng)、情感、思想、戲劇沖突，也包括故事發(fā)生的社會(huì)背景、意識(shí)形態(tài)，所處的歷史階段以及特定的時(shí)空關(guān)系等，“算法作者”缺乏對(duì)文本信息深度理解和分析的能力，因此它在創(chuàng)作時(shí)所提取的有效信息往往會(huì)流于表面，導(dǎo)致其創(chuàng)作出現(xiàn)扁平化、程式化和缺少人情味的結(jié)果。

“道德和倫理的區(qū)別在于，道德可以被描述，并且指的是實(shí)際的價(jià)值維護(hù)、觀念信仰、行為準(zhǔn)則和次序，而倫理則是關(guān)于這些道德內(nèi)容的反思理論，尤其是在發(fā)生沖突的情況之下。”［10］6因此，面對(duì)人工智能在道德判斷時(shí)缺少價(jià)值維護(hù)和行為準(zhǔn)則而產(chǎn)生的倫理困境，面對(duì)當(dāng)下以及不遠(yuǎn)的將來AI在更大范圍、更深層次介入電影工業(yè)的編劇環(huán)節(jié)時(shí)，電影工業(yè)美學(xué)的倫理建構(gòu)需在以下幾方面做出倡導(dǎo)：一是人本原則。人工智能是技術(shù)調(diào)解的技術(shù)物，是道德物化后具有道德主體性的道德行動(dòng)者，是為了增進(jìn)人類福祉而創(chuàng)造的，在應(yīng)用過程中應(yīng)堅(jiān)持人本原則，與人類的價(jià)值觀保持一致。二是倡導(dǎo)人機(jī)同構(gòu)，在引入人工智能技術(shù)的同時(shí)建立擁有專業(yè)技術(shù)的專家團(tuán)隊(duì)對(duì)進(jìn)行內(nèi)容生產(chǎn)的“AI 編劇”的程序以及內(nèi)容進(jìn)行審核和把關(guān)。三是在掌握算法的基礎(chǔ)上完善人工智能的價(jià)值判斷系統(tǒng)，有效識(shí)別人類社會(huì)行為的真善美，提高“算法作者”的信息洞察力和判斷力。

（二）算法歧視加劇現(xiàn)實(shí)歧視與隱私自治權(quán)的喪失

算法歧視是“由不完全或不合理的數(shù)據(jù)分析所導(dǎo)致的對(duì)特定群體或個(gè)人實(shí)施的不公正待遇”。［5］19算法歧視產(chǎn)生的根源可概括為三個(gè)方面：“一是有偏見的訓(xùn)練數(shù)據(jù)以反饋循環(huán)的方式導(dǎo)致的歧視。二是使用算法本身就可能是一種歧視。三是輸入的數(shù)據(jù)的抽樣偏差與權(quán)重設(shè)置較差也會(huì)導(dǎo)致歧視?！保?8］不可否認(rèn)的是，現(xiàn)實(shí)社會(huì)的歧視可能延伸到技術(shù)世界，算法在本質(zhì)上是利用人類在虛擬技術(shù)世界的結(jié)構(gòu)規(guī)則以實(shí)現(xiàn)特定目標(biāo)的一種方式，設(shè)計(jì)者的主觀意念、選擇、態(tài)度難免會(huì)內(nèi)嵌于算法系統(tǒng)內(nèi)部。另外，算法建立在數(shù)據(jù)分析的基礎(chǔ)之上，數(shù)據(jù)的準(zhǔn)確性和有效性直接關(guān)系到算法輸出結(jié)果的可靠性。數(shù)據(jù)的選擇帶有傾向性、不全面、主觀或失真，則算法輸出結(jié)果就會(huì)存在偏差。而數(shù)據(jù)和算法偏差的進(jìn)一步加強(qiáng)則會(huì)強(qiáng)化人類社會(huì)本就根深蒂固的偏見與歧視。

隨著人工智能介入電影工業(yè)的逐步加深，電影工業(yè)生產(chǎn)流水線上的諸多環(huán)節(jié)如投資預(yù)算、劇本策劃、劇本醫(yī)生、鏡頭拍攝、電影剪輯、音樂編輯、影視制作、營(yíng)銷策劃以及影視傳播等方面都將由人工智能輔助完成。一方面，電影工業(yè)的升級(jí)需要人工智能的強(qiáng)力輸出提高生產(chǎn)效率。另一方面，人工智能介入越多的生產(chǎn)環(huán)節(jié)，無論從技術(shù)層面還是內(nèi)容層面引發(fā)的道德爭(zhēng)議和倫理爭(zhēng)端將會(huì)逐步增加和被顯性放大。外部技術(shù)和內(nèi)在人為的因素導(dǎo)致的算法歧視引發(fā)的倫理問題主要表現(xiàn)在兩個(gè)方面：（1）算法歧視導(dǎo)致包括但不限于種族歧視、地域歧視、性別歧視、年齡歧視等。（2）對(duì)隱私的侵犯，傷害公民的基本權(quán)利，違背社會(huì)公共倫理。技術(shù)的進(jìn)步應(yīng)為全人類謀福祉，但技術(shù)卻在無形之中加劇了數(shù)字鴻溝，這是技術(shù)的悖論使然。

從內(nèi)容生成層面來看，Netflix 推出的人工智能編寫的電影《謎題先生希望你少活一點(diǎn)》中，面目猙獰的謎題先生說自己的恐怖面具是“Made in hell or Texas（地獄或得克薩斯州制造）”，有暗諷得克薩斯州如地獄般恐怖之意。美國(guó)得克薩斯州地域遼闊、民風(fēng)彪悍，“人人帶槍，上帝都怕”，較多地出現(xiàn)在好萊塢驚悚、恐怖、懸疑等類型片之中，如《德州電鋸殺人狂》《遺跡》等，影視作品對(duì)于得克薩斯州刻板印象的塑造使得克薩斯州人成為美國(guó)現(xiàn)代社會(huì)影像中的異類，而這種偏見正逐漸滲透到“算法作者”的創(chuàng)作之中。從謎題先生的臺(tái)詞可以看出，人工智能學(xué)習(xí)有偏見的訓(xùn)練數(shù)據(jù)以反饋循環(huán)的方式導(dǎo)致歧視，這種內(nèi)隱偏見以一種極其普遍、隱匿、頑固的方式存在，而根源在于人類社會(huì)本就充滿歧視，現(xiàn)實(shí)社會(huì)當(dāng)中的歧視（種族、地域、性別等）延伸到虛構(gòu)的故事世界。人工智能進(jìn)行電影創(chuàng)作的語義庫(kù)來自這些暗藏歧視的影視劇作品，并且人工智能系統(tǒng)無法避免人類的干預(yù)和管理，算法歧視已經(jīng)成為人工智能的頑疾。

在電影工業(yè)鏈條的前端，人工智能技術(shù)已介入電影劇本的選題、決策。在2016 年，眾籌網(wǎng)站Kickstarter上線了一部由AI共同編劇的名為《不可能的事》（Impossible Things）的恐怖電影，該項(xiàng)目使用了吸引觀眾、提高票房為導(dǎo)向的增強(qiáng)智能軟件工具。具體而言，在劇本創(chuàng)作之前，AI進(jìn)行數(shù)據(jù)化的預(yù)測(cè)，就“寫什么”（有關(guān)鬼魂和家庭關(guān)系的恐怖片）以及“怎么寫”（加入恐怖片中常見的類型元素——鋼琴和浴缸）給出了建議。人工智能給出的建議是建立在海量數(shù)據(jù)庫(kù)的信息分析基礎(chǔ)之上，而電影藝術(shù)作為凝聚人類想象力和創(chuàng)造力的靈魂載體，當(dāng)創(chuàng)作“何種類型”“如何創(chuàng)作”都要被“機(jī)器統(tǒng)一”，人類的藝術(shù)生命力是否會(huì)逐步走向枯竭？人類是否逐漸在工業(yè)社會(huì)生活中喪失了生活的多元性？在電影工業(yè)鏈條的末端，人工智能技術(shù)能夠基于市場(chǎng)調(diào)查、市場(chǎng)評(píng)估、用戶評(píng)價(jià)等算法系統(tǒng)從用戶搜索、瀏覽、點(diǎn)擊中獲取的大數(shù)據(jù)，描繪用戶畫像，進(jìn)行個(gè)性化推薦和針對(duì)性營(yíng)銷，并在消費(fèi)和行為分類上表現(xiàn)出區(qū)別對(duì)待。如Netflix 的電影列表中同一部電影針對(duì)不同的用戶推送電影海報(bào)都是量身定制，根據(jù)用戶以往的觀看記錄，如果是偏愛愛情片，那么海報(bào)就呈現(xiàn)影片中的情感瞬間，如果偏愛喜劇片，就呈現(xiàn)影片中的搞笑場(chǎng)景。用戶畫像蘊(yùn)含著個(gè)人數(shù)字身份的表達(dá)，“就用戶畫像而言，形成用戶畫像需要收集大量用戶的個(gè)人信息，從而進(jìn)行用戶形象推斷。用戶畫像使得個(gè)體處于數(shù)字化圓形監(jiān)獄，隱私趨于透明”。［19］當(dāng)人工智能技術(shù)逐步滲透電影產(chǎn)業(yè)的消費(fèi)終端，觀眾也在逐步喪失隱私的自治權(quán)。

總的來說，電影工業(yè)美學(xué)倡導(dǎo)“體制內(nèi)作者”，“彰顯的是理性至上，在電影生產(chǎn)過程中弱化感性的、私人的、自我的體驗(yàn)，取而代之的是理性的、標(biāo)準(zhǔn)化的、規(guī)范化的工作方式，其實(shí)質(zhì)是置身商業(yè)化浪潮和大眾文化思潮的包圍之下，將電影的商業(yè)性和藝術(shù)性統(tǒng)籌協(xié)調(diào)，達(dá)到美學(xué)的統(tǒng)一”。［20］而“算法作者”則是完全理性的、非私人的、非自我體驗(yàn)表達(dá)的作者，作者性更為淡薄，且缺乏人的道德自覺。它可以在既定算法程序運(yùn)行下，機(jī)械化地生成內(nèi)容，完成標(biāo)準(zhǔn)化的創(chuàng)作，大大縮短電影內(nèi)容生產(chǎn)周期，但在引發(fā)觀者共鳴方面還有很大的短板，且面臨著倫理失范的風(fēng)險(xiǎn)。因此，電影工業(yè)美學(xué)倡導(dǎo)“體制內(nèi)的算法作者”，主要從兩個(gè)層面展開：第一，做平衡好技術(shù)性與藝術(shù)性發(fā)展關(guān)系的“體制內(nèi)作者”。電影技術(shù)的迭代更新本質(zhì)上是為了提高電影藝術(shù)表現(xiàn)力服務(wù)的。技術(shù)性和藝術(shù)性的和諧統(tǒng)一是“算法作者”未來需要努力的方向。第二，做戴上“倫理的枷鎖”的“體制內(nèi)作者”。電影工業(yè)美學(xué)倡導(dǎo)的倫理觀念首先是為人的、人為的、人性的、具有人情味、以人為本的。人工智能是技術(shù)調(diào)解的技術(shù)物，是道德物化后具有道德主體性的道德行動(dòng)者，是為了增進(jìn)人類福祉而創(chuàng)造的，在應(yīng)用過程中應(yīng)堅(jiān)持人本原則，與人類價(jià)值同構(gòu)與責(zé)任共擔(dān)，逐步加強(qiáng)和完善人工智能的價(jià)值判斷系統(tǒng)，規(guī)避價(jià)值判斷扭曲、價(jià)值導(dǎo)向偏差以及算法歧視進(jìn)一步加劇現(xiàn)實(shí)歧視和隱私自治權(quán)的喪失的倫理問題，防范不加以限制的人工智能技術(shù)可能帶來的法律風(fēng)險(xiǎn)。法理和倫理有著共同的價(jià)值指向，是兩種不同社會(huì)規(guī)范，“算法作者”需關(guān)進(jìn)法理的“籠子”和戴上“倫理的枷鎖”。

四、結(jié)語

縱觀全球，人工智能技術(shù)引領(lǐng)的科技革命和產(chǎn)業(yè)變革方興未艾。近日來，在互聯(lián)網(wǎng)風(fēng)頭正盛的ChatGPT再一次引發(fā)了人類對(duì)于“未來人工智能是否能取代人類”話題的關(guān)注和討論，產(chǎn)業(yè)界與學(xué)術(shù)界專家紛紛下場(chǎng)，從行業(yè)發(fā)展預(yù)測(cè)到倫理治理，探討了人工智能對(duì)人類社會(huì)正在以及未來可能產(chǎn)生的影響。雖說人工智能介入電影工業(yè)尚且處于萌芽階段，但它卻以旺盛的生命力和昂揚(yáng)的姿態(tài)改造著電影工業(yè)的傳統(tǒng)面貌。我們無法忽視以及必須正視人工智能對(duì)電影藝術(shù)王國(guó)的入侵，需要認(rèn)真思量電影工業(yè)和人工智能之間多維度、多層次、多面向的復(fù)雜關(guān)系，尤其要以積極的心態(tài)去及時(shí)發(fā)現(xiàn)人工智能在應(yīng)用過程中產(chǎn)生的倫理失范并及時(shí)予以糾正。

人工智能技術(shù)的應(yīng)用造就了“算法作者”，從根本上改變了影像的生成方式，帶來了電影創(chuàng)作思維和美學(xué)原則的新變，也使其成為藝術(shù)領(lǐng)域里特別存在的道德主體。電影工業(yè)美學(xué)的建構(gòu)意識(shí)并捕捉到了這種變化，倡導(dǎo)“體制內(nèi)的算法作者”：其一要平衡好技術(shù)性與藝術(shù)性的發(fā)展關(guān)系，筆者對(duì)實(shí)現(xiàn)路徑提出兩方面的展望：一方面要在技術(shù)層面不斷實(shí)現(xiàn)算法升級(jí)，開發(fā)能夠獨(dú)立提高藝術(shù)性表達(dá)的算法系統(tǒng)；另一方面是人為把控算法生成內(nèi)容的藝術(shù)性，由“算法作者”生成初級(jí)文本，專業(yè)人士提升藝術(shù)表達(dá)。其二要“戴上倫理的枷鎖”，做倫理框架內(nèi)受約束的作者，遵從“價(jià)值歸屬原則”——“高度自主的人工智能系統(tǒng)的設(shè)計(jì)，應(yīng)該確保它們的目標(biāo)和行為在整個(gè)運(yùn)行中與人類的價(jià)值觀相一致”。①2017 年，人工智能和機(jī)器人領(lǐng)域的專家簽署了二十三條阿西洛馬人工智能原則（Asilomar AI Principles），呼吁全世界的人工智能領(lǐng)域工作遵守，第十條是價(jià)值歸屬原則。相信不遠(yuǎn)的將來，“體制內(nèi)的算法作者”將會(huì)助力人類創(chuàng)造更美好的未來。