木濃

ChatGPT“數(shù)字人”版AI助手WeHead

每個人心里可能都有一個希望再見到的人，就像每個人心里可能都有一個想要回到的時刻。

想再見湯曉鷗一面的商湯人，在商湯科技2024年的年會上如愿以償；想再見女兒一面的音樂人包小柏，實(shí)現(xiàn)“復(fù)活”女兒的心愿，并讓女兒為妻子唱了生日歌。還有許多普通人，有機(jī)會通過AI的幫助，再一次見到離世親人的音容笑貌，甚至能與“數(shù)字親人”對話、相伴。

生成式人工智能的爆發(fā)，視頻大模型Sora的橫空出世，讓電影《流浪地球2》中的“數(shù)字生命”似乎不再只是科幻橋段。有人說“不妨再大膽一點(diǎn)想象”：“通過虛擬數(shù)字技術(shù)，我們或許能夠聆聽孔子的教誨，與愛因斯坦探討物理學(xué)的奧秘，甚至可以和李白‘月下共飲?！?/p>

當(dāng)震古爍今的AI科技為人類帶來更多可能性，“質(zhì)疑圖恒宇，理解圖恒宇，成為圖恒宇”道出了人們對生命的依戀，對“永生”的覬覦。

然而，人類歷史上每一次技術(shù)變革與進(jìn)步，都會引發(fā)人類對技術(shù)的深刻反思。AI技術(shù)海嘯前進(jìn)的路上，也許需要科技倫理之光照亮。

“再見一面”，如此容易？

商湯科技2024年的年會，離世不久的創(chuàng)始人湯曉鷗通過數(shù)字人技術(shù)，再次以脫口秀的形式與大家見面。

“這已經(jīng)成為了商湯科技年會的保留節(jié)目，所以我們讓湯老師以數(shù)字人的形象再次用幽默的方式與大家相見，以寄托大家對他的懷念?！鄙虦萍枷颉犊词澜纭吠嘎叮瑢?shí)現(xiàn)這一次“重逢”，是采用了AI數(shù)字人視頻生成平臺“如影SenseAvatar”的數(shù)字人技術(shù)打造，在實(shí)現(xiàn)面部、聲音、表情和動作模擬的同時，還隱藏了商湯數(shù)字水印解決方案。

此前，市場上對于數(shù)字人的主要需求來自直播、視頻制作等娛樂產(chǎn)業(yè)，以及醫(yī)療、教育、金融保險等行業(yè)，原因是不需要真實(shí)的演員就能制作短視頻，有可能降低人員成本、溝通成本和時間成本。而目前，“數(shù)字親人”的需求隨之增加。

早在2017年，小冰公司就曾申請了一項(xiàng)復(fù)生已逝親人的專利技術(shù)，隨后提出AI being概念，即通過AI技術(shù)“一站式”完成虛擬人的創(chuàng)建、驅(qū)動和內(nèi)容生成，并具備感知、表達(dá)等無須人工干預(yù)的自動交互能力。不過這項(xiàng)“數(shù)字永生”計劃推進(jìn)緩慢。

2023年4月，24歲的上海小伙吳伍六用Midjourney、ChatGPT和D-ID等最新的AI技術(shù)“復(fù)活”奶奶的視頻，在網(wǎng)上迅速走紅，引發(fā)熱議。大量求助“復(fù)活”親人的私信，令他決定啟動“數(shù)字關(guān)懷服務(wù)平臺”，分享AI“復(fù)活”技術(shù)。

與此同時，“數(shù)字永生”開始成為一門“生意”。在網(wǎng)絡(luò)平臺上搜索，出現(xiàn)大量“復(fù)活親人”的服務(wù)，價格最低可至10元，多則數(shù)百元；有的可“幾分鐘創(chuàng)建AI虛擬人”，有的需要定制服務(wù)，精心制作60天后可“交付”；有的商家正兒八經(jīng)地提供套餐選擇：三大主題場景任選，包含湖邊、草地、海邊場景，本服務(wù)可任選其中一個場景；動作服務(wù)預(yù)設(shè)一套人物動作，伴行散步、喝茶、面對面聊天三選其一……

事實(shí)上，幾年前，日本殯葬行業(yè)已經(jīng)開始推廣數(shù)字親人的業(yè)務(wù)，親屬可以通過3D眼鏡、VR眼鏡再見逝者。

而如今，隨著技術(shù)的發(fā)展，生成“數(shù)字親人”的技術(shù)成本和時間成本已經(jīng)大大降低。有視頻博主就介紹了“數(shù)字親人”的人人可有：利用逝者生前的照片，使用Midjourney制作一個精細(xì)化程度較高的基礎(chǔ)圖像；使用諸如飛槳AI Studio等工具，來把逝者生前的語音資料生成和制作仿真電子合成語音；使用ChatGPT-4來為虛擬數(shù)字人生成對話內(nèi)容；使用D-ID生成虛擬數(shù)字人。

湯曉鷗的數(shù)字人形象

康德“人是目的”的道德命令，是建構(gòu)人工智能道德行動者的最佳契機(jī)。

想“再見一面”，竟變得如此不費(fèi)吹灰之力。

撫慰傷痛還是自縛蠶繭？

錯過爺爺最后一面的大學(xué)生王同學(xué)，卻覺得很難才能“見”上爺爺一面：“有一次好不容易夢見他了，夢里一直哭，哭了很久，一直到接近中午才恍恍惚惚醒來。”他覺得，夢是鏈接逝去親人的方式，因?yàn)橄肽?，所以夢見，哭著不醒來是因?yàn)閼賾俨簧幔辉笖嗔诉@個鏈接。

當(dāng)被建議可以用AI再見爺爺?shù)臅r候，他卻表示了拒絕：“我想讓他的形象永遠(yuǎn)留在我的記憶里，不管是不是未來有一天會變模糊，因?yàn)槟鞘俏易铍h永的回憶。在夢里見到他，那是我在索取我自己大腦中的回憶形成的樣子，我不愿意通過AI的手段來回憶?！?/p>

喪失是關(guān)系的終止，是一種“未完成”，而“告別”是一種完結(jié)。筆者曾學(xué)習(xí)藝術(shù)治療，在失落與悲傷藝術(shù)治療中，對于失去親人的來訪者進(jìn)行悲傷輔導(dǎo)的目標(biāo)有4個：增加失落的真實(shí)感，其心理和情感接受失落發(fā)生的事實(shí)；協(xié)助其處理已表達(dá)或潛在的情緒；協(xié)助其克服適應(yīng)過程中的障礙；最終目的是鼓勵其以健康的方式向逝者告別，并坦然地將情感投注在新的關(guān)系里。

電影《流浪地球2》中的數(shù)字生命

“數(shù)字親人”帶來的，究竟是撫慰傷痛的一劑良藥，還是隔絕世界的自縛蠶繭？

在這個過程中，盡管藝術(shù)治療師往往會借助逝者的照片，鼓勵來訪者與親人進(jìn)行對話，催化出失落的真實(shí)感，但最終目的不是繼續(xù)留戀，而是告別。

每個人都會經(jīng)歷喪失的悲傷，并且不可能回到?jīng)]有發(fā)生之前的狀態(tài)，只能進(jìn)入下一個狀態(tài)。在這個過程中，有的人善于“偽裝”，也有的人忽略了自己并未痊愈，故作堅(jiān)強(qiáng)一如常態(tài)。而對于不懂偽裝或無心偽裝的人來說，這個過程就容易暴露無遺。

筆者作為志愿者，長期陪伴心智障礙青年（心青年），不久前，一名心青年的母親突然去世，長期支持他的社工、心理咨詢師聯(lián)合家長，先對他隱瞞母親去世的消息，隨即為他進(jìn)行連續(xù)多日的死亡教育后，才告知該消息，并輔助他進(jìn)行與母親告別的儀式。

在其后很長一段時間里，他接受了母親離世的事實(shí)，時常提起母親在天上等待自己團(tuán)聚，自己必須足夠努力，才能在100歲的時候再見母親一面。支持者認(rèn)為，正是“再見一面”的渴望，支持這位青年繼續(xù)努力生活下去。

有人說，告別是尊重逝者，尊重生命；期待重逢是一種念想，一種慰藉；而執(zhí)著于“數(shù)字親人”，是放不下、未完成。

“有的人能看到能聽到可以緩解思念，撫平一些痛苦，有的人會因?yàn)檫@個而更走不出來?！币幻〖t書博主在一篇《關(guān)于把已故的親人做成數(shù)字人的提議》的文章中寫道：“如果做成數(shù)字人對你來說會加深痛苦，就沒必要。”

有人發(fā)問，“數(shù)字親人”帶來的，究竟是撫慰傷痛的一劑良藥，還是隔絕世界的自縛蠶繭？

電影《銀翼殺手2049》劇照

人是目的而不是手段

筆者發(fā)現(xiàn)，在網(wǎng)絡(luò)平臺上，許多看似營銷帖的“復(fù)活”親人故事，往往引發(fā)“我也需要”“還接單嗎”的回復(fù)，還有不少網(wǎng)友評論“這是科技的溫度”“科技療愈了人類”；也有一些表示質(zhì)疑的聲音，比如“逝者是否愿意被‘復(fù)活”“生命教育還沒有普及，人們尤其是孩子對生命的理解會不會出現(xiàn)偏差”。

“何而為人、人應(yīng)該如何處理與科技的倫理關(guān)系，是人類進(jìn)入科學(xué)選擇階段必須思考的命題?！碑?dāng)下，學(xué)界正關(guān)注的，不僅是人工智能在技術(shù)層面帶來的風(fēng)險，以及給人工智能倫理從業(yè)者帶來日益嚴(yán)峻的挑戰(zhàn)，還有在哲學(xué)和倫理學(xué)層面帶來的風(fēng)險，即它“可能會逾越人、人性和人類性，而重新定義人或人性”。

“數(shù)字永生”并不只是“生意”。

有從業(yè)者在回應(yīng)《看世界》關(guān)于科技倫理這個問題時表示，AI數(shù)字人復(fù)活逝者不只是一個技術(shù)問題，更是一個倫理道德問題：“技術(shù)是否可以成為人類情感的一種寄托？在數(shù)字化時代，我們?nèi)绾沃匦露x和塑造人與人之間的聯(lián)系？AI數(shù)字人能否理解人類的情感、是否會給親人帶來二次創(chuàng)傷？如何避免這項(xiàng)技術(shù)被濫用？這些問題沒有標(biāo)準(zhǔn)答案，也令從業(yè)者更加深入地思考人類的本質(zhì)和技術(shù)的邊界。”

不過該從業(yè)者認(rèn)為，至少在數(shù)字人技術(shù)不被未經(jīng)授權(quán)濫用的方面，他們做了很多工作，比如在推廣和應(yīng)用數(shù)字人技術(shù)時，建立嚴(yán)格的倫理準(zhǔn)則和監(jiān)管機(jī)制，包括使用范圍、保護(hù)個人隱私、尊重死者和家屬的意愿等。

據(jù)了解，此前，在中國信通院的研究機(jī)構(gòu)牽頭下，商湯科技等多家AI公司共同制定了“可信虛擬人生成內(nèi)容管理系統(tǒng)技術(shù)要求”的標(biāo)準(zhǔn)，制作一個數(shù)字人，首先需要得到當(dāng)事人生前或其家人授權(quán)。

商湯科技還透露，商湯科技數(shù)字人有相關(guān)的鑒定機(jī)制：“在商湯科技平臺上制作的數(shù)字人里，有一系列看不到的‘編碼藏在其中?！?/p>

中國信通院曾在《人工智能倫理治理研究報告（2023年）》指出，人工智能倫理包含價值目標(biāo)與行為要求兩個方面：在價值目標(biāo)上，人工智能倫理要求人工智能各階段活動以增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、尊重隱私等為目標(biāo)；在行為要求上，人工智能倫理要求人工智能技術(shù)做到安全可控、透明可解釋。

吳伍六曾在一篇帖子里寫下“不會過度緬懷過去”，且“希望能激起大家對人工智能、生命、感情、寄托、人性和倫理道德的深度思考，珍惜當(dāng)下”。

有學(xué)者斷言，康德“人是目的”的道德命令，是建構(gòu)人工智能道德行動者的最佳契機(jī)。是的，人是目的而不是手段。

數(shù)十年前，用筆構(gòu)造一個全新世界的科幻作家斯坦尼斯瓦夫·萊姆曾提出，科幻小說是“增加對人類自身的認(rèn)知，而不是對未知生命的認(rèn)知”—在人工智能構(gòu)造了一個全新世界的今天，堅(jiān)持盧德主義早已不合時宜，倒不如借AI發(fā)展大勢，進(jìn)一步增加對人類自身的認(rèn)知。

責(zé)任編輯吳陽煜 wyy@nfcmag.com