◎李碧珍 徐殿秀 胡良艷

AI虛擬主播是基于人工智能技術(shù)的虛擬人物， 背后集成了深度學(xué)習(xí)、 神經(jīng)網(wǎng)絡(luò)、 生成式對抗網(wǎng)絡(luò)、 自然語言處理、 多模態(tài)建模、 語音合成、 計(jì)算機(jī)視覺等綜合技術(shù)， 其在社交、 傳播、 營銷等領(lǐng)域的價(jià)值正在逐漸顯現(xiàn)。 從用戶生成內(nèi)容 （UGC） 到專業(yè)生成內(nèi)容 （PGC）， 再到現(xiàn)在的人工智能生成內(nèi)容 （AIGC）， 內(nèi)容創(chuàng)作方式正在經(jīng)歷巨大的變革和進(jìn)步。 AIGC 技術(shù)為AI 虛擬主播賦予了更多的表現(xiàn)力和創(chuàng)造力， 推動AI 虛擬主播市場逐漸向商業(yè)、 新聞、 金融、 體育、 文藝、 智慧城市、 生活服務(wù)等領(lǐng)域拓展。 AI 虛擬主播能夠通過計(jì)算機(jī)程序模擬出人類的外貌、 聲音和行為， 實(shí)現(xiàn)自動化的主播功能， 可以在虛擬世界中進(jìn)行主持、 播報(bào)新聞、 進(jìn)行娛樂表演等活動，其形象和互動方式通常是基于虛擬現(xiàn)實(shí)和計(jì)算機(jī)生成的圖像、 動畫或真人演員的合成。 目前關(guān)于AI 虛擬主播的研究主要聚焦對信息技術(shù)本身的研究和技術(shù)發(fā)展給人們帶來的福祉與影響的研究。福祉顯而易見， AI 虛擬主播可以不知 “疲倦” 得24 小時不間斷進(jìn)行工作， 創(chuàng)作效率高、 響應(yīng)速度快、 創(chuàng)作內(nèi)容高度個性化且能夠持續(xù)更新等。 但在給人類帶來福祉的同時， 也帶來了潛在風(fēng)險(xiǎn)和安全隱患。

一、 AI 虛擬主播行業(yè)快速擴(kuò)張的潛在風(fēng)險(xiǎn)

目前， 國內(nèi)外對AI 虛擬技術(shù)研發(fā)力度不斷增大， 應(yīng)用領(lǐng)域快速擴(kuò)張。 在AI 技術(shù)不斷升級的背景下， AI 虛擬主播的外觀與真人主播越來越像，聲音越來越逼真、 表情越來越細(xì)膩， 語音語調(diào)也從原來的 “機(jī)械語音” 轉(zhuǎn)為 “智能語音”， 如同真人的原音再現(xiàn)。 從外觀外形到聲音表情， 都與真人主播相差無幾， AI 虛擬主播快速擴(kuò)張暗含著潛在風(fēng)險(xiǎn)。

1.AI 虛擬主播的身份數(shù)據(jù)安全與隱私泄露風(fēng)險(xiǎn)

AI 虛擬主播運(yùn)行的基礎(chǔ)是數(shù)據(jù)， 而數(shù)據(jù)產(chǎn)生的主體則是生命個體。 AI 虛擬主播所播放的內(nèi)容主要依賴于收集和分析數(shù)據(jù)， 這些數(shù)據(jù)往往包括個人隱私及受知識產(chǎn)權(quán)保護(hù)的相關(guān)信息內(nèi)容， 在信息數(shù)據(jù)的收集、 分析、 處理、 使用的過程中， 加劇了泄露隱私信息的風(fēng)險(xiǎn)。 尤其是若這些數(shù)據(jù)被未經(jīng)授權(quán)的別有用心的人或組織抓取、 篡改、 濫用， 就可能會造成個人或他人的隱私泄露風(fēng)險(xiǎn)，引發(fā)安全問題。 AI 虛擬主播與真人主播不同， 其身份信息是靠數(shù)據(jù)和算法而獲得和存在的。 而真人主播作為真人， 具有人所具有的情感情緒、 幻想聯(lián)想、 覺悟頓悟等， 這些非理性的認(rèn)識是數(shù)據(jù)無法實(shí)現(xiàn)的。 把復(fù)雜的人的身份、 本性和特點(diǎn)數(shù)據(jù)化賦予給AI 虛擬主播， 而AI 虛擬主播并不具有控制身份數(shù)據(jù)信息和被輸入的海量播報(bào)內(nèi)容信息的權(quán)力。 這些關(guān)于AI 虛擬主播自身和他人他事的數(shù)據(jù) “輸入” 給AI 虛擬主播的同時， 也意味著可以通過技術(shù)將數(shù)據(jù)進(jìn)行盜用、 控制和篡改。 甚至一些AI 軟件利用違法手段在未經(jīng) “信息主人” 授權(quán)的情況下， 擅自 “收集” 他人聲音、 語音、 面部表情以及其他個人隱私信息等，并對信息數(shù)據(jù)進(jìn)行整理合成， 通過智能算法等方式， 推測出個人偏好、 行為習(xí)慣等隱私信息。 這無疑加劇了AI 虛擬主播身份的不確定性， 也加劇了泄露隱私風(fēng)險(xiǎn)。

2. AI 虛擬主播的偏見性和利益傾向?qū)ι鐣a(chǎn)生的風(fēng)險(xiǎn)

AI 虛擬主播在數(shù)據(jù)生成過程中會根據(jù)操控者自身的利益需要選擇具有價(jià)值傾向的傳播信息，進(jìn)而生成帶有偏見性的傳播內(nèi)容。 正如 “科技無國界， 但是科技公司有國籍”， 在AI 虛擬主播的設(shè)計(jì)過程中通常會被或有意或無意地嵌入思想理念、 價(jià)值觀念、 利益傾向等。 同時， AI 虛擬主播技術(shù)往往被一些資金雄厚、 技術(shù)先進(jìn)、 規(guī)模龐大的大型科技公司所掌握。 公司具有營利性和逐利性， 則可能導(dǎo)致相對于社會利益和公共利益而言， 其更 “強(qiáng)化” 自身利益， 更追求自身利益最大化， 進(jìn)而更易引發(fā)分配不公等利益失衡現(xiàn)象。甚至?xí)蚣夹g(shù)鴻溝而引發(fā)技術(shù)黑箱， 出現(xiàn)典型的不易感知和發(fā)現(xiàn)的黑箱操縱情況， 進(jìn)而使不平等不公平等隱患加劇。 總之， 隨著AI 虛擬技術(shù)應(yīng)用的領(lǐng)域越來越多， 如果得不到高度的重視和規(guī)范， 可能引發(fā)失業(yè)率上升、 凸顯社會不平等問題， 具有相當(dāng)社會風(fēng)險(xiǎn)。

3.AI 虛擬主播技術(shù)應(yīng)用引發(fā)的倫理問題與道德挑戰(zhàn)

AI 虛擬主播并非僅僅是技術(shù)的呈現(xiàn)， 其內(nèi)容中可能存在一些價(jià)值爭議或規(guī)范適用的問題， 有關(guān)人工智能倫理道德問題引起了人們的關(guān)注。 AI虛擬主播作為人工智能可以通過技術(shù)預(yù)設(shè)的內(nèi)容， 但無法感知內(nèi)容本身所具有的真實(shí)含義； 可以精準(zhǔn)深入分析數(shù)據(jù)信息， 但無法知曉數(shù)據(jù)信息的真?zhèn)我约皵?shù)據(jù)背后的真實(shí)情況。 當(dāng)AI虛擬主播技術(shù)被別有用心之人濫用，傳播仇恨言論、 種族主義言論、 性別歧視言論等有害信息， 就容易引發(fā)倫理道德， 甚至法律問題。 所以， 當(dāng)把存在價(jià)值爭議、 觀念沖突或規(guī)范適用等問題交由技術(shù)來分析和處理時， 就有可能使得問題愈演愈烈、 持續(xù)惡化。 因?yàn)樵诂F(xiàn)實(shí)社會關(guān)系中， 在處理存有價(jià)值爭端、 觀念沖突或規(guī)范適用等問題時， 往往需要人與人之間反復(fù)交流溝通、 換位思考、 理解禮讓等， 但AI 虛擬主播只能 “機(jī)械” 地被動完成 “被輸入”的 “任務(wù)”。 由于AI 虛擬主播技術(shù)的應(yīng)用依賴其背后的強(qiáng)大算法， 然而算法假定與人性選擇有著本質(zhì)區(qū)別， 算法假定代表的是機(jī)器人性，而人性選擇多與社會規(guī)范、 人脈關(guān)系等產(chǎn)生關(guān)聯(lián)。 AI 虛擬主播經(jīng)過授權(quán)后， 依賴算法假定，按照機(jī)器性選擇進(jìn)行 “任務(wù)性” 播報(bào)， 而非人性選擇播報(bào)。 此外， AI 虛擬主播所模仿的人的外貌、 聲音、 言行、 職業(yè)甚至思想等， 本是人類所特有的， 具有私人屬性， 經(jīng)過AI 虛擬主播“復(fù)制” “粘貼”， 使其具有了公共屬性， 這意味著私人領(lǐng)域的公共化， 由此可能帶來人性沖突、 倫理風(fēng)險(xiǎn)。

4.AI 虛擬主播偽造虛假內(nèi)容信息沖擊意識形態(tài)安全

AI 虛擬主播就是通過語言傳播信息或宣傳。AI 虛擬主播打破了 “二次元” “三次元” 的邊界， 改變了 “有圖就有真相” 的認(rèn)知， “虛擬主播” 與真人主播使人難分難辨。 在AI 技術(shù)的支持下， 只要有照片就可以把照片中的人物通過AI技術(shù)變成虛擬主播， 可以運(yùn)用AI 語音、 圖像、聲音和文本生成等技術(shù)讓任何人在任何場景下以任何聲音說任何話， 有些 “別有用心” 之人就可能利用AI 虛擬主播技術(shù)生成虛假新聞報(bào)道、 發(fā)表虛假網(wǎng)絡(luò)評論， 如發(fā)布具有誤導(dǎo)性的社交帖子或者發(fā)表具有欺詐性、 虛假性的評價(jià)， 誘導(dǎo)網(wǎng)民、 欺騙網(wǎng)民， 對個人或者組織造成傷害。 尤其是個別AI 主播根據(jù)自身算法的邏輯 “議程設(shè)置”， 報(bào)道虛假新聞或片面地報(bào)道新聞， 誤導(dǎo)信息受眾的思考方向， 有可能將真實(shí)新聞 “解讀”為虛假新聞， 將虛假新聞 “包裝” 為真實(shí)事件，進(jìn)而影響人們的思想認(rèn)識和價(jià)值取向， 加劇影響意識形態(tài)安全和社會的安定穩(wěn)定。

二、 促進(jìn)AI 虛擬主播行業(yè)健康發(fā)展的建議

AI 虛擬主播快速擴(kuò)張是人工智能發(fā)展大趨勢， 我們既要看到其進(jìn)步之處和優(yōu)勢所在， 也要看到其存在的潛在風(fēng)險(xiǎn)和關(guān)鍵問題， 并通過具體舉措發(fā)揮優(yōu)勢、 防范風(fēng)險(xiǎn)， 使AI 虛擬主播更好地人類美好生活所服務(wù)。

1.加快AI 虛擬主播平臺搭建， 強(qiáng)化高新技術(shù)領(lǐng)域人才培養(yǎng)

一方面， 要加快搭建自主可控的AI 虛擬主播研發(fā)平臺。 目前， AI 虛擬主播技術(shù)、 平臺、工具等主要由國外研發(fā)機(jī)構(gòu)研發(fā)， 雖然國內(nèi)一些科技企業(yè)與互聯(lián)網(wǎng)企業(yè)也在開發(fā)類似技術(shù)、平臺和工具等， 但與國外技術(shù)發(fā)展水平仍存在一定差距。 因此， 我國應(yīng)高度重視AI 虛擬主播技術(shù)、 平臺、 工具等的研發(fā)， 尤其加快反生成式AI 虛擬主播技術(shù)的研發(fā)， 努力在開源類技術(shù)與模型上實(shí)現(xiàn)自主研發(fā)、 可管可控。 在AI 虛擬主播技術(shù)領(lǐng)域自主可控技術(shù)研發(fā)與應(yīng)用方面，要充分利用國家資金、 社會資源等， 鼓勵和引導(dǎo)科研院所、 利用高校人才資源、 團(tuán)結(jié)社會精英等積極投入到AI 虛擬主播相關(guān)技術(shù)、 平臺等研發(fā)中。 另一方面， 要持續(xù)推進(jìn)技術(shù)專業(yè)領(lǐng)域人才的培養(yǎng)和儲備工作。 要源源不斷培養(yǎng)德才兼?zhèn)涞母咝录夹g(shù)人才， 以緩解和解決我國在AI虛擬主播技術(shù)領(lǐng)域的高質(zhì)量專業(yè)人才較少的短板， 要積極鼓勵高等院校加大相關(guān)技術(shù)類專業(yè)及課程設(shè)置， 提高我國技術(shù)領(lǐng)域的高層次人才培養(yǎng)質(zhì)量。

2.構(gòu)建AI 虛擬主播監(jiān)管機(jī)制， 推動多元主體協(xié)同治理體系

一方面， 要構(gòu)建監(jiān)管機(jī)制。 加強(qiáng)政府部門對AI 虛擬主播發(fā)展相關(guān)事務(wù)的監(jiān)管。 既要提升監(jiān)管者對AI 虛擬主播技術(shù)的認(rèn)知和理解， 又要提升監(jiān)管者的數(shù)智治理能力， 提升監(jiān)管工作的智能化水平。 另一方面， 要加強(qiáng)頂層設(shè)計(jì)。 在數(shù)據(jù)管理工作中仍存在多頭管理、 職責(zé)不清、業(yè)務(wù)重疊交叉等現(xiàn)象。 應(yīng)當(dāng)依托2023 年國務(wù)院機(jī)構(gòu)改革涉及的組建國家數(shù)據(jù)局契機(jī)， 建立體系完整、 權(quán)責(zé)明晰的智能數(shù)據(jù)管理機(jī)構(gòu)。 同時，構(gòu)建以政府為主導(dǎo)的多元主體參與的協(xié)同治理機(jī)構(gòu)。 AI 虛擬主播技術(shù)可能引發(fā)的風(fēng)險(xiǎn)是多維多層多領(lǐng)域多方面的， 既涉及個人利益， 也涉及社會利益； 既涉及網(wǎng)絡(luò)安全， 也涉及政治安全； 既涉及個人信息安全， 也涉及國家意識形態(tài)安全， 影響范圍廣、 危害大， 應(yīng)構(gòu)建以政府為主導(dǎo)的多元主體參與的協(xié)同治理機(jī)制與體系。

3.健全法律法規(guī)和倫理規(guī)范， 促進(jìn)生成式人工智能健康發(fā)展

隨著國內(nèi)生成式人工智能快速發(fā)展， 相關(guān)監(jiān)管政策也逐步落實(shí)。 由國家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布的 《生成式人工智能服務(wù)管理暫行辦法》 于2023 年8 月15 日正式施行，這也是我國首個針對生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。 法律法規(guī)和倫理規(guī)范是防范AI 虛擬主播潛在風(fēng)險(xiǎn)隱患的重要保障。 一方面， 我國在AI 虛擬主播技術(shù)方面的相關(guān)法律規(guī)范尚不完善， 缺乏針對新技術(shù)、 新平臺、 新應(yīng)用的配套法律法規(guī)。 應(yīng)結(jié)合我國實(shí)際情況， 加快人工智能領(lǐng)域立法工作， 并結(jié)合新技術(shù)的發(fā)展成果和趨勢、 面臨的新挑戰(zhàn)和新問題等及時修訂現(xiàn)行法律法規(guī)， 進(jìn)一步優(yōu)化以AI 虛擬主播為代表的新一代人工智能的數(shù)據(jù)安全的相關(guān)法律規(guī)范。另一方面， 完善社會的倫理規(guī)范。 在智能化社會中的技術(shù)中介作用下， 人類社會將迎來由機(jī)械化、 電子化、 信息化向智能化的轉(zhuǎn)變， 人類肉體與信息技術(shù)、 機(jī)器機(jī)械、 電子軟件等融合將成為常態(tài)， 思維意識、 精神思想也將成為可被編輯的對象。 技術(shù)無法脫離倫理的態(tài)勢獲得發(fā)展， 倫理是科學(xué)技術(shù)發(fā)展的底線， 技術(shù)的發(fā)展始終都要融入倫理反思和價(jià)值引導(dǎo)。 人類將可以通過新興技術(shù)等克服身體、 生命本身、 時間空間的限制和約束， 實(shí)現(xiàn)體力和腦力的雙重變革式發(fā)展。 隨著智能技術(shù)的不斷發(fā)展， 人類可能從自然人發(fā)展為 “電子人” “機(jī)器人”“虛擬人” 等以不同形式表現(xiàn)的 “未來人”， 身體意義與價(jià)值、 感知方式與途徑、 交往實(shí)踐與中介、 社會發(fā)展與方向都將發(fā)生變革式改變。因此， 需要對人類的倫理原則、 道德規(guī)范、 行為準(zhǔn)則等進(jìn)一步完善， 以規(guī)范 “未來人”。 通過完善倫理道德規(guī)范等， 發(fā)揮人類能動性， 規(guī)范人類在實(shí)踐生活中的言行， 幫助人類堅(jiān)持和把控AI 技術(shù)發(fā)展的正確導(dǎo)向和方向， 形成健康可持續(xù)的商業(yè)模式。