史繼紅

算法，可謂是2023年經(jīng)濟(jì)技術(shù)領(lǐng)域中最火熱的詞之一了。2023年1月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱「規(guī)定」）正式落地施行，其中第19條規(guī)定，具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《規(guī)定》履行備案和變更、注銷備案手續(xù)。6月20日，國(guó)家互信辦發(fā)佈國(guó)內(nèi)首批深度合成領(lǐng)域的算法發(fā)佈清單，百度、阿里、騰訊、抖音、快手、美團(tuán)等互聯(lián)網(wǎng)企業(yè)的41個(gè)深度合成算法在列。有人有疑，這個(gè)規(guī)定算法需備案，備案不是審批，是否可視為生成式人工智能技術(shù)審批放松的信號(hào)？把這個(gè)問(wèn)題先放一下，我們先系統(tǒng)地認(rèn)知一下規(guī)定吧。

深度合成技術(shù)的定義、廣泛運(yùn)用及風(fēng)險(xiǎn)

規(guī)定第23條明確了深度合成技術(shù)的定義，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，定義後非限制性的羅列了幾種技術(shù)，如大家熟悉的篇章/問(wèn)答生成（如CHATGPT、文心一格）、文本轉(zhuǎn)語(yǔ)音、人臉生成/替換、圖象生成/修複、虛擬場(chǎng)景等。說(shuō)到深度合成技術(shù)，首先人們想到的是「AI換臉」（包括人臉再現(xiàn)、人臉生成、語(yǔ)音合成等），確實(shí)它是現(xiàn)在應(yīng)用較多的深度合成形式，但深度合成早從局部合成轉(zhuǎn)向全身合成，後者從數(shù)字虛擬人技術(shù)為代表，整合3D人臉和人體重建、文本/語(yǔ)音/口型驅(qū)動(dòng)和神經(jīng)網(wǎng)絡(luò)渲染等技術(shù)，並利用生成完成人體動(dòng)作的遷移。這種捕捉和渲染隨技術(shù)發(fā)展更加靈敏生動(dòng)，在遊戲、社交、影視、醫(yī)療等領(lǐng)域大有作為。得益於源代碼的開(kāi)放和易用性工具的開(kāi)發(fā)，深度合成技術(shù)的使用門檻已大為降低，普通用戶在手機(jī)、電腦等終端設(shè)備上，借助深度合成應(yīng)用程序，即可輕易製作、獲取人臉合成、語(yǔ)音合成等娛樂(lè)性的深度合成內(nèi)容。但問(wèn)題就大量產(chǎn)生了，首先，視頻文件的真實(shí)性存疑，視頻文件難以識(shí)別的可修改性給名譽(yù)權(quán)和肖像權(quán)的保護(hù)增加了困難；其次，隨著人臉、語(yǔ)音深度合成工具的日趨成熟，換臉常常和聲音模擬等技術(shù)進(jìn)行融合，出現(xiàn)了新型詐騙，識(shí)別難度極高；第三，AI技術(shù)的突破，直接改變了人類傳統(tǒng)的創(chuàng)作模式，人的創(chuàng)作從以往從無(wú)到有的創(chuàng)造變成了在AI給出的若幹選項(xiàng)中完成從「N到1式」的遴選、判斷、調(diào)整和優(yōu)化，所以著作權(quán)權(quán)屬問(wèn)題遭到了空前的挑戰(zhàn)。除外，更可怕的是，在深度合成技術(shù)的運(yùn)用中，因機(jī)器學(xué)習(xí)的需要必須收集一些人的面部特征，這些生物特征數(shù)據(jù)安全若保護(hù)欠佳，則刷臉支付、人臉認(rèn)證或許都將不再安全，再如政治層面或民生方面相關(guān)人物、事件的深度合成視頻，易給政治謠言及虛假信息的傳播提供溫床，給公眾話語(yǔ)權(quán)及社會(huì)輿論造成扭曲。

深度合成服務(wù)提供者躲不進(jìn)「避風(fēng)港」了

對(duì)於深度合成技術(shù)的監(jiān)管，規(guī)定對(duì)深度合成內(nèi)容更有針對(duì)性地進(jìn)行規(guī)制，主要針對(duì)誰(shuí)呢？就是深度合成服務(wù)提供者！規(guī)制體現(xiàn)在以下幾個(gè)方面：

1.信息服務(wù)安全合法規(guī)範(fàn)，要求算法服務(wù)提供者建立健全用戶注冊(cè)、信息發(fā)佈審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用於識(shí)別違法和不良信息的特征庫(kù)，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)採(cǎi)取相應(yīng)的處置措施；加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則；加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工幹預(yù)和用戶自主選擇機(jī)制，在重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息；規(guī)範(fàn)開(kāi)展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國(guó)家規(guī)定範(fàn)圍內(nèi)的單位發(fā)佈的新聞信息；不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。

2.用戶權(quán)益保護(hù)規(guī)範(fàn)，包括保障算法知情權(quán)，要求告知用戶其提供算法推薦服務(wù)的情況，並公示服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等；保障算法選擇權(quán)，應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。此外，對(duì)向未成年人、老年人、勞動(dòng)者和消費(fèi)者等主體提供算法推薦服務(wù)的，則規(guī)定不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)，應(yīng)當(dāng)便利老年人安全使用算法推薦服務(wù)，以及不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等。

3.備案、履行安全評(píng)估和配合監(jiān)督檢查義務(wù)規(guī)範(fàn)，包括開(kāi)篇提到的，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型等備案信息，履行備案手續(xù)，而且這類提供者應(yīng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。此外，算法推薦服務(wù)提供者應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信部門和電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門開(kāi)展安全評(píng)估和監(jiān)督檢查工作，並提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

隨著深度合成技術(shù)門檻的降低，如有利可圖，掌握該技術(shù)卻不依法使用的情形很難杜絕，若使用技術(shù)侵犯知識(shí)產(chǎn)權(quán)、肖像權(quán)、名譽(yù)權(quán)的，如何對(duì)行為人進(jìn)行處置，證據(jù)的收集、鑒定是擺在受害人和司法機(jī)關(guān)面前的難題，確保使用深度合成技術(shù)必須登記，也就確保執(zhí)法者對(duì)行為人的追蹤。同時(shí)，進(jìn)行用戶標(biāo)簽及日志信息管理，能實(shí)現(xiàn)執(zhí)法者對(duì)於技術(shù)產(chǎn)物的追蹤，並確保任何通過(guò)深度合成技術(shù)生成的產(chǎn)品可以被公眾識(shí)別，以避免產(chǎn)生公眾認(rèn)知偏差。

另外，規(guī)定將信息安全合規(guī)審查的義務(wù)重點(diǎn)加持在深度合成服務(wù)者身上，意味著深度合成服務(wù)者需要採(cǎi)取技術(shù)或者人工方式對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，管理深度合成內(nèi)容，建立辟謠、算法機(jī)制機(jī)理、科技倫理、信息發(fā)佈、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等機(jī)制或?qū)徍斯芾碇贫?。說(shuō)實(shí)話，合規(guī)要求還是很多的，對(duì)於小規(guī)模服務(wù)商與初創(chuàng)企業(yè)來(lái)說(shuō)，如此高的合規(guī)成本將使其運(yùn)營(yíng)更加艱難。

再而，規(guī)定24條明確：深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，並取得其單獨(dú)同意。這一條毫不費(fèi)力讓人聯(lián)想AI換臉應(yīng)用中，未經(jīng)他人同意情況下，使用他人照片進(jìn)行AI換臉內(nèi)容製作被明確認(rèn)定為違規(guī)行為。在前述條例支持下，人工智能模型的訓(xùn)練不能隨意使用未經(jīng)同意的人臉、聲音等帶有生物特征的數(shù)據(jù)，而許多人工智能模型的訓(xùn)練通常會(huì)通過(guò)「全網(wǎng)爬取數(shù)據(jù)」的渠道將他人公佈在公共媒體的照片、視頻可能會(huì)在不知情的情況下被機(jī)器學(xué)習(xí)，成為某個(gè)模型的養(yǎng)份。

筆者還注意到，規(guī)定給應(yīng)用商店佈置了一條任務(wù)：落實(shí)上架審核、日常管理、應(yīng)急處置等安全管理責(zé)任，核驗(yàn)深度合成類應(yīng)用程序的安全評(píng)估、備案等情況；對(duì)違反國(guó)家有關(guān)規(guī)定的，應(yīng)當(dāng)及時(shí)採(cǎi)取不予上架、警示、暫停服務(wù)或者下架等處置措施。那有些只將前述類似功能做娛樂(lè)的App很有可能無(wú)法承擔(dān)相應(yīng)的監(jiān)管義務(wù)，只能將功能下線最省心，你若不甘心應(yīng)用商店沖著守門員義務(wù)也會(huì)讓你被迫下架的。

在法律人看來(lái)，規(guī)定加持更多自查自管義務(wù)在深度合成服務(wù)提供者遠(yuǎn)大於使用者身上，使得過(guò)去服務(wù)提供者呆在《侵權(quán)責(zé)任法》第三十六條的「避風(fēng)港規(guī)則」的舒適區(qū)，而今得裸泳在類「紅旗規(guī)則」的驚濤駭浪中，除非花大精力大價(jià)錢穿好「救生衣」。

在旁人看來(lái)，服務(wù)商負(fù)擔(dān)過(guò)重，「連監(jiān)管部門都難以做到的事情服務(wù)商們靠自身的技術(shù)能將安全合規(guī)保障得以健全麼？」筆者不是這麼看的。在新技術(shù)的治理與風(fēng)險(xiǎn)防範(fàn)方面，監(jiān)管部門主導(dǎo)的法律規(guī)制確實(shí)必不可少，但立法是滯後的，在深度合成技術(shù)領(lǐng)域，完全跟不上技術(shù)發(fā)展的步伐，立法可能起不到應(yīng)有的效果，還可能阻礙技術(shù)的正向發(fā)展。所以借助鑒別、溯源等技術(shù)措施，要求更有能力的製作者對(duì)深度合成內(nèi)容進(jìn)行源頭管理，而後通過(guò)行業(yè)公約、標(biāo)準(zhǔn)、最佳實(shí)踐指南等進(jìn)行行業(yè)自律，來(lái)實(shí)現(xiàn)多元治理。實(shí)際上，互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺(tái)早已著手應(yīng)對(duì)深度合成技術(shù)的潛在濫用。穀歌、Facebook等美國(guó)主流科技公司已經(jīng)採(cǎi)取了應(yīng)對(duì)方案，如穀歌開(kāi)發(fā)的「Reality Defender」工具，積極開(kāi)發(fā)甄別AI合成內(nèi)容、對(duì)抗深度合成技術(shù)濫用的方法和工具。由於OpenAI的DALL-E和ChatGPT的突然爆發(fā)，生成式人工智能進(jìn)入了主流意識(shí)，這導(dǎo)致更多的投資引向開(kāi)發(fā)某種容易檢測(cè)人工智能謊言的方法，一些公司，如Optic和英特爾的FakeCatch，正專注於找出人工智能參與音頻和視頻的情況，而另一些公司，如Fictious.AI，則更直接地將重點(diǎn)放在人工智能聊天機(jī)器人生成的文本上。在國(guó)內(nèi)，騰訊信息安全團(tuán)隊(duì)自研的「換臉鑒別模型的訓(xùn)練方法、換臉鑒別方法、裝置和設(shè)備」獲得專利，對(duì)相關(guān)深度合成內(nèi)容的檢測(cè)都達(dá)到了很高的準(zhǔn)確率。此外，不斷改良的數(shù)字水印技術(shù)也可在避免合成技術(shù)的濫用中發(fā)揮關(guān)鍵作用，和視覺(jué)可見(jiàn)的明水印不同，數(shù)字水印通過(guò)在媒體作品如音頻、視頻、圖像、文本中嵌入不可見(jiàn)的信息，從而實(shí)現(xiàn)信息隱藏、版權(quán)認(rèn)證、追蹤溯源、真實(shí)性驗(yàn)證等作用。這些須依賴制定相關(guān)標(biāo)準(zhǔn)的大廠與技術(shù)大咖的支持，監(jiān)管層孤軍作戰(zhàn)是完全實(shí)現(xiàn)不了監(jiān)管作用的。

算法備案遠(yuǎn)不等於產(chǎn)品審批放松

算法備案手續(xù)並不等同於生成式AI審批，也不意味著備案企業(yè)就能據(jù)此落地執(zhí)行該算法的AI產(chǎn)品。

規(guī)定第15條要求深度合成服務(wù)提供者和技術(shù)支持者提供生成或者編輯人臉、人聲等生物識(shí)別信息的，或生成或者編輯可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息的，應(yīng)依法自行或者委托專業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估；第20條則要求深度合成服務(wù)提供者開(kāi)發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。所以，不少深度合成技術(shù)服務(wù)商最近接到深度合成算法評(píng)估的通知，應(yīng)用市場(chǎng)也通知企業(yè)需先開(kāi)展算法備案和安全評(píng)估之後才能上線。那倒底做哪種評(píng)估，評(píng)估該怎麼做，按什麼標(biāo)準(zhǔn)來(lái)開(kāi)展？

評(píng)估的法律支撐主要有四個(gè)，分別是2017年發(fā)佈的《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評(píng)估管理規(guī)定》，2018年發(fā)佈的《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》，2022年發(fā)佈的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和今天討論的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，匯總一下評(píng)估分為自評(píng)估、第三方機(jī)構(gòu)評(píng)估、監(jiān)管部門開(kāi)展的評(píng)估，從評(píng)估對(duì)象來(lái)說(shuō)可以是算法、互聯(lián)網(wǎng)服務(wù)、新技術(shù)新應(yīng)用三個(gè)對(duì)象。算法自評(píng)估目前還沒(méi)有公開(kāi)的標(biāo)準(zhǔn)，但在開(kāi)展算法備案的時(shí)候，需要提交一份有模板可借鑒的算法安全自評(píng)估報(bào)告，而且自評(píng)估是需按照周期開(kāi)展的，同時(shí)對(duì)企業(yè)的自評(píng)估制度的建設(shè)也提出了要求。如果企業(yè)未建立評(píng)估制度，對(duì)如何開(kāi)展評(píng)估無(wú)從下手，這時(shí)候就可以求助第三方專業(yè)機(jī)構(gòu)的協(xié)助，這一塊需要考量第三方機(jī)構(gòu)的專業(yè)性和技術(shù)能力。如果企業(yè)的產(chǎn)品服務(wù)或算法可能已經(jīng)走到時(shí)代的前列，或者複雜到引起相關(guān)部門的熱切關(guān)注或擔(dān)憂了，可能觸發(fā)網(wǎng)信部門或公安部門在監(jiān)管層面的評(píng)估。另外還有互聯(lián)網(wǎng)服務(wù)評(píng)估和新技術(shù)新應(yīng)用的評(píng)估這裡就略過(guò)了。

發(fā)展無(wú)止境，治理無(wú)窮期。規(guī)定的出臺(tái)標(biāo)誌著中國(guó)網(wǎng)絡(luò)綜合治理能力的進(jìn)一步提升，在深度合成技術(shù)應(yīng)用與治理尚處?kù)镀鸩诫A段的現(xiàn)下，筆者認(rèn)為，規(guī)定所體現(xiàn)的多元化自律評(píng)估、管理與監(jiān)督，在技術(shù)商用領(lǐng)域的規(guī)制上放大了格局，變通了意識(shí)思想，對(duì)臻進(jìn)深度合成治理水平，助力中國(guó)式現(xiàn)代化數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展邁出了堅(jiān)實(shí)的步伐。