張 欣 宋雨鑫

(對外經(jīng)濟(jì)貿(mào)易大學(xué) 法學(xué)院，北京 100029)

算法系統(tǒng)的廣泛部署已在多層次、多場域引發(fā)社會治理風(fēng)險。與一般技術(shù)引發(fā)的治理風(fēng)險相比，算法的技術(shù)和應(yīng)用風(fēng)險更具復(fù)雜性、系統(tǒng)性。一方面，算法應(yīng)用虛實結(jié)合、嵌入廣泛，加劇了監(jiān)管層的信息不對稱，監(jiān)管決策的制定缺乏有效的參考點。另一方面，商業(yè)秘密和知識產(chǎn)權(quán)制度的存在致使以算法透明和個體賦權(quán)為主線的算法治理機(jī)制應(yīng)對乏力。這些結(jié)構(gòu)性挑戰(zhàn)推動了算法治理范式轉(zhuǎn)向多中心、多場域、多路徑、多模塊的新型治理范式。在推動治理變革的前沿實踐中，算法審計制度將技術(shù)、法律和倫理深度融合，以合理透明度和專業(yè)技術(shù)保證彌合算法黑箱和商業(yè)秘密間的制度張力，為構(gòu)建事前預(yù)警識別機(jī)制、事中風(fēng)險管控機(jī)制和事后責(zé)任追溯機(jī)制提供了有效決策參考，成為當(dāng)下各國算法治理圖景中日益引發(fā)關(guān)注的新興治理工具。我國通過《個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》以及《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例(征求意見稿)》(以下簡稱《網(wǎng)安管理條例(征求意見稿)》)等多部法律法規(guī)構(gòu)建了算法審計的底層規(guī)則，并將其作為針對大型互聯(lián)網(wǎng)平臺和高風(fēng)險自動化決策施行的特殊監(jiān)管工具。但具體化、精細(xì)化、科學(xué)化的制度建構(gòu)方案仍然闕如。本文聚焦算法審計制度，深度剖析其治理效能，凝練探析其構(gòu)造原理和制度邏輯，緊密結(jié)合我國算法治理的客觀現(xiàn)狀，探索算法審計制度的本土化方案。

一、算法審計的治理效能

算法審計是由技術(shù)性和非技術(shù)性措施組成的審查算法系統(tǒng)一系列方法的總稱。算法審計的范圍包括從評估企業(yè)算法治理策略到設(shè)計和部署階段使用的特定數(shù)據(jù)和模型機(jī)理[1](P6)。早在1970年，美國在住房政策中創(chuàng)建了種族歧視審查制度[2](P2)。此后，該項制度被創(chuàng)新性地引入到算法規(guī)制的相關(guān)立法中。例如，紐約市立法明確規(guī)定使用招聘算法的雇主必須進(jìn)行年度偏見審計，否則禁止將算法用于求職評估[3]。歐盟新近提出的《人工智能法案》第19條也要求高風(fēng)險算法供應(yīng)商對算法進(jìn)行“合格性評估”。與國際算法立法趨勢遙相呼應(yīng)，我國《個人信息保護(hù)法》第54條、第64條規(guī)定了個人信息處理者的定期合規(guī)審計義務(wù)與個人信息保護(hù)強制合規(guī)審計義務(wù)?！端惴ㄍ扑]管理規(guī)定》第7條、第8條以及第24條進(jìn)一步推動了算法審計制度在我國的生根落地?？梢哉f，算法審計制度已成為全球算法治理實踐中的基礎(chǔ)工具，對于算法風(fēng)險的識別、評估、預(yù)防和管理具有重要意義。

(一)彌合算法透明與算法商業(yè)秘密保護(hù)的治理沖突

長久以來，算法治理面臨著算法公開與商業(yè)秘密以及專有技術(shù)保護(hù)之間的緊張沖突。作為人工智能的底層技術(shù)，算法技術(shù)依托海量數(shù)據(jù)資源及強大算力，廣泛應(yīng)用于電子商務(wù)、搜索引擎、即時通信、社交媒體等多元場景，為平臺企業(yè)積累了巨大的經(jīng)營和競爭優(yōu)勢。算法的商業(yè)價值化趨勢日益凸顯，各平臺企業(yè)紛紛將算法技術(shù)視為企業(yè)的核心競爭力。從2020年轟動全球的TikTok禁令事件中，就雙方是否出售其核心推薦算法展開的激烈博弈便可管窺算法在人工智能時代的商業(yè)價值以及戰(zhàn)略意義[4]。鑒于企業(yè)為算法開發(fā)投入高額成本、巨量資源，將商業(yè)秘密保護(hù)拓展至算法本無不妥，各國近期立法中也呈現(xiàn)對算法增強保護(hù)的立法趨勢[5](P106)。但商業(yè)秘密的保護(hù)范圍、保護(hù)程度不斷增加，逐步覆蓋和拓展至與算法有關(guān)的模型設(shè)計原理、變量特征、變量權(quán)重，使之成為科技企業(yè)逃脫算法責(zé)任、規(guī)避算法開發(fā)者義務(wù)的盾牌。

與之相對，為確保算法的可問責(zé)性，技術(shù)正當(dāng)程序規(guī)制理念將算法透明、算法公開作為對抗算法黑箱的基礎(chǔ)原則。例如，《通用數(shù)據(jù)保護(hù)條例》以算法解釋權(quán)為代表，創(chuàng)建私權(quán)制衡體系，以期賦予用戶獲知算法運行邏輯、系統(tǒng)功能、設(shè)計目的、設(shè)想用途和預(yù)期后果等信息的權(quán)利[6](P1435)。美國《算法問責(zé)法案(2022)》則要求公共場景下算法設(shè)計者對算法源代碼、輸入數(shù)據(jù)等關(guān)鍵信息進(jìn)行必要披露和公開[7]。但算法黑箱的客觀存在和商業(yè)秘密制度搭建的堅實盾牌致使算法透明原則的落地頗易受阻且實效不彰。無論是算法透明對開發(fā)者激勵和行業(yè)發(fā)展可能帶來的制度隱憂，還是算法代碼和模型要素公開后來自“算法算計”的現(xiàn)實阻礙，算法透明原則與商業(yè)秘密保護(hù)之間的沖突與張力成為了算法治理的一大難題。

與開源為表征的算法透明框架相比，算法審計制度更為靈活、包容，可依據(jù)算法系統(tǒng)的透明程度作出因應(yīng)性調(diào)整。即使面對“算法黑箱”，也能夠繞開商業(yè)秘密這一制度堡壘，僅針對兩端輸入、輸出變量作出必要的觀察與分析。從完全封閉的“算法黑箱”階段到理想化的“算法白箱”階段，算法審計的優(yōu)勢在于能夠合理劃定審計公開的對象、范圍，不斷平衡調(diào)優(yōu)“算法公開-商業(yè)秘密”的重疊地帶，從而為算法治理提供有效的決策參考點[8](P660-661)。

(二)助力企業(yè)自我規(guī)制與政府規(guī)制雙軌協(xié)同

算法模型動態(tài)更迭、實時更新，這一技術(shù)特性對治理的介入時點以及響應(yīng)速率提出了較高要求。傳統(tǒng)治理模式多以政府規(guī)制為主導(dǎo)，采取自上而下、事后介入的監(jiān)管方式，治理效率遲滯，難以滿足算法技術(shù)內(nèi)生存在的靈活、動態(tài)、彈性等特質(zhì)[9](P122)。為鼓勵科技創(chuàng)新，促進(jìn)行業(yè)發(fā)展，以美國為代表的一些國家逐步衍生出鼓勵企業(yè)、行業(yè)自我規(guī)制的監(jiān)管生態(tài)。從規(guī)制實效來看，企業(yè)自我規(guī)制可采的策略和手段更為豐富，規(guī)制啟動成本更低，應(yīng)對更為精準(zhǔn)，且因具備更為充分的決策信息，能夠?qū)⑺惴L(fēng)險管理節(jié)點前置，已成為多元共建治理模式下不可或缺的治理環(huán)節(jié)。雖然平臺企業(yè)自我規(guī)制優(yōu)勢頗多，但其弊端也不容忽視。因缺乏強有力的外部約束和問責(zé)機(jī)制，企業(yè)自我規(guī)制難以實現(xiàn)從算法預(yù)設(shè)計到部署和運行階段的有效管理，企業(yè)自我規(guī)制常異化為抗拒承擔(dān)主體責(zé)任、排斥政府監(jiān)管的“護(hù)身符”[10](P84-89)。如何更為順暢地協(xié)調(diào)、銜接企業(yè)自我規(guī)制和政府規(guī)制的關(guān)系，充分發(fā)揮二者規(guī)制優(yōu)勢而抑制其弊端，成為算法治理的又一挑戰(zhàn)。

算法審計制度兼容自愿審計和強制審計，一方面可容納企業(yè)對算法系統(tǒng)實行差異化管理和風(fēng)險控制的多元化需求，另一方面可為政府介入監(jiān)管算法預(yù)留制度接口，在企業(yè)自愿審計之外對高風(fēng)險、高影響算法系統(tǒng)實施重點監(jiān)管。故算法審計成為協(xié)同、銜接企業(yè)自我規(guī)制和政府規(guī)制的有力杠桿，有助于實現(xiàn)二者并舉不悖的治理目標(biāo)。

(三)推動法律、技術(shù)和倫理三元共治機(jī)制的有效落地

遵循行為主義邏輯，傳統(tǒng)的法律規(guī)制模式強調(diào)基于事后、基于結(jié)果的行為矯正[11](P33)，這一規(guī)制模式面對算法技術(shù)引發(fā)的跨域性、復(fù)雜性風(fēng)險展現(xiàn)出啟動滯后、成本高昂、實效不良等局限。與硬法相對，以技術(shù)標(biāo)準(zhǔn)、合規(guī)指引、倫理規(guī)范等為內(nèi)核的軟法體系具有形式多元、組合靈活的優(yōu)勢，契合算法治理動態(tài)協(xié)同、軟硬兼施的治理需求，成為國際算法治理共識性工具[12]。常見的軟法治理可劃分為基于技術(shù)的治理和基于倫理的治理兩大范疇。實踐中以美國國家標(biāo)準(zhǔn)與技術(shù)研究院和歐盟第29條工作組為代表，各國以多元化方式積極探索法律、技術(shù)和倫理深度耦合、動態(tài)銜接的治理機(jī)制。例如，美國國家標(biāo)準(zhǔn)與技術(shù)研究院專門發(fā)布指引，將法律規(guī)定中的算法公平原則轉(zhuǎn)化為技術(shù)標(biāo)準(zhǔn)和合規(guī)指南，推動硬法的穩(wěn)步落地[13]。算法審計制度圍繞算法全生命周期展開，既注重預(yù)設(shè)計環(huán)節(jié)對算法技術(shù)層面的性能評估，也兼顧倫理原則在技術(shù)產(chǎn)品研發(fā)層面的具體體現(xiàn)，還通過算法運行和部署確保算法技術(shù)和應(yīng)用的合規(guī)底線。可以說，算法審計制度將法律、倫理、技術(shù)三維價值目標(biāo)科學(xué)整合到治理實踐中，以微觀合規(guī)審計、中觀技術(shù)審計、宏觀倫理審計協(xié)同推動法律、技術(shù)和倫理的深度耦合與良性互動。

二、算法審計的制度邏輯

有鑒于算法審計展現(xiàn)出的多重治理效能，我國立法已初步搭建起底層規(guī)則。例如，我國《網(wǎng)安管理條例(征求意見稿)》第53條規(guī)定，大型互聯(lián)網(wǎng)平臺運營者應(yīng)當(dāng)委托第三方審計，每年對平臺數(shù)據(jù)安全情況、平臺規(guī)則和自身承諾的執(zhí)行情況、個人信息保護(hù)情況、數(shù)據(jù)開發(fā)利用情況等進(jìn)行年度審計，并披露審計結(jié)果。算法審計制度雖在各國近期立法中多有提及，但其構(gòu)建邏輯和形成機(jī)理尚未得到充分挖掘。結(jié)合算法審計實踐可知，完整的算法審計制度應(yīng)由審計主體、審計原則、審計框架、審計方法以及審計公開五個要素構(gòu)成。

(一)審計主體

基于多中心協(xié)同治理范式，算法審計的主體具有多元化特點。算法審計制度可劃分為科技企業(yè)開展的內(nèi)部審計以及由監(jiān)管機(jī)關(guān)和第三方開展的外部審計。

1.內(nèi)部審計

算法內(nèi)部審計是開發(fā)、應(yīng)用算法的企業(yè)自行開展的審查、評估活動，是“檢查人工智能系統(tǒng)創(chuàng)建和部署是否符合既有道德期待和規(guī)范性標(biāo)準(zhǔn)的機(jī)制”[14](P33)。因算法技術(shù)的復(fù)雜性和專有性，外部審查機(jī)制無法深入訓(xùn)練數(shù)據(jù)集、模型參數(shù)等內(nèi)部信息，僅可通過觀察“輸入-輸出”變量的方式開展審計工作，無法全面評估、準(zhǔn)確探查算法系統(tǒng)的風(fēng)險點。與外部審計相比，內(nèi)部審計人員可深入算法決策環(huán)路，訪問、審查、測試、評估算法訓(xùn)練的數(shù)據(jù)集和訓(xùn)練模型，拓展、整合外部審計難以觸及的信息。算法內(nèi)部審計還可兼顧多項政策目標(biāo)。不僅算法開發(fā)團(tuán)隊可由此獲得對算法系統(tǒng)的評測和反饋，開發(fā)、部署算法系統(tǒng)的企業(yè)也可通過審計識別、評估潛在的風(fēng)險及影響，增強算法安全，提升算法可信度。目前，多家互聯(lián)網(wǎng)頭部企業(yè)正致力于算法內(nèi)部審計制度框架和技術(shù)工具的研發(fā)。例如，谷歌專門設(shè)計了“SMACTR”這種“端對端”的算法內(nèi)部審計框架，從范圍界定、映射、文件搜集、測試和反思五個階段系統(tǒng)推進(jìn)內(nèi)部審計工作[14](P38-42)。Meta、IBM、谷歌分別開發(fā)了Fairness Flow、AI 360 Toolkit、Model Card Toolkit 等技術(shù)工具，用以檢測、報告、減輕算法模型中可能存在的歧視和偏見。整體而言，算法內(nèi)部審計仍處于初期探索階段，呈現(xiàn)局部化、碎片化、技術(shù)性特點，尚無整全化、共識性的內(nèi)部審計標(biāo)準(zhǔn)可循。但從全球算法治理趨勢來看，特別是針對高風(fēng)險算法以及超大型互聯(lián)網(wǎng)平臺已經(jīng)呈現(xiàn)出從自愿審計到強制內(nèi)部審計的規(guī)制轉(zhuǎn)向，大型互聯(lián)網(wǎng)平臺特別是高風(fēng)險、高影響的算法服務(wù)提供者應(yīng)盡快搭建內(nèi)部審計框架，建立健全全鏈條審計機(jī)制。

2.監(jiān)管機(jī)構(gòu)審計

與內(nèi)部審計相比，監(jiān)管機(jī)構(gòu)主導(dǎo)的算法審計側(cè)重于算法系統(tǒng)的社會嵌入影響以及嵌入過程的合法性和正當(dāng)性，目前主要從兩個層面展開。首先，依據(jù)用戶協(xié)議、法律規(guī)范、政策指南等對部署算法主體的合規(guī)實踐開展審計。例如，英國信息專員辦公室依據(jù)《數(shù)據(jù)保護(hù)法》對Clearview AI 違法處理個人數(shù)據(jù)特別是生物特征數(shù)據(jù)的行為開展調(diào)查審計[15]。再如，美國聯(lián)邦貿(mào)易委員會對Everalbum公司未告知用戶使用其照片及面部信息訓(xùn)練算法的行為開展調(diào)查審計[16]。此類審計多為事后、臨時性的個案審計，且常與執(zhí)法調(diào)查重疊展開，旨在為算法問責(zé)提供事實依據(jù)。其次，圍繞公平性、透明度、安全性等指標(biāo)針對算法輸出結(jié)果的泛在影響和風(fēng)險展開審計。例如，英國信息專員辦公室聚焦算法公平、算法透明和算法安全提出人工智能的具體審計框架[17]。審計實踐中，監(jiān)管機(jī)構(gòu)主導(dǎo)的算法審計應(yīng)當(dāng)依據(jù)職權(quán)范圍、審計重點、審計能力結(jié)合算法類型、風(fēng)險等級、應(yīng)用規(guī)模綜合開展，可能出現(xiàn)多頭審計以及審計重疊的情形。以英國為例，信息專員辦公室以《通用數(shù)據(jù)保護(hù)條例》《數(shù)據(jù)保護(hù)法》為依據(jù)從算法系統(tǒng)處理個人數(shù)據(jù)的流程以及結(jié)果是否合規(guī)角度開展審計。英國競爭與管理局在不正當(dāng)競爭與反壟斷場景中對算法合謀、算法定價開展審計。金融行為管理局對金融科技類算法合規(guī)情況開展審計。依據(jù)即將通過的《在線安全法案》，通訊管理局?jǐn)M對社交平臺算法開展審計。多頭開展的算法審計可能導(dǎo)致算法風(fēng)險管理和影響評估存在偏差和沖突。因此，在同質(zhì)場景下，制定邏輯一致的算法審計標(biāo)準(zhǔn)，探索算法審計通用框架和倫理框架，形成清晰、一致的算法審計應(yīng)用示范具有重要的實踐指導(dǎo)意義。

3.第三方審計

傳統(tǒng)審計實務(wù)中，第三方審計是指以注冊會計師事務(wù)所為代表的專門機(jī)構(gòu)開展審計的審計類型[18](P79-80)。在人工智能領(lǐng)域，因算法審計服務(wù)市場尚處培育期，有資質(zhì)的專業(yè)審計人員和獨立審計機(jī)構(gòu)十分匱乏，加之缺乏行業(yè)內(nèi)廣泛認(rèn)同的審計標(biāo)準(zhǔn)和審計流程，除技術(shù)類咨詢機(jī)構(gòu)、初創(chuàng)公司以接受委托方式涉足算法審計業(yè)務(wù)外，第三方算法審計更多呈現(xiàn)出 “參與式審計” 的特色[2](P2)。以美國算法正義聯(lián)盟、“為了人民” 等為代表的非盈利組織和獨立研究機(jī)構(gòu)，通過用戶調(diào)查、模擬測試、抓取審計等外部訪問方式對面部識別算法、再犯風(fēng)險預(yù)測算法以及社交平臺推薦算法開展了頗具影響的審計，審計結(jié)論以調(diào)查報告、新聞報道及研究論文等形式向社會公開。其中，“為了人民”對美國刑事審判中的再犯風(fēng)險預(yù)測算法COMPAS開展審計，撰寫了《機(jī)器偏見》審計報告。該報告引發(fā)了美國社會廣泛關(guān)注，直接推動了算法偏見和算法歧視相關(guān)立法的出臺。與內(nèi)部審計和政府審計相比，由第三方機(jī)構(gòu)開展的審計更具活力，且對于內(nèi)部審計和監(jiān)管審計形成了必要補充?！皡⑴c式審計”的開展可激勵用戶行使算法權(quán)利，提升公眾算法技術(shù)素養(yǎng)，對算法權(quán)力形成有效約束，有利于構(gòu)建協(xié)同治理、多方聯(lián)動的算法治理新格局。

(二)審計原則

算法審計聚焦于算法生命周期，著眼于全鏈條、全周期的治理。其既遵循審計活動的一般性原則，也衍生出諸多特定原則。首先，算法審計活動應(yīng)具有獨立性。獨立性是審計活動最為鮮明的特征。審計結(jié)論的權(quán)威性恰源自于審計機(jī)構(gòu)及審計人員同被審計組織和被審計事項之間的獨立性。與一般審計有所不同，算法內(nèi)部審計可能難以完全獨立于被審計組織。為保證其獨立性和客觀性，從事算法內(nèi)部審計的人員不應(yīng)參與被審計主體的實際開發(fā)及運營活動。企業(yè)內(nèi)部的算法審計人員還應(yīng)重視審查所在機(jī)構(gòu)的潛在偏見及合規(guī)盲區(qū)，避免淪為企業(yè)聲譽管理的形式化工具。其次，算法審計活動應(yīng)具有客觀公正性?？陀^公正是算法審計的根本源泉。例如，知名網(wǎng)絡(luò)招聘公司HireVue曾借外部審計報告“邀名”，夸大其招聘算法公正特性，被揭露后廣受詬病和質(zhì)疑[19]。這一事例表明，若缺少客觀真實的審計基礎(chǔ)，算法審計結(jié)果不僅難以取信于眾，算法審計制度也將瀕于失效，算法歸責(zé)亦無從展開。最后，算法審計活動應(yīng)嚴(yán)格遵循商業(yè)秘密的規(guī)定。審計人員因?qū)徲嫽顒涌赡芙佑|到訓(xùn)練數(shù)據(jù)集、代碼模型、用戶數(shù)據(jù)等具有商業(yè)價值的重要事項，一朝泄露將嚴(yán)重威脅個人信息安全、企業(yè)運營安全乃至國家安全。為此，算法審計人員應(yīng)嚴(yán)格遵守保密義務(wù)，對在工作過程中知悉的國家秘密、商業(yè)秘密、個人隱私等信息予以嚴(yán)格保密，不得泄露或非法向他人提供。

此外，算法作為被審計對象，其應(yīng)用具有場景化、動態(tài)化特質(zhì)。算法審計活動還應(yīng)遵循特定的審計原則。首先，算法審計活動應(yīng)遵循全鏈條審計原則。算法風(fēng)險具有隱秘性和跨域性，從預(yù)開發(fā)到部署運行，均可能潛藏風(fēng)險，這就要求算法全生命周期都應(yīng)保存日志留痕備查，算法審計對象也應(yīng)實現(xiàn)數(shù)據(jù)、模型、硬件、人員以及流程管理等審計對象的全覆蓋。其次，算法審計應(yīng)遵循持續(xù)審計原則?；谒惴ǖ膭討B(tài)更新特性，即使在部署前開展了模型核驗，仍可能因數(shù)據(jù)集更新、算法模型優(yōu)化、部署環(huán)境變化等因素出現(xiàn)未曾識別、未曾防范的增量風(fēng)險，為此應(yīng)當(dāng)定期、持續(xù)地開展算法審計工作。最后，算法審計應(yīng)遵循分類分級原則。經(jīng)合組織最新研究表明，依據(jù)數(shù)據(jù)和輸入、算法模型、任務(wù)和輸出的不同，算法系統(tǒng)在透明度、可解釋性、魯棒性以及對人權(quán)、隱私和公平等重要維度的影響均不相同。算法系統(tǒng)的社會風(fēng)險呈現(xiàn)差異化、場景化特性，因此，難以形成“一刀切”式的、適用于通用領(lǐng)域的算法審計框架。算法審計主體應(yīng)當(dāng)因算法模型特質(zhì)以及部署運行環(huán)境制定相宜的審計方案。

(三)審計框架

就機(jī)制設(shè)計原理來看，算法審計框架的具體設(shè)計與算法審計制度的功能定位密切相關(guān)。例如，有研究將算法審計界定為“考察、識別算法對相關(guān)者權(quán)益負(fù)面影響的情形與特征的評估活動”[20](P2)。與之相對，審計框架圍繞算法應(yīng)用的利益相關(guān)者以及關(guān)鍵倫理特征形成審計矩陣[20](P3-6)。再如，因?qū)⑺惴▽徲嬕暈樗惴▎栘?zé)的銜接工具，英國ICO的審計指南以及荷蘭、挪威等國的最高審計機(jī)構(gòu)均圍繞算法問責(zé)建立公共行政場景的算法審計框架。在我國，算法審計作為算法透明治理與算法過程性監(jiān)管的重要工具，審計框架更注重用戶權(quán)利實現(xiàn)方式、算法設(shè)計和應(yīng)用活動的合規(guī)風(fēng)險。例如，中國科學(xué)技術(shù)法學(xué)會在《個人信息處理法律合規(guī)性評估指引》(T/CLAST 001-2021)中提出了個人信息處理合規(guī)評估的審計框架。各種審計框架設(shè)計思路雖不相同，但均面臨類似挑戰(zhàn)。一方面，算法審計宏觀框架應(yīng)具有一致性，避免不同維度審計活動的重疊與沖突；另一方面，算法審計微觀框架又需具備靈活性與動態(tài)性，能夠及時回應(yīng)復(fù)雜技術(shù)系統(tǒng)和應(yīng)用場景之中的多元化治理需求。有鑒于此，新加坡在《人工智能監(jiān)管模塊框架》《數(shù)字經(jīng)濟(jì)伙伴關(guān)系協(xié)定》等人工智能治理實踐中首倡“模塊治理”理念，美國和歐盟跨大西洋數(shù)字監(jiān)管框架商談過程亦不乏對“共同模塊”監(jiān)管加以呼吁[21]。

模塊化作為技術(shù)研發(fā)的主要原則，在社會治理領(lǐng)域可以發(fā)揮積極功用。其提供一種具有可操作性的分解方法，可將復(fù)雜問題拆解為相對獨立但關(guān)聯(lián)耦合的模塊單元，通過逐步破解的方式漸序推進(jìn)社會總體問題的解決[22](P3)。該種治理范式還凸顯出協(xié)同和包容性特質(zhì)，通過將相互沖突、競爭的價值隔離到獨立模塊之中，促進(jìn)多方利益相關(guān)者逐步凝聚共識，以創(chuàng)建可執(zhí)行的合作關(guān)系與行動框架，實現(xiàn)治理層面“存異求同”。具體到算法審計領(lǐng)域，模塊化的審計框架可滿足構(gòu)建統(tǒng)一審計與專項審計協(xié)調(diào)的機(jī)制目標(biāo)。依據(jù)評估目的，統(tǒng)一的算法審計框架可被拆解為蘊含多元價值目標(biāo)的模塊單元。在模塊單元內(nèi)部，還可層層細(xì)化為具體審計指標(biāo)、具體事項與行動主體，以遞進(jìn)方式形成算法審計制度的“骨架”與“筋肉”。這一設(shè)計保證算法審計制度的靈活性與場景性，根據(jù)風(fēng)險等級、適用場景、算法類別等因素迅速重組，將統(tǒng)一框架靈活轉(zhuǎn)換為適用于某一特定領(lǐng)域、特定類別、特定算法的具體框架。

結(jié)合算法治理的內(nèi)在機(jī)理，算法審計模塊可劃分為“總體風(fēng)險控制與治理”與“過程風(fēng)險控制與治理”兩個模塊(參見表1)?！翱傮w風(fēng)險控制與治理”模塊聚焦算法設(shè)計、部署與應(yīng)用的影響層面，通過分解算法治理核心目標(biāo)設(shè)定內(nèi)部審計維度，旨在規(guī)范算法開發(fā)流程，優(yōu)化內(nèi)部治理結(jié)構(gòu)，實現(xiàn)算法潛在風(fēng)險治理的前置化。這一模塊包括內(nèi)部領(lǐng)導(dǎo)與治理結(jié)構(gòu)、政策與程序、投訴與檔案制度、應(yīng)急預(yù)案機(jī)制及教育與培訓(xùn)五個單元。其中，“內(nèi)部領(lǐng)導(dǎo)與治理結(jié)構(gòu)”單元要求對平臺企業(yè)內(nèi)部治理開展整體評估，包括是否存在算法安全負(fù)責(zé)人、是否成立算法風(fēng)險治理領(lǐng)導(dǎo)小組、是否存在倫理審查委員會或類似性質(zhì)機(jī)構(gòu)、是否組建算法內(nèi)部審計團(tuán)隊等領(lǐng)導(dǎo)機(jī)制展開審查評估?！罢吲c程序”單元聚焦于算法設(shè)計和運行合規(guī)審查，包括平臺內(nèi)部管理規(guī)范、算法開發(fā)設(shè)計操作規(guī)程、風(fēng)險管理機(jī)制及合規(guī)指引等?！巴对V與檔案制度”單元則關(guān)注算法運行的反饋及回溯機(jī)制，通過用戶投訴和算法全生命周期日志管理實現(xiàn)過程風(fēng)險的審查?！皯?yīng)急預(yù)案機(jī)制”單元要求針對算法技術(shù)可能引發(fā)的安全風(fēng)險或安全事件，企業(yè)有必要根據(jù)其性質(zhì)、嚴(yán)重程度、社會影響等因素綜合、全面地設(shè)計分級響應(yīng)預(yù)案。最后，“教育與培訓(xùn)”單元聚焦算法技術(shù)倫理與算法運行生態(tài)，通過評估算法安全教育與培訓(xùn)等內(nèi)容實現(xiàn)整全化審計。

表1 算法審計框架的模塊單元

“過程風(fēng)險控制與治理”模塊則關(guān)注算法系統(tǒng)的流程治理，由數(shù)據(jù)風(fēng)險控制與治理、算法風(fēng)險控制與治理以及平臺風(fēng)險控制與治理三個單元構(gòu)成。數(shù)據(jù)單元聚焦前端設(shè)計環(huán)節(jié)，圍繞數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全等指標(biāo)對數(shù)據(jù)準(zhǔn)確性、數(shù)據(jù)清潔度、數(shù)據(jù)安全性、數(shù)據(jù)可訪問等指標(biāo)開展評估[23](P19-21)。算法單元則以中端模型訓(xùn)練為對象，從技術(shù)、倫理及法律維度對算法性能和魯棒性、算法公平、算法透明、算法安全等指標(biāo)開展評估[24](P43-46)。平臺風(fēng)險控制單元聚焦平臺企業(yè)的風(fēng)險控制和管理能力，通過審計評估平臺算法應(yīng)用的道德、聲譽和法律風(fēng)險。

此外，依據(jù)特定場景、特定系統(tǒng)，還可能出現(xiàn)算法專項審計需求，這一審計類型是在基礎(chǔ)審計之外依據(jù)算法類型和級別開展的特殊設(shè)置。例如，針對深度合成算法，可能專門設(shè)置真實身份認(rèn)證、被編輯者單獨同意、內(nèi)容標(biāo)識等審計要求。對于無法被有效歸類并提煉至上述兩個模塊的專項審計，可以通過附加審計清單的方式與基礎(chǔ)審計有效勾連。

(四)審計方法

審計實踐中，算法審計的方法依據(jù)算法模型的可訪問程度有所差別。審計人員可選擇的代表性審計方法有代碼審計、抓取審計、馬甲審計、協(xié)作式審計和非侵入式審計五種[25]。

第一，代碼審計旨在從基礎(chǔ)層發(fā)掘模型的安全漏洞和未知隱患，通過敏感函數(shù)回溯、全文代碼通讀和功能點定向?qū)徲嫷确椒▽崿F(xiàn)對輸入、輸出過程的完整審計。代碼審計以代碼公開為前提，目前多針對開源算法以同行評議、漏洞檢測賞金挑戰(zhàn)及通過保密協(xié)議、數(shù)據(jù)訪問協(xié)議等有權(quán)訪問代碼的情形開展。對于非開源算法或?qū)⒃创a置于商業(yè)秘密、專有技術(shù)保護(hù)的算法模型則難以適用。由于代碼審計可直接訪問基礎(chǔ)代碼，審計人員還需嚴(yán)格遵守保密義務(wù)，避免源代碼泄露引發(fā)篡改算法的安全風(fēng)險。同時也需關(guān)注代碼技術(shù)性能之外的社會風(fēng)險問題，以綜合評估算法模型，獲得對算法社會化運行條件、部署環(huán)境及應(yīng)用影響的準(zhǔn)確理解及精準(zhǔn)評估[26](P36)。

第二，抓取審計又稱爬取審計，通過訪問平臺反復(fù)更改輸入，測試輸出并對輸出結(jié)果觀察、分析以開展審計。與代碼審計相比，抓取審計多應(yīng)用于訪問權(quán)受限的外部審計，通常為有專業(yè)技術(shù)能力的研究人員使用。抓取審計所能獲取的信息量和數(shù)據(jù)量與平臺提供的訪問權(quán)限范圍緊密關(guān)聯(lián)，且可能存在違法風(fēng)險。紐約大學(xué)研究人員就曾因抓取Meta平臺信息被關(guān)停賬戶并面臨訴訟指控。Meta聲稱其抓取行為違反隱私政策并侵犯平臺合法利益[27]。因此，在算法監(jiān)督、隱私保護(hù)與合法商業(yè)利益保障之間尋求平衡點是抓取審計面臨的重要挑戰(zhàn)。

第三，馬甲審計又稱代理審計，是指審計人員通過創(chuàng)建計算機(jī)程序模擬大量“虛假”用戶，從而對算法輸出進(jìn)行觀察、分析的審計方法。例如，研究人員對谷歌新聞推薦算法進(jìn)行審計時，設(shè)置了四個不同性別、年齡和階層的馬甲用戶，用以追蹤谷歌算法給不同群體帶來的信息盲區(qū)[28]。該方法優(yōu)勢在于審計人員可自定義樣本類型，但也面臨樣本量不足、抽樣代表性不足等問題。與抓取審計類似，馬甲審計亦面臨法律風(fēng)險，制造“虛假賬戶”可能因平臺安全審核機(jī)制而被強行禁止。

第四，協(xié)作式審計又稱眾包式審計，其審計原理同馬甲審計相似，關(guān)鍵變量在于測試用戶從仿真模擬轉(zhuǎn)變?yōu)檎心颊嫒?。例如，研究者依托亞馬遜的眾包平臺招募用戶對新冠疫情期間健康信息推送算法展開協(xié)作式審計[29]。協(xié)作式審計法律風(fēng)險較低，但招募成本限制了其開展審計的范圍。若可以突破成本約束，協(xié)作式審計作為“參與式審計”的重要路徑將具有廣闊的適用前景。

第五，非侵入式審計。該種審計方法是指征得平臺用戶同意后，通過獲取用戶與平臺交互信息的方式對算法開展分析、審計。獲取交互信息既可以通過用戶問卷調(diào)查、訪談等方式開展，亦可借助算法自動化收集。例如，新聞機(jī)構(gòu)The Markup的“公民瀏覽器計劃”就是事前獲取用戶同意在其計算機(jī)上安裝自定義瀏覽器，以實時分享在Meta和YouTube平臺的賬戶數(shù)據(jù)。非侵入式審計成本較低，且不涉及對平臺算法及運營層面的干擾，因而法律風(fēng)險也較低。因此，可作為“參與式審計”工具之一加以推廣。

除代碼審計外，其余審計方法多為外部審計采用。此外，對用戶協(xié)議、隱私政策、數(shù)據(jù)共享協(xié)議、訪問記錄、系統(tǒng)日志等書面材料開展審查，對算法研發(fā)、運營人員詢問、訪談等詢證方法，以及控制性測試和實質(zhì)性測試等傳統(tǒng)審計方法仍可適用于算法審計實務(wù)之中[18](P22-23)。

(五)審計公開

算法審計完成后，審計機(jī)構(gòu)還應(yīng)出具審計報告作為最終成果。算法審計報告存在多方鑒證需求——監(jiān)管機(jī)構(gòu)將審計報告作為合規(guī)性驗證和歸責(zé)處罰的依據(jù)。股東、投資者可借助審計報告評估算法系統(tǒng)運營狀況和風(fēng)險控制狀況。潛在利益相關(guān)者與公眾則可借此實現(xiàn)對算法架構(gòu)、決策邏輯及風(fēng)險狀況的知情權(quán)。這些需求均要求算法審計報告在一定程度上公開。我國《網(wǎng)安管理條例(征求意見稿)》第53條指出，大型互聯(lián)網(wǎng)平臺運營者委托第三方開展的年度審計應(yīng)當(dāng)披露審計結(jié)果。由此可見，除自愿審計類型的算法審計報告由科技企業(yè)自行決定是否公開以及公開范圍外，凡屬于強制審計范疇，特別是涉及高風(fēng)險、高影響的算法或大型互聯(lián)網(wǎng)平臺運營者的算法審計報告原則上應(yīng)向社會公布。對于算法審計報告中可能援引的不宜向外界公布的源代碼、隱私數(shù)據(jù)、商業(yè)秘密等信息可采取隱匿化處理且報審核后公布。當(dāng)然，科技企業(yè)亦可依據(jù)主體類型設(shè)置差別化的訪問權(quán)限從而限定公開內(nèi)容，避免因?qū)徲嫻_不當(dāng)引發(fā)技術(shù)安全風(fēng)險與企業(yè)運營風(fēng)險。

三、算法審計的中國方案

伴隨著算法社會的全面來臨，算法監(jiān)管需求已呈指數(shù)性增長。據(jù)統(tǒng)計，截至2020年12月，國內(nèi)市場可監(jiān)測到的APP數(shù)量已達(dá)345萬款。僅在APP用戶端承載的算法模型審核和安全監(jiān)測需求就已然超越有限的監(jiān)管和執(zhí)法資源。加之疫情期間用戶衣食住行與算法應(yīng)用的進(jìn)一步深度綁定，加快構(gòu)建并完善算法監(jiān)管體系已成題中之意?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺標(biāo)志著我國正式邁入算法治理的“2.0時代”。算法審計作為重要的治理工具在《個人信息保護(hù)法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等“硬法”體系中漸具雛形?！秱€人信息保護(hù)法》第54條和第64條分別規(guī)定了個人信息處理者的定期合規(guī)審計義務(wù)和個人信息保護(hù)強制合規(guī)審計義務(wù)?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第7條、第8條和第24條初步勾勒出了算法安全審計的制度框架?！毒W(wǎng)安管理條例(征求意見稿)》第58條承接《個人信息保護(hù)法》的規(guī)定，明確規(guī)定了數(shù)據(jù)處理者具有自主審計和強制外部審計義務(wù)。此外，《信息安全技術(shù) 信息系統(tǒng)安全審計產(chǎn)品技術(shù)要求和測試評價方法》《信息安全技術(shù) 個人信息安全規(guī)范》也初步建立了信息安全審計的軟法框架(參見表1)。

整體來看，我國科技企業(yè)履行算法審計義務(wù)的適用對象、審計依據(jù)、審計內(nèi)容、審計重點以及審計報告等已有基礎(chǔ)規(guī)范可循，但審計流程、審計方法以及審計制度與其他算法治理工具的銜接等落地性制度仍需著力推進(jìn)。結(jié)合我國既有制度資源稟賦和域外審計經(jīng)驗，建議從以下三個方面協(xié)同構(gòu)建算法審計制度。

(一)強制算法審計與自愿算法審計的有效銜接

算法審計治理效能的發(fā)揮來源于企業(yè)自我規(guī)制的激勵與用戶通過審計踐行參與式治理的制度活力。通過自愿審計和強制審計的有機(jī)結(jié)合，算法審計將企業(yè)自我治理嵌入到算法治理實踐之中，以自愿審計方式助力企業(yè)自我規(guī)制，推動企業(yè)治理與算法治理的深度融合。而在強制審計的制度設(shè)計中，強制內(nèi)部審計以監(jiān)管性制度約束、最低標(biāo)準(zhǔn)和績效目標(biāo)為企業(yè)自主活動劃定合法邊界，構(gòu)成了“基于管理的規(guī)制”[30](P21)。強制外部審計則旨在為高風(fēng)險、高影響的算法系統(tǒng)或者達(dá)到超大規(guī)模標(biāo)準(zhǔn)的互聯(lián)網(wǎng)平臺設(shè)定“安全閥門”，通過第三方審計以及政府審計方式監(jiān)督、管控和調(diào)適算法應(yīng)用的合規(guī)性與倫理性?？梢哉f，自愿審計與強制審計的有機(jī)銜接促使企業(yè)自我規(guī)制與政府規(guī)制雙軌并舉，推動“算法安全多元共治”的新格局。

表2 我國算法審計規(guī)范框架

就我國現(xiàn)有立法而言，《個人信息保護(hù)法》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將算法審計類型限定為強制審計，具體包括個人信息處理者定期強制合規(guī)審計、特殊個人信息風(fēng)險或安全事件中的第三方合規(guī)審計以及推薦算法的強制安全審計。但現(xiàn)有制度安排對自愿審計的關(guān)注不足，缺少強制審計同自愿審計的銜接機(jī)制，不利于開展算法分類分級治理。強制審計義務(wù)對企業(yè)量級、風(fēng)險等級、部署場景、用戶規(guī)模等因素帶來的差異化涵納不足，可能致使市場力量較為薄弱、用戶規(guī)模有限、算法應(yīng)用風(fēng)險可控的中小型企業(yè)擔(dān)負(fù)較高的合規(guī)成本。因此，建議引入自愿審計類型，通過強制審計與自愿審計的互動銜接踐行算法分級分類治理。同時，建議在強制審計中強化政府審計類型的適用。《個人信息保護(hù)法》第64條為強制性外部審計提供了制度接口，但該項審計限定為“委托專業(yè)機(jī)構(gòu)”開展合規(guī)審計。委托專業(yè)機(jī)構(gòu)進(jìn)行外部審計固然可彌補監(jiān)管機(jī)構(gòu)專業(yè)性和資源性不足的缺陷，但這一制度設(shè)計可能引致實效疑慮[31](P104)。當(dāng)個人信息處理活動已發(fā)生較大風(fēng)險或出現(xiàn)安全事件時，監(jiān)管部門應(yīng)及時啟動、有效介入以盡快處置和消弭相關(guān)風(fēng)險。強制企業(yè)委托第三方審計的監(jiān)管策略可能延誤時機(jī)，并產(chǎn)生企業(yè)與受托機(jī)構(gòu)不當(dāng)聯(lián)合從而影響審計實效等情形?；诖朔N考慮，《網(wǎng)安管理條例(征求意見稿)》第58條第2款新增“主管、監(jiān)管部門”對重點數(shù)據(jù)處理活動開展審計的類型。我國應(yīng)進(jìn)一步細(xì)化監(jiān)管機(jī)構(gòu)主導(dǎo)審計的啟動條件、啟動時機(jī)、審計標(biāo)準(zhǔn)等關(guān)鍵問題的規(guī)則設(shè)計，為平臺承擔(dān)相應(yīng)的主體責(zé)任提供依據(jù)。

(二)依托平臺與依托用戶算法審計路徑的并行展開

算法審計效用的良好發(fā)揮有賴于采取科學(xué)合理的審計路徑。雖然審計主體可依據(jù)被審計算法組合適用各類方法，但目前主流應(yīng)用的代碼審計、抓取審計等方法仍然以平臺提供可訪問數(shù)據(jù)為前提，對平臺依托性較強。依托平臺的算法審計雖然在專業(yè)性和準(zhǔn)確性方面享有優(yōu)勢，但訪問權(quán)限的限制影響了算法審計可供開展的頻次、廣度和深度，在實踐層面難以滿足多領(lǐng)域、多行業(yè)、多場景算法系統(tǒng)的全覆蓋。因此，有必要為依托用戶的算法審計路徑提供充分的制度激勵。目前一些國家和地區(qū)已有類似的制度設(shè)計。例如，歐盟《數(shù)字服務(wù)法》第40條要求平臺允許“經(jīng)過審查的研究人員”對其算法進(jìn)行審查。美國《平臺問責(zé)制和透明度法案》第4節(jié)規(guī)定被國家自然科學(xué)基金委員會認(rèn)定為適格研究人員的主體依托具體項目可獲得研究所需的平臺信息。此外，一些互聯(lián)網(wǎng)企業(yè)也在積極推進(jìn)用戶算法審計，營造可信運營生態(tài)。例如，Meta制定了“臉書開放研究與透明度”(FORT)計劃，為研究人員提供受隱私保護(hù)的數(shù)據(jù)集和API，以學(xué)術(shù)研究促進(jìn)臉書算法的不斷優(yōu)化。YouTube近期宣布開展“YouTube研究員計劃”, 為研究人員了解YouTube提供數(shù)據(jù)和工具支持。可以說，依托平臺開展的算法審計對于企業(yè)合規(guī)、風(fēng)險防控與應(yīng)急管理具有重要意義。而依托用戶開展的算法審計則對于算法的調(diào)優(yōu)與完善發(fā)揮著實質(zhì)影響。有研究者曾對優(yōu)步的峰時定價算法以模擬用戶的方式展開審計，結(jié)果發(fā)現(xiàn)優(yōu)步的定價算法在同一時段同一地區(qū)定價時存在時滯擾動，導(dǎo)致定價不公。該問題后反饋到優(yōu)步受到平臺重視，對算法進(jìn)行了公平性調(diào)優(yōu)[32]。由此可見，自下而上、用戶驅(qū)動的算法審計以平臺算法同用戶日常交互活動為基礎(chǔ)，能夠?qū)崟r、動態(tài)、持續(xù)地反映部署于真實環(huán)境中的算法風(fēng)險和算法影響。同依托平臺的審計路徑相比，用戶驅(qū)動的審計路徑更能在日常、真實的交互中發(fā)現(xiàn)利益攸關(guān)的影響節(jié)點，更能捕捉技術(shù)精英因?qū)I(yè)知識結(jié)構(gòu)同質(zhì)化而產(chǎn)生的審計盲區(qū), 從而最大化發(fā)揮“參與式審計”的制度優(yōu)勢[33](P4-5)。因此，應(yīng)推動專家驅(qū)動的依托平臺審計與用戶驅(qū)動的審計路徑雙軌并行。一方面由專家團(tuán)隊對算法系統(tǒng)作出科學(xué)、準(zhǔn)確的整體評估和認(rèn)證，以專業(yè)性保障算法審計的可信可靠；另一方面還應(yīng)充分實現(xiàn)用戶社群的參與激勵與參與保障，內(nèi)外協(xié)同促進(jìn)算法向上向善。

就我國目前的制度框架來看，實現(xiàn)依托平臺和依托用戶雙向并舉的審計路徑主要面臨三項核心挑戰(zhàn)。其一，我國平臺企業(yè)的數(shù)據(jù)和算法訪問權(quán)限開放嚴(yán)格受限，尚無面向研究人員和專業(yè)組織的開放透明計劃，依托平臺開展的審計路徑實效尚待檢驗。目前多依靠個體用戶自發(fā)報告及媒體調(diào)研監(jiān)督，從“黑箱”外部對算法進(jìn)行有限反饋。其二，盡管《個人信息保護(hù)法》第64條為第三方機(jī)構(gòu)開展算法合規(guī)審計提供了法律依據(jù)，但實務(wù)中能夠勝任算法審計的專業(yè)機(jī)構(gòu)仍不多見。適格的算法審計團(tuán)隊?wèi)?yīng)具備綜合性、跨學(xué)科的知識背景，有系統(tǒng)的平臺經(jīng)營、內(nèi)部治理及風(fēng)險控制的經(jīng)濟(jì)學(xué)訓(xùn)練，以及對算法、數(shù)據(jù)等數(shù)據(jù)和人工智能領(lǐng)域的深厚知識積淀。傳統(tǒng)的審計人才恐難擔(dān)此重任[34]。其三，當(dāng)前零星展開的用戶驅(qū)動型審計缺少制度化的反饋互動機(jī)制，難以為用戶社群提供持續(xù)的參與激勵。未來可嘗試以平臺企業(yè)為聯(lián)結(jié)點，一方面推動對適格研究人員的特定訪問權(quán)限，借助外部力量綜析算法影響，另一方面逐步設(shè)立用戶投訴報告與反饋信息分享制度，將用戶反饋及時報告給產(chǎn)品設(shè)計和運營團(tuán)隊，促進(jìn)算法優(yōu)化。用戶驅(qū)動的參與式審計可扮演常態(tài)化風(fēng)險監(jiān)測的角色，亦可成為監(jiān)管部門“發(fā)現(xiàn)個人信息處理活動存在較大風(fēng)險或者發(fā)生個人信息安全事件”的線索，成為啟動個案調(diào)查的重要機(jī)制。與之相配，算法審計行業(yè)標(biāo)準(zhǔn)、審計流程與專業(yè)機(jī)構(gòu)和人才的建設(shè)亦應(yīng)提上日程，在整合既有審計力量基礎(chǔ)上加快組建一批有能力、有資質(zhì)的算法審計團(tuán)隊。

(三)算法審計與平臺算法問責(zé)節(jié)點的精準(zhǔn)對接

作為動態(tài)風(fēng)險管理和流程活動監(jiān)管的程序性控制方案，算法審計有助于預(yù)警和降低算法風(fēng)險的發(fā)生頻次、深度和廣度，但難以阻斷風(fēng)險向?qū)嶋H損害結(jié)果轉(zhuǎn)化，更無法在微觀、具案層面為被侵權(quán)人提供“個案正義”式的補救[35](P172)。與之相對，算法問責(zé)制雖可在損害結(jié)果發(fā)生后對平臺主體追責(zé)，但因算法決策過程的黑箱性與行為主體和控制主體的隱匿性，使得算法問責(zé)的實現(xiàn)障礙重重。算法審計制度能夠穿透“算法黑箱”，通過評估數(shù)據(jù)、算法和應(yīng)用過程，為算法問責(zé)提供詳實可信的事實依據(jù)。因此，算法審計制度應(yīng)當(dāng)與算法問責(zé)制度有機(jī)銜接，在規(guī)則設(shè)計層面設(shè)置精準(zhǔn)對接機(jī)制，實現(xiàn)算法合規(guī)評估、風(fēng)險管理向損害問責(zé)、有效救濟(jì)的平滑推進(jìn)。

在設(shè)計具體制度時，應(yīng)注意避免因?qū)徲嫻?jié)點轉(zhuǎn)換引發(fā)問責(zé)主體錯位。首先，應(yīng)對審計流程關(guān)鍵節(jié)點的行為主體、責(zé)任主體予以清晰厘定，確保審計框架中“模塊-指標(biāo)-事項-主體”的對應(yīng)耦合。概括化的主體界定可能發(fā)生主體混淆，導(dǎo)致對應(yīng)問責(zé)節(jié)點的主體糾責(zé)機(jī)制失靈。以《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為例，算法審計義務(wù)主體被界定為“算法推薦服務(wù)提供者”。實踐中，可能發(fā)生技術(shù)研發(fā)主體與技術(shù)應(yīng)用主體的重疊與分置。通常情況下算法技術(shù)提供者同算法服務(wù)提供者主體身份重合，但提供算法信息服務(wù)的企業(yè)委托其他企業(yè)開發(fā)算法系統(tǒng)的做法亦不鮮見。在分置情形下，算法技術(shù)研發(fā)者難以獨立開展算法應(yīng)用層面的審計，而購買或者委托算法技術(shù)并提供算法服務(wù)的主體則難以介入到算法研發(fā)過程，難以對數(shù)據(jù)、模型訓(xùn)練等環(huán)節(jié)展開質(zhì)量控制和安全管理。其次, 應(yīng)嚴(yán)格區(qū)分算法審計的責(zé)任主體與算法責(zé)任的承擔(dān)主體。前者包含審計場景下算法技術(shù)開發(fā)者、算法系統(tǒng)實際控制者以及算法治理責(zé)任承擔(dān)者，后者則指向算法系統(tǒng)應(yīng)用造成侵害與損害的侵權(quán)人。從關(guān)系上看，若算法審計環(huán)節(jié)的責(zé)任主體未盡好風(fēng)險治理職責(zé)，可能引發(fā)算法應(yīng)用風(fēng)險，但是否承擔(dān)侵權(quán)行為仍需就風(fēng)險實害化程度以及因果關(guān)系認(rèn)定等構(gòu)成要件予以綜合考察。以《個人信息保護(hù)法》第69條為例，該條規(guī)定了侵害個人信息權(quán)益造成損害的過錯推定責(zé)任。在此情形下，是否依據(jù)法律規(guī)定定期開展合規(guī)審計成為個人信息處理者自證盡到合理注意義務(wù)的重要證據(jù)之一[36](P417)。但個人信息處理者是否承擔(dān)侵權(quán)責(zé)任仍必須滿足侵權(quán)行為的構(gòu)成要件，并非僅因?qū)徲嬛邪l(fā)現(xiàn)的違法事項直接追責(zé)。

四、結(jié)語

面對算法應(yīng)用帶來的顛覆性、系統(tǒng)性、復(fù)雜性風(fēng)險，自上而下、政府主導(dǎo)、事后介入的規(guī)制范式已應(yīng)對乏力，算法治理亟需一種多元參與、協(xié)同聯(lián)動、軟硬兼濟(jì)的創(chuàng)新思路。算法審計精準(zhǔn)錨定審計對象，合理劃定審計范圍，深度融合技術(shù)、法律和倫理，為算法問責(zé)提供行之有據(jù)的決策參考，成為推動算法治理范式轉(zhuǎn)型的重要抓手。我國算法審計制度雛形初具，但審計原則、審計類型、審計公開、審計路徑等核心元素尚待確立。本文系統(tǒng)分析了算法審計的治理效能，深入剖析了算法審計的構(gòu)建機(jī)理，結(jié)合我國的制度定位和現(xiàn)有框架，從類型銜接、路徑融合、治理互動和制度對接等視角提出了具體方案的構(gòu)建方向。近期，我國與美國監(jiān)管機(jī)構(gòu)簽署了合作協(xié)議，擬依法推進(jìn)跨境審計的監(jiān)管合作，建立對等互利的合作安排[37]。算法審計不僅扮演著督促企業(yè)履行安全可信治理責(zé)任的有力抓手，更是以治理促發(fā)展，符合全球人工智能治理合作框架的通行做法。未來，還應(yīng)對審計指標(biāo)體系、審計流程以及審計矩陣等內(nèi)容加以研究，以為算法審計制度的科學(xué)構(gòu)建提供更為充分的理論基礎(chǔ)。