張惠彬，仲思睿

(西南政法大學(xué) 知識(shí)產(chǎn)權(quán)研究院，重慶 401120)

引 言

近年來(lái)，算法推薦技術(shù)的流行成為互聯(lián)網(wǎng)發(fā)展的趨勢(shì)之一。算法(algorithm)是一種明確定義的計(jì)算過(guò)程，通過(guò)一系列計(jì)算步驟將輸入轉(zhuǎn)換為輸出，借以完成特定的任務(wù)。許多人認(rèn)為算法只是計(jì)算機(jī)科學(xué)的專業(yè)術(shù)語(yǔ)，和自己完全無(wú)關(guān)，然而事實(shí)剛好相反。算法不僅和所有人息息相關(guān)，更是伴隨人類(lèi)生活的隱形力量?；ヂ?lián)網(wǎng)平臺(tái)用戶的社交網(wǎng)絡(luò)、瀏覽記錄、點(diǎn)贊收藏情況，共同摹寫(xiě)出用戶的個(gè)性化特征。大量相似的、受到普遍歡迎的信息被直接呈現(xiàn)給需要的用戶，從而節(jié)約了檢索時(shí)間，降低了搜索成本，又因匹配用戶需求而增加了用戶粘性，相應(yīng)地帶來(lái)了極高的經(jīng)濟(jì)效益。

伴隨算法推薦技術(shù)而來(lái)的不僅有便利的生活，也存在著諸多的法律風(fēng)險(xiǎn)，“算法推薦第一案”——愛(ài)奇藝訴今日頭條侵害作品信息網(wǎng)絡(luò)傳播權(quán)糾紛案為此拉開(kāi)帷幕。電視劇《延禧攻略》在愛(ài)奇藝平臺(tái)獨(dú)播期間，今日頭條APP未經(jīng)授權(quán)利用信息流推薦技術(shù)，將用戶上傳的截取自《延禧攻略》的短視頻向公眾傳播并推薦。侵權(quán)視頻數(shù)量多達(dá)1314條，其中單條最高播放量超過(guò)110萬(wàn)次，且今日頭條APP的連續(xù)推薦機(jī)制達(dá)到了使用戶觀看完整劇集的替代效果，對(duì)信息網(wǎng)絡(luò)傳播權(quán)造成了嚴(yán)重?fù)p害。(1)(2018)京0108民初49421號(hào)判決書(shū)。對(duì)此法院判定被告知道或者有合理理由應(yīng)當(dāng)知道其用戶實(shí)施了侵權(quán)行為，卻仍未采取制止侵權(quán)的必要措施，并繼續(xù)提供技術(shù)支持。

為了應(yīng)對(duì)算法推薦技術(shù)帶來(lái)的法律風(fēng)險(xiǎn)，各國(guó)相繼出臺(tái)了一些措施。歐盟通過(guò)《通用數(shù)據(jù)保護(hù)條例》《數(shù)字化單一市場(chǎng)版權(quán)指令》《數(shù)字服務(wù)法》《數(shù)字市場(chǎng)法案》，美國(guó)提出《算法問(wèn)責(zé)法(2022)》草案，都采用立法形式對(duì)算法進(jìn)行規(guī)范。我國(guó)于2022年3月1日正式實(shí)施了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。作為全球首部針對(duì)算法推薦技術(shù)的部門(mén)規(guī)章，其規(guī)定了算法推薦服務(wù)提供者的義務(wù)，賦予用戶算法知情權(quán)、算法選擇權(quán)等權(quán)利，針對(duì)算法推薦技術(shù)制定了監(jiān)督管理制度，并明晰了違反規(guī)定所應(yīng)負(fù)的法律責(zé)任。本文以算法推薦技術(shù)應(yīng)用風(fēng)險(xiǎn)及規(guī)范進(jìn)路為主題，首先介紹算法推薦技術(shù)在實(shí)踐中的應(yīng)用場(chǎng)景及其可能引發(fā)的法律風(fēng)險(xiǎn)，繼而闡釋算法推薦技術(shù)侵權(quán)行為的新特點(diǎn)，總結(jié)發(fā)達(dá)國(guó)家立法規(guī)范算法推薦技術(shù)的經(jīng)驗(yàn)，最后提出數(shù)字經(jīng)濟(jì)時(shí)代我國(guó)針對(duì)平臺(tái)算法推薦技術(shù)的規(guī)范進(jìn)路。

一、算法推薦技術(shù)的應(yīng)用場(chǎng)景與法律風(fēng)險(xiǎn)

(一)算法推薦技術(shù)的應(yīng)用場(chǎng)景

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡(jiǎn)稱《管理規(guī)定》)中將算法推薦技術(shù)的應(yīng)用定義為：利用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法技術(shù)向用戶提供信息。(2)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二條：“在中華人民共和國(guó)境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)(以下簡(jiǎn)稱算法推薦服務(wù))，適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。前款所稱應(yīng)用算法推薦技術(shù)，是指利用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法技術(shù)向用戶提供信息?！睋?jù)此可相應(yīng)地將算法推薦技術(shù)的應(yīng)用場(chǎng)景分為5類(lèi)。

1.生成合成類(lèi)算法推薦技術(shù)。生成合成類(lèi)算法推薦技術(shù)根據(jù)生成物的種類(lèi)可細(xì)分為：文本內(nèi)容生成或編輯技術(shù)，如寫(xiě)稿機(jī)器人“Dreamwriter”“AI小記者”，聊天機(jī)器人微軟小冰等；語(yǔ)音內(nèi)容生成或編輯技術(shù)，如智影、訊飛快讀；音樂(lè)或場(chǎng)景音等非語(yǔ)音內(nèi)容生成或編輯技術(shù)，如BandinaBox；人臉等生物特征生成或編輯技術(shù)，如AI換臉APP“ZAO”；圖像或視頻中非生物特征編輯技術(shù)，如圖像修復(fù)技術(shù)；虛擬場(chǎng)景生成或編輯技術(shù)，如游戲場(chǎng)景、VR、虛擬主播及元宇宙，等等。

2.個(gè)性化推送類(lèi)算法推薦技術(shù)。個(gè)性化推送類(lèi)算法推薦技術(shù)，由數(shù)字平臺(tái)經(jīng)營(yíng)者(以下簡(jiǎn)稱平臺(tái)經(jīng)營(yíng)者)通過(guò)智能終端、應(yīng)用程序接口(API)、軟件工具開(kāi)發(fā)包(SDK)、IoT設(shè)備、瀏覽器、傳感器等自動(dòng)收集用戶的個(gè)人信息[1]，形成用戶畫(huà)像，評(píng)估其工作表現(xiàn)、經(jīng)濟(jì)水平、健康狀況、個(gè)人偏好、興趣愛(ài)好、行為方式等，并依此向用戶提供不同內(nèi)容、商品和服務(wù)推薦。用戶所搜索過(guò)、點(diǎn)擊過(guò)的內(nèi)容被納入數(shù)據(jù)庫(kù)中，個(gè)性化推送類(lèi)算法推薦據(jù)此提供相似內(nèi)容。這一算法推薦技術(shù)的應(yīng)用增加了用戶對(duì)軟件的使用時(shí)間、提升了用戶粘性，因此也被應(yīng)用于廣告推送與電商平臺(tái)的商品推薦。廣告商與電商平臺(tái)可以有選擇地向目標(biāo)群體提供其可能需要的廣告與商品，使供給與需求相匹配，提升廣告投入的利用率。

3.排序精選類(lèi)算法推薦技術(shù)。排序精選類(lèi)算法推薦技術(shù)，即根據(jù)一定標(biāo)準(zhǔn)對(duì)序列數(shù)據(jù)進(jìn)行排序，形成各種榜單、精選、熱搜數(shù)據(jù)。淘寶店鋪及商品排序、百度搜索引擎的檢索結(jié)果、微博熱搜榜單、知乎熱榜等，均是使用排序精選類(lèi)算法推薦技術(shù)的結(jié)果。這些榜單可以幫助用戶和消費(fèi)者了解大多數(shù)人的關(guān)注熱點(diǎn)與選擇傾向，更容易獲得用戶和消費(fèi)者的點(diǎn)擊與商業(yè)轉(zhuǎn)化。

4.檢索過(guò)濾類(lèi)算法推薦技術(shù)。檢索過(guò)濾類(lèi)算法推薦技術(shù)包括檢索算法與過(guò)濾算法。檢索算法是指對(duì)大容量的非結(jié)構(gòu)化數(shù)據(jù)的快速查找，并與相似信息進(jìn)行關(guān)聯(lián)推薦，比如搜索某一關(guān)鍵詞，搜索引擎會(huì)自動(dòng)顯示該關(guān)鍵詞的全稱與相關(guān)內(nèi)容。過(guò)濾算法，既可以從可行的推薦標(biāo)的物中將用戶喜歡的標(biāo)的物過(guò)濾出來(lái)，也可以用于不良信息過(guò)濾和敏感字詞識(shí)別，如網(wǎng)頁(yè)自動(dòng)過(guò)濾垃圾信息、平臺(tái)對(duì)某些敏感詞批量屏蔽。

5.調(diào)度決策類(lèi)算法推薦技術(shù)。調(diào)度決策類(lèi)算法推薦技術(shù)，即根據(jù)一定標(biāo)準(zhǔn)進(jìn)行資源配置，在供需關(guān)系有限的情況下做出最佳決策，包括調(diào)度算法、決策算法。調(diào)度算法指根據(jù)系統(tǒng)的資源分配策略所規(guī)定的資源分配算法，如網(wǎng)約車(chē)平臺(tái)司機(jī)調(diào)度、外賣(mài)平臺(tái)的訂單分派。決策算法一般指不確定條件下最優(yōu)決策的算法，如導(dǎo)航軟件對(duì)駕駛路線的對(duì)比與選擇。

(二)算法推薦技術(shù)的法律風(fēng)險(xiǎn)

算法推薦技術(shù)打破了我們以往對(duì)網(wǎng)絡(luò)平臺(tái)的認(rèn)知，技術(shù)也成為媒體發(fā)展的關(guān)鍵詞，所有的變化都是數(shù)字時(shí)代的極致進(jìn)化。但是，任何技術(shù)應(yīng)用都必須遵守法律的底線。在算法推薦技術(shù)運(yùn)用的場(chǎng)景下，權(quán)利的保護(hù)還存在一些難點(diǎn)。

1.算法應(yīng)用侵犯人格權(quán)。AI換臉?biāo)惴夹g(shù)的使用在侵害他人著作權(quán)的同時(shí)，也可能涉嫌侵害公民肖像權(quán)、聲音權(quán)、名譽(yù)權(quán)等人格權(quán)?！吨腥A人民共和國(guó)民法典》賦予了公民肖像權(quán)、聲音權(quán)，未經(jīng)權(quán)利人同意對(duì)其聲音、肖像超過(guò)合理限度的使用構(gòu)成侵權(quán)行為。若出于“玩?！薄皭焊恪钡饶康闹谱鲹Q臉視頻，可能對(duì)公民形象造成丑化和污損，導(dǎo)致其社會(huì)評(píng)價(jià)的下降。公民依據(jù)《中華人民共和國(guó)民法典》第一千零二十四條享有名譽(yù)權(quán)，任何主體不得以侮辱、誹謗等方式加以侵害。利用AI換臉技術(shù)從事侮辱、誹謗行為同樣在禁止之列。2021年8月，演員劉昊然及其工作室向警方報(bào)案稱有用戶通過(guò)AI換臉技術(shù)對(duì)其進(jìn)行侮辱、誹謗，且生成視頻被不斷販?zhǔn)?、截圖，引起更大范圍的傳播。早在2019年，即有人因販賣(mài)明星換臉視頻獲罪，其販賣(mài)的視頻被警方認(rèn)定為淫穢視頻。(3)(2020)蘇0830刑初106號(hào)判決書(shū)。

2.算法應(yīng)用侵犯知識(shí)產(chǎn)權(quán)。生成合成類(lèi)算法推薦技術(shù)應(yīng)用中，寫(xiě)稿機(jī)器人基于對(duì)網(wǎng)絡(luò)資源的抓取和數(shù)據(jù)庫(kù)資源的整理、組合而形成稿件，其對(duì)受著作權(quán)保護(hù)作品的使用可能構(gòu)成對(duì)著作權(quán)人復(fù)制權(quán)、信息網(wǎng)絡(luò)傳播權(quán)的侵犯；AI換臉技術(shù)所使用的素材可能是受著作權(quán)法保護(hù)的美術(shù)作品和視聽(tīng)作品，由此構(gòu)成對(duì)復(fù)制權(quán)、保護(hù)作品完整權(quán)、改編權(quán)和表演者權(quán)等權(quán)利的侵害。在個(gè)性化算法的作用下，侵權(quán)內(nèi)容被自動(dòng)高速地推送給更多的用戶，僅僅適用“通知—?jiǎng)h除”規(guī)則并不足以抑制侵權(quán)行為的繼續(xù)發(fā)生，從而導(dǎo)致信息網(wǎng)絡(luò)傳播權(quán)持續(xù)受到侵害。在愛(ài)奇藝訴今日頭條案件中，法院即認(rèn)定今日頭條平臺(tái)具有充分的條件、能力和合理的理由知道其眾多頭條號(hào)用戶大量地實(shí)施了涉案侵權(quán)行為，且在具有及時(shí)刪除視頻能力的前提下放任用戶繼續(xù)發(fā)布、傳播侵權(quán)視頻，構(gòu)成著作權(quán)侵權(quán)行為。(4)(2018)京0108民初49421號(hào)判決書(shū)。

3.算法應(yīng)用擾亂競(jìng)爭(zhēng)秩序。數(shù)字經(jīng)濟(jì)時(shí)代，互聯(lián)網(wǎng)、大數(shù)據(jù)、算法共同作用下的市場(chǎng)競(jìng)爭(zhēng)存在算法合謀的隱憂，妨礙正常市場(chǎng)競(jìng)爭(zhēng)秩序的建立。算法服務(wù)提供者無(wú)需明確訂立協(xié)議，即可通過(guò)數(shù)據(jù)、算法、平臺(tái)規(guī)則或其他方式，達(dá)成協(xié)調(diào)一致的行為。自主學(xué)習(xí)類(lèi)算法更是可以基于對(duì)大數(shù)據(jù)算法的自主學(xué)習(xí)，達(dá)成價(jià)格合謀。算法推薦技術(shù)普遍應(yīng)用的環(huán)境下，不正當(dāng)競(jìng)爭(zhēng)行為也具有了更多的表現(xiàn)形態(tài)。例如，利用算法技術(shù)研發(fā)洗稿軟件，誘導(dǎo)用戶對(duì)網(wǎng)絡(luò)平臺(tái)原創(chuàng)內(nèi)容的聚合、搬運(yùn)、智能重寫(xiě)[2]；利用算法技術(shù)操縱榜單或搜索結(jié)果，過(guò)度推薦或干預(yù)信息呈現(xiàn)，達(dá)成不正當(dāng)競(jìng)爭(zhēng)的目的。

4.算法應(yīng)用侵害消費(fèi)者權(quán)益。平臺(tái)通過(guò)算法推薦技術(shù)收集消費(fèi)者網(wǎng)上瀏覽、搜索、交易等痕跡信息和標(biāo)簽信息的使用行為，可能構(gòu)成對(duì)消費(fèi)者個(gè)人信息權(quán)益的侵害。在此基礎(chǔ)上，算法推薦技術(shù)根據(jù)用戶畫(huà)像推算消費(fèi)者所能接受的最高交易價(jià)格，針對(duì)不同消費(fèi)者采取不同的定價(jià)策略。這種價(jià)格歧視行為對(duì)消費(fèi)者知情權(quán)與公平交易權(quán)造成了損害，有礙公平交易環(huán)境的建立，為《中華人民共和國(guó)價(jià)格法》《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》《中華人民共和國(guó)電子商務(wù)法》相關(guān)條款所明令禁止。司法實(shí)踐中法院也曾判定攜程公司利用算法進(jìn)行“大數(shù)據(jù)殺熟”的做法為侵權(quán)行為。

5.算法應(yīng)用侵害勞動(dòng)者權(quán)益。調(diào)度決策算法推薦技術(shù)的應(yīng)用涉及對(duì)勞動(dòng)者個(gè)人信息的收集、跟蹤、分析與決策，對(duì)個(gè)人信息的過(guò)度收集可能構(gòu)成對(duì)勞動(dòng)者隱私權(quán)、通信自由和通信秘密等人格權(quán)益的侵犯。由于算法黑箱與算法歧視的存在，可能導(dǎo)致算法對(duì)勞動(dòng)者作出不正當(dāng)?shù)姆穸ㄐ栽u(píng)價(jià)，有損勞動(dòng)者的平等就業(yè)權(quán)。如亞馬遜算法性別歧視事件中，亞馬遜的算法模型通過(guò)10年來(lái)獲得的求職簡(jiǎn)歷給求職者評(píng)分。由于男性求職者較多，算法模型自動(dòng)降低包含“女性”這個(gè)詞的簡(jiǎn)歷的評(píng)分。[3]

二、算法推薦技術(shù)規(guī)范的困境與立法趨勢(shì)

(一)算法推薦技術(shù)規(guī)范的困境

數(shù)字經(jīng)濟(jì)時(shí)代，算法推薦技術(shù)應(yīng)用引起了生活方式、社會(huì)文化的巨大變革，其法律風(fēng)險(xiǎn)也給傳統(tǒng)法學(xué)領(lǐng)域帶來(lái)了沖擊與挑戰(zhàn)。算法推薦技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)有其特殊之處，因此傳統(tǒng)法律規(guī)制路徑面臨以下困境。

1.侵權(quán)主體的特殊性

傳統(tǒng)民事侵權(quán)行為的雙方當(dāng)事人的法律地位平等，但數(shù)字經(jīng)濟(jì)時(shí)代算法推薦技術(shù)應(yīng)用引發(fā)的法律風(fēng)險(xiǎn)，侵權(quán)的一方通常是具有優(yōu)勢(shì)地位的平臺(tái)。雖然雙方在形式上仍處于平等的法律地位，但實(shí)質(zhì)上的交易能力和交易地位完全不對(duì)等。例如，網(wǎng)絡(luò)平臺(tái)往往通過(guò)網(wǎng)絡(luò)協(xié)議、隱私政策等方式，取得處理用戶個(gè)人信息的權(quán)限，但用戶不能對(duì)這些條款提出修改和變更意見(jiàn)，而只能概括地表示接受或不接受。[4]網(wǎng)絡(luò)平臺(tái)相對(duì)于一般的民事侵權(quán)行為當(dāng)事人，應(yīng)當(dāng)承擔(dān)與其優(yōu)勢(shì)地位相應(yīng)的法律義務(wù)，以實(shí)現(xiàn)實(shí)質(zhì)上的法律平等。

值得注意的是，這一主體特殊性在勞動(dòng)者權(quán)益保護(hù)領(lǐng)域的體現(xiàn)又有所不同。勞動(dòng)關(guān)系是一種不平等的法律關(guān)系，因此法律對(duì)勞動(dòng)者采取傾斜保護(hù)。數(shù)智時(shí)代，強(qiáng)資本與弱勞動(dòng)的格局并未發(fā)生逆轉(zhuǎn)性改變，反而因智能監(jiān)控的應(yīng)用致使勞動(dòng)從屬性增強(qiáng)。[5]平臺(tái)通過(guò)算法對(duì)勞動(dòng)者個(gè)人信息進(jìn)行處理，采取獎(jiǎng)懲制度實(shí)現(xiàn)實(shí)質(zhì)上的人身控制關(guān)系。但司法實(shí)踐中，法院通常認(rèn)為勞動(dòng)者可以自行選擇是否接單及接單的時(shí)間、數(shù)量，進(jìn)而認(rèn)定勞動(dòng)者與平臺(tái)之間不具備勞動(dòng)關(guān)系的特征，以致勞動(dòng)者難以依靠法律途徑維權(quán)。

2.損害事實(shí)的隱蔽性

算法推薦技術(shù)應(yīng)用法律風(fēng)險(xiǎn)具有普遍性的同時(shí)，其損害事實(shí)也具有隱蔽性。算法侵害的因果進(jìn)程更加冗長(zhǎng)、復(fù)雜、不透明，導(dǎo)致不僅難以對(duì)算法的決策機(jī)制作出人類(lèi)可理解的解釋，甚至將侵害結(jié)果追溯到具體的行為主體都變得非常困難。[6]例如，傳統(tǒng)競(jìng)爭(zhēng)法律對(duì)于數(shù)字平臺(tái)的適用面臨著相關(guān)市場(chǎng)界定困難、市場(chǎng)支配地位認(rèn)定困難與數(shù)字經(jīng)營(yíng)者集中審查困難等問(wèn)題。通過(guò)算法推薦技術(shù)所達(dá)成的價(jià)格合謀難以查明經(jīng)營(yíng)者的主觀意愿，使得數(shù)字經(jīng)濟(jì)時(shí)代的合謀行為更為隱蔽，難以及時(shí)接受審查、監(jiān)管與監(jiān)督。又如通過(guò)深度偽造算法技術(shù)合成的視頻不僅對(duì)普通公眾來(lái)說(shuō)難辨真假，在司法實(shí)踐中也受限于檢材無(wú)法證明視頻系偽造，使權(quán)利人承擔(dān)舉證不能的法律后果。(5)(2017)滬0104民初10824號(hào)判決書(shū)。平臺(tái)的隱形歧視也通過(guò)算法黑箱更為隱蔽地施加給勞動(dòng)者與消費(fèi)者，此種損害事實(shí)的隱蔽性愈加促進(jìn)了侵權(quán)行為的普遍存在。

3.侵權(quán)行為的普遍性

算法推薦技術(shù)應(yīng)用已然滲透到社會(huì)生活的方方面面，公眾讓渡個(gè)人權(quán)利換取生活便利的現(xiàn)象數(shù)見(jiàn)不鮮，使得算法侵權(quán)行為呈現(xiàn)普遍性。侵權(quán)行為的普遍易發(fā)在損害事實(shí)隱蔽性的加持下，使得舉證難度大幅提高，維權(quán)成本與侵權(quán)成本存在嚴(yán)重不對(duì)等。比如，當(dāng)前許多短視頻平臺(tái)APP中存在大量關(guān)于電視劇、電影的侵權(quán)視頻片段，這些平臺(tái)明知、應(yīng)知這些內(nèi)容涉嫌侵權(quán)，仍通過(guò)各類(lèi)算法推薦行為向用戶提供涉案侵權(quán)視頻。在《2020中國(guó)網(wǎng)絡(luò)短視頻版權(quán)監(jiān)測(cè)報(bào)告》中顯示：2019年1月至2020年10月，在對(duì)4894件影視綜動(dòng)漫類(lèi)作品的監(jiān)測(cè)中，共發(fā)現(xiàn)短視頻疑似侵權(quán)鏈接1406.82萬(wàn)條。數(shù)字設(shè)備的廣泛應(yīng)用導(dǎo)致個(gè)人信息的私人屬性弱化，開(kāi)放社交平臺(tái)的分享機(jī)制無(wú)形中將個(gè)人信息的抓取和采集演變成常態(tài)[7]，個(gè)人信息的濫用、侵犯導(dǎo)致利用算法推薦技術(shù)的大數(shù)據(jù)“殺熟”行為頻發(fā)。北京市消費(fèi)者協(xié)會(huì)發(fā)起一份線上調(diào)查問(wèn)卷，結(jié)果顯示86.91%的受訪者認(rèn)為自己有被大數(shù)據(jù)“殺熟”的經(jīng)歷，又對(duì)16個(gè)消費(fèi)者常用的電子商務(wù)平臺(tái)進(jìn)行體驗(yàn)調(diào)查，32個(gè)模擬消費(fèi)體驗(yàn)樣本中有14個(gè)樣本新老賬戶的價(jià)格不一致。[8]

(二)算法推薦技術(shù)規(guī)范的歐盟作為

歐盟對(duì)于數(shù)據(jù)、算法規(guī)制領(lǐng)域的立法實(shí)踐一向處于世界前沿，其《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulations，以下簡(jiǎn)稱GDPR)賦予數(shù)據(jù)主體知情權(quán)、更正及刪除權(quán)、訪問(wèn)權(quán)、拒絕權(quán)和自動(dòng)化決策自決權(quán)等權(quán)利。2019年制定的《數(shù)字化單一市場(chǎng)版權(quán)指令》(Directive on Copyright in the Digital Singles Market)對(duì)平臺(tái)課以一定的內(nèi)容審查義務(wù)。2022年7月5日，歐盟議會(huì)通過(guò)了《數(shù)字服務(wù)法》(Digital Services Act, 以下簡(jiǎn)稱DSA)，將保護(hù)言論自由置于核心地位，致力于在非法內(nèi)容控制與言論自由保護(hù)之間取得平衡，避免數(shù)字服務(wù)提供商對(duì)平臺(tái)內(nèi)容監(jiān)管不力或過(guò)度監(jiān)管。[9]歐盟《數(shù)字市場(chǎng)法案》(Digital Markets Act，以下簡(jiǎn)稱DMA)針對(duì)大型互聯(lián)網(wǎng)平臺(tái)提出“守門(mén)人”義務(wù)，意在保證公平與開(kāi)放的數(shù)字市場(chǎng)。

1.GDPR的數(shù)據(jù)賦權(quán)

GDPR對(duì)數(shù)據(jù)主體權(quán)利的賦予，使得公眾取得對(duì)個(gè)人數(shù)據(jù)的控制權(quán)。公眾可以訪問(wèn)有關(guān)如何使用個(gè)人數(shù)據(jù)的信息，訪問(wèn)組織持有的個(gè)人信息，刪除或更正不正確的個(gè)人信息，某些情況下更正和刪除個(gè)人數(shù)據(jù)，限制或反對(duì)自動(dòng)處理個(gè)人數(shù)據(jù)，以及接受個(gè)人數(shù)據(jù)的副本。與數(shù)據(jù)主體權(quán)利相對(duì)應(yīng)，GDPR要求收集或處理個(gè)人數(shù)據(jù)的組織遵守六項(xiàng)原則：(1)處理和使用個(gè)人數(shù)據(jù)的透明性、公平性和合法性；(2)將個(gè)人數(shù)據(jù)的處理限制在指定的、明確的和合法的目的；(3)最大限度地減少個(gè)人數(shù)據(jù)的收集和存儲(chǔ)，使其達(dá)到與預(yù)期目的充分相關(guān)的程度；(4)確保個(gè)人數(shù)據(jù)的準(zhǔn)確性并使其能夠被刪除或更正；(5)限制個(gè)人數(shù)據(jù)的存儲(chǔ)，僅在實(shí)現(xiàn)數(shù)據(jù)收集目的所需的時(shí)間內(nèi)保留個(gè)人數(shù)據(jù)；(6)確保個(gè)人數(shù)據(jù)的安全性、完整性和機(jī)密性。

2.DSA的內(nèi)容審查義務(wù)

2019年歐盟制定的《數(shù)字化單一市場(chǎng)版權(quán)指令》第17條指出，網(wǎng)絡(luò)服務(wù)提供者應(yīng)為其傳播侵權(quán)內(nèi)容的行為承擔(dān)責(zé)任，除非盡到了如下義務(wù)：(1)盡最大努力獲得授權(quán)；(2)對(duì)于權(quán)利人提供了相關(guān)且必要信息的作品和其他內(nèi)容，已經(jīng)盡到最大努力來(lái)確保特定作品或其他內(nèi)容不被獲得；(3)在收到權(quán)利人發(fā)出的充分且實(shí)質(zhì)的通知后，已經(jīng)迅速采取行動(dòng)，從其網(wǎng)站上移除或斷開(kāi)訪問(wèn)所通知的作品或其他內(nèi)容，并盡最大努力防止它們將來(lái)再次被上傳。(6)Directive on Copyright in the Digital Singles Market. Article17.DSA第7條指出中介服務(wù)提供者(7)Digital Services Act 2020.Article 2(f)“中介服務(wù)(intermediary service)”是指以下服務(wù)之一：(1)“單純的渠道(mereconduit)”服務(wù)，包括在通信網(wǎng)絡(luò)中傳輸由服務(wù)接受者提供的信息，或提供對(duì)通信網(wǎng)絡(luò)的訪問(wèn)；(2)“緩存(caching)”服務(wù)，包括在通信網(wǎng)絡(luò)中傳輸由服務(wù)接受者提供的信息，涉及該信息的自動(dòng)、中間和臨時(shí)存儲(chǔ)，其唯一目的是在其他接受者的要求下，更有效地將信息轉(zhuǎn)發(fā)給他們；(3)“托管(hosting)”服務(wù)，包括存儲(chǔ)由服務(wù)接受者提供并應(yīng)其請(qǐng)求的信息。不承擔(dān)監(jiān)控其傳輸或存儲(chǔ)的信息的一般義務(wù)，也沒(méi)有主動(dòng)尋找表明存在非法活動(dòng)的事實(shí)或情況的一般義務(wù)。(8)Digital Services Act 2020. Article7.中介服務(wù)提供者應(yīng)在條款和條件中包含有關(guān)內(nèi)容審核的任何政策、程序、措施和工具的信息，包括算法決策和人工審查。這些信息應(yīng)當(dāng)用清晰明確的語(yǔ)言列出，以易于獲取的方式公開(kāi)，在此基礎(chǔ)上，中介服務(wù)提供者以勤勉、客觀和相稱的方式實(shí)行內(nèi)容審核并考慮所有相關(guān)方的權(quán)利和合法利益。(9)Digital Services Act 2020. Article12.中介服務(wù)提供者對(duì)其內(nèi)容審核方式同時(shí)存在一種透明度義務(wù)，應(yīng)當(dāng)至少每年發(fā)布一次關(guān)于其在期間從事的任何內(nèi)容審核相關(guān)的清晰、易于理解和詳細(xì)的報(bào)告。(10)Digital Services Act 2020. Article13.中介服務(wù)提供者雖然沒(méi)有對(duì)非法內(nèi)容進(jìn)行主動(dòng)檢測(cè)的義務(wù)，但DSA第14條指出托管服務(wù)提供者應(yīng)當(dāng)建立一種易于使用、方便用戶的機(jī)制，允許任何個(gè)人或?qū)嶓w完全通過(guò)電子方式提交關(guān)于服務(wù)中非法內(nèi)容的通知。平臺(tái)接到通知后不得無(wú)故拖延，應(yīng)當(dāng)及時(shí)將決定通知該個(gè)人或?qū)嶓w，并提供有關(guān)該決定的補(bǔ)救可能性的信息。(11)Digital Services Act 2020. Article14.

3.DMA的“守門(mén)人”義務(wù)

針對(duì)傳統(tǒng)競(jìng)爭(zhēng)法律在數(shù)字平臺(tái)的適用中存在的相關(guān)市場(chǎng)界定困難、市場(chǎng)支配地位認(rèn)定困難、數(shù)字經(jīng)營(yíng)者集中審查困難等問(wèn)題，DMA設(shè)立了“守門(mén)人”義務(wù)。一些大型的互聯(lián)網(wǎng)平臺(tái)在數(shù)字經(jīng)濟(jì)市場(chǎng)承擔(dān)著類(lèi)似“守門(mén)人”的角色，DMA對(duì)此建立了一套識(shí)別標(biāo)準(zhǔn)：(1)具有強(qiáng)大的經(jīng)濟(jì)地位，對(duì)內(nèi)部市場(chǎng)產(chǎn)生重大影響，活躍于多個(gè)歐盟國(guó)家；(2)具有強(qiáng)大的中介地位，將龐大的用戶群與大量業(yè)務(wù)聯(lián)系起來(lái)；(3)在市場(chǎng)上擁有(或即將擁有)根深蒂固和持久的地位，這意味著公司在過(guò)去三個(gè)財(cái)政年度中的每個(gè)財(cái)政年度都滿足上述兩個(gè)標(biāo)準(zhǔn)。[10]滿足以上標(biāo)準(zhǔn)，即可推定平臺(tái)具有守門(mén)人地位。從歐盟的界定看，數(shù)字守門(mén)人的標(biāo)準(zhǔn)具體、清晰，也就避免了相關(guān)市場(chǎng)范圍界定、市場(chǎng)支配地位界定等造成的反壟斷執(zhí)法混亂及證明難度大的問(wèn)題。[11]DMA涵蓋了在線搜索引擎服務(wù)、在線中介服務(wù)、社交網(wǎng)絡(luò)、視頻分享平臺(tái)、通訊平臺(tái)、操作系統(tǒng)、云服務(wù)、廣告服務(wù)等8個(gè)領(lǐng)域，對(duì)“守門(mén)人”平臺(tái)施加了禁止義務(wù)以解決不公平交易行為、維護(hù)用戶權(quán)益：(1)禁止守門(mén)人平臺(tái)的自我偏好行為，即在平臺(tái)上更好地展示自身產(chǎn)品；(2)不得組織消費(fèi)者與他們平臺(tái)以外的企業(yè)建立聯(lián)系；(3)不得阻止用戶取消任何預(yù)裝軟件或應(yīng)用程序；(4)在沒(méi)有得到用戶有效同意的情況下，不得在核心平臺(tái)服務(wù)之外，以定向廣告目的跟蹤終端用戶。

(三)算法推薦技術(shù)規(guī)范的美國(guó)趨勢(shì)

2022年2月3日，美國(guó)參眾兩院議員向國(guó)會(huì)提交《算法問(wèn)責(zé)法(2022)》，該法案以避免算法歧視、保護(hù)消費(fèi)者權(quán)益為規(guī)制目標(biāo)，同時(shí)兼顧經(jīng)營(yíng)者的商業(yè)秘密保護(hù)。算法問(wèn)責(zé)制，意味著使用者或控制者有義務(wù)報(bào)告算法決策，證明其合理性并減輕任何負(fù)面的社會(huì)影響或潛在傷害。該法案確立了規(guī)范算法推薦技術(shù)的算法影響評(píng)估制度與算法信息公開(kāi)披露制度。

1.算法影響評(píng)估制度

算法影響評(píng)估制度是指依據(jù)系統(tǒng)制定的衡量標(biāo)準(zhǔn)對(duì)自動(dòng)化決策系統(tǒng)的應(yīng)用流程、數(shù)據(jù)使用和系統(tǒng)設(shè)計(jì)等內(nèi)容進(jìn)行系統(tǒng)評(píng)判，以明確該系統(tǒng)的影響水平和風(fēng)險(xiǎn)等級(jí)的一種算法治理實(shí)踐。[12]算法影響評(píng)估制度反映的是一種風(fēng)險(xiǎn)治理的理念，即聚焦于算法自動(dòng)化系統(tǒng)對(duì)公民自由、隱私和平等權(quán)等基本權(quán)利的潛在影響。[13]《算法問(wèn)責(zé)法(2022)》中的算法影響評(píng)估制度分為算法使用前的評(píng)估、算法使用中的評(píng)估兩部分。算法使用前的評(píng)估是指新算法開(kāi)發(fā)前，算法服務(wù)使用者應(yīng)當(dāng)先自我評(píng)估新算法的預(yù)期優(yōu)勢(shì)、預(yù)期目的，以及對(duì)原有算法的修正之處。其評(píng)估過(guò)程需要與雇員、技術(shù)團(tuán)隊(duì)、受影響群體代表等利害相關(guān)方進(jìn)行磋商，以降低算法設(shè)計(jì)謬誤存在的可能性。算法使用中的評(píng)估要求算法服務(wù)使用者在僅收集必要的數(shù)據(jù)的基礎(chǔ)上，持續(xù)性地評(píng)估算法應(yīng)用的歷史表現(xiàn)與是否需要對(duì)算法進(jìn)行限制，并保存其用來(lái)訓(xùn)練算法的數(shù)據(jù)以及數(shù)據(jù)相關(guān)的信息。

2.算法信息公開(kāi)披露制度

《算法問(wèn)責(zé)法(2022)》通過(guò)評(píng)估簡(jiǎn)報(bào)制度與信息公開(kāi)制度來(lái)實(shí)現(xiàn)算法透明。法案要求算法服務(wù)使用者在用于決策的算法部署之前，向美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)提交一份初始簡(jiǎn)報(bào)，此后每年向FTC提交一份簡(jiǎn)報(bào)。從表述上看，在影響評(píng)估報(bào)告中法案多要求算法服務(wù)使用者提供“細(xì)致的描述”；而在簡(jiǎn)報(bào)中，算法服務(wù)使用者通常僅僅被要求明確或記錄某些事實(shí)。FTC對(duì)簡(jiǎn)報(bào)信息進(jìn)行篩選，將部分信息通過(guò)其年度報(bào)告或公共信息庫(kù)向公眾公開(kāi)。FTC年度報(bào)告需要描述行業(yè)的總體發(fā)展趨勢(shì)、整合后的數(shù)據(jù)、影響評(píng)估中獲取的經(jīng)驗(yàn)教訓(xùn)等。FTC有義務(wù)建立公共數(shù)據(jù)庫(kù)以保障消費(fèi)者權(quán)益，該數(shù)據(jù)庫(kù)每季度更新一次，更新內(nèi)容包括公開(kāi)簡(jiǎn)報(bào)中的部分信息。據(jù)此形成“算法服務(wù)使用者自行保留的評(píng)估報(bào)告——向監(jiān)管機(jī)關(guān)提交的簡(jiǎn)報(bào)——公開(kāi)信息”三層信息披露機(jī)制。這種層級(jí)披露制度的實(shí)施既滿足算法監(jiān)管的需求以保障消費(fèi)者權(quán)益，又防止了算法服務(wù)提供者商業(yè)秘密的泄露，在公共利益與個(gè)人利益之間謀得平衡。

三、算法推薦技術(shù)規(guī)范的中國(guó)現(xiàn)狀與建議

(一)算法推薦技術(shù)應(yīng)用的司法爭(zhēng)議

目前我國(guó)司法實(shí)踐中已有多起算法推薦技術(shù)不當(dāng)應(yīng)用侵權(quán)的案件，其爭(zhēng)議焦點(diǎn)與法律適用難點(diǎn)正是算法推薦技術(shù)規(guī)范困境的縮影。通過(guò)傳統(tǒng)法律體系回應(yīng)這些算法風(fēng)險(xiǎn)的同時(shí)，亟待借鑒國(guó)外立法思路與可取經(jīng)驗(yàn)，從而克服算法風(fēng)險(xiǎn)、應(yīng)對(duì)技術(shù)變革。

1.算法價(jià)格歧視侵權(quán)——胡某訴攜程公司侵權(quán)責(zé)任案

攜程網(wǎng)站“鉆石貴賓”胡某在攜程網(wǎng)站上以2889元預(yù)訂酒店，然而酒店表示僅收到1377.63元房費(fèi)，故僅愿開(kāi)具1377.63元金額的發(fā)票。胡某據(jù)此主張攜程公司構(gòu)成侵權(quán)，而攜程公司以胡某所定房間是代理商提供而非攜程直營(yíng)為由主張免責(zé)。

該案件的爭(zhēng)議焦點(diǎn)有三：其一為用戶胡某的交易相對(duì)方為攜程平臺(tái)，還是平臺(tái)內(nèi)經(jīng)營(yíng)者捷銳公司。平臺(tái)經(jīng)營(yíng)者既有自營(yíng)業(yè)務(wù)又有他營(yíng)業(yè)務(wù)，應(yīng)當(dāng)以顯著標(biāo)識(shí)將二者區(qū)分。攜程平臺(tái)對(duì)房源信息僅標(biāo)注“代理”二字，難以認(rèn)定該字樣能直接、準(zhǔn)確、清晰地指向“第三方代理”“他營(yíng)”“非自營(yíng)”，使普通消費(fèi)者難以分辨其交易相對(duì)方。且與用戶進(jìn)行磋商的是平臺(tái)客服，交易扣款方與訂單發(fā)票抬頭均為攜程公司，因此合同相對(duì)方是攜程平臺(tái)。

其二為用戶能否以通過(guò)攜程APP預(yù)訂酒店的房?jī)r(jià)遠(yuǎn)高于門(mén)市價(jià)為由，主張攜程公司構(gòu)成欺詐。消費(fèi)者處于天然弱勢(shì)地位，這種弱勢(shì)地位在數(shù)字經(jīng)濟(jì)時(shí)代更為明顯。因此攜程公司未盡到告知義務(wù)，導(dǎo)致消費(fèi)者誤認(rèn)交易相對(duì)方而做出不真實(shí)意思表示。攜程公司怠于履行平臺(tái)主體責(zé)任是產(chǎn)生欺詐的主要原因。對(duì)消費(fèi)者以接受平臺(tái)服務(wù)的價(jià)格遠(yuǎn)高于市場(chǎng)價(jià)格為由要求平臺(tái)公司承擔(dān)欺詐責(zé)任的，應(yīng)當(dāng)按照欺詐構(gòu)成要件對(duì)其主張予以審查。

其三為用戶要求在攜程APP上增加不同意其《服務(wù)協(xié)議》《隱私政策》也可使用APP的選項(xiàng)之主張能否得到支持。用戶雖享有個(gè)人信息實(shí)體權(quán)益及相應(yīng)訴權(quán)，攜程也存在不正當(dāng)處理用戶個(gè)人信息的行為。但民事責(zé)任的承擔(dān)方式應(yīng)與侵權(quán)行為相適應(yīng)，《服務(wù)協(xié)議》《隱私政策》僅有部分侵犯消費(fèi)者權(quán)益，不應(yīng)全盤(pán)否定。此外，依法嚴(yán)格保護(hù)個(gè)人信息應(yīng)當(dāng)平衡信息提供者利益、數(shù)據(jù)平臺(tái)使用者利益和公共利益，在保障消費(fèi)者權(quán)益時(shí)兼顧數(shù)字經(jīng)濟(jì)的長(zhǎng)遠(yuǎn)發(fā)展。(12)(2021)浙06民終3129號(hào)判決書(shū)。

2.短視頻平臺(tái)算法侵權(quán)——愛(ài)奇藝訴字節(jié)跳動(dòng)信息網(wǎng)絡(luò)侵權(quán)案

電視劇《延禧攻略》在愛(ài)奇藝平臺(tái)獨(dú)播期間，今日頭條APP未經(jīng)授權(quán)利用信息流推薦技術(shù)，將用戶上傳的截取自《延禧攻略》的短視頻向公眾傳播并推薦。侵權(quán)視頻數(shù)量多、播放量高，達(dá)到了使用戶觀看完整劇集的替代效果。對(duì)于被告字節(jié)跳動(dòng)公司是否構(gòu)成幫助侵權(quán)，需要從兩個(gè)方面予以判定：

其一為字節(jié)跳動(dòng)公司是否明知或應(yīng)知侵權(quán)行為的存在。被侵權(quán)作品《延禧攻略》在首輪播出期間引起公眾極大關(guān)注，具有較高的知名度和較大的影響力，且愛(ài)奇藝公司在開(kāi)播前與播出期間向字節(jié)跳動(dòng)公司多次、持續(xù)進(jìn)行預(yù)警、告知，因此應(yīng)推知字節(jié)跳動(dòng)公司明知或應(yīng)知侵權(quán)行為的存在。

其二為字節(jié)跳動(dòng)公司是否采取了必要措施。是否采取必要措施需要從形式要件與實(shí)質(zhì)要件進(jìn)行判斷：形式要件為網(wǎng)絡(luò)服務(wù)提供者根據(jù)用戶侵權(quán)行為的方式以及自身所提供服務(wù)的性質(zhì)、技術(shù)水平、信息管理能力等，實(shí)際采取了包括但并不限于刪除、屏蔽、斷開(kāi)鏈接等方式的措施；實(shí)質(zhì)要件為上述措施的采取產(chǎn)生了制止和預(yù)防明顯侵權(quán)的處理結(jié)果。而字節(jié)跳動(dòng)公司采取的措施既沒(méi)有達(dá)到必要的程度，也沒(méi)有達(dá)到制止和預(yù)防明顯侵權(quán)的效果。(13)(2018)京0108民初49421號(hào)判決書(shū)。

(二)算法推薦技術(shù)規(guī)范的立法嘗試

我國(guó)2022年3月1日由網(wǎng)信辦、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)督管理總局四部門(mén)聯(lián)合頒布并正式實(shí)施的《管理規(guī)定》，乃是全球首部針對(duì)算法推薦技術(shù)的部門(mén)規(guī)章?！豆芾硪?guī)定》共有六章三十五條，總則明確了算法的治理對(duì)象與算法規(guī)制原則，其余各章分別規(guī)定了算法推薦服務(wù)提供者的義務(wù)，賦予用戶算法知情權(quán)、算法選擇權(quán)，針對(duì)算法推薦技術(shù)制定了監(jiān)督管理制度，并明晰了違反規(guī)定所應(yīng)負(fù)的法律責(zé)任。相較于歐盟與美國(guó)算法領(lǐng)域的立法嘗試，《管理規(guī)定》既有與之契合的部分，也不乏亮點(diǎn)與創(chuàng)新之處。

1.軟硬結(jié)合，平衡算法規(guī)制與產(chǎn)業(yè)發(fā)展

歐盟對(duì)于算法技術(shù)的規(guī)范長(zhǎng)期處于世界立法前沿，GDPR對(duì)數(shù)據(jù)權(quán)利的賦予，對(duì)平臺(tái)內(nèi)容審查義務(wù)以及“守門(mén)人”義務(wù)的施加均具有超前的規(guī)范意識(shí)。美國(guó)《算法問(wèn)責(zé)法(2022)》側(cè)重于算法監(jiān)管與影響評(píng)估，且仍處于草案階段，尚未正式施行。我國(guó)《管理規(guī)定》作為部門(mén)規(guī)章，既可與現(xiàn)有的法律法規(guī)、司法解釋相呼應(yīng)，又與各類(lèi)政策規(guī)范、社會(huì)規(guī)范相銜接。既可以防范算法侵權(quán)，又順應(yīng)我國(guó)數(shù)字經(jīng)濟(jì)發(fā)展潮流，符合產(chǎn)業(yè)特征，尊重科技發(fā)展規(guī)律。

2. 精準(zhǔn)治理，分級(jí)分類(lèi)規(guī)范算法應(yīng)用

《管理規(guī)定》主張建立算法分級(jí)分類(lèi)安全管理制度，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類(lèi)別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類(lèi)管理。(14)國(guó)家互聯(lián)網(wǎng)信息辦公室、中華人民共和國(guó)工業(yè)和信息化部、中華人民共和國(guó)公安部、國(guó)家市場(chǎng)監(jiān)督管理總局令第9號(hào)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第23條。歐盟DMA“守門(mén)人”義務(wù)的施加，同樣建立在對(duì)大型算法服務(wù)提供者與其他算法服務(wù)提供者的劃分之上。美國(guó)算法問(wèn)責(zé)法案中也存在“算法服務(wù)提供者—監(jiān)管機(jī)構(gòu)—社會(huì)公眾”的層級(jí)披露制度。

3.以人為本，注重特殊群體的權(quán)益保護(hù)

相較于歐盟、美國(guó)立法中對(duì)于算法用戶的概括性表達(dá)，《管理規(guī)定》將其細(xì)分為未成年人、老年人、消費(fèi)者與勞動(dòng)者等群體。既賦予了普遍性的算法知情權(quán)、選擇權(quán)，又對(duì)特殊群體的算法應(yīng)用施以傾斜性保護(hù)。例如，《管理規(guī)定》要求算法服務(wù)提供者不得利用算法技術(shù)對(duì)未成年人提供不良信息、誘導(dǎo)沉迷；要求算法服務(wù)提供者按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)，便利老年人出行、就醫(yī)、消費(fèi)等需求；要求算法服務(wù)提供者完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法，保障勞動(dòng)者權(quán)益；將消費(fèi)者權(quán)益細(xì)化為“公平交易的權(quán)利”，貼合“大數(shù)據(jù)殺熟”的算法風(fēng)險(xiǎn)。這些對(duì)特殊群體的具體規(guī)定回應(yīng)了社會(huì)關(guān)切，保障了各類(lèi)主體的算法權(quán)利。

(三)算法推薦技術(shù)規(guī)范的未來(lái)展望

1.立“平臺(tái)義務(wù)”，破“算法傾軋”

算法推薦服務(wù)提供者的內(nèi)容監(jiān)管責(zé)任事實(shí)上是一種風(fēng)險(xiǎn)責(zé)任，有害信息的無(wú)序傳播會(huì)給社會(huì)帶來(lái)巨大的風(fēng)險(xiǎn)，因此其必須承擔(dān)一定的內(nèi)容監(jiān)管責(zé)任。要求社交平臺(tái)對(duì)用戶內(nèi)容承擔(dān)責(zé)任還有一個(gè)重要原因是在現(xiàn)有的技術(shù)條件下，原本中立的第三方平臺(tái)亦具有了網(wǎng)絡(luò)內(nèi)容提供者的部分特征。[14]實(shí)踐中已有多個(gè)平臺(tái)自愿采取過(guò)濾機(jī)制，承擔(dān)一定的內(nèi)容審核義務(wù)，例如百度文庫(kù)采用的“反盜版DNA識(shí)別系統(tǒng)”、搜狐視頻研發(fā)的“視頻基因?qū)Ρ燃夹g(shù)”、字節(jié)跳動(dòng)的視頻版權(quán)保護(hù)系統(tǒng)“靈識(shí)系統(tǒng)”等。平臺(tái)義務(wù)的建立，會(huì)提高算法服務(wù)提供者對(duì)算法技術(shù)應(yīng)用的責(zé)任意識(shí)與安全意識(shí)。平臺(tái)主體地位具有特殊性，相對(duì)于公眾具有優(yōu)勢(shì)地位和更強(qiáng)話語(yǔ)權(quán)，因此應(yīng)當(dāng)承擔(dān)更多的義務(wù)與責(zé)任，堅(jiān)持主流價(jià)值導(dǎo)向，追求平臺(tái)與公眾之間實(shí)質(zhì)上的平等地位。

2.立“法治監(jiān)管”，破“算法黑箱”

算法風(fēng)險(xiǎn)損害事實(shí)的隱蔽性，來(lái)源于算法技術(shù)的不透明與缺乏監(jiān)管?！八惴ê谙洹钡拇嬖诓⒎鞘羌夹g(shù)變革的新產(chǎn)物，而是歧視行為在數(shù)字經(jīng)濟(jì)時(shí)代的新表現(xiàn)。對(duì)算法歧視的規(guī)制，需要貫徹算法技術(shù)研發(fā)與算法技術(shù)應(yīng)用的全過(guò)程?！豆芾硪?guī)定》提出算法備案制度和安全評(píng)估制度，有助于監(jiān)管機(jī)構(gòu)及時(shí)了解算法服務(wù)內(nèi)容與內(nèi)在運(yùn)行機(jī)制。但備案制度和安全評(píng)估制度的具體程序、實(shí)施要求和評(píng)估標(biāo)準(zhǔn)還有待明確，以期形成事前、事中與事后結(jié)合的全流程監(jiān)管機(jī)制，提高算法透明度與可解釋性。

3.立“協(xié)同共治”，破“算法失序”

算法技術(shù)應(yīng)用風(fēng)險(xiǎn)具有普遍性，涉及社會(huì)生活的方方面面，因此算法治理工作不容忽視?！豆芾硪?guī)定》雖對(duì)各種算法推薦技術(shù)的應(yīng)用風(fēng)險(xiǎn)均作出了相應(yīng)的規(guī)制，但該規(guī)定作為部門(mén)規(guī)章，僅可用于指導(dǎo)部門(mén)執(zhí)法，難以成為法院審判時(shí)的裁量依據(jù)。囿于法律層級(jí)上的欠缺，為落實(shí)對(duì)算法推薦技術(shù)的監(jiān)管與用戶權(quán)利保護(hù)，亟須將《管理規(guī)定》與《中華人民共和國(guó)民法典》《中華人民共和國(guó)著作權(quán)法》《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》《中華人民共和國(guó)勞動(dòng)法》等上位法結(jié)合起來(lái)，也需要網(wǎng)信辦、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)督管理總局等部門(mén)在算法治理層面的協(xié)同合作，形成更為精細(xì)化的監(jiān)管體系。

結(jié) 語(yǔ)

平臺(tái)推崇算法推薦技術(shù)、標(biāo)榜“技術(shù)中立”，公眾基于對(duì)技術(shù)的信賴而認(rèn)為算法技術(shù)運(yùn)行結(jié)果必然是公平公正的。然過(guò)猶不及，算法推薦技術(shù)的不當(dāng)應(yīng)用已損害了公民合法權(quán)益與社會(huì)經(jīng)濟(jì)秩序。《管理規(guī)定》的頒布與適用順應(yīng)時(shí)代潮流，體現(xiàn)了國(guó)家加強(qiáng)平臺(tái)監(jiān)管與規(guī)制算法技術(shù)應(yīng)用風(fēng)險(xiǎn)的趨勢(shì)。數(shù)字經(jīng)濟(jì)時(shí)代算法推薦技術(shù)應(yīng)用的規(guī)范，應(yīng)施加平臺(tái)義務(wù)、規(guī)制對(duì)用戶的算法傾軋；明確備案制度和安全評(píng)估制度的具體規(guī)定，加強(qiáng)法治監(jiān)管、規(guī)制算法歧視；還應(yīng)當(dāng)建立多層次的算法監(jiān)管體系，形成協(xié)同合作的算法治理格局。