魏露露

內(nèi)容摘要：社交平臺(tái)是互聯(lián)網(wǎng)技術(shù)和商業(yè)模式創(chuàng)新的主體，同時(shí)也承擔(dān)著用戶內(nèi)容規(guī)制的平臺(tái)義務(wù)與責(zé)任。合理的平臺(tái)責(zé)任制度設(shè)置需要平衡平臺(tái)商業(yè)自由與內(nèi)容合規(guī)性兩種價(jià)值?；ヂ?lián)網(wǎng)內(nèi)容監(jiān)管既有法律和政策從構(gòu)建信息安全管理制度和運(yùn)用內(nèi)容監(jiān)管技術(shù)措施兩個(gè)方面建構(gòu)了平臺(tái)的內(nèi)容監(jiān)管責(zé)任體系。但從促進(jìn)創(chuàng)新的視角來看，平臺(tái)內(nèi)容監(jiān)管責(zé)任體系還存在著過于注重事后處罰，對(duì)事前治理制度的關(guān)注不夠等問題。無論是內(nèi)容自動(dòng)過濾技術(shù)的使用還是內(nèi)容管理制度的構(gòu)建，都應(yīng)當(dāng)建立在多方利益相關(guān)主體參與的基礎(chǔ)之上，一方面提高內(nèi)容監(jiān)管程序的公開透明和正當(dāng)性;另一方面形成監(jiān)管責(zé)任的分擔(dān)，降低社交平臺(tái)的監(jiān)管成本，促進(jìn)創(chuàng)新。

關(guān)鍵詞：社交平臺(tái) 互聯(lián)網(wǎng)創(chuàng)新 平臺(tái)責(zé)任 內(nèi)容監(jiān)管技術(shù) 利益主體參與機(jī)制

中圖分類號(hào)：D913文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1674-4039-（2020）01-0027-33

一、問題的引出

創(chuàng)新和競(jìng)爭(zhēng)一直被認(rèn)為是提高生產(chǎn)效率，促進(jìn)社會(huì)福利和公共利益的主要手段，作為市場(chǎng)創(chuàng)新主體，網(wǎng)絡(luò)社交平臺(tái)在追逐自身商業(yè)利益的同時(shí)，也被認(rèn)為能夠極大地增進(jìn)社會(huì)和公共利益?！? 〕但是，僅僅依靠市場(chǎng)激勵(lì)，社交平臺(tái)的自身商業(yè)利益并不總與法律所追求的個(gè)人權(quán)利保護(hù)和公共利益保持一致，去中心化的信息傳播模式所帶來的諸如誹謗、色情低俗、版權(quán)侵權(quán)等負(fù)外部性問題就需要法律的介入。平臺(tái)責(zé)任制度便成為法律平衡平臺(tái)商業(yè)自由與互聯(lián)網(wǎng)內(nèi)容合法性的關(guān)鍵制度。我國(guó)現(xiàn)行法律設(shè)置了比較全面的平臺(tái)對(duì)用戶內(nèi)容的規(guī)制責(zé)任，但是卻存在平臺(tái)責(zé)任體系與社交平臺(tái)內(nèi)生商業(yè)和技術(shù)邏輯相脫節(jié)的問題，法律如果僅僅作為一種外在的、自上而下的強(qiáng)制而存在的話，平臺(tái)的內(nèi)容管理責(zé)任便無法被完全內(nèi)化在平臺(tái)的商業(yè)運(yùn)營(yíng)成本和實(shí)踐之中，會(huì)對(duì)平臺(tái)的商業(yè)自由造成過重的負(fù)擔(dān)，阻礙創(chuàng)新，平臺(tái)責(zé)任制度的有效性也會(huì)受到挑戰(zhàn)。筆者認(rèn)為，內(nèi)化平臺(tái)的內(nèi)容治理責(zé)任需要法律給出正確的制度激勵(lì)，一方面要激勵(lì)市場(chǎng)主體對(duì)自動(dòng)化內(nèi)容管理技術(shù)的運(yùn)用，以大大降低平臺(tái)的內(nèi)容監(jiān)管的成本;另一方面，法律要激勵(lì)各方利益相關(guān)主體主動(dòng)參與違法內(nèi)容監(jiān)管的程序，以分擔(dān)網(wǎng)絡(luò)平臺(tái)的內(nèi)容監(jiān)管責(zé)任和成本，使內(nèi)容監(jiān)管更加公開透明。但無論是技術(shù)還是人工干預(yù)用戶內(nèi)容都需要法律設(shè)置一定的監(jiān)督反饋機(jī)制以確保權(quán)力不被濫用。

二、互聯(lián)網(wǎng)社交平臺(tái)內(nèi)容規(guī)制責(zé)任的確立以及執(zhí)行問題

在互聯(lián)網(wǎng)的誕生之初，我國(guó)政府就認(rèn)識(shí)到互聯(lián)網(wǎng)不是法外之地，必須置于政府的規(guī)制之下。各種網(wǎng)絡(luò)服務(wù)提供商作為信息傳播渠道的“把關(guān)人”，處于互聯(lián)網(wǎng)執(zhí)法的關(guān)鍵位置。但是，早期互聯(lián)網(wǎng)法規(guī)對(duì)網(wǎng)絡(luò)服務(wù)商關(guān)于用戶行為的規(guī)制責(zé)任的規(guī)定比較粗糙，法規(guī)中都會(huì)規(guī)定各種網(wǎng)絡(luò)服務(wù)商在發(fā)現(xiàn)違法信息時(shí)，“應(yīng)當(dāng)立即停止傳輸，保存有關(guān)記錄，并向國(guó)家機(jī)關(guān)報(bào)告”，〔2 〕由于缺少具體的執(zhí)行措施規(guī)定，更像是對(duì)平臺(tái)責(zé)任的籠統(tǒng)宣示。直到社交媒體平臺(tái)的快速普及使人人都可以成為媒體，法規(guī)才開始細(xì)化規(guī)定平臺(tái)內(nèi)容監(jiān)管責(zé)任的具體履行措施。例如，2011年的《北京市微博客發(fā)展若干規(guī)定》提出微博客服務(wù)提供者應(yīng)當(dāng)建立“信息安全管理制度”，對(duì)傳播有害內(nèi)容的用戶予以制止、限制、并及時(shí)向有關(guān)部門報(bào)告;建立“內(nèi)容審核制度”，對(duì)微博信息內(nèi)容的制作，復(fù)制，發(fā)布，傳播進(jìn)行監(jiān)管?！? 〕 2017年國(guó)家互聯(lián)網(wǎng)信息辦公室通過的《互聯(lián)網(wǎng)新聞信息服務(wù)管理辦法》《互聯(lián)網(wǎng)跟帖服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)論壇社區(qū)服務(wù)管理規(guī)定》等規(guī)范性文件，從內(nèi)部管理制度建設(shè)和技術(shù)保障措施兩方面對(duì)社交平臺(tái)提供者的“主體責(zé)任”的履行做出規(guī)定。一方面，社交平臺(tái)被要求在用戶注冊(cè)、信息發(fā)布審核、跟帖評(píng)論管理、公共信息巡查、應(yīng)急處置、配備與服務(wù)規(guī)模相適應(yīng)的管理和編輯人員等方面建立健全信息安全管理制度，加強(qiáng)對(duì)用戶信息發(fā)布的人工干預(yù)能力。〔4 〕另一方面，社交媒體平臺(tái)必須對(duì)用戶信息安全具備安全可控的技術(shù)保障和防范措施，技術(shù)措施將大大提高社交平臺(tái)對(duì)違規(guī)信息事前發(fā)現(xiàn)和處置的能力和效率，如通過過濾器對(duì)用戶跟帖評(píng)論進(jìn)行“先審后發(fā)”，〔5 〕對(duì)用戶信息的自動(dòng)保存和記錄為有關(guān)部門的網(wǎng)絡(luò)執(zhí)法提供技術(shù)和資料支持?！? 〕

我國(guó)對(duì)社交平臺(tái)內(nèi)容管理責(zé)任是一種行政管理責(zé)任，強(qiáng)調(diào)社交平臺(tái)在追求自身經(jīng)濟(jì)效益的同時(shí)兼顧對(duì)社會(huì)效益和公共利益的維護(hù)，其規(guī)定也逐漸具體化并具備可操作性。但商業(yè)自由與公共效益的協(xié)調(diào)需要將平臺(tái)責(zé)任內(nèi)化于市場(chǎng)主體的商業(yè)實(shí)踐中，使平臺(tái)責(zé)任的施加不會(huì)造成過重的負(fù)擔(dān)，阻礙創(chuàng)新和競(jìng)爭(zhēng)。而從這個(gè)角度來看，我國(guó)平臺(tái)內(nèi)容規(guī)制責(zé)任在執(zhí)行方面還存在一些問題。

第一，平臺(tái)責(zé)任的履行監(jiān)督過于注重事后處罰，對(duì)事前治理制度關(guān)注不足。盡管法律和規(guī)范性文件提及了網(wǎng)絡(luò)社區(qū)服務(wù)行業(yè)加強(qiáng)行業(yè)自律和行業(yè)準(zhǔn)則，以及社交平臺(tái)服務(wù)接受社會(huì)監(jiān)督，作為政府監(jiān)管的補(bǔ)充。但是法律并未就如何開展行業(yè)自律和社會(huì)監(jiān)督做進(jìn)一步的規(guī)定。從執(zhí)法實(shí)踐來看，目前平臺(tái)的內(nèi)容監(jiān)管責(zé)任很大程度上是通過網(wǎng)信辦約談平臺(tái)負(fù)責(zé)人 〔7 〕和行政執(zhí)法專項(xiàng)行動(dòng)的威懾力來保證實(shí)施的。近幾年，國(guó)家網(wǎng)信辦頻繁的約談未落實(shí)用戶信息監(jiān)管責(zé)任的社交媒體平臺(tái)。國(guó)家“掃黃打非”辦公室也通過階段性的線上“掃黃打非”專項(xiàng)執(zhí)法活動(dòng)就淫穢色情信息、低俗內(nèi)容和版權(quán)侵權(quán)問題向平臺(tái)問責(zé)?！? 〕約談與專項(xiàng)執(zhí)法行動(dòng)均屬于事后的行政問責(zé)手段，在多大程度法律的外在彈壓能夠使內(nèi)容監(jiān)管責(zé)任內(nèi)化在平臺(tái)的商業(yè)運(yùn)營(yíng)中還有待商榷，并且階段性的執(zhí)法行動(dòng)的有效性有幾何也值得懷疑。

第二，社交平臺(tái)的內(nèi)容規(guī)制責(zé)任是一種行政責(zé)任，而與網(wǎng)絡(luò)服務(wù)商在“避風(fēng)港”條款下享受的侵權(quán)責(zé)任豁免制度如何協(xié)調(diào)？美國(guó)《千禧年數(shù)字版權(quán)法》（CMDA）第512條確立了針對(duì)四類互聯(lián)網(wǎng)服務(wù)商的“避風(fēng)港”條款，“避風(fēng)港”條款有條件的限制了信息傳輸、系統(tǒng)緩存、信息托管、信息定位服務(wù)提供商的版權(quán)侵權(quán)賠償責(zé)任。隨后歐盟也確立了類似的侵權(quán)責(zé)任豁免制度。〔9 〕社交平臺(tái)屬于信息托管服務(wù)提供者，原則上在“避風(fēng)港”的豁免范圍之內(nèi)。通過“避風(fēng)港”一定程度豁免網(wǎng)絡(luò)服務(wù)商的內(nèi)容監(jiān)管責(zé)任，降低創(chuàng)新成本，被認(rèn)為是促進(jìn)早期互聯(lián)網(wǎng)技術(shù)和商業(yè)模式創(chuàng)新的重要法律激勵(lì)，是互聯(lián)網(wǎng)經(jīng)濟(jì)得以繁榮的制度基石?！?0 〕我國(guó)雖然也引入了網(wǎng)絡(luò)服務(wù)商的避風(fēng)港制度，但是在實(shí)踐中歐美模式的“避風(fēng)港”原則并未得到充分的實(shí)施?！?1 〕首先，歐美的“避風(fēng)港”條款以避免網(wǎng)絡(luò)服務(wù)商承擔(dān)一般內(nèi)容審查義務(wù)以保護(hù)信息自由和言論自由為立法目的之一，而在我國(guó)互聯(lián)網(wǎng)平臺(tái)提供者承擔(dān)內(nèi)容監(jiān)管責(zé)任已成為一種網(wǎng)絡(luò)空間治理的法律和社會(huì)共識(shí)。其次，在“避風(fēng)港”條款的適用條件上，我國(guó)對(duì)應(yīng)然層面網(wǎng)絡(luò)服務(wù)提供者“應(yīng)該知道”侵權(quán)事實(shí)存在的主觀狀態(tài)的強(qiáng)調(diào)也大大限縮了責(zé)任豁免的范圍，而在美國(guó)CMDA中則僅僅做出對(duì)“實(shí)際知道”（actual knowledge）的要求，并不追究依據(jù)平臺(tái)的商業(yè)模式是否應(yīng)該知道侵權(quán)事實(shí)存在。再次，“避風(fēng)港”從來不是絕對(duì)的。即使在歐美，隨著自動(dòng)化技術(shù)和互聯(lián)網(wǎng)法律自身的發(fā)展，超出“避風(fēng)港”要求網(wǎng)絡(luò)服務(wù)提供者承擔(dān)更多的內(nèi)容合法性責(zé)任形成一種趨勢(shì)。例如，2014年歐盟法院在Google Spain案中的思路就突顯了用戶“被遺忘權(quán)”的執(zhí)行對(duì)搜索引擎的責(zé)任豁免的沖擊。而隨著自動(dòng)化過濾技術(shù)的發(fā)展，網(wǎng)絡(luò)平臺(tái)介入用戶信息的成本被大大降低，因而要求網(wǎng)絡(luò)服務(wù)商承擔(dān)更多輔助個(gè)人權(quán)利實(shí)施的義務(wù)的呼聲大大增多。直到2019年4月歐盟通過了《統(tǒng)一數(shù)字市場(chǎng)版權(quán)與相關(guān)權(quán)利指令》，對(duì)于用戶發(fā)布的受版權(quán)保護(hù)的作品內(nèi)容造成的侵權(quán)，內(nèi)容分享服務(wù)平臺(tái)將構(gòu)成“向公眾傳播”并承擔(dān)直接侵權(quán)責(zé)任，排除了內(nèi)容分享服務(wù)平臺(tái)針對(duì)用戶內(nèi)容侵權(quán)的“避風(fēng)港”規(guī)則的適用。〔12 〕該指令意圖向內(nèi)容分享平臺(tái)施加事前獲得版權(quán)及相關(guān)權(quán)利授權(quán)的義務(wù)，從而避免事后的一般內(nèi)容審查，并通過要求成員國(guó)構(gòu)建版權(quán)等權(quán)利的集體許可機(jī)制、〔13 〕協(xié)商機(jī)制 〔14〕來降低平臺(tái)獲得版權(quán)授權(quán)的成本。

綜上所述，“避風(fēng)港”條款代表了規(guī)制邏輯遵從商業(yè)邏輯和技術(shù)邏輯的平臺(tái)責(zé)任思路，代表對(duì)互聯(lián)網(wǎng)服務(wù)提供商商業(yè)運(yùn)營(yíng)的規(guī)制寬容，但并不必然排斥規(guī)制邏輯下法律對(duì)平臺(tái)內(nèi)容規(guī)制能力的合理利用，關(guān)鍵在于互聯(lián)網(wǎng)創(chuàng)新與內(nèi)容合法性二者之間的價(jià)值平衡。

第三，我國(guó)對(duì)社交平臺(tái)的內(nèi)容規(guī)制責(zé)任設(shè)置本身過重，缺乏能夠?qū)Χ嘣孢M(jìn)行平衡的制度和程序設(shè)計(jì)。首先，平臺(tái)責(zé)任的安排過于重視內(nèi)容的合法性的執(zhí)法目的，缺少對(duì)平臺(tái)商業(yè)自由的兼顧，造成社交屬性的互聯(lián)網(wǎng)應(yīng)用較高的法律風(fēng)險(xiǎn)和運(yùn)營(yíng)成本，削弱其市場(chǎng)競(jìng)爭(zhēng)力。根據(jù)經(jīng)濟(jì)分析學(xué)派的觀點(diǎn)，任何正義的追求都是有成本的，正義也是多維度的，法律應(yīng)當(dāng)做出符合社會(huì)效益最大化的制度安排，而非不計(jì)成本的追求一種正義。〔15 〕不計(jì)成本地追求用戶內(nèi)容合規(guī)性不符合社會(huì)效益最大化原則和制度的經(jīng)濟(jì)理性，可能對(duì)技術(shù)創(chuàng)新和市場(chǎng)競(jìng)爭(zhēng)產(chǎn)生不當(dāng)?shù)姆筛深A(yù)。在2016年的快播涉黃案中，被告試圖將自己定位為提供播放軟件而非視頻服務(wù)，從而利用“技術(shù)中立”原則來證明自己不存在對(duì)用戶分享內(nèi)容進(jìn)行監(jiān)管的能力和義務(wù)，但是公訴方及法院則將快播定義為提供視頻服務(wù)，實(shí)際上遠(yuǎn)程控制和日常維護(hù)服務(wù)器;快播設(shè)計(jì)其緩存服務(wù)器存儲(chǔ)視頻的條件僅以點(diǎn)播率為依據(jù)，造成了淫穢視頻大量緩存和更快傳播;并且由于之前行政處罰的存在快播公司對(duì)于淫穢視頻的傳播存在“明知”的故意，不適用“避風(fēng)港”原則，因而認(rèn)定構(gòu)成了傳播淫穢物品牟利罪?！?6 〕盡管網(wǎng)絡(luò)上針對(duì)此案的判決爭(zhēng)議較大，但是從法院適用法律的邏輯來看，并不存在問題。然而，從法律對(duì)技術(shù)市場(chǎng)的溢出效應(yīng)來看，以快播案為轉(zhuǎn)折點(diǎn)，失去“避風(fēng)港”庇護(hù)的P2P技術(shù)由于面臨未知的高法律風(fēng)險(xiǎn)，市場(chǎng)競(jìng)爭(zhēng)力越來越弱，逐漸小眾，而技術(shù)架構(gòu)的變革隨之帶來了視聽內(nèi)容產(chǎn)消模式的變遷，最直觀的變化體現(xiàn)在隨著數(shù)字版權(quán)執(zhí)法力度的增加，我國(guó)線上視頻消費(fèi)市場(chǎng)開始被以擁有大量?jī)?nèi)容版權(quán)的視頻平臺(tái)（如騰訊視頻、愛奇藝、優(yōu)酷等）所取代，在P2P社交模式下用戶產(chǎn)消內(nèi)容的格局被改變。視頻消費(fèi)社交屬性的減弱一方面會(huì)帶來內(nèi)容執(zhí)法難度的降低，有利于內(nèi)容合法性的提高;但另一方面，無論是從技術(shù)創(chuàng)新還是內(nèi)容生產(chǎn)來看，過度的數(shù)字版權(quán)執(zhí)法會(huì)造成過于強(qiáng)大的產(chǎn)權(quán)話語對(duì)技術(shù)創(chuàng)新市場(chǎng)的版權(quán)壁壘，〔17 〕而用戶產(chǎn)消內(nèi)容市場(chǎng)的縮水可能會(huì)削弱互聯(lián)網(wǎng)基于社交的內(nèi)容創(chuàng)新基因，從長(zhǎng)期的用戶福利和社會(huì)效益的角度來看并不一定是最優(yōu)的制度安排。用戶表達(dá)自由、平臺(tái)市場(chǎng)的自由競(jìng)爭(zhēng)秩序都應(yīng)當(dāng)是平臺(tái)責(zé)任制度設(shè)計(jì)所需考慮的價(jià)值訴求。最新的歐盟《統(tǒng)一數(shù)字市場(chǎng)版權(quán)與相關(guān)權(quán)利指令》即豁免了進(jìn)入市場(chǎng)不足三年，年?duì)I業(yè)額少于一千萬歐元的內(nèi)容分享平臺(tái)事前獲取權(quán)利許可的義務(wù)，對(duì)其繼續(xù)適用“避風(fēng)港”規(guī)則中的“通知-刪除”義務(wù)。〔18 〕我國(guó)的社交平臺(tái)內(nèi)容規(guī)制義務(wù)的設(shè)置也應(yīng)當(dāng)考慮對(duì)新興的中小平臺(tái)的適當(dāng)政策傾斜。

綜上所述，我國(guó)的社交平臺(tái)需要承擔(dān)主動(dòng)采取技術(shù)措施和內(nèi)容管理措施進(jìn)行內(nèi)容監(jiān)管以保證用戶內(nèi)容的合規(guī)性，這一內(nèi)容監(jiān)管責(zé)任目前主要依靠直接追究平臺(tái)的行政甚至刑事責(zé)任來保證實(shí)施。面對(duì)較高的法律風(fēng)險(xiǎn)，加強(qiáng)事前的內(nèi)容管理是社交平臺(tái)的合理選擇。但是法律對(duì)平臺(tái)內(nèi)容管理技術(shù)措施和內(nèi)部信息管理制度的規(guī)定只重在強(qiáng)調(diào)平臺(tái)作為責(zé)任主體的義務(wù)，并沒有提及技術(shù)措施和內(nèi)部管理制度本身應(yīng)當(dāng)如何治理才能使平臺(tái)內(nèi)化內(nèi)容監(jiān)管責(zé)任，形成長(zhǎng)效機(jī)制，而不僅僅是作為對(duì)法律外在強(qiáng)制的被動(dòng)回應(yīng)。更為重要的是，只有開放內(nèi)容管理體系，使利益相關(guān)主體參與到內(nèi)容管理程序中來，才能夠分擔(dān)社交平臺(tái)內(nèi)容監(jiān)管的責(zé)任與成本，平衡內(nèi)容合規(guī)性，商業(yè)自由與創(chuàng)新和用戶權(quán)利保護(hù)三種價(jià)值。筆者將從技術(shù)措施的采取和內(nèi)容管理制度的構(gòu)建兩個(gè)方面探討平臺(tái)責(zé)任的實(shí)施如何兼顧創(chuàng)新和內(nèi)容合規(guī)性。

三、內(nèi)容自動(dòng)過濾技術(shù)的應(yīng)用及其限制

在網(wǎng)絡(luò)空間，代碼就是法律，法律的有效性很大程度上受制于代碼，而根據(jù)比例原則，有效性的喪失會(huì)反過來削弱法律措施的正當(dāng)性。通過技術(shù)措施實(shí)現(xiàn)對(duì)不良內(nèi)容的自動(dòng)過濾、識(shí)別和攔截成為降低社交平臺(tái)承擔(dān)內(nèi)容管理責(zé)任的成本，提高內(nèi)容監(jiān)管能力的重要舉措，同時(shí)近幾年內(nèi)容自動(dòng)識(shí)別和過濾技術(shù)系統(tǒng)的開發(fā)和應(yīng)用也為論證網(wǎng)絡(luò)平臺(tái)承擔(dān)更多的內(nèi)容規(guī)制責(zé)任提供重要的正當(dāng)性依據(jù)，例如歐盟成員國(guó)的司法判例中出現(xiàn)了將信息托管平臺(tái)的針對(duì)具體版權(quán)內(nèi)容的事前過濾義務(wù)的承擔(dān)作為其獲得“避風(fēng)港”庇護(hù)的前提條件，〔19 〕以及寬帶服務(wù)商通過法院禁令（injunction）被要求停止為版權(quán)侵權(quán)用戶繼續(xù)提供寬帶服務(wù)?！?0 〕在我國(guó)，利用信息安全管理技術(shù)對(duì)用戶內(nèi)容進(jìn)行事前審查和過濾被行政執(zhí)法部門列入了社交平臺(tái)內(nèi)容規(guī)制行政責(zé)任的范圍之內(nèi)。在”快播案”的判決中，檢方提及了關(guān)鍵詞過濾作為不良信息識(shí)別過濾的行業(yè)慣例。在不良信息管控實(shí)踐中，一般采用“機(jī)器+人工”的內(nèi)容審核流程，〔21 〕關(guān)鍵詞過濾，URL屏蔽，截圖審核，數(shù)據(jù)庫過濾等技術(shù)被廣泛運(yùn)用于社交平臺(tái)用戶內(nèi)容的自動(dòng)審核。比如，百度貼吧的關(guān)鍵詞過濾系統(tǒng);視頻社交網(wǎng)站“B站”運(yùn)用截圖鑒黃技術(shù)，“每秒處理300張截圖;嫌疑圖片從讀圖、圖片傳輸、計(jì)算、返回結(jié)果，全程平均響應(yīng)時(shí)間約2.2秒;10至15秒內(nèi)，后臺(tái)人工審核便可完成對(duì)嫌疑圖片的二次判斷”。〔22 〕基于版權(quán)信息數(shù)據(jù)庫的內(nèi)容過濾技術(shù)在國(guó)外社交網(wǎng)站的版權(quán)保護(hù)領(lǐng)域率先得到了推廣，比如在歐美數(shù)字版保護(hù)領(lǐng)域通用的Audible Magic開發(fā)的內(nèi)容指紋系統(tǒng)，類似的Youtube在2007年上線的Content ID 系統(tǒng)，F(xiàn)acebook在2016年上線的Rights Manager系統(tǒng)，〔23 〕國(guó)內(nèi)今日頭條在經(jīng)歷一系列的版權(quán)糾紛之后，也在2017年上線了CID系統(tǒng)，保護(hù)短視頻版權(quán)?！?4 〕這類內(nèi)容指紋技術(shù)是基于版權(quán)人主動(dòng)上傳自己的版權(quán)作品至作品指紋數(shù)據(jù)庫，系統(tǒng)對(duì)每一段申請(qǐng)版權(quán)保護(hù)的內(nèi)容進(jìn)行編碼確立唯一的數(shù)字身份，然后將上傳至被監(jiān)控網(wǎng)站或網(wǎng)絡(luò)傳輸?shù)乃辛髁繑?shù)據(jù)與內(nèi)容版權(quán)數(shù)據(jù)庫進(jìn)行比對(duì)，當(dāng)配對(duì)成功時(shí)，被監(jiān)控目標(biāo)系統(tǒng)中該內(nèi)容的上傳和傳輸都將會(huì)被攔截。〔25 〕

我國(guó)要求社交平臺(tái)對(duì)用戶信息進(jìn)行事前的過濾以有效攔截各類不良信息，但法律并未對(duì)技術(shù)措施的有效性和正當(dāng)性評(píng)估提供具體的標(biāo)準(zhǔn)。參考?xì)W美實(shí)踐，對(duì)內(nèi)容自動(dòng)過濾技術(shù)的運(yùn)用主要集中在數(shù)字版權(quán)保護(hù)方面，并且通過立法和司法判決對(duì)自動(dòng)過濾技術(shù)的運(yùn)用做出了限制。首先，為了保證內(nèi)容自動(dòng)過濾的準(zhǔn)確率，防止過度攔截，內(nèi)容過濾技術(shù)只適用于能夠通過機(jī)器和算法做出準(zhǔn)確判定的違法內(nèi)容，如大部分的版權(quán)侵權(quán)內(nèi)容，而不適用于需要做出自由裁量的情況，如用戶對(duì)版權(quán)內(nèi)容的授權(quán)使用和合理使用。因此“技術(shù)過濾+人工復(fù)審”是保證算法過濾正確率的必要程序，同時(shí)，“避風(fēng)港”條款中確立的“通知-刪除”程序中侵權(quán)嫌疑人發(fā)出“反向通知”進(jìn)行申辯的權(quán)利也依然適用。〔26〕

其次，內(nèi)容過濾技術(shù)的采用不應(yīng)當(dāng)造成平臺(tái)過重的負(fù)擔(dān)，過分限制其商業(yè)自由和言論自由，因而責(zé)任的分擔(dān)是合理的制度安排。從對(duì)使用內(nèi)容過濾技術(shù)的法律授權(quán)模式來看，美國(guó)《千禧年數(shù)字版權(quán)法》第512條在確立“避風(fēng)港”原則的同時(shí)設(shè)置了網(wǎng)絡(luò)服務(wù)商獲得版權(quán)侵權(quán)責(zé)任豁免的兩大前置義務(wù)，為內(nèi)容過濾技術(shù)的使用創(chuàng)造了條件：第一，網(wǎng)絡(luò)服務(wù)商必須采取某種合理的政策以終止為反復(fù)侵權(quán)的用戶提供服務(wù)，并充分告知用戶這一政策;第二，網(wǎng)絡(luò)服務(wù)商的系統(tǒng)必須能夠兼容版權(quán)人使用的行業(yè)通行的版權(quán)保護(hù)技術(shù)措施?！?7 〕但是受到“避風(fēng)港”和表達(dá)自由的庇護(hù)，美國(guó)《千禧年數(shù)字版權(quán)法》實(shí)際上是將使用內(nèi)容過濾技術(shù)的主動(dòng)權(quán)賦予了版權(quán)人，而非直接施加一般內(nèi)容過濾責(zé)任于平臺(tái)，為版權(quán)保護(hù)責(zé)任的分擔(dān)提供了制度框架。在此制度激勵(lì)下運(yùn)作的內(nèi)容指紋技術(shù)系統(tǒng)均來自版權(quán)人與平臺(tái)主動(dòng)達(dá)成的行業(yè)協(xié)議，版權(quán)人需要通過主動(dòng)上傳版權(quán)作品至指紋數(shù)據(jù)庫來申明版權(quán)保護(hù)的意愿，從而啟動(dòng)內(nèi)容過濾系統(tǒng)，平臺(tái)仍處于相對(duì)被動(dòng)的地位，平臺(tái)責(zé)任實(shí)際并未超出“避風(fēng)港”條款下“通知-刪除”程序所規(guī)定的義務(wù)范圍。

內(nèi)容自動(dòng)過濾技術(shù)雖然會(huì)大大提高違法內(nèi)容識(shí)別和攔截的效率，降低平臺(tái)的責(zé)任履行成本，但由于技術(shù)措施自身的局限性，其使用范圍和條件不應(yīng)當(dāng)是沒有限制的。從保持互聯(lián)網(wǎng)的創(chuàng)新活力和平臺(tái)的商業(yè)自由、言論自由的角度來看，內(nèi)容過濾技術(shù)的使用并不能解決內(nèi)容規(guī)制責(zé)任所帶來的全部問題。內(nèi)容規(guī)制責(zé)任的分擔(dān)需要相關(guān)利益主體的主動(dòng)參與到內(nèi)容管理程序中來，形成多方參與的制度機(jī)制，彌補(bǔ)技術(shù)措施的不足。

四、利益相關(guān)主體參與內(nèi)容管理制度的形成

在許多情況下，出于對(duì)技術(shù)創(chuàng)新和信息流通效率的考慮，個(gè)人權(quán)益的實(shí)現(xiàn)往往需要權(quán)利主體主動(dòng)主張權(quán)利，參與到內(nèi)容管理的程序中，比如面對(duì)搜索引擎的信息全網(wǎng)抓取，數(shù)字版權(quán)規(guī)則默認(rèn)的是默示許可原則，即只有權(quán)利人明示不允許被抓取，才能夠排除搜索引擎對(duì)版權(quán)內(nèi)容的索引。同理，法律對(duì)用戶進(jìn)行程序性賦權(quán)以保障利益相關(guān)主體參與內(nèi)容管理程序的權(quán)利就成為形成多方參與內(nèi)容管理程序的必要條件。

在我國(guó)面對(duì)社交平臺(tái)較重的內(nèi)容規(guī)制責(zé)任，邀請(qǐng)平臺(tái)用戶參與內(nèi)容管理，分擔(dān)內(nèi)容管理的責(zé)任，降低運(yùn)營(yíng)成本，已經(jīng)成為一些平臺(tái)運(yùn)營(yíng)商的自主商業(yè)選擇，如百度貼吧建立的吧主管理制度，〔28 〕新浪微博建立的社區(qū)管理委員會(huì)制度。〔29 〕百度貼吧是百度于2003年上線的主題交流社交平臺(tái)，對(duì)同一個(gè)話題感興趣的用戶聚集起來創(chuàng)建不同的線上互動(dòng)社區(qū)，目前貼吧總數(shù)超過二千萬個(gè)，注冊(cè)用戶有15億?！?0 〕每個(gè)貼吧的日常信息管理工作由該貼吧的吧主團(tuán)隊(duì)負(fù)責(zé)，包括大吧主和小吧主。大吧主由該貼吧的活躍用戶申請(qǐng)，百度官方批準(zhǔn)，而小吧主則由大吧主從報(bào)名的吧友中擇優(yōu)聘用。發(fā)現(xiàn)和處理貼吧內(nèi)的不良信息是吧主團(tuán)隊(duì)的核心工作，不良信息包括法律禁止的政治敏感信息，淫穢色情信息、人身攻擊、版權(quán)侵權(quán)等違法信息，也包括與貼吧主題無關(guān)的信息，無授權(quán)的商業(yè)信息等。許多吧主團(tuán)隊(duì)還形成了一套規(guī)范的不良信息處理流程，保證用戶的知情權(quán)和抗辯權(quán)，比如制定公開的吧規(guī)作為違規(guī)信息處理的依據(jù);公開刪帖記錄;采取“勸刪”程序，即吧主不直接刪除違規(guī)信息，而是通過與發(fā)帖人的溝通，告知其內(nèi)容違規(guī)原因，令用戶限期自行刪除或者修改后重發(fā);申訴程序，即發(fā)帖人針對(duì)小吧主的信息處理措施有異議的，可以向大吧主申訴，對(duì)大吧主的異議則可以向貼吧官方管理員舉報(bào)。根據(jù)貼吧用戶的反饋，用戶對(duì)吧主內(nèi)容管理制度的接受程度要遠(yuǎn)遠(yuǎn)大于百度官方使用的關(guān)鍵詞過濾技術(shù)，很重要的原因在于吧主制度所表現(xiàn)出的程序正義?！?1 〕關(guān)鍵詞過濾存在敏感詞庫不公開，過度攔截用戶正常內(nèi)容，投訴反饋慢等問題，而相比之下，吧主信息處理程序則更加的公開透明，用戶的知情權(quán)和申訴權(quán)得到了一定的保障。當(dāng)然，吧主制度也存在很多需要完善的地方，諸如外部監(jiān)督機(jī)制的缺失等。但是，對(duì)于公開信息管理程序，激勵(lì)用戶參與內(nèi)容規(guī)制來說，尤其對(duì)于處理無法依靠機(jī)器和算法進(jìn)行自動(dòng)識(shí)別的不良信息來講，是一個(gè)值得參考的范例。

利益相關(guān)主體參與內(nèi)容管理不僅是出于分擔(dān)平臺(tái)責(zé)任的考慮，也是實(shí)施個(gè)人權(quán)利的需要?；ヂ?lián)網(wǎng)的社交基因本身就是參與基因。正如網(wǎng)絡(luò)環(huán)境中版權(quán)人的主動(dòng)作為實(shí)現(xiàn)版權(quán)人與平臺(tái)的合作是數(shù)字版權(quán)實(shí)施的最高效率的途徑，同樣的，主動(dòng)參與信息管理程序也是用戶實(shí)現(xiàn)對(duì)消費(fèi)者權(quán)益保護(hù)、表達(dá)自由和隱私權(quán)等法律實(shí)質(zhì)性賦權(quán)保護(hù)的有效程序。雖然我國(guó)的私主體內(nèi)容監(jiān)管責(zé)任設(shè)置旨在提高主管部門對(duì)網(wǎng)絡(luò)信息的管控能力，但從另一方面來講，我國(guó)的網(wǎng)絡(luò)空間治理的基本思路是不排斥責(zé)任分擔(dān)和用戶參與的，如版主負(fù)責(zé)制?！?2 〕“群主”責(zé)任制 〔33 〕以及吧主制度都可成為用戶參與內(nèi)容管理的程序性框架。法律所欠缺的是對(duì)私主體的內(nèi)容規(guī)制權(quán)力的限制，而確立用戶參與內(nèi)容管理的權(quán)利將會(huì)為權(quán)力的實(shí)施劃定程序性的邊界。內(nèi)容管理涉及到公民基本權(quán)利保護(hù)這一公共利益，程序的公開透明和可申辯性成為論證內(nèi)容管理制度正當(dāng)性的重要程序性因素。

結(jié)語

在我國(guó)的互聯(lián)網(wǎng)信息規(guī)制體系中，社交平臺(tái)被賦予了進(jìn)行內(nèi)容規(guī)制的行政責(zé)任，而作為互聯(lián)網(wǎng)創(chuàng)新的引擎，這一內(nèi)容規(guī)制責(zé)任的承擔(dān)不應(yīng)當(dāng)對(duì)社交平臺(tái)的商業(yè)運(yùn)營(yíng)造成過重的負(fù)擔(dān)。筆者從內(nèi)容管理技術(shù)措施和多方利益主體參與制度兩個(gè)方面提出了社交平臺(tái)內(nèi)化內(nèi)容規(guī)制成本的制度建議。無論是技術(shù)措施還是內(nèi)容管理制度都不應(yīng)當(dāng)將平臺(tái)作為唯一的責(zé)任承擔(dān)人，主動(dòng)審核海量用戶信息發(fā)現(xiàn)和屏蔽不良內(nèi)容會(huì)造成平臺(tái)責(zé)任過重，帶來執(zhí)行難的問題。參考?xì)W美“避風(fēng)港”原則之下禁止平臺(tái)成為內(nèi)容規(guī)制措施的主動(dòng)發(fā)起人，內(nèi)容管理責(zé)任應(yīng)當(dāng)以多方利益相關(guān)主體（如平臺(tái)方、版權(quán)人、用戶等）合作與分擔(dān)的方式實(shí)施。在版權(quán)實(shí)施領(lǐng)域，內(nèi)容監(jiān)管的責(zé)任不應(yīng)該由網(wǎng)絡(luò)服務(wù)商獨(dú)自承擔(dān)這一點(diǎn)逐漸被國(guó)內(nèi)學(xué)者所注意?！?4 〕在目前的技術(shù)條件下，技術(shù)措施由于存在明顯的局限性，利益相關(guān)主體參與內(nèi)容管理制度被視為更具正當(dāng)性的制度選擇。同時(shí)，法律應(yīng)當(dāng)加強(qiáng)對(duì)內(nèi)容管理程序的規(guī)范，以提高其正當(dāng)性，如確立利益相關(guān)人參與內(nèi)容管理程序的權(quán)利，信息處理程序的公開透明，進(jìn)行第三方監(jiān)督等。

Abstract： Social media platforms are the main actors of internet technology and business model innovation， and have the responsibility to regulate the user-generated content. A responsible? platform? should balance the value of business freedom and the legality of content. The internet content regulatory system improves regulation over the content through content filtering technology and information safety systems. Nevertheless， the platform content regulatory system still has problems： such as relying too much upon administrative or criminal penalties ex post. Both the content filtering technology and content governance system should be established upon multiple stakeholder participation mechanism， on the one hand to improve the openness and transparency of the regulatory procedure， on the other hand to share the cost of content regulatory responsibility with platforms， to promote innovation.

Key words： social media platform; internet innovation; platform responsibility; content censorship technology; stakeholder participation mechanism