国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

算法推送視角下短視頻平臺的版權(quán)侵權(quán)責(zé)任研究

2023-12-29 01:30:10胡神松熊健橋
關(guān)鍵詞:服務(wù)提供者義務(wù)內(nèi)容

胡神松,熊健橋

(武漢理工大學(xué) a.法學(xué)與人文社會學(xué)院;b.湖北知識產(chǎn)權(quán)研究中心,湖北 武漢 430070)

一、問題的提出

隨著智能技術(shù)的高速發(fā)展以及網(wǎng)絡(luò)用戶差異化、個性化信息需求的增長,以“私人定制”“千人千面”為形式表征的算法推送技術(shù)應(yīng)運而生。它通過收集和處理相關(guān)作品的內(nèi)容信息,分析用戶受眾的信息偏好,從而進行精準(zhǔn)化推送和實現(xiàn)有效消費。算法推送徹底顛覆了傳統(tǒng)的信息傳播方式,用戶不再需要自己手動搜尋信息,而是依靠個性化推送即可滿足自己的信息需求。然而,在信息分發(fā)效率提升的同時也催化了平臺上盜版侵權(quán)內(nèi)容的泛濫。眾多切條、混剪、解說、評論等涉嫌侵權(quán)的短視頻在算法推送技術(shù)的助力下插上“翅膀”,一經(jīng)發(fā)布便能在短時間內(nèi)獲得動輒億計的播放量和關(guān)注度,導(dǎo)致版權(quán)人的利益保護處于“無處附著”的狀態(tài)。在“云南蟲谷”案中,某平臺上對處在熱播期內(nèi)的《云南蟲谷》劇集的總話題播放量多達5.71億次(1)陜西省西安市中級人民法院(2021)陜01知民初3078號民事判決書。,而“延禧攻略”案中,侵權(quán)短視頻的單條最高播放量超過110萬次(2)北京市海淀區(qū)人民法院(2018)京0108民初49421號民事判決書。。

互聯(lián)網(wǎng)版權(quán)侵權(quán)糾紛一般包含三方法律主體:版權(quán)人、網(wǎng)絡(luò)用戶以及網(wǎng)絡(luò)服務(wù)提供者。侵權(quán)視頻多由用戶上傳,直接侵權(quán)另有他人,網(wǎng)絡(luò)平臺在沒有直接提供侵權(quán)內(nèi)容的情況下不承擔(dān)直接侵權(quán)責(zé)任,而應(yīng)當(dāng)以間接侵權(quán)規(guī)則對其進行責(zé)任判定。我國在間接侵權(quán)判定中采用過錯責(zé)任原則,主觀上具有過錯是網(wǎng)絡(luò)服務(wù)提供者承擔(dān)侵權(quán)責(zé)任的前提,在知曉侵權(quán)事實前或?qū)η謾?quán)事實僅僅具有概括性知悉的情況下一般不負有侵權(quán)責(zé)任。而過錯的具體形態(tài)分為兩種:一是明知,指的是平臺“實際知曉”用戶實施的侵權(quán)事實的存在;二是應(yīng)知,即在缺乏直接證據(jù)證明平臺“明知”的情形下,依據(jù)平臺所應(yīng)當(dāng)承擔(dān)的注意義務(wù)推知其“應(yīng)當(dāng)知曉”侵權(quán)事實存在。對于明知的認定,我國將權(quán)利人發(fā)送合格通知的效果等同于網(wǎng)絡(luò)服務(wù)提供者對侵權(quán)事實的“明知”,平臺在接到通知后未及時采取相關(guān)措施,就需要與用戶共同承擔(dān)連帶責(zé)任(3)《最高人民法院關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》第13條:網(wǎng)絡(luò)服務(wù)提供者接到權(quán)利人以書信、傳真、電子郵件等方式提交的通知,未及時采取刪除、屏蔽、斷開鏈接等必要措施的,人民法院應(yīng)當(dāng)認定其明知相關(guān)侵害信息網(wǎng)絡(luò)傳播權(quán)行為。。對于應(yīng)知的認定,我國在《最高人民法院關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》(以下簡稱《信息網(wǎng)絡(luò)傳播權(quán)司法解釋》)第九條至第十二條明確列舉了網(wǎng)絡(luò)服務(wù)提供者應(yīng)知用戶侵權(quán)行為的具體情形。在實務(wù)中,認定平臺方的明知較為困難,因此在網(wǎng)絡(luò)著作權(quán)侵權(quán)糾紛中,作為客觀化標(biāo)準(zhǔn)的注意義務(wù)便成為我國法院認定網(wǎng)絡(luò)商版權(quán)侵權(quán)責(zé)任的核心因素。

在算法推送技術(shù)所引發(fā)的版權(quán)糾紛中,短視頻平臺多會以算法具有中立性為由,主張已經(jīng)履行了“通知-移除(必要措施)”程序,盡到合理注意義務(wù),不應(yīng)當(dāng)承擔(dān)版權(quán)侵權(quán)責(zé)任。誠然,算法技術(shù)一直處在動態(tài)的變化與發(fā)展過程中,對其適法性使用還有待深入研究。值得進一步思考的是,算法推送服務(wù)提供者是否還具有“技術(shù)中立”的主體地位?“避風(fēng)港規(guī)則”是否仍能適用于算法時代的網(wǎng)絡(luò)領(lǐng)域著作權(quán)侵權(quán)問題?以及脫胎于司法實踐的“更高注意義務(wù)”的適用范圍是否存在明確的界定標(biāo)準(zhǔn)?對上述問題的回答,實質(zhì)是如何看待新興算法技術(shù)的運用與網(wǎng)絡(luò)服務(wù)提供者的主觀責(zé)任之間的關(guān)系。應(yīng)當(dāng)說,版權(quán)法鼓勵創(chuàng)新,但并不意味著其需要對技術(shù)的發(fā)展亦步亦趨?!八惴ǚ涸凇钡拇蟊尘跋?版權(quán)人與網(wǎng)絡(luò)平臺之間的“價值鴻溝”逐漸凸顯,嚴格知識產(chǎn)權(quán)保護的頂層規(guī)劃與當(dāng)前短視頻平臺盜版橫行、侵權(quán)肆虐的現(xiàn)實狀況并不兼容,因此版權(quán)侵權(quán)規(guī)則需要在促進作品傳播與保護版權(quán)利益之間尋求平衡之道。

二、算法推送及其法律屬性分析

1.原理——算法推送運作機制概覽

算法推送是利用機器深度學(xué)習(xí),分析用戶歷史行為記錄數(shù)據(jù),提取用戶興趣偏好,從而向用戶實現(xiàn)精準(zhǔn)信息推送的技術(shù)[1]。主流的算法推送方式有三種:一是基于內(nèi)容的推送;二是基于協(xié)同過濾的推送;三是結(jié)合前述兩種方式的混合推送?;趦?nèi)容的推送,即通過提取待推送內(nèi)容的標(biāo)題、類別、標(biāo)簽、用戶評論等信息,根據(jù)用戶瀏覽歷史的分析向其推薦相似的內(nèi)容。而基于協(xié)同過濾的推送,其運作機制大體上可以被理解為四個維度:一是“用戶屬性”識別,即算法會對用戶的性別、職業(yè)等身份信息,視頻內(nèi)容瀏覽、評論、搜索歷史、頁面停留時間等行為信息以及用戶所處位置的網(wǎng)絡(luò)狀況等環(huán)境信息進行挖掘,分析用戶的信息偏好和需求數(shù)據(jù);二是“內(nèi)容屬性”識別,算法會根據(jù)指令對短視頻進行數(shù)字化識別,并對視頻進行相應(yīng)的內(nèi)容歸類與標(biāo)簽提取;三是基于具有相似興趣喜好的用戶之間的行為協(xié)同,為用戶進行“個性化”內(nèi)容推送;四是根據(jù)用戶關(guān)于推送信息的數(shù)據(jù)反饋,不斷完善“用戶畫像”,優(yōu)化推送算法,從而實現(xiàn)推送閉環(huán)[2]。

2.爭議——算法推送“技術(shù)中立”論戰(zhàn)

“技術(shù)中立”是指如果某項技術(shù)或者產(chǎn)品具有“實質(zhì)性非侵權(quán)用途”,那么即使該項技術(shù)或者產(chǎn)品被用于侵權(quán),也不能據(jù)此推定技術(shù)或者產(chǎn)品提供者“應(yīng)知”他人的侵權(quán)行為,更不能要求其為侵權(quán)者承擔(dān)幫助侵權(quán)責(zé)任[3]。但是在算法推送技術(shù)深度嵌入網(wǎng)絡(luò)服務(wù)平臺商業(yè)運營模式的現(xiàn)實情景下,算法推送的中立性飽受爭議。

技術(shù)工具論者認為,信息分發(fā)技術(shù)與其他互聯(lián)網(wǎng)技術(shù)產(chǎn)品并無二致,算法沒有價值觀[4]。算法和人工對海量用戶實時變化的內(nèi)容偏好進行個性化推送的處理成本嚴重不對稱,人工在很大程度上并不會干預(yù)算法自動做出的信息決策[5]。算法推送所依據(jù)的指標(biāo)是客觀可量化的,算法進行低俗、侵權(quán)等內(nèi)容推送時體現(xiàn)的所謂“不良價值觀”,也只是用戶的內(nèi)容偏好與價值取向,內(nèi)容由用戶選擇,“原罪”在用戶,與平臺無涉[6]。技術(shù)價值論者主張通過分析技術(shù)內(nèi)含的社會文化價值取向來論證算法是否具有中立性。其認為在算法推送機制運行過程中,機器進行用戶數(shù)據(jù)收集、內(nèi)容偏好識別和精準(zhǔn)推送行為的底層邏輯體現(xiàn)了算法撰寫者的價值取向與利益計算,技術(shù)中立的表象之下掩藏著平臺追逐用戶黏性和商業(yè)利益的實質(zhì)[7]。

3.剖析——算法推送“價值中立”證偽

馬克斯·韋伯認為技術(shù)既包含工具理性,也包含價值理性。也即對技術(shù)本身的工具屬性判斷不應(yīng)與對技術(shù)使用行為的價值屬性判斷相混淆。信息流推送技術(shù)本身無關(guān)善與惡,它的出現(xiàn)只是信息技術(shù)蓬勃發(fā)展背景之下媒體與傳播領(lǐng)域的一次變革?!把屿ヂ浴卑钢?法院也認為算法推送技術(shù)的作用是向用戶進行精準(zhǔn)、高效的推送,其僅僅是平臺為用戶提供網(wǎng)絡(luò)服務(wù)的輔助工具(4)北京市海淀區(qū)人民法院(2018)京0108民初49421號民事判決書。。人是技術(shù)的使用主體,對技術(shù)的使用不免貼上人的價值取向標(biāo)簽,在平臺對算法推送技術(shù)的商業(yè)化、市場化運用過程中,具有明顯的商業(yè)意圖和鮮明的利益偏向,是精準(zhǔn)的利益計算和價值取舍的結(jié)果,難言存在真正意義上的中立性。

一方面,從算法運作角度看,首先,算法的設(shè)計者與使用者通常為同一主體,設(shè)計者受社會多元價值選擇、商業(yè)資本邏輯的影響,難以完全客觀、中立地呈現(xiàn)信息,造成算法推送內(nèi)容的客觀性被弱化[8];其次,目前的人工智能發(fā)展水平尚不足以使智能算法完全擺脫人的控制而具有類人自主性,算法推送在對用戶和內(nèi)容作品進行標(biāo)簽化和類型化的干預(yù)時仍然存在著平臺主動的選擇與編輯,平臺在積極扮演信息傳播者角色時完全意識不到對特定侵權(quán)內(nèi)容的推送其實有違常理常識;最后,算法推送機制通過接受用戶反饋對“用戶畫像”的完善必然涉及對算法模型本身的修正與糾偏,這其中很明顯地暗含了設(shè)計者追求用戶黏性和迎合用戶需求的主觀選擇與意志因素。

另一方面,從用戶體驗角度看,用戶可能僅僅因為在其他平臺觀看了某部付費電影或者爆款劇集,而在短視頻平臺上就立刻被推送相關(guān)影視的精彩片段或者內(nèi)容速看,用戶選擇觀看了這些侵權(quán)短視頻后,平臺甚至有可能會基于用戶對此類視頻的點贊、評論、頁面停留時間等行為數(shù)據(jù)加大推送力度,最極端的情況就是形成“信息繭房”效應(yīng),用戶接收的推送內(nèi)容會雜糅一系列的侵權(quán)視頻。由此可見,信息分發(fā)模式變傳統(tǒng)的“人找信息”為“信息找人”,用戶實質(zhì)上很難選擇信息,對信息的獲取呈現(xiàn)被動性。用戶接收的信息類型取決于算法內(nèi)含的內(nèi)容價值判斷標(biāo)準(zhǔn)。

技術(shù)的發(fā)展必然會給整個社會產(chǎn)生積極或消極的影響,甚至是推動法律規(guī)則的變化。在“用戶創(chuàng)造內(nèi)容”模式下,網(wǎng)絡(luò)服務(wù)提供者利用算法推送技術(shù)積極開辟內(nèi)容傳播市場的行為,雖然促進了優(yōu)質(zhì)內(nèi)容作品的高效傳播,但客觀上也造成了極大的版權(quán)侵權(quán)風(fēng)險,加劇了版權(quán)人與網(wǎng)絡(luò)服務(wù)提供者之間利益關(guān)系的失衡。擁有技術(shù)優(yōu)勢的算法平臺在提供信息傳播服務(wù)過程中扮演了較為積極主動的角色,這一變化打破了版權(quán)法上以技術(shù)中立為理論依據(jù)的“避風(fēng)港規(guī)則”的制度預(yù)設(shè),傳統(tǒng)的“避風(fēng)港規(guī)則”已難以適應(yīng)算法時代的技術(shù)和產(chǎn)業(yè)實踐。

三、算法推送語境下“避風(fēng)港規(guī)則”的適用困境

“避風(fēng)港規(guī)則”源自美國的《千禧年數(shù)字版權(quán)法》,又被稱為“通知-移除(必要措施)”規(guī)則,它出現(xiàn)在以人工通知與人工審核為制度預(yù)設(shè)的時代。該規(guī)則界定了網(wǎng)絡(luò)服務(wù)商和版權(quán)人各自的責(zé)任范圍,相較于網(wǎng)絡(luò)服務(wù)提供者,版權(quán)人在查找和識別版權(quán)侵權(quán)方面具有更強的敏感性,故版權(quán)人負責(zé)監(jiān)測侵權(quán)內(nèi)容并發(fā)送通知,被動提供信息儲存、定位技術(shù)服務(wù)的網(wǎng)絡(luò)商在不知曉侵權(quán)事實的前提下,接到通知之后迅速移除侵權(quán)內(nèi)容,即可免除賠償責(zé)任。“通知-移除(必要措施)”規(guī)則既幫助權(quán)利人在不動用行政或司法的力量的前提下快速進行權(quán)利救濟,也為網(wǎng)絡(luò)服務(wù)提供者設(shè)置了有限的、可預(yù)期的責(zé)任,很好地協(xié)調(diào)了兩者的利益訴求[9]。而在人工智能時代,作為技術(shù)受益者的算法推送平臺已經(jīng)從一個被動的信息服務(wù)提供者轉(zhuǎn)變成為一個比較積極的內(nèi)容信息傳播者,與作為技術(shù)受損者的版權(quán)人之間的力量強弱對比發(fā)生顯著變化,在此情形下,“避風(fēng)港規(guī)則”的歷史局限性逐漸凸顯。

1.版權(quán)人的通知救濟難度提升

如上文所述,權(quán)利人只有發(fā)送了合格的通知之后(5)合格的通知應(yīng)包含:權(quán)利人的姓名(名稱)、聯(lián)系方式和地址;要求刪除或者斷開鏈接的侵權(quán)作品、表演、錄音錄像制品的名稱和網(wǎng)絡(luò)地址;構(gòu)成侵權(quán)的初步證明材料。,網(wǎng)絡(luò)服務(wù)提供者才對一般侵權(quán)事實的概括性知悉轉(zhuǎn)變?yōu)閷μ囟ㄇ謾?quán)事實的具體性知悉。而算法推送技術(shù)的商業(yè)應(yīng)用弱化了版權(quán)人對作品傳播的支配力,加大了其利用通知救濟程序快速維護自身權(quán)利的難度。

一方面,平臺用戶侵權(quán)呈現(xiàn)“散點化”。在“用戶創(chuàng)造內(nèi)容”模式下,大眾既是內(nèi)容的消費者,也是內(nèi)容的生產(chǎn)者。普通用戶在制作和上傳視頻的過程中,由于版權(quán)意識淡薄,很容易將借鑒與抄襲混同,直接使用他人受到版權(quán)保護的作品進行創(chuàng)作,例如有用戶對優(yōu)質(zhì)影視片段進行切片、搬運并附上自己的解說發(fā)布至平臺,或者將受版權(quán)保護的音樂作品未經(jīng)許可直接用作自制視頻的背景音樂等。各式各樣涉嫌侵權(quán)的短視頻借助算法推送的傳播,在平臺上像野草一般屢禁不止,難以遏制,版權(quán)人通常很難一一進行查找并維權(quán),即使版權(quán)人采用算法發(fā)送侵權(quán)通知,也存在著定位不精確、查找不全面、成本耗費高等問題。

另一方面,算法推送機制改變了信息的傳播方式和獲取方式。侵權(quán)短視頻往往以“即時流動”的樣態(tài)進行傳播,內(nèi)容擴散路徑具有極高的隱蔽性。權(quán)利人幾乎不可能及時知曉侵權(quán)視頻在何時由何人上傳至平臺,也很難對往往在頁面被刷新以后便轉(zhuǎn)瞬即逝的侵權(quán)視頻及時采取證據(jù)保全措施,獲得“侵權(quán)的初步證明材料”。即便權(quán)利人發(fā)現(xiàn)了侵權(quán)并且成功向平臺發(fā)送侵權(quán)通知,對于具有時間敏感性的作品而言,等到平臺完成審查并采取相應(yīng)的措施時,損失早就無可挽回[10]。

2.平臺方的“必要措施”治理滯后

平臺方在接到用戶的通知之后需要對通知所涉及的侵權(quán)內(nèi)容采取刪除、屏蔽、斷鏈等“必要措施”,若平臺在接到通知后未及時采取相關(guān)措施,就需要與用戶共同承擔(dān)連帶責(zé)任。在“避風(fēng)港規(guī)則”中,不管是平臺接到權(quán)利人的通知后對侵權(quán)內(nèi)容進行處置并把侵權(quán)通知轉(zhuǎn)送給網(wǎng)絡(luò)用戶,還是平臺在接收到用戶發(fā)出的反通知后,立即恢復(fù)被處置的內(nèi)容并將反通知轉(zhuǎn)送給權(quán)利人,主動發(fā)現(xiàn)侵權(quán)事實的義務(wù)并不由網(wǎng)絡(luò)平臺承擔(dān),平臺在這其中僅需根據(jù)權(quán)利人或是用戶的“指令”被動地履行相應(yīng)的程序。

一方面,采取“必要措施”的時間節(jié)點具有滯后性。在web1.0時代,要求被動提供純粹儲存、定位服務(wù)的網(wǎng)絡(luò)平臺積極監(jiān)測侵權(quán)內(nèi)容并不具有技術(shù)可行性,“法不強人所難”,由此才產(chǎn)生了“通知-移除(必要措施)”規(guī)則。但是,隨著技術(shù)與商業(yè)模式的創(chuàng)新,現(xiàn)在市場上的網(wǎng)絡(luò)服務(wù)提供者已經(jīng)不能再與當(dāng)年立法者所預(yù)設(shè)的,把網(wǎng)絡(luò)服務(wù)提供者作為“知識產(chǎn)權(quán)保護的被動響應(yīng)者”的情形相提并論。基于目前內(nèi)容儲存服務(wù)平臺的運營理念,平臺往往偏向于選擇壓縮版權(quán)費用開支而轉(zhuǎn)向?qū)τ脩羯蟼鲀?nèi)容的吸納,積極挖掘其中具有一定熱度的內(nèi)容資源,并利用技術(shù)手段不斷提升內(nèi)容推送與用戶需求之間的匹配度,以促進內(nèi)容更大范圍的傳播。試想,若是平臺利用算法推送用戶上傳的侵權(quán)視頻,既能夠規(guī)避版權(quán)許可費用,又可以收割大量商業(yè)利益,而且其只需履行通知后的“必要措施”,或是處置已經(jīng)像一面鮮亮的“紅旗”在其面前飄揚的侵權(quán)事實(6)又稱紅旗原則,它源于美國眾議院司法委員會的立法報告中對《千禧年數(shù)字版權(quán)法》(簡稱DMCA)關(guān)于提供儲存空間和信息定位的網(wǎng)絡(luò)服務(wù)提供者適用“避風(fēng)港”免責(zé)條款的例外解釋,目的是為了避免網(wǎng)絡(luò)服務(wù)提供者濫用避風(fēng)港原則規(guī)避責(zé)任。對于網(wǎng)絡(luò)服務(wù)提供者來說,當(dāng)用戶侵權(quán)的事實已經(jīng)像一面鮮亮的“紅旗”在其面前飄揚時,如果網(wǎng)絡(luò)服務(wù)提供者未采取阻止侵權(quán)的措施,則至少可以認定其“應(yīng)知”侵權(quán)事實的存在。,便可免于承擔(dān)賠償責(zé)任,那么,即使平臺在算法推送過程中接觸到或是知曉相關(guān)侵權(quán)內(nèi)容的存在,也仍然可能為了攫取流量利益而偏向于采取“不通知,不負責(zé)”“等通知,再負責(zé)”的“鴕鳥心態(tài)”幫助侵權(quán)視頻傳播。由此可知,“必要措施”的事后性和被動性似有成為相關(guān)網(wǎng)絡(luò)服務(wù)提供者賺取侵權(quán)利益的“擋箭牌”之嫌。

另一方面,采取“必要措施”的治理對象具有模糊性。《民法典》在確立“通知-移除”規(guī)則時,將“移除”改為“必要措施”,是為了增加網(wǎng)絡(luò)服務(wù)提供者承擔(dān)的義務(wù)。但是該規(guī)則并沒有指明,“必要措施”所指向的除了經(jīng)版權(quán)人明確通知的某個作品的侵權(quán)事實外,是否還包括針對該作品的其他類似被侵權(quán)行為或是同一用戶的重復(fù)侵權(quán)行為。用戶侵權(quán)的散點化與算法推送傳播的高效率讓侵權(quán)內(nèi)容的擴散具有極大的不確定性。很大的概率是,當(dāng)平臺對經(jīng)版權(quán)人通知的特定侵權(quán)事實采取措施時,相同或者其他用戶上傳的同類或是類似侵權(quán)視頻又經(jīng)由算法被推送到眾多的用戶信息接收端口。如果平臺并無對此類重復(fù)侵權(quán)或者類似侵權(quán)行為則不能納入“必要措施”的治理范疇,那么“必要措施”必然難以發(fā)揮立法者預(yù)設(shè)的治理效果。

在實踐中,為彌補“避風(fēng)港規(guī)則”在治理網(wǎng)絡(luò)領(lǐng)域的著作權(quán)侵權(quán)問題時的滯后性,已經(jīng)出現(xiàn)對平臺的版權(quán)責(zé)任設(shè)定由被動的“通知-移除(必要措施)”義務(wù)向更加主動的平臺主體責(zé)任過渡的趨勢。例如,在立法層面,《北京市知識產(chǎn)權(quán)保護條例》突破了“避風(fēng)港規(guī)則”的被動責(zé)任設(shè)計,要求網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)采取“與其技術(shù)能力、經(jīng)營規(guī)模以及服務(wù)類型相適應(yīng)的預(yù)防侵權(quán)措施”;而司法層面,有法院則基于算法推送服務(wù)提供者的信息管理能力,認為其理應(yīng)承擔(dān)“更高注意義務(wù)”(7)北京市海淀區(qū)人民法院(2018)京0108民初49421號民事判決書。。

四、算法推送平臺“更高注意義務(wù)”的證成、釋明與建構(gòu)

民法上的注意義務(wù)指的是行為人為自己的行為對他人所應(yīng)負有的一種謹慎義務(wù),其核心包括對行為致害后果的預(yù)見義務(wù)和避免義務(wù)(8)葉勝男.算法推送下平臺注意義務(wù)的爭議.https://mp.weixin.qq.com/s/XVjHsPyJqtEgn8ovDDElfg,2023年3月22日訪問。。對行為人注意義務(wù)的判定與其所應(yīng)承擔(dān)的責(zé)任掛鉤,注意義務(wù)越高,承擔(dān)的民事責(zé)任就越重。為應(yīng)對新興技術(shù)對我國網(wǎng)絡(luò)侵權(quán)過錯認定規(guī)則造成的沖擊,“更高注意義務(wù)”已經(jīng)在實踐中得到了適用。但是“更高注意義務(wù)”的表述具有相當(dāng)?shù)哪:?與之對應(yīng)的標(biāo)準(zhǔn)也沒有明確的具體內(nèi)容,導(dǎo)致“更高注意義務(wù)”在具體適用中合規(guī)性存疑,標(biāo)準(zhǔn)不明晰。從法理與事實角度分析,算法推送平臺承擔(dān)“更高注意義務(wù)”具有正當(dāng)性,但對“更高注意義務(wù)”的適用應(yīng)當(dāng)被限定在一般注意義務(wù)與人工推薦模式下的注意義務(wù)的范圍之間,并根據(jù)注意義務(wù)的影響因子具體判定。具體內(nèi)容上,建議引入事前的版權(quán)過濾義務(wù),并與事后的通知救濟義務(wù)結(jié)合起來,促使平臺主動采取措施進行內(nèi)容版權(quán)合規(guī)管理,承擔(dān)與其技術(shù)能力相匹配的侵權(quán)防免責(zé)任。

1.理論證成——“更高注意義務(wù)”具有法理與事實的基礎(chǔ)

一是危險控制理論,指的是行為人對自己的行為所可能產(chǎn)生的致害風(fēng)險應(yīng)當(dāng)有所預(yù)見和管控。一般而言,侵權(quán)人的危險控制力往往大于受害人對危險的控制力[11]。具體到網(wǎng)絡(luò)空間,則表現(xiàn)為作為潛在侵權(quán)者的算法推送平臺基于其自身的信息管控能力,在控制侵權(quán)作品出現(xiàn)、傳播方面,相較于版權(quán)人具有技術(shù)和成本上的優(yōu)勢地位。從技術(shù)上,平臺運用算法推送技術(shù)幾乎實現(xiàn)了對用戶言論表達的所有環(huán)節(jié)的干預(yù),用戶言論表達的自由度、傳播范圍等都由平臺進行事前的把控;從成本上,版權(quán)人若想進行維權(quán),就必須面對地理上高度分散且具有匿名性的網(wǎng)絡(luò)用戶,這將會耗費大量的成本和精力。而平臺在用戶入網(wǎng)時就已經(jīng)與用戶達成了一攬子協(xié)議,平臺事實上能夠掌握具體侵權(quán)者的有關(guān)信息,在處置侵權(quán)方面的成本相對較低。因此,平臺的信息管理能力越強,對危險的創(chuàng)設(shè)或是控制能力就越強,其所應(yīng)承擔(dān)的侵權(quán)注意義務(wù)就應(yīng)當(dāng)更高。

二是成本預(yù)防理論,指的是預(yù)防侵權(quán)的成本應(yīng)當(dāng)由只需付出最小成本即可預(yù)防侵權(quán)發(fā)生的一方所負擔(dān)。算法推送平臺承擔(dān)更高的注意義務(wù)具有可操作性。首先,從侵權(quán)預(yù)防成本上,算法推送與算法過濾是一對“孿生兄弟”,兩種技術(shù)的底層運行邏輯具有相似性,既然算法推送平臺已經(jīng)具備了相當(dāng)先進的算法推送模型,那么算法平臺也當(dāng)然可以利用此技術(shù)對侵權(quán)進行監(jiān)測和篩查,這并不需要再耗費過多的成本;其次,從侵權(quán)發(fā)生的可能性上,算法推送技術(shù)在提升分發(fā)精度與傳播效率的同時,客觀上也存在著加劇侵權(quán)傳播與擴大侵權(quán)損害后果的可能,侵權(quán)發(fā)生的可能性與損害后果的嚴重性均高于一般不提供算法推送的內(nèi)容儲存平臺;最后,從侵權(quán)造成的損失上,短視頻傳播本就有周期短、渠道多、速度快等特性,侵權(quán)視頻上線后,經(jīng)由算法的加持,在短時間內(nèi)就能獲得極高的播放量與關(guān)注度,一旦侵權(quán)內(nèi)容被向外推送,版權(quán)人幾乎很難再挽回相應(yīng)的損失。綜上,基于算法推送平臺在預(yù)防侵權(quán)方面所需承擔(dān)的“最小成本”,為其設(shè)定更高的注意義務(wù)具有合理性。

三是風(fēng)險收益理論,指的是在存有危險的領(lǐng)域,如果某些主體在其中獲得了較大的利益,就應(yīng)當(dāng)承擔(dān)更高的風(fēng)險,又即責(zé)任主體的風(fēng)險與收益應(yīng)當(dāng)具有一致性,這是傳統(tǒng)侵權(quán)法中“報償理論”的體現(xiàn)。流量經(jīng)濟時代,內(nèi)容創(chuàng)作者與信息傳播者的利益回報之間出現(xiàn)了“價值差”,一方面是內(nèi)容生產(chǎn)領(lǐng)域的激烈競爭所導(dǎo)致的獲利難度增大,另一方面則是短視頻平臺利用算法進行精準(zhǔn)化、個性化的推送收割了大量流量利益,這體現(xiàn)在短視頻的繁榮業(yè)態(tài)上。對比版權(quán)人的低利潤回報以及可能承受的版權(quán)損害后果,算法推送平臺所賺取的高技術(shù)紅利與其所承擔(dān)的版權(quán)責(zé)任并不匹配,故為算法推送平臺設(shè)定更高的注意義務(wù)符合風(fēng)險與收益相一致的樸素理念,此之謂“能力越強,涉入越深,利益越大,則責(zé)任越重”[14]。

2.邊界釋明——“更高注意義務(wù)”強調(diào)上限與下限的界分

算法推送平臺承擔(dān)的注意義務(wù)需要有明確的范圍限度,如果注意義務(wù)設(shè)定得過低,那么不利于版權(quán)人的權(quán)益保護,會消減內(nèi)容生產(chǎn)者的創(chuàng)作積極性;反之,對網(wǎng)絡(luò)平臺過錯責(zé)任的適用可能會導(dǎo)致其最終滑入無過錯責(zé)任的深淵,阻滯整個互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展和創(chuàng)新?!案咦⒁饬x務(wù)”的參照對象是不提供算法推送服務(wù)的網(wǎng)絡(luò)平臺,此類網(wǎng)絡(luò)主體往往只是根據(jù)用戶的指令提供搜索、鏈接或是基礎(chǔ)性技術(shù)服務(wù),只需承擔(dān)一般性的侵權(quán)注意義務(wù)。而算法推送平臺利用更加先進的技術(shù)手段促進內(nèi)容傳播的商業(yè)模式突破了被動、中立的服務(wù)提供地位。因此,算法推送平臺應(yīng)當(dāng)承擔(dān)高于未提供算法推送服務(wù)的網(wǎng)絡(luò)平臺的注意義務(wù),這是注意義務(wù)的下邊界。至于如何合理界定“更高注意義務(wù)”的上邊界,則需要捋清以下兩個問題:一是算法推送平臺的服務(wù)類型;二是算法推送與人工推薦之間的關(guān)系。

(1)明晰算法推送平臺的服務(wù)類型 算法推送平臺的服務(wù)類型究竟是網(wǎng)絡(luò)服務(wù)提供者,還是內(nèi)容服務(wù)提供者?有觀點認為,一旦算法平臺主動介入用戶提供的信息內(nèi)容,進行主動的“選擇、編輯、推薦”等行為,就涉入了“內(nèi)容服務(wù)提供”領(lǐng)域[13];也有類似的觀點認為“算法推送”本質(zhì)上就是對內(nèi)容的直接處理行為(9)盧海君.如何解析算法推送引發(fā)的侵權(quán)責(zé)任問題.https://mp.weixin.qq.com/s/y6Mb-BtcI2yUw1JO0bbo1Q.。上述觀點均將算法推送平臺直接等同于“內(nèi)容服務(wù)提供者”,這就意味著只要在算法推送過程中出現(xiàn)了侵權(quán)視頻,算法推送平臺就會被視為“直接侵權(quán)者”,從而承擔(dān)無過錯責(zé)任。此類觀點實質(zhì)上是在倒逼算法推送平臺必須在內(nèi)容被推送之前采取普遍性審查措施來監(jiān)測和預(yù)防侵權(quán)行為,即“推送內(nèi)容之前必先識別內(nèi)容”。實際上,算法推送平臺整體上仍應(yīng)當(dāng)被認定為網(wǎng)絡(luò)技術(shù)服務(wù)提供者而并非內(nèi)容服務(wù)提供者,理由在于:算法推送技術(shù)雖然廣泛存在,但是不能獨立存在,其作用的發(fā)揮仍然依附于平臺內(nèi)部儲存的海量內(nèi)容和資源,而這些內(nèi)容和資源均由用戶上傳,算法只是將這些“用戶創(chuàng)造內(nèi)容”進行歸類、整理并精準(zhǔn)推送給有需要的人,本質(zhì)上并沒有生成內(nèi)容,而屬于一種后續(xù)傳播行為。盡管平臺會利用算法對這些內(nèi)容進行事前的數(shù)字化識別與標(biāo)簽化干預(yù),但仍然沒有達到直接向平臺用戶提供內(nèi)容的程度。如前所述,直接侵權(quán)另有其人,平臺在沒有提供侵權(quán)內(nèi)容的前提下并不承擔(dān)直接侵權(quán)責(zé)任,也就是說,算法推送平臺不應(yīng)承擔(dān)事前的普遍審查義務(wù)。要求算法平臺事前進行全面性的審查不僅不具有技術(shù)上的可行性,而且也會讓網(wǎng)絡(luò)平臺承擔(dān)過重的運營負擔(dān),整體上不利于互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展。因此普遍審查義務(wù)應(yīng)當(dāng)是注意義務(wù)不可逾越的上限,對普遍性審查義務(wù)的排除也是互聯(lián)網(wǎng)產(chǎn)業(yè)得以蓬勃發(fā)展的基本保障。

(2)厘清算法推送與人工推薦的關(guān)系 明確算法推送與《信息網(wǎng)絡(luò)傳播權(quán)司法解釋》第九條所規(guī)定的,作為應(yīng)知認定因素的“人工推薦”的關(guān)系也對界定算法推送平臺注意義務(wù)的邊界極其重要。有觀點認為,算法推送與司法解釋中的人工推薦只是手段上的區(qū)分,兩者在最終的適用效果上并無差別,故算法推送應(yīng)當(dāng)被納入司法解釋之“推薦”的規(guī)制范圍內(nèi)(10)同上。。人工推薦是指網(wǎng)絡(luò)服務(wù)提供者對特定的信息內(nèi)容通過人為設(shè)置單獨的推薦位置或是置頂推薦等方式向用戶進行差異化介紹,將推薦作品與其他作品區(qū)分開來,以便于用戶能夠更加迅速地關(guān)注和獲取被推薦的內(nèi)容。這一過程必然會涉及網(wǎng)絡(luò)服務(wù)提供者對信息內(nèi)容的判斷與篩選,因此對于人工推薦的作品,網(wǎng)絡(luò)服務(wù)提供者往往負有較高的注意義務(wù),若被推薦的內(nèi)容侵犯了版權(quán)人的專有權(quán),則能夠推定平臺方對推薦侵權(quán)內(nèi)容具有主觀上的過失。算法推送的核心環(huán)節(jié)在于形成個性化的匹配與推送,從適用效果上解釋,算法推送的確落入了司法解釋所規(guī)定的“推薦”行為范疇而被視為構(gòu)成對侵權(quán)內(nèi)容的“應(yīng)知”,但以此將算法推送與人工推薦的法律屬性等同,便會要求算法推送平臺對所有推送的侵權(quán)內(nèi)容承擔(dān)過錯責(zé)任,這便有簡化歸責(zé)邏輯,不合理分配注意義務(wù)之嫌[14]。一方面,算法推送興起的背景是人工無法從海量的“用戶創(chuàng)造內(nèi)容”中根據(jù)平臺消費者實時變化的興趣偏好揀選出合適的內(nèi)容進行推送。在算法取代人工為用戶提供信息服務(wù)時,雖然仍然存在著人為的干預(yù),但是人工對作品的干預(yù)程度必然會有所減弱。另一方面,算法識別與主體認知也存在著差異。在人工推薦模式下,被推送的作品內(nèi)容難言不被推薦者充分知悉,而算法對作品的數(shù)字化識別能否充分、準(zhǔn)確地提取反映視頻內(nèi)容的關(guān)鍵詞仍然是未知數(shù),尤其在各算法平臺的技術(shù)配置、運營規(guī)模、信息管理能力等不盡一致的情況下。因此算法推送平臺的“更高注意義務(wù)”應(yīng)當(dāng)以人工推薦模式下的注意義務(wù)水平為上邊界。

綜上,算法推送平臺“更高注意義務(wù)”的區(qū)間可以被抽象成如下公式:一般性網(wǎng)絡(luò)服務(wù)的注意義務(wù)<算法推送模式下的注意義務(wù)<人工推薦模式下的注意義務(wù)<普遍性審查義務(wù)。算法推送作為分發(fā)信息的工具,在平臺沒有主動選擇推送侵權(quán)內(nèi)容的前提下,本身并不必然導(dǎo)致平臺方主觀上的應(yīng)知,不能因為算法推送了侵權(quán)視頻就認為算法旨在追求或放任侵權(quán)內(nèi)容的傳播。在上述區(qū)間范圍內(nèi)認定算法推送平臺的注意義務(wù)時,應(yīng)當(dāng)根據(jù)算法推送的具體使用場景,結(jié)合影響平臺承擔(dān)注意義務(wù)的各種因素,綜合判斷平臺對算法推送侵權(quán)內(nèi)容是否具有主觀上的過錯。

3.內(nèi)容建構(gòu)——“更高注意義務(wù)”注重事前與事后的結(jié)合

數(shù)字革命引發(fā)了網(wǎng)絡(luò)服務(wù)提供者的版權(quán)責(zé)任在全球范圍內(nèi)由“消極責(zé)任”向“積極責(zé)任”的轉(zhuǎn)變。對于具有較強信息管控能力以及風(fēng)險創(chuàng)設(shè)能力的算法推送平臺,其承擔(dān)“更高注意義務(wù)”的具體措施內(nèi)容,一方面是要關(guān)注事前的侵權(quán)風(fēng)險預(yù)防,即通過適當(dāng)?shù)陌鏅?quán)過濾,阻斷用戶侵權(quán)內(nèi)容的上傳與傳播;另一方面是要注重事后的侵權(quán)損害補救,平臺所采取的事后救濟措施需要達到形式與效果上的必要性。

(1)算法推送平臺應(yīng)承擔(dān)“善良管理人”的事前版權(quán)過濾義務(wù) 雖然我國法律法規(guī)以及司法解釋并未明確要求網(wǎng)絡(luò)服務(wù)提供者承擔(dān)版權(quán)過濾義務(wù),在實踐中各地區(qū)法院也未能對版權(quán)過濾義務(wù)的認定與履行達成共識,但是脫胎于我國司法實踐的“更高注意義務(wù)”,并不排除事前的版權(quán)過濾義務(wù)。一方面,注意義務(wù)與審查義務(wù)并不對立,審查義務(wù)應(yīng)當(dāng)是注意義務(wù)體系中的一個層級,是更加主動的注意義務(wù),這在我國司法解釋中也有所體現(xiàn)(11)參見《最高人民法院關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》第八條第三款。;另一方面,目前互聯(lián)網(wǎng)企業(yè)使用算法過濾版權(quán)的商業(yè)實踐已較為常見,很多頭部企業(yè)自主研發(fā)或者采用第三方版權(quán)機構(gòu)的算法過濾系統(tǒng)在實踐中取得了良好效果。例如YouTobe建立內(nèi)容識別系統(tǒng)(Content ID),運用電子指紋比對的方式對用戶上傳的作品內(nèi)容進行掃描;而騰訊視頻投入使用的“視頻基因比對技術(shù)”則根據(jù)用戶上傳視頻中的關(guān)鍵幀和MD5值判斷是否構(gòu)成版權(quán)侵權(quán)。

此種版權(quán)過濾義務(wù)是普遍審查義務(wù)的例外,它具有以下兩個特性:一是審查范圍上的特定性。事前版權(quán)審查的范圍應(yīng)當(dāng)以列舉的形式被嚴格限制,否則就是不合理擴張平臺的責(zé)任。本文認為以下幾種情形下算法推送平臺需要承擔(dān)事前過濾義務(wù):第一,版權(quán)人事前提供了權(quán)屬信息、侵權(quán)理由以及能夠支持平臺方版權(quán)過濾技術(shù)順利運作的信息的作品及其他內(nèi)容,主動請求過濾的;第二,針對特定推送內(nèi)容進行廣告投放或是與內(nèi)容上傳者進行利益分成的;第三,作品處于熱播期、知名度高或是屬于國家版權(quán)局發(fā)布的“重點作品版權(quán)保護預(yù)警名單”的 ;第四,同一網(wǎng)絡(luò)用戶進行重復(fù)性侵權(quán)的。二是審查成本上的合理性。平臺方不應(yīng)承擔(dān)超越其運營規(guī)模的審查成本,也即平臺方所做出的“版權(quán)過濾努力”應(yīng)當(dāng)是有限度的。如前所述,不同的算法推送平臺因其運營規(guī)模大小不一,技術(shù)配置參差不齊,難以在過濾水平上對之作相同的要求。對于版權(quán)過濾所應(yīng)達到的程度,法院應(yīng)當(dāng)在個案中參酌各種因素后加以判定。在互聯(lián)網(wǎng)發(fā)展的現(xiàn)階段,網(wǎng)絡(luò)商的此種版權(quán)過濾措施應(yīng)當(dāng)被視作一種行為義務(wù),平臺若能證明其已經(jīng)采取了合理且必要的措施阻斷侵權(quán)內(nèi)容的上傳和傳播,即使平臺上仍然存有少量侵權(quán)內(nèi)容,也可以認為其盡到了事前的注意義務(wù)。

(2)對算法推送平臺事后救濟的“必要性”應(yīng)結(jié)合形式與效果判斷 平臺方在接到版權(quán)人發(fā)送的充分通知后,應(yīng)當(dāng)針對版權(quán)人通知指向的侵權(quán)內(nèi)容采取“必要措施”阻斷侵權(quán)的持續(xù)傳播,防止損害的進一步擴大。在算法推送語境下,對事后救濟的必要性程度,建議從形式要件與實質(zhì)要件兩方面界定。在形式上,平臺方是否根據(jù)用戶侵權(quán)的方式、服務(wù)類型、信息管理能力采取了包括但不限于刪除、屏蔽、斷鏈等措施管控侵權(quán)內(nèi)容;在效果上,平臺方是否采取上述措施制止了明顯的侵權(quán),并盡到了專業(yè)勤勉的注意義務(wù),處置了平臺內(nèi)其他針對該作品的類似侵權(quán)行為以及防止類似侵權(quán)內(nèi)容被再次上傳。在“斗羅大陸”行為保全案中,重慶一中院便要求平臺立即刪除經(jīng)原告騰訊公司通知過的侵害《斗羅大陸》信息網(wǎng)絡(luò)傳播權(quán)的視頻,同時還應(yīng)當(dāng)采取有效措施過濾和攔截用戶上傳的其他侵害該作品的視頻(12)重慶市第一中級人民法院(2021)渝01行保1號保全裁定書。。從效果層面來看,“必要措施”的效力不僅及于已經(jīng)指明的侵權(quán)內(nèi)容,而且還應(yīng)包括對類似侵權(quán)行為潛在風(fēng)險可能性的預(yù)防,即平臺所履行的不是簡單的“通知-移除”程序,而實質(zhì)上是“通知-保持移除”這一持續(xù)性的防免措施。事實上,平臺在經(jīng)過版權(quán)人的充分通知后,類似侵權(quán)行為就已經(jīng)成為了針對特定作品內(nèi)容的具體信息,而并非是抽象的侵權(quán)信息,故“保持移除”措施并不等于普遍性過濾,不會課以算法推送平臺在技術(shù)與成本上過多的負擔(dān)。

五、結(jié)論與建議

數(shù)字媒體時代,作品的消費方式發(fā)生根本性變革,短視頻已經(jīng)逐漸替代長視頻成為社會大眾主流的信息內(nèi)容獲取途徑。利用算法進行信息整理與分發(fā)的短視頻平臺逐漸由被動的技術(shù)服務(wù)提供者轉(zhuǎn)變?yōu)橐粋€比較主動的內(nèi)容信息傳播者,在獲得大量商業(yè)利益和市場競爭優(yōu)勢地位的同時也催生了諸如剪輯、切條、搬運等一系列版權(quán)侵權(quán)亂象,加劇了權(quán)利人與平臺之間關(guān)于版權(quán)保護的“責(zé)任鴻溝”。隨著平臺預(yù)防用戶侵權(quán)的成本的顯著降低,識別侵權(quán)的能力不斷提升,要求平臺主動作為,對預(yù)防和阻止侵權(quán)承擔(dān)更高的注意義務(wù)具有正當(dāng)性與可行性。

對于“更高注意義務(wù)”在實踐中的適用,有兩點建議:一是在范圍上,“更高注意義務(wù)”以一般性注意義務(wù)為參照,但整體上不應(yīng)當(dāng)超過人工推薦模式下的注意義務(wù),更不能夠等同于普遍審查義務(wù);二是在內(nèi)容上,“更高注意義務(wù)”應(yīng)當(dāng)從事前、事后兩個維度進行建構(gòu),將事前的版權(quán)過濾義務(wù)與事后的通知救濟義務(wù)相結(jié)合。一方面,事前的版權(quán)過濾既可以增強版權(quán)人控制作品傳播的能力,也能夠消減后期海量通知帶給平臺的移除壓力以及個性化推送機制可能引發(fā)的侵權(quán)風(fēng)險;另一方面,事后平臺方根據(jù)權(quán)利人的通知所采取的“必要措施”,也能夠降低其事前過濾的成本,有效阻斷侵權(quán)內(nèi)容的進一步傳播,兩者具有協(xié)調(diào)性和互補性。值得一提的是,版權(quán)法曾經(jīng)為互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展不斷掃清障礙,現(xiàn)如今,高技術(shù)的互聯(lián)網(wǎng)儼然已經(jīng)成為無需被庇護的“強者”,為防止內(nèi)容產(chǎn)業(yè)成為無本之木、無源之水,讓更多更加優(yōu)質(zhì)的原創(chuàng)作品涌入市場,必須通過更加公平合理的責(zé)任劃分,促使算法推送平臺將版權(quán)保護的理念融入到產(chǎn)品設(shè)計和商業(yè)運營模式中,引導(dǎo)內(nèi)容產(chǎn)業(yè)和技術(shù)產(chǎn)業(yè)的良性互動,最終促進社會整體文化福利的創(chuàng)造和提升。

猜你喜歡
服務(wù)提供者義務(wù)內(nèi)容
內(nèi)容回顧溫故知新
幸福的人,有一項獨特的義務(wù)
海峽姐妹(2020年12期)2021-01-18 05:53:12
網(wǎng)絡(luò)服務(wù)提供者的侵權(quán)責(zé)任研究
法制博覽(2020年11期)2020-11-30 03:36:52
論網(wǎng)絡(luò)服務(wù)提供者刑事責(zé)任的歸責(zé)模式一一以拒不履行網(wǎng)絡(luò)安全管理義務(wù)罪為切入點
三十載義務(wù)普法情
跟蹤導(dǎo)練(一)(4)
論網(wǎng)絡(luò)服務(wù)提供者的侵權(quán)責(zé)任
法制博覽(2017年16期)2017-01-28 00:01:59
主要內(nèi)容
臺聲(2016年2期)2016-09-16 01:06:53
“良知”的義務(wù)
網(wǎng)絡(luò)服務(wù)提供者第三方責(zé)任的立法審視
湖湘論壇(2015年4期)2015-12-01 09:30:16
永寿县| 南溪县| 稷山县| 康保县| 志丹县| 东乡县| 伊春市| 普安县| 霍林郭勒市| 丰原市| 广安市| 武乡县| 江源县| 滦南县| 张家口市| 白城市| 昔阳县| 五莲县| 连城县| 会昌县| 萍乡市| 崇义县| 进贤县| 乌兰县| 红河县| 乳山市| 阿克陶县| 大理市| 阿荣旗| 鄂州市| 静宁县| 淮阳县| 宝坻区| 珠海市| 二手房| 福清市| 湖南省| 广元市| 临澧县| 揭阳市| 泸州市|