李陽天

2017年是內(nèi)容大爆發(fā)年，以直播、短視頻為代表的娛樂視聽產(chǎn)品大量涌現(xiàn)，泛文娛產(chǎn)品交互形式更加豐富、UGC信息海量增長，但隨之而來的是有害信息隱患對用戶體驗和企業(yè)利益帶來的巨大挑戰(zhàn)。

另一方面，2017年多項互聯(lián)網(wǎng)內(nèi)容治理政策相繼出臺，《網(wǎng)絡安全法》正式實施，互聯(lián)網(wǎng)內(nèi)容安全在政策和法律監(jiān)管上表現(xiàn)進一步收緊，對內(nèi)容平臺不良治理能力的要求更加嚴格。值此，“網(wǎng)易云安全（易盾）”盤點回顧了2017年內(nèi)容安全領(lǐng)域發(fā)生的重大事件。

一、2017年2月：上海市網(wǎng)信辦會同市文廣局、市網(wǎng)安總隊、市文化執(zhí)法總隊聯(lián)合約談熊貓直播和全民直播，就兩家直播中存在的低俗色情問題，依法責令其進行全面整改。

二、2017年4月：北京網(wǎng)信辦等監(jiān)管部門聯(lián)合約談今日頭條、火山直播、花椒直播，查處上述網(wǎng)站涉嫌違規(guī)提供涉黃內(nèi)容。個別發(fā)布者涉及違規(guī)違禁直播內(nèi)容，責令限期整改。

三、2017年4月：國家網(wǎng)信辦接到網(wǎng)民舉報，“紅杏直播”、“蜜桃秀”等18款直播類應用存在違法違規(guī)行為。經(jīng)核查取證后，國家網(wǎng)信辦會同有關(guān)部門依法依規(guī)在應用商店下架并關(guān)停服務。

四、2017年6月：《中華人民共和國網(wǎng)絡安全法》《互聯(lián)網(wǎng)新聞信息服務管理規(guī)定》《網(wǎng)絡產(chǎn)品和服務安全審查辦法（試行）》等一批互聯(lián)網(wǎng)領(lǐng)域的法律法規(guī)正式施行。作為我國第一部全面規(guī)范網(wǎng)絡空間安全管理方向問題的基礎(chǔ)性法律，明確規(guī)定不得傳播有害國家社會穩(wěn)定、青少年身心健康的信息。

五、2017年8月：新浪微博用戶發(fā)布稱在線教育APP“小猿搜題”社區(qū)內(nèi)容涉黃，隨后“小猿搜題”發(fā)布聲明是另一個APP“作業(yè)幫”構(gòu)陷蓄意抹黑，雙方由此“互懟”并對簿公堂。

六、2017年8月：國家互聯(lián)網(wǎng)信息辦公室公布《互聯(lián)網(wǎng)跟帖評論服務管理規(guī)定》，規(guī)定明確指出，不得向未認證真實身份信息的用戶提供跟帖評論服務，并加強“彈幕”管理，《規(guī)定》還要求平臺實行先審后發(fā)制度。

七、2017年8月：全國“掃黃打非”互聯(lián)網(wǎng)低俗色情信息專項整治行動，查處狼友色情直播平臺制作、傳播淫穢表演視頻文件信息超過20萬個，實時現(xiàn)場直播淫穢色情表演，吸引大量用戶付費觀看和打賞，涉黃女主播千余名。

九、2017年12月：今日頭條、鳳凰新聞手機客戶端因涉及傳播色情低俗信息，被北京網(wǎng)信辦約談責令整改，部分欄目暫時停更。隨后，通報集中清理其涉嫌違規(guī)的含低質(zhì)內(nèi)容的自媒體賬號，共封禁、禁言賬號上千個。今日頭條啟動大規(guī)模招聘，招聘內(nèi)容審核編輯2 000人。

十、2017年12月：網(wǎng)民舉報QQ日跡圈子里存在大量少兒不宜的黃色視頻，核實發(fā)現(xiàn)在某些圈子里的確存在大量情色視頻，被責令關(guān)停。

2017年，作為領(lǐng)先的內(nèi)容安全平臺，網(wǎng)易易盾每天攔截有害信息上億條，其中比例最大的是廣告，其次是謾罵、色情、違禁、謠言暴恐。這兩年隨著媒介形式的升級，直播短視頻成為很多媒體平臺的標配，成為新的流量蜜罐，有害信息中音頻、圖片、視頻的比例也在迅速增加。

2018年，內(nèi)容風險將成為視聽平臺最主要的安全風險之一，需要公司高層從戰(zhàn)略角度進行關(guān)注和把控。如何快速構(gòu)建符合業(yè)務需求的內(nèi)容安全體系？“網(wǎng)易云安全（易盾）”內(nèi)容安全專家提出5條建議：

1.重視歷史數(shù)據(jù)清理：結(jié)合業(yè)務特性，應定期對歷史數(shù)據(jù)進行排查。通過離線分析，及時發(fā)現(xiàn)并清理新型變種垃圾，不斷完善全鏈路的布控方案；

2.做好事前防御：聯(lián)動用戶賬戶注冊保護和登錄保護的反作弊手段，從源頭發(fā)現(xiàn)并攔截有害信息發(fā)布者；

3.加強實人認證：針對用戶分級管理，加強實人認證，提高有害信息發(fā)布者的門檻，內(nèi)容發(fā)布全流程可管理、可追溯；

4.應用智能手段：及時更新或引進第三方的文本、圖片、音視頻等內(nèi)容智能檢測技術(shù)，欲善內(nèi)容安全其事，先利智能技術(shù)之器；

5.建立規(guī)范體系：產(chǎn)品內(nèi)容安全涉及技術(shù)、政策、運營、審核等多團隊，產(chǎn)品長期發(fā)展需及時建立相應的內(nèi)容安全管理機制、應急處理機制。