李欣

從2018年下半年到2020年3月，犯罪分子通過社交平臺大規(guī)模傳播、銷售性犯罪視頻，這就是引發(fā)社會熱議的韓國“N號房”事件，其中受害者包括大量未成年女童。繼“藍(lán)鯨事件”“兒童邪典片”等事件后，未成年人的網(wǎng)絡(luò)保護問題再一次成為全球關(guān)注的焦點。

近幾年，我國未成年人用網(wǎng)人數(shù)激增、首次觸網(wǎng)年齡持續(xù)走低。互聯(lián)網(wǎng)極大豐富了未成年人的學(xué)習(xí)生活，但他們的網(wǎng)絡(luò)安全難以保障，且未成年人容易受網(wǎng)絡(luò)不良內(nèi)容的影響，造成道德觀念混亂，不利于健全的心理與人格發(fā)展，甚至可能誘發(fā)他們的違法和犯罪行為?！?018年全國未成年人互聯(lián)網(wǎng)使用情況研究報告》表明：15.6%的未成年人曾有過網(wǎng)上諷刺、謾罵、惡意騷擾和個人信息被公開等經(jīng)歷。30.3%的未成年人曾在上網(wǎng)過程中接觸到暴力、賭博、吸毒、色情等不良信息?！段闯赡耆藱?quán)益保護創(chuàng)新發(fā)展白皮書（2009-2019）》顯示，近七成未成年人犯罪案件中存在未成年人不正常接觸網(wǎng)絡(luò)不良信息的問題。利用網(wǎng)絡(luò)侵害未成年人的犯罪數(shù)量一直在增加，犯罪分子通過網(wǎng)絡(luò)更容易選擇和接觸犯罪目標(biāo)，對未成年人進行誘惑和威脅后，再通過網(wǎng)絡(luò)擴散，增加了未成年人遭受二次傷害的風(fēng)險。而由于網(wǎng)絡(luò)侵害隱蔽性更強，調(diào)查取證困難，增加了相關(guān)部門打擊、處罰的難度。

網(wǎng)絡(luò)分類分級管理勢在必行

在網(wǎng)絡(luò)空間確認(rèn)未成年人身份、實施重點保護已成為我國社會各界的廣泛共識，目前相關(guān)的探索與行動已逐步開展，相關(guān)部門和各界人士正合力凈化未成年人網(wǎng)絡(luò)環(huán)境，規(guī)范未成年人網(wǎng)絡(luò)秩序，保護未成年人網(wǎng)絡(luò)權(quán)益。

保護未成年人網(wǎng)絡(luò)權(quán)益，立法為先。面對互聯(lián)網(wǎng)生態(tài)提出的新問題、新挑戰(zhàn)，我國加快了未成年人網(wǎng)絡(luò)權(quán)益保護立法進程，保護力度不斷加強、保護措施更加全面。

2017年6月1日，《中華人民共和國網(wǎng)絡(luò)安全法》提出設(shè)立未成年人網(wǎng)絡(luò)保護?？?，國家支持研發(fā)有利于未成年人健康成長的網(wǎng)絡(luò)產(chǎn)品和服務(wù)，嚴(yán)厲懲治利用網(wǎng)絡(luò)危害未成年人身心健康的活動。2019年10月1日，《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》要求對“兒童個人信息”專門實施特殊保護。2020年3月1日，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》明確規(guī)定在網(wǎng)絡(luò)生態(tài)多元共治的理念之下，設(shè)立?？顚ｍ棧糜趲椭W(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者和內(nèi)容服務(wù)平臺設(shè)立未成年人專欄、專區(qū)、專用模式?！吨腥A人民共和國未成年人保護法（修訂草案）》增設(shè)“網(wǎng)絡(luò)保護”專章，明確了網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者應(yīng)當(dāng)對用戶進行分類，并設(shè)置相應(yīng)的時間管理、權(quán)限管理、消費管理等，預(yù)防和干預(yù)未成年人沉迷網(wǎng)絡(luò)。

群力群策，保護未成年人網(wǎng)絡(luò)安全。社會各界也紛紛對網(wǎng)絡(luò)信息分類分級管理獻計獻策，并積極探索實踐措施。中華人民共和國國家互聯(lián)網(wǎng)信息辦公室統(tǒng)籌指導(dǎo)視頻平臺上線“青少年防沉迷系統(tǒng)”， 其中的青少年模式可對青少年用戶的使用時段、服務(wù)功能、在線時長進行限制，并向他們重點推薦寓教于樂的優(yōu)質(zhì)內(nèi)容。如騰訊公司建立“騰訊110”服務(wù)，推出成長守護平臺、健康系統(tǒng)和主動服務(wù)工程等防沉迷體系，聯(lián)動社會和產(chǎn)業(yè)力量，豐富網(wǎng)絡(luò)治理工具箱。目前，這一體系已覆蓋98%的騰訊游戲活躍用戶。

全國政協(xié)委員、公安部原副部長陳智敏認(rèn)為，行政監(jiān)管仍有疏漏，執(zhí)法部門難以有針對性的監(jiān)管，需要加強對侵害未成年人權(quán)益行為的打擊。廣州市政協(xié)副主席于欣偉呼吁制定按年齡和內(nèi)容分級的健康網(wǎng)絡(luò)游戲的規(guī)范和標(biāo)準(zhǔn)，把關(guān)技術(shù)，在內(nèi)容審查的基礎(chǔ)上，實現(xiàn)分類指導(dǎo)和分級運營。啟明星辰信息技術(shù)集團股份有限公司首席執(zhí)行官嚴(yán)望佳提出運用技術(shù)防護手段營造健康網(wǎng)絡(luò)環(huán)境的觀點，采用大數(shù)據(jù)對未成年人網(wǎng)絡(luò)行為進行精準(zhǔn)畫像，預(yù)測潛在網(wǎng)絡(luò)沉迷用戶群，并通報監(jiān)護人或相關(guān)監(jiān)管部門，做到提前預(yù)警和干預(yù)。騰訊董事會主席馬化騰主張建立“一站式”未成年人網(wǎng)絡(luò)使用管理平臺，控制未成年人的上網(wǎng)時長。

網(wǎng)絡(luò)分級分類監(jiān)管措施要切實有效

明確各方責(zé)任，強化監(jiān)督機制。司法機關(guān)、政府部門、企業(yè)、社會組織、學(xué)校和家庭共同推動，形成全社會共治的局面，可有效遏制未成年人網(wǎng)絡(luò)侵害。

互聯(lián)網(wǎng)信息部門統(tǒng)籌協(xié)調(diào)全國未成年人網(wǎng)絡(luò)保護工作，敦促教育、電信、公安、文化、監(jiān)管、媒體等有關(guān)部門依據(jù)各自職責(zé)做好市場準(zhǔn)入、內(nèi)容審核、教育引導(dǎo)、打擊犯罪等工作;落實已有未成年人網(wǎng)絡(luò)保護的相關(guān)法規(guī)和制度，建立可操作、可執(zhí)行、可督查、可追溯的未成年人網(wǎng)絡(luò)監(jiān)管機制，完善獎勵、舉報、投訴規(guī)則，借用公眾的力量實施有效監(jiān)管，讓青少年網(wǎng)絡(luò)模式發(fā)揮實效。

學(xué)校和家庭要加強未成年人網(wǎng)絡(luò)素養(yǎng)教育，引導(dǎo)未成年人正確使用互聯(lián)網(wǎng)。家長要履行未成年人網(wǎng)絡(luò)監(jiān)護和監(jiān)督責(zé)任，加強網(wǎng)絡(luò)安全意識，了解孩子使用的互聯(lián)網(wǎng)服務(wù)、網(wǎng)絡(luò)來往對象，積極參與“家長監(jiān)護工程”。如發(fā)現(xiàn)孩子瀏覽網(wǎng)絡(luò)不良信息或進行不良在線活動，家長要積極進行教育和引導(dǎo)，并向互聯(lián)網(wǎng)企業(yè)和監(jiān)管部門舉報。

互聯(lián)網(wǎng)企業(yè)要著眼長遠(yuǎn)，將未成年人保護放在最高優(yōu)先級，制定保護措施，加強網(wǎng)絡(luò)監(jiān)管，發(fā)現(xiàn)問題要及時干預(yù)，建設(shè)青少年與網(wǎng)絡(luò)有害信息之間的防火墻。但目前，我國部分企業(yè)對未成年人網(wǎng)絡(luò)安全并不重視。最近，中國消費者協(xié)會對50款游戲進行體驗后發(fā)現(xiàn)，只有41款游戲啟用了實名制，17款游戲在登錄時強制用戶實名驗證，不少游戲的實名驗證方式形同虛設(shè)。

在未成年人有效識別、隱私保護、內(nèi)容分級等關(guān)鍵領(lǐng)域，進行技術(shù)突破，研發(fā)針對未成年人網(wǎng)絡(luò)保護的技術(shù)與工具。目前，相關(guān)部門建立了“防沉迷系統(tǒng)”，但針對防沉迷模式的各類“破解”系統(tǒng)也迅速上線。保護與侵害的技術(shù)博弈一直在進行，導(dǎo)致未成年人網(wǎng)絡(luò)保護實效性降低?；ヂ?lián)網(wǎng)企業(yè)要切實履行社會責(zé)任，加大防沉迷技術(shù)研發(fā)，創(chuàng)新技術(shù)手段，提高繞開防沉迷系統(tǒng)的技術(shù)門檻和時間成本。利用人臉、視頻、語音等技術(shù)提高對未成年人上網(wǎng)的識別精準(zhǔn)度，使未成年人上網(wǎng)只能以自己的身份實名認(rèn)證。

互聯(lián)網(wǎng)行業(yè)要針對未成年人的操作習(xí)慣、網(wǎng)絡(luò)行為等方面搭建大數(shù)據(jù)體系，運用人工智能等技術(shù)主動發(fā)現(xiàn)未成年用戶，建立全系統(tǒng)、全程的實時監(jiān)管和干預(yù)機制，讓防沉迷系統(tǒng)更加科學(xué)、高效。如騰訊公司為有效識別未成年人，不斷進行技術(shù)迭代，接入“公安實名校驗”，引入金融級別的“人臉識別”技術(shù)，結(jié)合用戶畫像和大數(shù)據(jù)分析，進行“小號識別與打擊”。

防沉迷系統(tǒng)等未成年人網(wǎng)絡(luò)保護措施在要求用戶提供真實身份信息進行注冊時，存在身份信息泄露的風(fēng)險?；ヂ?lián)網(wǎng)企業(yè)需在技術(shù)上平衡未成年人身份確認(rèn)與隱私保護之間的關(guān)系，制定相關(guān)判斷標(biāo)準(zhǔn)，區(qū)分影響未成年人身心健康的不良信息和適宜未成年人接觸的、具有正向價值的信息，開發(fā)自動分類分級的智能化技術(shù)平臺，降低風(fēng)險內(nèi)容識別成本，提高“適齡提示”的針對性和有效性。

疏堵結(jié)合，關(guān)鍵在疏，大力建設(shè)和繁榮健康的網(wǎng)絡(luò)內(nèi)容。實施未成年人網(wǎng)絡(luò)內(nèi)容分類后，若只禁止未成年人接觸互聯(lián)網(wǎng)不良內(nèi)容，但優(yōu)質(zhì)內(nèi)容缺位，那么分類分級管理機制便沒有意義。在青少年防沉迷系統(tǒng)上線后，多數(shù)主流互聯(lián)網(wǎng)視頻平臺構(gòu)建了寓教于樂的優(yōu)質(zhì)內(nèi)容池，其中包含課程教學(xué)、書法繪畫、親子教育、傳統(tǒng)文化、生活技能等內(nèi)容。短視頻平臺發(fā)揮教育、知識方面的優(yōu)勢，構(gòu)建以“正能量+知識學(xué)習(xí)”為核心的內(nèi)容池，建立集安全性、豐富性、有用性、趣味性于一體的青少年模式，向青少年推送展示祖國大好河山、風(fēng)土人情、生產(chǎn)勞動的精品內(nèi)容。但當(dāng)前適合未成年人的優(yōu)質(zhì)內(nèi)容開發(fā)力度仍不夠，社會應(yīng)從更廣的品類和維度上為未成年人提供更豐富的網(wǎng)絡(luò)內(nèi)容，以青少年喜聞樂見的形式，制作集知識性、娛樂性、趣味性于一體的優(yōu)質(zhì)內(nèi)容，讓網(wǎng)絡(luò)空間逐漸成為傳播正能量的陣地。

推進網(wǎng)絡(luò)信息內(nèi)容分類分級管理、針對未成年人實施網(wǎng)絡(luò)保護是社會共識，但要務(wù)實推進、取得實效并不容易。我們應(yīng)在機制上突出監(jiān)督作用，獎優(yōu)罰劣，形成正向驅(qū)動;技術(shù)上，加強大數(shù)據(jù)和人工智能技術(shù)開發(fā)，有效“堵”住不良信息傳播渠道;內(nèi)容上，政府要加強投入、積極引導(dǎo)，全社會共同建設(shè)未成年人專屬內(nèi)容，形成“疏”為主、“堵”為底的未成年人網(wǎng)絡(luò)信息內(nèi)容分類分級管理體系。

（作者系中國人民公安大學(xué)信息技術(shù)與網(wǎng)絡(luò)安全學(xué)院院長）

責(zé)任編輯：孫雨萱