魯欣然

【摘要】文章首先提出在互聯(lián)網(wǎng)時(shí)代利用數(shù)字化技術(shù)治理網(wǎng)絡(luò)暴力中未成年人網(wǎng)絡(luò)欺凌現(xiàn)象的必要性，概述未成年人網(wǎng)絡(luò)欺凌現(xiàn)象下的內(nèi)涵，梳理利用數(shù)字技術(shù)治理的特點(diǎn)和法律價(jià)值，然后探討我國治理該現(xiàn)象的現(xiàn)狀，分析目前數(shù)字化治理在技術(shù)識(shí)別、隱私保護(hù)、技術(shù)風(fēng)險(xiǎn)上的困境，提出借鑒域外經(jīng)驗(yàn)，強(qiáng)化數(shù)字化治理手段，建立評(píng)估體系等建議，從而通過多方的共同努力來維護(hù)社會(huì)穩(wěn)定和公眾利益。

【關(guān)鍵詞】網(wǎng)絡(luò)欺凌；數(shù)字技術(shù)；未成年人保護(hù)

隨著互聯(lián)網(wǎng)的普及和數(shù)字化技術(shù)的發(fā)展，如今未成年人成為在社會(huì)數(shù)字化進(jìn)程中長(zhǎng)大的一代，未成年人在知識(shí)的學(xué)習(xí)、心理的成長(zhǎng)和三觀的形成的過程中必然會(huì)受到網(wǎng)絡(luò)的影響。據(jù)統(tǒng)計(jì)，我國未成年網(wǎng)民規(guī)模已高達(dá)1.93億，未成年人互聯(lián)網(wǎng)普及率達(dá)到了97.2%，使用手機(jī)上網(wǎng)的比例占到了91.3%。網(wǎng)絡(luò)在為未成年人提供學(xué)習(xí)與生活上的極大便利的同時(shí)，也帶來了網(wǎng)絡(luò)不法侵害，這一問題已對(duì)未成年人的健康成長(zhǎng)造成了嚴(yán)重的負(fù)面影響。其中，未成年人網(wǎng)絡(luò)欺凌問題日益突出，給受害者的身心帶來嚴(yán)重影響，嚴(yán)重者甚至可能引發(fā)校園暴力、家庭矛盾等社會(huì)問題。

為了防止未成年人網(wǎng)絡(luò)欺凌現(xiàn)象的發(fā)生，使得未成年人能夠健康上網(wǎng)，我國已經(jīng)陸續(xù)出臺(tái)了《網(wǎng)絡(luò)安全法》《未成年人保護(hù)法》等相關(guān)法律保障其權(quán)利，但現(xiàn)行法律存在相對(duì)數(shù)字化領(lǐng)域發(fā)展的滯后性，缺乏對(duì)未成年在網(wǎng)絡(luò)領(lǐng)域權(quán)益關(guān)懷的針對(duì)性、專門性等問題。因此建議引入數(shù)字化治理的方式，將法治理念與數(shù)字技術(shù)相結(jié)合，利用數(shù)字化治理高效、敏捷、精準(zhǔn)等特點(diǎn)，有效應(yīng)對(duì)這一新型社會(huì)問題，規(guī)范未成年人的網(wǎng)絡(luò)行為，保護(hù)其合法權(quán)益，營(yíng)造良好的網(wǎng)絡(luò)空間秩序。

一、未成年人網(wǎng)絡(luò)欺凌的內(nèi)涵

網(wǎng)絡(luò)欺凌通常是只通過特定網(wǎng)絡(luò)平臺(tái)，如社交媒體、即時(shí)通訊工具等，以文字、圖片、音視頻等方式，對(duì)其他人進(jìn)行持續(xù)惡意的騷擾、威脅、侮辱或其他形式的傷害，對(duì)個(gè)人或某個(gè)群體具有針對(duì)性，造成被針對(duì)者在心理、情感、社交層面上的傷害。相比常見的“網(wǎng)絡(luò)暴力”問題，縮小了行為的涵蓋范圍，對(duì)受害者造成的傷害更具有隱蔽性和深遠(yuǎn)性。

而未成年人因?yàn)槠渖缃痪W(wǎng)絡(luò)相比成年人更為簡(jiǎn)單，因此未成年人網(wǎng)絡(luò)欺凌通常發(fā)生在學(xué)校、課后活動(dòng)、在線游戲平臺(tái)等范圍內(nèi)。未成年人在認(rèn)知和情感上發(fā)展尚未成熟，缺乏足夠的判斷力和自我保護(hù)能力，當(dāng)其遭受到網(wǎng)絡(luò)欺凌傷害時(shí)可能會(huì)感到孤獨(dú)、沮喪、焦慮或自卑，甚至產(chǎn)生自殺傾向，出現(xiàn)不愿意溝通，不知如何尋求幫助等問題，通常需要監(jiān)護(hù)人、學(xué)校的介入和引導(dǎo)，以教育為主，及時(shí)進(jìn)行必要的心理輔導(dǎo)干預(yù)。

二、引入數(shù)字技術(shù)治理的優(yōu)勢(shì)

1.技術(shù)特點(diǎn)

首先，數(shù)字技術(shù)具有敏捷性。數(shù)字技術(shù)可以自動(dòng)監(jiān)測(cè)、檢測(cè)網(wǎng)絡(luò)欺凌行為，利用特定算法識(shí)別出具有欺凌傾向的內(nèi)容，盡快阻止其擴(kuò)散。人工智能與機(jī)器學(xué)習(xí)技術(shù)可以用于洞察網(wǎng)絡(luò)欺凌行為的模式，從而對(duì)可能的網(wǎng)絡(luò)欺凌進(jìn)行預(yù)警，降低網(wǎng)絡(luò)欺凌的發(fā)生概率。其次，數(shù)字技術(shù)具有精準(zhǔn)性，通過對(duì)網(wǎng)絡(luò)數(shù)據(jù)的分析，能發(fā)現(xiàn)欺凌行為的起源、趨勢(shì)和影響，使治理方向更有目標(biāo)性和針對(duì)性。數(shù)字技術(shù)還具有高效性，能在短時(shí)間內(nèi)識(shí)別、處理大量信息，大大提高了網(wǎng)絡(luò)欺凌事件的應(yīng)對(duì)效率。

2.過程參與

借助人工智能、大數(shù)據(jù)等數(shù)字技術(shù)，能夠逐步實(shí)現(xiàn)事前預(yù)防、事中打擊和事后處理全流程的參與機(jī)制。在事前預(yù)防層面，數(shù)字技術(shù)能夠?qū)崟r(shí)監(jiān)測(cè)網(wǎng)絡(luò)環(huán)境中的言論和行為，通過技術(shù)識(shí)別出潛在的網(wǎng)絡(luò)霸凌苗頭，及時(shí)發(fā)出預(yù)警；還可以根據(jù)未成年人的網(wǎng)絡(luò)使用習(xí)慣和興趣偏好，提供個(gè)性化的網(wǎng)絡(luò)素養(yǎng)教育內(nèi)容，幫助他們樹立正確的網(wǎng)絡(luò)價(jià)值觀和規(guī)范行為準(zhǔn)則。在事中打擊層面上，數(shù)字技術(shù)能夠通過IP地址、設(shè)備信息等手段，追蹤網(wǎng)絡(luò)欺凌行為的來源和路徑，為執(zhí)法部門提供有力的線索和證據(jù)，有助于迅速鎖定施害者并依法懲處；還可以對(duì)網(wǎng)絡(luò)霸凌事件進(jìn)行大數(shù)據(jù)分析，揭示其背后的規(guī)律、特點(diǎn)和影響因素，為打擊網(wǎng)絡(luò)欺凌提供科學(xué)依據(jù)和決策支持。在事后處理層面，數(shù)字技術(shù)能夠?qū)崿F(xiàn)包括快速刪除不良信息、封禁違規(guī)賬號(hào)、向受害者提供援助等的自動(dòng)化和智能化的網(wǎng)絡(luò)欺凌事件處理流程，確保高效、及時(shí)地處理。此外，數(shù)字技術(shù)還可以通過跨平臺(tái)的信息交流和資源共享，實(shí)現(xiàn)不同網(wǎng)絡(luò)平臺(tái)之間的數(shù)據(jù)共享和協(xié)作配合，更加全面地了解網(wǎng)絡(luò)欺凌的態(tài)勢(shì)。

三、數(shù)字化治理體系建設(shè)的困境

1.當(dāng)前治理現(xiàn)狀

目前國內(nèi)針對(duì)未成年人網(wǎng)絡(luò)欺凌的數(shù)字技術(shù)治理主要從法制和政策層面開展。立法上，《未成年人保護(hù)法》明確規(guī)定了保護(hù)未成年人免受網(wǎng)絡(luò)欺凌的權(quán)益，并規(guī)定了網(wǎng)絡(luò)服務(wù)提供者、學(xué)校、家庭等各方的責(zé)任?！毒W(wǎng)絡(luò)安全法》等網(wǎng)絡(luò)安全相關(guān)法規(guī)對(duì)加強(qiáng)網(wǎng)絡(luò)安全、保護(hù)個(gè)人信息安全等方面做出了規(guī)定，為打擊網(wǎng)絡(luò)欺凌提供了法律依據(jù)；政策上，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《未成年人網(wǎng)絡(luò)保護(hù)條例（征求意見稿）》，旨在加強(qiáng)未成年人網(wǎng)絡(luò)素養(yǎng)培育、加強(qiáng)網(wǎng)絡(luò)信息內(nèi)容規(guī)范、加強(qiáng)未成年人個(gè)人信息保護(hù)、加強(qiáng)未成年人網(wǎng)絡(luò)沉迷防治等方面，其中包括對(duì)網(wǎng)絡(luò)欺凌行為的規(guī)范和處罰，教育部等部門的政策文件，強(qiáng)調(diào)將網(wǎng)絡(luò)安全和網(wǎng)絡(luò)文明教育納入中小學(xué)課程，提高未成年人的網(wǎng)絡(luò)安全意識(shí)和自我保護(hù)能力?！豆步ㄎ闯赡耆恕扒謇省本W(wǎng)絡(luò)空間倡議書》則要求全社會(huì)都應(yīng)進(jìn)一步加強(qiáng)公民的道德教育和網(wǎng)絡(luò)法治教育，為廣大網(wǎng)民特別是青少年?duì)I造一個(gè)風(fēng)清氣正的網(wǎng)絡(luò)空間[1]。

但法規(guī)和政策中對(duì)禁止對(duì)未成年人實(shí)施網(wǎng)絡(luò)欺凌更像是宣示性的口號(hào)，并未實(shí)際體現(xiàn)出對(duì)未成年人特殊保護(hù)的價(jià)值取向[2]。根據(jù)仍以平臺(tái)責(zé)任治理為主的網(wǎng)絡(luò)監(jiān)管實(shí)踐來看，網(wǎng)絡(luò)平臺(tái)更多的監(jiān)管處理著眼于網(wǎng)絡(luò)暴力，包括網(wǎng)絡(luò)欺凌、網(wǎng)絡(luò)謾罵、網(wǎng)絡(luò)誹謗、網(wǎng)絡(luò)謠言、網(wǎng)絡(luò)詐騙等，因?yàn)榫W(wǎng)絡(luò)暴力不僅限于個(gè)人之間的沖突，還可能涉及更大規(guī)模的社會(huì)問題，如網(wǎng)絡(luò)仇恨言論、網(wǎng)絡(luò)恐怖主義等，這些看似更加“嚴(yán)重”的問題可能會(huì)導(dǎo)致平臺(tái)主體忽視了未成年人的主體性，并且對(duì)網(wǎng)絡(luò)欺凌語言缺乏敏感度。

2.數(shù)字技術(shù)的局限性

（1）技術(shù)識(shí)別。雖然自然語言處理技術(shù)已經(jīng)取得了很大進(jìn)展，但準(zhǔn)確理解和識(shí)別網(wǎng)絡(luò)語境中的霸凌言論仍然是一個(gè)挑戰(zhàn)。網(wǎng)絡(luò)語言常常包含隱晦、諷刺或雙關(guān)意味，未成年人對(duì)于網(wǎng)絡(luò)流行語的創(chuàng)設(shè)和使用相比成年人迭代速度更快、應(yīng)用能力更強(qiáng)，模型可能難以準(zhǔn)確捕捉這些含義并更新相關(guān)數(shù)據(jù)。即使數(shù)字技術(shù)對(duì)于文本內(nèi)容的識(shí)別相對(duì)成熟，但對(duì)于圖像、視頻等多媒體內(nèi)容的霸凌行為識(shí)別還存在較大難度，尤其是當(dāng)這些內(nèi)容經(jīng)過篡改或偽裝構(gòu)成一個(gè)新內(nèi)容，如“表情包”“文字縮寫”時(shí)。

（2）隱私保護(hù)。在利用數(shù)字技術(shù)進(jìn)行網(wǎng)絡(luò)霸凌監(jiān)測(cè)和干預(yù)時(shí)，需要收集和處理大量個(gè)人數(shù)據(jù)，數(shù)據(jù)隱私、使用權(quán)限和倫理合規(guī)性都將成為網(wǎng)絡(luò)平臺(tái)在設(shè)置隱私條款時(shí)需要考慮的問題，也會(huì)成為使用者及其監(jiān)護(hù)人的顧慮。然而現(xiàn)有的數(shù)字技術(shù)在確保未成年人數(shù)據(jù)安全和隱私方面仍存在不足，未成年人作為特殊群體，在數(shù)字環(huán)境中理所應(yīng)當(dāng)需要額外的保護(hù)。

（3）技術(shù)風(fēng)險(xiǎn)。雖然數(shù)字技術(shù)提高了處理效率，但同時(shí)存在技術(shù)濫用的可能性，有可能被濫用于監(jiān)視、侵犯隱私或進(jìn)行其他不當(dāng)行為。在缺乏有效監(jiān)管和制衡機(jī)制的情況下，這種濫用風(fēng)險(xiǎn)可能會(huì)增加。此外，大模型在處理數(shù)據(jù)時(shí)，可能會(huì)因?yàn)閿?shù)據(jù)質(zhì)量、數(shù)量或處理方式的限制，而無法有效地提取和利用信息，在某些特定任務(wù)上可能無法表現(xiàn)出足夠的智能和靈活，導(dǎo)致在處理某些問題時(shí)顯得不夠聰明，從而出現(xiàn)誤報(bào)或漏報(bào)的情況，導(dǎo)致無辜者受到不公正對(duì)待或真正的網(wǎng)絡(luò)欺凌行為被忽視。

四、基于數(shù)字技術(shù)的未成年人網(wǎng)絡(luò)欺凌治理路徑

1.路徑探索

（1）域外經(jīng)驗(yàn)。在保護(hù)未成年人健康成長(zhǎng)方面，利用大數(shù)據(jù)及分析作為工具的建議和實(shí)例并不少見。近年來，法國校園霸凌問題日益凸顯，且受害者的年齡日趨年輕化。在立法層面，法國政府不僅持續(xù)完善國內(nèi)相關(guān)法規(guī)，更在地區(qū)和國際層面積極促進(jìn)網(wǎng)絡(luò)暴力防治的國際法律合作。法國已加入如《歐洲委員會(huì)網(wǎng)絡(luò)犯罪公約》和《蘭薩羅特公約》等針對(duì)保護(hù)兒童免受性剝削和性虐待的國際條約，利用這些公約機(jī)制來保障包括兒童在內(nèi)的網(wǎng)絡(luò)用戶的安全與權(quán)益。此外，法國政府還推出了一款官方手機(jī)應(yīng)用，旨在向網(wǎng)絡(luò)受害者提供援助。這款應(yīng)用允許受害者通過屏幕截圖或照片等方式在線提交欺凌證據(jù)，特別為兒童提供了通過聊天報(bào)告欺凌行為并保存證據(jù)的功能。若遇到特別嚴(yán)重的網(wǎng)絡(luò)欺凌情況，用戶還可以選擇將相關(guān)內(nèi)容上傳至官方平臺(tái)或相關(guān)組織[3]。

（2）強(qiáng)化數(shù)字化治理手段。目前政府和各網(wǎng)絡(luò)平臺(tái)已經(jīng)針對(duì)網(wǎng)絡(luò)暴力現(xiàn)象做出了相關(guān)舉措，但未成年人與成年人在認(rèn)知、心理和行為等方面存在顯著差異，未成年對(duì)于自身網(wǎng)絡(luò)安全的自我保護(hù)主動(dòng)性較弱，因此需要在現(xiàn)有舉措基礎(chǔ)上，主動(dòng)加強(qiáng)對(duì)于未成年人在網(wǎng)絡(luò)欺凌方面的保護(hù)，同時(shí)關(guān)注到兩者的針對(duì)性重點(diǎn)不同。

針對(duì)未成年人的書籍通常包括更為嚴(yán)格的監(jiān)控和過濾技術(shù)，以確保未成年人無法接觸到不良的內(nèi)容，包括自動(dòng)屏蔽不良網(wǎng)站、限制搜索關(guān)鍵詞、過濾不當(dāng)言論等。而針對(duì)成年人的保護(hù)措施則更注重于提供個(gè)性化的過濾選項(xiàng)，讓用戶自行選擇屏蔽的內(nèi)容。

在保護(hù)未成年人的個(gè)人信息和隱私方面，平臺(tái)要加大力度，對(duì)不良分子造成的潛在威脅加以防范，采取加強(qiáng)數(shù)據(jù)加密、限制信息共享等措施加以應(yīng)對(duì)。而針對(duì)成年用戶，在提供隱私設(shè)置選項(xiàng)的基礎(chǔ)上，對(duì)其個(gè)人信息的可見度進(jìn)行合理設(shè)置，使其有能力自行控制對(duì)自己隱私的暴露程度。

未成年人仍處于受教育階段，加強(qiáng)對(duì)未成年人的網(wǎng)絡(luò)素養(yǎng)教育、幫助未成年人了解網(wǎng)絡(luò)安全知識(shí)、提高自我保護(hù)能力具有必要性，政府、學(xué)校和社區(qū)可以開展網(wǎng)絡(luò)安全課程、提供安全教育游戲等措施。而政府、平臺(tái)、社區(qū)可以為成年人使用者，尤其是老年人群體提供網(wǎng)絡(luò)安全知識(shí)和技能的進(jìn)階培訓(xùn)，幫助他們更好地應(yīng)對(duì)網(wǎng)絡(luò)威脅。

2.體系評(píng)估

建立行之有效的未成年人網(wǎng)絡(luò)欺凌數(shù)字化治理評(píng)估體系，是確保相關(guān)政策措施得以有效實(shí)施并持續(xù)改進(jìn)的關(guān)鍵。

在治理實(shí)踐上，可以通過收集和分析數(shù)據(jù)，為實(shí)踐提供客觀的量化依據(jù)，有助于更準(zhǔn)確地了解未成年人網(wǎng)絡(luò)欺凌的現(xiàn)狀和嚴(yán)重程度。評(píng)估結(jié)果可以揭示網(wǎng)絡(luò)欺凌的高發(fā)區(qū)域和易受害群體，從而指導(dǎo)相關(guān)部門和機(jī)構(gòu)合理分配資源，加強(qiáng)干預(yù)和救助。并且評(píng)估體系涉及多個(gè)利益相關(guān)方，包括政府、學(xué)校、家庭、社會(huì)組織和互聯(lián)網(wǎng)企業(yè)等，可以促進(jìn)各方之間的合作與協(xié)調(diào)，共同應(yīng)對(duì)未成年人網(wǎng)絡(luò)欺凌問題。

建立評(píng)估體系可以推動(dòng)政策的不斷完善。評(píng)估結(jié)果可以揭示現(xiàn)有法律法規(guī)在應(yīng)對(duì)未成年人網(wǎng)絡(luò)欺凌方面的不足之處，為政府修訂和完善相關(guān)法律法規(guī)提供重要參考。評(píng)估體系可以分析不同政策措施的實(shí)施效果，為政府優(yōu)化政策設(shè)計(jì)提供科學(xué)依據(jù)，確保政策措施更加精準(zhǔn)、有效。評(píng)估結(jié)果還可以反映新技術(shù)應(yīng)用到網(wǎng)絡(luò)平臺(tái)后對(duì)未成年人網(wǎng)絡(luò)欺凌的影響。同時(shí)，還能推動(dòng)政府在政策創(chuàng)新方面做出積極嘗試和探索。如與國際社會(huì)分享評(píng)估結(jié)果和治理經(jīng)驗(yàn)，促進(jìn)國際交流與合作，共同推動(dòng)全球范圍內(nèi)未成年人網(wǎng)絡(luò)欺凌問題的治理進(jìn)程。

五、總結(jié)與展望

隨著數(shù)字技術(shù)的不斷發(fā)展普及，一方面，人工智能、大數(shù)據(jù)等先進(jìn)技術(shù)的應(yīng)用將進(jìn)一步提升治理的精準(zhǔn)性和效率；另一方面，隨著社交媒體的普及和信息的快速傳播，網(wǎng)絡(luò)欺凌的形式和手段也可能變得更加復(fù)雜和隱蔽，需要不斷更新治理手段和方法。

因此，應(yīng)當(dāng)加大數(shù)字技術(shù)在未成年人網(wǎng)絡(luò)欺凌治理中的應(yīng)用力度，不斷完善數(shù)字化治理體系。盡管數(shù)字技術(shù)在治理網(wǎng)絡(luò)欺凌中起到了關(guān)鍵作用，但單靠技術(shù)手段還是不夠的，要加大教育、立法力度，強(qiáng)化國際合作交流，共同創(chuàng)建一個(gè)良好的網(wǎng)絡(luò)環(huán)境。提高未成年人的網(wǎng)絡(luò)素養(yǎng)和自我保護(hù)能力，使其成長(zhǎng)為具備數(shù)字素養(yǎng)安全意識(shí)的未來公民，以應(yīng)對(duì)日益突出的網(wǎng)絡(luò)欺凌問題，同時(shí)也為保護(hù)未成年人權(quán)益、構(gòu)建和諧網(wǎng)絡(luò)環(huán)境貢獻(xiàn)一份力量。

【參考文獻(xiàn)】

[1]《共建未成年人“清朗”網(wǎng)絡(luò)空間倡議書》，載中國政府網(wǎng)，http：//www.cac.gov.cn/2020-07/31/c_1597760172871966.htm.

[2]郝潔.將大數(shù)據(jù)作為工具：未成年人網(wǎng)絡(luò)欺凌治理的未來方向[J].預(yù)防青少年犯罪研究，2023（05）.

[3]黃磊.法國治理校園霸凌的路徑與挑戰(zhàn)[J].檢察風(fēng)云，2023（23）.