閆 海 王天依

(遼寧大學(xué) a.法學(xué)院;b.國家治理與法治研究中心,沈陽 110136)

提要: 成癮性科技形成于注意力經(jīng)濟背景之下,通過動機、能力、提示的習(xí)慣塑造機制的運用與算法科技的加持,幫助企業(yè)獲取用戶注意力、穩(wěn)固用戶群體、實現(xiàn)經(jīng)濟增長,但其隱蔽、深度控制用戶的特性應(yīng)當(dāng)受到法律規(guī)制的關(guān)注。成癮性科技運用成癮模型與算法誘導(dǎo)用戶成癮,會產(chǎn)生過度使用風(fēng)險、個人信息濫用風(fēng)險、科技倫理價值風(fēng)險,具有風(fēng)險影響的普遍性、形式的隱蔽性、趨勢的上升性、對象的不平等性等特征。我國針對成癮性科技應(yīng)當(dāng)采取多層級化的規(guī)制策略構(gòu)建成癮性科技風(fēng)險法律規(guī)制體系,建立以用戶防御機制為核心的嵌套式元規(guī)制體系,通過與硬件廠商、應(yīng)用商店、戒癮軟件合作規(guī)制以提供加強和冗余的用戶保護,并對教育型助推、經(jīng)濟型規(guī)制、科技倫理根源治理等外部規(guī)制工具進行創(chuàng)新改良,形成融貫元規(guī)制-合作規(guī)制-外部規(guī)制的三重規(guī)制體系。通過對成癮性科技風(fēng)險的法律規(guī)制,實現(xiàn)家長主義、自由意志、商業(yè)自由三者之間的微妙平衡,使用戶在享受科技便利的同時免受成癮性科技風(fēng)險的侵擾、危害。

“屏幕那邊有數(shù)千人在努力工作,為的就是破壞你的自律”[1]3——成癮性科技(Habit-Forming Technology),指有意識地運用基于行為經(jīng)濟學(xué)構(gòu)建的成癮模型與算法,誘導(dǎo)用戶形成心理甚至生理性依賴的應(yīng)用軟件。成癮性科技產(chǎn)生于注意力經(jīng)濟背景之下,信息曾經(jīng)是稀缺資源,但進入后工業(yè)化特別是高度信息化社會后,數(shù)字信息豐富且漫灌[2],信息不再稀缺而是過載,人類處理數(shù)據(jù)信息的行為即注意力反而成為稀缺品[3]。人們的時間和精力都是有限的,諸如工作會消耗精力、休息會占用時間等等,能投入媒介上的時間和精力更為有限。因此,凝聚了受眾的時間和精力的注意力就顯得十分重要,媒介贏得的注意力越多,越能帶來較高的經(jīng)濟收益。成癮性科技推動用戶養(yǎng)成定期、長期、自我強化的使用習(xí)慣,幫助企業(yè)贏得用戶的穩(wěn)定使用時間、形成穩(wěn)固用戶群體,使企業(yè)更有可能取得注意力的市場競爭優(yōu)勢,因此備受青睞,近年來發(fā)展迅速。但是,成癮性科技深度控制用戶的精神世界,改變用戶行為模式,并且導(dǎo)致用戶合法權(quán)益受損的情況也引發(fā)關(guān)注。2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第8條規(guī)定,“算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型”,標(biāo)志我國認識到成癮性科技及其風(fēng)險的存在并展開法律規(guī)制。目前,成癮性科技利用日漸成熟的成癮模型,依托于數(shù)據(jù)—算法—平臺構(gòu)成的“三維體系”,被隱蔽而廣泛地應(yīng)用于社交媒體、購物、游戲休閑、短視頻、直播視頻等眾多互聯(lián)網(wǎng)領(lǐng)域,僅從算法倫理單一維度出發(fā)進行規(guī)制顯然力有不逮,加之規(guī)制機關(guān)與企業(yè)之間的技術(shù)鴻溝致使條文虛置,迄今仍無適用案例出現(xiàn)?；ヂ?lián)網(wǎng)基礎(chǔ)設(shè)施的建立以及智能移動客戶端的普及使成癮性科技的受眾空前廣泛,成癮性科技帶來的風(fēng)險亦隨之成倍增長,因此對成癮性科技風(fēng)險的法律規(guī)制應(yīng)當(dāng)進行維度擴展,增強相關(guān)主體的規(guī)制參與度,探索新的規(guī)制進路,革新規(guī)制工具。

一、成癮性科技的習(xí)慣塑造機制

成癮性科技的本質(zhì)在于有目的地植入了成癮模型。成癮模型也被稱為“黑暗模式”,亞當(dāng)·奧爾特認為成癮模型由“誘人的目標(biāo)”“不可抗拒的積極反饋”“毫不費力的進步”“逐漸升級的挑戰(zhàn)”“未完成的緊張感”“令人癡迷的社會活動”六大要素組成[1]64-163;尼爾·埃亞爾則提出“觸發(fā)—行動—多變的酬賞—投入”四階段模型[4]27-121。這些雖有助于理解成癮模型但未觸及根本,難以切實認識成癮性科技,更無法為法律規(guī)制提供有效指引。我們以行為經(jīng)濟學(xué)視角,對成癮模型予以結(jié)構(gòu)、原理的解析,達成對成癮性科技的正確認知,為法律規(guī)制的構(gòu)建奠定理論基礎(chǔ)。

(一)習(xí)慣塑造機制的成癮模型

為幫助人們塑造良好的生活習(xí)慣、扭轉(zhuǎn)困境,福格基于行為科學(xué)提出“福格習(xí)慣塑造模型”。模型展現(xiàn)了習(xí)慣塑造的三個通用要素,即動機、能力、提示,當(dāng)三要素齊備,行為便會發(fā)生[5]29。福格還以行動線圖形式進一步總結(jié)和展現(xiàn)習(xí)慣塑造的四原則(見圖1):(1)動機越強,行為就越有可能做到;(2)行為越容易就越可能成為習(xí)慣;(3)動機和能力要像隊友一樣密切配合;(4)沒有提示,任何行為都不會發(fā)生[5]34-40。申言之,只有在行動線之上的行為才能夠被完成,行為①具備了動機和能力,處于行動線之上,只要受到提示便能夠做出行為并逐漸養(yǎng)成習(xí)慣;而行為②③④則分別因能力不足、動機不足或能力動機都不足而無法達成,因此位于行動線以下,即使受到提示也無法成為習(xí)慣。

圖1 行動線示意圖[5]38

福格習(xí)慣塑造模型的三要素與四原則為成癮性科技奠定了理論基礎(chǔ)。企業(yè)為了在注意力競爭中取得優(yōu)勢,運用福格習(xí)慣塑造模型結(jié)合互聯(lián)網(wǎng)環(huán)境以及智能移動客戶端的特點打造成癮模型:(1)以多變的酬賞和稟賦效應(yīng)塑造用戶的強大穩(wěn)定使用動機;(2)運用簡化式助推與默認設(shè)置,清除使用阻礙、降低摩擦成本,使用戶更加容易使用;(3)設(shè)置外部型與內(nèi)源型觸發(fā)裝置,頻繁提示用戶進行使用。在三者聯(lián)合運用下,用戶被養(yǎng)成使用成癮性科技的習(xí)慣,形成生理、心理依賴,直至最終徹底成癮。

(二)以多變酬賞與稟賦效應(yīng)形成動機

依據(jù)福格習(xí)慣塑造模型,動機是復(fù)雜多變、波動頻繁的,動機在高漲后往往還會迅速回落[5]57-60,因此成癮性科技運用多變的酬賞和稟賦效應(yīng)為用戶創(chuàng)造穩(wěn)定而強烈的動機。

1.多變酬賞

多變酬賞,指基于可變比率強化原理(Variable Ratio Reinforcement)為用戶設(shè)計可變獎勵計劃(Variable Reward Schedule),給予用戶隨機而非固定的酬賞。之所以提供隨機而非固定的酬賞,是因為一個人在隨機的時間間隔接受積極的刺激時,多巴胺會充斥大腦,此過程重復(fù)之后,就會產(chǎn)生依賴性[6]。盧克·克拉克對此解釋,“人類大腦的多巴胺系統(tǒng)對不可預(yù)測的獎勵非常感興趣。當(dāng)存在最大不確定性時,多巴胺細胞最為活躍,即多巴胺系統(tǒng)對不確定獎勵的反應(yīng)高于可預(yù)測的相同獎勵”[7]。質(zhì)言之,如果獎勵總是固定的,用戶能夠預(yù)測下一步會發(fā)生什么,反而不會產(chǎn)生喜出望外的感覺[4]87-88。多變酬賞在早期通過機制設(shè)計而實現(xiàn),例如淘寶、京東將各類商品的優(yōu)惠、秒殺信息混雜在一起,用戶找到價格優(yōu)惠的心儀商品時便會感到興奮,會重復(fù)刷新查看;又如門戶網(wǎng)站將各類新聞、信息放置在一起,用戶為了能夠找到有趣的信息只能長時間在網(wǎng)頁進行搜尋。近期的多變酬賞則運用算法工具進行更精細的操作,例如社交與拍照應(yīng)用Instagram結(jié)合算法為特定用戶定制可變的獎勵時間表,當(dāng)算法預(yù)測可以對用戶產(chǎn)生最大心理影響時,便會通知用戶已被其他人關(guān)注或點贊,使“獎勵”對用戶產(chǎn)生最大效用[6];又如原神、第五人格、明日方舟等網(wǎng)絡(luò)游戲采取所謂“氪金抽卡”①,用戶通過投入現(xiàn)實貨幣或虛擬幣以抽取裝備道具獎勵,抽獎結(jié)果名為隨機實則取決于算法,算法將最大化多巴胺的產(chǎn)生,誘導(dǎo)用戶大量充值。

2.稟賦效應(yīng)

稟賦效應(yīng)是一種廣泛存在于市場交易中的行為偏誤,通常表現(xiàn)為某物品的擁有者較非擁有者對此物品的評價更高[8],其本質(zhì)之處在于效用與占有相關(guān),即以某種方式獲得某物品的人,不管是購買抑或獲贈,對此物品的估價一般都要高于旁人的估價[9],因此擁有者損失已占有的物品時會感到極大的、超出理性的痛苦,而為了避免承受心理痛苦,擁有者通常采取能夠規(guī)避損失的策略。成癮性科技會向用戶授予某種獎勵,但在用戶中斷或停止使用時奪走它們,用戶為了規(guī)避“損失”,只能被迫持續(xù)使用。例如淘寶、京東設(shè)計了日常任務(wù)或連續(xù)簽到任務(wù),達成一定要求的用戶將獲得獎勵,若是中斷便會損失當(dāng)日獎勵甚至重新起算。又如,社交媒體應(yīng)用軟件Snapchat設(shè)計了“連勝圖案”,當(dāng)用戶通過平臺向其他人發(fā)送圖片時,他們就會開始積累由條紋構(gòu)成的“連勝圖案”。每連續(xù)分享圖片一天,條紋會增加一個,但當(dāng)用戶超過24小時未發(fā)送圖像時,就會失去所有條紋和標(biāo)志榮譽的火焰表情符號。再如,外語學(xué)習(xí)軟件Duolingo不僅采取鼓勵連續(xù)使用的“打卡”設(shè)計,還設(shè)定“如果用戶錯過打卡,他們可以付費‘修復(fù)’”[10],加重了損失帶來的痛感。還有消除游戲開心消消樂則設(shè)計了簽到獲獎模式,每月簽到使用超過28天的用戶可以免費兌換獎品,“缺席”的天數(shù)需要支付虛擬幣進行“補簽”。

(三)以簡化式助推與默認設(shè)置強化能力

簡化式助推與默認設(shè)置幫助成癮性科技掃除了用戶使用成癮性科技過程中的操作障礙與法律障礙,用戶與成癮性科技之間再無任何阻隔,更加容易地使用成癮性科技——也就更容易成癮。

1.簡化式助推

依據(jù)福格習(xí)慣塑造模型,某種行為欲被塑造為習(xí)慣,則行為難度不宜過高,“讓行為簡單到隨時隨地都能做”[5]83。簡化助推通過減少摩擦成本或改變默認選項等方式,使事情變得更加簡單易行[11],這無疑與成癮性科技降低行為難度的目標(biāo)契合。簡化式助推在早期被用于提升用戶體驗,例如Facebook設(shè)計簡易的注冊程序、谷歌清除了頁面的無關(guān)信息與廣告等[4]62-65,但其簡化的潛在成癮功能隨即被發(fā)現(xiàn):(1)簡化式助推無形地消除了用戶選擇中途停止使用的機會,例如無盡卷軸(Infinite Scrolls),當(dāng)用戶接近或到達網(wǎng)頁已加載內(nèi)容的末尾時,便會自動加載額外內(nèi)容;又如自動播放(Autoplay),當(dāng)用戶結(jié)束當(dāng)前播放的音樂或視頻后無需操作直接播放算法推薦內(nèi)容。這兩類設(shè)計被認為將“鼓勵用戶的過度使用行為”,美國參議員喬?！せ衾?Josh Hawley)發(fā)起的《降低社交媒體成癮技術(shù)法案》(SMART Act)主張對它們進行禁止。(2)對于簡化式助推的正反雙向應(yīng)用,正向使注冊、登錄、充值等行為都更加容易,反向則增加摩擦成本,將限制登錄和查看使用次數(shù)、限制使用時間、限制自動續(xù)期續(xù)費、注銷賬號等功能從主界面中隱藏起來,使用戶難以自主采用防止成癮和沉迷的措施,此類設(shè)計因其能夠令用戶“易進難出”而被稱為“蟑螂屋(Roach Motel)”[12]。(3)簡化式助推針對風(fēng)險告知、知情同意等原本需要用戶深思熟慮的場景,這最具危險性,導(dǎo)致用戶在“系統(tǒng)1”主導(dǎo)狀態(tài)下倉促做出半意識的、自動的決定②,使之同意上傳個人隱私信息,接受算法推薦,乃至開通長期自動續(xù)費的網(wǎng)絡(luò)訂購、網(wǎng)絡(luò)充值等付費類服務(wù),隱私的放開和持續(xù)的自動充值最終都會加深用戶與成癮性科技的綁定,使用戶更難放棄使用。

2.默認設(shè)置

默認設(shè)置是一種更為常用的簡化式助推。默認設(shè)置被企業(yè)濫用,設(shè)立于自己有益卻有害用戶的默認設(shè)置,例如企業(yè)為用戶提供的個人隱私設(shè)置、使用數(shù)據(jù)上傳設(shè)置、算法推薦設(shè)置名義上可以自由選擇、定制,但卻刻意使功能界面過于復(fù)雜或隱蔽,這時用戶便會選擇那些有害于他們的“壞默認(Bad Default)”[6]。美國消費者聯(lián)盟的報告指出,Facebook運用默認設(shè)置的方式助推用戶接受預(yù)設(shè)隱私條款,允許廣告商收集和訪問自己的個人信息,若是用戶接受默認隱私設(shè)置,注冊程序則非常簡單,但若是用戶選擇在注冊完成前修改預(yù)設(shè)隱私條款,就會被引導(dǎo)至一系列復(fù)雜的條款選擇界面,當(dāng)其完成選擇,又會被引導(dǎo)至新界面——此界面顯示禁止用戶在注冊完成前修改Facebook提供的預(yù)設(shè)隱私條款[13],如此繁復(fù)又邏輯自相矛盾的流程,最終將迫使用戶接受對他們不利的“壞默認”?！皦哪J”掏空知情同意規(guī)則,使其徹底形式化、空洞化,令用戶“選擇”了更易成癮的服務(wù)條款:(1)“壞默認”使成癮性科技獲得多重權(quán)限,可以通過發(fā)送通知、短信、郵件等方式頻繁誘導(dǎo)用戶使用;(2)“壞默認”幫助成癮性科技獲取用戶的個人信息、隱私信息,這些信息將被用于誘導(dǎo)用戶成癮乃至售賣第三方;(3)“壞默認”還令用戶“合法自愿”地暴露于成癮性科技的成癮模型與算法之下,乃至淪為成癮實驗的對象,所得到的數(shù)據(jù)和結(jié)論還將被企業(yè)用于進一步完善成癮模型與算法,從而開啟下一個成癮循環(huán);(4)“壞默認”為成癮性科技清除了法律上的障礙,成癮性科技可以依照條款推卸責(zé)任,拒絕對用戶的安全和健康承擔(dān)義務(wù)。

(四)以外部型和內(nèi)源型觸發(fā)裝置設(shè)置提示

依據(jù)福格習(xí)慣塑造模型,提示是行為的第三要素,若是缺乏提示,即便存在動機和能力,行為也不會發(fā)生。企業(yè)設(shè)置外部型和內(nèi)源型觸發(fā)裝置,使用戶在受到觸發(fā)后進行使用[4]33-40。

外部型觸發(fā)裝置包括以下方式:(1)經(jīng)濟型觸發(fā),通過經(jīng)濟上的回饋吸引用戶,如周期性開啟秒殺活動、發(fā)送優(yōu)惠券乃至直接發(fā)放現(xiàn)金等方式誘使用戶頻繁使用;(2)通知型觸發(fā),通知用戶收到新信息、新評論或點贊,在用戶長時間不登錄時還會發(fā)送電子郵件或短信提示用戶進行登錄;(3)人際型觸發(fā),如Facebook、QQ等軟件會自動生成好友生日通知,迫使收到通知的用戶進行生日祝福[14],又如備受厭惡的“好友垃圾郵件”(Friend Spam),以尋找現(xiàn)實好友為理由索取用戶的郵件或通訊錄,隨后向用戶的所有聯(lián)系人發(fā)送垃圾郵件,并聲稱郵件是用戶發(fā)送,脈脈軟件即曾因使用好友垃圾郵件,被法院認定為“侵擾私人生活的安寧,構(gòu)成對隱私權(quán)的侵犯”③。

尼爾·埃亞爾指出,依賴外界條件刺激用戶感官的外部型觸發(fā)難以持久發(fā)揮作用,自動出現(xiàn)在用戶腦海中的內(nèi)源型觸發(fā)才是控制用戶行為的關(guān)鍵[4]36,但使用內(nèi)源型觸發(fā)也意味對用戶進行深度心理操控。內(nèi)源型觸發(fā)可以來自積極情感,但恐懼、焦慮等負面情緒才是威力更加強大的內(nèi)部觸發(fā),更有助于使用戶成癮[15]。成癮性科技往往不惜將負面情緒以內(nèi)源型觸發(fā)裝置加諸用戶,如Facebook濫用用戶對“錯過重要社交信息”的恐懼,一名用戶描述了他矛盾的心態(tài),“我不喜歡Facebook。我覺得我必須擁有它只是因為其他人都擁有它。我覺得我會錯過什么——我甚至不知道我會錯過什么”[14]。比之濫用恐懼,制造對立情緒的內(nèi)源型觸發(fā)裝置更為惡劣,例如社交機器人被用于偽造人類言論,導(dǎo)致用戶對對立觀點形成更強的敵意從而緊密抱團[16],借助對立甚至仇恨情緒觸發(fā)用戶的長時間與對立者進行“戰(zhàn)斗”。

二、成癮性科技風(fēng)險的特征與類型

成癮模型發(fā)展以及數(shù)據(jù)算法科技的進步推動成癮性科技形態(tài)迭代。一代成癮性科技以谷歌、魔獸世界、Facebook、Twitter為代表,依賴成癮模型進行運作,并且通過成癮測試進行實證以加強產(chǎn)品的成癮性,其對由此帶來的用戶風(fēng)險持放任態(tài)度,所以一代成癮性科技本質(zhì)上是由私人主體進行的“惡意助推”。諸如微信、抖音、滴滴等二代成癮性科技則重點運用了數(shù)據(jù)采集和算法科技,通過后臺對用戶偏好進行個性化的分析,進而為用戶推送量身定做的產(chǎn)品,具有便攜性、個性化、自主性、鏈接性,全面入侵乃至掌控用戶日常生活,應(yīng)當(dāng)成為主要的規(guī)制對象。注意力競爭推動成癮性科技急速演化,法律規(guī)制卻長期滯后缺位,二者之間不對稱性形成的規(guī)制真空使成癮性科技的發(fā)展走向盲目無序,以致成癮性科技的研發(fā)、運營、操作層面產(chǎn)生各種類、各形態(tài)風(fēng)險。成癮性科技風(fēng)險包括過度使用相關(guān)風(fēng)險、個人信息濫用風(fēng)險、科技倫理價值風(fēng)險,具有影響的普遍性、形式的隱蔽性、趨勢上升性、對象不平等性特征。

(一)成癮性科技風(fēng)險的特征

1.風(fēng)險影響的普遍性

成癮性科技已經(jīng)滲入即時通信、綜合電商、支付結(jié)算、短視頻等幾乎所有互聯(lián)網(wǎng)經(jīng)濟領(lǐng)域。在QUEST MOBILE發(fā)布的“App用戶規(guī)模億級玩家”榜單中,微信在國內(nèi)用戶量最多的20款應(yīng)用軟件中排行第1,用戶人數(shù)超過10億,淘寶、支付寶、抖音、拼多多等8款用戶人數(shù)超過5億,排行末位的今日頭條用戶也達到3.4億[17],這些均運用了成癮模型與算法,符合成癮性科技的特征,可見成癮性科技雖是新近提出的概念但已普遍存在。2022年8月中國互聯(lián)網(wǎng)絡(luò)信息中心《第50次中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》顯示,截至2022年6月我國網(wǎng)民規(guī)模為10.51億,互聯(lián)網(wǎng)普及率達74.4%,網(wǎng)民中使用手機上網(wǎng)的比例為99.6%,網(wǎng)民年齡從10以下至60歲以上皆有分布[18],成癮性科技普遍性的運用與我國互聯(lián)網(wǎng)高普及率疊加,意味著我國公眾處于成癮性科技的影響之下,成癮性科技的風(fēng)險將給整個社會帶來巨大負外部性。

2.風(fēng)險形式的隱蔽性

成癮性科技所影響的用戶基數(shù)巨大,但長久以來卻流于法律規(guī)制之外,原因在于成癮性科技風(fēng)險形式的隱蔽性。成癮模型與算法運行于黑箱之內(nèi)天然隱蔽,其作用方式亦是暗中對用戶施加助推,誘使用戶“自主”決策,使用戶難以察覺自己受害的事實,即使發(fā)現(xiàn)自己已經(jīng)成癮亦往往歸咎于自身意志力不足,無法認知到成癮性科技才是真正風(fēng)險源頭。此外,成癮性科技造成的風(fēng)險往往是長期的、潛移默化的,諸如身心健康、個人信息濫用等風(fēng)險,都存在延時發(fā)生的特性,風(fēng)險時空的不一致性使得用戶乃至規(guī)制機關(guān)難以將成癮性科技與具體危害后果之間建立因果聯(lián)系。

3.風(fēng)險趨勢的上升性

處于注意力競爭中的企業(yè)試圖保有自身用戶、搶奪其他企業(yè)用戶,這使得市場競爭朝向高成癮性競爭發(fā)展,引發(fā)“成癮軍備競賽”。企業(yè)時刻關(guān)注其他競爭對手采取的成癮模型與算法,并試圖模仿和超越,再進入下一個循環(huán),無休止的成癮競爭將導(dǎo)致成癮性科技不斷自我進化。成癮性的螺旋上升意味著對用戶操縱的不斷加深,用戶將為成癮性科技付出更多時間,也將自己暴露于更大的風(fēng)險之下,成癮性科技風(fēng)險不僅不會自行消弭,反而會隨時間上升,凸顯法律規(guī)制介入進行遏制的必要性。

4.風(fēng)險對象的不平等性

成癮性科技給用戶帶來的風(fēng)險并非均等,部分用戶將承受更嚴重風(fēng)險。用戶技術(shù)能力差異引發(fā)的風(fēng)險并不平等,具有技術(shù)能力的用戶不僅可以較早認識到成癮性科技帶來的影響,還可以對成癮性科技的默認設(shè)置進行修改,限制使用時間和花費金額,達成一定程度的自主防御,但缺乏技術(shù)能力的用戶甚至不會認識到自己正受成癮性科技影響,遑論采取防御措施。此外,用戶心理健康程度不一也造成成癮性科技風(fēng)險的不平等,處于焦慮、抑郁或心理疾病狀態(tài)的用戶更容易受影響而成癮,心智處于發(fā)展中的未成年人亦容易遭遇風(fēng)險,乃至近期研究發(fā)現(xiàn),處于孤獨狀態(tài)的老人亦較容易成癮[19]。成癮性科技風(fēng)險不平等性要求法律不僅要采取普適性規(guī)制措施,還需為弱勢群體提供更強保護。

(二)成癮性科技風(fēng)險的類型

1.過度使用相關(guān)風(fēng)險

成癮性科技旨在誘導(dǎo)用戶成癮,直接導(dǎo)致用戶不合理的過度使用,進而引發(fā)系列風(fēng)險。過度使用在心理方面帶來自戀、低自信和自尊、注意力不集中、多動癥、批判性思維萎縮、情緒波動、焦慮和抑郁、心理壓力等[20],Andreassen等指出,注意力缺陷多動障礙、抑郁癥、焦慮和社交恐懼癥都與過度使用呈正相關(guān)[21]。過度使用在身體方面則帶來睡眠障礙,由分心駕駛、騎自行車和步行造成的事故,久坐不動的成癮生活方式的影響,例如肥胖、糖尿病等[20];在社會關(guān)系層面,過度使用會造成婚姻不和諧、社會孤立、工作表現(xiàn)下降和失業(yè)[22]以及親子關(guān)系問題[23],大學(xué)生群體成癮使用還會給學(xué)業(yè)與心理健康帶來負面影響[24]。

除共性的過度使用風(fēng)險外,成癮性科技滲透至具體領(lǐng)域內(nèi),或是引發(fā)新風(fēng)險,或是成為此領(lǐng)域內(nèi)原有風(fēng)險的“放大器”:(1)媒體型成癮性科技易誘發(fā)網(wǎng)絡(luò)極化風(fēng)險。推薦算法預(yù)先過濾掉了與用戶認知不符的新聞、信息,用戶被置于網(wǎng)絡(luò)繭房之內(nèi)卻不自知,用戶受成癮影響長時間停留其中,易受到極化影響,而極化又會衍生網(wǎng)絡(luò)各圈層嚴重對抗[25]、反主流情緒撕裂社會共識、破壞網(wǎng)絡(luò)生態(tài)[25]、誘發(fā)網(wǎng)絡(luò)暴力、極化行為延伸至現(xiàn)實生活[26]等一系列次生風(fēng)險問題。(2)游戲型成癮性科技針對網(wǎng)絡(luò)游戲環(huán)境特點設(shè)計能夠令用戶不斷加大時間、金錢投入的“捕鯨策略”④,采用了與賭博高度類似的“氪金抽卡”機制,誘導(dǎo)用戶通過投入虛擬乃至現(xiàn)實貨幣獲取裝備物品,給用戶尤其是未成年人帶來誘發(fā)賭博風(fēng)險[27]、財務(wù)風(fēng)險[28]、霸凌風(fēng)險[29],甚至可能引發(fā)未成年人早期犯罪行為。(3)購物型成癮性科技的市場操縱行為給用戶帶來財務(wù)風(fēng)險、隱私風(fēng)險和獨立決策能力損害[30]。購物型成癮性科技借助平臺優(yōu)勢,為用戶設(shè)置網(wǎng)絡(luò)貸款入口并提供現(xiàn)金優(yōu)惠誘導(dǎo)用戶使用,形成購物—貸款型成癮科技,其操作中的行為與掠奪性貸款的判定要件高度重合。在非必要的情況下,即用戶本可不使用貸款進行支付,誘使用戶使用符合構(gòu)成服務(wù)濫用[31]。購物—貸款型成癮科技運用簡化的流程,放松對用戶還款能力的充分審查,屬于超越用戶能力的放貸行為[32]。在用戶初次使用后,購物—貸款型成癮科技在弱化對用戶的風(fēng)險告知流程的前提下,不斷推薦延期還款、分期還款服務(wù),使交易結(jié)構(gòu)日趨復(fù)雜化進而推高利息,屬于濫用有利于貸款人的信息不對稱[31]和“向不知情或缺乏經(jīng)驗的借款人隱瞞貸款義務(wù)或輔助產(chǎn)品的真實性質(zhì)”[33],質(zhì)言之,購物—貸款型成癮性科技符合掠奪性貸款認定的形式要件,會給客戶帶來掠奪性貸款風(fēng)險。

2.個人信息濫用風(fēng)險

成癮性科技具有強烈的獲取個人信息動因,成癮性科技需要收集信息進行習(xí)慣測試以完善成癮模型,為實現(xiàn)“注意力吸引—監(jiān)控,數(shù)據(jù)收集和實驗—成癮—注意力吸引”的定制化成癮循環(huán)[6],對個人信息的渴求更強烈,無節(jié)制獲取和濫用信息行為更甚。成癮性科技收集的個人信息不僅限聯(lián)系電話、電子郵箱、身份證號碼等“原始信息”,更通過成癮測試窺探用戶的心理狀態(tài)與行為模式,這些信息是用戶本人亦不知曉的“深度信息”。

2021年《個人信息保護法》第3條將自然人有關(guān)的各種信息與“分析、評估境內(nèi)自然人的行為”均納入法律適用范圍,亦即成癮性科技收集“原始信息”與“深度信息”的行為均應(yīng)受到規(guī)制?！秱€人信息保護法》等多部法律對個人信息處理的原則、條件予以規(guī)定,諸如處理個人信息目的的正當(dāng)性、收集個人信息的必要性以及個人的同意等構(gòu)成合法收集、處理個人信息的基本準繩[34]。但是,貌似周全的個人信息法律保護框架,卻被成癮性科技以概念與技術(shù)的雙重鴻溝而突破。成癮性科技以概念鴻溝進行形式化合規(guī)博弈,例如以“提升服務(wù)質(zhì)量和用戶體驗”作為目的正當(dāng)性基礎(chǔ),利用自身地位對必要信息做出單方解釋和定義,以及利用格式條款、默認選項乃至以停止服務(wù)為威脅獲取用戶的同意意思表示,形式上似具備了目的正當(dāng)性、必要性、個人同意三個必要合法要件,但在實質(zhì)上利用三要件法律規(guī)定的模糊性和相關(guān)案例暫付闕如的狀況進行了傾向于自己利益的解釋與操作。成癮性科技還借助技術(shù)鴻溝逃避維權(quán)與執(zhí)法,相對于規(guī)制機關(guān)和用戶,具備壓倒性的技術(shù)優(yōu)勢,在數(shù)據(jù)抓取和分析利用不透明的情況下,消費者的維權(quán)行為很難對其展開有效對抗,規(guī)制機關(guān)的執(zhí)法檢查亦面臨技術(shù)與成本難題。

3.科技倫理失范風(fēng)險

科技倫理價值的核心層面基于人類的核心價值,即建立在主體理性之上的人的尊嚴、幸福、自由、關(guān)愛等內(nèi)在價值[35],亦應(yīng)遵循不傷害、尊重人、受益和公平等生命倫理學(xué)基本原則[36]。成癮性科技的出現(xiàn)使科技倫理在互聯(lián)網(wǎng)經(jīng)濟中遭遇失范危機:(1)成癮性科技通過技術(shù)控制手段對用戶的精神乃至身體進行規(guī)訓(xùn)與操控而造成成癮,成癮會使用戶招致身體、精神、經(jīng)濟、事業(yè)、學(xué)業(yè)等多方面?zhèn)?因而違反不傷害原則,存在道德上錯誤[37]。(2)為加速成癮性科技演化,用戶被反復(fù)作為實驗對象進行所謂“習(xí)慣測試”[4]186,用戶不知情地淪落為試驗對象和數(shù)據(jù)資源[38]109。成癮性科技讓用戶參與其更容易上癮的研發(fā)過程中,并在無意識中貢獻了自己的數(shù)據(jù)與能力,“用戶被利用來對付自己”[37],這種行為將用戶尊嚴和利益視為無關(guān)緊要,是對用戶的不尊重和貶低[37],也構(gòu)成對用戶利益的漠視。(3)成癮性科技不斷在習(xí)慣測試中運用數(shù)據(jù)與算法,窺探隱藏的人類思維和人類意圖的特征,但解讀卻顯非出于善意,而是為了探查用戶的脆弱性[38]109-111,再利用脆弱性使用戶成癮從而獲得經(jīng)濟利益。這種利用對方弱點達到目的的行為足以構(gòu)成剝削,是道德上特別令人反感的剝削形式[37]。(4)成癮性科技帶來的科技倫理失范,極易因模仿效應(yīng)而產(chǎn)生擴散性風(fēng)險,對其他科技領(lǐng)域尤其是方興未艾的元宇宙帶來負面影響。

三、成癮性科技風(fēng)險的元規(guī)制

法律規(guī)制應(yīng)當(dāng)著眼用戶福祉,基于自由主義的溫和專制主義理念[39]5-7,設(shè)計用戶防御機制即不強制用戶停止使用,而是幫助其更好認識和改善使用行為,通過元規(guī)制推動用戶防御機制運行,以避免成癮性科技給用戶帶來風(fēng)險。

(一)成癮性科技的嵌套式元規(guī)制體系

成癮性科技用戶防御機制的推行面臨雙重困境:一是企業(yè)自我規(guī)制動力不足困境。有足夠的技術(shù)能力設(shè)計防御機制,但成癮性降低顯然意味著市場競爭力削弱和盈利能力下降,因此完全寄望企業(yè)基于對用戶負責(zé)或社會責(zé)任感主動設(shè)計用戶防御機制是不現(xiàn)實的;二是外部規(guī)制機關(guān)能力不足困境,規(guī)制機關(guān)雖然具有強烈規(guī)制意愿但卻缺乏技術(shù)能力,無法直接介入成癮性科技的設(shè)計和運行為用戶配置防御機制。造成雙重困境的共同原因在于規(guī)制動機與規(guī)制能力不匹配,企業(yè)具備技術(shù)能力和便利卻缺乏實施動機,其商業(yè)模式與幫助用戶預(yù)防成癮、促進更安全使用之間存在矛盾,而規(guī)制機關(guān)則相反,雖有規(guī)制動機但掣肘于規(guī)制資源的限制。打破困境應(yīng)當(dāng)以規(guī)制譜系上位于二者之間的元規(guī)制為應(yīng)因之道。元規(guī)制是指“對自我規(guī)制予以規(guī)制的過程”[40],采取雙層結(jié)構(gòu)嵌套構(gòu)建:第一層是市場主體自我規(guī)制,但元規(guī)制體系下的自我規(guī)制與“純粹的自我規(guī)制”不同,市場主體將受到規(guī)制機關(guān)在規(guī)制目標(biāo)、規(guī)制措施等方面的指導(dǎo);第二層是自我規(guī)制運行未能產(chǎn)生預(yù)期規(guī)制效果時,規(guī)制機關(guān)將介入并采取糾正措施。成癮性科技元規(guī)制亦應(yīng)構(gòu)建雙層嵌套模式,規(guī)制機關(guān)在第一層級為自我規(guī)制提出目標(biāo)并列舉若干必要的用戶防御機制;規(guī)制機關(guān)在第二層級檢視自我規(guī)制的成效,若自我規(guī)制失敗則介入予以糾正。

(二)第一層級的用戶防御機制設(shè)置

成癮性科技元規(guī)制的自我規(guī)制目標(biāo)是防止用戶過度使用引發(fā)各種風(fēng)險危害,規(guī)制機關(guān)應(yīng)提供更具體指引,以列舉式方法要求企業(yè)采取用戶防御機制,亦鼓勵企業(yè)自主研發(fā)新型防御機制。成癮性科技從創(chuàng)造動機、讓使用更加容易、設(shè)置觸發(fā)裝置三方面來塑造習(xí)慣、引導(dǎo)成癮,因此用戶防御機制亦應(yīng)基于行為經(jīng)濟學(xué)并采取相反邏輯運行,即削弱動機、限制能力、阻斷觸發(fā),以防止用戶成癮。

1.以使用反饋機制削弱動機

幫助人們改進其行為的最好方法是提供反饋。設(shè)計精妙的反饋系統(tǒng)能夠提示人們的行為是否得當(dāng)[39]107。用戶往往不知曉自己是否存在成癮問題,而使用反饋機制的設(shè)置能夠能幫助用戶認識到成癮程度與嚴重性,給用戶樹立限制使用、理性使用的目標(biāo),削弱無節(jié)制使用成癮性科技的動機。使用反饋機制亦能夠使用戶了解自己使用時間的增減趨勢從而輔助他們更加理性地進行使用。使用反饋機制主要分為兩類:一類是跟蹤型(Tracking),對于查看次數(shù)、使用時間、充值付費金額等數(shù)據(jù)追蹤調(diào)查;另一類是數(shù)據(jù)呈現(xiàn)型(Data Presentation),提供設(shè)備使用情況總結(jié)、應(yīng)用軟件使用情況總結(jié)、日/周使用情況回顧、使用情況社會比較[41]。跟蹤型與數(shù)據(jù)展示型機制應(yīng)當(dāng)進行結(jié)合運用,由跟蹤型工具進行用戶原始使用數(shù)據(jù)的跟蹤調(diào)查,數(shù)據(jù)展示型工具則可以提供易于理解的圖表、畫面展示和用于個人與社會平均使用時間、建議使用時間的比較,二者協(xié)作預(yù)期能產(chǎn)生更好的助推作用。

2.以自主限制機制降低能力

自主限制機制能夠從根本上抑制用戶的成癮使用行為,起到釜底抽薪的作用,是用戶防御機制中最重要的一環(huán):(1)身份驗證環(huán)節(jié)是自主限制機制的基礎(chǔ),若缺乏實質(zhì)性的身份驗證,用戶可以無限制地注冊新賬號,這將使自我限制機制形同虛設(shè)。此外,身份驗證環(huán)節(jié)還有助于保護弱勢群體尤其是未成年人的成癮風(fēng)險。我國對游戲型成癮性科技較早設(shè)立身份驗證環(huán)節(jié),但運行效果不盡如人意,屢次出現(xiàn)明顯漏洞⑤,依賴身份證信息的驗證極易被突破,因此應(yīng)當(dāng)推廣人臉識別驗證。(2)極限設(shè)定(Limit-setting),是國內(nèi)外均被認為具有良好效果的防御機制,與有效運行的身份驗證結(jié)合能夠極好保護用戶。極限設(shè)定允許用戶為自己預(yù)設(shè)使用次數(shù)、使用時長、充值付費金額的極限數(shù)值,若超過預(yù)設(shè)數(shù)值則不再允許用戶使用。除用戶自主極限設(shè)定外,企業(yè)亦可參與到極限設(shè)定中,在用戶存在極端不合理的使用情況下,視情況可發(fā)出警示,暫停其使用,乃至?xí)簳r凍結(jié)該用戶的賬號。(3)人工智能保護系統(tǒng)是新近提出的防御機制,人工智能不再被用于使用戶成癮,而是用于識別和保護潛在的、可能過度使用的用戶。在理想狀態(tài)下,人工智能保護系統(tǒng)可以對用戶的不良行為進行事前預(yù)判,并且在識別后限制其注冊、登錄、使用,在用戶成癮前實現(xiàn)智能管控[42]。(4)自主注銷機制是嚴重成癮用戶的最后防線。目前成癮性科技的內(nèi)置自主注銷機制設(shè)置過于隱蔽,并且允許用戶在注銷后立即重新注冊,以致形同虛設(shè),法律應(yīng)當(dāng)要求企業(yè)將注銷流程規(guī)范化、明晰化,設(shè)置自主注銷后的“冷靜期”,即注銷后一段時間內(nèi)禁止同一用戶的注冊和使用。為了更好保護未成年用戶和存在心理問題的用戶,還應(yīng)設(shè)置監(jiān)護人權(quán)限,賦予監(jiān)護人暫時凍結(jié)賬號的權(quán)利。

3.以觸發(fā)限制機制阻止提示

提示是行為發(fā)生的決定性要素,沒有提示行為就不會發(fā)生[5]115。成癮性科技設(shè)計觸發(fā)機制不斷提示用戶進行使用,因此用戶的自我防御機制應(yīng)幫助用戶過濾不必要的觸發(fā)。觸發(fā)限制機制包括以下兩部分:(1)優(yōu)化默認設(shè)置?！皦哪J”允許無限制地向用戶發(fā)送軟件消息提醒、手機短信、電子郵件,使用戶隨時隨地收到提示,易誘發(fā)成癮使用,對默認設(shè)置優(yōu)化,除好友間通信外,默認禁止對用戶發(fā)送提示行為,除非用戶因存在切實需要而自行設(shè)置準許接收。(2)設(shè)定免擾時間。即使用戶同意接受觸發(fā),但亦應(yīng)當(dāng)為用戶設(shè)置合理的免擾時間,尤其是在深夜時段,學(xué)生用戶的上課時間亦應(yīng)禁止一切的主動觸發(fā)行為。(3)禁止人工智能或社交機器人對用戶進行自動化的點贊、回復(fù)、評論等行為,防止人工智能的自動化回復(fù)與算法結(jié)合隨時對用戶進行提示。

(三)第二層級的糾正措施后置介入

糾正措施的后置介入是在第一層級預(yù)設(shè)的規(guī)制目標(biāo)未達成時所采取的規(guī)制手段,糾正措施雖發(fā)生于事后,但其所蘊含的威懾力卻足以敦促企業(yè)主動達成規(guī)制目標(biāo)以免受到懲戒。

糾正措施適用應(yīng)當(dāng)先建立對成癮性科技行政檢查。元規(guī)制中的行政檢查兼具執(zhí)法行為與監(jiān)督行為的雙重屬性,若預(yù)設(shè)規(guī)制目標(biāo)已然達成,規(guī)制機關(guān)應(yīng)選擇尊重現(xiàn)狀而非懲戒。質(zhì)言之,行政檢查的根本目的在于檢驗規(guī)制目標(biāo)是否被達成,以決定后續(xù)是否進行介入。成癮性科技數(shù)量龐大,因此行政檢查應(yīng)當(dāng)與分級分類監(jiān)管、信用監(jiān)管結(jié)合,著重將規(guī)制資源重點投入運營超大平臺的企業(yè)、存在違法或不良信用記錄的企業(yè)以及對未成年人影響較大的游戲型成癮性科技運營企業(yè)。

糾正措施應(yīng)逐步搭建“執(zhí)法金字塔”體系。在理想狀態(tài)情況下,規(guī)制機關(guān)應(yīng)擁有從強到弱的多種懲戒工具,形成懲戒力度拾級而上的執(zhí)法金字塔。但是,目前我國尚未建立成癮性科技法律規(guī)制的框架,亦未制定專門規(guī)范性文件,規(guī)制機關(guān)能夠?qū)で蟮降囊?guī)制工具極其有限。規(guī)制機關(guān)在個案處理上應(yīng)將行政約談為首要工具選項,發(fā)揮行政約談的威懾效力,解除迫在眉睫的嚴重風(fēng)險。行政約談亦是一項靈活性較強的對話式規(guī)制工具,有助于規(guī)制機關(guān)建立與企業(yè)的互信基礎(chǔ),為后續(xù)規(guī)制中的合作進行鋪墊。待成癮性科技的法律規(guī)制通過漸進優(yōu)化走向成熟,則應(yīng)開始豐富規(guī)制工具種類,制定由弱到強的完整金字塔式懲戒體系:首次犯錯且改正積極的企業(yè)予以低力度的警告、教育和約談;對屢教不改的企業(yè)則漸次加強懲戒力度,依次采取重點監(jiān)管、負面信息公布、行政罰款、添加數(shù)字成癮標(biāo)簽直至最嚴重的吊銷行政許可和全面下架[43]。唯如此,才能既幫助偶然違法者改正行為,又能夠?qū)伊P屢犯、拒絕改正者施加嚴厲的處罰。

四、成癮性科技風(fēng)險的合作規(guī)制

成癮性科技的合作規(guī)制能夠提供自我規(guī)制與外部規(guī)制以外的資源。作為合作對象的硬件廠商、應(yīng)用商店、第三方軟件皆為私主體,反而不必如規(guī)制機關(guān)般囿于法律授權(quán),可以實施更強力度的措施。此外,合作規(guī)制還可以為用戶提供“冗余保護”,即合作規(guī)制提供的保護形式與自我規(guī)制、外部規(guī)制存在措施上或?qū)ο笊系闹丿B[44]302-303,其優(yōu)勢在于能夠大大提高規(guī)制容錯率,多重保護機制的任意一項都能起到保護作用。

(一)硬件廠商

硬件廠商在技術(shù)層面擁有較高優(yōu)勢,通過自身掌握的系統(tǒng)與硬件權(quán)限能夠?qū)τ脩舻母黝惓砂a性科技使用情況進行監(jiān)控和限制,并且硬件廠商還擁有較強的規(guī)制參與動機,硬件廠商能夠通過預(yù)防成癮風(fēng)險、為用戶提供更好的注意力保護而提升自身市場競爭力,部分硬件廠商已經(jīng)將預(yù)防成癮作為產(chǎn)品的獨特優(yōu)勢⑥。硬件廠商在成癮性科技合作規(guī)制中,可以從以下方面發(fā)揮作用:(1)硬件廠商運用自身技術(shù)優(yōu)勢和對數(shù)據(jù)、算法底層邏輯的深刻理解開發(fā)新型反成癮機制,例如小米公司開發(fā)的“空白通行證”,允許用戶以一個空白的虛擬身份使用成癮性科技,當(dāng)成癮性科技試圖獲取用戶的個人信息或使用情況信息時,系統(tǒng)會自動反饋空白信息,“空白通行證”能夠有效防御用戶個人信息泄露和成癮算法影響,規(guī)制機關(guān)應(yīng)鼓勵指引此類工具的開發(fā)。(2)硬件廠商掌握設(shè)備出場的默認設(shè)置和默認安裝軟件,規(guī)制機關(guān)可引導(dǎo)要求廠商將反成癮機制設(shè)置為默認開啟或預(yù)裝第三方的反成癮軟件應(yīng)用;與之相對,規(guī)制機關(guān)亦可要求硬件廠商參與對違法劣跡成癮性科技的懲戒,不得將其作為預(yù)裝應(yīng)用。(3)硬件廠商擁有較高設(shè)備權(quán)限,其設(shè)置的反成癮機制能夠全面監(jiān)控硬件內(nèi)每個成癮性科技的使用情況,掌握成癮性科技的通知次數(shù)、亮屏次數(shù)、使用時間、使用時間段等重要信息,這些信息可以作為規(guī)制機關(guān)認定成癮性程度的重要依據(jù),更進一步,硬件廠商可以憑借信息優(yōu)勢成為數(shù)字成癮標(biāo)簽相關(guān)標(biāo)準制定的重要參與者。

(二)應(yīng)用商店

應(yīng)用商店是用戶獲取各類應(yīng)用軟件的主要渠道,是成癮性科技流入市場走向用戶的關(guān)鍵樞紐,具有強大的規(guī)制能力和規(guī)制資源,是合作規(guī)制中不可或缺的參與者。應(yīng)用商店在成癮性科技合作規(guī)制中,可以從以下方面發(fā)揮作用:(1)應(yīng)用商店是數(shù)字成癮標(biāo)簽的有力推行者,可以在用戶獲取應(yīng)用軟件這一關(guān)鍵節(jié)點提供具備及時性、吸引力的助推,幫助用戶遠離成癮性科技,倒逼企業(yè)控制、降低成癮性。(2)應(yīng)用商店可以將成癮性納入應(yīng)用軟件的質(zhì)量評價體系中,高成癮性的應(yīng)用軟件將被認定為低質(zhì)量,進而降低其推薦指數(shù)和榜單排名,營造低成癮性競爭氛圍。(3)規(guī)制機關(guān)在當(dāng)前法律框架下缺乏對成癮性科技采取規(guī)制行動的法律依據(jù),對成癮性科技采取的懲戒極易構(gòu)成行政行為違法,嚴重限制了規(guī)制力度,但應(yīng)用商店作為私主體不受此限制,不僅可以添加數(shù)字成癮標(biāo)簽和警示信息,對于一些對用戶造成嚴重風(fēng)險的成癮性科技還可以直接將其下架,被應(yīng)用商店下架的成癮性科技不僅失去推廣和下載渠道,還會被市場認為不值得信任。質(zhì)言之,比之規(guī)制機關(guān),應(yīng)用商店擁有更多手段,能夠進行力度更強的懲戒。

規(guī)制實踐中應(yīng)用商店的潛能尚未得到激發(fā),應(yīng)用商店為了獲取廣告費和利潤分成而為成癮性科技提供宣傳、下載、付費渠道,反而成為成癮性科技事實上的共謀者。規(guī)制機關(guān)應(yīng)當(dāng)重塑應(yīng)用商店的規(guī)制角色,將其視為有潛力的規(guī)制合作者充分發(fā)揮其規(guī)制潛力。應(yīng)用商店與成癮性科技存在商業(yè)利益上的捆綁,規(guī)制角色轉(zhuǎn)換不會自然生成,規(guī)制機關(guān)需要運用“蘿卜+大棒”的策略施加引導(dǎo)。應(yīng)用商店平臺所提供的平臺服務(wù)具有公共面向,除非存在法定事由或者其他正當(dāng)理由,平臺不應(yīng)對入駐平臺的成癮性科技實施拒絕服務(wù)或者差別化對待[45],否則便有違反服務(wù)義務(wù)之風(fēng)險。為了打消應(yīng)用商店平臺的顧慮,規(guī)制機關(guān)應(yīng)當(dāng)承認應(yīng)用商店平臺對成癮性科技采取管制行為的合法性,允許應(yīng)用商店平臺根據(jù)具體情節(jié)對成癮性科技實施警告、添加數(shù)字成癮標(biāo)簽、降低排名、屏蔽、下架等措施[46],保證應(yīng)用商店平臺不會因此遭到來自反壟斷或反不正當(dāng)競爭等方面的調(diào)查與處罰,并且對存在爭議的管制措施進行善意推定,肯定應(yīng)用商店的規(guī)制治理權(quán)能,此乃規(guī)制機關(guān)提供的“蘿卜”。規(guī)制機關(guān)還應(yīng)為應(yīng)用商店劃定紅線,一方面防止應(yīng)用商店出于經(jīng)濟動因怠于對成癮性科技風(fēng)險采取防范措施,另一方面亦預(yù)防應(yīng)用商店以整治成癮性科技之名而打壓其他企業(yè)或?qū)ψ陨砥煜碌某砂a性科技實施自我優(yōu)待。若應(yīng)用商店平臺明顯違背合理注意義務(wù)、采取明顯不合理的措施時,規(guī)制機關(guān)應(yīng)進行介入并對應(yīng)用商店平臺施加懲戒,措施包括但不限于傳統(tǒng)的警告、負面信息公布、財產(chǎn)罰,抑或?qū)?yīng)用商店征收庇古稅,削弱應(yīng)用商店濫用自身地位獲取經(jīng)濟利益的動因,此乃對應(yīng)用商店產(chǎn)生威懾的“大棒”。

(三)戒癮軟件

面對成癮模型與數(shù)據(jù)算法加持的成癮性科技,用戶即便認識到自己已經(jīng)成癮亦難通過自主控制注意力形成有效對抗,因此需要求助于外力,戒癮軟件由此應(yīng)運而生。戒癮軟件與用戶防御機制類似,通過與成癮模型逆向運行的方式,從動機、能力、提示方面著手幫助用戶實現(xiàn)戒癮目標(biāo),為用戶提供了更多選擇和額外保護。戒癮軟件主要包括如下類型:(1)動機激勵型戒癮軟件,成癮性科技運用稟賦效應(yīng)使用戶成癮,動機激勵型戒癮軟件則將稟賦效應(yīng)用于鼓勵用戶戒除成癮使用。此類軟件允許用戶制定戒除目標(biāo),當(dāng)目標(biāo)達成時會以游戲化的形式提供獎勵,例如虛擬的勛章、森林或城鎮(zhèn),一旦用戶“違約”,便會受到帶有隱喻性質(zhì)的懲罰,勛章會被剝奪、森林會枯萎、城鎮(zhèn)建筑會倒塌[47],通過獎懲帶來的稟賦效應(yīng)用戶會被賦予戒除成癮使用動機,以抵消使用成癮性科技的影響。(2)障礙設(shè)置型戒癮軟件,與自主限制機制原理相同,通過限制用戶使用能力的方式防止用戶過度使用成癮性科技。在時間要素方面,這類軟件可以在用戶過度使用后,或達到臨界點前激活。在障礙要素方面,存在提示用戶已經(jīng)或?qū)⒁^度使用的弱障礙,在特定時間段或使用超時則禁止使用的強障礙,微交互(Microboundary Interactions)則是居于二者之間的新穎方式,通過在主界面上隱藏成癮性科技圖標(biāo),使其更難被用戶找到的方式增加使用中的摩擦成本[47]。(3)小組互助型戒癮軟件(Group-based Limiting Assistance App)[48],利用了社會性助推原理,將社會支持作為戒癮的動機和觸發(fā)[47],主要包含三項功能:一是戒癮榜單,群組成員可以相互查看手機使用情況、戒癮成就和戒癮排名,如戒癮軟件Hold為積分靠前用戶設(shè)置皇冠圖標(biāo),戒癮軟件Focus則為排名前三的用戶制定金銀銅牌。榜單的設(shè)置喚醒了團體內(nèi)的競爭意識,將其塑造為團體成員的戒癮動機。二是群組限制模式,組員可以創(chuàng)建虛擬房間,進入房間內(nèi)的組員在特定時間內(nèi)禁止使用任何成癮性科技以專注于學(xué)業(yè)、社交、工作。三是協(xié)同定位功能,當(dāng)兩名或以上好友處于同一地點,此功能便會觸發(fā),鼓勵該地點附近的好友一同限制成癮性科技的使用,轉(zhuǎn)而專注于線下事務(wù),此功能對在校學(xué)生群體極有助益,能夠幫助他們專心完成課程。

戒癮軟件和規(guī)制機關(guān)同樣具有強烈的幫助用戶防范成癮性科技風(fēng)險的動機,但受經(jīng)濟利益所驅(qū)動,戒癮軟件在專注度、技術(shù)能力、防御措施更新速度等方面高于規(guī)制機關(guān),且更易接觸用戶,規(guī)制機關(guān)應(yīng)發(fā)揮戒癮軟件的保護作用,對研發(fā)運營戒癮軟件的企業(yè)進行引導(dǎo)扶持。

五、成癮性科技風(fēng)險外部規(guī)制的工具創(chuàng)新與改革

除了嵌入元規(guī)制與合作規(guī)制中的部分規(guī)制工具,規(guī)制機關(guān)針對成癮性科技風(fēng)險實施的“純粹外部規(guī)制工具”應(yīng)當(dāng)進一步創(chuàng)新與改革,以數(shù)字成癮標(biāo)簽工具實現(xiàn)助推規(guī)制治理,以經(jīng)濟工具進行敏捷治理,以科技倫理治理尋求根源性規(guī)制治理。

(一)數(shù)字成癮標(biāo)簽

標(biāo)簽是助推規(guī)制體系中的重要工具,標(biāo)簽提供者試圖以標(biāo)簽鼓勵人們做出更好的選擇,但并不追求對人們施加強力控制,質(zhì)言之,貼標(biāo)簽是為了提高認識,實現(xiàn)認知和行為的改變的教育型助推工具[49]。標(biāo)簽被廣泛應(yīng)用于成癮性物質(zhì)如藥物、煙草、酒精[50]的規(guī)制,成癮性科技的強制性標(biāo)簽規(guī)定目前暫付闕如。數(shù)字成癮標(biāo)簽?zāi)軌驅(qū)崿F(xiàn)教育功能、分級分類功能、借由標(biāo)簽解釋實現(xiàn)的信息傳遞功能、懲戒功能,是一項有潛力的教育型助推工具:(1)教育功能是數(shù)字成癮標(biāo)簽的基礎(chǔ)功能。成癮性科技的概念尚未普及,用戶對此缺乏認識,數(shù)字成癮標(biāo)簽的設(shè)立能夠在短時間內(nèi)喚起社會共同體對成癮性科技的重視,為用戶樹立限制、戒除使用的目標(biāo)。來自煙草研究的證據(jù)表明,描述消費不良后果的健康警告標(biāo)簽改變了吸煙行為,其中圖文并茂(Image-and-text)的健康警告標(biāo)簽最有效[50],數(shù)字成癮標(biāo)簽的亦應(yīng)采取此設(shè)計,標(biāo)簽還應(yīng)遵循助推的及時性原則,在“壞習(xí)慣發(fā)生前”對用戶進行教育,把握用戶的下載、首次使用、開啟軟件界面等關(guān)鍵時機展示標(biāo)簽教育用戶。(2)數(shù)字成癮標(biāo)簽的分級功能是教育功能的實現(xiàn)與延伸。若將所有成癮性科技“一視同仁”地打上完全相同的數(shù)字成癮標(biāo)簽將會使用戶難以識別其中哪些成癮性更強,從而產(chǎn)生困惑,降低了標(biāo)簽的教育功能。況且,被貼上數(shù)字成癮標(biāo)簽的成癮性科技則可能更加毫無顧忌地提升成癮性,反而削弱標(biāo)簽威懾力。因此,應(yīng)按照成癮性強弱制定多層級的數(shù)字成癮標(biāo)簽:首先,數(shù)字成癮標(biāo)簽的分級可以使用戶更加直觀地認識每款成癮性科技的成癮風(fēng)險高低,實現(xiàn)對用戶的有效教育、指引;其次,不同級別的成癮標(biāo)簽應(yīng)分別設(shè)置相應(yīng)的推薦使用年齡段,實現(xiàn)對未成年人的重點保護;最后,標(biāo)簽的分級能夠有效應(yīng)對成癮性科技的頻繁變化特性,對于主動采取措施降低成癮性的成癮性科技可以降低其成癮等級,直至完全去除標(biāo)簽,反之,成癮等級則將不斷升高,質(zhì)言之,標(biāo)簽等級的變化能夠向企業(yè)傳達激勵或警示,敦促其降低成癮性。(3)標(biāo)簽解釋是數(shù)字成癮標(biāo)簽的重要一環(huán),用戶在看到標(biāo)簽后會產(chǎn)生疑問與好奇,此時提供相關(guān)信息既符合助推規(guī)制的及時性原則,又可降低用戶獲取信息的摩擦成本,使用戶可以及時展開成癮性科技相關(guān)知識、信息的學(xué)習(xí)。標(biāo)簽解釋向企業(yè)則會釋放規(guī)制信號和提供行動指南,使之有意識地降低成癮性以避免被打上數(shù)字成癮標(biāo)簽。標(biāo)簽解釋還能夠防止標(biāo)簽被濫用、錯用,一定程度上預(yù)防標(biāo)簽提供方的恣意行為。(4)標(biāo)簽還附帶有懲戒功能。數(shù)字成癮標(biāo)簽可以成為信息規(guī)制工具,對成癮性科技及其研發(fā)運營企業(yè)予以負面評價。在互聯(lián)網(wǎng)時代,負面評價更易傳播,對企業(yè)的潛在影響可能更甚于經(jīng)濟處罰,足以形成有效的懲戒與威懾。

(二)庇古稅

命令—控制型工具祛魅化后,規(guī)制機關(guān)認識到經(jīng)濟型規(guī)制工具能夠?qū)⑼獠砍杀緝?nèi)部化,并由此實現(xiàn)企業(yè)行為的矯正,因此對其日益重視[51]248-249。在成癮性科技的法律規(guī)制中,經(jīng)濟型規(guī)制工具能夠影響企業(yè)的成本收益,實現(xiàn)對其行為的深層引導(dǎo)。

對成癮性科技而言,庇古稅(Pigouvian Taxation)是最佳的經(jīng)濟型規(guī)制工具。市場配置資源失效的原因之一是經(jīng)濟活動當(dāng)事人的私人成本與社會成本不一致,致使私人的最優(yōu)并非社會最優(yōu),“糾正外部性的方案便是政府通過征稅或者補貼來矯正經(jīng)濟活動當(dāng)事人的私人成本”[52],即庇古稅方案。庇古稅早期的治理對象是環(huán)境污染,亦可應(yīng)用于成癮性科技的法律規(guī)制[42]。庇古稅的規(guī)制進路具有以下優(yōu)勢:(1)成癮性科技使企業(yè)獲利頗豐,但其帶來的風(fēng)險和治理成本卻由整個社會承擔(dān),產(chǎn)生巨大的負外部性,征收庇古稅能夠在一定程度對負外部性進行抵消,降低成癮性科技帶來的隱形經(jīng)濟損失。(2)庇古稅的征收會削弱企業(yè)濫用成癮性科技的經(jīng)濟動因,促使其積極開創(chuàng)其他盈利模式而非基于商業(yè)慣性繼續(xù)展開無休止的成癮性競爭。(3)庇古稅具有較高靈活性,是實現(xiàn)敏捷治理的規(guī)制工具。規(guī)制機關(guān)可以通過調(diào)節(jié)庇古稅的稅率應(yīng)對不同規(guī)制任務(wù),若是為了彌補負外部性可以適用較低稅率,若有進一步的證據(jù)表明成癮性科技存在嚴重風(fēng)險則可提升稅率直至企業(yè)不得不放棄成癮性科技的研發(fā)運營,在一些重點領(lǐng)域,例如游戲型成癮性科技,亦可采取更高的稅率以保護未成年人為主體的用戶。(4)庇古稅較之全面禁止等強硬措施而言,提供了緩和余地,體現(xiàn)了包容審慎的規(guī)制理念。成癮模型與算法已經(jīng)深刻融入至各類應(yīng)用軟件的底層設(shè)計邏輯中,要求短時間內(nèi)禁止全部成癮性科技,或者將成癮模型與算法全部剝離,會給企業(yè)帶來巨大負擔(dān),而庇古稅的征收既能夠表達我國治理成癮性科技的決心、敦促企業(yè)擺脫商業(yè)惰性,又為企業(yè)留足時間對應(yīng)用軟件和盈利模式進行漸進性優(yōu)化乃至實現(xiàn)轉(zhuǎn)型。在我國,庇古稅可以采取政府性基金模式,收取的資金進行專款專用,投入對成癮性科技的風(fēng)險研究、數(shù)字成癮標(biāo)簽研究、用戶防御機制研究、科技倫理治理研究等方面。

(三)科技倫理治理

成癮性科技的法律規(guī)制若僅著眼于應(yīng)對現(xiàn)有成癮模型與算法注定事倍功半。隨著行為經(jīng)濟學(xué)與算法工具的不斷發(fā)展,企業(yè)可以輕而易舉地找到替代性的模型與算法,加之立法固有的滯后性,規(guī)制機關(guān)幾乎永遠無法趕上企業(yè)開發(fā)新型成癮性科技的步伐。規(guī)制機關(guān)應(yīng)轉(zhuǎn)向根源治理,尋求從源頭遏制不負責(zé)任的成癮性科技研發(fā)行為,科技倫理治理是實現(xiàn)根源治理的可行路徑。

科技倫理治理架構(gòu)在早期多屬指導(dǎo)性或者自律性。伴隨科學(xué)技術(shù)逐步深入地嵌入社會、經(jīng)濟、政治和文化機理中,其對社會核心價值和利益分配機制的沖擊日益深遠,國家開始通過法律手段介入,科技倫理治理日漸與法律規(guī)制產(chǎn)生嵌合[53]。2021年修訂《科學(xué)技術(shù)進步法》第112條規(guī)定,對進行違背科技倫理的科學(xué)技術(shù)研究開發(fā)和應(yīng)用活動的行為采取責(zé)令改正、追回財政性資金、沒收違法所得、公布違法行為等懲戒措施。2021年發(fā)布的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》以強化科技倫理意識作為算法治理基本原則,將科技倫理審查作為算法監(jiān)管體系的重要一維,并規(guī)定企業(yè)建立科技倫理審查制度責(zé)任。2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第8條規(guī)定,“算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型”,認定企業(yè)采取誘導(dǎo)用戶成癮行為系對倫理道德的違反。2022年中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》明確了增進人類福祉、合理控制風(fēng)險的科技倫理原則,提出倫理先行、敏捷治理的要求。

我國對成癮性科技進行科技倫理治理已經(jīng)具備初步的法制基礎(chǔ)和法規(guī)依據(jù),但仍須細化微觀倫理原則、構(gòu)建科技倫理治理組織基礎(chǔ)、建立科技倫理責(zé)任制度,使科技倫理治理具備現(xiàn)實執(zhí)行力:(1)構(gòu)建以行政引導(dǎo)為主的倫理商談程序,確立秩序目標(biāo)。科技倫理治理尚處萌發(fā)階段,企業(yè)對科技倫理目標(biāo)缺乏認知和重視,行政引導(dǎo)能夠短時間內(nèi)自上而下地樹立以下三個層面的秩序性目標(biāo),一是反思性目標(biāo),通過交流辯論方式明晰各方價值主張的基礎(chǔ)與邏輯,傳達規(guī)制機關(guān)的科技倫理要求,亦聽取企業(yè)基于商業(yè)邏輯提出的合理主張;二是認知性目標(biāo),彌合規(guī)制機關(guān)—企業(yè)—行業(yè)—專家—公眾各方對于成癮性科技的認知差距,使各方在具備相對理性客觀認知的前提下展開價值交流探討;三是規(guī)劃性目標(biāo),規(guī)制機關(guān)在前兩個目標(biāo)基礎(chǔ)上,對成癮性科技的價值理念做出指南,要求企業(yè)在研發(fā)過程中注入向善的價值理念[54]。(2)開展微觀倫理學(xué)研究,制定行為指南。徒有抽象的倫理原則難以有效指導(dǎo)企業(yè),將抽象的倫理原則細化為行為指南,增強倫理原則的行為指引制度能力[54]。哈佛大學(xué)伯克曼互聯(lián)網(wǎng)與社會研究中心提出的“宏觀倫理原則—具體行為指引”的基本范式給成癮性科技的行為指南提供有益借鏡⑦,提供現(xiàn)階段的即時應(yīng)對,隨著成癮性科技的認識加深,行為指南還將繼續(xù)細化完善。(3)建立科技倫理審查委員會,為科技倫理治理提供組織基礎(chǔ)。倫理審查委員會承擔(dān)著個案倫理審查、倫理研究、制定行為指南、組織公共倫理辯論、政策和決策咨詢等多項職能,在科技倫理治理中不可或缺。我國可借鑒目前較為完善的生命健康領(lǐng)域倫理委員會組建的經(jīng)驗[55],建立互聯(lián)網(wǎng)經(jīng)濟和應(yīng)用軟件領(lǐng)域?qū)ｉT倫理審查委員會,將成癮性科技在內(nèi)的應(yīng)用軟件研發(fā)運營納入審查范圍。同時,我國應(yīng)當(dāng)鼓勵較大規(guī)模企業(yè)展開內(nèi)部倫理審查信息化平臺建設(shè),將之作為自我規(guī)制的重要組成部分。(4)建立科技倫理責(zé)任制度。規(guī)制機關(guān)囿于規(guī)制資源所限難以對大量涌現(xiàn)的應(yīng)用軟件進行面面俱到的審查,故應(yīng)強化企業(yè)的科技倫理責(zé)任,使之成為科技倫理的首道防線。針對企業(yè)科技倫理失范行為,除依據(jù)《科技進步法》責(zé)令改正、沒收違法所得、負面信息公布外,還可采取列入重點監(jiān)管對象、失信懲戒等措施進一步加強懲戒力度,以及對技術(shù)直接負責(zé)的主管人員和其他直接責(zé)任人員進行個人責(zé)任追究。

六、結(jié)語

元規(guī)制—合作規(guī)制—外部規(guī)制三重體系能夠抵御成癮性科技風(fēng)險,但這并不意味法律規(guī)制就此終結(jié)。成癮性科技在注意力競爭背景下滲透至各個領(lǐng)域,衍生出媒體型成癮性科技、游戲型成癮性科技、購物型成癮性科技等,這些具體類型成癮性科技在特定場景造成的風(fēng)險危害尚有待進一步研究,元宇宙為代表的全新形態(tài)成癮性科技亦蓄勢待發(fā)。元宇宙是社會信息化和虛擬化的必然趨勢,被認為是互聯(lián)網(wǎng)發(fā)展的終極階段[56],也可能是成癮性科技的終極形態(tài),在元宇宙的具身交互性、全息化沉浸性、虛擬補償性共同作用下,用戶在元宇宙中獲得多重感官體驗,收獲感官快感,更重要的是在“隨心所欲”的空間中,用戶會獲得極大的自我認同和心理滿足,由此產(chǎn)生媒介依賴和成癮行為[57]。元宇宙超真實、超沉浸的環(huán)境若融入已頗為成熟的成癮模型與算法,所誕生的新型成癮性科技將遠非前代成癮性科技所能企及。面對當(dāng)下以及將來的挑戰(zhàn),法律規(guī)制需要進行理念轉(zhuǎn)軌,尋求達到家長主義、自由意志、商業(yè)自由三者之間的微妙平衡,積極推動企業(yè)開創(chuàng)新型盈利模式,使用戶在享受科技便利的同時免受成癮性科技風(fēng)險的侵擾、危害。

注 釋:

①“氪金”來源于我國游戲社區(qū),是指網(wǎng)絡(luò)游戲的充值,“抽卡”則是指充值所獲得的物品并非固定,是根據(jù)游戲預(yù)設(shè)的算法被“隨機”抽取。目前,絕大多數(shù)氪金抽卡網(wǎng)游采取保底策略,即抽卡達到一定數(shù)量必定出現(xiàn)某特定等級的游戲角色、物品或裝備,所以抽卡的結(jié)果不是真正意義上的隨機而是由算法進行操控。

②行為經(jīng)濟學(xué)認為人的大腦存在兩套系統(tǒng),系統(tǒng)1的運行是無意識且快速的,處于自主運行狀態(tài),容易犯邏輯上的錯誤;系統(tǒng)2負責(zé)復(fù)雜的運算和邏輯推理,其運行通常與行為、選擇和專注等主觀體驗相關(guān)聯(lián)(參見丹尼爾·卡尼曼:《思考,快與慢》,胡曉姣、李愛民、何夢瑩譯,中信出版社2012年版,第5-9頁)。

③參見王某與北京淘友天下科技發(fā)展有限公司隱私權(quán)糾紛案,北京市海淀區(qū)人民法院民事判決書,(2018)京0108民初25154號。

④捕鯨策略由鉤子(Hook)、習(xí)慣(Habit)、愛好(Hobby)三個階段組成,鉤子階段將為用戶提供廉價贈品,使用戶“上鉤”,養(yǎng)成充值付費習(xí)慣;習(xí)慣階段允許用戶通過充值獲得更快進度,因此更樂于游玩;愛好階段培養(yǎng)用戶將游戲作為日常生活的一部分,將充值金額不斷推高。See Mike Rose. Chasing the Whale: Examining the ethics of free-to-play game。https://www.gamedeveloper.com/business/chasing-the-whale-examining-the-ethics-of-free-to-play-games。

⑤例如被稱為史上最嚴禁令的《國家新聞出版署關(guān)于進一步嚴格管理切實防止未成年人沉迷網(wǎng)絡(luò)游戲的通知》出臺后不久,網(wǎng)上即盛傳“60歲花甲老太太,凌晨三點進行游戲,并17次通過人臉識別”,此事甚至還引起中宣部、國家新聞出版署對騰訊、網(wǎng)易進行約談。(參見杭州網(wǎng). “60歲老太凌晨用趙云五殺”騰訊回應(yīng):人臉識別17次,認為確系“本人”在游戲。https://news.hangzhou.com.cn/shxw/content/2021-09/10/content_8051065.htm)

⑥例如奇虎 360集團旗下獨立業(yè)務(wù)公司北京安云世紀科技推出了基于安卓 11 系統(tǒng)的 360 OS手機,該手機以青少年防沉迷功能作為主要競爭優(yōu)勢;華為、小米、OPPO三個手機品牌則各自研發(fā)了內(nèi)置的反成癮機制。(參見三易生活. 360新機Q20 Pro現(xiàn)身,主打青少年防沉迷功能。 https://new.qq.com/rain/a/20220922A08BR000;中關(guān)村在線. 玩手機“成癮”得戒 華為小米OPPO防沉迷實測對比。https://mobile.zol.com.cn/778/7785006.html)

⑦在“宏觀倫理原則—具體行為指引”的基本范式可以推導(dǎo)出以下成癮性科技治理的行為指南:(1)不傷害原則,企業(yè)不應(yīng)研發(fā)對用戶產(chǎn)生傷害的成癮模型與算法;(2)人類福祉原則,企業(yè)在成癮性科技運營前應(yīng)進行社會影響評估;(3)透明與可解釋原則,企業(yè)應(yīng)履行對成癮模型與算法的雙重解釋義務(wù);(4)技術(shù)責(zé)任原則,企業(yè)及其技術(shù)人員在開發(fā)過程中應(yīng)進行負責(zé)任的設(shè)計并承擔(dān)責(zé)任;(5)知情同意原則,進行成癮性科技“同意治理”,不得運用簡化和默認設(shè)置將知情同意空洞化。See Fjeld,Jessica,Nele Achten,et al:Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI,Berkman Klein Center for Internet &Society 5(2020)1-68.