吳小玉

摘 要：在信息超載時代，算法主導下的自動化決策對用戶的信息接收發(fā)揮著“過濾氣泡”效應，這會損害用戶的知情權。本文將結合算法分發(fā)的邏輯探尋互聯(lián)網(wǎng)時代的信息糾偏方法。在增加算法透明度，加強人工審查的基礎上，創(chuàng)新性地提出算法解釋權，通過事先防范和事后追責全方位應對算法“黑箱”，保障用戶的知情權，努力維護公平正義。

關鍵詞：算法;過濾氣泡;知情權

中圖分類號：G211 ???文獻標識碼：A ????文章編號：1672-8122（2019）07-0028-02

隨著互聯(lián)網(wǎng)的廣泛普及，由于其擁有幾乎無限的存儲空間和快速生產(chǎn)內(nèi)容的能力把人類帶入了信息超載時代。每個人每天都會面對大量的信息，如果僅靠自己根本無法處理分析進而篩選出有效的內(nèi)容。為應對信息超載，以大數(shù)據(jù)驅動的智能算法推薦系統(tǒng)逐漸應用到社會生活的各個領域[1]。面對海量信息，智能算法會根據(jù)用戶的在線行為計算分析出個人的興趣愛好和行為趨向，從而幫助用戶做出自動化決策。

李普曼曾說，在大眾傳播時代，受眾接觸到的環(huán)境并非真實環(huán)境，而是大眾傳播媒介通過對信息的選擇、加工和報道，重新加以結構化以后向人們所提示的環(huán)境，即“擬態(tài)環(huán)境”[2]。在互聯(lián)網(wǎng)時代，這一現(xiàn)象非但沒有消失反而有了新的表現(xiàn)并進一步深化。內(nèi)容提供商會根據(jù)用戶的在線行為、愛好偏向等向用戶推薦個性化的內(nèi)容，每個人接收到的信息都是個性化的網(wǎng)絡過濾器為用戶提供的，久而久之，用戶就被包裹在自己和算法共同構建的“信息繭房”中，看不到自己不感興趣或算法以為你不感興趣的信息。這將會導致信息的失衡和偏見，如何應對這一狀況成為重要議題。

為此，筆者提出以下兩個問題：1.僅依靠智能算法分發(fā)信息，用戶會面臨什么問題？ 2.在這種情況下如何保障用戶的權利？

一、算法推送對用戶的信息接收發(fā)揮“過濾氣泡”效應

“過濾氣泡”一詞最早由公民行動網(wǎng)站MoveOn.org的前執(zhí)行董事Eli Pariser提出，他認為“過濾氣泡”就是人們在互聯(lián)網(wǎng)所處的個人化的信息世界，這是由一系列個性化的過濾器為網(wǎng)絡用戶構造出來的獨特環(huán)境[3]。他認為個性化搜索、新聞推送以及其他以用戶為導向的內(nèi)容限制了我們接觸新知識和新觀點的范圍和途徑，我們無法接觸到完整的信息。以Facebook為例，在2018年“泄露門”事件后，F(xiàn)acebook用戶反映，美國總統(tǒng)大選期間，支持共和黨的民眾在Facebook上無法接收到關于民主黨的內(nèi)容。英國脫歐公投期間，支持脫歐的民眾無法看到對英國留在歐盟有利的言論。民眾在Facebook上看到的信息都由自己的在線歷史行為決定，F(xiàn)acebook的算法將會據(jù)此對民眾進行精準的信息投放，在這個過程中，算法會自動過濾用戶不感興趣的內(nèi)容，呈現(xiàn)的都是用戶喜歡的信息，在其中發(fā)揮著自動過濾作用。

但令人憂慮的是，算法的自動化推薦往往不能發(fā)揮信息的核實審查作用反而會助長虛假和極端觀點、低俗內(nèi)容的傳播[3]。由于信息的爆炸式增長，用戶身邊每天都充斥著各種各樣的信息，那些帶有激烈情緒的極端觀點、低俗信息、色情暴力內(nèi)容由于容易牽動情緒、博人眼球而更易引起轉發(fā)。在算法邏輯的自動分發(fā)下，這樣的信息自然更容易被推薦給用戶。以今日頭條為例，今日頭條及其旗下APP中充斥著大量的低俗內(nèi)容，如未成年人早戀、未婚先孕等，而這些即使是成人世界都感到難以啟齒的話題，在網(wǎng)絡世界卻借助算法大肆傳播，今日頭條也因此多次被國家網(wǎng)信部約談整改。

智能算法對信息的自動篩選和自動推薦帶來了用戶接收信息的“窄化效應”，而這一自動決策完全處于算法“黑箱”中，服務商并不會公布背后的算法原理，即使公布了，普通用戶也很難理解算法的運作和邏輯，因此損害了用戶的知情權。

二、通過增加算法透明度和人工糾偏保障用戶權利

2018年1月11日，今日頭條首次對外公布了自己的核心算法，讓算法更透明，并希望能推動行業(yè)算法推薦的有序發(fā)展。今日頭條對外公布部分核心算法屬于行業(yè)首例，一定程度上促進了互聯(lián)網(wǎng)行業(yè)提高算法的透明度，保障了用戶權利。

算法透明度是指機構公開算法可以做什么及其這樣做的原因，幫助用戶理解技術操作背后的價值觀、偏見和意識形態(tài)，從而使得“過濾氣泡”的產(chǎn)生過程透明化，進而讓用戶自己決定“氣泡”生成的程度和對自己的影響[3]。提高算法的透明性對各方都有益處，對用戶，算法透明性可以增進信任，讓其知道算法系統(tǒng)可以做什么及其這樣做的原因，也可以增加用戶對算法推送的信心;對相關監(jiān)管機構，算法透明性則確保了算法系統(tǒng)可以接受審查，如果發(fā)生事故便于究因和追責。此外，算法透明性也有利于規(guī)范行業(yè)秩序，通過行業(yè)內(nèi)部的互相監(jiān)督和有序競爭促進行業(yè)健康發(fā)展[4]。

除此之外，加強對算法的人工糾正也很重要。2018 年 4 月 11 日，今日頭條CEO 張一鳴發(fā)表公開信，宣布將強化總編輯責任制，全面糾正算法和機器審核的缺陷，不斷強化人工運營和審核。今日頭條一直強調(diào)算法推薦“并非把一切都交給機器”，會通過人工審核過濾劣質(zhì)低俗信息，在一定程度上能減少這些信息的廣泛傳播。同樣，F(xiàn)acebook除了依靠其強大的智能推薦系統(tǒng)分發(fā)信息之外，還建立起了人肉反饋機制，與算法一起構成完善的反饋及平衡機制的系統(tǒng)，提高推薦的精準性。

三、通過算法解釋權保障用戶知情權

增加算法透明度是國內(nèi)外應對算法“黑箱”侵害公民權利時的共識，但也可以看出這種方法只能作為事先監(jiān)管的手段，而無法對已經(jīng)受到自動化決策損害的人提供救濟。對此，歐洲最先做出了重要舉措，2018 年實施的《歐洲通用數(shù)據(jù)保護條例》（GDPR）第 22 條規(guī)定：“應該采取適當?shù)谋Ｕ洗胧?，……保證數(shù)據(jù)主體獲得對此類評估之后達成的決定的解釋，并對決定提出質(zhì)疑?！边@表明歐洲在保障公民算法解釋權上的探索。

算法解釋權是指當自動化決策的具體決定對相對人有法律上或者經(jīng)濟上的顯著影響時，相對人向算法使用人提出異議，要求提供對具體決策的解釋，并要求更新數(shù)據(jù)或更正錯誤的權利[5]。其目的是讓相對人有權知道對其不利的決定是如何做出的，以便在確有算法歧視和數(shù)據(jù)錯誤時提供救濟。

算法解釋權是矯正信息不對稱性的重要手段。在智能化時代，數(shù)據(jù)鴻溝成為人和人之間不平等的根源之一，數(shù)據(jù)鴻溝導致了人和人之間的知識、信息獲取和掌握的不平等。自動化決策雖廣泛應用于信息分發(fā)，但知曉算法知識者寥寥，這種信息不對稱堪稱“黑箱”。與網(wǎng)絡服務商相比，用戶處于一直不平等的地位，因此需要為用戶提供算法解釋權，對自動化決策中的信息不對稱進行有效糾偏，使得信息從信息優(yōu)勢方向信息劣勢方流動，從而達到雙方平衡。

四、結 語

算法的治理是人工智能時代的重大法律問題，需要同時設置事前的風險防范機制和事后的問責制進行監(jiān)管?，F(xiàn)在的研究多為事前風險防范機制，即通過提高算法透明度，健全法律監(jiān)管，提高用戶媒介素養(yǎng)等對算法進行有效監(jiān)管，而對于算法的事后監(jiān)管問責方面的研究則較少。以算法解釋權為代表的算法問責制更能為受到侵害的主體提供幫助和救濟，也能有效分配權利和義務。 對一個個具體受到自動化不利決策的個體來說，算法解釋權可以彰顯個案中的公平和正義[5]。

參考文獻：

[1] 劉存地，徐煒.能否讓算法定義社會——傳媒社會學視角下的新聞算法推薦系統(tǒng)[J].學術論壇，2018（4）.

[2] （美）沃爾特·李普曼著.閻克文，江紅譯.公眾輿論[M].上海：上海人民出版社，2006.

[3] 許幼飛.如何戳破“過濾氣泡”算法推送新聞中的認知窄化及其規(guī)避[J].新聞與寫作，2018（9）.

[4] 王春暉.人工智能的倫理、法律與監(jiān)管聞[J].互聯(lián)網(wǎng)天地，2018.

[5] 張凌寒.商業(yè)自動化決策的算法解釋權研究[J].法律科學（西北政法大學學報），2018（3）.

[責任編輯：艾涓]