□文│江作蘇 劉志宇

在不久前成都舉行的2018年中國傳媒經(jīng)濟與管理學(xué)術(shù)年會上，筆者的學(xué)術(shù)團隊經(jīng)過長時間研究后提出的一個觀點獲得了“年度觀點獎”。這個觀點是：受眾已經(jīng)進入了“被算計的人”場景時代。這種概括性認(rèn)識不僅基于大量統(tǒng)計數(shù)據(jù)，而且基于人人都可以感受到的現(xiàn)實，即，在當(dāng)下數(shù)字與算法野蠻生長的時代，每個人都要意識到，在無所不包、無遠(yuǎn)弗屆的網(wǎng)絡(luò)場景中，只要身處傳播場域，幾乎每個人都已經(jīng)完成了各自的歷史性轉(zhuǎn)換：在以算法為驅(qū)動、以云計算托底、以移動通訊為支撐的條件下，受眾已經(jīng)不知不覺被轉(zhuǎn)化為了“被算計”的人。

新聞傳播學(xué)界很熟悉馬爾庫塞的“單向度人”學(xué)說。[1]他認(rèn)為，在后工業(yè)時代的大眾傳媒傳播作用下，流行價值觀被受眾內(nèi)化為倫理規(guī)范，使人們盲目地一味認(rèn)同，壓制了其多向度思考，也就使之失去了突破單向度行為，實施多向度選擇的能力。此處的向度（dimension），也可以翻譯成方面或維度。觀點表述中提到“被算計的人”，其“算計”一詞很難找到對應(yīng)的英文單詞。因為“calculate”一詞本意是純數(shù)學(xué)意義的“計算”，而中文的“算計”一詞除數(shù)學(xué)意義以外，還有“刻意追求某種目的”的含義。

當(dāng)下無處不在的“算計”從大家的日常生活中處處可以感知到，例如“×寶”靠算法精準(zhǔn)推送有利可圖的商品目錄以刺激用戶消費、“××頭條”據(jù)算法推送投受眾所好的內(nèi)容以賺取流量。這種依靠算法對人們的日常動態(tài)予以收集察驗，再通過“計算”而“算計”千千萬萬的個人，從而獲得商業(yè)利益或是影響力的做法，如今已是司空見慣。無論人們主觀上如何看待，你我都在客觀上進入了“被算計”的場景，而且正逐漸適應(yīng)這個場景的倫理。

一、難以逃避的“被算計”：算法下的倫理困境

不久前，某人收到一張明信片，寄送者是某國駐華使館的新聞文化處。對方寄這張明信片是為告知該使館辦了40年的一份文化性雜志停辦，以后不再寄贈。對方同時表示希望收件者用手機掃描明信片上的二維碼，今后可以用在線方式繼續(xù)向此人推送數(shù)字化雜志。這么一件小事，可以引起如下思考。

除了印刷媒體的式微外，印象最深的就是使館所寄的明信片要求收件掃描其二維碼，這就涉及“算法”和今后是否會“被算計”的問題。暫且不談該二維碼所導(dǎo)向的鏈接是否安全合法，只要掃碼，對方數(shù)據(jù)庫就可以獲得對方手機號碼?；谖覈謾C用戶登記實名制的技術(shù)前提，對方可以運用社會工程學(xué)的各種手段通過手機號碼獲得姓名、身份證號，進而輕易地運用算法獲得該人所有個人信息和社會交往的實時情況，這絕非聳人聽聞。

現(xiàn)實空間中的地址可以改變，但數(shù)據(jù)空間中的坐標(biāo)卻難以修改，收件掃碼后只要手機不換號，對方可以將其視為一個移動的信息之窗，隨時能全面探知個人動態(tài)，而對方幾乎沒有躲避的可能。

從這件小事引發(fā)的思考出發(fā)，圍繞“世界已經(jīng)進入了‘被算計的人’場景時代”這個觀點，再考察和思考一下我們的倫理與法律環(huán)境。當(dāng)下，中國學(xué)術(shù)界正在熱烈談?wù)摎W盟2018年生效的《一般數(shù)據(jù)保護條例》，[2]即GDPR，這個條例看似十分嚴(yán)格、細(xì)致甚至繁瑣，似乎是保護受眾不被過度“算計”的法寶。但是深入地進行思考，像GDPR中關(guān)于“信息遺忘權(quán)”的概念和相關(guān)規(guī)定有多大的可行性？人們甚至可以懷疑這是一個偽命題，因為像某國使館文化處對收件人多年以前的一個通信地址尚不會遺忘和刪除，那么數(shù)據(jù)服務(wù)商若得到了用戶的數(shù)據(jù)地址和信息會主動忘掉嗎？在需要動用的時候會選擇放棄嗎？這很難做到。

通過數(shù)字痕跡追蹤場景中的一切人是算法時代的媒介所共有之取向。人們打開網(wǎng)絡(luò)門戶，接受并運用海量信息獲取多種便利，這固然是一種享受，但是否要為此付出代價甚至讓渡部分權(quán)利呢？這是一個羅生門式的問題。很多時候用戶一旦提交個人數(shù)據(jù)，實際上就進入了不可逆的不被遺忘場景，很多難以預(yù)估的問題會由此產(chǎn)生。這在行為倫理上的確是兩難選擇。

用戶不可能既要求服務(wù)，又不透露個人信息，但用戶因透露個人信息而受到某種損害時，又會本能地指責(zé)整個算法場景無權(quán)收集和“算計”個人信息。這當(dāng)中的倫理平衡不易做到，所以受眾也應(yīng)當(dāng)進行計算和算計，算一算自己在獲取數(shù)據(jù)時的得失與選擇。從受眾意識層面來說，大眾媒介倫理素養(yǎng)要升級到更高層次，使受眾意識到自己是在一個被時刻“算計”的場景中生存，要評估客體“算計”的動機和目的。有這種認(rèn)知基礎(chǔ)，才能在享受權(quán)利的同時做出主動的倫理判斷和行為選擇。

二、倫理困境的“天元”：算計帶來的控制機制

時下風(fēng)行一時的算法推送技術(shù)是技術(shù)理性與人文理性相結(jié)合的產(chǎn)物。而這一產(chǎn)物在智能化場域中對人類最大的沖擊，是倫理問題。除了用戶的數(shù)據(jù)安全問題外應(yīng)當(dāng)看到，伴隨著傳播倫理的問題而來的問題已經(jīng)凸顯，例如社會不同群體間的語境阻隔和對受眾個人造成的信息繭房效應(yīng)，這些在新聞傳播研究中都已是熱門議題。在面對問題時，首先要看到傳播場域——即傳播倫理發(fā)生作用的前提已經(jīng)發(fā)生了變化，算法的“算計”給傳播加入了全新的控制機制。

算法主導(dǎo)下的傳播是真正的控制下的傳播。維納在1948年問世的《控制論》中提出，一切物質(zhì)存在，不管是天體、生物、機器直到人類社會以至于人的思維過程，都構(gòu)成一定的“系統(tǒng)”，具有不同形式的控制、反饋功能。[3]這一論點在傳播學(xué)中運用的基本思想便是運用反饋信息來調(diào)節(jié)和控制系統(tǒng)行為，達到預(yù)期的目的。當(dāng)下這種算計主導(dǎo)的新系統(tǒng)控制模式，其核心在于個性化的推薦算法，其通過無處不在的收集和運算，為整個傳播系統(tǒng)注入高效迅速的反饋。在這種新系統(tǒng)之內(nèi)，信息環(huán)境對人們信息的收集無處不在，且難以察覺。人們在打開各類基于大數(shù)據(jù)和算法技術(shù)的網(wǎng)頁和APP接受信息時，便將包含著信息的行為提供給了各類傳播主體，供其通過數(shù)據(jù)算法進行分析，發(fā)送反饋。這種由收集、運算、反饋、傳播組成的系統(tǒng)控制，構(gòu)成了“超級全景監(jiān)獄”和對受眾的“符號暴力”。

如美國學(xué)者馬克·波斯特所言，[4]人們正處于計算機數(shù)據(jù)庫信息模式下的技術(shù)性權(quán)力格局中，被限制在“超級全景監(jiān)獄”里。與相對熟悉的米歇爾·福柯之“全景監(jiān)獄”相比，“超級全景監(jiān)獄”不像?？抡J(rèn)為的那樣是19世紀(jì)監(jiān)視和規(guī)訓(xùn)的延伸，而是一種全新的模式。從監(jiān)視的程度與范圍而言，這種監(jiān)視更加隱蔽而無處不在，權(quán)力在這種監(jiān)視下如毛細(xì)血管一般延伸，觸及社會的每一寸空間，只要通過技術(shù)媒介進行信息活動，隨時隨地都會被捕捉到數(shù)據(jù)，并被進行反饋和推送；從監(jiān)視的建構(gòu)方式來說，“全景監(jiān)獄”里尚存在著人的主體意識，而“超級全景監(jiān)獄”中的主體構(gòu)建采取“客體化”的相反路線，通過分散的身份、通過連個體都沒意識到的身份生產(chǎn)這些個體——簡而言之，超級全景監(jiān)獄里的人們甚至都意識不到自己被“監(jiān)禁”了。這一概念的描述正是對“被算計”的人們當(dāng)下處境的生動寫照。

除了建構(gòu)“超級全景監(jiān)獄”的傳播場域外，“算計”在作用機制上構(gòu)成了對受眾的“符號暴力”。由布爾迪厄提出的這一概念指的是統(tǒng)治者在社會行動者本身合謀的基礎(chǔ)上，通過符號的權(quán)力施加在其身上的暴力。從算法發(fā)揮作用的機制來說，受眾本身積極迎合“算計”，所謂的“算計”才得以進行。而且受眾對于這種監(jiān)視、控制、灌輸仍在一定程度上處在一種不知情的狀態(tài)，因此也如布爾迪厄所說，這是一種“溫和的暴力”。[5]

在“符號暴力”之下，算法帶來的“算計”并不是真實的暴力，從傳播效果看來也對受眾沒有造成直接的傷害。但這種“算計”是看不見、摸不著的，信息生產(chǎn)者通過技術(shù)手段傳播場域中獲得了充分的信息生產(chǎn)前提，進而通過符號權(quán)力對意義進行任意建構(gòu)，更加懂得如何迎合受眾的好惡，使受眾的心智結(jié)構(gòu)呈現(xiàn)為更具有形成性的“慣習(xí)”?！巴ㄟ^這種慣習(xí)的養(yǎng)成，受眾進而呈現(xiàn)出體現(xiàn)于身體而實現(xiàn)的集體個人化，或者是經(jīng)由社會化而獲致的生物性個人的集體化?！盵6]這種機制下，符號暴力展現(xiàn)出它的威力，它通過培養(yǎng)“慣習(xí)”進而構(gòu)建出知識場域，影響受眾對于社會的經(jīng)濟、政治、文化等各個領(lǐng)域的看法觀念。而且通過觀察可以看到，依然有大量的用戶不曾懷疑過算法的合乎倫理性，大多數(shù)人在觀念上形成一種“誤識”，并不認(rèn)為這是一種暴力，反而為其辯護，進而加強了符號暴力的威力，在傳播場域內(nèi)形成一種內(nèi)閉循環(huán)。

通過“超級全景監(jiān)獄”和操控“符號暴力”的機制作用，信息生產(chǎn)者的這些“算計”主要是為資本服務(wù)，致力于吸引受眾的注意力，進而將流量變現(xiàn)。當(dāng)下的新聞平臺、信息服務(wù)平臺、電商平臺普遍采用個性化推薦算法，這種控制機制也伴隨著與技術(shù)手段的捆綁被推而廣之，對傳播倫理構(gòu)成了內(nèi)源性挑戰(zhàn)。

三、當(dāng)下應(yīng)對倫理沖擊的一般觀點

第一種論點提出，如今雖然整個社會從互聯(lián)網(wǎng)時代進入到移動互聯(lián)網(wǎng)的時代，但監(jiān)控的形式和本質(zhì)依然是以計算機數(shù)據(jù)庫為核心的。倫理問題能不能回歸到技術(shù)領(lǐng)域，交由算法去解決？例如，世界經(jīng)濟論壇就曾發(fā)表過一份題為《解除個人信息的價值——從收集到使用》的報告，其主旨在于將管理數(shù)據(jù)的重心轉(zhuǎn)移到限制使用數(shù)據(jù)上，呼吁“通過新型技術(shù)手段限制使用個人數(shù)據(jù)能夠讓個人控制自己的信息安全”。[7]

應(yīng)當(dāng)承認(rèn)，算法是沒有“原罪”的，算法是否剝奪了受眾的自由不可一概而論。算法帶來的倫理問題，指望“解鈴還須系鈴人”是一條思路。但從當(dāng)下看來，對于“被算計”的憂慮主要是針對算法被濫用而非算法本身的問題。例如2017年引起軒然大波的美國臉書（Facebook）數(shù)據(jù)泄漏事件，并不是東方式的禪意過慮，而是西方契約精神失靈的實體焦慮：受眾并不知道劍橋公司“算計”其個人數(shù)據(jù)的目的，而且出于對數(shù)據(jù)挖掘、智能算法等技術(shù)手段的習(xí)慣性接受，客戶甚至不知道自己在受到某種影響和控制，被置于一種無意識的被監(jiān)控狀態(tài)。這種倫理缺位帶來的傷害并非單純是技術(shù)對人的傷害，更多的是人對人的傷害，要從算法出發(fā)用技術(shù)手段去進行修正顯然是勉為其難。

那么，從第二種論點出發(fā)，是否可以期待業(yè)界與學(xué)界聯(lián)手，針對算法的開發(fā)與應(yīng)用從倫理、道德或是法律層面拿出具有公信力的成文約束方案呢？當(dāng)下，比較有代表性的是張超從倫理學(xué)視角出發(fā)提出的將傳統(tǒng)的新聞倫理與新興的技術(shù)倫理相結(jié)合的方案，認(rèn)為新聞生產(chǎn)的算法責(zé)任倫理體系當(dāng)中應(yīng)包括以下原則：公平、準(zhǔn)確、透明、可解釋、可審計、責(zé)任。[8]

此外，類似的還有邱仁宗等從大數(shù)據(jù)的倫理風(fēng)險出發(fā)提出的“基本目的、負(fù)責(zé)研究、利益沖突、尊重、隱私、共濟、公正、透明、參與”系列原則等多種方案。[9]這些方案各有側(cè)重點，但基本精神相近，且從限制當(dāng)下的“算計”出發(fā)來看均具有一定的合理性和操作性。不過，從當(dāng)前行業(yè)發(fā)展情況看來，互聯(lián)網(wǎng)技術(shù)和數(shù)據(jù)技術(shù)距形成成熟業(yè)態(tài)尚存在距離，此時期望有一種與實踐步伐相適應(yīng)的、通用的、完美的傳播倫理直接拿來運用，實際上很難，且不說這套倫理規(guī)則還需要用公允和完美的文本形式表達。

即便如馬云這樣的業(yè)界前沿人士，也認(rèn)為當(dāng)下正處于互聯(lián)網(wǎng)的黎明時期，下一步全球行業(yè)還需要緊追從 IT（Information Technology）走向 DT（Data Technology）的大趨勢。[10]在互聯(lián)網(wǎng)行業(yè)和數(shù)據(jù)行業(yè)尚不成熟的前提下，期望制定出一整套嚴(yán)密完備的法律和規(guī)定來約束從業(yè)者行為，亦是一種良好愿望，但是操作時空尚不匹備。此時從業(yè)者和受眾都還在探底，這就如同正在刮著颶風(fēng)的海面上，實時的船舶狀態(tài)沒有辦法固定描繪和控制，只有駛?cè)胂鄬Ψ€(wěn)定的海區(qū)后才有可能。

因此，要在當(dāng)下解決這種“被算計”給人帶來的損害和焦慮，技術(shù)手段、簡單規(guī)制手段是難以做到的，要得到解決必須從受眾心理的角度入手，建立起倫理上的警惕性。

四、倫理沖擊下的當(dāng)務(wù)之急：擺脫無意識

世界經(jīng)濟研究領(lǐng)域存在中等收入陷阱（Middle-Income Trap）現(xiàn)象，指發(fā)展中國家在經(jīng)濟發(fā)展過程中面臨重重阻力，特別是從落后國家進入中等收入國家以后有可能失去發(fā)展動力，陷入長期經(jīng)濟停滯。[11]將此概念移植到傳播領(lǐng)域、媒介形態(tài)上來講，在當(dāng)下這個互聯(lián)網(wǎng)行業(yè)的黎明時期，人類也可以說正處于廣義的信息中等收入狀態(tài)。整個人類社會，包括某些自詡甚高的網(wǎng)絡(luò)強國，都要警惕這種狀態(tài)下的倫理認(rèn)知混亂。

倫理學(xué)研究發(fā)現(xiàn)，當(dāng)下這個時期社會的倫理困惑往往是與經(jīng)濟上的中等收入陷阱相伴生的。中等收入陷阱內(nèi)的人們急切地想增加財富和跳出陷阱，對一切并不一定具有資源秉賦基礎(chǔ)，或者超出承受范圍的激進變革和公共產(chǎn)品，一概采取民粹主義的態(tài)度，盲目冒進。如同消化不良者往往不檢點自己的飲食方式而一味怪罪食物的品質(zhì)一樣，結(jié)果是付出了大量社會資源的代價而收益卻并不理想。眼里只看得到算法而看不到“算計”是大部分人面對倫理抉擇時給出的答復(fù)。

通過理論分析可以發(fā)現(xiàn)，無論是“算計”背后的作用機制“超級全景監(jiān)獄”、“符號暴力”抑或是“中等收入陷阱”驅(qū)動下的民粹心態(tài)，其產(chǎn)生倫理風(fēng)險的根本要素在于無意識。受眾面對“算計”時，沉溺于這種無意識而缺乏倫理上的警惕性將可能使其行為受到影響乃至精神被控制。要打破這種倫理困境，最首要的是幫助受眾建立倫理警惕，擺脫無意識狀態(tài)。從操作層面上來說，對受眾進行倫理教育并不難，但其前提是學(xué)界和業(yè)界意識到其重要性，通過擦掉算法推送的表層色彩，兌現(xiàn)受眾知情權(quán)、復(fù)蘇其倫理意識，使其主動避免成為“單向度的人”，并能夠判斷和認(rèn)清自身的選擇與行為是否符合自身的倫理認(rèn)同。

五、結(jié)語

“算法”看似客觀中立，“算計”本身也并不邪惡，但其規(guī)則是人為所制定，所以這一新興的傳播機制不可否認(rèn)的具有偏向性。簡而言之，即“算法中性”與“價值中性”并非是趨同的。雖然大多數(shù)經(jīng)由算法推送的信息，人們常規(guī)上都選擇很大程度去相信它，但這不等于受眾不再需要有倫理的底線意識，不意味著獨立人格不再有價值。面對算法，除了“盡物之性”外，也要兼顧“盡人之性”，踐行“尊重和認(rèn)同人的內(nèi)在價值”這一人類倫理的出發(fā)點。

注釋：

[1] 赫伯特·馬爾庫塞.單向度的人[M].上海：上海譯文出版社，2016

[2] 《一般數(shù)據(jù)保護條例》（General Data Protection Regulation，簡稱GDPR）為歐洲聯(lián)盟的條例，前身是歐盟在1995年制定的《計算機數(shù)據(jù)保護法》，于2018年5月25日在歐盟成員國內(nèi)正式生效實施。該條例的適用范圍極為廣泛，任何收集、傳輸、保留或處理涉及歐盟所有成員國內(nèi)的個人信息的機構(gòu)組織均受該條例的約束。

[3] 熊澄宇.傳播學(xué)十大經(jīng)典解讀[J].清華大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)，2003(5)

[4] 張金鵬.超級全景監(jiān)獄：信息方式下的權(quán)力技術(shù)——波斯特論信息方式下的統(tǒng)治模式[J].南京社會科學(xué)，2007(8)

[5] 尚帥.傳播的興趣偏向和渾然不覺的符號暴力——基于《今日頭條》的算法控制研究[J].現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報)，2018(10)

[6] 畢芙蓉.文化資本與符號暴力——論布迪厄的知識社會學(xué)[J].理論探討，2015(1)

[7] 宋吉鑫，魏玉東，王永峰.大數(shù)據(jù)倫理問題與治理研究述評[J].理論界，2017(1)

[8] 張超.新聞生產(chǎn)中的算法風(fēng)險：成因、類型與對策[J].中國出版，2018(13)

[9] 邱仁宗，黃雯，翟曉梅.大數(shù)據(jù)技術(shù)的倫理問題[J].科學(xué)與社會，2014，4(1)

[10] 馬云.兩岸企業(yè)家峰會上的講話[EB/OL].http：//tech.sina.com.cn/i/2014-12-15/doc-iawzunex6503537.html

[11] 蔡昉.“中等收入陷阱”的理論、經(jīng)驗與針對性[J].經(jīng)濟學(xué)動態(tài)，2011(12)