賀亞東

(河南大學(xué) 馬克思主義學(xué)院，河南 開封 475000)

阿多諾在《文化工業(yè)：作為大眾欺騙的啟蒙》一文中提到：“文化給一切事物都貼上了同樣的標(biāo)簽。電影、廣播和雜志制造了一個系統(tǒng)。不僅各個部分之間能夠取得一致，各個部分在整體上也能夠取得一致?！盵1]文化成為一種工業(yè)體系，通過技術(shù)手段實(shí)現(xiàn)了標(biāo)準(zhǔn)化和大眾生產(chǎn)。此時(shí)的文化工業(yè)表現(xiàn)為一種新聞媒介，以一種公開的灌輸形式出現(xiàn)。馬爾庫塞指出：“單向度思想是由政策的制訂者及其新聞信息的提供者系統(tǒng)地推進(jìn)的?！盵2]13大眾傳播技術(shù)在當(dāng)下更加發(fā)達(dá)，隨著互聯(lián)網(wǎng)信息技術(shù)的出現(xiàn)和數(shù)字平臺的崛起，文化工業(yè)也出現(xiàn)了個性化的趨勢和轉(zhuǎn)向，通過算法推薦來實(shí)現(xiàn)對用戶的個性化服務(wù)，精準(zhǔn)推送和信息定制似乎改變了傳統(tǒng)文化工業(yè)單向的信息輸出。

“個性化信息服務(wù)的出現(xiàn)，是信息過載時(shí)代的一個必然結(jié)果，也是尊重與滿足個體的信息權(quán)利的一種新手段?！盵3]但是，數(shù)字時(shí)代的個性化或許只是看似美好。如果人們只關(guān)注自己熟悉或感興趣的內(nèi)容，那么個體的視野將會被局限，失去對事件和信息的完整判斷，成為信息時(shí)代的井底之蛙。這一過程不能僅僅歸咎于個人，也要看到文化工業(yè)在其中扮演的角色。文化工業(yè)作為一種工業(yè)體系，本質(zhì)上是建立在大眾傳播技術(shù)之上的，在數(shù)字平臺中這一技術(shù)的核心表現(xiàn)為算法。以大數(shù)據(jù)為基礎(chǔ)的算法推薦能夠?qū)τ脩暨M(jìn)行精準(zhǔn)畫像，從而實(shí)現(xiàn)信息的定向推送。但這種所謂的個性化服務(wù)并沒有為人們帶來雙向度的生活方式，反而進(jìn)一步加強(qiáng)了單向度傾向。在數(shù)字平臺虛假的個性化掩蓋下，社會的單向度表現(xiàn)得更為隱蔽，主要體現(xiàn)為信息、價(jià)值和思想的單向度。

一、信息的單向度

算法推薦對用戶的精準(zhǔn)刻畫是依賴大數(shù)據(jù)得以實(shí)現(xiàn)的?；ヂ?lián)網(wǎng)的發(fā)展使人們獲得了前所未有的自由和便利：各種信息實(shí)現(xiàn)了跨越時(shí)空的流動和交換，數(shù)字支付使人們從現(xiàn)金支付的局限中解放，實(shí)時(shí)定位地圖使人們從紙質(zhì)地圖的局限中解放，線上購物、打車、訂餐軟件的興起更是為人們帶來了諸多便利。移動智能終端在滲透進(jìn)人類生活方方面面的同時(shí)，也將人們籠罩在數(shù)字資本的鐵幕之下，人們聯(lián)網(wǎng)的一舉一動都留下了抹不掉的“數(shù)字腳印”。數(shù)字平臺利用用戶數(shù)據(jù)進(jìn)行建模，誰擁有越多的用戶個人信息，誰就能搭建起越精準(zhǔn)的模型；而誰擁有了越精準(zhǔn)的模型，誰就能吸引到越多廣告商，獲得更大的利潤。為了使利潤能夠持續(xù)增長，數(shù)字平臺利用用戶模型進(jìn)行精準(zhǔn)的廣告投放和信息推送，這一過程看似尊重用戶的“個性”，實(shí)際上卻與傳統(tǒng)文化工業(yè)的單向度屬性如出一轍。

幾乎所有的社交平臺都是憑借這樣的模型來實(shí)現(xiàn)向用戶推薦“熟悉的人”或“感興趣的內(nèi)容”，將目標(biāo)用戶與其他用戶聯(lián)系起來，從而降低用戶脫離平臺的概率。短視頻平臺的運(yùn)作邏輯更是如此：平臺根據(jù)用戶觀看視頻的偏好動態(tài)調(diào)整接下來推送的內(nèi)容，讓用戶盡可能長時(shí)間地停留在平臺內(nèi)部，進(jìn)而達(dá)到流量變現(xiàn)和廣告推廣的目的。所有能做到“投用戶所好”的各類軟件，采用的都是同樣的算法推薦邏輯，利用源源不斷的針對性的內(nèi)容將用戶牢牢綁在系統(tǒng)之中，而“受眾面對智能算法推送來的產(chǎn)品信息時(shí)，往往不再將之視作令人厭煩的廣告，反而會覺得其恰到好處地‘讀懂了’自己的需求”[4]。這樣的運(yùn)轉(zhuǎn)邏輯似乎是技術(shù)進(jìn)步的生動體現(xiàn)，人們看似獲得了更豐富的見識，但很大程度上是算法刻意調(diào)度讓人們見識到的信息，是被規(guī)定的單向度的信息。在算法精準(zhǔn)排布的信息流中，受眾的視野不是變得更開闊而是更閉塞，人們甚至可能因此喪失獲取和接受不同信息的能力。美國學(xué)者桑斯坦提出了“信息繭房”一詞，形象地描繪了算法推薦大行其道的當(dāng)下人們遭遇的信息困境。在他看來，信息繭房即“我們只聽我們選擇的東西和愉悅我們的東西”[5]的狀態(tài)。“今天的某些大數(shù)據(jù)分析，在某種意義就是在分析甚至‘制造’人們的‘視角’，然后將符合視角的‘事實(shí)’推送給他們，雖然推送的‘事實(shí)’似乎是客觀的，但是，當(dāng)它們被放置在人們的‘視角’下時(shí)，就成為了影響主觀判斷和態(tài)度的重要手段?！盵3]人們對于熟悉和感興趣的信息的偏好將使人不自覺地投入正向的、肯定性的信息中，不愿接觸或被算法排除而無法接觸到否定性的另一種聲音。在這種封閉單向的環(huán)境中，人的視野被算法規(guī)定而越來越受限，長此以往，包裹用戶的信息繭房將會越來越密不透風(fēng)。

二、價(jià)值的單向度

值得警惕的是，算法推薦并不會止步于此，信息獲取的單向度必然帶來價(jià)值選擇的單向度。數(shù)字平臺價(jià)值的單向度一方面主要體現(xiàn)在平臺受眾自單向度的信息中逐漸形成的單向度的價(jià)值觀念，另一方面，由于算法邏輯的背后是人的思維邏輯和價(jià)值取向，因此算法邏輯也潛在地包含著價(jià)值選擇，內(nèi)在于算法中的價(jià)值取向潛移默化地影響受眾，從而形成一種外在于人但能夠深刻影響人的單向度性。

人的本質(zhì)是一切社會關(guān)系的總和，任何人都無法脫離所處的環(huán)境而獨(dú)立存在。網(wǎng)絡(luò)中同樣如此，互聯(lián)網(wǎng)作為虛擬的公共空間是現(xiàn)實(shí)社會的衍生物。如果社會中的大多數(shù)被單向度的信息繭房圍困，那么公共空間將變得支離破碎，“公共信息的傳播、社會意見的整合、社會共識的形成，也會變得日益困難”[6]。繭房效應(yīng)不可避免地會帶來“回聲室效應(yīng)”，即信息或想法在一個封閉的范圍里得到加強(qiáng)。2020年5月，加拿大政府將Incel(involuntary celibate的縮略語，意為“非自愿獨(dú)身者”)定義為恐怖組織。Incel社區(qū)最初是一個為在社交方面有困惑的年輕人提供建議和支持的網(wǎng)上論壇。但部分極端群體將在親密關(guān)系中的挫敗歸咎于女性，在一些另類右翼的匿名論壇上發(fā)泄不滿，最終升級到在現(xiàn)實(shí)中實(shí)施無差別襲擊，Incel社群逐漸發(fā)展成為暴力和厭女癥的溫床[7]。恐怖主義研究中心將恐怖主義描述為：“恐怖分子甚至不認(rèn)為他們可能是錯的，也不認(rèn)為其他人的觀點(diǎn)有可取之處……他們只把邪惡動機(jī)歸于他們?nèi)后w外的其他人。在心理上被激發(fā)的恐怖分子的……共有特征是宣稱需要?dú)w屬于一個群體，這些恐怖分子通過群體接納來界定自己的社會地位?！盵8]116《沙龍》雜志專欄作家安德魯·萊昂納德在《困于回聲室》一文提道：“我認(rèn)為真正令人擔(dān)憂的不是互聯(lián)網(wǎng)將隨時(shí)在谷歌里找到我需要的現(xiàn)成的事實(shí)這個過程變得無比簡單，而是它將隨時(shí)找到一種我需要的思維模式這個過程變得如此簡單?！盵9]由于個人總是傾向于接受協(xié)調(diào)性的信息而避免那些會帶來不協(xié)調(diào)認(rèn)知的信息，因此人們會不自覺地將自己封閉在全是與自己觀點(diǎn)一致的信息繭房中，只聽得到同一種聲音的回聲。在一個單向度的網(wǎng)絡(luò)環(huán)境中一呼百應(yīng)，人們會認(rèn)為自己的觀點(diǎn)代表主流，從而扭曲對一般共識的認(rèn)識。這是單向度的信息帶來的巨大危害，即價(jià)值觀的單向度。桑斯坦提出群體極化法則，他認(rèn)為群體時(shí)常陷入極端狀態(tài)。“恐怖組織陷入誤解、懷疑、仇恨或暴力，常常就是由于群體極化”[8]115，在信息繭房和互聯(lián)網(wǎng)意見領(lǐng)袖的推動下，“回聲室效應(yīng)”不斷加劇，信息繭房就發(fā)展為“價(jià)值繭房”。這種價(jià)值觀上的偏見如果不加引導(dǎo)，將會在算法推薦的推波助瀾下愈演愈烈，進(jìn)而撕裂社會的核心價(jià)值共識，動搖主流意識形態(tài)的領(lǐng)導(dǎo)地位。

另一方面，算法內(nèi)在地包含著開發(fā)者的價(jià)值觀念，因此算法邏輯也潛在地具有價(jià)值取向，能夠潛移默化地影響受眾。齊格蒙特·鮑曼和大衛(wèi)·萊昂在《流體監(jiān)視》一書中提出：“代表個人的信息是由‘個人數(shù)據(jù)’組成的，也正是因?yàn)閿?shù)據(jù)來源于個人的身體，因此它可能會影響人的人生機(jī)會和選擇。零碎的數(shù)據(jù)往往比喜歡講自己故事的人更可信。軟件設(shè)計(jì)師說他們只是在‘處理數(shù)據(jù)’，所以他們的角色是‘道德中立的’，他們的評估和歧視也只是‘理性的’?！盵10]算法的價(jià)值歧視和霸權(quán)在反烏托邦題材電視劇《黑鏡》第3季第1集中有生動的體現(xiàn)：女主角生活的未來世界里的人際交往方式就是為他人評分，分?jǐn)?shù)越高的人，社會地位就越高。某天不斷遭遇意外的女主角疲于迎合他人，這導(dǎo)致她的評分急轉(zhuǎn)直下，最終被關(guān)進(jìn)了監(jiān)獄。劇中描繪的世界里，每個人的分?jǐn)?shù)決定了他們能夠得到什么樣的服務(wù)、達(dá)到哪一個社會層級以及過上怎樣的生活，幾乎所有人都被這樣一個評分系統(tǒng)綁架，不得不按照給定的社會規(guī)則單向度地生活。這種規(guī)則不僅僅是藝術(shù)創(chuàng)作，由于算法具有優(yōu)越的模擬和預(yù)測能力，許多行業(yè)將算法作為一種有效手段來指導(dǎo)決策。例如銀行會根據(jù)用戶的信用評級和消費(fèi)能力評估是否提供貸款及貸款額度，將被算法判定為有高風(fēng)險(xiǎn)傾向的用戶拒之門外。此外，我國的信息技術(shù)和互聯(lián)網(wǎng)產(chǎn)業(yè)已快速發(fā)展至世界領(lǐng)先水平，但鮮有數(shù)字平臺考慮到數(shù)字弱勢群體如老年人和殘疾人融入智能社會的困境并為他們進(jìn)行全面的無障礙輔助支持。算法對社會群體機(jī)械地分門別類，雖然一定程度上會給平臺和機(jī)構(gòu)降低風(fēng)險(xiǎn)，提高管理效率，但也會潛在地使不同群體的社會地位固化，讓人們只能在符合其身份地位和社會角色的范圍內(nèi)活動，處于優(yōu)勢地位的人能夠憑借已有的優(yōu)勢獲得更多的利益，弱勢群體則會因?yàn)槠淙鮿莸匚欢^續(xù)受到隱性的懲罰。因此有理由擔(dān)心，如果基于大數(shù)據(jù)的算法技術(shù)被不當(dāng)利用，將會對社會的一些群體帶來真實(shí)的歧視和傷害。

三、思想的單向度

在馬爾庫塞看來，單向度思想的形成是導(dǎo)致單向度的人出現(xiàn)的根本原因。人類對于實(shí)現(xiàn)效率最大化始終有著狂熱追求，技術(shù)進(jìn)步帶來了巨大的便利，個性化服務(wù)為每個人創(chuàng)造了一個獨(dú)屬于自己的美麗新世界，這使得讓渡部分隱私和個人信息來換取便利高效的生活方式變得可以接受。用戶的個人信息被匯總、分析、交換，在虛擬的網(wǎng)絡(luò)世界中每個人都有一個數(shù)字化的自己存在，在這個數(shù)字畫像周圍是算法精準(zhǔn)排布的信息，單向度的信息塑造單向度的價(jià)值，被單向度的價(jià)值取向指引，人的思想也將陷入單向的維度。也就是說，數(shù)字時(shí)代標(biāo)榜的個性也是被規(guī)定了的個性，“決定人類自由程度的決定性因素，不是可供個人選擇的范圍，而是個人能夠選擇的是什么和實(shí)際選擇的是什么?！杂蛇x擇主人并沒有使主人和奴隸歸于消失”[2]8。個人獨(dú)立判斷和選擇的能力被不斷消解，機(jī)器和算法以一種不易察覺的方式掌控了人的現(xiàn)實(shí)生活：迎合當(dāng)代人碎片化時(shí)間的社交媒體反過來強(qiáng)化了人碎片化的思維習(xí)慣，不是支持就是反對的極化選項(xiàng)潤物無聲地塑造了一種二元對立的思考方式。在算法邏輯中，人可以被一串二進(jìn)制數(shù)字代表，價(jià)值甚至是人本身都變成了可以被量化和評分的符號。在算法邏輯工具理性的引導(dǎo)下，人的思想變得被動、破碎和極端，喪失了主動、完整的反思和批判能力。

同時(shí)，技術(shù)的進(jìn)步一定程度上掩蓋了真正的矛盾和對立。工人和他的老板用同樣的手機(jī)、開一樣的汽車、游覽同樣的旅游勝地，更多的人得到了發(fā)展紅利，生活水平的提高成為社會保持現(xiàn)狀的有力辯護(hù)，于是“出現(xiàn)了一種單向度的思想和行為模式”[2]11，它使得對現(xiàn)狀的反抗和拒絕表現(xiàn)為對舒適生活和增長的勞動生產(chǎn)率的抵制和拒絕，這種束縛不表現(xiàn)為強(qiáng)制的和不合理的，反而表現(xiàn)為對社會現(xiàn)狀的拒絕和變革的訴求才是不合理?！霸诟辉：妥杂裳谏w下的統(tǒng)治就擴(kuò)展到私人生活和公共生活的一切領(lǐng)域，從而使一切真正的對立一體化，使一切不同的抉擇同化?！盵2]16

正如許多學(xué)者對單向度的批判所指出的，人在面對機(jī)器和算法推薦的統(tǒng)治時(shí)不是完全被動無助的。但應(yīng)注意到，數(shù)字平臺掌握著海量的數(shù)字資本，用戶拒絕提供和交換個人信息就意味著與主流社會脫節(jié)，這是作為社會成員的每個個體難以承受的代價(jià)。人們不是沒有意識到算法推薦的操縱，但面對算法霸權(quán)時(shí)，人們能采取的抵抗措施非常有限，因此僅僅呼喚個人的覺醒和對現(xiàn)狀的拒絕是遠(yuǎn)遠(yuǎn)不夠的，更需要國家強(qiáng)力措施推動算法主動向善。機(jī)器和算法的邏輯歸根結(jié)底是人的邏輯，如何在開發(fā)程序伊始就克服單向度的邏輯，鼓勵開發(fā)雙向度的運(yùn)行模式，讓機(jī)器、技術(shù)和算法真正為人的全面發(fā)展服務(wù)，才是更值得我們思考的問題。

四、應(yīng)對算法推薦邏輯單向度傾向的策略

算法作為一種工具，誕生之初是為了服務(wù)于人的，但同時(shí)其底層架構(gòu)是開發(fā)者的邏輯，因此，看似客觀的工具實(shí)則包含著人的主觀態(tài)度。算法推薦的工具理性因而可能以客觀的形式造成主觀的偏見，導(dǎo)致出現(xiàn)算法歧視。正是由于算法的工具理性本質(zhì)會帶來意識形態(tài)后果，對整個社會有著重大影響，因此為算法技術(shù)加裝價(jià)值瞄準(zhǔn)鏡就顯得尤為重要，遏制算法推薦單向度的趨勢也成為一個社會性的議題，需要來自各方的共同努力。

數(shù)字平臺作為算法推薦技術(shù)的掌控者和最大獲利方，對于引導(dǎo)算法向善應(yīng)當(dāng)承擔(dān)更重大的社會責(zé)任。算法推薦服務(wù)的提供者應(yīng)當(dāng)以法律法規(guī)為最低限度，以社會公德和倫理為準(zhǔn)繩，堅(jiān)守主流價(jià)值導(dǎo)向，利用算法推薦技術(shù)積極傳播社會正能量，構(gòu)建一個清朗的網(wǎng)絡(luò)空間。具體而言，第一，在算法的建構(gòu)階段，開發(fā)者應(yīng)始終堅(jiān)持以人為本的原則，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，積極承擔(dān)社會責(zé)任。算法平臺在數(shù)據(jù)收集過程中應(yīng)加強(qiáng)自律，不收集超過算法需要的用戶個人數(shù)據(jù)。平臺有責(zé)任也有義務(wù)向用戶公開信息收集和使用的范圍，將主動權(quán)交回給用戶，保障用戶對個人隱私數(shù)據(jù)的使用情況享有充分的知情權(quán)，且平臺不得以用戶拒絕授權(quán)不必要的權(quán)限而限制用戶的正常使用，應(yīng)充分尊重并保障用戶的基本權(quán)益。第二，在算法的整合階段，平臺應(yīng)加強(qiáng)信息內(nèi)容管理，盡到審核和監(jiān)督的義務(wù)，及時(shí)標(biāo)記并報(bào)告違法信息，避免算法推薦邏輯由于自身固有的工具理性而出現(xiàn)對用戶的歧視性規(guī)定，避免出現(xiàn)刻意制造爭議和對立、誘導(dǎo)用戶沉迷、利用信息差侵犯用戶利益的邏輯。第三，在算法的分發(fā)階段，平臺應(yīng)充分尊重用戶的能動性，不應(yīng)針對用戶的個人習(xí)慣進(jìn)行計(jì)算和推送。此外，算法平臺應(yīng)當(dāng)強(qiáng)化自身的監(jiān)督責(zé)任，健全不良信息的特征庫，對平臺上出現(xiàn)的問題及時(shí)糾偏，建立完善的用戶協(xié)議和社區(qū)公約并及時(shí)處理用戶的投訴和舉報(bào)，引導(dǎo)算法推薦符合主流價(jià)值的導(dǎo)向。

用戶個人作為享受算法服務(wù)的主體，克服算法推薦帶來的不良影響的最直接的方式，就是提高自身的文化道德素養(yǎng)和批判思維能力。數(shù)字技術(shù)和算法推薦的迅速發(fā)展徹底改變了人們獲取信息的方式，各類信息被推薦到人們眼前而不是人們主動去獲取，信息來源變得多元化，主流價(jià)值導(dǎo)向的影響力被削弱。技術(shù)的進(jìn)步降低了人對工具理性的警惕和反思，算法何以成為擺布人們思想的工具，歸根結(jié)底，人固有的惰性思維難辭其咎。我們只有充分認(rèn)識到被數(shù)字技術(shù)宰制的狀況，才會促使自身的主體意識覺醒并主動改變現(xiàn)狀，進(jìn)而擺脫單向度的思維模式。當(dāng)前的互聯(lián)網(wǎng)生態(tài)中，無效信息遠(yuǎn)遠(yuǎn)多于有效信息，形成劣幣驅(qū)逐良幣的趨勢。面對過載的信息，用戶要克服思維上的懶惰，改變獲取信息的慣用方式，從權(quán)威性的消息來源處主動搜索想要了解的內(nèi)容并提高明辨信息來源、核實(shí)信息內(nèi)容的能力。此外，我們還可以關(guān)閉算法推薦的權(quán)限，主動走出舒適圈去傾聽不同的聲音，將主要精力投入到現(xiàn)實(shí)生活中，通過現(xiàn)實(shí)的人際交流來獲取新的信息和經(jīng)驗(yàn)，減輕繭房效應(yīng)對我們思維方式的消極影響。只有認(rèn)識到算法推薦的弊端并主動采取措施，我們才能破除算法推薦帶來的自我封閉性，塑造正確的價(jià)值觀并培養(yǎng)批判的思維能力。

我國對算法技術(shù)的治理已經(jīng)邁出了重要的第一步。2021年8月，國家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》公開向社會征求意見，一系列相關(guān)法規(guī)的頒布和實(shí)施將成為國家著力防范化解算法技術(shù)風(fēng)險(xiǎn)的重要舉措。從《互聯(lián)網(wǎng)信息服務(wù)管理辦法》到更細(xì)化的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》，我國立足實(shí)際，準(zhǔn)確把握當(dāng)前互聯(lián)網(wǎng)算法推薦亂象，不斷完善相關(guān)法規(guī)，做到源頭治理，在最大程度上降低算法無序發(fā)展帶來的不良影響。新冠疫情爆發(fā)后，依靠互聯(lián)網(wǎng)和大數(shù)據(jù)支持的健康碼和行程碼程序極大地提高了國家疫情防控的效率，為我國迅速控制疫情蔓延趨勢、保障人民生命健康權(quán)作出了重要貢獻(xiàn)。因此，算法不僅是一種工具，更是一種隱含在工具外表下的意識形態(tài)，算法技術(shù)的治理也關(guān)系著我國國家治理能力和治理體系的現(xiàn)代化建設(shè)。黨的十九屆四中全會以社會治理共同體為核心，對如何堅(jiān)持和完善中國特色社會主義制度、推進(jìn)國家治理體系和治理能力現(xiàn)代化的若干重大問題作了專題研究，強(qiáng)調(diào)“必須加強(qiáng)和創(chuàng)新社會治理，完善黨委領(lǐng)導(dǎo)、政府負(fù)責(zé)、民主協(xié)商、社會協(xié)同、公眾參與、法治保障、科技支撐的社會治理體系”[11]。其中的“科學(xué)支撐”即技術(shù)治理，具體而言，就是要將大數(shù)據(jù)和人工智能等數(shù)字技術(shù)與社會治理深度融合，推進(jìn)社會治理智能化、高效化，引導(dǎo)算法向善將成為提升社會效能并最終建成社會主義現(xiàn)代化強(qiáng)國的重要環(huán)節(jié)。