郜曉文

去年，一篇題為《外賣騎手，困在系統(tǒng)里》的文章在社交媒體刷屏，互聯(lián)網(wǎng)企業(yè)利用算法對騎手進(jìn)行控制和勞動壓榨的問題，引起社會上普遍關(guān)注。北京大學(xué)社會學(xué)系的陳龍博士對此作了專門研究，揭示了平臺的數(shù)據(jù)算法系統(tǒng)對勞動者無休止地壓迫式索取。

隨著高科技日新月異的發(fā)展，數(shù)字革命如火如荼。數(shù)據(jù)追蹤以及在此基礎(chǔ)上的決策機(jī)制已經(jīng)成為商業(yè)、行政管理甚至刑事判決慣用的工具。當(dāng)我們歡呼數(shù)字化帶來的便利時，紐約州立大學(xué)奧爾巴尼分校政治學(xué)副教授弗吉尼亞·尤班克斯（Virginia Eubanks）卻發(fā)出追問：數(shù)字革命是否是一場由精英主導(dǎo)的游戲？普通人特別是貧困人口在數(shù)字時代的命運是什么？算法是否比人類更加中立、公正和明智？

尤班克斯在《自動不平等》（Automating Inequality）一書中，通過生動的故事和深刻的分析，告訴人們一個簡單的道理：技術(shù)不能代替正義。

作者認(rèn)為，標(biāo)榜高效的自動化系統(tǒng)，并未在實質(zhì)上改善貧困家庭的處境。恰恰相反，嵌入偏見的高科技工具使政府在做出和民眾生活息息相關(guān)的決定時，“名正言順”地擺脫了道德束縛。更令人后怕的是，書中揭露了伴隨數(shù)據(jù)分析、統(tǒng)計模型與算法的監(jiān)管網(wǎng)絡(luò)，邊緣人群正面臨著更加嚴(yán)格的數(shù)字追蹤、監(jiān)控甚至懲罰，被牢牢困在這張網(wǎng)中。

“數(shù)字濟(jì)貧院”

19世紀(jì)，美國政府為緩解貧困問題而建造了濟(jì)貧院。尤班克斯認(rèn)為“現(xiàn)在我們正在建設(shè)一所數(shù)字濟(jì)貧院”——一所無形的“鎖定窮人、管制窮人、甚至懲罰窮人”的機(jī)構(gòu)，一旦窮人求助政府獲取公共援助或?qū)で笃渌卜?wù)，就會被這所看似中立的數(shù)字濟(jì)貧院“瞄準(zhǔn)”。

尤班克斯通過三個深入調(diào)查訪問的案例，系統(tǒng)地分析了數(shù)據(jù)挖掘、政策算法和預(yù)測風(fēng)險模型對美國貧困和工薪階層的影響。

第一個案例是印第安納州試行的福利資格自動認(rèn)證系統(tǒng)。全系統(tǒng)自動化運營，脆弱不堪的規(guī)則和設(shè)計不當(dāng)?shù)牟僮髦笜?biāo)，加上自動決策工具永不出錯的假設(shè)，意味著一旦發(fā)生錯誤，往往會歸咎到申請人，而不是州政府或承包商。在這套系統(tǒng)下，成千上萬人的福利申請遭到了拒絕，其中包括出生時就是腦癱兒、醫(yī)療費用寄希望于政府的小蘇菲。由于當(dāng)?shù)丶彝ヅc社會服務(wù)管理局社工的失誤，蘇菲家被直接歸為“未能配合”政府工作，而被拒絕通過福利申請。

第二個案例是洛杉磯為無家可歸者提供服務(wù)的電子登記注冊機(jī)構(gòu)。根據(jù)其設(shè)計者的說法，該市的協(xié)調(diào)入住系統(tǒng)旨在“將最亟須幫助的群體與最合適的資源相匹配”。然而，大批無家可歸者的個人信息被錄入信息管理系統(tǒng)，生成所謂的“弱勢指數(shù)”。次貸危機(jī)中失去一切流落街頭的加里·伯特萊特，因為“弱勢指數(shù)”不夠高，只能在無盡等待中消磨希望，而這些無家可歸者的信息也成了執(zhí)法部門可以隨意獲取的數(shù)據(jù)，他們被當(dāng)成了“天然的罪犯”。

第三個案例是賓夕法尼亞州阿勒格尼縣的家庭篩查系統(tǒng)，根據(jù)一個人以往的行為模式來推測他將來可能采取的行動。在新的預(yù)測方式下，人們不僅會受到自己行為的影響，還會受到戀人、室友、親戚和鄰居行為的影響。預(yù)測模型和算法將窮人標(biāo)記為“風(fēng)險”和“問題父母”。隨之而來的大量社會服務(wù)、執(zhí)法活動和社區(qū)監(jiān)督，使他們的一舉一動全在監(jiān)控之下，貧困成了“天然的風(fēng)險指標(biāo)”。

“今天，我們基于數(shù)據(jù)庫、算法和風(fēng)險模型造了一個‘?dāng)?shù)字濟(jì)貧院，它的覆蓋范圍和惡劣影響很有可能超越任何以往的類似機(jī)構(gòu)?！庇劝嗫怂怪赋?，如果不重視算法中可能隱藏的偏見，不去規(guī)制算法可能產(chǎn)生的風(fēng)險缺陷，那么這些致力于解決貧困的技術(shù)進(jìn)步和效率提升，可能只會模糊貧困與犯罪之間的界限，將窮人永遠(yuǎn)桎梏在這所“數(shù)字濟(jì)貧院”。

隨著數(shù)字時代來臨，社會網(wǎng)絡(luò)和信息技術(shù)日漸發(fā)達(dá)，智慧城市和數(shù)字治理成為時尚。在美國社會，算法科技被用于開展諸多政府項目，包括為無家可歸者提供庇護(hù)場所、向生活困難者提供援助，以及兒童福利項目等。自動化系統(tǒng)決定哪些社區(qū)可能會被重點管制，哪些家庭能夠獲得救助，哪些群體面臨欺詐調(diào)查，美其名曰算法治理。

決策者們依賴大數(shù)據(jù)分析本無可厚非，但在算法的高科技外表下，隱藏著重要的公平正義問題。高科技工具增加了對貧困和工薪階層行為模式和日常選擇的數(shù)據(jù)收集、存儲和共享，以便政府干預(yù)、審查和監(jiān)視。然而，這種監(jiān)視被過多地用于尋找受助者的不法行為，從而導(dǎo)致窮人更易被歸罪，他們的福利被轉(zhuǎn)移。

貧困不容否認(rèn)

《自動不平等》涉及的一個關(guān)鍵問題是算法對社會不同階層，特別是貧困群體的影響。這是人工智能倫理和算法治理無可回避的問題。

算法應(yīng)該怎樣對待貧困？尤班克斯認(rèn)為，這不僅僅是需要改變技術(shù)的問題?！皩ω毨?、窮人和工薪階層的看法與態(tài)度也需要有更廣泛的轉(zhuǎn)變。”她在書中列舉了全美各地貧困民眾面臨的幾種主要困難。比如，領(lǐng)取福利救濟(jì)時因為一些“無心之失”而成為了福利欺詐的調(diào)查對象;無家可歸者艱難地尋求可供容身的庇護(hù)住所，以及被迫與子女分離、將孩子送到寄養(yǎng)機(jī)構(gòu)。

社會學(xué)家斯坦利·科恩將美國公眾對貧困的態(tài)度稱為“文化否認(rèn)”，是一種使我們得以了解殘忍、歧視和壓迫，但從不公開承認(rèn)其存在的過程。文化否認(rèn)不是一種個體才有的人身或心理屬性，它是一個由學(xué)校、政府、宗教、媒體，以及其他機(jī)構(gòu)組織支持的社會過程。比如，當(dāng)我們在喧鬧的街頭經(jīng)過流浪漢或者乞討者身邊時，已經(jīng)習(xí)慣了 “無動于衷”和“視而不見”。因為整個社會文化已將窮人描繪成病態(tài)性地依賴社會的少數(shù)群體，他們被打上了毫無希望與價值的標(biāo)簽。公共政策也傾向于指責(zé)貧困，而不是糾正貧困造成的負(fù)面影響，或消除貧困的根源。

在美國，貧困還是一種可被塑造的政治籌碼。右翼往往譴責(zé)窮人是寄生蟲，主張減少資助，左翼則以家長姿態(tài)對窮人無力改變自己生活的現(xiàn)狀表示痛心，希望改造窮人。

無論如何，數(shù)量龐大、花費高昂的公共服務(wù)機(jī)構(gòu)被主要用來調(diào)查個人的痛苦際遇是否可能由其自身過錯導(dǎo)致，這使得人們可能即使身處貧困，卻試圖輕描淡寫或予以否認(rèn)，小心翼翼地求助社會服務(wù)項目。這種狹隘的認(rèn)識使包括精英階層在內(nèi)的中產(chǎn)階級對窮人的遭遇冷漠以待，那些旨在更加高效為有需要之人提供幫助的新技術(shù)，則被早早嵌入了對窮人的偏見和對貧困的否認(rèn)。

從文化的視角來看，限制人們視野的是將窮人與其他人相區(qū)分的敘事方式。尤班克斯在書中呼吁，直視貧困，承認(rèn)貧困，聆聽窮人的故事，建立理解貧困的同理心，改變我們對貧困的看法、言論和感受，“雖然無法從根本上解決貧困問題，但至少不會令這場正在改變我們生活的數(shù)字革命在懲罰窮人的道路上越走越遠(yuǎn)”。

美國《獨立宣言》中將自由視為“不可剝奪的權(quán)利”，然而，數(shù)字濟(jì)貧院的存在削弱了貧困和工薪階層行使自主權(quán)和進(jìn)行自治的能力，侵犯了他們行使這些權(quán)利的自由。數(shù)字濟(jì)貧院的復(fù)雜性使目標(biāo)對象感到無能為力，不知所措。很多時候，這些工具只會碾壓一個人的決心，直到他們放棄本應(yīng)享有的一切：資源、自主權(quán)、尊重和尊嚴(yán)。

20世紀(jì)60年代，馬丁·路德·金博士在華盛頓特區(qū)領(lǐng)導(dǎo)了爭取黑人工作機(jī)會和自由權(quán)的民權(quán)運動，號召消除美國以及全世界的貧窮，產(chǎn)生了廣泛的社會影響。但是金死后，窮人運動雖仍在繼續(xù)推進(jìn)，卻沒有取得預(yù)期的結(jié)果。

數(shù)字技術(shù)在公共服務(wù)和福利制度中的應(yīng)用，使消除貧困和種族歧視運動面臨新的挑戰(zhàn)。2020年11月，美國掀起的“黑命貴運動”核心在于反對種族歧視，動員不同階層抵制警察暴行。尤班克斯認(rèn)為，事件最應(yīng)該引發(fā)公眾注意的是采取措施制止司法系統(tǒng)對黑人身體、思想和心靈實施暴力行為，同樣也要監(jiān)督在公共服務(wù)、無家可歸者服務(wù)和兒童保護(hù)服務(wù)中可能出現(xiàn)的暴行和非人性操作。

總之，揭露“數(shù)字濟(jì)貧院”的殘酷需要巨大的勇氣，窮人運動是美國未竟的偉大征程之一。在數(shù)字技術(shù)日趨精密和普遍的今天，拆除鎖定窮人、管制窮人、懲罰窮人的“數(shù)字濟(jì)貧院”，不僅僅需要高科技，更需要文化、政治和個人道德的深刻變革。

《自動不平等》

作者：[美]弗吉尼亞·尤班克斯

譯者：李明倩

出版：商務(wù)印書館

出版時間：2021年版