郭佳楠

摘 要：隨著數(shù)據(jù)量的急劇增加，人工智能等技術快速發(fā)展和應用，數(shù)據(jù)倫理風險日益凸顯。盡管數(shù)據(jù)倫理原則和數(shù)據(jù)倫理指導框架能夠幫助數(shù)據(jù)科學家反思其研究工作對個人、團體和社會產(chǎn)生的持續(xù)影響，但這些原則不足為數(shù)據(jù)科學提供避免社會危害、促進社會正義的范式?；诩夹g政治性視角對數(shù)據(jù)科學技術的三個爭議進行剖析后發(fā)現(xiàn)數(shù)據(jù)科學家已經(jīng)成為參與社會規(guī)范性建設的政治行動者。因此，數(shù)字時代的數(shù)據(jù)科學困境需要超越的“四個階段”，進而提出數(shù)字正義的實現(xiàn)需要對數(shù)據(jù)進行正義性的規(guī)制與承諾，同時重視數(shù)據(jù)評估工具的智能化賦能，構建技術與人文的良性互動，引導“技術治理”向“技術善治”的轉(zhuǎn)型，最終實現(xiàn)數(shù)字治理中的正義修復，促進社會的包容性、平等性發(fā)展。

關鍵詞：數(shù)據(jù)科學；倫理；社會正義；社會變革；社會善

中圖分類號：D912.1; TP18

文獻標識碼：A??? DOI：10.13411/j.cnki.sxsx.2023.02.022

Abstract：With the rapid increase in data volume， the rapid development and application of artificial intelligence and other technologies， the risk of data ethics has become increasingly prominent. While data ethics principles and data ethics guidance framework can help data scientists reflect on the continuous impact of their research work on individuals， groups and society， they are insufficient to provide data science with a paradigm for avoiding social harm and promoting social justice. By analyzing the three disputes of data science and technology from the perspective of technology politics， this paper demonstrates that data scientists have become political actors involved in the construction of social norms. Based on the analysis of political justice， the “four stages” of the dilemma of data science in the digital era need to be surmounted are concluded， and the realization of digital justice requires the just regulation and commitment of data. At the same time， it emphasizes the intelligent empowerment of data evaluation tools， constructs a positive interaction between technology and humanity， and guides the transformation from “technological governance”to“technological good governance”. Finally， it realizes the justice restoration in digital governance and promotes the inclusive and equal development of society.

Key words：data science; ethics; social justice; social change; social goodness

近年來，數(shù)據(jù)科學正以不可逆轉(zhuǎn)之勢深刻地改變著人類社會形態(tài)及生產(chǎn)生活方式，提高了社會治理和服務的效能，但其本身對社會發(fā)展包容性的影響也飽受爭議。尤其是一些促進社交媒體信息互動的算法則很可能會操縱人們的情緒，進而傳播錯誤信息，成為政治極端主義產(chǎn)生的催化劑。對于這些帶有爭議性的問題，一些學者及學術組織提倡在計算機培訓與實踐中灌輸相關的倫理學知識；在大學課程中開設倫理學課程，旨在訓練學生養(yǎng)成一種考慮計算機科學倫理影響的思維模式。［1］

數(shù)據(jù)科學研究正在成為一個特殊的學科領域，社會對于數(shù)據(jù)正義的需求也引起了學界的關注。當前公認的數(shù)據(jù)政治學家之一羅伯·基欽（Rob Ktichin）指出：“我們不僅很少留意對數(shù)據(jù)里以及數(shù)據(jù)本身的概念問題，而且很少檢查數(shù)據(jù)概念化的程度?！保?］他概述了一個二元的觀點，即數(shù)據(jù)本身或者是中立的現(xiàn)實要素，或者是像其他任何這樣要素一樣的社會建構要素。另一種觀點認為數(shù)據(jù)是認識論單元，包括社會建構所有的偏見以及可能的內(nèi)在于任何社會建構的政治權力。［3］此外，關于數(shù)據(jù)正義研究的另一條理路是社會關系模型進路，代表人物艾麗斯·楊（Iris Marion Young）認為該進路的數(shù)據(jù)正義研究是對加強數(shù)據(jù)治理（data governance）原則更清楚的表述，該進路意在把與數(shù)據(jù)相關的能力置入數(shù)據(jù)正義的框架中。［4］數(shù)據(jù)正義的設計進路是數(shù)據(jù)正義研究的第二條理路，該進路主張依照正義原則設計數(shù)據(jù)系統(tǒng)。設計進路又可分為自下而上和自上而下兩種設計方案。前者強調(diào)數(shù)據(jù)設計程序的公開性、透明性，由社會不同群體共建；后者的設計過程則較為封閉，由數(shù)據(jù)專家或政府圍繞先驗正義原則構建。［5］數(shù)據(jù)正義的三維正義進路是數(shù)據(jù)正義的第三條理路，這一進路從政治、經(jīng)濟和文化三個方面清晰地說明了社會支配的運作機制，其參與平等理論能夠為數(shù)據(jù)正義研究提供具有普遍性的價值基石。［6］

筆者將基于數(shù)據(jù)科學作為一種政治行動的概念，［7］從正義原則角度解讀數(shù)據(jù)知識生產(chǎn)和建構體系，以期通過數(shù)字正義的實現(xiàn)推動更高水平的社會正義的實現(xiàn)，［8］讓數(shù)字治理實現(xiàn)平等包容的應用與發(fā)展，這將是使數(shù)字技術具備政治正義和人文價值的再造，并在理論上、制度上對數(shù)據(jù)正義的實現(xiàn)予以指引。

一、數(shù)據(jù)科學家必然是政治行動者嗎？

數(shù)據(jù)科學家的社會責任是一個相對復雜的問題，涉及數(shù)據(jù)技術、社會環(huán)境以及個人的政治立場等。在社會實踐中，計算機科學家扮演著“多重且相互矛盾的角色”，他們從事“微妙的、情境化和反思性的實踐”［9］。而數(shù)據(jù)科學家在使用科學數(shù)據(jù)工作的過程中，卻被納入具有更高政治參與度的頂層制度建設范圍內(nèi)。在這個問題上，“我只是一個工程師”，“我們的工作不采取任何政治立場”，“我們不應該讓完美成為‘善的敵人”三個具體代表性的關鍵爭議值得進行研究探討。

（一）爭議一：“我只是一個工程師”

關于這種觀點代表了一部分工程師們的共同態(tài)度。盡管工程師開發(fā)出了新的工具，但他們工作和職責并不能決定其他人如何使用這些工具。技術被視為一種中性對象，缺乏任何固有的范式特征。在這個意義上，工程師們對他們“作品”可能產(chǎn)生的影響不承擔任何責任。對于數(shù)據(jù)科學家而言，技術的影響是不可知的。正如美國開發(fā)面部識別軟件的計算機科學家文森特所言：“任何東西都能夠用來做好事，同樣任何東西也能夠用來做壞事，工程師不可能知道這項研究會對未來產(chǎn)生什么影響，也不可能防止其他人濫用這項研究?！保?0］很顯然，這里數(shù)據(jù)科學家通過闡明他們作為中立性研究人員的有限角色，［11］為自己提供了一個借口，從而忽視其工作可能帶來的政治、社會影響，放棄自身應該承擔的社會責任。

當今的數(shù)據(jù)科學家很可能繼續(xù)持這種態(tài)度，在設計出具有內(nèi)在政治特征的技術工具同時，而將自身的責任義務推給技術設備。正如美國政治理論家蘭登·溫納（Langdon Winner）所言：“技術創(chuàng)新類似于一個國家的立法法案或政治基礎，它為公共秩序建立了一個持續(xù)服務數(shù)代人的現(xiàn)實架構。因此，人們不僅需要對政治規(guī)則、角色與關系進行直接關注，同樣也必須謹慎地關注公路建設、電視網(wǎng)絡的創(chuàng)建以及網(wǎng)絡定制等新機器、新技術上這些看似無關緊要的功能?！保?2］

當然，在公共責任實現(xiàn)過程中，數(shù)據(jù)科學家也不應該承擔過多的責任。V.M.米奧利（Virginia M. Miori）認為，問題的關鍵并不是說，只要工程師們能夠認識到他們的社會影響，他們自己就能夠解決相關技術可能引起的社會問題。技術充其量只是解決復雜社會問題的工具之一……我們不應該不加批判性地承認并接受數(shù)據(jù)科學家所有的社會影響力，因為讓那些未經(jīng)選舉和不負責任的技術專家在公眾視野之外做出關于風險治理的核心決策，會危及民主社會的正常運作。［13］

（二）爭議二：“我們的工作不采取任何政治立場”

在研究數(shù)據(jù)科學倫理治理的過程中，第二種觀點延續(xù)了第一種觀點的倫理分析路徑，但問題是數(shù)據(jù)科學家們應該如何恰當?shù)匕缪莨こ處熤獾慕巧?。也就是說，大多數(shù)數(shù)據(jù)科學家都承認他們正在開發(fā)影響人們生活的工具，而他們面臨的第一個倫理追問可能是：“盡可能保持中立不是最好的事情嗎？”［14］

米特爾施泰特（Brent Daniel Mittelstadt）認為，數(shù)據(jù)科學家們的中立渴望可能會面臨兩個重要方面的失?。阂环矫妫辛⑹且粋€無法實現(xiàn)的目標，因為專家不受個人背景、價值觀和利益的影響，就不可能從事科學研究或政治活動；另一方面，努力保持中立本身并不是一種政治中立的立場，相反，它從根本上說是保守的。［15］追求客觀真理的精神，自19世紀以后已經(jīng)演變成一系列具有廣泛倫理關懷和規(guī)范性的科學實踐，即進行“好的科學（good science）”并成為一名“好科學家（good scientist）”就意味著要壓制自己的觀點，這樣才不會影響對科學觀察結果的解釋。也就是說，即使客觀性的科學標準能夠解釋某些類型的個人主觀性，但它們的解釋仍過于狹隘：最大化客觀主義的方法無法檢驗價值觀、興趣、話語資源以及首先構成科學問題的知識生產(chǎn)，更不用說對它們進行核心概念選擇、待測試假設和研究設計了。［16］可以說，在具體的社會情境下，這樣的立場使得本應客觀且“無處不在（gaze from nowhere）”的科學變成了一廂情愿的幼稚“幻想（illusion）”。［17］

雖然不是每一位爭取中立的科學家和工程師都抱有這種政治意圖或動機，但將科學視為中立的廣泛社會文化主張與形態(tài)確實鞏固了占主導地位的社會群體的觀點，而這些群體也是唯一有權合法主張中立的群體。例如，很多學者已經(jīng)注意到，中性一般是從男性視角定義的，這使得女性無法被從客觀的、中立的視角來考慮她們的社會立場。由于這些文化偏見的存在，當邊緣化的群體批評科學發(fā)現(xiàn)時，他們往往被認為是非理性的、政治性的，并且是代表著特定階層利益的觀點。相比之下，支持科學研究與實踐的社會主導群體的觀點卻很少被認為患有同樣的弊病。［18］對數(shù)據(jù)科學而言，它自誕生以來就一直處于政治利益格局之中。無論開發(fā)人員是否明確表述過，機器學習系統(tǒng)都已經(jīng)被嵌入了某種政治理念或立場，忽視這一事實只會讓這些政治判斷在未經(jīng)審查的前提下被通過，從而賦予數(shù)據(jù)科學系統(tǒng)比它應得更多的可信度與合法性。［19］

格林認為，不僅眾多算法系統(tǒng)中的數(shù)據(jù)科學不能保持中立，而且所有應用數(shù)據(jù)科學也都如此。帶有偏見性的數(shù)據(jù)只是答案的一部分，與之相對應的現(xiàn)有社會政治條件、社會問題的定義與分類以及應對這些問題的一系列機構也都不是中立的，它們無法從政治中完全脫離出來。雖然數(shù)據(jù)科學家沒有責任來解決現(xiàn)代社會運轉(zhuǎn)方面的問題，但他們有責任選擇應該如何與社會互動。面對不公正時，保持中立只會使這種情況在當代愈演愈烈。［20］換言之，當涉及世界歷史與政治的多重敘事時，數(shù)據(jù)科學家不可能不采取某種政治立場。

（三）爭議三：“我們不應該讓完美成為‘善的敵人”

通過對爭議一與爭議二的回應，持第三種觀點的數(shù)據(jù)科學家可能會承認，他們的“杰作”不可避免地會產(chǎn)生社會影響，絕對的中立是不可能的。然而，他們?nèi)匀粫磳氐椎恼螀⑴c，這看似又回到一種務實的立場：因為數(shù)據(jù)科學工具能夠以漸進且重要的方式改善社會，我們應該支持它們的發(fā)展，而不是爭論什么是完美的解決方案。

這種觀點認為大數(shù)據(jù)在應用階段需要以社會價值為最高目標，回歸共有屬性（生產(chǎn)階段）和共治結構（處理階段），達至共享結果（包括成果共享和責任共擔）。然而，它同時又受到幾個基礎性原則的影響與制約。一是數(shù)據(jù)科學缺乏關于“完美”與“善”究竟是什么的理論支持。這樣，該領域的專家通常會采取一種膚淺的改革方法，從而對什么樣的社會條件是可取的做出模糊（幾乎是重復）的決定。二是這種觀點未能闡明應該如何評估或引導完美與善之間的關系。因此，數(shù)據(jù)科學家們往往想當然地認為，那些促進社會福利的努力，即以技術為中心的漸進式改革是社會進步的適當戰(zhàn)略。［21］

1.數(shù)據(jù)科學缺乏對“社會善（social good）”的全面定義

在牽涉廣泛的數(shù)據(jù)科學領域，“社會善”（或只是“善”）已經(jīng)成為各種學術機構、各級會議、公司企業(yè)、志愿者組織中一個流行的術語。例如，美國和歐洲的許多大學都舉辦了“數(shù)據(jù)科學促進社會善的暑期獎學金（Data Science for Social Good Summer Fellowship）”，并且隨后的幾次大型計算機科學會議都舉辦了人工智能促進社會善的研討會（AI for Social Good workshops）。［22］雖然數(shù)據(jù)科學界這些積極的行動既值得稱贊又令人興奮，但該領域尚未制定出（甚至沒有太多討論）關于“社會善”的任何理論框架和概念來指導其實踐工作。取而代之的是，數(shù)據(jù)科學領域更多地采用一種“見多識廣（know it when you see it）”的研究路徑，依賴于一些粗略的替代性指標，如犯罪=壞、貧困=壞等等，使得很多術語嚴重缺乏精確性，德爾塔分析公司的一位創(chuàng)始人曾對此評論道：“‘數(shù)據(jù)為善已經(jīng)成為一個任意術語，并且損害到了這項運動發(fā)起的初衷?！保?3］

在齊亞德·奧伯邁爾（Ziad Obermeyer）看來，重點不是給“社會善”下一個單一的最佳的定義，也不是每個數(shù)據(jù)科學家都應該就一套規(guī)范或原則達成一致。［24］恰恰相反，必須公開承認話語與觀點的多元化，才能讓關于“善”究竟意味著什么的討論具有實際意義。然而，目前數(shù)據(jù)科學領域缺乏足夠的語言與獨特的視角來評估和討論關于什么是“善”的不同認知。如果僅僅通過用如此模糊且未定義的術語來闡述他們理解的“善”，那么數(shù)據(jù)科學家們似乎也可以得到他們的蛋糕并吃掉它：他們能夠在廣泛宣稱解決了社會挑戰(zhàn)的基礎上獲得贊譽并發(fā)表相關研究成果，同時避免受到社會和政治的實質(zhì)性影響。［25］而這種認識的危險傾向在于，數(shù)據(jù)科學對“社會善”設定的模糊框架會使得那些掌握權力的人將他們關于什么是“善”的規(guī)范性判斷作為難以被質(zhì)疑的中立性事實，試圖保持中立往往會讓人們更愿意站在一種保守和維持現(xiàn)狀的立場上。

2.追求漸進的“善”可能帶來的雙重壓迫

從更深的層面上理解，即使數(shù)據(jù)科學家承認對“社會善”的定義通常很模糊，但他們?nèi)钥赡軋猿帧拔覀儾粦撟屚昝莱蔀椤频臄橙恕钡挠^點。畢竟，他們可能會說：“某種解決方案，無論多么不完美，不是總比什么都沒有好嗎？……我們不應該因為對最佳‘結果的擔憂而推遲提供解決方案。”［26］

然而，上述觀念沒有明確地告訴人們完美與善之間的關系。直至今日，數(shù)據(jù)科學界還沒有開發(fā)出任何嚴格的標準或方法來考量算法干預與社會影響之間的關系。盡管數(shù)據(jù)科學家普遍認為，數(shù)據(jù)科學無法為所有社會問題都提供完美的解決方案，但矛盾的是他們通常會理所當然地認為，使用數(shù)據(jù)科學的漸進式改革有助于實現(xiàn)“社會善”。約翰·西爾維斯特（John Sylvester）深入反思了數(shù)據(jù)科學中“社會善”的內(nèi)在意蘊，評論道：“雖然人們確實能夠在利用數(shù)據(jù)科學促進‘社會善的過程取得一些成效，但在沒有嚴密且完整的社會變革理論下應用此類技術可能會產(chǎn)生嚴重的社會危害。從狹義的角度看，將數(shù)據(jù)科學應用于解決眼前問題的社會改革是可取的，從廣義的角度看，將其應用于長期的結構性社會變革則是不可取的?！保?7］

更進一步說，在進行嘗試性改革的過程中，一項基本的任務是評估漸進式變革與更公正社會的長期政治議程之間的關系。社會哲學家安德烈·戈爾茨（André Gorz）指出，我們必須區(qū)分“改良主義的改革”（reformist reforms）與“非改良主義的改革”（nonreformist reforms）。他進一步解釋道：“改良主義的改革是一種將其目標置于特定制度和政策的合理性與實用性標準之下的改革。相比之下，非改良主義的改革不是根據(jù)特定制度和行政框架內(nèi)可能發(fā)生的事情來進行考量與設計，而是根據(jù)人類的需要和需求來實現(xiàn)某種策略安排?！保?8］改良主義與非改良主義的改革同屬于漸進式改革，但它們的差異在于通過不同的構建路徑來實現(xiàn)改革。改良主義的改革者致力于從現(xiàn)有的社會體系中出發(fā)，尋找改善社會的方法。而非改良主義的改革者致力于從現(xiàn)有社會體系或體制之外開始，尋找社會通往解放之路。由于二者的建構思路與方法不同，單一追求其中一種改革可能會導致最終的社會與政治結果大相徑庭。數(shù)據(jù)科學家們提出的解決方案幾乎完全是改良主義的改革。這是因為數(shù)據(jù)科學的干預或措施通常是為了提高系統(tǒng)本身的性能，而不是對其進行實質(zhì)性改變。雖然這些數(shù)據(jù)科學化的改革在某些條件下具有一定社會價值，但這種改良主義改革的精神特質(zhì)不適合于識別與追求許多社會系統(tǒng)與體制所需的更大整體性與創(chuàng)新性的變革。［29］

總體而言，這并不是說數(shù)據(jù)科學無法改善社會，［30］而是要將數(shù)據(jù)科學的干預措施與其他可替代性改革方案作為眾多社會治理選擇中的一種進行評估。［31］“這里不應該有任何默認的假設，即機器學習能夠為每個問題都提供適當?shù)慕鉀Q方案。數(shù)據(jù)科學家在試圖避免政治化的過程中，忽略了技術的社會影響，他們給予現(xiàn)狀以特權，卻縮小了可能進行的改革范圍?！保?2］鑒于此，需要將數(shù)據(jù)科學從政治正義的視角加以審視，即在一個始終如一的、整體性的、包羅萬象的框架之內(nèi)，一個涵蓋一切的社會空間“幾何體”，該“幾何體”能避免狹隘的、特定的路徑，并能探討在面對社會公平正義問題時，數(shù)據(jù)科學的真正有效應對之策。

二、政治正義視角下對數(shù)據(jù)科學困境的超越

通過對上述人與數(shù)據(jù)科學關系框架的反思，可以得出結論，即數(shù)據(jù)科學家必須承認自己是政治的參與者，但無法避免的問題是：如果數(shù)據(jù)科學是建立在社會正義的政治基礎之上的，那么其主張、特征和本質(zhì)是什么；數(shù)據(jù)科學領域應該如何朝著這個方向發(fā)展。對于這兩個問題的回答，需要根據(jù)設計進路、治理進路、去中心進路、非常規(guī)正義進路將政治融入數(shù)據(jù)科學的過程并概念化為以下四個階段 有些人可能會認為，階段一與階段二的順序應該顛倒過來：數(shù)據(jù)科學家應該首先反思，然后再采取行動解決社會問題。這將是最負責任的方法，也是數(shù)據(jù)科學家需要長期遵循的做法。然而，根據(jù)實踐案例與經(jīng)驗表明，數(shù)據(jù)科學家與政治發(fā)生關聯(lián)往往始于應對社會問題與挑戰(zhàn)的興趣，然后才能引發(fā)數(shù)據(jù)科學家對政治及社會問題的反思。未來新的數(shù)據(jù)科學技術（倫理）教育方法可以合并這兩個階段。例如，一個“公共利益技術（public interest tech）”項目能夠?qū)?shù)據(jù)科學的政治性質(zhì)的反思納入其應用數(shù)據(jù)科學的努力實踐中。 ，涉及個人、制度、文化層面的改革。

（一）階段一：將數(shù)據(jù)科學家的著眼點或興趣聚焦于解決社會現(xiàn)實問題

數(shù)據(jù)科學家們走向政治成熟的第一步應該是將其工作定位于解決社會現(xiàn)實問題。目前，已經(jīng)有很多數(shù)據(jù)科學項目致力于進行關于“公共利益技術”（public interest technology）項目的開發(fā)與研究，［33］從“數(shù)據(jù)為善”（data for good）項目到公民技術團體活動，越來越多的政府與非營利組織中的數(shù)據(jù)科學家將他們的知識用于解決緊迫的社會問題。這一階段是根據(jù)設計進路中自下而上的原則，強調(diào)設計過程的開放性、后驗性，由群體共建。

在專業(yè)知識和技能日益多樣化的世界中，為了改善社會公眾的處境，數(shù)據(jù)科學家需要為社會問題的解決提供方法、途徑以及更廣泛的文化支持。例如，相關的數(shù)據(jù)科學項目可以用來促進當?shù)卦\所的發(fā)展，數(shù)據(jù)科學專業(yè)的學生可以向政治活動家和政府機構等“客戶”提供技術支持與政策咨詢，反過來這些項目也可以為學生學習提供資金支持與專業(yè)性指導，從而幫助他們找到那些關注社會影響力的實習或工作。其中至關重要的是，“社會善”與“公共利益技術”項目必須優(yōu)先考慮社會與政治改革，而不是考慮如何使用技術。技術的最終目的應該是積極影響或改善社會，而不是開發(fā)復雜技術工具本身。［34］

（二）階段二：數(shù)據(jù)科學家應該以開放、批判性態(tài)度反思工作中的政治問題

在進行數(shù)據(jù)科學促進“社會善”的項目中，數(shù)據(jù)科學家們很可能遇到一些政治性問題，從而使其直接影響數(shù)據(jù)科學發(fā)展的方向、速度、規(guī)模和道路。這就需要數(shù)據(jù)科學家始終保持以社會影響力為基礎的開放與批判性態(tài)度，引起他們對政治的反思、對社會的重新認識，以使數(shù)據(jù)科學發(fā)展、社會進步和人類道德、思想、情感、政治以及自然可持續(xù)發(fā)展能夠高度融合，這也正是我們在這個不確定性時代的政治環(huán)境中重新提倡實踐數(shù)據(jù)科學的意義所在。

在階段二的發(fā)展過程中，根據(jù)治理進路代表人物理查德·?？怂梗≧ichard Heeks）的觀點，認為治理進路意在矯正數(shù)據(jù)活動中所產(chǎn)生的正義問題，這就要求要求數(shù)據(jù)科學家在代表權和信息隱私之間取得平衡，

以一種開放性的態(tài)度保障用戶能夠共享數(shù)據(jù)紅利并保持在技術選擇中的自主性，不斷提高弱勢群體挑戰(zhàn)偏見和預防歧視的能力，更多地向他們提供捍衛(wèi)自身權益的機會。之后，林內(nèi)特·泰勒（Linnet Taylor）提出的代表權原則認為，數(shù)據(jù)工程師應當在設計環(huán)節(jié)中堅持批判性態(tài)度，反思現(xiàn)實世界中擁有特權的群體是否往往擁有過度代表權，而那些難以與數(shù)字世界交互的群體是否缺乏代表權。只有以平等與自由為基礎，尊重用戶知識選擇的自主性與可見權利，這 種普遍的數(shù)據(jù)正義才是可取的。在以往數(shù)據(jù)科學應對與公眾生活密切相關的重大社會與政治事件過程中，人們普遍認為數(shù)據(jù)代表著“事實”，算法意味著“客觀”，而今天數(shù)據(jù)科學界內(nèi)部普遍承認數(shù)據(jù)包含著偏差，算法存在著偏見。隨著時間的推移，數(shù)據(jù)科學家需要進一步擴展這種批判性與反思性的視角，從而深入思考自身工作的各個方面是怎樣具有政治性的。

（三）階段三：用數(shù)據(jù)科學回應新興的社會問題

去中心進路認為數(shù)據(jù)正義問題的關鍵在于運用數(shù)據(jù)科學來面對新興的社會挑戰(zhàn)與問題，反抗數(shù)據(jù)不公背后的系統(tǒng)性壓迫和不公正的社會結構。西塔（Seeta Pena Gangadharan）和尼克拉斯（Jedrzej Niklas）是去中心進路的代表，他們認為社會技術視角下的數(shù)據(jù)正義研究通常是一種規(guī)范性研究，默認技術負載價值（value-laden），或致力于保障個體過上好生活所需的自由，或致力于滿足人的需求。二人由此提出一種去中心視角，取消技術在數(shù)據(jù)正義中的核心地位，但承認技術是促進或反對身份政治的有效工具。

對此，戈爾茨認為應建立包括標準和規(guī)范主體在內(nèi)治理框架來監(jiān)督保證數(shù)據(jù)科學家的工作。他提出的非改良主義改革模式與監(jiān)獄廢除框架就提供了超越漸進式改革和激進式改革之間錯誤二分法的概念工具?！芭行栽O計”（critical design）的概念體現(xiàn)了一種類似的理念：與“肯定性設計”（affirmative design）相反，“批判性設計”通過體現(xiàn)可替代性的社會、文化、技術或經(jīng)濟價值觀的設計，從而反映出對事物現(xiàn)狀的批判。另一個相關的理論框架是“反壓迫設計”（anti-oppressive design），它提供了如何最好地利用資源的行動指南，無論是在選擇研究主題、新社會企業(yè)的發(fā)展重點，還是在選擇客戶與項目方面，都能夠依賴更客觀、更全面的立場來審視當代的社會信息環(huán)境，而不是僅憑借模糊的意圖概念或公認的關于什么是善的智慧來對社會問題進行決斷。

從根本上說，僅僅將數(shù)據(jù)科學應用于解決新的社會問題依然是不民主的：它允許數(shù)據(jù)科學家在不經(jīng)過深思熟慮或問責的情況下就塑造社會。在這一脈絡下，即使一大批數(shù)據(jù)科學家的行動是建基于反社會壓迫的理想，但他們的努力與實踐如果不是立足于被服務社區(qū)的需求和愿望的話，那么他們的行為仍然會起到強制性作用，從而在社會范圍內(nèi)出現(xiàn)意識形態(tài)圈層壁壘和政治群體區(qū)隔。總之，為了促進長期的結構性變化并實現(xiàn)社會公正，數(shù)據(jù)科學的實踐需要更大的本質(zhì)性轉(zhuǎn)變。

（四）階段四：數(shù)據(jù)科學應該圍繞著社會正義的政治方向開展技術革新

最后一階段的目的是，力圖為實現(xiàn)數(shù)據(jù)科學的政治參與功能建構的意義開發(fā)新的技術工具與模式。這一目標的實現(xiàn)有賴于為數(shù)據(jù)科學探索新的認識論、方法論與社會文化。南希·弗雷澤（Nancy Fraser）作為非常規(guī)正義進路的代表人物，她把當代社會正義問題劃分為錯誤承認、分配不公和政治不平等三個方面。算法歧視即屬錯誤承認的范疇，并進一步提出要想找到問題的突破口，需要實用主義精神，從最先需要矯正的現(xiàn)實技術問題著手。通過在數(shù)據(jù)系統(tǒng)的整個生命周期中構建參與式的新數(shù)據(jù)科學決策模型，創(chuàng)建新的認識論與社會文化，在更廣泛的政治情境與維度中建立數(shù)據(jù)決策規(guī)則和程序，從而合理落實不同主體的責任，平衡不同主體間的利益沖突，將參與平等這一核心規(guī)范嵌入數(shù)據(jù)技術的革新之中，使得正義的數(shù)據(jù)科學在承認、再分配和代表權三個方面作出公正的安排?？傮w來看，雖然未來的道路仍然充滿著不確定性，但以下幾個發(fā)展方向是明確的。

1.構建參與式的新數(shù)據(jù)科學決策模型

雖然系統(tǒng)與算法是冷漠的，追求理性與效益第一，但數(shù)據(jù)科學家們應該放棄對數(shù)據(jù)客觀性的期望，轉(zhuǎn)而從不同視角對社會問題進行參與和反思。STS學者唐納·哈拉維（Donna Haraway）主張采用一種以“情境知識”（situated knowledges）為核心的認識論方法，她認為在數(shù)據(jù)科學領域“需要一種重視爭論和解構客觀性的理論”，即每一項主張或解決方案都能夠考慮到特定個人或群體的利益。按照這種邏輯，那些試圖選擇“中立”的數(shù)據(jù)科學家必然被具有情境價值的數(shù)據(jù)科學所取代，即“數(shù)據(jù)科學的參與式反主流文化”（participatory counterculture of data science）。因此，鑒于數(shù)據(jù)科學的發(fā)展會受到本領域從業(yè)者對問題的看法以及解決方法的影響，應該鼓勵數(shù)據(jù)科學兼具更廣范圍的多樣性與包容性，以賦能促進賦權，通過科技賦能賦予社會生活中的個人和群體以更大的成就自我與社群的空間。

此外，作為對這種參與式文化的補充，數(shù)據(jù)科學應該更直接地與受技術負面影響的社區(qū)“共同設計”解決方案。同時，數(shù)據(jù)科學家還應該設計相應技術程序，從而將大量公眾聲音納入考量范圍，因為當工程師優(yōu)先考慮自己的觀點而沒有考慮整個社會的需求與價值觀的多樣性時，他們往往會抹殺并忽略掉那些已經(jīng)被邊緣化的人的合法權益。為了避免參與這些壓迫性（即使是無意的）行為，數(shù)據(jù)科學家必須將受影響的社區(qū)集中納入他們的工作計劃。而只有堅持“沒有我們就不要做關于我們的決定”（Nothing about us without us）的原則，才可能有效防范數(shù)據(jù)科學極權政治的風險。

2.新的認識論與社會文化

對數(shù)據(jù)科學困境的超越不僅需要適應新的政治理論話語與方向，更重要的是為參與性實踐探索新的認識論。從廣義上說，數(shù)據(jù)科學必須朝著一種 “關鍵性技術實踐”（critical technical practice）的認識論方向發(fā)展，從而拒絕“數(shù)學形式主義的錯誤精確性”（the false precision of mathematical formalism），以便與充滿著復雜性和模糊性的政治世界進行全面互動。

從新認識論的構建實踐來看，數(shù)據(jù)科學應該進一步改變其內(nèi)在結構，以促使人們更加關注數(shù)據(jù)科學的應用及其影響。為了實現(xiàn)社會正義，解決與算法相關的最緊迫的社會問題，數(shù)據(jù)科學必須在更廣泛的范圍上重新構造其技術體系，同時，還需要深思熟慮地調(diào)整數(shù)據(jù)科學這種技術工具的認識論特征、動機意圖、與應用間的關系，以適應特定組織或社區(qū)的需求。如果數(shù)據(jù)科學家想要為改善社會做出貢獻，那么他們需要一種更為嚴格的認識論，以確保數(shù)據(jù)科學工具在社會現(xiàn)實環(huán)境中應用時產(chǎn)生有益的影響。

依循這一邏輯，數(shù)據(jù)科學家應該采取一種反思性的政治立場，從而嚴格地評估數(shù)據(jù)科學可能產(chǎn)生的社會與政治影響。為此，未來數(shù)據(jù)科學研究的一個必然方向是構建跨學科的認識論框架，以幫助數(shù)據(jù)科學家考慮其干預措施的實際影響，這就意味著要將注意的視角引向各種形式的“不確定性”上，因為這些“不確定性”可能導致算法產(chǎn)生與開發(fā)人員預期不同的后果。

3.將數(shù)據(jù)科學嵌入更廣泛的政治情境中

當然，數(shù)據(jù)科學的變革不會在政治或社會的真空中發(fā)生。它的變革需要在更廣泛的政治情境中進行結構性與制度性的重構，以促進建設一個更加公正且持續(xù)發(fā)展的社會。必須承認，著力于實現(xiàn)社會正義的數(shù)據(jù)科學家應該努力進行更多系統(tǒng)性、整體性、協(xié)同性的改革，對體制機制的頂層設計提出更高要求，以應對數(shù)字技術可能帶來的社會威脅。例如，在工人之間建立促進團結與權力合理分配的機制能夠使數(shù)據(jù)科學的發(fā)展遠離不利因素；近年來，已有很多美國科技工作者自發(fā)組織起來反對本公司與國防部和國土安全部建立合作關系。這些技術專家并不認為自己“只是一名工程師”，而是認識到自己在更大的社會技術系統(tǒng)中所扮演的角色及所處的政治地位，認識到自己的工作與其社會影響之間的聯(lián)系，并要求自己（及其公司）對這些可能產(chǎn)生的社會影響負責。

綜上所述，數(shù)據(jù)科學家本身并不能對促成社會與政治進步負責，他們只是眾多社會行動者中的一員。數(shù)據(jù)科學家的任務不是獨自應對社會挑戰(zhàn)或消除數(shù)據(jù)技術的潛在危害，而是在廣泛的科學、政治與結果聯(lián)盟和社會運動中充當深思熟慮且富有成效的合作伙伴，與其他社會成員共同建立一個更加平等公正的社會。

結語

在“算法統(tǒng)治”時代，雖然數(shù)據(jù)科學沒有直接參與任何社會政治活動，但數(shù)據(jù)科學家必須拋棄其過去政治中立的認知理念，認識到數(shù)據(jù)科學的運行邏輯、方法和技術正在成為塑造人們?nèi)粘Ｉ畹闹饕α?，進而成為塑成一般思想習慣的主要力量，社會將根據(jù)數(shù)據(jù)技術的作用來運作。因此，僅僅有良好的意愿是不夠的，還需要數(shù)據(jù)科學家將他們的努力建基于明確的政治承諾與對技術后果的嚴格評估之上。

首先，對數(shù)據(jù)進行正義性的規(guī)制與承諾。數(shù)據(jù)與算法是冷漠的，它計算的是理性與效益第一，忽視的是人格、尊嚴與豐富性。只有通過對數(shù)據(jù)進行正義性的規(guī)制與承諾，以此立場出發(fā)才可能找到更為完善的治理應對措施。因此，一方面數(shù)據(jù)科學家們在開發(fā)軟件、設計算法的過程中，需要給技術以機會完善自身，成為人類的認識伙伴，而不是用智能、“客觀”的“模型”來武斷地代替人們?nèi)フJ識世界，多對“標準化”、“理想化”以外情景進行考慮，保留更多的治理溫度。另一方面，政治決策者以及公眾需要在社會正義承諾的指引下，警惕身邊的數(shù)據(jù)“采集”行為，多注意一下這些技術的用途，拒絕沒有經(jīng)過同意的技術應用。

其次，重視數(shù)據(jù)評估工具的智能化賦能。數(shù)字正義具有不同層面的社會正義要求，其實現(xiàn)與否需要綜合法律、技術、倫理和代碼才能判斷，加之神經(jīng)網(wǎng)絡深度學習算法日益復雜化，傳統(tǒng)評估方法顯然無法滿足算法影響評估的需要。對此，應對評估工具進行智能化賦能，用“數(shù)據(jù)評估數(shù)據(jù)”。簡單來說，可設計出一種數(shù)據(jù)影響評估模型，通過該模型就能夠向數(shù)據(jù)以及算法監(jiān)管機構和社會公眾證明算法隨機選擇輸入數(shù)據(jù)的公平性，且自動化決策是根據(jù)一套統(tǒng)一規(guī)則做出的不存在任何歧視性輸出結果。

最后，構建技術與人文的良性互動，引導“技術治理”向“技術善治”的轉(zhuǎn)型。數(shù)字正義的目標應是實現(xiàn)“數(shù)字包容”，而不是加劇“數(shù)字鴻溝”。應對治理難題，推進整體性轉(zhuǎn)變需要全社會的共同參與，而不能僅僅惠及數(shù)字化的強者。消解技術社會化困境，實現(xiàn)社會的包容性、公正性的發(fā)展，需要建立起人文與技術雙重疊加后的耦合發(fā)展，在技術中植入人倫情感的考量。在強調(diào)技術效率的同時也要增強心靈關懷，要以人文關懷為核心，牢記“技術以人為本”，體現(xiàn)“人本主義”的倫理關懷， 引導“技術治理”向“技術善治”轉(zhuǎn)型，將“技術治理”從“技術邏輯”中拉回“治理邏輯”，馴化技術，而不是變成技術的囚徒。

總之，數(shù)據(jù)科學作為一種政治行動的形式，數(shù)據(jù)科學家則是參與社會范式構建的政治參與者，他們利用算法和工具為重要的社會政治決策提供信息?；厮輾v史、關照現(xiàn)實，以一種歷史的、發(fā)展的眼光來理解正義與數(shù)據(jù)科學之間的關聯(lián)，可以說數(shù)字正義的實現(xiàn)過程，本質(zhì)是審視人類文明這個復雜系統(tǒng)整體呈現(xiàn)的數(shù)字化，正義作為公共性建構的統(tǒng)領，其理念建構、制度建構、邏輯建構面臨新挑戰(zhàn)、新動向、新使命。為此，只有正視數(shù)據(jù)不公正問題，研判當代正義的總體特征及其實踐價值、場域和歷史指向，進而為整體認識數(shù)據(jù)科學帶來的新挑戰(zhàn)，形塑新邏輯、融合新理念、構建新制度，才能為實踐數(shù)據(jù)正義提供一種學理性的、系統(tǒng)性的思考。

參考文獻：

［1］ D. J. Patil. A code of ethics for data science ［EB/OL］. （2018-02-02）［2023-02-12］.https：//medium.com/@dpatil/a-code-of-ethics-for-datascience-cda27d1fac1.

［2］B. Green. The Smart Enough City： Putting Technology in Its Place to Reclaim Our Urban Future［M］. Cambridge， MIT Press， 2019：102-105.

［3］ Dencik L，Hintz A，Redden J，et al．Exploring Data Justice： Conceptions， Applications and Directions［J］. Information，Communication＆Society， 2019（7） ： 873-881．

［4］Heeks R. A Structural Model and Manifesto for Data Justice for International Development［J］ .Development Informatics Working Paper，2017（69） ： 1-16．

［5］Park S，Humphry J．Exclusion by Design： Intersections of Social， Digital and Data Exclusion［J］. Information，Communication ＆ Society，2019（ 7） ： 934-953．

［6］Pena Gangadharan S，Niklas J． Decentering Technology in Discourse on Discrimination［J］．Information，Communication ＆ Society，2019（ 7） ： 882-899．

［7］A. Leftwich. Politics： People， resources， and power， in What is Politics？ The Activity and its Study［M］. Oxford： Basil Blackwell， 1984： 62-84.

［8］H. D. Lasswell. Politics： Who Gets What， When， How［M］. New York： Whittlesey House， 1936： 44-50.

［9］盧江. “施瓦布景象”真的存在嗎？——技術牽引條件下系統(tǒng)性變革的政治經(jīng)濟學分析［J］.天津社會科學，2017（2）： 19-23.

［10］ P. Butler. Chokehold： Policing Black Men［M］. New York： The New Press， 2017：89-102.

［11］A. Lorde. The masters tools will never dismantle the masters house， in Sister Outsider： Essays & Speeches［M］. Trumansburg： Crossing Press， 1984： 110-113.

［12］L. Winner. The Whale and the Reactor： A Search for Limits in An Age of High Technology［M］. Chicago： University of Chicago Press， 1986：123-129.

［13］Virginia M. Miori. The Pollyanna Problem： Assignment of Participants in a Gift Exchange［J］. International Journal of Business Intelligence Research， 2014（1）：12.

［14］S. Jasanoff. In a constitutional moment： Science and social order at the millennium， in Social Studies of Science and Technology： Looking Back， Ahead， B［M］. Netherland： Springer， 2003：155-180.

［15］B. Mittelstadt. Principles alone cannot guarantee ethical AI［J］. Nature Machine Intelligence， 2019（1）： 501-507.

［16］Yoshihiro S， et al. Society 5.0： For Human Security and Well-Being［J］. Computer，2018（7）： 91-95．

［17］R. M. Unger. False Necessity： Anti-Necessitarian Social Theory in the Service of Radical Democracy［M］. Cambridge： Cambridge University Press， 1987： 97-110.

［18］溫亮明， 張麗麗， 黎建輝. 大數(shù)據(jù)時代科學數(shù)據(jù)共享倫理問題研究［J］. 情報資料工作，2019（3）： 38-44.

［19］〔美〕喬納森·科爾，斯蒂芬·科爾. 科學界的社會分層［M］. 趙佳苓，顧昕，黃紹林，譯．北京：華夏出版社，1989：205-208.

［20］ACRL. 2020 top trends in academic libraries［J］. College＆Research Libraries News， 2020（6）： 11-15.

［21］P. Butler. Chokehold： Policing Black Men［M］. New York： The New Press， 2017： 142-145.

［22］S. Hooker. Why “data for good” lacks precision ［EB/OL］. （2018-06-22）［2023-02-12］.https：//towardsdatascience.com/why-data-for-good-lacksprecision-87fb48e341f1.

［23］A. S. Vitale. The End of Policing［M］. London： Verso Books， 2017： 55-62.

［24］W. Kenton. Social good， Investopedia ［EB/OL］. （2021-05-31）［2023-02-12］.https：//www. investopedia.com/terms/s/social_good.asp.

［25］Z. Obermeyer， B. Powers， C. Vogeli， S. Mullainathan. Dissecting racial bias in an algorithm used to manage the health of populations［J］. Science， 2019（6464）： 447-453.

［26］李重照，黃璜. 英國政府數(shù)據(jù)治理的政策與治理結構［J］. 電子政務，2019（1）：20-31.

［27］J. Sylvester and E. Raff. What about applied fairness［C］//Machine Learning： The Debates Workshop at the 35th International Conference on Machine Learning. Sweden： Stockholm， 2018： 230-234.

［28］A. Gorz. Strategy for Labor［M］. Boston： Beacon Press， 1967： 330-335.

［29］黃璜. 美國聯(lián)邦政府數(shù)據(jù)治理：政策與結構［J］. 中國行政管理，2017（8）：47-56.

［30］A. Karakatsanis. The punishment bureaucracy： How to think about “criminal justice reform” ［J］. The Yale Law Journal Forum， 2019（128）： 848-935.

［31］A. M. McLeod. Confronting criminal laws violence： The possibilities of unfinished alternatives［J］. Harvard Journal of the Legal Left， 2013（8）： 109-132.

［32］S. Frenkel， N. Confessore， C. Kang， M. Rosenberg， and J.Nicas. Delay， deny and deflect： How Facebooks leaders fought through crisis ［EB/OL］. （2018-11-14）［2023-02-12］.https：//www.nytimes.com/2018/11/14/technology/facebook-data-russia-electionracism.html.

［33］S. Levin. YouTube alters search algorithm over fake Las Vegas conspiracy videos ［EB/OL］. （2017-10-06）［2023-02-12］. https：//www.theguardian.com/us-news/2017/oct/06/youtube-alters-search-algorithmover-fake-las-vegas-conspiracy-videos.

［34］C. O. Scharmer. The blind spot of leadership ［EB/OL］. （2014-08-02）［2023-02-12］.https：//zampellagroup.com/wp-content/uploads/2014/08/ 2003_TheBlindSpot.pdf.

［責任編輯、校對：黨 婷］