□文│吳 靖

20世紀(jì)中葉以來，“人工智能”一直被認(rèn)為是人類科技的前沿領(lǐng)域，一旦有所突破，就具有改變?nèi)祟悮v史的力量。20世紀(jì)60年代，“人工智能”與“空間技術(shù)”和“能源技術(shù)”并稱為人類三大尖端技術(shù)，而到了21世紀(jì)，其他兩項(xiàng)變成了“基因工程”和“納米科學(xué)”，“人工智能”卻又一次上榜，成為科技新浪潮的代表性技術(shù)。2016年，隨著阿爾法狗大戰(zhàn)人類圍棋頂級高手的聳動新聞的熱議，“人工智能”的話題從小眾的尖端科技領(lǐng)域進(jìn)入到了大眾文化，人們開始討論現(xiàn)實(shí)中可以實(shí)現(xiàn)，或者不久馬上會實(shí)現(xiàn)的人工智能應(yīng)用，而不是未來主義暢想中的縹緲景觀。在機(jī)器輕易挑戰(zhàn)了不久前還被認(rèn)為是很難挑戰(zhàn)的人類智慧高峰圍棋的時刻，人類輿論充滿了對人工智能即將碾壓人類熟知的一切的期待與恐懼。但是總的來說，在兩年前沸騰的人工智能輿論中，樂觀主義成為主旋律。人類憧憬著新科技能夠解決當(dāng)下世界的結(jié)構(gòu)性問題，感慨人類主體性可能會消退，半期待半擔(dān)憂地討論著機(jī)器全面取代人類勞工的未來場景。

然而到了2018年，關(guān)于“人工智能”的新聞雖然繼續(xù)接二連三，但是風(fēng)向卻出現(xiàn)了巨大的轉(zhuǎn)變。首先用詞更加接地氣了，“算法”替代了“人工智能”這個大而無當(dāng)?shù)母拍睿鞔_指明了這一新科技發(fā)展的核心原理，那就是由計(jì)算機(jī)來模擬某些人的思維和智能，通過“算法”來實(shí)現(xiàn)在存在一定的輸入的條件下，由計(jì)算機(jī)來完成特定功能的輸出，替代或增強(qiáng)人類的某些決策任務(wù)與能力。另外，新聞所涉及的行業(yè)也更加具體，并不是還處于科學(xué)游戲和實(shí)驗(yàn)狀態(tài)的“下圍棋”，而是進(jìn)入到自動駕駛、社交媒體和共享經(jīng)濟(jì)平臺這些大量依靠“算法”才能成立的新技術(shù)與經(jīng)濟(jì)實(shí)踐之中。我們可以從這些已經(jīng)發(fā)生的事故和爭議中，去討論“算法”和“人工智能”在具體的社會經(jīng)濟(jì)生活中角色的加強(qiáng)到底意味著什么，以及與人類社會現(xiàn)有的傳統(tǒng)倫理，都產(chǎn)生了怎樣的沖突和重塑的關(guān)系。

本文將從幾個近期有關(guān)算法的新聞事件入手，討論算法主導(dǎo)下的社會與經(jīng)濟(jì)行為，在倫理層面的悖論和困境。

一、平臺經(jīng)濟(jì)的算法依賴與倫理導(dǎo)向

對平臺經(jīng)濟(jì)算法問題的討論基于滴滴順風(fēng)車的系列丑聞。滴滴平臺的順風(fēng)車業(yè)務(wù)接連爆出多起搶劫、強(qiáng)奸、殺人的惡性案件，引發(fā)輿論危機(jī)。以滴滴為代表的“共享經(jīng)濟(jì)”，在2010年前后成為創(chuàng)投市場的寵兒。滴滴出行作為一家2012年才成立的創(chuàng)業(yè)公司，先后完成20輪融資，金額總量超過200億美元，成為全球融資金額最大的未上市公司。[1]滴滴用巨大的融資額通過對出租車和網(wǎng)約車司機(jī)以及乘客進(jìn)行補(bǔ)貼的方式，先后擊敗和收購了快的、優(yōu)步等國內(nèi)國際的網(wǎng)約車平臺，獲得了在中國市場的壟斷地位。在引發(fā)眾怒的系列惡性案件爆發(fā)之后，輿論和交通管理部門都指出了滴滴因?yàn)閴艛喽鴮?dǎo)致的傲慢、管理散漫和對顧客投訴與政府管理回應(yīng)緩慢等問題。然而，除了壟斷、管理不善和資本逐利本性這些所有企業(yè)都有可能存在的問題以外，滴滴公司作為平臺經(jīng)濟(jì)代表的運(yùn)營模式，也是造成出租車行業(yè)在勞工、服務(wù)、安全等方面問題的重要原因。

滴滴之所以能夠在很短時間獲得大量融資、壟斷出租車以及網(wǎng)約車的市場，并且在很長一段時間以來一直獲得政府相對寬容的管理政策，是因?yàn)轭愃频钠脚_企業(yè)以通過算法可以優(yōu)化交通資源配置，并且將私家車的閑置運(yùn)輸能力和乘客的特殊需求進(jìn)行匹配，作為科技創(chuàng)新企業(yè)對新經(jīng)濟(jì)和社會做出巨大貢獻(xiàn)的理由。“算法”在這種平臺經(jīng)濟(jì)的模式中，被當(dāng)做促進(jìn)信息流通和資源高效配置的科技解決方案。在傳統(tǒng)出租車行業(yè)服務(wù)缺陷和城市交通擁堵的大環(huán)境下，加上早期平臺企業(yè)的大規(guī)模補(bǔ)貼政策，民眾和司機(jī)都迅速被吸納到滴滴平臺之上，接受滴滴APP通過算法來調(diào)節(jié)和指揮的打車服務(wù)。另外，與傳統(tǒng)出租車企業(yè)所不同的是，滴滴是一家輕資產(chǎn)的公司，它并不擁有出租車，也并不雇傭司機(jī)，不需要對固定資產(chǎn)以及員工福利、培訓(xùn)和保險進(jìn)行很多投入，但是又可以因?yàn)閴艛嗔祟櫩蛯囕v需求的信息而從司機(jī)的勞動中獲得提成。滴滴與司機(jī)之間，并沒有穩(wěn)定的勞動關(guān)系，它實(shí)際上也并不能夠承諾或者保證在自己的營銷廣告中所宣稱的，對于乘客來說優(yōu)越于傳統(tǒng)出租車行業(yè)的各種服務(wù)。這些只是基于對互聯(lián)網(wǎng)世界資源以及人際關(guān)系最優(yōu)匹配的神話般的社會想象。在現(xiàn)實(shí)中，無論是司機(jī)還是乘客，都會因?yàn)闆]有穩(wěn)定的角色期待、職業(yè)標(biāo)準(zhǔn)、工作經(jīng)驗(yàn)和責(zé)任認(rèn)定，而遇到各種各樣的風(fēng)險和問題。滴滴作為平臺企業(yè)，最大的利益訴求就是維系用戶的黏性，維持用戶對平臺的基本信任，甚至是對平臺的依賴。因而對于顧客投訴甚至警方工作進(jìn)行推諉、拖延，拒絕向政府提供運(yùn)營數(shù)據(jù)和車輛信息，出了事故以后整改不到位等等作為，就不僅僅是管理不善的問題，而是滴滴這種類型的平臺企業(yè)要繼續(xù)運(yùn)營下去的系統(tǒng)性做法。平臺與勞動者和顧客之間，并沒有直接的契約關(guān)系和社會關(guān)系，平臺作為披上科技外衣的“中介”，既具有科技所帶有的“客觀”“中立”“精確”的光環(huán)，又是去人格化、去實(shí)體化的，很容易規(guī)避人們對“倫理”和“責(zé)任”的追問。

不少研究者和觀察家都已經(jīng)指出，從互聯(lián)網(wǎng)創(chuàng)業(yè)大潮中所成長起來的平臺企業(yè)，或者說“共享經(jīng)濟(jì)”，以亞馬遜的Mechanical Turk，Uber，愛彼迎（Airbnb）、淘寶、滴滴等為代表，實(shí)際上是一種與新自由主義經(jīng)濟(jì)模式相契合的“零工經(jīng)濟(jì)”。[2]這種模式是建立在一種對中產(chǎn)階級個體的“創(chuàng)意活動”浪漫化的想象之上，認(rèn)為人們可以利用“業(yè)余時間”（淘寶帶貨）、使用“空余生產(chǎn)工具”（上下班路上的順風(fēng)車、出門度假空置的房屋）、利用自己職業(yè)之外的特殊才藝（外語、寫代碼、制作小工藝品、化妝技巧等），將這些“邊角料”的資源和勞動，通過平臺和算法的連接，轉(zhuǎn)化成財產(chǎn)性收入，既充分利用了資源、服務(wù)了有需求的人，又可以獲得額外的收入，并且勞動時間靈活、自主性強(qiáng)。但是，在現(xiàn)實(shí)中，新自由主義經(jīng)濟(jì)政策導(dǎo)致失業(yè)人口增加，靈活就業(yè)和不穩(wěn)定工作成為常態(tài)，許多勞動者參與平臺經(jīng)濟(jì)是作為唯一的收入來源，而并非經(jīng)濟(jì)收益的錦上添花。而平臺企業(yè)只有將零散的服務(wù)提供者與消費(fèi)者捆綁在一個更加穩(wěn)定和壟斷的信息環(huán)境中，才可能具有可持續(xù)的盈利模式。因此，一方面是勞動者與平臺之間是陌生人和異化的關(guān)系，并不具有傳統(tǒng)企業(yè)勞動環(huán)境所形成的人際關(guān)系、職業(yè)倫理、工作穩(wěn)定性和工友之間的相互支持，而另一方面是消費(fèi)者和零工勞動者在壟斷平臺的擠壓下別無選擇，只能通過平臺來獲取工作和服務(wù)。平臺算法的主導(dǎo)邏輯是效率和交易的達(dá)成，以及快錢的攫取，而并非服務(wù)質(zhì)量的提高和產(chǎn)品的個性化。實(shí)際上，平臺企業(yè)在連接服務(wù)提供者和潛在消費(fèi)者的時候，是無法把“服務(wù)質(zhì)量”這樣主觀性的變量的評估加入到算法之中的，它們所能做的，就是最大限度地促進(jìn)交易和完成交易。具體行業(yè)的職業(yè)水準(zhǔn)的提升和產(chǎn)品質(zhì)量的提高，只能是專注于此的企業(yè)來不斷改進(jìn)，不可能由只把產(chǎn)品和服務(wù)看成數(shù)據(jù)和流動性的平臺來實(shí)施。金融資本主導(dǎo)下的平臺經(jīng)濟(jì)，不可能具有特定的、穩(wěn)定的社會倫理。

二、大數(shù)據(jù)與傳統(tǒng)受眾調(diào)查

2018年初，英國《衛(wèi)報》采訪了一家名叫“劍橋分析”（Cambridge Analytica）的數(shù)據(jù)分析公司的爆料人Christopher Wylie，承認(rèn)公司通過（非法）數(shù)據(jù)挖掘獲得臉書（Facebook）上五千萬用戶的數(shù)據(jù)，用來分析用戶的日常行為與他們的政治態(tài)度之間的關(guān)系。[3]英國脫歐公投和美國川普意外當(dāng)選之后，自由派媒體就一直在調(diào)查這些投票的“意外情況”背后，是否有新的心理操控和政治操控技術(shù)的影響。以Facebook為代表的社交媒體，早已經(jīng)成為許多分析家解釋西方工業(yè)化社會政治公共領(lǐng)域碎片化、代表性斷裂、選舉政治腐化的眾矢之的。這場丑聞還導(dǎo)致了一場為期兩天的美國國會聽證會，幾十名議員對扎克伯格進(jìn)行了連珠炮似的提問，但是似乎焦點(diǎn)成了Facebook如何防止泄露用戶隱私數(shù)據(jù)的問題。把問題的焦點(diǎn)從數(shù)據(jù)分析背后所采用的“算法”及其邏輯，轉(zhuǎn)移到了保護(hù)數(shù)據(jù)不外泄給潛在的邪惡力量，這使得輿論偏離了對一個重要問題的探討：是否數(shù)據(jù)量足夠大，算力足夠強(qiáng)，人們的政治行為，比如投票，就一定是可以展示出特定的規(guī)律、可以預(yù)測并且進(jìn)行人為干預(yù)的？

這個問題并不新鮮，在“大數(shù)據(jù)”這個概念興起之前很久，通過定量數(shù)據(jù)分析，可以對社會成員的行為規(guī)律進(jìn)行總結(jié)和預(yù)測，就已經(jīng)成為大規(guī)模社會調(diào)查——包括商業(yè)調(diào)查和社會心理調(diào)查——所奉行的基本原理了。只不過早期的社會調(diào)查是基于特定社會學(xué)原理的抽樣，而并非完整的大數(shù)據(jù)。因此，在20世紀(jì)的大部分時間，工業(yè)化社會的人們對于商業(yè)調(diào)查、社會態(tài)度調(diào)查、政治選舉調(diào)查、輿論調(diào)查等幾乎充斥了生活方方面面的各類調(diào)查已經(jīng)見怪不怪，并且經(jīng)常認(rèn)為它們的結(jié)論并不準(zhǔn)確，只是一家之言，甚至和算命相比，也精確不了太多，并沒有那么容易和陰謀論或者操控選舉等想象聯(lián)系在一起。引發(fā)輿論恐慌的，是社交媒體、人工智能、大數(shù)據(jù)算法這些“全新”的概念，這些概念發(fā)端于20世紀(jì)60年代的軍事工業(yè)，建立在對使用大型計(jì)算機(jī)來模擬和控制復(fù)雜系統(tǒng)與戰(zhàn)場形勢的科學(xué)期待之上。[4]因此，基于抽樣的早期市場調(diào)查和基于大數(shù)據(jù)的網(wǎng)絡(luò)時代的社會行為控制，雖然在對人類的主觀行為其實(shí)是具有客觀規(guī)律的、是可以預(yù)知的這個認(rèn)識層面，具有根本的一致性，但是兩者的區(qū)別在于網(wǎng)絡(luò)科技、信息收集技術(shù)和芯片運(yùn)算速度的指數(shù)級發(fā)展，導(dǎo)致人們相信一個全面監(jiān)控、人類被徹底數(shù)據(jù)化的時代終于到來了。輿論對于Facebook數(shù)據(jù)泄露事件的恐慌，以及美國國會通過聽證和道歉這種政治儀式試圖要平復(fù)的恐慌，都是來自于對自由意志終于要全面敗給人工智能和算法這一深層次的意識形態(tài)。

在算法所理解和復(fù)制的人類行為模式中，只存在大量的刺激——反應(yīng)過程的集合，而不存在對于自由意志和倫理自主性的考量。盡管在算法學(xué)習(xí)中，理論上可以允許無限大的輸入，但是無論輸入多少變量，自由意志和倫理都是在算法所建構(gòu)的復(fù)雜系統(tǒng)之外的。這一問題在另外一場涉及人工智能機(jī)器失敗的事件中，得到了更清晰的展示。2018年3月18日，在美國亞利桑那州發(fā)生了一場自動駕駛汽車撞死了一個行人的車禍。經(jīng)過調(diào)查，車禍原因在于正處于自動駕駛狀態(tài)的汽車雖然感知到了前方的物體（行人），但卻通過數(shù)據(jù)庫的計(jì)算和判斷認(rèn)為那是另外一輛汽車，也在向前移動，因此沒有做出任何躲閃的動作。等物體近在眼前仍舊沒有移動的時候，自動駕駛的汽車無法做出有效判斷，也不知道該做什么動作，于是突然把駕駛權(quán)交還給了司機(jī)，但是司機(jī)在那個時候完全沒有思想準(zhǔn)備，于是汽車徑直撞上了那個“物體”：一位49歲的女性。[5]在人類智能的世界，無論是出于本能、還是出于理性判斷，見到不明物體的第一反應(yīng)應(yīng)該是降低車速，然后再進(jìn)一步判斷。但是在算法的世界里，“為了安全起見而犧牲效率”可能是一個無法訓(xùn)練的能力，因?yàn)檫@種判斷是基于主觀判斷的選擇，并沒有唯一的答案，并且不符合機(jī)器理性所要追求的精確和效率最大化原則。

基于Facebook數(shù)據(jù)進(jìn)行政治行為預(yù)測和干預(yù)，和通過大數(shù)據(jù)訓(xùn)練開發(fā)的自動駕駛汽車，似乎是算法在兩個完全不同領(lǐng)域的應(yīng)用。但是，如果追究到兩種技術(shù)體系所依據(jù)的基本認(rèn)識論前提，那就是對于人類行為是出于自由意志和倫理判斷的推動，還是來自于復(fù)雜輸入的刺激——反應(yīng)模式的判斷，我們可以看到兩者的認(rèn)識論都是建立在后者的基礎(chǔ)之上，而排斥了自由意志和倫理選擇。也就是說，算法在當(dāng)下一些人類活動領(lǐng)域的滲透，已經(jīng)不是替代人類活動，或者增加某種活動的效率那么簡單的事情了，而是首先對人類行動的邏輯進(jìn)行了改造，從倫理邏輯和效率邏輯各占一定的比重，改造為效率邏輯和工具理性占據(jù)所有的空間，完全排斥倫理邏輯與價值理性，并且進(jìn)一步在改造的基礎(chǔ)上開發(fā)出了基于算法的人類行動模式。

早在20世紀(jì)30年代，法蘭克福學(xué)派的批判理論家們在接觸了美國式的媒體市場調(diào)查之后指出，文化工業(yè)總是聲稱自己在用最先進(jìn)的調(diào)查方法——問卷、心理分析、焦點(diǎn)小組等等——來科學(xué)性地理解受眾，表明自己給受眾生產(chǎn)的標(biāo)準(zhǔn)化娛樂產(chǎn)品是受眾自己想要的、需要的。其實(shí)，市場細(xì)分不過是文化工業(yè)生產(chǎn)鏈條的一部分，是由文化工業(yè)精心規(guī)劃，并且通過營銷、廣告、市場調(diào)查中的心理暗示和分類指引，以及類型化節(jié)目的穩(wěn)定投放，而逐步生產(chǎn)出來的。并不存在“天然”喜歡某種節(jié)目的受眾，受眾的品位和分類，是文化工業(yè)的重要產(chǎn)品，是文化工業(yè)生產(chǎn)邏輯的結(jié)果，而非原因。[6]由此可知，受眾市場調(diào)查，就是大眾傳媒時代的“算法”，而社交媒體新技術(shù)所帶來的，無非是對受眾分類投放的更加封閉、影響力更加強(qiáng)大。APP與大眾傳媒最大的差別，就是我們連手中的遙控器都失去了，一點(diǎn)點(diǎn)放棄了偶爾越過自己的“信息繭房”，到更廣闊的世界串一下門的機(jī)會。我們在不知不覺中被包裹在一個小宇宙中，與他人近在咫尺，卻消費(fèi)著非常不同的信息和文化，我們的品位、邏輯和價值，被“算法”所塑造和改造，也越來越依賴“算法”而存在。

三、結(jié)語：“算法”治理需要公共領(lǐng)域

既然“算法”的主導(dǎo)權(quán)背后是資本和效率的價值體系，也就是哈貝馬斯所說的，系統(tǒng)對于生活世界的逐步侵占，那么能夠與“算法”主導(dǎo)權(quán)進(jìn)行博弈的，當(dāng)然就是提倡和培育價值理性與主體間性的公共領(lǐng)域了。在“滴滴”順風(fēng)車惡性案件丑聞的輿論之下，筆者接觸到了兩個小故事，可以算作公共領(lǐng)域和公民行動如何可能貢獻(xiàn)于“算法”治理的注腳。第一個故事來自于一位出租車司機(jī)，在和筆者聊到出租車與“滴滴”的關(guān)系時，司機(jī)師傅專門提到一個傳統(tǒng)司機(jī)的技能，“掃街”，也就是在大街上接招手打車的乘客。他說雖然開著打車軟件，但他堅(jiān)持“掃街”，“不要偷懶，把接到好單的希望都寄托在平臺身上，平臺就是為了把你捆綁在它那里，開始的時候用一些好的單子來誘惑你，當(dāng)你失去了‘掃街’的基本技能，想著守株待兔靠平臺來派單的時候，你就失去了選擇勞動方式和控制自己勞動過程的主動性。平臺要的是司機(jī)之間的競爭和猜疑，你需要自己掌握勞動技能，否則就只能任人擺布。”第二個故事來自于滴滴順風(fēng)車殺人案前一天曾經(jīng)投訴過同一個司機(jī)的女性，她投訴后滴滴并沒有及時回應(yīng)和處理。第二天發(fā)生了殺人案之后，她在微博和公共媒體的采訪中都表示了“深深的自責(zé)”，認(rèn)為自己如果當(dāng)時“不畏縮，去報警”，“這23歲的姑娘會不會就不會有事了”。

從這兩位普通人身上我們可以感受到公眾樸素的價值觀和對社會利益的關(guān)切，完全可以通過公共領(lǐng)域的激蕩、信息的交流和討論，形成對平臺和“算法”非常具體、到位的認(rèn)識與批評。在涉及企業(yè)治理，尤其是新科技企業(yè)的治理時，通常我們習(xí)慣于所謂“利益相關(guān)方”的思維方式，更多由專家、法律代理人和企業(yè)代表來參與制定相關(guān)政策的討論。但是，既然新的基于算法的平臺科技已經(jīng)代表著人類傳統(tǒng)生活方式的重新組合和創(chuàng)造性改革，我們需要讓公眾提供與新科技共處體驗(yàn)的不同面向，并且相互交流，才可能更全面地思考人類與“算法”共處并且“馴服”算法的方式。吊詭的地方在于，新技術(shù)所帶來的傳播潛力，在資本邏輯的壟斷下，可以導(dǎo)致“算法”霸權(quán)與人的本質(zhì)能力的退化，而在公共領(lǐng)域的價值模式下，又是克服“算法”異化的重要前提。我們需要思考如何在數(shù)字化與社交媒體的時代重新激活公共領(lǐng)域的理想與實(shí)踐。

注釋：

[1] 2012年成立，多輪融資，收購Uber，滴滴從一開始就是錯的[EB/OL].https：//www.admin5.com/article/20180831/874032.shtml

[2] Nick Dyer-Witheford, Cyber-Proletariat： Global Labor in the Digital Vortex, Pluto Press, 2015.

[3] Carole Cadwalladr, “‘I made Steve Bannon’s psychological warfare’： meet the data war whistleblower.”https：//www.theguardian.com/news/2018/mar/17/data-warwhistleblower-christopher-wylie-faceook-nix-bannon-trump

[4] Paul N. Edward, The Closed World： Computers and the Politics of Discourse in Cold War America (MIT Press,1997).

[5] Andrew Smith, “Franken-algorisms： the deadly consequences of unpredictable code.” https：//www.theguardian.com/technology/2018/aug/29/codingalgorithms-frankenalgos-program-danger?CMP=Share_iOSApp_Other&from=groupmessage

[6] [德]馬克斯·霍克海默，特奧多·威·阿多爾諾.啟蒙辯證法（哲學(xué)片段）[M].洪佩郁，藺月峰，譯.重慶：重慶出版社，1990