陳 曦

(科技日報社 北京 100038)

1 問題的提出

自從1956年達特茅斯會議正式提出人工智能(Artificial Intelligence)這一概念以來，人與非人之間的界限開始變得模糊。憑借著智能技術的不斷注入，人機互動的效率和質量在短時間內(nèi)獲得了巨大的飛躍。面對這場廣度和深度甚至遠超工業(yè)革命的新技術革命，當今科學界急需一種全新的思想資源和理論體系來回應這場狂飆突進的新技術革命。然而有學者指出，面對這場新技術革命，人類“完全未經(jīng)抵抗，幾乎不曾討論”[1]。直到2016年AlphaGO戰(zhàn)勝人類圍棋冠軍李世石之后，人類才終于意識到在這場人類與機器的智力比拼中，機器在逐漸超越著人的認知、挑戰(zhàn)著人類的極限。一場關于人類主體性滯后的討論開始在世界范圍內(nèi)進行。在大數(shù)據(jù)、深度學習、機器識別、社交機器人等技術重構社會的今天，人工智能技術已經(jīng)十分接近庫茲韋爾所言的“技術奇點”：當越過奇點之后，人工智能將迎來指數(shù)型的增長，其進化程度將遠超人類的控制能力，人與非人之間的界限被打破，人類也無可避免地成為“后人類”。

人工智能技術的應用正在重構新聞業(yè)的底層邏輯，推動新聞生產(chǎn)的后工業(yè)化轉型[2]。自Buzzfeed、今日頭條等新聞聚合類平臺問世以來，新聞業(yè)正在被一種由各類人工智能技術驅動的后工業(yè)化生產(chǎn)模式所侵蝕。為傳統(tǒng)媒體所熟稔的“采寫-編輯-出版”專業(yè)化新聞生產(chǎn)流程受到了新媒體、流媒體入局的大幅沖擊。長久以來，人們將這種從傳統(tǒng)媒體到新媒體的轉型描述為“媒介融合”。但是這種將“新媒體化”看作是傳統(tǒng)媒體的發(fā)展路徑的線性進化邏輯實際上是以舊視角看待新問題，無法把握二者之間的本質變化。人工智能技術應用于新聞業(yè)產(chǎn)生的影響，不僅僅是行業(yè)內(nèi)部的技術變化，而是整個行業(yè)在組織結構上的流程轉變，甚至是權利的轉移與媒介生態(tài)的變化。從長遠的視角來看，這不是傳統(tǒng)媒體在新媒體時代以新的生產(chǎn)模式的延續(xù)，而是從微觀的新聞生產(chǎn)到宏觀的媒介生態(tài)全方位的范式革新。只有意識到這一點，我們才能防止陷入“從后視鏡觀看現(xiàn)在，倒退著走向未來”(麥克盧漢語)的視線盲區(qū)。

作為人工智能技術的一種，社交機器人(Social Bot)對新聞業(yè)的影響可以從很多方面進行討論。一方面，在新聞聚合類平臺上，社交機器人作為內(nèi)容生產(chǎn)者，能夠以較低的成本生產(chǎn)大量的新聞內(nèi)容。它在信息擴散中扮演著關鍵角色，也勢必會對新聞生態(tài)造成沖擊。另一方面，社交機器人作為普通的用戶，卻是以非人的狀態(tài)出現(xiàn)，并不具有人的情感和判斷力，因而造成了諸多倫理上的困境。社交機器人在美國大選[3]、中美貿(mào)易談判[4]、俄烏戰(zhàn)爭[5]、新冠肺炎疫情[6]等公共事件中都通過在短時間內(nèi)大量發(fā)表、轉發(fā)、點贊等手段，擾亂了公共輿論秩序、破壞了互聯(lián)網(wǎng)生態(tài)。在新冠肺炎疫情背景下，社交機器人還能在互聯(lián)網(wǎng)平臺上迅速擴散未經(jīng)證實的健康信息，這將對公共健康造成嚴重危害[7]。已有研究多集中在社交機器人在具體新聞事件中的媒體表現(xiàn)，聚焦于其是如何通過自我復制與互動導致信息擴散、謠言泛濫的，仍然處于實然層面，而較少將社交機器人當作一個行動者來探討其對于整個互聯(lián)網(wǎng)生態(tài)的影響，更少從應然層面反思技術如今是如何作為的，未來需要何以有為。因此，將社交機器人與新聞業(yè)互動的認知，借由倫理反思提升至技術哲學層面，不失為從紛繁事件中撥云見月、看到其底層邏輯、推演未來發(fā)展路徑的有效嘗試。

2 社交機器人的發(fā)展現(xiàn)狀

社交機器人，又被稱為“僵尸用戶”，是指“一種在社交網(wǎng)絡中自主運行社交賬號并且有能力自動發(fā)送信息和鏈接請求的智能程序”[8]。這些賬戶可以基于特定的腳本模仿人類的行為，然后進行信息內(nèi)容的生產(chǎn)與擴散。此外，社交機器人還可以通過互相關注進行自我推廣，以構成看似真實的社交網(wǎng)絡，改變既有的信息交互結構。

已有的研究按照人機關系、實際功能、社會影響等方面對社交機器人進行了分類。就人際關系而言，社交機器人可分為2類：一類是機器輔助人類(botassisted humans)，為普通用戶提供交互服務；另一類是人類輔助機器人(human-assisted bots)，可以協(xié)同人類展開行動，但常常由于操縱和編程服務于特殊的目的，多數(shù)情況會引發(fā)負面影響[9]。就實際功能而言，社交機器人可分為4類，分別是惡意僵尸機器人(malicious botments)、編輯機器人(editing bots)、聊天機器人(chat bots)、調(diào)研機器人(research bots)[10]。就社會效益而言，Clark等則直接把社交機器人應用后的社會效果分為“善”與“惡”兩大類[11]。一些社交機器人向在線用戶傳遞新聞資訊、進行天氣預警、分發(fā)具有時效性的信息等；一些機器人傳播虛假新聞、滲透政治話語、擾亂股市秩序、制造信息煙霧彈等。現(xiàn)有研究多關注具體應用場景中的社交機器人，尤其是其應用后的負面影響，而較少從技術哲學的角度探討社交機器人現(xiàn)在如何作為、未來如何有為的整體 框架。

3 社交機器人在傳媒業(yè)的應用

2017年，全國“兩會”首次將“人工智能”寫入政府工作報告[12]，這標志著“人工智能”上升為國家戰(zhàn)略并且在中國各行業(yè)獲得了政治合法性。在接下來的幾年時間里，人工智能技術伴隨著互聯(lián)網(wǎng)行業(yè)的井噴式發(fā)展，在全社會范圍內(nèi)獲得了快速的普及和應用，新聞業(yè)也不例外。在媒介融合的背景下，人工智能技術已滲入到新聞生產(chǎn)的各環(huán)節(jié)中。盡管媒介融合提倡的是傳統(tǒng)媒體與新媒體的融合，但新聞業(yè)應用人工智能技術后的社會效果仍然顯現(xiàn)出兩種不同的效果。這一方面與傳統(tǒng)媒體與新媒體的媒介屬性有關，在另一方面也更加將技術背后的社會意識形態(tài)體現(xiàn)出來。因此，考察人工智能技術應用于新聞業(yè)后的社會價值更應該采取辯證思維，更應看到傳統(tǒng)媒體和新媒體對該技術應用的不同之處。

3.1 新聞生產(chǎn)：提高采編效率與降低作惡成本并存

新聞生產(chǎn)是新聞業(yè)的初始環(huán)節(jié)。傳統(tǒng)媒體和新媒體的最大不同之處就在于傳統(tǒng)媒體擁有新聞采編權，可以采集一手新聞素材，而新媒體，如今日頭條、騰訊新聞等新聞聚合類平臺，則無法通過采集新聞素材來保證內(nèi)容增量，在多數(shù)情況下，它們依靠用戶發(fā)布的內(nèi)容來維持平臺的內(nèi)容再生產(chǎn)。

對于傳統(tǒng)媒體來說，一方面，社交機器人的應用在很大程度上幫助新聞生產(chǎn)達到了更好的社會效果，是媒介融合下的有效產(chǎn)物。如當?shù)卣?、火災等大型突發(fā)事件發(fā)生時，傳感器、無人機、自然語言處理等可以深入到人類所不能抵達的現(xiàn)場進行報道。該類傳感器新聞(Sensor Journalism)的出現(xiàn)極大地拓寬了新聞采集的邊界，最大程度上發(fā)揮了新聞采編權的效果。在此類新聞中，新聞源不再是普通的個體、群體或機構組織，傳感器作為信息采集工具，成為新聞工作者的感官延伸，賦予了報道更多的可能性。另一方面，傳感器新聞是跨界復合的產(chǎn)物[13]，不僅需要新聞從業(yè)者進行維護，更需要統(tǒng)計師、數(shù)據(jù)分析師、技術工程師、交互設計師等多方人員的共同努力。除此之外，中國地震臺網(wǎng)的地震信息播報機器人也是社交機器人應用于新聞業(yè)的成功案例。地震這一大型自然災害，因其發(fā)生時間快、波及范圍廣等特點，對新聞報道的時效性提出了更高的要求。中國地震臺網(wǎng)的社交媒體賬號已應用社交機器人進行地震速報多年，其時效性和準確度一直為提高應急報道機制助力。

對于新媒體來說，社交機器人產(chǎn)生的大量信息冗余對互聯(lián)網(wǎng)生態(tài)造成了一定程度的干擾。尤其是在重要的政治事件中，社交機器人通過短時間內(nèi)的大量復制、自我轉發(fā)促使難辨真假的信息大量傳播，混淆了視聽。已有大量研究表明，2012年特朗普在美國大選中當選與社交機器人的推動有直接相關性[14]。社交機器人采用自動化的新聞生產(chǎn)方式只需進行特定的程序輸入，不僅可以批量產(chǎn)生賬號、模仿普通用戶的媒介使用行為，而且可以通過輸入文本和圖片自動生產(chǎn)視頻。這樣低成本的信息生產(chǎn)方式，使得社交機器人充斥在國內(nèi)的新聞聚合類平臺上。這對于依靠用戶內(nèi)容生產(chǎn)的新聞聚合類平臺來說，很難分辨社交機器人與真實用戶，因而導致了虛假內(nèi)容在平臺上肆意快速傳播。正是通過與人類進行媒介互動，社交機器人得以成功融入社交網(wǎng)絡，其在Facebook上的滲透率已經(jīng)高達80%，模糊了平臺上人與非人之間的界限[15]。

3.2 新聞審核：助力把關機制與混淆信息屬性并存

新聞審核是保證新聞質量的重要一步。傳統(tǒng)媒體的新聞審核往往進行事前審查，在發(fā)出時已經(jīng)可以對新聞的質量作出保證，而新聞聚合類平臺往往因為基數(shù)大、信息量大而采取事后審查的方式。然而在新舊媒體融合已成趨勢的今天，在社交機器人的影響下，傳統(tǒng)媒體和新媒體卻在新聞審核上呈現(xiàn)出完全不同的趨勢。

對于新媒體來說，社交機器人很難在既有的審核體系中進行準確定位。它以普通用戶的形態(tài)出現(xiàn)在平臺中，看似從事著與人類相近的媒介行為，實際上卻是由特定的程序操控。這樣一種介于人與非人之間的定位，使得社交機器人在面對新聞審核時具有天然的規(guī)避傾向。在新聞審核時，雖然可以把社交機器人當作普通賬號進行審核，甚至對相關違禁賬號進行限流、封查或禁用，但是卻無法對操縱程序背后的政治目的與意識形態(tài)進行審查。為了應對該問題，近年來國內(nèi)外多位學者提出要區(qū)分謬訊(disinformation)和誤訊(misinformation)。前者是指因為信息核查的滯后性而導致的流言，其往往不具有特殊的傳播目的；后者則是后真相時代，因為特定的政治目的而編織的帶有傾向性的信息，以服務于互聯(lián)網(wǎng)輿論戰(zhàn)。但是如何在審核中區(qū)分意識形態(tài)與極端情緒，仍然是全球平臺治理共同面對的難題。

對于傳統(tǒng)媒體來說，由主流媒體主導的事實核查在本質上仍然是新聞專業(yè)主義的延續(xù)，是一直恪守新聞客觀性的嚴肅媒體在社交媒體時代的嘗試[16]。其事前審查機制不僅保證了新聞內(nèi)容的質量，更保證了新聞內(nèi)容的導向。但是在社交媒體時代，人人都有麥克風，人們輕而易舉地便可在平臺上發(fā)布對內(nèi)容的質疑和新聞的質問。在兩極分化的輿論場中，自上而下與自下而上往往加大了事實核查的難度，也在無形中加劇了對主流媒體的不信任[17]。由事前審查保證的新聞輿論場與事后審查的平臺輿論場出現(xiàn)了撕裂，新聞審查急需以一種新的形式展開，以回應媒體面臨的社會信任危機。

3.3 新聞分發(fā)：增強用戶黏性與制造信息繭房并存

新聞分發(fā)是新聞傳播的最后一公里。社交媒體時代，算法、平臺、用戶已經(jīng)成為新聞分發(fā)的重要“把關人”。值得注意的是，社交機器人以普通用戶的身份依靠算法在平臺上運轉，已經(jīng)體現(xiàn)了社交機器人在新聞分發(fā)中不可忽視的地位。由于社交機器人基數(shù)大、媒介互動便捷的特征，已經(jīng)在多個重大社會事件中扮演了重要的角色。有研究發(fā)現(xiàn)埃爾南德斯總統(tǒng)在Facebook上的帖子出現(xiàn)了異乎尋常的點贊行為，從2018年6月到7月，他收獲的59 100個贊中，78%都不是來自于真人。類似的事情仍然大量發(fā)生在美國大選、俄烏戰(zhàn)爭中。如自俄烏戰(zhàn)爭2022年2月24日爆發(fā)以來，“今日頭條”等新聞聚合類平臺上就涌現(xiàn)出了大量社交機器人，它們的名字往往由簡單的鍵盤亂碼加上數(shù)字編號組成，發(fā)布的信息都為簡單配圖和機械音播報的文字稿，文字多為戰(zhàn)況播報、鼓吹俄軍戰(zhàn)況和編造“大魚”的虛假信息等內(nèi)容。這些社交機器人的大量涌現(xiàn)使平臺充斥著真假難辨的信息，極易引起民族主義情緒，而且還為互聯(lián)網(wǎng)審核人員增加了額外的負擔。社交機器人的存在一方面提高了平臺的信息增量，但在另一方面，當大量的信息開始由程序操縱流轉時，一個特定的信息繭房就在無形中被創(chuàng)造了出來。它干擾了普通用戶的正常判斷，將互聯(lián)網(wǎng)的高贊、高轉內(nèi)容誤認為是有價值的信息，同時造成了對真正值得關注的新聞的忽視。

4 社交機器人的技術倫理

通過以上對社交機器人在新聞業(yè)的使用狀況及其效果的闡述，會發(fā)現(xiàn)社交機器人的應用效果并不能用單一的“好與壞”“利與弊”來評判，而是受到多種因素的影響。在新聞生產(chǎn)環(huán)節(jié)，可能會受到使用主體，也就是媒體的用途影響；在新聞審核環(huán)節(jié)，往往與具體技術的善與惡無關，而與操縱技術、編寫代碼的目的有關；在新聞分發(fā)環(huán)節(jié)，平臺、用戶和算法構成了社交機器人應用的3個重要支點?；蛟S，社交機器人作為一項技術，只是一種媒介工具，真正對其應用后的社會效果負責的是背后的人，而人類常常會面臨復雜的道德倫理困境[18]。我們需要更新既有的認知框架來回應這種復雜的倫理困境。

4.1 從封閉倫理走向開放倫理：關注多元行動者

沃德和沃斯曼曾經(jīng)區(qū)分了“封閉倫理”和“開放倫理”(Open Ethics)這對概念，主要區(qū)分了如何運用、分析和批判性地使用倫理規(guī)則和使用的人群[19]。封閉倫理常常被應用于較少的人群，并劃清了可進行討論范圍的邊界和人群參與者；開放倫理則容納進了更多元的利益攸關方參與到討論之中，也并未設置過多的實質性限制。在人工智能技術將人與非人行動者都納入到媒介網(wǎng)絡運行規(guī)則的狀況下，推動封閉倫理走向開放倫理，不僅關注人在其中的倫理行為，更需要關注非人行動者在其中的倫理行為。具體而言，對于社交機器人的倫理探討需要在人與非人的互動下進行探討，不僅需要關注技術變革對其產(chǎn)生的促進作用，更需要看到技術作為一種工具如何執(zhí)行了人的意志。

4.2 從工具理性走向價值理性：倡導承擔社會責任

技術中立性常常作為技術作惡的托詞，技術服務的社會建構則與技術所代表的個人、組織、機構密切相關，但技術絕非任何社會問題的替罪羊。面對社交機器人應用于新聞業(yè)產(chǎn)生的種種問題，我們需要從工具理性走向價值理性，關注平臺在其中的社會治理作用，并提倡平臺承擔更多的社會責任。如由于2016年社交機器人曾嚴重影響了美國大選，2020年再次進行美國大選時，硅谷的互聯(lián)網(wǎng)巨頭則出臺了一系列的措施應對可能出現(xiàn)的虛假信息。如Twitter在含有不實消息的推文中加上了藍色的感嘆號，以提醒瀏覽到的人這是未經(jīng)證實的消息等。就國內(nèi)而言，今日頭條的產(chǎn)品定位也從“你關心的才是頭條”，變成“信息創(chuàng)造價值”再到“看見更大的世界”，這代表我國受眾范圍最廣的新聞聚合類平臺開始從關注用戶個人的需求轉向到如何提升內(nèi)容質量來幫助個人擴展視野的發(fā)展方向。當然，全球平臺的互聯(lián)網(wǎng)治理是世界各國共同面對的難題，現(xiàn)在還只是剛剛開始，未來還有很長的路要走。

4.3 以技術哲學對抗技術：摒棄二元對立思維

在人工智能技術已經(jīng)具有重構社會力量的今天，如果僅僅討論技術的影響就會“只見樹木不見樹林”。技術的應用不是一個單純意義上的物質轉化、能量傳遞、信息傳遞的物理過程，更體現(xiàn)了其深刻的社會化內(nèi)涵，并帶來了技術的社會化[20]。在倫理學的層面上探討技術哲學，為在社交機器人已經(jīng)與真人真假難辨的今天提供了新的視角。

人類所發(fā)明的技術并非天生存在善惡價值觀，技術的工具性也并非人類倫理的對立面，對社交機器人技術哲學的探討可以跳出狹隘的工具理性思維，并且破除人與非人之間的界限，將人類與社交機器人同時看作媒介網(wǎng)絡中的行動者，從而平衡人機關系之間的矛盾。

5 結 語

盡管社交機器人在新聞業(yè)中的應用產(chǎn)生了一體兩面的社會效果，但是人工智能技術對人類而言，不一定處于人類倫理的對立面，也可以不必是利益最大化和資本逐利的工具。它也可以擁有人類對尊嚴、價值的尊重和思考，可以傳遞善良、正義、誠實、守信的人性之光。在人類與非人的博弈中，人類始終要記得自己的主體責任，是人有目的地使用技術作為工具導致了技術應用后完全不同的社會效果，而不是技術本身存在善惡。因此，人類首先需要端正心態(tài)、揚善除惡，建設和維護技術倫理的價值體系。