石韋穎 何康 賈全鑫

【內(nèi)容摘要】新冠肺炎疫情肆虐全球，社交媒體空間呈現(xiàn)出“信息疫情”的局面，信息環(huán)境高度復雜和不確定。本文探究了社交機器人在新冠肺炎議題在線討論中的參與行為。

【關鍵詞】社交機器人;新冠肺炎疫情;社交媒體

一、引言

隨著新冠肺炎疫情在世界范圍內(nèi)迅速蔓延，社交媒體上涌現(xiàn)出海量的疫情相關信息，這些信息亦真亦假，有人說，這種情況構成了網(wǎng)絡環(huán)境中的“信息疫情（Infodemic）”。作為用戶人數(shù)最多的全球化社交媒體之一，推特（Twitter）已成為當今社會重要的數(shù)字公共領域，無疑也是“信息疫情”存在的主要空間。

社交機器人是一種在社交媒體上擁有賬號并能夠承擔任務，利用算法生成內(nèi)容的自主機器人，①在社交媒體上與人類用戶共同存在，②并活躍在政治選舉、公共健康議題、社會熱點事件等在線討論中。社交機器人會模仿人類行為與其他用戶互動，③試圖干預網(wǎng)絡輿論甚至影響人們的線下行為。在“信息疫情”的背景下，推特（Twitter）平臺上有關新冠肺炎疫情的相關討論中，社交機器人的參與情況是怎樣的？社交機器人與人類用戶之間的意見是否相異？社交機器人與人類用戶之間的連接和互動情況如何？這些問題的探討具有一定的現(xiàn)實意義。

為解答上述問題，本文爬取了推特（Twitter）平臺上2020年前3個月有關新冠肺炎疫情討論的推文數(shù)據(jù)，對新冠肺炎疫情在線討論中社交機器人的參與行為，特別是其與人類用戶的互動情況進行了探究。

二、文獻回顧與擬研究的問題

（一）社交機器人參與輿論表達

在智能時代，包括人工智能在內(nèi)的相關互聯(lián)網(wǎng)技術對傳播領域乃至社會領域的改變已經(jīng)發(fā)生或即將發(fā)生。④社交機器人廣泛參與政治事件在線討論，實施信息操控，甚至干預輿論表達。在中美貿(mào)易談判、⑤2016年美國大選、⑥2016年英國脫歐投票、⑦2017年法國總統(tǒng)大選、⑧2018年美國中期選舉⑨等政治事件網(wǎng)絡討論中，人們均發(fā)現(xiàn)社交機器人活動的痕跡。研究發(fā)現(xiàn)社交機器人會通過關注他人來提升自我影響力，大量散播謠言、分享垃圾信息、傳播具有黨派立場的消息，進而影響選民意見。研究還發(fā)現(xiàn)，社交機器人參與網(wǎng)絡討論的比例隨事件推進而增長，在2016年美國大選3次辯論中，社交機器人參與比例從23%上升到27%，⑩在2017年德國競選活動中，社交機器人參與討論比例從競選前的7.1%上升到競選期間的9.9%。

社交機器人同樣活躍于公共健康議題、社會熱點事件的線上討論，如對麻疹疫苗接種的討論、美國佛羅里達校園槍擊案爆發(fā)后的討論中均有社交機器人參與，甚至強化網(wǎng)絡意見的極化。在新冠肺炎疫情的在線討論中，亦有學者發(fā)現(xiàn)社交機器人的參與。2020年1月21日美國出現(xiàn)了該國宣稱的第一例新冠肺炎患者，2020年3月13日美國政府宣布全國進入緊急狀態(tài)，F(xiàn)errara選取這兩個時間節(jié)點期間有關新冠肺炎疫情的推文進行分析，發(fā)現(xiàn)疫情期間有大量社交機器人賬號被創(chuàng)建，并且在創(chuàng)建后不久就高強度地投入到疫情的網(wǎng)絡討論中。本文同樣是對新冠肺炎疫情期間社交機器人參與行為的探究，但由于數(shù)據(jù)采集時間有所區(qū)別，本文首先要厘清的問題依舊是社交機器人的參與情況，隨著事件的發(fā)展社交機器人的參與比例是否發(fā)生變化，故而提出以下研究問題：新冠肺炎疫情在線討論中社交機器人的數(shù)量和發(fā)文量是多少？新冠肺炎疫情在線討論中社交機器人的數(shù)量是怎樣隨時間變化的？

（二）社交機器人與人類的交互

社交即互動。社交機器人對人類的模擬行為，不僅是在網(wǎng)上表達和傳遞意見，社交機器人還會與人類發(fā)生互動行為。社交機器人與真實人類用戶互動的過程往往也是社交機器人影響人們意見轉變的過程，因此成為研究的重要關注點。

相關研究發(fā)現(xiàn)“人—機”互動明顯少于“人—人”互動比例，但“人—機”之間的交互利于信息的大范圍傳播。如Stella等人對2017年加泰羅尼亞公投事件的研究發(fā)現(xiàn)，在交互模式上人類主要與人類互動（76%），僅有19%的社交機器人主動與人類互動，在網(wǎng)絡結構上人類的中心地位是社交機器人的1.8倍，社交機器人傾向于與具有影響力的用戶互動以提升自己的影響力。Shao等人對低可信度來源文章的探究也有相似發(fā)現(xiàn)，在傳播初期社交機器人會通過回復、提及用戶吸引關注者，人類也往往容易受此影響并分享社交機器人發(fā)布的內(nèi)容，進而導致低可信度消息滾雪球式擴散。在騷亂或暴亂事件中，社交機器人同樣能夠引發(fā)信息大范圍的單向傳播，甚至在某些情況下與人類直接交換信息，并傾向于向人類直接傳遞恐懼信息?！叭藱C互動”也存在著黨派差異，Luceri等人在研究中加入政治傾向性這一變量，將社交機器人劃分為保守派和自由派，發(fā)現(xiàn)保守派社交機器人與人類、與社交機器人的互動分配更為均衡，相對而言，自由派機器人更偏向于與人類互動。

社交媒體上的互動包含點贊、評論、轉發(fā)、提及等方式，社交機器人使用多種互動方式達成不同傳播目的。張洪忠等對中美貿(mào)易談判議題的探究發(fā)現(xiàn)，社交機器人常使用新聞類話題標簽以快速傳遞信息，更頻繁地@媒體或熱點人物來擴大其影響力。師文和陳昌鳳的研究發(fā)現(xiàn)在中國議題下，相比人類用戶，社交機器人更愿意通過轉發(fā)促進信息擴散，并通過提及人類用戶提升信息可見度，以期營造意見氣候，但較少進行回復和引用。由此也可見，轉發(fā)和提及是社交機器人常用的互動方式。

新冠肺炎疫情期間社交媒體上充斥大量混雜的信息，疫情信息傳播情況復雜，比如疫情期間推特（Twitter）上有大量假消息被發(fā)布。信息存在極大不確定性的現(xiàn)實背景也引發(fā)對社交機器人與人類用戶互動和連接關系的新思考，這些互動和連接是否會呈現(xiàn)出與既有研究不同的新特點？本文擬以“轉發(fā)”互動為切入點進行考察，“轉發(fā)”是社交機器人最為常用的互動方式之一，“轉發(fā)”尤其是“直接轉發(fā)”是一種基于認同的行為，帶評論轉發(fā)還蘊含著觀點的交流，相比“提及”包含更豐富的互動訊息。本文將從信息傳播擴散路徑著手，探究哪些人或哪類賬號是轉發(fā)推文的消息源、誰又成為轉發(fā)傳播鏈中的關鍵節(jié)點或意見領袖，因而提出下列研究問題：新冠肺炎疫情在線討論中社交機器人和人類用戶的“轉發(fā)”互動是怎樣的？社交機器人和人類用戶“轉發(fā)”的賬號及其內(nèi)容有何差異？

三、研究方法

（一）數(shù)據(jù)采集與處理

2019年12月31日，中國向世界衛(wèi)生組織通報了湖北省武漢市的一組肺炎病例，世衛(wèi)組織確認了這是一種新型冠狀病毒，由此國際上開始正式關注新冠肺炎疫情。本文采用推特（Twitter）API獲取2020年前三個月有關新冠肺炎疫情的推文數(shù)據(jù)，并在此基礎上構建了一個由4萬余條推文數(shù)據(jù)組成的小規(guī)模隨機樣本，其中包含獨立用戶4萬多個。

（二）社交機器人檢測

本文采用開源工具Botometer識別社交機器人，Botometer是美國印第安納大學開發(fā)的檢測工具，使用機器學習算法進行特征識別，操作便捷，是目前社交機器人檢測中最為廣泛使用的檢測工具。根據(jù)Botometer檢測結果將賬號二分為真實人類用戶、社交機器人。

四、社交機器人參與疫情討論情況

（一）社交機器人數(shù)量及其發(fā)推量均在7%左右

經(jīng)分析發(fā)現(xiàn)，4萬多個獨立用戶中社交機器人不足3000個，占比僅為6.88%。在4萬多條推文數(shù)據(jù)中，社交機器人發(fā)布推文數(shù)量不足4000條，占比僅7.34%。

（二）時間序列上社交機器人數(shù)量出現(xiàn)增長

在時間序列上，參與討論的社交機器人與人類用戶數(shù)量均隨時間推移大幅上升，兩者變化趨勢相似，且用戶數(shù)量峰值的出現(xiàn)時間與全球疫情發(fā)展的標志性節(jié)點事件出現(xiàn)時間吻合（見圖1）。如圖1所示，在圖中標記①的部分，自2020年1月21日開始參與討論的用戶數(shù)量開始增多，這一天美國境內(nèi)出現(xiàn)了當時認為的第一例新冠肺炎確診患者。在圖中標記②的部分，參與討論的用戶數(shù)量劇增，并在3月12日達到峰值，3月12日參與討論的社交機器人有123個、人類用戶有1839個。在這一階段世衛(wèi)組織評估新冠肺炎為大流行病，3月9日美股年內(nèi)第一次、歷史上第二次熔斷，3月12日美股年內(nèi)第二次、歷史上第三次熔斷。圖中標記③的部分，參與討論的用戶數(shù)量達到數(shù)據(jù)觀測期間最高峰值，3月18日社交機器人峰值數(shù)量是168個，3月19日人類用戶峰值是2244個。這是由于在3月中旬疫情繼續(xù)蔓延，疫情影響繼續(xù)加劇，美股年內(nèi)第三次熔斷，特朗普發(fā)推文稱新冠病毒為“中國病毒”引發(fā)熱議。圖中標記④的部分，盡管參與討論的用戶數(shù)量有所下降，但討論熱度仍較高，參與討論的社交機器人數(shù)量出現(xiàn)的兩次峰值分別是139個、123個，在3月末這段時間確診病例不斷攀升，美國成為首個確診病例超過20萬的國家，日本東京奧運會因疫情而推遲。

簡言之，在新冠肺炎疫情在線討論中，盡管社交機器人數(shù)量與人類用戶存在量級上的差異，但兩者都隨時間推移明顯上升，其中參與討論的社交機器人從每日1—2個增長到每日100多個。

（三）社交機器人發(fā)布的推文中轉發(fā)推文占七成

推文可以分為“原創(chuàng)”和“轉發(fā)”兩大類，其中“轉發(fā)”又可以細分為不帶評論轉發(fā)的直接轉發(fā)和帶評論轉發(fā)兩種。這可以從推文文本來進行判定，在推文文本中不含有任何“RT @”的推文歸類為原創(chuàng)推文，含有“RT @”的推文是轉發(fā)推文。具體來說，如果A直接轉發(fā)B的推文，在A的推文文本中會出現(xiàn)“RT @B”，即A的推文文本由“RT @B+B的推文”構成;如果A轉發(fā)B的推文并進行了評論，A的推文文本由“評論+RT @B+B的推文”構成。

經(jīng)統(tǒng)計發(fā)現(xiàn)，第一，社交機器人和人類用戶發(fā)布的推文中絕大多數(shù)是轉發(fā)，原創(chuàng)推文整體較少，社交機器人發(fā)布的推文中七成以上是轉發(fā)，人類用戶發(fā)布的推文中八成以上是轉發(fā);第二，在轉發(fā)的推文中，直接轉發(fā)比例遠高于帶評論轉發(fā)，相比社交機器人，人類用戶更傾向于帶評論轉發(fā)（見圖2）。從推文類型來看，轉發(fā)推文占據(jù)絕大多數(shù)，用戶之間的轉發(fā)互動十分頻繁，這也是本文選取“轉發(fā)”來考察互動的原因之一。

五、社交機器人和人類用戶轉發(fā)互動情況

社交機器人與人類用戶的轉發(fā)互動可以通過推文文本追溯，推文文本中的“RT @”成為判斷轉發(fā)互動關系的重要標識。本文采用Python程序從推文文本中提取“RT @”的用戶，經(jīng)統(tǒng)計分析，社交機器人轉發(fā)推文中共“RT @”1800個用戶，其中274個是社交機器人;人類用戶轉發(fā)推文中共“RT @”14198個用戶，其中762個是社交機器人。換言之，從社交機器人發(fā)布推文追溯，社交機器人較多地轉發(fā)人類用戶發(fā)布的內(nèi)容，存在“人→機”轉發(fā)路徑（84.78%）;社交機器人會轉發(fā)社交機器人發(fā)布的推文，存在“機→機”轉發(fā)路徑（15.22%）。從人類用戶發(fā)布推文追溯，“人→人”是轉發(fā)互動中比例最高的互動路徑（94.63%），同時也存在“機→人”轉發(fā)路徑（5.37%）（見圖3）。

也就是說，在推特（Twitter）上有關新冠肺炎疫情的相關討論中，社交機器人和人類用戶之間存在交錯相織的轉發(fā)路徑（見圖4）。在轉發(fā)互動形成的擴散網(wǎng)絡中，社交機器人類似于“擴音器”，將人類用戶的觀點放大，或是二次傳播其他社交機器人發(fā)布的內(nèi)容。有少量社交機器人贏得了人類用戶的信任，發(fā)布內(nèi)容被人類轉發(fā)。

六、“人機”轉發(fā)用戶頻次前50的比較分析

為進一步探究社交機器人與人類用戶在轉發(fā)互動上的異同，我們對社交機器人轉發(fā)最多（“RT@”頻率最高）的前50個用戶、人類用戶轉發(fā)最多的前50個用戶進行了比較分析。將兩組各50個用戶劃分身份類別（見圖5），其中個別無法確定身份的賬號被歸為其他類。結合賬號身份特征及其推文內(nèi)容，從兩組用戶的相同點、不同點兩方面進行闡釋。

（一）相同點：媒體和政客是主要消息傳播源

第一，媒體組織、演員或媒體工作者是主要消息來源。轉發(fā)頻率最高的前50個用戶多為媒體組織賬號、演員或媒體工作者，媒體組織賬號如CNN、《紐約時報》。演員或媒體工作者包括電視節(jié)目主持人、制片人、記者和演員，如轉發(fā)頻率最高的前三名用戶中兩位（Bill Mitchell和Charlie Kirk）都屬于媒體工作者，且兩人都是特朗普的支持者;第二，政客發(fā)布的消息被較多轉發(fā)。特朗普是轉發(fā)頻率最高的用戶。

從相同點來說，轉發(fā)遵循名人效應，網(wǎng)絡大V發(fā)布的推文被轉發(fā)可能性更高。在人類用戶和社交機器人轉發(fā)頻率最高的前50個用戶中，有28個是一樣的，這也說明人類用戶和社交機器人在參與輿論表達中關注的議題或采用的策略存在相似性。

（二）不同點：機器人較多轉發(fā)特朗普支持者的推文

第一，社交機器人多轉發(fā)支持特朗普的內(nèi)容。比如，作家John Solomon稱新冠肺炎病毒為“中國病毒”的推文被社交機器人大量轉發(fā)，轉發(fā)者還包括特朗普的長子小唐納德·特朗普，小唐納德·特朗普本身也是社交機器人轉發(fā)較多的用戶之一。又如被轉發(fā)較多的作家Jim Hoft是支持特朗普的政論網(wǎng)站Gateway Pundit的創(chuàng)辦人。

第二，人類用戶會轉發(fā)白宮推特（Twitter）賬號發(fā)布的消息，白宮被歸類為政府，社交機器人會轉發(fā)特朗普政治競選團隊推特（Twitter）賬號發(fā)布的消息。

第三，在被社交機器人轉發(fā)最多的前50個用戶中，有兩個是社交機器人，一個是已被凍結的賬號。其中一個社交機器人是Mark Kirin，Botometer得分3.9分，它發(fā)布的推文文本是非常凌亂的、讀起來不通暢、較無邏輯，還包含大量符號表情，內(nèi)容包括中國政府將維生素C列為抗擊疫情藥物、新冠肺炎疫情死亡率遠不如流感、特朗普不應該使用“中國病毒”、不認可新冠肺炎病毒類似于嚴重季節(jié)性流感的觀點等。另一個社交機器人是JoJo，Botometer得分是3.5分，其推文較多地@他人、使用話題標簽，具體內(nèi)容涉及中國研究員申請藥品專利、反對特朗普言論、居家隔離等。另外，推特（Twitter）上被暫停使用的賬號和社交機器人之間存在相關性，本文研究中發(fā)現(xiàn)的用戶@StormIsUponUs雖然無法確定其賬號被凍結的具體原因，但有較高可能是個社交機器人。盡管上述兩個社交機器人都發(fā)布反對特朗普的言論，但這并不能斷定說社交機器人都在反對特朗普。結合前文來看，疫情相關討論中既有支持特朗普的社交機器人，也有反對特朗普的。

第四，人類用戶會轉發(fā)短期內(nèi)受到大量關注的普通人發(fā)布的推文，而社交機器人不會。人類用戶會關注到在網(wǎng)絡上迅速獲得大量點贊和轉發(fā)的鮮活的、真實的、平凡人的故事，比如美國姑娘Bjonda Haliti的染疫日記，網(wǎng)名為sketchy lady的女子出現(xiàn)“所有新冠病毒的癥狀”卻無法進行病毒檢測的求助帖，又比如洛杉磯一位高中畢業(yè)生邀請奧巴馬為2020屆畢業(yè)生演講的請求。

第五，人類用戶對疫情、健康相關消息關注更多，較多轉發(fā)專家學者發(fā)布的推文，如醫(yī)療專家Dena Grayson、前奧巴馬醫(yī)療保健主管Andy Slavitt發(fā)布的消息。

七、結論與討論

本文對維持（Twitter）空間有關新冠肺炎疫情討論中社交機器人的行為進行了探究，主要有以下三點結論及延伸討論。

第一，在推特（Twitter）空間有關新冠肺炎疫情討論中社交機器人數(shù)量總體占比約7%，社交機器人數(shù)量隨事態(tài)發(fā)展大幅增長。盡管社交機器人參與比例從總體來看較低，但討論中少量的社交機器人仍然可以影響輿論，甚至影響線下的實際行為，如Ross等人的模擬實驗中2%—4%的社交機器人即可反轉輿論。在Zerback等人利用社交機器人進行的“草皮運動”（Online Astroturfing）實驗中，同樣發(fā)現(xiàn)社交機器人確實能夠改變被試者的意見。隨著社交機器人技術的不斷進步，社交機器人對人類行為的模擬程度更高，對社交機器人參與網(wǎng)絡輿論表達的存在及其影響需要更細致地考量，期待后續(xù)研究的推進。

第二，新冠肺炎疫情討論中社交機器人與人類用戶之間存在交錯轉發(fā)的互動模式。首先，與已有研究結論相似，社交機器人會轉發(fā)人類用戶發(fā)布的推文、機器人發(fā)布的推文，人類用戶也會轉發(fā)社交機器人發(fā)布的推文，“機→機”轉發(fā)比例高于“機→人”比例;其次，轉發(fā)互動存在顯著的名人效應，媒體組織、演員或媒體工作者、政客是討論中的“意見領袖”。這與已有研究的發(fā)現(xiàn)有所相同也有所區(qū)別，在韓運榮等對涉華輿論的研究中，推特（Twitter）上傳統(tǒng)媒介組織開設的賬號是議題相關信息的主要傳播者， 媒體工作者是重要的“意見領袖”，媒介及藝術工作者往往多傳播情緒性意見。但Hagen等人在所謂俄羅斯干涉2016年美國大選調(diào)查的在線討論中發(fā)現(xiàn)社交機器人會削弱媒體人、專家等傳統(tǒng)行動者（Traditional Actors）的影響力，并通過放大支持特朗普的信息影響網(wǎng)絡情緒，這與本文的發(fā)現(xiàn)有所區(qū)別，本文發(fā)現(xiàn)媒體組織等依舊是社交網(wǎng)絡中具有強傳播力、影響力的行動者。

第三，推特（Twitter）空間的社交機器人較多轉發(fā)持有支持特朗普立場的用戶的推文，會更關注特朗普與2020年大選的相關內(nèi)容，而人類用戶會轉發(fā)專家學者對疫情的看法、普通人在疫情期間的真實經(jīng)歷。然而也并非所有的社交機器人都在支持特朗普，也有反對特朗普立場的社交機器人，社交媒體上的社交機器人像人類一樣擁有政治傾向性、擁有多元化的觀點。在社交媒體上部署這些社交機器人的個人或團隊也是多元構成的，一項對歐洲49個國家2247位歐洲通信領域專家的調(diào)查發(fā)現(xiàn)，有257位（11.5%）表示他們所在的組織正在使用或計劃使用社交機器人。這些機構或組織或屬于不同國家、或有著不同利益驅動、或持有不同政治意見，恰恰也表明了社交機器人背后使用主體的多元構成。

本文也存在一定的局限性。第一，轉發(fā)行為一定程度上代表著對某種觀點的認同，本文沒有對轉發(fā)背后多大程度上改變了人類用戶的態(tài)度，這種影響是強化、弱化還是扭轉進行探究;第二，社交媒體上的互動除“轉發(fā)”之外還有其他形式，本文只選取較具代表性的“轉發(fā)”來分析，未來可以從其他互動方式入手進行補充完善。

注釋：

①Howard P N， Woolley S， Calo R. Algorithms， bots， and political communication in the US 2016 election： The challenge of automated political communication for election law and administration. Journal of information technology & politics， 2018， 15（2）： 81-93.

②張洪忠、段澤寧、韓秀：《異類還是共生——社交媒體中的社交機器人研究路徑探討》，《新聞界》2019年第2期。

③Ferrara E， Varol O， Davis C， et al. The rise of social bots. Communications of the ACM， 2016， 59（7）： 96-104.

④喻國明：《關于智能時代新聞傳播學科建設的若干思考》，《教育傳媒研究》2020年第2期。

⑤張洪忠、趙蓓、石韋穎：《社交機器人在Twitter參與中美貿(mào)易談判議題的行為分析》，《新聞界》2020年第2期。

⑥Howard P N， Bolsover G， Kollanyi B， et al. Junk news and bots during the US election： What were Michigan voters sharing over Twitter. CompProp， OII， Data Memo， 2017.

⑦Bastos M T， Mercea D. The Brexit botnet and user-generated hyperpartisan news. Social Science Computer Review， 2019， 37（1）： 38-54.

⑧Ferrara E. Disinformation and social bot operations in the run up to the 2017 French presidential election. arXiv preprint arXiv：1707.00086， 2017.

⑨Luceri L， Deb A， Badawy A， et al. Red bots do it better： Comparative analysis of social bot partisan behavior[C]//Companion Proceedings of The 2019 World Wide Web Conference. 2019： 1007-1012.

⑩Howard P， Kollanyi B， Woolley S C. Bots and automation over Twitter during the third US presidential debate. 2016.

Keller T R， Klinger U. Social bots in election campaigns： Theoretical， empirical， and methodological implications. Political Communication， 2019， 36（1）： 171-189.

Yuan X， Schuchard R J， Crooks A T. Examining Emergent Communities and Social Bots Within the Polarized Online Vaccination Debate in Twitter. Social Media+ Society， 2019， 5（3）： 2056305119865465.

Kitzie V L， Mohammadi E， Karami A. “Life never matters in the DEMOCRATS MIND”： Examining strategies of retweeted social bots during a mass shooting event. Proceedings of the Association for Information Science and Technology， 2018， 55（1）： 254-263.

Ferrara E. # COVID-19 on Twitter： Bots， Conspiracies， and Social Media Activism. arXiv preprint arXiv：2004.09531， 2020.

Stella M， Ferrara E， De Domenico M. Bots increase exposure to negative and inflammatory content in online social systems. Proceedings of the National Academy of Sciences， 2018， 115（49）： 12435-12440.

Shao C， Ciampaglia G L， Varol O， et al. The spread of low-credibility content by social bots. Nature communications， 2018， 9（1）： 1-9.

Ku?en E， Strembeck M. You talkinto me？ Exploring Human/Bot Communication Patterns during Riot Events. Information Processing & Management， 2020， 57（1）： 102126.

師文、陳昌鳳：《分布與互動模式：社交機器人操縱Twitter上的中國議題研究》，《國際新聞界》2020年第5期。

Pulido C M， Villarejo-Carballido B， Redondo-Sama G， et al. COVID-19 infodemic： More retweets for science-based information on coronavirus than for false information. International Sociology， 2020： 0268580920914755.

Ross B， Pilz L， Cabrera B， et al. Are social bots a real threat？ An agent-based model of the spiral of silence to analyse the impact of manipulative actors in social networks. European Journal of Information Systems， 2019， 28（4）： 394-412.

Zerback T， T?pfl F， Kn?pfle M. The disconcerting potential of online disinformation： Persuasive effects of astroturfing comments and three strategies for inoculation against them. New Media & Society， 2020： 1461444820908530.

韓運榮、漆雪：《Twitter涉華輿情極化現(xiàn)象研究——以中美貿(mào)易爭端為例》，《現(xiàn)代傳播（中國傳媒大學學報）》2019第3期。

Hagen L， Neely S， Keller T E， et al. Rise of the Machines？ Examining the Influence of Social Bots on a Political Discussion Network. Social Science Computer Review， 2020： 0894439320908190.

Wiesenberg M， Tench R. Deep strategic mediatization： Organizational leaders knowledge and usage of social bots in an era of disinformation. International Journal of Information Management， 2020， 51： 102042.