信息爆炸時(shí)代，網(wǎng)絡(luò)空間成為了信息生產(chǎn)、聚合、傳播的主要陣地，無序且龐大的信息流量已經(jīng)超出了人們所能承受范圍且不斷挑戰(zhàn)人們的注意力和精力。在這樣的背景下，今日頭條APP率先應(yīng)用算法技術(shù)，打出“你關(guān)心的才是頭條”的口號(hào)，以用戶的個(gè)性化需求為導(dǎo)向，圍繞著核心算法構(gòu)建了系統(tǒng)的傳播機(jī)制從而完成一系列個(gè)性化推薦服務(wù)，幫助用戶在信息大爆炸的時(shí)代里“減負(fù)”。但隨著算法的進(jìn)一步應(yīng)用一些負(fù)面效應(yīng)逐漸顯露出來，信息繭房、過濾氣泡、新聞價(jià)值觀偏差、群體極化問題等顯著問題普遍存在并被學(xué)界和媒體廣泛關(guān)注和譴責(zé)。

這一系列負(fù)面效應(yīng)是如何引發(fā)的，算法推薦是如何所發(fā)揮作用的，內(nèi)在邏輯又是什么？只有理清問題發(fā)生的內(nèi)在原因，挖掘出問題“根源”，才能進(jìn)一步有效優(yōu)化算法設(shè)計(jì)，優(yōu)化平臺(tái)技術(shù)設(shè)置和制度設(shè)立。如此，算法才能良性發(fā)展并在信息流動(dòng)中起到更加積極高效的作用。

算法參與下的信息傳播把關(guān)變化

一是結(jié)構(gòu)上的變化。信息流通的把關(guān)由單環(huán)節(jié)變?yōu)殡p環(huán)節(jié)化。即原本由原有的信息生產(chǎn)審核環(huán)節(jié)把關(guān)加上由算法引導(dǎo)的信息擴(kuò)散接收環(huán)節(jié)把關(guān)。新的變化下，平臺(tái)管理者、算法、用戶在信息擴(kuò)散環(huán)節(jié)共同具有把關(guān)權(quán)力一起組成該環(huán)節(jié)的篩選機(jī)制。

二是把關(guān)主體的變化。網(wǎng)絡(luò)的去中心化和技術(shù)賦權(quán)下，把關(guān)雙環(huán)節(jié)化，傳統(tǒng)的把關(guān)人角色單極化的模式被打破，把關(guān)主體變得多元化。在信息的擴(kuò)散環(huán)節(jié)，算法和用戶共同成為了具有動(dòng)態(tài)化和互動(dòng)性特點(diǎn)的“把關(guān)人”，當(dāng)然特殊情況下平臺(tái)管理者也可以通過設(shè)置關(guān)鍵詞或“封號(hào)”等手段進(jìn)行把關(guān)限制。而相比之下在此環(huán)節(jié)傳統(tǒng)專業(yè)媒體的把關(guān)行為卻極少甚至沒有體現(xiàn)，因此從整個(gè)把關(guān)機(jī)制來看把關(guān)人的權(quán)力被逐漸分化，傳統(tǒng)媒體的把關(guān)權(quán)逐漸下放至技術(shù)和用戶。

把關(guān)變化引發(fā)的負(fù)面效應(yīng)

把關(guān)變化引發(fā)的負(fù)面效應(yīng)具體表現(xiàn)為“把關(guān)缺失”和“把關(guān)過度”兩方面，在這兩者的“相輔相成”相互作用下，負(fù)面效應(yīng)顯現(xiàn)。

負(fù)面效應(yīng)之“把關(guān)缺失”。把關(guān)的缺失問題在整個(gè)把關(guān)機(jī)制中都所有體現(xiàn)，在信息生產(chǎn)審核環(huán)節(jié)最為明顯。主要在兩方面體現(xiàn)：

一是用戶生產(chǎn)把關(guān)缺失。在聚合平臺(tái)，專業(yè)生產(chǎn)內(nèi)容僅是信息海洋中的組成的一小部分，除此之外還有龐大的UGC和PGC。技術(shù)賦權(quán)下個(gè)人頭條號(hào)，企業(yè)頭條號(hào)的設(shè)立，讓普通用戶和組織也擁有了內(nèi)容生產(chǎn)權(quán)，但他們卻沒有像專業(yè)媒體一樣的內(nèi)容生產(chǎn)標(biāo)準(zhǔn)，沒有各部門各層級(jí)的標(biāo)準(zhǔn)審核，也沒有社會(huì)規(guī)范、法律法規(guī)、政治文化環(huán)境壓力。他們有著相對(duì)寬松的生產(chǎn)條件，即使有平臺(tái)的審核團(tuán)隊(duì)和算法的自動(dòng)化審核，但由于一方面平臺(tái)把關(guān)標(biāo)準(zhǔn)相對(duì)較低，一般情況下只要不涉及敏感話題，不當(dāng)言論和“黃賭毒”等違法內(nèi)容都可以被允許在平臺(tái)流通。另外，懲罰標(biāo)準(zhǔn)也相對(duì)較低，只要不涉及以上內(nèi)容一般都是發(fā)回重新修改，在上傳次數(shù)上沒有特別限制。另一方面，由于用戶自身的媒介素養(yǎng)不高，容易粗制濫造，在版權(quán)意識(shí)和原創(chuàng)意識(shí)上也有所欠缺容易隨意“復(fù)制粘貼”。因此，用戶在生產(chǎn)上也容易出現(xiàn)把關(guān)缺失的問題使得生產(chǎn)隨意化，從而表現(xiàn)出了顯著的負(fù)面問題，如標(biāo)題黨、粗糙內(nèi)容和同質(zhì)化內(nèi)容泛濫、侵權(quán)等問題。

二是編輯與算法審核把關(guān)缺失。在內(nèi)容審核上，平臺(tái)編輯和算法有把關(guān)決定權(quán)，他們的把關(guān)對(duì)象絕大多數(shù)是平臺(tái)賦權(quán)下的UGC和PGC并共同決定它們是否能在渠道上流通。面對(duì)龐大的信息生產(chǎn)即使平臺(tái)有審核編輯和算法共同把關(guān)也存在明顯的把關(guān)缺失問題。對(duì)于平臺(tái)編輯來說，一方面是龐大的信息量與有限的人力之間的矛盾，另一方面是多元化的內(nèi)容生產(chǎn)領(lǐng)域與相對(duì)缺乏的專業(yè)媒介素養(yǎng)之間的矛盾。對(duì)于平臺(tái)方面來講，聚合平臺(tái)始終是算法主導(dǎo)的信息自動(dòng)化分發(fā)平臺(tái)，其企業(yè)服務(wù)宗旨和圍繞算法的個(gè)性化推薦而建構(gòu)的平臺(tái)機(jī)制就決定了平臺(tái)的本質(zhì)并非追求客觀真實(shí)的媒體平臺(tái)，而是追求高效率的企業(yè)平臺(tái)。因此，依靠編輯來審核不會(huì)像媒體平臺(tái)一樣成為平臺(tái)把關(guān)的主要方式，只能成為輔佐算法把關(guān)的備用手段負(fù)責(zé)少量的或者局部性的把關(guān)工作，而算法把關(guān)負(fù)責(zé)絕大多數(shù)的把關(guān)任務(wù)是平臺(tái)的發(fā)展需要和本質(zhì)特征。但算法審核的高效率也掩飾不了其自身的局限性。一方面算法只能識(shí)別一些在常規(guī)范圍內(nèi)的文字表達(dá)形式或圖片形式達(dá)不到平臺(tái)標(biāo)準(zhǔn)的內(nèi)容，在真實(shí)性、價(jià)值觀和內(nèi)容質(zhì)量上目前還無法有效識(shí)別判斷，對(duì)于一些虛假低俗或者粗制濫造內(nèi)容無法在審核環(huán)節(jié)阻斷流通。另一方面算法把關(guān)機(jī)械化、固定化、標(biāo)準(zhǔn)化，對(duì)于一些非常規(guī)的表達(dá)無法有效識(shí)別，一些軟色情、軟廣告或者非法宣傳交易的內(nèi)容容易進(jìn)入傳播環(huán)節(jié)。因此，表面上看在算法和平臺(tái)編輯的雙重把關(guān)下把關(guān)缺失現(xiàn)象難以出現(xiàn)，但實(shí)際上假新聞問題、內(nèi)容低俗化、軟色情軟廣告內(nèi)容泛濫等負(fù)面效果顯著并廣為批評(píng)。

負(fù)面效應(yīng)之“把關(guān)過度”。把關(guān)過度問題主要表現(xiàn)在信息擴(kuò)散接收環(huán)節(jié)。在此環(huán)節(jié)，基于相似內(nèi)容和協(xié)同過濾推薦原理的算法和基于個(gè)性化信息的用戶成為了把關(guān)主體，打破了傳統(tǒng)的把關(guān)機(jī)制和把關(guān)結(jié)構(gòu)，將傳統(tǒng)媒體的把關(guān)作用限制在生產(chǎn)發(fā)布前的環(huán)節(jié)中，最大程度地弱化了傳統(tǒng)把關(guān)模式的把關(guān)效果，使得信息流動(dòng)效果不再取決于傳統(tǒng)媒體，而是算法和用戶兩者循環(huán)互動(dòng)共同決定了信息的流動(dòng)。也正因?yàn)槿绱?，衍生出了“把關(guān)過度”的問題。把關(guān)過度主要體現(xiàn)在兩方面：一是在流向上過濾篩選過度，過分突出局部，在流量上反復(fù)過度，形成閉環(huán)流動(dòng)。二是群體把關(guān)，議程構(gòu)建群體化。

應(yīng)對(duì)和發(fā)展建議

一是針對(duì)把關(guān)缺失。把關(guān)缺失問題主要集中在信息生產(chǎn)審核環(huán)節(jié)，應(yīng)該從生產(chǎn)制度和審核制度上入手。

首先，建立更為嚴(yán)格的生產(chǎn)準(zhǔn)入標(biāo)準(zhǔn)和懲罰規(guī)則。建立更高的準(zhǔn)入標(biāo)準(zhǔn)，篩選出具備一定媒介素養(yǎng)的用戶生產(chǎn)者，可以從源頭上有效減少粗制濫造的內(nèi)容。不僅如此，還要建立完善更加靈活的審核制度和懲罰規(guī)則，定期排查違反平臺(tái)規(guī)則的生產(chǎn)內(nèi)容，限制相關(guān)生產(chǎn)者生產(chǎn)，對(duì)于發(fā)表審核不通過的內(nèi)容的生產(chǎn)者，限制其發(fā)表次數(shù)。

其次，優(yōu)化算法審核，建立靈活的把關(guān)規(guī)則。信息爆炸時(shí)代意味著光靠編輯審核是遠(yuǎn)遠(yuǎn)不足的，平臺(tái)的企業(yè)性質(zhì)也意味其無法像傳統(tǒng)媒體一樣建立極為標(biāo)準(zhǔn)化的把關(guān)，因此解決矛盾的最佳方式并非是大部分人認(rèn)為的那樣只要加大編輯雇傭就能解決問題，當(dāng)然，增加審核人數(shù)確實(shí)必不可少也能在一定范圍內(nèi)緩解負(fù)面問題，但畢竟有限。最佳的解決方式還是應(yīng)當(dāng)依靠算法審核，但目前的算法技術(shù)也有一定的局限性，因此平臺(tái)需要建立以算法把關(guān)為主，以編輯把關(guān)為輔的更為靈活的把關(guān)規(guī)則，同時(shí)平臺(tái)也需要大力發(fā)展，深入優(yōu)化算法技術(shù)使其更智能更有效識(shí)別。

最后，重視群體把關(guān)，依靠用戶過濾。龐大的信息量要依靠龐大的用戶群體來篩選，平臺(tái)應(yīng)該重視群體把關(guān)，善于利用群體用戶的反饋實(shí)現(xiàn)不良信息的過濾。平臺(tái)可以設(shè)置更為方便的反饋機(jī)制和有效的反饋獎(jiǎng)勵(lì)規(guī)則，比如在頁面設(shè)計(jì)上使反饋功能更加凸顯，讓用戶易于察覺方便反饋，在反饋規(guī)則上增加獎(jiǎng)勵(lì)讓用戶群體樂于反饋。

二是針對(duì)把關(guān)過度。把關(guān)過度問題主要集中在信息擴(kuò)散接收環(huán)節(jié)，解決問題可以從算法原理和用戶把關(guān)入手。

首先，削弱個(gè)性化推薦強(qiáng)度，以斷續(xù)推薦取代連續(xù)推薦。算法的過度把關(guān)一定程度上也表現(xiàn)為個(gè)性化推薦強(qiáng)度過度。這種過度使得個(gè)性化的信息推送在流向和流量上呈現(xiàn)出輸出內(nèi)容類型固定化和連續(xù)反復(fù)的特性，影響著信息環(huán)境和個(gè)人信息環(huán)境。因此要緩解“信息繭房”等負(fù)面影響，應(yīng)該從個(gè)性化的信息推薦強(qiáng)度入手從算法推薦原理上入手，適當(dāng)優(yōu)化算法使其推薦內(nèi)容更加多樣化，多元化，保持個(gè)性化定制但不以連續(xù)反復(fù)的方式推薦，可以斷續(xù)推送，在推送內(nèi)容、順序、時(shí)間空間上靈活安排。在一定程度上削弱個(gè)性化推薦強(qiáng)度可以有效緩解負(fù)面問題。

其次，培養(yǎng)用戶積極的把關(guān)能動(dòng)性。積極地用戶把關(guān)行為同樣是緩解問題的有效方式，但目前絕大多數(shù)用戶并沒有把關(guān)意識(shí)，他們的閱讀行為只是心理慣性和閱讀慣性的驅(qū)使，他們可能清楚算法的個(gè)性化服務(wù)并懂得利用算法為自己更加方便獲取信息服務(wù)，但他們可能沒用意識(shí)到他們其實(shí)是自己的信息環(huán)境的把關(guān)人同時(shí)也是其他同他具有相同偏好的用戶的把關(guān)人，在把關(guān)上具有能動(dòng)性。因此，用戶需要懂得和積極的利用把關(guān)權(quán)力，懂得通過反饋和舉報(bào)限制不良信息的繼續(xù)擴(kuò)散或者通過評(píng)論區(qū)指出問題，讓更多人發(fā)現(xiàn)問題、反饋問題實(shí)現(xiàn)“再把關(guān)”共同維護(hù)信息環(huán)境。而平臺(tái)應(yīng)該培養(yǎng)用戶的這種把關(guān)能動(dòng)性，通過更多樣的平臺(tái)結(jié)構(gòu)和頁面設(shè)計(jì)給予用戶更為方便多樣的把關(guān)功能選擇和把關(guān)效果獎(jiǎng)勵(lì)，鼓勵(lì)用戶把關(guān)。

總結(jié)

把關(guān)雙環(huán)節(jié)化和把關(guān)主體多元化是算法機(jī)制應(yīng)用下把關(guān)變化的直接體現(xiàn)，“把關(guān)缺失”和“把關(guān)過度”則是把關(guān)變化的負(fù)面體現(xiàn)。“把關(guān)缺失”主要集中在生產(chǎn)審核環(huán)節(jié)，“把關(guān)過度”則更多的在擴(kuò)散接收環(huán)節(jié)中體現(xiàn)，他們都有各自的發(fā)生邏輯，引發(fā)各自的負(fù)面效果在各。一些媒體和研究者過分強(qiáng)調(diào)技術(shù)的局限性忽視把關(guān)的能動(dòng)作用，將一切歸咎于技術(shù)從而全盤否定技術(shù)，另一些則過分強(qiáng)調(diào)把關(guān)的失誤，忽視了技術(shù)所發(fā)揮的作用無法深入解釋問題的內(nèi)在邏輯，從而寄希望于加大平臺(tái)的編輯雇傭數(shù)量。兩種論點(diǎn)都具有偏差性，應(yīng)該既要看到技術(shù)的有限性也要看到人的把關(guān)能動(dòng)性，從技術(shù)和把關(guān)的角度來看待問題才能從根本上解決問題。