王玉婷 王凡

摘要：以大數(shù)據(jù)、虛擬現(xiàn)實(shí)為核心的人工智能正深刻改變著社會(huì)各領(lǐng)域，為意識(shí)形態(tài)工作帶來(lái)了巨大變革。人工智能正悄無(wú)聲息地操控著人們的意識(shí)形態(tài)，主要表現(xiàn)在技術(shù)工具對(duì)意識(shí)形態(tài)的操控、智能機(jī)器人本身的意識(shí)形態(tài)、資本家對(duì)意識(shí)形態(tài)的操控。這些現(xiàn)象帶來(lái)了算法獨(dú)裁與算法偏見風(fēng)險(xiǎn)、透明人法律與倫理風(fēng)險(xiǎn)、核心價(jià)值與話語(yǔ)權(quán)威的消解風(fēng)險(xiǎn)、意識(shí)形態(tài)沖突失控風(fēng)險(xiǎn)。為此，需要采取加強(qiáng)算法治理和個(gè)人隱私保護(hù)、修復(fù)技術(shù)漏洞與人為缺陷、規(guī)范人工智能從業(yè)者的思想和行為等措施防范風(fēng)險(xiǎn)。

關(guān)鍵詞：人工智能;深度變革;意識(shí)形態(tài);操控;風(fēng)險(xiǎn)防范

中圖分類號(hào)：D64 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1004-9436（2022）01-00-03

人工智能技術(shù)的出現(xiàn)，不僅為社會(huì)生產(chǎn)力的發(fā)展注入了新鮮的動(dòng)力，也為社會(huì)生產(chǎn)力的解放提供了重要途徑，使社會(huì)生產(chǎn)方式和人類思維方式發(fā)生了巨大變革。人工智能是一種能夠深刻改變世界的顛覆性技術(shù)，當(dāng)其滲透于社會(huì)的每個(gè)角落、人類活動(dòng)高度依賴智能機(jī)器時(shí)，人們的意識(shí)形態(tài)就會(huì)被人工智能操控[1]。因此，深入思考當(dāng)前意識(shí)形態(tài)領(lǐng)域面臨的變革與困境，人工智能技術(shù)操控人類意識(shí)形態(tài)的風(fēng)險(xiǎn)，化挑戰(zhàn)為機(jī)遇、化風(fēng)險(xiǎn)為動(dòng)力，這對(duì)形成具有強(qiáng)大凝聚力的意識(shí)形態(tài)具有重要的現(xiàn)實(shí)意義。

一、意識(shí)形態(tài)工作的深度變革

人工智能技術(shù)正悄無(wú)聲息地改變著社會(huì)多個(gè)領(lǐng)域，尤其對(duì)意識(shí)形態(tài)領(lǐng)域工作的影響將在未來(lái)更加深化，使意識(shí)形態(tài)工作面臨更多機(jī)遇與挑戰(zhàn)?，F(xiàn)階段，人工智能技術(shù)對(duì)意識(shí)形態(tài)領(lǐng)域的變革主要體現(xiàn)在傳播模式、工作機(jī)制、表現(xiàn)方式等方面。

第一，意識(shí)形態(tài)傳播模式的變革。近年來(lái)，互聯(lián)網(wǎng)技術(shù)的快速成熟與普及，使網(wǎng)絡(luò)平臺(tái)成為信息傳播的主要陣地，以雙向傳播機(jī)制打破了傳統(tǒng)信息傳播模式的時(shí)空壁壘，大幅度提升了信息傳播效率。隨著大數(shù)據(jù)和算法技術(shù)的發(fā)展，原本依靠人工的信息收集、處理、分析以及傳播等工作逐漸被機(jī)器承擔(dān)，信息傳播模式的變革正式開啟[2]。

第二，意識(shí)形態(tài)工作機(jī)制的變革。社會(huì)生產(chǎn)力的發(fā)展往往伴隨著統(tǒng)治階級(jí)內(nèi)部的分化，一些在身份地位、知識(shí)體系等方面具有明顯優(yōu)勢(shì)的人開始作為意識(shí)形態(tài)家出現(xiàn)[3]。其職責(zé)在于建構(gòu)符合統(tǒng)治階級(jí)意志的話語(yǔ)，以達(dá)到賦予統(tǒng)治階級(jí)合法性的目的。從本質(zhì)來(lái)看，意識(shí)形態(tài)是社會(huì)統(tǒng)治階級(jí)的思想，并非草率、零散的話語(yǔ)表達(dá)，而是由該階級(jí)的意識(shí)形態(tài)家通過凝練、整合、概括等方式所呈現(xiàn)的物質(zhì)關(guān)系[4]?？梢哉f(shuō)，意識(shí)形態(tài)話語(yǔ)的形成取決于占據(jù)主導(dǎo)地位的思想家，借助話語(yǔ)載體將階級(jí)意志展現(xiàn)出來(lái)。意識(shí)形態(tài)家不僅是意識(shí)形態(tài)話語(yǔ)的制造者，還是階級(jí)意識(shí)形態(tài)話語(yǔ)的維護(hù)者。

人工智能時(shí)代，機(jī)器學(xué)習(xí)技術(shù)已滲透于社會(huì)的各個(gè)領(lǐng)域，基于智能算法的機(jī)器人已成為可能，這使意識(shí)形態(tài)話語(yǔ)的生產(chǎn)主體得到了延伸。受人工智能技術(shù)的影響，意識(shí)形態(tài)工作實(shí)現(xiàn)了向人機(jī)協(xié)同機(jī)制的轉(zhuǎn)變。一方面，人工智能已成為一種搶占意識(shí)形態(tài)話語(yǔ)權(quán)的重要手段，不僅具有主流意識(shí)形態(tài)保護(hù)功能，還具有意識(shí)形態(tài)滲透功能[5]。另一方面，基于智能算法的機(jī)器寫作模式是指通過篩選、分類、排序、過濾等方式處理海量數(shù)據(jù)，將自動(dòng)化數(shù)據(jù)填充至人工模板中。當(dāng)人工智能發(fā)展到一定階段，寫作機(jī)器人可以自主創(chuàng)新文章模板時(shí)，寫作機(jī)器人便成為新聞?shì)浾摰纳a(chǎn)主體。

我國(guó)騰訊公司生產(chǎn)的智能機(jī)器人拉開了國(guó)內(nèi)自動(dòng)化新聞寫作的帷幕。之后，“小封機(jī)器人”“快筆小新”“張小明”“小融”等寫作機(jī)器人迅速涌現(xiàn)，新聞編輯工作逐漸由加載算法程序的機(jī)器人承擔(dān)，迎來(lái)了輿論新聞的生產(chǎn)潮流。在意識(shí)形態(tài)話語(yǔ)自動(dòng)化生產(chǎn)中，寫作機(jī)器人傳遞的仍是人類的意識(shí)形態(tài)。意識(shí)形態(tài)家與人工智能機(jī)器人共同協(xié)作，占據(jù)了意識(shí)形態(tài)領(lǐng)域的支配性地位。

第三，意識(shí)形態(tài)呈現(xiàn)方式的變革。傳統(tǒng)媒體時(shí)代背景下，文字、圖像、聲音是意識(shí)形態(tài)呈現(xiàn)的主要形式。隨著網(wǎng)絡(luò)媒體時(shí)代的到來(lái)，意識(shí)形態(tài)可通過動(dòng)畫、音頻、視頻等媒介展現(xiàn)出來(lái)。到了人工智能時(shí)代，虛擬現(xiàn)實(shí)技術(shù)和可穿戴設(shè)備的出現(xiàn)突破了傳統(tǒng)二維的信息呈現(xiàn)格局。通過運(yùn)用虛擬技術(shù)模擬現(xiàn)實(shí)場(chǎng)景，為人們帶來(lái)視、聽、觸等多重感官體驗(yàn)，這種虛擬與現(xiàn)實(shí)交織的沉浸式空間的構(gòu)建及運(yùn)用，能夠帶給受眾一種身臨其境的動(dòng)態(tài)體驗(yàn)。得益于人工智能技術(shù)的優(yōu)勢(shì)，意識(shí)形態(tài)的呈現(xiàn)也實(shí)現(xiàn)了向立體化形式的過渡。

二、人工智能操控意識(shí)形態(tài)的具體表現(xiàn)

從人工智能與人類關(guān)系及其發(fā)展的社會(huì)因素視角來(lái)看，人工智能對(duì)人類意識(shí)形態(tài)的控制主要體現(xiàn)在三個(gè)方面。

一是技術(shù)工具對(duì)意識(shí)形態(tài)的操控。在弱人工智能階段，人類與人工智能是使用主體與客體的關(guān)系，后者對(duì)前者的操控表現(xiàn)為算法操縱[6]。信息爆炸的互聯(lián)網(wǎng)時(shí)代，機(jī)器學(xué)習(xí)技術(shù)從自然科學(xué)領(lǐng)域拓展至人類社會(huì)領(lǐng)域，對(duì)人類行為、偏好或需求進(jìn)行預(yù)測(cè)分析。機(jī)器學(xué)習(xí)技術(shù)的核心在于知識(shí)發(fā)現(xiàn)問題，在算法運(yùn)用中存在著對(duì)意識(shí)形態(tài)的操控。隨著網(wǎng)絡(luò)社交平臺(tái)的大量出現(xiàn)，相比于文字表達(dá)，人們更傾向于使用圖片和視頻表達(dá)想法或情感。

二是人工智能機(jī)器人本身的意識(shí)形態(tài)。未來(lái)發(fā)展必將迎來(lái)機(jī)器與人類并駕齊驅(qū)的強(qiáng)人工智能階段。在強(qiáng)人工智能階段，機(jī)器與人類之間或共存或?qū)?，由此產(chǎn)生了兩種不同的言論，即和諧共存論和分裂對(duì)抗論[7]。

三是資本家對(duì)意識(shí)形態(tài)的操控。從社會(huì)因素層面來(lái)看，意識(shí)形態(tài)的操控問題涉及復(fù)雜的社會(huì)關(guān)系。利益紛爭(zhēng)的背后是資本家利用人工智能操控意識(shí)形態(tài)的丑惡面相，這也是當(dāng)今社會(huì)不可避免的現(xiàn)實(shí)問題。人工智能時(shí)代，利用智能機(jī)器能夠?yàn)橘Y本家?guī)?lái)更多的資本增值。

此外，馬克思還論述了權(quán)力與技術(shù)之間的關(guān)系，認(rèn)為工業(yè)機(jī)器與工人是敵對(duì)的，技術(shù)的進(jìn)步意味著工人階級(jí)被剝削程度的加深。工業(yè)革命賦予了資產(chǎn)階級(jí)統(tǒng)治權(quán)力，形成了資產(chǎn)階級(jí)的意識(shí)形態(tài)。而工人階級(jí)想要打破被奴役的困境，就必須推翻資產(chǎn)階級(jí)在意識(shí)形態(tài)領(lǐng)域的統(tǒng)治，獲得政治上的統(tǒng)治權(quán)，打破資本對(duì)技術(shù)的操控。

而人工智能又為資產(chǎn)階級(jí)取得意識(shí)形態(tài)領(lǐng)域的領(lǐng)導(dǎo)地位提供了支撐，同時(shí)人工智能為人類社會(huì)帶來(lái)的福利不容小覷，如生產(chǎn)力提升、信息共享、物質(zhì)生活極大豐富等，這些都為實(shí)現(xiàn)共產(chǎn)主義、轉(zhuǎn)變資產(chǎn)階級(jí)的意識(shí)形態(tài)創(chuàng)造了重要的現(xiàn)實(shí)條件。但值得注意的是，馬克思面對(duì)的僅僅是工業(yè)技術(shù)，而人工智能技術(shù)是一種深刻影響社會(huì)發(fā)展的顛覆性技術(shù)，其影響遠(yuǎn)大于工具技術(shù)。

三、人工智能操控意識(shí)形態(tài)存在的風(fēng)險(xiǎn)

人工智能的出現(xiàn)使意識(shí)形態(tài)工作發(fā)生了深刻變革，應(yīng)用智能算法技術(shù)可實(shí)現(xiàn)對(duì)個(gè)體意識(shí)形態(tài)的追蹤、預(yù)測(cè)，提升意識(shí)形態(tài)傳播效率和精度，增強(qiáng)大眾對(duì)主流意識(shí)形態(tài)的認(rèn)同感。但同時(shí)也為意識(shí)形態(tài)工作帶來(lái)了諸多風(fēng)險(xiǎn)。

第一，算法獨(dú)裁與算法偏見風(fēng)險(xiǎn)。算法獨(dú)裁在意識(shí)形態(tài)上主要體現(xiàn)在兩個(gè)方面。一方面，權(quán)力與資本控制下的技術(shù)人員可通過更改算法得出有利于自身利益的裁判結(jié)果。當(dāng)他們利用算法篡改領(lǐng)域內(nèi)的運(yùn)行規(guī)律時(shí)，將會(huì)對(duì)社會(huì)造成無(wú)法預(yù)估的危害。另一方面，人類對(duì)算法的過度依賴。利用算法能夠有效實(shí)現(xiàn)對(duì)個(gè)體意識(shí)形態(tài)數(shù)據(jù)的分析、歸類以及聚合。而人們?yōu)榱斯?jié)省時(shí)間和精力往往會(huì)賦予算法選擇權(quán)，這就導(dǎo)致了算法獨(dú)裁。人工智能時(shí)代，人工智能算法將破解人類的自我意識(shí)，而由于機(jī)器與人類意識(shí)形態(tài)的差異，機(jī)器人可能成為未來(lái)的獨(dú)裁者。

第二，透明人和倫理風(fēng)險(xiǎn)。在人工智能領(lǐng)域，人臉識(shí)別、掌紋識(shí)別、機(jī)器視覺等技術(shù)的應(yīng)用使公眾的個(gè)人隱私面臨被泄露的風(fēng)險(xiǎn)，甚至可能變成透明人?，F(xiàn)階段，語(yǔ)音語(yǔ)義識(shí)別、自動(dòng)化搜索、人機(jī)交互等領(lǐng)域的迅速發(fā)展主要依賴于對(duì)數(shù)據(jù)群的機(jī)器分析，這實(shí)際上也是操控意識(shí)形態(tài)的一種方式。大數(shù)據(jù)技術(shù)是將海量數(shù)據(jù)轉(zhuǎn)化為有價(jià)值信息的重要工具，目前已成為社會(huì)各領(lǐng)域必不可少的重要資源。

第三，核心價(jià)值與話語(yǔ)權(quán)威的消解風(fēng)險(xiǎn)。人工智能技術(shù)的出現(xiàn)從根本上改變了人們接收信息的議程。在信息領(lǐng)域中，人們只會(huì)選擇自身感興趣的內(nèi)容，進(jìn)而被束縛于類似蠶繭的信息繭房之中。在智能算法的精準(zhǔn)推薦下，用戶將無(wú)限度、同質(zhì)化地獲得與其意識(shí)形態(tài)趨同的信息，從而加劇信息繭房效應(yīng)，使人們處于封閉的輿論場(chǎng)場(chǎng)域中，進(jìn)而因缺乏主流意識(shí)形態(tài)的引導(dǎo)而迷失正確的價(jià)值觀。

人工智能技術(shù)的產(chǎn)生實(shí)現(xiàn)了對(duì)傳媒信息資源的開放與共享，打破了以往主流意識(shí)形態(tài)的壟斷地位，使其面臨權(quán)威被消解的風(fēng)險(xiǎn)。人工智能時(shí)代，信息傳播內(nèi)容取決于智能算法推薦，由算法承擔(dān)構(gòu)建意識(shí)形態(tài)話語(yǔ)的職責(zé)，取代主流媒體，發(fā)揮引導(dǎo)輿論的職能，威脅主流意識(shí)形態(tài)的話語(yǔ)權(quán)威。

第四，意識(shí)形態(tài)沖突失控風(fēng)險(xiǎn)。隨著人工智能時(shí)代的來(lái)臨，云計(jì)算、物聯(lián)網(wǎng)、大數(shù)據(jù)等新興技術(shù)的綜合應(yīng)用，打破了傳統(tǒng)信息傳播模式的局限，能夠?qū)⒁庾R(shí)形態(tài)通過網(wǎng)絡(luò)傳遞給所有人，并精確捕獲個(gè)人信息。目前，我國(guó)人工智能的發(fā)展優(yōu)勢(shì)在于龐大的互聯(lián)網(wǎng)群體和海量的用戶數(shù)據(jù)，但核心技術(shù)與西方國(guó)家先進(jìn)技術(shù)仍有較大差距。

四、防范人工智能意識(shí)形態(tài)操控風(fēng)險(xiǎn)的策略

人工智能發(fā)展過程中，人工智能對(duì)意識(shí)形態(tài)的操控風(fēng)險(xiǎn)不可避免，必須認(rèn)真分析、理性思索，積極尋找有效的應(yīng)對(duì)策略。人與技術(shù)存在詮釋、具身、它異等關(guān)系，人工智能是以它者身份作為人類的伙伴而存在的，兩者之間實(shí)質(zhì)上就是一種它異關(guān)系。這就為防范人工智能對(duì)意識(shí)形態(tài)的操控風(fēng)險(xiǎn)提供了思路。筆者認(rèn)為，應(yīng)該從以下四個(gè)方面入手。

第一，加強(qiáng)算法治理和個(gè)人隱私保護(hù)。人工智能算法在意識(shí)形態(tài)領(lǐng)導(dǎo)權(quán)的掌控上極具隱秘性和便捷性，需要從倫理、技術(shù)及國(guó)家層面進(jìn)行綜合治理。一方面，政府應(yīng)進(jìn)一步完善個(gè)人信息保護(hù)相關(guān)法律法規(guī)，為規(guī)范良性算法設(shè)立相應(yīng)的法律條例。同時(shí)加大執(zhí)法力度和監(jiān)管力度，優(yōu)化算法治理體系，調(diào)整多元治理主體之間的良性關(guān)系，明確算法治理主體的法律責(zé)任。另一方面，針對(duì)人為利用人工智能操控意識(shí)形態(tài)的行為，可以建立高效、系統(tǒng)、科學(xué)的網(wǎng)絡(luò)輿情監(jiān)測(cè)系統(tǒng)。按照“技術(shù)反制技術(shù)”原則，運(yùn)用大數(shù)據(jù)挖掘技術(shù)和智能算法搜集、整理、分析和監(jiān)測(cè)網(wǎng)絡(luò)言論，加大對(duì)意識(shí)形態(tài)惡意操控者的監(jiān)督力度，及時(shí)制止或規(guī)避惡意誤導(dǎo)主流意識(shí)形態(tài)的行為。

第二，規(guī)范人工智能從業(yè)者的思想和行為。從本質(zhì)來(lái)看，人工智能對(duì)意識(shí)形態(tài)的操控就是人對(duì)人的操控，因此必須設(shè)立合理科學(xué)的人工智能倫理準(zhǔn)則，加強(qiáng)對(duì)人工智能工作者的行為監(jiān)管。道德判斷必須以理性道德原則及健全的論據(jù)為前提，規(guī)范性主張實(shí)質(zhì)上是通過理性話語(yǔ)表達(dá)的道德原則。根據(jù)該定義，人工智能倫理準(zhǔn)則必須以道德信念為基礎(chǔ)，以服務(wù)于人類為原則，以服務(wù)于國(guó)家利益為目的，而非傳遞異化意識(shí)形態(tài)的借口。電氣和電子工程師協(xié)會(huì)提出了三項(xiàng)人工智能倫理標(biāo)準(zhǔn)，即“道德化的人工智能和自動(dòng)系統(tǒng)的福祉衡量標(biāo)準(zhǔn)”“機(jī)器化系統(tǒng)、智能系統(tǒng)和自動(dòng)系統(tǒng)的倫理推動(dòng)標(biāo)準(zhǔn)”“自動(dòng)和半自動(dòng)系統(tǒng)的故障安全設(shè)計(jì)標(biāo)準(zhǔn)”。這些都是為了保護(hù)人類不受人工智能的威脅。

第三，修復(fù)技術(shù)漏洞與人為缺陷。借助人工智能技術(shù)裹挾轉(zhuǎn)移公眾意識(shí)形態(tài)的形式仍未改變斗爭(zhēng)的本質(zhì)，只是在形態(tài)上更加隱秘，在意識(shí)形態(tài)話語(yǔ)傳播上更加迅速、便捷。因此，必須充分運(yùn)用人工智能作為工具技術(shù)在社會(huì)治理、人才培養(yǎng)、社會(huì)發(fā)展上的優(yōu)勢(shì)。在最大化發(fā)揮其技術(shù)紅利的同時(shí)，保持正確的意識(shí)形態(tài)。人工智能無(wú)法完全擺脫資本、權(quán)力和技術(shù)的控制，且在一定條件下具有異化人的作用，需要高度警惕其導(dǎo)致的極端價(jià)值取向風(fēng)險(xiǎn)。此時(shí)，就需要借助技術(shù)力量及時(shí)檢測(cè)并修復(fù)技術(shù)漏洞，規(guī)避人工智能領(lǐng)域的人為缺陷。

五、結(jié)語(yǔ)

人工智能的發(fā)展在未來(lái)必將迎來(lái)更大變革，人工智能發(fā)展與人類意識(shí)形態(tài)問題交織必定會(huì)帶來(lái)人工智能技術(shù)操控意識(shí)形態(tài)的風(fēng)險(xiǎn)。必須正確認(rèn)識(shí)人工智能對(duì)意識(shí)形態(tài)工作的變革，掌握人工智能操控意識(shí)形態(tài)的原因及具體表現(xiàn)，研判該現(xiàn)象可能帶來(lái)的風(fēng)險(xiǎn)及相應(yīng)的風(fēng)險(xiǎn)防范策略，為避免意識(shí)形態(tài)沖突、促進(jìn)人與機(jī)器和諧共存提供思路。

參考文獻(xiàn)：

[1] 朱定局.人工智能的文藝夢(mèng)想和機(jī)器人的未來(lái)[J].華南師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2019（5）：183-188，192.

[2] 余乃忠.自我意識(shí)與對(duì)象意識(shí)：人工智能的類本質(zhì)[J].學(xué)術(shù)界，2017（9）：93-101.

[3] 馬克思恩格斯選集：第1卷[M].北京：人民出版社，2012：56.

[4] [美]劉易斯·芒福德.技術(shù)與文明[M].陳允明，王克仁，李華山，譯.李偉格，石光，校.北京：中國(guó)建筑工業(yè)出版社，2009：203.

[5] 石德金，劉蕊.新時(shí)代意識(shí)形態(tài)治理新格局：基于本土化治理理論的視角[J].學(xué)習(xí)與探索，2020（2）：52-60.

[6] [法]阿爾都塞.哲學(xué)與政治：阿爾都塞讀本[M].陳越，編譯.長(zhǎng)春：吉林人民出版社，2003：87.

[7] 弗洛里迪.第四次革命：人工智能如何重塑人類現(xiàn)實(shí)[M].王文革，譯.杭州：浙江人民出版社，2016：198.

作者簡(jiǎn)介：王玉婷（1981—），女，湖北武漢人，博士，副教授，研究方向：高校思想政治教育。

王凡（1998—），女，河南駐馬店人，碩士在讀，研究方向：思想政治教育。