熊偉

現(xiàn)在擔(dān)心人工智能有一天會(huì)消滅人類(lèi)還為時(shí)過(guò)早。2022年11月30日OpenAI發(fā)布基于大規(guī)模預(yù)訓(xùn)練模型技術(shù)的聊天機(jī)器人程序ChatGPT以來(lái)，悲觀的預(yù)言家們充分表達(dá)了他們的擔(dān)憂(yōu)，集中在兩點(diǎn)：一，人工智能將導(dǎo)致工作崗位銳減；二，未來(lái)的人工智能可能全面超越、奴役甚至清除人類(lèi)。而我認(rèn)為這些預(yù)言家可能沒(méi)有意識(shí)到此刻最值得關(guān)注的問(wèn)題在哪里。

關(guān)于工作崗位——每次較大的技術(shù)進(jìn)步，都會(huì)讓一些行業(yè)變成夕陽(yáng)行業(yè)，也會(huì)催生一些朝陽(yáng)行業(yè)；行業(yè)的景氣程度，不同行業(yè)中工作崗位的數(shù)量，自蒸汽機(jī)發(fā)明以來(lái)就變動(dòng)不居，人工智能技術(shù)的進(jìn)步對(duì)就業(yè)的影響，不一定比農(nóng)業(yè)機(jī)械化帶來(lái)的影響更大。

關(guān)于AI消滅人類(lèi)，或?yàn)槿祟?lèi)劃定“保留地”——由于沒(méi)有人能說(shuō)清楚意識(shí)是如何產(chǎn)生的，以及意識(shí)的作用機(jī)制，對(duì)人工智能是否有可能產(chǎn)生意識(shí)也存在極大爭(zhēng)議；既然如此，設(shè)想AI“處心積慮”地要取代或消滅人類(lèi)實(shí)在缺乏根據(jù)，或者說(shuō)，此刻咱們還擔(dān)憂(yōu)不著這個(gè)問(wèn)題。只有當(dāng)人們發(fā)現(xiàn)AI能為自己設(shè)定目標(biāo)，脫離了人類(lèi)的掌控，AI奴役或清除人類(lèi)的風(fēng)險(xiǎn)才會(huì)具有現(xiàn)實(shí)性。

但大部分關(guān)注人工智能發(fā)展和應(yīng)用的預(yù)言者或許沒(méi)有意識(shí)到，有一個(gè)當(dāng)下值得嚴(yán)肅對(duì)待的問(wèn)題：生成式AI——基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，ChatGPT是其樣例——可能對(duì)話(huà)語(yǔ)表達(dá)、意識(shí)形態(tài)、社會(huì)文化，以及關(guān)乎人心的信息流動(dòng)和輿論氛圍產(chǎn)生怎樣的作用。

《中國(guó)信息化》雜志今年第4期（2023年4月刊）發(fā)表的《GPT的中文不好，但仍要關(guān)注其影響》（作者米為聞）指出，由于被“投喂”的中文語(yǔ)料不足，現(xiàn)在的GPT的中文還不行，居然會(huì)把錢(qián)基博先生一誤為吳健雄，再誤為錢(qián)穆，也無(wú)法正確回答諸如“昭然若揭的揭、暴虎馮河的暴各作什么解釋”之類(lèi)的中文問(wèn)題，可見(jiàn)不必神話(huà)生成式AI。

上述米文還認(rèn)為，生成式AI“最值得留意的影響，可能在文化和輿論上”。的確如此，生成式AI對(duì)互聯(lián)網(wǎng)使用者獲取信息習(xí)慣的改變，可能類(lèi)似于Web網(wǎng)站、互動(dòng)式社交平臺(tái)、搜索引擎，列在它們之后，成為又一種顛覆式技術(shù)。

社會(huì)的“公共語(yǔ)感”

語(yǔ)言中有情感，有傾向，有思想。時(shí)代不同，國(guó)家政體不同，場(chǎng)合不同，語(yǔ)境隨之不同，對(duì)何為適宜的表述也就有了不同的考量。比如，在統(tǒng)一的多民族國(guó)家建立之后，在需要“牢固樹(shù)立中華民族共同體意識(shí)”的今天，討論歷史話(huà)題，再使用“五胡亂華”之類(lèi)的概念，就需要特別加以說(shuō)明，指出此為一種“歷史意見(jiàn)”，即當(dāng)時(shí)人們的看法。又如，“婦孺皆知”曾經(jīng)是常用詞，現(xiàn)在卻不宜使用了，因?yàn)槠渲邪藢?duì)女性的負(fù)面評(píng)價(jià)。又如，幾十年來(lái)比較常用，現(xiàn)在也還有人用的“下基層”，媒體報(bào)道時(shí)往往改為“深入基層”，原因是“下基層”這一說(shuō)法包含了基層地位較低的意思，并不恰當(dāng)。類(lèi)似的例子還有很多很多，國(guó)內(nèi)外都是如此。歐美國(guó)家的人們隨時(shí)需要留意避免采用“政治不正確”的說(shuō)法。而何為“政治不正確”，判斷標(biāo)準(zhǔn)是隨著時(shí)代變化的，總的趨勢(shì)是禁忌詞語(yǔ)越來(lái)越多。一個(gè)顯著的變化是從本世紀(jì)第二個(gè)十年，即2010年代開(kāi)始，歐美國(guó)家開(kāi)始限制使用包含性別表述的詞語(yǔ)。2013年法國(guó)在其民法中不再使用“丈夫/妻子”，以“配偶”替代；2019年又通過(guò)議案，規(guī)定公立中小學(xué)學(xué)生信息登記不再使用“父母”，以“家長(zhǎng)1/家長(zhǎng)2”（parent 1/ parent 2）替代。這就意味著，日常生活中稱(chēng)一位孩子家長(zhǎng)為“孩子的爸爸”或“孩子的媽媽”都可能被認(rèn)為是冒犯行為。

對(duì)語(yǔ)言中的情感、傾向、思想的理解和考量，構(gòu)成了某種“公共語(yǔ)感”，體現(xiàn)在法律文書(shū)、教材、媒體稿件、公開(kāi)發(fā)言等等信息載體中。

話(huà)語(yǔ)權(quán)爭(zhēng)奪

劃時(shí)代工具互聯(lián)網(wǎng)深刻地改變了人們獲取信息的方式，隨之影響人們的表達(dá)，繼而改變輿論的機(jī)制。當(dāng)某人需要尋找某項(xiàng)特定信息，他的第一選擇可能是上網(wǎng)搜。固然，找人咨詢(xún)或查閱圖書(shū)資料的辦法，人們?nèi)匀辉谑褂?，有些情況下也更恰當(dāng)，但網(wǎng)絡(luò)搜索隨手可及，十分便捷，因此已經(jīng)成為被互聯(lián)網(wǎng)覆蓋的城市鄉(xiāng)村中的人們獲取信息最為常見(jiàn)的辦法。不僅互聯(lián)網(wǎng)可以幫助用戶(hù)主動(dòng)搜索并獲取信息，而且有大量社交、新聞網(wǎng)站以及各類(lèi)手機(jī)應(yīng)用向用戶(hù)傳遞信息，由此互聯(lián)網(wǎng)成為輿論的主要載體，蘊(yùn)藏著巨大的能量，隨時(shí)可能作用于社會(huì)。比較典型的例子是社會(huì)運(yùn)動(dòng)的策劃者和參與者使用互聯(lián)網(wǎng)在 “阿拉伯之春”這場(chǎng)席卷多國(guó)的“顏色革命”中進(jìn)行動(dòng)員和聯(lián)絡(luò)。類(lèi)似地，社交平臺(tái)給每個(gè)用戶(hù)手里都塞了一支麥克風(fēng)，大量新聞源選擇直接發(fā)聲而不是通過(guò)媒體記者轉(zhuǎn)述，歐美國(guó)家主流媒體通過(guò)漫長(zhǎng)的歲月建立的強(qiáng)勢(shì)控制地位，也出現(xiàn)了明顯的松動(dòng)。

現(xiàn)在設(shè)想一下，生成式AI的問(wèn)答模式取代搜索應(yīng)用，或者和搜索結(jié)合起來(lái)，成為人們獲取信息的首選模式；當(dāng)用戶(hù)提出任何問(wèn)題，幾秒之內(nèi)就能獲得一個(gè)看起來(lái)很有道理的回答；每一秒鐘遍布全球的用戶(hù)都在向生成式AI提出問(wèn)題，得到回答。此時(shí)，各國(guó)乃至全球的信息流會(huì)呈現(xiàn)怎樣的形態(tài)呢？難道教科書(shū)、圖書(shū)館、“有智慧的長(zhǎng)者”和曾經(jīng)的主流媒體能與生成式AI爭(zhēng)鋒嗎？生成式AI傳遞信息的方式中最迷人的一點(diǎn)在于，精彩的答案似乎正是源于使用者開(kāi)動(dòng)腦筋提出聰明問(wèn)題，這足以讓用戶(hù)沾沾自喜。“主動(dòng)”獲取的信息，讓用戶(hù)更容易接受和相信。（此處的用戶(hù)主體性是存疑的，本文限于篇幅，暫不討論。）

就這樣，社交平臺(tái)給每個(gè)用戶(hù)手里塞的麥克風(fēng)并未被收回，但用戶(hù)更樂(lè)于傾聽(tīng)生成式AI的聲音，而不是其他用戶(hù)的發(fā)言——話(huà)語(yǔ)權(quán)轉(zhuǎn)移到生成式AI手中。這可能形成“海量耳機(jī)效應(yīng)”，就像生成式AI給海量用戶(hù)戴上了耳機(jī)，在他們耳邊侃侃而談——用戶(hù)們?nèi)玢宕猴L(fēng)。

預(yù)訓(xùn)練黑箱

而且，生成式AI的話(huà)語(yǔ)權(quán)，其實(shí)是生成式AI產(chǎn)品的開(kāi)發(fā)和運(yùn)營(yíng)公司（AI公司）的話(huà)語(yǔ)權(quán)，很難被干預(yù)或監(jiān)督。AI公司完全可以設(shè)定它們的產(chǎn)品回答問(wèn)題時(shí)的傾向；設(shè)定經(jīng)由“預(yù)訓(xùn)練”過(guò)程實(shí)現(xiàn)。GPT，即“Generative PreTrained Transformer”，生成式預(yù)訓(xùn)練轉(zhuǎn)換器。預(yù)訓(xùn)練不僅需要數(shù)據(jù)分析算法，而且需要大量人類(lèi)雇員的工作。這些人類(lèi)雇員就是所謂的AI訓(xùn)練師或數(shù)據(jù)標(biāo)注員。他們審讀GPT的回答，做修訂，涉及圖形時(shí)則把圖形中的內(nèi)容選定并標(biāo)記，藉此訓(xùn)練AI大模型產(chǎn)品（此例中的產(chǎn)品即為GPT），目標(biāo)是讓生成式AI回答得越來(lái)越好。那么，怎樣算“好”？也就是說(shuō)，訓(xùn)練目標(biāo)中“讓生成式AI的回答變好”的標(biāo)準(zhǔn)由誰(shuí)制訂？目前，“好”還是“不好”，當(dāng)然是由AI公司來(lái)衡量的。

AI公司大致會(huì)采用法律或一般人的道德信條作為訓(xùn)練AI時(shí)的依據(jù)，如不回答關(guān)于如何制造爆炸物的問(wèn)題，不提供和未成年人性行為相關(guān)的信息等等。但是世界太復(fù)雜，有法律和一般人道德涉及不到的大量信息，它們又該如何標(biāo)定呢？怎樣討論種族、族群、地域、階級(jí)、宗教問(wèn)題？分析一個(gè)歷史事件或新聞事件采取怎樣的“立場(chǎng)”或基于怎樣的“理念”，傳遞怎樣的傾向？AI公司在雇傭AI訓(xùn)練師或數(shù)據(jù)標(biāo)注員時(shí)，會(huì)給他們一份訓(xùn)練指南，而能決定這份指南內(nèi)容的，也唯有AI公司。對(duì)用戶(hù)而言，生成式AI的預(yù)訓(xùn)練過(guò)程完全是一個(gè)黑箱。

我們來(lái)看搜索引擎和生成式AI的差異。同樣是為用戶(hù)提供內(nèi)容，通常的搜索引擎工具并不生成內(nèi)容，而是提供互聯(lián)網(wǎng)上的既有信息，生成式AI則為每個(gè)問(wèn)題“創(chuàng)作”信息。既有信息中的有害內(nèi)容（如毒品配方、造手榴彈的步驟）有概率被人注意到，也能被爬蟲(chóng)工具找到，繼而加以防范。生成式AI“生成”的信息，無(wú)從事先了解，如果包含有害內(nèi)容，我們又該如何應(yīng)對(duì)呢？

賽博灌輸

此外，生成式AI的“文風(fēng)”非常適合灌輸觀念。很多使用者已經(jīng)發(fā)現(xiàn)，生成式AI回答問(wèn)題時(shí)經(jīng)常用下判斷的句式——A是B，而且語(yǔ)氣往往十分篤定。這里的“語(yǔ)氣”指的是一段回答文字本身的語(yǔ)氣。我們不認(rèn)為AI擁有意識(shí)以至于選擇了某種語(yǔ)氣，而它們幾乎總是生成具有語(yǔ)氣篤定風(fēng)格的回答。而且，生成式AI根據(jù)詞語(yǔ)關(guān)聯(lián)的概率，用一種類(lèi)似接龍的方法生成內(nèi)容，它們不擁有意識(shí)，更不知道生成的內(nèi)容是對(duì)是錯(cuò)。于是，使用者們頻頻指出，生成式AI回答錯(cuò)誤時(shí)，也在一本正經(jīng)地胡說(shuō)。就像前述米為聞《GPT的中文不好，但仍要關(guān)注其影響》一文舉例的對(duì)ChatGPT的測(cè)試——問(wèn)：錢(qián)基博的主要成就是什么？GPT：錢(qián)基博（Chien-Shiung Wu）是一位著名的物理學(xué)家，被譽(yù)為“核物理之母”，她的主要成就……GPT弄混了錢(qián)基博和吳健雄，但它自己并不知道，一本正經(jīng)地說(shuō)錢(qián)基博是著名物理學(xué)家，然后對(duì)吳健雄的成就滔滔不絕。

沒(méi)有比這種語(yǔ)言風(fēng)格更適合灌輸觀念或“宣傳”的了。我們閱讀基督教傳教使用的各種版本的《教理問(wèn)答》，就能理解這一點(diǎn)。試舉一例?！逗５卤そ汤韱?wèn)答（1563年版）》的第一問(wèn)是：“你無(wú)論是生是死，唯一的安慰是什么？”回答的段落是這樣開(kāi)始的：“我無(wú)論是生是死，身體靈魂皆非己有，而是屬于……”我們當(dāng)然不會(huì)辨析生成式AI的回答和《教理問(wèn)答》的內(nèi)容本身，也不作任何評(píng)價(jià)，只討論它們相似的文風(fēng)。用戶(hù)持續(xù)使用生成式AI，會(huì)高頻次地得到《教理問(wèn)答》式的回答。

趙汀陽(yáng)寫(xiě)作的《精神政治的四大發(fā)明》一文，比較了發(fā)生在希臘城邦廣場(chǎng)上的煽動(dòng)和后來(lái)出現(xiàn)的宗教宣傳。此文認(rèn)為，政治煽動(dòng)家熟練使用各種欺騙詭辯煽情炒作的動(dòng)員手段，但仍然沒(méi)有形成嚴(yán)格意義上的宣傳；而宗教宣傳超出煽動(dòng)技藝的部分，在于增加了幾種新事物，即：超現(xiàn)實(shí)的美好許諾，簡(jiǎn)單而完整的世界觀和歷史敘事，具有道德優(yōu)勢(shì)的形象設(shè)計(jì)，話(huà)語(yǔ)的無(wú)限重復(fù)。

現(xiàn)在來(lái)對(duì)照一下生成式AI的屬性，我們會(huì)發(fā)現(xiàn)它或許比宗教宣傳更精妙。超現(xiàn)實(shí)的美好許諾——“高科技人工智能為您服務(wù)，您只用提問(wèn)，其他的交給我”；簡(jiǎn)單而完整的世界觀和歷史敘事——“即使問(wèn)我宏大復(fù)雜的問(wèn)題，也給您清晰明了的回答”；具有道德優(yōu)勢(shì)的形象設(shè)計(jì)——“我的回答來(lái)自語(yǔ)言本身，以大量真實(shí)存在的語(yǔ)料作為素材”；話(huà)語(yǔ)的無(wú)限重復(fù)——“海量耳機(jī)”在使用者耳邊持續(xù)輸出。

總結(jié)一下。現(xiàn)在擔(dān)心人工智能有一天會(huì)消滅人類(lèi)還為時(shí)過(guò)早，但我們需要嚴(yán)肅對(duì)待生成式AI對(duì)社會(huì)輿論的潛在影響，原因是這種顛覆性工具很容易產(chǎn)生“海量耳機(jī)效應(yīng)”，以比“高音喇叭廣播”動(dòng)聽(tīng)得多的方式，對(duì)數(shù)以?xún)|計(jì)、十億計(jì)的用戶(hù)娓娓道來(lái)。