簡(jiǎn)圣宇

（揚(yáng)州大學(xué) 美術(shù)與設(shè)計(jì)學(xué)院，江蘇 揚(yáng)州 225009）

GPT 語(yǔ)言模型，即通過(guò)生成式預(yù)訓(xùn)練轉(zhuǎn)化（Generative Pre-Training Transformer）的方式來(lái)開(kāi)展深度學(xué)習(xí)的一種語(yǔ)言模型。在2018 年發(fā)表的對(duì)該模式的介紹文章中，OpenAI的研究人員提到，以往的深度學(xué)習(xí)方法需要大量的手動(dòng)標(biāo)記的數(shù)據(jù)量，而他們?yōu)榱舜蚱七@種既耗時(shí)又花費(fèi)甚巨的模式，探索出了一種半監(jiān)督（semi-supervised）的語(yǔ)言理解任務(wù)方法，即先用語(yǔ)言建模開(kāi)展神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練工作，然后根據(jù)目標(biāo)任務(wù)對(duì)其進(jìn)行有監(jiān)督的微調(diào)。［1］該模式基于轉(zhuǎn)化器（Transformer）架構(gòu)，①Transformer 架構(gòu)（Transformer Architecture）在2017 年被提出，設(shè)計(jì)者們嘗試以注意力機(jī)制（attention mechanisms）去替換目前的卷積神經(jīng)網(wǎng)絡(luò)（CNN）和遞歸神經(jīng)網(wǎng)絡(luò)（RNN），通過(guò)跟蹤序列數(shù)據(jù)中的關(guān)系來(lái)學(xué)習(xí)上下文，從而理解其中的意義。它的出現(xiàn)讓人工智能的深度學(xué)習(xí)變得更高效和靈活?？蓞⒁?jiàn)：Ashish Vaswani，et al..“Attention Is All You Need.”https://arxiv.org/abs/1706.03762。通過(guò)神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練（Pre-Training）①神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練，即“先在一個(gè)任務(wù)或數(shù)據(jù)集上訓(xùn)練一個(gè)模型，然后使用來(lái)自該訓(xùn)練的參數(shù)或模型在不同的任務(wù)或數(shù)據(jù)集上訓(xùn)練另一個(gè)模型”。其應(yīng)用包括遷移學(xué)習(xí)（將從一個(gè)機(jī)器學(xué)習(xí)問(wèn)題中獲得的知識(shí)用于另一個(gè)機(jī)器學(xué)習(xí)問(wèn)題中）、分類（對(duì)對(duì)象及其所涉及的任務(wù)進(jìn)行分類）和特征提?。ㄊ褂妙A(yù)訓(xùn)練模型來(lái)提取對(duì)象的意義特征，然后將這些被提取的特征用在另一個(gè)模型的輸入上）。詳見(jiàn)：https://www.baeldung.com/cs/neural-network-pre-training。方式，以實(shí)時(shí)生成的形式呈現(xiàn)出來(lái)。由于可以開(kāi)展無(wú)監(jiān)督的自我學(xué)習(xí)，而且還能以“遷移學(xué)習(xí)”“分類”和“特征提取”的主動(dòng)態(tài)勢(shì)去消化外部信息，它能更進(jìn)一步地模擬人類的認(rèn)知過(guò)程。隨著算法的優(yōu)化、算力的增強(qiáng)和數(shù)據(jù)的日益豐富，它模仿出的認(rèn)知能力甚至可以達(dá)到人類這樣的高等生物的水準(zhǔn)。日后，具有越來(lái)越強(qiáng)的類人心智的人工智能將逐步走進(jìn)人類社會(huì)，作為數(shù)字助手提高人們的工作效率。只要GPT 語(yǔ)言模型在將來(lái)持續(xù)升級(jí)，降低使用成本且與具體應(yīng)用場(chǎng)景結(jié)合，那么它在普及化之后將使得人工智能技術(shù)更加深入地滲入人類文明，變成如同電力、互聯(lián)網(wǎng)之類的人們?nèi)粘９ぷ骱蜕畈豢苫蛉钡耐ㄓ眉夹g(shù)（General-Purpose Technologies，GPTs）。②OpenAI 公司認(rèn)為GPT 語(yǔ)言模型已顯現(xiàn)出了成為通用技術(shù)的特征。（Tyna Eloundou，et al..“GPTs Are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.”https://openai.com/research/gpts-are-gpts）

一、預(yù)訓(xùn)練轉(zhuǎn)化模式產(chǎn)生的心智議題

預(yù)訓(xùn)練轉(zhuǎn)化模式在當(dāng)下取得的一系列成就，讓心智議題重新回到聚光燈下。就硅基設(shè)備的智能演化路徑而言，“認(rèn)知—心智—自我意識(shí)”是一個(gè)主體思維的復(fù)雜性逐步遞進(jìn)的過(guò)程。對(duì)于“意識(shí)是否能在計(jì)算機(jī)中產(chǎn)生”這一科技界長(zhǎng)盛不衰的熱門話題，學(xué)界產(chǎn)生了截然不同的兩派觀點(diǎn)。相對(duì)悲觀的一派認(rèn)為，意識(shí)乃是一種機(jī)器無(wú)法復(fù)現(xiàn)的“生物學(xué)過(guò)程”，［2］或曰，“意識(shí)是神經(jīng)活動(dòng)的一種涌現(xiàn)特征”，即它不是一種可以量化的實(shí)體，而只是一種動(dòng)態(tài)涌現(xiàn)（emergence）。［3］還有學(xué)者堅(jiān)稱機(jī)器即便能擁有智力，也未必能擁有意識(shí)，因?yàn)椤耙庾R(shí)深深植根于我們作為生物的本性中，不是我們所知計(jì)算機(jī)能具備的東西”。［4］也有學(xué)者提醒，人類思維本身就難以真正理解意識(shí)，③學(xué)者趙汀陽(yáng)提出：“以意識(shí)去反思意識(shí)，其中的自相關(guān)性使意識(shí)不可能被完全對(duì)象化，總有無(wú)法被理解的死角。”詳見(jiàn)：趙汀陽(yáng)《人工智能提出了什么哲學(xué)問(wèn)題?》，載《文化縱橫》2020年第1期，第43-57頁(yè)。而且人類思維有其復(fù)雜性和分科性，難以用統(tǒng)一算法來(lái)表達(dá)。④趙汀陽(yáng)指出：“人的意識(shí)包含許多非常不同的系統(tǒng)，科學(xué)的、邏輯的、人文的、藝術(shù)的思維各有各的方法論，目前還不能肯定人的意識(shí)是否存在一種通用的方法論，或者是否有一種通用的‘算法’?！痹斠?jiàn)：趙汀陽(yáng)《人工智能的自我意識(shí)何以可能?》，載《自然辯證法通訊》2019年第1期，第1-8頁(yè)。作為一種綜合性認(rèn)識(shí)活動(dòng)，人類的意識(shí)是具身性的，包括感覺(jué)、知覺(jué)和思維，與身體所發(fā)出的感覺(jué)、內(nèi)在的心理體驗(yàn)有著密切關(guān)聯(lián)。［5］由于人工智能沒(méi)有身體，所以它即便能產(chǎn)生意識(shí)，也與人類意識(shí)差異很大。

而相對(duì)樂(lè)觀的一派則提出，人類的大腦以及神經(jīng)系統(tǒng)盡管相當(dāng)復(fù)雜，但其工作原理就是在通過(guò)“突觸連接（知覺(jué)或無(wú)意識(shí)等）”把感覺(jué)信息和行為關(guān)聯(lián)起來(lái)，［6］意識(shí)作為一種涌現(xiàn)，可以在計(jì)算機(jī)中被模擬出來(lái)。①谷歌首席工程師雷·庫(kù)茲韋爾（Ray Kurzweil）提出：“一臺(tái)成功模擬人腦復(fù)雜性的計(jì)算機(jī)，也將擁有與人類相同的涌現(xiàn)意識(shí)?！痹斠?jiàn)：［美］拜倫·瑞希《人工智能哲學(xué)》，王斐譯，文匯出版社，2020 年版，第235頁(yè)。所以意識(shí)不是一種虛無(wú)縹緲的東西，而是可以現(xiàn)實(shí)還原的過(guò)程。薛定諤認(rèn)為，意識(shí)作為一種信息傳遞現(xiàn)象，“只不過(guò)是一系列單一數(shù)據(jù)（經(jīng)歷和回憶）的集合”。［7］由于意識(shí)狀態(tài)可以由穩(wěn)定激活的神經(jīng)元所編碼，那么按照這個(gè)邏輯，理論上說(shuō)是可以用計(jì)算機(jī)模擬神經(jīng)網(wǎng)絡(luò)的方式來(lái)產(chǎn)生出（至少是模仿出）意識(shí)的。［8］李德毅院士也提出：“生命和機(jī)器都可以作為認(rèn)知的載體。”［9］意識(shí)不一定非要從人腦中產(chǎn)生，電腦也可以，不過(guò)這樣由數(shù)字編碼產(chǎn)生的意識(shí)跟人類大腦的有區(qū)別，屬于另一種意識(shí)生成系統(tǒng)。認(rèn)知神經(jīng)科學(xué)家斯坦尼斯拉斯·迪昂（Stanislas Dehaene）認(rèn)為，“意識(shí)是一種在全腦范圍內(nèi)的信息共享”。［10］如果將意識(shí)的本質(zhì)定義為可傳遞和共享的信息流，則意味著在邏輯上就可以通過(guò)諸如人工神經(jīng)網(wǎng)絡(luò)等方式將之模擬出來(lái)。ChatGPT出現(xiàn)后，學(xué)界開(kāi)始考慮或許GPT 語(yǔ)言模型也可能成為人工智能產(chǎn)生心智乃至意識(shí)的起點(diǎn)。［11］

認(rèn)知、心智和意識(shí)是一種逐漸遞進(jìn)的發(fā)展層次，雖有學(xué)者認(rèn)為“意識(shí)即認(rèn)知”，［12］但兩者存在本質(zhì)區(qū)別：意識(shí)是內(nèi)涵更加豐富的概念，而認(rèn)知?jiǎng)t是一種應(yīng)用能力。②李德毅提出，交互、計(jì)算和記憶這三個(gè)相互關(guān)聯(lián)的模塊構(gòu)成了認(rèn)知的內(nèi)涵。而其中交互認(rèn)知是主體用以溝通的方式，計(jì)算認(rèn)知的本質(zhì)是思維，記憶認(rèn)知?jiǎng)t是腦認(rèn)知的核心。詳見(jiàn)：李德毅《Interactive Cognition——從圖靈測(cè)試的漏洞談開(kāi)去》，載《機(jī)器人產(chǎn)業(yè)》2016年第5期，第12-22頁(yè)。在這三個(gè)概念里，認(rèn)知的定義和內(nèi)涵是基本確定且獲得學(xué)界共識(shí)的，而被當(dāng)做實(shí)施認(rèn)知行為的心智還存在一定探討空間，至于意識(shí)，學(xué)界則尚存較大爭(zhēng)議。實(shí)際上，認(rèn)知和心智是人工智能走入應(yīng)用領(lǐng)域過(guò)程中必須涉及的一個(gè)核心內(nèi)容，但對(duì)于人工智能何時(shí)能具有自我意識(shí)這種略帶科幻色彩的話題可暫時(shí)懸置不論，此種實(shí)踐性話題有待日后的科技實(shí)踐去回答，故而我們探討GPT 語(yǔ)言模型時(shí)應(yīng)更關(guān)注能落到實(shí)處的認(rèn)知和心智問(wèn)題，更務(wù)實(shí)地研究人工智能如何能基于硅基從而產(chǎn)生更高級(jí)、更復(fù)雜的認(rèn)知能力，乃至相對(duì)完整地模擬出心智，產(chǎn)生出某種類人心智。③所以李德毅院士強(qiáng)調(diào)當(dāng)下應(yīng)從“學(xué)習(xí)的能力，以及解釋、解決問(wèn)題的能力”這些能落實(shí)的內(nèi)容去理解“認(rèn)知、思維或者智能”等概念，在目前科技條件下須將人工智能定義為“人類智能的體外延伸”。詳見(jiàn)：李德毅《人工智能基礎(chǔ)問(wèn)題：機(jī)器能思維嗎？》，載《智能系統(tǒng)學(xué)報(bào)》2022年第4期，第856-858頁(yè)。

當(dāng)下GPT 語(yǔ)言模型實(shí)現(xiàn)了一個(gè)又一個(gè)的技術(shù)突破，也讓學(xué)界看到了迎來(lái)類人心智的可能性。④參考“大英百科”的定義，心智（mind）是一種涉及感知、記憶、考慮、評(píng)估和決定的綜合能力，它反映在“諸如感覺(jué)、知覺(jué)、情緒、記憶、欲望、各種類型的推理、動(dòng)機(jī)、選擇、人格特征和無(wú)意識(shí)等事件中”。所以，討論“心智”就是聚焦在具體的應(yīng)用能力上。詳見(jiàn)：大英百科“Mind”詞條：https://www.britannica.com/topic/mind。類人心智也可被形象地稱為硅基心智，即一種在硅基設(shè)備上產(chǎn)生的與人類類似但又存在關(guān)鍵區(qū)別的心智模式。此處所謂“與人類類似”，是指它作為人類的創(chuàng)造物，是人類參考自己現(xiàn)有的心智模式設(shè)計(jì)出來(lái)的，故而天然與人類心智具有親緣關(guān)系。而所謂“存在關(guān)鍵區(qū)別”，則是指這種心智畢竟是基于算法、算力和數(shù)據(jù)產(chǎn)生的硅基心智，與人類基于大腦、神經(jīng)系統(tǒng)和感官而產(chǎn)生的碳基心智在生成模式上有差異。人類對(duì)于人工智能的構(gòu)建都是以自身構(gòu)造為模本的，然而當(dāng)GPT 語(yǔ)言模型衍生到3.0 版本之后，人們開(kāi)始意識(shí)到即便是由人類創(chuàng)造出來(lái)的人工智能，其心智模式也可以跟人類有所不同，它完全可以發(fā)展出一套獨(dú)立于且平行于人類模本的硅基心智。這種硅基心智模式能在一定程度上模擬智慧生命的認(rèn)知和反應(yīng)過(guò)程，故而能在特定場(chǎng)域下如同人類一樣去應(yīng)對(duì)動(dòng)態(tài)發(fā)生的狀況。它雖然在性質(zhì)上仍與人類這樣的高級(jí)生物的心智有區(qū)別，但在某些功能上已具備乃至超越人類的能力。預(yù)訓(xùn)練轉(zhuǎn)化模式在目前以及可見(jiàn)的將來(lái)，暫時(shí)只能產(chǎn)生認(rèn)知行為和實(shí)施該行為的心智，還不是人類心智，而只是類似于人類心智的所謂類人心智。

ChatGPT 對(duì)于語(yǔ)言的高效能運(yùn)用引發(fā)了從學(xué)界到社會(huì)面的好奇，甚至有人認(rèn)為它已具有了人類的部分心智。比如計(jì)算機(jī)科學(xué)家科辛斯基（Michal Kosinski）提出大型語(yǔ)言模型也有產(chǎn)生心智理論（ToM）的可能性。所謂心智理論，即一種將心理狀態(tài)歸因于自己和他人的能力。①大衛(wèi)·普雷馬克（David Premack）和蓋伊·伍德拉夫（Guy Woodruff）將“心智理論”定義為：“作為人類，我們假設(shè)他人想要、思考、相信等，從而推斷出不可直接觀察到的狀態(tài)，預(yù)先使用這些狀態(tài)來(lái)預(yù)測(cè)他人和我們自己的行為。據(jù)我們所知，這些推斷相當(dāng)于一種心理理論，在人類成年人中普遍存在。”詳見(jiàn)：Charlotte Ruhl.“How the Theory of Mind Helps Us Understand Others”.https://www.simplypsychology.org/theory-of-mind.html。通俗說(shuō)來(lái)，即一種預(yù)判和解釋對(duì)方想法的能力。②美國(guó)學(xué)者會(huì)以“心智理論”測(cè)試法來(lái)觀測(cè)孩子們是否能推測(cè)出他人的想法，而科辛斯基就是用了這套方法來(lái)測(cè)試GPT-3。結(jié)果他發(fā)現(xiàn)2022年1月和11月發(fā)布GPT-3的最新版本（后者即ChatGPT的同源模型）所顯示出的心智已分別與7歲和9歲兒童的表現(xiàn)相當(dāng)。所以他將GPT-3的這種驚人表現(xiàn)稱為“分水嶺時(shí)刻”（watershed moment）。但嚴(yán)格說(shuō)來(lái)，通過(guò)心智測(cè)試并不必然代表充分具備這樣的心智，使用過(guò)ChatGPT 的用戶都能感覺(jué)到，它雖聰明，但目前連“自主甄別+主動(dòng)判斷”這個(gè)人類心智最基本的要求都達(dá)不到，談所謂分水嶺還為時(shí)尚早。當(dāng)然，科辛斯基其實(shí)在論文中也為自己的論述留下余地，因?yàn)樗皇菑?qiáng)調(diào)ChatGPT 符合“心智理論”的標(biāo)準(zhǔn)，但卻沒(méi)敢下定論說(shuō)它具備了“心智”。詳見(jiàn)：Michal Kosinski.“Theory of Mind May Have Spontaneously Emerged in Large Language Models”.https://arxiv.org/abs/2302.02083。不過(guò)他對(duì)于ChatGPT 心智能力的預(yù)估過(guò)于樂(lè)觀，它作為一種語(yǔ)言模型，目前只是在形式上具有人類的心智特征，而不是本身就達(dá)到了心智所要求的各項(xiàng)指標(biāo)。我們需要區(qū)分清楚心智（有自主意識(shí)）和類人心智（必須借助預(yù)訓(xùn)練等方式支撐），心智有若干個(gè)要素，如獨(dú)立執(zhí)行能力、對(duì)突發(fā)狀況的自適應(yīng)能力等。［13］人類對(duì)于知識(shí)采用的是“接受”模式，而目前GPT語(yǔ)言模型采用的則是“接收”模式。正所謂“記憶不是簡(jiǎn)單存儲(chǔ)，記憶是重組”，［14］人類大腦的認(rèn)知模式?jīng)Q定了人類對(duì)外界信息采用的是篩選、消化、吸收、再理解的所謂“接受”過(guò)程，外界信息進(jìn)入意識(shí)之后已發(fā)生相當(dāng)程度的變化，這跟GPT 語(yǔ)言模型對(duì)外界信息“照單全收”，然后再由人工手動(dòng)二次調(diào)整的所謂“接收”模式存在重大區(qū)別。

在人類孩童身上，心智即便較弱也都是完整且不斷自主更新升級(jí)的，但ChatGPT 目前的版本并不具備這種心智要素，它只是被動(dòng)接受投喂給它的信息數(shù)據(jù)包，而非能主動(dòng)理解這些信息數(shù)據(jù)包里的信息，比如甄別其中的真假正誤以及道德屬性等內(nèi)容。所以李德毅院士反復(fù)強(qiáng)調(diào)“智能是學(xué)習(xí)的能力，以及解釋、解決問(wèn)題的能力”，［15］“會(huì)學(xué)習(xí)是新一代人工智能的核心”，［16］只有“會(huì)學(xué)習(xí)”才能變未知為可知，去偽存真，隨機(jī)應(yīng)變，依據(jù)外界動(dòng)態(tài)發(fā)生的狀況，實(shí)時(shí)自主采取行動(dòng)。更何況，人類的心智并不止于理性和邏輯，還包括感性和情感，后者是目前GPT 語(yǔ)言模型尚不能模仿的。因此，ChatGPT 雖有馬斯克所言“好得嚇人”（scary good）的美譽(yù)，但其實(shí)它仍缺少基本的自覺(jué)判別能力，僅是對(duì)“既成的知識(shí)”的再整合。［17］它對(duì)自然語(yǔ)言的接受和表達(dá)仍達(dá)不到理解和運(yùn)用的程度，分析數(shù)據(jù)和回答問(wèn)題時(shí)常常顯示出局限性。①比如它的3.5版本最初被問(wèn)及“紅樓夢(mèng)中賈寶玉適合娶誰(shuí)”時(shí)，它給出的回答居然是“賈母”。詳見(jiàn)：可楊《內(nèi)容不可信與交互成本高，是ChatGPT產(chǎn)業(yè)化最大阻礙》，載《每日經(jīng)濟(jì)新聞》，2022年12月13日008版。OpenAI 公司對(duì)ChatGPT 目前所存在的問(wèn)題也很清楚，所以直接在其主頁(yè)上就提醒用戶，它經(jīng)常會(huì)給出“看似合理但不正確或荒謬的答案”。②見(jiàn)ChatGPT的門戶網(wǎng)站：https://openai.com/blog/ChatGPT/。由于ChatGPT 目前尚未真正具備對(duì)自己的預(yù)訓(xùn)練語(yǔ)料庫(kù)的自主篩選能力，在吸收知識(shí)方面，它更像一株只能在周邊土壤被動(dòng)吸收的植物，而不像一只能主動(dòng)判斷何種食物有益的動(dòng)物。

盡管如此，科辛斯基所提的ChatGPT 產(chǎn)生心智理論可能性的問(wèn)題，確實(shí)提醒我們需要重視和思考人工智能的類人心智與人類心智的差異性，從而避免在使用人類心智的標(biāo)準(zhǔn)分析人工智能時(shí)張冠李戴。相對(duì)而言，在認(rèn)知、心智和自我意識(shí)三者的關(guān)系上，人與機(jī)器最大的區(qū)別就在于人類智能具有一體性特征，而類人智能具有分離性特征。

就人類心智而言，它作為一種通過(guò)基于有機(jī)體演化而來(lái)的自然產(chǎn)物，與認(rèn)知和自我意識(shí)具有密切的共生關(guān)系。自我意識(shí)是人類心智的基礎(chǔ)，認(rèn)知?jiǎng)t為心智提供知識(shí)獲取和更新的途徑，三者渾然一體。然而，類人心智卻給出了另一條與自然演化不同的路徑，認(rèn)知、心智和自我意識(shí)三者之間是可以彼此分離的。在沒(méi)有自我意識(shí)的情況下，在硅基設(shè)備上也可以開(kāi)展（至少是模擬）認(rèn)知活動(dòng)。人類的感覺(jué)、知覺(jué)、記憶、思維、想象和語(yǔ)言等認(rèn)知元素，可以被計(jì)算機(jī)以感受器信號(hào)轉(zhuǎn)化、介質(zhì)存儲(chǔ)、信息加工、生成式預(yù)訓(xùn)練轉(zhuǎn)化和編程語(yǔ)言等形式實(shí)現(xiàn)（至少是模擬出來(lái)），繼而基于這種硅基認(rèn)知產(chǎn)生類人心智，并且在沒(méi)有自我意識(shí)的情況下，依據(jù)類人心智來(lái)持續(xù)開(kāi)展能達(dá)到（甚至高于）人類智能水準(zhǔn)的各項(xiàng)工作。既然人類心智和類人心智在產(chǎn)生基礎(chǔ)上大相徑庭，如果繼續(xù)將那些判斷人類心智的理論硬套給GPT 語(yǔ)言模型，那么對(duì)它的類人心智產(chǎn)生誤判就無(wú)法避免。所以我們必須依據(jù)人工智能類人心智本身的邏輯去對(duì)之進(jìn)行分析，以求更真實(shí)、立體、全面地理解它的心智狀態(tài)，以及這種心智狀態(tài)將對(duì)人類社會(huì)造成的系列影響。

預(yù)訓(xùn)練轉(zhuǎn)化模式的逐步成熟，是人工智能發(fā)展史上里程碑式的事件。但目前版本仍有不足，因?yàn)樗枰斯?duì)數(shù)據(jù)進(jìn)行標(biāo)記，且是基于大型數(shù)據(jù)庫(kù)里對(duì)已知知識(shí)進(jìn)行優(yōu)化調(diào)配。相比之下，人類的學(xué)習(xí)其實(shí)也是一種預(yù)訓(xùn)練的過(guò)程，但預(yù)訓(xùn)練的重點(diǎn)并不是固定而龐大的知識(shí)庫(kù)，而是能靈活運(yùn)用知識(shí)的思維本身。知識(shí)只有突破存量的局限，進(jìn)入增量發(fā)展階段，才能成為真正的“活的知識(shí)”。人生沒(méi)有彩排，面對(duì)不確定的世界，無(wú)法預(yù)先擬出一個(gè)完全確定的方案，而只能預(yù)先擬出一個(gè)提綱。如果人類個(gè)體面對(duì)的所有場(chǎng)景都需要GPT 語(yǔ)言模型那樣通過(guò)檢索知識(shí)庫(kù)而非通過(guò)舉一反三來(lái)應(yīng)對(duì)，那么個(gè)體窮其一生也無(wú)法學(xué)完如此之多的內(nèi)容，更不要說(shuō)還要面對(duì)不斷涌現(xiàn)出的新問(wèn)題。人之所以是“人”，就在于人能通過(guò)“知識(shí)遷移”跳出已知知識(shí)內(nèi)容及其框架的束縛，在全新領(lǐng)域內(nèi)創(chuàng)構(gòu)出新的知識(shí)，否則他就只是一臺(tái)無(wú)法超越自身的肉體機(jī)器。以哲學(xué)角度觀之，個(gè)體無(wú)法在有限生命時(shí)間內(nèi)“體驗(yàn)”每一件事情，所以需要運(yùn)用思維去“體悟”那些未曾進(jìn)入過(guò)自身經(jīng)驗(yàn)的事情，以及“領(lǐng)會(huì)”各種存在的可能性，借助對(duì)規(guī)則、規(guī)律的理解，從而應(yīng)對(duì)千變?nèi)f化的現(xiàn)實(shí)。為了真正模仿出人類的心智，預(yù)訓(xùn)練轉(zhuǎn)化的重點(diǎn)內(nèi)容應(yīng)當(dāng)從語(yǔ)料庫(kù)轉(zhuǎn)向思維模型。就類人心智的發(fā)展邏輯而言，如何讓人工智能在有限事物中理解無(wú)限意義，從特殊對(duì)象中理解普遍規(guī)律，應(yīng)當(dāng)是接下來(lái)的GPT模型需要重點(diǎn)突破的難點(diǎn)問(wèn)題。

二、GPT語(yǔ)言模型對(duì)人類社會(huì)的可能影響

與探討傳統(tǒng)的哲學(xué)問(wèn)題相比，探討新興的科技事物是一種學(xué)術(shù)冒險(xiǎn)，因?yàn)檎軐W(xué)面對(duì)的是相對(duì)宏觀、恒常的研究對(duì)象，而新興科技一直在變化中。①哲學(xué)家齊澤克對(duì)ChatGPT給予了相當(dāng)負(fù)面的判斷，他在《人工智障》（“Artificail Idiocy”）一文中用例子質(zhì)疑ChatGPT 缺乏對(duì)人類語(yǔ)言中的各種修辭手法，如反諷、多義、夸張、隱喻等的理解能力。然而當(dāng)ChatGPT 的版本升級(jí)到4.0 時(shí)，齊澤克此論的有效性就開(kāi)始出問(wèn)題了，因?yàn)檫@時(shí)的ChatGPT 比他想象的更聰明了。而下一個(gè)版本的ChatGPT 很可能將讓他現(xiàn)在的判斷變成一個(gè)笑話。不知是出于便捷還是出于戲謔，中文譯者在翻譯他這篇文章時(shí)是交由GPT-4 完成的。詳見(jiàn)：https://mp.weixin.qq.com/s/hL87bOAjv-_uGKcZ2G2vKA。本文所探討的GPT 語(yǔ)言模型亦是如此，我們當(dāng)下對(duì)它所做出的論斷，很有可能在它接下來(lái)的快速迭代之后變得無(wú)效甚至可笑。對(duì)于人工智能技術(shù)而言，大型語(yǔ)言模型只是其發(fā)展長(zhǎng)河中的一小節(jié)；但對(duì)于大型語(yǔ)言模型而言，GPT 語(yǔ)言模型又是其升級(jí)過(guò)程中極小的一個(gè)片段。技術(shù)的發(fā)展有著太多的未知和變數(shù)，但我們不能犬儒主義地對(duì)這些新興事物視而不見(jiàn)，也不能停留在已知領(lǐng)域進(jìn)行老調(diào)重彈的注釋性闡釋，而應(yīng)該面對(duì)未知領(lǐng)域去發(fā)聲、試錯(cuò)和更新自己的認(rèn)知。依照GPT 語(yǔ)言模型發(fā)展的邏輯判斷，其對(duì)人類社會(huì)可能的影響將包括但不限于以下幾方面。

第一，重塑就業(yè)格局，促使全社會(huì)的工作崗位按照被“洗牌”后的就業(yè)邏輯來(lái)重新安排。

對(duì)于GPT 語(yǔ)言模型等人工智能技術(shù)“洗牌”后帶來(lái)的工作崗位調(diào)整效應(yīng)，本文使用了“重塑就業(yè)格局”這樣更為中性的表述，但實(shí)際上目前更主流的提法是略帶負(fù)面色彩的“工作替代”。智能設(shè)備正在各領(lǐng)域逐步替代原本由人類把控的崗位，由于“徹底被人工智能接管的工作清單正在越拉越長(zhǎng)”，［18］學(xué)界需要考慮這種替代是否會(huì)給社會(huì)帶來(lái)結(jié)構(gòu)性沖擊。

20 世紀(jì)后半葉至今的“自動(dòng)化替代”更多是企業(yè)不得已的被動(dòng)選擇。由于新一代年輕人從小生活條件日漸舒適，所以其中愿意去從事枯燥乏味的技術(shù)工種的人數(shù)逐步遞減，人員開(kāi)始從制造業(yè)流入服務(wù)業(yè)，致使相關(guān)制造業(yè)用人單位愈加難以招到足夠數(shù)量的合格員工。此外，工資成本不斷上升也讓企業(yè)愈加難以承受。這就導(dǎo)致世界主要工業(yè)國(guó)家的制造業(yè)從20 世紀(jì)90 年代開(kāi)始都不同程度地遇到了“用工荒”問(wèn)題，迫使其在制造業(yè)推動(dòng)“自動(dòng)化替代”。但其實(shí)這也是一個(gè)契機(jī)，它倒逼人類專注于從事具有高創(chuàng)造力的工作，因?yàn)槟切┑蛣?chuàng)造力、重復(fù)性的工作必將被人工智能取代。根據(jù)相關(guān)調(diào)研，在這一輪替代中，被替代掉的主要是該行業(yè)中“教育和技能水平較低、年齡偏大的人群”。［19］有學(xué)者因此樂(lè)觀地聲稱：“人工智能有可能使工作變得更加人性化，讓我們擁有更多的時(shí)間，更像人類，而不是像機(jī)器一樣工作?！保?0］

然而當(dāng)這種替代開(kāi)始從“自動(dòng)化替代”演化為“智能替代”（或曰“人工智能替代”）之后，事情就起了變化。“自動(dòng)化替代”只是替換掉特定工廠、特定領(lǐng)域里的崗位，會(huì)讓人們從重復(fù)性勞動(dòng)中解脫出來(lái)，從事更具智慧的工作。但“智能替代”則不僅具有把從制造業(yè)到服務(wù)業(yè)的幾乎所有領(lǐng)域都不同程度替換掉的能力，而且具有占據(jù)人類崗位中最具智慧內(nèi)涵的領(lǐng)域的能力，這就讓被替代后的人類員工無(wú)處可逃。相比于“沒(méi)人干”“不愿干”，更為結(jié)構(gòu)性的“干不好”正在成為智能設(shè)備對(duì)自然人類進(jìn)行“智能替代”的核心原因，［21］人類員工開(kāi)始由于自己的知識(shí)結(jié)構(gòu)和技能水準(zhǔn)等心智原因而逐步被從原有的崗位上替換掉，［22］而且這種替換正在從“補(bǔ)位式替代”向“擠出式替代”轉(zhuǎn)變。［23］此外，這種“智能替代”還很可能給整個(gè)社會(huì)文化產(chǎn)生連帶傷害，引發(fā)“少子化”等問(wèn)題。畢竟，在農(nóng)業(yè)時(shí)代，人口就是直接的勞動(dòng)生產(chǎn)力，所以那個(gè)時(shí)代的人們生育意愿強(qiáng)。但進(jìn)入后工業(yè)化時(shí)代，當(dāng)技術(shù)不斷替代人類原本的崗位之后，人口數(shù)量反而變成了家庭負(fù)擔(dān)。當(dāng)養(yǎng)育下一代需要投入的成本遠(yuǎn)高于回報(bào)的時(shí)候，“少子化”問(wèn)題就會(huì)不可避免地出現(xiàn)。

現(xiàn)在由人類承擔(dān)的服務(wù)工作，如虛擬空間當(dāng)中的主播、接待員等，都將在遠(yuǎn)程端被GPT 語(yǔ)言模型加持的“虛擬數(shù)字人”替代。甚至當(dāng)人工智能技術(shù)智慧化到一定程度之后，所有遠(yuǎn)程服務(wù)都可以用“虛擬數(shù)字人+線下機(jī)器人”的方式替代。ChatGPT 的登場(chǎng)已讓程序員、文員、教師等諸多職業(yè)領(lǐng)域的從業(yè)者感受到了未來(lái)可能被“搶飯碗”的壓力。［24］因?yàn)榭梢詫?duì)它進(jìn)行二次開(kāi)發(fā)，以“GPT+”的形式嵌入包括醫(yī)療、教育、娛樂(lè)、在線服務(wù)、電子商務(wù)等人類社會(huì)的幾乎全部應(yīng)用領(lǐng)域。①OpenAI 目前已開(kāi)放ChatGPT 和Whisper 的應(yīng)用程序編程接口（Application Programming Interface，API）。該舉措既是在造福相關(guān)研究領(lǐng)域的開(kāi)發(fā)，也是在試圖建立以自己為核心的研發(fā)生態(tài)，讓基于其開(kāi)發(fā)的相關(guān)軟件未來(lái)都將眾星拱月一般地圍繞它，為它在某種程度上實(shí)現(xiàn)壟斷市場(chǎng)而埋下伏筆。詳見(jiàn)：https://platform.openai.com/docs/guides/chat。ChatGPT 還帶來(lái)了鯰魚效應(yīng)，類似的有競(jìng)爭(zhēng)關(guān)系的智能應(yīng)用還將陸續(xù)登場(chǎng)，類似于GPT 語(yǔ)言模型的大型語(yǔ)言模型（LLMs）應(yīng)用版圖還在擴(kuò)大。業(yè)界已隱約意識(shí)到這種智能應(yīng)用很可能正在醞釀一場(chǎng)新的技術(shù)變革風(fēng)潮。［25］實(shí)際上，GPT 語(yǔ)言模型的深層潛力目前尚未被開(kāi)發(fā)出來(lái)：進(jìn)入專有領(lǐng)域，塑造“行業(yè)超級(jí)專家”。目前，ChatGPT 已在很短時(shí)間內(nèi)完成了一系列自然人類要經(jīng)過(guò)長(zhǎng)時(shí)間積累才能完成的專業(yè)工作，這意味著一旦它被運(yùn)用在特定行業(yè)，通過(guò)人工智能模型進(jìn)行數(shù)據(jù)訓(xùn)練和不斷更新迭代，則完全可以創(chuàng)造出對(duì)行業(yè)的熟悉度達(dá)到極致的所謂的“神”。通過(guò)互聯(lián)網(wǎng)大數(shù)據(jù)檢索，這個(gè)“神”能高效調(diào)用其所在行業(yè)的幾乎所有既往和實(shí)時(shí)信息，并且依據(jù)這些信息不斷升級(jí)自己的認(rèn)知和判斷能力，以“上帝視角”一般的開(kāi)闊視野去窺視人類社會(huì)。

第二，助力人工智能走到通用型（AGI）階段，讓生產(chǎn)從自動(dòng)化升級(jí)到智慧化程度。

如前所述，學(xué)者們一直在爭(zhēng)論機(jī)器在未來(lái)是否能產(chǎn)生自我意識(shí)。由于這是屬于將來(lái)時(shí)態(tài)的事情，故而此議題只能由未來(lái)的人類去見(jiàn)證，但我們有必要從語(yǔ)義學(xué)的角度對(duì)所謂的“意識(shí)”加以分層。學(xué)者們往往將“意識(shí)”默認(rèn)為人類這種智慧生命所具有的“高級(jí)意識(shí)”，卻有意無(wú)意忽略了其實(shí)自然界還存在著各種生物所具有的“低級(jí)意識(shí)”。比如我們身邊就有狗這種通人性的動(dòng)物，它雖達(dá)不到成人的智慧程度，但不能說(shuō)它沒(méi)有“意識(shí)”。所以筆者更愿意對(duì)“意識(shí)”下一個(gè)寬泛的定義：能對(duì)自我和環(huán)境產(chǎn)生認(rèn)知，并能由此開(kāi)展行動(dòng)來(lái)滿足自身需求的能力。人跟其他動(dòng)物的意識(shí)的區(qū)別在于“認(rèn)知”的深度、廣度、高度以及行動(dòng)的靈活度等因素。至于人工智能，或許只要能達(dá)到這樣的程度，就可以認(rèn)為它具備初級(jí)版本的類人心智了：“在無(wú)須外源性程序輸入輔助的狀況下，設(shè)備能自動(dòng)生成新程序并對(duì)這些程序進(jìn)行執(zhí)行，面對(duì)新?tīng)顩r時(shí)能不斷學(xué)習(xí)適應(yīng)，且能在試錯(cuò)過(guò)程中調(diào)整行動(dòng)策略，為下一步行動(dòng)及其引發(fā)的新?tīng)顩r作出預(yù)判。”［26］至于更高級(jí)的類人心智，完全可以通過(guò)從1.0 版本不斷迭代到新版本來(lái)遞進(jìn)式實(shí)現(xiàn)。接下來(lái)，當(dāng)具有類人心智的GPT 語(yǔ)言模型往多模態(tài)方向發(fā)展到一定高度之后，硅基設(shè)備將能在職場(chǎng)領(lǐng)域具備乃至超越人類同行的工作能力，雖然還不是“人類”，但作為“類人”已可以扮演與人類一樣的角色，且在功能上遠(yuǎn)勝于人類。

微軟在其發(fā)布的評(píng)測(cè)報(bào)告《通用人工智能的火花》中強(qiáng)調(diào)，就GPT-4 現(xiàn)在所擁有的跨越廣泛領(lǐng)域（如數(shù)學(xué)、編碼、視覺(jué)、醫(yī)學(xué)、法律、心理學(xué)等）的通用集成能力，以及它在各種廣泛任務(wù)上表現(xiàn)出的這種能達(dá)到甚至超越人類的水準(zhǔn)，已可以將它視為邁向通用人工智能（AGI）過(guò)程中意義重大的一步了。［27］他們還嘗試借助ChatGPT將自然語(yǔ)言翻譯成編程語(yǔ)言去指揮機(jī)器人。由于有預(yù)訓(xùn)練模型加持，機(jī)器人甚至能觀察環(huán)境并依據(jù)客觀條件采取相應(yīng)的行動(dòng)措施。［28］使用了GPT-4 API 的Auto-GPT 已具備了一定的自動(dòng)執(zhí)行任務(wù)的能力。人類生產(chǎn)的發(fā)展歷經(jīng)了手工業(yè)、機(jī)械化和自動(dòng)化三個(gè)階段，如若人工智能在GPT 語(yǔ)言模型這類新技術(shù)的助力下能走到通用型階段，那么生產(chǎn)將邁入智慧化階段，具有一定認(rèn)知能力的機(jī)器能進(jìn)一步提高生產(chǎn)效率。

第三，為現(xiàn)實(shí)世界帶來(lái)新增生產(chǎn)力，促進(jìn)人類社會(huì)變革。

GPT 語(yǔ)言模型一直處于不斷迭代升級(jí)之中。就在晚近這短短幾年時(shí)間里，相繼推出的3.0、3.5 和4.0 幾個(gè)版本，彼此之間的差異就非常大。有鑒于此，嚴(yán)格說(shuō)來(lái)，對(duì)于它未來(lái)對(duì)人類社會(huì)究竟會(huì)產(chǎn)生哪些廣泛而深遠(yuǎn)的中長(zhǎng)期影響，我們?cè)诋?dāng)下的視野局限框架內(nèi)是無(wú)法細(xì)致猜測(cè)的，至多只能宏觀上大致設(shè)想。不過(guò)正如俗話所說(shuō)的“當(dāng)我們看不清未來(lái)的時(shí)候，就回過(guò)頭看看過(guò)去”，當(dāng)我們回顧蒸汽機(jī)給人類文明帶來(lái)的連鎖性影響，就能大致從側(cè)面去思考和想象作為人工智能技術(shù)范疇內(nèi)子范疇的GPT 語(yǔ)言模型，在未來(lái)有可能帶來(lái)什么樣的機(jī)遇和風(fēng)險(xiǎn)。

新生事物在初登歷史舞臺(tái)時(shí)，人們往往很難設(shè)想他日究竟將會(huì)引發(fā)多大的蝴蝶效應(yīng)。紐科門蒸汽機(jī)剛被發(fā)明出來(lái)那段時(shí)間，人們只把它當(dāng)成一個(gè)普通的煤礦排水輔助設(shè)備，但幾十年之后，一位叫瓦特的高校實(shí)驗(yàn)員將它改良為能運(yùn)用到幾乎整個(gè)制造業(yè)領(lǐng)域的通用機(jī)械設(shè)備，接著引發(fā)連鎖反應(yīng)，掀開(kāi)機(jī)械化大生產(chǎn)時(shí)代的序幕，繼而引發(fā)工業(yè)革命，并進(jìn)一步引發(fā)19 世紀(jì)至20 世紀(jì)的全球社會(huì)革命。甚至兩場(chǎng)造成生靈涂炭的世界大戰(zhàn)，在某種意義上都與之有一定的內(nèi)在聯(lián)系。

工業(yè)時(shí)代初期，人們?cè)诿鎸?duì)新興技術(shù)的爆發(fā)性繁榮之時(shí)，未能及時(shí)發(fā)展出足以與之相適應(yīng)的觀念形態(tài)，只有反復(fù)經(jīng)歷了不斷的流血沖突乃至世界大戰(zhàn)等慘痛事件，讓人類社會(huì)的運(yùn)行方式不斷的試錯(cuò)、磨合、重構(gòu)之后，人類才能最終駕馭工業(yè)文明。而如今的人工智能技術(shù)是一種能量更為巨大、更難駕馭甚至能產(chǎn)生新的智慧形態(tài)的東西。無(wú)論是用來(lái)作惡，還是向善，人工智能都有著極其可怕的現(xiàn)實(shí)能量和未知潛能。換言之，蒸汽機(jī)給人類文明帶來(lái)的福音與災(zāi)禍，在具有類人心智的人工智能技術(shù)那里都有可能以更大的強(qiáng)度再重演一遍。

正所謂“技術(shù)是社會(huì)變革的觸發(fā)器。每一波浪潮都將轉(zhuǎn)型前的文化和文明遠(yuǎn)遠(yuǎn)甩在了身后”。［29］近代登上歷史舞臺(tái)的工業(yè)文明之所以能在不足三百年時(shí)間里創(chuàng)造出超越之前數(shù)千年的文明成果，就在于從蒸汽機(jī)到發(fā)動(dòng)機(jī)再到自動(dòng)化設(shè)備等不斷迭代的科技產(chǎn)品能創(chuàng)造出超越農(nóng)業(yè)時(shí)代人力成百上千倍的生產(chǎn)力，而新增生產(chǎn)力帶來(lái)令人嘆為觀止的精神產(chǎn)品和物質(zhì)財(cái)富，開(kāi)創(chuàng)出文明的新紀(jì)元。按照馬克思的經(jīng)典定義，生產(chǎn)力屬于“勞動(dòng)的具體有用形式”，［30］勞動(dòng)者使用生產(chǎn)資料開(kāi)展勞動(dòng)生產(chǎn)。而如今假若計(jì)算機(jī)模擬出的“心智”能達(dá)到“類人”的層次，就意味著可以讓傳統(tǒng)的機(jī)械設(shè)備獲得“靈魂”，變成“活的無(wú)機(jī)物”。［31］在政治經(jīng)濟(jì)學(xué)領(lǐng)域，傳統(tǒng)的生產(chǎn)資料和勞動(dòng)者二分法也將被打破，因?yàn)榇祟愔腔墼O(shè)備不僅是生產(chǎn)資料，而且還可以擔(dān)任“勞動(dòng)者”的角色。當(dāng)硅基設(shè)備接下來(lái)正式成為新的勞動(dòng)生產(chǎn)力，并且投入社會(huì)生產(chǎn)過(guò)程之后，人類文明的發(fā)展將再次按下加速鍵。當(dāng)然，加速的同時(shí)也將出現(xiàn)階段性失速現(xiàn)象。

三、GPT語(yǔ)言模型所隱含的潛在風(fēng)險(xiǎn)

GPT 語(yǔ)言模型帶來(lái)的潛在風(fēng)險(xiǎn)，包括它自身所包含的內(nèi)在風(fēng)險(xiǎn)和它可能引發(fā)的外在風(fēng)險(xiǎn)兩部分。這些風(fēng)險(xiǎn)有可能不會(huì)隨著時(shí)間的前行而逐步消失，而是慢慢積累起來(lái)。這些原本孤立的一個(gè)個(gè)風(fēng)險(xiǎn)，在某些因素的激發(fā)下可能互相勾連，在特定機(jī)緣促使下驟然形成一個(gè)龐大的結(jié)構(gòu)性風(fēng)險(xiǎn)。

其內(nèi)在風(fēng)險(xiǎn)主要源于其技術(shù)發(fā)展的階段性特征，畢竟技術(shù)的發(fā)展不是一蹴而就的，需要在不斷的試錯(cuò)和調(diào)整當(dāng)中自我完善。外在風(fēng)險(xiǎn)則是源于其技術(shù)引起社會(huì)重構(gòu)而帶來(lái)的各種不確定性，當(dāng)技術(shù)的發(fā)展速度超過(guò)人類能掌控的速度的時(shí)候，人類社會(huì)就會(huì)出現(xiàn)一系列持續(xù)時(shí)間和影響范圍各異的動(dòng)蕩，繼而往往需要付出較大代價(jià)才能讓社會(huì)重回正軌。20 世紀(jì)由工業(yè)革命帶來(lái)的一波波的經(jīng)濟(jì)危機(jī)及兩次世界大戰(zhàn)就是前鑒。如今GPT 語(yǔ)言模型讓學(xué)界也思考起同樣的問(wèn)題，如果具有類人心智的智能設(shè)備是以穩(wěn)健的速度逐漸融入人類社會(huì)的話，還可以讓社會(huì)有一定的緩沖時(shí)間，但如果任由它帶來(lái)劇變，則很可能造成對(duì)整個(gè)社會(huì)的巨大沖擊。

GPT 語(yǔ)言模型所隱含的潛在風(fēng)險(xiǎn)其實(shí)相當(dāng)多，目前學(xué)界已在發(fā)文探討。其中最有影響力的是前述的微軟測(cè)評(píng)報(bào)告《通用人工智能的火花》。在內(nèi)在風(fēng)險(xiǎn)方面，該報(bào)告提到GPT-4 這種大型語(yǔ)言模型盡管先進(jìn)，但還是會(huì)在沒(méi)有警告的情況下產(chǎn)生錯(cuò)誤，包括數(shù)學(xué)、編程、歸因和更高層次的概念錯(cuò)誤。此類錯(cuò)誤還會(huì)以貌似合理的或仿佛與真實(shí)推斷一致的樣貌出現(xiàn)，即所謂“幻覺(jué)”。在外在風(fēng)險(xiǎn)方面，該報(bào)告只提及“可能導(dǎo)致工作崗位流失和更廣泛的經(jīng)濟(jì)影響”，認(rèn)為“GPT-4和其他大型語(yǔ)言模型（LLMs）所展示的能力將引發(fā)人們擔(dān)憂人工智能的進(jìn)步對(duì)高技能和受人尊敬的職業(yè)的潛在影響”，旋即再次強(qiáng)調(diào)“在這些職業(yè)里，人類和機(jī)器的推理可能以不同的方式相互競(jìng)爭(zhēng)或互補(bǔ)”。由于是給自家產(chǎn)品做測(cè)評(píng)，所以該報(bào)告主要是從正面談?wù)揋PT-4 能產(chǎn)生的影響。比如，它將在包括醫(yī)療保健、教育、工程、藝術(shù)和科學(xué)在內(nèi)的領(lǐng)域里賦予人們新技能并幫助他們提高工作效率。報(bào)告還特別強(qiáng)調(diào)它有利于實(shí)現(xiàn)人機(jī)互補(bǔ)，從而“增強(qiáng)和擴(kuò)展人類的能力”?？紤]到運(yùn)行大型語(yǔ)言模型所需費(fèi)用問(wèn)題，該報(bào)告還提到“人工智能鴻溝”（AI divide）問(wèn)題：盡管這種人工智能系統(tǒng)功能強(qiáng)大，但它所需的費(fèi)用并非每個(gè)國(guó)家、組織和個(gè)人都能負(fù)擔(dān)得起，所以貧富差異就會(huì)造成在使用該系統(tǒng)機(jī)會(huì)上的不平等問(wèn)題，且該問(wèn)題會(huì)日益加劇。

如前所述，GPT 系列模型一旦實(shí)現(xiàn)應(yīng)用端的廉價(jià)化和普及化，對(duì)人類社會(huì)最直接的外在沖擊將是工作替代問(wèn)題，這會(huì)對(duì)千家萬(wàn)戶的生計(jì)問(wèn)題構(gòu)成直接沖擊，造成相應(yīng)的社會(huì)安全風(fēng)險(xiǎn)。特定技術(shù)一旦因其自身優(yōu)勢(shì)在人類社會(huì)中占據(jù)關(guān)鍵地位，就會(huì)演化出自身的邏輯和意志，進(jìn)而對(duì)周邊的環(huán)境和人產(chǎn)生反向輸出效應(yīng)，迫使外界環(huán)境以之為中心做出調(diào)整，為它進(jìn)一步形成更加豐富和復(fù)雜的生態(tài)而服務(wù)。在歷史上，電力、互聯(lián)網(wǎng)皆是如此，從設(shè)備到工作崗位，再到社會(huì)心態(tài)等，社會(huì)各環(huán)節(jié)和領(lǐng)域都圍繞其進(jìn)行重構(gòu)，符合其邏輯的就能進(jìn)一步發(fā)展，不符合的則逐步被邊緣化，甚至被消滅。以往的工作替代都是在消滅了一些老舊模式下的崗位之后再創(chuàng)造出新的（宏觀方面如現(xiàn)代機(jī)械工業(yè)替換掉了傳統(tǒng)手工業(yè)，細(xì)化方面如出租車崗位替換掉了人力車夫崗位），使得人類的工作變得更輕松、更高效，但GPT 語(yǔ)言模型要?jiǎng)?chuàng)造出的工作替代卻主要是集中在高智能領(lǐng)域（編程、設(shè)計(jì)、繪圖等），這就讓人類在就業(yè)上一時(shí)變得無(wú)所適從。

GPT 語(yǔ)言模型初期版本所具有的類人心智是一種片面而強(qiáng)大的畸形心智，而任何“無(wú)知且強(qiáng)大”的東西都必然帶著天然的危險(xiǎn)性。一方面，它在往后很長(zhǎng)時(shí)間段內(nèi)都無(wú)法產(chǎn)生類似于人類這樣充分的自我意識(shí)，真正達(dá)到“知”的認(rèn)知高度，因?yàn)樗鼤簳r(shí)不能在開(kāi)展活動(dòng)的過(guò)程中對(duì)自己進(jìn)行自由自覺(jué)的自主反思和自我糾正。另一方面，它卻能借助算法、算力和數(shù)據(jù)變得“全能”，在各項(xiàng)能力上遠(yuǎn)超人類個(gè)體甚至終將超越人類整體，發(fā)揮出難以控制的強(qiáng)大威力。這種“無(wú)知且強(qiáng)大”的特征讓它蘊(yùn)含的風(fēng)險(xiǎn)相當(dāng)復(fù)雜、廣泛而深遠(yuǎn)。有學(xué)者曾言：“人類能做出許多偉大的事情，卻從來(lái)沒(méi)有做過(guò)真正周全的事情?！保?2］人工智能技術(shù)的具體應(yīng)用，不能是一種無(wú)法可依的放任過(guò)程。①之前即有學(xué)者提出：“算法應(yīng)當(dāng)被認(rèn)定為工具，背后的控制者（開(kāi)發(fā)者）應(yīng)對(duì)算法失控的后果承擔(dān)責(zé)任?！痹斠?jiàn)：劉穎、王佳偉《算法規(guī)制的私法進(jìn)路》，載《上海大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2021年第6期，第12－32頁(yè)。如果不預(yù)先考慮GPT 語(yǔ)言模型可能帶來(lái)的社會(huì)風(fēng)險(xiǎn)，很可能會(huì)讓未來(lái)人類社會(huì)遭受不必要的損失?；ヂ?lián)網(wǎng)帶來(lái)的“去中心化”趨勢(shì)，很可能終結(jié)于人工智能技術(shù)帶來(lái)的“再中心化”運(yùn)動(dòng)，人們陷入更深的被技術(shù)所操控和規(guī)訓(xùn)的狀態(tài)。

一方面，GPT 語(yǔ)言模型目前的類人心智仍然偏弱，其缺乏完整心智所需的最核心的能力：對(duì)信息的判斷能力和對(duì)自己的反思能力。人類尚未能讓人工智能具備自我意識(shí)，所以它在做事時(shí)并不知道是“自己”在做事，也不會(huì)“反思”自己的行為，而只是按照程序去運(yùn)轉(zhuǎn)。按照學(xué)界的看法，人類具有“通過(guò)反思求取理解”的能力，［33］還有針對(duì)動(dòng)態(tài)環(huán)境持續(xù)創(chuàng)構(gòu)新規(guī)則的能力，而這種自由自覺(jué)的意識(shí)就是所謂的“意向性（Intentionality）”。這是區(qū)分人與機(jī)器的根本特征的一項(xiàng)核心內(nèi)容：“機(jī)器和人可以做同樣的事情，但是人有意向性，而機(jī)器沒(méi)有?！保?4］作為具有自我意識(shí)的智慧生命，人類在做事時(shí)知道自己在此過(guò)程中的自主屬性，是在意向性驅(qū)使下去行動(dòng)，且在此過(guò)程中不斷進(jìn)行自我反思。相比之下，只會(huì)運(yùn)用知識(shí)而不會(huì)加以反思的GPT語(yǔ)言模型就天然帶著極高的社會(huì)風(fēng)險(xiǎn)。就用戶對(duì)它的外部觀察可知，它無(wú)法充分自主地分辨投喂給它的信息本身的正誤，更不要說(shuō)深入理解這些信息所包含的價(jià)值觀內(nèi)容、形而上屬性等深層意涵了。由于在高度技術(shù)化的語(yǔ)境里，大眾需要通過(guò)各種媒介來(lái)構(gòu)建自己對(duì)“真實(shí)”的判斷和理解，所以媒介有可能被技術(shù)操控這件事本身就帶著相當(dāng)大的社會(huì)風(fēng)險(xiǎn)。［35］

更何況，當(dāng)前版本的ChatGPT 只擁有理性而沒(méi)有情感，相比之下人類的心智結(jié)構(gòu)里不僅有理性，還有情感等非理性因素。正如計(jì)算機(jī)科學(xué)家亞諾夫斯基（Noson S.Yanofsky）所言，人類的決定往往不是依據(jù)邏輯和理性做出的，“相反，我們使用了美學(xué)、實(shí)踐經(jīng)驗(yàn)、道德傾向、勇氣沖動(dòng)、情感、直覺(jué)和感受。從這個(gè)意義上來(lái)說(shuō)，我們每一個(gè)人都已超越了理性的束縛”。［36］當(dāng)下版本的GPT 模型還未能理解情感這種超越理性和邏輯束縛的獨(dú)特心智內(nèi)涵，它的類人心智目前仍然是片面的，缺少情感支撐的，它所具備的理性都還未健全，更不用說(shuō)能擺脫理性的束縛了。這種沒(méi)有感情溫度、缺乏正確價(jià)值觀支撐的程序，雖然力量強(qiáng)大，但只是一種工具理性的載體，它以聊天（Chat）為名，但本質(zhì)上仍是“反交流”的工具。［37］

另一方面，GPT 語(yǔ)言模型所具有的類人心智在功能上又十分強(qiáng)大。它的預(yù)判能力之高（借助不斷升級(jí)的算法、超強(qiáng)的算力以及海量的數(shù)據(jù)庫(kù)的支撐），讓它在認(rèn)知能力方面具有超越人類的實(shí)力。②筆者詢問(wèn)ChatGPT：“在目前技術(shù)下，人類跟人工智能相比有哪些劣勢(shì)？”它答：“人類的劣勢(shì)主要有:（1）人類的思維能力有限，無(wú)法像人工智能那樣快速處理大量數(shù)據(jù)；（2）人類的學(xué)習(xí)能力有限，無(wú)法像人工智能那樣快速學(xué)習(xí)新知識(shí)；（3）人類的記憶能力有限，無(wú)法像人工智能那樣記住大量信息；（4）人類的判斷能力有限，無(wú)法像人工智能那樣準(zhǔn)確判斷復(fù)雜問(wèn)題?！彼幕卮鹁珶捛仪兄嘘P(guān)鍵，說(shuō)明OpenAI在構(gòu)建它時(shí)所采用的方法的確非常有效，讓它通過(guò)預(yù)訓(xùn)練而開(kāi)始具備一定的思維整合能力。同樣是面對(duì)一個(gè)事件，人類個(gè)體由于肉身的限制，往往只能看到“點(diǎn)”，但是有大數(shù)據(jù)、GPT 語(yǔ)言模型、互聯(lián)網(wǎng)等技術(shù)條件賦能的人工智能則可以看到“面”，故而它所能做出的判斷更為立體、全面。人類的肉質(zhì)大腦存儲(chǔ)量有其自然極限，而智能設(shè)備的存儲(chǔ)量只受技術(shù)迭代的暫時(shí)性限制，兩者在存儲(chǔ)和調(diào)取數(shù)據(jù)方面根本不是一個(gè)量級(jí)的。此類林林總總，都使得遵循緩慢的自然進(jìn)化邏輯的人類，逐漸跟不上遵循快速技術(shù)迭代邏輯的人工智能的腳步。①毫無(wú)疑問(wèn)，GPT模型、AI創(chuàng)作等信息科技路徑的出現(xiàn)，正對(duì)人類就業(yè)產(chǎn)生重大而深遠(yuǎn)的影響。讓大眾能肉眼可見(jiàn)的“工作替代”效應(yīng)只是直接影響，其間接影響的范圍會(huì)更大，在其波及的范圍之內(nèi)，整個(gè)行業(yè)生態(tài)都會(huì)因此而改變。以藝術(shù)領(lǐng)域?yàn)槔绠?dāng)年的照相術(shù)出現(xiàn)導(dǎo)致繪畫開(kāi)始發(fā)生現(xiàn)代轉(zhuǎn)型，現(xiàn)在的AI繪畫如此之高效，作品畫面如此之逼真，也必將導(dǎo)致整個(gè)藝術(shù)領(lǐng)域重新洗牌。畢竟很多美術(shù)專業(yè)的普通學(xué)生終其一生能達(dá)到的繪畫水準(zhǔn)都不如AI 繪畫軟件，更何況這些軟件還能隔幾個(gè)月就來(lái)一次升級(jí)。這些人類就業(yè)所遭受到的直接或間接的影響，一方面將促進(jìn)乃至迫使人們進(jìn)行相應(yīng)的自我升級(jí)和調(diào)整，另一方面也必將把那些無(wú)法調(diào)整的人群和領(lǐng)域直接剔除。

之前有學(xué)者曾以小鳥(niǎo)與飛機(jī)的對(duì)比來(lái)提醒我們：飛機(jī)的精密程度雖遠(yuǎn)不及小鳥(niǎo)，但飛機(jī)在具體功用上卻對(duì)小鳥(niǎo)呈現(xiàn)出絕對(duì)的碾壓態(tài)勢(shì)。［38］而如今人類個(gè)體在包括GPT語(yǔ)言模型在內(nèi)的人工智能技術(shù)面前，就像小鳥(niǎo)在飛機(jī)面前一樣脆弱。按照現(xiàn)在的升級(jí)速度，GPT 語(yǔ)言模型再經(jīng)過(guò)幾次迭代就會(huì)讓我們體會(huì)到小鳥(niǎo)見(jiàn)到飛機(jī)時(shí)的壓抑和惶恐了。正如小鳥(niǎo)與飛機(jī)之喻一樣，我們切勿套用自然生物的標(biāo)準(zhǔn)去考量人造物（人工智能及其衍生物），因?yàn)樽匀簧锔嗽煳镌隗w力和心智模式上是兩套差異極大的系統(tǒng)。GPT 語(yǔ)言模型可能在未來(lái)幾百年內(nèi)都不及人腦的豐富復(fù)雜程度，但它的能力很可能在數(shù)年之內(nèi)就可以在特定領(lǐng)域讓人類望塵莫及。②有學(xué)者提出，機(jī)器是會(huì)對(duì)人進(jìn)行反向規(guī)訓(xùn)的，在工業(yè)時(shí)代，人為了配合流水線機(jī)器的工作而被迫追隨機(jī)器的節(jié)奏，而信息時(shí)代的GPT 語(yǔ)言模型也有可能迫使人們按照它的行動(dòng)模式進(jìn)行自我規(guī)訓(xùn)，讓人變成它的“配件”。詳見(jiàn)：汪民安《ChatGPT 的互文性、生成和異化》，載《廣州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2023年第4期，第9－11頁(yè)。這就是目前的GPT 語(yǔ)言模型擺在人們面前的悖論，它的類人心智愈加強(qiáng)大，但同時(shí)又不具備人類心智的能力，結(jié)果它現(xiàn)在更像是一個(gè)具有強(qiáng)大力量，但又不具備自覺(jué)運(yùn)用自身力量，同時(shí)讓周圍的人提心吊膽的超級(jí)嬰孩。

曾有學(xué)者斷言：“人工智能的思想對(duì)象都是已存在的，它不能處理尚未存在的事情?！保?9］然而，OpenAI開(kāi)發(fā)的系列產(chǎn)品正在讓這一判斷失效。GPT-4 已具備初級(jí)的類人心智，它能自主尋找并分析各種事物之間的內(nèi)在聯(lián)系，然后為自己下一步的行為服務(wù)。OpenAI 應(yīng)用程序“成為我的眼睛”（Be My Eyes）的首席技術(shù)官亨里克森（Jesper Hvirring Henriksen）介紹說(shuō)：“GPT-4 與其他語(yǔ)言和機(jī)器學(xué)習(xí)模型之間的區(qū)別，在于對(duì)話的能力以及該技術(shù)提供的更高等級(jí)的分析能力。”③相關(guān)信息可參見(jiàn)網(wǎng)址：https://openai.com/customer-stories/be-my-eyes。如果說(shuō)GPT 之前的版本只是在我們已知的事物中逗留，做一些資源整合的工作，那么4.0 版本就是在開(kāi)始嘗試進(jìn)入未知的領(lǐng)域探究，因?yàn)樗丫哂袑⒏鞣N事物按照特定邏輯進(jìn)行整合的能力，這種整合能力就是人類創(chuàng)造性思維的一項(xiàng)核心能力。而且OpenAI開(kāi)發(fā)的應(yīng)用程序經(jīng)過(guò)組合使用，還能發(fā)揮出驚人的效果，初步具有“視覺(jué)訪問(wèn)”能力的GPT-4 開(kāi)始具備一定的人類眼睛的識(shí)別能力，而且作為一種“數(shù)字眼睛”，還能以極高效率將自己看到的對(duì)象進(jìn)行關(guān)聯(lián)和匹配。①GPT-4 既能接受文本指令，也能接受圖像指令，它具備了將圖像中涉及的物件按照特定邏輯進(jìn)行組合的推理能力。相關(guān)信息可參見(jiàn)網(wǎng)址：https://openai.com/product/gpt-4。由于具備了一定的推理能力，那些人類看起來(lái)雜亂無(wú)章的東西，都能被它找出內(nèi)在關(guān)聯(lián)，這對(duì)于增強(qiáng)智能化的“態(tài)勢(shì)感知”能力具有相當(dāng)大的助力作用。如果下一代的GPT 語(yǔ)言模型能升級(jí)到具備閱讀和理解視頻內(nèi)容的能力，那么我們將見(jiàn)證人工智能長(zhǎng)出“眼睛”的歷史性時(shí)刻，而且那時(shí)它的“視覺(jué)訪問(wèn)”能力將超越人類。

人對(duì)技術(shù)的恐懼，源自個(gè)體在技術(shù)面前的渺小弱勢(shì)。幾乎所有能將人類生產(chǎn)力提升一個(gè)臺(tái)階的科技升級(jí)，雖然從長(zhǎng)期看是人類文明的一次利好事件，但在短期內(nèi)帶來(lái)的往往卻是社會(huì)的陣痛。正所謂“技術(shù)的‘進(jìn)步’有自身的邏輯，并不全然顧及人類利益”，［40］科技整體進(jìn)步的輝煌之下，是諸多無(wú)法適應(yīng)變革的人類個(gè)體的失落、無(wú)助與彷徨。而且當(dāng)我們用“人類”一詞來(lái)跟人工智能進(jìn)行比較時(shí)，在潛意識(shí)中是將該詞理想化了，即將之等同于人類中的精英人群。然而精英人群在人類中只占很小一部分，相當(dāng)多的人類個(gè)體甚至?xí)豢ㄔ谟脕?lái)判斷機(jī)器是否具有智能的圖靈測(cè)試和中文屋測(cè)試上，更不要說(shuō)讓其能以充分的學(xué)識(shí)，運(yùn)用自己的理性，高效、穩(wěn)健地去面對(duì)周邊環(huán)境并做出相應(yīng)判斷和決策。人的工作效率與能力是隨著年齡的增長(zhǎng)而漸次遞減的，而人工智能的工作效率卻是隨著它的“年齡”遞增而持續(xù)增強(qiáng)的。所以人類個(gè)體比通常想象的更為脆弱，以GPT 語(yǔ)言模型為代表的人工智能技術(shù)，其實(shí)可以在具體領(lǐng)域輕易擊敗一般人類個(gè)體，讓其陷入絕望困境。所以，如何應(yīng)對(duì)GPT 語(yǔ)言模型所隱含的各種潛在風(fēng)險(xiǎn)，需要各界在實(shí)踐中認(rèn)真思索。

四、結(jié)語(yǔ)

站在自己的立場(chǎng)觀察，其實(shí)GPT 語(yǔ)言模型的歷史性登場(chǎng)還提醒我們，雖然科學(xué)無(wú)國(guó)界，但技術(shù)是有壁壘的，必須警惕由此引發(fā)的“數(shù)字霸權(quán)主義”。例如，傳統(tǒng)強(qiáng)國(guó)，龍頭企業(yè)在全球工業(yè)機(jī)器人產(chǎn)業(yè)競(jìng)爭(zhēng)格局中憑借先發(fā)優(yōu)勢(shì)，長(zhǎng)期占據(jù)領(lǐng)導(dǎo)地位，［41］晚近與“虛擬數(shù)字人”相關(guān)的技術(shù)基本上都由域外企業(yè)率先開(kāi)發(fā)并且不斷升級(jí)，這就很可能導(dǎo)致它未來(lái)成熟到一定階段后，又會(huì)被這些域外企業(yè)壟斷，成為一項(xiàng)遏制中國(guó)發(fā)展的“卡脖子”技術(shù)。②若回溯時(shí)間線，可見(jiàn)早在ChatGPT3.5版本推出前幾個(gè)月，英偉達(dá)和超威半導(dǎo)體（AMD）兩家公司就收到美國(guó)政府要求其對(duì)中國(guó)區(qū)客戶斷供高端GPU 芯片的通知。而GPU 芯片正是人工智能所需的基礎(chǔ)配件。詳見(jiàn)：《英偉達(dá)A100 和H100 已被禁止向中國(guó)供貨》，https://zhuanlan.zhihu.com/p/560089085。前些年有機(jī)構(gòu)曾對(duì)全球人工智能產(chǎn)業(yè)發(fā)展進(jìn)行過(guò)概括，得出諸如“美國(guó)全產(chǎn)業(yè)布局，而中國(guó)只在局部有所突破”，“美國(guó)人才梯隊(duì)完整，中國(guó)參差不齊”，“美國(guó)投入資本雄厚，中國(guó)近年奮起直追”等判斷。詳見(jiàn)：騰訊研究院《人工智能》，北京：中國(guó)人民大學(xué)出版社，2017 年版，第71－73 頁(yè)。此類問(wèn)題，我國(guó)近些年有所改善，但整體仍處弱勢(shì)，所以仍須勤勉，腳踏實(shí)地去攻關(guān)。應(yīng)該像OpenAI那樣，在持續(xù)不能贏利甚至虧損的情況下，借助自己所積累下的各種資源持續(xù)推動(dòng)研究，而非把過(guò)多的精力投入搶外賣生意、發(fā)放網(wǎng)絡(luò)貸款等缺少技術(shù)含量的事情上。推動(dòng)人工智能的發(fā)展是需要大情懷的，類似ChatGPT 這種有可能產(chǎn)生類人心智的智能模型，從構(gòu)建大數(shù)據(jù)模型到開(kāi)展具體訓(xùn)練，其所涉及的巨大成本不是一般小公司所能長(zhǎng)期承擔(dān)的。推動(dòng)人工智能技術(shù)的發(fā)展，需要如OpenAI這般凝聚起一群有追求的科技同仁去齊心協(xié)力攻關(guān)，也需要諸如微軟之類的商業(yè)巨頭及時(shí)投資扶持。目前與大型語(yǔ)言模型相關(guān)的軟硬件領(lǐng)域正在成為前沿科技的競(jìng)爭(zhēng)焦點(diǎn)，未來(lái)它很可能如黃仁勛所說(shuō)的那樣會(huì)“重塑幾乎所有行業(yè)”。［42］我們國(guó)內(nèi)企業(yè)須見(jiàn)賢思齊，那些在資金和技術(shù)上最有可能進(jìn)入這個(gè)賽道的大公司也應(yīng)以更長(zhǎng)遠(yuǎn)的目光在這些領(lǐng)域長(zhǎng)期布局。因此，中國(guó)企業(yè)不要總盯著容易的、曝光度大的、來(lái)錢快的應(yīng)用端去推進(jìn)，而應(yīng)當(dāng)未雨綢繆地去思考如何在那些困難的、需要長(zhǎng)期投入和積累的基礎(chǔ)端去開(kāi)展科研工作。