摘要：讓人工智能機(jī)器具有人類心靈并實(shí)現(xiàn)人類心靈的類似功能，一直是人工智能追求的重要科學(xué)技術(shù)目標(biāo)之一。ChatGPT的橫空出世給這一目標(biāo)似乎帶來了新的希望?？菩了够ㄟ^計(jì)算心理學(xué)實(shí)驗(yàn)跟蹤研究驚人地“發(fā)現(xiàn)”，ChatGPT-3.5就已經(jīng)具有相當(dāng)于9歲兒童的心靈狀態(tài)和能力，并認(rèn)為ChatGPT是對(duì)“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一基本觀點(diǎn)的最新證明。然而，細(xì)致反思科辛斯基ChatGPT實(shí)驗(yàn)的結(jié)構(gòu)、方法等，科辛斯基ChatGPT實(shí)驗(yàn)既不能證明ChatGPT已經(jīng)擁有人類心靈，也不能將其視為“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一哲學(xué)認(rèn)識(shí)的最新證明。不過，科辛斯基ChatGPT實(shí)驗(yàn)的“驚人發(fā)現(xiàn)”的確啟示人工智能研究需要在自然語言處理、感受性質(zhì)等關(guān)鍵問題上，強(qiáng)化人工智能科學(xué)技術(shù)與哲學(xué)的協(xié)同研究，強(qiáng)化人類心靈與人工心靈的雙向互釋。

關(guān)鍵詞：科辛斯基；ChatGPT；人工智能；心靈

基金項(xiàng)目：國家社會(huì)科學(xué)基金重大項(xiàng)目“大數(shù)據(jù)驅(qū)動(dòng)地方治理現(xiàn)代化綜合研究”（19ZDA113）；華中科技大學(xué)文科雙一流建設(shè)項(xiàng)目“大數(shù)據(jù)驅(qū)動(dòng)地方綠色治理的經(jīng)驗(yàn)研究”（GJZL23ZD06）

中圖分類號(hào)：B016.98；B84 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1003-854X（2024）07-0099-07

讓人工智能具有人類心靈（mind）的相應(yīng)能力，并讓人工智能能夠像人一樣產(chǎn)生智能行為，一直是當(dāng)代人工智能的重要努力目標(biāo)，這種努力目標(biāo)不是指向弱人工智能，而是指向強(qiáng)人工智能。對(duì)于弱人工智能而言，它的主要目標(biāo)在于功能增強(qiáng)；對(duì)于強(qiáng)人工智能而言，它的主要目標(biāo)則在于創(chuàng)造人工心靈，使之像人一樣思維。雖然就目前來看，實(shí)現(xiàn)強(qiáng)人工智能的希望渺茫，甚至受到許多學(xué)者的批判，但實(shí)現(xiàn)強(qiáng)人工智能依然一直是許多人工智能專家孜孜以求的發(fā)展目標(biāo)。就在2023年，ChatGPT（Chat Generative Pre-trained Transformer）的出現(xiàn)，尤其是斯坦福大學(xué)人工智能專家科辛斯基（M.Kosinski）針對(duì)ChatGPT的計(jì)算心理學(xué)實(shí)驗(yàn)，似乎讓我們離強(qiáng)人工智能這一努力目標(biāo)又近了一些?？菩了够鶕?jù)自己的ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)跟蹤研究“發(fā)現(xiàn)”，最新的ChatGPT已經(jīng)能夠解決人類心靈在面對(duì)錯(cuò)誤信念指引時(shí)93%的任務(wù)，這與9歲兒童的智能行為表現(xiàn)相當(dāng)。（1）科辛斯基的這一驚人“發(fā)現(xiàn)”似乎表明， ChatGPT已經(jīng)十分接近于擁有人類成年人的心靈，且這種心靈是伴隨語言技能的提升而自發(fā)生成的。但在筆者看來，即使ChatGPT已經(jīng)表現(xiàn)出與人類心靈十分相似的智能行為，也不能表明ChatGPT已經(jīng)擁有人類心靈，不能將其視為“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一基本觀點(diǎn)的最新證明。科辛斯基ChatGPT實(shí)驗(yàn)倒是提醒我們，強(qiáng)人工智能的實(shí)現(xiàn)亟需哲學(xué)家與科學(xué)家在自然語言理解、人類心靈的感受性質(zhì)、人工智能的基礎(chǔ)哲學(xué)假設(shè)等方面開展更加具有創(chuàng)新性的協(xié)同研究。

一、ChatGPT是否擁有人類心靈

在現(xiàn)有的人類認(rèn)知中，絕大部分人都認(rèn)為人是有心理活動(dòng)的，正是因?yàn)槿司哂羞@種心理活動(dòng)而驅(qū)動(dòng)著人們表現(xiàn)出不同的智能行為。關(guān)于這種心理活動(dòng)的根本動(dòng)因，唯物主義者將其歸為身體等物質(zhì)運(yùn)動(dòng)的結(jié)果，而有的研究者將其歸為獨(dú)立于身體的心靈的作用等等。不管哪種觀點(diǎn)，都在一定程度上承認(rèn)人之所以能表現(xiàn)出智能行為，是因?yàn)槿藫碛行撵`及其心理活動(dòng)。因此，當(dāng)代人工智能一直把讓機(jī)器擁有心靈當(dāng)作最為重要的努力目標(biāo)。在這種人工智能的發(fā)展目標(biāo)指引下，有兩種基本路徑試圖讓人工智能機(jī)器擁有心靈。其一是強(qiáng)調(diào)心靈的絕對(duì)獨(dú)立性，因此認(rèn)為讓人工智能機(jī)器具有心靈的功能，就必須首先弄清楚心靈的結(jié)構(gòu)、功能等等，然后將其模擬或者“移植”到人工智能機(jī)器中。其二是強(qiáng)調(diào)心靈的隨附生成性，即認(rèn)為心靈是某種物理過程自發(fā)生成的副產(chǎn)品。如果要讓人工智能機(jī)器具有心靈，只需要設(shè)置好心靈的進(jìn)化場(chǎng)，人工智能機(jī)器就能像人在自然界中的學(xué)習(xí)過程一樣自然進(jìn)化到人擁有心靈的狀態(tài)。斯摩倫斯基（P.Smolensky）就認(rèn)為，機(jī)器的推理過程并不是激活符號(hào)產(chǎn)生的過程，而是狀態(tài)在動(dòng)態(tài)系統(tǒng)中的量的變化過程。在這一過程中，語言的處理不是執(zhí)行符號(hào)的算法，而是動(dòng)力系統(tǒng)的連續(xù)進(jìn)化。（2）在已有人工智能研究中，試圖“移植”人類心靈的研究路徑依賴于神經(jīng)科學(xué)、生理學(xué)等多學(xué)科對(duì)意識(shí)、情感、語言表達(dá)等方面的科學(xué)研究，進(jìn)展相對(duì)緩慢。將人類心靈理解為一種進(jìn)化過程，生成人工心靈的研究路徑便成為最近這些年人工智能領(lǐng)域中一種新的探索方向。人工智能專家斯洛曼（A. Sloman）就認(rèn)為，人工智能就是要設(shè)計(jì)出普遍使用的較高層次的生成器和比較器，進(jìn)而使之產(chǎn)生如人一樣的思維過程和智能行為。（3）科辛斯基所開展的計(jì)算心理學(xué)實(shí)驗(yàn)，則是試圖通過ChatGPT與人類行為表現(xiàn)的對(duì)比研究，考察人工智能可能的心理狀態(tài)和能力及其發(fā)展方向，進(jìn)而反觀如何實(shí)現(xiàn)生成式人工智能的“心靈”進(jìn)化。在這些對(duì)比試驗(yàn)中，科辛斯基得出了一些驚人的科學(xué)發(fā)現(xiàn)，這為我們科學(xué)理解ChatGPT的哲學(xué)意蘊(yùn)，以及理解人類心靈和生成式人工智能、人工心靈等前沿焦點(diǎn)問題提供了重要的科學(xué)基礎(chǔ)。

科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)的第一個(gè)驚人發(fā)現(xiàn)是， ChatGPT已經(jīng)擁有類似人類心靈的人工心靈，其理由是人工智能程序ChatPGPT-3.5已經(jīng)能夠預(yù)測(cè)主體的行為將會(huì)遵循它錯(cuò)誤的信念，并自發(fā)地補(bǔ)充說它將無法完成既定任務(wù)。（4）科辛斯基之所以這樣認(rèn)為，的確有一定的思想淵源。羅素（B.Russell）就曾在《人類的知識(shí)》中認(rèn)為，作為表達(dá)人心理或者精神現(xiàn)象的信念是行為的動(dòng)力和基本原則。羅素說，“按照我對(duì)這個(gè)名詞的理解，信念是身體或者心理上或者兩方面兼有的一定狀態(tài)。”（5）如果信念加上一定的外在條件，那么這個(gè)主體就將產(chǎn)生行動(dòng)，而這種行動(dòng)可以讓一個(gè)外面的觀察者看出某人相信的東西是什么。（6）普特南（H.Putnam）則把人的信念分為“加括號(hào)的信念”和“直接的信念”。前者指的是一種不受思想對(duì)象所限制的純粹的心理狀態(tài)或者說是一種觀念上的信念，后者則指的是一種與外部實(shí)在相關(guān)聯(lián)的信念。不論哪種信念都會(huì)引起信念主體的行為。也因此，許多哲學(xué)家和科學(xué)家都認(rèn)為，信念可以作為行為主體之所以有這種行為的解釋路徑?！凹永ㄌ?hào)的信念”會(huì)引起純粹的心理行為，而“直接的信念”會(huì)引起可觀察的外在行為。只有有這種信念的存在，才會(huì)有與之相應(yīng)的意在達(dá)到某種目的的行為。（7）在科辛斯基看來，ChatGPT明確“說明”自己不能完成既定任務(wù)，就已經(jīng)表明ChatGPT“意識(shí)到”自己遵循錯(cuò)誤信念的行為后果。因此，科辛斯基說ChatGPT擁有信念這種心靈狀態(tài)和能力，進(jìn)而斷定ChatGPT已經(jīng)擁有心靈。

科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)的第二個(gè)驚人發(fā)現(xiàn)是， ChatGPT不僅已經(jīng)擁有類似人類心靈的人工心靈，而且這種人工心靈的能力和水平已經(jīng)相當(dāng)于兒童的心靈狀態(tài)和能力，其理由是ChatGPT（davinci-003）已經(jīng)能夠解決人類心靈在面對(duì)錯(cuò)誤信念指引時(shí)93%的任務(wù)，這一表現(xiàn)已經(jīng)相當(dāng)于9歲兒童的心靈表現(xiàn)。（8）如果承認(rèn)人類有心靈，則人類心靈狀態(tài)及其能力具有層次性或者說人在不同年齡階段具有不同心靈狀態(tài)和能力，這幾乎是一種常識(shí)。為了進(jìn)一步弄清楚人工智能ChtaGPT究竟具有怎樣的心靈狀態(tài)，究竟為什么會(huì)“知道”自己可能完成或者不可能完成某項(xiàng)任務(wù)，科辛斯基決定對(duì)ChatGPT語言表達(dá)的內(nèi)在原因進(jìn)一步進(jìn)行逐句分析。他們測(cè)試了ChatGPT所有語言表達(dá)模型在所有20個(gè)意外表達(dá)任務(wù)和20個(gè)意外傳輸任務(wù)上所表現(xiàn)出的心靈能力。作為ChatGPT心靈能力的參照，科辛斯基在實(shí)驗(yàn)中引入了5歲、7歲和9歲的兒童在面對(duì)錯(cuò)誤信念指引時(shí)的行為表現(xiàn)作為對(duì)比。實(shí)驗(yàn)表明，最近的語言模型在經(jīng)典的錯(cuò)誤信念任務(wù)中實(shí)現(xiàn)了非常高的性能表現(xiàn)。2022年之前發(fā)布的ChatGPT模型表現(xiàn)很差或根本沒有表現(xiàn)出這些人工智能已經(jīng)具有某種人類心靈狀態(tài)和能力，而最新、也是最大的人工智能語言處理模型ChatGPT-3.5的能力表現(xiàn)則相當(dāng)于9歲兒童的心靈狀態(tài)和能力，因?yàn)樗鉀Q了9歲兒童所能解決的93%的任務(wù)。（9）科辛斯基得出結(jié)論說，ChatGPT不僅已經(jīng)擁有人類心靈，而且已經(jīng)擁有相當(dāng)于9歲兒童的心靈狀態(tài)和能力。

科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)的第三個(gè)驚人發(fā)現(xiàn)是， ChatGPT所表現(xiàn)的心靈狀態(tài)和能力是對(duì)“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一基本觀點(diǎn)的最新證明，其理由是不同版本的ChatGPT具有不同的心靈狀態(tài)和能力表現(xiàn)且具有伴隨自發(fā)生成性。在對(duì)人類心理現(xiàn)象的探索中，如果承認(rèn)人類存在著心理現(xiàn)象，那么就需要對(duì)不同的人類心理現(xiàn)象的根本來源進(jìn)行科學(xué)客觀的闡釋。如果我們認(rèn)為是因?yàn)槿祟愋撵`的存在而使不同的人表現(xiàn)出不同的心理現(xiàn)象，我們就必須闡明人類的心靈究竟指的是什么以及這種心靈狀態(tài)和能力從何而來，這就涉及心靈的本體論問題?？菩了够ㄟ^對(duì)ChatGPT不同版本的對(duì)比實(shí)驗(yàn)發(fā)現(xiàn)，ChatGPT-1、ChatGPT-2和ChatGPT-3中的最多參數(shù)模型幾乎沒有表現(xiàn)出人類心靈的狀態(tài)和能力。ChatGPT-3中最多參數(shù)模型的text-davincii-001則已經(jīng)能夠解決約30%的任務(wù)，低于5歲兒童的心靈狀態(tài)和能力表現(xiàn)。ChatGPT-3中最多參數(shù)模型的text-davincii-002則已經(jīng)能夠解決約70%的任務(wù)，相當(dāng)于7歲兒童的心靈狀態(tài)和能力表現(xiàn)。ChatGPT-3中最多參數(shù)模型的text-davincii-003則已經(jīng)能夠解決約100%的意外轉(zhuǎn)移任務(wù)和85%的意外內(nèi)容任務(wù)，這個(gè)表現(xiàn)已經(jīng)相當(dāng)于9歲兒童的心靈狀態(tài)和能力表現(xiàn)。（10）據(jù)此，科辛斯基認(rèn)為，ChatGPT所具有的類似心靈的能力可能是作為語言模型提高語言技能的副產(chǎn)品而自發(fā)伴隨出現(xiàn)的。這就意味著，如果存在著人類心靈，這種心靈不是某種僵化不變的實(shí)體，而是不斷生成的狀態(tài)及其能力。在這個(gè)意義上，ChatGPT所表現(xiàn)的心靈狀態(tài)和能力是對(duì)“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一基本觀點(diǎn)的最新證明。

科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)以上三個(gè)基本的驚人發(fā)現(xiàn)，看似只是科學(xué)實(shí)驗(yàn)結(jié)論，實(shí)際上隱含著人工智能是否能夠擁有人類心靈以及人類心靈究竟是怎樣的等等哲學(xué)問題的最新回答。20世紀(jì)50年代以來所出現(xiàn)的當(dāng)代人工智能，主要不是要用機(jī)器模擬或者代替人的外在的主體行為，而是要模擬或者代替人的行為的內(nèi)在思維能力，并以此讓機(jī)器表現(xiàn)出人的智能行為。也因此，西蒙（H.Simon）等人在達(dá)茅斯會(huì)議上明確將當(dāng)代人工智能的目標(biāo)定位于讓機(jī)器像人一樣思考。然而，這一目標(biāo)的實(shí)現(xiàn)并不容易。塞爾（J.Searle）認(rèn)為，人工智能的發(fā)展表明，我們有必要將人工智能的發(fā)展目標(biāo)區(qū)分為強(qiáng)人工智能和弱人工智能。他說：“我發(fā)現(xiàn)區(qū)分我所謂的‘強(qiáng)’AI與‘弱’或‘謹(jǐn)慎’AI是必要的。弱人工智能的主要價(jià)值是它給了我們一個(gè)非常強(qiáng)大的工具……但強(qiáng)人工智能不僅僅是研究思維的工具，更確切地說，適當(dāng)編程的計(jì)算機(jī)實(shí)際上是一個(gè)大腦，在這個(gè)意義上，給予正確程序的計(jì)算機(jī)可以字面上說理解并具有其他認(rèn)知狀態(tài)。”（11）在塞爾等人看來，強(qiáng)人工智能實(shí)際上就是具有類似人類心靈的人工智能機(jī)器，也只有這樣的人工智能機(jī)器才稱得上是真正的人工智能。因此，強(qiáng)人工智能的核心就是要塑造類似人類心靈的人工心靈?？菩了够鵆hatGPT計(jì)算心理學(xué)實(shí)驗(yàn)，不僅認(rèn)為ChatGPT已經(jīng)擁有相當(dāng)于9歲兒童的心靈狀態(tài)和能力，而且還認(rèn)為ChatGPT所具有的類似人類心靈的狀態(tài)和能力是作為語言模型提高語言技能的副產(chǎn)品而自發(fā)伴隨出現(xiàn)的。這就意味著，人工智能不僅有可能擁有人類才擁有的心靈狀態(tài)和能力，而且還有可能伴隨語言技能提升而自發(fā)生成與正常成人相當(dāng)?shù)娜斯ば撵`，這無異于石破天驚。

二、對(duì)ChatGPT擁有人類心靈的反駁

科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)的驚人發(fā)現(xiàn)能否成立？其試驗(yàn)對(duì)于我們科學(xué)理解人類心靈、人工心靈究竟具有何種哲學(xué)意涵？這需要充分發(fā)揮哲學(xué)的反思功能，對(duì)科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)進(jìn)行多維哲學(xué)反思。這種當(dāng)代人工智能科學(xué)技術(shù)與哲學(xué)認(rèn)識(shí)之間的雙向互釋，已經(jīng)成為當(dāng)代人工智能科學(xué)技術(shù)和哲學(xué)研究者的基本共識(shí)。一方面，人工智能科學(xué)技術(shù)的每一個(gè)進(jìn)展都能夠?yàn)樾撵`、意識(shí)等方面的基本哲學(xué)認(rèn)識(shí)提供新的科學(xué)證據(jù)。另一方面，關(guān)于心靈、意識(shí)等方面的基本哲學(xué)認(rèn)識(shí)也能夠?yàn)槿斯ぶ悄芸茖W(xué)技術(shù)的發(fā)展提供新的思想資源。在這種雙向互釋的視域下，科辛斯基有關(guān)ChatGPT的計(jì)算心理學(xué)實(shí)驗(yàn)，最具根本意義的發(fā)現(xiàn)可能就是科辛斯基關(guān)于ChatGPT已經(jīng)擁有人類心靈的基本判斷?？菩了够趯?shí)驗(yàn)開始就明確地認(rèn)為，人所擁有的心靈及其能力是人類社會(huì)互動(dòng)、交流、共情、自我意識(shí)和道德的核心。如果以物理的方式不能讓人工智能直接具有人類心靈的狀態(tài)及其能力，則是否有可能通過虛擬的方式，即編寫人工智能程序的方式讓人工智能機(jī)器具有人類心靈的狀態(tài)和能力？ （12）在這里，科辛斯基將人類心靈理解為一種類似程序處理的運(yùn)行機(jī)制，并認(rèn)為可以通過人工智能程序?qū)崿F(xiàn)對(duì)人類心靈的模擬，進(jìn)而創(chuàng)造出人工心靈。科辛斯基選擇ChatGPT語言程序作為研究對(duì)象的根本目的，就在于試圖通過測(cè)試不同版本的ChatGPT程序所可能具備的心靈狀態(tài)和能力，證明什么樣的人工智能可能發(fā)展出擁有人類心靈一樣的人工智能。在他的實(shí)驗(yàn)發(fā)現(xiàn)中，最具沖擊力的可能也是他認(rèn)為ChatGPT不僅已經(jīng)擁有心靈，而且已經(jīng)擁有相當(dāng)于9歲兒童的心靈狀態(tài)和能力，進(jìn)而展望出人工智能是可能擁有心靈的。然而，這些基本結(jié)論可能都需要質(zhì)疑。

首先，科辛斯基的ChatGPT實(shí)驗(yàn)與圖靈（A. Turing）的圖靈測(cè)試（Turing test）以及塞爾的中文屋（Chinese room）具有實(shí)驗(yàn)結(jié)構(gòu)上的同質(zhì)性，并不能表明ChatGPT已經(jīng)擁有類似人類心靈的人工心靈。圖靈測(cè)試和中文屋是上世紀(jì)兩個(gè)非常著名的人工智能思想實(shí)驗(yàn)，這兩個(gè)實(shí)驗(yàn)最核心的結(jié)構(gòu)性特征就是人機(jī)交互如人與人的交流一樣順暢。人和機(jī)器是類似實(shí)驗(yàn)結(jié)構(gòu)中的基本要素，而人與機(jī)器的順暢交互是這類實(shí)驗(yàn)判斷人工機(jī)器是否已經(jīng)能夠如人一樣思維，并由此推測(cè)機(jī)器是否具有人類心靈的基本依據(jù)。這就像一個(gè)數(shù)學(xué)函數(shù)一樣，函數(shù)f因?yàn)榻o予了x1、x2、x3……等等變量，經(jīng)過若干計(jì)算過程，產(chǎn)生了相應(yīng)的函數(shù)值f（x）。相比圖靈測(cè)試和中文屋實(shí)驗(yàn)，科辛斯基的ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)選擇將人機(jī)交互能力更為強(qiáng)大的大型語言處理程序負(fù)載于物理性的當(dāng)代人工智能機(jī)器。但從其本質(zhì)上看，科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)結(jié)構(gòu)中的人工智能機(jī)器，依然無異于圖靈測(cè)試中的計(jì)算機(jī)器和塞爾中文屋中能夠與人交互的計(jì)算機(jī)器，都只不過是一個(gè)“函數(shù)處理器”。處于這種實(shí)驗(yàn)結(jié)構(gòu)中的人工智能機(jī)器，無論它做出什么樣的智能行為，都不能直接表明這種機(jī)器具有怎樣的人工心靈或者人類心靈?？菩了够膶?shí)驗(yàn)和圖靈測(cè)試、中文屋實(shí)驗(yàn)一樣，只是向我們展示了某種計(jì)算機(jī)器“可能”具有某種人類心靈或者人工心靈，因?yàn)檫@種機(jī)器表現(xiàn)出人類所具有的某些心靈現(xiàn)象和能力。在這個(gè)意義上，科辛斯基的ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)，最多只能看作是圖靈測(cè)試和中文屋的最新版本，而不是證明人工智能機(jī)器已經(jīng)具備人類心靈的直接科學(xué)證據(jù)。按照塞爾的理解看，處于圖靈測(cè)試和中文屋中的機(jī)器都只是一個(gè)形式轉(zhuǎn)換器，并不具備人類心靈所具有的意向性等等。

其次，科辛斯基的ChatGPT實(shí)驗(yàn)方法具有明顯的功能主義特征，同樣不能表明ChatGPT已經(jīng)擁有類似人類心靈的人工心靈。在有關(guān)心靈、心理等方面的既有科學(xué)與哲學(xué)闡釋中，功能主義立場(chǎng)由來已久。布洛克（N.Block）認(rèn)為，功能主義是解決身心問題最重要的哲學(xué)主張，它為認(rèn)知科學(xué)等揭示人類心靈思維奧秘提供了重要的概念基礎(chǔ)。（13）這種心靈的功能主義哲學(xué)主張，X具有人類心靈的功能，則X就擁有人類心靈?？菩了够腃hatGPT計(jì)算心理學(xué)實(shí)驗(yàn)，是根據(jù)ChatGPT對(duì)錯(cuò)誤信念的理解與行為選擇表現(xiàn)，認(rèn)為ChatGPT已經(jīng)擁有人類心靈的。換句話說，科辛斯基實(shí)際上是根據(jù)ChatGPT已經(jīng)具有相當(dāng)年齡兒童的心靈所可能對(duì)應(yīng)的行為功能，而推斷出ChatGPT已經(jīng)擁有類似人類心靈的人工心靈的。這種心靈的功能主義方法忽視了人類心靈本身可能具有的內(nèi)在根本特征，例如感受性質(zhì)（qualia）。所謂感受性質(zhì)，指的是人類心靈在進(jìn)行思維和產(chǎn)生智能行為時(shí)所具有主觀特性，這種主觀特性既具有主觀性，又具有主體個(gè)人的私密性。在上世紀(jì)的功能主義與反功能主義爭(zhēng)論中，內(nèi)格爾（T.Nagel）等人就認(rèn)為，功能主義并沒有包容某些心靈狀態(tài)的基本特征，即關(guān)于心靈的質(zhì)的特征，而這質(zhì)的特征對(duì)決定這些狀態(tài)又是至關(guān)重要的。（14）在科辛斯基的ChatGPT實(shí)驗(yàn)中，即使我們承認(rèn)人類擁有心靈和ChatGPT也擁有類似人類心靈的人工心靈，我們也并不知道ChatGPT所擁有的心靈究竟是怎樣一種狀態(tài)，更無法從本體論的意義上判斷ChatGPT所擁有的心靈是否與人類心靈狀態(tài)具有同質(zhì)性。因此，根據(jù)科辛斯基的ChatGPT實(shí)驗(yàn)并不能必然性地得出ChatGPT就已經(jīng)擁有類似人類心靈的基本結(jié)論。

最后，科辛斯基根據(jù)ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)對(duì)于錯(cuò)誤信念指引下的人工智能機(jī)器行為表現(xiàn)，認(rèn)為ChatGPT所具有的類似心靈的能力可能是作為語言模型提高語言技能的副產(chǎn)品而自發(fā)伴隨出現(xiàn)的。實(shí)際上，科辛斯基的這一基本結(jié)論仍然只是推論。人的心理現(xiàn)象之所以復(fù)雜難解的重要原因之一就在于他與人的生命相伴隨。在馮特（W. Wundt）創(chuàng)建實(shí)驗(yàn)心理學(xué)之前，人類幾乎都還只能是以哲學(xué)思辨方式把握人類心理現(xiàn)象。在此之后，人們對(duì)人類心理現(xiàn)象開啟了各種實(shí)驗(yàn)觀察研究，但是無論是哪種科學(xué)觀察研究，都還無法像我們觀察一張桌子那樣直觀?，F(xiàn)有對(duì)人類心理現(xiàn)象的科學(xué)觀察在其本質(zhì)上仍具有現(xiàn)象學(xué)性質(zhì)，而不是科學(xué)直觀。即使是在涉及一個(gè)人對(duì)另一個(gè)人的心理理解方面，也仍然無法達(dá)到直觀的科學(xué)觀察。正是在這個(gè)意義上，“他心知”問題依然還是心靈哲學(xué)中一個(gè)十分重要的基本哲學(xué)議題。在日常生活中，我們是怎樣可能將心理體驗(yàn)歸屬于他人的呢？實(shí)際上，我們只是將自己的心理體驗(yàn)主觀性地“歸屬給”了我們所觀察的心理對(duì)象，而所觀察的心理對(duì)象所具有的心理現(xiàn)象并不一定如觀察者所想。因此，“他心知”始終面臨著一種“邏輯橋梁缺失問題”，即在“我心知”與“他心想”之間無法用直接的證據(jù)證明二者心理內(nèi)容上的完全同一。科辛斯基對(duì)ChatGPT擁有心靈的哲學(xué)判斷面臨著同樣的“邏輯橋梁缺失問題”，即觀察者所能確定的只是ChatGPT演繹中所具有的無數(shù)電子物理器件，以及這些物理器件具有了與9歲兒童相當(dāng)?shù)男袨楸憩F(xiàn)，而不能確定ChatGPT就已經(jīng)擁有了類似人類心靈的人工心靈，更無法確定ChatGPT所具有類似人類心靈的能力可能是作為語言模型提高語言技能的副產(chǎn)品而自發(fā)伴隨出現(xiàn)的。

科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)不能得出ChatGPT已經(jīng)擁有人類心靈的科學(xué)結(jié)論，更不能直接得出人類就擁有心靈的必然結(jié)論，也不能據(jù)此確定ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)是對(duì)“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一基本觀點(diǎn)的最新證明。人有自己的心理現(xiàn)象是因?yàn)槿藫碛袑儆谌说男撵`，這好像已經(jīng)是一種常識(shí)。但實(shí)際上，心靈是否存在以及心靈以何種方式存在于哪里，一直存在著各種爭(zhēng)論。笛卡爾（René Descartes）把人的客觀存在分為心靈和身體，并認(rèn)為身體與心靈相獨(dú)立。但因?yàn)樾撵`的加入，而使身體具有了一定的活動(dòng)方式，這種心靈的駐所在人的后腦部分的松果腺里。也有一些哲學(xué)家認(rèn)為心靈存在于世界萬物。但是，究竟人們所說的心靈存在于何處以及以何種方式和狀態(tài)存在，我們依然知之甚少。賴爾（G.Ryle）認(rèn)為，一切心理現(xiàn)象實(shí)際上都是物理所為。當(dāng)我們討論一個(gè)人的心理狀態(tài)時(shí)，其實(shí)是在討論一個(gè)人的行為控制方式。賴爾說，我們?cè)诿枋鲆粋€(gè)人的心理活動(dòng)時(shí)并不是在描述第二套幽暗不明的活動(dòng)。我們是在描述他一生中的一個(gè)經(jīng)歷的某些發(fā)展階段，亦即是在描述他的一些行為得到控制的方式。（15）我們之所以還需要心理語言，不是因?yàn)樾睦碚Z言的絕對(duì)科學(xué)性，而是我們對(duì)自己身體的運(yùn)行機(jī)制的科學(xué)解釋依然還存在著某些困難問題。計(jì)算心理學(xué)的根本目的除了模擬人類心靈現(xiàn)象，促進(jìn)人工智能的發(fā)展與進(jìn)步外，也在于通過計(jì)算機(jī)等人工智能科學(xué)技術(shù)，反思我們對(duì)人類心理現(xiàn)象的已有認(rèn)知?？菩了够鵆hatGPT實(shí)驗(yàn)也是如此，它能證明的是如此結(jié)構(gòu)的物理元器件能夠引起與9歲兒童的物質(zhì)性存在具有相似的智能行為表現(xiàn)，而并不足以證明ChatGPT已經(jīng)擁有類似人類心靈的人工心靈，更不能就此斷言人類就存在著與物質(zhì)一樣具有本體論地位的心靈，也不足以證明心靈可能是伴隨語言技能提升而自發(fā)生成的。不過，科辛斯基ChatGPT實(shí)驗(yàn)的確還是為人工心靈的研究提供了一些重要啟示。

三、推進(jìn)人工心靈研究的可能路徑

實(shí)際上，“人工心靈”這一概念本身，在目前看來，僅僅還只能是一種隱喻。但是，這種隱喻有助于促進(jìn)我們對(duì)于人類心理活動(dòng)、智能行為以及人工自然語言處理等問題的理解，促進(jìn)強(qiáng)人工智能的積極發(fā)展。因此，探討并推進(jìn)人工心靈的研究依然有其重要意義。從科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)來看，這一實(shí)驗(yàn)既展現(xiàn)出人工智能在自然語言處理方面的重大進(jìn)步，也再次表明強(qiáng)人工智能的發(fā)展的確要重視對(duì)自然語言的研究。自然語言是人類社會(huì)不斷進(jìn)化的歷史產(chǎn)物，是人類文明的重要標(biāo)志。人們正是因?yàn)檎Z言的存在而得以交流、互動(dòng)，并促進(jìn)人類社會(huì)不同民族、地區(qū)和國家之間的交流與發(fā)展。個(gè)人的智力和言行也在這種語言交流中得以發(fā)展，并表現(xiàn)出人類特有的智能行為。語言學(xué)家沃爾夫（B.Whorf）認(rèn)為，語言是純粹人為的、非本能的、憑自覺制造出來的符號(hào)系統(tǒng)，用以傳達(dá)觀念、情緒和欲望的方法。（16）維特根斯坦（L.Wittgenstein）同樣表達(dá)了語言對(duì)于思維的重要性。維特根斯坦說，當(dāng)我們用語言思想時(shí)，除了詞句表達(dá)外，并沒有“意義”通過我的腦海：語言本身便是思想的工具。（17）福多（J. Fodor）甚至認(rèn)為，人類心理本身就存在著一種思維語言，正是這種思維語言的存在，我們才有了各種各樣的思維活動(dòng)。正是如此，當(dāng)代人工智能專家普遍認(rèn)為，人工智能發(fā)展的重要標(biāo)志之一就是，人工智能機(jī)器是否能夠像人一樣來處理自然語言，并由此產(chǎn)生與人類似的智能行為。圖靈測(cè)試、中文屋實(shí)驗(yàn)、ChatGPT實(shí)驗(yàn)無一不是基于自然語言的處理而展開的人機(jī)對(duì)話實(shí)驗(yàn)。與圖靈測(cè)試、中文屋實(shí)驗(yàn)不同的是， ChatGPT實(shí)驗(yàn)則以非?，F(xiàn)實(shí)的方式，呈現(xiàn)了人工智能機(jī)器在自然語言處理方面的強(qiáng)大能力。戈迪因（B. Gordijn）等人在2023年最新的一篇研究論文中認(rèn)為， ChatGPT正在引發(fā)一系列有關(guān)語言的革命。從長遠(yuǎn)來看，ChatGPT很可能因?yàn)檫@種語言表達(dá)的革命而完全接管整個(gè)科學(xué)研究領(lǐng)域。（18）

要讓人工智能機(jī)器擁有類似人類心靈的人工心靈，不僅要重視自然語言的研究，更要重視自然語言理解的研究。從自然語言的理解看，ChatGPT與圖靈測(cè)試、中文屋中的計(jì)算機(jī)器一樣，依然還不是人所具有的“理解”。從語言的理解看，所謂理解，指的是思維的主體能夠根據(jù)語言的提示知道語言所具有的意義。塞爾認(rèn)為，中文屋中的機(jī)器雖然不懂中文，不理解中文字符的含義，但它依然能夠輸出中文字符，實(shí)現(xiàn)與懂中文的人的正常交流。但是在這種情況下，計(jì)算機(jī)器依然只是機(jī)器，而不是具有理解語言能力的能動(dòng)性主體。人對(duì)自然語言的理解不僅與自然語言符號(hào)本身有關(guān)，還與自然語言的生成環(huán)境、風(fēng)俗習(xí)慣等人所從事的物質(zhì)性生產(chǎn)活動(dòng)有關(guān)。馬克思和恩格斯在《德意志意識(shí)形態(tài)》中認(rèn)為，“思想、觀念、意識(shí)的生產(chǎn)最初是直接與人們的物質(zhì)活動(dòng)，與人們的物質(zhì)交往，與現(xiàn)實(shí)生活的語言交織在一起的。人們的想象、思維、精神交往在這里還是人們物質(zhì)行動(dòng)的直接產(chǎn)物”。（19）在其本質(zhì)上，ChatGPT依然只是一個(gè)比中文屋中的計(jì)算機(jī)器更為強(qiáng)大的符號(hào)處理系統(tǒng)，是一個(gè)大型語言處理程序。ChatGPT與中文屋中的機(jī)器一樣只是根據(jù)機(jī)器語言，完成了基于各種邏輯規(guī)則的符號(hào)處理，而不是理解了語言符號(hào)所內(nèi)含的語義。程序是完全形式地或語形地定義的，而心靈則是具有內(nèi)在的心智內(nèi)容，程序本身并不是心靈，也不能構(gòu)成心靈的內(nèi)容。程序的形式句法不能確保心智內(nèi)容的出現(xiàn)，因?yàn)榫浞ū旧砑炔坏韧膊蛔阋孕纬烧Z義，更不是對(duì)語義的完全表達(dá)和理解。（20）在這個(gè)意義上，無論是中文屋中的計(jì)算機(jī)器，還是ChatGPT都不是符號(hào)處理主體對(duì)語言的理解。

要讓人工智能機(jī)器擁有類似人類心靈的人工心靈，不僅要重視自然語言的研究，更要重視自然語言理解的研究，還要重視人類心理現(xiàn)象中最為核心的感受性質(zhì)研究。感受性質(zhì)通常被定義為人的主觀感受所具有的質(zhì)的內(nèi)容。人一旦有某種心理狀態(tài)或者經(jīng)過了某種心理過程，只要稍加反觀就能夠感受到這個(gè)人對(duì)這些心理狀態(tài)或者過程的質(zhì)性經(jīng)驗(yàn)。內(nèi)格爾曾將這種感受性質(zhì)理解為純粹內(nèi)在的主觀性質(zhì)。丘奇蘭德（P.Churchland）則認(rèn)為，這種感受性質(zhì)并不是純粹內(nèi)在的性質(zhì)，而是存在于觀察的對(duì)象之上。因?yàn)橛袑?duì)象的作用，我們才有主觀的經(jīng)驗(yàn)及其質(zhì)的感受性質(zhì)。無論這種感受性質(zhì)是在主體之內(nèi)還是主體之外，人在經(jīng)歷某種心理狀態(tài)或者過程時(shí)，都無法回避自己所經(jīng)歷的心理狀態(tài)和過程。當(dāng)某個(gè)人在說“天氣很熱”時(shí)，不論是怎樣一種熱，我們都可以通過可測(cè)量的科學(xué)表達(dá)予以說明，這對(duì)于人工智能機(jī)器而言也不是非常困難。然而，當(dāng)某個(gè)人試圖做出心理語言表達(dá)說“我的心好煩”時(shí)，不論別人是否理解這種“煩”是怎樣一種感覺，但他自己一定知道他自己經(jīng)歷了一種怎樣的“煩”的狀態(tài)和過程，而且這種“煩”只有他自己能夠相對(duì)準(zhǔn)確地理解和描述。然而，當(dāng)ChatGPT給出“我的心好煩”同樣的字符串，或者用語音“說”出“我的心好煩”時(shí)，卻并沒有發(fā)生如人一樣的心理狀態(tài)和心理過程，它并不能如人一樣理解是怎樣一種“煩”。在ChatGPT的實(shí)驗(yàn)中，觀察者所能觀察到的只是不同于人的物理元器件的不同工作狀態(tài)和一系列符號(hào)處理過程。

推進(jìn)人工心靈的研究，不僅需要人工智能科學(xué)技術(shù)專家的積極探索，更需要哲學(xué)家們對(duì)隱藏在人工智能科學(xué)技術(shù)發(fā)展背后的功能主義、物理主義、還原主義等哲學(xué)主張做出更為充分的哲學(xué)辨正。在人工智能科學(xué)技術(shù)發(fā)展史上，假定人類心靈的存在，并以人類心靈的功能為模擬對(duì)象來制造智能機(jī)器，一直是人工智能研究的重要研究范式。與此同時(shí)，人工智能科學(xué)技術(shù)研究還存在著另一種探索方向，即將人類心靈完全視為物理神經(jīng)機(jī)制的作用，并認(rèn)為人的心靈、意識(shí)等心理現(xiàn)象可以完全還原為各種物理運(yùn)動(dòng)。這些基本的哲學(xué)主張都在一定程度上推進(jìn)了人工智能研究，但同樣也存在著這樣或者那樣的質(zhì)疑。科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)表明，ChatGPT已經(jīng)具有與9歲兒童相當(dāng)?shù)娜祟愖匀徽Z言處理能力。然而，科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)卻依然不能得出ChatGPT就已經(jīng)具有人類心靈這樣的必然邏輯結(jié)論。這也就從另一個(gè)層面說明，人工智能、心靈的功能主義、物理主義、還原主義立場(chǎng)依然面臨著解釋鴻溝，即完全物理的知識(shí)和語言以及相同的功能依然無法對(duì)人類心理現(xiàn)象做出完滿的解釋，也還不能制造出如人一樣的人工智能機(jī)器。當(dāng)然，科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)也并不意味著功能主義、物理主義和還原主義就已經(jīng)沒有了生命力。科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)只是以最新的人工智能程序?yàn)閷?shí)驗(yàn)對(duì)象，再次展示了功能主義、物理主義和還原主義的基本哲學(xué)立場(chǎng)在人工智能與人類心理現(xiàn)象互釋中的理論局限。它迫使我們走出這些理論局限，發(fā)展出更為全面的哲學(xué)理論，并以此促進(jìn)人工智能科學(xué)技術(shù)與相關(guān)哲學(xué)理論的協(xié)同進(jìn)步。

最后，關(guān)于人類心靈、心理現(xiàn)象的本體論、認(rèn)識(shí)論等哲學(xué)研究依然非常重要，這些研究不僅不會(huì)因?yàn)檎J(rèn)知神經(jīng)科學(xué)、腦科學(xué)等方面的科學(xué)研究而消失，相反會(huì)因?yàn)槿斯ぶ悄艿确矫娴陌l(fā)展而更顯其重要性?？菩了够贑hatGPT實(shí)驗(yàn)中包含了某種對(duì)人類心靈的本體論承諾，即正是因?yàn)槿祟愋撵`的存在，人才表現(xiàn)出相應(yīng)的智能行為。科辛斯基認(rèn)為，人類在語言、文化、社會(huì)等方面的巨大成功，正是通過不可觀察的心理狀態(tài)，如信仰和欲望的相互影響和作用而實(shí)現(xiàn)的。（21）在科辛斯基等人看來，要想讓人工智能機(jī)器具有如人一樣的智能表現(xiàn)，就必須要讓人工智能機(jī)器具有類似人類心靈的人工心靈?？菩了够J(rèn)為，根據(jù)以前的人工智能研究路徑，如果我們從物理途徑不能夠讓人工智能機(jī)器擁有人類心靈，那么，或許我們可以通過虛擬途徑來讓人工智能機(jī)器擁有類似人類心靈的人工心靈?？菩了够f的“虛擬”，實(shí)際上就是通過人工智能程序，而不是通過任何人工智能的物理器件的改變來讓人工智能機(jī)器擁有人類心靈。正是如此，科辛斯基選擇了人工智能領(lǐng)域中最復(fù)雜的大型語言處理程序ChatGPT作為研究對(duì)象。因?yàn)樽匀徽Z言處理不僅一直是人工智能領(lǐng)域中最艱難的領(lǐng)域，同時(shí)也是備受哲學(xué)家、心理學(xué)家、認(rèn)知科學(xué)家等關(guān)注的人類心靈和心理現(xiàn)象的前沿焦點(diǎn)領(lǐng)域。如果某種人工智能語言程序能夠表現(xiàn)出與擁有心靈、具有一定智力的人一樣的語言表達(dá)，則這種人工智能語言程序不僅能夠展現(xiàn)出人工智能本身的科學(xué)技術(shù)進(jìn)步，而且也能夠?yàn)槲覀兛茖W(xué)認(rèn)識(shí)人工智能與人類心靈提供新的參照?？菩了够鵆hatGPT的計(jì)算心理學(xué)實(shí)驗(yàn)依循了人工智能研究慣有的“人擁有心靈”這一本體論承諾，而忽視了或者說在已有的公開文獻(xiàn)或公開試驗(yàn)中看不出他們對(duì)心靈的本體論、認(rèn)識(shí)論等方面獨(dú)創(chuàng)性的哲學(xué)主張，從而導(dǎo)致了該實(shí)驗(yàn)難以體現(xiàn)其應(yīng)有的革命性。

四、結(jié)語

ChatGPT的出現(xiàn)的確是人工智能領(lǐng)域的重要進(jìn)步。這一進(jìn)步不僅有著特定的思想淵源，同樣有著許多可以想象的認(rèn)知空間。科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)表明，基于語言學(xué)習(xí)的人工智能機(jī)器能夠逐漸發(fā)展出與一定年齡的自然人相當(dāng)?shù)闹悄苄袨?，這是機(jī)器學(xué)習(xí)在人工智能科學(xué)技術(shù)領(lǐng)域取得的巨大進(jìn)步。但是，從科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)來看，裝有ChatGPT程序的人工智能機(jī)器在處理自然語言時(shí)，并不具有人在處理自然語言時(shí)相同的心靈狀態(tài)和心理過程，不能得出ChatGPT已經(jīng)擁有類似人類心靈的必然邏輯結(jié)論，更不構(gòu)成“心靈可能是伴隨語言技能提升而自發(fā)生成的”這一基本觀點(diǎn)的最新科學(xué)證據(jù)。科辛斯基ChatGPT計(jì)算心理學(xué)實(shí)驗(yàn)恰恰表明，人工智能科學(xué)技術(shù)的發(fā)展進(jìn)步與人們對(duì)心靈、心理等方面的哲學(xué)認(rèn)識(shí)有著十分緊密的內(nèi)在邏輯聯(lián)系。民間心理學(xué)中的心靈、信念、欲望等許多核心概念依然還在深刻地影響著當(dāng)代人工智能的發(fā)展，它需要更多的哲學(xué)家對(duì)相關(guān)概念、觀點(diǎn)和理論做出與之相應(yīng)的哲學(xué)闡明，并與人工智能專家一道協(xié)同共進(jìn)，方能更好地促進(jìn)人工智能的當(dāng)代發(fā)展。從實(shí)現(xiàn)強(qiáng)人工智能的目標(biāo)來看，塑造人工心靈首先仍需要去探究人類自然語言理解、感受性質(zhì)等方面的內(nèi)在機(jī)制，依然依賴于人類意識(shí)、心理等現(xiàn)象的自然科學(xué)研究的實(shí)際進(jìn)展，依賴于哲學(xué)工作者對(duì)當(dāng)代人工智能科學(xué)技術(shù)發(fā)展中功能主義、物理主義等基礎(chǔ)前提的哲學(xué)辨正。

注釋：

（1）（4）（8）（9）（10）（12）（21） M. Kosinski，Theory of Mind May Have Spontaneously Emerged in Large Language Models，arXiv preprint arXiv：2302.02083， 2023.

（2） P. Smolensky， On the Proper Treatment of Connectionism， in C. and G. Macdonald （eds.）， Connectionism， Oxford： Blackwell， 1995， pp.79-80.

（3） A·斯洛曼：《動(dòng)機(jī)、機(jī)制和情感》， 載瑪格麗特·博登：《人工智能哲學(xué)》，上海譯文出版社2001年版，第324頁。

（5）（6） B. Russell， Human Knowledge： Its Scope and Limits， London： Taylor amp; Francis Group， 2009. p.132. p.94.

（7） H. Putnam， Reason Truth and History， Cambridge： Cambridge University Press， 2004. pp.59-60.

（11） J. Searle， Minds， Brains， and Programs， The Behavioral and Brain Sciences， 1980， 3， p.417.

（13） N. Block， What Is Functionalism？ The Encyclopedia of Philosophy Supplement， 1996， p.1.

（14） S. Shoemaker， Functionalism and Qualia， in D. Rosenthal （ed.）， The Nature of Mind， Oxford University Press， 1991， p.395.

（15） G. Ryle， The Concept of Mind， New York： Taylor amp; Francis Group， 2009. p.39.

（16） 胡明楊：《西方語言學(xué)名著選讀》，中國人民大學(xué)出版社1988年版，第202頁。

（17） L. Wittgenstein， Philosophical Investigations， Oxford： Blackwell Publishing Ltd， 2009. p.113.

（18） B. Gordijn， H. ten Have， ChatGPT： Evolution or Revolution？ Medicine， Health Care and Philosophy， 2023， 1， p.2.

（19） 《馬克思恩格斯文集》 第1卷，人民出版社2009年版，第524頁。

（20） 塞爾：《心靈的再發(fā)現(xiàn)》，王巍譯，中國人民大學(xué)出版社2005年版，第167頁。

作者簡(jiǎn)介：趙澤林，華中科技大學(xué)哲學(xué)學(xué)院副教授、博士生導(dǎo)師，華中科技大學(xué)國家治理研究院研究員，湖北武漢，430074；程聰瑞，華中科技大學(xué)國家治理研究院博士研究生，湖北武漢，430074。

（責(zé)任編輯 胡 靜）