，

2016年以來(lái)圍棋對(duì)弈程序AlphaGo戰(zhàn)勝人類(lèi)冠軍一事，引發(fā)了人工智能(簡(jiǎn)稱(chēng)AI)的又一次研究和討論的熱潮。一方面，人工智能成為當(dāng)前科技研究和產(chǎn)業(yè)發(fā)展的一個(gè)熱點(diǎn)；另一方面，人工智能是否能超越并取代人類(lèi)也成為人們持續(xù)討論的話(huà)題。關(guān)于后者，早在人工智能發(fā)展伊始的時(shí)候，人們就開(kāi)始擔(dān)心其未來(lái)可能的負(fù)面風(fēng)險(xiǎn)。從1990年代開(kāi)始，著名未來(lái)學(xué)家?guī)炱濏f爾(Ray Kurzweil)就表達(dá)了這樣一個(gè)思想：隨著技術(shù)的加速發(fā)展，在某一時(shí)刻，我們將達(dá)到一個(gè)技術(shù)奇點(diǎn)(technological singularity)，這時(shí)， AI將大大超越人類(lèi)智能，機(jī)器人也將成為人類(lèi)“進(jìn)化的繼承者”和“思想的繼承者”。[1](P11-15)庫(kù)茲韋爾歡呼這一前景，但也有人心懷隱憂(yōu)。在AI誕生之前的1950年，阿蘭·圖靈(Alan Turing)就曾反駁過(guò)一個(gè)被稱(chēng)之為“鴕鳥(niǎo)策略”的詰難：“機(jī)器可以思維的后果太可怕了。我們希望并相信它們不會(huì)思維?！盵2]雖然圖靈認(rèn)為這種觀點(diǎn)并無(wú)價(jià)值，它僅僅出于人類(lèi)優(yōu)越性(superiority)的信仰，但人們對(duì)AI的類(lèi)似擔(dān)憂(yōu)在后來(lái)一直綿綿不絕。2015年以來(lái)，伊隆·馬斯克、比爾·蓋茨和霍金等人表達(dá)了這樣的擔(dān)憂(yōu)：失去控制的超級(jí)AI有可能導(dǎo)致人類(lèi)的滅亡。他們與來(lái)自AI領(lǐng)域的專(zhuān)家共同簽署了一封公開(kāi)信，呼吁各界人士對(duì)AI安全性的關(guān)注。[3]

這些不同的擔(dān)憂(yōu)實(shí)際上涉及了后奇點(diǎn)時(shí)代(post-singularity age)的兩種相關(guān)卻存在區(qū)別的前景：(1)機(jī)器超越人類(lèi)；(2)機(jī)器取代人類(lèi)。對(duì)于前景(1)，人類(lèi)中心主義者(比如鴕鳥(niǎo)策略詰難的支持者)擔(dān)憂(yōu)的是人類(lèi)尊嚴(yán)(優(yōu)越性)被損害的風(fēng)險(xiǎn)——不妨稱(chēng)之為尊嚴(yán)風(fēng)險(xiǎn)；那些新潮的非人類(lèi)中心主義者，擔(dān)憂(yōu)的則是人類(lèi)對(duì)AI的“虐待”是否有違道德——這算是道德風(fēng)險(xiǎn)；馬斯克等人擔(dān)憂(yōu)的是前景(2)時(shí)代人類(lèi)的存活問(wèn)題——也即生存風(fēng)險(xiǎn)。本文的目的在于基于人工智能哲學(xué)(也包括認(rèn)知科學(xué)哲學(xué))中的相關(guān)討論，對(duì)兩種后奇點(diǎn)前景及其伴隨的三種風(fēng)險(xiǎn)做出恰當(dāng)?shù)目赡苄栽u(píng)估，最終揭示AI的真正風(fēng)險(xiǎn)所在。

一、機(jī)器超越人類(lèi)：尊嚴(yán)風(fēng)險(xiǎn)

圖靈敏銳地發(fā)現(xiàn)了“鴕鳥(niǎo)策略”詰難中對(duì)人類(lèi)優(yōu)越性的主張與神學(xué)之間的緊密關(guān)聯(lián)。[2]這種關(guān)聯(lián)可以追溯到文藝復(fù)興人文主義(renaissance humanism)思想，它綜合了基督教傳統(tǒng)和古典文學(xué)中的人的形象：一方面認(rèn)為人類(lèi)是根據(jù)上帝的形象創(chuàng)造出來(lái)的，另一方面認(rèn)為人類(lèi)具有卓越(excellence)和優(yōu)越(superiority)的品質(zhì)，而通過(guò)這些品質(zhì)，人類(lèi)將在不斷完善中獲得尊嚴(yán)。[4](P92)需要注意的是，文藝復(fù)興人文主義對(duì)人類(lèi)優(yōu)越性的定義并不意味著某種永恒不變的人性，而是意味著一種人類(lèi)的可完善性，一種需要人類(lèi)去獲得的目標(biāo)。然而，到了近代人本主義(modern humanism)那里，優(yōu)越性就開(kāi)始意味著一種固定的人性。人們通過(guò)界定某種先天的、穩(wěn)固的人性，厘清人類(lèi)與各種他者(動(dòng)物、機(jī)器、自然等)的本質(zhì)差異，最終證明人類(lèi)的優(yōu)越性。人類(lèi)的尊嚴(yán)因而也意味著我們具有某種非人類(lèi)所不具有的優(yōu)越品質(zhì)?！傍r鳥(niǎo)策略”詰難正是基于這種近代人本主義立場(chǎng)，將作為機(jī)器具有人類(lèi)水平的智能視為對(duì)人類(lèi)尊嚴(yán)的威脅。針對(duì)這種擔(dān)憂(yōu)，我們想要表達(dá)兩個(gè)論點(diǎn)：(1)當(dāng)下的AI在可以預(yù)見(jiàn)的未來(lái)遠(yuǎn)沒(méi)有威脅到人類(lèi)的所謂先天優(yōu)越性；(2)人類(lèi)真正的尊嚴(yán)并不在于對(duì)非人類(lèi)的先天優(yōu)越性，而在于自身的可延展性。

(一)人類(lèi)的先天優(yōu)越性受到挑戰(zhàn)了嗎？

近代人本主義者對(duì)人類(lèi)先天優(yōu)越性的證明，典型地體現(xiàn)于笛卡爾的哲學(xué)工作中。笛卡爾設(shè)想了這樣一個(gè)自動(dòng)機(jī)器，它從外形上跟我們的身體沒(méi)有任何差別，并且可以準(zhǔn)確地模仿我們的一切動(dòng)作，但笛卡爾認(rèn)為它仍然不是真正的人，理由是：(1)機(jī)器人即便能說(shuō)出幾個(gè)單詞，也完全不能像人類(lèi)那樣表達(dá)思想；(2)機(jī)器只有單一的功能，但人類(lèi)卻能舉一反三。[5](P45)可以看出，笛卡爾把自然語(yǔ)言操演和遷移學(xué)習(xí)的能力作為人類(lèi)的標(biāo)志，從而在人類(lèi)與機(jī)器之間劃定一個(gè)截然分明的界限。

AI對(duì)近代人本主義的挑戰(zhàn)在于，如果機(jī)器可以思維，人類(lèi)在理性上并沒(méi)有任何優(yōu)越性，那么人類(lèi)與機(jī)器的界限就會(huì)被抹去，人類(lèi)尊嚴(yán)就會(huì)受到威脅。但是，AI是否已經(jīng)具備了笛卡爾所列出的兩種人類(lèi)能力，從而消除了人類(lèi)的優(yōu)越性呢？當(dāng)下的AI都是專(zhuān)用系統(tǒng)，比如下棋的程序不能用來(lái)語(yǔ)音識(shí)別，反之亦然。因此AI暫時(shí)還不具有舉一反三的遷移學(xué)習(xí)的能力。有爭(zhēng)議的地方可能在于：機(jī)器是否已經(jīng)具有了自然語(yǔ)言操演的能力？

自然語(yǔ)言操演是AI竭力努力的目標(biāo)，圖靈測(cè)試就是基于這一能力。對(duì)自然語(yǔ)言的句法和語(yǔ)義分析，曾經(jīng)被視為自然語(yǔ)言處理的密匙。1970年代，威諾格拉德(Terry Winograd)曾經(jīng)設(shè)計(jì)過(guò)一款名為SHRDLU的人機(jī)對(duì)話(huà)系統(tǒng)，它可以接收人類(lèi)的自然語(yǔ)言指令，通過(guò)對(duì)語(yǔ)言的句法分析和語(yǔ)義分析，在經(jīng)過(guò)邏輯推理之后做出相應(yīng)的操作，比如將桌上的一個(gè)紅色的圓形積木疊到綠色的方形積木上。[6]然而，這樣的系統(tǒng)只能處理一個(gè)積木世界(toy world)，當(dāng)涉及更復(fù)雜的場(chǎng)景的時(shí)候，它就很難繼續(xù)工作了。因此，進(jìn)入1990年代以后，自然語(yǔ)言處理逐漸轉(zhuǎn)向基于統(tǒng)計(jì)的方法，不僅句法分析被認(rèn)為是不相關(guān)的，甚至語(yǔ)義分析也不再重要。比如在現(xiàn)在的機(jī)器翻譯中，關(guān)注的焦點(diǎn)在于詞語(yǔ)、短語(yǔ)和句子，而不是句法和語(yǔ)義。然而，基于統(tǒng)計(jì)的方法并不會(huì)讓AI理解語(yǔ)言，更不可能真正地表達(dá)思想。

AI的自然語(yǔ)言理解的困難在于語(yǔ)言的整體論特征。根據(jù)豪格蘭德(John Haugeland)的觀點(diǎn)，句子的語(yǔ)義并非是原子語(yǔ)義的組合，而是和作者意圖、日常知識(shí)、語(yǔ)言的情境以及實(shí)存者的生命等四重因素相關(guān)的。[7]然而，機(jī)器恰恰難以把握人類(lèi)語(yǔ)言操演中所涉及的常識(shí)和情境。這里涉及了AI中的常識(shí)問(wèn)題(the problem of commonsense knowledge)：“如何存儲(chǔ)和訪問(wèn)人類(lèi)似乎知道的所有事實(shí)?！盵8](P77-78)經(jīng)典AI試圖通過(guò)將人類(lèi)的常識(shí)表征為顯性的命題，從而可以被計(jì)算機(jī)用于推理和決策。然而這一工作被證明是非常困難的。因?yàn)槿祟?lèi)的常識(shí)實(shí)在太多，而且各個(gè)常量之間的關(guān)系異常復(fù)雜，要表征全部常識(shí)幾乎是不可能的。更為關(guān)鍵的是，如德雷福斯(Hubert L. Dreyfus)所指出的，人類(lèi)的常識(shí)大多數(shù)是以隱性的技能知識(shí)(know-how)的形式存在著，難以表征為命題知識(shí)(know-that)。即便所有事實(shí)被形式化并存儲(chǔ)為語(yǔ)境獨(dú)立的事實(shí)，但計(jì)算機(jī)仍然不知道如何去使用它，因?yàn)檫@需要額外的規(guī)則來(lái)指定如何利用這些事實(shí)，而這些額外的規(guī)則很可能是與語(yǔ)境相關(guān)的，于是需要更高層級(jí)的規(guī)則來(lái)指定如何使用這些規(guī)則，這就將陷入無(wú)窮倒退的困境。[9](P56-57)因此，由于常識(shí)問(wèn)題的限制，計(jì)算機(jī)迄今為止仍然無(wú)法真正地理解自然語(yǔ)言。人類(lèi)之所以可以理解自然語(yǔ)言，歸根結(jié)底是因?yàn)樗且粋€(gè)有著自己的歷史、周?chē)澜绾蜕眢w的實(shí)存者，承受并操勞著整體的世界，才會(huì)理解關(guān)于世界的常識(shí)和情境，從而才會(huì)理解語(yǔ)言的意義，進(jìn)行真正的對(duì)話(huà)、閱讀和創(chuàng)作。[7]而這樣一個(gè)實(shí)存者，在AI的現(xiàn)有范式下根本不可能實(shí)現(xiàn)。因此，人類(lèi)在自然語(yǔ)言操演方面仍然具有遠(yuǎn)比AI優(yōu)越的能力。類(lèi)似的優(yōu)越性還可以列出很多，比如，在現(xiàn)象意識(shí)、感受性、自由意志等等。人類(lèi)對(duì)于機(jī)器的優(yōu)越性在可以預(yù)見(jiàn)的將來(lái)都很難被打破。

(二)人類(lèi)的尊嚴(yán)：優(yōu)越性還是可延展性？

然而，我們永遠(yuǎn)不能排除這種可能，未來(lái)的機(jī)器將會(huì)在我們引以為傲的某些領(lǐng)域勝于人類(lèi)。在這種情況下，如果要強(qiáng)行維護(hù)人類(lèi)的尊嚴(yán)，就只有禁止AI技術(shù)的發(fā)展，以保證人類(lèi)優(yōu)越于機(jī)器。考慮到這種禁止性的命令難以實(shí)施，一種既不需要禁止技術(shù)進(jìn)步，又可以維護(hù)人類(lèi)尊嚴(yán)的進(jìn)路，將是更為可欲的。

傳統(tǒng)社會(huì)對(duì)人類(lèi)尊嚴(yán)的論證基于某種穩(wěn)固的人性(比如語(yǔ)言、理性等)，但1990年代以來(lái)的后人類(lèi)主義(posthumanism)話(huà)語(yǔ)已經(jīng)深刻地修正了我們的人性的看法。海爾斯(Katherine Hayles)認(rèn)為，千百年以來(lái)人類(lèi)就一直在與技術(shù)協(xié)同演化，并且以各種方式深刻而細(xì)微地重塑了人性。[10](P289-290)克拉克(Andy Clark)從認(rèn)知科學(xué)上對(duì)這種觀點(diǎn)提供了強(qiáng)有力的論證。在他看來(lái)，人類(lèi)與技術(shù)構(gòu)成了一個(gè)共生體，心靈與自我不再局限于大腦之內(nèi)，而是分布于大腦和非生物系統(tǒng)之中。人類(lèi)之所以不同于其他物種，就在于我們的心靈一直在尋找可以合作的非生物資源。各種各樣的技術(shù)與人的交互作用，展示了人類(lèi)的大腦的驚人的可塑本性。[11](P87)我們的心靈和身體本質(zhì)上就在不斷的重構(gòu)，外部的技術(shù)設(shè)備不斷地組合到我們的心靈與人格系統(tǒng)之內(nèi)。因此，人類(lèi)的“本性”(nature)是在漫長(zhǎng)的演化歷史中被技術(shù)地建構(gòu)起來(lái)的。

波斯特洛姆(Nick Bostrom)因此主張用更具包容性的后人類(lèi)尊嚴(yán)(posthuman dignity)來(lái)代替人本主義的尊嚴(yán)概念。后人類(lèi)尊嚴(yán)不再基于凌駕于非人類(lèi)之上的各種起源上的優(yōu)越性，而是來(lái)自于我們是什么，以及可以潛在地成為什么。而我們是什么，恰恰不僅僅源于我們的生物功能，更源于技術(shù)和社會(huì)語(yǔ)境。[12]這種尊嚴(yán)概念，是對(duì)文藝復(fù)興人文主義尊嚴(yán)概念的更新，它一方面將人類(lèi)的卓越和優(yōu)越奠基于人類(lèi)的可完善性之中，另一方面又指出了這種可完善性的關(guān)系本質(zhì)，即人類(lèi)在發(fā)展中與技術(shù)構(gòu)成了一個(gè)交互作用、協(xié)同構(gòu)筑并相互塑造的延展系統(tǒng)，展現(xiàn)了人的可塑本性。我們可以用可延展性來(lái)取代優(yōu)越性，以界定后人類(lèi)尊嚴(yán)概念的本質(zhì)。

如果我們采用這種后人類(lèi)尊嚴(yán)概念，那么即便未來(lái)的AI掌握了自然語(yǔ)言操演的能力，我們也不必?fù)?dān)心人類(lèi)的尊嚴(yán)受到了威脅，因?yàn)椋F(xiàn)在的AI是一個(gè)以人為核心的延展認(rèn)知系統(tǒng)。[13]更進(jìn)一步地說(shuō)，即便AI在所有的智力測(cè)評(píng)項(xiàng)目上都戰(zhàn)勝了人類(lèi)，它也并不會(huì)比人更加智能，相反，人類(lèi)因?yàn)锳I而變得更加智能。AI是百分之百的人類(lèi)智能，它的智能恰恰是人類(lèi)尊嚴(yán)的明證。

二、機(jī)器超越人類(lèi)：倫理風(fēng)險(xiǎn)

近代人本主義賦予人類(lèi)的至尊地位，在非人類(lèi)中心主義者那里遭到了激烈的批判，當(dāng)這種關(guān)切被帶入到機(jī)器人倫理的討論中，便產(chǎn)生了對(duì)AI的道德風(fēng)險(xiǎn)的擔(dān)憂(yōu)。目前，圍繞AI(包括機(jī)器人)的倫理學(xué)討論有兩種進(jìn)路：(1)考慮到AI可能對(duì)人類(lèi)產(chǎn)生危害，試圖將其設(shè)計(jì)為一個(gè)道德能動(dòng)者(moral agent)，自下而上地將倫理規(guī)則植入到機(jī)器人之內(nèi)，建造安全、友好、有道德的機(jī)器人。[14](2)采取非人類(lèi)中心主義的立場(chǎng)，將人形機(jī)器人作為道德受動(dòng)者(moral patient)，考慮將機(jī)器作為一個(gè)道德關(guān)懷的對(duì)象，防止人類(lèi)對(duì)機(jī)器的虐待，甚至試圖賦予它(她/他)和人類(lèi)平等的公民權(quán)利。[15]

動(dòng)物權(quán)利論最早將道德受動(dòng)者的地位賦予了非人類(lèi)事物，無(wú)疑可以為我們思考機(jī)器人權(quán)利提供參照。事實(shí)上，已經(jīng)有一些研究者如卡爾弗利(David J. Calverley)注意到了二者之間的相似。[16]在此，我們將進(jìn)一步根據(jù)彼得·辛格和湯姆·雷根的兩種主要?jiǎng)游餀?quán)利理論，來(lái)分析AI的道德地位。

彼得·辛格重返了邊沁的功利主義道德理論，將感受痛苦的能力(the capacity for suffering)作為道德關(guān)懷對(duì)象的判定標(biāo)準(zhǔn)。辛格認(rèn)為，只要一個(gè)生命可以感受到痛苦，我們就有必要在道德上平等地考慮其痛苦。[17](P10-12)與辛格的功利主義立場(chǎng)不同，湯姆·雷根更傾向于義務(wù)論的立場(chǎng)。但不同于康德將動(dòng)物排斥在直接道德關(guān)懷對(duì)象之外，雷根認(rèn)為人類(lèi)和動(dòng)物具有平等的固有價(jià)值。二者的區(qū)別在于，健全的人類(lèi)是道德能動(dòng)者，對(duì)自身行動(dòng)負(fù)有道德責(zé)任，而動(dòng)物(也包括精神病人、嬰兒等)僅僅是道德受動(dòng)者，對(duì)自身行動(dòng)不負(fù)有道德責(zé)任，但卻應(yīng)當(dāng)作為道德關(guān)懷的對(duì)象。那么，我們?nèi)绾文芘卸ㄒ粋€(gè)非人類(lèi)生命是道德受動(dòng)者，并具有固有價(jià)值呢？雷根提出了一個(gè)生命主體判準(zhǔn)。一個(gè)個(gè)體被歸為生命主體，需要具備這些特征：信念和欲望；感知、記憶和未來(lái)感；情感生活；偏好利益和福利利益；發(fā)起行為來(lái)滿(mǎn)足欲望和目標(biāo)的能力；心理同一性等。如果一個(gè)個(gè)體滿(mǎn)足了生命主體標(biāo)準(zhǔn)，那么它就具有固有價(jià)值，就應(yīng)當(dāng)被作為道德關(guān)懷的對(duì)象。[18](P243)因此，兩種動(dòng)物權(quán)利理論分別將感受痛苦的能力和生命主體作為判準(zhǔn)，以決定是否將動(dòng)物納入道德考慮。如果我們將其擴(kuò)展到機(jī)器人權(quán)利領(lǐng)域，那么機(jī)器人是否可以滿(mǎn)足這兩個(gè)判準(zhǔn)呢？

首先來(lái)分析辛格的判準(zhǔn)。雖然關(guān)于痛苦的形而上學(xué)本性還存在著諸多爭(zhēng)議，但越來(lái)越多的科學(xué)研究開(kāi)始將痛苦視為一種類(lèi)似情感(emotion)的主觀經(jīng)驗(yàn)。[19]這意味著，如果機(jī)器要具有感受痛苦的能力，它就必須具有現(xiàn)象意識(shí)(phenomenal consciousness)。按照布洛克(N. Block)的區(qū)分，意識(shí)分為取用意識(shí)(access consciousness)和現(xiàn)象意識(shí)，前者可以理解為信息，后者可以理解為我們的主觀意識(shí)體驗(yàn)。[20]暫且不論這種區(qū)分是否合理，AI的一般目標(biāo)是模擬人類(lèi)的存取意識(shí)，對(duì)現(xiàn)象意識(shí)的模擬不僅在實(shí)踐上沒(méi)有什么進(jìn)展，而且在理論上也莫衷一是。考慮到迄今為止只有在生物中我們才發(fā)現(xiàn)了現(xiàn)象意識(shí)，在很大的概率上，現(xiàn)象意識(shí)必定和生命現(xiàn)象存在內(nèi)在的關(guān)聯(lián)。正如湯普森所指出的，生命的內(nèi)在目的性構(gòu)成了意識(shí)得以涌現(xiàn)的基礎(chǔ)。[21](P186)這種內(nèi)在目的性實(shí)際上可以進(jìn)一步揭示為意向性和自主性。如果我們采取雷根的標(biāo)準(zhǔn)，機(jī)器就必須作為一個(gè)生命主體，才能被納入道德考慮的對(duì)象。雖然雷根關(guān)于生命主體的判準(zhǔn)涉及的內(nèi)容較為繁多，但同樣可以歸結(jié)為意向性和自主性這兩個(gè)因素，起碼，二者構(gòu)成了生命主體的必要條件。

那么，AI是否具有自主性和意向性呢？根據(jù)自創(chuàng)生生成主義理論，自主性最終可以通過(guò)包含了內(nèi)在目的性的自創(chuàng)生系統(tǒng)來(lái)刻畫(huà)。自創(chuàng)生系統(tǒng)是一個(gè)包含了半透邊界的反應(yīng)網(wǎng)絡(luò)，它可以自我生產(chǎn)和自我維持。[21](P86)而最原初的意向性就來(lái)自于自創(chuàng)生系統(tǒng)的意義生成(sense-making)。它通過(guò)為系統(tǒng)創(chuàng)造一個(gè)生境(umwelt)，將意義引入世界。生命系統(tǒng)的意義生成不僅意味著它必須始終理解世界從而維持自身，也意味著生命系統(tǒng)的適應(yīng)性，它讓系統(tǒng)可以自動(dòng)調(diào)節(jié)自身，根據(jù)內(nèi)部規(guī)范來(lái)改變環(huán)境。[22]因此，自創(chuàng)生和意義生成可以分別作為自主性和意向性的判準(zhǔn)。

如果我們將這些標(biāo)準(zhǔn)引入到人工智能之中，就會(huì)發(fā)現(xiàn)既有的AI進(jìn)路，無(wú)論是符號(hào)主義和聯(lián)結(jié)主義，還是具身AI，都無(wú)法滿(mǎn)足這些判準(zhǔn)。符號(hào)主義和聯(lián)結(jié)主義顯然無(wú)法滿(mǎn)足自創(chuàng)生的判準(zhǔn)，而且也不滿(mǎn)足意義生成的判準(zhǔn)。此外兩種進(jìn)路都面臨著來(lái)自符號(hào)奠基問(wèn)題等難題的威脅：人工系統(tǒng)的“語(yǔ)義解釋如何可以?xún)?nèi)在于系統(tǒng)，而不是依賴(lài)于我們頭腦中的意義？”[23]因此也就不可能構(gòu)造一種具有內(nèi)部規(guī)范的認(rèn)知系統(tǒng)。而具身AI雖然試圖賦予AI一個(gè)身體，但它依然不是生成主義意義上的那種鮮活的身體，從而也不能滿(mǎn)足自創(chuàng)生的判準(zhǔn)。在意義生成的判準(zhǔn)上，雖然具身AI試圖訴諸感覺(jué)運(yùn)動(dòng)反饋循環(huán)來(lái)避免符號(hào)奠基問(wèn)題(也包括框架問(wèn)題)，但它最終還是不可能解決AI中的意義問(wèn)題，因?yàn)榫呱鞟I并不能保證能動(dòng)者的行動(dòng)目的是內(nèi)稟而不是外賦的。[24]

因此，在既有的AI范式下，AI由于無(wú)法滿(mǎn)足自創(chuàng)生和意義建構(gòu)的判準(zhǔn)，既不可能具有現(xiàn)象意識(shí)，也不可能具有自主性和意向性，從而無(wú)論基于義務(wù)論還是基于功利主義，我們都無(wú)須將AI納入道德考慮，更無(wú)須將權(quán)利賦予AI。非人類(lèi)主義所擔(dān)憂(yōu)的AI道德風(fēng)險(xiǎn)在可預(yù)期的未來(lái)并不存在。

三、機(jī)器取代人類(lèi)：生存風(fēng)險(xiǎn)

“機(jī)器取代人類(lèi)”是一種完全不同于“機(jī)器超越人類(lèi)”的后奇點(diǎn)場(chǎng)景。我們可以設(shè)想，在后奇點(diǎn)時(shí)代，機(jī)器可以在思維和行動(dòng)的特定或所有能力上超越人類(lèi)，但它可能不具有有機(jī)身體，而是棲身在虛擬實(shí)在之中，從而不會(huì)在現(xiàn)實(shí)世界與人類(lèi)存在生存沖突。因此機(jī)器超越人類(lèi)但并不意味著會(huì)取代人類(lèi)。同樣，我們可以假想某種AI具有自我復(fù)制的能力和欲望，并且生存適應(yīng)性上要遠(yuǎn)高于人類(lèi)，在現(xiàn)實(shí)世界中與人類(lèi)存在生存沖突，這種情況下，即便人類(lèi)的思維和行動(dòng)能力遠(yuǎn)高于該AI，也可能被取代。

“機(jī)器取代人類(lèi)”涉及的主要是所謂的生存風(fēng)險(xiǎn)(existential risk)。波斯特洛姆將其定義為這樣一種可能性，它所產(chǎn)生的不利后果將會(huì)摧毀整個(gè)人類(lèi)，或永久和急劇地?cái)嗨腿祟?lèi)的發(fā)展?jié)摿?。[25]他認(rèn)為，由于超級(jí)智能可能和任何的終極價(jià)值體系結(jié)合，因此不能假定它們必然擁有人類(lèi)的道德觀念，隨意設(shè)計(jì)的超級(jí)智能的最終目標(biāo)很可能會(huì)導(dǎo)致人類(lèi)的生存災(zāi)難；此外，超級(jí)智能也可能會(huì)與人類(lèi)共享某些工具性?xún)r(jià)值，比如獲取無(wú)限制的物質(zhì)資源，這就可能會(huì)與人類(lèi)產(chǎn)生生存沖突。[26](P144)

在生存風(fēng)險(xiǎn)的故事中，AI仿佛具備了自我繁殖的能力，并主要作為一個(gè)種群而不僅僅是個(gè)體對(duì)人類(lèi)造成威脅。我們因此可以將人類(lèi)與AI的關(guān)系刻畫(huà)為生態(tài)學(xué)上的種群間關(guān)系。在洛克伍德(Larry L. Rockwood)看來(lái)，種群間的交互關(guān)系，可以根據(jù)其對(duì)一個(gè)種群的作用是積極的(+)、消極的(-)或中性的(0)劃分為四種類(lèi)型：[27](P155-156)

(1)-/- 競(jìng)爭(zhēng)，對(duì)兩個(gè)物種都是消極的；

(2)+/- 捕食、寄生，對(duì)一個(gè)物種有利，但對(duì)另一個(gè)物種有害；

(3)+/0 共棲，對(duì)一個(gè)物種有利，但對(duì)另一個(gè)物種沒(méi)有影響；

(4)+/+ 互利共生，對(duì)兩個(gè)物種都有利。

在這四種類(lèi)型中，只有(1)和(2)對(duì)一個(gè)種群是有害的。因此只有當(dāng)AI與人類(lèi)的關(guān)系處于兩種關(guān)系中的一種，并且假定人類(lèi)相對(duì)于AI處于弱勢(shì)的時(shí)候，人類(lèi)才會(huì)面臨生存風(fēng)險(xiǎn)。

我們首先來(lái)分析關(guān)系(1)即AI成為人類(lèi)的競(jìng)爭(zhēng)物種。對(duì)這種可能的最直接反駁是：硅基存在者的AI和碳基存在者的人類(lèi)的需求是不同的。[28]我們可以進(jìn)一步強(qiáng)化這一論證。從生態(tài)學(xué)上來(lái)講，每個(gè)物種在環(huán)境中都會(huì)占據(jù)一個(gè)生態(tài)位(ecological niche)，即一個(gè)物種為了存活、生長(zhǎng)和繁殖所需的環(huán)境條件和空間。根據(jù)高斯假說(shuō)(Gause’s hypothesis)或競(jìng)爭(zhēng)排除原則，如果兩個(gè)物種占據(jù)了相同的生態(tài)位，那么就必然有一個(gè)物種會(huì)趨于消亡。因?yàn)閮蓚€(gè)物種在爭(zhēng)奪同一種食物資源的過(guò)程中，不可避免會(huì)產(chǎn)生相互的競(jìng)爭(zhēng)排斥。這意味著，兩個(gè)具有相同生態(tài)位的“完全競(jìng)爭(zhēng)者不能共存”。[29]如果用這一原則來(lái)判斷AI和人類(lèi)的關(guān)系，那么只有當(dāng)人類(lèi)與AI占據(jù)了相同或相似的生態(tài)位的時(shí)候，才會(huì)產(chǎn)生生存競(jìng)爭(zhēng)，從而發(fā)生物種取代的現(xiàn)象。但AI是否會(huì)占據(jù)人類(lèi)的生態(tài)位？我們暫且不用考慮AI與人類(lèi)生態(tài)位重疊的問(wèn)題，只需要先來(lái)思考AI能否能占據(jù)一個(gè)生態(tài)位。一個(gè)能動(dòng)者要占據(jù)特定的生態(tài)位，需要深刻地嵌入到環(huán)境之中，與其實(shí)現(xiàn)充分的交互作用，可以從環(huán)境中直接取用資源以維持和再生產(chǎn)自身，并能進(jìn)一步繁殖后代。這樣的能動(dòng)者必須具有如此特征：自創(chuàng)生機(jī)能和繁殖機(jī)能。

我們繼續(xù)來(lái)分析關(guān)系(2)即人類(lèi)成為AI的食物或寄生宿主——這也包括了人類(lèi)作為AI的蓄養(yǎng)牲口的可能。無(wú)論是捕食還是寄生，都是生物體試圖從其他生物體那里直接獲取物質(zhì)和能量，通過(guò)內(nèi)部的反應(yīng)網(wǎng)絡(luò)以維持和再生產(chǎn)自身。然而，AI作為無(wú)機(jī)的機(jī)器，維持它工作的直接能源是電能，不需要通過(guò)捕食和寄生來(lái)獲取能量，而再生產(chǎn)自身的物質(zhì)資源也來(lái)自于外部。AI如果要通過(guò)捕食人類(lèi)來(lái)維持和再生產(chǎn)自身，它必須發(fā)展到一種人工生命形態(tài)，并具有自創(chuàng)生機(jī)能的特征。

綜合以上分析，基于種群間關(guān)系(1)和(2)的生存風(fēng)險(xiǎn)是否成為可能，最終取決于AI能否發(fā)展成為具身的(而不是虛擬的)人工生命，并具有自創(chuàng)生和繁殖機(jī)能。然而，既有范式的AI不滿(mǎn)足自創(chuàng)生的標(biāo)準(zhǔn)，它根本不具有一個(gè)鮮活的身體，而且可以預(yù)期的未來(lái)人類(lèi)也不可能具有足夠高超的工程能力來(lái)實(shí)現(xiàn)這種身體。要求種群具有自創(chuàng)生機(jī)能的關(guān)系(1)和(2)是不可能出現(xiàn)的。因此，在可以預(yù)見(jiàn)的未來(lái)，AI并不會(huì)給人類(lèi)帶來(lái)生存風(fēng)險(xiǎn)。

四、AI的真正風(fēng)險(xiǎn)：決策風(fēng)險(xiǎn)

既然在AI發(fā)生范式革命之前，前述三種風(fēng)險(xiǎn)都不太可能出現(xiàn)，那么AI是否就真的毫無(wú)風(fēng)險(xiǎn)了呢？并非如此。最嚴(yán)重的風(fēng)險(xiǎn)來(lái)自社會(huì)和政治領(lǐng)域，具體包括：(1)普遍的結(jié)構(gòu)性失業(yè)；(2)社會(huì)不平等的加??；(3)自主軍事武器的濫用；(4)宣傳控制的強(qiáng)化；(5)大公司對(duì)數(shù)據(jù)的壟斷……這些議題無(wú)疑都很重要，但已超出本文的主題。我們僅從AI本身的難題出發(fā)，來(lái)探析一種真正的風(fēng)險(xiǎn)——決策風(fēng)險(xiǎn)。

AI最重要的應(yīng)用之一就是根據(jù)有限的信息和資源制定出最佳的行動(dòng)計(jì)劃。1980年代AI第二次浪潮中的專(zhuān)家系統(tǒng)和知識(shí)表征工程，正是試圖幫助甚至取代人類(lèi)在一些專(zhuān)門(mén)領(lǐng)域的決策。然而，如果AI在一些重要領(lǐng)域接管了人類(lèi)決策，有可能產(chǎn)生巨大的風(fēng)險(xiǎn)。對(duì)于這種風(fēng)險(xiǎn)，很多人擔(dān)憂(yōu)的是AI可能會(huì)脫離人類(lèi)的控制，對(duì)人類(lèi)造成嚴(yán)重的傷害。因此，他們?cè)噲D將AI設(shè)計(jì)為一個(gè)隱性的或顯性的道德能動(dòng)者，或者通過(guò)“約束機(jī)器的行動(dòng)以避免非倫理的后果”，或者通過(guò)為機(jī)器“編寫(xiě)包含了顯性倫理公理的代碼”以便讓它倫理地行動(dòng)。[30]這樣的觀念預(yù)設(shè)了一種認(rèn)知主義的倫理學(xué)，即一切道德意見(jiàn)都可以被表述為具有真值的信念。因此人類(lèi)的道德才能以邏輯表達(dá)式的形式被表述出來(lái)，進(jìn)而以代碼的形式被寫(xiě)入機(jī)器。我們?cè)诖瞬粩M介入非認(rèn)知主義者的反駁，暫且假定我們道德意見(jiàn)能被全部表述為顯性的信念。即便如此，由于我們?cè)谧龀鲆粋€(gè)道德決策的時(shí)候，需要調(diào)用大量的信念和知識(shí)，AI將面臨一個(gè)致命的決策風(fēng)險(xiǎn)：由于信念和知識(shí)難以被全部形式化和恰當(dāng)?shù)卮嫒?，AI不可避免地會(huì)經(jīng)常性地缺乏相關(guān)知識(shí)，最終將作出完全不符合常理的決策。這種決策風(fēng)險(xiǎn)不僅僅限于AI的道德決策，而是所有類(lèi)型的決策中都會(huì)面臨的一般性風(fēng)險(xiǎn)。它的特殊之處在于：不是由于AI太過(guò)聰明，而是因?yàn)锳I太過(guò)愚蠢。

這種決策風(fēng)險(xiǎn)實(shí)際上涉及了AI中的框架問(wèn)題。[31](P223-230)框架問(wèn)題是困擾AI最嚴(yán)重的問(wèn)題之一，至今仍然未得到有效的解決。對(duì)于框架問(wèn)題導(dǎo)致的決策風(fēng)險(xiǎn)，著名哲學(xué)家丹尼特曾舉例說(shuō)明：讓機(jī)器人進(jìn)入一個(gè)放著定時(shí)炸彈的房間，將里面的一塊備用電池取出來(lái)。但機(jī)器人取出電池的同時(shí)，也會(huì)連帶地取出和電池在同一個(gè)推車(chē)上的炸彈，結(jié)果炸彈爆炸了，機(jī)器人很難完成任務(wù)。[32](P155-156)

框架問(wèn)題實(shí)際上是人工智能中的常識(shí)問(wèn)題的不同版本。根據(jù)德雷福斯的觀點(diǎn)，常識(shí)問(wèn)題包含了兩類(lèi)不同的問(wèn)題：常識(shí)理解和相關(guān)項(xiàng)變化問(wèn)題。常識(shí)問(wèn)題在于計(jì)算機(jī)并不具備人類(lèi)掌握常識(shí)的能力，卻試圖在人類(lèi)世界中行動(dòng)，由此也將帶來(lái)嚴(yán)重的決策風(fēng)險(xiǎn)。正是因?yàn)槌ＷR(shí)問(wèn)題，那些試圖將倫理代碼寫(xiě)入計(jì)算機(jī)的企圖很可能將面臨失敗。以眾所周知的阿西莫夫的機(jī)器人三律令為例，它包含了三條倫理規(guī)則：(1)機(jī)器人不得傷害人類(lèi)(人類(lèi)遇到危險(xiǎn)它也必須設(shè)法解救)；(2)必須服從人給予它的命令，除非違反了律令(1)；(3)盡可能保護(hù)自己的生存，除非違反了律令(1)和(2)。暫且不論已經(jīng)有很多研究指出，這三條律令在很多情況下相互矛盾，即便它們之間是自洽的，實(shí)際上也不具備任何操作性，因?yàn)樗鼈儾⒉皇且?guī)則明晰、可以有效操作的指令。機(jī)器人所能執(zhí)行的直接行動(dòng)指令是諸如往什么方向和角度移動(dòng)多少位移。而類(lèi)似“拯救一個(gè)瀕死的人”這樣的指令，依賴(lài)于我們對(duì)一個(gè)人是否“瀕死”的判斷，以及對(duì)拯救方法的選擇，根本無(wú)法直接編碼讓機(jī)器執(zhí)行，而是需要基于相關(guān)知識(shí)做出極為復(fù)雜的推理之后，才能轉(zhuǎn)化為機(jī)器可以直接執(zhí)行的指令。然而，一方面這些判斷和選擇所涉及的常識(shí)都難以計(jì)數(shù)，另一方面在不同情境下救人有不同的救人方法。比如當(dāng)一個(gè)人上吊的時(shí)候，救他的辦法是剪斷繩子；但當(dāng)一個(gè)人在五層樓的窗戶(hù)下拉著一條繩子呼救的時(shí)候，救他的辦法就是拉起而不是剪斷那條繩子。要讓機(jī)器人三律令有效運(yùn)作，就必須對(duì)日常生活中的大量的背景知識(shí)進(jìn)行形式化，從而可以讓機(jī)器人據(jù)此做出推理，做出規(guī)劃。然而，這是一個(gè)不可能完成的任務(wù)，因?yàn)槲覀兗葻o(wú)法將這些常識(shí)全部形式化，也無(wú)法對(duì)這些常識(shí)恰當(dāng)?shù)卮嫒　Ｓ捎诔ＷR(shí)問(wèn)題的制約，計(jì)算機(jī)不可能達(dá)到人類(lèi)的決策水平，它不得不經(jīng)常犯一些有悖常識(shí)的錯(cuò)誤。因此，在框架問(wèn)題和常識(shí)問(wèn)題還沒(méi)有解決之前，人類(lèi)在開(kāi)放領(lǐng)域的決策絕對(duì)不能被AI完全接管，AI決策只能作為人類(lèi)決策的參考。

結(jié) 語(yǔ)

對(duì)后奇點(diǎn)時(shí)代的構(gòu)想通常涉及兩種情景：機(jī)器超越人類(lèi)，人類(lèi)將面臨尊嚴(yán)風(fēng)險(xiǎn)和道德風(fēng)險(xiǎn)；機(jī)器取代人類(lèi)，生存風(fēng)險(xiǎn)成為更嚴(yán)重的問(wèn)題。但根據(jù)人工智能哲學(xué)中的相關(guān)討論，除非AI研究取得革命性進(jìn)展，否則我們絕無(wú)可能進(jìn)入后奇點(diǎn)時(shí)代，機(jī)器既不大可能會(huì)超越人類(lèi)，更不大可能會(huì)取代人類(lèi)。因此人們擔(dān)心的尊嚴(yán)風(fēng)險(xiǎn)、道德風(fēng)險(xiǎn)和生存風(fēng)險(xiǎn)在可以預(yù)見(jiàn)的未來(lái)都將是杞人憂(yōu)天。對(duì)于當(dāng)下范式的AI而言，真正的風(fēng)險(xiǎn)是決策風(fēng)險(xiǎn)，它可能導(dǎo)致AI做出難以預(yù)料的錯(cuò)誤決策。