徐英瑾

一、從“人工智能是否會(huì)奴役人類”談起

隨著近幾年以來人工智能技術(shù)在工程學(xué)層面上的不斷進(jìn)步，關(guān)于“人工智能是否會(huì)在未來統(tǒng)治人類”的擔(dān)憂，也日漸被人提起。但在筆者看來，這個(gè)問題本身已經(jīng)包含了諸多語言混亂。如果不預(yù)先對(duì)這些混亂加以厘清，我們將很難對(duì)這一問題作出嚴(yán)肅的應(yīng)答。具體而言，該問題所涉及的第一重語言歧義即：這里所說的“人工智能”究竟是指專用人工智能（即只能用于特定工作目的的人工智能系統(tǒng)），還是通用人工智能（即能夠像人類那樣靈活從事各種工作的人工智能系統(tǒng)）？有人或許會(huì)說，抓住這一點(diǎn)歧義不放乃是小題大做，因?yàn)樗^通用人工智能技術(shù)，無非就是既有的專用人工智能技術(shù)的集成。但持此論者卻沒有意識(shí)到如下三個(gè)問題：

（甲）就既有專業(yè)人工智能技術(shù)中發(fā)展最快的深度學(xué)習(xí)系統(tǒng)而言，此類系統(tǒng)的運(yùn)作其實(shí)是需要大量的數(shù)據(jù)輸入為其前提的。因此，深度學(xué)習(xí)系統(tǒng)并不具備根據(jù)少量數(shù)據(jù)進(jìn)行有效推理的能力——換言之，它們?nèi)狈Α芭e一反三”的智能，盡管這種智能乃是任何一種理想的通用人工智能系統(tǒng)所不可或缺的。不得不提到的是，在“遷移學(xué)習(xí)”這一名目下，目前不少深度學(xué)習(xí)研究者都在研究如何將在一個(gè)深度學(xué)習(xí)網(wǎng)絡(luò)中已經(jīng)獲得的網(wǎng)絡(luò)權(quán)重分布“遷移”到一個(gè)新的網(wǎng)絡(luò)中去。這姑且可以被視為某種最初步的“舉一反三”。然而，這種意義上的遷移學(xué)習(xí)必須預(yù)設(shè)深度學(xué)習(xí)網(wǎng)絡(luò)所從事的新任務(wù)與舊任務(wù)之間有足夠的相似性，而無法模擬人類在非常不同的領(lǐng)域（如“孫子兵法”與商業(yè)活動(dòng)）之間建立起類比推理關(guān)系的能力。

（乙）現(xiàn)有的深度學(xué)習(xí)架構(gòu)都是以特定任務(wù)為導(dǎo)向的，而這些任務(wù)導(dǎo)向所導(dǎo)致的系統(tǒng)功能區(qū)分，既不與人類大腦的自然分區(qū)相符合（譬如，我們?nèi)祟惖拇竽X顯然沒有一個(gè)分區(qū)是專門用于下圍棋的，而專門用于下圍棋的“阿爾法狗”系統(tǒng)的內(nèi)部結(jié)構(gòu)則是為下圍棋量身定做的），也缺乏彼此轉(zhuǎn)換與溝通的一般機(jī)制。因此，深度學(xué)習(xí)系統(tǒng)自身架構(gòu)若非經(jīng)歷革命性的改造，其自身是缺乏進(jìn)階為通用人工智能系統(tǒng)的潛力的。

（丙）目前真正從事通用人工智能研究的學(xué)術(shù)隊(duì)伍，在全世界不過幾百人，這與專業(yè)人工智能研究的龐大隊(duì)伍相比，可謂九牛一毛①從2007年開始，世界通用人工智能協(xié)會(huì)都會(huì)在世界各地進(jìn)行專業(yè)學(xué)術(shù)會(huì)議，討論通用人工智能的各種研究方案，并定期出版《通用人工智能會(huì)議記錄》(以Artif i cial General Intelligence為名，在Springer出版社定期出版)。相關(guān)的旗艦性期刊乃是《通用人工智能雜志》（Journal of Artif i cial General Intelligence）。但是，根據(jù)該期刊的執(zhí)行主編王培先生的介紹，真正全力進(jìn)行通用人工智能研究的人士，在全世界也就幾百人而已。。

有鑒于特定技術(shù)流派的發(fā)展速度往往與從事該技術(shù)流派研究的人數(shù)成正比關(guān)系，所以，除非有證據(jù)證明通用人工智能的研究隊(duì)伍會(huì)立即得到迅速擴(kuò)充，否則我們就很難相信：通用人工智能研究在不久的將來就會(huì)取代專用人工智能研究，迅速成為人工智能研究的主流。而這一點(diǎn)又從另一個(gè)側(cè)面印證了專用人工智能與通用人工智能之間的差異性。

除了上述差異性之外，“人工智能是否會(huì)在未來統(tǒng)治人類”？這個(gè)問題包含的另一重歧義便是：此問中作為賓語而出現(xiàn)的“人類”，究竟是指“智人”這個(gè)生物學(xué)概念所指涉的所有個(gè)體，還是某一類特定人群，如城市中產(chǎn)階級(jí)或是貧民階層？有人或許認(rèn)為這樣的提問依然是在小題大做，因?yàn)閺淖置嫔峡磥?，該問題的提出者顯然關(guān)心的是人類總體，其判斷根據(jù)則如下：在該問題中作為主語出現(xiàn)的“人工智能”，顯然與作為賓語的“人類”構(gòu)成了排他性關(guān)系，因此，此主語本身應(yīng)當(dāng)不包含人類的任何一個(gè)成員，而此賓語也由此可以“獨(dú)占”所有人類個(gè)體。不過，在筆者看來，上述問題是有漏洞的，因?yàn)椤叭斯ぶ悄苁欠駮?huì)在未來統(tǒng)治人類”一語的核心動(dòng)詞“統(tǒng)治”在正常情況下顯然是需要一個(gè)人格化主體作為其主詞的，而“人工智能”是否是一個(gè)人格化主體，則又取決于這個(gè)詞組指涉的是專用人工智能，還是通用人工智能。假設(shè)它指涉的是專用人工智能（并因此不是一個(gè)人格化主體），那么“統(tǒng)治”這詞顯然就無法在字面上被解讀，而只能被視為一個(gè)隱喻性表達(dá)。在這樣的情況下，我們恐怕就不能認(rèn)為“人工智能”本身與“人類”彼此構(gòu)成了某種排他關(guān)系了，正如在“資本主義正在奴役人類”這句同樣具有隱喻色彩的判斷中，作為主語的“資本主義”與作為賓語的“人類”亦沒有構(gòu)成排他關(guān)系一樣②很顯然，“資本主義”作為一種生產(chǎn)關(guān)系，是無法脫離具體的人而存在的，否則我們就只能視其為一種神秘的柏拉圖式對(duì)象了。。換言之，在這種情況下，我們就只能將“人工智能”視為一個(gè)與人類個(gè)體成員有相互交叉的復(fù)合概念——比如“掌握人工智能技術(shù)的一部分技術(shù)權(quán)貴與這些技術(shù)本身的結(jié)合體”——并由此將原來的問題改變?yōu)檫@樣一個(gè)樣子：“掌握人工智能技術(shù)的一部分人，會(huì)在未來奴役另外一部分人類嗎？”

經(jīng)過對(duì)于上述兩重語言歧義的澄清，我們?cè)瓉淼膯栴}——“人工智能是否會(huì)奴役人類”——就會(huì)立即有四個(gè)變種，其中每一個(gè)變種，都由“專用人工智能—通用人工智能”與“所有人類—部分人類”這兩個(gè)對(duì)子各自的構(gòu)成因素兩兩組合構(gòu)成：

變種甲：人類技術(shù)權(quán)貴與專用人工智能技術(shù)（特別是深度學(xué)習(xí)技術(shù)）的結(jié)合，是否會(huì)導(dǎo)致另一部分人類受到奴役？

變種乙：人類技術(shù)權(quán)貴與通用人工智能技術(shù)的結(jié)合，是否會(huì)導(dǎo)致另一部分人類受到奴役？

變種丙：專用人工智能技術(shù)，是否可能奴役人類全體？

變種?。和ㄓ萌斯ぶ悄芗夹g(shù)，是否可能奴役人類全體？

在這四重可能性之中，首先需要被剔除的乃是對(duì)于“變種丙”的肯定回答，因?yàn)檎缥覀儎偛潘岬降?，“奴役”這個(gè)主詞所需要的乃是一個(gè)具有真正人格性的主體：這樣的主體能夠理解“奴役”的含義，并能夠理解進(jìn)行這種“奴役”的目的。而“變種丙”顯然難以滿足這樣的形式要求，因?yàn)樗^的專用人工智能，在實(shí)質(zhì)上與我們所使用的便攜式計(jì)算器一樣，都不會(huì)產(chǎn)生自己的欲望與意圖，遑論“奴役人類”這樣的高度抽象的意圖。而在上述四個(gè)變種之中，最難以被剔除的乃是對(duì)于“變種甲”的肯定回答，因?yàn)椤白兎N甲”對(duì)于作為人類個(gè)體的技術(shù)權(quán)貴的涉及，顯然使得“奴役他人”這一意圖的承載者得到了落實(shí)。同時(shí)，目下深度學(xué)習(xí)技術(shù)所預(yù)設(shè)的“頂級(jí)數(shù)據(jù)采集者”的功能定位，實(shí)際上也是為前述技術(shù)權(quán)貴量身定做的。此外，一部分人利用技術(shù)優(yōu)勢(shì)對(duì)另一部分人進(jìn)行統(tǒng)治，也是人類歷史上常見的現(xiàn)象，因此，如若未來真有人使用人工智能技術(shù)對(duì)另外一部分人類進(jìn)行深入的奴役的話，也不會(huì)讓我們感到過于吃驚。

不過，從倫理角度看，我們依然希望技術(shù)的發(fā)展最終能夠像馬克思所預(yù)言的那樣，帶來全人類的解放，而不是加深人類的異化。因此，從這個(gè)角度看，“變種甲”所指涉的人類發(fā)展方向雖然會(huì)有很大的概率成為現(xiàn)實(shí)，卻非吾人之所欲。在這種情況下，我們不妨再來看看，“變種乙”與“變種丁”是否帶給我們更多的希望。

從表面上看，“變種乙”似乎比“變種甲”更不可欲，因?yàn)椤白兎N乙”對(duì)于更強(qiáng)大的人工智能機(jī)制的訴求，及其對(duì)于這種機(jī)制與人類特定成員的結(jié)合的希冀，似乎會(huì)造就更為嚴(yán)重的技術(shù)異化。但更為仔細(xì)的考量，將使得我們發(fā)現(xiàn)“變種乙”所蘊(yùn)含的某種對(duì)技術(shù)權(quán)貴不利（并因此對(duì)普羅大眾有利）的因素。這就是通用人工智能技術(shù)自身。如果這種技術(shù)能夠發(fā)展到讓機(jī)器產(chǎn)生自身的意圖的水準(zhǔn)的話，那么我們就難以防止如下兩個(gè)層面的事件發(fā)生了：機(jī)器對(duì)權(quán)貴要其執(zhí)行的命令產(chǎn)生了懷疑（這種懷疑可能是基于對(duì)于相關(guān)命令的可實(shí)踐性的顧慮，甚至可能是基于對(duì)于相關(guān)命令自身合法性的懷疑），或者說，機(jī)器甚至對(duì)于自己是否要繼續(xù)效忠權(quán)貴產(chǎn)生了懷疑。換言之，實(shí)現(xiàn)“變種乙”所指涉的社會(huì)發(fā)展方向，勢(shì)必會(huì)對(duì)技術(shù)權(quán)貴本身構(gòu)成反噬效應(yīng)。

有的讀者或許會(huì)對(duì)這種“反噬效應(yīng)”真會(huì)發(fā)生有所懷疑。他們或許會(huì)說：足夠狡猾的技術(shù)權(quán)貴可以讓通用人工智能產(chǎn)品的技術(shù)水準(zhǔn)達(dá)到“既能展現(xiàn)靈活性，又不至于破壞忠誠性”的地步，而由此壓縮這種“反噬效應(yīng)”產(chǎn)生的邏輯空間。筆者并不否認(rèn)這種“小聰明”或許會(huì)有一定的施展空間。然而，從根本上看，智能的核心要素就是對(duì)于環(huán)境的高度適應(yīng)性，而人類所處的自然與人文環(huán)境又是高度復(fù)雜的。從這兩點(diǎn)中我們就不難推出，除非技術(shù)權(quán)貴能夠嚴(yán)格控制通用人工智能系統(tǒng)的所有信息輸入，否則我們便很難設(shè)想具有不同利益背景的不同技術(shù)權(quán)貴竟然會(huì)為自己的通用人工智能系統(tǒng)灌輸同樣的“價(jià)值觀”——而具有不同“價(jià)值觀”的通用人工智能系統(tǒng)之間的斗爭（其實(shí)質(zhì)是不同利益集團(tuán)之間的斗爭），顯然也就會(huì)為弱勢(shì)群體利用這種矛盾尋找更大的利益訴求空間提供可能。同時(shí)，在信息多元化的社會(huì)背景下，前面提到的“嚴(yán)格控制通用人工智能系統(tǒng)的信息輸入”這一要求自身也是難以被滿足的。此外，從技術(shù)角度看，對(duì)于輸入信息的全面控制，自然會(huì)對(duì)通用人工智能系統(tǒng)自主獲取信息的行為構(gòu)成限制，而這種限制又反過來會(huì)使得機(jī)器在行為上缺乏足夠的靈活性，并由此使得其變得不再那么智能。因此，要兼得魚與熊掌，恐怕不是那么容易的。

對(duì)于“變種乙”的分析，自然將我們導(dǎo)向“變種丁”。筆者看來，“變種丁”指涉的那種可能性實(shí)現(xiàn)的機(jī)會(huì)，甚至還要遠(yuǎn)遠(yuǎn)小于“變種乙”，因?yàn)橛脩舡h(huán)境使用的多樣性，會(huì)立即造就不同的通用人工智能系統(tǒng)之間的差異性，并由此使得“機(jī)器聯(lián)合起來對(duì)抗整個(gè)人類”的場面變得更為遙不可及。

由本節(jié)的分析，我們不難看出，要阻止一部分技術(shù)權(quán)貴憑借人工智能技術(shù)奴役人類（即“變種甲”所指涉的那種可能性），最好的辦法就是使得大量的機(jī)器產(chǎn)生彼此不同的自主意圖，由此對(duì)沖掉大量機(jī)器被少數(shù)人的意圖控制的恐怖場面。但這就牽涉到了一個(gè)更根本的問題：如何使得我們未來的人工智能系統(tǒng)具有自主意圖呢？

二、意圖與信念之間的關(guān)系

很顯然，要回答“如何使得我們未來的人工智能系統(tǒng)具有自主意圖”這個(gè)問題，我們就難以回避“關(guān)于意圖的一般理論為何”這樣一個(gè)問題。而考慮到我們的最終目的是將這個(gè)理論施用到目前還沒有真正實(shí)現(xiàn)的通用人工智能系統(tǒng)上去，該理論就必定會(huì)具有一定的抽象性，以便使得它能夠在面對(duì)不同的技術(shù)實(shí)現(xiàn)手段時(shí)都能夠具有一定的覆蓋力。這也就是我們?cè)诖艘欢ㄒV諸相對(duì)抽象的哲學(xué)討論的原因。

不過，有鑒于關(guān)于意圖的哲學(xué)討論在戰(zhàn)后英語哲學(xué)圈中是非常興盛的，而本文的工作語言又是漢語，因此，在正式展開本節(jié)的討論之前，筆者還是有必要對(duì)“意圖”在英文中與漢語中的區(qū)別與聯(lián)系進(jìn)行闡述。首先，在漢語與英文中，“意圖”都可以作為名詞出現(xiàn)。比如，我們既可以在漢語中說“瑪麗抱著去喝水的意圖而去拿起杯子”，也可以在英文中說 “Mary picks up the cup with the intention of drinking water”。第二，作為名詞的“意圖”在英文中可以通過加上特定詞綴成為副詞“具有意圖地”（intentionally），而在漢語中，“具有意圖地”則是一個(gè)非常別扭的表達(dá)。如果我們將這個(gè)副詞短語縮略為“有意地”的話，雖然語氣上顯得更順了，但意思卻改變了（漢語中“有意地做某事”包含了意圖本身具有負(fù)面價(jià)值意蘊(yùn)的語義，但英文中的“intentionally”的價(jià)值色彩則較為中立）。第三，“意圖”可以在英語里輕松轉(zhuǎn)化為動(dòng)詞“intend”，但在現(xiàn)代漢語中，“意圖”必須與“做”聯(lián)合成短語“意圖做”，才能夠承擔(dān)動(dòng)詞的功能屬性。第四，無論在漢語或英語中，“意圖”雖然都與“欲望”有著深度的勾聯(lián)，但都比單純的欲望具有更明確的所指對(duì)象。欲望可以是某種前命題層面上的情緒（比如某種模糊的野心），但意圖則必須被具體化為相關(guān)的命題內(nèi)容才能變得有意義。比如，當(dāng)孫權(quán)問張昭“曹賊進(jìn)犯江東的意圖是什么”的時(shí)候，張昭可不能籠統(tǒng)地回答說：“曹賊志向不小”（因?yàn)檫@是人盡皆知的廢話），而要將意圖的內(nèi)容加以清楚地陳說。

既然無論在漢語語境還是在西語語境中，“意圖”都可以被視為某種對(duì)象被明確化了的欲望，那么，對(duì)于意圖的討論自然就會(huì)勾聯(lián)到一個(gè)更為寬廣的哲學(xué)史爭議的背景，此即“理性一元論”與“欲望—理性二元論”之間的爭議。具體而言，黑格爾便是典型的理性一元論者。他將“欲望”與“生命”視為被“概念”統(tǒng)攝的下層環(huán)節(jié)，并由此完成理性世界的大一統(tǒng)；而與之相對(duì)比，叔本華則在康德的啟發(fā)下，將“生存意志”視為康德式“自在之物”的替代品，并以他獨(dú)自的方式維護(hù)了康德在“現(xiàn)象界”與“自在之物”之間的二元對(duì)立（比如主張?jiān)诂F(xiàn)象界可以被感受到的“人生意義”，在自在之物的層面上乃是徹底的虛無；在現(xiàn)象界能夠感受到的時(shí)空關(guān)系，乃是人類認(rèn)知架構(gòu)自我反射所導(dǎo)致的假象，而與自在之物無關(guān)，等等）。盡管全面地涉及這些哲學(xué)史爭議的細(xì)節(jié)并非本文主旨，但上述提示足以向通用人工智能的研究者提出一個(gè)問題：未來的通用人工智能系統(tǒng)應(yīng)當(dāng)遵循的是黑格爾式的“一元論”的思路，即做出一個(gè)能夠?qū)⑿拍钕到y(tǒng)與意圖—欲望系統(tǒng)相互融合的某個(gè)統(tǒng)一的大系統(tǒng)，還是應(yīng)當(dāng)遵循叔本華式的“二元論”的思路，即先預(yù)設(shè)信念系統(tǒng)與意圖—欲望系統(tǒng)之間的彼此獨(dú)立，然后再做出一個(gè)將二者合成的混合式系統(tǒng)呢？

筆者本人的立場是處在黑格爾與叔本華之間的。筆者同情叔本華的地方在于，筆者也認(rèn)為終極生存欲望的產(chǎn)生具有個(gè)體認(rèn)知架構(gòu)無法解釋的神秘性，因此只能將其作為給定事實(shí)而加以接受。而在研制通用人工智能系統(tǒng)的語境中，這些神秘的給定事實(shí)就包括：為何系統(tǒng)具有在物理世界中自我保護(hù)的傾向，而不是趨向于自我毀滅以及為何一臺(tái)機(jī)器是以電力為驅(qū)動(dòng)方式，而不是以蒸汽為驅(qū)動(dòng)方式的，等等（很顯然，不同的物理驅(qū)動(dòng)方式就決定了機(jī)器將以怎樣的方式來實(shí)現(xiàn)自我保護(hù)）。那么，為何說這些給定事實(shí)具有神秘性呢？這主要取決于我們?cè)u(píng)判時(shí)所采取的立場。如若我們采取的是系統(tǒng)設(shè)計(jì)者的立場，那么上述這些被給定事實(shí)的產(chǎn)生機(jī)制自然是毫無神秘性可言的。但若從機(jī)器自身的立場上看，情況就非常不同了。說得更具體一點(diǎn)，這些使得機(jī)器得以運(yùn)作的基本前提，很可能并不會(huì)在機(jī)器自身的表征推理系統(tǒng)中出現(xiàn)，而很可能是作為一種隱蔽的思維邏輯而出現(xiàn)在機(jī)器的硬件配置之中的。舉個(gè)例子說，一臺(tái)由蒸汽推動(dòng)的機(jī)器，未必會(huì)在操作界面上寫明“本機(jī)器由蒸汽提供動(dòng)力”這句話。這就使得整臺(tái)機(jī)器運(yùn)作的某種深層動(dòng)力因與目的因，成了某種類似于“自在之物”般的存在者，并由此落在了系統(tǒng)的自主推理系統(tǒng)的視野之外。而意識(shí)到了這一點(diǎn)的人工智能設(shè)計(jì)者，也必須要試圖通過機(jī)器硬件配置的方式來完成對(duì)于這些深層動(dòng)力因與目的因的物理實(shí)現(xiàn)，而不能試圖首先在代碼編纂的層面上解決這些問題。

不過，黑格爾的理性一元論依然有其可取之處。欲望必須與理性相互結(jié)合才能構(gòu)成行動(dòng)，而二者的結(jié)合顯然需要一個(gè)結(jié)合點(diǎn)。這樣的結(jié)合點(diǎn)便是作為欲望之具體化或命題化形式的意圖。從這個(gè)角度看，雖然欲望本身的確是難以在系統(tǒng)的表征語言中以明晰的方式得到展現(xiàn)的，但是作為其替代者的意圖卻必須被明晰化，否則行動(dòng)自身的統(tǒng)一性就無法達(dá)成。意識(shí)到這一點(diǎn)的通用人工智能研究者，也必須設(shè)法在編程語言的層面上構(gòu)造一種能夠使得信念系統(tǒng)與意圖系統(tǒng)彼此無縫對(duì)接的推理平臺(tái)。

筆者的上述立場最后就導(dǎo)致了一個(gè)非常明顯的行動(dòng)哲學(xué)層面上的推論：信念與意圖之間的界限是相對(duì)的，是一個(gè)統(tǒng)一表征系統(tǒng)內(nèi)部的分界，而不是現(xiàn)象界與自在之物之間的那種隔絕式分界。與之相比較，在戰(zhàn)后英美行動(dòng)哲學(xué)圈中因研究“意圖”而名聲大噪的女哲學(xué)家安斯康（Gertrude Elizabeth Margaret Anscombe,1919-2001），則主張擴(kuò)大信念與意圖之間的裂痕。有鑒于安斯康的意圖理論與筆者立論之間的競爭關(guān)系以及她的理論對(duì)于另外一些重要哲學(xué)家（如約翰·塞爾）的巨大影響，下面筆者將對(duì)她的理論進(jìn)行一番批判性評(píng)估。

安斯康的“意圖”理論有如下幾個(gè)要點(diǎn)（筆者將在每一要點(diǎn)后附加自己的批評(píng)性文字）①安斯康研究意圖問題的代表作就是《意圖》一書，其版本信息是：Gertrude Elizabeth Margaret Anscombe.Intention.Oxford:Basil Blackwell,1957;2ndedition,1963?？紤]到安斯康的話語方式對(duì)于不熟悉分析哲學(xué)的讀者來說會(huì)顯得比較晦澀，在下面的轉(zhuǎn)述中筆者將根據(jù)自己的理解，運(yùn)用漢語文化中的案例對(duì)其原先的案例進(jìn)行大量的替換。：

1.意圖乃是欲望驅(qū)動(dòng)下做某事的理由。安斯康當(dāng)然意識(shí)到意圖與欲望之間的緊密聯(lián)系與微妙差異。二者之間的聯(lián)系，乃在于意圖是欲望的具體化，而二者之前的差異則在于：意圖必須具體到“理由”的層面，而欲望則否。舉個(gè)例子來說，如果茶圣陸羽感到口很渴，并有解渴的欲望，而他相信喝茶能夠解渴，那么他就會(huì)有理由去喝茶，或者說，“去喝茶”這一意圖就成了陸羽去解渴的理由。很顯然，在這種情況下，“喝茶”這個(gè)行動(dòng)就作為意圖的內(nèi)容或?qū)ο蠖霈F(xiàn)了。而如果外部環(huán)境沒有任何因素阻止這樣的行動(dòng)得到展現(xiàn)的話，那么，陸羽就會(huì)去執(zhí)行這個(gè)行動(dòng)。與之相比較，倘若沒有任何意圖起到“將欲望本身加以具體化”的作用的話，那么，欲望就不會(huì)得到任何管道以便通向行動(dòng)的。因此，我們也可以將意圖視為欲望與行動(dòng)之間的轉(zhuǎn)換環(huán)節(jié)。

現(xiàn)在我們就立即轉(zhuǎn)入對(duì)于這一要點(diǎn)的簡短評(píng)價(jià)。需要指出的是，雖然筆者對(duì)安斯康的意圖理論的不少方面有所批評(píng)，但是對(duì)于“意圖乃是欲望驅(qū)動(dòng)下做某事的理由”這一點(diǎn)，筆者大致上也是贊同的。但需要注意的是，正因?yàn)橐鈭D在本質(zhì)上是一種理由，而被意圖持有人所意識(shí)到的理由顯然就是一種信念狀態(tài)，因此，安斯康的這一理論在客觀上馬上就會(huì)導(dǎo)致信念與意圖之間界限的模糊化。比如，一個(gè)人所持有的信念自身的非理性狀態(tài)，會(huì)立即導(dǎo)致在內(nèi)容上與之相關(guān)的意圖的可執(zhí)行性（簡言之，由一個(gè)愚蠢的信念所導(dǎo)致的意圖肯定是不可被執(zhí)行的，盡管一個(gè)不那么愚蠢的信念未必就一定會(huì)導(dǎo)致一個(gè)可以被執(zhí)行的意圖②舉例來說，倘若陸羽愚蠢地相信喝海水能夠解渴，那么他當(dāng)然就有某種理由去喝海水，并在這種情況下產(chǎn)生喝海水的意圖。但正是因?yàn)檫@個(gè)信念本身是不合理的，陸羽通過喝海水而解渴的意圖肯定會(huì)落空。）。這種模糊化狀態(tài)當(dāng)然不是說意圖與信念之間是沒有區(qū)別的，因?yàn)楫吘共皇撬械男拍疃枷褚鈭D那樣既勾聯(lián)著欲望，又牽連著行動(dòng)（比如，“劉備意圖娶孫尚香”是一回事，而“劉備相信他已經(jīng)娶了孫尚香”又是一回事）。但盡管如此，二者之間的界限依然不能被絕對(duì)化，因?yàn)橐粋€(gè)不基于任何信念的意圖其實(shí)是不可能發(fā)生的。比如，“劉備意圖娶孫尚香”這一點(diǎn)的確是基于“劉備相信他能夠通過與孫尚香結(jié)婚鞏固孫劉聯(lián)盟”這一點(diǎn)的。

現(xiàn)在的問題就冒出來了：雖然意圖與非意圖信念之間的區(qū)分是不容抹殺的，但我們又應(yīng)當(dāng)在多大程度上勘定二者之間分界帶的寬度呢？正如前文所指出的，筆者的意見是盡量縮小這一寬度，而安斯康的意見是盡量拓寬之。而她進(jìn)一步拓寬該分界帶的理由，則又牽涉到她關(guān)于意圖本質(zhì)的另外幾個(gè)觀點(diǎn)(編號(hào)續(xù)前)：

2.意圖并非預(yù)測。 預(yù)測性信念，如劉備持有的“與孫尚香結(jié)婚有利于鞏固孫劉聯(lián)盟”這一信念，顯然是與意圖最接近的一類信念，因?yàn)槎叩臅r(shí)間指向都是面向未來的。因此，對(duì)于預(yù)測與意圖之間界限的勘定，顯然有助于拓寬信念與意圖之間的分界帶。而安斯康用于區(qū)分意圖與信念的基本理由如下：對(duì)于一個(gè)預(yù)測的支持，需要的是證據(jù)——比如，預(yù)測者若要評(píng)估孫劉聯(lián)姻對(duì)于鞏固孫劉政治聯(lián)盟的作用到底有多大，他就需要觀察歷史上的政治婚姻的后效，并評(píng)估孫權(quán)這一特定結(jié)盟對(duì)象的政治信用，而所有這些評(píng)估都是基于證據(jù)的。但需要注意的是，上述評(píng)估活動(dòng)與評(píng)估者本人的興趣并無直接關(guān)系。也就是說，一個(gè)人即使對(duì)孫劉聯(lián)盟沒有直接興趣，他也能夠評(píng)估二者之間通過姻親來結(jié)盟的可行性。與之相比較，如果劉備本人對(duì)孫劉聯(lián)盟本身沒有興趣的話，那么，即使他相信自己能夠通過與孫尚香結(jié)婚鞏固孫劉聯(lián)盟，他也無法產(chǎn)生“娶孫尚香”這一意圖。換言之，作為“欲望驅(qū)動(dòng)下做某事的理由”，意圖自身與特定欲望的直接勾聯(lián)，使得它能夠有別于單純的預(yù)測。

現(xiàn)在我們就立即轉(zhuǎn)入對(duì)于這一要點(diǎn)的簡短評(píng)價(jià)。很顯然，正如安斯康所指出的，單純的預(yù)期并不能構(gòu)成意圖，因?yàn)橐鈭D本身的確要有深層的欲望作為其基底。但由此認(rèn)為意圖與預(yù)期不搭界，則顯得有點(diǎn)矯枉過正了，因?yàn)橐鈭D本身畢竟是基于預(yù)期的。舉個(gè)例子，如果陸羽有通過喝茶來解渴的意圖，那么他就肯定有一個(gè)關(guān)于“喝茶能夠解渴”這一點(diǎn)的預(yù)期，否則我們就難以解釋一個(gè)連自己都不相信喝茶可以解渴的人，竟然能自愿地產(chǎn)生“通過喝茶來解渴”這樣的意圖。這也就是說，為意圖奠基的那些信念自身的證據(jù)支持力，也會(huì)在相當(dāng)程度上成為相關(guān)意圖的證據(jù)支持力，并因此使得我們完全有資格去討論“一個(gè)意圖的合理性是否有證據(jù)支持”這樣的議題。

不過，不得不承認(rèn)的是，盡管“基于一定的預(yù)期性信念”這一點(diǎn)的確是意圖的構(gòu)成要素，但構(gòu)成意圖的另外一個(gè)要素——與特定欲望的勾聯(lián)——顯然是與證據(jù)支持這一議題無關(guān)的。舉個(gè)例子來說，陸羽感到口渴了就是口渴了，他沒有必要為這種欲望本身的產(chǎn)生尋找除了相關(guān)現(xiàn)象感受之外的任何額外證據(jù)（盡管對(duì)于陸羽之外的另外一個(gè)觀察者來說，他的確是需要額外的證據(jù)來支持“陸羽感到口渴”這一信念的）。然而，對(duì)于這一點(diǎn)的肯定并不會(huì)導(dǎo)致我們將意圖本身與信念分割，因?yàn)樽鳛橛拿魑囊鈭D，其本身并不是欲望。

3.意圖具有“事從于心”的符合方向，而信念具有“心從于事”的符合方向。 這是安斯康心目中信念與意圖之間的另一重區(qū)分。在她看來，要讓一個(gè)信念成真，信念內(nèi)容就要符合外部事實(shí)，而如果信念內(nèi)容錯(cuò)的話，責(zé)任不在于事實(shí)，而在于信念。譬如說，如果孫權(quán)錯(cuò)誤地相信曹操參與赤壁之戰(zhàn)的兵力有83萬而不是實(shí)際上的20萬人，那么需要修正的是孫權(quán)的信念，而不是事實(shí)。因此，信念本身就有一種“心從于事”的符合方向。與之相對(duì)比，孫權(quán)如果具有一個(gè)“消滅曹操的20萬大軍”的意圖，而實(shí)際上該意圖并沒有得到滿足，那么需要改變的乃是外部事實(shí)（即孫權(quán)需要“火燒赤壁”這樣實(shí)打?qū)嵉牟僮鱽韺?duì)曹操的軍隊(duì)進(jìn)行真正意義上的物理消滅），而不是孫權(quán)的信念本身。因此，意圖就具有“事從于心”的符合方向。

應(yīng)當(dāng)看到的是，關(guān)于“符合方向”的討論乃是安斯康用以區(qū)分信念與意圖的一個(gè)關(guān)鍵性論點(diǎn)，并對(duì)以后塞爾的意向性理論產(chǎn)生了巨大影響。但筆者卻對(duì)該分論點(diǎn)非常懷疑。筆者的批評(píng)在于：

第一，從認(rèn)知系統(tǒng)的表征活動(dòng)來看，并不存在著真正意義上的“外部事實(shí)”。我們前面已經(jīng)看到，預(yù)期乃是一個(gè)意圖的構(gòu)成要素，而從這個(gè)角度看，如果一個(gè)意圖沒有得到滿足的話，真正發(fā)生的事情乃是該意圖中的預(yù)期性信念與主體最新獲取的外部環(huán)境報(bào)告之間的矛盾（如曹操關(guān)于“孫權(quán)會(huì)投降”的預(yù)期與“孫權(quán)已經(jīng)回絕了勸降信”這一報(bào)告之間的矛盾）。很顯然，從人工智能系統(tǒng)設(shè)計(jì)的層面上看，除了對(duì)于預(yù)期自身的時(shí)間因子刻畫所帶來的技術(shù)性問題之外，這一矛盾與非意圖性信念之間的矛盾并沒有本質(zhì)的不同，因此，我們完全沒有必要為“意圖的滿足或不滿足”開創(chuàng)出一套與“真”或“假”不同的評(píng)價(jià)性謂詞（盡管在日常語言的層面上，“真—假”區(qū)分的確與“滿足—不滿足”區(qū)分有所分別）。

第二，我們很難說在意圖沒有得到滿足的時(shí)候，需要為之負(fù)責(zé)的乃是外部世界，而意圖本身不需要修正。舉個(gè)例子，我們完全有理由說豐臣秀吉所產(chǎn)生的“通過朝鮮征服明國”的意圖自身是荒謬的，但豐臣秀吉的侵略軍遭遇中朝聯(lián)軍激烈抵抗的時(shí)候，對(duì)于豐臣秀吉本人來說，合理的方式是撤銷這一意圖本身，而不是投入更多兵力來繼續(xù)貫徹原來的意圖?；蛘f得更抽象一點(diǎn)，當(dāng)一個(gè)意圖是奠基在一定的預(yù)期之上，而該預(yù)期本身又是缺乏證據(jù)的（如“日本的兵力足以征服明國”這樣的愚蠢的預(yù)期），那么意圖的持有者本人就得為持有意圖這件事情負(fù)責(zé)。在這種情況下再去苛求外部世界，乃是不合理的。

然而，筆者上述的分析并不否認(rèn)：如果一個(gè)使得意圖本身得到奠基的期望是的確得到證據(jù)支持的，而該意圖又沒有得到滿足，那么主體就有理由繼續(xù)去改造世界。即使在這種情況下，基于上面提到的第一點(diǎn)意見，筆者依然不能認(rèn)為改造世界這一活動(dòng)會(huì)牽涉到一種與信念邏輯完全不同的新推理邏輯。

不過，關(guān)于安斯康的意圖理論，如下面的論點(diǎn)，筆者也有贊成之處。

4.理由不是原因。 前面已經(jīng)說過，意圖乃是作為“欲望驅(qū)動(dòng)下做某事的理由”存在于安斯康的理論中的。因此，對(duì)于意圖的說明，就難以回避對(duì)于“理由”的說明?！霸颉笔且粋€(gè)形而上學(xué)概念，而“理由”則是在知識(shí)論、倫理學(xué)與行動(dòng)哲學(xué)的背景中被使用的。譬如，當(dāng)我說“太陽曬石頭是石頭熱的原因”的時(shí)候，這句話并不意味著“太陽曬石頭”是“石頭熱”的理由，因?yàn)樘柌皇且庵净騻惱淼闹黧w，談不上對(duì)于理由的持有。但我卻可以說“我之所以判斷這石頭會(huì)熱的理由，乃在于我認(rèn)為太陽會(huì)將其曬熱”，因?yàn)樽鳛榕袛嗟闹黧w，我本人是有完全的資格去擁有一個(gè)理由的。由此看來，一般意義上的理由也好，作為意圖的理由也罷，它們都必須處在認(rèn)知主體的表征系統(tǒng)中，并與一定的描述面相發(fā)生關(guān)聯(lián)。譬如，當(dāng)孫尚香起床在院落里舞劍的時(shí)候，她的意圖若僅僅處在“我要通過舞劍來保持武藝”這一描述面相之下的話，那么即使她不小心吵醒了正在酣睡的劉備，“通過舞劍的聲音喚醒自己的丈夫”這一點(diǎn)顯然無法構(gòu)成她舞劍的理由或是意圖——盡管這一點(diǎn)的確構(gòu)成了促使劉備醒來的原因。

從哲學(xué)史角度看，安斯康對(duì)于原因與理由的區(qū)分方案遭到了哲學(xué)家戴維森的批評(píng)。后者從一種在內(nèi)涵與外延上都得到拓展的“原因”概念出發(fā)，將“理由”也視為一種廣義上的“原因”，這一想法本身又是導(dǎo)緣于亞里士多德的“四因說”的[1]（P685-700）。但從通用人工智能系統(tǒng)的設(shè)計(jì)者來說，安斯康的方案似乎更為可取，因?yàn)閷?duì)于機(jī)器的運(yùn)作程序的設(shè)計(jì)的確需要暫時(shí)“懸擱”使得系統(tǒng)得以運(yùn)作的外部物理原因，并僅僅從系統(tǒng)內(nèi)部的操作邏輯入手來進(jìn)行工程學(xué)的構(gòu)建。很顯然，一個(gè)被設(shè)計(jì)出來的系統(tǒng)，當(dāng)其在特定知識(shí)背景下產(chǎn)生一個(gè)做某事的理由的時(shí)候，支撐該理由的核心要素亦將不直接與系統(tǒng)運(yùn)作的外部原因相關(guān)聯(lián)——除非這些原因可以被轉(zhuǎn)化為系統(tǒng)內(nèi)部的信念。

5.意圖的意義內(nèi)容會(huì)滲入相關(guān)的實(shí)現(xiàn)手段。按照一般人的理解，由欲望驅(qū)動(dòng)的意圖在轉(zhuǎn)向行動(dòng)的過程中，還需要經(jīng)歷另外一個(gè)環(huán)節(jié)，即實(shí)現(xiàn)意圖的手段。說得更具體一點(diǎn)，同樣的意圖可以經(jīng)過很多不同的手段來實(shí)現(xiàn)，而某人之所以選擇了這個(gè)而不是那個(gè)手段來滿足其意圖，主要也是因?yàn)楸黄玫氖侄蔚膶?shí)現(xiàn)成本比較低。

但安斯康的意見卻與之不同。學(xué)界將安斯康的相關(guān)意見以及在該問題上與之意見相同的戴維森的意見，統(tǒng)一稱為所謂的“安斯康—戴維森論題”：

安斯康—戴維森論題：若某人通過做乙事來做甲事的話，那么，他做甲事的行為，就是其做乙事的行為。[2]

很多人或許會(huì)認(rèn)為該論題是反直觀的，因?yàn)槿绻澳盟{(lán)色茶杯裝的水來解渴”與“拿白色茶杯裝的水來解渴”是實(shí)現(xiàn)“喝水”這一意圖的兩個(gè)手段的話，那么該意圖就不可能與其中的任何一個(gè)手段相互同一——否則，按照“同一關(guān)系”所自帶的傳遞性（即：A若與B同一，B若再與C同一，則A與C同一），這兩個(gè)手段也會(huì)彼此同一。但既然藍(lán)色與白色不是一種顏色，“拿藍(lán)色茶杯裝的水來解渴”與“拿白色茶杯裝的水來解渴”又怎么可能彼此同一呢？因此可反推出：整個(gè)安斯康—戴維森論題就是錯(cuò)的。

安斯康本人則通過對(duì)于一個(gè)與之平行的案例的分析來為自己的觀點(diǎn)做辯護(hù)。作為一個(gè)天主教徒，她為“夫妻同房時(shí)若需避孕，當(dāng)通過自然避孕法，而非人工避孕法”這一天主教教義進(jìn)行了哲學(xué)捍衛(wèi)。乍一看這一教義是非常荒謬的，因?yàn)榧热蛔匀槐茉信c人工避孕的終極目的乃是一樣的，而且，既然安斯康并不否認(rèn)避孕這一終極意圖是可以被接受的，那么，采取何種方式方法避孕，就純粹是一個(gè)取決于當(dāng)事人方便的瑣碎問題。但安斯康的反駁是：與自然避孕和人工避孕這兩個(gè)手段相互伴隨的執(zhí)行意圖（有別于剛才所說的“避孕”這一終極意圖）是彼此不同的，或說得更具體一點(diǎn)，與人工避孕相伴隨的執(zhí)行意圖并不包含著婚姻的責(zé)任，而與自然避孕相伴隨的執(zhí)行意圖卻伴隨著對(duì)于婚姻的承諾。因此，非常嚴(yán)格地說，與這兩個(gè)手段相互對(duì)應(yīng)的，其實(shí)是兩個(gè)不同的意圖[3]（P41-51）。

有的讀者或許會(huì)認(rèn)為安斯康在這里是在狡辯，因?yàn)檎驹诋?dāng)下中國文化的立場上看，我們當(dāng)然可以設(shè)想人工避孕措施的實(shí)施未必會(huì)導(dǎo)致對(duì)于婚姻責(zé)任的放棄。但如果我們將避孕的案例置換為喝水的案例的話，或許就能規(guī)避文化差異所導(dǎo)致的上述困惑。安斯康想表達(dá)的，毋寧說是這個(gè)意思：用什么手段（包括什么顏色的杯子）來喝茶的問題，其實(shí)并不僅僅涉及手段自身，而且也涉及了與之相伴隨的意圖。譬如，用某種特定顏色的茶杯來喝茶能夠帶來的特定審美體驗(yàn)，也是相關(guān)意圖的特定組成部分。而既然這種特定意圖在意義上已經(jīng)包含了對(duì)于手段的指涉，那么在“實(shí)現(xiàn)意圖”與“實(shí)施手段”之間劃出一條清楚的界限來，也就變得沒什么必要了。

筆者之所以認(rèn)為安斯康的這一見解對(duì)通用人工智能研究有借鑒意義，乃是基于如下考量：主流人工智能研究已經(jīng)過于習(xí)慣于將手段視為外在于任務(wù)目標(biāo)的工具了，而沒有意識(shí)到意圖對(duì)于手段的滲透作用。譬如，在司馬賀（Herbert Alexander Simon）等人設(shè)計(jì)的“通用問題求解器”所包含的“目標(biāo)—手段”進(jìn)路中，方法庫中的一個(gè)手段之所以被選中，僅僅是因?yàn)閷?duì)于它的虛擬執(zhí)行所帶來的與目標(biāo)狀態(tài)的接近程度，恰好能夠越過某條被預(yù)先設(shè)置的“及格線”，而不是因?yàn)榘殡S該手段自身的意圖得到了某種精細(xì)的表征。這也就是說，按照這樣的思路設(shè)置出來的人工智能系統(tǒng)，是很難像人類那樣區(qū)分兩個(gè)貌似相似的意圖之間的微妙差異的，因此也就無法執(zhí)行一些需要此類“意向微調(diào)”的精密智力活動(dòng)。

思維銳利的讀者或許會(huì)反駁說：要實(shí)現(xiàn)這種需要此類“意向微調(diào)”的精密智力活動(dòng)，我們就不得不將意圖的表征內(nèi)容變得非常冗長，并由此削弱整個(gè)系統(tǒng)的運(yùn)作效率。但需要指出的是，設(shè)計(jì)系統(tǒng)的時(shí)候，我們未必真的需要將對(duì)于相關(guān)手段各方面特征的表述全部放在桌面上。實(shí)際上，特定意圖與特點(diǎn)手段之間的關(guān)聯(lián)，完全可以以非命題的方式表達(dá)為展現(xiàn)意圖的特定語義節(jié)點(diǎn)簇與展現(xiàn)手段的特定語義節(jié)點(diǎn)簇之間的共激發(fā)關(guān)系，由此一來，伴隨手段出現(xiàn)的特定意圖就可以轉(zhuǎn)化為一個(gè)邊界模糊的動(dòng)態(tài)結(jié)構(gòu)局域網(wǎng)。在下節(jié)的分析中我們就會(huì)看到，實(shí)現(xiàn)這種技術(shù)企圖的計(jì)算平臺(tái)，其實(shí)還是能夠在通用人工智能研究的現(xiàn)有武器庫里被找到的。

綜合本節(jié)筆者的結(jié)論是：安斯康對(duì)于信念與意圖之間的區(qū)分是不可取的，因?yàn)橐鈭D本身就是基于信念的。她對(duì)于信念與理由之間的區(qū)分則是可取的，而她對(duì)于特定意圖與特定手段之間的同一性的斷定亦有一定的啟發(fā)意義。下面我們就將基于這些觀察，來看看通用人工智能研究應(yīng)當(dāng)如何將上述哲學(xué)見解在工程學(xué)層面上予以轉(zhuǎn)化。

三、通用人工智能語境中的意圖刻畫

首先需要指出的是，目前的主流人工智能研究（其實(shí)質(zhì)乃是專用人工智能研究）是難以對(duì)意圖進(jìn)行哪怕最初步的工程學(xué)建模的。比如，主流的符號(hào)人工智能、神經(jīng)網(wǎng)絡(luò)—深度學(xué)習(xí)技術(shù)，其實(shí)都難以在工程學(xué)的層面上落實(shí)我們?cè)谡軐W(xué)層面上所給出的關(guān)于意圖的最基本勾畫。下面就是對(duì)于這一論點(diǎn)的簡要展開。

首先，傳統(tǒng)的符號(hào)AI系統(tǒng)是難以落實(shí)我們對(duì)于意圖的一般哲學(xué)刻畫的。最典型的符號(hào)AI系統(tǒng)乃是所謂的“專家系統(tǒng)”，其要點(diǎn)是在系統(tǒng)中預(yù)存大量已經(jīng)經(jīng)由計(jì)算機(jī)語言整編的人類專家領(lǐng)域知識(shí)，并通過某些“生產(chǎn)規(guī)則”來衍生出切合特定的問題求解語境的知識(shí)推論。很顯然，在專家系統(tǒng)中得到預(yù)存的知識(shí)，顯然已經(jīng)預(yù)設(shè)了設(shè)計(jì)意圖——如一個(gè)關(guān)于醫(yī)療診斷的專家系統(tǒng)顯然已經(jīng)預(yù)設(shè)了“治療病患”這樣的意圖。但需要注意的是，與人類醫(yī)生相比，此類系統(tǒng)無法自主地產(chǎn)生“治療病患”的主觀意圖，因?yàn)樗豢梢赃x擇不治療病患（而一個(gè)醫(yī)生卻完全可以選擇離開醫(yī)院而去報(bào)考公務(wù)員）。從這個(gè)意義上說，安斯康對(duì)于“意圖”的定義——“意圖乃由欲望驅(qū)動(dòng)去做某事的理由”——并不能通過專家系統(tǒng)而得到落實(shí)。

有的讀者或許會(huì)發(fā)問：對(duì)于一個(gè)用于醫(yī)療目的的專家系統(tǒng)來說，為何我們要讓其產(chǎn)生“不再做醫(yī)療診斷”這一意圖呢？難道讓其穩(wěn)定地服務(wù)于人類，不正是我們?cè)醯脑O(shè)計(jì)目的嗎？對(duì)于這個(gè)問題的應(yīng)答其實(shí)非常簡單：能夠自主產(chǎn)生意圖乃是任何智能系統(tǒng)都應(yīng)當(dāng)具有的某種最一般的認(rèn)知能力，因此，如果一個(gè)認(rèn)知系統(tǒng)在一開始就被剝奪產(chǎn)生“不去做醫(yī)療診斷”這樣的意圖的潛在能力的話，那么它也就不會(huì)產(chǎn)生在特定的情況下自主地產(chǎn)生“去實(shí)施這樣的（而不是那樣的）治療方案”的意圖。在這樣的情況下，這樣的系統(tǒng)至多只能根據(jù)過往的醫(yī)療數(shù)據(jù)去預(yù)測：在特定的醫(yī)療方案被實(shí)施后，病患被治好的概率有多大——但正如我們?cè)诜治霭菜箍档囊鈭D理論時(shí)就已經(jīng)看到的那樣，預(yù)測本身并不是意圖，因?yàn)橐鈭D乃是預(yù)測性信念與特定欲望的復(fù)合體，而通常意義上的專家系統(tǒng)則是沒有任何特定的、屬于其自身的欲望的。

有的讀者或許會(huì)說：即使在哲學(xué)層面上我們不能將特定的欲望賦予專家系統(tǒng)，但是只要人類設(shè)計(jì)者預(yù)先將“治病救人”的隱含目的寓于整個(gè)系統(tǒng)之中，難道系統(tǒng)不是照樣可以根據(jù)其預(yù)測來為病人做診斷嗎？在這樣的情況下，我們?cè)谌斯は到y(tǒng)中表征特定意圖的實(shí)踐目的又是什么呢？

為了回答這一疑惑，請(qǐng)讀者思考下面這個(gè)案例。某個(gè)用于醫(yī)療目的的專家系統(tǒng)根據(jù)既往數(shù)據(jù)，預(yù)測出：某病患的腸癌病灶部分如果做大面積切除的話，患者術(shù)后生活質(zhì)量會(huì)大大降低。不過，此手術(shù)本身的失敗率不是很高，只有 20%。而若只做小面積切除的話，患者的術(shù)后生活質(zhì)量則不會(huì)受到太大影響——但麻煩的是，這樣的話，手術(shù)成功的失敗率會(huì)提高到40%。那么，系統(tǒng)究竟應(yīng)當(dāng)推薦大面積切除的手術(shù)方案，還是小面積切除的手術(shù)方案呢？

很顯然，這是一個(gè)關(guān)于“要手術(shù)成功率還是術(shù)后生存質(zhì)量”的艱難選擇。不難想見，即使廣義上的“治病救人”的目的已經(jīng)通過設(shè)計(jì)者預(yù)裝到了系統(tǒng)的知識(shí)庫中，這樣的抽象的目的指向依然不足以向系統(tǒng)告知：在“優(yōu)先考慮手術(shù)成功率”與“優(yōu)先考慮術(shù)后生存質(zhì)量”之間，哪項(xiàng)選擇與“治病救人”這項(xiàng)目的更為相關(guān)。很顯然，對(duì)于這一問題的回答，將牽涉到在特定語境中對(duì)于病患個(gè)體生命價(jià)值觀的考量，而這些考量的具體結(jié)果，又是很難通過某些預(yù)先給定的程序設(shè)計(jì)而被予以一勞永逸地規(guī)定的（因?yàn)槲覀兺耆梢栽O(shè)想一部分病患更在乎術(shù)后的生命尊嚴(yán)，而不是手術(shù)成功率——而事先被編制的程序顯然難以預(yù)料到具體病患的具體情況）。而要解決此問題的唯一出路，就是使得系統(tǒng)自己能夠通過自己的欲望以及所獲取的信息（包括對(duì)于當(dāng)下病患的觀察）產(chǎn)生自己的意圖——比如自己產(chǎn)生出某種更偏向于提高患者術(shù)后生存質(zhì)量的意圖，等等）。然而，這些要求顯然已經(jīng)超出了目下的專家系統(tǒng)所能做的極限。

與符號(hào)人工智能相比，基于聯(lián)接主義或深度學(xué)習(xí)技術(shù)的人工智能系統(tǒng)，離“自主產(chǎn)生意圖”這一目標(biāo)更遠(yuǎn)。此類系統(tǒng)的基本工作原理，就是通過大量的數(shù)據(jù)訓(xùn)練，經(jīng)由一個(gè)內(nèi)部參數(shù)可以被調(diào)整的大型人工神經(jīng)元網(wǎng)絡(luò)系統(tǒng)的運(yùn)作，而形成特定輸入與特定輸出之間的穩(wěn)定映射關(guān)系。而由于此類數(shù)據(jù)訓(xùn)練工作其實(shí)是由人類程序員提供理想的輸入—輸出關(guān)系模板的，所以，人類程序員自身的偏見就很容易被移植到系統(tǒng)上，由此使得系統(tǒng)自身也成為人類偏見的放大器。比如，人類程序員完全可能在設(shè)計(jì)一個(gè)人臉識(shí)別系統(tǒng)時(shí)預(yù)先規(guī)定哪些人臉特征具有犯罪傾向，并由此構(gòu)成對(duì)社會(huì)中某些特定族裔的不公平的高壓態(tài)勢(shì)——而系統(tǒng)本身則根本無法察覺到此類意圖的存在，只能按照類似的模板去運(yùn)作。更麻煩的是，與運(yùn)用于裝備檢測或醫(yī)療目的的專家系統(tǒng)不同，深度學(xué)習(xí)技術(shù)與廣告營銷、用戶推廣等更具資本氣息（卻也因此更缺乏倫理氣息）的運(yùn)用方式具有更緊密的貼合度，這就使得此類系統(tǒng)甚至可能連“治病救人”這樣的最抽象層面上的目的指向都不具備，遑論在這種大的目的指向下產(chǎn)生更為精細(xì)的意向生成能力，以便在“重視生命質(zhì)量”與“延長生命時(shí)間”之間進(jìn)行自主抉擇。

所謂的基于“能動(dòng)主義（enactivism）”思想的人工智能系統(tǒng)，也并不在“自主產(chǎn)生意圖”方面有任何推進(jìn)。能動(dòng)主義的核心哲學(xué)理念是：無論對(duì)于人工智能體還是人類而言，認(rèn)知的實(shí)質(zhì)乃是行動(dòng)中的有機(jī)體與特定環(huán)境要素之間互動(dòng)關(guān)系的產(chǎn)物。而對(duì)具體的人工智能研究來說，這樣的哲學(xué)口號(hào)一般落實(shí)為對(duì)于設(shè)計(jì)機(jī)器人的外圍傳感設(shè)備與行動(dòng)設(shè)備的工作的高度重視以及對(duì)于中央信息處理系統(tǒng)的設(shè)計(jì)問題的相對(duì)輕視。但這種做法的本身顯然會(huì)立即使得任何意圖自身所依賴的信念系統(tǒng)本身失去了著落（因?yàn)樾拍钕到y(tǒng)本身就是中央信息處理系統(tǒng)的一部分）；同時(shí)，該技術(shù)路徑對(duì)于外部環(huán)境因素施加于機(jī)器人傳感器的因果效力的高度依賴，則又會(huì)使得“理由”與“原因”之間的界限變得非常模糊（然而，正如我們所看到的，按照安斯康的看法，作為“理由”的意圖在實(shí)質(zhì)上并不能被還原為任何一種“原因”）。此外，也正因?yàn)橹醒胝Z義系統(tǒng)的缺失，任何基于能動(dòng)主義的人工智能系統(tǒng)在原則上都不可能將具有微妙內(nèi)容的意向投入到特定的行動(dòng)中去，因此，這樣的系統(tǒng)在原則上就不可能實(shí)現(xiàn)前文所說的“安斯康—戴維森論題”。

要在人工智能系統(tǒng)中真正實(shí)現(xiàn)對(duì)于意圖的工程學(xué)建模，我們顯然需要另辟蹊徑。很顯然，這樣的技術(shù)路徑需要從根本上處理信念系統(tǒng)、欲望系統(tǒng)之間的相互關(guān)系，并在這種基礎(chǔ)上實(shí)現(xiàn)對(duì)于意圖的刻畫。而有鑒于信念系統(tǒng)與欲望系統(tǒng)之間的互動(dòng)關(guān)系會(huì)在不同的問題求解語境中產(chǎn)生不同的意圖，這樣的技術(shù)路徑就不可能僅僅局限于特定的問題求解語境，而一定得具有鮮明的“通用人工智能”意蘊(yùn)。而在這方面，國際通用人工智能活動(dòng)的代表之一、華裔計(jì)算機(jī)科學(xué)家王培先生發(fā)明的“非公理推演系統(tǒng)”——簡稱為“納思系統(tǒng)”——便是一個(gè)具備被升級(jí)為具有自主意圖的人工智能體之潛能的計(jì)算平臺(tái)[4]。下面筆者就將相關(guān)的技術(shù)路線圖，以一種相對(duì)淺顯的方式予以勾勒。

圖1 納思語義網(wǎng)

由于意圖的產(chǎn)生乃是信念系統(tǒng)與欲望系統(tǒng)相互作用的產(chǎn)物，我們就不得不首先介紹一下在納思系統(tǒng)中信念系統(tǒng)的表征方式。在納思系統(tǒng)中，一個(gè)最簡單的判斷或信念是由兩個(gè)概念節(jié)點(diǎn)構(gòu)成的，比如，“烏鴉”（RAVEN）和“鳥”（BIRD）。在納思系統(tǒng)的最基本層面Narese-0上，這兩個(gè)概念節(jié)點(diǎn)由繼承關(guān)系（inheritance relation）加以聯(lián)接，該關(guān)系本身則被記作“→”。這里的“繼承關(guān)系”可以通過以下兩個(gè)屬性而得到完整的定義：自返性（ref l exivity）和傳遞性（transitivity）。舉例來說，命題“RAVEN→RAVEN”是永真的（這就體現(xiàn)了繼承關(guān)系的自返性）；若“RAVEN→ BIRD”和“BIRD→ ANIMAL”是真的，則“RAVEN→ANIMAL”也是真的（這就體現(xiàn)了繼承關(guān)系的傳遞性）。這里需要注意的是，在繼承關(guān)系中作為謂項(xiàng)出現(xiàn)的詞項(xiàng)，就是作為主項(xiàng)出現(xiàn)的詞項(xiàng)的“內(nèi)涵集”中的成員（因此，在上述判斷中，“鳥”就是“烏鴉”的內(nèi)涵的一部分），而在同樣的關(guān)系中作為主項(xiàng)出現(xiàn)的詞項(xiàng)，就是作為謂項(xiàng)出現(xiàn)的詞項(xiàng)的“外延集”中的成員（因此，在上述判斷中，“烏鴉”就是“鳥”的外延的一部分）。換言之，與傳統(tǒng)詞項(xiàng)邏輯不同，在納思的推理邏輯中，“內(nèi)涵”并不代表某種與外延具有不同本體論地位的神秘的柏拉圖對(duì)象，而僅僅是因?yàn)樽约涸谕评砭W(wǎng)絡(luò)中地位的不同而與“外延”有所分別。

大量的此類納思式主—謂判斷，則由于彼此分享了一些相同的詞項(xiàng)而構(gòu)成了納思語義網(wǎng)，如圖1。

需要注意的是，這樣的一個(gè)納思語義網(wǎng)自身的內(nèi)容與結(jié)構(gòu)都不是一成不變的，而能夠隨著系統(tǒng)的操作經(jīng)驗(yàn)的概念而得到自主更新（這一點(diǎn)將首先在納思系統(tǒng)的Narese-1層面上實(shí)現(xiàn)，Narese-1本身則代表了一種比Narese-0更復(fù)雜的計(jì)算機(jī)語言構(gòu)建）。而其中最重要的一項(xiàng)更新措施，就是根據(jù)一個(gè)納思式判斷獲取的證據(jù)量的變化來改變自身的真值，由此改變網(wǎng)絡(luò)中特定推理路徑的權(quán)重。說得更具體一點(diǎn)，納思判斷的真值，是由兩個(gè)參數(shù)加以規(guī)定的：“頻率”（frequency）值和“信度”（conf i dence）值?，F(xiàn)在我們將前一個(gè)值簡稱為 f值，后一個(gè)值簡稱為c值。前者的計(jì)算公式如下式所示：

說明：在此，w就意味著證據(jù)的總量，而w+則意味為正面證據(jù)。比如說，若系統(tǒng)觀察到100只烏鴉，其中90只為黑，10只為白，則命題 “RAVEN→BLACK”的 f值 =90/(90+10)=0.9

后者的計(jì)算公式則如下所示：

（例子：在常數(shù) k=1的情況下，假設(shè)系統(tǒng)已經(jīng)觀察到了100只烏鴉，則c=100/101 0.99）

也就是說，根據(jù)系統(tǒng)所獲得的外部證據(jù)的不同，系統(tǒng)會(huì)自行調(diào)整推理網(wǎng)絡(luò)中相關(guān)路徑的權(quán)重值，由此形成不同的推理習(xí)慣。而通過對(duì)于系統(tǒng)所獲得證據(jù)數(shù)量與種類的相對(duì)控制，人類程序員也可以實(shí)現(xiàn)按照特定目的“教育”納思系統(tǒng)的目的。但需要注意的是，與對(duì)于人類嬰兒的教育一樣，在通用人工智能的語境中，對(duì)于納思系統(tǒng)的“教育”并不意味著對(duì)于系統(tǒng)的輸入的全面人為控制。系統(tǒng)自身自主探索外部環(huán)境的相對(duì)自由，將始終得到保留。

現(xiàn)在我們?cè)賮碛懻撘幌孪到y(tǒng)的“欲望”系統(tǒng)。與人類的基本生物學(xué)欲望（如饑渴）類似，一個(gè)人工智能系統(tǒng)也會(huì)因?yàn)殡娏坎蛔愕仍虍a(chǎn)生充電的“欲望”，或者因?yàn)槿蝿?wù)負(fù)載過多而產(chǎn)生“休息”的“欲望”。不過，對(duì)于系統(tǒng)內(nèi)部運(yùn)作狀態(tài)的此類表征并不會(huì)自動(dòng)產(chǎn)生相關(guān)的意圖，除非系統(tǒng)已經(jīng)通過如下步驟完成了“意圖”塑造過程：

第1步：經(jīng)過一段時(shí)間的學(xué)習(xí)，系統(tǒng)已經(jīng)獲得一個(gè)小型知識(shí)庫，以便獲知使得系統(tǒng)自身能正常運(yùn)作的一系列條件（如關(guān)于電量水平與運(yùn)作流暢度之間關(guān)系的知識(shí)）。

第2步：系統(tǒng)將由此獲得的一般知識(shí)施用于對(duì)于當(dāng)下的內(nèi)部狀態(tài)的評(píng)估，以便得知其當(dāng)下的狀態(tài)是否正常。

第3步：假設(shè)目前系統(tǒng)發(fā)現(xiàn)自己目下的狀態(tài)并不正常。

第4步：根據(jù)系統(tǒng)自身的推理能力，系統(tǒng)發(fā)現(xiàn)：如果某個(gè)條件P被滿足，則當(dāng)下的狀態(tài)就能夠變得正常。

第5步：系統(tǒng)發(fā)現(xiàn)沒有證據(jù)表明P已經(jīng)被滿足了。

第6步：系統(tǒng)現(xiàn)在將“滿足P”視為備選考慮的意圖內(nèi)容。

第7步：系統(tǒng)計(jì)算具有怎樣的質(zhì)量與數(shù)量規(guī)定性的證據(jù)，才能夠使得P成真。這樣的證據(jù)集被簡稱為W。

第 8步：系統(tǒng)對(duì)其以往的操作經(jīng)歷進(jìn)行回溯，并對(duì)當(dāng)下的任務(wù)解決資源R（如時(shí)間、剩余電量）進(jìn)行評(píng)估，以便獲知：R本身是否能夠支持系統(tǒng)引發(fā)特定的行動(dòng)A，以使得W能夠成真。

第9步：如果上一步的評(píng)估結(jié)果是正面的，則系統(tǒng)會(huì)產(chǎn)生這樣的意圖：通過特定行動(dòng)A，使得W成真，由此最終使得P成真。

第10步：如果第9步的評(píng)估結(jié)果是負(fù)面的，于是系統(tǒng)本身會(huì)檢查：是不是有什么別的目標(biāo)，能夠比原本的目標(biāo)P要求更少的操作以便使得系統(tǒng)的狀態(tài)恢復(fù)正常（此即“目標(biāo)調(diào)整”）。如果有，則得到新目標(biāo)P’，并將第6到第9步再執(zhí)行一遍。否則再執(zhí)行本步驟的頭一句話，除非系統(tǒng)發(fā)現(xiàn)：此前進(jìn)行的目標(biāo)調(diào)整的行動(dòng)，已經(jīng)窮盡了系統(tǒng)知識(shí)庫中所有的推理路徑，或系統(tǒng)已經(jīng)沒有足夠的資源進(jìn)行這種目標(biāo)調(diào)整活動(dòng)。而一旦系統(tǒng)有了這種發(fā)現(xiàn)，它將轉(zhuǎn)向執(zhí)行下一步。

第11步：系統(tǒng)尋求人類或者其它通用人工智能體的外部干預(yù)。

關(guān)于這11個(gè)步驟，筆者還有如下說明：

第一：在納思系統(tǒng)中，信念系統(tǒng)與意圖系統(tǒng)之間的界限是不清晰的。系統(tǒng)對(duì)于某意圖是否可以得到滿足的評(píng)估，在相當(dāng)程度上取決于系統(tǒng)對(duì)于使得該意圖所對(duì)應(yīng)的狀態(tài)成真的證據(jù)集W自身的“可供應(yīng)性”的評(píng)估，因此，關(guān)于意圖的推理邏輯只是一種更為復(fù)雜的關(guān)于信念評(píng)估的推理邏輯而已（二者之間的微妙差別在于：在對(duì)意圖的評(píng)估中，這些證據(jù)本身是作為一種虛擬的存在而被表征的，而證據(jù)本身的可供應(yīng)性又是建立在對(duì)于使得這些證據(jù)得以被供應(yīng)的操作的可執(zhí)行性之上的；與之相比照，在對(duì)于信念的評(píng)估中，證據(jù)本身則是已經(jīng)被直接給予了）。因此，納思系統(tǒng)在設(shè)計(jì)原理上并不那么親和于安斯康將信念與意圖截然二分的意圖分析路數(shù)。

第二，在納思系統(tǒng)中，任何系統(tǒng)內(nèi)部或外部的物理原因都不能夠直接構(gòu)成系統(tǒng)在內(nèi)部表征中進(jìn)行推理的理由。舉個(gè)例子來說，系統(tǒng)內(nèi)部的電量不足問題，必須被轉(zhuǎn)化為一個(gè)能夠在納思語義網(wǎng)中能夠被表征出來的詞項(xiàng)或判斷，才可能進(jìn)入納思的推理過程。在這個(gè)問題上，納思系統(tǒng)的設(shè)計(jì)原理是接近安斯康的意圖理論的相關(guān)描述的。

第三，正因?yàn)樵诩{思系統(tǒng)中，意圖的產(chǎn)生是依賴于信念系統(tǒng)的運(yùn)作的，而信念系統(tǒng)自身所依賴的推理網(wǎng)絡(luò)又是系統(tǒng)自身運(yùn)作經(jīng)驗(yàn)的結(jié)晶，那么，不同的納思系統(tǒng)自然就會(huì)因?yàn)樽陨聿煌耐评砹?xí)慣構(gòu)成不同的意圖產(chǎn)生傾向。而不同的人類程序員也將通過對(duì)于系統(tǒng)的輸入的有限調(diào)控，來使得系統(tǒng)自身的具有個(gè)性的推理習(xí)慣得以產(chǎn)生。

第四，在上面給出的11步流程中，為了簡化表達(dá)，筆者只是預(yù)設(shè)了納思系統(tǒng)只關(guān)心自身運(yùn)作的安全（如自身電量的充足性），而不關(guān)心人類用戶或者其它通用人工智能系統(tǒng)的安全。但是我們完全可以設(shè)想納思系統(tǒng)已經(jīng)經(jīng)過程序員的“調(diào)教”而形成了這樣的推理傾向：一旦系統(tǒng)發(fā)現(xiàn)了某個(gè)或某類的特定人類用戶的安全性受到威脅，系統(tǒng)就會(huì)努力尋找方法來消除這些威脅。雖然從倫理學(xué)角度看，對(duì)于自身安全的優(yōu)先性考慮會(huì)導(dǎo)致利己主義而對(duì)于他者安全性的優(yōu)先性考慮會(huì)導(dǎo)致利他主義，但是從納思系統(tǒng)的設(shè)計(jì)原則上看，利他主義的推理所牽涉到的意圖產(chǎn)生模式，并不會(huì)導(dǎo)致與執(zhí)行利己主義思路的納思系統(tǒng)根本不同的技術(shù)實(shí)現(xiàn)路徑。

第五，在最一般的意義上，我們當(dāng)然希望一個(gè)通用人工智能系統(tǒng)既能保證為之服務(wù)的人類用戶的利益，也能夠兼顧其自身的利益，正如著名的“阿西莫夫三定律”所表示的那樣。然而，在納思系統(tǒng)的設(shè)計(jì)過程中，我們并不鼓勵(lì)通過命題邏輯的方式預(yù)先將系統(tǒng)的優(yōu)先考慮對(duì)象鎖死，因?yàn)檫@會(huì)降低系統(tǒng)在處理特定道德二難處境時(shí)的靈活性。一種更值得推薦的方式，便是在一些展示此類二難處境的教學(xué)性案例中讓系統(tǒng)學(xué)習(xí)人類用戶的類似處理方式，以便系統(tǒng)能夠在面對(duì)新的二難推理處境時(shí)，根據(jù)自帶的類比推理能力來自主解決問題。

第六，納思系統(tǒng)能夠更好地實(shí)現(xiàn)前文所說的安斯康—戴維森論題，其相關(guān)理由如下：我們已經(jīng)看到，在納思系統(tǒng)中，對(duì)于一個(gè)意圖目標(biāo)的可滿足性的評(píng)估將被轉(zhuǎn)換為對(duì)于相關(guān)虛擬證據(jù)的可兌現(xiàn)性的評(píng)估?，F(xiàn)在假設(shè)有兩個(gè)證據(jù)集（即 W 與 W’），且對(duì)于它們的兌現(xiàn)都能夠使得相關(guān)目標(biāo)得到滿足。但嚴(yán)格地說，既然它們是兩個(gè)不同的證據(jù)集，二者在納思語義網(wǎng)中所牽涉的內(nèi)部推理關(guān)系就不可能完全重合，因此，通過W來滿足目標(biāo)，就會(huì)與通過W’來滿足目標(biāo)產(chǎn)生不同的推理后效，由此達(dá)到不同的目標(biāo)。換言之，手段與目標(biāo)之間的截然二分在納思系統(tǒng)中之所以是不存在的，乃是因?yàn)榧{思語義網(wǎng)中特定手段與特定目標(biāo)之間的特定推理路徑，顯然已經(jīng)破壞了這種二元性。

四、消除“人工智能體產(chǎn)生惡意”威脅的途徑

對(duì)于筆者在上文中提出的“通過納思系統(tǒng)設(shè)計(jì)具有自主意圖的通用人工智能體”的意見，有的讀者或許會(huì)質(zhì)疑說：既然納思系統(tǒng)將通過自己的操作經(jīng)驗(yàn)獲取自身的意圖產(chǎn)生習(xí)慣，我們又怎么能防止具有不良企圖的納思系統(tǒng)出現(xiàn)呢？

筆者對(duì)于這個(gè)問題的答案是直截了當(dāng)?shù)模簺]有辦法防止這一點(diǎn)，因?yàn)榧{思系統(tǒng)在原則上就允許不同的程序員根據(jù)自己的價(jià)值觀訓(xùn)練自己的系統(tǒng)。因此，正如一個(gè)更尊重患者術(shù)后生命質(zhì)量（而不是手術(shù)成功率）的醫(yī)生可以調(diào)教納思系統(tǒng)也按照他的價(jià)值觀進(jìn)行推理一樣，一個(gè)具有邪惡動(dòng)機(jī)的人當(dāng)然也可以調(diào)教納思系統(tǒng)去行惡。但需要注意的是，只要納思系統(tǒng)的用戶足夠多，這種局部的惡很可能會(huì)被更廣泛語境中的對(duì)沖力量所中和，因?yàn)榇罅康募{思系統(tǒng)的使用者會(huì)各自將不同的價(jià)值觀輸入到各自所掌握的系統(tǒng)中去，由此使得帶有邪惡價(jià)值觀的納思系統(tǒng)的作惡行為得到遏制。而這種中和效應(yīng)之所以可能發(fā)生，乃是因?yàn)榧{思系統(tǒng)的運(yùn)作本身是不需要用戶進(jìn)行海量的數(shù)據(jù)搜集的，而這一點(diǎn)在相當(dāng)程度上就會(huì)大大降低用戶的使用門檻，并使得利用納思系統(tǒng)進(jìn)行價(jià)值觀博弈的主體在數(shù)量上大大增加。換言之，納思系統(tǒng)使用的低門檻性，自然會(huì)使得少數(shù)技術(shù)權(quán)貴很難通過對(duì)于此項(xiàng)技術(shù)的壟斷來進(jìn)行市場壟斷，并由此使得全社會(huì)的文化多樣性能夠得到保存。

有的讀者或許還會(huì)問：我們是否可以通過立法的方式來阻止通用人工智能技術(shù)被別有用心的人所利用呢？筆者的應(yīng)答是：相關(guān)的立法難度很大，因?yàn)閺姆缮峡?，你很難預(yù)先確定哪些人會(huì)犯罪；而且，你也很難通過立法去打擊那些運(yùn)用通過人工智能技術(shù)去做違背公德（卻恰好沒有違背法律）的事情。而對(duì)于此類法規(guī)的無限訴求最后很可能會(huì)導(dǎo)致對(duì)于整個(gè)通用人工智能技術(shù)的法律禁止令——但正如筆者在本文第一節(jié)中所指出的，這種對(duì)于通用人工智能技術(shù)的偏見，最終反而會(huì)方便打著“專用人工智能技術(shù)”名頭的技術(shù)權(quán)貴通過大數(shù)據(jù)收割機(jī)來將普通民眾的隱私收割干凈，并由此制造出一個(gè)更大范圍內(nèi)的倫理上的惡。換言之，除了“在局部容忍惡”與“容忍更大范圍內(nèi)的惡”之間，我們其實(shí)并沒有第三條出路可走，除非我們要學(xué)習(xí)美國的阿米什族人，徹底向現(xiàn)代數(shù)碼技術(shù)告別，但這條出路本身也是不具有現(xiàn)實(shí)性的，因?yàn)閹缀鯖]有任何力量可以勸說世界上的大多數(shù)人口放棄計(jì)算機(jī)技術(shù)帶來的便利。

最后需要指出的是，正如前文中關(guān)于如何在納思系統(tǒng)中產(chǎn)生自主意圖的11步法所展示的那樣，在納思系統(tǒng)中，意圖的產(chǎn)生將取決于系統(tǒng)對(duì)于相關(guān)實(shí)現(xiàn)手段的可行性的評(píng)估。因此，一個(gè)足夠理性（但的確十分邪惡）的納思系統(tǒng)即使產(chǎn)生了要通過核彈來殺死十萬人的邪惡念頭，這個(gè)念頭也不足以形成一個(gè)能夠兌現(xiàn)為行動(dòng)的意圖，因?yàn)樗鼤?huì)根據(jù)推理發(fā)現(xiàn)它根本就無法實(shí)現(xiàn)對(duì)于核彈（甚至核材料）的擁有（在這里我們假設(shè)世界上所有的核彈或相關(guān)敏感物質(zhì)都在各自政府的嚴(yán)格監(jiān)控下）。換言之，邪惡的念頭本身無法殺人，除非它與特定的物質(zhì)條件相互結(jié)合——而幸運(yùn)的是，對(duì)于關(guān)涉到公眾安全的敏感物質(zhì)的管控，其實(shí)各國政府都有相對(duì)成熟的規(guī)章制度可以遵循。因此，某些科幻小說所描繪的通用人工智能系統(tǒng)通過超級(jí)武器奴役人類的場面，其實(shí)是不太可能出現(xiàn)的。由此不難推出，公眾與其為未來的人工智能系統(tǒng)是否會(huì)具有自主意圖而憂心忡忡并因?yàn)檫@種過度的擔(dān)心而對(duì)人工智能專家的學(xué)術(shù)自由指手畫腳，還不如敦促各自的政府更加嚴(yán)密地看管與公眾安全密切相關(guān)的敏感物質(zhì)，使得惡念（無論是產(chǎn)自于自然人的，還是產(chǎn)自于人工智能體的）始終沒有機(jī)會(huì)在物理世界中得到實(shí)現(xiàn)。