何夢(mèng)雨

傳說(shuō)400年前，在現(xiàn)在被稱(chēng)為捷克共和國(guó)的布拉格，有位猶太教的拉比跪在伏爾塔瓦河河畔，他從水中撈出黏土，小心翼翼地拍打捏出人的形狀：原來(lái)，布拉格的猶太人被誣告在他們舉行的宗教儀式中使用基督徒的鮮血，因此遭到襲擊。所以拉比猶大·洛伊烏·本·比扎萊爾決定，他的社區(qū)需要一個(gè)比任何人都強(qiáng)的保護(hù)者。他將希伯來(lái)文的單詞emet（真相）刻在黏土巨人的前額上，并將一個(gè)寫(xiě)有卡巴拉教派公式的膠囊放進(jìn)它的嘴里。這個(gè)生物就有了生命。

第一個(gè)人造人格勒姆就這樣誕生了，格勒姆在貧民窟巡邏，保護(hù)猶太社區(qū)內(nèi)的人，并從事有益的工作：掃街、送水、劈柴。一切都很順利，直到有一天平靜被打破了，拉比忘了按照黏土人的要求讓其在安息日休息，于是這個(gè)怪物開(kāi)始了一場(chǎng)兇殘的作亂。拉比被迫擦掉了格勒姆前額上刻字的首字母，它額頭上的字變成了met，在希伯來(lái)文中是“死亡”的意思。生命從黏土人的身體中消逝，它崩落成灰塵。

這個(gè)關(guān)于制造人形機(jī)械仆人風(fēng)險(xiǎn)重重的警示性故事，在人工智能時(shí)代獲得了新的意義。機(jī)器人軍團(tuán)現(xiàn)在不假思索地執(zhí)行我們的指示，但我們?nèi)绾未_保這些生物，無(wú)論它們是用黏土還是硅制成，始終以我們的利益來(lái)行事呢？我們應(yīng)該教他們學(xué)會(huì)思考嗎？如果是這樣，我們?nèi)绾谓趟麄儽嬲J(rèn)對(duì)錯(cuò)？

人工智能相當(dāng)于人類(lèi)召喚惡魔？

在2018年，這個(gè)問(wèn)題變得更加迫切。自動(dòng)駕駛汽車(chē)在城市的街道行駛數(shù)百萬(wàn)英里，同時(shí)做出可能影響其他道路使用者安全的自主決定。日本、歐洲、中國(guó)和美國(guó)的機(jī)器人專(zhuān)家正在開(kāi)發(fā)服務(wù)型機(jī)器人，為老年人和殘疾人提供護(hù)理。2015年日本研發(fā)的護(hù)理型機(jī)器人ROBEAR（它們長(zhǎng)著小熊貓的臉）就致力于幫助那些行動(dòng)不便的人，輕柔的動(dòng)作可以將人類(lèi)抱起或放下，或者是幫助其站立起來(lái)。但是我們也可以想象它們會(huì)輕易把人撕得粉碎。

自2000年以來(lái)，美國(guó)陸軍就部署了數(shù)以千計(jì)的配備機(jī)槍的機(jī)器人，每個(gè)機(jī)器人都能夠在沒(méi)有人類(lèi)參與的情況下定位目標(biāo)并瞄準(zhǔn)目標(biāo)（然而，他們不允許在無(wú)人監(jiān)督的情況下扣動(dòng)扳機(jī)）。這些越來(lái)越復(fù)雜的機(jī)器人正準(zhǔn)備接管美國(guó)陸軍最危險(xiǎn)、最枯燥無(wú)味和骯臟的工作。它們已經(jīng)用于尋找埋藏在路邊的炸彈，執(zhí)行空中偵察任務(wù)和監(jiān)視軍事基地周?chē)那闆r。

在科幻小說(shuō)或電影中，人工智能經(jīng)常讓人類(lèi)陷入噩夢(mèng)中。電動(dòng)汽車(chē)公司特斯拉、商業(yè)太空飛行公司SpaceX首席執(zhí)行官埃隆·馬斯克曾發(fā)表評(píng)論稱(chēng)，人工智能的進(jìn)步就相當(dāng)于人類(lèi)正在召喚惡魔。他聲稱(chēng)：“我認(rèn)為我們應(yīng)當(dāng)對(duì)人工智能萬(wàn)分小心。如果讓我猜測(cè)人類(lèi)生存面臨的最大威脅，人工智能或許就是?！敝锢韺W(xué)家霍金也表達(dá)了自己的擔(dān)憂(yōu)，他認(rèn)為人類(lèi)不斷在A(yíng)I領(lǐng)域探索“是個(gè)極大的錯(cuò)誤，該錯(cuò)誤甚至可能是人類(lèi)有史以來(lái)犯過(guò)的最愚蠢的錯(cuò)誤?！?/p>

2016年夏天，白宮委托專(zhuān)家研討機(jī)器人的道德問(wèn)題。麻省理工學(xué)院情感計(jì)算部主任羅薩琳德·皮卡德說(shuō)：“機(jī)器的自由度越大，就越需要道德標(biāo)準(zhǔn)?！?h3>機(jī)器人就像孩子一樣需要學(xué)習(xí)

現(xiàn)在蜿蜒流淌的伏爾塔瓦河岸邊矗立著未來(lái)派風(fēng)格的辦公大樓，就在猶太拉比雕刻他的格勒姆的地方，整齊排列的電腦嗡嗡作響。這些電腦是奇特的教師，像忠誠(chéng)于教育任務(wù)的人類(lèi)一樣有崇高的目的。他們的學(xué)生沒(méi)有坐在電腦屏幕前，而是存在于硬盤(pán)上。這個(gè)名為GoodAI的虛擬學(xué)校教育的是人工智能：教它們思考、理智和行動(dòng)。GoodAI的總體愿望是培養(yǎng)具有倫理的人工智能?！斑@并不意味著讓人工智能遵循既定的規(guī)則，按照人類(lèi)規(guī)定的可能情況，明白該做什么，不應(yīng)該做什么?！苯菘顺晒Φ碾娮佑螒蛟O(shè)計(jì)師兼GoodAI創(chuàng)始人馬雷克·羅莎說(shuō)。他已經(jīng)在該公司投資1000萬(wàn)美元。“我們的想法是培訓(xùn)它們將知識(shí)應(yīng)用到以前從未遇到過(guò)的情況。”

專(zhuān)家們一致認(rèn)為羅莎的做法是明智的?！邦A(yù)先為人工智能可能遇到的每一種情況都設(shè)定道德選擇是不太可能的，”紐約大學(xué)的認(rèn)知科學(xué)家、幾何智能公司的首席執(zhí)行官和創(chuàng)始人加里·馬庫(kù)斯解釋說(shuō)，“例如，你如何為公平還是傷害的概念編程？”他指出，編碼方法不能解釋人類(lèi)信念和態(tài)度的轉(zhuǎn)變。

最終，我們需要一臺(tái)能夠自學(xué)的機(jī)器。羅莎認(rèn)為人工智能就像一個(gè)孩子，作為空白的石板可以刻上基本的價(jià)值觀(guān)，并且能將這些原則應(yīng)用于不可預(yù)見(jiàn)的情景中。這一點(diǎn)和人類(lèi)很像，人類(lèi)通過(guò)觀(guān)察他人的行為，從而直觀(guān)地了解道德上可接受的準(zhǔn)則。

GoodAI通過(guò)提供數(shù)字導(dǎo)師來(lái)監(jiān)督人工智能獲取價(jià)值觀(guān)的進(jìn)程，然后逐漸增加它們必須作出決定的復(fù)雜情況。羅莎認(rèn)為，父母不會(huì)讓孩子一開(kāi)始就在公路上跑?！巴瑯拥?，我們將人工智能置于越來(lái)越復(fù)雜的環(huán)境中，它們可以利用以前學(xué)到的知識(shí)做出行動(dòng)，并從我們團(tuán)隊(duì)獲得反饋?！?/p>

GoodAI只是近年來(lái)世界各地不斷涌現(xiàn)的眾多致力于機(jī)器人倫理維度的機(jī)構(gòu)之一。許多類(lèi)似的機(jī)構(gòu)都有宏大的、帶有不祥預(yù)感的名字。比如：生命未來(lái)研究所、負(fù)責(zé)任機(jī)器人小組、全球倫理自治系統(tǒng)。關(guān)于如何更好地向機(jī)器傳授道德倫理，很多人都有自己的看法，羅莎是一位，佐治亞理工學(xué)院移動(dòng)機(jī)器人實(shí)驗(yàn)室主管羅恩·阿金是另一位。

讓機(jī)器人學(xué)會(huì)內(nèi)疚

羅恩·阿金60多歲，是個(gè)禿頭的機(jī)械倫理學(xué)家。他在喬治亞理工學(xué)院教授計(jì)算機(jī)倫理學(xué)，但他的工作并不局限于教室。阿金的研究資金來(lái)源廣泛，其中有的資金來(lái)自美國(guó)陸軍和海軍。2006年，阿金獲得資助，研究如何使機(jī)器人戰(zhàn)斗機(jī)在戰(zhàn)爭(zhēng)中能夠遵守道德標(biāo)準(zhǔn)。他認(rèn)為機(jī)器人士兵在倫理上可以?xún)?yōu)于人類(lèi)。畢竟，它們不能強(qiáng)奸、掠奪或憤怒燒毀一個(gè)村莊。

教授機(jī)器人如何在戰(zhàn)場(chǎng)上表現(xiàn)得當(dāng)似乎很簡(jiǎn)單，因?yàn)楦鲊?guó)遵循國(guó)際公認(rèn)的法律來(lái)制定參與戰(zhàn)爭(zhēng)的規(guī)則。但是，工程師并不能預(yù)見(jiàn)戰(zhàn)場(chǎng)上的每一個(gè)潛在情景，現(xiàn)實(shí)中總是存在道德上模棱兩可的情況。比如，一個(gè)機(jī)器人是否可以在某個(gè)目標(biāo)正與平民分吃面包的房子里開(kāi)火？

它是否應(yīng)該解救被圍困在城鎮(zhèn)一側(cè)的五名低級(jí)新兵，還是要為另外一個(gè)地方的高級(jí)軍官提供支持？決策應(yīng)該基于戰(zhàn)術(shù)還是道德層面？

為了幫助機(jī)器人及其創(chuàng)造者在戰(zhàn)場(chǎng)上解決這些問(wèn)題，阿金一直在研究與GoodAI不同的模型。他的方法被稱(chēng)為“道德適配器”，也就是說(shuō)試圖模擬人類(lèi)的情緒，而不是模仿人類(lèi)的行為，以幫助機(jī)器人從錯(cuò)誤中學(xué)習(xí)。他的系統(tǒng)允許一個(gè)機(jī)器人體驗(yàn)類(lèi)似于人類(lèi)的內(nèi)疚感?！皟?nèi)疚是一種阻止我們重復(fù)特定行為的機(jī)制?！卑⒔鸾忉屨f(shuō)。因此，內(nèi)疚對(duì)機(jī)器人和人類(lèi)來(lái)說(shuō)都是有用的學(xué)習(xí)工具。

阿金采取的方法是，設(shè)計(jì)一種被稱(chēng)為“潛在行動(dòng)的多維數(shù)學(xué)決策空間”的軟件程序。這套融合了人類(lèi)悔恨、同情、內(nèi)疚等情緒的程序安裝到機(jī)器人身上后，就能扮演“道德適配器”的角色，可根據(jù)傳感器接收到的數(shù)據(jù)和情報(bào)，把機(jī)器人所有可能的行動(dòng)分為“道德的”和“不道德的”兩種，并根據(jù)需要選擇適當(dāng)?shù)奈淦飨到y(tǒng)。

阿金解釋說(shuō)：“想象一下，一名特工在戰(zhàn)場(chǎng)上射擊之前和之后進(jìn)行戰(zhàn)斗傷害評(píng)估。如果附帶損害比預(yù)期的要多就會(huì)帶來(lái)內(nèi)疚感。特定的底線(xiàn)內(nèi)，特工將停止使用特定的武器。此外，還可能完全停止使用武器。雖然機(jī)器人可能感受到的內(nèi)疚是模擬的，但像人類(lèi)的內(nèi)疚一樣具有三重含義：相信規(guī)范遭到侵犯，對(duì)自己行為擔(dān)憂(yōu)以及回到原來(lái)狀態(tài)的愿望?！?/p>

這是一個(gè)巧妙的解決方案，但不是沒(méi)有問(wèn)題。首先，在機(jī)器人能夠修改其行為之前，內(nèi)疚模型要求先出錯(cuò)。在戰(zhàn)爭(zhēng)的混亂中，錯(cuò)誤可能是可以接受的，因?yàn)閾p害可能完全出乎意料。但如果錯(cuò)誤出現(xiàn)在民用住宅、醫(yī)院或道路上，公眾對(duì)致命機(jī)器人錯(cuò)誤的容忍度要低得多。殺手機(jī)器人可能還沒(méi)來(lái)得及從錯(cuò)誤中學(xué)習(xí)就被拆解掉了。

讓機(jī)器人從圖書(shū)館獲得靈感

從虛擬教室到模擬內(nèi)疚，教機(jī)器人道德的方法各不相同，但都是探索性的，并且每種方法都伴隨著各自的問(wèn)題。在喬治亞理工學(xué)院，娛樂(lè)智能實(shí)驗(yàn)室主任馬克·里德?tīng)栒趪L試一種方法，他的解決之道不是在課堂上，而是在圖書(shū)館中尋找靈感。

通過(guò)讓人工智能讀取數(shù)以千計(jì)的人類(lèi)歷史故事，并允許它們根據(jù)自己的發(fā)現(xiàn)制定一套行為規(guī)則，里德?tīng)栂嘈?，從燭光晚餐到銀行搶劫等各種場(chǎng)景，機(jī)器人都能做出恰當(dāng)表現(xiàn)。包括美國(guó)國(guó)防高級(jí)研究計(jì)劃局、美國(guó)陸軍、谷歌和迪斯尼等在內(nèi)的一系列組織和公司為里德?tīng)枅F(tuán)隊(duì)的研究提供資金支持。

里德?tīng)栙澩珿oodAI的基本理念。“所有的答案都是為了將機(jī)器人培養(yǎng)成孩子，”他說(shuō)，“但是我沒(méi)有20年那么久的時(shí)間來(lái)培養(yǎng)機(jī)器人。這是一個(gè)非常耗時(shí)和昂貴的過(guò)程。我的想法是將故事作為學(xué)習(xí)的捷徑。”

里德?tīng)枌⑦@項(xiàng)技術(shù)命名為“堂吉訶德”。這項(xiàng)技術(shù)主要通過(guò)為機(jī)器人提供一些故事來(lái)展示正常的或者被人類(lèi)所接受的行為，比如幫助別人、守時(shí)以及不消滅人類(lèi)等等。這些故事都是研究人員從互聯(lián)網(wǎng)上挑選出來(lái)的，它們講述的都是正確的、被社會(huì)認(rèn)可的行為。

接下來(lái)，如果人工智能能夠做出跟故事的良好行為匹配的決定或者行為的話(huà)，這項(xiàng)堂吉訶德技術(shù)將會(huì)給機(jī)器人做出一定程度的“獎(jiǎng)勵(lì)”（就是類(lèi)似小紅花的一些機(jī)械行為）。反之，如果人工智能的決定或者行為不符合故事中的道德標(biāo)準(zhǔn)的話(huà)，研究人員就會(huì)對(duì)這些行為進(jìn)行負(fù)面強(qiáng)化。通過(guò)閱讀幾百篇關(guān)于偷竊與不偷竊的故事，人工智能可以理解規(guī)則，并開(kāi)始基于群體智慧制定道德框架。“我們?nèi)祟?lèi)的隱含規(guī)則很難明確寫(xiě)下來(lái)，但書(shū)籍、電視和電影的主角都體現(xiàn)了現(xiàn)實(shí)世界的價(jià)值觀(guān)。人工智能可以從簡(jiǎn)單的故事開(kāi)始，然后發(fā)展到年輕人讀的故事。它會(huì)面對(duì)越來(lái)越復(fù)雜的道德情況?！?/p>

雖然在概念上不同于GoodAI，但里德?tīng)柕姆椒ㄟ€是屬于機(jī)器學(xué)習(xí)的范疇。他說(shuō)“我們要求人工智能觀(guān)看幾千名不同主角的故事，他們每個(gè)人都經(jīng)歷著類(lèi)似的困境。然后，機(jī)器可以作出判斷，并且制定符合大多數(shù)人會(huì)認(rèn)為是正確的行為方式?！?h3>我們有責(zé)任教機(jī)器人如何生活

從格勒姆到弗蘭肯斯坦，當(dāng)人們想象人類(lèi)作為造物主時(shí)，總是講述成故事。正如這些故事都有一個(gè)令人沮喪的結(jié)論一樣，現(xiàn)在的研究者還有一個(gè)擔(dān)憂(yōu)：如果你只讓人工智能接觸黑暗的情節(jié)，它最終可能會(huì)被訓(xùn)練成邪惡的?！叭绻阆氤蔀锳I的老師，那就得擁有圣人般的學(xué)識(shí)，”里德?tīng)栒f(shuō)，“但如果你在教材中刪掉了反英雄形象，那就說(shuō)明你這圣人當(dāng)?shù)貌缓细?，因?yàn)槟銓?duì)這個(gè)社會(huì)根本沒(méi)有深刻的理解，而這正是我的擔(dān)心之一。我們已經(jīng)進(jìn)入了大數(shù)據(jù)時(shí)代，經(jīng)驗(yàn)告訴我們，超量數(shù)據(jù)總比剛好夠更安全，因此只要是合規(guī)的，就可以加入供AI學(xué)習(xí)的數(shù)據(jù)庫(kù)中，只有這樣我們才能不偏不倚地判斷出到底什么是善什么是惡?！?/p>

里德?tīng)柭暦Q(chēng)，我們正處于歷史上的關(guān)鍵時(shí)刻，人類(lèi)社會(huì)面臨著一個(gè)簡(jiǎn)單的選擇“我們可以認(rèn)為永遠(yuǎn)都不可能有一個(gè)完美的機(jī)器人，而且由于存在各種危險(xiǎn)，我們絕不應(yīng)該開(kāi)發(fā)人工智能；或者我們可以，盡自己所能，努力減輕傷害……我們永遠(yuǎn)不會(huì)擁有完美的自駕車(chē)。它會(huì)發(fā)生事故，但事故發(fā)生的次數(shù)比人類(lèi)少。所以我們的目標(biāo)應(yīng)該是不比人類(lèi)更糟糕，也許，有可能比人類(lèi)更好。”

在科幻小說(shuō)中，機(jī)器人獲得感知力的時(shí)刻通常是人類(lèi)對(duì)自己的造物有道德義務(wù)的時(shí)候。與錘子或鐵鍬相比，iPhone或筆記本電腦的復(fù)雜程度要高得多，但它們都屬于同一類(lèi)別：工具。然而，隨著機(jī)器人開(kāi)始表現(xiàn)得像人類(lèi)一樣，開(kāi)始獲得情感，并學(xué)習(xí)和接受我們的文化和社會(huì)價(jià)值觀(guān)，或許舊的故事就需要重新被審視。至少，我們有道義上的責(zé)任去教機(jī)器人如何在世上生活。同時(shí)，我們也不得不重新考慮該如何對(duì)待它們。

（趙欣薦自《世界博覽》）