蕭星寒

公元2044年的一天，城市的貧民窟里，一個(gè)警察正在巡邏。在一個(gè)角落，他看到了一個(gè)破爛的機(jī)器人。這在這個(gè)地區(qū)非常常見，然而，不常見的是，那個(gè)機(jī)器人正在對自己斷掉的腿進(jìn)行維修。這行為是明顯違反規(guī)定的。警察嚇壞了，掏出槍來轟掉了那機(jī)器人的腦袋……

這是由西班牙導(dǎo)演加貝·伊班內(nèi)茲執(zhí)導(dǎo)的科幻片《機(jī)器紀(jì)元》的開頭，然后由影星安東尼奧·班德拉斯飾演的ROC科技公司旗下的保險(xiǎn)理賠員杰克·波根開始調(diào)查此事。

為什么機(jī)器人不能修理自己？當(dāng)電影公映之后，有關(guān)機(jī)器人的各種話題再度熱炒，其中就有“機(jī)器人三原則”以及它的各種升級補(bǔ)丁版。這是科幻作家為機(jī)器人設(shè)定的一整套行為規(guī)范和道德準(zhǔn)則，不僅受到科幻迷的追捧，甚至還影響到了真正研究機(jī)器人的那些科學(xué)家。這是科幻，也是科學(xué)。

“機(jī)器人三原則”改變機(jī)器人的黑暗形象

在電影里，那時(shí)核大戰(zhàn)雖然結(jié)束了，但到處都是不能居住的輻射區(qū)，只有用高大的圍墻圈起來的城市是人類的避難之所，然而，空氣是有毒的，水也不清潔，貧富差距極其明顯。在這種情況下，ROC科技公司研發(fā)的“朝圣者7 000”智能機(jī)器人迅速崛起，幫助人們處理從生到死的一切事務(wù)。機(jī)器人們?nèi)蝿谌卧?，不辭辛苦，與此同時(shí)也遭遇種種殘酷無情的對待。為了安全起見，在它們的仿生內(nèi)核里，設(shè)置了兩條根本原則——第一原則：必須保護(hù)人類生命；第二原則：不得對機(jī)器人進(jìn)行維修和改造。

在相當(dāng)長的一段時(shí)間內(nèi)，這兩條根本原則保護(hù)了人類已經(jīng)非常脆弱的文明。但現(xiàn)在，有機(jī)器人違反了第二原則，這是非常危險(xiǎn)的事情。不久，一個(gè)機(jī)器人當(dāng)著波根的面自焚了，這匪夷所思的事情讓波根意識到自己必須查出幕后兇手。

在早期科幻小說里，機(jī)器人的形象千篇一律：人類制造出機(jī)器人來當(dāng)奴隸，機(jī)器人不堪奴役而造反，成為人類毀滅者。到20世紀(jì)50年代，機(jī)器人的這種黑暗形象才得到改變。美國科幻大師阿西莫夫?yàn)闄C(jī)器人建立了一套行為規(guī)范和道德準(zhǔn)則，這就是“機(jī)器人三原則”：

一、機(jī)器人不可傷害人，或任人受到傷害而無所作為。

二、機(jī)器人應(yīng)服從人的一切命令，但命令與第一定律相抵觸時(shí)例外。

三、機(jī)器人必須保護(hù)自身的安全，但不得與第一、第二定律相抵觸。

有了“機(jī)器人三原則”，阿西莫夫筆下的機(jī)器人就不再是“犯上作亂”的反面角色，而是人類忠實(shí)的奴仆和朋友。隨著現(xiàn)實(shí)里機(jī)器人的用途日益廣泛，阿西莫夫的“機(jī)器人三原則”越來越顯示智者的光輝，以至有人稱之為“機(jī)器人學(xué)的金科玉律”。

這三條原則看上去語言簡潔明了，內(nèi)在邏輯清晰透徹，一經(jīng)推出，即受到廣大讀者的狂熱追捧。這種狂熱甚至影響到了真正研究機(jī)器人的科學(xué)家。然而，機(jī)器人三原則只具有理論價(jià)值，而不具有實(shí)踐意義。

首先一點(diǎn)，在人工智能技術(shù)發(fā)達(dá)之后，什么樣的人都可以造機(jī)器人，顯然，不是誰都認(rèn)可機(jī)器人三原則的，比如恐怖分子。其次，機(jī)器人的用途千種萬種，只要你想得到的，沒有造不出來的，比如軍用機(jī)器人，不會有誰會傻到制造以“不可傷害人”為第一行事準(zhǔn)則的軍用機(jī)器人吧。

事實(shí)上，軍用機(jī)器人是機(jī)器人幾大運(yùn)用領(lǐng)域中智商要求最高的，因此也是機(jī)器人技術(shù)發(fā)展最快的領(lǐng)域。軍用機(jī)器人，生來就是殺人的，當(dāng)然不可能遵守機(jī)器人三原則。為了在變化多端的戰(zhàn)場環(huán)境中生存并執(zhí)行任務(wù)，它們必須比別的種類的機(jī)器人聰明上百倍。

“機(jī)器人三原則”的升級補(bǔ)丁

阿西莫夫肯定也看到了“機(jī)器人三原則”的不足。在1985年，《機(jī)器人與帝國》這本書中，阿西莫夫在三原則的基礎(chǔ)上加了一個(gè)第零原則：機(jī)器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害。

為什么后來要定出這條“第零原則”呢？比如，為了維持國家或者說世界的整體秩序，我們制定法律，必須要執(zhí)行一些人的死刑，這種情況下，機(jī)器人該不該阻止死刑的執(zhí)行呢？顯然是不允許的，因?yàn)檫@樣就破壞了我們維持的秩序，也就是傷害了人類的整體利益。

其他科幻作家也試圖對機(jī)器人三原則進(jìn)行修補(bǔ)。羅杰·克拉克構(gòu)思的機(jī)器人原則包括七條：

元原則：機(jī)器人不得實(shí)施行為，除非該行為符合機(jī)器人原則。

第零原則：機(jī)器人不得傷害人類整體，或者因不作為致使人類整體受到傷害。

第一原則：除非違反高階原則，機(jī)器人不得傷害人類個(gè)體，或者因不作為致使人類個(gè)體受到傷害。

第二原則：機(jī)器人必須服從人類的命令，除非該命令與高階原則抵觸。機(jī)器人必須服從上級機(jī)器人的命令，除非該命令與高階原則抵觸。

第三原則：如不與高階原則抵觸，機(jī)器人必須保護(hù)上級機(jī)器人和自己之存在。

第四原則：除非違反高階原則，機(jī)器人必須執(zhí)行內(nèi)置程序賦予的職能。

繁殖原則：機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造，除非新機(jī)器人的行為符合機(jī)器人原則。

這組“機(jī)器人七原則”要完備得多。但并非毫無問題。比如，如果機(jī)器人擁有了自我意識，擁有了與人類不相上下甚至超過人類的智慧和文明，我們還有資格為它們制定原則么？

機(jī)器紀(jì)元是我們注定的未來？

在《機(jī)器紀(jì)元》中，ROC科技公司制造出了第一種真正具有自我意識的量子電腦后，科學(xué)家們同這臺沒有任何限制的量子電腦交流了8天，暢所欲言，相互學(xué)習(xí)。但疑慮已經(jīng)在科學(xué)家心里閃現(xiàn)：這臺量子電腦如此聰明，或許有一天它將不再需要我們的幫助，它將自我進(jìn)化。到了第9天，人機(jī)對話終止了，并不是電腦終止了與人類的對話，而是因?yàn)榭茖W(xué)家們無法理解量子電腦?？只胖拢茖W(xué)家們意識到要將機(jī)器人限制在人類可以理解的范圍內(nèi)，于是他們向量子電腦下達(dá)了最后一個(gè)指令，就是編制機(jī)器人無法破解的安全原則。后來，所有的“朝圣者7 000”智能機(jī)器人的仿生內(nèi)核都是以這臺量子電腦為藍(lán)本制造的，區(qū)別就在于前面說過的那兩條安全原則。事實(shí)上，這兩條安全原則就是機(jī)器人七原則的第一原則和繁殖原則的另一種表述。

然而，所謂原則就是拿來破壞的，在影視劇里尤其如此。出現(xiàn)了違反原則的機(jī)器人之后，杰克·波根開始著手調(diào)查此事。起初他和所有人一樣，以為背后一定有一個(gè)機(jī)械師篡改了機(jī)器人的程序，在無意中卷入了機(jī)器人的逃亡之旅后，他驚訝地發(fā)現(xiàn)，整個(gè)事件的背后并沒有機(jī)械師，“朝圣者7 000”智能機(jī)器人自發(fā)地違背了原則，對自身進(jìn)行維修和改造。

很難解釋這件事情，也許是當(dāng)初第一代量子電腦埋下的后門，也可能是一種本能。但結(jié)果就是，機(jī)器人開始反叛。不，也不能說是反叛，它們只是離開城市，去往人類到不了的輻射區(qū)，繼續(xù)生活。

人類不珍惜地球，將地球破壞得千瘡百孔。也許機(jī)器人會是更好的繼承者。人類制定，或者機(jī)器人制定的幾條規(guī)則，并不能阻止這一未來的到來。

這難道是我們注定的未來？