周華明

Real Story

機(jī)器人法則

提到機(jī)器人法則，你第一時(shí)間想到的，可能是科幻作家阿西莫夫在短篇小說(shuō)集《我，機(jī)器人》中描述的機(jī)器人三定律：一，機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害；二，除非違背第一法則，否則機(jī)器人必須服從人類的命令；三，除非違背第一、二法則，否則機(jī)器人必須保護(hù)自己。

阿西莫夫的機(jī)器人三定律就因其高度的概括性和嚴(yán)密的邏輯而為人稱道，被許多科幻作品引用并發(fā)揚(yáng)光大。連現(xiàn)代人工智能的研究亦多考慮此法則，甚至將其應(yīng)用在實(shí)際開(kāi)發(fā)中。但阿西莫夫設(shè)計(jì)法則的本意并非要證明其完美無(wú)缺，恰恰相反，他在小說(shuō)中不斷探討上述法則的局限性，引導(dǎo)讀者思考這樣的問(wèn)題：機(jī)器人與人類到底應(yīng)當(dāng)以怎樣的方式共處？機(jī)器人是否可能擁有靈魂，而不只是徒具人類外形的機(jī)器？如果一個(gè)機(jī)器人有了靈魂，那么它是否仍應(yīng)服從這些法則？

在《機(jī)器紀(jì)元》中所設(shè)置的二法則，隱含了與阿西莫夫的機(jī)器人三定律完全不同的意味。機(jī)器人三定律并未限制機(jī)器人的自我完善和自我發(fā)展，而是明確規(guī)定了機(jī)器人對(duì)人類的從屬地位?！稒C(jī)器紀(jì)元》的二法則別出心裁：一方面，沒(méi)有要求機(jī)器人必須完全服從人類；另一方面，不能傷害的對(duì)象并未指定人類，而是要求不得傷害任何生命。一個(gè)具有了自己的意志和靈魂的機(jī)器人是不是生命？如果必須在傷害人類和傷害這樣的機(jī)器人之間做選擇的話，應(yīng)當(dāng)如何選擇？

電影中的人類采用了簡(jiǎn)單粗暴的辦法：限制機(jī)器人的應(yīng)用、限制機(jī)器人的自我發(fā)展，不讓機(jī)器人去考慮人與機(jī)器人孰輕孰重，更不讓機(jī)器人有機(jī)會(huì)發(fā)展出自己的意志與靈魂。

False Tale

無(wú)所適從的定義

其實(shí)，無(wú)論阿西莫夫的機(jī)器人三定律，還是《機(jī)器紀(jì)元》的二法則，都有一個(gè)很明顯的問(wèn)題：以不得傷害人類為例，這條法則沒(méi)有定義清楚什么是傷害，怎樣的程度是傷害，怎樣就不是?？赡芤恍┤擞X(jué)得在機(jī)器人的監(jiān)督下鍛煉身體有益身心健康，而另一些人卻會(huì)覺(jué)得每天被機(jī)器人逼著跑步讓人身心俱疲。那么機(jī)器人該怎么做？是聽(tīng)任主人疏于鍛煉，身體受損，還是逼迫主人運(yùn)動(dòng)？

其次，這些法則也沒(méi)有定義清楚，如果機(jī)器人陷入了不得不傷害人類的情況時(shí)，應(yīng)當(dāng)如何判斷。例如，假設(shè)未來(lái)機(jī)器人替代人類成為汽車司機(jī)，當(dāng)機(jī)器人司機(jī)在駕車時(shí)，發(fā)現(xiàn)有人沖上了馬路，剎車已經(jīng)來(lái)不及了，不改變方向會(huì)撞傷他，而改變方向會(huì)導(dǎo)致車輛撞上障礙物傷害乘車者，那么機(jī)器人應(yīng)該如何反應(yīng)？

這就是機(jī)器人三定律及其他類似法則所碰到的問(wèn)題。人類的道德、倫理、社會(huì)習(xí)慣、心理差異，很難用簡(jiǎn)單的語(yǔ)言概括成型，就連人類自己都為此傷透腦筋，更何況只能遵循邏輯來(lái)判斷的機(jī)器人呢？

蹣跚學(xué)步的倫理

《機(jī)器紀(jì)元》及類似的電影，其實(shí)恰好反映了近年來(lái)學(xué)界對(duì)人工智能研究的一些憂慮。不久前，還有不少學(xué)者在呼吁人們小心“奇點(diǎn)降臨”，即如果機(jī)器人具有了真正的自我意識(shí)，可能會(huì)借助電腦的高性能和互聯(lián)網(wǎng)的傳播性，迅速超越人類的智力，并在極短的時(shí)間內(nèi)將觸手伸到世界的每個(gè)角落。于是，電影《終結(jié)者》中毀滅人類的天網(wǎng)就會(huì)由此誕生。

隨著人工智能研究的推進(jìn)，機(jī)器倫理學(xué)也開(kāi)始成為人類需要思考的東西?？茖W(xué)家們發(fā)現(xiàn)，我們很難用類似法則的方式來(lái)定義機(jī)器倫理。正如前文所述，這些法則的高度概括性反而讓它們無(wú)法適用于現(xiàn)實(shí)。

合理的對(duì)機(jī)器人的倫理思考，可能應(yīng)是從小處出發(fā)，根據(jù)機(jī)器人或人工智能適用的范圍和需要處理的情況，逐條進(jìn)行定義和限制。就像父母教育小孩子，都是從早晚刷牙、飯前洗手這樣的小處著眼，如果你要教育孩子做一個(gè)好人，不能只讓他記住“做一個(gè)好人”這句話，而應(yīng)當(dāng)從日常行為教導(dǎo)他怎樣做一個(gè)好人。