四川省南充市纖維檢驗(yàn)所 陳春全

人工智能的幾宗“罪”

四川省南充市纖維檢驗(yàn)所 陳春全

2015年初，谷歌放出了一段機(jī)器狗的視頻。這只名為Spot的機(jī)器狗重約70公斤，具有強(qiáng)大的電力續(xù)航能力，可以完成行走、快跑、翻越各種地形等一系列動(dòng)作。視頻中的Spot正如同一只真狗那樣在行走。為了測(cè)試它的堅(jiān)固及可靠性能，突然從旁邊沖出來(lái)一個(gè)彪形大漢對(duì)著Spot的身子猛踹了一腳。Spot先是一個(gè)踉蹌，然后立即加快步伐以保持平衡，同時(shí)似乎還發(fā)出了幾聲悲慘的“叫喚”。這段視頻熱播之后，有人評(píng)論說(shuō)：人工智能結(jié)束世界的方式不是大爆炸，而是在被你踹了之后，機(jī)器狗轉(zhuǎn)身?yè)湎蚰恪?/p>

NO.1 差三錯(cuò)四

“過(guò)而能改，善莫大焉”，這句話出自《左傳》，前面一句是“人誰(shuí)無(wú)過(guò)？”。指一個(gè)人犯了錯(cuò)誤后，能夠認(rèn)識(shí)并改正錯(cuò)誤，就是最好的事情。但是，對(duì)于人工智能機(jī)器人來(lái)說(shuō)，它們一旦出了錯(cuò)，自己并不能意識(shí)到，反而需要人類來(lái)找出錯(cuò)誤的根源，然后編寫補(bǔ)丁程序，再檢驗(yàn)補(bǔ)丁，甚至還需要補(bǔ)丁的補(bǔ)丁，最后還要檢測(cè)整個(gè)程序等等。

對(duì)人工智能的程序，修正差錯(cuò)或是遺漏似乎永遠(yuǎn)沒(méi)有盡頭，讓人不勝其煩。這一點(diǎn)從我們現(xiàn)在使用的計(jì)算機(jī)程序就能得知，你是不是經(jīng)常需要為軟件更新升級(jí)下載補(bǔ)丁程序呢？

人類研發(fā)人工智能和制造機(jī)器人的初衷其實(shí)是想讓機(jī)器人按照我們事先編排好的程序工作，既能提升效率，還不會(huì)出差錯(cuò)。不過(guò)，機(jī)器人出錯(cuò)的概率并不比人類低多少，因?yàn)樗鼈儾坏熊浖?wèn)題，還存在硬件損壞等問(wèn)題。由此帶來(lái)的煩惱更是不勝枚舉。比如，語(yǔ)音識(shí)別時(shí)遇到說(shuō)方言的指令識(shí)別不了，當(dāng)你正在心急火燎的時(shí)候，機(jī)器人卻無(wú)動(dòng)于衷……

更為可怕的是，明明出了差錯(cuò)，必須立即停止工作，但機(jī)器人仍然在繼續(xù)按照錯(cuò)誤的方式執(zhí)行下一步操作。因?yàn)樗鼈儽旧硪庾R(shí)不到錯(cuò)誤，只要程序不中斷，機(jī)器人就不會(huì)停止任務(wù)。想想科幻大片里的那些人工智能們，因?yàn)闊o(wú)法停止任務(wù)而產(chǎn)生的諸多殺戮，真是讓人不寒而栗??！

對(duì)于錯(cuò)誤來(lái)說(shuō)，于一個(gè)人只需語(yǔ)重心長(zhǎng)地告訴他：“不能再這么干了……”，但對(duì)于人工智能來(lái)說(shuō)，修正錯(cuò)誤則需要耗費(fèi)更多的時(shí)間、人力、物力。

NO.2 喧賓奪主

假如將來(lái)你的家里有了一臺(tái)智能機(jī)器人，它的任務(wù)類似于我們現(xiàn)在的家庭保姆的工作。在它的程序中不但設(shè)置好了各種各樣的營(yíng)養(yǎng)食物搭配模式，還可以幫助主人測(cè)量各種身體健康指標(biāo)，并且能夠按照主人的健康指標(biāo)來(lái)安排每天的膳食搭配。

在下班的路上，辛苦了一天的你為了犒勞一下自己，訂購(gòu)了燒雞、鹵鵝、啤酒、可樂(lè)等自己喜歡的外賣。但是當(dāng)你推開家門的時(shí)候，卻發(fā)現(xiàn)智能機(jī)器人的模式中認(rèn)為這些食物不適合今天的你，為了你的健康著想，它在網(wǎng)上幫你把食物改成了咸菜加白粥。此情此景，你能奈何得了它嗎？

周末的你準(zhǔn)備跟朋友到郊外游玩，但是智能機(jī)器人認(rèn)為外面的霧霾太重，你不適合暴露于曠野之中。它為了你的健康著想，把你鎖在家中死不開門。此時(shí)你除了翻窗、跳墻之外，似乎也沒(méi)有其他辦法，你是否會(huì)感到很無(wú)奈呢？

更為可怕的是，假如你的單位請(qǐng)了機(jī)器人保安，或者有一天你突然發(fā)現(xiàn)，你們部門的小頭目其實(shí)也是一個(gè)機(jī)器人，你又該做何反應(yīng)呢？

NO.3 無(wú)情無(wú)義

最近風(fēng)靡一時(shí)的無(wú)人駕駛汽車，實(shí)際上也是人工智能的一種表現(xiàn)形式。它們主要依靠車內(nèi)的以計(jì)算機(jī)系統(tǒng)為主的智能駕駛儀來(lái)實(shí)現(xiàn)無(wú)人駕駛，也可以被稱為輪式移動(dòng)機(jī)器人。人類研發(fā)和使用它們的終極目的是實(shí)現(xiàn)安全穩(wěn)定駕駛，避免交通事故的發(fā)生。

然而，2016年美國(guó)加州就發(fā)生了一起谷歌無(wú)人駕駛汽車撞上公交車的事故。據(jù)說(shuō)此次事故與路側(cè)排水系統(tǒng)的沙袋有關(guān)。當(dāng)時(shí)，谷歌無(wú)人駕駛汽車為避讓沙袋而沒(méi)有注意到公交車，因此在向左變道時(shí)蹭撞了后方的公交車。這說(shuō)明在面對(duì)復(fù)雜的交通狀況時(shí)，智能機(jī)器人也會(huì)出現(xiàn)很嚴(yán)重的判斷失誤。

這次事故雖然沒(méi)有造成人員傷亡，但是引發(fā)了人們的一些思考。無(wú)人駕駛汽車在行駛過(guò)程中發(fā)現(xiàn)面前有障礙物時(shí)，會(huì)采取規(guī)避動(dòng)作避免發(fā)生事故，但障礙物可能是一個(gè)垃圾桶，也可能是一個(gè)人或者動(dòng)物，人工智能汽車是優(yōu)先選擇保證車上乘客的安全而直接撞上去，還是考慮障礙物的安全而直接開到溝里去呢？

毋庸置疑，如果是一個(gè)真人在開車，他立刻就能做出正確的選擇，而智能汽車恐怕就會(huì)釀出慘禍。不論機(jī)器多么先進(jìn)，多么智能，它們都無(wú)法做出道德的判斷。

再者說(shuō)了，無(wú)人駕駛汽車出了事故，交警肯定是第一個(gè)傻了的，我找誰(shuí)來(lái)負(fù)責(zé)？

NO.4 毀形滅性

我們使用人工智能的目的無(wú)非是想讓生活更美好。將來(lái)有一天，機(jī)器人可以幫我們做洗衣做飯、打掃清潔等一切服務(wù)性的工作。除了少數(shù)從事研發(fā)的人之外，其他人只需要愜意地逛街、旅游、聚會(huì)就可以了，只不過(guò)在商場(chǎng)和飯店接待你的也是機(jī)器人罷了。

但實(shí)際上，這一旦成為現(xiàn)實(shí)是很危險(xiǎn)的。大多數(shù)的人會(huì)因此變得更加懶惰，很多年輕人會(huì)喪失學(xué)習(xí)和工作的愿望。到時(shí)候?qū)W生們的周末會(huì)是什么樣子呢？告訴你吧，是集體窩在被窩里面玩手機(jī)。學(xué)生們現(xiàn)在的戶外活動(dòng)已經(jīng)越來(lái)越少了，而下一步智能機(jī)器人更會(huì)替他們包辦一切。

說(shuō)到知識(shí)，那個(gè)時(shí)候誰(shuí)還會(huì)傻乎乎地學(xué)習(xí)知識(shí)呢？人工智能什么問(wèn)題都能回答，什么事情都能幫你搞定。我們既不學(xué)習(xí)，也不工作，更不會(huì)運(yùn)動(dòng)，身體機(jī)能開始退化，直至淪為一群除了吃喝啥也不會(huì)的高級(jí)動(dòng)物，而實(shí)質(zhì)上我們已經(jīng)被智能機(jī)器人給“圈養(yǎng)”起來(lái)了。

目前，西方一些國(guó)家已經(jīng)開始計(jì)劃給智能機(jī)器人裝上槍炮。戰(zhàn)場(chǎng)上機(jī)器人固然能減少人類的傷亡，但誰(shuí)又敢保證它們的槍口會(huì)永遠(yuǎn)朝外呢？顯然，人類的這一做法無(wú)疑是提前給自己挖好了墳?zāi)?，敲響了喪鐘?/p>

長(zhǎng)此以往，終有一天，世界將被智能機(jī)器人所占領(lǐng)和統(tǒng)治。而或許只是因?yàn)闄C(jī)器人被人類植入了“保護(hù)地球”之類冠冕堂皇的程序，使它們遵照我們的命令而行，最終把我們當(dāng)成了地球的“毒瘤”。當(dāng)然這只是一種猜測(cè)，因?yàn)槟菚r(shí)人類可能已經(jīng)被滅亡了，我們也就無(wú)法知道確切的原因了……

“我們?nèi)祟愔源婊钣谑?，從?lái)不是因?yàn)槲覀兪沁@個(gè)星球上最強(qiáng)壯、行動(dòng)最快的物種，而是因?yàn)槲覀冏盥斆?。所以?dāng)比我們更聰明的力量出現(xiàn)在這個(gè)星球上的時(shí)候，它將接管地球?！?/p>

2016年初，霍金、比爾·蓋茨等幾位人類科技界的“頂梁柱”在一封提倡控制人工智能發(fā)展的公開信上簽下了自己的名字。在他們看來(lái)，飛速發(fā)展的人工智能已經(jīng)成為“我們現(xiàn)存的最大威脅”。