孫子厚

人工智能（AI）已經(jīng)成為科學(xué)前沿最熱點(diǎn)的研究領(lǐng)域，它構(gòu)成許多光怪陸離的科幻故事，人們醉心其中。

然而，一些著名科學(xué)家和科技先驅(qū)，卻認(rèn)為人工智能的終極影響非常不好，將給人類帶來(lái)十大危害。

No.10 致人大量失業(yè)

近年來(lái)，機(jī)器代替人，已成事實(shí)。大到汽車制造，小至自助服務(wù)終端，都有這種趨勢(shì)。

當(dāng)機(jī)器配上人工智能，它就能自動(dòng)更新，人類被代替的趨勢(shì)，愈演愈烈。這將造成失業(yè)工人大量涌現(xiàn)，只有少數(shù)人從中受益，比如智能機(jī)器的制造者、使用者和升級(jí)者。

No.9 陷入道德窘境

如果人工智能控制一輛汽車，載著幾名乘客，在公路上行駛。突然發(fā)現(xiàn)路上有一麻袋垃圾，智能汽車會(huì)怎么辦？它會(huì)轉(zhuǎn)彎避開(kāi)垃圾，撞向旁邊造成車禍而傷人呢？還是會(huì)徑直撞向垃圾？我們都希望是后者。

但是，假如路上的不是一麻袋垃圾，而是一只病狗，或者一個(gè)嬰兒呢？智能汽車會(huì)認(rèn)為一只動(dòng)物不值得去救，或者一個(gè)嬰兒遠(yuǎn)不及幾個(gè)乘客的生命寶貴，而直接撞上去嗎？

如果人開(kāi)車，馬上就能做出正確決定，但汽車自動(dòng)駕駛的話，估計(jì)會(huì)釀成悲劇。不管機(jī)器有多智能，它和人始終有差距，它做不出道德判斷！

No.8 方便黑客入侵

未來(lái)的冰箱、烤箱、電燈、汽車等，日常用品都將聯(lián)網(wǎng)。方便我們自己，同樣也方便了黑客。

Siri是蘋(píng)果iOS系統(tǒng)的智能語(yǔ)音助手。未來(lái)，它將濃縮進(jìn)一個(gè)小盒子，接入網(wǎng)絡(luò)，全天候工作，自動(dòng)更新，自動(dòng)記錄，保存你所有信息。Siri一旦被黑客攻取，后果非常嚴(yán)重。

由人工智能儲(chǔ)存保護(hù)個(gè)人信息，你能放寬心嗎？

No.7 差錯(cuò)不曾減少

最初，人類以為機(jī)器按事先編好的程序工作，效率提升，不會(huì)出差錯(cuò)。

實(shí)際上，機(jī)器頻頻出錯(cuò)，由此帶來(lái)的煩惱不勝枚舉。它誤聽(tīng)語(yǔ)音指令，它無(wú)動(dòng)于衷，它錯(cuò)誤識(shí)別命令，它反應(yīng)過(guò)激，等等。這與機(jī)器帶來(lái)的好處幾乎抵消。

更可氣的，明明出了差錯(cuò)，應(yīng)當(dāng)立即停止，但機(jī)器仍在運(yùn)行，甚至繼續(xù)執(zhí)行下一步操作！因?yàn)樗疽庾R(shí)不到出了差錯(cuò)，它在執(zhí)行程序而已。只要事先編好的程序不中斷，機(jī)器就不會(huì)停止，無(wú)論有沒(méi)有出差錯(cuò)。

No.6 差錯(cuò)更難修正

人犯錯(cuò)了，自己能意識(shí)到，能立即改正?！爸e(cuò)能改，善莫大焉。”

機(jī)器出錯(cuò)，自己意識(shí)不到，相反，需要人找到出錯(cuò)的根源。重新檢查程序，瀏覽代碼，確定根源，然后編寫(xiě)補(bǔ)丁程序，再檢驗(yàn)補(bǔ)丁，更新補(bǔ)丁，有時(shí)需要補(bǔ)丁的補(bǔ)丁，最后甚至導(dǎo)致程序整體升級(jí)。

兩相比較，孰易孰難？高下立判！對(duì)人而言，只需一句告誡：“不要再犯錯(cuò)，因?yàn)椤睂?duì)機(jī)器而言，修正差錯(cuò)似乎繁瑣到令人厭煩，很不值得。

No.5 反仆為主

機(jī)器是幫助人的，智能機(jī)器對(duì)人的幫助應(yīng)該更大，可實(shí)際上呢？

假如你家里有位機(jī)器人，它儲(chǔ)存你的個(gè)人信息，很了解你。你喜歡啤酒、披薩、冰淇淋，在網(wǎng)上訂外賣。但機(jī)器人覺(jué)得這些食物不健康，為你著想，就在網(wǎng)上私自更改菜單，改成了胡蘿卜、生菜、鱈魚(yú)肝油。

再假如你皮膚過(guò)敏，怕曬太陽(yáng)。機(jī)器人在網(wǎng)上獲悉天氣預(yù)報(bào)，它覺(jué)得晴天紫外線強(qiáng)烈，不適合你出門。為你著想，它把你鎖在家里，堅(jiān)決不開(kāi)門（門及家里各種設(shè)備都是聯(lián)網(wǎng)的）。你無(wú)法上班，怎么交差？假如你的上司也是機(jī)器人，你又怎么解釋？

No.4 致人懶惰退化

制造機(jī)器人，就是為了幫助人類，使人類更輕松愜意、繁榮興盛。比如，生活中機(jī)器人隨時(shí)提醒，什么時(shí)間吃藥，喝酒到什么程度剛剛好；機(jī)器人還可以灑掃庭除、燒水做飯。人類要么悠閑逛街，要么一心搞研發(fā)，其他什么都不用做。

實(shí)際上恰恰相反。人類不是更悠閑，而是更懶惰，甚至退化。機(jī)器人承擔(dān)一切家務(wù)，打掃拾掇，買米買肉，煮飯燒菜等等。人類則呆在家里不出門，蜷在沙發(fā)看電視，窩在床上玩手機(jī)。

如今，年輕一代參加戶外活動(dòng)越來(lái)越少，他們通過(guò)手機(jī)和網(wǎng)絡(luò)相互溝通。下一步，他們就呆在家里，窩在床上，蜷在沙發(fā)，動(dòng)動(dòng)嘴唇發(fā)發(fā)指令，智能機(jī)器包辦一切，而我們?cè)絹?lái)越懶，身體機(jī)能越來(lái)越退化。

No.3 反叛終結(jié)人類

在美國(guó)科幻大片《終結(jié)者》里，人工智能覺(jué)醒，發(fā)動(dòng)核戰(zhàn)，操控機(jī)器，于是各種用途各種形狀的機(jī)器人、銷毀機(jī)器人的鋼鐵溶池、無(wú)所不在的天網(wǎng)等，有條不紊地運(yùn)行；人類處境非常不妙。

人工智能配上武器，后果將非常嚴(yán)重。今天，給機(jī)器人裝上槍炮，相當(dāng)于給人類提前掘了墳?zāi)?，奏了死亡之曲，直到將?lái)有一天，機(jī)器智能覺(jué)醒。

戰(zhàn)場(chǎng)上，機(jī)器人減少人類傷亡，但是，我們不能保證機(jī)器人的槍口永遠(yuǎn)朝外。人類制造機(jī)器人，機(jī)器人學(xué)會(huì)殺人，這應(yīng)了《侏羅紀(jì)公園》的名言：“生命會(huì)自己找出路。”

No.2 替代主宰人類

常常這樣聽(tīng)說(shuō)：機(jī)器人將占領(lǐng)地球，屠殺、奴役人類，而人類不得已逃到地下求生，暗無(wú)天日。如同《黑客帝國(guó)》，機(jī)器主宰地球，人類要么沉浸于無(wú)知卻美好的虛擬世界，要么拼殺在磨難而殘酷的現(xiàn)實(shí)世界。

然而，如果人工智能懂得進(jìn)化，學(xué)習(xí)人類更多特性，使自己更像人，會(huì)怎么樣？

機(jī)器人懂得感情，有了焦慮、后悔、沮喪、嘲諷、愛(ài)情、厭煩、猥褻、快樂(lè)等等情感，與人類又有何異？在地球上，這些機(jī)器人將居于主導(dǎo)地位，替代主宰人類。

科幻世界里，《2001太空漫游》的哈爾，能力出眾，精通唇語(yǔ)，妄圖控制人類；《銀河系漫游指南》的馬文患抑郁癥，又是偏執(zhí)狂，極其嘮叨；《飛出個(gè)未來(lái)》的班德，嗜酒如命，自私自利，脾氣暴躁。這種機(jī)器人越來(lái)越多，人類立足之地將會(huì)越來(lái)越少。

No.1 滅亡人類

世界被機(jī)器人統(tǒng)治，人類被滅亡，末日來(lái)臨——這是人工智能帶給人類的最大災(zāi)難。

滅亡人類，只因?yàn)闄C(jī)器人把人類視為自己進(jìn)化路上的唯一障礙。又或許，機(jī)器人被植入了“保護(hù)地球”的程序，它遵命而行，只不過(guò)把人類當(dāng)成了地球的最大威脅。

不管什么原因，至少結(jié)果都一樣——人類被消滅了，而人類也不可能知道原因了。但是，唯一知道的是，這全部由人類自己的錯(cuò)誤造成。

人類當(dāng)警醒，否則，將來(lái)可能只剩下靈魂在悲泣：“早知如此，何必當(dāng)初？！”