礎(chǔ)德

隨著人工智能的不斷發(fā)展，一些科學(xué)家擔(dān)心：在不久的未來(lái)，人工智能技術(shù)會(huì)超越人類(lèi)的智慧，甚至?xí)催^(guò)來(lái)控制或毀滅人類(lèi)。對(duì)這一災(zāi)難性的預(yù)測(cè)來(lái)自一群世界上公認(rèn)“最聰明的人”，包括微軟創(chuàng)始人比爾·蓋茨、英國(guó)科學(xué)家史蒂芬·霍金以及美國(guó)的“科技狂人”伊隆·馬斯克。甚至有學(xué)者認(rèn)為，人工智能超過(guò)人類(lèi)的時(shí)間點(diǎn)——“奇點(diǎn)”已經(jīng)逼近，很可能就在十幾年后。這一切真的會(huì)發(fā)生嗎？

人類(lèi)面臨的危險(xiǎn)：機(jī)器人比人類(lèi)還聰明

什么樣的機(jī)器人才是有危險(xiǎn)的人工智能？英國(guó)密碼專(zhuān)家、計(jì)算機(jī)先驅(qū)阿蘭·圖靈設(shè)計(jì)了一個(gè)甄別實(shí)驗(yàn)：一臺(tái)計(jì)算機(jī)和一個(gè)人做競(jìng)賽，說(shuō)服一個(gè)看不到它們的觀察者，使其相信自己才是真正的人類(lèi)。當(dāng)機(jī)器人至少把半數(shù)觀察者蒙騙了，才算通過(guò)了測(cè)試。目前，尚無(wú)一臺(tái)計(jì)算機(jī)接近于通過(guò)測(cè)試。但圖靈也指出，當(dāng)超級(jí)智能機(jī)器人通過(guò)圖靈測(cè)試時(shí)，人類(lèi)的報(bào)應(yīng)就來(lái)到了。

人類(lèi)所擔(dān)心的智能機(jī)器人是能夠像人一樣思考、行動(dòng)。這里行動(dòng)應(yīng)廣義地理解為采取行動(dòng)，或制定行動(dòng)的決策，而不是肢體動(dòng)作，而且它們具有知覺(jué)和自我意識(shí)。

人工智能對(duì)人類(lèi)的毀滅能力是什么？牛津大學(xué)人類(lèi)未來(lái)研究所的研究人員給出了解釋?zhuān)斯ぶ悄懿皇窍窈宋淦饕粯酉麥缛祟?lèi)，而是會(huì)逐步取代人類(lèi)，真正可怕的是它們的智力。它們將比人類(lèi)更聰明、更擅長(zhǎng)社交、更有工作能力，假如一個(gè)超級(jí)機(jī)器人走進(jìn)一個(gè)酒吧，它比人類(lèi)更能吸引男人、女人，那時(shí)它們才真的可怕。

比爾·蓋茨說(shuō)：“如果我們能夠很好地駕馭機(jī)器人，機(jī)器能夠?yàn)槿祟?lèi)造福，但如果若干年后機(jī)器發(fā)展得超過(guò)人類(lèi)的智能，那么它們就將成為人類(lèi)的心頭大患?！?/p>

機(jī)器人會(huì)比人類(lèi)還聰明嗎？

機(jī)器的智商能有多高？機(jī)器是否會(huì)產(chǎn)生自我意識(shí)？機(jī)器人會(huì)比人類(lèi)還聰明嗎？一些科學(xué)家認(rèn)為，機(jī)器人的智商超過(guò)人類(lèi)是遲早的事情，甚至還有美國(guó)學(xué)者明確提出了人工智能超過(guò)人類(lèi)的時(shí)間點(diǎn)。

首位用“奇點(diǎn)”這一術(shù)語(yǔ)描述這種技術(shù)大變革的人是美國(guó)數(shù)學(xué)家、科幻小說(shuō)家弗諾·文奇，此后，高科技企業(yè)家雷·庫(kù)茲韋爾在其著作《奇點(diǎn)迫近》一書(shū)中進(jìn)一步提升了這一概念。庫(kù)茲韋爾認(rèn)為，技術(shù)的指數(shù)級(jí)發(fā)展將不可避免地導(dǎo)致超人類(lèi)智能的出現(xiàn)。庫(kù)茲韋爾對(duì)自己的預(yù)測(cè)很有信心，他甚至將到達(dá)“奇點(diǎn)”的時(shí)間定為2029年。到了2029年，電腦不僅能夠理解我們的語(yǔ)言，甚至能夠和我們開(kāi)玩笑。庫(kù)茲韋爾是世界上最著名的未來(lái)學(xué)家和人工智能專(zhuān)家之一。在此之前，他曾準(zhǔn)確預(yù)測(cè)科學(xué)技術(shù)的發(fā)展趨勢(shì)。1990年，庫(kù)茲韋爾預(yù)測(cè)稱(chēng)電腦將在1998年之前打敗國(guó)際象棋冠軍。1997年，IBM公司研制的電腦“深藍(lán)”成功擊敗國(guó)際象棋冠軍加里·卡斯帕羅夫。在互聯(lián)網(wǎng)仍只是一個(gè)由少數(shù)學(xué)者使用的微小網(wǎng)絡(luò)時(shí)，庫(kù)茲韋爾就預(yù)言互聯(lián)網(wǎng)將在不久后把整個(gè)世界連接在一起。庫(kù)茲韋爾表示電腦的智商將在10多年內(nèi)超過(guò)人類(lèi)，也就是說(shuō)，電腦在圖靈測(cè)試中表現(xiàn)出的智能行為將與人類(lèi)一模一樣。

麻省理工學(xué)院的機(jī)器人學(xué)教授羅德尼·布魯克斯說(shuō)：“在越過(guò)‘奇點(diǎn)’后，我們和我們的世界將與現(xiàn)在大不一樣，對(duì)什么是人、什么是機(jī)器人的定義也將變得不同?！币恍┪磥?lái)學(xué)家稱(chēng)，正如黑洞中心存在著一個(gè)讓一切已知物理定律都失效的“奇點(diǎn)”一樣，信息技術(shù)也正在朝著這樣一個(gè)“奇點(diǎn)”邁進(jìn)。屆時(shí)，人工智能機(jī)器將比其制造者——人更加聰明。這些未來(lái)學(xué)家認(rèn)為，過(guò)了這個(gè)點(diǎn)，一切都將以現(xiàn)在不可預(yù)測(cè)、無(wú)法想象的速度和形式發(fā)展了。人工智能奇點(diǎn)研究所的創(chuàng)辦人之一伊利澤·尤德庫(kù)斯基目前正在研究所謂的“友好人工智能”。他說(shuō)，他最擔(dān)心的是，一些科技怪才會(huì)發(fā)明一種能夠自我進(jìn)化但卻沒(méi)有道德感的機(jī)器人，這將給人類(lèi)帶來(lái)災(zāi)難。

馬丁是世界上最杰出的天文學(xué)家之一，他認(rèn)為雖然地球已經(jīng)存在了4500萬(wàn)個(gè)世紀(jì)，但本世紀(jì)非常特殊。在幾乎整個(gè)地球歷史里，威脅都來(lái)自自然界，但從現(xiàn)在開(kāi)始，最大的危險(xiǎn)來(lái)自我們自身——尤其是人工智能。馬丁認(rèn)為，人類(lèi)大腦的大小和處理能力受到了化學(xué)和新陳代謝的限制。也許人類(lèi)已經(jīng)非常接近這些極限了。但基于硅的電腦卻沒(méi)有這樣的限制。人工智能不受到地球生物圈限制這一事實(shí)使得它成為更加致命的威脅。當(dāng)這些機(jī)器制造者具有最大的建造能力時(shí)，太陽(yáng)系內(nèi)和星際空間將成為它們的理想舞臺(tái)。而這個(gè)領(lǐng)域的創(chuàng)新正快速地向前發(fā)展。

機(jī)器人會(huì)毀滅人類(lèi)嗎？

一些科學(xué)家擔(dān)心：人工智能正在以令人害怕的步伐發(fā)展，它將導(dǎo)致人類(lèi)走向最終的滅亡。

就在不久前，著名科學(xué)家史蒂芬·霍金再次發(fā)出警告——未來(lái)100年內(nèi)，人工智能將比人類(lèi)更為聰明，機(jī)器人將控制人類(lèi)?；艚鹪c特斯拉CEO伊隆·馬斯克共同發(fā)表公開(kāi)信，他們認(rèn)為人工智能的發(fā)展應(yīng)該受到控制。信中稱(chēng)，如果智能機(jī)器無(wú)法保障安全，人類(lèi)可能陷入黑暗的未來(lái)。一方面人工智能讓人類(lèi)越來(lái)越缺乏思考，另一方面其自身則有可能越來(lái)越聰明，從而威脅到人類(lèi)的生存。

馬斯克也提出警告，最少只需5年，智能機(jī)器可能就會(huì)帶來(lái)極端危險(xiǎn)。他認(rèn)為，人工智能就像“召喚惡魔”。馬斯克在麻省理工學(xué)院發(fā)表演講時(shí)，將人工智能描述為人類(lèi)“最大的生存威脅”。他說(shuō)：“我認(rèn)為我們對(duì)人工智能應(yīng)該保持高度警惕。如果讓我猜測(cè)人類(lèi)生存的最大威脅，那可能就是人工智能?！?/p>

牛津大學(xué)哲學(xué)教授尼克·博斯特倫與詹姆斯·巴拉特認(rèn)為，“現(xiàn)在我們?nèi)祟?lèi)就像一群擺弄著一顆危險(xiǎn)炸彈的無(wú)知孩童。即便是出于好意而創(chuàng)造的人工智能，它仍有犯下種族滅絕罪行的傾向。如果沒(méi)有小心謹(jǐn)慎的制衡指令，一個(gè)有著自我意識(shí)、不斷自我完善并追尋目標(biāo)的系統(tǒng)將發(fā)展到在我們看來(lái)非常荒謬的程度，以完成它的目標(biāo)”。

鏈接1：

機(jī)器人會(huì)叛亂嗎？

在一些科幻電影中，機(jī)器人會(huì)起義對(duì)抗它們的制造者——人類(lèi)，甚至最終將人類(lèi)趕盡殺絕。雖然這只是科幻電影中的故事情節(jié)，但并不意味著未來(lái)隨著機(jī)器人技術(shù)進(jìn)步，它們不會(huì)與人類(lèi)產(chǎn)生對(duì)抗和沖突。數(shù)以千計(jì)的無(wú)人駕駛飛機(jī)和機(jī)器人已部署在許多國(guó)家，尤其是美國(guó)駐伊拉克和阿富汗戰(zhàn)場(chǎng)。也許有一天，武裝機(jī)器人真的會(huì)改變現(xiàn)代戰(zhàn)爭(zhēng)的法則和方法;也許有一天，真的會(huì)出現(xiàn)科幻電影《終結(jié)者》中控制戰(zhàn)爭(zhēng)的“天網(wǎng)”機(jī)器人系統(tǒng)。

不論如何，科學(xué)家認(rèn)為未來(lái)對(duì)于人工智能的制造，一定要將不得傷害人類(lèi)設(shè)定為其最重要的行事規(guī)則。美國(guó)科幻小說(shuō)家艾薩克·阿西莫夫在他的機(jī)器人相關(guān)小說(shuō)中為機(jī)器人設(shè)定了行為準(zhǔn)則（也就是機(jī)器人三定律）——

法則一，也是最為重要的一條法則：機(jī)器人不得傷害人類(lèi)，也不得因不作為而使人類(lèi)受到傷害;

法則二，機(jī)器人必須服從人類(lèi)的命令，除非違背第一法則;

法則三，在不違背第一及第二法則的前提下，機(jī)器人必須保護(hù)自己。

機(jī)器人會(huì)成為我們的朋友？

對(duì)于馬斯克、霍金等人的言論，谷歌董事長(zhǎng)施密特率先發(fā)起反駁。施密特的身份很特殊，作為谷歌的董事長(zhǎng)，他曾親身參與許多世界上最復(fù)雜的人工智能系統(tǒng)的研發(fā)，從自動(dòng)駕駛汽車(chē)到谷歌的預(yù)測(cè)性搜索引擎等。施密特認(rèn)為，所有對(duì)機(jī)器將搶走人類(lèi)工作、占領(lǐng)世界的恐懼都毫無(wú)根據(jù)，并且希望人們能夠意識(shí)到：機(jī)器人會(huì)成為我們的朋友。施密特說(shuō)：“對(duì)于人工智能的擔(dān)憂(yōu)，都是正常的。但是回顧歷史你會(huì)發(fā)現(xiàn)，這些絕對(duì)是錯(cuò)誤的。歷史的經(jīng)驗(yàn)已經(jīng)證明，過(guò)去的經(jīng)濟(jì)繁榮時(shí)期，大多數(shù)是因?yàn)椴捎眯录夹g(shù)而引發(fā)的。”

科技取得突飛猛進(jìn)的成果時(shí)，總是讓人感到害怕，但真正重要的是掌握技術(shù)的人。總之，對(duì)于新技術(shù)的發(fā)展，難免會(huì)存在爭(zhēng)論，但科學(xué)的進(jìn)步總歸是為人類(lèi)帶來(lái)更美好的未來(lái)。但是有一點(diǎn)卻不能忽視，隨著科學(xué)技術(shù)的進(jìn)步，自動(dòng)化的人工智能會(huì)越來(lái)越多地出現(xiàn)在我們的工作、生活中，機(jī)器代替人類(lèi)工作很有可能在不遠(yuǎn)的將來(lái)成為現(xiàn)實(shí)。

鏈接2：

人工智能將沖擊現(xiàn)有社會(huì)體系

人工智能對(duì)人類(lèi)工作、生活方式的改變，可能影響到現(xiàn)有的法律體系、道德標(biāo)準(zhǔn)以及利益分配的模式等等。而人類(lèi)做出改變的速度未必能跟得上人工智能的發(fā)展速度，這就會(huì)對(duì)社會(huì)現(xiàn)有的體制造成沖擊，從而引發(fā)混亂?？茖W(xué)家預(yù)測(cè)：在技術(shù)上，具有人工智能的機(jī)器人將使得人類(lèi)全部失業(yè)。只要對(duì)掌握某項(xiàng)技能的人復(fù)制100次，就能復(fù)制出100個(gè)具有此能力的機(jī)器人，那么在100個(gè)行業(yè)里就會(huì)擁有1萬(wàn)名高級(jí)員工，這也許1個(gè)星期就能訓(xùn)練完成，只要愿意還可以復(fù)制得更多。這樣一來(lái)，人工智能幾乎可以代替任何人，包括各類(lèi)專(zhuān)業(yè)人員。那個(gè)時(shí)候人類(lèi)會(huì)是沉溺于機(jī)器人世界所帶來(lái)的休閑呢？還是處于一種前所未有的恐懼呢？

【責(zé)任編輯】蒲 ?暉