張?zhí)N嶺

前不久，116名專家簽名呼吁，聯(lián)合國應(yīng)禁止研發(fā)和使用殺人機(jī)器人（即自動化武器，如無人機(jī)、無人戰(zhàn)車、哨兵機(jī)器人、無人駕駛軍艦等）。他們警告，世界正進(jìn)行殺人機(jī)器人的軍備競賽，會引起“戰(zhàn)爭革命”，致命的自動化武器將成為恐怖的殺人武器，會引發(fā)空前規(guī)模的武裝沖突。

技術(shù)進(jìn)步是推動世界發(fā)展的重要?jiǎng)恿ΑＨ欢?，幾乎所有的技術(shù)都有利有弊，人工智能技術(shù)也是如此。從技術(shù)的發(fā)展史看，武器的發(fā)展總是與技術(shù)的進(jìn)步相伴，技術(shù)成為戰(zhàn)爭的工具。其實(shí)，關(guān)于技術(shù)與道德的討論早就有之，基本的問題是如何處理技術(shù)與道德之間的關(guān)系。從本質(zhì)上看，技術(shù)屬于科學(xué)的范疇，科學(xué)不斷發(fā)展，技術(shù)水平不斷提升，技術(shù)的使用范圍也必然擴(kuò)大，而就技術(shù)本身而言，其使用是沒有邊界的。道德屬于哲學(xué)的范疇，哲學(xué)的基本原理是認(rèn)識人類行為，包括人與人、人與社會以及國別與世界的關(guān)系等。道德是為這些行為確立正義規(guī)范，而那些基于公共利益的規(guī)范便是社會公德。

人類共處同一個(gè)地球，但地域、國家以及階層把人分割在不同的空間里。生存之爭、利益之爭、權(quán)利之爭等，讓人一直處在“拼死的”爭斗環(huán)境之中。在這樣的環(huán)境中，什么是公德，如何形成和落實(shí)公德，就需要人類去規(guī)范。從“人類命運(yùn)共同體”的角度來認(rèn)識，所謂公德，就是利于共同生存的規(guī)范。然而，現(xiàn)實(shí)中，公德并非自然產(chǎn)生。常被引述的例子是所謂“公地悲劇”，即大家共用一塊草地，盡管每家都知道過度放牧?xí)?dǎo)致草被吃光，最終使人畜無法生存，但每一家都不會主動減少或者放棄，為了私利甚至增加牲畜的數(shù)目。那么，在此情況下，誰來制定規(guī)則呢？生存危機(jī)感或者道義感會促使大家共同采取行動，制定公約，對牲畜數(shù)量、放牧?xí)r間進(jìn)行限定，對草地進(jìn)行維護(hù)等。

從世界范圍看，對于國際規(guī)約的需求越來越多，一則是因?yàn)槿蚧陌l(fā)展，把世界越來越緊密地連接成一個(gè)整體，相依相存；二則是由于技術(shù)的發(fā)展對于人類活動的影響越來越大。在諸多的國際規(guī)約中，有些是出于共同認(rèn)知的“議定”，通過集體簽字成文，作為公約。涉及戰(zhàn)爭的典型例子是1925年由37個(gè)國家簽署的禁止在戰(zhàn)爭中使用窒息性、毒性氣體和細(xì)菌議定書，后來越來越多的國家簽署，成為一項(xiàng)國際公約。自從成立了聯(lián)合國，聯(lián)合國在制訂國際規(guī)則中開始起核心作用。就涉及戰(zhàn)爭武器的領(lǐng)域而言，聯(lián)合國先后制訂了核不擴(kuò)散條約、禁止生物武器公約、禁止化學(xué)武器公約等，核武器、生物武器、化學(xué)武器等被稱為大規(guī)模殺傷性武器。核武器是最可怕的，現(xiàn)存的核武器已經(jīng)足夠毀滅人類。然而，禁核難度極大，一是公約國家不包括擁有核武的安理會常任理事國，二是有些國家繼續(xù)發(fā)展核武器。今年3月舉行的聯(lián)合國禁核條約大會，包括安理會常任理事國在內(nèi)的有核國家無一參加。目前，除安理會五個(gè)常任理事國外，印度、巴基斯坦、以色列和朝鮮都擁有核武器，印巴均未簽署核不擴(kuò)散條約，以色列采取不否認(rèn)、不承認(rèn)的鴕鳥政策，朝鮮繼續(xù)我行我素，進(jìn)行一輪輪核試驗(yàn)。禁核任重道遠(yuǎn)。

如今科學(xué)技術(shù)進(jìn)入到一個(gè)新的時(shí)期，人工智能技術(shù)正以前所未有的速度和規(guī)模得以發(fā)展和利用?；蚣夹g(shù)的開發(fā)和利用，特別是克隆技術(shù)、基因移植和培育技術(shù)的使用涉及人類倫理的道德底線。既然可以克隆羊、牛、豬，克隆人的技術(shù)障礙就不存在了，據(jù)說有的個(gè)人或者公司已經(jīng)開始進(jìn)行造人的實(shí)驗(yàn)，而且獲得了成功。如果說通過試管嬰兒為不育者提供生育機(jī)會還可接受的話，純粹出于商業(yè)目的或者其他目的的造人，就突破人倫底線了。一些國家已經(jīng)通過立法禁止造人的活動，但迄今，聯(lián)合國還沒有采取行動。而把人工智能與自動化應(yīng)用到武器開發(fā)上，制造無人機(jī)、殺人機(jī)器人，顯然超越了一般的大規(guī)模殺傷性武器概念。美國的無人機(jī)用于打擊極端分子，但也“誤殺 ”了為數(shù)不少的平民。設(shè)想，未來天上是無人機(jī)，地上是戰(zhàn)爭機(jī)器人，而指揮殺人者卻遠(yuǎn)離戰(zhàn)場喜笑顏開，那樣的境況真是令人不寒而栗，況且，無人機(jī)、戰(zhàn)爭機(jī)器人可以作為商品買賣、大規(guī)模擴(kuò)散，如此這般，未來的世界會變成什么樣子？

正如專家們所警告的，人類面臨的危險(xiǎn)的是把戰(zhàn)爭工業(yè)化，人工智能技術(shù)已經(jīng)達(dá)到了一個(gè)節(jié)點(diǎn)，自動化武器的部署將成為現(xiàn)實(shí)，現(xiàn)在到了危險(xiǎn)的邊緣，留給國際社會采取行動的時(shí)間已經(jīng)不多了，“潘多拉的盒子一旦打開就很難關(guān)上”。聯(lián)合國該采取行動了，特別是安理會常任理事國，能否做出表率、起帶頭作用呢？