從武裝機(jī)器狗到無人潛艇，再到搜尋目標(biāo)的無人機(jī)，現(xiàn)代戰(zhàn)爭中越來越廣泛應(yīng)用的人工智能技術(shù)給人們帶來了急需解答的倫理難題。

2020年11月27日，下午3點30分，一列車隊駛?cè)氲潞谔m的伊瑪目霍梅尼大道。車內(nèi)有一名重要人物——伊朗秘密核武器項目的總負(fù)責(zé)人穆赫辛·法克里扎德。當(dāng)時，他與妻子正駕車前往鄉(xiāng)村住宅，由安保車輛護(hù)送，然而在即將抵達(dá)目的地時遭到了襲擊。

幾聲槍響過后，法克里扎德駕駛的黑色尼桑汽車被擊中，無法繼續(xù)行駛。槍聲再次響起，子彈擊中了這位科學(xué)家的肩膀，迫使他走出車輛求救。隨后，完全暴露在外的他又遭受了致命一擊，而坐在副駕駛的妻子安全無恙。

接下來，奇怪的事情發(fā)生了。一輛停在路邊的皮卡車不知為何突然爆炸。事后，伊朗安全部隊在檢查皮卡車的殘骸時，發(fā)現(xiàn)了一些機(jī)槍碎片。這是一把由電腦遠(yuǎn)程遙控的機(jī)槍，配備了多個攝像頭。難道，法克里扎德是被機(jī)器人槍殺的？

《紐約時報》的后續(xù)報道披露，這把機(jī)槍并非全自動槍械。據(jù)推測，襲擊者位于1000公里之外，會根據(jù)皮卡車回傳的圖片判斷扣動扳機(jī)的時機(jī)，并利用人工智能軟件解決信號延遲的問題。

這簡直就是一場噩夢?；ヂ?lián)網(wǎng)上流傳的俄烏沖突的視頻片段更是加深了人們的恐懼。在烏克蘭戰(zhàn)場上，無人機(jī)隨處可見，從土耳其制造的“旗手”無人機(jī)、襲擊船只的海上無人機(jī)，到能夠投擲手榴彈的四軸飛行器。如果這些片段屬實，那么現(xiàn)實情況只會越來越糟糕。

| 機(jī)器人的新風(fēng)險 |

網(wǎng)上有這樣一段視頻：一架無人機(jī)將一只機(jī)器狗運送至目的地。機(jī)器狗落地后便迅速啟動，背上還馱著一把機(jī)槍。在另一段視頻中，一名俄羅斯人改裝了一只商用機(jī)器狗，使其能夠射出子彈。

針對這些觸目驚心的視頻，2022年10月，波士頓動力公司與另外五家機(jī)器人公司發(fā)表了聯(lián)合聲明：“我們認(rèn)為，改裝遠(yuǎn)程遙控機(jī)器人或自動化機(jī)器人，為它們添加武器，遙控它們進(jìn)入從前難以進(jìn)入的他人工作起居之地，這些會造成新的風(fēng)險，也嚴(yán)重違反倫理。將此類新型機(jī)器人武器化，會導(dǎo)致公眾不再信任本能造福社會的機(jī)器人技術(shù)。目前有大量個人嘗試將商用機(jī)器人武器化的事件，我們表示強(qiáng)烈反對，并將極力避免這種情況。我們希望，有關(guān)部門能協(xié)助我們一同提倡安全使用移動機(jī)器人。”

現(xiàn)代汽車集團(tuán)旗下的現(xiàn)代羅特姆公司，似乎并沒有這方面的顧慮。2023年4月，現(xiàn)代羅特姆宣布，將與韓企彩虹機(jī)器人公司合作研發(fā)一款多足防務(wù)機(jī)器人。宣傳片顯示，這款產(chǎn)品其實就是配有槍支的機(jī)器狗。

防務(wù)分析家、軍事歷史學(xué)家蒂姆·里普利表示，波士頓動力公司的聲明不具有太大的實際意義?！熬退銠C(jī)器人不配備武器，也依然會被用于戰(zhàn)爭。比如一架偵察無人機(jī)在發(fā)現(xiàn)目標(biāo)后，由使用者決定射出炮彈，奪人性命。那么，這架無人機(jī)和可發(fā)射炮彈的無人機(jī)其實沒有太大區(qū)別，它們都是攻擊鏈中的一環(huán)?！崩锲绽f。他還指出，偵察無人機(jī)在俄烏沖突中發(fā)揮了關(guān)鍵作用，既能追蹤敵軍動向，又能發(fā)現(xiàn)轟炸目標(biāo)。

由計算機(jī)控制的軍事硬件通常由兩部分組成：硬件本身與控制軟件。在戰(zhàn)場上，除了無人機(jī)，其他機(jī)器人尚不多見。不過，智能軟件的應(yīng)用已越來越普及?！坝奈淦飨到y(tǒng)中內(nèi)置了一系列自主軟件，這很有必要。有了這些軟件，士兵就能更快地作出決定。”倫敦國王學(xué)院的資深戰(zhàn)爭研究員馬丁·邁克說，“比如一架負(fù)責(zé)探測地面熱輻射信號的阿帕奇直升機(jī)，其機(jī)載軟件能迅速識別潛在目標(biāo)，甚至能給出建議，告訴飛行員哪些目標(biāo)應(yīng)優(yōu)先處理。飛行員獲得信息后，便能作出抉擇。”

| 防微杜漸 |

軍方顯然希望擁有更多類似的武器系統(tǒng)，尤其是能與機(jī)器人適配的武器系統(tǒng)。美國幽靈機(jī)器人公司研制的機(jī)器狗（業(yè)內(nèi)又稱四足機(jī)器人）被譽為偵察利器，可幫助巡邏人員探測潛在風(fēng)險地區(qū)。此外，它們也被稱作殺人機(jī)器。

在2021年10月的美國陸軍協(xié)會年會上，幽靈機(jī)器人公司展出了一只“殺手機(jī)器狗”，它的背上頂著一把槍。這把槍由美國斯沃德防御系統(tǒng)公司制造，名為特殊用途無人步槍。斯沃德公司在官方網(wǎng)站上宣稱：特殊用途無人步槍是無人武器系統(tǒng)的未來，而這個未來已經(jīng)到來。

英國皇家海軍曾測試過名為曼塔的無人潛航器。該潛航器長九米，裝載了聲吶、攝像機(jī)、通信裝置及干擾裝置，進(jìn)行水下作業(yè)。此外，2021年11月，美軍與英軍在莫哈維沙漠練習(xí)使用了無人機(jī)、機(jī)器人運輸工具及人工智能技術(shù)，幫助英軍在戰(zhàn)場上變得更加致命。

然而，就目前而言，即使是最精細(xì)復(fù)雜的自主武器系統(tǒng)，決策環(huán)節(jié)依舊需要人類參與。參與形式分為兩種。一種是“人在環(huán)中”，即電腦將潛在目標(biāo)呈現(xiàn)給人類操作員，由操作員決定如何行動。另一種是“人在環(huán)上”，即電腦給出目標(biāo)的擊殺順序，雖然人類能隨時操控電腦，但大部分決策由電腦作出。而更為極端的情況是，系統(tǒng)完全自主運行，在沒有人類干預(yù)的情況下自主選擇并除掉目標(biāo)。

“希望我們永遠(yuǎn)不會走到最后一個階段?！边~克說，“如果把決定權(quán)交給自主武器系統(tǒng)，那我們就失去了控制權(quán)。如果系統(tǒng)認(rèn)為，除掉人類領(lǐng)導(dǎo)者是對當(dāng)前戰(zhàn)局最有利的選擇，那該怎么辦呢？誰都無法保證這種事情不會發(fā)生?！彪娪啊督K結(jié)者》便描繪了類似的噩夢場景：人工智能機(jī)器人發(fā)起戰(zhàn)爭，誓將人類趕盡殺絕。

弗吉尼亞理工大學(xué)教授費拉斯·巴塔爾塞相信，人類社會距離完全自主的武器系統(tǒng)還很遙遠(yuǎn)，但人工智能已發(fā)展到了危險水平?！叭斯ぶ悄芗夹g(shù)還不夠聰明，不足以讓我們完全信任。但它們也沒有那么蠢，所以人類會下意識地反應(yīng)過來，不能讓它們脫離控制?！彼f。

換句話說，若士兵全然信任人工智能系統(tǒng)，或許會讓自己陷入更危險的境地。原因在于，目前的人工智能還無法處理沒有學(xué)習(xí)過的情況。研究學(xué)者將意外情況稱作異常值，而戰(zhàn)爭顯然會造成大量異常值?！霸趹?zhàn)場上，意外狀況隨時隨地都會發(fā)生。異常值簡直就是戰(zhàn)爭的代名詞，而目前的人工智能還無法很好地處理它?！卑退柸f。

即使解決了這個問題，我們依然需要應(yīng)對棘手的倫理困境。舉個例子，當(dāng)人工智能作出了擊殺的決定，你該如何判斷它的決定是否正確？這與阻撓自動駕駛技術(shù)發(fā)展的電車難題是類似的。再比如，面對即將發(fā)生的事故，我們應(yīng)任由其發(fā)展，致使五個人喪生，還是應(yīng)該采取行動犧牲第六人，拯救這五個人？怎么做才符合倫理？

普渡大學(xué)的教授索蘭·馬泰認(rèn)為，解決辦法或許在于，讓人工智能戰(zhàn)士意識到自身的脆弱所在。如此，它們才會重視自己的“生命”，并“推己及人”。馬泰甚至認(rèn)為，這么做或許能讓戰(zhàn)爭變得更加人性化，“要讓人工智能變得可信任，就必須將它們擔(dān)心失去的東西賦予它們?！?/p>

但即使是最具倫理道德的戰(zhàn)爭機(jī)器人也有一個硬傷，那就是無法抵御黑客入侵?！澳氵@邊研發(fā)一個武器系統(tǒng)，那邊就會有人嘗試破解它?！崩锲绽f。這也是為什么機(jī)器人部隊顯然會成為敵軍入侵的首要目標(biāo)。若敵軍將倫理道德從機(jī)器人的芯片中抹去，策反它們，那么后果不堪設(shè)想。

邁克認(rèn)為，要想控制這些可怕的武器，或許可以參考軍事歷史。“歷史上讓人類恐懼的武器有很多，比如核武器、化學(xué)武器、生物武器。如今各方簽署了軍備控制條約，不是因為哪國政府主動放棄了研發(fā)，而是因為大家在軍備競賽中發(fā)現(xiàn)，這些武器竟然如此可怕，所以才愿意坐下來好好談一談?！?/p>

如今，無人機(jī)、機(jī)器人及其他無人武器越來越頻繁地出現(xiàn)在戰(zhàn)場上。在自主武器控制條約出臺之前，想必還有一段膽戰(zhàn)心驚的日子要過。

編輯：侯寅