管建強 鄭 一

(華東政法大學 國際法學院，上海 201620)

據(jù)全球領先的科技媒體《連線》報道，人工智能將在未來戰(zhàn)爭中極大提高美軍的戰(zhàn)斗力。另外，2015年俄軍制定了人工智能武器的研發(fā)計劃并通過軍事工業(yè)委員會的審查。[1]不同于美俄這樣的軍事大國，國際上一些中小發(fā)展中國家，由于其缺乏自主武器的研發(fā)能力，例如，塞拉利昂、埃及等非洲國家認為：“使用自主武器系統(tǒng)應當進行必要規(guī)制，各國必須遵循國際人道法的基本原則(1)紅十字國際委員會.為什么自主武器系統(tǒng)在非洲很重要[EB].https://www.icrc.org/zh/document/autonomous-weapons-africa-160411, 2016-04-11/2020-03-20.?！甭?lián)合國特定常規(guī)武器公約(Convention On Conventional Weapons，以下簡稱為CCW)締約國早在2014年就召開了有關致命性自主武器的第一次非正式專家會議，從2017年開始，CCW公約締約國每年都例行召開政府間專家會議，重點討論了自主武器的使用和規(guī)制等多方面問題(2)Background on Lethal Autonomous Weapons Systems in the CCW, see:https://www.unog.ch/80256EE600585943/(httpPages)/8FA3C2562A60FF81C1257CE600393DF6?OpenDocument.。然而各方爭議不斷，對于自主武器的規(guī)制更是難以達成共識，為此，就自主武器的規(guī)制問題，筆者不揣淺陋，作以下探索性的闡述。

一、自主武器的概述

(一)自主武器的定義

武器一般被認為是“致身體損傷或死亡的工具”或是“在斗爭沖突中贏得優(yōu)勢或者保衛(wèi)自身的手段(3)Maurice Waite.牛津袖珍英漢雙解詞典(第11版)[Z].北京：外語教學與研究出版社,2018,1646.”。傳統(tǒng)武器，例如“冷兵器時代”的大刀長矛、“熱兵器時代”的槍炮導彈都能給人和其他物體造成損害，并且結合“戰(zhàn)為勝”的角度來看似乎武器僅存在攻擊屬性。不過，《后漢書·仲長統(tǒng)傳》主張：“簡精悍以習師田，修武器以存守戰(zhàn)?！睆臍v史上考究武器的使用屬性至少應當包含防御性，從這點可以看出，武器在戰(zhàn)場上能夠造成傷亡或是自衛(wèi)的工具。紅十字國際委員會在正式文件中，將自主武器定義為任何在作戰(zhàn)等實際功能中具備自主性的武器系統(tǒng)，是不需要人類操控或指揮就能在激活后自主選擇和攻擊目標的武器操作平臺(4)紅十字國際委員會.紅十字國際委員會關于自主武器系統(tǒng)的觀點[EB]. http://www.docin.com/p-2060103707.html,2016-04-11/ 2020-03-20.。

美國國防部在2012年11月發(fā)布的編號為DoDD3000.09的指導文件Autonomy in Weapons Systems中，將自主武器系統(tǒng)的定義概括為：“一旦激活，便能夠在沒有人員進一步操作的情況下，自主選擇目標并與之交戰(zhàn)的武器系統(tǒng)?！盵2]機器人軍備控制國際委員會(International Committee for Robot Arms Control)聯(lián)合創(chuàng)始人兼副主席彼得·阿薩羅教授認為：“自主武器是任何能夠在沒有直接人的監(jiān)督和直接人參與致命決策的情況下，瞄準和主動使用潛在致命力量的系統(tǒng)?！盵3]可見，未來自主武器投入戰(zhàn)場后能夠像戰(zhàn)斗員一樣實施攻擊和防御行為。然而，作為戰(zhàn)斗員而言，在戰(zhàn)場中必須自主遵守戰(zhàn)斗規(guī)則以及理解人的道德價值體系。反觀自主武器，它缺乏人的感情和價值判斷。因此，自主武器并不具備戰(zhàn)斗員的先天條件。綜上，筆者認為，自主武器是同時具備進攻和防御屬性的人工智能化的武器，能夠在未來戰(zhàn)場中自主實施作戰(zhàn)行為。

(二)自主武器的特征探究

首先，從自主武器的作用基礎來看，自主武器系統(tǒng)的開發(fā)與部署，必須以成熟的人工智能技術為基礎。[4]2015年7月召開的國際人工智能聯(lián)合會議曾在開幕式上發(fā)布了一封公開信，信中稱“在未來，成熟的人工智能技術將為完全自主的武器提供技術支持”?！叭斯ぶ悄芪淦鳌睔w根到底是人工智能程序效能的實際發(fā)揮，軍方對武器進行智能化改造，極大提升了武器的軍事效益，常規(guī)武器可以通過自主性武器系統(tǒng)這一應用平臺獲得前所未有的“自主性”。[5]

其次，人工智能技術給自主武器帶來的第二個顯著特征是自主武器具有區(qū)別于其他武器的自主性。最近，自主性已被美國認定為軍事現(xiàn)代化計劃的基石。這一舉動很可能會影響其他軍事大國。具備自主武器的生產(chǎn)研發(fā)能力的國家將站在未來軍事斗爭的戰(zhàn)略制高點上，自主武器能夠帶來操作驅動力。軍事計劃者認為，自主性能夠讓武器系統(tǒng)在戰(zhàn)場上提高速度、準確性、持久度，并擴展打擊范圍與合作范圍。其強大的無需人工操作的自主性使得自主武器更具智能性。自主武器在戰(zhàn)場上扮演類似戰(zhàn)斗員的角色，自主武器的適用將減少作戰(zhàn)的人力成本，這對于人口資源貧乏的國家來說無疑帶去了巨大的軍事驅動力。

最后，從自主武器的適用環(huán)境上看，對于自主武器而言，從出生之日起就必然面對復雜的戰(zhàn)場環(huán)境。一方面，隨著科技的發(fā)展和戰(zhàn)斗方式的轉變，戰(zhàn)場環(huán)境變得更加復雜，促進了陸海空聯(lián)合作戰(zhàn)方式普及于大多數(shù)國家，以及高精尖無人化趨勢也更加明顯。另一方面，國際人道法既包括《日內瓦公約體系規(guī)則》，也包括戰(zhàn)爭法傳統(tǒng)意義的《海牙公約體系規(guī)則》(5)《海牙公約規(guī)則》即1899年和1907年兩次海牙和平會議通過的一系列公約、宣言等文件的總稱。戰(zhàn)爭法規(guī)的國際條約主要分屬兩個體系，即海牙公約體系和日內瓦公約體系。海牙公約體系的主要內容是關于禁止或限制的作戰(zhàn)手段和方法，主要是針對武器的限制；日內瓦公約體系是保護平民和受難員的規(guī)則。本文對于自主武器使用方面的限制主要依照《海牙公約規(guī)則》的要求。，相對完備的國際人道法框架使得國際上在自主武器還未出生之時就必然用國際人道法的要求來審視它。

(三)自主性武器發(fā)展水平的差異性帶來的影響

目前，不少國家的自主武器的發(fā)展水平已經(jīng)達到了“自主化”的程度。2006年，由三星公司設計的SGR-1韓國武裝智能機器人取得極大地進展，它能夠識別2英里以外的潛在目標并對目標進行跟蹤定位，同時利用自身配備的機槍武器，對于靠近的“客人”識別警告之后能夠自主攻擊。俄羅斯研發(fā)的自主無人戰(zhàn)車，技術居于世界一流。美軍研發(fā)出的“海上獵手”無人自主反潛戰(zhàn)艦，能夠在激活后無人控制航行數(shù)月。相較于世界大國而言，世界上大多數(shù)中小發(fā)展國家的武器裝備仍然依靠進口，缺乏自主研發(fā)生產(chǎn)的能力，這樣容易造成自主武器發(fā)展水平在各國之間存在著極大的差異。換言之，世界各國自主性武器發(fā)展水平的巨大差異造成的直接影響是世界各國對于未來自主武器適用態(tài)度存在差異。據(jù)《財富》北京時間2017年9月4日的報道，俄羅斯總統(tǒng)普京表示：“誰在開發(fā)人工智能技術方面取得突破，誰就將主導整個世界(6)佚名.俄羅斯總統(tǒng)普京:誰在開發(fā)人工智能技術方面取得突破將主導整個世界[EB].http://www.jkeabc.com/news/20170904/137.html, 2017-09-04/2020-03-20.?！倍l(fā)展中國家卻對自主武器使用前景秉持消極態(tài)度，由此在世界范圍內很可能會掀起一場關于自主武器研發(fā)的軍備競賽熱潮。而中小發(fā)展國家將聯(lián)合起來用法律和道德的角度審視自主武器未來的適用，以達到禁止自主武器適用于未來戰(zhàn)場的目的。

早在2017年11月份，在日內瓦舉行的CCW會議上，在資深AI研究者公布的視頻中，外形酷似殺人蜂的小型人工智能機器人通過人工智能程序的面部識別系統(tǒng)辨別并第一時間射殺教室里的學生。殺人蜂攜帶有3克炸藥，設計好進攻算法的智能“殺人蜂”接到攻擊指令后鎖定目標自主進攻。這也就意味著，殺人蜂機器人能夠在激活后自由處分人類生命。在面對機器人自由決定人類生命的時刻，人類有必要就自主武器之于人倫道德的關系進行更深入的探究。如何認識和把握新技術和法律之間的關系是人類合理規(guī)制自主武器的重要理論支撐。彼得·辛格(Peter W. Singer)是華盛頓特區(qū)布魯金斯學會(Brookings Institution)21世紀國防計劃的主任，他曾擔任過美國軍方、聯(lián)邦調查局、世界人權組織的調查顧問。在其訪談錄中他曾談到：“從國際人道主義法的角度來看，美國在軍事上使用自主化武器并不是問題。一旦它發(fā)生在戰(zhàn)區(qū)內，在一個相當透明的指揮鏈中，它就應當符合武器使用的規(guī)制條件和相關法律制度?！盵6]

二、自主武器的適用存在違反國際人道法的可能性

(一)自主武器的法律地位

“自主性”是自主武器區(qū)別于其他武器的本質屬性。就其“自主性”而言，自主武器應被視為人工智能化的武器，不僅能夠將其應用于軍事突襲，還能將其應用于軍事防御行動。一個國家對于未來自主武器適用何種屬性清楚地反映出一個國家的軍事態(tài)度。鑒于任何傳統(tǒng)性質武器的適用都會受到國際人道法規(guī)則體系的審查，自主武器相對于傳統(tǒng)武器而言，其蘊含的技術水平更高，適用的不確定性更大，自然更需要對其未來的適用進行法律審查。

另外，自主武器在戰(zhàn)場上扮演著戰(zhàn)斗員一樣的角色，即使自主武器不具備人的感情，它們卻具備“戰(zhàn)斗員”攻擊目標的行動能力。根據(jù)“行為責任理論”，由于行動主體是自主武器本身，其行動具備完全的自主選擇性，并不受任何指揮官及操作員的控制。而自主武器本身無法實際負擔其違反國際人道法后的法律責任，這也是其與“戰(zhàn)斗員”本質上的差別，如此則容易存在“責任缺位”的情況。可見，自主武器若定位為戰(zhàn)斗員將造成極大的“責任隱患”。

目前，學界大多把自主武器視為“武器”，另外，從目的解釋的角度來看，我們研究自主武器定性的目的在于將自主武器放進國際人道法的角度進行審查其合法性，軍事強國研發(fā)自主武器的目的在于通過對自主武器的使用以達到最大的軍事效益。從這個角度看來，自主武器更像是各國爭取戰(zhàn)爭勝利的方式和手段?！兜谝桓郊幼h定書》第36條明確規(guī)定，應當進行審査的方面不僅包括“武器”還包括“作戰(zhàn)手段和方法”。因此不論是將“自主武器”定性為“武器”還是“作戰(zhàn)方式和手段”，自主武器都不應逃過國際人道法的審查。

(二)自主武器的使用極易與國際人道法原則相抵觸

國際人道法中的區(qū)分原則要求：“沖突各方必須區(qū)分戰(zhàn)斗員與非戰(zhàn)斗員、武裝部隊與平民以及軍事目標與非軍事目標”。[7](P91)根據(jù)1977年附加議定書第57條第1款規(guī)定的“在進行軍事行動時，應經(jīng)常注意不損害平民居民和民用目標”，目前人工智能技術已經(jīng)能夠將禁止性規(guī)范加持到自主武器中，并且通過傳感器、面部識別和AI攝影技術，對某一類的攻擊目標能夠進行精準的識別和定位。

筆者認為，自主武器具備高精度特性卻仍然存在違反“區(qū)分原則”的可能性。一方面，強大的人工智能賦予自主武器識別某一類攻擊目標特性的能力，可是另一方面，戰(zhàn)場情況是瞬息萬變的，平民和戰(zhàn)斗員在機器人的視角中的區(qū)別相對模糊。舉例而言，假設自主武器算法編程定位的攻擊目標是一個特定類型的裝甲車，即使算法編程記錄了裝甲車的特性，卻無法具體定位攻擊哪一臺具體的裝甲車，對于具體時間地點和特定目標的定位仍然不明確。由于軍事行動現(xiàn)在經(jīng)常在平民居住中心進行，平民也存在戰(zhàn)時參與敵對行動的可能性，由此很難區(qū)分平民與戰(zhàn)斗員。[8]另外，即使自主武器行動自主，其機器的屬性就意味著它存在出現(xiàn)故障的可能。由于它們缺乏與人類相同的廣泛的上下文智能或常識，即使是相對復雜的算法，如果它們面對超出預期設計參數(shù)的情況，也會失敗。一旦出現(xiàn)故障，自主武器的高精度攻擊能力以及區(qū)分能力隨之喪失。從三次的工業(yè)革命來看，軍事科技水平的不斷提高，士兵和平民逐漸淪為大炮的飼料，隨著國際人道法體系的構建，對于武器的規(guī)制和平民的保護成為國際人道法關注的焦點問題，新自主武器的技術革新，使得軍事指揮官在把握區(qū)分原則方面的難度越來越高，因此在國際社會也就更多呼吁對于自主武器進行法律規(guī)制。[9]

在傳統(tǒng)戰(zhàn)爭法規(guī)則中，“一切戰(zhàn)爭行動的基礎就是消滅敵人軍事力量”。因此在武裝沖突中自然產(chǎn)生了禁止使用會造成不必要痛苦或過分傷害的武器或軍事技術?！拔淦鳌钡氖褂眠_到消滅敵人的目的即可，禁止造成“不必要痛苦”指的是如果使用此種武器，致使敵人在退出戰(zhàn)斗之后仍然繼續(xù)遭受著痛苦，則明顯超出了作戰(zhàn)目標。在“必要”與“不必要”的區(qū)分標準上，國際法院認為，“不必要痛苦”指的是不得大于“奪取合法軍事目標所不可避免的痛苦”。那么評價武器的合法性取決于它所造成的痛苦程度是否與軍事需要程度之間達成平衡。軍事利益越小，武器致痛的水平應該越低。

判斷自主武器是否存在造成“不必要痛苦”的可能性，應當結合現(xiàn)有的半自主武器或是自動武器的具體作戰(zhàn)實踐才能更好地研究。2004年，美國在巴基斯坦的364次無人機襲擊導致4700多人死亡。[10]而無人機對人體的攻擊大多容易造成嚴重的身體傷害，如失去四肢或造成永久性疼痛傷害。無人駕駛飛機的襲擊不僅會造成殺戮或身體傷害。還會對目擊者和受害者家屬造成嚴重的精神傷害。例如，在瓦濟里斯坦，三個孩子目睹了他們的祖母在一次無人機襲擊中被炸得粉身碎骨。僅僅是對這一創(chuàng)傷的記憶仍然給他們的成年生活造成巨大的精神痛苦。無人機襲擊式攻擊造成巨大的身體和心理的痛苦和軍事目標完全不相稱。斯圖爾特·凱西·馬斯倫(Stuart Casey-Maslen)博士是日內瓦國際人道法與人權學院的研究主管，他是專門負責研究武器法和非國家武裝行為者對國際準則的遵守情況，他曾在國際評論中指出：“使用武力應當把握必要的限度，要把握必要性和相稱性的統(tǒng)一。此外，采取的任何行動都必須是成比例的?！盵11]

另外，國際人道法中的比例原則要求在對軍事目標進行打擊的過程中應當最大限度地減少對平民和民用物體造成的附帶損害；對民用目標發(fā)動攻擊的前提必須是攻擊該目標獲取的直接軍事利益遠大于攻擊該目標帶來的損害；在選擇攻擊手段和方法時，要盡可能減少對平民和民用物體所帶來的附帶損害。可以發(fā)現(xiàn)，在比例原則指導下，指揮官作出的攻擊選擇體現(xiàn)了軍事行動的價值判斷，體現(xiàn)出指揮官在瞬息萬變戰(zhàn)場環(huán)境下的價值考慮。

自主武器在激活之后，自主武器在預設的算法編程中攻擊選擇將完全自主，它將根據(jù)算法中的目標特征自主選擇攻擊目標。面對復雜的戰(zhàn)場環(huán)境，自主武器攻擊模式是相對死板的，如果符合目標特征的攻擊對象處于一座核電站內，那么自主武器也無法作出價值分析，而攻擊目標附帶造成的核電站的摧毀將造成的損失以及給人類帶來的環(huán)境等方面的負面效應與直接軍事利益而言是完全不對稱的，但是自主武器卻缺乏自然人的“判斷意識”。第一附加議定書規(guī)定了攻擊“應嚴格限于軍事目標”，一旦遭遇含有危險力量的工程或者物質，如堤壩和核發(fā)電站，即使這類物體是軍事目標，也不應成為攻擊對象(7)《日內瓦第一附加議定書》第52條第2款。。因為這類危險力量的釋放極其容易給平民居民造成嚴重的損失(8)《日內瓦第一附加議定書》第56條第2款。。自主武器缺乏價值判斷是違反比例原則的關鍵原因。

(三)自主武器存在違反“馬爾頓”條款的可能性

“馬爾頓條款”(Marten’s Clause)是由俄羅斯著名國際法學家馬爾頓先生在1899年第一次海牙和平會議中的一次聲明中提出的，該條款聲明：“在完成的戰(zhàn)爭法的法典編撰之前，在迄今為止法律規(guī)范還未包括的情況下，平民和戰(zhàn)斗員仍受出自文明國家、人道法規(guī)和公眾良知的國家法原則的保護?！薄榜R爾頓條款”最早被載入1899年和1907年海牙公約序言中(9)《陸戰(zhàn)法規(guī)和慣例公約》序言第9段、1907年海牙《陸戰(zhàn)法規(guī)和慣例公約》序言第8段。。之后又被1977年日內瓦公約的第一附加議定書記載。

所謂“公眾良知”亦或是“公序良俗”，是指傳統(tǒng)社會歷史及人文領域的公序良俗，也一直是大多數(shù)國家民事法庭判案的依據(jù)之一。另外，國際紅十字委員會認為：“武器的使用涉及人類的倫理問題，而關鍵的判斷標準武器的使用是否有侵犯人的價值和尊嚴(10)紅十字國際委員會.自主武器系統(tǒng)——技術、軍事、法律和人道視角[EB].https://www.icrc.org/zh/document/report-icrc-meeting-autonomous-weapon-systems-26-28-march-2014, 2014-11-01/ 2020-04-21.?！笨梢钥闯?，不論是古代亦或是當今國際組織對于“公眾良知”的解讀大多要求對人性的尊重和人的價值的考量。

2017年8月，國際紅十字委員會與獨立專家召開了圓桌會議，探討自主武器系統(tǒng)提出的倫理問題以及人類控制要求的倫理層面。既然“馬爾頓條款”中的“公眾良知”標準要求在武裝沖突中體現(xiàn)人的價值和尊嚴，那么自主武器投入戰(zhàn)場使用后必然會屠殺人類，除非交戰(zhàn)雙方都只限于使用自主武器的對戰(zhàn)方式，但是由于國際上各個國家人工智能發(fā)展水平的差異，這種方式發(fā)生的可能性變得很小。聯(lián)合國特別報告員克里斯多夫·海恩斯警告說，允許致命的自主機器人殺人可能會貶低生命本身的價值。并且根據(jù)人權組織的觀察，由于缺乏作出道德決定所必需的人的素質以及道德機構，完全自主的武器將越過道德的門檻。

在倫理辯論中，人們似乎普遍承認，在使用武力的決定中，特別是在殺戮、傷害和毀滅的決定中，保留人類的代理和相關意圖的重要性。換句話說，許多人認為機器不能左右人的生死，不能把這些決定的責任委托給機器。換言之，與此密切相關的是對喪失人類尊嚴的關注。重要的不只是自然人是否被殺或受傷，而是他們如何被殺或受傷，包括作出這些決定的過程。有人認為，如果人類的機構無法在有效和功能上被授權或控制自主武器作出進攻決定，它就很有可能會損害被攻擊的戰(zhàn)斗人員或處于危險之中的平民的尊嚴。

筆者認為,決定敵人被殺死的決策過程應該是由人來主導，而不應是機器，因為，這侮辱了自然人的尊嚴和價值。與此同時，如前所述，自主武器缺乏人類的價值觀念，對于擊殺目標缺乏價值判斷和思考，這就決定著自主武器對于是否滿足軍事需要、什么是“過分傷害”沒有主觀上的概念，因此未來自主武器完全存在著違反“馬爾頓條款”的可能性。戰(zhàn)爭法賦予戰(zhàn)爭和暴力的法律條件，也是啟動戰(zhàn)爭的法律按鈕。[12]

三、自主武器適用于戰(zhàn)爭的規(guī)制條件

(一)自主武器在不對稱戰(zhàn)爭中的危害

現(xiàn)代武器的出現(xiàn)比以往任何時候都要求各國在軍事利益和法律義務之間取得適當?shù)钠胶猓琜13]在CCW會議的公開文件中，大多發(fā)展中國家在對自主武器進行定義的過程中認為，“自主武器是缺乏人類干涉，并且可以決定人類生死的武器系統(tǒng)，由于武器系統(tǒng)缺乏同情和直覺的能力，很可能引起軍備競賽”。中小發(fā)展中國家缺乏研制自主武器的客觀技術，從軍事利益的角度看，在未來若是允許自主武器投入戰(zhàn)場對于中小發(fā)展中國家而言將直接面臨著和自主機器人的對戰(zhàn)，他們跟發(fā)達國家的軍事差距將進一步拉大，他們和使用自主武器國家的戰(zhàn)爭將構成不對稱戰(zhàn)爭。所謂“不對稱戰(zhàn)爭”，就是指沖突的交戰(zhàn)方處于不平等的地位。未來自主武器在戰(zhàn)場上的適用在大國主導下將變得很難阻止。

未來的武裝沖突，雙方很可能處于不對稱的地位。首先是交戰(zhàn)雙方軍事力量的不對稱，這樣的不對稱也很有可能帶來其他層面的不對稱。公開的武裝對抗明顯不符合軍力弱勢一方的利益。為了實現(xiàn)有效打擊強大的對手，處于軍事弱勢的一方往往違反人道法使用受保護的標志和制服偽裝成平民，這在某種程度上可以免于被自主武器攻擊。在這樣的不對稱戰(zhàn)爭中平民和戰(zhàn)斗員的分界變得模糊，國際人道法的原則自然被踐踏了。

另一方面，未能擁有自主武器的一方軍隊面對冷冰冰的機器人，軍力實力懸殊差距以及人的生命面臨機器處分的屈辱感時，人會產(chǎn)生極強的報復心，恐怖主義行動的內心狀態(tài)已經(jīng)萌生。當一個種族或民族面對亡國滅種之危險時，它的復仇心態(tài)將會沖破人性和法律的束縛，之前他們所面臨的不對稱狀態(tài)將會以恐怖主義的形式返還?？梢?，由未來自主武器產(chǎn)生的“不對稱戰(zhàn)爭”將引起極大的消極影響。

(二)中國版的規(guī)制自主武器三原則

第一、原則上禁止自主武器適用于武裝沖突。在大國利益的主導下，未來自主武器極有可能被某些別有用心的國家作為攻擊性武器使用于戰(zhàn)場。一方面，自主武器適用于戰(zhàn)場存在違反國際人道法的可能性；另一方面，自主武器未來適用容易引發(fā)“不對稱戰(zhàn)爭”，造成不可估量的危害性后果。因此，原則上應當禁止任何國家在未來主動使用自主武器。可是，未來自主武器帶來的軍事驅動力完全超出了承擔違法責任的代價，自主武器的使用必然是大勢所趨，那么如何在現(xiàn)代國際法的框架內規(guī)范自主武器的適用條件就顯得更具實踐意義了。

第二、任何交戰(zhàn)一方不得對于不具有或無能力研發(fā)自主武器的一方使用自主武器。首先，縱觀目前為止發(fā)生的武裝沖突都是戰(zhàn)斗員之間的對抗，即使是軍事高科技水平背景下的現(xiàn)代化戰(zhàn)爭，陸海空現(xiàn)代化武器裝備的運行系統(tǒng)背后也都是由人工控制的，若在未來出現(xiàn)自主武器的槍口對準無研發(fā)自主武器能力的國家的情況，這無疑將是對傳統(tǒng)戰(zhàn)爭對戰(zhàn)模式的挑戰(zhàn)。其次，對等性是武裝沖突規(guī)范中的一個十分重要的原理。自1949年日內瓦公約草案引入對等性概念和國際上關于保護武裝沖突中受難者的制度建立以來,對等性原則日益成為國際戰(zhàn)爭規(guī)范中廣泛適用的原則。[14]《第一附加議定書》第35章在規(guī)制未來戰(zhàn)爭作戰(zhàn)手段和方式的同時，也滲入了作戰(zhàn)對等性的概念，要求作戰(zhàn)雙方的作戰(zhàn)手段和方式具備一定的對等性。因此，對于不具有或無能力研發(fā)自主武器的國家使用自主武器是嚴重違反公約精神的體現(xiàn)。最后，對無自主武器研發(fā)能力的國家使用自主武器是對人性尊嚴的褻瀆，由于自主武器具備自由處分人的生命的能力，它們是能夠在沒有任何人類指令輸入或人機互動操作情形下自主選擇攻擊目標并開火的一種武器平臺。[15]不論自主武器所針對的攻擊目標是合法亦或是非法，即使是機器處決合法的攻擊目標時，決定人如何死亡的權力賦予了機器，損害了目標人群的尊嚴。對于機器來說，目標人群變成了物體，而處決他們只是算法中的0和1的區(qū)別而已。用機器代替人去處決的方式，從道德價值來考量是弊大于利。

第三、國家面臨生死存亡之際以自主武器行使自衛(wèi)權的合法可能性。如前所述，自主武器是具備攻擊和防御屬性的人工智能化武器。若在武裝沖突中率先使用自主武器的攻擊屬性，說明該國缺乏對自主武器違法性的認識，進而有理由懷疑該國具備積極的軍事霸權主義傾向，為國際法所禁止。

此外，自主武器同樣具備防御屬性。在未來作為防御武器似乎仍有適用的空間。就訴諸戰(zhàn)爭權而言,對等性表現(xiàn)在只有當敵方非法入侵挑起戰(zhàn)爭時方可訴諸戰(zhàn)爭進行自衛(wèi)還擊。日內瓦的紅十字國際委員會法律司的高級法律顧問耶琳娜·佩吉奇在紅十字委員會評論期刊中表明：“一個國家行使其自衛(wèi)權是建立在習慣和法律的基礎上的，根據(jù)該規(guī)定的通俗易懂的語言，一國可針對正在進行的武裝襲擊采取個人自衛(wèi)行動。”[16]同時，根據(jù)《聯(lián)合國憲章》第51條的規(guī)定，合法使用武力應嚴格規(guī)制在為自衛(wèi)使用武力或集體自衛(wèi)行為上，也就是說，《聯(lián)合國憲章》第51條保留了國家對聯(lián)合國會員國“如果發(fā)生武裝襲擊”享有個人或集體自衛(wèi)的固有權利。同樣，在交戰(zhàn)法規(guī)方面，自主武器在未來的防御適用方面同樣也有符合對等性要求的空間。比較而言，1945年8月6日，美國在日本的廣島和長崎投擲原子彈。之后核武器再也未被使用過。聯(lián)合國規(guī)定除了五大常任理事國之外，為了防止核武器的擴散，其他國家不得擁有核武器，擁有核武器的國家目前也只是將其作為戰(zhàn)略威懾武器。1996年7月8日，聯(lián)合國國際法院應聯(lián)合國大會的請求，就關于《使用核武器或以核武器相威脅的合法性問題》提供了咨詢意見。在國際法院的法官一致贊同使用核武器必須符合武裝沖突規(guī)則及國際人道法原則規(guī)則的同時，考慮到很多國家已經(jīng)將核威懾作為重要的軍事政策，并且基于國際法的現(xiàn)實情況，國際法院認為：“在關乎一個國家自身生存都危如累卵的自衛(wèi)的極端情勢下，該國使用核武器是合法或是不合法，法院不能得出一個確定的結論?！笨梢?，國際法院沒有全盤否定一個國家基于自衛(wèi)權適用核武器的可能性，也就保留了一個有核國家面臨生死存亡之際適用核武器的合法可能性(11)ICJ, Legality of the Threat or Use of Nuclear Weapons(Advisory Opinion), July, 8 (1996), para.97.。因此，當國家面臨生死存亡之際以自主武器行使自衛(wèi)權則應當具備相當?shù)暮戏ㄐ浴?/p>

中國作為世界上愛好和平的負責任大國，在1964年氫彈爆炸成功之后，為了防止核武器的擴散，保證不會對無核國家使用核武器，也不會對有核國家首先使用核武器。同時，在《2010年中國的國防》白皮書中中國政府指出：“中國始終恪守在任何時候、任何情況下不首先使用核武器政策?！辈⑶页鲇诜烙孕l(wèi)、保障國家生存發(fā)展的角度豐富了核武器使用的內涵，從保護國家主權和人民財產(chǎn)的角度考慮，“不首先使用核武器原則”得到了完善和發(fā)展，形成了三個例外情況：第一種情況是中國的核基地遭遇突襲，中國有權使用核武器；第二種情況是中國戰(zhàn)略核潛艇、導彈部隊等戰(zhàn)略力量遭遇襲擊，中國有權使用核武器；第三種情況是中國本土民生工程遭遇重大襲擊，比如大型水利樞紐遭遇打擊的時候，中國有權使用核武器反擊。同樣，對于自主武器未來適用而言，一個國家面臨生死存亡之際基于自衛(wèi)權的行使而使用自主武器并不能被認為一定會抵觸國際法律規(guī)范的。

四、中國應引領和推動規(guī)制自主武器的適用條件

(一)中國在自主武器適用方面應持有的立場

中國是聯(lián)合國安理會常任理事國之一，對于發(fā)展新興軍事力量應當站在維護世界和平以及保衛(wèi)國家安全和人民生命財產(chǎn)利益的角度去考慮。面對人工智能技術迅速發(fā)展的今天，習近平總書記在中共十九大報告中號召“加快建設制造強國，加快發(fā)展先進制造業(yè)，推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟深度融合”，強調把握好人工智能革命這一重大歷史機遇。[17]發(fā)展才是硬道理，中國要致力于人工智能武器的發(fā)展，這是順應時代潮流之舉。

2014年3月，CCW締約國就自主武器未來適用問題組織了第一次非正式專家會議，之后2015年、2016年也常規(guī)性地召開了非正式的專家會議，并且由專家會議主席提交會議報告。直到2017年11月，公約締約國之間開始召開政府專家組織會議(Group of Governmental Experts)。在CCW會議上圍繞自主武器涉及的法律、道德及適用問題進行了多次的辯論，在辯論過程中也反映了各國代表團對于自主武器涉及法律及未來適用的態(tài)度。在這樣的背景下，中國在自主武器的適用問題上的主張應分三步走：

第一項主張是“禁止自主武器適用于武裝沖突的原則”。在CCW報告中指出：“自主武器技術的迅速發(fā)展有可能從根本上改變戰(zhàn)爭的性質(12)CCW,Report of the 2014 Informal Meeting of Experts on Lethal Autonomous Weapons Systems(LAWS),P.3,see:https://undocs.org/ccw/msp/2014/3.。”傳統(tǒng)戰(zhàn)爭的對戰(zhàn)雙方均是戰(zhàn)斗員，未來自主武器的使用必將是對傳統(tǒng)戰(zhàn)爭模式的挑戰(zhàn)，更是對戰(zhàn)爭準入規(guī)則的褻瀆。另外，一些代表也強調：“在沒有人類干預的情況下讓自主武器做出生死決定是違反法律的，不道德的，對人類本身也構成威脅(13)CCW,Report of the 2015 Informal Meeting of Experts on Lethal Autonomous Weapons Systems(LAWS),P.4,see:https://undocs.org/ccw/msp/2015/3.?！眻蟾嬷腥匀挥写碚J為：“自主武器技術的發(fā)展對人類尊嚴的影響，把決定生死的權力交給一個機器人是一個重要的道德問題(14)CCW,Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems(LAWS),P.3,see:https://undocs.org/CCW/CONF.V/2.?！蓖瑫r還討論了可能制定和使用法律所涉及的人權問題，特別是生命權、人的尊嚴、受保護不受不人道待遇的權利和公平審判的權利。可見，在現(xiàn)實社會中，各國代表團在一定程度上都認為，自主武器未來適用于戰(zhàn)場存在違法可能性，并且對于人的尊嚴是一種褻瀆。為此，中國政府堅持和應引領、爭取大多數(shù)國家的認同，推動“禁止自主武器在武裝沖突中適用”的公約。

第二項主張是“任何交戰(zhàn)一方不得對于不具有或無能力研發(fā)自主武器的一方使用自主武器原則”。從報告中表明，大部分國家都表明了不希望自己國家未來會跟自主武器作戰(zhàn)，一些代表提到：“自主武器的適用將會嚴重影響區(qū)域和全球的戰(zhàn)略穩(wěn)定，造成新形式的軍備競賽、新的不對稱以及降低使用武力門檻(15)CCW,Report of the 2018 session of the Group of Governmental Experts on emerging technologies in the area of lethal autonomous weapons systems(LAWS),P.6,see:https://undocs.org/en/CCW/GGE.1/2018/3.?！比羰俏磥碜灾魑淦鞯氖褂冕槍Φ氖遣痪邆溲邪l(fā)自主武器能力的國家，將造成嚴重的軍事力量不對稱的情況，并且容易滋生恐怖主義的威脅。該主張是在第一項主張不能獲得成果時，可以退而求其次地維護人類尊嚴的主張。

第三項主張是“國家面臨生死存亡之際可以遂行自主武器行使自衛(wèi)權原則”，將自主武器的適用限定在一定的情勢中，自衛(wèi)防御行動是自主武器未來適用的例外情況。CCW會議報告指出：“應該將自主武器控制的范圍控制在法律、人倫和道德標準內?！倍粋€國家天然具備的自衛(wèi)權完全符合其適用的法律標準，早在2015年的CCW非正式專家會議報告中就指出：“對于自主武器的控制可以通過多種方式進行，例如通過對資源的管理。控制不一定是絕對的。人類對武器系統(tǒng)的控制通常用于確定何時、何地和如何使用武力(16)CCW, Report of the 2015 Informal Meeting of Experts on Lethal Autonomous Weapons Systems(LAWS),P.5,see:https://undocs.org/ccw/msp/2015/3.?！笨梢悦鞔_看出，在當時，各國代表團對于自主武器的適用條件有一定的設想，并且認為自主武器并不是在未來的任何時候都能夠輕易使用，應當受到一定的規(guī)制，并且會議各代表團大都認為，使用自主武器的防御功能比進攻功能更加穩(wěn)定，而一個國家重視自主武器進攻屬性將極大地降低武力使用的門檻，容易造成世界范圍內的軍備競賽，而武器的防御功能意味著自衛(wèi)防守，不僅是一個國家自衛(wèi)權行使的表現(xiàn)，更是能夠將武力使用的門檻拉回正當?shù)母叨取Ｂ?lián)合國安全理事會是聯(lián)合國下屬的六個主要機關之一，是唯一有權采取軍事行動的聯(lián)合國機構，負有維護國際和平與安全的首要責任，因此在未來任何一個國家基于自衛(wèi)權使用自主武器時，應當于聯(lián)合國安理會備案登記。

需要指出的是，該原則是源自自然法，也是根據(jù)國際法院關于《使用核武器或以核武器相威脅的合法性問題》提供的咨詢意見為基礎所進行的比較和推導。

(二)規(guī)制自主武器的途徑研究

CCW最早包括序言和11條正文，并附有5個附加議定書。簽訂CCW的目的在于禁止或規(guī)制使用某些被認為具有過分傷害力或濫殺濫傷作用的常規(guī)武器，涵蓋了地雷、餌雷、燃燒武器、激光致盲武器，以及戰(zhàn)爭遺留爆炸物的清除。通過公約禁止或規(guī)制此類武器的適用，旨在使平民和戰(zhàn)斗員在戰(zhàn)斗發(fā)生的任何階段均受人道原則、公眾良知和既定慣例的保護。不同的議定書都針對不同的武器或作戰(zhàn)方法，以《禁止或規(guī)制使用燃燒武器議定書》(又稱第三議定書)為例，該議定書于1980年10月10號在日內瓦簽訂，議定書中第1條第1款規(guī)定，燃燒武器是指：“任何武器或彈藥，其主要目的是使用一種通過化學反應在擊中目標時引起火焰、熱力、或兩者兼有的物質，以便使擊中的目的物燃燒或引起人員的燒傷?！比紵淦魇且环N常規(guī)武器，在攻擊目標的同時會造成目標對象的燒傷，可見，適用燃燒武器的作戰(zhàn)一方在達到自身軍事利益的同時容易給敵方帶來過分傷害和不必要的痛苦，CCW議定書對燃燒武器的使用作一定的規(guī)制具備現(xiàn)實意義。前文言及，自主武器未來使用不僅會給敵方人員帶來不必要的身體痛苦，也會帶來極大的心理創(chuàng)傷。CCW規(guī)制的武器范圍不僅僅避免造成敵方的不必要痛苦，同時也要求該武器是常規(guī)武器，那么，若要以增列CCW議定書的方式作為規(guī)制自主武器未來適用的途徑，則必須論證自主武器屬于常規(guī)武器。

目前，學界大多認為：“常規(guī)武器是除核武器、生化武器等大規(guī)模殺傷性武器以外的其他武器?！背Ｒ?guī)武器投入戰(zhàn)場后的影響是人類能夠預見的，而非常規(guī)武器一旦投入戰(zhàn)場后人類將無法控制并且無法預計發(fā)生的危害后果，例如，生物武器是以生物戰(zhàn)劑殺傷有生力量和破壞植物生長的各種武器或器材，投入使用過后將導致人畜染病，并且危害持續(xù)時間長，受影響的范圍無法估量。在二戰(zhàn)期間的中國戰(zhàn)場上，侵華日軍第100部隊(簡稱“第100部隊”)打著“防疫”的幌子制造細菌武器，無數(shù)中國人遭到迫害，當年，日軍開展的“細菌戰(zhàn)”使得整個東北乃至全國都籠罩在細菌戰(zhàn)的巨大威脅中。[18]時至今日，當年遭受細菌戰(zhàn)侵害的中方受害者有的染上了各種無法醫(yī)治的怪病，一生處于痛苦之中。另外，將細菌投入水井之后，由于受眾的不確定性，也就給作戰(zhàn)另一方造成無差別的攻擊及影響。另以核武器為例，1954年10月23日，巴黎第三議定書(關于軍備監(jiān)督)附件二給核武器下的定義為：“所有含有或被設計為含有或使用核燃料或放射性同位素，通過爆炸或其他非控制的核轉變，或通過核燃料或放射性同位素的放射現(xiàn)象，足以造成大規(guī)模毀壞、普遍損害或大量中毒的武器?！盵19](P94)另外，核武器在技術上可分為裂變原子彈(即原子彈)和聚變熱核彈(即氫彈)，根據(jù)其性能，有以下的效力：首先，核武器具有強大的沖擊波效力和比威力最大的傳統(tǒng)炸彈發(fā)生的熱量強幾百萬倍的熱效力。其次，大面積范圍內的輻射效力以及能夠致人患白血病、骨癌等疾病。另外，核武器對自然界引起廣泛和長期損害的生物效力。通過核武器的性質可得，核武器投入戰(zhàn)場后，一方面將給整個敵方戰(zhàn)場帶來“無差別屠殺”，另一方面，其釋放的巨大破壞能量將是人類無法估量和控制的，對人類文明勢必造成毀滅性的影響。由此可見，非常規(guī)武器具備“無差別攻擊性”，投入戰(zhàn)場后人類無法對其進行控制，其危害后果也無法估量。

如前所述，目前人工智能技術已經(jīng)能夠使自主武器對某一類的攻擊目標進行精準的識別和定位。但在具體的戰(zhàn)場環(huán)境中，自主武器的未來使用存在違反區(qū)分原則的可能性，同時，武器的屬性意味著存在發(fā)生故障的可能性，而自主武器一旦激活之后將脫離人類控制獨立選擇和攻擊目標，這使得在未來發(fā)生故障后的危害變得難以預測，自主武器在未來甚至存在“無差別屠殺”的可能性?？梢钥闯?，自主武器存在非常規(guī)武器特性的可能性，將其定性為非常規(guī)武器具備一定的合理性。因此，通過CCW增列議定書的方式規(guī)制未來自主武器的適用條件是不可取的。我們應當借鑒對非常規(guī)武器的規(guī)制途徑來探究自主武器的規(guī)制方式。迄今為止，國際方面對于核武器的使用作出了各種規(guī)制，2017年7月，由122個國家專門通過《禁止核武器公約》。對于生物武器而言，早在1925年《日內瓦議定書》就有禁止使用生物武器的規(guī)定，并且在1972年，由美國、英國等12個國家共同簽署了《禁止生物武器公約》。由此，中國應該積極引領并推動“規(guī)制自主武器公約”的簽訂。

五、結語

“規(guī)制自主武器公約”是人類文明進步的重大事項，中國政府可未雨綢繆地制定自主武器的適用條件和標準，引領或推動該公約的產(chǎn)生和完善。筆者建議的“中國在自主武器適用方面應持有的立場”可以作為我國政府推動公約達成的抓手，并進一步推動世界各國認識和理解規(guī)范未來自主武器使用的必要性。自主武器的未來適用條件問題同樣引起了國際紅十字委員會、聯(lián)合國其他組織、歐盟、世界人權組織及有關組織的關注，在未來，我們需要這些組織去積極宣傳和推動公約理念的傳播，由此為公約的建立打下輿論基礎。另外，達成公約還需要中小發(fā)展中國家聯(lián)合起來在國際組織上增強話語權，形成合力影響有關未來自主武器使用的國際決策的實際走向。

中國國家領導人習近平主席在多個國際場合和國際會議上，倡導性地提出應在世界上努力構建人類命運共同體?！叭祟惷\共同體”理論是推動達成公約的政治基礎。推動國際社會接受中國版的規(guī)制自主武器的各項原則正是實踐人類命運共同體理論的重要抓手。有理由相信，中國政府的這一立場和倡議不僅符合自然法規(guī)范，也會贏得廣大發(fā)展中國家的高度贊同和鼎力支持。

中國版的規(guī)制自主武器的各項原則，不僅有利于維護廣大發(fā)展中國家的權益，同時具有符合自然法的重要特點，因此，中國的倡議一定會贏得國際社會大多數(shù)國家的支持。客觀上而言，規(guī)制自主武器實際上是規(guī)制軍備競賽的一個前瞻性的重要舉措，是著眼于維護人類尊嚴的國際人道主義法的必然要求。