[美]約翰·弗蘭克·韋弗 著 鄭志峰 譯

內(nèi)容提要:人工智能能夠在獨(dú)立于人類干預(yù)的情況下自主做出決定，由此對現(xiàn)行以人類行為和決定為中心構(gòu)建的責(zé)任制度提出了挑戰(zhàn)。對于人工智能引發(fā)的事故，需要區(qū)分主要目的是為了給人類提供便利的人工智能與主要目的是為了提升人類工作表現(xiàn)的人工智能，人類僅對后者承擔(dān)監(jiān)督職責(zé)。如果監(jiān)督人對于損害的發(fā)生沒有過錯，其他與人工智能交互的人也不是損害發(fā)生的原因，同時人工智能產(chǎn)品也不存在缺陷，那么賦予人工智能法律人格，讓其為自己的侵權(quán)行為承擔(dān)責(zé)任是最好的選擇。通過建立保險或儲備金制度，讓人工智能對自己的侵權(quán)行為承擔(dān)賠償責(zé)任，能夠更加準(zhǔn)確地反映事故發(fā)生的真實原因，同時有助于鼓勵制造商革新人工智能技術(shù)、保護(hù)消費(fèi)者和充分及時地救濟(jì)受害人。

一、引 言

有些人工智能形式是如此普及，以至于人們甚至都沒有意識到它們是人工智能——谷歌搜索、Siri、電子游戲等就是如此。當(dāng)我談?wù)撨@些人工智能時，大多數(shù)人都不會擔(dān)心責(zé)任問題。但是，當(dāng)話題轉(zhuǎn)向即將到來的令人興奮的人工智能形式——谷歌自動駕駛汽車，自主外科醫(yī)生，機(jī)器人保姆——責(zé)任問題立馬(immediately)成為一個焦點(diǎn)問題?！罢l會想要一輛自動駕駛的汽車？如果它撞人了怎么辦？”“沒有人會去制造一臺機(jī)器人保姆——想象一下滿天飛的官司！”“難道律師給醫(yī)生制造的麻煩還不夠多嗎？你認(rèn)為醫(yī)生會對這類訴訟視而不見？”

雖然上述擔(dān)心是有道理的，但其并沒有全面認(rèn)識到人工智能將要引發(fā)的挑戰(zhàn)。法律中的責(zé)任問題，究其根本就是對侵權(quán)行為的責(zé)任分配問題。[注]See Dan B. Dobbs and Paul T. Hayden, Torts and Compensation: Personal Accountability and Social Responsibility for Injury,West Publishing, 2005,p.2.如果某人因為他人的行為而受到損害，那么讓后者承擔(dān)責(zé)任并賠償受害人的損失是非常合理的。當(dāng)然，這個假定是如果一個人實施了侵權(quán)行為，那么這個人就必須承擔(dān)責(zé)任。駕駛者、保姆、醫(yī)生皆是如此。然而，人工智能卻帶來了另外一種可能性，即對于一個事故的發(fā)生，各方參與人實施的行為都十分合理，都不是損害發(fā)生的原因。相反，損害是由一臺機(jī)器在沒有人類干預(yù)的情況下獨(dú)自引起的：就像電影《星際迷航》中的海軍少校Data將聯(lián)邦星艦“進(jìn)取號”駛?cè)胍活w小行星，或者電影《霹靂五號》[注]《霹靂五號》(Short Circuit)是1988年上映的美國科幻電影，影片講述機(jī)器人Johnny Five原本是政府使用的機(jī)器人，一次被閃電擊中后有了靈魂，不再被人操縱，但被政府追殺銷毀，和兩個制造它的人一起躲在了蒙大拿州?！g者注中的機(jī)器人Johnny Five在蒙大拿州撞毀了一輛貨車等情形那樣。

如果谷歌自動駕駛汽車撞了人怎么辦？我們假定汽車的操作者(operator)需要對該車引起的損害承擔(dān)最終的責(zé)任；這似乎是有道理的，因為當(dāng)前的汽車只有在駕駛者(driver)直接作為(或不作為)時才能行駛。然而，當(dāng)谷歌自動駕駛汽車和其他類型的自動駕駛汽車投入市場時，情況將會變得不一樣。因為如果谷歌自動駕駛汽車在自動駕駛模式下撞了某個人，那么很可能并不存在一個實施侵權(quán)行為的人類操作者(human operator)。同時，如果這輛汽車功能完備的話，那么谷歌公司也不太可能去承擔(dān)責(zé)任。此時，谷歌自動駕駛汽車可能需要——也可能不會——去承擔(dān)賠償責(zé)任。由于現(xiàn)有的責(zé)任法調(diào)整的都是人的行為，并沒有將責(zé)任分配給機(jī)器人的規(guī)定，因而對于人工智能適用現(xiàn)有的責(zé)任法，可能會導(dǎo)致受害人無法就其損害尋求充分的救濟(jì)。

本文主要討論當(dāng)責(zé)任不能分配給人類或者必須要在人工智能和人類之間進(jìn)行分配時，現(xiàn)行責(zé)任法該如何進(jìn)行修改。在討論這些責(zé)任形式會如何影響人工智能或者被人工智能所影響之前，我將對與人工智能密切相關(guān)的責(zé)任形式進(jìn)行一番快速的回顧?？紤]到醫(yī)生幾乎每天都要面臨承擔(dān)責(zé)任的風(fēng)險，因而有必要在本文的最后一部分以人工智能外科醫(yī)生(AI surgeons)為例來進(jìn)行分析，簡要地介紹它的發(fā)展歷程，并對已經(jīng)出現(xiàn)或即將出現(xiàn)的責(zé)任問題做一些探討。

二、責(zé)任理論

兩百多年以來，美國一直在用一套包括聯(lián)邦、各州以及地方在內(nèi)的復(fù)雜分層的體系去解決有關(guān)新技術(shù)的責(zé)任問題。為了應(yīng)對諸如大規(guī)模生產(chǎn)、機(jī)械化運(yùn)輸、電子通信系統(tǒng)等新技術(shù)，這一制度體系已經(jīng)發(fā)生了巨大改變。[注]See F. Patrick Hubbard, Regulation of and Liability for Risks of Physical Injury from “Sophisticated Robots”,available at http://robots.law.miami.edu/wp-content/uploads/2012/01/Hubbard_Sophisticated-Robots-Draft-1.pdf.(paper presented as a work-in-progress at We Robot Conference, University of Miami School of Law, April 21-22,2012,pp.8-9.)許多解決現(xiàn)有技術(shù)引發(fā)的責(zé)任糾紛的理論，都能夠適用于與人工智能相關(guān)的責(zé)任問題。

電影《機(jī)器人啟示錄》[注]《機(jī)器人啟示錄》(Robopocalypse)是根據(jù)丹尼爾·威爾森(Daniel H.Wilson)同名小說改編而成的一部科幻電影，故事講述了不遠(yuǎn)的未來，一位叫做Aix的機(jī)器人，他有一張像孩子一樣純潔的面孔，但他的內(nèi)心卻并不純潔，有一天他掌握了全球網(wǎng)絡(luò)的控制權(quán)，指揮人類制造的機(jī)器和武器反過頭來對抗人類。——譯者注的粉絲請注意：故意侵權(quán)(intentional torts)——比如機(jī)器人試圖殺死星球上的所有人——不太可能成為人工智能引發(fā)的嚴(yán)重問題，至少很長一段時間內(nèi)都不會。[注]不管怎么說，“Rob”不太可能會出現(xiàn)在庭審中。換言之，恐嚇(battery)、毆打(assault)、不法拘禁(false imprisonment)以及其他故意侵權(quán)行為都不會與人工智能發(fā)生關(guān)聯(lián)。在可預(yù)見的未來，消費(fèi)者所能接觸到的人工智能產(chǎn)品都不可能具備故意侵權(quán)的意圖。雖然程序的設(shè)定允許人工智能“故意”地作出一些決定或?qū)嵤┠承┬袨?，但這些都僅限于預(yù)設(shè)的功能之內(nèi)：如從某個地點(diǎn)駕駛到另一個地點(diǎn)、為警方執(zhí)行偵察任務(wù)、實施醫(yī)療手術(shù)等等。盡管這些例子中的人工智能都有可能會傷害到人類——如自動駕駛汽車撞倒一位行人——但這些行為僅僅是它們作出決定的偶發(fā)性結(jié)果。人工智能不會試圖去傷害人類，也不會帶著能夠達(dá)到法律所要求的傷害人類的意圖標(biāo)準(zhǔn)去實施行為。[注]參見前引〔1〕，Dobbs & Hayden書，第149頁。如果人工智能被編程去故意對人們制造傷害，那么編程者應(yīng)當(dāng)對此種故意造成的損害承擔(dān)責(zé)任。機(jī)器人僅僅是工具。同樣，如上文所述，雖然協(xié)助警方或軍方的人工智能在接到命令后會對人類造成傷害，但它不可能達(dá)到像警察和士兵一樣的故意侵權(quán)的標(biāo)準(zhǔn)。

確切地說，人工智能最有可能涉及的訴因(庭審中的主張或法律指控)是偶然性質(zhì)的：過失侵權(quán)(negligence)、違約(contractual violation)、產(chǎn)品缺陷責(zé)任(defective product liability)等等。為了更好地說明這一問題，下面我將總結(jié)一些與人工智能最為相關(guān)的責(zé)任理論。

(一)過失侵權(quán)

一般來說，過失侵權(quán)適用的是理性人標(biāo)準(zhǔn)(reasonable prudent person)。如果一個理性人應(yīng)當(dāng)避免實施某些行為(如將西瓜扔在高速公路上)，因為他或她有理由相信這樣做將會引起損害，那么這個時候?qū)嵤┻@些“行為”就屬于過失。[注]參見前引〔1〕Dobbs & Hayden書，第148頁。換句話說，如果實施了一個理性人在相同或類似情形下不會實施的行為，那么就有過失。與毆打或恐嚇等故意侵權(quán)不同，過失并不需要主觀意圖。它的理念是：每個人都對其他人的人身和財產(chǎn)負(fù)有特定標(biāo)準(zhǔn)的注意義務(wù)，在街上行走、做飯、扔一個棒球等等都是如此。如果某人沒有盡到特定標(biāo)準(zhǔn)的注意義務(wù)，從而導(dǎo)致其他人受到損害的話，那么此人就構(gòu)成過失侵權(quán)，就需要承擔(dān)責(zé)任。

(二)違約責(zé)任

根據(jù)合同法的規(guī)定，當(dāng)雙方締結(jié)合同時，如果一方?jīng)]有履行合同義務(wù)的話，那么另一方有權(quán)要求對方支付金錢或承擔(dān)其他形式的賠償責(zé)任。實際的形式和數(shù)額可能會在合同中進(jìn)行約定，如果沒有約定的話，那么法院將基于守約方的實際損失來決定。一份合同并不需要詳細(xì)列舉一方當(dāng)事人的所有義務(wù)，只要另一方對其履行該義務(wù)有合理信賴?yán)婢托?。[注]See American Law Institute, Restatement(Second) of the Law of Contracts, American Law Institute Publishers,1981, ? 34 and Comments.例如，如果一對即將舉行婚禮的新人與某豪華轎車公司達(dá)成一項租車協(xié)議，要求該公司提供從教堂到接待處的運(yùn)輸服務(wù)，那么這對新人就可以合理信賴公司會對駕駛員和汽車進(jìn)行投保，盡管合同中對此并沒有明確規(guī)定。假如真的發(fā)生交通事故進(jìn)而導(dǎo)致新人一方受到損害的話，那么依據(jù)合同，豪華轎車公司需要像已經(jīng)投保那樣處理損害賠償問題。

(三)產(chǎn)品缺陷責(zé)任

根據(jù)產(chǎn)品缺陷責(zé)任法律的相關(guān)規(guī)定，制造商和銷售商需要對缺陷產(chǎn)品引起的損害承擔(dān)賠償責(zé)任，通常包括本應(yīng)該防止產(chǎn)品造成此種損害或損失的范圍[注]參見前引〔1〕，Dobbs & Hayden書，第695頁?！幢苊鈸p害或損失在技術(shù)上和商業(yè)上同時都是可行的。[注]參見前引〔3〕，Hubbard文，第16-17頁；David G. Owen, Products Liability Law,West Publishing,2008,pp.527-529.例如，如果為汽車的安全帶系統(tǒng)增加肩帶，其成本要小于增加肩帶所能避免的損失的話，那么這個肩帶就應(yīng)當(dāng)作為汽車的一部分。[注]參見前引〔3〕，Hubbard文，第17頁；Williamson. Mazda Motor of America,Inc.,131S.Ct. 1131(2011).產(chǎn)品缺陷包括三種基本的訴因：制造缺陷、設(shè)計缺陷以及警示缺陷。[注]See American Law Institute, Restatement of the Law, Torts-Products Liability, American Law Institute Publishers,1998,?2.當(dāng)損害是由于制造缺陷造成的，這意味著實際上制造商并沒有生產(chǎn)出自己所預(yù)想的產(chǎn)品，那么此時不需要進(jìn)行可行性測試(feasibility)，制造商就需要承擔(dān)責(zé)任。[注]參見前引〔12〕，American Law Institute書，?2(a).例如，剎車缺陷引起的交通事故就是此類“嚴(yán)格責(zé)任”中最為著名的例子。在產(chǎn)品缺陷責(zé)任下，銷售商以及其他產(chǎn)品商業(yè)銷售環(huán)節(jié)的任何人都需要對產(chǎn)品引起的損害承擔(dān)責(zé)任。

(四)瀆職

瀆職(malpractice)，實質(zhì)上是特定領(lǐng)域內(nèi)專業(yè)人士所負(fù)擔(dān)的更高標(biāo)準(zhǔn)的注意義務(wù)。當(dāng)一名專業(yè)人士違反此類注意義務(wù)時，就會產(chǎn)生相應(yīng)的責(zé)任。涉及瀆職的訴訟本質(zhì)上都是有特定規(guī)則的過失侵權(quán)案件。[注]參見前引〔1〕，Dobbs & Hayden書，第382頁。例如，法院就將醫(yī)療過失侵權(quán)案件作為“傳統(tǒng)過失侵權(quán)元素在醫(yī)患關(guān)系這一專業(yè)領(lǐng)域內(nèi)具體化的侵權(quán)案件的一種”。[注]Verdiccbio v.Ricca,179 N.J.1,23(2004).由于過失和瀆職關(guān)系十分緊密，因此下文我不再單獨(dú)探討瀆職，但需要注意的是，它的確是與人工智能相關(guān)的一類責(zé)任形式。

(五)替代責(zé)任

替代責(zé)任(viacarious liability)，有時候又稱為雇主責(zé)任(respondeat superior)，指的是如果雇員在職務(wù)范圍內(nèi)實施侵害他人權(quán)益的行為，那么雇主就需要對雇員的行為承擔(dān)責(zé)任。[注]參見前引〔1〕，Dobbs & Hayden書，第624頁。對于替代責(zé)任規(guī)則將來適用的頻繁性我表示懷疑，因為涉及人工智能的過失監(jiān)督更為準(zhǔn)確的情形是，企業(yè)依靠人工智能去執(zhí)行本該由雇員執(zhí)行的工作。然而，如果雇主合理信賴人工智能執(zhí)行任務(wù)的能力，那么對于原告來說，相較于主張雇主對于監(jiān)督人工智能有過失，主張對待人工智能應(yīng)當(dāng)像對待人類雇員一樣，這樣更加容易贏得訴訟。

三、人工智能何時需要承擔(dān)責(zé)任

人工智能迫使我們對誰應(yīng)當(dāng)承擔(dān)責(zé)任的理念進(jìn)行拓展。如果一個人不需承擔(dān)責(zé)任，那么機(jī)器就可能需要去承擔(dān)責(zé)任。但人工智能在什么樣的情形下需要代替人類承擔(dān)責(zé)任呢？隨著人工智能越來越普及，對涉及人工智能的事故或事件的責(zé)任進(jìn)行分配將會變得越來越普遍，起碼包括以下四種可能發(fā)生的情形。

(一)使用或監(jiān)督人工智能的人需要承擔(dān)責(zé)任

當(dāng)一起涉及人工智能的事故是由于使用或監(jiān)督人工智能的人造成的，那么由這個人承擔(dān)責(zé)任也是合理的。這包括大量可能發(fā)生的情形：

1.一位人工智能外科醫(yī)生(AI surgeon)正在對一名病人實施安裝新髖關(guān)節(jié)的手術(shù)，但它在實施手術(shù)的過程中遇到機(jī)械故障。負(fù)責(zé)監(jiān)督手術(shù)的人類醫(yī)生沒有合理地監(jiān)督這一程序，也沒有介入去完成這次手術(shù)，導(dǎo)致這次手術(shù)提前結(jié)束，病人不得不接受第二次髖關(guān)節(jié)置換手術(shù)。

2.人工智能建筑工人(AI construction worker)錯誤地推倒了一堵墻，導(dǎo)致整個建筑物倒塌，原因是監(jiān)督人工智能的人給了它錯誤的指示。

3.負(fù)責(zé)監(jiān)督人工智能客機(jī)(AI passenger planes)的人，沒能注意到著陸指示同時給了兩架飛機(jī)，導(dǎo)致兩架飛機(jī)在半空中相撞。

針對此類情形提起訴訟的原告，其最有可能以過失侵權(quán)(或者瀆職，如果在專業(yè)領(lǐng)域內(nèi)的話)為由來主張負(fù)責(zé)監(jiān)督人工智能的人承擔(dān)責(zé)任。這類涉及人工智能的責(zé)任情形認(rèn)為，人類需要持續(xù)不斷地監(jiān)督人工智能。然而，在將責(zé)任分配給人類時，應(yīng)當(dāng)明確區(qū)分主要目的是為了給人類提供便利的人工智能與主要目的是為了提升人類工作表現(xiàn)的人工智能。具體來說，人們在使用主要目的是為了提升人類工作表現(xiàn)的人工智能時，需要承擔(dān)監(jiān)督人工智能的職責(zé)，如果人工智能造成損害，那么此人將為此承擔(dān)責(zé)任。而人們在使用主要目的是為了給人類提供便利的人工智能時，他們并不需要監(jiān)督人工智能，同時對人工智能造成的損害也將承擔(dān)更輕的責(zé)任，如果需要承擔(dān)的話。

當(dāng)然，有些人工智能可能同時具備上述兩項功能。例如，90%的交通事故都是由于人類失誤造成的，[注]See Look,No Hands,The Economist,September 1,2012,available at http://www.economist.com/node/21560989.這意味著自動駕駛汽車可以大幅度減少交通事故的發(fā)生。然而，大多數(shù)司機(jī)都認(rèn)為自己是一名優(yōu)秀的駕駛者，[注]Allstate保險公司最新的調(diào)查顯示，美國人民普遍認(rèn)為自己是優(yōu)秀的司機(jī)，See Allstate Insurance Company,press release,August 2,2011,available at http://www.allstatenewsroom.com/channels/News-Releases/releases/new-allstate-survey-shows-americans-think-they-are-great-drivers-habits tell-a-different-story.自動駕駛汽車的安全性特質(zhì)并不足以打動消費(fèi)者。相反，消費(fèi)者購買自動駕駛汽車更多是為了便利，特別是對于認(rèn)為開車是種負(fù)擔(dān)的人(視力受損、身體受損、年老等)，或者那些年幼的人和并不喜歡開車的人(因為開車會減少與朋友發(fā)短信聊天的時間)。[注]See Jim Motavalli, Self-Driving Cars Will Take Over by 2040, Forbes, September 25, 2012,available at http://www.forbes.com/sites/eco-nomics/2012/09/2.5/self-driving-cars-will-take-over-by-2040/.因此，盡管自動駕駛汽車可能會減少交通事故、降低損害和死亡發(fā)生的可能性，但從責(zé)任的角度來看，認(rèn)為自動駕駛汽車的主要目的就是為了減少損害和死亡則是錯誤的。對于大多數(shù)人來說，使用自動駕駛汽車的主要目的是為了節(jié)約駕駛時間，以便用來看書、睡覺、發(fā)短信、玩“光暈(Hole)”游戲，或者做其他事情。一旦自動駕駛汽車普及開來，讓人們因疏于監(jiān)督自動駕駛汽車而承擔(dān)責(zé)任似乎就有些荒謬了，因為人們根本就不會去監(jiān)督它們。與此相對的是，人工智能外科醫(yī)生的主要目的并不是為了增加人們的自由時間或者為了給人們的生活提供更多的便利。相反，它們的主要目的是為了提升人類手術(shù)的能力，[注]See Marina Koren, How Raven, the Open-Source Surgical Robot, Could Change Medicine, Popular Mechanics, February 28,2012, available at http://wwwpopularmechanics.com/science/health/med-tech/how-raven-the-smart-robotic-helper-is-changing-surgery.因為它們能夠以人類無法做到的方式去完成切割、進(jìn)入體內(nèi)以及進(jìn)行任意角度的彎曲等。[注]See Anne Eisenberg,When Robotic Surgery Leaves Just a Scratch, NewYork Times, November 17,2012,available at http://www.nytimes.com/2012/11/18/business/single-incision-surgery-via-new-robotic-systems.html?_r=0.如果人類醫(yī)生沒有密切地監(jiān)督人工智能外科醫(yī)生的話，那么他們將會因為瀆職而承擔(dān)責(zé)任。簡言之，這類人工智能的主要目的并不是為了給人們創(chuàng)造更多的自由時間。

出于同樣的理由，法官在分配責(zé)任時也要區(qū)分自動化(automated)機(jī)器和自主化(autonomous)機(jī)器(如人工智能)。自動化機(jī)器能夠執(zhí)行特定的功能，例如電梯或工廠安裝線上的機(jī)器人，但它們的功能也僅限于此；它們并不能調(diào)整功能(或者調(diào)整的程度不大)以回應(yīng)新的信息。盡管并不需要有人站在它們的旁邊去監(jiān)督它們的運(yùn)行，但編程者或者維護(hù)人員等最終的責(zé)任人需要對它們的行為承擔(dān)責(zé)任，因為這類機(jī)器并不能自主做出決定。[注]See Royal Academy of Engineering,Autonomous Systems: Social, Legal and Ethical Issues, available at http://www.raeng.org.uk/societygov/engineeringethics/pdf/Autonomous_Systems_Report_09.pdf(London: Royal Academy of Engineer,p.2.)如果一臺自動化機(jī)器造成了事故——而機(jī)器的設(shè)計或制造都沒有缺陷——那么本應(yīng)發(fā)現(xiàn)這一故障的人需要對該事故承擔(dān)責(zé)任。然而，與之相對的是，自主化機(jī)器能夠獨(dú)立做出決定，這意味著人類可能并不需要為其行為承擔(dān)全部的責(zé)任。

(二)其他與人工智能交互的人需要承擔(dān)責(zé)任

我們已經(jīng)見過這類情形。在2010年的時候，谷歌的工程師曾經(jīng)披露，谷歌自動駕駛汽車被一輛人類駕駛的汽車追尾。[注]See John Markoff, Google Cars Drive Themselves, in Traffic, NewYork Times, October 9,2010,available at http://www.nytimes.com/2010/10/10/science/10google.html?_r=0.基于與人工智能交互的人類行為而提起的責(zé)任主張，和當(dāng)前基于與其他任何機(jī)器或人類交互的人類行為而提起的責(zé)任主張非常相似。兩者之間最大的差異可能來自險損估價人或者陪審團(tuán)的傾向，因為相較于一臺智能機(jī)器，他們可能會(也可能不會)對一個人更具同情心。

(三)制造商、銷售商或者處于流通環(huán)節(jié)中的其他主體需要承擔(dān)責(zé)任

當(dāng)涉及人工智能的事故是由于產(chǎn)品缺陷造成的，如不正確的編程、不充分的指示、流通環(huán)節(jié)中的毀損或者其他與產(chǎn)品缺陷本身有關(guān)的原因，那么責(zé)任將會被分配給產(chǎn)品流通環(huán)節(jié)中的某個主體：設(shè)計者、制造商、銷售商等等。通常來說，此類訴求要么是主張產(chǎn)品缺陷責(zé)任(人工智能產(chǎn)品沒有像預(yù)期的那樣工作)，要么是主張過失侵權(quán)(相關(guān)人員沒有盡到注意義務(wù)，致使人工智能在消費(fèi)者購買之前就已經(jīng)被毀損)。下面列舉的情形能夠更好地說明這一點(diǎn)：

1.一位人工智能廚師(AI chef)在煎牛排時突然發(fā)生故障，把飯煮糊了，并最終將整個房屋燒毀了。

2.人工智能收銀員(AI store clerk)在出售特定商品(煙酒)時需要確認(rèn)顧客的個人身份信息，而這部分代碼被意外刪除了，結(jié)果導(dǎo)致一位未成年人顧客購買了一箱獼猴桃和檸檬味的瘋狗牌酒(kiwi-lemon Mad dog 20/20)，進(jìn)而因醉酒引發(fā)了一場事故。

3.一臺人工智能掃雪機(jī)(AI snowplow)的操作說明書并沒有警示機(jī)器在溫度低于15°的情形下會熄火，而此時，美國北部的新英格蘭州的一個街道正遭遇一場異常但并非史無前例的暴風(fēng)雪天氣，結(jié)果這臺機(jī)器在安裝使用中引發(fā)了大量的事故。

4.一臺警用無人機(jī)(flying police drone)在運(yùn)輸環(huán)節(jié)中受到毀損，致使引擎在半空中突然停止轉(zhuǎn)動，最終撞上了警察局附近的民居。

第一個例子中的機(jī)器可能是制造缺陷，也可能是設(shè)計缺陷，需要在庭審過程中做進(jìn)一步的調(diào)查才能弄清楚。第二個例子中的機(jī)器顯然屬于制造缺陷的情形：即特定的機(jī)器人脫離了制造商預(yù)先編程的要求。第三個例子展示的是不充分指示或警示的情形。相反，最后一個例子展示的是商品流通環(huán)節(jié)中某個當(dāng)事人的過失侵權(quán)，它不同于傳統(tǒng)的產(chǎn)品缺陷責(zé)任的主張，但仍然將最終的用戶從損害賠償責(zé)任中排除。此外，消費(fèi)者也可能會針對制造商(沒有采用安全的運(yùn)輸方式)或經(jīng)銷商(沒有安全地將人工智能送達(dá))提起違約責(zé)任的主張，因為他們違反了應(yīng)當(dāng)將產(chǎn)品安全送達(dá)的合同條款。

盡管實踐中還可能存在大量有關(guān)開發(fā)者和制造商對于他們的人工智能產(chǎn)品進(jìn)行虛假宣傳的情形，但我并不打算在本文中去討論它，因為此種情形在消費(fèi)者保護(hù)法的調(diào)整之下并沒有什么特別之處。例如，盡管開發(fā)者設(shè)計的是提供兒童看護(hù)的機(jī)器人，但公司可能會在廣告中宣稱這是保姆機(jī)器人。如果兒童在機(jī)器人履行看護(hù)職責(zé)的過程中受傷，那么受害人的家屬可能會對公司有關(guān)人工智能提供全方位兒童看護(hù)的虛假廣告提起訴訟。為了避免此類指控，開發(fā)者很可能會將這類人工智能產(chǎn)品作為玩具來投入市場，盡管它們的設(shè)計初衷就是一款照看兒童的機(jī)器人，而父母也可能會出于此目的來使用它們。[注]See Joanna J. Bryson, Why Robot Nannies Probably Won’t Do Much Psychological Damage, 2 Interaction Studies 11,196-200( 2010).此種情形的責(zé)任主張需要根據(jù)“合理可預(yù)見規(guī)則”(reasonably foreseeable)來認(rèn)定制造商的責(zé)任。如果制造商或者開發(fā)者能夠合理預(yù)見到產(chǎn)品會出于某種特定目的而被使用的話，那么產(chǎn)品的設(shè)計就必須要符合這一用途，而不管廣告是如何宣傳的。因此，縱使一家公司在廣告中宣稱他們生產(chǎn)的水槍產(chǎn)品不是用來射擊其他人的，但這并不會減輕該公司對于水槍射擊他人所要負(fù)擔(dān)的安全注意義務(wù)。因為孩子們通常會用水槍互相射擊，而不會理會廣告的內(nèi)容是怎么說的。在這些案件中，人工智能并不會迫使我們?nèi)ジ淖儸F(xiàn)有的法律假定。

(四)人工智能對它們的行為承擔(dān)責(zé)任

總的來說，上述我們討論的三種涉及人工智能的責(zé)任情形并沒有脫離現(xiàn)有法律中的標(biāo)準(zhǔn)責(zé)任主張。但第四種很可能會不一樣，它涉及能夠獨(dú)立于人類自主做出決定的技術(shù)的情形。

出于責(zé)任目的，一些情形中的人工智能將會被當(dāng)作人類一樣對待，因為這樣一來它就能承擔(dān)法律責(zé)任。在以下情形中，人工智能將對它的行為承擔(dān)責(zé)任：(1)人工智能引起損失或損害；以及(2)造成損失或損害的所有責(zé)任都不能歸屬于流通環(huán)節(jié)的某個或某幾個主體。此時，當(dāng)人工智能已經(jīng)像預(yù)設(shè)的那樣精準(zhǔn)地(exactly)運(yùn)行但仍然造成損害的發(fā)生，那么人工智能就應(yīng)當(dāng)對此承擔(dān)責(zé)任。下面，我們列舉一些實踐中的例子來進(jìn)行說明：

1.兩輛自動駕駛汽車(autonomous cars)行駛在高速公路上，左車道上的第一輛自動駕駛汽車略微領(lǐng)先于右車道上的第二輛自動駕駛汽車。它們都在以合理時速行駛，車上的乘客都沒有密切地監(jiān)督汽車的運(yùn)行，但都系上了安全帶。突然，一頭鹿闖入左邊的車道。電光火石一瞬間，為了避免與鹿相撞，第一輛自動駕駛汽車的人工智能做出了最為安全的決定，向右邊道路靠過去。而為了避免與第一輛自動駕駛汽車相撞，第二輛自動駕駛汽車的人工智能也瞬間做出了最安全的決定，也向右邊道路靠過去，但遺憾的是撞上了一棵樹。結(jié)果，第一輛自動駕駛汽車?yán)锏某丝桶踩粺o恙，而第二輛自動駕駛汽車?yán)镉幸晃怀丝偷氖直酃钦郏翢o疑問的是，如果第二輛自動駕駛汽車試圖在原有路線上停止運(yùn)行(這可能會與第一輛自動駕駛汽車相撞，進(jìn)而導(dǎo)致車上的人員受傷)或者轉(zhuǎn)向左邊道路(這可能會撞傷那頭鹿，同樣也會導(dǎo)致車內(nèi)更多的人員受傷)的話，那么將會有更多的人員受傷。這兩輛汽車中的自動駕駛技術(shù)都在合理運(yùn)行，汽車的制造沒有任何問題，在購買之前或者事故發(fā)生之前也沒有遭受任何毀損。

2.一位人工智能外科醫(yī)生(AI surgeon)正在執(zhí)行常規(guī)的膽囊切除手術(shù)，突然一條此前沒有預(yù)料到的脆弱動脈開裂。于是，人工智能外科醫(yī)生開始去修補(bǔ)這條動脈。監(jiān)督這臺手術(shù)的人類醫(yī)生同意人工智能做出的決定和計劃。人工智能外科醫(yī)生修補(bǔ)好了這條動脈，但隨后病人出現(xiàn)了大量失血?？紤]到內(nèi)在的損傷，人工智能決定停止實施摘除膽囊手術(shù)。人類醫(yī)生對此表示同意。為此，病人不得不多花費(fèi)兩周時間住院康復(fù)，以便進(jìn)行第二次膽囊切除手術(shù)。術(shù)后調(diào)查顯示，盡管病人在手術(shù)之前做了全身檢查，但這條動脈的脆弱狀態(tài)是術(shù)前不可預(yù)見的。調(diào)查也證實監(jiān)督人工智能手術(shù)的人類醫(yī)生合理履行了其監(jiān)督職責(zé)，并且做好了充分準(zhǔn)備在必要時終止人工智能的操作，親自去完成動脈修復(fù)工作。同時，人類醫(yī)生也認(rèn)為人工智能外科醫(yī)生采取了適當(dāng)?shù)拇胧┤バ扪a(bǔ)動脈，挽救了病人的生命。而有關(guān)人工智能技術(shù)的診斷結(jié)論也顯示，人工智能外科醫(yī)生在手術(shù)過程中的操作自始至終都非常規(guī)范。此外，這臺人工智能機(jī)器不存在制造缺陷，在手術(shù)之前也沒有遭受過任何相關(guān)毀損。

3.在房屋拆除現(xiàn)場，一臺建筑人工智能(construction AI)拆除了一根大梁。根據(jù)建筑物的設(shè)計圖——人類工頭已經(jīng)拿到——這根大梁并不是房屋的承重梁。然而，不幸的是，這根大梁事實上卻承載著建筑物剩余部分的絕大部分重量。結(jié)果，建筑物的剩余部分轟然倒塌，導(dǎo)致與拆除現(xiàn)場相鄰街道的人們遭受重大損失。隨后的調(diào)查顯示，建筑物使用期間以及最初拆除階段發(fā)生的地表移動，導(dǎo)致這根大梁變成了承重梁。同時，調(diào)查也明確表示在事故發(fā)生之前，我們不可能知道這根大梁已經(jīng)變成了承重梁，人類工頭對于建筑物拆遷工作已經(jīng)履行了合理監(jiān)督職責(zé)。技術(shù)診斷報告也顯示，人工智能在執(zhí)行拆除任務(wù)期間運(yùn)行正常。此外，人工智能的制造沒有任何問題，在執(zhí)行拆除工作之前也沒有遭受過任何毀損。

上述這些例子表明，存在大量這樣的情形，即在發(fā)生事故時，監(jiān)督人工智能的人沒有過錯，其他與人工智能交互的人也不是損害發(fā)生的原因，同時人工智能的設(shè)計、制造以及運(yùn)輸都十分合理，在事故發(fā)生之前也沒有遭受過任何毀損。對于事故來說，只有人工智能需要對此承擔(dān)責(zé)任。然而，法律并沒有考慮過這個問題。[注]美國各州已經(jīng)開始去解決自動駕駛汽車引發(fā)的責(zé)任問題，規(guī)定由“駕駛者”——啟動汽車的人——對自動駕駛汽車造成的損害承擔(dān)責(zé)任。然而，正如我上文提到的，這并不能代表有關(guān)自動駕駛汽車最好的公共政策。因為我們大多數(shù)人將來在使用自動駕駛汽車時，都不會像這些早期的法律所假定的那樣去對自動駕駛汽車進(jìn)行監(jiān)督。我們最終會認(rèn)識到，將自動駕駛汽車引發(fā)的賠償責(zé)任分配給啟動汽車的人，其邏輯就像將電梯引發(fā)的賠償責(zé)任分配給按下樓層按鈕的人一樣荒謬。因此，當(dāng)用現(xiàn)有的法律模型去解決前三種情形時，也必須提出新的模式或方法去解決最后一種有關(guān)人工智能的責(zé)任問題。

簡言之，在認(rèn)定人工智能過失時：受到損害的原告很可能會對人工智能提起過失侵權(quán)訴訟。當(dāng)人類的決定被人工智能的自主決定所替代時，律師自然而然會對人工智能提起過失侵權(quán)訴訟(特別是對于聰明的律師來說)。如果人類必須要合理、謹(jǐn)慎地實施行為，那么為什么人工智能就不需要呢？這些針對人工智能的訴訟主張很可能會得到支持。當(dāng)然，如果編程者的編程讓人工智能做出一些不合理、不謹(jǐn)慎的決定的話，那么我認(rèn)為針對人工智能的編程者提出訴訟主張將會更加合理。[注]See George S. Cole, Tort Liability for Artificial Intelligence and Expert Systems,2 Computer /Law Journal 10,213-230(1990).然而，即便人工智能被認(rèn)定有過失，仍然需要回答當(dāng)人工智能承擔(dān)責(zé)任時會發(fā)生什么，這需要一個全新的模式來解決人工智能承擔(dān)責(zé)任以及支付賠償費(fèi)用的問題。

四、當(dāng)人工智能承擔(dān)責(zé)任時會發(fā)生什么

一旦法律將責(zé)任分配給人工智能，我們就需要解決當(dāng)人工智能承擔(dān)責(zé)任時究竟由誰來支付賠償金的問題?？紤]到立法者和法官必須要平衡經(jīng)濟(jì)發(fā)展(鼓勵人工智能的研究、發(fā)展以及銷售)與公平(受害人應(yīng)當(dāng)?shù)玫酵桩?dāng)保護(hù)，有權(quán)對因為人工智能的過錯造成的損失和損害尋求賠償)之間的利益沖突，因而這將變成公共政策問題。對此，存在以下三種可選擇的路徑。

(一)由所有者支付

這是一條非常簡單的規(guī)則，與飼養(yǎng)一條狗或撫養(yǎng)一個小孩時的責(zé)任類似。如果你擁有人工智能，那么你就應(yīng)當(dāng)承擔(dān)與之相隨的風(fēng)險。在庭審中，對于許多的責(zé)任指控，“自擔(dān)風(fēng)險(assumption of risk)”[注]自擔(dān)風(fēng)險原則(assumption of risk)，又稱為“volenti non fot injuria”，是指依照法律，當(dāng)事人不得就自己同意遭受的損害獲得補(bǔ)償，即，如果當(dāng)事人自愿置身于其覺察和了解的危險中，則不得就此所受損害獲得賠償。參見薛波主編：《元照英美法詞典》(縮印版)，北京大學(xué)出版社2013年版，第111頁?！g者注都是一條普遍適用的抗辯規(guī)則，這意味著原告自愿承擔(dān)所有可能的責(zé)任風(fēng)險，其他的當(dāng)事人、被告都將免于承擔(dān)責(zé)任。[注]參見前引〔1〕，Dobbs & Hayden書，第303-307頁。

我預(yù)測在人工智能發(fā)展和銷售的早期階段，當(dāng)消費(fèi)者針對人工智能引起的損害提起訴訟時，這一理論會在人工智能制造商群體中十分流行。這一理論的實質(zhì)是，特定類型的人工智能作為一款新型產(chǎn)品，它不可能完全沒有缺陷；盡管公司相信它通常是一款安全的產(chǎn)品，但消費(fèi)者購買時既然知道它是一款新型產(chǎn)品，也理應(yīng)知道它本身存在一定的風(fēng)險。盡管在早期階段，有些法官可能會認(rèn)為這一理論有些道理，但我懷疑大多數(shù)情形下，這一理論都不會得到支持。就像現(xiàn)有的法律體系期待市場上所有產(chǎn)品都必須滿足某個特定標(biāo)準(zhǔn)的功能和安全性能，同樣，法律體系也自然會期待銷售人工智能產(chǎn)品的公司必須保證其產(chǎn)品滿足同樣標(biāo)準(zhǔn)的安全性能。因此，消費(fèi)者不會因為購買和使用人工智能產(chǎn)品，就要承擔(dān)巨大責(zé)任的風(fēng)險。[注]參見前引〔26〕，Cole文，第174-175頁。

我認(rèn)為將與人工智能相關(guān)的責(zé)任分配給所有者是一個合理的(plausible)公共政策選擇——它簡單、容易執(zhí)行，并且初看起來具有某種程度的公平性。事實上，美國最初對自動駕駛汽車進(jìn)行規(guī)制的幾個州，它們的法律實質(zhì)上都是在將責(zé)任分配給汽車的所有者，或者占據(jù)所有者位置的人，即所謂的“操作者”(operator)。然而，我并不認(rèn)為將責(zé)任分配給所有者就是最好的(best)公共政策選擇。首先，它沒有反映人工智能造成損失或損害時的真實情況；即所有者常常并沒有對人工智能實施任何行為。與寵物狗或兒童不同，我們不能期待人工智能的所有者對機(jī)器人隨時隨地地負(fù)責(zé)。這也是技術(shù)帶來的最大好處之一，它能自主地作出一些負(fù)責(zé)任的決定，并不像寵物狗或(許多)兒童一樣。

其次，如果所有者需要承擔(dān)責(zé)任，那么擁有人工智能將會成為一件受抵制的事情。為此，如果公共政策的目的之一是為了鼓勵諸如人工智能等新技術(shù)獲得長足發(fā)展和商業(yè)成功的話，那么讓潛在的消費(fèi)者去承擔(dān)所有的風(fēng)險是無法達(dá)到此目的的。即使消費(fèi)者為了自我保護(hù)而購買保險，但在保險不足以賠償事故損失時，所有者仍然需要對損失承擔(dān)賠償責(zé)任。這將抑制人們擁有人工智能，并間接地阻礙人工智能的發(fā)展，最終愿意購買人工智能產(chǎn)品的消費(fèi)者將會越來越少。

(二)由開發(fā)者或制造商支付

與將責(zé)任分配給所有者一樣，將責(zé)任分配給開發(fā)者或制造商也是非常簡單、易于執(zhí)行的規(guī)則，并且初看起來似乎十分公平。這種模式與嚴(yán)格責(zé)任具有某些相似性：制造商和設(shè)計者對事故的發(fā)生沒有主觀意圖，人工智能脫離了制造商的規(guī)格要求。然而，這一理論也存在與將責(zé)任分配給所有者一樣的缺陷。

在上述例子中，人工智能都在糟糕的情形下做出了最好的決定。面對不可避免的事故，自動駕駛汽車選擇了最優(yōu)的事故解決方案；面對手術(shù)中突如其來的情況，人工智能外科醫(yī)生修復(fù)了動脈損傷，讓病人存活了下來。此種情形下，要求制造商或開發(fā)者為運(yùn)行良好的機(jī)器所造成的損害承擔(dān)責(zé)任，無法真實反映他們沒有實施任何過錯行為的事實。這有點(diǎn)像要求破壞球(wrecking-ball)的制造商公司為他們拆除的建筑物承擔(dān)責(zé)任一樣，但這個產(chǎn)品(破壞球)本身就是用于拆除這些建筑物的。同樣，處于上述情形中的人工智能也理應(yīng)做出那些決定。

此外，最為嚴(yán)重的問題是，如果他們發(fā)現(xiàn)即使產(chǎn)品運(yùn)行良好，他們也不得不對損害承擔(dān)責(zé)任的話，那么，潛在的開發(fā)者和設(shè)計者就不會再愿意去開發(fā)新的人工智能形式。同樣，潛在的制造商也會有相同的擔(dān)憂。故此，這個政策可能會保護(hù)被功能完備的人工智能造成損害的少數(shù)群體，但同時卻可能會極大地阻礙人工智能的進(jìn)步和發(fā)展，最終損害每個人的利益。

(三)由人工智能本身支付

讓人工智能本身去支付賠償費(fèi)用，似乎聽上去有些奇怪，但這確實是一個合法的選擇，并且我認(rèn)為是最佳的選擇。當(dāng)然，我并不是說要開始為人工智能支付工資——即使C-3PO也沒有稅后工資或儲蓄存款。但是，當(dāng)人工智能需要承擔(dān)責(zé)任時，確實存在許多可行的辦法：建立一個儲備金(a reserve of funds)用于支付與人工智能相關(guān)的和解和賠償費(fèi)用，包括要求針對人工智能購買特定額度的保險——美國一些州的立法已經(jīng)針對自動駕駛汽車做了類似規(guī)定——或者要求所有的人工智能產(chǎn)品在其售價中增加特定額度的責(zé)任費(fèi)用，以建立一個由政府主導(dǎo)或行業(yè)主導(dǎo)的儲備金。

需要注意的是，區(qū)分人工智能保險與人工智能儲備金是非常重要的。在強(qiáng)制保險體系下，每一臺具備人工智能功能的機(jī)器都將進(jìn)行投保，以便為涉及責(zé)任支付的情形創(chuàng)造一個潛在的資金池。假如這臺人工智能機(jī)器卷入事故并且需要承擔(dān)責(zé)任的話，那么隨后所有糾紛的賠償都將限定在這臺機(jī)器的保險賠償金額范圍之內(nèi)；所有者和制造商不會再支付任何費(fèi)用。而在儲備金制度下，整個人工智能行業(yè)將擁有一個獨(dú)立的資金池用于解決與人工智能相關(guān)的責(zé)任支付問題。所有的糾紛賠償都將來自于這個資金池，而不是直接來自于所有者或者制造商。人工智能保險和人工智能儲備金都是由所有者、制造商以及開發(fā)者以這種或那種形式支付的，其要么是通過支付額外的保險費(fèi)用，要么是通過銷售時分?jǐn)偢郊淤M(fèi)用。

保險和儲備金的意義都在于，既保障了遭受損害的受害人能夠得到經(jīng)濟(jì)賠償，又避免讓所有者、消費(fèi)者、開發(fā)者或制造商去對與人工智能相關(guān)的所有潛在損失承擔(dān)責(zé)任。通過保險或儲備金的形式，讓人工智能來承擔(dān)賠償責(zé)任，也更加準(zhǔn)確地反映了事故發(fā)生的真實情況，即損害是由于人工智能的失誤造成的。同時，也不用擔(dān)心會挫敗消費(fèi)者購買人工智能產(chǎn)品的積極性或者打消制造商生產(chǎn)人工智能產(chǎn)品的念頭。由于所有的債務(wù)和責(zé)任都由人工智能獨(dú)立承擔(dān)，因而各方當(dāng)事人——所有者、開發(fā)者以及制造商——都能預(yù)先知道成本。他們也無須再擔(dān)心未知的訴訟帶來的預(yù)算成本問題。保險或儲備金讓他們免于承擔(dān)責(zé)任。

此外，對于原告和受害者來說，可能存在的一個問題是，人工智能并不總是能夠滿足諸如過失侵權(quán)、違約責(zé)任、產(chǎn)品缺陷責(zé)任等傳統(tǒng)的責(zé)任主張。在我列舉的一些例子里面，傳統(tǒng)的責(zé)任主張并不適用。例如，當(dāng)人工智能像預(yù)設(shè)的那般運(yùn)行良好，那么，過失侵權(quán)和產(chǎn)品缺陷責(zé)任的主張在訴訟中就無法得到支持。同樣，在雙方簽訂的合同中，提供人工智能服務(wù)的一方通常不會許諾某個特定的結(jié)果，而是承諾其會提供功能完備的人工智能產(chǎn)品。此種情形下，試圖在訴訟中依據(jù)合同約定來主張違約責(zé)任似乎也難以獲得支持。

相較于依靠傳統(tǒng)的責(zé)任主張，選擇走人工智能保險或儲備金程序顯然更有利于受害人。就像工傷保險賠償程序一樣，它們通常需要的證明標(biāo)準(zhǔn)更低，更容易讓工人獲得賠償，但工人獲得的賠償額一般要低于法院判決中可能的賠償額。[注]參見前引〔1〕，Dobbs & Hayden書，第916-917頁。如果存在與人工智能相關(guān)的保險政策或儲備金制度，那么就沒有必要去適用傳統(tǒng)的責(zé)任主張。相反，原告僅僅需要證明(1)實際受到了損害或損失，以及(2)有證據(jù)證明是由人工智能造成的。為了維持保險公司和儲備金的支付能力，在原告選擇適用這一更低的證明標(biāo)準(zhǔn)時，他們也將必須接受較低的賠償數(shù)額。就像工傷保險賠償程序一樣，人工智能保險和儲備金程序同時保護(hù)遭受人工智能損害或損失的人以及擁有和制造人工智能的人。

五、機(jī)器人醫(yī)生的責(zé)任

就醫(yī)生來說，外科醫(yī)生以及其他醫(yī)療參與人員是最為常見的被提起訴訟主張的主體，審視人工智能如何影響與手術(shù)相關(guān)的責(zé)任問題可以更加清晰地了解該如何起訴人工智能。人工智能手術(shù)的普及并不像大多數(shù)人認(rèn)為的那樣遙遠(yuǎn)。一些考察過外科手術(shù)實踐的人認(rèn)為，今天的手術(shù)越來越像是“自動化手術(shù)”(automatic surgery)。大部分工作都由實習(xí)醫(yī)生完成，作為“師傅”的外科醫(yī)生常常并不在手術(shù)室內(nèi)。[注]See Katherine J. Herrmann, Cybersurgery: The Cutting Edge, 2 Rutgers Computer and Technology Law Journal 32,305(2006).因此，經(jīng)驗豐富的外科醫(yī)生并不會因為人工智能外科醫(yī)生限制其親自參與手術(shù)而感到沮喪。事實上，在過去20年里，由人類控制的機(jī)器人外科醫(yī)生已經(jīng)越來越流行了，最近網(wǎng)絡(luò)外科醫(yī)生(cyber surgeons)(允許人類醫(yī)生遠(yuǎn)程為病人做手術(shù)的機(jī)器人系統(tǒng))的出現(xiàn)比人工智能外科醫(yī)生更加讓人興奮。[注]See The Kindness of Strangers, Babbage-Science and Technology (blog),The Economist,January 18,2012,available at http://www.economist.com/blogs/babbage/2012/01/surgical-robots;Herrmann,297-298;Thomas R. McLean, Cybersurgery:Innovation or a Means to Close Community Hospitals and Displace Physicians?4 Jobn Marsball Journal of Computer and Information Law 20,539(2002).然而，自主化外科醫(yī)生(autonomous surgeons)已經(jīng)被研發(fā)出來，并且運(yùn)用到手術(shù)之中，我相信它們代表著機(jī)器人手術(shù)系統(tǒng)的自然演進(jìn)。[注]參見前引〔32〕，McLean文，第506-508頁。

(一)手術(shù)機(jī)器人和人工智能簡史

在過去的25年里，人工智能外科醫(yī)生已經(jīng)取得了巨大進(jìn)步，從基本的自動化工具發(fā)展到能夠自我指導(dǎo)的外科醫(yī)生助手。1985年，機(jī)器人首次出現(xiàn)在手術(shù)當(dāng)中，郭博士(Y.S.Kwoh)和他的同事們利用一臺Puma560[注]Puma 560是一款工業(yè)機(jī)器人， 或稱機(jī)器人操作臂。從外形來看，它和人的手臂相似，是由一系列剛性連桿通過一系列柔性關(guān)節(jié)交替連接而成的開式鏈?！g者注工業(yè)機(jī)器人更加精準(zhǔn)地完成了神經(jīng)外科活檢手術(shù)。[注]See Anthony R. Lanfranco,et al., Robotic Surgery: A Current Perspective, 1 Annals of Surgery 239,15(2004).醫(yī)療團(tuán)隊通過改造Puma機(jī)器人，讓其能夠固定病人頭部附近的支架，從而在神經(jīng)外科手術(shù)中，能夠讓探頭和活檢針置于一個理想的位置。[注]See Justin M. Albani, The Role of Robotics in Surgery: A Review, 2 Missouri Medicine 104, 166(2007).換句話說，醫(yī)生利用機(jī)器人去固定病人腦部的支點(diǎn)，以便外科醫(yī)生能夠鉆入顱骨，取出腦部樣本。20世紀(jì)80年代后期，外科醫(yī)生已經(jīng)能夠利用Puma機(jī)器人去執(zhí)行更加精準(zhǔn)地切除(如摘除)腦部深處腫瘤的手術(shù)，這在此前是不可能完成的。[注]See Brian Davies, Robotic Surgery: From Autonomous Systems to Intelligent Tools.(transcript of lecture,Institution of Mechanical Engineers, London, July 2007,p.1.)Puma560機(jī)器人被證明是手術(shù)機(jī)器人發(fā)展的催化劑。1988年，由布萊恩·戴維斯(Brian Davies)醫(yī)生帶領(lǐng)的一支外科醫(yī)生團(tuán)隊，利用Puma560機(jī)器人完成了一臺經(jīng)尿道前列腺切除手術(shù)，成功切除了多余的前列腺組織。[注]參見前引〔35〕，Lanfranco文，第15頁；John B. Malcolm, Michael D. Fabrizio & Paul F. Schellhammer, Witnessing the Transition of Open Robotic Surgery, in A.K.Hemal and M.Menon ed.,Robotics in Genitourinary Surgery,Springer-Verlag,2011,p.119.

Puma(全稱為可編程通用裝配機(jī)器，Programmable Universal Machine for Assembly)是設(shè)計用于“中輕量組裝、焊接、材料處理、包裝和檢驗應(yīng)用”的系列工業(yè)機(jī)器人。[注]See Unimate Puma Series 500 Industrial Robot, Unimation, promotional booklet, available at http://www.antenen.com/htdocs/downloads/files/filesdl/puma560.pdf(May 1984).20世紀(jì)70年代，在通用汽車公司的支持下，第一家工業(yè)機(jī)器人制造商Unimation公司[注]See Jeremy Pearce, George C. Devol, Inventor of Robot Arm, Dies at 99, New York Times, August 15,2011,available at http://www.nytimes.com/2011/08/16/business/george-devol-developer-of-robot-arm-dies-at-99.html2_r=2&partner=rss&emc=rss&.生產(chǎn)出了第一批Puma機(jī)器人。[注]See Lisa Nocks, The Robot: The Life Story of a Technology, Greenwood Press,2007,p.69；Roland Menassa, Robonaut2 and Next Generation Industrial Robots,available at http://www.robobusiness.com/images/uploads/CS04_Robonaut2_and_Next_Generation_Industrial Robots.pdf.(presentation outline, IEEE 12 International Conference on Inteligent Autonomous Systems, Jeju Island, South Korea, June 26-29,2012,p.5.)在隨后的80年代，大部分汽車生產(chǎn)廠都在使用Puma機(jī)器人，直到今天許多研究室仍然在使用。[注]參見前引〔41〕，Nocks書，第69頁。所有的Puma機(jī)器人，包括Puma560，實際上都是能夠多方向旋轉(zhuǎn)和彎曲的機(jī)器臂(robotic arms)，我們在每一則有關(guān)工廠機(jī)器人的新聞報道中都能看到工業(yè)機(jī)器人的完美原型。

20世紀(jì)80年代，西屋電氣公司(后改為哥倫比亞廣播公司)收購了Unimation公司，最終決定不再設(shè)計適用于人體相關(guān)的機(jī)器人，同時撤回醫(yī)生可以利用Puma560機(jī)器人去實施手術(shù)的許可。[注]See Ferdinando Rodriguez & Brian Davies, Robotic Surgery: From Autonomous Systems to Intelligent Tools, 2 Robotica 28,163(2010).這直接促使1991年戴維斯醫(yī)生和他的同事們在倫敦帝國學(xué)院開發(fā)出Probot機(jī)器人。[注]參見前引〔36〕，Albani文，第166-167頁。Probot機(jī)器人是專門設(shè)計用于實施經(jīng)尿道前列腺切除手術(shù)的機(jī)器人，與戴維斯醫(yī)生使用過的Puma560機(jī)器人差不多。[注]參見前引〔35〕，Lanfranco文，第15頁但與Puma560機(jī)器人不同的是，Probot機(jī)器人幾乎不用外科醫(yī)生來操控，而是依靠預(yù)先的編程來運(yùn)行。[注]參見前引〔38〕，Malcolm, Fabrizio & Schellhammer文，第119頁。然而，由于Probot機(jī)器人在手術(shù)中的自動化功能以及獨(dú)立的特性不易為其他醫(yī)生所接受，因而該機(jī)器人的使用并不廣泛。“醫(yī)生們對于這個想法感到不舒服”，來自倫敦帝國學(xué)院的神經(jīng)科顧問醫(yī)生和愛爾蘭皇家外科醫(yī)生學(xué)院的研究員賈斯汀·威樂(Justin Vale)對此說道。[注]See Priya Ganapati, Surgical Robots Operate with Precision, Wired, September 11, 2009, available at http:// www.wired.com/gadgetlab/2009/09/surgical-robots/.

在戴維斯醫(yī)生于倫敦開發(fā)出Probot機(jī)器人的同時，霍華德·保羅(Howard Paul)醫(yī)生(獸醫(yī))、威廉·巴加(William Bargar)醫(yī)生(整形外科醫(yī)生)、皮特·卡贊茲德(Peter Kazanzides)博士(機(jī)器人工程師)以及布倫特·米特爾斯塔德(Brent Mittelstadt)先生(生物醫(yī)學(xué)工程師)在加州的薩克拉門托創(chuàng)立了Integrated Surgical System公司，并開發(fā)出了Robodoc機(jī)器人，一款能夠比人類外科醫(yī)生更加精準(zhǔn)地鑿空股骨來進(jìn)行髖關(guān)節(jié)置換手術(shù)的自動化系統(tǒng)。[注]See Joanne Pransky, ROBODOC-Surgical Robot Success Story, 3 Indastrial Robot 24,231-232(1997)；前引〔35〕，Lanfranco文，第15頁。他們的目標(biāo)是切開骨腔，如此醫(yī)生能夠更加精準(zhǔn)地匹配人造髖關(guān)節(jié)的形狀。在Robodoc機(jī)器人出現(xiàn)之前，外科醫(yī)生只能利用錘子和榔頭在骨頭上鑿出一個洞，然后再使用粘合劑填充人造關(guān)節(jié)和洞之間的縫隙。而Robodoc機(jī)器人可以利用傳感器去探測股骨的大小和形狀，在此基礎(chǔ)上，醫(yī)生通過電腦終端，推入種植體并實時修正其在股骨中的位置。[注]參見前引〔48〕，Pransky文，第231頁?；谶@些信息，Robodoc機(jī)器人能夠在骨頭中自動打孔，外科醫(yī)生不需要過多的參與，其唯一要做的就是握住緊急開關(guān)按鈕。[注]參見前引〔43〕，Rodriguez & Davies文，第163頁。隨后，Robodoc機(jī)器人成為第一款商用的手術(shù)機(jī)器人系統(tǒng)，直到今天仍然在使用。[注]參見前引〔36〕，Albani文，第167頁。截止到2010年，Robodoc機(jī)器人已經(jīng)實施了超過24 000例手術(shù)，而最新版本的機(jī)器人還可以實施膝關(guān)節(jié)置換手術(shù)。[注]See Sutter General Performs First Hip Replacement with ROBODOC Surgical System after FDA Clearance,NewsMedical,May 29,2010,available at http://www.news-medical.net/news/20100529/Sutter-General-performs-first-hip-replacement-with-ROBODOC-Surgical-System-after-FDA-clearance.aspx;ROBODOC Professionals Page, Robodoc-Curexo Technology Corporation, available at http:// www.robodoc.com/professionals.html.

Probot機(jī)器人和Robodoc機(jī)器人代表了醫(yī)學(xué)領(lǐng)域有關(guān)機(jī)器的一種學(xué)院派觀點(diǎn)，即機(jī)器人可以并且應(yīng)該能夠在人類監(jiān)督下執(zhí)行更多的手術(shù)，但并不必然需要人類進(jìn)行直接控制。這種觀點(diǎn)也導(dǎo)致了醫(yī)生在手術(shù)中越來越多地依賴人工智能。盡管如此，戴維斯醫(yī)生認(rèn)為這一觀點(diǎn)讓許多醫(yī)生都感到不舒服：“雖然外科醫(yī)生也承認(rèn)這樣的自主化功能是非常理想的，但他們擔(dān)心手術(shù)很大程度上是由機(jī)器人的編程者控制，而自己將變成了旁觀者。”[注]前引〔37〕，Davies文，第2-3頁。

戴維斯醫(yī)生認(rèn)為，一種被稱為手術(shù)導(dǎo)航系統(tǒng)的機(jī)器人能夠緩解想要對手術(shù)過程保持完全控制的醫(yī)生們的擔(dān)憂。[注]參見前引〔43〕，Rodriguez & Davies文，第164頁。從1991年開始，戴維斯醫(yī)生和他在倫敦帝國學(xué)院的同事著手研發(fā)了一款機(jī)器人助手——Acrobot機(jī)器人(主動約束型機(jī)器人)，它(事實上)能夠主動去約束外科醫(yī)生在一個安全的范圍內(nèi)實施更為精準(zhǔn)的切除手術(shù)。[注]See M. Jakopec,et al., The First Clinical Application of a “Hands-On” Robotic Knee Surgery System,6 Computer Aided Surgery 6,329-339(2001).Acrobot機(jī)器人具有“親自參與”(hands-on)的功能設(shè)計，它在機(jī)器臂的末端有一個力控手柄，人類醫(yī)生在手術(shù)中可以控制這個手柄。而機(jī)器臂要做的就是去主動約束人類醫(yī)生在手術(shù)過程中的行為，實質(zhì)上就是監(jiān)督。[注]參見前引〔43〕，Rodriguez & Davies文，第164頁。“這些機(jī)器人設(shè)計的目的是為了穩(wěn)住外科醫(yī)生的手，而不是去實施手術(shù)。(它們)作用巨大，可以避免外科醫(yī)生的失誤”，來自倫敦帝國學(xué)院的賈斯丁·科布(Justin Cobb)教授說道。[注]See Robot Assisted Surgery More Accurate Than Conventional Surgery, Imperial College, press release, February 8,2006,available at http://www.imperial.ac.uk/college.asp?P=7449.

盡管在手術(shù)室中引入自主化外科醫(yī)生機(jī)器人(autonomous surgeon robots)和約束型機(jī)器人(restraining robots)方面做了很多的努力，但醫(yī)學(xué)界主流的聲音仍然是試圖維持人類外科醫(yī)生對手術(shù)的完全控制。對此，他們有許多合理的理由。例如，即使是自主化手術(shù)機(jī)器人的倡導(dǎo)者也不得不承認(rèn)，至少從目前來看，自主化機(jī)器人并不適合實施軟組織手術(shù)——這種手術(shù)涉及肌肉、脂肪、皮膚或者其他支撐組織——因為這些組織會隨著壓迫或切除而不斷變形。[注]參見前引〔43〕，Rodriguez & Davies文，第165頁。

因此，相較于自主化外科醫(yī)生機(jī)器人，機(jī)器人輔助(robot-assisted)手術(shù)和程序得到了更加廣泛的應(yīng)用和發(fā)展。例如，機(jī)器人手術(shù)系統(tǒng)(robotic surgical systems)就被作為人類醫(yī)生在手術(shù)室中的一種輔助機(jī)器。Da Vinci機(jī)器人或許是當(dāng)前最著名的例子，因為它是第一款得到大規(guī)模運(yùn)用的機(jī)器人系統(tǒng)，同時還因為它能廣泛適用于各種類型的手術(shù)，包括前列腺切除術(shù)、心臟瓣膜修復(fù)、子宮切除術(shù)、膽囊切除術(shù)、口腔切除等等。[注]See Kristen Gerencher, Robots as Surgical Enablers,Market Watcb(blog),Wall Street Journal, February 3,2005,available at http://www.marketwatch.com/story/a-fascinating-visit-to-a-high-tech-operating-room?dist=msr_2；Barnaby J. Feder,Prepping Robots to Perform Surgery, New York Times, May 4,2008,available at http://www.nytimes.com/2008/05Anlo sinog moll.html?pagewanted=2&-r=0；Regulatory Clearance,Intir-Surgical,available at http://www.intuitivesurgical.com/specialties/regulatory-clearance.html.作為遙控型機(jī)器人手術(shù)系統(tǒng)的一種，Da Vinci是一款綜合型的“主—從”式手術(shù)機(jī)器人(這意味著機(jī)器人作為“奴仆”，受由人類控制的電腦這一“主人”的直接控制)，它具有多臂遠(yuǎn)程操控功能，能夠通過成像系統(tǒng)和電腦控制臺進(jìn)行控制。[注]參見前引〔35〕，Lanfranco文，第16頁。Da Vinci機(jī)器人系統(tǒng)帶來的好處包括靈活性的提升、手術(shù)影像的優(yōu)化(如醫(yī)生只要通過控制臺就可以獲得多角度手術(shù)區(qū)域的視圖)、手術(shù)物理穩(wěn)定性的提高以及遠(yuǎn)程執(zhí)行手術(shù)能力的增強(qiáng)等等。Da Vinci機(jī)器人系統(tǒng)以及其他類似的遙控裝置，能夠讓異常困難甚至根本上不可能的手術(shù)成為可能。[注]參見前引〔35〕，Lanfranco文，第16-17頁。

Da Vinci機(jī)器人最初來源于美國國家航空航天局(NASA)的斯科特·費(fèi)舍爾(Scott Fosher)博士和斯坦福大學(xué)的一名整形外科醫(yī)生約瑟夫·羅森(Josepph Rosen)的一次合作。[注]參見前引〔36〕，Albani文，第167頁。在20世紀(jì)80年代中后期，他們提出了“臨場感外科手術(shù)”(telepresence surgery)的設(shè)想，試圖將虛擬現(xiàn)實技術(shù)與手術(shù)機(jī)器人技術(shù)結(jié)合以實現(xiàn)“遠(yuǎn)程”手術(shù)。這個團(tuán)隊將他們的研究提交給菲爾·格林(Phil Green)博士以及他在斯坦福研究所(Stanford Research Institute)的團(tuán)隊，后者使用這個概念開發(fā)出一款增強(qiáng)手部外科手術(shù)中神經(jīng)與血管吻合的遙控機(jī)器臂。在美國陸軍的資助下，由菲爾·格林醫(yī)生和理查德·薩塔瓦(Rrichard M.Satava)醫(yī)生領(lǐng)導(dǎo)的斯坦福國際研究所(SRI International)(這也是為最終研發(fā)出Siri提供最初研究的團(tuán)隊)的工程師和醫(yī)生們，將這個遙控機(jī)器臂升級為格林臨場感系統(tǒng)(Green telepresence system)。[注]See Satyam Kalan,et al., History of Robotic Surgery, 3 Journal of Robotic Surgery 4,144(2010)；前引〔36〕，Albani文，第167頁。

美國陸軍對這項技術(shù)十分感興趣，因為野戰(zhàn)部隊利用它可以將受傷的士兵放在配有手術(shù)裝備的車輛上，如此附近的移動陸軍手術(shù)醫(yī)院(Mobile Army Surgical Hospitals)就能夠遠(yuǎn)程實施手術(shù)。[注]參見前引〔35〕，Lanfranco文，第15頁。為此，軍方資助了這一領(lǐng)域的幾個研究項目，其中一個項目開發(fā)出一款由手術(shù)外科醫(yī)生控制一個內(nèi)窺鏡照相機(jī)的桌面式機(jī)器臂，被稱為Aesop(全稱為“自動化內(nèi)窺鏡最佳定位系統(tǒng)”，Automated Endoscopic System for Optimal Postitioning)，由Computer Motion公司生產(chǎn)。Aesop機(jī)器人滿足了人類醫(yī)生對于一款配備照相機(jī)的機(jī)器臂助手的需求，并在1993年得到美國食品和藥品管理局(FDA)的許可，成為第一批手術(shù)機(jī)器人裝置。[注]參見前引〔36〕，Albani文，第167頁。1997年，Intuitive Surgical公司取得了格林臨場感系統(tǒng)的授權(quán)，對它進(jìn)行了深入改造，最終以Da Vinci機(jī)器人的形式重新發(fā)布。[注]參見前引〔63〕，Satyam文，第144-145頁；前引〔36〕，Albani文，第167頁。2003年，Intuitive Surgical公司收購了Computer Motion公司，并決定今后只開發(fā)Da Vinci機(jī)器人。[注]參見前引〔36〕，Albani文，第167頁。

由于美國政府在遙控機(jī)器臂方面的支持以及受其資助的私人研究機(jī)構(gòu)的努力，使得現(xiàn)代腹腔鏡手術(shù)或者微創(chuàng)手術(shù)成為可能。自1987年第一例摘除膽囊的微創(chuàng)手術(shù)實施以來，外科醫(yī)生和工程師共同致力于提升機(jī)器人手術(shù)系統(tǒng)，并且大大拓展了它的適用范圍，這很大程度上都要?dú)w功于機(jī)器人輔助手術(shù)領(lǐng)域的進(jìn)步。[注]See S. B. Jones and D. B. Jones, Surgical Aspects and Future Developments in Laparoscopy, 1 Anesthesiology Clinics of North America 19,107-124(2001).因為這些進(jìn)步，病人術(shù)后住院期限更短、恢復(fù)更快、疼痛更少、術(shù)后免疫系統(tǒng)的反應(yīng)也更好了。[注]See V. B. Kim,et al, Early Experience with Telemanipulative Robot-Assisted Laparoscopic Cholecystectomy Using Da Vinci, 1 Surgical Laparoscopy Endoscopy Percutaneous Techniques 12,34-40(2002);K.H.Fuchs,Minimally Invasive Surgery,2 Endoscopy 23,154-159(2002)；J. D. Allendorf,et al., Postoperative Immune Function Varies Inversely with the Degree of Surgical Trauma in a Murine Model, 5 Surgical Endoscopy 11,427-430(1997).

需要特別說明的是：上述這些益處只能通過機(jī)器人來實現(xiàn)。例如，微創(chuàng)手術(shù)，它的定義是尋求對身體最小的創(chuàng)傷(minimally invade)，外科醫(yī)生在完成此類手術(shù)時無法對手術(shù)區(qū)域的整體進(jìn)行觀察。而諸如Da Vinci等遙控機(jī)器臂能夠使用多鏡頭去創(chuàng)造一個三維圖像，如此醫(yī)生就能夠在手術(shù)時進(jìn)行清晰的觀察，即使病人的身體中只有非常小的切口。[注]參見前引〔35〕，Lanfranco文，第15-16頁。另外，生理性震顫(physiological tremors)——大多數(shù)人都有輕微震顫——通過手術(shù)工具不停傳遞，使得精準(zhǔn)切口的實現(xiàn)即使并非不可能，但也會十分困難。[注]See S. M. Prasad,et al.,Prospective Clinical Trial of Robotically Assisted Endoscopic Coronary Grafting with 1 Year Follow-Up, 6 Annals of Surgery 233,725-732(2001).而正如上文所述，這不過是遙控機(jī)器臂所要解決的其中一個很小的問題。當(dāng)然，雖然Da Vinci機(jī)器人的適用最為廣泛——僅2012年就實施了超過20萬例手術(shù)[注]參見前引〔32〕，The Kindness of Strangers文?！€存在其他機(jī)器人類型，包括Sensei X[注]See Sensei X Robotic System, Hansen Medical Inc., available at http://www hansenmedical. Com /us/ products/ep/sensei-robotic-catheter-system.php.以及Epoch，[注]See The Lab, Stereotaxis, available at http://www.stereotaxis.com/physicians/the-lab/.它們也是具有基本遙控機(jī)器臂特征的裝置，并且也已經(jīng)被廣泛商用或出現(xiàn)在實驗室當(dāng)中。

同樣，還存在其他類型的機(jī)器人——包括在開發(fā)或已經(jīng)商用的——并不能歸入遙控機(jī)器臂的分類范疇，但它們?nèi)匀蛔袷厝祟愥t(yī)生應(yīng)當(dāng)始終控制手術(shù)的原則。它們包括射波刀機(jī)器人放射性手術(shù)系統(tǒng)(Cyberknife Robotic Radiosurgery System)[注]射波刀(Cyber knife)，又稱“立體定位射波手術(shù)平臺”，又稱“網(wǎng)絡(luò)刀”或“電腦刀”，是全球最新型的全身立體定位放射外科治療設(shè)備。它可治療全身各部位的腫瘤，只需3到5次的照射，即可殺死腫瘤組織，是唯一綜合“無傷口、無痛苦、無流血、無麻醉、恢復(fù)期短”等優(yōu)勢的全身放射手術(shù)形式，患者術(shù)后即可回家?！g者注以及Raven機(jī)器人。射波刀是一種無框架機(jī)器人系統(tǒng)，通過使用聚焦電離輻射去切除腦部的腫瘤和病變組織。[注]See J. R. Adler,et al., The Cyberknife :A Frameless Robotic System for Radiosurgery,1 Stereotactic and Functional Neurosurgery 69,124-128(1997).而Raven機(jī)器人則可能是近年來機(jī)器人輔助手術(shù)領(lǐng)域，甚至是人工智能手術(shù)領(lǐng)域最令人興奮的發(fā)展成果。Raven機(jī)器人是由華盛頓大學(xué)設(shè)計的一款機(jī)器人手術(shù)助手，能夠無須外科醫(yī)生協(xié)助準(zhǔn)獨(dú)立地(quasi-independently)實施行為。來自約翰霍普金大學(xué)的一位專注于機(jī)器人研究的計算機(jī)科學(xué)教授喬治·哈根(Gregory Hager)說道：“這是從人類所能做的事情向超人(superhuman)才能做的事情過渡的一次機(jī)會……而要去完成超人式的手術(shù)就需要機(jī)器人有足夠的智能認(rèn)識到外科醫(yī)生在做什么，并提供適當(dāng)?shù)膮f(xié)助?！盵注]See Marina Koren, How Raven, the Open-Source Surgical Robot, Could Change Medicine, PopularMechanics, Feb. 28,2012.available at https://www.popularmechanics.com/science/health/a7470/how-raven-the-smart-robotic-helper-is-changing-surgery/.如果Raven或者其他類似的機(jī)器人真的能夠自主地提供這些協(xié)助，那么這將是推動人工智能廣泛適用于手術(shù)室的一次巨大技術(shù)進(jìn)步。

在這些成果的基礎(chǔ)上，目前主要有三種類型的機(jī)器人應(yīng)用于手術(shù)中，并且以這種或那種形式已經(jīng)在向或者即將向人工智能外科醫(yī)生的方向發(fā)展：

1.自主化外科醫(yī)生(autonomous surgeons)。Probot以及Robodoc機(jī)器人都是實實在在的能夠執(zhí)行手術(shù)任務(wù)的自主化外科醫(yī)生。它們的好處包括高精度的切口和移動、手術(shù)過程中快速的反應(yīng)以及不會因為長時間手術(shù)而疲勞。[注]參見作者2013年4月15日與Peter Kazanzides的郵件。盡管從目前來看，由于它們的技術(shù)和程序還不足以應(yīng)對軟組織手術(shù)的多變性，因而只能限于特定類型的手術(shù)，但它們代表了無須人類醫(yī)生介入的手術(shù)類型，因而讓人類醫(yī)生感到不舒服。

2.監(jiān)督型手術(shù)機(jī)器人(surgeries with robot oversight)。Acrobot機(jī)器人代表著這樣一種理念，雖然人類醫(yī)生負(fù)責(zé)實施手術(shù)，但他們能夠從提供監(jiān)督和限制手術(shù)行為的機(jī)器人那里獲得幫助。盡管這種技術(shù)本身并不能導(dǎo)致人工智能外科醫(yī)生的產(chǎn)生，但戴維斯醫(yī)生似乎也認(rèn)為Acrobot代表著一種折中技術(shù)，直到人類醫(yī)生更加愿意去接納自主化機(jī)器人出現(xiàn)在手術(shù)當(dāng)中。

3.人類醫(yī)生控制型手術(shù)機(jī)器人(Surgeries performed by robots controlled by human doctors)。Da Vinci機(jī)器人是這一類型中最為流行也最為著名的例子。然而，正如Raven機(jī)器人表明的那樣，許多研究者的終極目標(biāo)已經(jīng)界定為去創(chuàng)造“智能”機(jī)器人手術(shù)助手，能夠獨(dú)立自主地配合人類醫(yī)生實施手術(shù)。

來自開發(fā)出Robodoc機(jī)器人的Integrated Surgical System公司的皮特·卡贊茲德(Perter Kazanzides)先生認(rèn)為：“外科醫(yī)生將不會再害怕自主化技術(shù)，如果他們發(fā)現(xiàn)它有利于病人，同時能夠理解這種技術(shù)并控制它們的話?！盵注]參見前引〔78〕。隨著醫(yī)生越來越習(xí)慣在手術(shù)中使用機(jī)器人，Raven機(jī)器人所代表的那種趨勢就不會那么令人驚訝：從長遠(yuǎn)來看，人類醫(yī)生將開始在手術(shù)中依賴人工智能，因為他們看到在人工智能技術(shù)的幫助下，“超人”式的醫(yī)療看護(hù)將成為可能，盡管他們過去并不情愿這樣做。

人工智能外科醫(yī)生也將解決醫(yī)療機(jī)器人行業(yè)關(guān)注的一個問題：病人無法對外科醫(yī)生做出明智的選擇，因為不存在一個令人滿意的區(qū)分好醫(yī)生和壞醫(yī)生的系統(tǒng)。而在接受機(jī)器人的手術(shù)時，病人知道自己將會經(jīng)歷什么。[注]參見前引〔59〕，F(xiàn)eder文。

(二)涉及機(jī)器人“醫(yī)生”的案件

盡管事實是機(jī)器人手術(shù)系統(tǒng)和人工智能外科醫(yī)生以這樣或那樣的形式已經(jīng)存在20多年，但涉及機(jī)器人手術(shù)系統(tǒng)或人工智能外科醫(yī)生的案件并不多。然而，隨著醫(yī)院里人工智能外科醫(yī)生的使用越來越普遍，這些案件所涉及的復(fù)雜問題將變得越來越明顯。

這些案件中最著名的就是Mracekv.BrynMawrHospital案，[注]See Mracek v. Bryn Mawr Hospital,363 F.app’x. 925,926(3d cir. 2010).案件的基本事實是：一位名叫唐納德·馬瑞科(Roland C. Mracek)的病人，在被診斷為前列腺癌之后，于2005年6月在賓尼法尼亞州的布林茅爾醫(yī)院(Bryn Mawr Hospital)接受了前列腺切除手術(shù)。[注]See Mracek v.Bryn Mawr Host,610 F-SupP-2d-401,402-3(E.D.Pa.2009) (以下簡稱Mracek I ).他的外科醫(yī)生計劃用Da Vinci機(jī)器人去執(zhí)行這臺手術(shù)，但在手術(shù)過程中，這臺機(jī)器人顯示了“錯誤”的信息，人類醫(yī)生手術(shù)團(tuán)隊無法讓這臺機(jī)器恢復(fù)運(yùn)轉(zhuǎn)。為此，手術(shù)團(tuán)隊不得不使用腹腔鏡設(shè)備親自動手完成這臺手術(shù)。[注]See Mracek I,610 Supp.2d at 403.一周之后，馬瑞科發(fā)現(xiàn)他尿液里含有大量的血，于是被送往醫(yī)院。隨后，他繼續(xù)遭受勃起功能障礙的痛苦，就像手術(shù)之前那樣，并且還遭受了更為嚴(yán)重的腹股溝痛。[注]See Mracek v.Bryn Mawr Hospital,363 F.App’x.925,926(3d Cir.2010) (以下簡稱Mracek Ⅱ).

在遭受這些損害之后，馬瑞科先生決定起訴布林茅爾醫(yī)院和Intuitive Surgical公司要求賠償損失，并提起包括嚴(yán)格產(chǎn)品責(zé)任和過失侵權(quán)在內(nèi)的多個責(zé)任主張。布林茅爾醫(yī)院自愿終結(jié)訴訟。而Intuitive Surgical公司則提出了簡易判決(summary judgement)的動議，法院對此表示同意，并裁定認(rèn)為馬瑞科先生并不能證明損害和機(jī)器人故障之間存在因果關(guān)系。[注]See Mracek I,610 F.Supp.2d at 407.隨后，巡回法院認(rèn)可了初審法院的判決，認(rèn)為馬瑞科先生并不能證明這款Da Vinci機(jī)器人存在造成他損害的缺陷，或是這款Da Vinci機(jī)器人在離開Intuitive Surgical公司控制時就存在這一缺陷。[注]See Mracek II,at 925.

隨著人工智能外科醫(yī)生越來越普遍，這個案件反映出來的大量問題將會變得直接相關(guān)起來。首先，Mracek案之所以重要，是因為它涉及一臺由于運(yùn)轉(zhuǎn)故障從而沒能完成手術(shù)的機(jī)器人手術(shù)系統(tǒng)。幸運(yùn)的是，人類醫(yī)生手術(shù)團(tuán)隊能夠在沒有Da Vinci機(jī)器人的情況下完成這臺手術(shù)。但不幸的是，馬瑞科先生遭受了損害，而他相信這是由于手術(shù)引起的，如果Da Vinci機(jī)器人能夠完成這臺手術(shù)的話，那么損害將會因此而避免。[注]See Mracek I,610 F.Supp.2d at 403.盡管法院最終裁定，在Da Vinci機(jī)器人的故障與馬瑞科先生提供的證據(jù)之間并沒有形成證據(jù)鏈，但同樣非常重要的一點(diǎn)是，法院認(rèn)為他的前列腺切除手術(shù)是成功的。[注]See Mracek II,at 926,n.1.

這個案例也表明，有必要讓合格的、有準(zhǔn)備的外科醫(yī)生去監(jiān)督人工智能外科醫(yī)生。人工智能外科醫(yī)生也會遭遇功能障礙或運(yùn)行錯誤的情形，就像當(dāng)前機(jī)器人手術(shù)系統(tǒng)所遭遇的問題一樣。盡管可以期待的是，人工智能外科醫(yī)生將會更加可靠，但一旦人工智能出現(xiàn)問題，人類醫(yī)生就需要做好介入準(zhǔn)備，去穩(wěn)定病人狀況或完成手術(shù)，就像馬瑞科先生的手術(shù)團(tuán)隊那樣。

Mracek案的第二個問題是涉及人工智能外科醫(yī)生的案件如何處理專家證人(expert witness)的問題。初審法院認(rèn)為，由于Da Vinci機(jī)器人是如此的復(fù)雜，原告需要提供一名專家證人去幫助陪審團(tuán)理解這臺機(jī)器人是否存在缺陷。[注]See Mracek I,610 F.Supp.2d at 405；Margo Goldberg, The Robotic Arm Went Crazy！The Problem of Establishing Liability in a Monopolized Field, 2 Rutgers Computer and Technology Law Journal 38, 246(2012).但是對于此種情形下主張責(zé)任的原告來說，尋找(finding)專家證人是極其困難的；而法院最終也沒有允許一位完成過多例機(jī)器人手術(shù)的醫(yī)生提供一份關(guān)于前列腺切除手術(shù)的專家證詞，理由是原告并沒有證明這名醫(yī)生擁有足夠的技術(shù)知識。[注]See Mracek I,610 F.Supp.2d at 405-406;前引〔89〕，Goldberg文，第248頁。這意味著原告需要尋找一位對Da Vinci機(jī)器人有著專業(yè)技術(shù)知識，同時(as well as)又擁有專業(yè)醫(yī)療知識的專家證人，而這只能是以下三種類型的證人：制造商一方的醫(yī)療專家，來自競爭對手的對于技術(shù)運(yùn)轉(zhuǎn)擁有專業(yè)知識的醫(yī)療專家，或者是使用過機(jī)器人手術(shù)系統(tǒng)并且擁有足夠經(jīng)驗從而對機(jī)器人有深入認(rèn)識的醫(yī)生。[注]參見前引〔89〕，Goldberg文，第248頁。

盡管市場中還存在其他的機(jī)器人手術(shù)系統(tǒng)，但對Da Vinci機(jī)器人來說并不存在一個真正的競爭者，Intuitive Surgical公司事實上處于壟斷地位。這也直接排除了尋找前兩種能夠向陪審團(tuán)解釋機(jī)器人系統(tǒng)如何對原告造成損害的潛在專家證人的可能性，因為Intuitive Surgical公司的工程師或醫(yī)生不可能會作為原告的專家證人去反對自己的公司，同時也沒有競爭者能夠提供其他可替代的工程師或醫(yī)生。[注]參見前引〔89〕，Goldberg文，第248-249頁。盡管專家用戶(expert user)也是一個可能的選擇，但在Mracek案中，法院拒絕了一位這樣的專家用戶。[注]See Mracek I,610 F.Supp.2d at 405-406.那么，當(dāng)原告因為機(jī)器人引起損害而針對機(jī)器人手術(shù)系統(tǒng)的制造商提起訴訟要求賠償時，他需要尋找一位專家證人去向陪審團(tuán)解釋發(fā)生了什么，但卻沒有專家證人可以讓原告依靠，此時的原告到底該怎么辦？

需要說明的是，相比較聯(lián)邦法院對于Mracek案的態(tài)度，其他法院在針對機(jī)器人手術(shù)系統(tǒng)的訴訟中，對于專家證人的問題表現(xiàn)得越來越寬容。例如，在Gaglianov.Kaouk一案中，[注]See Gagliano v. Kaouk,2012-Ohio-1047.病人在接受“機(jī)器人切除”前列腺手術(shù)后遭受感染和其他損害。陪審團(tuán)裁定支持被告醫(yī)生的觀點(diǎn)，部分原因來自于各方提供的專家證人。在訴訟中，法院允許被告醫(yī)生提供的專家證人出庭，該專家證人被認(rèn)定為能夠完成機(jī)器人切除前列腺手術(shù)，法院對此沒有設(shè)置其他更高的標(biāo)準(zhǔn)。同時，法院也允許原告提供的專家證人出庭，盡管該專家證人承認(rèn)自己無法完成機(jī)器人切除前列腺手術(shù)，并且也不知道該手術(shù)何時變得標(biāo)準(zhǔn)化。[注]See Gagliano v.Kaouk,2012-Ohio-1047(Court of Appeals of Ohio,2012).基于此，本案中法官的仁慈態(tài)度可能并不會被其他法官作為一個范例來適用。

盡管如此，當(dāng)醫(yī)院開始使用人工智能外科醫(yī)生時，專家證人將會變得越來越重要，Mracek案所揭示的這個問題某種程度上將會繼續(xù)存在。盡管我們沒有理由認(rèn)為市場上只有一個生產(chǎn)人工智能外科醫(yī)生的制造商，但同樣也沒有理由認(rèn)為會有多個制造商存在。對此，我們無法知道。如果一家公司壟斷了這個市場，那么原告想要證明人工智能存在缺陷，將會遭遇像Mracek案中那樣缺乏專家證人的窘境。即使市場上不止一個制造商，但對于其他(other)公司的人工智能十分精通，進(jìn)而能夠有資格成為專家證人的工程師和醫(yī)生也不會很多。其中的理由很可能是，人類醫(yī)生將僅僅是去監(jiān)督人工智能外科醫(yī)生，而不是利用它們實施手術(shù)，而對人工智能有著豐富管理經(jīng)驗的醫(yī)生卻并沒有資格成為專家證人。此種情形下，如果人工智能在手術(shù)中實施某些不合理的行為或不作為(nothing)，從而引起了損害，那么原告想要成功對人工智能外科醫(yī)生的制造商提起損害賠償?shù)脑V訟幾乎是不太可能的。

在Williamsv.Desperito案中，[注]See Williams v. Desperito,C.A. N09C-10-164-CLS(superior court of Delaware,2011).專家證人的證詞也是一個關(guān)鍵問題。在該案中，托馬斯·德斯帕瑞托(Thomas J. Desperito)醫(yī)生使用Da Vinci機(jī)器人對原告羅伯特·威廉姆斯(Robert C.Williams)先生實施一臺內(nèi)腔鏡前列腺切除手術(shù)。手術(shù)后，威廉姆斯先生發(fā)現(xiàn)他的大腿骨以及/或者(and/or)閉孔神經(jīng)在手術(shù)中受到損害，導(dǎo)致腿部虛弱和其他相應(yīng)的損害?；谶@一結(jié)果，威廉姆斯先生以醫(yī)療過失侵權(quán)起訴德斯帕瑞托醫(yī)生。在證據(jù)方面，威廉姆斯先生希望能夠提交馬龍·默多克(Myron Murdock)醫(yī)生的證詞，以便解決圣舊金山醫(yī)院(手術(shù)所在醫(yī)院)在推銷Da Vinci機(jī)器人系統(tǒng)的廣告時所出現(xiàn)的道德性問題。然而，法院拒絕采納默多克醫(yī)生的證詞，認(rèn)為默多克醫(yī)生沒有資格對醫(yī)院有關(guān)機(jī)器人手術(shù)系統(tǒng)廣告的道德性問題提供專家證詞。此外，法院還認(rèn)為，默多克醫(yī)生的證詞甚至對陪審團(tuán)來說也是沒有幫助的，因為默多克醫(yī)生提供的證詞說德斯帕瑞托醫(yī)生在使用Da Vinci機(jī)器人方面經(jīng)驗不足，但同時(and)又認(rèn)為圣舊金山醫(yī)院有權(quán)推廣德斯帕瑞托醫(yī)生使用Da Vinci機(jī)器人提供的服務(wù)，盡管他經(jīng)驗不足。[注]See Williams v.Desperito,C.A.N09C-10-164-CLS(Superior Court of Delaware,2011).

總的來說，醫(yī)院從默多克醫(yī)生自相矛盾的證詞中獲益了。默多克醫(yī)生想說的是，“(德斯帕瑞托)醫(yī)生是毫無準(zhǔn)備的，但醫(yī)院也有權(quán)將沒有經(jīng)驗的醫(yī)生作為專家來推廣。”如果沒有后半句的話，法院原本是打算采納這個證詞的前半部分的。同樣，醫(yī)院未來在使用人工智能時勢必也會遭遇醫(yī)療過失侵權(quán)的訴訟，但不應(yīng)該抱有僥幸心理，期待所有的專家證詞都會因為發(fā)表這樣的怪語奇談而失效。

(三)有關(guān)人工智能外科醫(yī)生責(zé)任法律的修訂

此外，醫(yī)院和其他醫(yī)療保健機(jī)構(gòu)在規(guī)制人工智能的使用、醫(yī)生的要求以及病人對于人工智能的期待等方面應(yīng)該制定相關(guān)的政策。醫(yī)生以及他們的雇主機(jī)構(gòu)能夠用到這些政策，當(dāng)他們決定將人工智能運(yùn)用于手術(shù)和實踐中，以便讓人工智能補(bǔ)充和提升他們的醫(yī)療服務(wù)時。如果出現(xiàn)針對人工智能使用方面的醫(yī)療過失侵權(quán)的案件，那么法官和陪審團(tuán)將依據(jù)這些政策去判別是否真的存在醫(yī)療過失。

人工智能外科醫(yī)生本身也可能成為醫(yī)療過失侵權(quán)訴訟的對象?，F(xiàn)有醫(yī)療過失侵權(quán)的主張，需要依賴醫(yī)療專業(yè)領(lǐng)域內(nèi)醫(yī)生和其他工作人員的判斷和獨(dú)立分析，傳統(tǒng)過失標(biāo)準(zhǔn)并不足以應(yīng)對這些問題。[注]參見前引〔26〕，Cole文，第208頁。但是如果專業(yè)領(lǐng)域內(nèi)的人類開始依賴人工智能外科醫(yī)生的判斷和獨(dú)立分析的話，那么受到損害的原告和他的律師主張人工智能本應(yīng)該有更好的判斷和分析也僅僅只是時間問題。關(guān)于這些問題的結(jié)論——包括誰應(yīng)當(dāng)對人工智能的過失承擔(dān)責(zé)任，誰又應(yīng)當(dāng)去實際支付賠償費(fèi)用——前文已經(jīng)做了討論。有關(guān)過失侵權(quán)和醫(yī)療過失侵權(quán)方面的法律將需要進(jìn)行調(diào)整，以便去規(guī)制人工智能進(jìn)入醫(yī)療領(lǐng)域的問題。

六、修訂責(zé)任規(guī)則以便同時保護(hù)事故受害人和人工智能開發(fā)者

開發(fā)者和制造商為了妥當(dāng)解決風(fēng)險管理的問題，他們需要精準(zhǔn)地知道自己將會面臨哪些風(fēng)險。但對于人工智能的開發(fā)者和制造商來說，目前來說這是不可能的。原告可以適用的責(zé)任主張——最重要的包括過失侵權(quán)、違約責(zé)任以及產(chǎn)品缺陷責(zé)任——并沒有準(zhǔn)確地反映人工智能在沒有人類干預(yù)的情形下做出決定的能力。法官、陪審團(tuán)、律師以及保險公司也無法預(yù)測人工智能的創(chuàng)造者和制造商在何種情形下會承擔(dān)責(zé)任。

現(xiàn)有的責(zé)任模式可能并不太適合人工智能，因為人工智能在能夠做好每件事的同時，仍然會產(chǎn)生一些負(fù)面結(jié)果。這與人類做出決定本質(zhì)上是一樣的，同時這也是我們?yōu)槭裁匆獮樽鳛轳{駛者、律師、醫(yī)生等專業(yè)人士的自己購買保險的原因之一。人工智能將被作為人來對待，因而對其采取類似于人類投保的模式是非常有必要的，特別是當(dāng)產(chǎn)品做出人類決定而使得投保范圍異常復(fù)雜時,盡管保險公司可能不太愿意去承保一件存在潛在制造和設(shè)計缺陷的產(chǎn)品。

人工智能訴訟的復(fù)雜性也讓受到損害的原告十分畏懼。原告要想去證明究竟誰應(yīng)當(dāng)承擔(dān)責(zé)任，可能是一件極其耗時并且充滿技術(shù)難度的事情。損害是由于監(jiān)督人工智能的人類的行為造成的？是由于人工智能的設(shè)計缺陷造成的？是制造商的過失造成的？還是因為人工智能遭受毀損而造成的？抑或是由正常運(yùn)轉(zhuǎn)的人工智能所造成的？原告將需要專家證人的支持，但找到這些人十分困難。

我們?yōu)槭芎θ酸槍εc人工智能相關(guān)的損害尋求賠償提供了一條更為便利的路徑，同時也合理地界定和限制了開發(fā)者和生產(chǎn)者的責(zé)任，解決了上述提到的這些擔(dān)憂。鑒于具體的形式，這可能需要通過政府行動來實現(xiàn)。然而，針對自動駕駛汽車這一公認(rèn)為最先進(jìn)的即將進(jìn)入市場的技術(shù)，當(dāng)前正在形成中的相關(guān)法規(guī)卻并沒有很好地解決責(zé)任問題，而是簡單地將責(zé)任分配給自動駕駛汽車的“操作者”(operator)，對此我將另行撰文進(jìn)行詳細(xì)探討。