王玉薇，唐楚欣

(東北林業(yè)大學(xué) 文法學(xué)院，黑龍江 哈爾濱 150040)

人工智能的誕生為人類生活提供了諸多便利，極大提高了人們的工作效率。重慶市將人工智能應(yīng)用于法院，推出的“易訴”網(wǎng)上法院可以直接進(jìn)行證據(jù)交換，在正式庭審階段直接就雙方有異議的證據(jù)進(jìn)行質(zhì)證，大大簡化庭審過程。[1]然而，在人工智能飛速發(fā)展的同時，其有效法律規(guī)制則成為了理論和實(shí)務(wù)界所面臨的重大課題?，F(xiàn)階段人工智能的法律地位尚未明確，劉洪華教授認(rèn)為：“人工智能高度自主，似乎具有‘精神、意識’的人工智能應(yīng)當(dāng)被賦予法律主體地位。”[2]人工智能的出現(xiàn)顛覆了傳統(tǒng)法律責(zé)任體系的種種原則，人工智能的致害責(zé)任應(yīng)當(dāng)如何分配仍是亟待解決的問題，甚至有學(xué)者建議“為智能機(jī)器人創(chuàng)設(shè)特殊的責(zé)任承擔(dān)的機(jī)制，例如信托制度”[3]等。人工智能的運(yùn)作程序難以被人察覺，具有隱蔽性和不可解釋性，對此有學(xué)者提出對人工智能應(yīng)當(dāng)“采用嚴(yán)格慎重的原則，并且法律監(jiān)管措施應(yīng)貫穿全過程”[4]等。針對人工智能帶來的種種問題，若不以審慎的態(tài)度應(yīng)對人工智能帶來的挑戰(zhàn)，很容易一味追求科技進(jìn)步而忽視社會整體的和諧，從而對國家安全、社會秩序和公民利益造成威脅。有效破解人工智能法律規(guī)制面臨的難題，才能實(shí)現(xiàn)人與人工智能的和諧共處。

一、人工智能法律規(guī)制的難題

在大數(shù)據(jù)、區(qū)塊鏈、傳感網(wǎng)等新技術(shù)的驅(qū)動下，人工智能飛速演進(jìn)，呈現(xiàn)出深度學(xué)習(xí)、跨界融合、自主操控等特點(diǎn)。把握人工智能發(fā)展機(jī)遇的同時，我們還需要警惕這一技術(shù)給我們帶來的風(fēng)險(xiǎn)。具體而言，人工智能法律規(guī)制面臨的難題主要存在以下三方面。

(一)法律主體地位尚未明確

在我國傳統(tǒng)法律體系中，法律主體主要分為自然人、法人和國家三類，而法律客體主要包括物、人身、行為結(jié)果和精神四種類型。人工智能既不具備法律主體的全部屬性，例如弱人工智能并不具備獨(dú)立的行為能力，也不適合全然歸類于法律客體，原因在于強(qiáng)人工智能可以通過學(xué)習(xí)產(chǎn)生自己的意識，不同于“物”為人所用。因此現(xiàn)階段對于人工智能的法律地位，學(xué)術(shù)界眾說紛紜，觀點(diǎn)云集，主要存在客體說、完全主體說和有限主體說三類學(xué)說。

客體說從人工智能的工具屬性出發(fā)，認(rèn)為人工智能只能作為法律客體參與社會活動。歸根結(jié)底，人工智能只是服務(wù)于人類的工具，基于提高效率、輔助人類生活的目的而產(chǎn)生，缺乏自身的思考能力和道德能力。在這種觀點(diǎn)之下，人類是法律關(guān)系中的主體，而人工智能是作為客體對象的存在，有學(xué)者提出“人工智能的行為和意志都是人工賦予的，人工智能仍是物的屬性。”[5]一直以來，法律主體的特點(diǎn)就是具備獨(dú)立思維，自然人乃至法人在法律上都有獨(dú)立思考的能力，可以享有權(quán)利、負(fù)有義務(wù)和承擔(dān)責(zé)任，并通過實(shí)踐完善自己的能力，然而人工智能本身并不具備獨(dú)立思維，即便人類在開發(fā)和設(shè)計(jì)之初編寫了完備的算法和程序，足以支撐人工智能完成大量的工作和困難的任務(wù)，它仍然是人類本身實(shí)踐的產(chǎn)物?，F(xiàn)階段多數(shù)國家的現(xiàn)行法律法規(guī)和司法實(shí)踐活動中都堅(jiān)持人工智能客體說的觀點(diǎn)，但客體說主要針對弱人工智能，很難將強(qiáng)人工智能涵蓋其中。

完全主體說認(rèn)為人工智能有著人類的特征并在一定程度超越了人類的極限，如壽命、疾病等方面，極大地補(bǔ)充人類在生物特征上的缺陷。隨著科學(xué)技術(shù)的高速發(fā)展，人工智能逐漸不再僅僅是提供便利的工具，而是具備獨(dú)立思考能力的類。人工智能在機(jī)械化勞動和整合信息等多個方面逐漸顯露優(yōu)勢，可以與人類相媲美，甚至有超越人類的可能，在此基礎(chǔ)上，應(yīng)當(dāng)將人工智能視為完全法律主體。主體說以代理人說和電子人格說為代表，試圖賦予人工智能主體地位。代理人說意圖將人工智能作為其所有人的代理人，電子說則是將人工智能確立為“電子人”，為其申請電子人格成為法律主體。除以上兩種類型外，亦有學(xué)者建議“配置出一個既有別于自然人、又有別于動物和團(tuán)體法人的某種新的位格位階”。[6]

有限主體說則是采取更為緩和的手段，從實(shí)際情況出發(fā)，結(jié)合人工智能的自主程度和獨(dú)立意識進(jìn)行具體分析。正如孫占利教授所說，“對于智能機(jī)器人的法律人格問題，需要遵循最小化原則和程序化原則，盡量在最小程度上對人工智能制訂新的法律”，[7]因此在人工智能產(chǎn)生獨(dú)立意識之前，其本質(zhì)仍是為人所用的機(jī)器，其工具屬性不言而喻，此時的人工智能可歸為法律客體，適用于現(xiàn)有的法律體系。當(dāng)人工智能不再是完全被人類控制的工具時，可以考慮在著作權(quán)等權(quán)益部分將人工智能視為有限主體，以便于解決人工智能參與的相關(guān)問題。

學(xué)理上對于人工智能的法律主體地位尚未統(tǒng)一的認(rèn)知，盡管目前，人工智能的類型以弱人工智能居多，主要在于輔佐人類活動，也正因如此，許多學(xué)者對于人工智能持著客體說的觀點(diǎn)。但考慮到人工智能的發(fā)展速度，若不及時對人工智能的法律主體地位進(jìn)行限制和解釋，產(chǎn)生自我意識的人工智能很難繼續(xù)適用于傳統(tǒng)的法律體系，從而造成法律漏洞，致使人工智能的法律責(zé)任和法律義務(wù)難以實(shí)現(xiàn)。

(二)法律責(zé)任認(rèn)定困難

人工智能技術(shù)與傳統(tǒng)科技之間最大的差異在于能夠?qū)崿F(xiàn)對人的模擬。人工智能可以基于設(shè)定好的程序做出判斷，相應(yīng)的也會造成侵權(quán)行為。在實(shí)踐中，人工智能產(chǎn)品致人損害的事故屢見不鮮。2015年，德國大眾工廠的技術(shù)人員被機(jī)器人攻擊而不幸喪生。2016年深圳的高交會上，一臺機(jī)器人突然失控砸壞展臺，傷及路人。在傳統(tǒng)法律責(zé)任體系中，責(zé)任主體必然是人，機(jī)器終歸是人類完成工作的工具。一旦這類工具型機(jī)器造成損害，要么因產(chǎn)品自身缺陷認(rèn)定生產(chǎn)者的責(zé)任，要不以使用者未盡到合理注意義務(wù)追究使用者的過錯，及時彌補(bǔ)受害人的損失。因此，人工智能致害責(zé)任認(rèn)定疑難的原因主要在于致害責(zé)任主體不明確和因果關(guān)系難辯明。

其一，明確責(zé)任承擔(dān)的前提就是對于人工智能致害主體的認(rèn)定。人工智能產(chǎn)品的致害責(zé)任主體復(fù)雜多樣，包括了產(chǎn)品生產(chǎn)者、銷售者、所有者及使用者，甚至有時還存在身份重合的現(xiàn)象。盡管目前在多數(shù)學(xué)者看來，人工智能僅具備工具屬性，本質(zhì)還是物品。但不可忽視的是，人工智能具有高度智能性和復(fù)雜性，在其高速發(fā)展的過程中，很難保證其不產(chǎn)生自主意識，化“客”為“主”，因此人工智能本身也可能是責(zé)任主體。學(xué)界對于人工智能的責(zé)任分配問題也存有較大爭議，有學(xué)者認(rèn)為人工智能的致害責(zé)任應(yīng)當(dāng)由制造者和使用者承擔(dān)。[8]有的學(xué)者提出“賦予某些智能機(jī)器人電子人格，使其可以對其行為承擔(dān)法律責(zé)任。”[9]

其二，在認(rèn)定有無致害責(zé)任時，需要確認(rèn)的重要方面是因果關(guān)系。隨著人工智能的廣泛應(yīng)用，一件人工智能產(chǎn)品的出現(xiàn)，背后往往需要多方的操作配合。而且人工智能的程序設(shè)定遠(yuǎn)超普通人的理解范疇，其背后的因果關(guān)系認(rèn)定更為復(fù)雜。當(dāng)出現(xiàn)人工智能致害事故時，可能是因?yàn)橐环交蚨喾降脑?，比如產(chǎn)品系統(tǒng)自身出現(xiàn)故障、生產(chǎn)者未盡到安全義務(wù)亦或是使用者操作失誤等，很難第一時間辨明因果關(guān)系。在人工智能技術(shù)不斷進(jìn)步的今天，強(qiáng)人工智能的學(xué)習(xí)能力很有可能成為其他責(zé)任人逃避責(zé)任的“擋箭牌”，人們很難知曉致害行為是否是人工智能自主學(xué)習(xí)的產(chǎn)物。在事故發(fā)生時，一旦事故本身難以解釋或者不能明確認(rèn)定設(shè)計(jì)缺陷，就極易造成不正義的現(xiàn)象出現(xiàn)，最終致使被侵權(quán)人難以追償。

(三)法律監(jiān)督難以奏效

人工智能產(chǎn)品的普及必然帶來人與智能產(chǎn)品同在共存的生活常態(tài)，而技術(shù)自身的隱患會危及人類的安全，同時亦會產(chǎn)生一系列伴生問題。由于缺乏對人工智能潛在風(fēng)險(xiǎn)的明確認(rèn)識，國際上鮮有針對人工智能的專門的監(jiān)管法律與機(jī)構(gòu)，大多仍處于空白狀態(tài)。同樣，對于人工智能監(jiān)督途徑的法律研究也是匱乏的。[10]盡管近年來我國愈發(fā)重視人工智能領(lǐng)域的發(fā)展，相繼出臺并修訂《中華人民共和國科學(xué)技術(shù)進(jìn)步法》、《中華人民共和國數(shù)據(jù)安全法》等法律法規(guī)，但在實(shí)踐中并未得到有效落實(shí)。

其一，國家監(jiān)督管轄范圍有限，而社會監(jiān)督又很難對人工智能進(jìn)行有效監(jiān)督。人工智能內(nèi)部結(jié)構(gòu)的復(fù)雜性使得監(jiān)管者和普通民眾難以理解其背后的運(yùn)作機(jī)制和原理，無法預(yù)測其潛在的風(fēng)險(xiǎn)之處，因此社會監(jiān)督很難發(fā)揮效果。鑒于人工智能的特殊性，如缺乏具備專業(yè)知識的監(jiān)督機(jī)構(gòu)和人員，很難全面地對人工智能進(jìn)行管理，從而容易導(dǎo)致人工智能技術(shù)濫用，后患無窮。

其二，監(jiān)督體系不夠完善。目前我國對于人工智能的監(jiān)督主要集中于生產(chǎn)和流通階段，然而人工智能的特殊屬性決定了其精準(zhǔn)度不容有失，任一環(huán)節(jié)的紕漏都可能成為人工智能產(chǎn)品的“定時炸彈”，因此人工智能的研發(fā)階段同樣離不開法律的監(jiān)督。如果人工智能技術(shù)在研發(fā)之初缺乏有效的監(jiān)督，有漏洞的人工智能產(chǎn)品流入市場，從一開始就埋下隱患，尤其是像自動駕駛汽車等直接影響社會安全的人工智能產(chǎn)品，一旦存在安全性能方面的問題，后果將不堪設(shè)想。

二、破解人工智能法律規(guī)制難題的路徑

為適應(yīng)時代發(fā)展的需要，國際社會對人工智能提出了一系列的應(yīng)對措施。我國是人工智能研發(fā)與應(yīng)用的大國，并且已經(jīng)將人工智能納入國家戰(zhàn)略規(guī)劃，因此，我們對于人工智能時代面臨的問題更應(yīng)當(dāng)加強(qiáng)防范，積極面對，以有效的措施推動人工智能的發(fā)展。

(一)明確人工智能有限法律主體地位

誠然，對于人工智能的法律地位，大多數(shù)學(xué)者持客體說的觀點(diǎn)，認(rèn)為傳統(tǒng)法律體系尚可以適用于現(xiàn)階段的人工智能，試圖維持法律體系的穩(wěn)定性；少部分學(xué)者主張盡早確認(rèn)人工智能的主體地位，以免出現(xiàn)法律空白；支持有限主體說的學(xué)者則是寥寥無幾。筆者認(rèn)為，客體說與完全主體說的觀點(diǎn)都具有一定的合理性，但又難以覆蓋人工智能的全部法律活動。因此，人工智能法律地位的確立要著眼于現(xiàn)實(shí)發(fā)展的需要，兼顧未來發(fā)展的趨勢和動向進(jìn)行定位。

其一，確立強(qiáng)人工智能的有限法律主體地位。目前學(xué)理上對于強(qiáng)弱人工智能已經(jīng)有較為詳細(xì)的討論，以此為標(biāo)準(zhǔn)對人工智能賦予法律地位也較為明晰。正如前文所述，為了保持法律的穩(wěn)定性，對于人工智能的法律主體地位應(yīng)當(dāng)堅(jiān)持最小化原則。一方面，弱人工智能作為工具輔助人類活動，其法律權(quán)利、義務(wù)以及法律責(zé)任等諸多方面均可由生產(chǎn)者或使用者承擔(dān)，此時人工智能作為法律客體參與法律活動。另一方面，強(qiáng)人工智能在運(yùn)行過程中可能產(chǎn)生自我意識，從而支配自己的活動。在這種情況下，將人工智能基于自主意識而產(chǎn)生的法律責(zé)任歸于生產(chǎn)者或使用者顯然不合常理，因此賦予強(qiáng)人工智能以主體地位是必要的，旨在對其自主意識支配下的活動承擔(dān)責(zé)任。

其二，對人工智能法律地位的研究更應(yīng)側(cè)重于強(qiáng)人工智能階段。對于弱人工智能階段，機(jī)器和系統(tǒng)所做的決策被認(rèn)為是由預(yù)先設(shè)計(jì)好的算法所決定，[11]在這種情況下，人工智能作為客體參與法律活動，尚且能適應(yīng)我國現(xiàn)有的法律主體體系，并不能對其產(chǎn)生沖擊。然而，強(qiáng)人工智能擁有有限的法律主體地位，不可避免地會對現(xiàn)有法律體系造成影響。因此，在未來的研究過程中，既要規(guī)范強(qiáng)人工智能有限法律主體地位認(rèn)定的標(biāo)準(zhǔn)，明確其需要承擔(dān)的責(zé)任義務(wù)，又要盡量保持法律體系的相對穩(wěn)定，維護(hù)法律的權(quán)威性，從而在學(xué)理上為人工智能的有限法律主體地位提供理論保障。

(二)完善人工智能致害責(zé)任認(rèn)定標(biāo)準(zhǔn)

人工智能的復(fù)雜性對人工智能致害責(zé)任認(rèn)定提出的難題，既直接導(dǎo)致產(chǎn)生人工智能致害事故難以追責(zé)、無法合理保護(hù)受害人的權(quán)益，也暴露出現(xiàn)行法律法規(guī)的局限性。就人工智能本身的獨(dú)特程度而言，人工智能的致害責(zé)任認(rèn)定標(biāo)準(zhǔn)需要從兩方面進(jìn)行規(guī)定，即明確法律致害責(zé)任主體和厘清因果關(guān)系。

其一，責(zé)任主體的劃分主要在于如何定義產(chǎn)品缺陷與人為要素兩部分。一方面，是否存在產(chǎn)品缺陷，是認(rèn)定生產(chǎn)者有無必要承擔(dān)致害責(zé)任的前提。對生產(chǎn)者是否應(yīng)追究責(zé)任，就需要判斷其是否在產(chǎn)品生產(chǎn)制造的過程中盡到了安全保障的注意義務(wù)。因而，我們應(yīng)該將生產(chǎn)者的注意義務(wù)內(nèi)容進(jìn)一步具體化、定型化，才能明確生產(chǎn)者的責(zé)任范圍，并確保對生產(chǎn)者過失的譴責(zé)合理性。另一方面，對于使用者來說，人與人工智能同時參與的法律活動，應(yīng)將“人為因素參與”與否作為責(zé)任主體認(rèn)定依據(jù)之一。具體來說，當(dāng)發(fā)生事故時，人工智能處于或應(yīng)處于人為支配狀態(tài)時，應(yīng)依據(jù)過錯責(zé)任認(rèn)定責(zé)任主體。當(dāng)確定無人為因素參與而導(dǎo)致事故時，則應(yīng)通過人工智能的智能化程度認(rèn)定責(zé)任主體。在弱人工智能環(huán)境下，人工智能仍作為客體參與法律活動，這種情況下責(zé)任主體基本認(rèn)定為生產(chǎn)者。反觀強(qiáng)人工智能背景下，人工智能可作為主體承擔(dān)責(zé)任，此時責(zé)任主體可認(rèn)定為人工智能系統(tǒng)本身。

其二，厘清因果關(guān)系需要建立統(tǒng)一的安全生產(chǎn)行業(yè)標(biāo)準(zhǔn)。在我國，安全生產(chǎn)行業(yè)標(biāo)準(zhǔn)是衡量產(chǎn)品達(dá)標(biāo)的前提。人工智能產(chǎn)品具有不透明性和不可解釋性，追溯法律責(zé)任時往往難以查清因果關(guān)系，因此，建立統(tǒng)一的安全生產(chǎn)標(biāo)準(zhǔn)更為必要。在實(shí)踐中，統(tǒng)一的安全生產(chǎn)行業(yè)標(biāo)準(zhǔn)可以作為人工智能產(chǎn)品問題的有力導(dǎo)航，以甄別生產(chǎn)者的責(zé)任。此外，人工智能具有不可預(yù)測性和不可回溯性，損害結(jié)果的出現(xiàn)往往是一瞬間的，在人工智能產(chǎn)品上裝入“黑匣子”便于事故發(fā)生后追溯原因。

(三)健全人工智能法律監(jiān)督制度

在支持人工智能發(fā)展的同時，法律監(jiān)督亦不可缺。2017年我國出臺的《新一代人工智能發(fā)展規(guī)劃》在提出要求和布置任務(wù)的同時，也揭露了潛在的風(fēng)險(xiǎn)。規(guī)劃提出建立健全公開透明的人工智能監(jiān)管體系，[12]由此可見，建立公開透明的人工智能法律監(jiān)督制度是國家的大勢所趨。在這種情況下，不僅要設(shè)立針對人工智能的專門法律監(jiān)督機(jī)構(gòu)，還要完善事前、事中、事后三階段的動態(tài)監(jiān)督體系。

其一，設(shè)立專門的人工智能法律監(jiān)督機(jī)構(gòu)。國家對于人工智能領(lǐng)域越來越重視，2020年7月國家標(biāo)準(zhǔn)化管理委員會等五部門聯(lián)合印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》。該指南為人工智能行業(yè)發(fā)展提供了框架設(shè)計(jì)，以實(shí)現(xiàn)人工智能領(lǐng)域的標(biāo)準(zhǔn)化建設(shè)，推動人工智能的技術(shù)研發(fā)，促進(jìn)人工智能行業(yè)的整體發(fā)展。從人工智能的專業(yè)性水平考量，有學(xué)者認(rèn)為應(yīng)當(dāng)建立專門機(jī)構(gòu)，建議在網(wǎng)信辦中設(shè)置算法審查委員會。還有學(xué)者建議通過專業(yè)審計(jì)人員的協(xié)助，“聘請獨(dú)立的第三方算法審計(jì)機(jī)構(gòu)對算法進(jìn)行定期檢測。[13]”新興技術(shù)的發(fā)展具有靈活性，鑒于人工智能算法的特殊性和隱蔽性，僅僅依靠國家力量進(jìn)行監(jiān)督已經(jīng)力不從心，在實(shí)踐中遇到的許多問題依靠統(tǒng)一標(biāo)準(zhǔn)是很難解決的，專業(yè)人士的保障更有利于及時發(fā)現(xiàn)人工智能的問題，因此專門針對人工智能的法律監(jiān)督機(jī)構(gòu)既是國家政策落實(shí)的根本，也是指導(dǎo)實(shí)踐的風(fēng)向標(biāo)。

其二，建立動態(tài)的全過程監(jiān)督體系。在事前預(yù)防方面，需要加強(qiáng)對人工智能的形勢預(yù)測、重視人工智能的跟蹤分析，方能更加準(zhǔn)確地掌控人工智能的發(fā)展。與此同時，應(yīng)當(dāng)將人工智能與風(fēng)險(xiǎn)意識緊密聯(lián)系起來，重視人工智能可能對其他行業(yè)帶來的沖擊，關(guān)注輿論的走向，將人工智能的發(fā)展牢牢地限制在安全范圍中。在事中管理方面，投入市場的人工智能產(chǎn)品需要聯(lián)網(wǎng)，在保護(hù)用戶數(shù)據(jù)的前提下盡可能掌握人工智能的一舉一動，防止其造成不利后果，并定期回訪人工智能的使用者以便了解近況。為更好地管理人工智能，首要任務(wù)是對人工智能進(jìn)行等級分類，以安全程度和使用難度為標(biāo)準(zhǔn)，限制有危險(xiǎn)性的人工智能產(chǎn)品的銷售范圍，進(jìn)行實(shí)時監(jiān)管。在事后監(jiān)督方面，選拔專業(yè)水平優(yōu)越的法律人員組成專門法庭處理人工智能相關(guān)案件，在適用法律的同時審查條款的合理性和合法性。針對人工智能網(wǎng)絡(luò)犯罪的情況，有學(xué)者提出法院應(yīng)當(dāng)積極發(fā)揮個案規(guī)則的形成功能，建立案例指導(dǎo)制度。[14]

綜上所述，人工智能給人類生活帶來美好的同時，也帶來了挑戰(zhàn)，因此，需要保持清醒的頭腦，時刻樹立風(fēng)險(xiǎn)意識。盡早確立人工智能的有限主體地位是出于實(shí)踐的需要，以便人工智能更好地融入法律體系之中。理清人工智能法律責(zé)任的根本是明確責(zé)任主體和因果關(guān)系，產(chǎn)品缺陷和人為因素是判定責(zé)任的重要因素。作為保障實(shí)踐效果的法律監(jiān)督層面，建立人工智能監(jiān)督機(jī)構(gòu)和全面動態(tài)的法律監(jiān)督體系是人工智能法律監(jiān)督的關(guān)鍵。盡管目前人工智能不足以威脅到我們的實(shí)際生活，但我們需要警惕人工智能可能給人類生活帶來的種種難題，并及時加以規(guī)制，方能維護(hù)社會的安寧穩(wěn)定。