金 夢(mèng)

（華東政法大學(xué) 法律方法研究院 ，上海 201620）

一、問(wèn)題的提出

奇點(diǎn)臨近，未來(lái)已來(lái)，我們正在全面進(jìn)入“云大物移智”的時(shí)代。打造AlphaGo的DeepMind團(tuán)隊(duì)研究深層神經(jīng)網(wǎng)絡(luò)領(lǐng)域的最新成果發(fā)現(xiàn)，人工神經(jīng)網(wǎng)絡(luò)即一種利用多層處理模擬大腦神經(jīng)網(wǎng)絡(luò)的運(yùn)算結(jié)構(gòu)，具有和哺乳動(dòng)物一樣的尋路能力，和人類大腦中網(wǎng)格細(xì)胞的工作原理極其相似[1]。我們研究人工智能的實(shí)質(zhì)是要重建一個(gè)簡(jiǎn)化的神經(jīng)元網(wǎng)絡(luò)，實(shí)現(xiàn)智能體在行為層面能與人類行為相似，提升智能體在紛繁復(fù)雜的環(huán)境中實(shí)現(xiàn)目標(biāo)的能力[2]。在人工智能時(shí)代，智能技術(shù)在提高工作效率和提升生活體驗(yàn)的同時(shí)，也逐漸引發(fā)一系列法律問(wèn)題。2017年7月8日，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》（以下簡(jiǎn)稱《規(guī)劃》），將新一代人工智能發(fā)展提高到國(guó)家戰(zhàn)略層面；黨的十九大報(bào)告指出，“推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合”，使人工智能的發(fā)展服務(wù)于現(xiàn)代經(jīng)濟(jì)體系的建設(shè)。2018年1月24日，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院聯(lián)合有關(guān)單位發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》，專章述及人工智能的安全、倫理和隱私問(wèn)題。人工智能技術(shù)發(fā)展過(guò)程中觸及的法律和倫理問(wèn)題卻不容回避且須盡快規(guī)制。

規(guī)制人工智能首先要從法律運(yùn)行的首要環(huán)節(jié)即立法活動(dòng)入手。如何使對(duì)人工智能的規(guī)制全面進(jìn)入法治化的軌道同時(shí)尊重人工智能的發(fā)展現(xiàn)實(shí)和規(guī)律？這與立法的科學(xué)性密不可分。面對(duì)人工智能技術(shù)的發(fā)展，立法行為和立法活動(dòng)如何更好地體現(xiàn)科學(xué)的屬性？立法主體如何在智能時(shí)代進(jìn)行立法選擇才能最大限度符合科學(xué)性的要求？對(duì)于機(jī)器人的崛起立法如何科學(xué)合理地規(guī)制？作為機(jī)器智能運(yùn)作關(guān)鍵的算法是否需要科學(xué)的立法？這是本文的思維進(jìn)路和要集中討論的問(wèn)題。

二、人工智能立法需要遵循科學(xué)立法原則

科學(xué)技術(shù)正以史無(wú)前例的速度迅猛發(fā)展，人工智能技術(shù)尤為明顯。人工智能技術(shù)分為機(jī)器智能（弱人工智能）、通用人工智能和超智能（強(qiáng)人工智能）。機(jī)器智能目前尚且在人類可控的范圍內(nèi)，而通用人工智能和超智能，如能夠進(jìn)行自我復(fù)制的納米機(jī)器人，如果它失控那么它將具有摧毀地球上生物質(zhì)的能力?？梢哉f(shuō)，技術(shù)既賦予我們創(chuàng)造性，又賦予我們毀滅性[3]。只有尊重人工技術(shù)的發(fā)展規(guī)律，才能真正駕馭人工智能。

（一）重思人工智能時(shí)代的科學(xué)立法問(wèn)題

科學(xué)求真，科學(xué)立法指向的是法律調(diào)整社會(huì)關(guān)系的方式、內(nèi)容和目標(biāo)等最大限度地符合社會(huì)發(fā)展的客觀規(guī)律，回應(yīng)時(shí)代需求并解決客觀存在的問(wèn)題。“科學(xué)之法乃是從擺脫任何道德或政治意識(shí)形態(tài)因素之羈絆的科學(xué)角度所界定的法?！盵4]自然科學(xué)借助于精確的概念獲得成功并揭示普遍有效的自然法則，人們期待借助純粹的概念邏輯排除立法的恣意和錯(cuò)誤，可以說(shuō)科學(xué)的概念體系沉醉于脫離真實(shí)的純粹智慧的法存在方式[5]。但是立法不可能完全囿于規(guī)范的范圍和視角之內(nèi)而做到完全的價(jià)值無(wú)涉，尤其是人工智能的立法，要順應(yīng)時(shí)代潮流、遵循客觀發(fā)展規(guī)律并堅(jiān)持正確的價(jià)值導(dǎo)向，及時(shí)回應(yīng)在前沿技術(shù)領(lǐng)域出現(xiàn)的新問(wèn)題，以期以最專業(yè)化的立法技術(shù)規(guī)制科技問(wèn)題。

科學(xué)的立法需要科學(xué)概念的支撐。對(duì)于人工智能，自然科學(xué)領(lǐng)域也沒(méi)有給出明確一致的科學(xué)定義，其最好理解為旨在利用機(jī)器的載體在某些方面接近人類或者動(dòng)物的認(rèn)知[6]。人工智能的立法重點(diǎn)關(guān)注技術(shù)的法律規(guī)制問(wèn)題。人工智能的智能體能夠像人一樣思考和行動(dòng)，其能夠進(jìn)行駕駛汽車、語(yǔ)音識(shí)別、自主規(guī)劃和調(diào)度、博弈分析、垃圾信息過(guò)濾和文字語(yǔ)音翻譯等活動(dòng)[7]。如何及時(shí)、準(zhǔn)確并具有預(yù)見(jiàn)性地對(duì)人工智能體的上述行為進(jìn)行法律規(guī)制是科學(xué)立法要解決的關(guān)鍵問(wèn)題。人工智能技術(shù)的發(fā)展是當(dāng)今時(shí)代技術(shù)進(jìn)步最明顯的標(biāo)簽，是指向未來(lái)的技術(shù)標(biāo)尺，其不僅具有現(xiàn)實(shí)的影響力，更具有未來(lái)的發(fā)展力。立法的科學(xué)性問(wèn)題關(guān)注的是立法活動(dòng)對(duì)于客觀規(guī)律的遵循和對(duì)主觀恣意的擯棄。尊重技術(shù)發(fā)展自身的規(guī)律是對(duì)人工智能進(jìn)行科學(xué)立法最為本質(zhì)的要求。

科學(xué)的立法活動(dòng)需要遵循的客觀規(guī)律，包括人類作為自然部分的自然規(guī)律、社會(huì)發(fā)展的基本規(guī)律、特殊社會(huì)的具體規(guī)律、社會(huì)事件的因果規(guī)律和法律體系構(gòu)成的規(guī)律[8]。人工智能的立法需要立法主體在進(jìn)行立法活動(dòng)時(shí)具備更專業(yè)化的智能技術(shù)知識(shí)，最終將其轉(zhuǎn)化成法律規(guī)范的形式予以遵守。人工智能技術(shù)的發(fā)展具有階段性和跨越性。在弱人工智能發(fā)展階段，立法者憑借以往的經(jīng)驗(yàn)、現(xiàn)有的知識(shí)儲(chǔ)備和預(yù)測(cè)能力能夠在立法體制內(nèi)把握立法的內(nèi)容，掌控立法的方向。當(dāng)進(jìn)入強(qiáng)人工智能的發(fā)展階段，雖然目前對(duì)于強(qiáng)人工智能階段何時(shí)到來(lái)并沒(méi)有明確的時(shí)間表，但是科技的研發(fā)和應(yīng)用具有偶然性和超越性。強(qiáng)人工智能具有自我意識(shí)，能夠進(jìn)行深度學(xué)習(xí)并進(jìn)行自我判斷，其進(jìn)行的行為是指數(shù)級(jí)的，這是作為主體的人類不可控制的。面對(duì)技術(shù)革命的到來(lái)，人工智能體如果介入法律關(guān)系，立法主體需要統(tǒng)籌考慮現(xiàn)有的法律體系，科學(xué)合理地規(guī)范相關(guān)的權(quán)利和義務(wù)，規(guī)制相應(yīng)的法律行為，重新界定法律關(guān)系的主體和客體范圍，明示法律責(zé)任的歸結(jié)與承擔(dān)問(wèn)題。只有這樣，才能“增強(qiáng)立法的及時(shí)性、系統(tǒng)性、針對(duì)性、有效性”[9]，真正體現(xiàn)立法的科學(xué)屬性。

（二）科學(xué)立法回應(yīng)人工智能立法的遲滯

人工智能技術(shù)的發(fā)展正在深刻影響著社會(huì)。對(duì)于人工智能領(lǐng)域內(nèi)自動(dòng)駕駛汽車、無(wú)人飛行器、用于醫(yī)療用途的機(jī)器人在對(duì)自然人的生命財(cái)產(chǎn)造成損害時(shí)，法律責(zé)任由誰(shuí)承擔(dān)等問(wèn)題我國(guó)法律尚屬空白?？梢哉f(shuō)，法律責(zé)任的認(rèn)定和歸結(jié)是人工智能發(fā)展面臨的首要和關(guān)鍵問(wèn)題。從域外視角看，聯(lián)合國(guó)《維也納道路交通公約》修正案中明確規(guī)定簽約國(guó)可允許在特定時(shí)間自動(dòng)駕駛；歐盟發(fā)布《歐盟機(jī)器人民事法律規(guī)則》要求歐盟委員會(huì)提出人工智能立法案并成立專門的人工智能管理機(jī)構(gòu)；美國(guó)《自動(dòng)駕駛汽車的基本政策》中提到9個(gè)州通過(guò)自動(dòng)駕駛汽車立法，并對(duì)事故責(zé)任進(jìn)行規(guī)定；德國(guó)通過(guò)專門的《自動(dòng)駕駛汽車法案》，明確了責(zé)任主體和歸責(zé)原則。英國(guó)議會(huì)人工智能特別委員會(huì)發(fā)布《英國(guó)人工智能：準(zhǔn)備、意愿與能力》報(bào)告，涉及人工智能的概念、研發(fā)、領(lǐng)域、威脅及其規(guī)制等。從域外人工智能的立法規(guī)制可以看出，對(duì)人工智能的立法處于探索和逐步修正的階段，伴隨著未來(lái)技術(shù)的發(fā)展和新情況的出現(xiàn)，依然要秉持科學(xué)理念進(jìn)行科學(xué)立法。

法律本身具有滯后性特點(diǎn)，當(dāng)科技與法律相遇，立法領(lǐng)域相關(guān)最新科技內(nèi)容的缺失便會(huì)凸顯。在我國(guó)，一方面，人工智能對(duì)于我國(guó)加快構(gòu)建創(chuàng)新型國(guó)家和科技強(qiáng)國(guó)意義深遠(yuǎn)，從技術(shù)研發(fā)到推廣應(yīng)用的各個(gè)環(huán)節(jié)都需要法律的正向引導(dǎo)和規(guī)制，并將倫理規(guī)則嵌入其中；另一方面，從整個(gè)法律體系看，人工智能立法處在空白地帶，與其相關(guān)度最高的是《科技進(jìn)步法》。該法專章設(shè)置“法律責(zé)任”條款，規(guī)制科技進(jìn)步領(lǐng)域出現(xiàn)的違法犯罪問(wèn)題。但這部法律于1993年制定2007年修改，顯然無(wú)法應(yīng)對(duì)人工智能時(shí)代出現(xiàn)的各種問(wèn)題。在國(guó)務(wù)院發(fā)布的《規(guī)劃》中，明確人工智能的戰(zhàn)略目標(biāo)并提出相應(yīng)的立法計(jì)劃和立法要求。第一步，到2020年初步建立部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)；第二步，到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系；第三步，到2030年建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。從立法規(guī)劃不難看出國(guó)家對(duì)于人工智能領(lǐng)域的立法需要的迫切性和緊迫性。

解決人工智能領(lǐng)域立法的遲滯問(wèn)題，要堅(jiān)持立法先行，最大限度保證立法質(zhì)量，切實(shí)貫徹落實(shí)立法的科學(xué)原則。新技術(shù)的產(chǎn)生制造律傳統(tǒng)法律無(wú)法解決的問(wèn)題，也有了區(qū)別于傳統(tǒng)法律的新需求，新的訴求影響并塑造著法律的新面貌，決定法律的發(fā)展趨勢(shì)和未來(lái)走向[10]。人工智能領(lǐng)域的立法對(duì)立法科學(xué)性的新要求包括：從人工智能的實(shí)際出發(fā)，尤其是從我國(guó)社會(huì)經(jīng)濟(jì)發(fā)展的實(shí)情出發(fā)，尊重人工智能在我國(guó)發(fā)展的階段和技術(shù)發(fā)展的規(guī)律；加強(qiáng)對(duì)人工智能法律的法理本質(zhì)、倫理規(guī)則和哲學(xué)基礎(chǔ)問(wèn)題的研究，通過(guò)制度設(shè)計(jì)科學(xué)合理地規(guī)制作為主體的人工智能的權(quán)利和義務(wù)；把握人工智能立法的前沿問(wèn)題，逐步構(gòu)建起適應(yīng)時(shí)代要求、具有中國(guó)特色的人工智能法律體系。

三、人工智能與科學(xué)立法的共變關(guān)系

針對(duì)人工智能發(fā)展對(duì)立法提出的新要求，我們需要對(duì)人工智能最重要的載體和最具表現(xiàn)力的智能機(jī)器人進(jìn)一步展開研究。如何為機(jī)器人立法?法律如何從底線意義上防御機(jī)器人的威脅？需要我們結(jié)合機(jī)器人科學(xué)的發(fā)展軌跡和機(jī)器崛起的未來(lái)動(dòng)向，探究機(jī)器與法律的相互影響和交互關(guān)系。

（一）人工智能載體智能機(jī)器人的主體性迷思

確認(rèn)智能機(jī)器人的法律主體性地位是對(duì)機(jī)器人立法要解決的首要和關(guān)鍵問(wèn)題。傳統(tǒng)法學(xué)理論認(rèn)為，法律關(guān)系的主體包括自然人、組織和國(guó)家，有些國(guó)家也承認(rèn)動(dòng)物為法律關(guān)系的主體。智能機(jī)器人能否成為法律關(guān)系的主體關(guān)鍵在于，其擁有的思維活動(dòng)和自主意識(shí)是否被認(rèn)為是獨(dú)立存在的。機(jī)器人經(jīng)歷了初級(jí)、高級(jí)、智能階段。機(jī)器人最初只是進(jìn)行簡(jiǎn)單的物理動(dòng)作模仿，現(xiàn)在的機(jī)器人可以深度計(jì)算并學(xué)習(xí)，未來(lái)的機(jī)器人期待擁有類人思維。智能機(jī)器人和初級(jí)、高級(jí)階段的機(jī)器人最大的區(qū)別在于具有對(duì)外界進(jìn)行認(rèn)知后的推理和決策能力，這一能力就是其作為法律關(guān)系主體的資格，即權(quán)利能力和行為能力。例如，在刑事法律關(guān)系中，如果智能機(jī)器人在設(shè)計(jì)和編程范圍內(nèi)實(shí)施行為，不承擔(dān)刑事責(zé)任；如果在上述范圍外實(shí)施行為，則需要承擔(dān)刑事責(zé)任[11]。智能機(jī)器人如果承擔(dān)法律責(zé)任，那么對(duì)其責(zé)罰的方式也是需要探究的重要問(wèn)題。

上述我們討論智能機(jī)器人的法律主體地位是通過(guò)法律擬制的方式進(jìn)行的，即通過(guò)前置賦權(quán)和模型假定的邏輯進(jìn)路，確認(rèn)具有自我意志進(jìn)行自主行為的智能機(jī)器人從被人類制造出來(lái)的那一刻起便擁有法律資格，具有實(shí)際行使權(quán)利和履行義務(wù)的能力。智能機(jī)器人法律主體資格的確認(rèn)，關(guān)系到整個(gè)法學(xué)理論和法律體系地重塑。智能機(jī)器人具有自我學(xué)習(xí)、自我決策和自我繁衍的能力。作為法律主體能夠自主進(jìn)行行為選擇并且能夠自律。自主意味著主體具有理性與目的性，在法律上必須假定主體能夠?yàn)樽约喊才藕侠淼纳钣?jì)劃，理性地進(jìn)行法律上的行為，這重假設(shè)是自由、權(quán)利等范疇的基本主體依托。自律則意味著主體是能夠自我負(fù)責(zé)，有權(quán)利做出選擇并為此承擔(dān)責(zé)任[12]。

類人機(jī)器人具有和人類同樣的意志活動(dòng)、情感思維，這也就意味著未來(lái)機(jī)器人家庭的出現(xiàn)不再是科幻電影中的虛構(gòu)。人正在選擇使自己成為機(jī)器人的方向，但這并不足以摧毀我們對(duì)人的理性、善意與健全心智所抱的信心[13]。人類創(chuàng)造智能機(jī)器人的初衷是為了更便捷更高效地生活和工作，類人機(jī)器人超出這一初衷的行為是人類無(wú)法掌控的，規(guī)制智能機(jī)器人最有效的方式就是立法。通過(guò)法律規(guī)范中行為模式的設(shè)定，法律責(zé)任的歸責(zé)從源頭研發(fā)開始，限定智能機(jī)器人的行為，利用法律的預(yù)測(cè)功能預(yù)知智能機(jī)器人的行為和危害。

（二）人工智能與科學(xué)立法的交互作用

機(jī)器人時(shí)代呼喚科學(xué)立法。當(dāng)人工智能技術(shù)的發(fā)展使得機(jī)器人具有獨(dú)立意識(shí)和自主活動(dòng)能力時(shí)，智能機(jī)器人可以在諸多領(lǐng)域取代人的工作和勞動(dòng)。例如，深圳交警通過(guò)利用“智能行人闖紅燈取證系統(tǒng)”，通過(guò)非現(xiàn)場(chǎng)執(zhí)法的形式和樣態(tài)提高了交通管理的效率和準(zhǔn)確度。這只是人工智能技術(shù)應(yīng)用的一個(gè)簡(jiǎn)單領(lǐng)域，其背后支撐的科技是機(jī)器所擁有的算法和算力，是對(duì)數(shù)據(jù)的梳理和匹配能力。但電子警察所擁有的信息和數(shù)據(jù)庫(kù)如果被用來(lái)從事違法犯罪活動(dòng)，侵犯當(dāng)事人的隱私權(quán)，或電子警察利用自身發(fā)展能力自行進(jìn)行違法犯罪活動(dòng)，法律如何進(jìn)行規(guī)制和監(jiān)管，這需要給出及時(shí)明確的答案。

智能機(jī)器人取代人類行動(dòng)和工作引發(fā)人類的憂思。在未來(lái)的幾十年，機(jī)器人尤其是用于工業(yè)用途的機(jī)器人將會(huì)迅速傳播并且完成之前人類承擔(dān)的任務(wù)。這些重大變化伴隨著人們對(duì)于未來(lái)工作和薪資的深層憂慮。然而，關(guān)于新技術(shù)，特別是機(jī)器人對(duì)勞動(dòng)力市場(chǎng)結(jié)果的平衡效應(yīng)的研究相對(duì)較少[14]。當(dāng)有朝一日機(jī)器人成為勞動(dòng)和工作的主力軍時(shí)，失業(yè)潮便可能隨之而來(lái)，人的勞動(dòng)權(quán)益如何保護(hù)、勞動(dòng)薪資如何兌現(xiàn)的問(wèn)題關(guān)系到整個(gè)人類共同體的工作發(fā)展、生活質(zhì)量和未來(lái)命運(yùn)。

機(jī)器人技術(shù)的革新促進(jìn)科學(xué)立法地開展。機(jī)器人技術(shù)的革新是科技進(jìn)步的重要體現(xiàn)，科學(xué)是思維認(rèn)知部分的勝利，思維的認(rèn)知部分進(jìn)入人的大腦，這種共變關(guān)系存在于環(huán)境、人與環(huán)境的交互中，科學(xué)就是這樣一種專門捕捉和解釋這種共變關(guān)系的人類活動(dòng)[15]。機(jī)器人技術(shù)不只是自然科學(xué)的領(lǐng)域，更關(guān)涉道德、倫理、哲學(xué)和法律等社會(huì)科學(xué)領(lǐng)域。在此意義上，機(jī)器人技術(shù)的發(fā)展和革新對(duì)社會(huì)科學(xué)提出了新的技術(shù)要求，具體到法律領(lǐng)域集中體現(xiàn)在，人工智能領(lǐng)域的科學(xué)立法要面臨的是法律的零供給和法律的高需求之間的突出矛盾。制度風(fēng)險(xiǎn)可能來(lái)自我們的工業(yè)制度、科技政策乃至法律規(guī)則，表現(xiàn)為對(duì)新技術(shù)無(wú)措的制度缺失和對(duì)新技術(shù)錯(cuò)判的制度失敗[16]。正如超級(jí)人類主義所主張的，只有認(rèn)真對(duì)待道德和謹(jǐn)慎問(wèn)題，并且對(duì)這些事務(wù)及時(shí)做出民主決策，才不會(huì)完全被技術(shù)革命的速度和規(guī)模甩在后面[17]?！拔拿鬟~出的每一步都走上對(duì)自然進(jìn)行控制和阻隔的又一個(gè)臺(tái)階?！盵18]法律的進(jìn)步亦然，法律規(guī)范通過(guò)權(quán)利義務(wù)的設(shè)定、法律責(zé)任的認(rèn)定對(duì)機(jī)器人的行為進(jìn)行控制，使得機(jī)器人的發(fā)展可能進(jìn)入一個(gè)嶄新階段。

智能機(jī)器人的推廣和應(yīng)用對(duì)于我們的立法活動(dòng)提供了新的視野和范式，對(duì)于立法主體提出了更高的技術(shù)要求?！爱?dāng)信息技術(shù)中的智能被復(fù)制并且在組織機(jī)構(gòu)間擴(kuò)展應(yīng)用的時(shí)候，說(shuō)明它有潛力從根本上重新定義人與機(jī)器之間的關(guān)系?！盵19]在技術(shù)塑造的世界中，人與人之間的互動(dòng)是一種新的方式展開的（虛擬現(xiàn)實(shí)），與物質(zhì)世界的互動(dòng)（增強(qiáng)現(xiàn)實(shí)）同樣如此，技術(shù)成為我們的第二層皮膚用以感知世界[20]。運(yùn)用智能技術(shù)提高立法水平，將科技的有益因子注入立法語(yǔ)言、立法體系和立法評(píng)估等一系列的立法活動(dòng)，這便是機(jī)器人科學(xué)與科學(xué)立法之間的共生機(jī)理和共變關(guān)系。

四、為算法立法的科學(xué)性追問(wèn)

通過(guò)上文分析可以看出，智能機(jī)器人并不一定具有人形，其類人的本質(zhì)表現(xiàn)在于具有自主意志和思維并能夠進(jìn)行決策。支撐智能機(jī)器人進(jìn)行自主選擇和決策的就是算法，算法由一系列的指令構(gòu)成，是用系統(tǒng)的方法解決問(wèn)題的策略機(jī)制，它被看作是人工智能技術(shù)的核心和關(guān)鍵，是機(jī)器學(xué)習(xí)的終極邏輯。人類并不恐懼智能機(jī)器人成為法律關(guān)系的主體從而撼動(dòng)人類自身的主體性地位，而要警惕隱置在智能機(jī)器人背后的數(shù)據(jù)和算法。

（一）為算法立法是人工智能發(fā)展的必然選擇

隨著人工智能的發(fā)展，許多歷史上由人們做出的重要決定現(xiàn)在都由計(jì)算機(jī)完成，例如算法計(jì)算選票、批準(zhǔn)貸款和信用卡申請(qǐng)、目標(biāo)公民的審查、批準(zhǔn)或者拒絕移民簽證等。管理這些決策進(jìn)程的問(wèn)責(zé)機(jī)制和法律標(biāo)準(zhǔn)沒(méi)有跟上技術(shù)進(jìn)步的步伐。目前政策制定者、立法者和法院可使用的工具是用來(lái)監(jiān)督人類決策者的，當(dāng)適用于計(jì)算機(jī)時(shí)往往失敗[21]。算法成為社會(huì)活動(dòng)和生活決策的重要組成部分，其覆蓋范圍越來(lái)越大。有學(xué)者認(rèn)為，“人工智能從某種意義上講是一種能夠?qū)W習(xí)、判斷和決策的算法，它模仿和替代人類智能的潛質(zhì)促使人們重新思考人與機(jī)器之間的關(guān)系?！盵22]人工智能在技術(shù)的本質(zhì)意義上就是算法，算法的推廣應(yīng)用使得傳統(tǒng)的“人?人”和“人?物”的關(guān)系被整合為“人→人工智能→人”之間的接續(xù)關(guān)系，這樣的關(guān)系模式，催生新的社會(huì)結(jié)構(gòu)的形成[23]，人與人工智能之間關(guān)系的整合不得不重新定義法律關(guān)系，進(jìn)而影響法律行為和法律責(zé)任，并最終導(dǎo)致法律體系的重設(shè)。

如何科學(xué)理性地為算法立法，這是解決未來(lái)法治時(shí)代立法的科學(xué)面向最為核心的議題。如果說(shuō)人類的智力高于其他物種，那么全社會(huì)的算力便可作為文明的測(cè)度，用以衡量和評(píng)估整個(gè)社會(huì)的進(jìn)步和發(fā)展程度[24]。人工智能嵌入生活的方方面面，使得“生活就是你和包圍你的學(xué)習(xí)算法之間的游戲”[25]。當(dāng)人與社會(huì)的關(guān)系轉(zhuǎn)化為人與算法的關(guān)系時(shí)，如何為算法立法就成為呼之欲出的問(wèn)題。在新技術(shù)變革的時(shí)代，科學(xué)立法是引領(lǐng)全世界范圍內(nèi)立法活動(dòng)最具感召力的立法要求。為算法立法是人工智能時(shí)代應(yīng)對(duì)人機(jī)矛盾和社會(huì)問(wèn)題并進(jìn)一步推動(dòng)科技進(jìn)步的必然選擇。

算法是由人創(chuàng)設(shè)的，算法必然蘊(yùn)含著人的目的性和價(jià)值取向，只有通過(guò)立法的方式才能最大限度地規(guī)避算法不良價(jià)值導(dǎo)向的預(yù)設(shè)。有的算法的設(shè)計(jì)都隱含了歧視與不公，而有的算法則是隱藏了利益集團(tuán)的操控，對(duì)于它們，我們必須力求使其符合中國(guó)社會(huì)的倫理基礎(chǔ)與價(jià)值基礎(chǔ)[26]，設(shè)計(jì)更精良和更中立的算法[27]，因?yàn)椤捌缫曉诤芏嗲闆r下都是算法的副產(chǎn)品，是算法的一個(gè)難以預(yù)料的、無(wú)意識(shí)的屬性，而非編程人員有意識(shí)的選擇，更增加了識(shí)別問(wèn)題根源或者解釋問(wèn)題的難度?！保?8］因而，為算法立法需要正視算法在研發(fā)設(shè)計(jì)和應(yīng)用推廣等不同階段的特點(diǎn)，在立法過(guò)程中予以區(qū)別對(duì)待，這對(duì)立法者的科技知識(shí)水平提出了新的要求和期待。

（二）算法對(duì)科學(xué)立法的功能和作用

科學(xué)具有可證偽性，算法作為科學(xué)亦然。人工智能的關(guān)鍵是算法，支撐算法的是數(shù)據(jù)。當(dāng)大數(shù)據(jù)和云計(jì)算等走進(jìn)立法的視野，算法能夠?yàn)榱⒎ㄌ峁┘夹g(shù)支持，進(jìn)而影響立法體系和立法內(nèi)容。

首先，算法對(duì)于立法語(yǔ)言的規(guī)范和立法評(píng)估的開展具有重要作用。算法的運(yùn)行是通過(guò)數(shù)據(jù)的處理將指令傳達(dá)給機(jī)器，其背后是對(duì)眾多數(shù)據(jù)的占有、使用和處理。大數(shù)據(jù)對(duì)立法的功能集中體現(xiàn)在立法語(yǔ)言的規(guī)定性和立法評(píng)估上。一方面，算法通過(guò)大數(shù)據(jù)的分析和處理技術(shù)，能夠檢索并糾正立法語(yǔ)言的錯(cuò)誤和偏差，并為立法語(yǔ)言的簡(jiǎn)明和適洽提供參考。語(yǔ)言是法律的存在方式和實(shí)施工具，立法語(yǔ)言是法律思想的具體體現(xiàn)，立法語(yǔ)言中飽含著規(guī)范、特征、技術(shù)、倫理和價(jià)值等豐富的內(nèi)容[29]。立法語(yǔ)言涵蓋的規(guī)范和技術(shù)方面的內(nèi)容可以通過(guò)大數(shù)據(jù)的計(jì)算和檢索以確認(rèn)和應(yīng)用。另一方面，算法對(duì)于立法評(píng)估的影響，包括立法前評(píng)估和立法后評(píng)估。立法前要進(jìn)行必要性、合法性、協(xié)調(diào)性和可操作性等多項(xiàng)評(píng)估程序，立法前評(píng)估是從立法源頭是對(duì)重大的制度設(shè)計(jì)和利益關(guān)系的調(diào)整，尋求立法公正與效率的平衡點(diǎn)[30]。在人工智能時(shí)代，傳統(tǒng)的立法前評(píng)估方法顯然在某些重要領(lǐng)域會(huì)出現(xiàn)失靈的情況，例如，在對(duì)智能機(jī)器人進(jìn)行立法的過(guò)程中，需要運(yùn)用算法才能真正做好機(jī)器人法立法前的信息收集、輿情分析和利益博弈調(diào)查等評(píng)估事項(xiàng)。立法后評(píng)估需要評(píng)估主體掌握立法后評(píng)估的理論知識(shí)，熟悉評(píng)估的技術(shù)和方法，但立法后的情況復(fù)雜多變，現(xiàn)有的內(nèi)部評(píng)估主體往往缺乏知識(shí)和理論準(zhǔn)備[31]。因而評(píng)估主體通過(guò)算法的學(xué)習(xí)和使用，利用立法大數(shù)據(jù)本身的體量、多樣性和及時(shí)性，能夠?qū)Ψ蓪?shí)施的狀況和立法規(guī)范和立法內(nèi)容等方面存在的問(wèn)題進(jìn)行及時(shí)的掌控，科學(xué)分析未來(lái)法律的立、改、廢動(dòng)向。

其次，算法對(duì)于法律體系協(xié)調(diào)統(tǒng)一具有作用。算法是主體通過(guò)一系列數(shù)據(jù)的掌控發(fā)出指令作用于客體，數(shù)據(jù)的體量龐大、復(fù)雜多樣并且不斷更新，法律體系的完備可以借助算法來(lái)完成解決法律沖突和修補(bǔ)法律漏洞等活動(dòng)。不論是對(duì)算法立法還是運(yùn)用算法立法，我們都可以借助算法，分析現(xiàn)有的法律體系。例如在對(duì)人工智能立法過(guò)程中，通過(guò)計(jì)算機(jī)閱讀和分析現(xiàn)有的法律，可以及時(shí)發(fā)現(xiàn)新法與舊法、下位法與上位法的沖突。

我國(guó)已經(jīng)形成具有中國(guó)特色社會(huì)主義法律體系，但法律體系的形成及規(guī)模的擴(kuò)大并不表明法律體系已經(jīng)完成且具有實(shí)效，更不意味著立法必然合乎社會(huì)需要[32]。智能機(jī)器的閱讀和分析能最大限度地發(fā)現(xiàn)法律沖突，給予立法主體提醒和警示，同時(shí)也能發(fā)現(xiàn)法律漏洞。對(duì)于人工智能領(lǐng)域立法的缺失，算法通過(guò)信息檢索，能夠在最短的時(shí)間內(nèi)搜索出哪些民事、刑事和行政領(lǐng)域的法律規(guī)定需要與人工智能、數(shù)據(jù)和算法等相匹配，使立法者在立法過(guò)程中加以重視，彌補(bǔ)漏洞。

再次，算法參與立法活動(dòng)，有利于降低立法成本，提高立法效率。如前所述，在人工智能時(shí)代，類人機(jī)器人應(yīng)該被賦予法律關(guān)系的主體地位，那么類人機(jī)器人也有可能參與到立法活動(dòng)中來(lái)。在立法過(guò)程中要進(jìn)行立法成本效益分析。類人機(jī)器人通過(guò)算法的設(shè)置，在立法過(guò)程中可以起到輔助作用。而類人機(jī)器人介入立法活動(dòng)，，在調(diào)查研究、收集資料、征求意見(jiàn)和建議、舉行立法聽證等階段能利用算法進(jìn)行立法成本測(cè)算，節(jié)約立法成本。

由于社會(huì)生活紛繁復(fù)雜，技術(shù)變革速率提高，在法律市場(chǎng)中對(duì)于立法的需求與日俱增。為提高法律適用的精準(zhǔn)性，目前首選的措施就是制定更多的法律，但這會(huì)增加法律運(yùn)行的成本。因此，即使立法者已經(jīng)預(yù)見(jiàn)到法律實(shí)施的誤差，也經(jīng)常可能選擇不精確的立法方案[33]。人工智能的立法必須提高法律適用的精準(zhǔn)性，對(duì)技術(shù)預(yù)留足夠的制度空間以應(yīng)對(duì)未來(lái)可能出現(xiàn)的立法變量。

五、結(jié)語(yǔ)：全面提升人工智能立法的科學(xué)水平

人工智能領(lǐng)域的立法已成為全球化的問(wèn)題?！傲⒎ㄊ巧鐣?huì)關(guān)系和社會(huì)利益的調(diào)整器，是引導(dǎo)、規(guī)范、保障和促進(jìn)經(jīng)濟(jì)社會(huì)協(xié)調(diào)發(fā)展的首要法律手段。”[34]等到人工智能技術(shù)徹底改變生活和世界面貌的時(shí)候，也許思考人工智能的關(guān)聯(lián)立法為時(shí)已晚。例如無(wú)人駕駛汽車的技術(shù)有一部分基于大腦視覺(jué)處理模型，可以明顯減少車禍?zhǔn)鹿?、提高道路流暢率并降低駕駛操作的復(fù)雜性[35]。法律對(duì)此如何有效進(jìn)行規(guī)制并回應(yīng)，無(wú)人駕駛汽車出現(xiàn)交通事故時(shí)，如何判定責(zé)任主體追究法律責(zé)任是現(xiàn)在任何國(guó)家都無(wú)法回避的現(xiàn)實(shí)立法問(wèn)題?！爸悄艿牧α吭从谖覀凖嫶蟮亩鄻有裕皇且粋€(gè)單一而完美的原則。我們的物種進(jìn)化出了許多雖不完美卻行之有效的方法，我們自身作為個(gè)體則發(fā)展出了更多我們自己的方法?！盵36]在人工智能的世界中，法律依舊是不可取代的治理方式和手段，法律的終極目標(biāo)依舊是實(shí)現(xiàn)全人類的共同發(fā)展和福祉的增加。人工智能的立法，需要面向未來(lái)，全面提升科學(xué)化水平。

第一，人工智能立法要特別注重立法技術(shù)的提高。良法是善治的前提，良法要尊重客觀規(guī)律。良法的制定和出臺(tái)要運(yùn)用最為先進(jìn)的立法技術(shù)，同時(shí)對(duì)新技術(shù)正在和將要引發(fā)的法律和道德問(wèn)題予以科學(xué)地設(shè)置和規(guī)范。針對(duì)人工智能領(lǐng)域的立法需要對(duì)人工智能技術(shù)有全景的了解和深刻的認(rèn)知，才能最大限度地規(guī)制技術(shù)本身同時(shí)又促進(jìn)技術(shù)的進(jìn)一步革新。“任何時(shí)候，若能找出民眾心目中懷有一種確定無(wú)疑、頗堪褒揚(yáng)的傾向，則此傾向或可經(jīng)由立法善予保存與肯認(rèn)，但卻決然不可能經(jīng)由立法憑空制造出來(lái)?！盵37]人工智能是不可回避的技術(shù)潮流，是不可逆的改變世界的技術(shù)力量，也是民眾心中確定無(wú)疑的生活輔助方式。

良法得益于高水平立法技術(shù)的運(yùn)用。人工智能立法需要提高立法技術(shù)，立法技術(shù)的適用范圍涉及從立法預(yù)測(cè)、立法規(guī)劃、法案起草、法的構(gòu)造、法的語(yǔ)言表述、立法解釋和立法評(píng)估等各個(gè)方面[38]?？茖W(xué)立法判斷的邏輯標(biāo)準(zhǔn)包括法律詞項(xiàng)的明晰、法律命題的恰當(dāng)、法律體系的一致、完備和可判斷[39]。我們要充分利用機(jī)器智能、深度學(xué)習(xí)和算法等人工智能技術(shù)來(lái)提高立法的結(jié)構(gòu)技術(shù)和立法語(yǔ)言技術(shù)，通過(guò)立法技術(shù)的創(chuàng)新，精心設(shè)計(jì)立法語(yǔ)言框架、規(guī)范條文設(shè)置，并開展務(wù)實(shí)高效的立法評(píng)估活動(dòng)，從而達(dá)到科學(xué)立法的要求，實(shí)現(xiàn)科學(xué)立法的目標(biāo)。

第二，人工智能立法要尤為重視法律價(jià)值的重塑。“人工智能最大的特征是能夠?qū)崿F(xiàn)無(wú)人類干預(yù)的,基于知識(shí)并能夠自我修正地自動(dòng)化運(yùn)行。在開啟人工智能系統(tǒng)后,人工智能系統(tǒng)的決策不再需要操控者進(jìn)一步的指令,這種決策可能會(huì)產(chǎn)生人類預(yù)料不到的結(jié)果。”[40]科學(xué)技術(shù)本身具有中立性，但是技術(shù)的研發(fā)者和使用者不可能做到完全的理性和價(jià)值無(wú)涉?！翱茖W(xué)希望祛除并取代地方性知識(shí)，‘科學(xué)社區(qū)'的理念正表明了科學(xué)將自身視為唯一的當(dāng)代身份價(jià)值，它認(rèn)為，只有依靠這一理念，社區(qū)的理想才能繁榮。”[41]當(dāng)人工智能被用作非法用途成為破壞國(guó)家安定和侵犯公民權(quán)益的手段和力量的時(shí)候，法律如何作出回應(yīng)是在立法中必須要解決的問(wèn)題，這就關(guān)系到人工智能智能立法對(duì)于傳統(tǒng)的法律價(jià)值的重塑問(wèn)題。

“只有當(dāng)規(guī)范確定的合法滿足需求的機(jī)會(huì)分配建立在參與者世界達(dá)成的共識(shí)基礎(chǔ)上，追求制度化的價(jià)值的行為取向才是沒(méi)有爭(zhēng)議的?！盵42]這就要回歸到法律治理和技術(shù)治理的二元共治問(wèn)題上，法律價(jià)值對(duì)技術(shù)治理的工具選擇和運(yùn)用起著引領(lǐng)作用，同時(shí)法律治理可以校正技術(shù)治理的偏差。而技術(shù)治理增加了法律治理的手段，擴(kuò)大法律治理的邊界，優(yōu)化法律治理的組織結(jié)構(gòu)[43]。當(dāng)類人機(jī)器人的主體性地位得到法律認(rèn)可并具有法律人格，智能體對(duì)現(xiàn)有法學(xué)理論尤其是法律體系的沖擊，需要立法者深層次地思考立法的價(jià)值取向問(wèn)題?！叭绻粚?duì)技術(shù)中立背后的價(jià)值問(wèn)題進(jìn)行分析，那么由技術(shù)所引發(fā)的責(zé)任認(rèn)定和法律規(guī)制就仍然限于政策視野，既沒(méi)有充分展現(xiàn)技術(shù)的客觀屬性和社會(huì)維度之間的關(guān)系，也忽略了法律背后更為復(fù)雜的價(jià)值世界?！盵44]在人工智能的語(yǔ)境下，當(dāng)自由與秩序、公平與正義、安全與人權(quán)這些價(jià)值發(fā)生沖突的時(shí)候，如何進(jìn)行價(jià)值排序在立法中應(yīng)當(dāng)予以界定。對(duì)人工智能的立法應(yīng)該更加注重保障人權(quán)，將維護(hù)安全作為立法的首要目的和價(jià)值取向。

第三，人工智能立法要著重培育立法者的科技素養(yǎng)。實(shí)現(xiàn)對(duì)人工智能的科學(xué)立法最終還是由立法者實(shí)施立法活動(dòng)來(lái)實(shí)現(xiàn)。這就要求立法者具有較高的科技涵養(yǎng)和立法智慧。在司法實(shí)踐中，法官的智慧使現(xiàn)代知識(shí)司法的象征，智慧的法官須用法律的智能和審判技術(shù)使得司法審判的程序設(shè)置和規(guī)定更有實(shí)效[45]。立法者需要運(yùn)用人工智能時(shí)代的智能立法技術(shù)使立法條文設(shè)置更加合理并更加具有可操作性。同時(shí)，立法者可以聯(lián)合人工智能法律技術(shù)研發(fā)部門開發(fā)出一套立法輔助系統(tǒng)，“立法輔助系統(tǒng)如能應(yīng)用于法律起草和法律草案的審議過(guò)程，有可能事先發(fā)現(xiàn)一些立法漏洞，避免一個(gè)法律內(nèi)部各種規(guī)則之間以及新法律與現(xiàn)有法律制度之間的相互沖突?！盵46]

《立法法》第6條規(guī)定了科學(xué)立法原則要求，“立法應(yīng)當(dāng)從實(shí)際出發(fā)，適應(yīng)經(jīng)濟(jì)社會(huì)發(fā)展和全面深化改革的要求，科學(xué)合理地規(guī)定公民、法人和其他組織的權(quán)與義務(wù)、國(guó)家機(jī)關(guān)的權(quán)力與責(zé)任。法律規(guī)范應(yīng)當(dāng)明確、具體，具有針對(duì)性和可執(zhí)行性。”立法者要貫徹落實(shí)科學(xué)立法原則，制定出高質(zhì)量的人工智能相關(guān)法律，離不開對(duì)于人工智能技術(shù)知識(shí)的系統(tǒng)深入地學(xué)習(xí)。立法者深知科學(xué)立法與制度設(shè)計(jì)的目標(biāo)和最終評(píng)價(jià)標(biāo)準(zhǔn)，應(yīng)該是理順立法與人工智能技術(shù)研發(fā)和使用者之間的內(nèi)在激勵(lì)關(guān)系，使技術(shù)進(jìn)步與權(quán)利的保護(hù)成為人工智能主體的內(nèi)在欲求[47]。立法者科技素養(yǎng)的提升不僅依賴于對(duì)人工智能技術(shù)運(yùn)作機(jī)理的掌握，更需要對(duì)技術(shù)背后的法律、道德和倫理等問(wèn)題深度思考，全面展現(xiàn)人工智能法律的科學(xué)性和邏輯性。

面對(duì)人工智能技術(shù)的發(fā)展和創(chuàng)新，首先，我們應(yīng)該保持敬畏之心，尊重其在眾多領(lǐng)域的貢獻(xiàn)和潛能，這是對(duì)人工智能進(jìn)行科學(xué)立法的前提；其次，我們要正視并直面人工智能技術(shù)帶來(lái)的風(fēng)險(xiǎn)和問(wèn)題，在立法過(guò)程中明確相關(guān)人工智能載體的法律地位，這是對(duì)人工智能進(jìn)行科學(xué)立法的重點(diǎn)；最后，要通過(guò)立法手段控制技術(shù)風(fēng)險(xiǎn)，通過(guò)法律責(zé)任條款的設(shè)置，對(duì)人工智能可能帶來(lái)的危險(xiǎn)和傷害追責(zé)，提高對(duì)人工智能的駕馭能力，才能迎接人機(jī)共生共榮、人機(jī)互惠共贏時(shí)代的到來(lái)，這是對(duì)人工智能進(jìn)行科學(xué)立法的重要目標(biāo)和價(jià)值追求。