姜素紅 張可

[摘 要] 我國地方立法權(quán)隨著2015年《立法法》的修改擴(kuò)至所有設(shè)區(qū)的市，隨之掀起地方立法熱潮。但目前地方立法的質(zhì)量普遍不高，存在諸多問題，人工智能技術(shù)的應(yīng)用能為地方立法開辟新路徑。基于互聯(lián)網(wǎng)及大數(shù)據(jù)的人工智能，能被應(yīng)用于資料檢索、立項(xiàng)論證、立法公開與意見征集、輔助草案起草、立法后評(píng)估與備案審查。與此同時(shí)，當(dāng)人工智能被應(yīng)用于地方立法工作時(shí)，需要確立“輔助原則”，規(guī)范人工智能地方立法程序的選用標(biāo)準(zhǔn)，限制人工智能地方立法程序的算法，以此來規(guī)制人工智能帶來的不利影響。

[關(guān)鍵詞] 人工智能;地方立法;應(yīng)用;法律規(guī)制

[中圖分類號(hào)] DFO-05 ? ?[文獻(xiàn)標(biāo)識(shí)碼] A ? [文章編號(hào)] 1008—1763（2019）04—0139—08

Abstract：With the amendment of the 2015 Legislative Law， China's local legislative power has been extended to all the districtbased cities， which has led to a local legislative upsurge. However， the quality of local legislation is generally not high， and there are many problems. The application of artificial intelligence technology will undoubtedly open up a new path for local legislation. Artificial intelligence based on the Internet and big data can be applied to data retrieval， legislative forecasting， open legislation and public participation， legislative draft generation， postlegislation evaluation and filing review. At the same time， artificial intelligence as a new thing requires legal regulation， especially when it is applied to legislative work， it is necessary to establish "assisted principle"， clarify the scope of work of artificial intelligence legislation， standardize the selection criteria of artificial intelligence legislative procedures， and limit the algorithm of the artificial intelligence legislation program， to regulate the possible adverse effects of artificial intelligence.

Key words： artificial intelligence; local legislation; application; legal regulation

人工智能確能為社會(huì)帶來巨大便利和發(fā)展，但由此新生的法律問題也同步產(chǎn)生。因此，對(duì)其不能放任自流，必須用法律進(jìn)行規(guī)制，以確保其按照正確的方向發(fā)展。人工智能與地方立法的關(guān)系是雙向的，一方面，人工智能技術(shù)的應(yīng)用無疑能提高地方立法的質(zhì)量和效率，另一方面，也必須規(guī)制人工智能對(duì)地方立法帶來的風(fēng)險(xiǎn)。

一 人工智能應(yīng)用于地方立法法理分析

我國地方立法權(quán)隨著2015年《立法法》的修改擴(kuò)至所有設(shè)區(qū)的市，設(shè)區(qū)的市對(duì)此新賦予的立法權(quán)報(bào)以極大熱情，紛紛開展地方立法工作，制定出臺(tái)了一系列地方性法規(guī)，促進(jìn)了地方的有效治理。但地方立法權(quán)的放開也導(dǎo)致諸多問題的出現(xiàn)，如因?yàn)榈胤搅⒎ㄋ讲桓撸胤搅⒎ㄎ谋酒毡榇嬖诒匾?、客觀性、法律體系統(tǒng)一性不足等問題，盲目出臺(tái)地方條例，其條文內(nèi)容不嚴(yán)謹(jǐn)甚至違背上位法規(guī)定。人工智能的應(yīng)用可以有效解決上述問題，這是立法的人工智能化，也可稱為“智慧立法” [1]。人工智能一方面對(duì)完善地方立法可以起到積極作用，但另一方面又可能為社會(huì)帶來風(fēng)險(xiǎn)。面對(duì)如此情況，人工智能是否能夠被應(yīng)用于地方立法，怎樣應(yīng)用于地方立法，只有通過對(duì)其合規(guī)范性、合理性與風(fēng)險(xiǎn)性的分析來確定。

（一）人工智能應(yīng)用于地方立法符合現(xiàn)有政策規(guī)定

國務(wù)院2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出要培育高水平人工智能創(chuàng)新人才和團(tuán)隊(duì)，尤其是“掌握‘人工智能+經(jīng)濟(jì)、社會(huì)、管理、標(biāo)準(zhǔn)、法律等的橫向復(fù)合型人才”，還對(duì)人工智能推進(jìn)社會(huì)治理智能化做了規(guī)劃，強(qiáng)調(diào)“圍繞行政管理、司法管理、城市管理、環(huán)境保護(hù)等社會(huì)治理的熱點(diǎn)難點(diǎn)問題，促進(jìn)人工智能技術(shù)應(yīng)用，推動(dòng)社會(huì)治理現(xiàn)代化?！笔状未_認(rèn)了“人工智能+法律”的發(fā)展模式。全國人民代表大會(huì)常務(wù)委員會(huì)法制工作委員會(huì)關(guān)于十二屆全國人大以來暨2017年備案審查工作情況的報(bào)告提出要著力推進(jìn)備案審查信息化建設(shè)，“以信息化建設(shè)提升備案審查工作能力和水平，是貫徹落實(shí)黨中央關(guān)于加強(qiáng)備案審查能力建設(shè)精神的必然要求，也是適應(yīng)備案審查工作新形勢(shì)新任務(wù)、提高備案審查工作水平的重要基礎(chǔ)性工作?！闭f明全國人大開始重視信息技術(shù)在立法工作中的運(yùn)用，而信息化的最終發(fā)展導(dǎo)向必然是對(duì)人工智能的應(yīng)用。另外，習(xí)近平在中共中央政治局第九次集體學(xué)習(xí)人工智能發(fā)展現(xiàn)狀和趨勢(shì)時(shí)強(qiáng)調(diào)“要加強(qiáng)人工智能同社會(huì)治理的結(jié)合”“促進(jìn)人工智能在公共安全領(lǐng)域的深度應(yīng)用……運(yùn)用人工智能提高公共服務(wù)和社會(huì)治理水平?！边@就傳達(dá)出中央支持人工智能應(yīng)用于社會(huì)治理領(lǐng)域的政策精神。

（二）人工智能應(yīng)用于地方立法具有合理性

其合理性體現(xiàn)在三個(gè)方面：其一，應(yīng)用人工智能立法是地方立法工作的客觀需求。地方立法過程中存在大量繁瑣且重復(fù)的工作，例如資料檢索、資料比對(duì)、校對(duì)等，立法工作者面對(duì)這類工作往往不堪重負(fù)。以法規(guī)審查為例，我國現(xiàn)有法律二百六十余部，行政法規(guī)近八百部，地方性法規(guī)和各類規(guī)章均達(dá)到上萬部，“面對(duì)大量的待審查文件以及作為審查依據(jù)的大量法律、行政法規(guī)、地方性法規(guī)等，立法工作者需要花費(fèi)大量時(shí)間精力”[2]，實(shí)踐中很多地方便只備案不審查，嚴(yán)重影響了法律體系的完整性和立法的權(quán)威性。其二，立法與人工智能的結(jié)合是科技發(fā)展的必然趨勢(shì)?？萍及l(fā)展的最終目的是要應(yīng)用于社會(huì)實(shí)踐，否則科技也就失去了意義，正如《新一代人工智能發(fā)展規(guī)劃》指出“人工智能成為經(jīng)濟(jì)發(fā)展的新引擎”以及“人工智能帶來社會(huì)建設(shè)的新機(jī)遇”，人工智能與社會(huì)各領(lǐng)域的融合是其技術(shù)發(fā)展的趨勢(shì)。其三，人工智能應(yīng)用于地方立法符合國家治理現(xiàn)代化的需要。國家治理能力和治理體系的現(xiàn)代化不僅要從理念和制度入手，還要結(jié)合先進(jìn)的科技手段，創(chuàng)新政府治理方式。立法作為國家法治的重要領(lǐng)域，也要利用科技來實(shí)現(xiàn)自身的完善?！斑\(yùn)用智能技術(shù)提高立法水平，將科技的有益因子注入立法語言、立法體系和立法評(píng)估等一系列的立法活動(dòng)，這便是機(jī)器人科學(xué)與科學(xué)立法之間的共生機(jī)理和共變關(guān)系”[3]。特別是在地方立法實(shí)踐中，人工智能精準(zhǔn)的數(shù)據(jù)能力能夠?yàn)橄饬⒎ㄖ械膫€(gè)人判斷和部門利益傾向提供路徑[4]。

（三）人工智能應(yīng)用于地方立法存在社會(huì)風(fēng)險(xiǎn)

人工智能應(yīng)用于地方立法有可能引發(fā)社會(huì)風(fēng)險(xiǎn)，尤其是立法作為社會(huì)關(guān)鍵領(lǐng)域，若一味追求人工智能立法的便利性而忽視對(duì)其限制，則后果難以設(shè)想。第一，人工智能應(yīng)用于地方立法可能引發(fā)倫理道德風(fēng)險(xiǎn)。人工智能立法程序可能誘發(fā)立法工作者的“懶惰心理”，他們不愿再花費(fèi)精力對(duì)立法加以深思熟慮，因?yàn)樗泄ぷ髦恍柙陔娔X上按下一個(gè)鍵即可完成。此時(shí)，立法者實(shí)質(zhì)上淪為人工智能的附庸，很難說清楚是人類借助人工智能進(jìn)行立法，還是人工智能在制定法律管理人類。第二，人工智能應(yīng)用于地方立法可能引發(fā)社會(huì)治理風(fēng)險(xiǎn)。自法律產(chǎn)生以來，法律就一直與利益有著極為密切的關(guān)系，法律是社會(huì)各種利益協(xié)調(diào)的產(chǎn)物。在立法過程中，既存在長遠(yuǎn)利益，也存在眼前利益;既存在部門利益，也存在公共利益;既存在經(jīng)濟(jì)利益，也存在社會(huì)利益;能否處理好復(fù)雜的利益關(guān)系將直接影響到該法的實(shí)際效用和實(shí)施效果[5]。面對(duì)錯(cuò)綜復(fù)雜的社會(huì)關(guān)系與利益糾葛，人工智能程序很難理解并作出適當(dāng)?shù)卣{(diào)和，在這種情況下，任由人工智能制定調(diào)整社會(huì)關(guān)系的法律，就很可能造成治理的混亂。第三，人工智能應(yīng)用于地方立法還存在制度風(fēng)險(xiǎn)。這是因?yàn)槿斯ぶ悄艿摹鞍l(fā)展和革新對(duì)社會(huì)科學(xué)提出了新的技術(shù)要求，具體到法律領(lǐng)域集中體現(xiàn)在，人工智能領(lǐng)域的科學(xué)立法要面臨的是法律的零供給和法律的高需求之間的突出矛盾。制度風(fēng)險(xiǎn)可能來自我們的工業(yè)制度、科技政策乃至法律規(guī)則，表現(xiàn)為對(duì)新技術(shù)無措的制度缺失和對(duì)新技術(shù)錯(cuò)判的制度失敗?！盵3]（P107）也就是說，在我國現(xiàn)有法律制度未對(duì)人工智能有效規(guī)制的前提下，人工智能應(yīng)用于地方立法將因?yàn)橹贫鹊娜笔бl(fā)諸多無法解決的新矛盾，如人工智能立法程序的主體地位、適用范圍、責(zé)任追究等。

由此可見，人工智能應(yīng)用于地方立法能夠?qū)Φ胤搅⒎ê偷胤街卫碇晟破鸬酱龠M(jìn)作用，但也具有可能帶來社會(huì)風(fēng)險(xiǎn)的局限性。因此，必須正確看待“智慧立法”的兩面性，從而正確對(duì)待人工智能應(yīng)用于地方立法。成本收益分析為我們提供了衡量利弊選擇的理論工具。從當(dāng)前部分地方的實(shí)踐可以看出，應(yīng)用人工智能立法的獲益遠(yuǎn)大于損耗，如天津市人大常委會(huì)用人工智能輔助地方立法，三年間使得備案審查的準(zhǔn)確性和工作效率得到明顯提高，且其應(yīng)用范圍和效能還可以進(jìn)一步擴(kuò)展。人工智能應(yīng)用于地方立法的收益是不可估量的，但上述提到的風(fēng)險(xiǎn)可以通過制度創(chuàng)設(shè)、人力介入等手段加以控制，舍棄人工智能立法程序不是唯一的風(fēng)險(xiǎn)控制方式，且機(jī)會(huì)成本最高?！叭斯ぶ悄苁切乱惠喛萍几锩彤a(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問題?！盵6]在這一時(shí)代形勢(shì)下討論要不要發(fā)展人工智能就如同二十年前談?wù)撘灰l(fā)展計(jì)算機(jī)和互聯(lián)網(wǎng)，“電子計(jì)算機(jī)已經(jīng)被人們視為科學(xué)技術(shù)現(xiàn)代化的一個(gè)重要標(biāo)志，法律工作和法學(xué)研究要順應(yīng)科學(xué)技術(shù)的發(fā)展，也要現(xiàn)代化……法律工作的計(jì)算機(jī)化已是這一新紀(jì)元的必然產(chǎn)物?！盵7]時(shí)空轉(zhuǎn)換，對(duì)于法律工作計(jì)算機(jī)化的前瞻性同樣適用于今日的法律工作人工智能化。因此，面對(duì)“智慧立法”的社會(huì)風(fēng)險(xiǎn)，應(yīng)當(dāng)考慮的不是以棄之不用的方式徹底杜絕風(fēng)險(xiǎn)，而是在發(fā)揮其效能與規(guī)避風(fēng)險(xiǎn)之間尋找一種平衡，確保“智慧立法”始終朝著有利的方向發(fā)展。

二 地方立法對(duì)人工智能的應(yīng)用

人工智能并不是單純的計(jì)算機(jī)科學(xué)，而是揉合了計(jì)算機(jī)、生物學(xué)、哲學(xué)、藝術(shù)學(xué)等諸多學(xué)科的一門復(fù)合型學(xué)科。即使從計(jì)算機(jī)科學(xué)角度來解析人工智能，它也絕不是簡單的計(jì)算機(jī)程序，而是包含了當(dāng)下信息技術(shù)革命所有的最新成果：互聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能程序本身。也就是說，人工智能是信息技術(shù)積累到一定程度才得以產(chǎn)生的，其存在必然立基于互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能程序架構(gòu)的協(xié)同作用《人工智能在未來社會(huì)將有哪些風(fēng)險(xiǎn)與挑戰(zhàn)》，http：//news.ifeng.com/a/20170831/51821471_0.shtml，訪問時(shí)間 2018年12月5日。。立基于互聯(lián)網(wǎng)及大數(shù)據(jù)的人工智能能夠促進(jìn)地方立法的智能化、現(xiàn)代化，有利于提升地方立法工作的質(zhì)量與效率。具體而言，地方立法對(duì)人工智能的應(yīng)用主要有以下幾方面：資料檢索、立項(xiàng)論證、立法公開與意見征集、立法草案生成、立法后評(píng)估與備案審查。

（一）資料檢索方面

人工智能憑借數(shù)據(jù)收集與資源整合功能，可以快速完成立法資料的收集與分類。資料檢索是立法的基本工作，貫穿于立法各個(gè)階段，如立法預(yù)測就需要對(duì)社會(huì)熱點(diǎn)問題和實(shí)踐案例進(jìn)行檢索，以提高預(yù)測的準(zhǔn)確性。立法意見本身也是一種資料，需要通過檢索功能實(shí)現(xiàn)收集與篩選。而立法文本的制定則有賴于對(duì)上位法及相關(guān)立法例、法學(xué)理論、實(shí)踐案例等資料的檢索與綜合運(yùn)用。立法后評(píng)估及備案審查也需要檢索法律實(shí)施效果情況及比對(duì)法律文本之間是否沖突。以往依靠人力開展立法資料檢索工作，其效率和準(zhǔn)確性難以得到保障。畢竟人的精力有限，面對(duì)龐雜的立法資料，很難窮盡閱讀并保證閱讀理解的準(zhǔn)確性。以法律文本檢索為例，我國各類規(guī)范性文本有數(shù)萬部，字?jǐn)?shù)達(dá)到百萬字以上，如果要保障檢索效率及準(zhǔn)確性，需要投入的人力難以計(jì)數(shù)。再以實(shí)踐案例檢索為例，針對(duì)某一領(lǐng)域的立法往往需要參考大量實(shí)踐案例，但相關(guān)案例的數(shù)量動(dòng)輒成千上萬，收集這些案例并從中找到與所要立法相關(guān)的材料可謂難上加難。人工智能具備精準(zhǔn)的數(shù)據(jù)收集與分析能力，能夠有效解決以往的立法資料檢索與分析困境，以充足的數(shù)據(jù)樣本來支撐立法決策[8]。因此，在現(xiàn)代社會(huì)，應(yīng)用人工智能檢索立法資料是必要的。

（二）立項(xiàng)論證方面

人工智能通過對(duì)相關(guān)資料的收集與分析，可以實(shí)現(xiàn)精準(zhǔn)的立法大數(shù)據(jù)分析，并在此基礎(chǔ)上對(duì)社會(huì)立法需求作出初步判斷，這將成為立法前立項(xiàng)論證的一種新手段。立法的立項(xiàng)論證是立法預(yù)測以及編制立法規(guī)劃、計(jì)劃的重要依據(jù)。立法預(yù)測作為一項(xiàng)立法技術(shù)，本來就要求盡可能使用科學(xué)方法與先進(jìn)科技手段，準(zhǔn)確預(yù)測社會(huì)發(fā)展趨勢(shì)與對(duì)立法的需求[9]，人工智能的立法大數(shù)據(jù)能力能夠滿足這項(xiàng)需求。地方立法機(jī)關(guān)所掌握的資源往往有限，若要進(jìn)行精準(zhǔn)的立法立項(xiàng)論證，需動(dòng)用大量人力物力，所以許多地方立法機(jī)關(guān)對(duì)于立項(xiàng)論證工作草草了事，甚至是不做科學(xué)的立項(xiàng)論證，“憑感覺或者經(jīng)驗(yàn)立項(xiàng)、憑長官意志立項(xiàng)、僅憑重要性立項(xiàng)或僅憑必要性立項(xiàng)、憑起草單位的立法積極性立項(xiàng)、憑工作關(guān)系立項(xiàng)等”[10]。導(dǎo)致其出臺(tái)的立法規(guī)劃和法律文本缺乏必要性、可行性，不符合社會(huì)發(fā)展與治理的需要。人工智能可以有效解決地方方法立項(xiàng)論證存在的問題，其應(yīng)用方式有三種：第一，大數(shù)據(jù)收集。這是基于資料檢索功能，對(duì)社會(huì)形勢(shì)及立法需要等有關(guān)信息進(jìn)行收集和篩選。第二，分析與綜合利用。憑借人工智能學(xué)習(xí)與思考的能力，使其對(duì)收集的信息處理和分析，得出直觀的立法需求。第三，出具立項(xiàng)論證報(bào)告。根據(jù)大數(shù)據(jù)分析得出的結(jié)論，形成文本資料，告知立法機(jī)關(guān)哪些是急需通過地方立法進(jìn)行調(diào)整的領(lǐng)域廣州市人大常委會(huì)開發(fā)“廣州智慧人大”系統(tǒng)，可對(duì)44家單位、1983個(gè)數(shù)據(jù)主題實(shí)施聯(lián)網(wǎng)監(jiān)控，敏銳捕捉社會(huì)經(jīng)濟(jì)發(fā)展中的問題，綜合研判未來發(fā)展趨勢(shì)。。

（三）立法公開與意見征集方面

人工智能的應(yīng)用將有助于解決地方立法中存在的立法公開不充分、立法意見征集渠道不暢通、回應(yīng)機(jī)制不完善等問題[11]。立法公開與意見征集息息相關(guān)，因?yàn)樵诹⒎ㄎ垂_的情形下，民眾無法得知立法事項(xiàng)，其不會(huì)產(chǎn)生參與立法的意識(shí)，立法機(jī)關(guān)也更不會(huì)設(shè)置公眾提出立法意見的渠道和工作機(jī)制，形成閉門立法的局面。我國地方立法公開不充分體現(xiàn)在立法文本的形成一般是負(fù)責(zé)起草的機(jī)關(guān)內(nèi)部討論的結(jié)果，只發(fā)布一份已經(jīng)基本定型的草案，其立法過程、立法資料、立法規(guī)則等均未發(fā)布，即使發(fā)布其發(fā)布渠道也十分狹窄，只在牽頭草擬的部門網(wǎng)站上登出，能夠閱讀到的人數(shù)十分有限。意見征集渠道不暢通體現(xiàn)在地方立法機(jī)關(guān)采取的公眾意見征集方式普遍較為單一且落后，只采取原始的發(fā)郵件或小范圍調(diào)研來征集意見，公眾無法很好地表達(dá)需求和反映問題?；貞?yīng)機(jī)制不完善體現(xiàn)在地方立法機(jī)關(guān)收集到立法意見后，對(duì)意見的匯總整合、采納反饋效率低下，或隨意處之。如很多地方在征集完意見后幾天內(nèi)便召開會(huì)議討論立法草案，沒有認(rèn)真分析立法意見，立法意見的征集淪為形式。

人工智能的引入，將有利于地方立法公開與意見征集的狀況得到改善：其一，人工智能為地方立法事項(xiàng)公開、立法意見發(fā)表提供便捷的網(wǎng)絡(luò)系統(tǒng)渠道。地方立法機(jī)關(guān)可以在人工智能信息平臺(tái)上發(fā)布全流程的立法資料，甚至將立法公開事項(xiàng)推送至公眾的手機(jī)或其他終端。同時(shí)，人工智能將為立法意見的發(fā)表提供更方便的網(wǎng)頁留言系統(tǒng)，或通過人們常用的各類社交軟件、公眾號(hào)綜合收集立法意見。

其二，立法公開與方便的參與渠道將提升公眾提出立法意見的積極性。這是因?yàn)榱⒎ü_將使人們及時(shí)了解到立法信息，使其關(guān)注立法，而方便的參與渠道則能減少人們參與立法的成本，形成“技術(shù)賦權(quán)”與“去中心化”的局面，鼓勵(lì)更多人提出立法意見。

其三，人工智能可以提升立法意見征集、整理、反饋的效率。隨著提出立法意見的人數(shù)增加，立法意見的處理成為難題。以全國人大為例，近年來立法意見數(shù)量持續(xù)增多，少則數(shù)百條多則上萬條，《刑法修正案（九）》收到的意見累計(jì)達(dá)到十六萬條[12]，如果依靠傳統(tǒng)方式，根本無法妥善處理數(shù)量如此巨大的立法意見。因此，全國人大網(wǎng)站采用了法律草案征求意見系統(tǒng)，極大簡化和提升了意見收集工作。以地方為例，通過訪問主要省市的人大網(wǎng)站可知，各省人大網(wǎng)站鮮有設(shè)立立法意見征集系統(tǒng)，僅北京、上海等較為發(fā)達(dá)的市人大網(wǎng)站設(shè)立了立法意見征集系統(tǒng)?？梢?，立法意見征集系統(tǒng)目前設(shè)立程度較低。另外，現(xiàn)有的人工智能主要用于立法意見征集，將來可進(jìn)一步拓展到對(duì)意見的整理、分析、反饋，節(jié)省立法成本，提高立法效率。

（四）輔助草案起草方面

人工智能可以準(zhǔn)確運(yùn)用立法技術(shù)，提升地方立法文本的質(zhì)量。我國地方立法權(quán)主體擴(kuò)充后，新增有地方立法權(quán)的主體274個(gè)，2015—2017年三年來設(shè)區(qū)的市共制定地方性法規(guī)近六百件，數(shù)量每年翻一番[13]。但地方立法水平有待提高，主要包括條文內(nèi)容、文本結(jié)構(gòu)和效率三方面問題。條文內(nèi)容方面的問題有重復(fù)立法、條文與上位法規(guī)定相沖突、條文邏輯不通順、條文用詞不準(zhǔn)確等。重復(fù)立法是目前地方立法實(shí)踐中較為常見的問題，即條文內(nèi)容照抄上位法及相關(guān)立法例，這不僅導(dǎo)致地方立法因缺乏創(chuàng)新與特色而發(fā)揮不了作用，更是對(duì)立法資源的浪費(fèi)。文本結(jié)構(gòu)方面的問題主要表現(xiàn)在部分地方立法為追求形式上好看，盲目擴(kuò)充章節(jié)和字?jǐn)?shù)，“對(duì)立法項(xiàng)目‘門面的關(guān)注超過了對(duì)解決本地實(shí)際問題的追求”[13]（P42）。效率方面的問題表現(xiàn)為效率低，指一部地方性法規(guī)通過，需要經(jīng)過的程序繁雜漫長，包括初步草擬、草擬部門內(nèi)部討論、外部征求意見、人大開會(huì)討論等，每次會(huì)議后都會(huì)產(chǎn)生大量部門意見，其中有些意見修改很困難，有些意見之間則互相矛盾，給立法工作者造成很大困擾?！傲⒎üぷ骶哂幸惶滋赜械膬?nèi)在規(guī)律性，當(dāng)前面對(duì)極速增加的立法主體，通過人工智能輔助起草法規(guī)草案可以有效解決地方普遍存在的立法力量不足的問題?！盵8]（P51）當(dāng)下的人工智能對(duì)草案起草能夠起到的作用包括：其一，通過自我學(xué)習(xí)提供立法所需的跨學(xué)科知識(shí)。立法除了需要法律知識(shí)外，通常還涉及與調(diào)整對(duì)象相關(guān)的專業(yè)知識(shí)，這正是立法工作者的短板。人工智能通過快速學(xué)習(xí)篩選，能夠?yàn)榱⒎üぷ髡咛峁┝⒎ㄋ璧目鐚W(xué)科專業(yè)知識(shí)。其二，高效完成文本校對(duì)。目前人工智能已經(jīng)可以對(duì)文本的錯(cuò)別字、句式結(jié)構(gòu)、與其他文本的異同進(jìn)行校對(duì)，這將有助于改善地方立法存在的條文表述不當(dāng)、重復(fù)立法、立法抵觸等問題。其三，將立法意見融入法律草案。人工智能對(duì)立法意見的收集整理功能，使立法工作者了解立法意見反映的真正的問題，為他們起草修改草案提供明確指引。隨著未來人工智能的升級(jí)和深度使用，人工智能可為輔助地方立法草案起草做更多工作。

（五）立法后評(píng)估與備案審查方面

人工智能可以準(zhǔn)確進(jìn)行立法后評(píng)估，提升地方立法備案審查效率。立法后評(píng)估在我國仍處于起步階段，技術(shù)和應(yīng)用都不成熟，尤其在地方立法過程中，立法后評(píng)估沒有得到足夠重視，存在評(píng)估主體單一、數(shù)據(jù)收集與分析困難、評(píng)估報(bào)告形式陳舊等缺陷[14]。人工智能可以完善地方立法后評(píng)估存在的上述問題，就評(píng)估主體單一而言，以往地方立法僅限于立法機(jī)關(guān)內(nèi)部評(píng)估，缺乏客觀性與真實(shí)性。而人工智能則可以將對(duì)立法的評(píng)估擴(kuò)展至整個(gè)社會(huì)，互聯(lián)網(wǎng)的“技術(shù)賦權(quán)”與“去中心化”使普通民眾和其他社會(huì)組織都具有了對(duì)立法后評(píng)估發(fā)表意見的機(jī)會(huì)。就數(shù)據(jù)收集與分析困難而言，傳統(tǒng)的立法后評(píng)估采取抽樣調(diào)查方式，以發(fā)送問卷或召開聽證會(huì)、論證會(huì)來收集意見和反饋，不僅耗時(shí)長花費(fèi)大，獲得的結(jié)論也不具有代表性。人工智能可以對(duì)立法后評(píng)估所需數(shù)據(jù)進(jìn)行全樣本收集，收集對(duì)象和收集方式得以擴(kuò)充，所獲數(shù)據(jù)樣本更能反應(yīng)法規(guī)實(shí)施的真實(shí)效果，并在此基礎(chǔ)上快速分析數(shù)據(jù)，得出具有客觀性、真實(shí)性、時(shí)效性的結(jié)論。就評(píng)估報(bào)告形式陳舊而言，由于地方立法資源及人員素質(zhì)有限，其出具的立法后評(píng)估報(bào)告通常是紙質(zhì)文檔，冗長且缺乏直觀性、多樣性，不能達(dá)到良好展示效果，而人工智能則借助互聯(lián)網(wǎng)、多媒體可視化技術(shù)，制作豐富多樣的數(shù)據(jù)展現(xiàn)形式，如利用三維模型、時(shí)空動(dòng)態(tài)數(shù)據(jù)展示等技術(shù)[14]（P15），使評(píng)估報(bào)告更容易理解。

我國地方立法備案審查存在的問題包括法律文件比對(duì)困難、用時(shí)長。備案審查的目的是確保法規(guī)的合憲性與法律體系的統(tǒng)一性，其基本工作是將地方性法規(guī)與憲法、所有相關(guān)上位法進(jìn)行比對(duì)，審查是否有相違背之處。但我國規(guī)范性法律文件數(shù)量龐大，僅憑人力進(jìn)行比對(duì)，準(zhǔn)確性和效率都難以得到保障。統(tǒng)計(jì)數(shù)據(jù)顯示，2015年以來省、自治區(qū)人大常委會(huì)審批設(shè)區(qū)的市指定的地方性法規(guī)，平均耗時(shí)達(dá)50.3天，2017年上半年達(dá)到了78.8天，部分審批時(shí)間長達(dá)4個(gè)月甚至是半年[13]（P42）。如果將人工智能應(yīng)用于備案審查，短時(shí)間內(nèi)便可獲得準(zhǔn)確結(jié)果，為地方立法工作節(jié)省大量資源例如天津市人大常委會(huì)法制工作委員會(huì)在使用人工智能輔助立法時(shí)，為其設(shè)立“敏感詞詞庫”，提升備審查的效率。參見蒲曉磊. 用人工智能輔助地方立法[N]. 法制日?qǐng)?bào)，2018-01-23.。

三 人工智能地方立法的法律規(guī)制

人工智能應(yīng)用于地方立法固然能提升地方立法工作的質(zhì)量與效率，但對(duì)其利用不能超過應(yīng)有的限度，必須加以規(guī)制，人工智能立法的法律化勢(shì)在必行。通常人工智能的法律規(guī)制措施包括制定人工智能專門立法、設(shè)計(jì)人工智能倫理框架[15]，結(jié)合法律和技術(shù)手段建立對(duì)人工智能的風(fēng)險(xiǎn)控制機(jī)制[16]。就人工智能應(yīng)用于地方立法而言，人工智能地方立法的基本原則、采用什么樣的人工智能立法、人工智能在何種程度上參與地方立法、采取何種方式進(jìn)行地方立法，都需要通過法律來明確，以防止人工智能地方立法程序的濫用和錯(cuò)用。本文認(rèn)為，當(dāng)人工智能被應(yīng)用于立法工作時(shí)，需要確立“輔助原則”，規(guī)范人工智能立法程序的選用標(biāo)準(zhǔn)，限制人工智能立法程序的算法，以此來規(guī)制人工智能可能帶來的不利影響。

（一）確立人工智能地方立法的“輔助原則”

“輔助原則”也稱“有限原則”，指應(yīng)用人工智能進(jìn)行地方立法時(shí)，不可過度依賴，將全部事項(xiàng)都交由人工智能完成，而應(yīng)將其定位成輔助工具?！拜o助原則”的基本要求是要確立以人類為中心的工作理念、構(gòu)建人與人工智能的“合作觀”、平衡效率與價(jià)值之間的沖突。其一，確立以人類為中心的工作理念。人類才是地方立法工作的主要完成者，地方立法工作應(yīng)用人工智能只是為了完成一些繁雜且重復(fù)量大的輔助工作，使人類集中精力更好地完成主要工作。因此，在應(yīng)用人工智能進(jìn)行地方立法時(shí)，需要確定非終局性標(biāo)準(zhǔn)。非終局性指人工智能形成的所有結(jié)論或成果都需由人來進(jìn)行判斷并決定采用與否。要充分考慮人與人工智能的倫理關(guān)系，防止陷入人工智能主導(dǎo)或統(tǒng)治人類的悖論，所有地方立法事項(xiàng)都不能交由人工智能直接做決定，包括數(shù)據(jù)的檢索與分析，都只能作為參考資料，最終要由人把關(guān)。人工智能地方立法的工作范圍應(yīng)限定在數(shù)據(jù)檢索、數(shù)據(jù)整合分析等輔助性工作之內(nèi)，地方立法工作的核心環(huán)節(jié)是地方立法文本的擬定，其主觀性較大，可能引發(fā)的社會(huì)風(fēng)險(xiǎn)也最大，需要立法工作者以其專業(yè)技術(shù)和審慎態(tài)度來完成。相對(duì)而言，地方立法所涉及的其他環(huán)節(jié)都是建立在客觀數(shù)據(jù)分析之上，可能引發(fā)的風(fēng)險(xiǎn)較小，以成本收益分析方法論，所能獲取的收益遠(yuǎn)大于需要控制的風(fēng)險(xiǎn)。其二，構(gòu)建人與人工智能的“合作觀”。“輔助原則”背后所蘊(yùn)含的理念是人與人工智能之間溫和理性的“合作觀”[1]（P7），要求人與人工智能協(xié)同工作。其本質(zhì)是否認(rèn)用人工智能替代人類或徹底消滅人工智能等極端理念。其三，平衡效率與價(jià)值之間的沖突。人工智能應(yīng)用于地方立法時(shí)，雖然能大幅提升地方立法的效率，但也存在一味追求效率，而忽視公平正義等法律價(jià)值的風(fēng)險(xiǎn)。這種擔(dān)憂最早來源于人工智能在司法中的應(yīng)用，我國近幾年已在各地建立“智慧法院”，司法智能化取得很大進(jìn)展，但也引發(fā)人們思考，我們是否只要效率而忽視法律的公平與正義，答案是必須依靠人在效率與價(jià)值間尋找平衡點(diǎn)，才能讓法律從人工智能中獲益，這便是司法的“有限智能化”[17]。司法的“有限智能化”為人工智能地方立法指明了發(fā)展方向，也即確立“輔助原則”，這一原則的確立有助于構(gòu)建和諧的人機(jī)關(guān)系，促進(jìn)科技發(fā)展與社會(huì)進(jìn)步。

（二）規(guī)范人工智能地方立法程序的選用標(biāo)準(zhǔn)

人工智能地方立法程序，指構(gòu)成一項(xiàng)可用于進(jìn)行地方立法工作的人工智能的全部軟、硬件設(shè)施和其中的信息數(shù)據(jù)。從現(xiàn)實(shí)意義而言，規(guī)范人工智能地方立法程序的選用標(biāo)準(zhǔn)有助于從設(shè)施保障方面提升人工智能地方立法的質(zhì)量，防止地方因利益關(guān)系選用不合格的人工智能地方立法程序。從規(guī)范上來講，人工智能地方立法程序?qū)儆谖覈梢?guī)定的“關(guān)鍵信息基礎(chǔ)設(shè)施”。我國《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》指出：“國家關(guān)鍵信息基礎(chǔ)設(shè)施是指關(guān)系國家安全、國計(jì)民生，一旦數(shù)據(jù)泄露、遭到破壞或者喪失功能可能嚴(yán)重危害國家安全、公共利益的信息設(shè)施”，人工智能地方立法程序符合“關(guān)鍵信息基礎(chǔ)設(shè)施”的基本特征。根據(jù)我國《網(wǎng)絡(luò)安全法》和《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》的要求，對(duì)“關(guān)鍵信息基礎(chǔ)設(shè)施”實(shí)施重點(diǎn)保護(hù)，其中一項(xiàng)重要措施就是制定“關(guān)鍵信息基礎(chǔ)設(shè)施”選用標(biāo)準(zhǔn)。如《網(wǎng)絡(luò)安全法》第23條規(guī)定“網(wǎng)絡(luò)關(guān)鍵設(shè)備和網(wǎng)絡(luò)安全專用產(chǎn)品應(yīng)當(dāng)按照相關(guān)國家標(biāo)準(zhǔn)的強(qiáng)制性要求，由具備資格的機(jī)構(gòu)安全認(rèn)證合格或者安全檢測符合要求后，方可銷售或者提供。國家網(wǎng)信部門會(huì)同國務(wù)院有關(guān)部門制定、公布網(wǎng)絡(luò)關(guān)鍵設(shè)備和網(wǎng)絡(luò)安全專用產(chǎn)品目錄”。據(jù)此，地方立法機(jī)關(guān)應(yīng)按照國家網(wǎng)信部門會(huì)同國務(wù)院制定的專用產(chǎn)品目錄和相關(guān)國家標(biāo)準(zhǔn)的強(qiáng)制性要求選用人工智能地方立法程序。

綜合規(guī)范性文件的相關(guān)規(guī)定以及地方立法的實(shí)踐需要，人工智能地方立法程序的選用標(biāo)準(zhǔn)包括安全保障級(jí)別、性能狀況、自主研發(fā)程度。三項(xiàng)標(biāo)準(zhǔn)的內(nèi)在價(jià)值存在一定沖突，因此有必要明確選用標(biāo)準(zhǔn)的位階是安全第一，性能第二，自主研發(fā)第三。首先，結(jié)合《信息安全技術(shù)關(guān)鍵信息基礎(chǔ)設(shè)施安全保障指標(biāo)體系（征求意見稿）》確立人工智能地方立法程序的安全標(biāo)準(zhǔn)體系。該體系有建設(shè)情況、運(yùn)行能力、安全態(tài)勢(shì)三大一級(jí)指標(biāo)，建設(shè)情況指標(biāo)評(píng)價(jià)人工智能地方立法程序的安全保障措施的建設(shè)情況，運(yùn)行能力指標(biāo)評(píng)價(jià)安全保障措施的運(yùn)行能力，而安全態(tài)勢(shì)指標(biāo)評(píng)價(jià)安全保障的態(tài)勢(shì)情況。在三項(xiàng)一級(jí)指標(biāo)下，還有細(xì)化的二級(jí)、三級(jí)指標(biāo)，為人工智能地方立法程序的安全標(biāo)準(zhǔn)提供了詳細(xì)的借鑒。其次，根據(jù)各地實(shí)際情況選擇最符合地方性能需要的程序。我國幅員遼闊，不同地方的發(fā)展水平差異較大，這在立法工作中得到了充分體現(xiàn)，各地方立法資源的配置情況、立法水平、立法的側(cè)重點(diǎn)不盡相同。因此，在選用人工智能立法程序時(shí)，地方立法機(jī)關(guān)應(yīng)考慮自身資源、立法水平和實(shí)際需求等狀況，選擇匹配自身?xiàng)l件的人工智能立法程序。最后，盡量選用自主研發(fā)的人工智能立法程序。地方立法采用的人工智能應(yīng)盡可能選用國產(chǎn)程序，在條件允許的情況下，可以由地方立法機(jī)關(guān)與科技公司合作開發(fā)專門輔助立法工作的新型人工智能程序，這也符合國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中“以加快人工智能與經(jīng)濟(jì)、社會(huì)、國防深度融合為主線，以提升新一代人工智能科技創(chuàng)新能力為主攻方向”的指導(dǎo)思想，更能確保核心科技牢牢掌握在自己手中。

（三）限制人工智能地方立法程序的算法

人工智能地方立法程序的算法，指作為計(jì)算機(jī)程序的人工智能，其收集和分析數(shù)據(jù)所遵循的原則和方法，“人工智能從某種意義上講是一種能夠?qū)W習(xí)、判斷和決策的算法?！盵18]算法是人工智能的核心，它影響著人工智能應(yīng)用于地方立法的各個(gè)環(huán)節(jié)。人工智能的所有行為都是其算法的外化，對(duì)人工智能最有效、最根本的規(guī)制便是對(duì)算法的規(guī)制。因此，限制人工智能地方立法程序的算法也就是從根源上規(guī)范人工智能的立法行為。另一方面，基于人工智能特殊的主體地位，人與人工智能的關(guān)系實(shí)際上是人與算法的關(guān)系，人類不可能通過法律為人工智能設(shè)定行為模式，但可以通過法律規(guī)制算法，算法由此成為規(guī)制人工智能的必要工具。純粹的算法中立態(tài)度在人工智能地方立法程序的發(fā)展中并不可取，所謂純粹的算法中立指“任由算法技術(shù)自身運(yùn)行發(fā)展，而不被任何人為修改控制”[19]，恰恰是人工智能應(yīng)用于地方立法存在風(fēng)險(xiǎn)，才使得算法規(guī)制成為必要。但過度的算法規(guī)制也不可取，這是因?yàn)樗惴夹g(shù)的自由發(fā)展也是值得考量的價(jià)值訴求，我們需要尋求一種平衡，來消解對(duì)算法的規(guī)制與其自由發(fā)展之間存在張力。在此原則上，應(yīng)對(duì)人工智能地方立法程序進(jìn)行有限度的規(guī)制。

其一，從法律維度規(guī)制人工智能地方立法程序的算法。合法性基礎(chǔ)是人工智能地方立法程序算法的首要要求，“在算法設(shè)計(jì)過程中，應(yīng)當(dāng)通過法律的價(jià)值影響算法的回報(bào)函數(shù)，加強(qiáng)對(duì)網(wǎng)絡(luò)社會(huì)的技術(shù)治理手段的法律歸化?！盵20]具體而言，上位法和相關(guān)立法例應(yīng)當(dāng)作為人工智能地方立法程序輔助地方立法工作的絕對(duì)依據(jù)，以法律的價(jià)值、目的和有關(guān)規(guī)定來引導(dǎo)人工智能理解、分析和處理立法數(shù)據(jù)。例如人工智能地方立法程序?qū)τ谏衔环跋嚓P(guān)立法例的理解，應(yīng)當(dāng)與官方的法律解釋保持一致。由于法律語言具有模糊性，人們對(duì)于法律文本的內(nèi)涵或者外延存在不同理解，這種現(xiàn)象尤其在學(xué)術(shù)界最為常見[17]（P105），但在地方立法工作中，因?yàn)榻?jīng)常需要參照上位法及相關(guān)立法例，所以對(duì)上位法及相關(guān)立法例內(nèi)容的理解必須精準(zhǔn)而權(quán)威，應(yīng)以全國人大常委會(huì)和最高檢、最高法的解釋作為唯一標(biāo)準(zhǔn)，否則在立法論證、備案審查時(shí)便會(huì)無所適從。

其二，從社會(huì)維度規(guī)制人工智能地方立法程序的算法。首先，社會(huì)維度的算法規(guī)制具備規(guī)范性依據(jù)?！吨腥A人民共和國憲法》第24條明確規(guī)定了國家加強(qiáng)社會(huì)主義精神文明建設(shè)，倡導(dǎo)社會(huì)主義核心價(jià)值觀的職責(zé)，對(duì)此可以視為憲法否認(rèn)文化中立，賦予了國家文化引導(dǎo)的權(quán)力與義務(wù)，這種文化引導(dǎo)同樣適用于人工智能地方立法程序的算法設(shè)計(jì)[19]（P28），以使其在社會(huì)維度上更加符合社會(huì)主義文化價(jià)值的需求。其次，社會(huì)維度的算法規(guī)制是確保人工智能進(jìn)行地方立法具備可行性的前提。立法原本就是互相協(xié)商，尋求共識(shí)的過程，“法非從天下，非從地出，發(fā)于人間合于人心而已?！鄙鐣?huì)維度的規(guī)制手段是指將社會(huì)的倫理基礎(chǔ)與價(jià)值基礎(chǔ)、社會(huì)公益等融入人工智能地方立法程序的算法設(shè)計(jì)過程中，使人工智能的立法工作成果貼合社會(huì)實(shí)際，獲得普遍共識(shí)。最后，從社會(huì)維度規(guī)制人工智能地方立法程序的算法，得以防止社會(huì)價(jià)值的倫理風(fēng)險(xiǎn)。韋伯將理性區(qū)分為工具的和價(jià)值的[21]，“社會(huì)的進(jìn)步離不開先進(jìn)技術(shù)的開拓者，更離不開基本價(jià)值的守望者?！盵20]（P152）作為人類，面對(duì)人工智能立法程序時(shí)，尤其需要思考的問題是用人的價(jià)值觀來指導(dǎo)人工智能的算法進(jìn)行立法，還是任由算法自行發(fā)展，讓其立法成果體現(xiàn)出來的價(jià)值觀影響人類社會(huì)的價(jià)值基礎(chǔ)。如果我們選擇后者，那無異于放棄人的主體地位，存在人類被算法規(guī)訓(xùn)的倫理風(fēng)險(xiǎn)。出于防范倫理風(fēng)險(xiǎn)的考慮，社會(huì)維度的算法規(guī)制是必要的。

其三，對(duì)人工智能地方立法程序算法的規(guī)制應(yīng)“剛?cè)岵?jì)”。人工智能地方立法程序的規(guī)制主體是地方立法機(jī)關(guān)，“剛?cè)岵?jì)”作為一種方式，要求規(guī)制主體的行為保持在合理區(qū)間范圍內(nèi)，平衡防范風(fēng)險(xiǎn)與自由發(fā)展兩種價(jià)值訴求。首先要明確，在法的價(jià)值位階中，秩序或者說法的安定性總是優(yōu)先于其他價(jià)值訴求，“正義和法的安定性之間的沖突是可以得到解決的，只要實(shí)在的、通過命令和權(quán)力來保障的法也因而獲得優(yōu)先地位，即使其在內(nèi)容上是不正義的、不合目的性的。”[22]有學(xué)者提出要保持謙抑姿態(tài)對(duì)算法進(jìn)行規(guī)制，并主張采用元規(guī)制模式，即政府的規(guī)制讓位于人工智能行業(yè)的內(nèi)部規(guī)制，只有在內(nèi)部規(guī)制失效的情況下，政府的規(guī)制才是合理的[19]（P29）。因?yàn)樾袠I(yè)利益的存在，行業(yè)內(nèi)部規(guī)制的有效性非常低，內(nèi)部規(guī)制優(yōu)先的實(shí)質(zhì)就是保障行業(yè)的自由發(fā)展。一旦人工智能地方立法程序發(fā)生問題，此時(shí)外部規(guī)制如果只作為兜底方式，將難以挽回社會(huì)損失。元規(guī)制模式背后的價(jià)值位階是顛倒的，也即秩序讓步于發(fā)展，其實(shí)施的風(fēng)險(xiǎn)太大。在價(jià)值沖突的背景下，還存在一種基于協(xié)同治理理論的規(guī)制模式?！皡f(xié)同治理倡導(dǎo)多元治理主體（包括公共部門、企業(yè)、社會(huì)組織和個(gè)人）在資源與利益相互依賴的基礎(chǔ)上共同參與決策制定，并協(xié)同解決公共問題?！盵23]地方立法機(jī)關(guān)與程序研發(fā)機(jī)構(gòu)的規(guī)制應(yīng)同時(shí)并行，在算法規(guī)則的共同制定、對(duì)違規(guī)算法的認(rèn)定和處理、對(duì)算法設(shè)計(jì)者的懲處等方面進(jìn)行充分協(xié)商后作出決定，在協(xié)商共治的基礎(chǔ)上達(dá)成協(xié)同規(guī)制。這種模式綜合了立法機(jī)關(guān)的法律意見和研發(fā)者的專業(yè)意見，既滿足了防范風(fēng)險(xiǎn)的需求，又保障了研發(fā)者的積極性，促進(jìn)人工智能地方立法程序進(jìn)一步發(fā)展。

隨著科技發(fā)展與社會(huì)進(jìn)步，人工智能成為新時(shí)代不可回避的話題?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》提出要大力發(fā)展人工智能，探索人工智能與法律的結(jié)合形式，這為人工智能輔助地方立法提供了依據(jù)，同時(shí)也對(duì)人工智能的法律規(guī)制、人與人工智能倫理關(guān)系的構(gòu)建提出了要求。我們既不能否定人工智能的作用，也不能過度依賴人工智能，“科技是一把雙刃劍”早已不是什么新話題，人類社會(huì)正是在抱著對(duì)科技的信仰與有節(jié)制的利用中一路前行，從而發(fā)展出燦爛的現(xiàn)代文明。

[參 考 文 獻(xiàn)]

[1] 江必新，鄭禮華.互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能與科學(xué)立法[J].法學(xué)雜志，2018（5）：1-7.

[2] 蒲曉磊.用人工智能輔助地方立法[N].法制日?qǐng)?bào)，2018-01-23：10.

[3] 金夢(mèng).中國人工智能立法的科學(xué)性探析[J].中共中央黨校（國家行政學(xué)院）學(xué)報(bào)，2019（1）：104-112.

[4] 羅洪洋，陳雷.智慧法治的概念證成及形態(tài)定位[J].政法論叢，2019（2）：25-35.

[5] 肖興，姜素紅.論我國地方環(huán)境立法及其完善[J].中南林業(yè)科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）2007（4）：19-22.

[6] 推動(dòng)我國新一代人工智能健康發(fā)展[J].紫光閣，2018（12）：8.

[7] 龔祥瑞，李克強(qiáng).法律工作的計(jì)算機(jī)化[J].法學(xué)雜志，1983（3）：20-25.

[8] 高紹林，張宜云.人工智能在立法領(lǐng)域的應(yīng)用與展望[J].地方立法研究，2019（1）：50-56.

[9] 周旺生.立法學(xué)[M].北京：法律出版社，2009：420.

[10] 柯旭，吳章敏.地方性法規(guī)立項(xiàng)論證若干問題研究[J].地方立法研究，2017（4）：115-120.

[11] 浙江省人大常委會(huì)法制工作委員會(huì).公眾參與立法若干問題研究[EB/OL].http：//www.npc.gov.cn/npc/lfzt/rlyw/2017-09/13/content_2028849.htm，2017-9-13/2018-12-20.

[12] 刑法修正案（九）（草案二次審議稿）[EB/OL].http：//www.npc.gov.cn/npc/flcazqyj/node_8195_4.htm，2015-7-10/2018-12-25.

[13] 閆然，毛雨.設(shè)區(qū)的市地方立法三周年大數(shù)據(jù)分析報(bào)告[J].地方立法研究，2018（3）：41-46.

[14] 曹瀚予.大數(shù)據(jù)在立法后評(píng)估中的應(yīng)用析論[J].自然辯證法通訊，2018（11）：12-18.

[15] 馬長山.人工智能的社會(huì)風(fēng)險(xiǎn)及其法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2018（6）：53-58.

[16] 吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2017（5）：128-136.

[17] 張清，張蓉."人工智能+法律"發(fā)展的兩個(gè)面向[J].求是學(xué)刊，2018（4）：97-106.

[18] 鄭戈.算法的法律與法律的算法[J].中國法律評(píng)論，2018（2）：66-85.

[19] 段澤孝.人工智能時(shí)代互聯(lián)網(wǎng)誘導(dǎo)行為的算法規(guī)制[J].江西社會(huì)科學(xué)，2019（2）：24-32.

[20] 姜野.算法的規(guī)訓(xùn)與規(guī)訓(xùn)的算法：人工智能時(shí)代算法的法律規(guī)制[J].河北法學(xué)，2018，36（12）：142-153.

[21] [德]馬克斯·韋伯.論經(jīng)濟(jì)與社會(huì)中的法律[M].張乃根譯.北京：中國大百科全書出版社，1998：63.

[22] [德]古斯塔夫·拉德布魯赫.法律的不法與超法律的法（1946年）[J]. 舒國瀅譯.法哲學(xué)與法社會(huì)學(xué)論叢，2001：437-440.

[23] 張賢明，田玉麒.論協(xié)同治理的內(nèi)涵、價(jià)值及發(fā)展趨向[J].湖北社會(huì)科學(xué)，2016（1）：30-37.