徐亞文，陳路易

（武漢大學(xué) 法學(xué)院，湖北 武漢 430072）

當(dāng)今社會(huì)正步入“云大物移智”時(shí)代，人工智能與法結(jié)合成為法律科技發(fā)展的客觀趨勢(shì)。在地方立法領(lǐng)域，國(guó)家也開始逐步推進(jìn)立法工作的智能化與現(xiàn)代化。[1]2017 年國(guó)務(wù)院公布了《新一代人工智能發(fā)展規(guī)劃》并提出促進(jìn)人工智能在法律文件閱讀與分析中的應(yīng)用。全國(guó)人大常委會(huì)法工委在關(guān)于十二屆全國(guó)人大以來暨2017 年備案審查工作情況的報(bào)告中指出，要“著力推進(jìn)備案審查信息化建設(shè)，大力推進(jìn)省級(jí)人大備案審查信息平臺(tái)建設(shè)”。①參見《全國(guó)人民代表大會(huì)常務(wù)委員會(huì)法制工作委員會(huì)關(guān)于十二屆全國(guó)人大以來暨2017 年備案審查工作情況的報(bào)告》，載http://www.npc.gov.cn/npc/c12435/201712/18c831eededb459cb645263ebf 225600.shtml，2021 年10 月1 日訪問。在2018 年中共中央政治局第九次集體學(xué)習(xí)中，習(xí)近平強(qiáng)調(diào)“要加強(qiáng)人工智能同社會(huì)治理的結(jié)合，開發(fā)適用于政府服務(wù)和決策的人工智能系統(tǒng)”。②參見《習(xí)近平：推動(dòng)我國(guó)新一代人工智能健康發(fā)展》，載http://www.xinhuanet.com/politics/leaders/2018-10/31/c_1123643321.htm，2021 年10 月1 日訪問。

近年來，包括中國(guó)法律大數(shù)據(jù)聯(lián)盟、國(guó)家法律法規(guī)數(shù)據(jù)庫在內(nèi)的各類法律數(shù)據(jù)庫和人工智能平臺(tái)陸續(xù)建立，各個(gè)省市紛紛開展地方立法與人工智能結(jié)合的有益嘗試，如貴陽市出臺(tái)的首部人工智能立法的法律規(guī)范《貴陽市政府?dāng)?shù)據(jù)開放共享?xiàng)l例》、天津市人大常委會(huì)使用的北大法寶智能備案智能審查系統(tǒng)、上海市建立的政府立法信息平臺(tái)、浙江省政府聯(lián)合浙江大學(xué)成立的立法研究院以及多地立法項(xiàng)目庫的建立。通過大數(shù)據(jù)、知識(shí)圖譜、自然語言系統(tǒng)等智能技術(shù)搜集、分析和處理立法數(shù)據(jù)和信息，立法成本顯著降低，地方立法的質(zhì)量和效率明顯提高。但人工智能與地方立法的關(guān)系是雙向的，它在為社會(huì)帶來巨大便利和發(fā)展的同時(shí)，由此而生的法律問題也同步出現(xiàn)。基于此，本文立足“數(shù)字法治”下地方立法與人工智能結(jié)合的客觀背景，分析人工智能的應(yīng)用可能帶來的風(fēng)險(xiǎn)與挑戰(zhàn)，探索規(guī)制地方立法應(yīng)用人工智能的合理路徑。

一、地方立法應(yīng)用人工智能的價(jià)值分析

人工智能并非單純的計(jì)算機(jī)學(xué)科分支，而是涵蓋信息科學(xué)、神經(jīng)科學(xué)、控制科學(xué)等多領(lǐng)域的復(fù)合學(xué)科。它具備像人類一樣思考的潛力，能夠通過“圖靈測(cè)試”并在數(shù)據(jù)學(xué)習(xí)的基礎(chǔ)上通過自然語言系統(tǒng)進(jìn)行推理、規(guī)劃、決策、交流和行動(dòng)。從內(nèi)容上看，它不僅包含簡(jiǎn)單的計(jì)算機(jī)程序，還涵蓋當(dāng)下信息革命最新的成果，如互聯(lián)網(wǎng)、大數(shù)據(jù)以及人造神經(jīng)網(wǎng)絡(luò)、專家系統(tǒng)等。自2015 年《立法法》賦予所有設(shè)區(qū)的市地方立法權(quán)后，立法主體激增，各地掀起立法熱潮，出臺(tái)了諸多地方性法規(guī)。這些地方性法規(guī)在一定程度上促進(jìn)了地方依法、有效治理，但也暴露出立法矛盾、粗糙、重復(fù)、無特色等問題。在依法治國(guó)和社會(huì)治理精細(xì)化要求推動(dòng)下，地方立法面臨沉重的工作量和人才儲(chǔ)備匱乏的窘境。將人工智能引入地方立法領(lǐng)域有利于從立法程序的各個(gè)環(huán)節(jié)緩解地方立法的壓力。

在立法資料檢索上，當(dāng)前地方立法面臨著嚴(yán)峻的信息壓力。對(duì)于接踵而至的新問題和新事物，地方立法機(jī)構(gòu)囿于有限理性，很難及時(shí)掌握社會(huì)關(guān)系的最新動(dòng)態(tài)，作出正確的立法決策。當(dāng)前，大數(shù)據(jù)的采集和儲(chǔ)存處理技術(shù)能夠幫助地方立法機(jī)關(guān)快速搜尋多元化信息，并在預(yù)先設(shè)定好的算法邏輯下篩選和處理，保留有利用價(jià)值和潛在利用價(jià)值的立法數(shù)據(jù)，剔除無價(jià)值的立法數(shù)據(jù)。尤其針對(duì)當(dāng)前地方立法中征求民眾意見渠道單一不通暢、回應(yīng)機(jī)制不完善的情況，人工智能可以幫助地方立法機(jī)關(guān)充分利用互聯(lián)網(wǎng)平臺(tái)，通過爬蟲和數(shù)據(jù)API 技術(shù)，從互聯(lián)網(wǎng)上采集微博、抖音、微信等評(píng)論意見并自動(dòng)分類、排重和常識(shí)校對(duì)。[2]相較傳統(tǒng)的調(diào)研調(diào)查、聽證會(huì)、電子郵件、信件等途徑，這種方式更具有全面性和高效率的特點(diǎn)。

在立法項(xiàng)目論證上，地方立法存在部門利益法制化的嚴(yán)重弊端。地方立法機(jī)關(guān)可能兼具規(guī)則制定者和規(guī)則裁判者的雙重身份。借助大數(shù)據(jù)的處理和智能關(guān)聯(lián)分析技術(shù)和知識(shí)圖譜技術(shù)，地方立法者可以對(duì)立法項(xiàng)目進(jìn)行交叉對(duì)比以及定性、定量分析，為評(píng)估活動(dòng)提供科學(xué)參考，克服“部門利益法治化”的弊端；另外，目前人工智能已可以在分析評(píng)價(jià)標(biāo)準(zhǔn)、往屆獲獎(jiǎng)數(shù)據(jù)的基礎(chǔ)上高度準(zhǔn)確預(yù)知奧斯卡獲獎(jiǎng)電影，相信不久的將來，在人造神經(jīng)網(wǎng)絡(luò)系統(tǒng)的基礎(chǔ)上能夠研發(fā)一套智能決策支持系統(tǒng)，精準(zhǔn)預(yù)測(cè)地方立法項(xiàng)目的發(fā)展趨勢(shì)，輔助立法者做出正確決策。

在法律草案編纂上，當(dāng)前地方法律規(guī)范存在的立法抄襲、立法抵觸和文本結(jié)構(gòu)缺陷等情況。人工智能技術(shù)能夠全面搜索上位法規(guī)定、類似的地方立法、案例、社情民意等立法資料并進(jìn)行可視化分析，快速對(duì)法律草案的影響因子、依賴關(guān)系、可信度等進(jìn)行科學(xué)測(cè)定，預(yù)測(cè)法律出臺(tái)后可能產(chǎn)生的問題并通過快速的反饋機(jī)制對(duì)法律草案進(jìn)行完善。

在法律備案上，未來的備案審查工作可以充分運(yùn)用語義理解、實(shí)體或關(guān)系識(shí)別技術(shù)、動(dòng)態(tài)增量更新技術(shù)，準(zhǔn)確辨別不同法律表述蘊(yùn)含的實(shí)質(zhì)意義，對(duì)地方法律規(guī)范進(jìn)行實(shí)時(shí)、動(dòng)態(tài)和追溯式的審查，提高備案審查的科學(xué)性和效率，維護(hù)法律尊嚴(yán)和國(guó)家法制的統(tǒng)一。[3]

在立法后評(píng)估上，借助人工智能強(qiáng)大的信息搜集、處理、關(guān)聯(lián)分析和可視化技術(shù)，立法后評(píng)估能夠克服傳統(tǒng)調(diào)研方式的弊端以及評(píng)價(jià)主體的主觀化和單一化傾向，保證評(píng)估結(jié)果的科學(xué)性和客觀性，最終呈現(xiàn)一份邏輯嚴(yán)密、數(shù)據(jù)豐富、案例典型的意見報(bào)告。

二、地方立法應(yīng)用人工智能的風(fēng)險(xiǎn)挑戰(zhàn)

人工智能可以給地方立法工作帶來高效率、高細(xì)度和高精度的技術(shù)紅利。但需要明確，當(dāng)前人工智能參與地方立法的程度尚淺，正面、積極的影響占據(jù)上風(fēng)，并不代表不存在負(fù)面影響。地方立法符合國(guó)家法規(guī)政策精神，也適應(yīng)地方立法工作的實(shí)際需求。伴隨著人工智能技術(shù)的發(fā)展，智能立法產(chǎn)品的應(yīng)用將會(huì)愈加深入，由此產(chǎn)生的風(fēng)險(xiǎn)也將更加凸現(xiàn)。根據(jù)烏爾里?！へ惪说娘L(fēng)險(xiǎn)社會(huì)理論，科學(xué)的副作用雖具備日益增長(zhǎng)的不可計(jì)算性，但包含日益增加的可評(píng)估性。有關(guān)副作用的知識(shí)原則上是可具備的，也總是在場(chǎng)的（潛在的）。這些知識(shí)現(xiàn)已實(shí)現(xiàn)充分分化，可以輔助人們權(quán)衡關(guān)聯(lián)范圍和結(jié)果。人們會(huì)因?yàn)橹揽赡艿挠绊懚坏貌徊扇⌒袆?dòng)，從這個(gè)意義上說，結(jié)果的不可計(jì)算性并不影響對(duì)結(jié)果產(chǎn)生過程的評(píng)估，也不影響在科學(xué)研究過程中采取規(guī)避風(fēng)險(xiǎn)的相關(guān)行動(dòng)。對(duì)于地方立法而言，應(yīng)用人工智能的風(fēng)險(xiǎn)雖不具備可計(jì)算性，但有關(guān)地方立法與人工智能的副作用的知識(shí)總是具備且可用的，這些知識(shí)可以輔助當(dāng)下合理評(píng)估風(fēng)險(xiǎn)，并采取措施主動(dòng)規(guī)避。地方立法應(yīng)用人工智能的風(fēng)險(xiǎn)具體表現(xiàn)為兩個(gè)方面：一是對(duì)地方立法本身的負(fù)面影響，二是對(duì)數(shù)據(jù)管理的挑戰(zhàn)。

（一）對(duì)地方立法的負(fù)面影響

根據(jù)《立法法》的規(guī)定，地方立法應(yīng)堅(jiān)持科學(xué)立法、民主立法和依法立法相統(tǒng)一。[4]人工智能雖能提高地方立法的效率和質(zhì)量，但也給地方立法的科學(xué)性、民主性和合法性造成一定的風(fēng)險(xiǎn)和挑戰(zhàn)。

1.依法立法問題

依法立法包括依憲立法、依法定權(quán)限立法、依法定程序立法和貫徹黨的方針政策這四個(gè)方面。在人工智能輔助地方立法過程中，算法偏見的合法化可能導(dǎo)致地方立法對(duì)憲法規(guī)定的法律面前人人平等原則的違背，智能產(chǎn)品的不當(dāng)運(yùn)用可能導(dǎo)致對(duì)立法權(quán)限的突破和立法程序的違背。

第一，算法偏見問題。算法和數(shù)據(jù)是人工智能兩大核心要素。如果我們將人工智能視為一道佳肴，數(shù)據(jù)就是食材，算法就是食譜。算法通過將問題處理過程模式化，大大提高了計(jì)算機(jī)完成任務(wù)的效率。然而，算法是一種“偏見進(jìn)，偏見出”的決策機(jī)制。一方面，算法以數(shù)據(jù)為基礎(chǔ)，當(dāng)數(shù)據(jù)存在偏差時(shí)，就會(huì)不可避免地產(chǎn)生歧視。另一方面，算法是人的產(chǎn)物，必然蘊(yùn)含人的價(jià)值取向，如社會(huì)歧視或私人利益。就地方立法而言，從實(shí)施大數(shù)據(jù)戰(zhàn)略開始，立法領(lǐng)域便有公開立法意見、公開聽證等工作。但這里公開的并非原始數(shù)據(jù)，而是包含人的主觀判斷的信息，并不適合作為算法基礎(chǔ)進(jìn)行清洗和處理。[5]加上當(dāng)前各個(gè)地方法律數(shù)據(jù)庫建設(shè)仍在起步中，可供人工智能學(xué)習(xí)的數(shù)據(jù)并不全面。除此之外，系統(tǒng)設(shè)計(jì)者本身的主觀偏見和價(jià)值判斷也有可能融入到算法模型中去，且往往這種偏見是難以被發(fā)覺的。算法的運(yùn)作邏輯是經(jīng)驗(yàn)性的，如果數(shù)據(jù)和算法存在偏見，那么算法結(jié)果將會(huì)延續(xù)這種偏見，地方立法機(jī)關(guān)依照算法結(jié)果作出的立法選擇將會(huì)使該偏見予以合法化。這種情況下，地方立法很容易忽視少數(shù)群體或個(gè)人的利益，導(dǎo)致弱勢(shì)群體很難享受平等的法定權(quán)利，還沒有積累充分個(gè)人信息的社會(huì)主體將會(huì)被排除在更多商業(yè)服務(wù)以外。[6]

第二，立法程序的違背問題。根據(jù)《立法法》的規(guī)定，立法應(yīng)當(dāng)依照法定的權(quán)限和程序。以地方政府規(guī)章為例，根據(jù)《規(guī)章程序制定條例》和《法規(guī)規(guī)章備案條例》的規(guī)定，地方政府規(guī)章的制定程序包括立項(xiàng)、起草、審查、決定、公布和解釋。具體而言，政府工作部門或下級(jí)人民政府負(fù)責(zé)報(bào)請(qǐng)立項(xiàng)，并就規(guī)章制定的必要性等情況作出說明；政府法治機(jī)構(gòu)負(fù)責(zé)對(duì)項(xiàng)目建議進(jìn)行評(píng)估論證，并對(duì)規(guī)章送審稿進(jìn)行統(tǒng)一審查；政府一個(gè)或者數(shù)個(gè)工作部門負(fù)責(zé)具體起草工作；地方政府規(guī)章公布后，國(guó)務(wù)院部門以及省、自治區(qū)、直轄市和較大的市人民政府負(fù)責(zé)備案審查監(jiān)督管理職責(zé)。各個(gè)機(jī)關(guān)部門各司其職，相互配合，共同推進(jìn)規(guī)章的出臺(tái)。在信息壓力、技術(shù)外包、官商勾結(jié)等多重因素的影響下，有限理性的政府工作者極易滋生懶惰心理，不再費(fèi)盡心力研究如何“立好法”，而是不假思索地將智能化分析結(jié)果應(yīng)用到地方立法中，放縱其代替自己進(jìn)行“思考”并“立法”。智能立法產(chǎn)品是由程序員、軟件工程師、數(shù)據(jù)處理商和高新科技公司共同研發(fā)的智能產(chǎn)品，內(nèi)含主觀傾向性的算法設(shè)置，部分產(chǎn)品的運(yùn)作仍受到研發(fā)者的預(yù)測(cè)和控制，部分產(chǎn)品已脫離研發(fā)者掌控，自主形成具有不可預(yù)知性的算法結(jié)果。如果對(duì)人工智能的使用不加以控制，則大概率導(dǎo)致立法主體實(shí)質(zhì)上的雙重結(jié)構(gòu)——一為法定的國(guó)家機(jī)關(guān)，二為研發(fā)群體或具有不可歸責(zé)性的智能立法產(chǎn)品，甚至走向極端化——前者淪為附庸，算法支配立法。需要明確的是，目前對(duì)立法決策進(jìn)行智能化分析并非法定和必經(jīng)的程序。人工智能也不具備立法主體地位，而未來的實(shí)踐傾向卻將人工智能實(shí)質(zhì)上置于該地位，參與并主導(dǎo)地方立法的制定過程。地方立法主體只能是地方人大、政府及其部門或法律法規(guī)授權(quán)和委托的主體，對(duì)人工智能過度的期待和利用可能導(dǎo)致現(xiàn)代法治的制度設(shè)計(jì)分崩離析，引發(fā)社會(huì)矛盾、混亂甚至失控。

2.民主立法問題

根據(jù)《立法法》第五條規(guī)定，立法應(yīng)當(dāng)體現(xiàn)人民的意志，發(fā)揚(yáng)社會(huì)主義民主，堅(jiān)持立法公開，保障人民通過多種途徑參與立法活動(dòng)。民主立法意味著立法公開，擴(kuò)大公眾有序參與，體現(xiàn)人民意志，確保利益各方機(jī)會(huì)均等、充分博弈。人工智能輔助地方立法可能導(dǎo)致公眾參與機(jī)制流于形式，消解立法的民主性。人工智能雖有利于廣泛搜集民眾的立法意見并給予反饋，但這僅是民主的一個(gè)方面。收集民意并不代表一定會(huì)采納民意。如果智能產(chǎn)品收集的社情民意與以科學(xué)技術(shù)得出的機(jī)器認(rèn)知出現(xiàn)偏差時(shí)應(yīng)當(dāng)如何處理？有人認(rèn)為，通過算法運(yùn)作所得的決策結(jié)果即是科學(xué)的，應(yīng)當(dāng)采用智能化決策結(jié)果。但科學(xué)就一定是正確的嗎？實(shí)則不然。第一，作為知識(shí)的科學(xué)需要不斷積累，存在隨時(shí)被證偽的可能。人工智能輔助地方立法需要把社會(huì)相關(guān)信息予以數(shù)據(jù)化。但錯(cuò)綜復(fù)雜、動(dòng)態(tài)變化的社會(huì)生活不可能被全盤數(shù)據(jù)化，而且一旦生活被數(shù)據(jù)化，其原本面目和價(jià)值都可能被扭曲。[7]第二，作為技術(shù)的科學(xué)在產(chǎn)生、使用過程中會(huì)受到創(chuàng)造者和使用者主觀目的、價(jià)值觀和社會(huì)結(jié)構(gòu)的影響。算法的生產(chǎn)會(huì)受到設(shè)計(jì)者本身的價(jià)值取向的影響，算法的使用會(huì)受到數(shù)據(jù)不全面的影響。因此，人工智能作為一項(xiàng)發(fā)展中的科學(xué)技術(shù)不足以輔助地方立法做出完全確定、中立的權(quán)威決策，也不能完全代替民主渠道反饋的意見。然而，地方立法工作很容易滑向?qū)θ斯ぶ悄艿拿つ砍绨?。一方面，人工智能擁有?qiáng)大的數(shù)據(jù)處理和智能分析系統(tǒng)，相比之下，民眾缺乏必要的專業(yè)知識(shí)和技能，很難表達(dá)利益需要，同地方立法機(jī)關(guān)開展辯論和協(xié)商；另一方面，出于對(duì)科學(xué)的盲目信任以及地方立法者的“懶惰心理”，人工智能的產(chǎn)出結(jié)果便可能會(huì)被不假思索地應(yīng)用到地方立法中。此時(shí)，公眾與“科學(xué)”相左的聲音便成為無足輕重的東西，民主參與和監(jiān)督機(jī)制流于形式。更有甚者，地方權(quán)力機(jī)關(guān)可以借此機(jī)會(huì)，披著“自動(dòng)化決策”和“算法黑箱”的外衣，聲稱“技術(shù)中立”，成為實(shí)質(zhì)上法律的獨(dú)裁者。如果在地方立法中處理不好科技與民主的關(guān)系，那么人工智能的引入就有導(dǎo)致民主消解的風(fēng)險(xiǎn)。

3.科學(xué)立法問題

科學(xué)立法一方面指立法應(yīng)當(dāng)根據(jù)實(shí)際，適應(yīng)社會(huì)經(jīng)濟(jì)發(fā)展需要；另一方面指應(yīng)當(dāng)科學(xué)合理地規(guī)定國(guó)家機(jī)關(guān)的權(quán)力與責(zé)任，公民、法人和其他組織的權(quán)利與義務(wù)。地方立法應(yīng)用人工智能會(huì)產(chǎn)生技術(shù)不確定、需求不匹配和算法干預(yù)的問題，影響地方立法的科學(xué)性。

一是技術(shù)不確定問題。人工智能同任何新技術(shù)一樣，都具有不確定性，會(huì)給社會(huì)帶來未知的安全風(fēng)險(xiǎn)。這是因?yàn)槿祟悷o法預(yù)估全部可能發(fā)生的問題，也無法絕對(duì)排除技術(shù)隨機(jī)生成穩(wěn)定性故障的可能性。以自動(dòng)駕駛汽車為例，在人工智能自主判斷路況信息時(shí)，可能出現(xiàn)誤判或失靈，從而導(dǎo)致安全事故。這些事故有的可以通過技術(shù)溯源進(jìn)行解釋，有的卻是無法解釋的現(xiàn)象。就地方立法而言，一方面，法律是利益協(xié)調(diào)的產(chǎn)物，會(huì)牽涉眼前與長(zhǎng)遠(yuǎn)、經(jīng)濟(jì)與社會(huì)、部門與公共利益之間當(dāng)然的動(dòng)態(tài)平衡。處理其間的價(jià)值判斷不僅要以對(duì)數(shù)據(jù)的經(jīng)驗(yàn)性分析為基礎(chǔ)，更“以人們對(duì)法律涉及事物的先前認(rèn)識(shí)為唯一的、絕對(duì)的依據(jù)”。這種先前認(rèn)識(shí)是指人們出于倫理、情感等人文因素調(diào)整某一事態(tài)的歷史進(jìn)路，而不是這一事態(tài)由自然因素所決定的情勢(shì)。[8]地方立法應(yīng)用人工智能不可避免地涉及不同利益的協(xié)調(diào)平衡。然而，當(dāng)前的人工智能最擅長(zhǎng)的是經(jīng)驗(yàn)性分析，在處理人類的感情和倫理上尚不成熟，從而很難去理解和解釋數(shù)據(jù)背后的立法關(guān)系，以符合人類價(jià)值觀的方式探索法律所調(diào)整事態(tài)的客觀規(guī)律。這就有可能會(huì)導(dǎo)致依靠智能產(chǎn)品制作出來的法律隱含道德風(fēng)險(xiǎn)，不被公眾所接納。另一方面，智能立法產(chǎn)品必須要邁過一個(gè)鴻溝——法理學(xué)原則的有效運(yùn)用。人工智能輔助地方立法需要具備基礎(chǔ)的法律推理、論證和解釋能力以及及時(shí)學(xué)習(xí)事態(tài)變化，如規(guī)則沖突、法律知識(shí)基礎(chǔ)的變化、法律概念的變化的能力，[9]這些都需要基于法律語言才能開展。但法律語言本身具有模糊性和多元性，一個(gè)法律概念或法律問題在法律職業(yè)共同體內(nèi)就可能有多種解釋或看法。人工智能即使再高級(jí)，也只能作單向的精準(zhǔn)推理。如果處理不好，其功能就會(huì)大大折扣，甚至成為“人工智障”，反而拖累立法進(jìn)度。

二是需求不匹配和企業(yè)干預(yù)問題。[10]目前法律職業(yè)群體普遍缺乏基礎(chǔ)的自然科學(xué)素養(yǎng)，立法領(lǐng)域的大數(shù)據(jù)、算法等智能技術(shù)人才更為稀缺。在此情形下，技術(shù)外包是地方立法應(yīng)用人工智能的唯一途徑。這就導(dǎo)致了諸多問題。一方面，立法和智能系統(tǒng)開發(fā)都屬于專業(yè)性活動(dòng)，技術(shù)人員需要了解該產(chǎn)品服務(wù)的立法環(huán)節(jié)在整個(gè)立法程序中的位置和作用、與其他立法環(huán)節(jié)的關(guān)系以及立法的整體運(yùn)作。地方立法者需要具備將立法需求進(jìn)行信息化描述的能力。如果二者之間的溝通出現(xiàn)毫厘差池，最終的成品就可能謬之千里。另一方面，研發(fā)機(jī)構(gòu)可能通過這種技術(shù)外包的形式不當(dāng)介入地方立法。諸如阿里巴巴、京東等公司通過線上購物等形式積累了海量的數(shù)據(jù)信息資源，甚至有時(shí)候政府也要求助于他們，如浙江高院就大數(shù)據(jù)、云計(jì)算等產(chǎn)業(yè)與阿里巴巴開展合作，建設(shè)“智慧法院”。阿里巴巴等企業(yè)完全有足夠的動(dòng)機(jī)篡改測(cè)評(píng)數(shù)據(jù)和算法法則，通過隱蔽手段獲取更大利益。更甚者，技術(shù)外包容易造成政商勾結(jié)，滋生腐敗。在此情況下，地方立法有可能使企業(yè)私益合法化，科學(xué)合理分配公民、法人和其他組織的權(quán)利與義務(wù)便淪為空談。

（二）對(duì)數(shù)據(jù)管理的挑戰(zhàn)

在數(shù)據(jù)管理方面，人工智能輔助地方立法面臨著“法律的高需求和法律的零供給”[11]的突出矛盾。

1.法律的高需求

一方面，數(shù)據(jù)是人工智能時(shí)代的食材。隨著法律科技的發(fā)展，人工智能輔助地方立法環(huán)節(jié)將會(huì)進(jìn)一步擴(kuò)展，對(duì)數(shù)據(jù)這種食材的需求量就會(huì)越來越大。在這個(gè)過程中會(huì)產(chǎn)生兩個(gè)問題：其一，數(shù)據(jù)之于企業(yè)的影響。人工智能的研發(fā)多依靠企業(yè)完成，然而其賴以存在的數(shù)據(jù)資源是在政府提供的基礎(chǔ)設(shè)施之上，且很多涉及法律保護(hù)的隱私內(nèi)容。合理的政商關(guān)系的基礎(chǔ)應(yīng)當(dāng)為公權(quán)力和資本劃上明晰的界限，政府和企業(yè)在各自領(lǐng)域擁有明確的職權(quán)。人工智能輔助地方立法過程中將使該界限模糊化，產(chǎn)生該如何界定、企業(yè)對(duì)數(shù)據(jù)的使用權(quán)等問題。如果處理不當(dāng)就容易導(dǎo)致兩個(gè)極端：一是企業(yè)對(duì)數(shù)據(jù)的過度支配造成數(shù)據(jù)濫用甚至企業(yè)壟斷，危害公共利益；二是企業(yè)對(duì)數(shù)據(jù)的使用權(quán)處處受限，經(jīng)濟(jì)被政治不當(dāng)操控，智能立法技術(shù)研發(fā)進(jìn)程緩慢。[12]其二，數(shù)據(jù)之于公民的影響，這是數(shù)據(jù)管理領(lǐng)域最核心的問題。普通公民作為數(shù)據(jù)的生產(chǎn)者和使用者，雖然參與“大數(shù)據(jù)的基本循環(huán)”，卻無法把握或影響所使用的信息技術(shù)基礎(chǔ)設(shè)施，從而處于“所有數(shù)據(jù)都由公民自身產(chǎn)生，但所有權(quán)卻并不屬于我們”的尷尬境地。[13]而在地方立法智能化過程中，地方立法者以及人工智能研發(fā)機(jī)構(gòu)不可避免地需要搜集、整理和利用來自各方面的數(shù)據(jù)，不僅僅包括已經(jīng)公開了的法規(guī)文本、司法裁判文書等，還包括非公開的軟件后臺(tái)運(yùn)行數(shù)據(jù)。這些數(shù)據(jù)中可能包含公民的個(gè)人信息和隱私。目前存在某些地方立法機(jī)關(guān)利用大數(shù)據(jù)技術(shù)對(duì)目標(biāo)群體的數(shù)據(jù)進(jìn)行挖掘分析，依據(jù)畫像模型所體現(xiàn)出來的信息決定是否采納該群體的意見。[14]這明顯超出了個(gè)人信息的使用范圍。如何合理使用數(shù)據(jù)以防止對(duì)公民信息和隱私權(quán)的侵害是地方立法應(yīng)用人工智能亟待解決的重大難點(diǎn)。

2.法律的零供給

我國(guó)關(guān)于數(shù)據(jù)和數(shù)據(jù)權(quán)利的立法尚不完備。新出臺(tái)的《數(shù)據(jù)安全法》奠定了我國(guó)數(shù)據(jù)管理的基礎(chǔ)，提出要“促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)發(fā)展”，明確了數(shù)據(jù)權(quán)的保護(hù)范圍，并規(guī)定了行業(yè)數(shù)據(jù)監(jiān)管機(jī)制、國(guó)家數(shù)據(jù)分類分級(jí)保護(hù)制度、國(guó)家數(shù)據(jù)安全審查制度、國(guó)家數(shù)據(jù)安全應(yīng)急處置機(jī)制、以及數(shù)據(jù)處理者的合規(guī)義務(wù)等。但該法是針對(duì)數(shù)據(jù)管理領(lǐng)域的宏觀規(guī)定，具體規(guī)則有待進(jìn)一步細(xì)化，尤其是對(duì)信息脫敏和加工的具體要求。數(shù)據(jù)和信息是密不可分的兩個(gè)概念。數(shù)據(jù)是信息在網(wǎng)絡(luò)世界的表達(dá)工具，信息的內(nèi)容主要通過二進(jìn)制的方式加以儲(chǔ)存和應(yīng)用。盡管受法律調(diào)整的數(shù)據(jù)是對(duì)個(gè)人信息進(jìn)行加工處理和脫敏以后的衍生信息，并不與信息主體直接關(guān)聯(lián)，但數(shù)據(jù)本質(zhì)上仍是信息的綜合，并非絕對(duì)不能與信息關(guān)聯(lián)，[15]因而法律對(duì)此應(yīng)作細(xì)化規(guī)定。

三、地方立法應(yīng)用人工智能的規(guī)制路徑

科技發(fā)展的最終目的是為了實(shí)踐應(yīng)用，否則便失去了存在的意義。以往科技法治的經(jīng)驗(yàn)證明，科技只有被有效轉(zhuǎn)化，賦能經(jīng)濟(jì)社會(huì)的迅速發(fā)展，才能實(shí)現(xiàn)造福人類社會(huì)的價(jià)值。對(duì)于擁有極大發(fā)展前景的人工智能+地方立法，我們不能因其存在可能的負(fù)面影響就因噎廢食，而應(yīng)以積極、樂觀的心態(tài)主動(dòng)接納，并采取相應(yīng)的應(yīng)對(duì)策略，實(shí)現(xiàn)節(jié)制的利用。

（一）以適度應(yīng)用為前提，確保地方立法的合法性

針對(duì)人工智能的應(yīng)用對(duì)地方立法程序的違背，人工智能輔助地方立法應(yīng)當(dāng)嚴(yán)格遵循上位法關(guān)于立法程序的規(guī)定，避免對(duì)智能立法產(chǎn)品的過度應(yīng)用，具體而言：

第一，可以制定統(tǒng)一的智能立法產(chǎn)品應(yīng)用標(biāo)準(zhǔn)。一為啟動(dòng)標(biāo)準(zhǔn)。地方立法應(yīng)用人工智能不能設(shè)置強(qiáng)制性標(biāo)準(zhǔn)，而要根據(jù)地方立法工作的實(shí)際需要視情況而定；二為參考標(biāo)準(zhǔn)。明確規(guī)定智能化分析結(jié)果只能作為重要參考，而非唯一依據(jù)，立法的制定、備案審查和監(jiān)督仍由法定的國(guó)家機(jī)關(guān)在廣泛聽取民意和專家意見的基礎(chǔ)上決定；三為說明標(biāo)準(zhǔn)，凡在地方立法的重要環(huán)節(jié)中采納了人工智能的分析結(jié)果，都需對(duì)采納結(jié)果的科學(xué)性、客觀性和必要性進(jìn)行理由說明，制作陳述報(bào)告，并將不同于智能分析結(jié)果的意見和建議予以記錄備案；四為責(zé)任標(biāo)準(zhǔn)。根據(jù)最新出臺(tái)的《關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)條例》，建立相關(guān)部門和運(yùn)營(yíng)者的安全保護(hù)和監(jiān)督管理責(zé)任。

第二，可以建立明確的智能立法產(chǎn)品選用標(biāo)準(zhǔn)。技術(shù)外包情形下可能造成政商勾結(jié)，導(dǎo)致政府選用不合格產(chǎn)品并肆意濫用謀取私益。對(duì)此，國(guó)家可以確立以下標(biāo)準(zhǔn)：一為統(tǒng)一化的安全標(biāo)準(zhǔn)。根據(jù)《信息安全技術(shù)關(guān)鍵信息基礎(chǔ)設(shè)施安全保障指標(biāo)體系》（征求意見稿）確立的三級(jí)安全保障指標(biāo)，建立智能立法產(chǎn)品的安全保障體系：（1）建設(shè)情況指標(biāo)，主要評(píng)價(jià)該產(chǎn)品的安全保障措施的建設(shè)情況，具體包括地方立法主體對(duì)該產(chǎn)品安全保障的相關(guān)規(guī)章制度建設(shè)情況、人才隊(duì)伍、資金投入保障等；（2）運(yùn)行能力指標(biāo)，主要評(píng)價(jià)該產(chǎn)品的安全保障措施體系的運(yùn)行能力，具體包括安全防護(hù)、隱患發(fā)現(xiàn)、應(yīng)急處置和攻擊對(duì)抗能力等；（3）安全態(tài)勢(shì)指標(biāo)，主要評(píng)價(jià)該產(chǎn)品安全保障體系的態(tài)勢(shì)情況，具體包括各種潛在的威脅、隱患和安全事件情況。二為差異化的性能標(biāo)準(zhǔn)。各地區(qū)經(jīng)濟(jì)、文化發(fā)展水平不一致，在選用智能立法產(chǎn)品時(shí)，各地方要充分考慮本地區(qū)信息基礎(chǔ)設(shè)施建設(shè)水平、信息的數(shù)據(jù)化程度、地方立法水平和實(shí)際立法需求，選擇與當(dāng)前最適配的產(chǎn)品，避免人工智能的不當(dāng)應(yīng)用造成資源浪費(fèi)。

（二）以智能輔助為核心，確保地方立法的民主性

針對(duì)智能化應(yīng)用可能帶來民主消解的危險(xiǎn)，需要堅(jiān)持人工智能在地方立法工作中的輔助地位。首先，就工作理念而言，要樹立以人類為中心的立法合作理念?！耙匀祟悶橹行摹本褪且笕耸冀K處于立法工作的主導(dǎo)和核心地位，強(qiáng)調(diào)人的價(jià)值，理性對(duì)待新技術(shù)，看清其有限屬性和工具屬性；同時(shí)要樹立“合作觀”，機(jī)器學(xué)習(xí)在某些方面是人類判斷的進(jìn)化，將人工智能同地方立法工作有機(jī)結(jié)合，能夠彌補(bǔ)人類智慧的短板，更好造福社會(huì)。其次，就輔助限度而言，要堅(jiān)持“有限智能化”。“有限智能化”這一觀點(diǎn)源于司法領(lǐng)域“智慧法院”建設(shè)。隨著司法智能化的不斷進(jìn)步，人們開始思考在司法過程中是否能夠只要效率而犧牲公平正義等法的價(jià)值，答案當(dāng)然是否定的。[16]對(duì)于地方立法工作而言，也要堅(jiān)持“有限智能化”。當(dāng)前人工智能尚不能成熟處理關(guān)涉人類情感、倫理的價(jià)值判斷，因而對(duì)于此類問題的決策，立法機(jī)關(guān)要采取保守態(tài)度，由經(jīng)驗(yàn)豐富的法律專家、立法工作者結(jié)合公眾意見作出決定。最后，就衡量標(biāo)準(zhǔn)而言，要堅(jiān)持民主為主、科技為輔的衡量標(biāo)準(zhǔn)。[17]人工智能輔助地方立法過程中可能存在以科技獲取的信息取代通過民主渠道獲得的信息的現(xiàn)象。大數(shù)據(jù)、人工智能應(yīng)用的反民主傾向，只有通過民主的方式才能遏制和破解，要確立民主原則高于科學(xué)技術(shù)的價(jià)值位階。具體而言，當(dāng)通過智能技術(shù)分析的結(jié)果同民主的認(rèn)知相沖突時(shí)，要在充分保障公眾或者公眾的代表知曉該領(lǐng)域的實(shí)質(zhì)知識(shí)的基礎(chǔ)之上，通過民主機(jī)制作出決斷。當(dāng)有充分明確的證據(jù)證明民主決策是錯(cuò)誤的情況下，也只能通過民主議事規(guī)則說服公眾及其代表，嚴(yán)禁通過壓迫手段強(qiáng)制改變民主決策的結(jié)果。

（三）以倫理算法為保障，確保地方立法的科學(xué)性

算法作為人工智能的“食譜”，控制著數(shù)據(jù)輸入后結(jié)果的產(chǎn)出水平。影響地方立法科學(xué)性的算法干預(yù)、技術(shù)的不確定性問題乃至算法偏見問題都與算法相關(guān)。想要合理規(guī)避由此造成的負(fù)面后果，就需要從算法著手，為算法構(gòu)建倫理框架。

設(shè)計(jì)一套“倫理算法”具有現(xiàn)實(shí)必要性：算法在運(yùn)作過程中并非將人當(dāng)作“主體”對(duì)待，而是將其數(shù)據(jù)化和客體化，視為可計(jì)算、可預(yù)測(cè)的電子痕跡的匯總。德沃金認(rèn)為在人享有的所有權(quán)利中，關(guān)懷和尊重的平等權(quán)利是最重要的。[18]這項(xiàng)權(quán)利是最容易被忽視或者侵害的。另外，道德、倫理同法律一樣，都是社會(huì)規(guī)范體系中最基礎(chǔ)的調(diào)整手段。法律具有滯后性，在法律規(guī)范缺位時(shí)，往往需要倫理道德發(fā)揮先導(dǎo)作用，規(guī)制和約束新型的社會(huì)關(guān)系。技術(shù)比較發(fā)達(dá)的美國(guó)、德國(guó)、歐盟、日本對(duì)人工智能的規(guī)制研究多是從倫理規(guī)范出發(fā)。例如，德國(guó)的倫理委員會(huì)便遵循這個(gè)思路提出了一項(xiàng)人工智能報(bào)告。該報(bào)告里面列舉了以人的生命安全為核心的20 條倫理意見，并要求算法設(shè)計(jì)者遵守這些倫理規(guī)則。[19]

算法的倫理設(shè)計(jì)應(yīng)當(dāng)遵循兩個(gè)進(jìn)路[20]：在外部進(jìn)路上，設(shè)計(jì)主體應(yīng)具備道德責(zé)任感，積極進(jìn)行道德想象力的構(gòu)建。道德想象力是指在既定情景中想象某種行為或結(jié)果所產(chǎn)生的利害關(guān)系以及采取多種行動(dòng)的可能性。算法設(shè)計(jì)者通過道德想象力的練習(xí)，能夠理解和積累有關(guān)道德責(zé)任的經(jīng)驗(yàn)，從而提升做出道德決策的能力。在內(nèi)部進(jìn)路上，需對(duì)算法進(jìn)行價(jià)值敏感設(shè)計(jì)，即將人類的倫理價(jià)值和行為方式通過技術(shù)轉(zhuǎn)化嵌入算法中，這分為三個(gè)階段：第一個(gè)階段為概念研究階段，即對(duì)算法設(shè)計(jì)可能涉及的價(jià)值如安全、公正等進(jìn)行深入了解；第二個(gè)階段為經(jīng)驗(yàn)研究階段，即通過訪談、實(shí)驗(yàn)等方法對(duì)算法設(shè)計(jì)進(jìn)行價(jià)值評(píng)估，為概念研究階段的倫理道德嵌入提供數(shù)據(jù)支持。第三個(gè)階段為技術(shù)研究階段，即對(duì)價(jià)值嵌入進(jìn)行技術(shù)設(shè)計(jì)和性能分析。這三個(gè)階段屬于相互支持、相互影響的連貫過程。

（四）以協(xié)同治理為框架，實(shí)現(xiàn)安全與發(fā)展價(jià)值的平衡

對(duì)人工智能輔助地方立法的規(guī)則容易走向兩種極端：一種是僅顧眼前的發(fā)展利益，忽視對(duì)風(fēng)險(xiǎn)的規(guī)制，另一種是為了避免可能的風(fēng)險(xiǎn)而對(duì)其加以嚴(yán)格管控，限制人工智能行業(yè)發(fā)展活力。就各國(guó)在人工智能治理方面的政策和態(tài)度而言，美國(guó)和日本更傾向推動(dòng)技術(shù)創(chuàng)新，采取“無須批準(zhǔn)式”的治理模式，即除非有充足的案例證明某一類人工智能的危害性，則該人工智能都為被默認(rèn)為允許；英法更關(guān)注以個(gè)體數(shù)據(jù)為基礎(chǔ)的機(jī)器學(xué)習(xí)對(duì)公民隱私和自由造成的危害，制定政策更傾向于“審慎監(jiān)管”，也即只有在被證明沒有危險(xiǎn)的條件下，某一項(xiàng)新技術(shù)或商業(yè)模式才能夠被使用。[21]“無須批準(zhǔn)式”和“審慎監(jiān)管”模式都存在很大弊端：前者預(yù)設(shè)的前提是事后監(jiān)管的有效性，當(dāng)事后監(jiān)管失效時(shí)，公共政策便無法解決業(yè)已造成的危害后果。后者存在天然的邏輯漏洞和實(shí)踐上的不可操作性，在人造神經(jīng)系統(tǒng)支持下，算法結(jié)果往往具有不可預(yù)測(cè)性，其危險(xiǎn)系數(shù)更是很難證立，因而該治理模式將會(huì)極大限制人工智能行業(yè)的成長(zhǎng)。

當(dāng)前國(guó)內(nèi)學(xué)界對(duì)人工智能的治理有以下幾種理論模式：一是傳統(tǒng)的命令控制型。這種模式以政府為主導(dǎo)，行政機(jī)關(guān)單方面主動(dòng)做出約談警告、罰款、責(zé)令停產(chǎn)停業(yè)等行政行為。二是元規(guī)制模式。它包括兩個(gè)維度：一方面，規(guī)制主體劃定一個(gè)基礎(chǔ)目標(biāo)和底線，具體規(guī)制的內(nèi)容和方式由被規(guī)制者自行制定。另一方面，規(guī)制主體應(yīng)把更多精力放在提升學(xué)習(xí)能力上，避免在人工智能領(lǐng)域成為“外行”。當(dāng)行業(yè)自治發(fā)生偏差且自治規(guī)則無法調(diào)節(jié)時(shí)，再采取必要手段維護(hù)公共秩序。[22]三是協(xié)同治理模式。它主張治理主體的多元化，提倡在利益依賴的基礎(chǔ)上共同參與規(guī)則制定，實(shí)現(xiàn)資源共享、互利互惠、責(zé)任共擔(dān)、深度交互的目標(biāo)。也即在規(guī)范人工智能地方立法程序的研發(fā)過程中，規(guī)制主體與研發(fā)機(jī)構(gòu)應(yīng)當(dāng)在算法規(guī)制、數(shù)據(jù)的使用和管理、研發(fā)成果的應(yīng)用等方面充分協(xié)商，綜合法律意見和專業(yè)意見形成治理規(guī)則。在這套規(guī)則下，研發(fā)機(jī)構(gòu)可以自由發(fā)展，違反規(guī)則要承擔(dān)相應(yīng)責(zé)任。[23]

對(duì)于該領(lǐng)域的治理不能過松或過緊，應(yīng)從地方立法活動(dòng)的規(guī)律和特性出發(fā)，既要注重平衡二者之間的內(nèi)在關(guān)系，避免因人工智能的應(yīng)用損害地方立法的合法性、民主性和科學(xué)性以及其他法律功能的有效發(fā)揮，又要避免固步自封，擠壓人工智能的正常發(fā)展空間，影響法律科技對(duì)法治建設(shè)的支撐和幫助。對(duì)人工智能的治理需要兼顧安全價(jià)值和發(fā)展價(jià)值，在對(duì)社會(huì)收益和風(fēng)險(xiǎn)成本進(jìn)行分析的基礎(chǔ)上，尋求合理對(duì)策，并可以為了保障技術(shù)進(jìn)步適度擴(kuò)容風(fēng)險(xiǎn)。

命令控制式下，由于人工智能具有高度專業(yè)性和發(fā)展不確定性，傳統(tǒng)的科層制治理結(jié)構(gòu)難以及時(shí)對(duì)不斷變化的社會(huì)關(guān)系作出回應(yīng)，且在管理過程中還存在無法跨越的技術(shù)壁壘，很容易導(dǎo)致干預(yù)不當(dāng)，造成行政權(quán)不正當(dāng)擴(kuò)張。元規(guī)制模式與美日的“無須批準(zhǔn)式”并無二致。元規(guī)制模式下，規(guī)制主體只能制定抽象的底線和目標(biāo)，且只有行業(yè)自我規(guī)制出現(xiàn)問題時(shí)，規(guī)制主體才會(huì)出面解決問題，這就賦予了人工智能行業(yè)內(nèi)部自治的優(yōu)先權(quán)。人工智能行業(yè)不同于傳統(tǒng)行業(yè)，如果放任行業(yè)自治，等到自我規(guī)制失靈時(shí)再介入干預(yù)，很可能已經(jīng)造成無法挽回的嚴(yán)重后果。在法的價(jià)值位階中，安全和秩序價(jià)值高于其他價(jià)值，元規(guī)制模式實(shí)質(zhì)上顛倒了法的價(jià)值位階。相較元規(guī)制模式，協(xié)同治理模式有以下優(yōu)勢(shì)：一方面，它不像審慎監(jiān)管和命令控制式責(zé)令單方證明有無危險(xiǎn)或做出單方行政行為，而是通過溝通的方式保留人工智能行業(yè)的話語權(quán)，又通過合力制定規(guī)則將可預(yù)見的風(fēng)險(xiǎn)消滅在源頭。另一方面，規(guī)制主體通過與研發(fā)機(jī)構(gòu)協(xié)商溝通，有利于在算法規(guī)制、數(shù)據(jù)管理等方面培養(yǎng)一批人工智能+法律復(fù)合型人才，更精準(zhǔn)掌握該行業(yè)的基礎(chǔ)信息和實(shí)際發(fā)展需要，為以后更好管理該行業(yè)奠定基礎(chǔ)。