一、引言

當(dāng)今時(shí)代，人工智能正在加速發(fā)展，在全球范圍內(nèi)掀起日益高漲的浪潮。它依托于大數(shù)據(jù)和云計(jì)算兩大基礎(chǔ)平臺(tái)，建立起機(jī)器學(xué)習(xí)、模式識(shí)別、人機(jī)交互三大通用技術(shù)體系，逐漸滲透到各大行業(yè)的創(chuàng)新發(fā)展之中。2017年，全球人工智能核心產(chǎn)業(yè)規(guī)模已超過370億美元，預(yù)計(jì)至2020年將超過1300億美元，年均增速達(dá)到60%。①而且，其產(chǎn)品和服務(wù)廣泛出現(xiàn)于經(jīng)濟(jì)生活的各個(gè)方面，如智能機(jī)器人、智能駕駛、智能安防、智能家居等。同時(shí)，各國也愈來愈重視，積極出臺(tái)相關(guān)政策和規(guī)范性文件以構(gòu)建前瞻性的布局，我國于2017年頒布了《新一代人工智能發(fā)展規(guī)劃》，提出人工智能已成為“國際競爭的新焦點(diǎn)”“經(jīng)濟(jì)發(fā)展的新引擎”，將其正式提升至國家戰(zhàn)略的高度，為這新一代技術(shù)的研發(fā)、應(yīng)用和推廣筑起堅(jiān)實(shí)的后盾。

然而，在熱議人工智能的發(fā)展前景和技術(shù)紅利的同時(shí)，挑戰(zhàn)和危機(jī)也隨之而生。不少學(xué)者專家對(duì)其帶來的安全風(fēng)險(xiǎn)有了愈來愈深的擔(dān)憂：如2017年GMIC大會(huì)上，霍金提出人工智能威脅論，稱“人工智能可能是人類文明史的終結(jié)，除非我們能學(xué)會(huì)如何避免危險(xiǎn)”；特斯拉CEO埃隆·馬斯克曾警告說：“人類可能在不知不覺中創(chuàng)造了一個(gè)‘不朽的獨(dú)裁者’”；還有報(bào)告指出：人工智能會(huì)擴(kuò)大現(xiàn)有威脅，因其可使攻擊成本降低、速度加快，目標(biāo)擴(kuò)大化、集合化；會(huì)引入新的威脅，人工智能系統(tǒng)可被利用于完成人類無法實(shí)現(xiàn)的攻擊形態(tài)；會(huì)改變典型的威脅特征，使攻擊目標(biāo)更為明確、攻擊更有效率，且因難以歸因而無法對(duì)其采取切實(shí)的應(yīng)對(duì)措施。同時(shí)報(bào)告還預(yù)測，在未來的五至十年里，人工智能會(huì)催生新型網(wǎng)絡(luò)犯罪、實(shí)體攻擊和政治顛覆。②上述論斷說明了人工智能所帶來的威脅，不僅僅是物理層面的實(shí)體攻擊，還包括在倫理、道德、就業(yè)、政治等方面的惡性影響。需要特別指出的是，在網(wǎng)絡(luò)安全領(lǐng)域，針對(duì)系統(tǒng)安全、在線內(nèi)容安全、組織管理安全，人工智能也正在引發(fā)一系列安全風(fēng)險(xiǎn)，其中與在線內(nèi)容安全密切關(guān)聯(lián)的數(shù)據(jù)問題，成為影響人工智能安全、可靠、可控發(fā)展的一大關(guān)鍵，有必要引起高度重視并盡早采取應(yīng)對(duì)策略。

在具體分析之前，這里對(duì)于本文所研究的人工智能范圍做一個(gè)限定。國際上有一種較為常見的分類方式，即將人工智能分為弱人工智能、強(qiáng)人工智能和超級(jí)人工智能，標(biāo)準(zhǔn)在于能否實(shí)現(xiàn)人類具有的認(rèn)知功能、思考功能、推理功能等，或是否擁有類似人類的自我意志和自主思維能力。可以認(rèn)為，從弱人工智能到超級(jí)人工智能，分別達(dá)到了“類人”“人類”和“超人”三個(gè)級(jí)別。從目前發(fā)展情況看，我們?nèi)蕴幱谌跞斯ぶ悄苓@一初級(jí)階段。未來，對(duì)于強(qiáng)人工智能和超級(jí)人工智能實(shí)現(xiàn)的可能性已無爭議，只是實(shí)現(xiàn)時(shí)間的遠(yuǎn)近尚未確定。③因此，本文不停留于泛泛空想，也不過度憂慮未知的風(fēng)險(xiǎn)，僅將弱人工智能納入研究的范圍，討論當(dāng)前階段人工智能數(shù)據(jù)相關(guān)的風(fēng)險(xiǎn)及刑事犯罪問題，并結(jié)合包括刑法在內(nèi)的網(wǎng)絡(luò)安全法治體系，探討立法規(guī)范的建構(gòu)，并為產(chǎn)業(yè)領(lǐng)域的風(fēng)險(xiǎn)防控提供建議。

二、解讀人工智能數(shù)據(jù)的風(fēng)險(xiǎn)及犯罪問題

（一）數(shù)據(jù)要素相關(guān)的侵害行為

數(shù)據(jù)是人工智能進(jìn)行學(xué)習(xí)和決策的源頭，人工智能通過采集和存儲(chǔ)、管理和分析、可視化計(jì)算等技術(shù)手段來處理具備規(guī)模大、種類多、產(chǎn)生速度快、時(shí)效性強(qiáng)、價(jià)值密度低等特征的數(shù)據(jù)，這一環(huán)節(jié)的重要性便使數(shù)據(jù)要素成為人工智能犯罪的主要侵害對(duì)象。數(shù)據(jù)安全強(qiáng)調(diào)三性：數(shù)據(jù)的保密性、完整性和可用性，在人工智能應(yīng)用場景中也是如此，下面筆者就從三性入手，分析數(shù)據(jù)要素上發(fā)生的侵害情形。

對(duì)數(shù)據(jù)保密性的侵害。這種情形通常涉及利用用戶的個(gè)人隱私信息作為實(shí)施犯罪行為的手段，比如通過網(wǎng)絡(luò)竊取用戶的交易賬單、理財(cái)情況來了解用戶的資產(chǎn)狀況和基于在線行為的支付意愿，從而快速有效地定位金融詐騙的受害者目標(biāo)群體；再如非法獲取受害者的個(gè)人隱私信息，組成多維度、海量化、定制型的訓(xùn)練數(shù)據(jù)，并構(gòu)建惡意算法用于自動(dòng)生成非法網(wǎng)站、鏈接、電子郵件等，向受害者定向推送，誘使其點(diǎn)擊；或者通過學(xué)習(xí)這些信息偽裝成受害者的好友，在社交網(wǎng)絡(luò)聊天中實(shí)施犯罪行為。

對(duì)數(shù)據(jù)完整性的侵害。這種情形往往導(dǎo)致人工智能系統(tǒng)獲取信息失敗，因缺少關(guān)鍵數(shù)據(jù)而無法進(jìn)行深度學(xué)習(xí)，影響下一步工作的效率和準(zhǔn)確性。比如，Bot驅(qū)動(dòng)的大規(guī)?！癐nformation Generation”攻擊，利用分散信息等手段以破壞信息通道的正常運(yùn)行，從而使獲取真實(shí)信息變得極為困難。

對(duì)數(shù)據(jù)可用性的侵害。這種情形一般包括對(duì)數(shù)據(jù)的篡改、造假、干擾等，比如對(duì)人工智能系統(tǒng)輸入非真實(shí)的訓(xùn)練數(shù)據(jù)以獲得與目標(biāo)背道而馳的結(jié)果；通過更改、拼接、制作高度逼真的假視頻或音頻，借名人效應(yīng)發(fā)表煽動(dòng)性言論，擾亂政治和社會(huì)穩(wěn)定；在人工智能應(yīng)用于圖像識(shí)別的過程中，通過制造惡意圖片，使系統(tǒng)觸發(fā)相應(yīng)的安全漏洞，改變程序正常執(zhí)行的控制流或數(shù)據(jù)流，對(duì)于標(biāo)簽、索引等一些關(guān)鍵數(shù)據(jù)進(jìn)行修改，從而使人工智能系統(tǒng)輸出攻擊者指定的錯(cuò)誤結(jié)果。④

上述三種情形在未來將越來越常見，且會(huì)對(duì)人工智能系統(tǒng)本身造成較大的負(fù)面影響?？偟膩碚f，人工智能算法的訓(xùn)練需以龐大數(shù)量的數(shù)據(jù)為基礎(chǔ)，系統(tǒng)會(huì)通過終端收集范圍更廣、數(shù)量更多、內(nèi)容更多樣化的信息，這也使得數(shù)據(jù)所具有的實(shí)質(zhì)性價(jià)值更為凸顯，有經(jīng)濟(jì)價(jià)值之處就易出現(xiàn)人為的負(fù)面性，隨之而生的是安全風(fēng)險(xiǎn)日益加??；而且，人工智能系統(tǒng)并非獨(dú)立的、排他性的，而是與外部環(huán)境、各種要素形成密切的聯(lián)系。比如，產(chǎn)品或服務(wù)研發(fā)、生產(chǎn)、提供和應(yīng)用的過程中，系統(tǒng)設(shè)計(jì)者、平臺(tái)提供者、功能管理維護(hù)者以及應(yīng)用者等多個(gè)主體均參與其中，且根據(jù)自己的身份具備相應(yīng)的存儲(chǔ)、修改、傳輸、訪問、使用數(shù)據(jù)的資格，這種數(shù)據(jù)在多主體之間的流動(dòng)會(huì)增加不穩(wěn)定性和權(quán)屬爭議。此外，人工智能的智能化還會(huì)帶來外部風(fēng)險(xiǎn)，犯罪分子可利用其技術(shù)升級(jí)自己的侵犯個(gè)人信息安全的犯罪行為，可能造成數(shù)以萬計(jì)的公民隱私信息的泄露，也可能為已形成明顯上中下游關(guān)系的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)推波助瀾。因此，基于諸多原因，人工智能數(shù)據(jù)相關(guān)侵害行為日益增多，產(chǎn)品或服務(wù)的研發(fā)者、制造和提供者、應(yīng)用者等相關(guān)人員應(yīng)當(dāng)加強(qiáng)對(duì)數(shù)據(jù)保護(hù)的重視，在儲(chǔ)存、清洗、整合數(shù)據(jù)的各個(gè)環(huán)節(jié)都注意加大安全保障力度，從而防范風(fēng)險(xiǎn)。

（二）典型應(yīng)用場景——模式識(shí)別的數(shù)據(jù)相關(guān)犯罪分析

模式識(shí)別是指“模擬人的感知過程，通過分析圖像、語音、視頻等感知數(shù)據(jù)，對(duì)數(shù)據(jù)中包含的模式（物體、行為、現(xiàn)象等）進(jìn)行判別和解釋的過程”。⑤目前，其被廣泛應(yīng)用于生物特征識(shí)別、語音識(shí)別、文字識(shí)別、遙感及醫(yī)學(xué)診斷等領(lǐng)域。下面，筆者從幾個(gè)子應(yīng)用場景入手，對(duì)模式識(shí)別中涉及數(shù)據(jù)相關(guān)犯罪的情形進(jìn)行具體分析。

生物特征識(shí)別發(fā)展至今已有五十余年的時(shí)間，逐漸成為身份認(rèn)證中較為重要的一種方式。比如商業(yè)化發(fā)展最早的指紋識(shí)別，在開關(guān)類系統(tǒng)驗(yàn)證身份時(shí)具有便捷、精確、安全的優(yōu)勢；在近些年深度機(jī)器學(xué)習(xí)快速發(fā)展的背景下，人臉識(shí)別通過建立海量的人臉圖像數(shù)據(jù)，開發(fā)一系列高效的分析模式，成為安防監(jiān)控中關(guān)鍵的手段。此外，隨著智能手機(jī)、可穿戴設(shè)備大規(guī)模進(jìn)入民眾的生活，生物特征識(shí)別的發(fā)展趨向于便攜式應(yīng)用和高速產(chǎn)業(yè)化。由此可見，生物特征識(shí)別對(duì)于用戶和環(huán)境這兩個(gè)要素有較大的依賴性，體現(xiàn)出更大程度的人機(jī)交互特性，且其應(yīng)用多涉及與個(gè)人身份相關(guān)的隱私數(shù)據(jù)，對(duì)安全性自然也有更高的要求。實(shí)踐中，生物特征識(shí)別常常與金融類、財(cái)產(chǎn)類犯罪相關(guān)聯(lián)，具體的表現(xiàn)形式包括：一是數(shù)據(jù)泄露問題，犯罪分子可通過攻擊漏洞竊取大量用戶隱私數(shù)據(jù)，包括指紋、虹膜、臉、身形等身份信息，而這些信息將被利用于侵入安防系統(tǒng)、盜取保險(xiǎn)設(shè)備中的錢物、實(shí)施財(cái)產(chǎn)詐騙行為等；二是數(shù)據(jù)篡改或破壞問題，犯罪分子可采用變形、模糊、真假調(diào)換等處理技術(shù)對(duì)數(shù)據(jù)進(jìn)行偽造，進(jìn)一步干擾以數(shù)據(jù)為基礎(chǔ)的系統(tǒng)的正常運(yùn)行。

語音識(shí)別技術(shù)在20世紀(jì)末和21世紀(jì)初取得了較大進(jìn)展，在模型結(jié)構(gòu)、深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練、多語言訓(xùn)練、參數(shù)學(xué)習(xí)等技術(shù)的支持下，逐漸實(shí)現(xiàn)大規(guī)模產(chǎn)業(yè)化，在聲訊服務(wù)、語音評(píng)測、安全監(jiān)控、語言翻譯等方面發(fā)揮著重要作用。而同時(shí)，技術(shù)的提升也帶來了安全隱患。在以往的詐騙案件中，犯罪分子常通過假冒身份的方式迷惑受害者，博取其信任，身份造假多使用文字信息，手段較為單一、平面化，許多警惕性高的人并不容易掉入陷阱。而現(xiàn)在，犯罪分子通過學(xué)習(xí)語音識(shí)別技術(shù)，開發(fā)語音合成系統(tǒng)，模仿特定對(duì)象的聲音，達(dá)到以假亂真、難以辨別的程度，且在沒有其他身份驗(yàn)證措施的情況下，很容易引導(dǎo)受害者走入詐騙迷局。

與語音識(shí)別技術(shù)相似，視覺識(shí)別技術(shù)目前也有較廣泛的應(yīng)用領(lǐng)域，尤其在安防監(jiān)控上發(fā)揮著巨大作用，如對(duì)人群中特定目標(biāo)的識(shí)別、車輛識(shí)別、物體追蹤、異常事件檢測等。視覺識(shí)別依靠圖像視頻分析技術(shù)，而分析的對(duì)象便是以物聯(lián)網(wǎng)為基礎(chǔ)的海量數(shù)據(jù)，包括來自監(jiān)控相機(jī)、移動(dòng)設(shè)備、互聯(lián)網(wǎng)的各類多媒體數(shù)據(jù)等，通過整合不同場景的不同數(shù)據(jù)，系統(tǒng)才有可能分析出目標(biāo)更復(fù)雜的行為、目標(biāo)之間的關(guān)聯(lián)和群體目標(biāo)間的事件級(jí)演變。⑥因此，數(shù)據(jù)是視覺識(shí)別的關(guān)鍵所在，其安全性直接影響著視覺識(shí)別的有效性、精確性和保密性。認(rèn)識(shí)到這一點(diǎn)，攻擊者可以通過干擾或破壞數(shù)據(jù)的方式影響視覺識(shí)別技術(shù)發(fā)揮功用。典型的如實(shí)施逃逸攻擊，即在不改變目標(biāo)機(jī)器學(xué)習(xí)系統(tǒng)的情況下，通過構(gòu)造特定輸入樣本以完成欺騙目標(biāo)系統(tǒng)的攻擊。⑦此種對(duì)抗樣本在不同程度上侵害了在線內(nèi)容的安全性，干擾了視覺識(shí)別的系統(tǒng)運(yùn)行，為實(shí)施進(jìn)一步的犯罪行為提供了幫助。

三、人工智能數(shù)據(jù)相關(guān)的立法規(guī)范建構(gòu)

（一）立法模式的確定

確定立法模式，即如何對(duì)待我國現(xiàn)有的相關(guān)立法規(guī)范，以及在何種程度上另外制定新規(guī)范的問題，有學(xué)者針對(duì)網(wǎng)絡(luò)犯罪立法模式提出了兩種維度的選擇視角：一是靜態(tài)維度，考慮一元的刑法典模式，或與單行的網(wǎng)絡(luò)犯罪相關(guān)法結(jié)合的多元模式，又或頒布一部綜合性的網(wǎng)絡(luò)法；二是動(dòng)態(tài)維度，考慮圍繞網(wǎng)絡(luò)犯罪應(yīng)采取“漸進(jìn)式”或“前瞻式”的立法形式。⑧而對(duì)于人工智能數(shù)據(jù)相關(guān)的立法規(guī)范建構(gòu)，其實(shí)也可以借鑒上述視角。從靜態(tài)維度看，筆者認(rèn)為在現(xiàn)階段繼續(xù)采用一元的刑法典模式更為合理。因?yàn)槿斯ぶ悄芤阎饾u應(yīng)用于各個(gè)場景之中，與各個(gè)學(xué)科、各個(gè)行業(yè)領(lǐng)域也有了愈來愈緊密的聯(lián)系，出臺(tái)一部具有總括性的、系統(tǒng)化的人工智能法律確有一定的現(xiàn)實(shí)需求。目前，美國和歐盟已進(jìn)行了嘗試，美國國會(huì)提出《人工智能未來法案》，而歐洲議會(huì)通過了“關(guān)于制定機(jī)器人民事法律規(guī)則的決議”，但這些立法實(shí)踐還是比較初步的，主要針對(duì)小范圍的某一應(yīng)用場景，著力于未來進(jìn)一步研究和施行對(duì)人工智能的監(jiān)管工作。從當(dāng)前情況來看，制定綜合性的人工智能法律尚缺成熟的時(shí)機(jī)，而刑法自身有很大的包容性和發(fā)展性，可通過修正刑法及出臺(tái)立法、司法解釋的方式來應(yīng)對(duì)人工智能時(shí)代的治理需求。而從動(dòng)態(tài)維度看，建議采用“漸進(jìn)式”和“前瞻式”相結(jié)合的模式，一方面視人工智能風(fēng)險(xiǎn)問題為一種客觀現(xiàn)象，立法主要通過修正現(xiàn)行法律、適當(dāng)增加條款的形式來進(jìn)行；另一方面應(yīng)考慮未來一段時(shí)間內(nèi)犯罪行為、侵害法益、規(guī)制范圍、主體責(zé)任等的變化，預(yù)留給司法解釋和相關(guān)法律法規(guī)一定的空間。

總的來說，誠然，我們不能否認(rèn)人工智能的發(fā)展影響了現(xiàn)有的法律關(guān)系，帶來了一系列嶄新的法律問題，使立法、執(zhí)法、守法等方面都受到了挑戰(zhàn)。但倘若就此高呼立刻制定一部人工智能法，構(gòu)建特定化、專門化的法律體系，未免有些為時(shí)過早了。從目前人工智能的技術(shù)水平、應(yīng)用場景及產(chǎn)業(yè)現(xiàn)狀來看，還遠(yuǎn)遠(yuǎn)達(dá)不到人們所擔(dān)憂的失控程度，一概要求以新立法應(yīng)對(duì)新犯罪的做法并不妥當(dāng)。⑨基于此，對(duì)于已經(jīng)或可能出現(xiàn)的安全問題，一部分可以通過梳理和分析我國現(xiàn)有的相關(guān)立法規(guī)范，修正現(xiàn)行規(guī)定或增加新的司法解釋將其納入；另一部分則可以通過構(gòu)想和設(shè)計(jì)未來相關(guān)的立法規(guī)范，從國際治理和國內(nèi)治理兩個(gè)角度制定新的立法條款而加以規(guī)制。

（二）梳理和分析我國現(xiàn)有的相關(guān)立法規(guī)范

與數(shù)據(jù)問題相關(guān)的立法規(guī)范，本文是從廣義范疇理解的：一是針對(duì)數(shù)據(jù)的保護(hù)，主要涉及系統(tǒng)中存儲(chǔ)、使用、處理、傳輸?shù)臄?shù)據(jù)。目前我國刑事立法對(duì)此尚欠缺保護(hù)力度，僅體現(xiàn)于刑法第二百八十五條第二款，將非法獲取數(shù)據(jù)的行為入罪化。而伴隨更多人工智能應(yīng)用場景的出現(xiàn)，視覺識(shí)別領(lǐng)域的人體面部數(shù)據(jù)、語音識(shí)別領(lǐng)域的聲紋信息等將成為犯罪分子使用、篡改、傳輸?shù)膶?duì)象，其他惡意處理數(shù)據(jù)的行為也會(huì)愈來愈多，刑法有必要考慮在規(guī)制非法獲取行為之外增設(shè)其他條款，突顯對(duì)于數(shù)據(jù)保護(hù)的重視程度。二是針對(duì)個(gè)人信息的保護(hù)，更強(qiáng)調(diào)隱私的內(nèi)容。此處先說明一下不同國家的用語區(qū)別：涉及隱私的相關(guān)立法中，我國采用“信息”一詞，美國則常用“隱私”一詞，而歐盟自1995年《個(gè)人數(shù)據(jù)保護(hù)指令》出臺(tái)起就使用“數(shù)據(jù)”一詞涵蓋包括隱私在內(nèi)的內(nèi)容，不同的用語對(duì)應(yīng)著不同的保護(hù)傾向和保護(hù)范圍。關(guān)于個(gè)人信息保護(hù)的立法規(guī)范，下面進(jìn)行具體分析。

隨著大數(shù)據(jù)時(shí)代的到來，人們?nèi)粘＞W(wǎng)絡(luò)活動(dòng)會(huì)產(chǎn)生海量的個(gè)人信息，與此同時(shí)，偷取、濫用、惡意披露等行為也越來越嚴(yán)重。對(duì)此，我國相關(guān)立法活動(dòng)正在不斷推進(jìn)。不僅刑法確立了侵犯公民個(gè)人信息罪，《網(wǎng)絡(luò)安全法》也將網(wǎng)絡(luò)信息安全設(shè)為了獨(dú)立的一章；再如2012年《關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》的頒布確立了個(gè)人信息保護(hù)的相關(guān)原則，規(guī)范了網(wǎng)站和企事業(yè)單位收集、使用、處理公民個(gè)人信息的行為；2013年出臺(tái)的《電信和互聯(lián)網(wǎng)用戶個(gè)人信息保護(hù)規(guī)定》完善了電信和互聯(lián)網(wǎng)行業(yè)的個(gè)人信息保護(hù)相關(guān)制度；此外，在地方立法上，貴州省于2016年頒布了《貴州省大數(shù)據(jù)發(fā)展應(yīng)用促進(jìn)條例》，作為我國第一個(gè)與大數(shù)據(jù)相關(guān)的地方性法規(guī)，它體現(xiàn)了政府在規(guī)范數(shù)據(jù)使用及保護(hù)個(gè)人信息方面的極度重視和積極作為。

由上述規(guī)定可知，個(gè)人信息保護(hù)已成為我國立法進(jìn)程中極為重要的部分，而在人工智能日漸發(fā)展的時(shí)代，確保信息安全則有了更多的要求和更高的標(biāo)準(zhǔn)。為避免數(shù)據(jù)風(fēng)險(xiǎn)成為限制人工智能發(fā)展的短板，當(dāng)前的個(gè)人信息保護(hù)法律框架，尤其是刑事立法的規(guī)定，有必要且需盡快依據(jù)人工智能的特殊性對(duì)難以規(guī)制的部分進(jìn)行調(diào)整。

我國刑法對(duì)個(gè)人信息的保護(hù)可追溯至“刑七”頒布時(shí)，它增加了第二百五十三條之一，將主體限定為國家機(jī)關(guān)或重要單位的工作人員，個(gè)人信息來源于單位履行職責(zé)或提供服務(wù)，重在打擊出售、非法提供及獲取的行為。該次修正是個(gè)人信息立法保護(hù)事業(yè)的重大起步，但并未詳述罪狀，未明確界定個(gè)人信息的內(nèi)涵，使得在司法應(yīng)用中出現(xiàn)不少認(rèn)定爭議，而且所規(guī)制的主體范圍較小，并不能覆蓋產(chǎn)業(yè)領(lǐng)域常見的信息泄露問題。而《刑法修正案（九）》（下文簡稱“刑九”）完善并正式確立了“侵犯公民個(gè)人信息罪”。因現(xiàn)實(shí)中實(shí)名制的施行導(dǎo)致個(gè)人信息數(shù)量暴增，而買賣個(gè)人信息又在利益驅(qū)使下逐漸形成完整的犯罪鏈，對(duì)此刑法將主體從特殊擴(kuò)大為一般，使更多處于犯罪中上游的行為入罪化。同時(shí)，這次修正明確了本罪的客觀要件，將非法獲取的任何公民個(gè)人信息均納入定罪范圍內(nèi)，解決了原條文中的“上述信息”是否僅指特殊單位工作所獲信息的歧義。而且，“刑九”增加了三至七年量刑檔和從重處罰情形，使法定刑的設(shè)置更能體現(xiàn)罪責(zé)刑相適應(yīng)原則，至此圍繞公民個(gè)人信息已構(gòu)建起基礎(chǔ)的刑法保護(hù)體系，有效回應(yīng)了數(shù)據(jù)相關(guān)犯罪產(chǎn)業(yè)鏈發(fā)展日益猖獗的問題，而人工智能犯罪所涉行為也可基本納入此種體系。進(jìn)一步分析侵犯公民個(gè)人信息罪在人工智能時(shí)代的適應(yīng)情況，需著重關(guān)注以下問題：

第一，“公民個(gè)人信息”這一概念是否需重新界定？2017年公布的司法解釋第一條即對(duì)公民個(gè)人信息做了明確解釋。⑩范圍除涵蓋身份識(shí)別信息外，對(duì)反映特定自然人活動(dòng)情況的信息例如行蹤軌跡作了特別的提示性規(guī)定，體現(xiàn)了專屬性、可識(shí)別性、價(jià)值性的特征，即通過信息可直接或間接識(shí)別出唯一對(duì)應(yīng)的主體，且該信息具有刑法保護(hù)的法益價(jià)值。這一解釋順應(yīng)了打擊犯罪的實(shí)踐需求，也助益于各單位主體正確判定合規(guī)對(duì)象的注意范圍。?結(jié)合人工智能技術(shù)特征來看，其背景下的公民個(gè)人信息特征并無不同，但在內(nèi)容上可考慮有所擴(kuò)充，比如可列舉更多的記錄載體或形式，還可列舉一些與人工智能相關(guān)的信息形態(tài)。《網(wǎng)絡(luò)安全法》在定義個(gè)人信息時(shí)提及了“個(gè)人生物識(shí)別信息”。?類似的，在生物特征識(shí)別、語音識(shí)別、視覺識(shí)別等應(yīng)用場景的推廣下，人們?nèi)粘；顒?dòng)會(huì)產(chǎn)生更多樣化的身份數(shù)據(jù)，如人臉圖像、指紋、聲紋等，這些數(shù)據(jù)的使用范圍和頻率甚至可能逐漸超過傳統(tǒng)的賬號(hào)密碼、身份證件號(hào)碼等信息，因此可以考慮在解釋個(gè)人信息定義時(shí)有所體現(xiàn)。

第二，人工智能技術(shù)支持下個(gè)人信息流轉(zhuǎn)的多向性、頻繁性、復(fù)雜性，是否會(huì)影響犯罪客觀行為和刑法保護(hù)路徑的設(shè)定？有學(xué)者提出，目前的立法主要是從公民個(gè)人信息的“來源”和“去向”兩個(gè)方面來類型化界定犯罪行為，體現(xiàn)了立足于信息橫向流動(dòng)過程的保護(hù)路徑，但較少觸及信息的縱向使用過程。?從現(xiàn)實(shí)案例可知，人工智能為個(gè)人信息犯罪提供便利條件以及促進(jìn)個(gè)人信息的流轉(zhuǎn)，并非僅局限于一個(gè)方向上的各環(huán)節(jié)，而是遍布于整個(gè)網(wǎng)狀環(huán)境中，這就要求立法需擴(kuò)展保護(hù)路徑，將新的侵犯手段納入客觀行為之中。

第三，應(yīng)用人工智能產(chǎn)品和服務(wù)時(shí)，被害人承諾是否面臨新的情形？個(gè)人信息刑法保護(hù)中被害人承諾的問題其實(shí)就是個(gè)人信息主體知情同意權(quán)的問題，即主體享有知悉本人信息被收集、使用等權(quán)利，和享有除例外情況任何人處理本人信息均需由本人同意的權(quán)利。司法解釋第三條明確了非法提供公民個(gè)人信息的前提就是“未經(jīng)被收集者同意”，《網(wǎng)絡(luò)安全法》第四十一條、第四十二條也分別強(qiáng)調(diào)了網(wǎng)絡(luò)運(yùn)營者收集、使用和提供個(gè)人信息時(shí)的告知和經(jīng)同意義務(wù)，并在第四十三條進(jìn)一步規(guī)定了個(gè)人的要求刪除或更正權(quán)。而人工智能發(fā)展環(huán)境下，如何平衡信息主體的知情同意權(quán)和運(yùn)營者在開展業(yè)務(wù)活動(dòng)中的數(shù)據(jù)處理自由？首先，目前知情同意權(quán)的對(duì)應(yīng)范圍主要是收集、使用和提供個(gè)人信息的行為，而隨著人工智能領(lǐng)域相關(guān)主體的增多，接觸個(gè)人信息的行為方式也更多樣復(fù)雜，可能會(huì)出現(xiàn)部分新類型的信息處理方式，或原本無權(quán)處理的方式可能因應(yīng)用場景的特殊性而納入經(jīng)個(gè)人同意即可處理的范圍內(nèi)。其次，知情同意權(quán)的保障程度和實(shí)現(xiàn)途徑方面，將此權(quán)利規(guī)定于用戶條款是當(dāng)前的常見方式，且大多是注冊(cè)使用的前提，未賦予用戶選擇的權(quán)利，這樣在司法認(rèn)定中可能存在被害人消極承諾的問題，尤其當(dāng)越來越多的智能產(chǎn)品和科技化功能進(jìn)入民眾生活，有必要在立法上盡早明確這一點(diǎn)。

（三）構(gòu)想和設(shè)計(jì)未來的相關(guān)立法規(guī)范

在構(gòu)想刑事立法路徑前，首先需確定立法的原則和態(tài)度：其一，以安全與發(fā)展兩大價(jià)值為導(dǎo)向，實(shí)現(xiàn)刑法對(duì)人工智能涉及的各個(gè)法益和技術(shù)產(chǎn)業(yè)創(chuàng)新發(fā)展的均衡保護(hù)。公權(quán)力介入產(chǎn)業(yè)領(lǐng)域時(shí)應(yīng)恪守技術(shù)中立原則，對(duì)于所發(fā)生風(fēng)險(xiǎn)未超過社會(huì)的相當(dāng)性、控制度和容忍度的，不應(yīng)過度干預(yù)和打壓；?其二，刑法應(yīng)堅(jiān)持謙抑性，在科技帶來的新奇和狂熱中保持理性，嚴(yán)守“最后一道防線”的地位。同時(shí)，風(fēng)險(xiǎn)社會(huì)下刑法也應(yīng)具有前瞻性，關(guān)注潛在的風(fēng)險(xiǎn)問題，積極探索適當(dāng)?shù)脑缙诮槿肽Ｊ?，如預(yù)備行為的入罪化；其三，注意刑法的延續(xù)適用和后續(xù)銜接問題。前文已闡明，目前人工智能犯罪并不會(huì)從根本上動(dòng)搖現(xiàn)行刑法的罪名體系，許多行為仍能被現(xiàn)行刑法和司法解釋直接或經(jīng)修正后進(jìn)行評(píng)價(jià)，因此不必盲目追求大刀闊斧地改革立法。在補(bǔ)充立法過程中，既要設(shè)計(jì)緊緊圍繞人工智能犯罪特點(diǎn)的刑事條款，又要考慮與其他刑事規(guī)范的銜接問題，尤其是后續(xù)出臺(tái)的網(wǎng)絡(luò)違法犯罪防治法、相關(guān)司法解釋等；其四，將技術(shù)規(guī)則與法律規(guī)則相結(jié)合，體現(xiàn)科技立法的特色。當(dāng)前一些通用的技術(shù)規(guī)則已出現(xiàn)于人工智能技術(shù)應(yīng)用發(fā)展的過程中，在立法確定主體、對(duì)象、手段、數(shù)額等內(nèi)容時(shí)應(yīng)當(dāng)予以參考。而且人工智能具有系統(tǒng)性、協(xié)同性，其犯罪具有集對(duì)象、手段工具、空間于一體的特征，因此不能僅從片面分析其犯罪行為和侵害結(jié)果，要盡可能帶著整體和聯(lián)系的思維進(jìn)行立法構(gòu)想。有了上述這些原則的指引，下一步設(shè)想具體的立法內(nèi)容，可作如下展開。

從各國保護(hù)數(shù)據(jù)的實(shí)踐來看，主要有幾種路徑：歐盟通過制定詳備的法案如《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，以下簡稱GDPR）對(duì)數(shù)據(jù)施以保護(hù)，在國際范圍內(nèi)產(chǎn)生重大影響；美國主要從保護(hù)數(shù)據(jù)產(chǎn)業(yè)發(fā)展的角度出發(fā)，并未單獨(dú)規(guī)定個(gè)人數(shù)據(jù)權(quán)利，而是側(cè)重于市場規(guī)范，在發(fā)生數(shù)據(jù)侵權(quán)時(shí)多由聯(lián)邦貿(mào)易委員會(huì)處理；德國創(chuàng)設(shè)了聯(lián)邦數(shù)據(jù)保護(hù)專員制度，特別規(guī)定在相關(guān)公共機(jī)構(gòu)和個(gè)人組織中需任命數(shù)據(jù)保護(hù)官；而我國當(dāng)前的立法多著力于規(guī)范網(wǎng)絡(luò)信息服務(wù)和信息處理行為，強(qiáng)調(diào)對(duì)個(gè)人信息的保護(hù)，而對(duì)數(shù)據(jù)權(quán)利等具體問題的規(guī)范還存在較多空白。?我國借鑒各國保護(hù)思路，應(yīng)用到人工智能相關(guān)立法上，需加快建立關(guān)于個(gè)人信息和數(shù)據(jù)的合理保護(hù)機(jī)制。對(duì)于個(gè)人信息的保護(hù)，考慮重新界定其范圍，區(qū)分敏感信息和其他特殊信息類型并分別規(guī)定保護(hù)的形式和限制性內(nèi)容，進(jìn)一步明確知情同意原則等，這在上一節(jié)已具體說明，此處不再贅述。而對(duì)于一般數(shù)據(jù)的保護(hù)，現(xiàn)行刑法“靜態(tài)有余，動(dòng)態(tài)不足”，?所設(shè)罪名主要圍繞系統(tǒng)、個(gè)人信息的安全性，唯一與數(shù)據(jù)相關(guān)的罪名“非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪”實(shí)則也是落腳于對(duì)系統(tǒng)功能和通信安全的保護(hù)。對(duì)此，需加強(qiáng)立法層面對(duì)數(shù)據(jù)保護(hù)的重視程度，比如明確相關(guān)主體的安全管理義務(wù)，規(guī)范其獲取、使用、處理數(shù)據(jù)的行為，建立可執(zhí)行的且可用于不同應(yīng)用場景的標(biāo)準(zhǔn)流程；評(píng)估數(shù)據(jù)權(quán)利方面是否有必要增加被遺忘權(quán)、可攜帶權(quán)等特殊權(quán)利；歐盟法律事務(wù)委員會(huì)建議，在結(jié)合人工智能特性制定數(shù)據(jù)相關(guān)政策時(shí)，應(yīng)進(jìn)一步完善默認(rèn)保護(hù)隱私、知情同意、加密等概念的標(biāo)準(zhǔn)。?且必要時(shí)可設(shè)立專門性的管理機(jī)構(gòu)或研究機(jī)構(gòu)，如英國政府正與阿蘭·圖靈研究所合作建立一個(gè)旨在研究數(shù)據(jù)科學(xué)的“數(shù)據(jù)倫理委員會(huì)”，以加強(qiáng)數(shù)據(jù)使用的審查；另外，法律可采取延伸式保護(hù)，依靠人工智能技術(shù)提升保護(hù)能力，如嘗試算法代理人模式，可根據(jù)不同情形設(shè)定不同的數(shù)據(jù)使用權(quán)限，同時(shí)管理個(gè)人同意和拒絕分享的信息，使控制和使用兩者共存，便于數(shù)據(jù)所涉主體間的意思聯(lián)絡(luò)。?

四、產(chǎn)業(yè)領(lǐng)域防控?cái)?shù)據(jù)風(fēng)險(xiǎn)的策略建議

（一）開展人工智能安全科學(xué)發(fā)展的基本工作部署

在產(chǎn)業(yè)領(lǐng)域，開展人工智能安全科學(xué)發(fā)展的基本工作部署，首要的任務(wù)就是樹立關(guān)于人工智能的正確認(rèn)識(shí)，采取辯證且積極的態(tài)度對(duì)待這一新興技術(shù)。當(dāng)前，一部分人過分夸大人工智能的好處，在技術(shù)應(yīng)用時(shí)有些盲目；與此相反，也有一部分人對(duì)科技抱有無知的畏懼，害怕人工智能最終會(huì)失控而反對(duì)產(chǎn)業(yè)繼續(xù)發(fā)展，這都是不可取的。我們知道，人工智能是一把雙刃劍，既能推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展，也會(huì)帶來各種類型的安全風(fēng)險(xiǎn)。因此，各企業(yè)在開展業(yè)務(wù)時(shí)首先應(yīng)理解人工智能的雙重性質(zhì)，兼顧兩大價(jià)值導(dǎo)向——一是發(fā)展，二是安全。

以發(fā)展為價(jià)值導(dǎo)向，企業(yè)應(yīng)當(dāng)詳細(xì)了解外部市場情況，包括行業(yè)內(nèi)同類企業(yè)的技術(shù)布局、價(jià)值鏈各環(huán)節(jié)的商業(yè)應(yīng)用案例、未來可預(yù)估的發(fā)展前景，同時(shí)評(píng)估基于自身業(yè)務(wù)的應(yīng)用機(jī)會(huì)和組織、技術(shù)、資源等形成的核心競爭力，并在此基礎(chǔ)上制定具體可行的發(fā)展規(guī)劃。而在執(zhí)行過程中，激勵(lì)內(nèi)部創(chuàng)新，善用外部資本，能夠加速人工智能發(fā)展。

以安全為價(jià)值導(dǎo)向，企業(yè)應(yīng)當(dāng)將安全理念貫穿于設(shè)計(jì)、研發(fā)、生產(chǎn)、銷售等各個(gè)環(huán)節(jié)，對(duì)風(fēng)險(xiǎn)采取“事先預(yù)防為主，事后補(bǔ)救為輔”的規(guī)避路徑，并制定一系列相關(guān)原則與行動(dòng)指南。如微軟公司以“六項(xiàng)原則”為任何部署人工智能驅(qū)動(dòng)解決方案的核心，其內(nèi)容是隱私和安全原則、透明度原則、公平性原則、可靠性原則、包容性原則和問責(zé)制原則。?再如有報(bào)告提出各行業(yè)人工智能發(fā)展基礎(chǔ)的評(píng)分體系，具體包括：一是組織機(jī)構(gòu)基礎(chǔ)，包含人工智能戰(zhàn)略視野與方向、人才與技術(shù)能力、組織靈活性和驅(qū)變力等；二是數(shù)據(jù)、工作流與技術(shù)基礎(chǔ)，包含可獲取的數(shù)據(jù)量、數(shù)據(jù)儲(chǔ)存流程成熟度、數(shù)據(jù)整潔度、數(shù)據(jù)有良好的記錄與說明文檔、工作流自動(dòng)化程度、對(duì)人工智能友好的IT系統(tǒng)等；三是實(shí)施與應(yīng)用基礎(chǔ)，包含應(yīng)用場景清晰度、人工智能運(yùn)用準(zhǔn)備的成熟度、解決方案服務(wù)機(jī)構(gòu)合作情況等。?評(píng)分體系中的部分要素也可為企業(yè)構(gòu)建人工智能安全框架提供方向。

在參考上述內(nèi)容的同時(shí)，尤其應(yīng)當(dāng)注意責(zé)任制和開放性。企業(yè)應(yīng)建立責(zé)任文化，通過開展員工教育，強(qiáng)調(diào)道德聲明和標(biāo)準(zhǔn)的重要性、人工智能良性與惡性用途的區(qū)分，以及從技術(shù)研發(fā)到應(yīng)用過程的風(fēng)險(xiǎn)防范意識(shí)。尤其是研究人員，他們對(duì)促進(jìn)技術(shù)的有益應(yīng)用和防止有害使用負(fù)有責(zé)任，可通過與決策者合作、提供專業(yè)知識(shí)、評(píng)估項(xiàng)目安全性等來踐行責(zé)任。而開放性則體現(xiàn)于對(duì)技術(shù)信息的適度公開、安全制度和經(jīng)驗(yàn)教訓(xùn)的共享，以及在合理可行的情況下提高公眾的參與度、施行公眾決策。此外，產(chǎn)業(yè)領(lǐng)域還需特別強(qiáng)調(diào)巨頭企業(yè)的引領(lǐng)作用，無論是發(fā)展層面的布局還是安全層面的保障，這些企業(yè)有著明顯的優(yōu)勢地位，應(yīng)當(dāng)承擔(dān)更多社會(huì)責(zé)任，并為中小企業(yè)提供參考范式。

（二）完善對(duì)人工智能數(shù)據(jù)的管理控制

確保人工智能相關(guān)數(shù)據(jù)的保密性、完整性及可用性，要求企業(yè)制定明確的數(shù)據(jù)戰(zhàn)略，其內(nèi)容可包含以下幾個(gè)部分：

第一，重視數(shù)據(jù)資產(chǎn)價(jià)值。構(gòu)建服務(wù)于企業(yè)發(fā)展的數(shù)據(jù)收集、整合與運(yùn)用的生態(tài)系統(tǒng)，在業(yè)務(wù)部門的支持下，采取程序化的方式為數(shù)據(jù)資產(chǎn)提供架構(gòu)，同時(shí)優(yōu)化數(shù)據(jù)的采集、聚合、使用與后續(xù)更新，并保持?jǐn)?shù)據(jù)的準(zhǔn)確、一致與安全。?此外，從發(fā)展的視角來看，保證數(shù)字系統(tǒng)存在開放的接口也是必要的，以便未來靈活整合技術(shù)來適應(yīng)人工智能的發(fā)展。第二，加強(qiáng)個(gè)人隱私保護(hù)。相關(guān)人員在收集、使用、處理數(shù)據(jù)的過程中，需要采取適當(dāng)?shù)募夹g(shù)手段，防止個(gè)人隱私信息的泄露、篡改及損毀，如進(jìn)行數(shù)據(jù)加密，通過采用“同態(tài)加密”的手段，有效地提升信息傳輸?shù)陌踩裕?也可以進(jìn)行數(shù)據(jù)的失真處理，這類數(shù)據(jù)仍可維持一些性質(zhì)不更改，且使得攻擊者難以從中還原出真實(shí)原始數(shù)據(jù)；還可以采取限制發(fā)布的方式，通過“數(shù)據(jù)匿名化”技術(shù)，折中考慮披露風(fēng)險(xiǎn)和確保精度之間的平衡，而后有選擇地發(fā)布敏感數(shù)據(jù)及相關(guān)信息，此時(shí)也可能涉及對(duì)于數(shù)據(jù)重要性的等級(jí)劃分。此外，可以建立認(rèn)證管理體系，包括用戶身份、應(yīng)用身份、設(shè)備身份等內(nèi)容的認(rèn)證，提高隱私數(shù)據(jù)泄露的門檻。第三，建立數(shù)據(jù)自我保護(hù)體系，通過程序設(shè)定實(shí)時(shí)監(jiān)測數(shù)據(jù)的整潔度和安全性，使其不受外界環(huán)境的干擾，保證核心數(shù)據(jù)在任何時(shí)間、任何地點(diǎn)都有能力抵抗各種形式的惡意攻擊。

對(duì)于數(shù)據(jù)安全的保護(hù)，還需特別注意GDPR的要求，有報(bào)告指出GDPR對(duì)人工智能的九大影響，包括：第6條對(duì)重新利用數(shù)據(jù)作了禁止規(guī)定，這對(duì)人工智能開發(fā)和使用的創(chuàng)新性有一定程度的限制；第17條規(guī)定了數(shù)據(jù)的被遺忘權(quán)，這同人工智能機(jī)器學(xué)習(xí)需要海量數(shù)據(jù)相悖，可能會(huì)影響人工智能的準(zhǔn)確性，甚至產(chǎn)生一定破壞結(jié)果；第20條規(guī)定了數(shù)據(jù)的可攜權(quán)，會(huì)推動(dòng)消費(fèi)者與人工智能企業(yè)分享有關(guān)數(shù)據(jù)，從而刺激企業(yè)間的競爭；第44條至第50條要求的數(shù)據(jù)本地化，會(huì)大大提高人工智能處理數(shù)據(jù)的成本；此外，GDPR對(duì)數(shù)據(jù)去識(shí)別標(biāo)準(zhǔn)缺乏明確的規(guī)定，也會(huì)抑制企業(yè)使用未識(shí)別的數(shù)據(jù)，縮小其可能的合法用途范圍。?由此可見，GDPR對(duì)人工智能產(chǎn)業(yè)的數(shù)據(jù)處理行為影響重大，凡在GDPR管轄范圍之內(nèi)的相關(guān)企業(yè)都應(yīng)盡早采取措施提高業(yè)務(wù)合規(guī)性，以適應(yīng)上述影響。

五、結(jié)語

與網(wǎng)絡(luò)犯罪日益加劇時(shí)刑法的積極回應(yīng)一樣，伴隨人工智能而來的新的刑事風(fēng)險(xiǎn)，也呼喚刑法適時(shí)適當(dāng)?shù)亟槿?，面?duì)刑事歸責(zé)理論和刑罰體系的動(dòng)搖、危害行為及因果關(guān)系的認(rèn)定困難，及時(shí)進(jìn)行調(diào)整和轉(zhuǎn)型，以實(shí)現(xiàn)新時(shí)代的刑法價(jià)值。?當(dāng)然，人工智能數(shù)據(jù)風(fēng)險(xiǎn)治理具有復(fù)雜性、廣泛社會(huì)性，并非僅依靠法律手段就能解決，還需要學(xué)術(shù)界打通學(xué)科壁壘、產(chǎn)業(yè)界加強(qiáng)技術(shù)溝通、政府和公眾積極開展對(duì)話，將政府、企事業(yè)單位、專家、技術(shù)人員、公眾等納入多元一體的人工智能安全治理參與機(jī)制中，建立包括法律規(guī)制、倫理規(guī)制、行業(yè)規(guī)制、自律規(guī)制在內(nèi)的多元互動(dòng)的風(fēng)險(xiǎn)規(guī)制體系，?從而營造人工智能創(chuàng)新發(fā)展所需的良好生態(tài)環(huán)境。

注釋

① 中國電子學(xué)會(huì)，新一代人工智能發(fā)展白皮書2017。

② Brundage M,Avin S,clark J.“The Malicious Use of Artificial Intelligence: Forecasting,Prevention,and Mitigation”[EB/OL].（2018-02-20）https://www.repdsitory,cam.ac.uk/hendle/1810/275332.

③ 卡魯姆·蔡斯，人工智能革命：超級(jí)智能時(shí)代的人類命運(yùn)，張堯然譯，機(jī)械工業(yè)出版社，2017年，第118頁。

④ 參見360互聯(lián)網(wǎng)安全中心編，《互聯(lián)網(wǎng)安全的40個(gè)智慧洞見（2017）》，人民郵電出版社，2018年版，第296頁。

⑤⑥ 人工智能學(xué)會(huì)，《中國模式識(shí)別白皮書》（2015），第1頁，第26頁。

⑦ 參見360互聯(lián)網(wǎng)安全中心編，《互聯(lián)網(wǎng)安全的40個(gè)智慧洞見（2017）》，人民郵電出版社，2018年版，第296頁。

⑧ 王熠玨，《我國網(wǎng)絡(luò)犯罪治理的回溯與反思》，載《石河子大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2019年第1期，第55頁。

⑨ 張明楷，《網(wǎng)絡(luò)時(shí)代的刑事立法》，載《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2017年第3期，第80頁。

⑩ 《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問題的解釋》第一條：“刑法第二百五十三條之一規(guī)定的‘公民個(gè)人信息’，是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人身份或者反映特定自然人活動(dòng)情況的各種信息，包括姓名、身份證件號(hào)碼、通信通訊聯(lián)系方式、住址、賬號(hào)密碼、財(cái)產(chǎn)狀況、行蹤軌跡等?！?/p>

? 吳沈括、石嘉黎，《網(wǎng)絡(luò)安全法背景下個(gè)人信息刑事司法保護(hù)》，載《檢察日?qǐng)?bào)》2017年7月11日第3版。

? 《網(wǎng)絡(luò)安全法》第七十六條第五款規(guī)定：“個(gè)人信息，是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別自然人個(gè)人身份的各種信息，包括但不限于自然人的姓名、出生日期、身份證件號(hào)碼、個(gè)人生物識(shí)別信息、住址、電話號(hào)碼等?！?/p>

? 趙秉志、詹奇瑋，《現(xiàn)實(shí)挑戰(zhàn)與未來展望：關(guān)于人工智能的刑法學(xué)思考》，載《暨南學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2019年第1期，第105頁。

? 張全印，《機(jī)遇與挑戰(zhàn)：人工智能帶來的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)》，載《中國刑警學(xué)院學(xué)報(bào)》2018年第6期，第19頁。

? 姜野，《算法的規(guī)訓(xùn)與規(guī)訓(xùn)的算法：人工智能時(shí)代算法的法律規(guī)制》，載《河北法學(xué)》2018年第12期，第149-150頁。

? 趙秉志、詹奇瑋，《現(xiàn)實(shí)挑戰(zhàn)與未來展望：關(guān)于人工智能的刑法學(xué)思考》，載《暨南學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2019年第1期，第106頁。

? 曹建峰，《10大建議！看歐盟如何預(yù)測AI立法新趨勢》，載《機(jī)器人產(chǎn)業(yè)》2017年第2期，第19頁。

? 參見中國電子技術(shù)標(biāo)準(zhǔn)化研究院，《人工智能標(biāo)準(zhǔn)化白皮書》（2018）。

? See Ralph Haupter,“AI is built on trust”accessed 5 November 2018.

?? 參見中國人工智能學(xué)會(huì)、羅蘭貝格，《中國人工智能創(chuàng)新應(yīng)用白皮書》（2017），第18頁，第35頁。

? “同態(tài)加密”允許對(duì)密文進(jìn)行特定的代數(shù)運(yùn)算，得到的仍是加密的結(jié)果，這與對(duì)明文進(jìn)行同樣的運(yùn)算再將結(jié)果加密一樣。360互聯(lián)網(wǎng)安全中心編：《互聯(lián)網(wǎng)安全的40個(gè)智慧洞見（2017）》，人民郵電出版社，2018年版，第110頁。

? See Information Technology and Innovation Foundation，“The Impact of the EU’s New Data Protection Regulation on AI”.

? 劉志偉，《改革開放40年中國刑法學(xué)研究的成就與展望》，《湖南科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版)》2018年第8期，第91頁。

? 馬長山，《人工智能的社會(huì)風(fēng)險(xiǎn)及其法律規(guī)制》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào))》2018年第6期，第53頁。