張濤
〔摘要〕 在推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化的背景下,大數(shù)據(jù)技術(shù)在警察執(zhí)法中廣泛使用?;诖耍恼逻\(yùn)用規(guī)范分析、案例分析、比較分析的研究方法,研究了大數(shù)據(jù)警務(wù)的技術(shù)邏輯、實(shí)踐運(yùn)用、社會(huì)風(fēng)險(xiǎn)及法律控制。研究表明,在大數(shù)據(jù)警務(wù)實(shí)踐中,“臟數(shù)據(jù)”往往導(dǎo)致公民平等權(quán)保護(hù)受到威脅;警察機(jī)關(guān)大量歸集、處理和使用個(gè)人數(shù)據(jù),對(duì)公民個(gè)人信息隱私造成侵犯;算法系統(tǒng)缺乏透明度和問(wèn)責(zé)機(jī)制,導(dǎo)致公民權(quán)利得不到有效救濟(jì)。為了防范大數(shù)據(jù)警務(wù)系統(tǒng)的異化,我國(guó)應(yīng)當(dāng)制定警務(wù)數(shù)據(jù)采集規(guī)范,確保個(gè)人數(shù)據(jù)的合理使用;建立警務(wù)系統(tǒng)評(píng)估機(jī)制,定期檢測(cè)系統(tǒng)存在的風(fēng)險(xiǎn);賦予公眾算法解釋權(quán),強(qiáng)化事后的監(jiān)督問(wèn)責(zé)。
〔關(guān)鍵詞〕 大數(shù)據(jù)警務(wù);算法;人工智能;法律規(guī)制
〔中圖分類號(hào)〕TP31113;D6311〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1008-2689(2020)03-0069-09
引 言
數(shù)據(jù)是信息、知識(shí)和智慧的基礎(chǔ)和前提。①20世紀(jì)90年代以來(lái),信息技術(shù)日新月異,信息產(chǎn)業(yè)持續(xù)發(fā)展,信息化、數(shù)字化已成為當(dāng)今時(shí)代的重要特征,“凡事皆可量化”②“萬(wàn)物皆數(shù)”已經(jīng)成為現(xiàn)實(shí)。隨著物聯(lián)網(wǎng)、云計(jì)算、機(jī)器學(xué)習(xí)、人工智能等技術(shù)的發(fā)展,我們已經(jīng)進(jìn)入了一個(gè)以海量信息和數(shù)據(jù)挖掘?yàn)樘卣鞯拇髷?shù)據(jù)時(shí)代,人們的生活、工作與思維都發(fā)生了大變革[1](1)。在第四次工業(yè)革命背景下,人類的行為決策和公共治理方式向著智慧化方向發(fā)展,大數(shù)據(jù)技術(shù)成為數(shù)字時(shí)代的“望遠(yuǎn)鏡”或“顯微鏡”,使我們可以看到并計(jì)量之前我們一無(wú)所知的新事物[2](8)。警察執(zhí)法模式也開(kāi)始向“智慧警務(wù)”或“大數(shù)據(jù)警務(wù)”發(fā)展。2017年7月,國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》,提出“促進(jìn)人工智能在公共安全領(lǐng)域的深度應(yīng)用,推動(dòng)構(gòu)建公共安全智能化預(yù)警與控制體系”。大數(shù)據(jù)警務(wù)逐漸成為法學(xué)、公共管理學(xué)、社會(huì)學(xué)、數(shù)據(jù)科學(xué)等學(xué)科共同關(guān)注的重要課題。
自美國(guó)“9·11”事件以后,世界各國(guó)的警務(wù)部門都在積極探索警務(wù)模式之變革,而大數(shù)據(jù)技術(shù)為警務(wù)模式創(chuàng)新提供了重要契機(jī)。根據(jù)美國(guó)警察行政研究論壇于2014年出版的《警務(wù)的未來(lái)趨勢(shì)》(Future Trends in Policing),受調(diào)查的200家美國(guó)警察機(jī)構(gòu)中,有70%的警察機(jī)構(gòu)表示將在2到5年內(nèi)實(shí)施或加強(qiáng)對(duì)大數(shù)據(jù)警務(wù)的使用[3](3)。我國(guó)各級(jí)公安機(jī)關(guān)也在積極探索大數(shù)據(jù)警務(wù)實(shí)踐,四川省瀘州市公安局于2018年1月成立了“大數(shù)據(jù)警察支隊(duì)”,專門負(fù)責(zé)大數(shù)據(jù)警務(wù)資源的開(kāi)發(fā)與應(yīng)用,實(shí)現(xiàn)對(duì)各類風(fēng)險(xiǎn)隱患的敏銳感知、精確預(yù)警[4];上海市公安局于2019年7月成立了“數(shù)據(jù)處”,成為全國(guó)省級(jí)公安機(jī)關(guān)中首家獨(dú)立的“數(shù)據(jù)警察”部門[5]。
大數(shù)據(jù)警務(wù)對(duì)警務(wù)部門而言,既是機(jī)遇,亦是挑戰(zhàn)。大數(shù)據(jù)的核心就是預(yù)測(cè),是把數(shù)學(xué)算法運(yùn)用到海量的數(shù)據(jù)上來(lái)預(yù)測(cè)事情發(fā)生的可能性,許多單純依靠人類判斷力的領(lǐng)域都將會(huì)被大數(shù)據(jù)技術(shù)所改變甚至取代[1](16)。大數(shù)據(jù)技術(shù)在警察執(zhí)法中的應(yīng)用,不但可以降低警察執(zhí)法成本,提高執(zhí)法的準(zhǔn)確性,而且還能提高執(zhí)法效率,及時(shí)應(yīng)對(duì)突發(fā)情況,在一定程度上還能限制執(zhí)法者的自由裁量權(quán)[6]。美國(guó)圣克魯斯警察局在第一年使用大數(shù)據(jù)警務(wù)技術(shù)Pred Pol后,盜竊案件下降11%,搶劫案件下降27%[7];四川瀘州市自實(shí)施大數(shù)據(jù)警務(wù)以來(lái),2017年、2018年刑事發(fā)案率分別下降2098%、147%[8]。然而,大數(shù)據(jù)警務(wù)實(shí)踐也存在諸多亟待解決的風(fēng)險(xiǎn)議題,如因“臟數(shù)據(jù)”而導(dǎo)致的社會(huì)公平問(wèn)題、因海量數(shù)據(jù)采集(挖掘)而導(dǎo)致的個(gè)人隱私問(wèn)題、因大量數(shù)據(jù)存儲(chǔ)而導(dǎo)致的數(shù)據(jù)安全問(wèn)題等等[9]。這些風(fēng)險(xiǎn)議題在很大程度上尚未得到法律界的認(rèn)真討論與審查,若不妥善應(yīng)對(duì),將嚴(yán)重影響“智慧公安”的建設(shè)進(jìn)程,出現(xiàn)警察權(quán)力行使與公民個(gè)人權(quán)利保護(hù)失衡的局面[10]。
在全面推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化的背景下,大數(shù)據(jù)警務(wù)雖然能夠提升警察執(zhí)法的效能,但卻存在侵犯公民權(quán)益的風(fēng)險(xiǎn)?;诖耍疚闹攸c(diǎn)分析了大數(shù)據(jù)警務(wù)的技術(shù)邏輯和運(yùn)行現(xiàn)狀,闡釋大數(shù)據(jù)警務(wù)實(shí)踐中存在的主要風(fēng)險(xiǎn),從行政法的角度提出規(guī)制大數(shù)據(jù)警務(wù)的建議。
一、 大數(shù)據(jù)警務(wù)的技術(shù)邏輯
大數(shù)據(jù)警務(wù)作為一個(gè)綜合性概念,目前尚未有明確而統(tǒng)一的定義。為了理解大數(shù)據(jù)警務(wù)的基本內(nèi)涵,我們可以從大數(shù)據(jù)本身入手。一般認(rèn)為,“大數(shù)據(jù)”是收集和分析大量數(shù)據(jù)集的簡(jiǎn)稱,目的是揭示隱藏的模式或規(guī)律[11]。以此為基礎(chǔ),大數(shù)據(jù)警務(wù)則是以物聯(lián)網(wǎng)、云計(jì)算、數(shù)據(jù)挖掘等信息技術(shù)為支撐,以警務(wù)信息化為核心,實(shí)現(xiàn)警務(wù)數(shù)據(jù)的“強(qiáng)度整合、高度共享、深度應(yīng)用”之目標(biāo)的警務(wù)發(fā)展新理念和新模式。從本質(zhì)上看,大數(shù)據(jù)警務(wù)作為有別于“小數(shù)據(jù)警務(wù)”的一種新型的警務(wù)發(fā)展形態(tài),其背后的技術(shù)支撐主要體現(xiàn)在兩個(gè)方面:一是數(shù)據(jù),二是算法。
(一) 數(shù)據(jù)是大數(shù)據(jù)警務(wù)的基礎(chǔ)
“數(shù)據(jù)”這個(gè)詞在拉丁文里是“已知”的意思,也可以理解為“事實(shí)”,計(jì)量和記錄一起促成了數(shù)據(jù)的誕生[1](104)。大數(shù)據(jù)是現(xiàn)代通信技術(shù)、計(jì)算機(jī)技術(shù)和人工智能技術(shù)快速發(fā)展的產(chǎn)物,之所以產(chǎn)生如此巨大的數(shù)據(jù)量,概括起來(lái)主要有以下幾個(gè)方面的原因: 1.由于各種傳感設(shè)備的使用,使人們能夠快速感知并獲取到更多事物;2.由于海量存儲(chǔ)技術(shù)的出現(xiàn),這些事物的部分甚至全部數(shù)據(jù)就可以存儲(chǔ);3.現(xiàn)代通信工具的使用,改變了數(shù)據(jù)傳輸?shù)姆绞?,大?guī)模海量實(shí)時(shí)數(shù)據(jù)能夠及時(shí)收集和存儲(chǔ);4.由于各種智能分析和數(shù)據(jù)挖掘工具的出現(xiàn),使大數(shù)據(jù)的加工處理成為可能[12](21)。在大數(shù)據(jù)時(shí)代,文字、圖片、位置、溝通等均可以轉(zhuǎn)化為數(shù)據(jù),因此大數(shù)據(jù)時(shí)代亦可稱為“一切事物的數(shù)據(jù)化”時(shí)代,這就為大數(shù)據(jù)警務(wù)的興起提供了重要的時(shí)代背景。正如邁爾-舍恩伯格和肯尼思·庫(kù)克耶所指出的“數(shù)據(jù)的真實(shí)價(jià)值就像漂浮在海洋中的冰山,第一眼只能看到冰山一角,而絕大部分則隱藏在表面之下?!?[1](134)
警務(wù)部門作為與個(gè)人、企業(yè)及其他組織聯(lián)系最為緊密的部門,一直在“默默地”收集、存儲(chǔ)及處理各種類型的數(shù)據(jù),這就為大數(shù)據(jù)警務(wù)的出現(xiàn)奠定了堅(jiān)實(shí)的基礎(chǔ)。《人民警察法》第2條第1款對(duì)警察的職責(zé)進(jìn)行了明確規(guī)定《中華人民共和國(guó)人民警察法》第2條第1款規(guī)定:“人民警察的任務(wù)是維護(hù)國(guó)家安全,維護(hù)社會(huì)治安秩序,保護(hù)公民的人身安全、人身自由和合法財(cái)產(chǎn),保護(hù)公共財(cái)產(chǎn),預(yù)防、制止和懲治違法犯罪活動(dòng)?!保爬ㄆ饋?lái)大致可以分為“保護(hù)個(gè)人生命、身體及財(cái)產(chǎn)安全”和“維護(hù)公共安全與秩序”兩大部分。在履行警察職責(zé)的活動(dòng)中,既有限制公民的權(quán)利和自由的活動(dòng),也有非限制公民的權(quán)利和自由的活動(dòng),無(wú)論是哪種活動(dòng),收集處理各種數(shù)據(jù)均是必不可少的環(huán)節(jié)。從公安信息化基礎(chǔ)設(shè)施建設(shè)角度看,我國(guó)先后開(kāi)啟了“金盾工程”“平安城市”“雪亮工程”等公安信息化工程。通過(guò)攝像頭、射頻識(shí)別、智能終端、傳感器等泛在網(wǎng)技術(shù),實(shí)現(xiàn)了對(duì)公安管理要素與治安控制對(duì)象的物質(zhì)屬性、環(huán)境狀況、行為態(tài)勢(shì)等靜、動(dòng)態(tài)信息進(jìn)行大規(guī)模、分布式的信息采集與狀態(tài)辨識(shí)[13]。如今,治安監(jiān)控系統(tǒng)、道路監(jiān)控系統(tǒng)、居民身份系統(tǒng)、現(xiàn)場(chǎng)圖像采集系統(tǒng)等系統(tǒng)中的有效數(shù)據(jù)奠定了大數(shù)據(jù)警務(wù)發(fā)展的基礎(chǔ)。
(二) 算法是大數(shù)據(jù)警務(wù)的靈魂
大數(shù)據(jù)問(wèn)題的核心就是大數(shù)據(jù)技術(shù),即從各種各樣的巨量數(shù)據(jù)中,快速獲得有價(jià)值信息的技術(shù),而大數(shù)據(jù)分析則主要是借助于數(shù)據(jù)分析工具以及數(shù)據(jù)挖掘算法,從海量的數(shù)據(jù)中挖掘出有價(jià)值的信息。數(shù)據(jù)挖掘算法是大數(shù)據(jù)分析的理論核心,各種數(shù)據(jù)挖掘的算法基于不同的數(shù)據(jù)類型和格式才能更加科學(xué)的呈現(xiàn)數(shù)據(jù)本身具備的特點(diǎn)。何為算法呢?如今普遍認(rèn)可的算法定義是:算法是解決特定問(wèn)題求解步驟的描述,在計(jì)算機(jī)中表現(xiàn)為指令的有限序列,并且每條指令表示一個(gè)或多個(gè)操作。[14](12)數(shù)據(jù)挖掘算法在實(shí)踐中主要的目標(biāo)是模式識(shí)別和行為預(yù)測(cè)。模式識(shí)別是指通過(guò)對(duì)數(shù)據(jù)集中的數(shù)據(jù)域進(jìn)行數(shù)據(jù)分析,識(shí)別出可由人類解釋的數(shù)據(jù)模式,獲得對(duì)問(wèn)題的深入理解,從而實(shí)現(xiàn)分類、個(gè)性化、精細(xì)化管理;行為預(yù)測(cè)主要是通過(guò)使用數(shù)據(jù)集中的目標(biāo)對(duì)象的一些屬性來(lái)預(yù)測(cè)我們所關(guān)心的變量的未知或未來(lái)的值,輔助決策支持。[15](213)
各類算法工具為大數(shù)據(jù)警務(wù)創(chuàng)造了無(wú)限可能性,其核心就是將“因果關(guān)系”轉(zhuǎn)變?yōu)椤跋嚓P(guān)關(guān)系”,將“合理懷疑”轉(zhuǎn)變?yōu)椤按髷?shù)據(jù)懷疑”。在傳統(tǒng)的警察執(zhí)法中,警務(wù)部門主要是根據(jù)收集的各類數(shù)據(jù)按照因果關(guān)系進(jìn)行分析;而在大數(shù)據(jù)警務(wù)中,警務(wù)部門通過(guò)找到一個(gè)現(xiàn)象的關(guān)聯(lián)物,相關(guān)關(guān)系就可以幫助我們捕捉現(xiàn)在和預(yù)測(cè)未來(lái)。如果A和B經(jīng)常在一起,我們只需要注意到B發(fā)生了,就可以預(yù)測(cè)A也發(fā)生了。這有助于我們預(yù)測(cè)A可能會(huì)發(fā)生什么,即使我們不可能直接測(cè)量或觀察到A[1](70)。此外,在警察執(zhí)法中,警察盤查權(quán)是一種重要的權(quán)力,它是警務(wù)部門對(duì)可疑人員和可疑場(chǎng)所進(jìn)行臨時(shí)阻攔、盤問(wèn)、檢視、檢查。[16]警察行使盤查權(quán)的一個(gè)重要條件是“合理懷疑”或“有違法犯罪嫌疑”,其標(biāo)準(zhǔn)一般是建立在警察的經(jīng)驗(yàn)判斷之上,而“經(jīng)驗(yàn)”常常被隨意擴(kuò)大。在大數(shù)據(jù)警務(wù)中,大數(shù)據(jù)的相關(guān)關(guān)系分析法更準(zhǔn)確、更快,而且不易受偏見(jiàn)的影響。如果正確使用大數(shù)據(jù)懷疑(big data suspicion)[17],不僅可以提高準(zhǔn)確性和效率,而且還能對(duì)犯罪活動(dòng)模式產(chǎn)生意想不到的洞察。
二、 大數(shù)據(jù)警務(wù)在我國(guó)的實(shí)踐應(yīng)用
大數(shù)據(jù)警務(wù)成為警務(wù)工作創(chuàng)新的重要內(nèi)容,在實(shí)踐中,我國(guó)各級(jí)警務(wù)部門結(jié)合自身的工作實(shí)踐,開(kāi)發(fā)出不同的大數(shù)據(jù)警務(wù)模式,從方法和功能上來(lái)劃分,主要可以分為兩大類。
(一) 以時(shí)空為導(dǎo)向的大數(shù)據(jù)警務(wù)
在犯罪環(huán)境學(xué)理論中,有一種被稱為“犯罪地理學(xué)”(criminal geography)的理論,其旨在研究犯罪的空間和時(shí)間分布,它的發(fā)展可以追溯到比利時(shí)統(tǒng)計(jì)學(xué)家阿道夫·凱特勒(Adolphe Quetelet)和法國(guó)統(tǒng)計(jì)學(xué)家安德烈·米歇爾·格雷(André Michel Guerry)的研究,以及美國(guó)犯罪學(xué)者克利福德·R·肖(Clifford R. Shaw)和亨利·D·麥凱(Henry D. McKay)在芝加哥的研究。[18]如今,“日常活動(dòng)理論”(routine activities theory)“犯罪制圖”(crime mapping)“社會(huì)解組理論”(social disorganization theory)等理論已經(jīng)成為犯罪環(huán)境學(xué)中的重要理論,也為以時(shí)空為導(dǎo)向的大數(shù)據(jù)警務(wù)奠定了理論基礎(chǔ)。
警務(wù)部門在以往的執(zhí)法過(guò)程中積累了大量的違法犯罪案件數(shù)據(jù),已經(jīng)發(fā)生的每個(gè)案件都可能包含如下特征信息:某一特定區(qū)域的重點(diǎn)人口數(shù)量、整個(gè)地區(qū)的重點(diǎn)人口、某一特定區(qū)域的年犯案數(shù)、整個(gè)地區(qū)的年犯案數(shù)、某一特定地區(qū)的流動(dòng)人口數(shù)量等[19](140),借助這些數(shù)據(jù),前述犯罪學(xué)理論可以得到進(jìn)一步研究和檢驗(yàn)。目前在國(guó)際大數(shù)據(jù)警務(wù)實(shí)踐中,已經(jīng)開(kāi)發(fā)出一些相對(duì)比較獨(dú)立,且以時(shí)空為導(dǎo)向的大數(shù)據(jù)警務(wù)系統(tǒng)(軟件),比較有代表性的主要有以下三類:1.PredPol系統(tǒng),該系統(tǒng)可以提供多項(xiàng)預(yù)測(cè)服務(wù),但是最重要的是對(duì)入室盜竊、汽車盜竊、汽車扒竊這三類案件的犯罪地點(diǎn)進(jìn)行預(yù)測(cè);2.Risk Terrain Modeling系統(tǒng),該系統(tǒng)能夠?qū)δ骋坏貐^(qū)的地理風(fēng)險(xiǎn)因素進(jìn)行評(píng)估和預(yù)測(cè),然后向執(zhí)法部門提出建議,從而避免該地區(qū)再次發(fā)生犯罪;3.HunchLab系統(tǒng),該系統(tǒng)綜合了前述兩種系統(tǒng)的特點(diǎn),既能預(yù)測(cè)犯罪風(fēng)險(xiǎn)區(qū)域,也能針對(duì)這些風(fēng)險(xiǎn)提出有針對(duì)性的警務(wù)策略。[20](494-496)
在我國(guó)大數(shù)據(jù)警務(wù)實(shí)踐中,也有許多以時(shí)空為導(dǎo)向的大數(shù)據(jù)警務(wù)系統(tǒng),并且在警察執(zhí)法中發(fā)揮了非常重要的輔助作用,極大地提升了執(zhí)法效率。北京市公安局懷柔分局于2013年4月正式上線運(yùn)行“犯罪數(shù)據(jù)分析和趨勢(shì)預(yù)測(cè)系統(tǒng)”,該系統(tǒng)收錄了懷柔區(qū)近9年來(lái)16萬(wàn)余件犯罪案件數(shù)據(jù)。2014年5月,該系統(tǒng)預(yù)測(cè)提示:近期泉河派出所轄區(qū)北斜街發(fā)生盜竊案的可能性較高。泉河派出所加大對(duì)該區(qū)域的巡邏,并于5月7日抓獲一名盜竊汽車內(nèi)財(cái)物嫌疑人[21]。蘇州市公安局于2014年3月正式上線運(yùn)行“犯罪預(yù)測(cè)系統(tǒng)”,該系統(tǒng)匯集了以往案發(fā)數(shù)據(jù)、人口信息、地理信息、氣象信息等多種數(shù)據(jù),利用大數(shù)據(jù)技術(shù)進(jìn)行智能建模,預(yù)測(cè)轄區(qū)案件的高發(fā)區(qū)域及法案概率,把重點(diǎn)防控區(qū)域用圖形界面直觀展現(xiàn)出來(lái)[22]。
(二) 以個(gè)人為導(dǎo)向的大數(shù)據(jù)警務(wù)
在警務(wù)部門履行職責(zé)的過(guò)程中,提前發(fā)現(xiàn)和識(shí)別“有違法犯罪嫌疑的人員”一直是重點(diǎn),警務(wù)部門許多權(quán)力的行使均與此有關(guān),如《人民警察法》第9條規(guī)定的“警察盤查權(quán)”。在犯罪學(xué)理論中,“集中威懾”(focused deterrence)與以個(gè)人為導(dǎo)向的大數(shù)據(jù)警務(wù)密切相關(guān)。“集中威懾”源于20世紀(jì)90年代美國(guó)波士頓一個(gè)有名的減少團(tuán)伙暴力犯罪項(xiàng)目,波士頓警察局將威懾技術(shù)聚焦于那些警局已經(jīng)掌握的涉及街頭團(tuán)伙和暴力犯罪人身上,讓一些問(wèn)題地方的某些人意識(shí)到執(zhí)法部門在關(guān)注他們,如果他們違法犯罪,執(zhí)法部門可能會(huì)竭力讓他們?nèi)氇z,進(jìn)而受到嚴(yán)厲懲罰。最終證據(jù)表明,與一般威懾相比,集中威懾能夠有效減少街頭犯罪和團(tuán)伙暴力犯罪。[23](54-55)
以個(gè)人為導(dǎo)向的大數(shù)據(jù)警務(wù)主要是利用大數(shù)據(jù)來(lái)識(shí)別和調(diào)查潛在的犯罪嫌疑人、過(guò)去的犯罪嫌疑人以及潛在的受害人。就識(shí)別未來(lái)有高犯罪風(fēng)險(xiǎn)的人之方法而言,大部分方法與評(píng)估個(gè)人風(fēng)險(xiǎn)有關(guān)。傳統(tǒng)的方法將風(fēng)險(xiǎn)因素的數(shù)量相加,從而創(chuàng)建一個(gè)整體風(fēng)險(xiǎn)評(píng)分;大數(shù)據(jù)警務(wù)則采用回歸和分類模型,將風(fēng)險(xiǎn)因素的存在與一個(gè)人犯罪的概率聯(lián)系起來(lái)。就識(shí)別過(guò)去犯罪的嫌疑人之方法而言,主要是利用犯罪現(xiàn)場(chǎng)提供的信息將嫌疑人與犯罪聯(lián)系起來(lái),既可以直接進(jìn)行識(shí)別,也可以通過(guò)排除來(lái)識(shí)別。就識(shí)別潛在的受害人之方法而言,基于時(shí)空或犯罪嫌疑人的大數(shù)據(jù)警務(wù)技術(shù)均可適用,因?yàn)橐胱R(shí)別潛在的受害者,往往要先識(shí)別有犯罪風(fēng)險(xiǎn)的個(gè)人或群體[24](9-11)。
在我國(guó)的大數(shù)據(jù)警務(wù)實(shí)踐中,也有許多以個(gè)人為導(dǎo)向的大數(shù)據(jù)警務(wù)系統(tǒng),對(duì)于識(shí)別潛在的犯罪嫌疑人或受害者、以及過(guò)去的犯罪嫌疑人發(fā)揮了重要作用。貴陽(yáng)市公安局自2017年以來(lái)開(kāi)始建設(shè)“人像大數(shù)據(jù)系統(tǒng)”,依托“塊數(shù)據(jù)指揮中心”“天網(wǎng)工程”等信息基礎(chǔ)設(shè)施,運(yùn)用人臉識(shí)別技術(shù),實(shí)現(xiàn)對(duì)潛在犯罪嫌疑人或受害者以及過(guò)去的犯罪嫌疑人的識(shí)別。2017年,“人像大數(shù)據(jù)系統(tǒng)”協(xié)助抓獲各類犯罪嫌疑人375人,其中全國(guó)在逃人員39名,破獲各類案件400余起。[25]天津市公安局反詐騙中心通過(guò)大數(shù)據(jù)警務(wù)系統(tǒng)甄別潛在受害人,2018年及時(shí)勸阻受害人62萬(wàn)人次,避免損失115億元。[26]
三、 大數(shù)據(jù)警務(wù)實(shí)踐中的風(fēng)險(xiǎn)議題
數(shù)據(jù)驅(qū)動(dòng)的決策系統(tǒng)正在融入社會(huì)生活的方方面面,無(wú)論是個(gè)人還是組織機(jī)構(gòu),對(duì)于自動(dòng)化決策的熱情似乎前所未有的高漲。警務(wù)部門越來(lái)越多地使用各種大數(shù)據(jù)技術(shù)來(lái)預(yù)測(cè)、預(yù)防和調(diào)查犯罪,所有的大數(shù)據(jù)技術(shù)均有可能存在各種不利影響,大數(shù)據(jù)警務(wù)系統(tǒng)也不例外。
(一) 因“臟數(shù)據(jù)”而引發(fā)的不公平對(duì)待
如前所述,數(shù)據(jù)是大數(shù)據(jù)警務(wù)系統(tǒng)的基礎(chǔ),因此任何數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)均有被“臟數(shù)據(jù)”(bad data)破壞的風(fēng)險(xiǎn)。從數(shù)據(jù)科學(xué)的角度看,臟數(shù)據(jù)的類型很多并且每種臟數(shù)據(jù)出現(xiàn)的原因也不盡相同,大致可以分為單源數(shù)據(jù)和多源數(shù)據(jù)的“臟數(shù)據(jù)”,前者是指不完整數(shù)據(jù)、不正確數(shù)據(jù)、不可理解數(shù)據(jù)、過(guò)時(shí)數(shù)據(jù)、數(shù)據(jù)重復(fù)等;后者主要是指重復(fù)數(shù)據(jù)、數(shù)據(jù)沖突等。[27](96)大數(shù)據(jù)警務(wù)系統(tǒng)通常綜合了多種基礎(chǔ)數(shù)據(jù)庫(kù),因此臟數(shù)據(jù)的種類及來(lái)源更為復(fù)雜,一旦這些數(shù)據(jù)在性別、職業(yè)、民族、學(xué)歷等方面存在偏見(jiàn),就可能導(dǎo)致歧視性結(jié)果,造成不公平對(duì)待,正所謂“偏見(jiàn)進(jìn),偏見(jiàn)出”。美國(guó)馬里蘭大學(xué)教授弗蘭克·帕斯奎爾(Frank Pasquale)在《黑箱社會(huì)》(The Black Box Society)一書中指出,算法并不能杜絕基本的歧視問(wèn)題,而只是會(huì)使那些沒(méi)有事實(shí)根據(jù)的負(fù)面假設(shè)匯集成偏見(jiàn)。算法的編寫是由人完成的,而人又會(huì)將其價(jià)值觀嵌入算法,編寫算法過(guò)程中使用的數(shù)據(jù)也會(huì)不可避免地帶有人的偏見(jiàn)。[28](55)
美國(guó)學(xué)者索倫·巴洛卡斯(Solon Barocas)和安德魯·塞爾布斯特(Andrew Selbst)專門對(duì)大數(shù)據(jù)的“差別影響”(disparate impact)進(jìn)行了研究[29]。他們認(rèn)為,所有的算法決策均存在四個(gè)根本性問(wèn)題:1. 定義偏見(jiàn),目標(biāo)變量及其關(guān)聯(lián)的類標(biāo)簽的定義將決定數(shù)據(jù)挖掘的內(nèi)容;2. 訓(xùn)練數(shù)據(jù)偏見(jiàn),訓(xùn)練數(shù)據(jù)若包含偏見(jiàn)因素將導(dǎo)致歧視性的數(shù)據(jù)挖掘結(jié)果;3. 特征選擇偏見(jiàn),在決定哪些屬性納入分析的過(guò)程中若存在偏見(jiàn)將導(dǎo)致嚴(yán)重結(jié)果;4. 代理偏見(jiàn),決策者在對(duì)大數(shù)據(jù)分析結(jié)果進(jìn)行解釋和適用時(shí)可能存在偏見(jiàn)。在此基礎(chǔ)上,安德魯·塞爾布斯特進(jìn)一步對(duì)大數(shù)據(jù)警務(wù)中的“差別影響”進(jìn)行了研究[30]。他認(rèn)為,大數(shù)據(jù)警務(wù)系統(tǒng)因“臟數(shù)據(jù)”而導(dǎo)致不公平對(duì)待已經(jīng)是不爭(zhēng)的事實(shí),如果這種情況繼續(xù)不受法律規(guī)制,那么大數(shù)據(jù)警務(wù)系統(tǒng)將強(qiáng)化和擴(kuò)大刑事司法系統(tǒng)中的歧視。除非社會(huì)認(rèn)識(shí)到這種緊迫性,并迅速采取行動(dòng),否則我們將對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)的歧視性差別影響習(xí)以為常。
在我國(guó)警察執(zhí)法實(shí)踐中,歧視問(wèn)題也時(shí)常發(fā)生,尤其是社會(huì)階層歧視,這導(dǎo)致選擇性執(zhí)法現(xiàn)象嚴(yán)重[31]。警務(wù)部門在火車站、地鐵站、機(jī)場(chǎng)等公共場(chǎng)所實(shí)施盤查措施時(shí),往往明顯地將盤查對(duì)象的個(gè)人因素作為啟動(dòng)盤查措施的考慮基礎(chǔ)。研究表明,社會(huì)大眾以及新聞媒體對(duì)于“農(nóng)民工”存在不少“污名化”的現(xiàn)象,認(rèn)為農(nóng)民工群體是問(wèn)題群體(如違法犯罪率高、不文明、不禮貌、不誠(chéng)信等)[32]。這種刻板印象也被帶入警察執(zhí)法過(guò)程中,“農(nóng)民工”及其居住場(chǎng)所常常成為警務(wù)部門檢查的重點(diǎn),并形成一系列“執(zhí)法數(shù)據(jù)”納入大數(shù)據(jù)警務(wù)系統(tǒng)中。這些表面“客觀”的數(shù)據(jù)可能實(shí)際上正在使原有的偏見(jiàn)得到加深和強(qiáng)化。假設(shè)警務(wù)部門過(guò)去一段時(shí)間中更加關(guān)注“農(nóng)民工”集中的城中村,那么該地區(qū)的違法犯罪數(shù)量肯定會(huì)在總體違法犯罪數(shù)據(jù)中占據(jù)很高的比例,而這僅僅是因?yàn)榫瘎?wù)部門恰巧重點(diǎn)檢查了該地區(qū),而不是因?yàn)檫@些地區(qū)的犯罪率的確比其他地區(qū)高。一旦這些“客觀”數(shù)據(jù)將該地區(qū)認(rèn)定為“犯罪高發(fā)”地區(qū),那么對(duì)這些地區(qū)的巡查將會(huì)更為嚴(yán)密,那么被發(fā)現(xiàn)的違法犯罪現(xiàn)象可能就會(huì)越多,而背后的原因可能是真正的犯罪問(wèn)題,也可能是應(yīng)付上級(jí)的逮捕配額(如“掃黑除惡”),歧視性執(zhí)法問(wèn)題便會(huì)依然存在并且難以解決。[28](60)
(二) 大量數(shù)據(jù)歸集、共享與處理造成隱私侵犯
數(shù)據(jù)歸集、共享和處理是大數(shù)據(jù)分析中的重要環(huán)節(jié)。目前所采集的大部分?jǐn)?shù)據(jù)中都包含個(gè)人信息,而且存在著各種各樣的誘因,讓數(shù)據(jù)控制者或處理者想盡辦法去采集更多、存儲(chǔ)更久、利用更徹底,甚至有的數(shù)據(jù)表面上并不是個(gè)人數(shù)據(jù),但是經(jīng)由大數(shù)據(jù)處理之后就可以追溯到個(gè)人[1](196)。關(guān)于大數(shù)據(jù)對(duì)個(gè)人隱私造成的影響,國(guó)內(nèi)外許多學(xué)者都展開(kāi)了專門的研究。美國(guó)學(xué)者邁克爾·弗羅恩金(Michael Froonmkin)提出“隱私已死”。他認(rèn)為,政府和企業(yè)快速部署“隱私破壞技術(shù)”(privacydestroying technologies),導(dǎo)致個(gè)人信息隱私岌岌可危。這些技術(shù)包括交易數(shù)據(jù)的日常收集、公共場(chǎng)所越來(lái)越多的自動(dòng)化監(jiān)控、人臉識(shí)別技術(shù)和其他生物識(shí)別技術(shù)的使用、手機(jī)追蹤、車輛跟蹤、衛(wèi)星監(jiān)控、工作場(chǎng)所監(jiān)控等。[33]
面對(duì)大數(shù)據(jù)大量、多樣及快速的特征,籠統(tǒng)地討論大數(shù)據(jù)中的隱私保護(hù)問(wèn)題并不能夠準(zhǔn)確找出大數(shù)據(jù)對(duì)隱私產(chǎn)生的影響。因此,本文認(rèn)為,應(yīng)當(dāng)從數(shù)據(jù)生命周期的角度出發(fā),對(duì)數(shù)據(jù)利用行為的不同階段所隱含的隱私問(wèn)題進(jìn)行精準(zhǔn)分析。美國(guó)隱私法權(quán)威丹尼爾·沙勒夫(Daniel Solove)以數(shù)據(jù)利用為基礎(chǔ)的分類方式將隱私分為四個(gè)階段,分別是信息歸集、信息處理、信息散布和侵害。[34]其中信息歸集包含數(shù)據(jù)的產(chǎn)生和歸集;信息處理涵蓋后續(xù)存儲(chǔ)至分析的步驟;信息散布則是數(shù)據(jù)控制者散布數(shù)據(jù)給第三人;侵害則是討論侵入和干擾決定等行為,可以進(jìn)一步分為16個(gè)類型,即信息歸集階段分為監(jiān)控、訊問(wèn)兩個(gè)部分,信息處理包含加總、身份辨識(shí)、不安全、目的外使用等問(wèn)題,信息散布涉及違反保密、揭露、暴露、增加近用、欺詐、盜用、失真。
大數(shù)據(jù)警務(wù)系統(tǒng)通常融合了多種不同來(lái)源的數(shù)據(jù),即使每種數(shù)據(jù)的歸集都是合法、適當(dāng)且必要的,但是一旦加上大數(shù)據(jù)的大量、多樣的特征,再加上算法的分析處理,除了可以產(chǎn)生意想不到的預(yù)測(cè)結(jié)果外,也容易造成個(gè)人身份的重新識(shí)別、增加個(gè)人檔案的信息內(nèi)容和建立個(gè)人活動(dòng)的追蹤。如果再結(jié)合類比數(shù)據(jù)一同使用,如人臉識(shí)別系統(tǒng)、車輛追蹤系統(tǒng)等,個(gè)人隱私暴露的風(fēng)險(xiǎn)也隨之增加。在大數(shù)據(jù)警務(wù)實(shí)踐中,警務(wù)部門利用大數(shù)據(jù)警務(wù)系統(tǒng)對(duì)個(gè)人行動(dòng)軌跡進(jìn)行“畫像”的事例大量存在。例如,江蘇公安機(jī)關(guān)從2017年便開(kāi)始智慧警務(wù)系統(tǒng)建設(shè),該系統(tǒng)匯聚融合了1200多類近8000億條各種資源數(shù)據(jù),不僅能夠繪制個(gè)人的活動(dòng)軌跡,而且還能預(yù)測(cè)未來(lái)活動(dòng)去向?!皝?lái)能報(bào)警、動(dòng)知軌跡、走明去向、全程掌控”已經(jīng)成為江蘇智慧警務(wù)的建設(shè)目標(biāo)[35]。攀枝花市米易縣公安局在2020年“新型冠狀病毒”防控期間,利用大數(shù)據(jù)平臺(tái),對(duì)外來(lái)人員、返鄉(xiāng)人員進(jìn)行排查,結(jié)合各卡點(diǎn)車輛信息、人員信息以及人臉識(shí)別,最快只需10分鐘就能鎖定排查對(duì)象在米易縣的活動(dòng)軌跡。[36]這些事例一方面反映出大數(shù)據(jù)警務(wù)對(duì)于提升執(zhí)法效率、準(zhǔn)確性的積極作用;但另一方面也隱含著對(duì)個(gè)人隱私的威脅,其合法性也有待進(jìn)一步討論,個(gè)人信息的無(wú)限制歸集、共享使用可能違反“目的限制原則”,而個(gè)人活動(dòng)軌跡的公布則將對(duì)個(gè)人隱私造成直接侵犯。
(三) 自動(dòng)化算法系統(tǒng)缺乏透明度與問(wèn)責(zé)機(jī)制
算法透明和算法問(wèn)責(zé)一直是算法規(guī)制研究中的重點(diǎn)議題。一般認(rèn)為,算法透明作為一種重要的算法規(guī)制原則,其側(cè)重點(diǎn)主要在于事前對(duì)自動(dòng)化決策系統(tǒng)進(jìn)行規(guī)制,其功能主要在于增加算法控制者的可問(wèn)責(zé)性,并且滿足算法規(guī)制對(duì)象的知情權(quán)[37]。算法問(wèn)責(zé),在計(jì)算機(jī)科學(xué)家看來(lái)可能是在設(shè)計(jì)算法之前應(yīng)當(dāng)遵循的詳細(xì)規(guī)范,從更廣泛意義上來(lái)看,算法問(wèn)責(zé)應(yīng)當(dāng)是計(jì)算機(jī)科學(xué)家、社會(huì)公眾、法院及其他審查人員通過(guò)技術(shù)措施、法律機(jī)制(訴訟)實(shí)施的事后監(jiān)督[38]。算法透明與算法問(wèn)責(zé)之間是一種相互促進(jìn)的關(guān)系,要破除“算法黑箱”,既要遵循透明度原則,也應(yīng)當(dāng)具備相應(yīng)的問(wèn)責(zé)機(jī)制。
按照目前各級(jí)警務(wù)部門實(shí)施大數(shù)據(jù)警務(wù)系統(tǒng)的情況來(lái)看,幾乎所有類型的大數(shù)據(jù)警務(wù)系統(tǒng)都缺乏透明度和問(wèn)責(zé)機(jī)制。大數(shù)據(jù)警務(wù)系統(tǒng)和其他自動(dòng)化算法系統(tǒng)遇到了同樣的難題,即技術(shù)復(fù)雜性使得局外人幾乎不可能判斷程序的準(zhǔn)確性、有效性和公平性。對(duì)于警務(wù)人員而言,他們可以察覺(jué)到大數(shù)據(jù)警務(wù)系統(tǒng)是否在運(yùn)行,但是他們無(wú)法探知大數(shù)據(jù)警務(wù)系統(tǒng)是如何運(yùn)行的;對(duì)于社會(huì)大眾、新聞媒體、法院而言,他們可能知道大數(shù)據(jù)警務(wù)系統(tǒng)存在問(wèn)題,但卻無(wú)法拿出合理的證據(jù)予以證明。這種透明度與問(wèn)責(zé)機(jī)制的缺乏不僅是新技術(shù)快速發(fā)展使然,也是知識(shí)產(chǎn)權(quán)專有的結(jié)果。如果警察、法院或公民不能理解大數(shù)據(jù)警務(wù)系統(tǒng),如果律師、記者和學(xué)者不能質(zhì)疑這些技術(shù),那么大數(shù)據(jù)警務(wù)系統(tǒng)都將面臨合法性與合理性的危機(jī)。
四、 對(duì)大數(shù)據(jù)警務(wù)的法律控制
隨著國(guó)家治理體系和治理能力現(xiàn)代化的不斷推進(jìn),大數(shù)據(jù)警務(wù)已經(jīng)勢(shì)在必行。我們?cè)谧非蟠髷?shù)據(jù)警務(wù)帶來(lái)的技術(shù)紅利同時(shí),不能忽略隱含其中的風(fēng)險(xiǎn)議題。為了在技術(shù)創(chuàng)新與權(quán)利保護(hù)之間保持平衡,需要建構(gòu)大數(shù)據(jù)警務(wù)的法律控制機(jī)制。
(一) 制定警務(wù)數(shù)據(jù)采集規(guī)范,確保個(gè)人數(shù)據(jù)的合理使用
從個(gè)人數(shù)據(jù)保護(hù)的角度看,個(gè)人數(shù)據(jù)處理與利用是個(gè)人數(shù)據(jù)歸集的必然結(jié)果;從政府信息公開(kāi)和政府?dāng)?shù)據(jù)開(kāi)放的角度看,政府?dāng)?shù)據(jù)應(yīng)當(dāng)有完整的歸集和處理,才能有充分正確的信息對(duì)人民公開(kāi)。因此,數(shù)據(jù)的歸集、處理和利用均應(yīng)當(dāng)有完善健全的法制規(guī)范,才能在考量行政效率的同時(shí)兼顧個(gè)人數(shù)據(jù)的保護(hù)。大數(shù)據(jù)警務(wù)系統(tǒng)對(duì)個(gè)人數(shù)據(jù)的匯集與使用主要體現(xiàn)在兩個(gè)方面:一方面是警務(wù)部門直接從個(gè)人、組織歸集個(gè)人數(shù)據(jù);另一方面是警務(wù)部門整理、利用他人或其他機(jī)關(guān)共享的各種數(shù)據(jù)。為了能夠規(guī)范個(gè)人數(shù)據(jù)的歸集、處理與使用,確保個(gè)人信息隱私不受侵犯,應(yīng)當(dāng)從以下兩個(gè)方面完善相關(guān)規(guī)范。
其一,制定明確的警務(wù)部門個(gè)人數(shù)據(jù)采集規(guī)范。目前關(guān)于個(gè)人數(shù)據(jù)的采集,我國(guó)尚未制定專門的法律規(guī)范,一些基本的原則或規(guī)則主要散見(jiàn)于其他法律中,不過(guò)大部分主要針對(duì)私營(yíng)部門的數(shù)據(jù)采集行為。例如,全國(guó)人民代表大會(huì)常務(wù)委員會(huì)于2012年12月頒布實(shí)施的《關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》第2條便規(guī)定:“網(wǎng)絡(luò)服務(wù)提供者和其他企業(yè)事業(yè)單位在業(yè)務(wù)活動(dòng)中收集、使用公民個(gè)人電子信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,明示收集、使用信息的目的、方式和范圍,并經(jīng)被收集者同意,不得違反法律、法規(guī)的規(guī)定和雙方的約定收集、使用信息。”前述規(guī)定已經(jīng)基本上涵蓋了目前國(guó)際上有關(guān)個(gè)人信息保護(hù)的通用基本原則,因此也應(yīng)當(dāng)適用于警務(wù)部門的個(gè)人數(shù)據(jù)采集行為。目前日本專門制定了《行政機(jī)關(guān)個(gè)人信息保護(hù)法》,其他國(guó)家也紛紛在個(gè)人信息保護(hù)法中對(duì)行政機(jī)關(guān)個(gè)人信息采集行為予以規(guī)范,我國(guó)應(yīng)當(dāng)以此為借鑒,結(jié)合我國(guó)的實(shí)踐經(jīng)驗(yàn),制定專門的警務(wù)部門個(gè)人數(shù)據(jù)采集規(guī)范,建立統(tǒng)一的數(shù)據(jù)集采集、錄入標(biāo)準(zhǔn)和審核標(biāo)準(zhǔn),并且確立數(shù)據(jù)質(zhì)量的責(zé)任主體。
其二,嚴(yán)格規(guī)范警務(wù)部門(人員)處理、使用個(gè)人數(shù)據(jù)的行為。個(gè)人數(shù)據(jù)的處理、使用是大數(shù)據(jù)警務(wù)系統(tǒng)中的重要環(huán)節(jié),盡管最終的處理過(guò)程是由算法完成,但是從數(shù)據(jù)的前期處理,到算法的技術(shù)設(shè)計(jì),均是由人在進(jìn)行。因此,應(yīng)當(dāng)加強(qiáng)對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)設(shè)計(jì)人員、管理人員的法律與倫理要求,加強(qiáng)對(duì)他們的培訓(xùn),避免他們將自己的個(gè)人偏見(jiàn)帶入數(shù)據(jù)處理和系統(tǒng)設(shè)計(jì)中;同時(shí)還要強(qiáng)化個(gè)人責(zé)任體系,對(duì)于那些借助“職務(wù)之便”,利用大數(shù)據(jù)警務(wù)系統(tǒng)從事違法犯罪的警務(wù)人員或技術(shù)公司,造成損失的應(yīng)當(dāng)承擔(dān)賠償責(zé)任,涉嫌刑事犯罪的,應(yīng)當(dāng)依法追究刑事責(zé)任。
(二) 建立警務(wù)系統(tǒng)評(píng)估機(jī)制,定期檢測(cè)系統(tǒng)存在的風(fēng)險(xiǎn)
大數(shù)據(jù)警務(wù)系統(tǒng)的設(shè)計(jì)、使用并非一勞永逸,換言之,此時(shí)無(wú)風(fēng)險(xiǎn)并不意味著彼時(shí)無(wú)風(fēng)險(xiǎn)。美國(guó)學(xué)者安德魯·弗格森(Andrew Ferguson)認(rèn)為,無(wú)論是輸入數(shù)據(jù)和輸出結(jié)果的問(wèn)題,還是系統(tǒng)的錯(cuò)誤、偏見(jiàn)等問(wèn)題,均指向一個(gè)解決方案,那便是檢測(cè),用于警務(wù)的大數(shù)據(jù)技術(shù)必須不斷檢測(cè)和重新檢測(cè)。[39]他進(jìn)一步指出,警務(wù)部門在部署大數(shù)據(jù)警務(wù)系統(tǒng)時(shí)必須明確回答以下幾個(gè)問(wèn)題:1. 擬使用的大數(shù)據(jù)技術(shù)所要解決的風(fēng)險(xiǎn)是什么?2. 能否確保系統(tǒng)輸入的適當(dāng)性(如數(shù)據(jù)的正確性、方法的可靠性等)?3. 能否確保系統(tǒng)輸出的適當(dāng)性(如對(duì)警務(wù)實(shí)踐、社會(huì)的影響)?4. 能否對(duì)系統(tǒng)進(jìn)行測(cè)評(píng)以確保透明度和問(wèn)責(zé)機(jī)制?5. 使用大數(shù)據(jù)警務(wù)系統(tǒng)是否尊重了公民的自主權(quán)?此外,在歐盟的個(gè)人數(shù)據(jù)保護(hù)法制中,“個(gè)人數(shù)據(jù)保護(hù)影響評(píng)估”“自動(dòng)化決策影響評(píng)估”等已經(jīng)成為數(shù)據(jù)控制者或處理者的法定義務(wù)。[40]結(jié)合國(guó)外的理論與實(shí)踐經(jīng)驗(yàn),本文認(rèn)為,應(yīng)當(dāng)從以下兩方面完善大數(shù)據(jù)警務(wù)系統(tǒng)評(píng)估機(jī)制。
其一,從評(píng)估的階段來(lái)看,應(yīng)當(dāng)完善大數(shù)據(jù)警務(wù)系統(tǒng)的事前、事中和事后評(píng)估。從目前我國(guó)大數(shù)據(jù)警務(wù)實(shí)踐來(lái)看,各級(jí)警務(wù)部門大部分遵循了“個(gè)別試點(diǎn)運(yùn)行+全面上線運(yùn)行”的模式,即先在某一個(gè)區(qū)域?qū)Υ髷?shù)據(jù)警務(wù)系統(tǒng)進(jìn)行小范圍試點(diǎn),然后再推廣應(yīng)用到整個(gè)警務(wù)系統(tǒng)。這種模式可以視為是大數(shù)據(jù)警務(wù)系統(tǒng)的事前評(píng)估機(jī)制,對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)的效果進(jìn)行測(cè)評(píng),視情況進(jìn)行修正完善后交付正式運(yùn)行。然而,在大數(shù)據(jù)警務(wù)系統(tǒng)正式上線運(yùn)行以后,相應(yīng)的評(píng)估機(jī)制往往付之闕如。因此,本文認(rèn)為,應(yīng)當(dāng)完善大數(shù)據(jù)警務(wù)系統(tǒng)的事前、事中和事后評(píng)估機(jī)制。在實(shí)施的全過(guò)程,對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)可能給警務(wù)實(shí)踐和公民權(quán)利帶來(lái)的影響、存在的法律風(fēng)險(xiǎn)和技術(shù)風(fēng)險(xiǎn)進(jìn)行全面評(píng)估,并通過(guò)互聯(lián)網(wǎng)、新媒體等載體向社會(huì)公眾公布評(píng)估報(bào)告,接受社會(huì)公眾的監(jiān)督。
其二,從評(píng)估的主體來(lái)看,應(yīng)當(dāng)完善大數(shù)據(jù)警務(wù)系統(tǒng)的自我評(píng)估和第三方評(píng)估。警務(wù)部門作為大數(shù)據(jù)警務(wù)系統(tǒng)的設(shè)計(jì)者、管理者,由警務(wù)部門開(kāi)展內(nèi)部自我評(píng)估,可以有效利用其自身的實(shí)踐經(jīng)驗(yàn)優(yōu)勢(shì),這對(duì)于提升大數(shù)據(jù)警務(wù)系統(tǒng)運(yùn)行的穩(wěn)定性意義重大。但是從行政法理論看,個(gè)人不應(yīng)當(dāng)做自己案子的法官,所以應(yīng)該由高等院校、科研機(jī)構(gòu)、科技公司等第三方機(jī)構(gòu)來(lái)對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)進(jìn)行評(píng)估。這樣做一方面可以充分發(fā)揮第三方機(jī)構(gòu)的專業(yè)優(yōu)勢(shì),將最新的技術(shù)發(fā)展應(yīng)用到大數(shù)據(jù)警務(wù)中;另一方面也可以利用第三方機(jī)構(gòu)的中立地位,提升公眾對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)的信任。
(三) 賦予公眾算法解釋權(quán),強(qiáng)化公眾的事后監(jiān)督問(wèn)責(zé)
大數(shù)據(jù)警務(wù)系統(tǒng)以各種數(shù)據(jù)資源為基礎(chǔ),借助算法技術(shù),直接對(duì)行政相對(duì)人的行為進(jìn)行預(yù)判,并輔助警務(wù)部門的決策(如啟動(dòng)盤問(wèn)、專項(xiàng)執(zhí)法等),已經(jīng)具備了傳統(tǒng)警察權(quán)的效果,成為一種新的技術(shù)權(quán)力,有學(xué)者將其稱為“算法權(quán)力”[41]。為了防止算法權(quán)力異化,必須對(duì)其進(jìn)行有效規(guī)制,其中最為重要的是要賦權(quán)行政相對(duì)人。
其一,賦予公眾算法解釋權(quán)。算法解釋權(quán)是公眾對(duì)自動(dòng)化算法決策提出異議的權(quán)利,以保護(hù)個(gè)人自主與尊嚴(yán)[42]。面對(duì)“算法黑箱”,我們不能聽(tīng)之任之。盡管大數(shù)據(jù)警務(wù)系統(tǒng)作出的決策是由機(jī)器或算法作出,但只要融入到警察機(jī)關(guān)的行政行為中,并且最終對(duì)行政相對(duì)人的合法權(quán)益造成影響,那么就應(yīng)當(dāng)允許行政相對(duì)人提出反對(duì)意見(jiàn)。從理論上看,公眾享有算法解釋權(quán)與行政機(jī)關(guān)“說(shuō)明理由”義務(wù)是相對(duì)應(yīng)的,警察機(jī)關(guān)對(duì)其作出的決定或裁決應(yīng)當(dāng)進(jìn)行正當(dāng)性說(shuō)明[43]。從域外法制經(jīng)驗(yàn)來(lái)看,歐盟《通用數(shù)據(jù)保護(hù)條例》第15條第1款(h)項(xiàng)規(guī)定,參見(jiàn)https://gdprinfo.eu/art15gdpr/。當(dāng)數(shù)據(jù)處理已經(jīng)開(kāi)始,且若存在算法決策,算法控制者應(yīng)當(dāng)向算法決策相對(duì)人披露這一信息,尤其是決策系統(tǒng)適用的邏輯以及此類自動(dòng)化處理對(duì)于算法決策相對(duì)人的意義及可能后果等“有意義的信息”。
其二,賦予公眾事后救濟(jì)的權(quán)利。“有權(quán)利必有救濟(jì)”,行政相對(duì)人對(duì)于大數(shù)據(jù)警務(wù)系統(tǒng)除了享有算法解釋權(quán)以外,還應(yīng)當(dāng)具有異議權(quán)、修復(fù)權(quán)、反對(duì)權(quán)。具體而言,首先應(yīng)當(dāng)允許行政相對(duì)人對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)的決策向主管機(jī)關(guān)提出異議。其次,如果發(fā)現(xiàn)大數(shù)據(jù)警務(wù)系統(tǒng)的不利決策是由數(shù)據(jù)錯(cuò)誤、缺漏、過(guò)時(shí)造成,應(yīng)當(dāng)允許個(gè)人向主管機(jī)關(guān)要求修復(fù)數(shù)據(jù)的權(quán)利。最后,若行政相對(duì)人始終無(wú)法接受大數(shù)據(jù)警務(wù)系統(tǒng)作出的決策,應(yīng)當(dāng)允許行政相對(duì)人推出算法決策,并為其提供人為決策。歐盟《通用數(shù)據(jù)保護(hù)條例》第22條第1款便規(guī)定,參見(jiàn)https://gdprinfo.eu/art22gdpr/。個(gè)人有權(quán)不受完全依據(jù)自動(dòng)化處理作出的且對(duì)其產(chǎn)生法律或類似重大影響的決策的約束,這就是所謂的“反對(duì)權(quán)”,盡管上述權(quán)利的行使還存在諸多限制條件,但也不失為一種有益嘗試。
結(jié) 語(yǔ)
新興的大數(shù)據(jù)警務(wù)系統(tǒng)打破了警察機(jī)關(guān)與行政相對(duì)人之間的權(quán)力結(jié)構(gòu)平衡,存在諸多風(fēng)險(xiǎn)議題,亟待進(jìn)行法律規(guī)制。面對(duì)大數(shù)據(jù)警務(wù)系統(tǒng)的廣泛運(yùn)用,一方面,我們需要不斷進(jìn)行技術(shù)創(chuàng)新,發(fā)揮大數(shù)據(jù)警務(wù)系統(tǒng)在優(yōu)化警察執(zhí)法、推進(jìn)社會(huì)治理智慧化方面的優(yōu)勢(shì);另一方面,我們也應(yīng)當(dāng)恪守法治精神,將大數(shù)據(jù)警務(wù)系統(tǒng)納入法治軌道,避免不當(dāng)使用對(duì)公民的知情權(quán)、隱私權(quán)、平等權(quán)等合法權(quán)益造成侵害。與所有人工智能法律規(guī)制議題一樣,大數(shù)據(jù)警務(wù)系統(tǒng)的法律控制是一個(gè)系統(tǒng)工程,并非一項(xiàng)制度、一部法律就能解決,因此需要不同的學(xué)科、不同的治理主體共同參與,形成社會(huì)共治的局面。此外,無(wú)論是大數(shù)據(jù)警務(wù)系統(tǒng)的設(shè)計(jì),還是大數(shù)據(jù)警務(wù)系統(tǒng)的運(yùn)行,我們均應(yīng)當(dāng)堅(jiān)持“以人為本”的精神,正如邁爾-舍恩伯格和肯尼思·庫(kù)克耶在《大數(shù)據(jù)時(shí)代》一書中所指出的:“大數(shù)據(jù)并不是一個(gè)充斥著運(yùn)算法則和機(jī)器的冰冷世界,人類的作用依然無(wú)法被完全替代。大數(shù)據(jù)為我們提供的不是最終答案,只是參考答案,幫助只是暫時(shí)的,而更好的方法和答案還在不就的未來(lái)?!?[1](233)
〔參考文獻(xiàn)〕
[1]
[英]維克托·邁爾-舍恩伯格,肯尼思·庫(kù)克耶.大數(shù)據(jù)時(shí)代:生活、工作與思維的大變革[M].盛楊燕,周濤 譯.杭州:浙江人民出版社,2013.
[2] [美]史蒂夫·洛爾.大數(shù)據(jù)主義[M].胡小銳,朱勝超 譯.北京:中信出版社,2015.
[3] Police Executive Research Forum. Future Trends in Policing[M]. Washington, D.C.: Office of Community Oriented Policing Services, 2014.
[4] 岳東. 瀘州市公安局成立全省首支大數(shù)據(jù)警察支隊(duì)[EB/OL].(2018-01-31)[2020-02-05].四川新聞網(wǎng)http://scnews.newssc.org/system/20180131/000852634.html.
[5] 鄭瑩瑩,李姝徵.“數(shù)據(jù)警察”亮相上海[EB/OL]. (2019-07-25) [2020-02-05].中國(guó)新聞網(wǎng)https://baijiahao.baidu.com/s?id=1640038782151978140&wfr=spider&for=pc.
[6] 譚俊.大數(shù)據(jù)技術(shù)在警察執(zhí)法中的應(yīng)用及挑戰(zhàn)[J].行政法學(xué)研究,2018,(6):128-135.
[7]Huet, E. Server and protect: predictive policing firm PredPol promises to map crime before it happens[EB/OL].(2015-02-11)[2020-02-05].https://www.forbes.com/sites/ellenhuet/2015/02/11/predpolpredictivepolicing/#4763ab24f9bf.
[8]劉嫚.四川首個(gè)大數(shù)據(jù)警察支隊(duì)帶來(lái)警務(wù)變革: 刑事案發(fā)率明顯下降[EB/OL].(2019-07-18)[2020-02-05].搜狐新聞http://m.sohu.com/a/327775435_161795.
[9]高文英.警務(wù)數(shù)據(jù)的應(yīng)用與執(zhí)法方式改革探究——以貴州、四川瀘州警務(wù)數(shù)據(jù)的應(yīng)用為例[J].警學(xué)研究,2019,(1):5-13.
[10]夏菲.警務(wù)科技化進(jìn)程中的公民權(quán)利保障[J].華東政法大學(xué)學(xué)報(bào),2019,22(5):84-95.
[11]Cohen, J. E. What privacy is for[J].Harvard Law Review, 2013, 126(7):1904-1933.
[12]翟云.智慧治理:“互聯(lián)網(wǎng)+”時(shí)代的政府治理創(chuàng)新[M].北京:國(guó)家行政學(xué)院出版社,2016.
[13] 張兆端. 智慧公安:大數(shù)據(jù)時(shí)代的警務(wù)模式[M]. 北京:中國(guó)人民公安大學(xué)出版社, 2015.
[14]周延森. 數(shù)據(jù)結(jié)構(gòu)[M]. 北京:北京郵電大學(xué)出版社, 2019.
[15]馬國(guó)富. 基于云計(jì)算的監(jiān)獄數(shù)據(jù)安全與大數(shù)據(jù)挖掘[M]. 保定:河北大學(xué)出版社, 2016.
[16]萬(wàn)毅.論盤查[J].法學(xué)研究,2006,(2):126-137.
[17]Ferguson, A. G. Big data and predictive reasonable suspicion[J]. University of Pennsylvania Law Review, 2015, 163(2): 327-410.
[18]譚遠(yuǎn)宏.從動(dòng)機(jī)到機(jī)會(huì)——犯罪地理學(xué)的興起[J].山東警察學(xué)院學(xué)報(bào),2016,28(6):19-29.
[19]陶衛(wèi)東. 模糊信息理論與警務(wù)智能決策[M]. 北京:科學(xué)技術(shù)文獻(xiàn)出版社, 2016.
[20] Lave, T. R. & Eric Miller, J.(eds.) The Cambridge Handbook of Policing in the United States[M]. Cambridge: Cambridge University Press, 2019.
[21] 李濤. 北京懷柔建“犯罪預(yù)測(cè)系統(tǒng)”收錄9年案件數(shù)據(jù)[EB/OL].(2014-06-17)[2020-02-06].中國(guó)新聞網(wǎng)http://www.chinanews.com/fz/2014/06-17/6287303.shtml.
[22]丁國(guó)鋒.蘇州公安犯罪預(yù)測(cè)系統(tǒng)上線6個(gè)月,大數(shù)據(jù)助推警務(wù)改革[EB/OL]. (2014-10-9) [2020-02-06].法制網(wǎng)http://legal.china.com.cn/2014-10/09/content_33711795.htm.
[23][加]歐文·沃勒. 智慧的犯罪控制:共建安全未來(lái)的指南[M]. 呂巖 譯.北京:中國(guó)法制出版社, 2018.
[24]Perry,W. L., McInnis, B., Price, C. C., Smith, S. C. & Hollywood, J. S. Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations[M]. RAND Corporation, 2013.
[25] 張鵬.貴陽(yáng)創(chuàng)建“人像大數(shù)據(jù)”系統(tǒng)[N].貴陽(yáng)晚報(bào),2018-3-8(A05).
[26]周斌,張馳. 政法機(jī)關(guān)大數(shù)據(jù)戰(zhàn)略守護(hù)平安[N]. 法制日?qǐng)?bào),2019-1-17(3).
[27]蔡莉,朱揚(yáng)勇. 大數(shù)據(jù)質(zhì)量[M]. 上海:上??茖W(xué)技術(shù)出版社, 2017.
[28][美]弗蘭克·帕斯奎爾.黑箱社會(huì):控制金錢和信息的數(shù)據(jù)法則[M].趙亞男,譯.北京:中信出版社,2015.
[29]Barocas, S. & Selbst, A. D. Big datas disparate impact[J].California Law Review, 2016, 104(3): 671-732.
[30]Selbst, A. D. Disparate impact in big data policing[J]. Georgia Law Review, 2017, 52(1): 109-196.
[31] 戴治勇.選擇性執(zhí)法[J].法學(xué)研究,2008,30(4):28-35.
[32]李建新,丁立軍.“污名化”的流動(dòng)人口問(wèn)題[J].社會(huì)科學(xué),2009,(9):56-64,189.
[33]Froomkin, A. M. The death of privacy[J]. Stanford Law Review, 2000, 52(5): 1461-1544.
[34]Solove, D J. A taxonomy of privacy[J]. University of Pennsylvania Law Review, 2006, 154(3): 477-564.
[35] 趙家新.江蘇深挖大數(shù)據(jù)打造智慧警務(wù)[N].人民公安報(bào),2018-3-27(1).
[36]彭莉.最快10分鐘鎖定活動(dòng)軌跡!米易縣大數(shù)據(jù)助力疫情防控[EB/OL]. (2020-2-5) [2020-02-7].川報(bào)觀察https://cbgc.scol.com.cn/news/228914?from=groupmessage.
[37]沈偉偉.算法透明原則的迷思——算法規(guī)制理論的批判[J].環(huán)球法律評(píng)論,2019,41(6):20-39.
[38]約叔華·A.克魯爾,喬安娜·休伊,索倫·巴洛卡斯,愛(ài)德華·W.菲爾頓,喬爾·R.瑞登伯格,大衛(wèi)·G.羅賓遜,哈蘭·余,沈偉偉,薛迪.可問(wèn)責(zé)的算法[J].地方立法研究,2019,4(4):102-150.
[39] Ferguson, A. G. Policing predictive policing[J]. Washington University Law Review, 2017, 94(5): 1109-1190.
[40] 肖冬梅,譚禮格.歐盟數(shù)據(jù)保護(hù)影響評(píng)估制度及其啟示[J].中國(guó)圖書館學(xué)報(bào),2018,44(5):76-86.
[41] 張凌寒.算法權(quán)力的興起、異化及法律規(guī)制[J].法商研究,2019,36(4):63-75.
[42]解正山.算法決策規(guī)制——以算法“解釋權(quán)”為中心[J].現(xiàn)代法學(xué),2020,42(1):179-193.
[43]王立勇.論正當(dāng)程序中的說(shuō)明理由制度[J].行政法學(xué)研究,2008,(02):60-66,84.
(責(zé)任編輯:夏 雪)
On Big Data Policing and Its Legal Control
ZHANG Tao
(School of Law, China University of Political Science and Law, Beijing 100088, China)
Abstract: In the background of advancing the modernization of the national governance capabilities and system, big data technology is widely used in police law enforcement. Based on this, the article uses the research methods of normative, case and comparative analysis to study the technical logic, practical application, social risks and legal control of big data policing. In the practice of big data policing, “dirty data” often leads to threats to citizens equal rights protection. The massive collection, processing and use of personal data by police agencies infringes on personal information privacy. The algorithm systems have no transparency and accountability mechanism, which leads to the lack of effective relief for personal rights. In order to prevent the alienation of big data policing, China should formulate police data collection laws to ensure the reasonable use of personal data, establish risk assessment system to regularly detect the risks of the big data policing, give the public the right of algorithm interpretation and strengthen the public accountability.
Key words: big data policing; algorithm; artificial intelligence; legal regulation
北京科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)2020年3期