夏潤(rùn)澤

（中國(guó)人民公安大學(xué)）

1 引言

人工智能技術(shù)的快速發(fā)展為“智慧警務(wù)”建設(shè)提供了新生動(dòng)力，也為擴(kuò)大公安機(jī)關(guān)基層警務(wù)治理空間提供了可能。隨著人工智能技術(shù)在基層警務(wù)中應(yīng)用深度和廣度的不斷拓展，其本身以月為單位的更新迭代導(dǎo)致的不確定性帶來(lái)了技術(shù)、邊界、倫理等方面的風(fēng)險(xiǎn)，極大地挑戰(zhàn)著基層公安機(jī)關(guān)的治理水平和能力。因此，如何化解人工智能技術(shù)在智慧警務(wù)中的應(yīng)用困境成為亟待解決的命題。

2 智慧警務(wù)中人工智能的應(yīng)用邏輯

2.1 人工智能應(yīng)用于智慧警務(wù)的必要性

當(dāng)前，傳統(tǒng)的警務(wù)模式已難以回應(yīng)復(fù)雜的社會(huì)需求，“智慧警務(wù)”概念的提出為警務(wù)效能建設(shè)指明了方向。技術(shù)是推動(dòng)社會(huì)發(fā)展進(jìn)步的最活躍的要素，日新月異的技術(shù)變革不斷推動(dòng)生產(chǎn)力發(fā)展[1]，“智慧警務(wù)”是指依托現(xiàn)代信息技術(shù)，以科技強(qiáng)警的戰(zhàn)略部署為指導(dǎo)，推進(jìn)公安警務(wù)工作信息化、交互化、智能化，搭建貼近警務(wù)實(shí)戰(zhàn)的數(shù)據(jù)分析，研判機(jī)制建設(shè)和公安機(jī)關(guān)各部門(mén)間協(xié)同運(yùn)轉(zhuǎn)，最終實(shí)現(xiàn)警務(wù)效能最大化和最優(yōu)化的警務(wù)工作新理念。人工智能技術(shù)的發(fā)展為基層警務(wù)效能建設(shè)提供了新的可行路徑，公安機(jī)關(guān)治理與技術(shù)吸納實(shí)質(zhì)是一種雙向互動(dòng)關(guān)系，這構(gòu)成了人工智能技術(shù)嵌入基層公安機(jī)關(guān)治理的內(nèi)在邏輯[2]。人工智能技術(shù)的應(yīng)用也因此成為智慧警務(wù)建設(shè)過(guò)程中無(wú)法規(guī)避的命題。

2.2 人工智能應(yīng)用于智慧警務(wù)的現(xiàn)狀

人工智能技術(shù)在智慧警務(wù)中的應(yīng)用是指公安機(jī)關(guān)基于物聯(lián)網(wǎng)、數(shù)據(jù)處理和可視化交互等關(guān)鍵技術(shù)實(shí)現(xiàn)警務(wù)模式的多元智能融合。首先是部分警務(wù)工作實(shí)現(xiàn)智能化和自動(dòng)化，如警用人工智能在評(píng)估出警環(huán)境后認(rèn)為存在潛在威脅時(shí)，可以直接調(diào)配警力支援[3]，從而解放了警力，有助于延伸公安警務(wù)工作的廣度。此外，依托人工智能技術(shù)搭建的一體化警務(wù)合成作戰(zhàn)平臺(tái)和警用地理信息平臺(tái)[4]使公安機(jī)關(guān)能更全面高效地掌握轄區(qū)內(nèi)信息，從而提高了轄區(qū)治理的能力和效率，拓展了警務(wù)工作深度。

3 智慧警務(wù)中應(yīng)用人工智能技術(shù)面臨的問(wèn)題

警務(wù)是專(zhuān)業(yè)化警察運(yùn)用國(guó)家強(qiáng)制力，預(yù)防懲治違法犯罪，維護(hù)國(guó)家安全和社會(huì)穩(wěn)定的活動(dòng)[5]，可見(jiàn)，包含智慧警務(wù)在內(nèi)的警務(wù)活動(dòng)由主體、客體和過(guò)程三要素構(gòu)成，因此，本文從這三個(gè)維度分析人工智能技術(shù)在智慧警務(wù)中的應(yīng)用困境。

1）技術(shù)異化：警務(wù)主體正確履職遭遇困境

一方面，異化是人類(lèi)在發(fā)展過(guò)程中創(chuàng)造的物質(zhì)或精神的東西，其成為異己的存在力量并反過(guò)來(lái)控制、奴役人類(lèi)自身[6]。人工智能與智慧警務(wù)的深度融合必然使其與使用者發(fā)生交互，并基于人工智能的思考和判斷作為行使警察權(quán)的依據(jù)，甚至直接由人工智能決定行使警察權(quán)。由此而言，警用人工智能已經(jīng)在一定程度上成為了警務(wù)主體，原本的警務(wù)人員則逐漸淪為附庸，警用人工智能異化的趨向已經(jīng)有所顯現(xiàn)，甚至反過(guò)來(lái)鉗制警務(wù)人員。

另一方面，盡管人工智能號(hào)稱(chēng)“極致理性”[7]，但警用人工智能能否正確履職仍然取決于其內(nèi)設(shè)算法。算法編輯者的主觀偏向會(huì)有意或無(wú)意地導(dǎo)致算法缺陷，使人工智能同樣產(chǎn)生“主觀偏見(jiàn)”。警用人工智能技術(shù)的前沿性、專(zhuān)業(yè)性以及開(kāi)發(fā)公司的保密要求所形成的“算法黑箱”導(dǎo)致警務(wù)人員難以掌握其運(yùn)行邏輯，其潛在的偏向性將導(dǎo)致警務(wù)活動(dòng)偏離公正軌道，甚至使無(wú)辜者遭受不必要的懲罰，嚴(yán)重影響警務(wù)主體正確履職。

2）權(quán)力擴(kuò)張：警務(wù)客體權(quán)利保護(hù)面臨風(fēng)險(xiǎn)

智能社會(huì)下人類(lèi)生活的不可侵犯性受到?jīng)_擊[8]。為給人工智能技術(shù)提供足夠數(shù)據(jù)，往往需要在特定時(shí)空內(nèi)最大限度地收集和處理信息，公眾不自覺(jué)地暴露于警務(wù)人工智能的監(jiān)控之下，這種對(duì)公民個(gè)人信息的全方位收集將不可避免地壓縮公民隱私權(quán)。

警用人工智能對(duì)公民隱私權(quán)的挑戰(zhàn)主要體現(xiàn)在收集端和處理端。就收集端而言，相較于傳統(tǒng)的信息收集，基于物聯(lián)網(wǎng)的人工智能技術(shù)能夠最大程度地全方位挖掘處理信息。由無(wú)人機(jī)、全天監(jiān)控、人臉識(shí)別等工具共同連接成的信息收集網(wǎng)絡(luò)甚至能夠突破時(shí)間和空間的限制。這種無(wú)孔不入的信息收集將難以避免地觸及私人領(lǐng)域，對(duì)公民隱私權(quán)保護(hù)構(gòu)成挑戰(zhàn)。就處理端而言，為更高效地預(yù)防犯罪，人工智能往往會(huì)將收集到的個(gè)人信息，甚至包括某些當(dāng)事人并不愿為人所知的信息，作為研判和預(yù)測(cè)個(gè)體行為的依據(jù)，這些數(shù)據(jù)間的比對(duì)和碰撞在警務(wù)人員面前一覽無(wú)余。警用人工智能廣泛進(jìn)行的數(shù)據(jù)分析畫(huà)像和精準(zhǔn)防控已經(jīng)揭開(kāi)了傳統(tǒng)隱私空間的面紗。

3）倫理爭(zhēng)議：警務(wù)過(guò)程監(jiān)管存在歸責(zé)障礙

人工智能快速更新迭代使其深度學(xué)習(xí)能力不斷增強(qiáng)，逐漸實(shí)現(xiàn)從信息收集到?jīng)Q定執(zhí)行全過(guò)程的自動(dòng)化、自主化，甚至出現(xiàn)代替警務(wù)人員履職的現(xiàn)象。此時(shí)，警用人工智能已經(jīng)從事實(shí)上由“工具”轉(zhuǎn)為警務(wù)工作的“主體”，原本身為主體的警務(wù)人員則只能被動(dòng)的依令行事，隨著人工智能技術(shù)的進(jìn)步及其應(yīng)用深度的拓展，人類(lèi)作為警務(wù)活動(dòng)主體的地位將被削弱，作為警務(wù)法律關(guān)系中的管理及執(zhí)法對(duì)象的人類(lèi)成為客體，人類(lèi)與人工智能主客體地位反轉(zhuǎn)，人類(lèi)顯現(xiàn)出“主體客體化”傾向[9]。

然而，當(dāng)警務(wù)過(guò)程轉(zhuǎn)由人工智能主導(dǎo)，警務(wù)活動(dòng)中的責(zé)任事故應(yīng)當(dāng)如何歸責(zé)？在人工智能研判決定下被動(dòng)行事的警務(wù)人員主觀上并無(wú)過(guò)錯(cuò)，由其承擔(dān)責(zé)任則有失公平。而作出決定的人工智能則很難被視為能夠獨(dú)立承擔(dān)責(zé)任的主體，其同樣也不具備接受處罰或救濟(jì)損失的能力，也不能用警察職業(yè)道德去要求[10]。因此，一旦人工智能主導(dǎo)的智慧警務(wù)過(guò)程中出現(xiàn)損失甚至傷亡后果，現(xiàn)有的針對(duì)警察執(zhí)法人員過(guò)錯(cuò)的監(jiān)管歸責(zé)機(jī)制將無(wú)法運(yùn)用。

4 人工智能之于智慧警務(wù)的優(yōu)化路徑

4.1 堅(jiān)持警務(wù)人員主體身份，防止關(guān)系異位

就警務(wù)人員而言，應(yīng)當(dāng)強(qiáng)調(diào)人的主體性，始終堅(jiān)持以人為本的原則，即所有的警用人工智能都應(yīng)當(dāng)為警務(wù)人員服務(wù)，將決定的自主性回歸警務(wù)人員自身，明確人類(lèi)是采取警務(wù)活動(dòng)的最終決定者。同時(shí)，將人工智能的算法設(shè)計(jì)向警務(wù)人員公開(kāi)，賦予警務(wù)人員了解和質(zhì)疑人工智能的權(quán)利，破除算法黑箱，以警察的職業(yè)倫理矯正警用人工智能可能存在的算法偏見(jiàn)，進(jìn)而強(qiáng)化警務(wù)人員的主體地位。

就警用人工智能而言，應(yīng)當(dāng)強(qiáng)調(diào)其工具性。明確人工智能介入智慧警務(wù)模式的邊界，即哪些警務(wù)工作可以借助人工智能輔助以及輔助的界限和程度，哪些警務(wù)工作只能由警務(wù)人員自主完成，通過(guò)制度設(shè)計(jì)明確警用人工智能在智慧警務(wù)中的輔助地位，防止其過(guò)度自主化，從而充分發(fā)揮警用人工智能在提高警務(wù)效能方面的積極作用，防止人工智能過(guò)度介入導(dǎo)致的技術(shù)異化。

4.2 優(yōu)化人工智能數(shù)據(jù)應(yīng)用，規(guī)避侵權(quán)風(fēng)險(xiǎn)

首先，應(yīng)充分發(fā)揮法律法規(guī)的規(guī)制作用。應(yīng)當(dāng)針對(duì)人工智能技術(shù)收集處理數(shù)據(jù)的范圍、方式、用途和目的構(gòu)建法律框架，并建立完善的數(shù)據(jù)安全監(jiān)管體系，依托國(guó)家強(qiáng)制力確保個(gè)人隱私數(shù)據(jù)的安全性。同時(shí)以法律形式賦予公民合理的知情權(quán)和參與權(quán)，以規(guī)避信息鴻溝和數(shù)據(jù)獨(dú)裁。

其次，應(yīng)當(dāng)制定使用數(shù)據(jù)的標(biāo)準(zhǔn)規(guī)范。建立數(shù)據(jù)合規(guī)性操作標(biāo)準(zhǔn)，明確數(shù)據(jù)使用流程和安全檢驗(yàn)機(jī)制。公安機(jī)關(guān)作為數(shù)據(jù)的使用者應(yīng)當(dāng)建立起安全可靠的警用數(shù)據(jù)平臺(tái)，設(shè)立數(shù)據(jù)使用守則，使警務(wù)數(shù)據(jù)信息的處理和使用均處于監(jiān)管之下，防止警務(wù)人員濫用、泄露隱私信息。同時(shí)設(shè)置信息分類(lèi)管理標(biāo)準(zhǔn)，劃定信息處理的界線和范圍，避免敏感和隱私信息的非必要收集和處理。

最后，應(yīng)當(dāng)加強(qiáng)數(shù)據(jù)安全保障體系建設(shè)。建設(shè)隱私數(shù)據(jù)保護(hù)平臺(tái)，采取安全加密技術(shù)、安全存儲(chǔ)等數(shù)據(jù)保護(hù)手段，實(shí)現(xiàn)數(shù)據(jù)加密、隔離和同步備份，并且采取匿名化或脫敏技術(shù)，對(duì)涉及個(gè)人隱私的數(shù)據(jù)進(jìn)行加密處理，防止數(shù)據(jù)泄露，消除個(gè)人身份信息、敏感數(shù)據(jù)及其他個(gè)人信息的暴露風(fēng)險(xiǎn)。

4.3 搭建警務(wù)監(jiān)管制度框架，解決歸責(zé)難題

一方面要建立涵蓋“事前—事中—事后”的全流程監(jiān)管機(jī)制，規(guī)避人工智能導(dǎo)致警務(wù)活動(dòng)責(zé)任事故的風(fēng)險(xiǎn)。事前，對(duì)警用人工智能設(shè)計(jì)企業(yè)進(jìn)行資質(zhì)審核，同時(shí)對(duì)警務(wù)人工智能的源代碼和算法設(shè)計(jì)進(jìn)行評(píng)估，從源頭上減少警用人工智能偏差的可能。事中，隨時(shí)關(guān)注警用人工智能的運(yùn)行狀況，提高警務(wù)人員的知識(shí)水平和應(yīng)用人工智能技術(shù)的能力，以人的主觀能動(dòng)性保障警務(wù)人工智能的正確運(yùn)行。事后，要加強(qiáng)事后的評(píng)估優(yōu)化，設(shè)置由公安機(jī)關(guān)領(lǐng)導(dǎo)、一線警務(wù)人員和技術(shù)專(zhuān)家組成的評(píng)估專(zhuān)家組，及時(shí)分析研判人工智能介入警務(wù)活動(dòng)過(guò)程中存在的問(wèn)題，并以此為依據(jù)對(duì)人工智能進(jìn)行優(yōu)化升級(jí)，逐漸完善警用人工智能技術(shù)的應(yīng)用。

另一方面，建立可行的歸責(zé)機(jī)制。盡管在人工智能所主導(dǎo)的警務(wù)活動(dòng)中應(yīng)當(dāng)由誰(shuí)承擔(dān)責(zé)任仍是一個(gè)有待商榷的問(wèn)題，但在公共治理領(lǐng)域，技術(shù)與行政價(jià)值的互動(dòng)，須以責(zé)任明晰為前提[11]，無(wú)法歸責(zé)的模糊答案顯然無(wú)法回應(yīng)發(fā)生警務(wù)責(zé)任事故后社會(huì)公眾的期待。確定的是，公安機(jī)關(guān)在應(yīng)用人工智能技術(shù)時(shí)理應(yīng)預(yù)見(jiàn)到其可能導(dǎo)致的后果，因此按照誰(shuí)應(yīng)用誰(shuí)負(fù)責(zé)的原則，由公安機(jī)關(guān)對(duì)外承擔(dān)責(zé)任在邏輯上是妥當(dāng)?shù)?。在承?dān)社會(huì)責(zé)任后，公安機(jī)關(guān)應(yīng)當(dāng)如何在使用者、設(shè)計(jì)者之間進(jìn)行內(nèi)部追責(zé)則需要根據(jù)個(gè)案情況進(jìn)行理性分析。這種擔(dān)責(zé)方式可以確保社會(huì)公眾的權(quán)益得到及時(shí)妥當(dāng)保障，也符合國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)確定的“共擔(dān)責(zé)任”原則。

5 結(jié)語(yǔ)

警務(wù)人工智能的運(yùn)用一方面能夠促進(jìn)智慧警務(wù)建設(shè)，使警務(wù)工作適應(yīng)新時(shí)代的需要，另一方面也給警務(wù)活動(dòng)帶來(lái)了前所未有的挑戰(zhàn)。需要明確并牢記的是：警用人工智能終究只是警務(wù)人員的輔助和延伸，應(yīng)當(dāng)堅(jiān)持“人”的主體地位，高揚(yáng)警務(wù)人員的職業(yè)倫理和主觀能動(dòng)性，以人的邏輯掌控人工智能而非被其所鉗制，正確發(fā)揮其積極作用，實(shí)現(xiàn)人工智能與智慧警務(wù)的充分融合。