蔣 潔

（1.南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所 江蘇南京 210044）

（2.南京信息工程大學(xué)法政學(xué)院 江蘇南京 210044）

新一代人工智能技術(shù)突破了數(shù)據(jù)、 算法和算力的瓶頸，充分展現(xiàn)出造福社會(huì)發(fā)展的正向效能，迅速吸引來源復(fù)雜的巨量投資， 掀起全球性的國家戰(zhàn)略支撐浪潮。 各國紛紛出臺(tái)相應(yīng)政策，如美國的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》、德國的《人工智能戰(zhàn)略要點(diǎn)》、我國的《新一代人工智能發(fā)展規(guī)劃》等，這些政策引領(lǐng)了人工智能發(fā)展方向。然而，這一創(chuàng)新引擎在深度融合實(shí)體經(jīng)濟(jì)的過程中， 逐漸暴露出難以落地具體場景的棘手障礙， 引發(fā)了擔(dān)憂人工智能再逢寒冬的輿情熱議。

面對(duì)人工智能應(yīng)用最后一公里道阻且長、 相關(guān)投融資項(xiàng)目頻繁失敗的艱難局面， 作為落地風(fēng)口的人臉識(shí)別技術(shù)在井噴式應(yīng)用實(shí)踐中亦暴露出受制于光線、年齡、妝容等的固有缺陷和復(fù)雜多樣的違規(guī)現(xiàn)象。 如越來越多的圖書館為了實(shí)現(xiàn)無介質(zhì)化的智慧服務(wù)，紛紛將人臉識(shí)別技術(shù)嵌入門禁、借閱、物品存放、遠(yuǎn)程預(yù)約以及內(nèi)部考勤和管理系統(tǒng)，卻往往由于識(shí)別偏差和速度限制而增加高峰期的時(shí)間成本，且讀者對(duì)于錄入人臉信息的接受意愿和持續(xù)使用意愿較低。 亟待完善人臉識(shí)別應(yīng)用的調(diào)整規(guī)則、健全行業(yè)自律機(jī)制、 勾勒企業(yè)合規(guī)方案， 大幅降低侵權(quán)風(fēng)險(xiǎn)，有序推動(dòng)產(chǎn)業(yè)發(fā)展。

1 人臉識(shí)別技術(shù)及其應(yīng)用

1.1 人臉識(shí)別的概念界定與技術(shù)優(yōu)勢

1.1.1 人臉識(shí)別的概念分析

人臉識(shí)別（Face Recognition）是基于人的臉部特征數(shù)據(jù)辨別個(gè)體身份的一種生物識(shí)別技術(shù)。 相關(guān)研究工作早在20 世紀(jì)60 年代已經(jīng)萌芽，卻直至90 年代才在計(jì)算機(jī)科學(xué)和光成像技術(shù)較為發(fā)達(dá)的歐美國家投入初級(jí)應(yīng)用。近幾年，隨著計(jì)算機(jī)視覺技術(shù)頻繁迭代， 基于深度學(xué)習(xí)的人臉識(shí)別逐漸成為實(shí)現(xiàn)虛擬空間與現(xiàn)實(shí)世界身份對(duì)應(yīng)的重要紐帶。

人臉識(shí)別系統(tǒng)是集合運(yùn)用光學(xué)、計(jì)算機(jī)、生物傳感器與統(tǒng)計(jì)學(xué)原理等高科技手段， 在動(dòng)態(tài)場景中自動(dòng)檢測定位、跟蹤采集、比對(duì)提取、分離存儲(chǔ)自然人先天的人臉特征信息， 通過與數(shù)據(jù)庫中已登記面貌進(jìn)行核實(shí)以確認(rèn)身份或在數(shù)據(jù)庫中搜索是否存在指定人像的完整流程。

1.1.2 人臉識(shí)別的技術(shù)優(yōu)勢

在全社會(huì)范圍內(nèi)構(gòu)筑及時(shí)、精準(zhǔn)、便捷、廉價(jià)的身份認(rèn)證和管理機(jī)制是營建安全有序的生態(tài)環(huán)境的重要基石。 然而，從靜態(tài)密碼認(rèn)證到使用手機(jī)短信、動(dòng)態(tài)口令或數(shù)字證書等私人可信的創(chuàng)新物事進(jìn)行認(rèn)證，傳統(tǒng)的非生物識(shí)別模式充斥著用戶遺忘、密碼泄露、病毒攻擊等致毀風(fēng)險(xiǎn)。近來興起的讀取目標(biāo)對(duì)象的神情步態(tài)、 擊鍵方式和簽名手法等行為特征的生物識(shí)別技術(shù)受到持續(xù)時(shí)長、精神狀態(tài)、力度大小等因素的干擾，不夠準(zhǔn)確可靠。 基于靜脈、耳廓、語音、基因、指掌紋、視虹膜等生理特征的識(shí)別技術(shù)亦存在運(yùn)作流程復(fù)雜、硬件成本高昂、實(shí)際辨識(shí)度低且大多需要目標(biāo)對(duì)象主動(dòng)參與等弊端。與之相對(duì)，人臉特征集合了目標(biāo)對(duì)象本身固有的、無須攜帶的、與眾不同的自然特點(diǎn)。 結(jié)合海量數(shù)據(jù)挖掘和神經(jīng)網(wǎng)絡(luò)技術(shù)的人臉識(shí)別系統(tǒng)是目前成熟度最高的人工智能落地領(lǐng)域，具有直觀性、廉價(jià)性、便利性、非接觸性、可并發(fā)性和較強(qiáng)的穩(wěn)定性等優(yōu)勢， 能夠針對(duì)機(jī)密內(nèi)容進(jìn)行分級(jí)保護(hù)、 實(shí)現(xiàn)被動(dòng)無感知的數(shù)字化身份檢測和追蹤，進(jìn)而提升物聯(lián)網(wǎng)的安全性、可靠性和穩(wěn)定性。

1.2 人臉識(shí)別技術(shù)的主要應(yīng)用與價(jià)值分析

作為人工智能落地的前沿風(fēng)口， 人臉識(shí)別應(yīng)用場景迅速拓展， 全球市場規(guī)模已達(dá)23.91 億美元，表現(xiàn)出巨大的發(fā)展?jié)摿?。我國科技巨頭扎堆布局人臉識(shí)別領(lǐng)域，如寒武紀(jì)深耕人臉識(shí)別處理硬件、依圖科技專注人臉識(shí)別算法研發(fā)、 海康威視聚焦人臉識(shí)別安防產(chǎn)品等， 持續(xù)提升產(chǎn)業(yè)支撐力， 優(yōu)化產(chǎn)業(yè)鏈結(jié)構(gòu)，完善行業(yè)服務(wù)解決方案。我國目前的人才儲(chǔ)備位列全球第三，市場規(guī)模達(dá)到4.4 億美元。

1.2.1 公益目的應(yīng)用及價(jià)值

逐漸成熟的人臉識(shí)別技術(shù)被廣泛應(yīng)用到出入境識(shí)別、失蹤人口定位、違法行為曝光、民政與刑偵身份核查等治安防控、政府治理、人口管理、醫(yī)療衛(wèi)生、軌道交通和其他涉及社會(huì)公益的關(guān)鍵性領(lǐng)域， 提高執(zhí)法執(zhí)政能力，加強(qiáng)社區(qū)安全，改善居民生活。 如越來越多的政府部門、高等院校、圖書館文化宮等公共服務(wù)機(jī)構(gòu)搭建了隔空自動(dòng)抓取人臉驗(yàn)證的共享平臺(tái)，通過動(dòng)態(tài)人臉道閘、人臉識(shí)別監(jiān)控和敏感人員聯(lián)動(dòng)預(yù)警等實(shí)現(xiàn)全程痕跡管理， 免去繁瑣的信息登錄和證件查驗(yàn)，全面提高服務(wù)效率和安全性。 又如，北京、重慶、合肥等地的保障性住房建設(shè)投資中心開始在公租房項(xiàng)目中引入防范違規(guī)轉(zhuǎn)租轉(zhuǎn)借的人臉識(shí)別門禁系統(tǒng)， 通過主動(dòng)識(shí)別并避免非承租家庭成員隨意進(jìn)入來實(shí)現(xiàn)社會(huì)資源公平利用， 保護(hù)廣大住戶的居住安全。再如，各地社保機(jī)構(gòu)開展的人臉識(shí)別養(yǎng)老金領(lǐng)取資格認(rèn)證既方便離退休人員遠(yuǎn)程驗(yàn)證生存狀態(tài)的惠民舉措，也避免了漏報(bào)、遲報(bào)、瞞報(bào)死亡狀況導(dǎo)致養(yǎng)老保險(xiǎn)基金流失的情況。

1.2.2 私益目的應(yīng)用及價(jià)值

物聯(lián)網(wǎng)生態(tài)建設(shè)與互聯(lián)網(wǎng)金融、營銷、娛樂等場景中不斷嵌入人臉識(shí)別技術(shù)， 推動(dòng)創(chuàng)新企業(yè)與傳統(tǒng)巨頭共融共進(jìn)。 從直銷銀行的人臉識(shí)別客戶身份驗(yàn)證到刷臉取現(xiàn)的自動(dòng)取款機(jī)、從3D 人臉識(shí)別解鎖智能手機(jī)到移動(dòng)端刷臉支付、 從在線智能相冊(cè)到人臉美顏?zhàn)儕y， 人臉識(shí)別的商業(yè)化應(yīng)用不僅賦能產(chǎn)品和服務(wù)的質(zhì)量改善、成本降低與效率提升，亦有效助力商業(yè)組織的合規(guī)實(shí)踐。 如曠視科技的人臉識(shí)別遠(yuǎn)程開戶系統(tǒng)為“從柜臺(tái)轉(zhuǎn)向指尖”的金融服務(wù)改革提供了重要支撐， 大幅改善用戶體驗(yàn)、 降低開戶時(shí)間成本、提升服務(wù)運(yùn)營效率。又如，嵌入智能家居平臺(tái)和新零售領(lǐng)域的人臉識(shí)別技術(shù)應(yīng)用不僅是門禁系統(tǒng)和鑒權(quán)系統(tǒng)的中樞， 也是分析用戶群體、 提升支付效率、實(shí)現(xiàn)廣告精準(zhǔn)投放的重要工具。 再如，曾因低齡用戶沉迷游戲而遭到新華社和《人民日?qǐng)?bào)》“八次”痛批的《王者榮耀》開始采用人臉識(shí)別技術(shù)強(qiáng)化控制未成年人的游戲時(shí)間， 更好地合規(guī)網(wǎng)絡(luò)游戲監(jiān)管規(guī)范的要求，積極承擔(dān)企業(yè)的社會(huì)責(zé)任，為未成年人打造健康的游戲環(huán)境。

2 基于實(shí)例的人臉識(shí)別應(yīng)用侵權(quán)風(fēng)險(xiǎn)評(píng)估

2.1 “ZAO”事件分析

2019 年9 月， 我國一款刷屏級(jí)人臉識(shí)別應(yīng)用“ZAO” 經(jīng)歷了從爆紅到爆黑的“曇花一現(xiàn)”。 雖然“ZAO”在識(shí)別技術(shù)上沒有明顯突破，卻牢牢抓住大眾的獵奇心理， 采用契合社交媒體場景的傻瓜式操作（上傳一張正面照片后點(diǎn)擊“造視頻”區(qū)域的素材就可以換臉）滿足了普通人的明星夢想，進(jìn)而引發(fā)病毒式傳播，在一夜之間俘獲海量個(gè)人終端，充分反映出人們對(duì)于人臉識(shí)別可用產(chǎn)品和服務(wù)的迫切需求。

然而， 這一應(yīng)用項(xiàng)目采用的內(nèi)容寬泛、 指向不明、減免自身責(zé)任的格式化用戶協(xié)議迅速引發(fā)公眾對(duì)其過度攫取用戶授權(quán)（商業(yè)使用權(quán)、隨意刪除權(quán)、數(shù)據(jù)保留權(quán)）和單方強(qiáng)加用戶義務(wù)的責(zé)問。傻瓜式的面部替代使得境內(nèi)外主流媒體、民間大V、專業(yè)律師乃至普通民眾等直觀感受和聯(lián)想到各種應(yīng)用場景中的替換風(fēng)險(xiǎn)，紛紛開始憂心人身和財(cái)產(chǎn)安全，繼而引發(fā)對(duì)于人臉識(shí)別應(yīng)用于門禁、安防、支付等領(lǐng)域的安全性、精準(zhǔn)性與可靠性的廣泛質(zhì)疑。 最終導(dǎo)致“ZAO”一再修改用戶協(xié)議，并在緊急發(fā)布的《致歉函》中解釋系統(tǒng)“不存儲(chǔ)信息、不產(chǎn)生支付風(fēng)險(xiǎn)、會(huì)刪除相應(yīng)信息”，卻難以扭轉(zhuǎn)評(píng)分暴跌、用戶流失、公信力下降的局面，亦給其他應(yīng)用場景（如刷臉支付）帶來巨大的信任危機(jī)。

事實(shí)上， 人臉識(shí)別應(yīng)用的數(shù)據(jù)存儲(chǔ)和傳輸流程均有可能被劫持， 存在嚴(yán)重的隱私侵權(quán)和安全受損風(fēng)險(xiǎn)。驚人的利潤、異化的成就感與尚不健全的法律規(guī)制和行政監(jiān)管等使得人臉識(shí)別黑產(chǎn)市場逐漸壯大。全球虛擬空間無縫對(duì)接、各國調(diào)整規(guī)則存在差異以及全球一體化的司法協(xié)助機(jī)制尚未形成等， 為人臉識(shí)別黑產(chǎn)的滋長留下了巨大巢白。 僅以人工智能合成媒體領(lǐng)域?yàn)槔?，“深度偽造”（Deepfakes） 技術(shù)開源兩年后，黑產(chǎn)鏈已經(jīng)步入成熟期，不僅提供色情片換臉和惡意欺詐視頻制作的教學(xué)與定制服務(wù)， 還積極“攻堅(jiān)”金融類刷臉程序。 目前能夠騙過一些采用低端活體檢測技術(shù)或靜態(tài)圖片的小微平臺(tái)的刷臉系統(tǒng)， 亦有可能在使用個(gè)人圖像的現(xiàn)實(shí)場景中成功實(shí)施侵權(quán)行為。

2.2 人臉識(shí)別應(yīng)用的隱私風(fēng)險(xiǎn)分析

人臉識(shí)別系統(tǒng)重點(diǎn)核驗(yàn)自然人專有的唯一面部信息，客觀上能夠有效防范個(gè)人隱私泄露。 但是，隔空捕捉信息和網(wǎng)絡(luò)爬取數(shù)據(jù)等特征使其在具體應(yīng)用過程中有能力繞過對(duì)方知情同意， 在未經(jīng)授權(quán)或超出用戶明確許可的收集目的之外，采集、使用、流轉(zhuǎn)他人的面部數(shù)據(jù)。即便是在公共場所之中，只要自然人并未事先獲得清晰明確的正在被侵入性識(shí)別技術(shù)監(jiān)控的通知或者已經(jīng)主動(dòng)采取有效措施（如戴帽子口罩等）隱藏面部特征，主觀上就享有合理的隱私期待。 如IBM 在被獲取面部數(shù)據(jù)的自然人毫不知情的狀況下從Flickr 網(wǎng)站抓取了近100 萬張照片用于訓(xùn)練人臉識(shí)別算法，嚴(yán)重侵害用戶的隱私權(quán)益。

同時(shí)， 人臉識(shí)別系統(tǒng)在重建人臉影像的過程中有可能發(fā)生功能潛變， 不僅分析出對(duì)象的種族、年齡、性取向、健康狀況、情緒變化等，甚至通過手機(jī)唯一標(biāo)識(shí)符連接不同數(shù)據(jù)庫中特定自然人的人臉信息和其他資料，使得個(gè)人隱私安全岌岌可危。

此外， 人臉特征的專屬性與唯一性使得隱蔽采集并聚合存儲(chǔ)人臉數(shù)據(jù)的識(shí)別系統(tǒng)一旦存在漏洞，就有可能觸發(fā)難以挽回的重大隱私侵權(quán)事件。 如2019 年2 月，荷蘭安全研究員維克托·格韋爾斯發(fā)現(xiàn)我國深網(wǎng)視界公司的數(shù)據(jù)庫存在未授權(quán)訪問的漏洞，導(dǎo)致數(shù)百萬人的身份證信息、人臉識(shí)別圖像及捕獲地點(diǎn)等處于任何人都可以查看的“裸奔”狀態(tài)，嚴(yán)重威脅隱私安全。

2.3 人臉識(shí)別應(yīng)用的平等風(fēng)險(xiǎn)分析

平等權(quán)是公民享有的基本權(quán)利， 不受歧視權(quán)從平等權(quán)中發(fā)展而來。 人臉識(shí)別應(yīng)用的生命周期中集聚著芯片廠商、算法廠商、移動(dòng)終端廠商、行業(yè)應(yīng)用廠商、安全解決方案廠商等眾多角色，人臉信息的泄露形式復(fù)雜多樣， 技術(shù)濫用與不正當(dāng)競爭事件頻繁發(fā)生，整個(gè)識(shí)別過程充斥著歧視與偏見。相關(guān)行業(yè)標(biāo)準(zhǔn)、 行政處罰和法律救濟(jì)匱乏以及技術(shù)本身的高度專精化等進(jìn)一步提升監(jiān)管難度和成本， 嚴(yán)重?fù)p害用戶應(yīng)當(dāng)享有的平等權(quán)益。 如美國邁阿密的智能化治安監(jiān)控系統(tǒng)重點(diǎn)關(guān)注低收入的黑人群體和西班牙移民（種族歧視）；又如，使用人臉識(shí)別門禁或支付系統(tǒng)的商家通過捕捉用戶喜好和購物行為， 勾勒購物習(xí)慣并提供不同的推薦列表和價(jià)格標(biāo)準(zhǔn) （價(jià)格歧視）；再如，美國麻省理工學(xué)院對(duì)于微軟、Facebook、IBM 等公司人臉識(shí)別系統(tǒng)的研究表明， 檢測膚色較深女性的出錯(cuò)率比檢測膚色較淺的男性高出35%（性別歧視+種族歧視）。

2.4 人臉識(shí)別應(yīng)用的自由風(fēng)險(xiǎn)分析

人臉識(shí)別技術(shù)的過度應(yīng)用正在將人們的日常生活置于邊沁的全景敞視監(jiān)獄之下。 2018 年11 月，美國七名眾議院議員聯(lián)名譴責(zé)人臉識(shí)別技術(shù)有可能扼殺個(gè)人在公共場合行使言論自由權(quán)的意愿。 無孔不入的人臉識(shí)別應(yīng)用擴(kuò)大了權(quán)力監(jiān)控的廣度與深度，導(dǎo)致人們產(chǎn)生受制于技術(shù)識(shí)別的恐懼，不僅謹(jǐn)言慎行地避免違法犯罪，甚至不愿參加社會(huì)活動(dòng)，在一定程度上減損其享有的言論、集會(huì)和結(jié)社自由。

2.5 人臉識(shí)別應(yīng)用的安全風(fēng)險(xiǎn)分析

人臉識(shí)別應(yīng)用場景的不斷拓展使得算法模塊愈加復(fù)雜， 分布式存儲(chǔ)與高并發(fā)處理中暴露的技術(shù)偏差和密集的功能潛變嚴(yán)重威脅著群己安全。一方面，人臉識(shí)別算法的穩(wěn)定性受到光照條件、地理位置、遮擋狀況等外界因素和存儲(chǔ)圖像清晰度、 識(shí)別閾值設(shè)置等內(nèi)部因素的影響；另一方面，部分企業(yè)為了識(shí)別通過率而偽造誤讀率， 黑客通過篡改數(shù)據(jù)庫中的人臉模板而使得識(shí)別算法在正常運(yùn)作下輸出錯(cuò)誤信息等。 這一切嚴(yán)重威脅國家安全、經(jīng)濟(jì)安全、信息安全和人身安全。 如亞馬遜的人臉識(shí)別產(chǎn)品Rekognition在美國公民自由聯(lián)盟 （American Civil Liberties Union， ACLU) 的測試中將535 名美國國會(huì)議員中的28 人誤判為罪犯。

3 人臉識(shí)別應(yīng)用的風(fēng)險(xiǎn)控制

人臉識(shí)別應(yīng)用的健康有序發(fā)展亟待加強(qiáng)頂層設(shè)計(jì)、持續(xù)改進(jìn)技術(shù)、修補(bǔ)重建有效規(guī)制應(yīng)用場域的法律規(guī)范，全面提升識(shí)別算法的安全性、實(shí)操性與穩(wěn)定性。

3.1 人臉識(shí)別應(yīng)用法律規(guī)制的現(xiàn)狀分析

3.1.1 初心不改的歐盟

歐盟在開展經(jīng)濟(jì)、政治、文化和社會(huì)活動(dòng)中長期遵循尊重人格尊嚴(yán)、崇尚個(gè)人自由、保護(hù)從人身到財(cái)產(chǎn)私權(quán)的傳統(tǒng)。直接附著于人身、具有唯一性、持久性和不可更改性的人臉信息密切關(guān)聯(lián)著尊嚴(yán)、自由、財(cái)產(chǎn)與話語權(quán)等。 無論是在治安管理、刑事偵查、醫(yī)療保健等非商業(yè)領(lǐng)域中使用， 還是形形色色的商業(yè)應(yīng)用，無不觸及人權(quán)保護(hù)組織、新聞媒體乃至社會(huì)大眾的敏感神經(jīng)。因之，歐盟對(duì)于人臉識(shí)別的研發(fā)和應(yīng)用，一直堅(jiān)守著謹(jǐn)慎的態(tài)度， 要求境內(nèi)任何涉及人臉識(shí)別的活動(dòng)都必須嚴(yán)格遵循《歐盟數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation， GDPR）的規(guī)定。 即企業(yè)必須披露人臉數(shù)據(jù)收集和使用的全部信息， 且在采取任何行動(dòng)前必須逐一獲得消費(fèi)者的明示同意。

3.1.2 緊急轉(zhuǎn)向的美國

美國作為技術(shù)大國，對(duì)于人臉識(shí)別的規(guī)制問題，在較長時(shí)間內(nèi)保持沉默。近日卻自上至下（聯(lián)邦、州、地方政府）表現(xiàn)出加強(qiáng)人臉識(shí)別監(jiān)管、限制開發(fā)應(yīng)用的態(tài)度。

聯(lián)邦層面上， 雖然美國國會(huì)如火如荼地展開辯論，但迄今尚未形成全國性的統(tǒng)一規(guī)則。 《算法問責(zé)法案（2019）》（Algorithmic Accountability Act 2019）將各類計(jì)算機(jī)算法的研發(fā)與應(yīng)用納入監(jiān)管和問責(zé)范圍， 明確要求企業(yè)承擔(dān)積極修復(fù)缺陷算法的責(zé)任，避免產(chǎn)生有偏見、含歧視或不準(zhǔn)確的輸出結(jié)果。 《商業(yè)性人臉識(shí)別隱私法案 （2019）》（Commercial Facial Recognition Privacy Act of 2019）作為美國調(diào)整人臉識(shí)別技術(shù)、產(chǎn)品和服務(wù)的示范性專項(xiàng)規(guī)定，已經(jīng)列入全美商業(yè)、科學(xué)和交通委員會(huì)的參鑒范圍。《法案》禁止任何控制者在沒有取得終端用戶（個(gè)人）明確同意的情況下采集、創(chuàng)造、產(chǎn)生、記錄、組織、構(gòu)建、存儲(chǔ)、應(yīng)用、修改、編輯、咨詢、使用、披露、轉(zhuǎn)讓、傳播或者采取其他方式使用、 組合、 擦除或者銷毀面部信息。 《法案》不僅對(duì)“明確同意”做出具體界定（個(gè)人的、排他的、自愿地表示同意），還要求控制者向終端用戶發(fā)送詳實(shí)易懂的識(shí)別通知， 充分保障其知情權(quán)和選擇權(quán)， 亦要求在線的人臉識(shí)別程序應(yīng)當(dāng)能夠由獨(dú)立第三方進(jìn)行精準(zhǔn)性和反歧視測評(píng)。 當(dāng)然，《法案》將國家行政和安全部門、法律執(zhí)行機(jī)構(gòu)和情報(bào)組織等排除在“控制者”之外，為保障公共安全、制裁違法犯罪以及開展明顯有益終端用戶的識(shí)別活動(dòng)留下了一定空間。 此外，白宮委員會(huì)的不少成員公開呼吁加強(qiáng)人臉識(shí)別的透明度與可責(zé)性。 法律專家和社會(huì)學(xué)者紛紛表示，在人臉識(shí)別技術(shù)更為成熟、規(guī)制范圍更為廣泛且方案更為嚴(yán)謹(jǐn)之前， 有必要嚴(yán)格限制人臉識(shí)別的應(yīng)用。

地方層面上， 包括加利福利亞在內(nèi)的美國數(shù)州投入應(yīng)用的刷臉支付系統(tǒng)運(yùn)轉(zhuǎn)良好。 國家數(shù)據(jù)改革中心的調(diào)查顯示， 僅有26.2%的受訪者認(rèn)為政府應(yīng)當(dāng)嚴(yán)格限制人臉識(shí)別技術(shù)的應(yīng)用。但是，融合各行各業(yè)需求的人臉識(shí)別產(chǎn)品和服務(wù)缺少統(tǒng)一合理的客觀標(biāo)準(zhǔn)，逐漸暴露出偏見歧視、侵害少數(shù)派權(quán)益以及影響公眾自由表達(dá)等嚴(yán)重問題。 因之，舊金山、薩默維爾、 奧克蘭等已經(jīng)禁止政府部門在公開場合進(jìn)行人臉監(jiān)控； 加利福利亞要求人臉識(shí)別的商業(yè)化應(yīng)用必須展示出明確、具體、清晰、可解釋的標(biāo)記；馬薩諸塞有關(guān)人臉識(shí)別和其他遠(yuǎn)程生物監(jiān)控的禁令尚在討論階段；伯克利和紐約市對(duì)此也有所考慮。

3.1.3 實(shí)踐推動(dòng)的中國

我國尚未專門立法保護(hù)個(gè)人生物信息權(quán)， 但各界對(duì)于其是基本人格權(quán)的法律定位已經(jīng)形成共識(shí)。目前可適用《網(wǎng)絡(luò)安全法》第41 條的規(guī)定：“網(wǎng)絡(luò)運(yùn)營者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。 ”《App 違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法 （征求意見稿）》、推薦性國家標(biāo)準(zhǔn)《信息安全技術(shù)-個(gè)人信息安全規(guī)范》（GB/T 35273-2017） 等更為詳細(xì)地規(guī)定了違法違規(guī)收集使用個(gè)人信息的行為，為相關(guān)企業(yè)自查自糾提供有力指引。 《安全防范視頻監(jiān)控人臉識(shí)別系統(tǒng)技術(shù)要求》明確規(guī)定了視頻監(jiān)控人臉注冊(cè)、人臉圖像捕獲和比對(duì)的基本結(jié)構(gòu)、功能要求、測試方法和專業(yè)術(shù)語并建立用戶記錄管理機(jī)制。 《公共安全-人臉識(shí)別應(yīng)用-圖像技術(shù)要求》（GB/T 35678-2017） 要求公共安全領(lǐng)域處理采集到的圖像數(shù)據(jù)時(shí)不對(duì)臉部區(qū)域進(jìn)行修改，并對(duì)采集過程中的幾何失真、運(yùn)動(dòng)模糊及高斯模塊等進(jìn)行了定量規(guī)定。 《民法典·人格權(quán)編（草案二審稿）》第799 條規(guī)定，“任何組織或者個(gè)人不得以歪曲、污辱等方式侵害他人的肖像權(quán)。 未經(jīng)肖像權(quán)人同意，他人不得制作、使用、公開自然人的肖像，但是法律另有規(guī)定的除外”，即任何利用信息技術(shù)偽造人臉的行為都應(yīng)當(dāng)承擔(dān)法律責(zé)任。2019 年1 月，螞蟻金服牽頭推動(dòng)制定的《移動(dòng)設(shè)備生物特征識(shí)別身份認(rèn)證安全要求》（ISO/IEC27553）獲得英美韓日等23 國代表投票支持，成為我國生物識(shí)別身份認(rèn)證領(lǐng)域的首個(gè)ISO 國際標(biāo)準(zhǔn)，亦填補(bǔ)了相關(guān)國際標(biāo)準(zhǔn)的空白。但是，整體而言，我國人臉識(shí)別應(yīng)用風(fēng)險(xiǎn)的法律規(guī)制體系尚不完善， 存在監(jiān)管層次較低、權(quán)責(zé)不明、執(zhí)法綿軟、救濟(jì)難度較大等問題。

近來， 國內(nèi)數(shù)次發(fā)生大規(guī)模的人臉識(shí)別安全事件。面對(duì)公眾高漲的焦慮情緒，政府部門表現(xiàn)出積極制止和救濟(jì)的態(tài)度。如“ZAO 事件”發(fā)酵之后，工信部很快對(duì)其投資方進(jìn)行了問詢約談， 要求針對(duì)不規(guī)范的用戶隱私協(xié)議和數(shù)據(jù)泄露風(fēng)險(xiǎn)進(jìn)行自查整改。 值全球一體化的經(jīng)濟(jì)格局下強(qiáng)調(diào)分享技術(shù)進(jìn)步與共情治理之際， 歐美國家逐漸收緊人臉識(shí)別研發(fā)與應(yīng)用的趨勢有可能推動(dòng)我國相關(guān)立法進(jìn)程。 通過明確人臉識(shí)別的運(yùn)作規(guī)則和法律責(zé)任， 規(guī)范政府和企業(yè)在不同場景下收集、存儲(chǔ)和利用人臉信息的行為，使之步入規(guī)范化發(fā)展軌道； 加大對(duì)公眾人臉信息特征的保護(hù)力度和對(duì)非法售賣的打擊力度， 基于工具理性和價(jià)值理性的博弈，合理限制人工智能的應(yīng)用場景，維護(hù)用戶隱私、自由、平等和安全權(quán)益。

3.2 人臉識(shí)別應(yīng)用侵權(quán)風(fēng)險(xiǎn)的控制策略

3.2.1 完善人臉識(shí)別應(yīng)用的調(diào)整規(guī)則

我國需要深入落實(shí)《新一代人工智能發(fā)展規(guī)劃的相關(guān)要求》，基于國家信息安全的內(nèi)在需要與助力產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級(jí)并充分接軌國際市場之目標(biāo)，分類分層制定適應(yīng)人臉識(shí)別技術(shù)應(yīng)用發(fā)展需要的法律規(guī)范，明確本領(lǐng)域內(nèi)公權(quán)力與個(gè)人信息權(quán)的邊界，從數(shù)據(jù)安全、消費(fèi)者權(quán)益保護(hù)、個(gè)人隱私權(quán)等方面確立權(quán)責(zé)關(guān)系， 細(xì)化人臉識(shí)別市場準(zhǔn)入制度并限制具體應(yīng)用場景，構(gòu)筑人臉特征信息采集、存儲(chǔ)、傳輸和利用的法定標(biāo)準(zhǔn)，搭建及時(shí)、可行、有效的備案制度、評(píng)估制度、監(jiān)管制度和侵權(quán)損害賠償制度，及時(shí)發(fā)現(xiàn)并規(guī)避產(chǎn)品缺陷和風(fēng)險(xiǎn)隱患，避免人臉特征數(shù)據(jù)濫用，實(shí)現(xiàn)公益與私益、效率與公平之間的動(dòng)態(tài)平衡。

迄今為止， 國家標(biāo)準(zhǔn)化管理委員會(huì)尚未建立人臉識(shí)別泛化應(yīng)用的統(tǒng)一標(biāo)準(zhǔn)， 僅僅發(fā)布了圍繞刑事偵查、 證件管理和公共安全防護(hù)等公安業(yè)務(wù)展開的《公共安全人臉識(shí)別應(yīng)用圖像技術(shù)要求》。 我國應(yīng)當(dāng)盡快出臺(tái)人臉識(shí)別應(yīng)用的技術(shù)標(biāo)準(zhǔn)體系， 建立識(shí)別產(chǎn)品和服務(wù)的客觀評(píng)價(jià)標(biāo)尺， 肅清良莠不齊的人臉識(shí)別市場，降低廣大消費(fèi)者的維權(quán)成本，提升公權(quán)干預(yù)的技術(shù)評(píng)估能力。

3.2.2 健全人臉識(shí)別行業(yè)的自律機(jī)制

伴隨著日新月異的人臉識(shí)別技術(shù)應(yīng)用而來的是數(shù)據(jù)使用和算法運(yùn)作中的諸多風(fēng)險(xiǎn)。 具有滯后性的法律法規(guī)和國家標(biāo)準(zhǔn)難以及時(shí)解決本領(lǐng)域有序發(fā)展的各種障礙。亟待高效整合行業(yè)內(nèi)部的核心力量，圍繞科技向善的理念健全行業(yè)自律機(jī)制， 強(qiáng)化人臉識(shí)別應(yīng)用全生命周期的監(jiān)督管理， 通過安全可信的產(chǎn)業(yè)鏈推動(dòng)行業(yè)健康發(fā)展。

如黑產(chǎn)市場中積聚著大量可信個(gè)人數(shù)據(jù)集和一流的技術(shù)實(shí)力，有可能批量突破安全屏障，導(dǎo)致公眾極度不信任人臉識(shí)別技術(shù)應(yīng)用。 有必要通過行業(yè)自律規(guī)則，公開采集、使用和保護(hù)人臉信息的邊界與方法，表明企業(yè)勇于承擔(dān)相應(yīng)法律、倫理和社會(huì)責(zé)任的態(tài)度，給出充分補(bǔ)償?shù)木葷?jì)方案，提升公眾參與信心和熱情，實(shí)現(xiàn)人臉識(shí)別技術(shù)迭代、使用需求與法律法規(guī)和倫理政策的良性耦合。又如，從美國的在線快速身份認(rèn)證聯(lián)盟（Fast Identity Online，F(xiàn)IDO）到我國的互聯(lián)網(wǎng)金融身份認(rèn)證聯(lián)盟 （Internet Finance Authentication Alliance，IFAA），搭建人臉識(shí)別應(yīng)用細(xì)分場域的聯(lián)盟組織有助于協(xié)調(diào)構(gòu)筑統(tǒng)一的自我約束方案，加強(qiáng)科技企業(yè)主動(dòng)自律，逐步營建有溫度、有擔(dān)當(dāng)、有技術(shù)的行業(yè)形象。再如，人臉識(shí)別應(yīng)用中的很多風(fēng)險(xiǎn)源于系統(tǒng)本身的不確定性帶來的技術(shù)誤差。有必要持續(xù)更新硬件級(jí)安全通道評(píng)估標(biāo)準(zhǔn)、 人臉特征信息活檢算法標(biāo)準(zhǔn)、數(shù)據(jù)接口防護(hù)標(biāo)準(zhǔn)、人臉圖像質(zhì)量標(biāo)準(zhǔn)等行業(yè)技術(shù)標(biāo)準(zhǔn)，提升算法廠商準(zhǔn)入要求，推動(dòng)人臉數(shù)據(jù)脫敏和隱私計(jì)算， 營建多層次安全防御的可信執(zhí)行環(huán)境，推動(dòng)技術(shù)持續(xù)創(chuàng)新與產(chǎn)業(yè)有序發(fā)展。

3.2.3 勾勒人臉識(shí)別企業(yè)的合規(guī)方案

當(dāng)前， 公眾對(duì)于人臉識(shí)別技術(shù)處于一知半解的狀態(tài)，數(shù)次大規(guī)模的安全事件進(jìn)一步加深社會(huì)各界對(duì)于科技企業(yè)的質(zhì)疑， 迅速拉低本就薄弱的用戶粘性。如AI 換臉技術(shù)若是應(yīng)用于紀(jì)念場景之中， 將更好地表達(dá)對(duì)逝者的緬懷和哀思， 具有較高的社會(huì)價(jià)值?！癦AO” 卻將之用于低俗娛樂， 且在運(yùn)行中暴露出版權(quán)、肖像權(quán)、隱私權(quán)以及衍生的其他人身和財(cái)產(chǎn)權(quán)益風(fēng)險(xiǎn)，甚至將政治安全和國家安全置于險(xiǎn)地，嚴(yán)重威脅個(gè)人名譽(yù)、家庭和諧、社交信任、選舉公平、外交關(guān)系和政治穩(wěn)定，加之程序頻繁卡頓、過度收集用戶數(shù)據(jù)、漠視消費(fèi)者權(quán)益、撇清己方責(zé)任等，充分反映出企業(yè)缺少技術(shù)實(shí)力和社會(huì)責(zé)任感， 引起公眾強(qiáng)烈反感和恐慌。

嵌套在社會(huì)結(jié)構(gòu)中的人臉識(shí)別產(chǎn)品和服務(wù)若要獲得市場認(rèn)可，需要更加安全可靠、便捷無損的透明化運(yùn)作流程。 科技企業(yè)應(yīng)當(dāng)嚴(yán)格按照國家法律法規(guī)和相關(guān)主管部門的要求， 審慎開展人臉識(shí)別產(chǎn)品和服務(wù)的研發(fā)推廣和內(nèi)部管理， 避免違規(guī)的人臉信息采集、系統(tǒng)誤操作和算法設(shè)計(jì)缺陷，規(guī)范用戶協(xié)議條款，強(qiáng)化人臉信息安全防護(hù)，持續(xù)提升識(shí)別技術(shù)。

首先， 企業(yè)應(yīng)當(dāng)積極營建與各主管部門之間順暢的溝通渠道， 更快更好地接收和理解國家政府對(duì)于人臉信息采集、存儲(chǔ)、傳輸、分析等各階段違法行為的新認(rèn)識(shí)和新規(guī)定， 積極爭取與主管部門合作改進(jìn)監(jiān)管模式；其次，企業(yè)應(yīng)當(dāng)堅(jiān)守效益平衡的原則，在具體的人臉識(shí)別產(chǎn)品和服務(wù)方案預(yù)審之時(shí)， 不僅反復(fù)核算成本和收益，還積極開展合規(guī)審查、倫理審查和專利審查， 預(yù)判項(xiàng)目被用于違法犯罪或其他不良場景的概率、負(fù)面影響及應(yīng)急方案，避免開展危害社會(huì)的技術(shù)應(yīng)用；再次，企業(yè)在人臉識(shí)別應(yīng)用進(jìn)入市場之初就應(yīng)當(dāng)謹(jǐn)慎對(duì)待用戶協(xié)議和隱私政策， 完善用戶人臉信息控制權(quán)、刪除權(quán)、遺忘權(quán)和救濟(jì)權(quán)的保障機(jī)制。可以通過實(shí)施風(fēng)險(xiǎn)全兜底的賠付制度，消除用戶對(duì)于應(yīng)用安全的擔(dān)憂。通過附帶的說明書、專家學(xué)者和新聞媒體等渠道持續(xù)、及時(shí)、詳細(xì)、透明地向用戶傳遞相關(guān)信息，增強(qiáng)用戶的信任度、歸屬感和忠誠度。

4 結(jié)語

隨著能夠提供新的用戶增長點(diǎn)且達(dá)到工程實(shí)現(xiàn)標(biāo)準(zhǔn)的人臉識(shí)別項(xiàng)目陸續(xù)滲透到安防、金融、教育與娛樂等多個(gè)領(lǐng)域，虛擬與現(xiàn)實(shí)的界限愈加模糊。這些應(yīng)用的初衷大多并非生成和傳播違法違規(guī)的數(shù)據(jù)資源，如“ZAO”起初是陌陌公司積累用戶數(shù)據(jù)資源、創(chuàng)新社交場景的手段， 卻在實(shí)際運(yùn)作中異化為侵害基本人權(quán)、威脅經(jīng)濟(jì)安全和國家安全的重要工具。一方面，人臉特征是自然人不可分割的個(gè)性化組成部分，彰顯著人與人之間的天然生物差異。 一旦面部信息對(duì)應(yīng)的身份資料被不欲其所知的組織機(jī)構(gòu)或他人掌握，個(gè)人的本真感和獨(dú)占意識(shí)將遭遇重大危機(jī)，甚至長期陷入無所遁形的恐懼之中；另一方面，由于人們?cè)谏缃换?dòng)中往往通過面部表情傳達(dá)和解讀信任、敵意、欺詐等情感信號(hào)，人臉也是人際情感交流和構(gòu)建社會(huì)關(guān)系的基礎(chǔ)。因之，人臉信息特征一直被視為個(gè)人自保的最后屏障與隱私的最低底線。 亟待通過技術(shù)改進(jìn)、法律保障、政府監(jiān)管、企業(yè)自律和個(gè)人自助等綜合措施，確保人臉識(shí)別技術(shù)應(yīng)用的合規(guī)性、合德性與合理性。