David

前不久，迫于公眾輿論壓力，美國(guó)奧蘭多市政府和警察局發(fā)布正式聲明：停止使用亞馬遜人臉識(shí)別AI技術(shù)——Rekognition，再一次引發(fā)了人們對(duì)于AI可能侵犯隱私的關(guān)注。

這項(xiàng)名為“Rekognition”的技術(shù)使用AI人工智能來識(shí)別物體、人物、場(chǎng)景，以及更多的圖像或視頻，它可以被執(zhí)法部門用來搜索和識(shí)別身份不明的嫌疑犯、沒有身份證明的人，以及可能的證人和同謀者。在奧蘭多，這項(xiàng)技術(shù)被用來在整個(gè)城市中使用監(jiān)控錄像來實(shí)時(shí)搜索“感興趣的人”。盡管執(zhí)法部門把它定義為更容易抓捕罪犯的方式，但民權(quán)組織擔(dān)心它可能侵犯隱私權(quán)，并被用于針對(duì)弱勢(shì)群體。

在此之前，包括“美國(guó)公民自由聯(lián)盟”在內(nèi)一些機(jī)構(gòu)和人們?cè)鴱?qiáng)烈呼吁：亞馬遜應(yīng)該停止向美國(guó)政府提供強(qiáng)大且危險(xiǎn)的人臉識(shí)別系統(tǒng)-Rekognition，因?yàn)檫@可能會(huì)導(dǎo)致美國(guó)公民的私人數(shù)據(jù)被濫用及隱私遭到侵犯。甚至亞馬遜的20個(gè)股東團(tuán)體都致信公司首席執(zhí)行官杰夫·貝佐斯（Jeff Bezos），要求他不要司法部門出售此系統(tǒng)。

雖然目前Rekognition還沒有傳出泄露用戶隱私的消息，但公眾的這種擔(dān)心是有根據(jù)的。今年年初“Facebook泄露門事件”，超過5，000萬的Facebook用戶個(gè)人隱私信息被泄露，更為嚴(yán)重的是，這些數(shù)據(jù)被懷疑干預(yù)了政治競(jìng)選，造成了公眾對(duì)于隱私泄露的憂慮與日俱增。前不久，美國(guó)媒體又爆出Facebook一件隱私泄露事件。據(jù)報(bào)道，F(xiàn)acebook會(huì)給廣告主提供一項(xiàng)特殊服務(wù)——忠誠(chéng)度預(yù)測(cè)。這是一項(xiàng)基于AI的服務(wù)，即預(yù)測(cè)用戶的未來行為，作為廣告投放的依據(jù)。而“忠誠(chéng)度預(yù)測(cè)”依靠的數(shù)據(jù)有：用戶位置、設(shè)備信息、所連接Wi-Fi網(wǎng)絡(luò)的情況、觀看的視頻記錄、親朋好友的各種細(xì)節(jié)，甚至是和朋友聊天的內(nèi)容。這些數(shù)據(jù)，無疑已經(jīng)觸及到了用戶的底線。

在國(guó)內(nèi)，隱私被侵犯的情況更是屢見不鮮。去年9月浙江紹興警方破獲了全國(guó)首例利用AI人工智能技術(shù)竊取公民個(gè)人信息的案件，截獲了10億余組公民個(gè)人信息。被警方查封的平臺(tái)叫做「快啊」，曾經(jīng)是市場(chǎng)上最大的打碼平臺(tái)。他們?cè)谄平?、竊取、販賣和盜用個(gè)人信息實(shí)施詐騙有著完整的鏈條，其中人工AI技術(shù)運(yùn)用在識(shí)別驗(yàn)證碼這個(gè)環(huán)節(jié)。

與歐美國(guó)家相比，國(guó)內(nèi)用戶的隱私意識(shí)相對(duì)薄弱，保護(hù)隱私的法律也很匱乏，以至于被侵犯還不知覺。比如不少手機(jī)APP，不僅要求訪問手機(jī)相冊(cè)、獲取信息和聯(lián)系人方式，有的還要與銀行卡關(guān)聯(lián)。AI之所以在中國(guó)可以迅速崛起，某些程度上也受益于此。

隱私風(fēng)險(xiǎn)來自三個(gè)環(huán)節(jié)

進(jìn)入AI時(shí)代，數(shù)據(jù)搜集及基于數(shù)據(jù)的分析和機(jī)器學(xué)習(xí)不可避免，在AI應(yīng)用中必然存在隱私侵犯的風(fēng)險(xiǎn)。一般來說，這些風(fēng)險(xiǎn)主要來自于三個(gè)環(huán)節(jié)：

1.數(shù)據(jù)采集環(huán)節(jié)：隨著各類AI智能設(shè)備的廣泛使用，智能系統(tǒng)不僅能通過指紋、心跳等生理特征來辨別身份，還能根據(jù)不同人的行為喜好自動(dòng)調(diào)節(jié)燈光、室內(nèi)溫度、播放音樂，甚至能通過睡眠時(shí)間、鍛煉情況、飲食習(xí)慣以及體征變化等來判斷身體是否健康。然而，這些智能技術(shù)的使用就意味著智能系統(tǒng)掌握了個(gè)人的大量信息，甚至比自己更了解自己。這些數(shù)據(jù)如果使用得當(dāng)，可以提升人類的生活質(zhì)量，但如果出于商業(yè)目的非法使用某些私人信息，就會(huì)造成隱私侵犯。

2.云計(jì)算環(huán)節(jié)：因?yàn)樵朴?jì)算技術(shù)使用便捷、成本低廉，提供了基于共享池實(shí)現(xiàn)按需式資源使用的模式，許多公司和政府組織開始將AI大數(shù)據(jù)存儲(chǔ)至云上。將隱私信息存儲(chǔ)至云端后，這些信息就容易遭到各種威脅和攻擊。由于AI系統(tǒng)普遍對(duì)計(jì)算能力要求較高，目前在許多AI應(yīng)用中，云計(jì)算已經(jīng)被配置為主要架構(gòu)，因此在開發(fā)該類智能應(yīng)用時(shí)，云端隱私保護(hù)也是人們需要考慮的問題。

3.知識(shí)抽取環(huán)節(jié)：由數(shù)據(jù)到知識(shí)的抽取是人工智能的重要能力，知識(shí)抽取工具正在變得越來越強(qiáng)大，無數(shù)個(gè)看似不相關(guān)的數(shù)據(jù)片段可能被整合在一起，識(shí)別出個(gè)人行為特征甚至性格特征。例如，只要將網(wǎng)站瀏覽記錄、聊天內(nèi)容、購物過程和其他各類別記錄數(shù)據(jù)組合在一起，就可以勾勒出某人的行為軌跡，并可分析出個(gè)人偏好和行為習(xí)慣，從而進(jìn)一步預(yù)測(cè)出消費(fèi)者的潛在需求，商家可提前為消費(fèi)者提供必要的信息、產(chǎn)品或服務(wù)。但是，這些個(gè)性化定制過程又伴隨著對(duì)個(gè)人隱私的發(fā)現(xiàn)和曝光，如何規(guī)范隱私保護(hù)是需要與技術(shù)應(yīng)用同步考慮的一個(gè)問題。

應(yīng)對(duì)措施

面對(duì)著這些隱私風(fēng)險(xiǎn)，面對(duì)著日益高漲的公眾訴求，政府和企業(yè)開始做出了一些實(shí)際行動(dòng)。如亞馬遜、微軟、谷歌、IBM、Facebook和蘋果，聯(lián)合成立非營(yíng)利性的人工智能合作組織“Partnership on AI”。該聯(lián)盟為開發(fā)AI系統(tǒng)的公司，提供了一個(gè)溝通平臺(tái)，讓各方在一些有可能對(duì)全人類，造成巨大損害的問題上，尋求共同點(diǎn)；微軟成立了AI倫理委員會(huì)“AETHER”，把全公司的產(chǎn)品部門、業(yè)務(wù)部門，還有更重要的法務(wù)部門集合在一起，以討論和解決AI相關(guān)問題；今年6月，谷歌CEO桑德爾·皮查伊（Sundar Pichai）發(fā)布了谷歌使用AI的七項(xiàng)原則，提出不會(huì)將AI用于監(jiān)視和收集信息，避免AI造成或加劇社會(huì)不公等。

在政府層面，5月25日，歐盟出臺(tái)了史上最嚴(yán)的公民隱私法案GDPR——《通用數(shù)據(jù)保護(hù)條例》，違規(guī)企業(yè)最高可能受到2000萬歐元或全球營(yíng)業(yè)額4%的罰款；6月底，由公安部牽頭制定的《網(wǎng)絡(luò)安全等級(jí)保護(hù)條例》（以下簡(jiǎn)稱“條例”）在網(wǎng)上發(fā)布，向社會(huì)征求意見，行業(yè)稱之為信息安全規(guī)范等保2.0版本。相比《信息安全等級(jí)保護(hù)管理辦法》，“條例”規(guī)范的領(lǐng)域更廣，不僅針對(duì)網(wǎng)絡(luò)和信息系統(tǒng)，還把云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)、AI人工智能等新業(yè)態(tài)也納入了監(jiān)管。

結(jié)語

隨著技術(shù)的發(fā)展，AI在人們工作與生活中扮演著越來越多、越來越重要的角色，其所帶來的價(jià)值無疑是巨大的。例如，它可以大大提高工作效率，替代人們從事某些領(lǐng)域的重復(fù)、繁重或危險(xiǎn)的工作，讓生活更輕松美好等。AI的發(fā)展離不開大數(shù)據(jù)，而數(shù)據(jù)在獲取分析應(yīng)用中，就存在著用戶隱私被泄露和被非法使用的風(fēng)險(xiǎn)。如何保證數(shù)據(jù)不被泄露、如何在獲取數(shù)據(jù)的同時(shí)，利用協(xié)議、技術(shù)等手段告知和保證用戶的數(shù)據(jù)和隱私安全，盡量做到獲取和利用數(shù)據(jù)與安全的平衡才是關(guān)鍵。