郭洪平

網(wǎng)約車與出租車哪個更便宜？蘋果手機與非蘋果手機，誰打車更貴？新客戶打車便宜還是老客戶打車便宜？

帶著這樣的疑問，復(fù)旦大學(xué)教授孫金云帶領(lǐng)他的學(xué)生，一個月時間內(nèi)在北京、上海等5個城市打車800余次，花費5萬多元，以不同的手機、不同的距離、不同的時間段進行打車對比后，寫出3萬多字的《打車軟件出行現(xiàn)狀調(diào)研報告》。

孫金云就是要搞清，網(wǎng)約車是否存在“大數(shù)據(jù)殺熟”的情況：與非蘋果手機用戶相比，蘋果手機更容易叫到舒適型的車輛，但優(yōu)惠更少、折扣更低，他們稱之為“蘋果稅”，且老客戶比新客戶打車更貴。調(diào)研說明一個問題，平臺的算法確實有問題。

孫金云感嘆，大數(shù)據(jù)、人工智能算法的不斷精進，使得網(wǎng)約車平臺可以憑借大量的客戶數(shù)據(jù)預(yù)測、引導(dǎo)、操縱客戶的行為。在極端情況下，平臺甚至還會使用一定的“技術(shù)手段”讓用戶產(chǎn)生錯覺，進而對其產(chǎn)品產(chǎn)生巨大依賴。

2020年下半年，上海市消費者協(xié)會曾做過一個試驗：他們使用多個手機終端，模擬不同收入群體消費者使用相同的App，并進行一段時間的虛擬人設(shè)操作。經(jīng)過測試，他們發(fā)現(xiàn)不同手機接收到的廣告有很大差異。其中，模擬較低收入群體的手機，收到的差不多全是低價劣質(zhì)商品和網(wǎng)貸廣告。

業(yè)內(nèi)專業(yè)人士表示，隨著科技的發(fā)展，大數(shù)據(jù)、人工智能的發(fā)展和關(guān)聯(lián)愈加緊密，已深刻影響著社會生活。大數(shù)據(jù)技術(shù)依靠不斷采集、沉淀、分類等手段積累海量數(shù)據(jù);人工智能則依靠大數(shù)據(jù)的支持和采集，運用人工設(shè)定的特定性能和運算方式，實現(xiàn)人的某種意圖。

大數(shù)據(jù)技術(shù)把海量數(shù)據(jù)的集合起來，人工智能則是對這些海量數(shù)據(jù)的智能化處理和應(yīng)用。從根本上說，人工智能離不開大數(shù)據(jù)，它依賴大數(shù)據(jù)平臺和技術(shù)，幫助自已完成深度學(xué)習(xí)進化。如果把人工智能看成一個嗷嗷待哺擁有無限潛力的嬰兒，而某一領(lǐng)域?qū)I(yè)的、海量的、深度的數(shù)據(jù)就是喂養(yǎng)這個天才嬰兒的奶粉。奶粉的數(shù)量決定了天才嬰兒是否能長大，而奶粉的質(zhì)量則決定了天才嬰兒后續(xù)的智力發(fā)育水平。

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，大數(shù)據(jù)、人工智能可以說是一把“雙刃劍”，用好了，它們是推動社會進步和產(chǎn)業(yè)發(fā)展的重要力量;用不好，它們也可能帶來隱私泄露等各種倫理風(fēng)險。如何在大數(shù)據(jù)、人工智能應(yīng)用中兼顧隱私保護，確保安全、可靠、可控，是一項亟須關(guān)注的課題。

數(shù)據(jù)產(chǎn)權(quán)，我的信息被打包出售了

網(wǎng)約車存在的“大數(shù)據(jù)殺熟”只是一個側(cè)面。幾乎每個人都經(jīng)歷過這樣的情景：剛剛在購物網(wǎng)站上搜索了一下某件商品，網(wǎng)站首頁、微信朋友圈就會滿屏都是與此有關(guān)的廣告;出門旅游，剛進高速收費站，“歡迎你到××地”的短信，就叮一聲發(fā)送過來;你剛想給孩子報個英語口語班，搜素了一下相關(guān)信息，推銷電話分分鐘把你的手機打到爆……

還有，短視頻軟件上抖音上推送的都是你愛看的;購物網(wǎng)站頁面出現(xiàn)的都是你買得起的;送餐軟件上展示的是你最愛吃的。難怪有人說，現(xiàn)如今，最了解你的人不是你的父母和親人，也不是你自己，而是大數(shù)據(jù)。

利益驅(qū)使下，一些網(wǎng)企或平臺用微小的便利換取用戶個人信息，進而分析、利用，并在用戶不知情的情況下，將大量數(shù)據(jù)匯聚，分析得出用戶的特征，預(yù)測、引導(dǎo)他們的消費決定，甚至將用戶數(shù)據(jù)當(dāng)作商品上架售賣。

最近，某二手車查詢平臺CEO及多名高管就因涉嫌售賣用戶信息被帶走。有人發(fā)現(xiàn)，該平臺主要提供相關(guān)交易車輛的查詢服務(wù)，查詢一次10元到40元不等，只要肯花錢，某輛車在4S店的所有維修記錄、車主情況、車輛使用狀況等隱私信息，平臺都可以打包出售給你。

今年7月，國內(nèi)知名網(wǎng)企“滴滴出行”就因玩的過火攤上了事情?！暗蔚纬鲂小盇PP因在經(jīng)營中存在嚴重違法違規(guī)收集使用個人信息問題，被國家網(wǎng)信辦通知應(yīng)用商店強制下架。隨后，國家網(wǎng)信辦即會同公安部、國家安全部、自然資源部、交通運輸部、稅務(wù)總局、市場監(jiān)管總局等七部門，聯(lián)合進駐滴滴出行科技有限公司開展網(wǎng)絡(luò)安全審查。這樣的行動對國內(nèi)大型網(wǎng)企來說尚屬首家。

一個時期以來，網(wǎng)絡(luò)平臺不斷曝出泄露用戶數(shù)據(jù)、侵犯用戶隱私、非法收集、利用用戶數(shù)據(jù)等事件，引起人們對個人數(shù)據(jù)安全性和個人數(shù)據(jù)價值的警醒。

今年全國兩會上，全國政協(xié)委員、北京天達共和律師事務(wù)所主任李大進就呼吁加強數(shù)據(jù)產(chǎn)權(quán)立法。在李大進看來，數(shù)據(jù)作為新型生產(chǎn)要素，在社會經(jīng)濟生活中的重要性日益顯著。個人、企業(yè)或其他組織合法擁有或者控制的數(shù)據(jù)，可以為其帶來可預(yù)期的經(jīng)濟利益，具備作為資產(chǎn)的基本要素，應(yīng)該對數(shù)據(jù)產(chǎn)權(quán)進行立法。

一些專業(yè)人士也指出，數(shù)據(jù)被一些平臺濫用，涉及到每個人的隱私，如身份證號碼、手機號碼、銀行卡密碼、家庭住址等。人們之所以經(jīng)常收到很多騷擾、詐騙、推銷電話，只能說明自已的數(shù)據(jù)被泄露了。

數(shù)據(jù)是有價值的。那么，涉及個人信息的數(shù)據(jù)其所有權(quán)到底歸誰？人民日報海外版文章《我的信息應(yīng)該我做主》指出，在大數(shù)據(jù)時代，誰掌握了數(shù)據(jù)，誰就掌握了主動?！皵?shù)據(jù)獲取要有界限，個人信息保護刻不容緩。對App要嚴格監(jiān)管，我的信息我做主。”

持相同看法的不只是這篇文章，還有很大的群體。普遍認為，涉及個人的基本信息和行為信息，應(yīng)屬于數(shù)據(jù)本人的固有資產(chǎn)，第三方只有合法使用的權(quán)利，而無權(quán)侵占個人數(shù)據(jù)甚至將個人數(shù)據(jù)用于非法用途。

遺憾的是，一些網(wǎng)企或平臺并沒有這種意識，他們一如既往肆意獲取用戶數(shù)據(jù)，把用戶數(shù)據(jù)的價值占為己有。甚至國內(nèi)有的學(xué)者也認為，“將數(shù)據(jù)產(chǎn)權(quán)劃分給搜集數(shù)據(jù)的企業(yè)會更有效率”，加上一段時間以來法律相對滯后等原因，使得數(shù)據(jù)產(chǎn)權(quán)的歸屬一直模糊不清，存在爭議。

現(xiàn)在，越來越多的人認為個人數(shù)據(jù)的擁有權(quán)及使用權(quán)都應(yīng)該掌握在自己手上，而不應(yīng)該歸平臺所有。

專家指出，人工智能最核心的就是數(shù)據(jù)，只有不斷的注入新的數(shù)據(jù)才能把機器訓(xùn)練得越來越聰明。現(xiàn)在，數(shù)據(jù)不僅值錢，更是一個金礦，只有我們掌握了自己的數(shù)據(jù)，才能讓數(shù)據(jù)被正確的使用。如果APP需要數(shù)據(jù)，就應(yīng)該花錢購買。同時，在數(shù)據(jù)交易中，還必須保護我們的數(shù)據(jù)不會泄露。如果我們個人的數(shù)據(jù)被泄露或出賣，甚至造成很大的財產(chǎn)損失及人身安全，應(yīng)參照歐州的做法，嚴厲懲罰平臺，讓相關(guān)網(wǎng)企承擔(dān)應(yīng)有的法律責(zé)任。

數(shù)據(jù)采集，授權(quán)書上讓人一鍵勾選

人工智能的基礎(chǔ)是大數(shù)據(jù)，大數(shù)據(jù)的基礎(chǔ)又是數(shù)據(jù)采集。無論人工智能還是大數(shù)據(jù)，前期海量的數(shù)據(jù)采集，是基礎(chǔ)的基礎(chǔ)。

專業(yè)人員表示，數(shù)據(jù)采集一般有四種做法：一是從內(nèi)部獲取。平臺已經(jīng)有的資訊，是獲取數(shù)據(jù)首先考慮的做法。二是從政府及非營利組織獲取。每一個政府機構(gòu)都會收集數(shù)據(jù)。海量的資料一般就在電腦、電話或公共圖書館里。三是從商業(yè)渠道獲取。許多數(shù)據(jù)往往從內(nèi)部、政府機構(gòu)，或非營利組織是得不到的，平臺只能從商業(yè)渠道購買。四是自主獲取。一些網(wǎng)絡(luò)平臺需要某些數(shù)據(jù)，但無法從其他渠道獲取。這時候他們就自主開展一些調(diào)查，通過問卷方式獲取他們想要的數(shù)據(jù)?；蛘?，有的網(wǎng)企和平臺安裝傳感器或派人觀察，以此獲取數(shù)據(jù)。

專家指出，除了傳統(tǒng)的做法，現(xiàn)在很多網(wǎng)企或平臺獲取數(shù)據(jù)的方法幾乎都用到一個手段——“一鍵勾選”。假如你要使用某個網(wǎng)企或平臺的某項服務(wù)，你必須在它事前擬好的同意書上一鍵勾選。網(wǎng)企或平臺通過這個技術(shù)，只要用戶一鍵勾選同意授權(quán)下載某個軟件，平臺就會知道用戶打開過什么網(wǎng)頁、看了多久、操作到什么程度等等。然后，網(wǎng)絡(luò)后臺就能結(jié)合用戶的基礎(chǔ)信息，匹配用戶的社交圈、消費習(xí)慣等，進而形成“用戶畫像”，并可以隨便利用用戶在社交網(wǎng)上的各種資料，配合用戶在網(wǎng)上的瀏覽信息建立模型，用模型運算預(yù)測下一步用戶可能發(fā)生的網(wǎng)上行為，甚至還能夠洞悉用戶的性格、得出用戶的三觀、偏好等等，想想，挺恐怖的。

黃女士是某讀書軟件的一名忠實用戶。有天，她打開軟件照?？磿Ｍ蝗话l(fā)現(xiàn)，軟件里可以查到好友的閱讀記錄，而且能夠相互查看對方的書架、閱讀的書目、讀書想法等信息，而她與好友之間并沒有互相關(guān)注。

黃女士感到有點緊張：一個人讀什么書，一般會關(guān)聯(lián)這個人的生活及思想行為等諸多隱私，甚至能大致判斷出這是一個什么樣的人。一位患有某方面隱疾的用戶，她很可能會在讀書軟件上閱讀相關(guān)的醫(yī)療書籍，而她并不一定愿意讓朋友和家人知道她患上了某種疾病;一位正在備孕的女士，她很可能會閱讀孕期健康類的書籍，但她也許暫時還不希望別人知道此事。讀書軟件卻會將她不想讓大家知道的事情，全部曝曬出來。

2021年7月， 世界人工智能大會在上海召開，會上無人駕駛、機器人技術(shù)等紛紛亮相。（圖片來源：CFP）

“仔細一想，挺可怕的?！秉S女士覺得該讀書軟件侵犯了她的隱私，一紙訴狀將開發(fā)該讀書軟件的公司告上了法庭。

與此相似的還有今年“3·15”晚會央視曝光的一個事實：包括某衛(wèi)浴公司、某汽車制造商等在內(nèi)的20多家知名企業(yè)，在店面擅自安裝人臉識別攝像頭，非法采集和濫用人臉信息，并通過人臉洞察人們的年齡、身份甚至情緒、消費習(xí)慣等，對消費者行為進行評級。網(wǎng)友驚呼：我的臉被“偷”了，而我對此一無所知。

科技的普及，人們似乎習(xí)慣了向各個網(wǎng)絡(luò)平臺以及各類繁雜的App妥協(xié)，密密麻麻的用戶授權(quán)書大同小異。如果用戶想獲得某一方面的服務(wù)，就不得不被迫全部授權(quán)。那些讀起來拗口晦澀的條款無非強調(diào)一點：你不同意，就不能使用相應(yīng)的服務(wù)。此時，所謂的隱私保護就成了讓用戶不得不同意的“軟刀子”，久而久之，人們就習(xí)慣了各種“一鍵勾選”，也懶得再去細讀、核實有關(guān)權(quán)益條款。事實上，對于客戶，你就算細讀也沒有用，你不勾選，就用不了它的服務(wù)。

幾年前，用戶朱女士曾將某網(wǎng)絡(luò)公司告上法庭，原因是她在某網(wǎng)絡(luò)公司搜索引擎上搜索相關(guān)關(guān)鍵詞后，一個特定的網(wǎng)站上出現(xiàn)與關(guān)鍵詞有關(guān)的廣告。朱女士認為，該搜索引擎公司利用網(wǎng)絡(luò)技術(shù)，在未經(jīng)其知情和選擇的情況下，記錄和跟蹤了其搜索的關(guān)鍵詞，將其興趣愛好、生活學(xué)習(xí)、工作特點等均顯露在了相關(guān)網(wǎng)站上，并利用記錄的關(guān)鍵詞對其瀏覽的網(wǎng)頁進行廣告投放，侵害了自己的隱私權(quán)。

一審法院判決朱女士勝訴，認為某網(wǎng)絡(luò)公司收集朱女士信息，并在其不知情和不愿意的情形下進行商業(yè)利用，侵犯了她的隱私權(quán)。但二審法院撤銷了一審判決，認為該網(wǎng)絡(luò)公司的個性化推薦行為不構(gòu)成侵犯朱女士的隱私權(quán)，判決駁回原告全部訴訟請求。

對此，中國律師協(xié)會知識產(chǎn)權(quán)委員會主任、北京高文律師事務(wù)所主任王正志表示，這是我國cookie技術(shù)與隱私權(quán)糾紛比較典型的案件，一審與二審地判決截然不同。一審法院認為，用戶的搜索活動為個人隱私，而二審法院認為，搜索記錄等不屬于個人信息，“由此看來，徹底解決未來數(shù)字經(jīng)濟難題，法律對數(shù)據(jù)的權(quán)利必須做出明確的規(guī)定”。

AI算法設(shè)計，必須考慮道德倫理

大數(shù)據(jù)、人工智能帶給人們的，不僅僅是自動駕駛汽車、工業(yè)機器人和教育、醫(yī)療、傳媒、金融、法律、科學(xué)發(fā)現(xiàn)的現(xiàn)代化，也可能是關(guān)乎人類的倫理問題，比如安全、隱私、道德等等。

江蘇省倫理學(xué)會執(zhí)行會長楊明對此認為，大數(shù)據(jù)、人工智能存在隱私泄露的風(fēng)險。各類數(shù)據(jù)采集無時不有、無處不在，個人隱私極易以數(shù)據(jù)的形式被存儲、復(fù)制、傳播。特別是隨是越來越多人工智能產(chǎn)品的出現(xiàn)，有些網(wǎng)企會輕易獲取更多個人隱私數(shù)據(jù)信息。如果這些數(shù)據(jù)得不到合理管控，人類將被置于隱私“裸奔”的尷尬境地，從而產(chǎn)生嚴重的倫理風(fēng)險。

淮北師范大學(xué)信息學(xué)院王丹、教育學(xué)院張家年也認為，大數(shù)據(jù)、人工智能已經(jīng)展現(xiàn)出巨大的變革力量，必須考慮大數(shù)據(jù)、人工智能背后的倫理規(guī)范，處理好機器與人的關(guān)系，讓技術(shù)更好地造福人類。

“比如，要進行合乎道德倫理的算法設(shè)計，將國家的法律規(guī)范和人的道德情感規(guī)則嵌入人工智能系統(tǒng)設(shè)計。通過符合倫理的系統(tǒng)設(shè)計方法，制定符合法律規(guī)范和道德情感的規(guī)則，將制定的規(guī)范和價值植入人工智能系統(tǒng)，并通過使用者、設(shè)計者和組織者對嵌入人工智能系統(tǒng)的規(guī)范和價值進行評估，判斷嵌入價值與社會價值的一致性和相符性?！蓖醯ふf。

“同時，要建立大數(shù)據(jù)、人工智能群體倫理決策框架，加強內(nèi)部算法監(jiān)管，規(guī)范人工智能研發(fā)過程。”張家年認為，考慮到人工智能專注于單一的結(jié)構(gòu)化的領(lǐng)域，對于跨領(lǐng)域復(fù)雜環(huán)境的倫理決策涉及較少，建立一個跨領(lǐng)域的人工智能群體倫理決策框架，對倫理道德進行多維度考量、協(xié)同式綜合運算得出最優(yōu)解決方式”。

專家學(xué)者的盼望和國家部門的考慮不謀而合。今年7月26日，市場監(jiān)管總局、國家網(wǎng)信辦、國家發(fā)改委、公安部、人社部、商務(wù)部、中華全國總工會聯(lián)合印發(fā)了《關(guān)于落實網(wǎng)絡(luò)餐飲平臺責(zé)任切實維護外賣送餐員權(quán)益的指導(dǎo)意見》，明確對保障外賣送餐員正當(dāng)權(quán)益提出全方位要求。其中提到，不得將“最嚴算法”作為考核要求，要通過“算法取中”等方式，合理確定訂單數(shù)量、準時率、在線率等考核要素，適當(dāng)放寬配送時限等。這是國家層面對平臺算法進行監(jiān)管、規(guī)范的有力例證。

而對于算法設(shè)計與倫理道德之間關(guān)系，一些專家和研究人員也提出不少建議。北京智源人工智能研究院倫理與安全研究中心主任、中國科學(xué)院自動化研究所研究員曾毅認為，無論是企業(yè)、科研機構(gòu)還是政府，在指導(dǎo)人工智能發(fā)展的時候，應(yīng)建立不同層級的人工智能倫理和治理委員會，還要建立人工智能服務(wù)和產(chǎn)品的監(jiān)管平臺，“一旦出了問題，有關(guān)部門不僅要及時約談，還要通過監(jiān)管平臺發(fā)現(xiàn)網(wǎng)絡(luò)企業(yè)的知情同意書是不是有違反國家法律的條文，這樣就可以在產(chǎn)生社會負面影響之前，規(guī)避掉存在的風(fēng)險”。

王丹表示，人工智能是人類智慧的產(chǎn)物，參與和設(shè)計人員的道德底線會影響算法的公平與工作，因此應(yīng)制定人工智能研發(fā)人員必須遵守的倫理工作標準，解決好人工智能的安全責(zé)任問題?！翱梢栽O(shè)立大數(shù)據(jù)、人工智能事前監(jiān)督和事后評估制度，制定產(chǎn)業(yè)研發(fā)人員倫理工作標準，強化專業(yè)責(zé)任意識。對于具有危險性的人工智能產(chǎn)品，設(shè)計時要聘請領(lǐng)域?qū)＜覍λ惴ㄟM行審核，投入使用后要評估應(yīng)用過程中存在的問題，以研究解決的對策，優(yōu)化人工智能性能?！?/p>

同時，一些專業(yè)人員認為，還應(yīng)建立健全對隱私權(quán)的法律規(guī)范體系，切實保護人工智能使用者的隱私。要通過設(shè)立隱私保護數(shù)據(jù)庫，在人工智能數(shù)據(jù)運用的過程中，系統(tǒng)自行判斷對隱私數(shù)據(jù)的存取是否必要、是否合法。要使用區(qū)塊鏈技術(shù)保障數(shù)據(jù)的真實性、可靠性與不可修改性，提高算法預(yù)測的準確性。

令人高興的是，最近一年，國家層面不斷加大對個人信息及數(shù)據(jù)安全的保護工作。

2021年4月26日，備受關(guān)注的個人信息保護法（草案）已第二次提請全國人大常委會審議。據(jù)悉，這部法律草案明確規(guī)定，個人對其個人信息的處理享有知情權(quán)、決定權(quán);個人有權(quán)限制或者拒絕他人對其個人信息進行處理;違反該法規(guī)定處理個人信息的，由履行個人信息保護職責(zé)的部門責(zé)令改正，沒收違法所得;對侵害眾多個人的權(quán)益的，人民檢察院、履行個人信息保護職責(zé)的部門和國家網(wǎng)信部門確定的組織可以依法向人民法院提起訴訟。

2021年6月10日，全國人大常委會審議通過了《數(shù)據(jù)安全法》。這部新通過的法律從數(shù)據(jù)安全與發(fā)展、數(shù)據(jù)安全制度、數(shù)據(jù)安全保護義務(wù)、政務(wù)數(shù)據(jù)安全與開放、法律責(zé)任等多方面，對數(shù)據(jù)處理活動，保障數(shù)據(jù)安全，保護個人、組織的合法權(quán)益等作出明確規(guī)范。

2021年7月28日，又有兩條消息傳來。一條是，科技部當(dāng)天發(fā)布了《關(guān)于加強科技倫理治理的指導(dǎo)意見》（征求意見稿），向社會公開征求意見，旨在加大科技倫理治理力度，推動科技向善。另一條是，最高法也于當(dāng)天發(fā)布了人臉識別應(yīng)用規(guī)范司法解釋，明確強調(diào)，應(yīng)用程序不得強制索取非必要個人信息。

最高法表示，人臉信息屬于敏感個人信息，處理活動對個人權(quán)益影響重大。因此，在告知同意上，有必要設(shè)定較高標準，以確保個人在充分知情的前提下，合理考慮對自己權(quán)益的后果而作出同意。最高法還規(guī)定，對于在賓館、商場、銀行、車站、機場、體育場館、娛樂場所等經(jīng)營場所、公共場所違反法律、行政法規(guī)的規(guī)定使用人臉識別技術(shù)進行人臉驗證、辨識或者分析，應(yīng)當(dāng)認定屬于侵害自然人人格權(quán)益的行為。

專家表示，近期一系列法律法規(guī)的出臺，對進一步提高全社會的數(shù)據(jù)安全保護意識和水平，推動有關(guān)部門、行業(yè)組織、科研機構(gòu)、企業(yè)、個人等共同參與數(shù)據(jù)安全保護工作，形成全社會共同維護數(shù)據(jù)安全的良好環(huán)境具有重要作用。同時，也為相關(guān)部門依法查辦處理涉及數(shù)據(jù)安全的案件提供了明確的法律依據(jù)。

（魏敏對本文有貢獻）