摘要：隨著人工智能技術(shù)的廣泛應(yīng)用，從智能家居到在線購物，再到健康監(jiān)測，大量個(gè)人數(shù)據(jù)被收集和分析以提供定制化服務(wù)。這使得個(gè)人信息在不知不覺中被記錄并存儲(chǔ)在各種云和數(shù)據(jù)中心，進(jìn)而產(chǎn)生個(gè)人信息泄露和被盜取的風(fēng)險(xiǎn)。該文以人工智能時(shí)代個(gè)人信息保護(hù)的困境與路徑為主要研究對(duì)象，首先概括了人工智能時(shí)代個(gè)人信息泄露的途徑；其次分析了人工智能時(shí)代個(gè)人信息保護(hù)的困境；最后從技術(shù)層面、倫理層面和政策層面提出了人工智能時(shí)代個(gè)人信息保護(hù)的具體策略。

關(guān)鍵詞：個(gè)人信息；保護(hù)困境；保護(hù)路徑；人工智能

doi：10.3969/J.ISSN.1672-7274.2024.10.069

中圖分類號(hào)：G 252.7；TP 3 文獻(xiàn)標(biāo)志碼：A 文章編碼：1672-7274（2024）10-0-04

Research on the Challenges and Paths of Personal Information Protection

in the Era of Artificial Intelligence

Abstract： With the widespread application of artificial intelligence technology， from smart homes to online shopping， and then to health monitoring， a large amount of personal data is collected and analyzed to provide customized services. This makes personal information unknowingly recorded and stored in various clouds and data centers， thereby creating risks of personal information leakage and theft. This article focuses on the challenges and paths of personal information protection in the era of artificial intelligence， and first summarizes the ways in which personal information is leaked in the era of artificial intelligence; Secondly， the dilemma of personal information protection in the era of artificial intelligence was analyzed; Finally， specific strategies for personal information protection in the era of artificial intelligence were proposed from the technical， ethical， and policy perspectives.

Keywords： personal information; protection dilemma; protecting the path; artificial intelligence

人工智能時(shí)代個(gè)人信息泄露的影響范圍和深度遠(yuǎn)超以往，這種泄露主要對(duì)用戶的經(jīng)濟(jì)安全、信用安全以及個(gè)人隱私安全造成嚴(yán)重影響。在經(jīng)濟(jì)上，被泄露的個(gè)人信息可被用于冒用身份辦理信用卡、網(wǎng)絡(luò)貸款等金融活動(dòng)，導(dǎo)致原信息所有者蒙受巨大經(jīng)濟(jì)損失和債務(wù)糾紛。個(gè)人信用受損可能會(huì)影響個(gè)人的就業(yè)、銀行信貸等方面的正常權(quán)利。個(gè)人隱私的泄露還會(huì)導(dǎo)致住址等敏感信息暴露，進(jìn)而增加個(gè)人遭受網(wǎng)絡(luò)暴力、跟蹤、猥褻或恐嚇的風(fēng)險(xiǎn)，嚴(yán)重危及人身及財(cái)產(chǎn)安全。許多公司和機(jī)構(gòu)在數(shù)據(jù)保護(hù)措施上存在缺陷，無法確保用戶個(gè)人數(shù)據(jù)不被外界非法訪問。加之缺乏嚴(yán)格的數(shù)據(jù)保護(hù)法規(guī)和監(jiān)管機(jī)制，這使得許多非法訪問和轉(zhuǎn)賣個(gè)人信息的違法行為難以得到有效遏制，為不法分子留下了可乘之機(jī)。由此可見，人工智能時(shí)代加強(qiáng)數(shù)據(jù)安全保護(hù)措施，完善相關(guān)法律法規(guī)，提高公眾的隱私保護(hù)意識(shí)，是保護(hù)用戶個(gè)人信息安全的必要手段。

1 人工智能時(shí)代個(gè)人信息保護(hù)的困境

1.1 技術(shù)困境

當(dāng)前運(yùn)用非常廣泛的人工智能算法會(huì)通過持續(xù)學(xué)習(xí)用戶行為和偏好，為用戶提供高度個(gè)性化的內(nèi)容和服務(wù)。盡管這種看似有益的技術(shù)進(jìn)步為人們檢索自己所感興趣的信息提供了很大的便捷，實(shí)際上卻又可能導(dǎo)致“信息繭房”現(xiàn)象，即用戶會(huì)被限定在由算法決定的信息氣泡中，無法接觸到更多元、更有效的信息內(nèi)容。很多時(shí)候人工智能算法的設(shè)計(jì)還會(huì)忽視用戶的知情權(quán)，例如為了提高服務(wù)的個(gè)性化程度，許多算法會(huì)對(duì)用戶數(shù)據(jù)進(jìn)行深度挖掘，而這種挖掘過程往往伴隨著對(duì)用戶隱私的侵犯[1]。

算法歧視是人工智能技術(shù)應(yīng)用中的另一重大問題，它指的是由于算法設(shè)計(jì)者的偏見或算法本身的不完善而導(dǎo)致的對(duì)某些用戶群體不公平的對(duì)待。這不僅在道德上令人質(zhì)疑，而且在商業(yè)實(shí)踐中可能出現(xiàn)“大數(shù)據(jù)殺熟”的現(xiàn)象，即對(duì)于有相似消費(fèi)行為的用戶群體，根據(jù)其支付意愿進(jìn)行價(jià)格歧視，或者根據(jù)用戶手機(jī)型號(hào)提供不同的票價(jià)等。這類技術(shù)算法可能短期內(nèi)會(huì)為企業(yè)帶來利益，但從長遠(yuǎn)來看會(huì)侵害消費(fèi)者權(quán)益，破壞市場公平。由此可見，人工智能技術(shù)為用戶帶來便捷的同時(shí)，其在個(gè)人信息保護(hù)方面存在的問題亟待解決。這要求技術(shù)開發(fā)者完善算法的設(shè)計(jì)，確保算法的公正性和透明度，保護(hù)用戶的個(gè)人信息不被濫用或泄露，維護(hù)公平健康的網(wǎng)絡(luò)環(huán)境。

1.2 倫理困境

人工智能時(shí)代個(gè)人信息保護(hù)所面臨的倫理困境也比較突出，特別是在未成年人使用互聯(lián)網(wǎng)過程中“賦權(quán)”和“保護(hù)”之間的平衡上。未成年人作為社會(huì)的弱勢(shì)群體，需要得到充分的保護(hù)以防止信息被濫用和泄露。但隨著人工智能和智能設(shè)備逐漸成為未成年人日常生活重要組成部分，很多時(shí)候未成年人不知道如何與人工智能系統(tǒng)互動(dòng)、如何管理和保護(hù)個(gè)人信息。盡管法律和政策對(duì)未成年人提供了較為嚴(yán)格的保護(hù)，但在實(shí)際操作中許多平臺(tái)會(huì)忽視對(duì)未成年人在處理個(gè)人信息方面的“賦權(quán)”，導(dǎo)致未成年人在人工智能環(huán)境中不懂如何安全合理地享受平臺(tái)服務(wù)。

此外，現(xiàn)實(shí)世界中的歧視和不平等問題也會(huì)在人工智能時(shí)代通過數(shù)據(jù)和算法被放大。由于大部分人工智能系統(tǒng)的訓(xùn)練數(shù)據(jù)來自于現(xiàn)實(shí)世界，數(shù)據(jù)會(huì)包含現(xiàn)實(shí)世界里存在的偏見和歧視，使得一些“邊緣群體”受到人工智能技術(shù)帶來的情感傷害。例如，美國亞馬遜公司所開發(fā)的人臉識(shí)別系統(tǒng)Amazon Rekognition曾因難以識(shí)別膚色較深者的性別、存在種族歧視等受到倫理審查[2]。算法工程師的個(gè)人偏見和設(shè)計(jì)中的不足會(huì)加劇這一問題，使得人工智能系統(tǒng)在無意中復(fù)制并加劇不平等和歧視情況。因此，人工智能時(shí)代個(gè)人信息的保護(hù)不僅需要嚴(yán)格的法律法規(guī)來約束，還需要在算法設(shè)計(jì)和數(shù)據(jù)處理過程中引入更多倫理考量，確保技術(shù)應(yīng)用不會(huì)加劇社會(huì)不公現(xiàn)象。

1.3 政策困境

為應(yīng)對(duì)個(gè)人信息保護(hù)的挑戰(zhàn)并保障數(shù)字經(jīng)濟(jì)的健康有序發(fā)展，我國已制定并實(shí)施了諸多與個(gè)人信息保護(hù)相關(guān)的法律法規(guī)，例如《個(gè)人信息保護(hù)法》明確了國家對(duì)個(gè)人信息保護(hù)的總體要求和監(jiān)管架構(gòu)，指定國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)個(gè)人信息保護(hù)工作及相關(guān)監(jiān)督管理任務(wù)?！缎谭ㄐ拚福ㄆ撸泛汀缎谭ㄐ拚福ň牛愤M(jìn)一步完善了個(gè)人信息的保護(hù)機(jī)制?！冻Ｒ婎愋鸵苿?dòng)互聯(lián)網(wǎng)應(yīng)用程序必要個(gè)人信息范圍規(guī)定》則明確了各類App在收集個(gè)人信息時(shí)的界限條件。這些法律法規(guī)的出臺(tái)標(biāo)志著中國在個(gè)人信息保護(hù)領(lǐng)域的法規(guī)體系正在逐步完善。

但是個(gè)人信息的界定非常復(fù)雜，對(duì)在日常應(yīng)用中用戶的行為數(shù)據(jù)如瀏覽歷史、購買記錄等是否屬于個(gè)人信息往往存在爭議，這使得在實(shí)際認(rèn)定何為個(gè)人信息泄露時(shí)存在法律適用困難[3]。盡管法律規(guī)定了嚴(yán)格的個(gè)人信息保護(hù)要求，但在實(shí)踐中許多互聯(lián)網(wǎng)公司通過復(fù)雜的用戶協(xié)議和隱私政策，使得用戶在不完全理解的情況下同意了個(gè)人信息被該平臺(tái)收集，當(dāng)信息泄露發(fā)生時(shí)用戶很難證明信息收集和使用的非法性，因?yàn)橛脩舸_實(shí)在技術(shù)上給與了個(gè)人信息授予權(quán)。此外，對(duì)于違法行為的監(jiān)管和懲處也面臨諸多挑戰(zhàn)，如證據(jù)收集困難、技術(shù)追蹤難度高等問題都會(huì)制約現(xiàn)有個(gè)人信息保護(hù)法律法規(guī)的實(shí)施效果。因此，如何強(qiáng)化法律執(zhí)行力、明確技術(shù)和法律的界限，以及如何提升公眾對(duì)個(gè)人隱私信息的保護(hù)意識(shí)等，都需要從政策層面探索解決之道。

2 人工智能時(shí)代個(gè)人信息保護(hù)的路徑

2.1 技術(shù)路徑

在人工智能時(shí)代背景下，保護(hù)用戶個(gè)人信息，可以通過建立常態(tài)化的信息脫敏機(jī)制來完成，即個(gè)人信息在進(jìn)入人工智能系統(tǒng)前就經(jīng)過了一系列的處理，包括信息的識(shí)別、提取、轉(zhuǎn)換和變形等步驟。這種個(gè)人信息脫敏機(jī)制可以有效降低信息數(shù)據(jù)的敏感程度，防止客戶隱私暴露，還可以規(guī)范應(yīng)用平臺(tái)對(duì)用戶信息的處理。企業(yè)則可以通過設(shè)置信息安全防火墻，進(jìn)一步防止外部攻擊者獲取和利用個(gè)人數(shù)據(jù)，信息安全防火墻的設(shè)置可對(duì)脫敏后的信息進(jìn)行重復(fù)篩選過濾，為個(gè)人數(shù)據(jù)提供雙重保護(hù)。人工智能系統(tǒng)個(gè)人信息常態(tài)化脫敏機(jī)制如圖1所示。

各類人工智能平臺(tái)還可以通過多重加密技術(shù)為個(gè)人信息安全提供保障。在人工智能系統(tǒng)收集、存儲(chǔ)或傳輸個(gè)人信息的各個(gè)階段，可以應(yīng)用先進(jìn)的加密技術(shù)，將敏感數(shù)據(jù)轉(zhuǎn)化為無法直接閱讀的格式，僅能通過特定的解密密鑰恢復(fù)原始內(nèi)容。如果要對(duì)信息進(jìn)行加密轉(zhuǎn)換可以使用對(duì)稱密鑰和公共密鑰這兩種方式，前者適用于需要快速處理的場景，因?yàn)閷?duì)稱密鑰加密雖然速度快，但密鑰泄露的風(fēng)險(xiǎn)較高；而后者則可以在數(shù)據(jù)安全性要求更高的環(huán)境中提供更強(qiáng)的安全保障，公共密鑰可以通過分離加密和解密密鑰降低密鑰管理的風(fēng)險(xiǎn)，并由此增強(qiáng)數(shù)據(jù)保護(hù)的可靠性，具體個(gè)人信息多重加密機(jī)制如圖2所示。

2.2 倫理路徑

由于未成年人在互聯(lián)網(wǎng)和人工智能環(huán)境中的高度活躍，特別容易暴露于各類信息安全風(fēng)險(xiǎn)之下，所以，應(yīng)從倫理角度針對(duì)未成年人群體和監(jiān)護(hù)人群體普及人工智能應(yīng)用知識(shí)。例如，學(xué)?？梢酝ㄟ^信息科學(xué)課程將人工智能的算法思維、算法動(dòng)機(jī)教授給學(xué)生，使未成年人群體可以根據(jù)一定的算法知識(shí)檢索信息，獲取互聯(lián)網(wǎng)資料。學(xué)校還可以通過對(duì)監(jiān)護(hù)人進(jìn)行宣講和培訓(xùn)，使家長們認(rèn)識(shí)到保護(hù)個(gè)人信息不被侵犯的重要性，充分履行監(jiān)護(hù)人的義務(wù)，幫助未成年群體用好人工智能這把“雙刃劍”。而各類人工智能應(yīng)用平臺(tái)則應(yīng)制定更為細(xì)致的用戶協(xié)議和隱私政策，明確且詳細(xì)地告知未成年用戶個(gè)人信息可能被使用的具體方式，確保其在完全理解的基礎(chǔ)上做出同意的決定。

眾所周知，人工智能系統(tǒng)的決策能力高度依賴于訓(xùn)練數(shù)據(jù)。如果訓(xùn)練數(shù)據(jù)本身包含有關(guān)種族、性別或其他社會(huì)偏見的信息，那么由此訓(xùn)練出的模型無疑會(huì)復(fù)制甚至放大這些偏見。為了從根本上減少這種風(fēng)險(xiǎn)，平臺(tái)應(yīng)在算法的設(shè)計(jì)和數(shù)據(jù)的選擇過程中引入倫理審查機(jī)制，進(jìn)行算法審核以識(shí)別和修改可能導(dǎo)致歧視的算法邏輯，采用多元化的數(shù)據(jù)源來訓(xùn)練算法，確保系統(tǒng)的決策盡可能公正無偏。各類人工智能平臺(tái)還應(yīng)積極踐行“以人為本”理念，將對(duì)人性的理解融入到技術(shù)的迭代中去，以減少偏見和歧視的發(fā)生，讓人工智能滿足“可知”和“可信”這兩個(gè)必要條件。

2.3 政策路徑

從政策層面制定個(gè)人信息保護(hù)的路徑應(yīng)關(guān)注人工智能技術(shù)的快速發(fā)展，還要兼顧公眾的基本權(quán)利需求。監(jiān)管部門和人工智能平臺(tái)是個(gè)人信息保護(hù)的兩大重要主體，二者如果能夠?qū)崿F(xiàn)良性互動(dòng)可以很好地保護(hù)用戶隱私。人工智能企業(yè)可以將“安全港制度”這種行業(yè)制定標(biāo)準(zhǔn)引入到平臺(tái)中，及時(shí)向個(gè)人信息管理部門報(bào)告用戶個(gè)人信息使用規(guī)范，由此將人工智能平臺(tái)轉(zhuǎn)變成主動(dòng)保護(hù)客戶個(gè)人信息的積極角色。而政府監(jiān)管部門則需要出臺(tái)具體監(jiān)管方案，定期對(duì)人工智能平臺(tái)進(jìn)行審核，確保其遵守既定的個(gè)人信息保護(hù)規(guī)則，如此用戶的個(gè)人信息便可以獲得更有效的保護(hù)。

隨著人工智能技術(shù)的飛躍式發(fā)展，開展個(gè)人信息保護(hù)方面的國際合作是必然趨勢(shì)，國際上許多人工智能非常發(fā)達(dá)的國家先后出臺(tái)了許多人工智能治理制度，例如美國的《人工智能權(quán)利法案藍(lán)圖》（2022年）、歐盟的《人工智能法案》（2023年）等，我國也出臺(tái)了《生成式人工智能服務(wù)管理暫行辦法》（2023年），這些政策法規(guī)均強(qiáng)調(diào)了人工智能環(huán)境下個(gè)人信息保護(hù)的重要性，但是對(duì)用戶個(gè)人信息保護(hù)理念、具體方式等暫未形成國際統(tǒng)一標(biāo)準(zhǔn)[4]。通過國際合作形成廣泛的共識(shí)和統(tǒng)一的標(biāo)準(zhǔn)是保護(hù)用戶個(gè)人信息的有效手段，各國應(yīng)加強(qiáng)合作，通過行業(yè)組織或政府部門推動(dòng)人工智能治理框架的標(biāo)準(zhǔn)化，使個(gè)人信息保護(hù)具備特定的規(guī)則和協(xié)議。如此有助于解決跨境數(shù)據(jù)流動(dòng)帶來的個(gè)人信息泄露問題，也能確保在全球范圍內(nèi)的個(gè)人信息得到國際合力保護(hù)。

3 結(jié)束語

人工智能時(shí)代人類在享受技術(shù)進(jìn)步帶來的便利的同時(shí)，也面臨著個(gè)人信息被泄露的挑戰(zhàn)?？萍及l(fā)展不應(yīng)以犧牲個(gè)人隱私為代價(jià)，構(gòu)建既能利用人工智能優(yōu)勢(shì)也能確保信息安全的環(huán)境十分必要，各類智能平臺(tái)可以通過建立常態(tài)化的信息脫敏機(jī)制和強(qiáng)化信息加密措施來保護(hù)個(gè)人信息不被濫用，倫理宣傳和政策法規(guī)也應(yīng)與技術(shù)發(fā)展同步推進(jìn)，以確保人工智能既具備技術(shù)先進(jìn)性也保持倫理正當(dāng)性。

參考文獻(xiàn)

[1] 錢燕娜．人工智能算法的法律問題與應(yīng)對(duì)措施[J]．喀什大學(xué)學(xué)報(bào)，2024，45（2）：28-34．

[2] 亞馬遜人臉識(shí)別技術(shù)Rekognition被爆種族歧視［DB/OL］．鳳凰網(wǎng)．https：//finance.ifeng.com.2019-01-28.

[3] 徐夢(mèng)瑤．大數(shù)據(jù)中的隱私流動(dòng)與個(gè)人信息保護(hù)研究[J]．東南大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2022，24（S1）：46-49．

[4] 李陽春，楊曉偉．?dāng)?shù)據(jù)安全和個(gè)人信息保護(hù)角度下的國際合作研究[J]．工業(yè)信息安全，2023（2）：17-22．