文_沈愛(ài)國(guó) 趙若瑄 厲安恬

ChatGPT的應(yīng)用讓全世界將目光放在了人工智能科技創(chuàng)新與科技倫理上，人工智能也被視為第四次工業(yè)革命的核心驅(qū)動(dòng)力。隨著人工智能技術(shù)的迅速迭代，其所帶來(lái)的倫理問(wèn)題逐漸顯現(xiàn)并亟待解決，現(xiàn)實(shí)境況和相關(guān)文藝作品折射著人們對(duì)未來(lái)技術(shù)的憂思。從個(gè)人的數(shù)據(jù)隱私被剝奪，到數(shù)字鴻溝下弱勢(shì)群體的權(quán)利遭受侵害，再到技術(shù)飛速進(jìn)步帶來(lái)的人類社會(huì)文化迷失，人工智能技術(shù)的風(fēng)險(xiǎn)性將成為具有時(shí)代性的議題。

無(wú)論人們所設(shè)想的“超級(jí)智能體”能否實(shí)現(xiàn)，我們都已經(jīng)無(wú)法拒絕進(jìn)入人工智能時(shí)代，都必須重新審視人工智能的價(jià)值，思考相關(guān)倫理規(guī)范對(duì)技術(shù)的調(diào)適。面對(duì)全球數(shù)字治理的進(jìn)程，新技術(shù)下的信任危機(jī)如何得以消解？中國(guó)在這一過(guò)程中面臨著怎樣的現(xiàn)狀？未來(lái)，人工智能技術(shù)的智慧之光與倫理法制的理性之光該如何交相輝映？

一、我國(guó)在數(shù)字化進(jìn)程中的倫理規(guī)范現(xiàn)狀

隨著我國(guó)步入數(shù)字化進(jìn)程，不同社會(huì)主體之間的倫理關(guān)系也面臨重構(gòu)。作為社會(huì)生活中的一員，人們享受著數(shù)字化生存帶來(lái)的優(yōu)勢(shì)與便利，也在不同程度上承擔(dān)著倫理失范帶來(lái)的風(fēng)險(xiǎn)。而在當(dāng)下中國(guó)，數(shù)字技術(shù)蓬勃騰飛的過(guò)程中倫理關(guān)切是相對(duì)落后的，倫理規(guī)范與法律制度設(shè)計(jì)往往在追隨著問(wèn)題的出現(xiàn)而逐步完善。

1.經(jīng)濟(jì)數(shù)字化進(jìn)程中的難題：數(shù)據(jù)泄露侵犯?jìng)€(gè)人隱私

在中國(guó)經(jīng)濟(jì)數(shù)字化進(jìn)程中，數(shù)字經(jīng)濟(jì)逐漸滲透至社會(huì)生活的方方面面，作為網(wǎng)民的個(gè)人數(shù)字軌跡遍布互聯(lián)網(wǎng)。人工智能和大數(shù)據(jù)在推動(dòng)經(jīng)濟(jì)發(fā)展的同時(shí)，由于涉及大量個(gè)人和企業(yè)數(shù)據(jù)，也給個(gè)人隱私的保護(hù)和維權(quán)帶來(lái)了巨大威脅。包括金融數(shù)據(jù)、電子商務(wù)數(shù)據(jù)、醫(yī)療系統(tǒng)數(shù)據(jù)等，都存在在信息主體不知情的情況下被泄露和販賣的情況，如何應(yīng)對(duì)這類風(fēng)險(xiǎn)成為亟待解決的問(wèn)題。

在我國(guó)的頂層設(shè)計(jì)上，制度與法律正在逐步出臺(tái)，以嚴(yán)格的法律回應(yīng)經(jīng)濟(jì)數(shù)字化進(jìn)程中的倫理關(guān)切，要求企業(yè)重視數(shù)據(jù)使用過(guò)程中的規(guī)范，并落實(shí)相應(yīng)責(zé)任。2017年6月1日起施行的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，以法律形式明確了對(duì)公民個(gè)人信息安全的保護(hù)。2021 年11 月1 日起施行的《個(gè)人信息保護(hù)法》則以更具體的條款嚴(yán)格限制了個(gè)人信息收集的具體要求，如“基于個(gè)人同意處理個(gè)人信息的，該同意應(yīng)當(dāng)由個(gè)人在充分知情的前提下自愿、明確作出。法律、行政法規(guī)規(guī)定處理個(gè)人信息應(yīng)當(dāng)取得個(gè)人單獨(dú)同意或者書(shū)面同意的，從其規(guī)定?！狈稍谥贫葘用嬉?guī)范保護(hù)個(gè)人信息安全，部分企業(yè)也采用了數(shù)據(jù)去標(biāo)識(shí)化、數(shù)據(jù)脫敏等技術(shù)使個(gè)人信息的搜集、使用和存儲(chǔ)最小化，而個(gè)人的數(shù)字行為也應(yīng)當(dāng)更多關(guān)注隱私保護(hù)問(wèn)題，從而在多方協(xié)同努力下達(dá)到數(shù)字化社會(huì)中的“技術(shù)向善”。

2.社會(huì)數(shù)字化需跨越數(shù)字鴻溝，重視弱勢(shì)群體權(quán)益

據(jù)我國(guó)互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》中的數(shù)據(jù)顯示，截至2020 年末，我國(guó)的網(wǎng)民規(guī)模達(dá)9.89億，2021年，我國(guó)互聯(lián)網(wǎng)普及率達(dá)71.6%[1]，成為全世界規(guī)模最大、人數(shù)最多的數(shù)字社會(huì)。隨著網(wǎng)民規(guī)模的不斷擴(kuò)大，線上醫(yī)療、線上外賣等行業(yè)的發(fā)展也保持著穩(wěn)定增長(zhǎng)。

數(shù)字技術(shù)的應(yīng)用在很大程度上便利群眾，但是對(duì)于老人、小孩、殘障人士、文盲等信息技術(shù)弱勢(shì)群體來(lái)說(shuō)，這些高科技可能反而會(huì)給他們的生活造成障礙。數(shù)字化時(shí)代，移動(dòng)支付、線上服務(wù)覆蓋了公共交通、智慧醫(yī)療、行政服務(wù)等諸多領(lǐng)域，在人們享受科技便利的同時(shí)，技術(shù)弱勢(shì)群體的公共服務(wù)權(quán)利和公共資源一定程度上受到了擠壓和掠奪。如何有效避免數(shù)字鴻溝，保障弱勢(shì)群體的合法權(quán)益，是數(shù)字治理面臨的公共倫理困境。

在擺脫數(shù)據(jù)技術(shù)與社會(huì)生活的深度融合而產(chǎn)生的困境方面，政府、企業(yè)都應(yīng)多方參與適弱化改造，幫助數(shù)字弱勢(shì)群體能夠適應(yīng)技術(shù)社會(huì)帶來(lái)的生活新樣態(tài)。2020 年，國(guó)務(wù)院辦公廳印發(fā)《關(guān)于切實(shí)解決老年人運(yùn)用智能技術(shù)困難的實(shí)施方案》，針對(duì)老年人在突發(fā)事件應(yīng)急響應(yīng)狀態(tài)下的服務(wù)保障、便利日常交通出行、便利日常就醫(yī)、便利日常消費(fèi)等7個(gè)方面具體制定了20條解決老年人智能技術(shù)困難的完整方案，為解決這一問(wèn)題提供了基本解決思路。而一些互聯(lián)網(wǎng)企業(yè)也在做出幫助老年人適應(yīng)數(shù)字化社會(huì)的嘗試，例如騰訊微信開(kāi)設(shè)長(zhǎng)輩無(wú)憂專線，更好地幫助老年人使用微信。除此以外，企業(yè)更應(yīng)加速開(kāi)發(fā)拓展老年人智能技術(shù)使用服務(wù)，在“技術(shù)+醫(yī)療”領(lǐng)域內(nèi)為老年人提供更有可行性的服務(wù)方案。

3.文化數(shù)字化加快發(fā)展，知識(shí)產(chǎn)權(quán)保護(hù)飽受挑戰(zhàn)

2022 年，國(guó)務(wù)院辦公廳印發(fā)《關(guān)于推進(jìn)實(shí)施國(guó)家文化數(shù)字化戰(zhàn)略的意見(jiàn)》（以下簡(jiǎn)稱《意見(jiàn)》）明確，到“十四五”時(shí)期末，基本建成文化數(shù)字化基礎(chǔ)設(shè)施和服務(wù)平臺(tái)，形成線上線下融合互動(dòng)、立體覆蓋的文化服務(wù)供給體系。但是，推進(jìn)文化數(shù)字化進(jìn)程中，文化價(jià)值等方面也面臨著巨大挑戰(zhàn)。

數(shù)字化文化發(fā)展帶來(lái)了文化信息的大量生產(chǎn)和流通，但也帶來(lái)了文化產(chǎn)權(quán)的保護(hù)難題。在互聯(lián)網(wǎng)領(lǐng)域中，文化作品未經(jīng)授權(quán)而廣泛傳播和使用的案例屢見(jiàn)不鮮。2022年，甘肅省博物館文創(chuàng)團(tuán)隊(duì)以銅奔馬為主題制作文創(chuàng)玩偶，因形象可愛(ài)收獲好評(píng)，文創(chuàng)人員正為此趕工補(bǔ)貨時(shí)卻發(fā)現(xiàn)一些不法商家已經(jīng)在電商平臺(tái)上復(fù)刻這一玩偶、售賣盜版商品。文創(chuàng)產(chǎn)品作為原創(chuàng)產(chǎn)品，有著生產(chǎn)周期長(zhǎng)、成本高的特點(diǎn)，然而每每獲得大眾關(guān)注與喜愛(ài)時(shí)，熱度很容易被低成本仿制廠商掠奪，嚴(yán)重打擊原創(chuàng)者的積極性。再以文學(xué)作品為例，知識(shí)產(chǎn)權(quán)侵權(quán)泛濫，維權(quán)困難，由此導(dǎo)致的文化價(jià)值受侵害問(wèn)題將在極大程度上影響文化發(fā)展的活力。

二、人工智能時(shí)代的倫理價(jià)值審度

在反思人工智能時(shí)代時(shí)，我們無(wú)法避免審視這種文明可能帶來(lái)的風(fēng)險(xiǎn)性，馬克斯·韋伯形象地指出人們將來(lái)會(huì)注定生活在“技術(shù)知識(shí)的囚室”中，知識(shí)問(wèn)題是現(xiàn)代性風(fēng)險(xiǎn)的根本成因，倫理原則與規(guī)范的制定也應(yīng)是基于其風(fēng)險(xiǎn)的決策[2]。在人工智能的發(fā)展過(guò)程中，人們的價(jià)值訴求應(yīng)在于使人工智能的應(yīng)用更符合公眾利益，在慎思其倫理與規(guī)范時(shí)也應(yīng)圍繞著這一價(jià)值目標(biāo)。

1.追求人工智能決策與權(quán)力的公正性

人工智能在全球范圍內(nèi)正在運(yùn)用到政治選舉、廣告推送、信用評(píng)分等各個(gè)層面，無(wú)論個(gè)人、組織還是整個(gè)社會(huì)都已無(wú)法脫離于數(shù)據(jù)之外，人們依靠人工智能技術(shù)來(lái)進(jìn)行更為高效、精準(zhǔn)、客觀和科學(xué)的決策，但這其實(shí)是有相對(duì)條件和限度的，無(wú)論是數(shù)據(jù)還是算法都是具有一定的價(jià)值負(fù)載的，甚至其中帶來(lái)的歧視也是微妙和精準(zhǔn)的，例如Facebook(臉書(shū))被曝算法歧視黑人問(wèn)題。人工智能體的價(jià)值取向與選擇無(wú)可避免地受到其開(kāi)發(fā)者和應(yīng)用者的影響，無(wú)法做到客觀與無(wú)偏見(jiàn)，且隨著整個(gè)社會(huì)逐漸被納入基于數(shù)據(jù)和算法的精確管理與智能監(jiān)控之下，技術(shù)可以變成一種權(quán)力，對(duì)技術(shù)的迷信與濫用可能會(huì)引向“人工愚蠢”，其中存在的不準(zhǔn)確、不包容和不公正需要不斷被修正和改進(jìn)，技術(shù)的執(zhí)行者應(yīng)主動(dòng)披露自身在其中的利益，以及其中可能存在的利益沖突，以求更為公正的技術(shù)使用，無(wú)論人類文明進(jìn)入到何種階段，“正義”都應(yīng)該是“社會(huì)制度的首要價(jià)值”[3]。

2.呼喚更為透明和可追責(zé)的智能系統(tǒng)

當(dāng)下技術(shù)使用的不透明性在每個(gè)個(gè)體的日常技術(shù)使用中就有許多體現(xiàn)，例如其中的技術(shù)設(shè)計(jì)偏見(jiàn)和知情同意缺失，雖然以AI為代表的新技術(shù)已經(jīng)逐漸成為當(dāng)代社會(huì)的基礎(chǔ)結(jié)構(gòu)，其中的過(guò)程與機(jī)制的理解卻不是普及性的，不透明、難以理解和無(wú)法追溯責(zé)任等情況普遍存在。而當(dāng)智能判斷出現(xiàn)問(wèn)題和錯(cuò)誤時(shí)，開(kāi)發(fā)、應(yīng)用人員和機(jī)器、算法、數(shù)據(jù)之間的責(zé)任難以厘清，技術(shù)背后潛在的不良后果的清晰界定與區(qū)分是目前AI倫理不得不面對(duì)的嚴(yán)峻問(wèn)題。

目前，各界已經(jīng)將透明性和可解釋性確立為人工智能研發(fā)應(yīng)用的一個(gè)基本的指導(dǎo)原則，從規(guī)范和立法層面敦促計(jì)算機(jī)科學(xué)家在算法設(shè)計(jì)和框架評(píng)估階段優(yōu)先考慮透明性、可理解性和可追責(zé)性，以避免應(yīng)用過(guò)程中的偏見(jiàn)和歧視之訟。

3.追求人機(jī)協(xié)作與人機(jī)共生，避免走向人機(jī)對(duì)立

人工智能在發(fā)展的過(guò)程中，智能化的合理性在不斷挑戰(zhàn)人的存在價(jià)值，目前機(jī)器已經(jīng)能替換部分簡(jiǎn)單重復(fù)的人力勞動(dòng)，而未來(lái)是否會(huì)有超級(jí)智能體出現(xiàn)挑戰(zhàn)人類理性仍然是一個(gè)不可預(yù)知的問(wèn)題。人工智能所呈現(xiàn)的合理性與理性只是工程合理性與工具理性，人們必須發(fā)問(wèn)能否由正面力量操控，是否會(huì)超越人類的控制能力并擁有自主性力量。

追求人機(jī)協(xié)作是探尋一種“基于負(fù)責(zé)任的態(tài)度的可接受的人工智能”[4]，人工智能的發(fā)展應(yīng)旨在增強(qiáng)人類智能，而不在于替代人類，有效的人機(jī)合作中，人需要在價(jià)值發(fā)現(xiàn)中進(jìn)行能動(dòng)性的干預(yù)和控制[5]，人類基于理性的關(guān)鍵決策不可或缺，這是對(duì)于技術(shù)漏洞的糾偏，也能夠進(jìn)一步消除社會(huì)對(duì)人工智能的疑懼。

目前對(duì)于人工智能理論原則的提出基于更為現(xiàn)實(shí)的辦法，即借助特定的倫理沖突，從后果出發(fā)追究倒逼其內(nèi)在機(jī)制或?qū)⒇?zé)任追溯與糾錯(cuò)補(bǔ)償結(jié)合。人工智能的倫理應(yīng)屬于“未完成的倫理”[6]，人類無(wú)法逃避、否認(rèn)和阻止人工智能的發(fā)展，只能在不斷變化的實(shí)踐之中通過(guò)倫理審計(jì)吸納和化解風(fēng)險(xiǎn)。從目前全球的實(shí)踐探索來(lái)看，人工智能的治理正在走向法律、倫理、技術(shù)協(xié)作互動(dòng)的實(shí)踐。

三、結(jié)語(yǔ)

人工智能已成為當(dāng)下社會(huì)最為重要的新興技術(shù)，正重塑著人類社會(huì)的結(jié)構(gòu)和人們的行為。而隨著技術(shù)的不斷發(fā)展更迭，人工智能的倫理道德問(wèn)題逐漸浮現(xiàn)。近年來(lái)，人工智能倫理和治理問(wèn)題受到了世界各國(guó)的重點(diǎn)關(guān)注。如何在推動(dòng)技術(shù)發(fā)展的同時(shí)，規(guī)避技術(shù)對(duì)人權(quán)、社會(huì)帶來(lái)的負(fù)面影響，是學(xué)界業(yè)界一直在探討的問(wèn)題。分析我國(guó)人工智能在經(jīng)濟(jì)、政治、社會(huì)、文化方面的實(shí)踐，可以發(fā)現(xiàn)不同社會(huì)主體之間的倫理關(guān)系正面臨著重構(gòu)，而我國(guó)有關(guān)倫理道德的規(guī)范和制度仍存在滯后和缺位的問(wèn)題。

本文認(rèn)為，實(shí)現(xiàn)人工智能技術(shù)向“善”發(fā)展，應(yīng)該始終將公共利益放在首位，具體包括追求更加公正的決策與權(quán)力，建立更加透明和可追責(zé)的智能系統(tǒng)以及盡可能地實(shí)現(xiàn)人機(jī)共生。不過(guò)，技術(shù)倫理本就是一個(gè)充滿爭(zhēng)議的問(wèn)題。對(duì)于人類社會(huì)來(lái)說(shuō)，真正解決人工智能的倫理問(wèn)題，仍有很長(zhǎng)一段路需要走，單純依賴學(xué)術(shù)角度的解決方案顯然過(guò)于理想化。因此，我們期待未來(lái)有更多的學(xué)術(shù)探討和落地實(shí)踐，從而推動(dòng)人工智能朝著為人類社會(huì)創(chuàng)造福祉的方向發(fā)展。