(1.南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所，南京 210044；2.南京信息工程大學(xué)法政學(xué)院，南京 210044)

0 引言

尤瓦爾·赫拉利說(shuō)：“我們無(wú)法真正預(yù)測(cè)未來(lái)，因?yàn)榭萍疾⒉粫?huì)帶來(lái)確定的結(jié)果?！盵1]自人工智能(Artificial Intelligence, AI)概念問(wèn)世以來(lái)，數(shù)輪大起大落也未能阻止人們持續(xù)嘗試搭建以智能化技術(shù)為核心的多元譜系來(lái)改善社會(huì)生產(chǎn)和居民生活。日益豐富的海量數(shù)據(jù)集、急劇下降的算力成本、迭代更新的算法模型等關(guān)鍵性技術(shù)進(jìn)展，全球主要經(jīng)濟(jì)體的人工智能發(fā)展戰(zhàn)略與巨量資本逐鹿人工智能市場(chǎng)的洶涌浪潮等，合力提升社會(huì)生產(chǎn)效率、降低精細(xì)化處理成本、改善生態(tài)環(huán)境、推動(dòng)智能社會(huì)建設(shè)。

遞歸式自我學(xué)習(xí)加劇了人工智能技術(shù)的不透明性與不確定性，在深度挖掘全景數(shù)據(jù)、采用知識(shí)圖譜輔助算法結(jié)構(gòu)以及黑盒輸出決策結(jié)果的過(guò)程中，逐漸暴露出高階數(shù)據(jù)集聚與深度分析威脅個(gè)人信息安全、天然傾向壟斷、侵蝕市場(chǎng)競(jìng)爭(zhēng)、偏重特定技能導(dǎo)致就業(yè)兩級(jí)分化等嚴(yán)重弊端，甚至引發(fā)部分頂尖專家對(duì)于機(jī)器終結(jié)人類(lèi)文明的憂思[2]。從人臉識(shí)別第一案、螞蟻金服上市風(fēng)波、SDK事件與網(wǎng)信辦下架違法違規(guī)APP到一度處于風(fēng)口浪尖的社區(qū)團(tuán)購(gòu)，人工智能技術(shù)應(yīng)用的社會(huì)性風(fēng)險(xiǎn)已經(jīng)引起各界關(guān)注，“對(duì)社會(huì)的技術(shù)可行性失去信心幾乎是必然的”[3]。亟待系統(tǒng)分析人工智能產(chǎn)品和服務(wù)，從設(shè)想提出、開(kāi)發(fā)規(guī)劃到終端應(yīng)用的整個(gè)生命周期中存在的政策法律、倫理輿情與市場(chǎng)反饋等諸多社會(huì)性風(fēng)險(xiǎn)，為解決人類(lèi)族群在推進(jìn)使用人工智能技術(shù)的各類(lèi)應(yīng)用項(xiàng)目中無(wú)法避免的不同層級(jí)的機(jī)器威脅焦慮與人類(lèi)中心偏移和終極價(jià)值受損之擔(dān)憂提供監(jiān)管路徑。

1 人工智能應(yīng)用的社會(huì)性風(fēng)險(xiǎn)

從詞源學(xué)來(lái)看，“風(fēng)險(xiǎn)”一詞源于西班牙航海術(shù)語(yǔ)，意思是遇到危險(xiǎn)或觸礁[4]，后被學(xué)界普遍定義為損失的不確定性[5]。近年來(lái)，突破信息存儲(chǔ)與處理瓶頸的創(chuàng)新型信息革新被整合應(yīng)用到生產(chǎn)制造、教育醫(yī)療、交通出行等諸多領(lǐng)域，既在一定范圍內(nèi)展現(xiàn)出超越人類(lèi)認(rèn)知的強(qiáng)大能力，也在眾多場(chǎng)域中暴露出難以預(yù)估的巨大威脅[6]。不僅數(shù)據(jù)依賴、回音效應(yīng)、魯棒性缺失等技術(shù)難題對(duì)人工智能產(chǎn)品和服務(wù)的有序運(yùn)作構(gòu)成障礙[7]，人工智能應(yīng)用全生命周期中有意或無(wú)意的偏見(jiàn)歧視、非正義或不平等的對(duì)待方式均引發(fā)有違人本精神的根本性危機(jī)。例如，從“ZAO”深度偽造事件[8]到“千人千價(jià)”的大數(shù)據(jù)“殺熟”[9]，算法黑箱及滲透在算法框架中的固有偏見(jiàn)在深度學(xué)習(xí)的引擎推動(dòng)下愈發(fā)嚴(yán)重[10]?；谀纠碛珊碗[性偏見(jiàn)造成的間接歧視，大幅加劇了系統(tǒng)監(jiān)管的難度[11]。以數(shù)據(jù)資源為原料的人工智能技術(shù)打破了時(shí)空限域，不少國(guó)家和地區(qū)積極將法律管轄的長(zhǎng)臂拓展到全球每一個(gè)角落[12]，亟待完善有利全球穩(wěn)定并有益人類(lèi)發(fā)展的跨國(guó)治理協(xié)議。

20世紀(jì)50年代以來(lái)，有關(guān)機(jī)器政策倫理與法律規(guī)制的探討從未停歇。從機(jī)器人三定律到類(lèi)人定則，智能化應(yīng)用的倫理倡議、原則宣言與法律政策規(guī)則此起彼伏。近幾年，歐盟、美國(guó)、中國(guó)、日本、法國(guó)等紛紛出臺(tái)人工智能發(fā)展戰(zhàn)略，既強(qiáng)調(diào)智能技術(shù)的巨大價(jià)值，又關(guān)注其對(duì)于社會(huì)穩(wěn)定和人類(lèi)發(fā)展的潛在威脅。學(xué)術(shù)界重點(diǎn)倡導(dǎo)科技向善、系統(tǒng)穩(wěn)健、算法公平、結(jié)果有益以及自始至終貫徹“以人為本”的核心理念，實(shí)務(wù)界全面肯定透明度、最小化、強(qiáng)責(zé)任等調(diào)控措施，試圖將人工智能技術(shù)的行業(yè)應(yīng)用限定在人類(lèi)理想范圍之內(nèi)。例如，“如何將人工智能可能對(duì)人類(lèi)造成的損害控制在提前預(yù)測(cè)的范圍內(nèi)，是法律工作者應(yīng)當(dāng)提前應(yīng)對(duì)的重要課題”[13]。當(dāng)索菲亞取得沙特王國(guó)的公民身份[14]，有關(guān)智能機(jī)器的法律地位、權(quán)利義務(wù)和行為責(zé)任等問(wèn)題成為了各界焦點(diǎn)[15]。面對(duì)智能代理人行為的不可預(yù)測(cè)性及其可能造成破壞性負(fù)面結(jié)果的現(xiàn)實(shí)情狀，一味否認(rèn)其法律地位必然導(dǎo)致“責(zé)任漏洞”[16]，亟待采用“部分法律地位”的概念體系予以填補(bǔ)[17]。

事實(shí)上，損失與不確定性是風(fēng)險(xiǎn)的兩大根本特征，而競(jìng)爭(zhēng)的不公平與社會(huì)分配的不平等是社會(huì)風(fēng)險(xiǎn)的根本原因[18]。例如，人工智能應(yīng)用帶來(lái)的一項(xiàng)重大社會(huì)性風(fēng)險(xiǎn)是失業(yè)問(wèn)題。根據(jù)麥肯錫預(yù)測(cè)，到2030年，中國(guó)將有1億人因自動(dòng)化浪潮面臨被迫轉(zhuǎn)業(yè)[19]。雖然人工智能不等于自動(dòng)化，技術(shù)性失業(yè)也并非人工智能應(yīng)用引發(fā)的新問(wèn)題。從瓦特改良蒸汽機(jī)到電氣時(shí)代的更迭，技術(shù)革新浪潮一直與舊有行業(yè)失業(yè)潮密切關(guān)聯(lián)。不過(guò)，這一次與以往大不相同。一是之前的工業(yè)革命創(chuàng)造的新就業(yè)機(jī)會(huì)明顯高于擠占崗位，二是之前失去的基本為“勞動(dòng)”崗位，人工智能技術(shù)應(yīng)用導(dǎo)致的卻是部分“智力”崗位失業(yè)潮。擁有無(wú)限存儲(chǔ)容量、永久數(shù)據(jù)保存、高速計(jì)算運(yùn)行、幾乎不受環(huán)境狀態(tài)影響等優(yōu)勢(shì)的人工智能應(yīng)用似乎比人類(lèi)更能勝任需要絕對(duì)理性和海量知識(shí)的工作崗位[20]。同時(shí)，數(shù)字經(jīng)濟(jì)的崛起使掌握著數(shù)據(jù)資源和人工智能技術(shù)的少數(shù)群體有能力進(jìn)一步拉大數(shù)字鴻溝，加劇經(jīng)濟(jì)與能力的差距，逐步形成“無(wú)用階層”[21]。

雖然伊薩克·阿西莫夫的“機(jī)器人三定律”已被詮釋為無(wú)解的怪圈”[22]，但關(guān)于人工智能體的倫理探討未曾停息，“我們不能將人工智能研究同它的道德倫理后果分離開(kāi)來(lái)”[23]。歐盟高級(jí)專家團(tuán)(AI HLEG)在《可信AI倫理指南》(簡(jiǎn)稱《指南》)[24]中提出人工智能倫理治理的構(gòu)想。從哥白尼的“日心說(shuō)”到達(dá)爾文的“生物進(jìn)化論”、從“上帝之子”到帕斯卡爾的“思想的葦草”，在傳統(tǒng)意識(shí)和觀念不斷顛覆中“人類(lèi)已從中心滾向了 X”[25]。快速迭代的人工智能技術(shù)惡化了不均衡性、目的與工具等邏輯悖逆[26]。雖然全面超越人類(lèi)的智能機(jī)器難以現(xiàn)世，但不完整的類(lèi)腦智能尚有可能實(shí)現(xiàn)。隨著工具理性迭代革新，社會(huì)主體仍有可能落入自主缺失的境地。

2 人工智能應(yīng)用風(fēng)險(xiǎn)的監(jiān)管難題

2.1 不確定性回歸

當(dāng)哥白尼推翻羅馬教廷的“地心說(shuō)”、當(dāng)伽利略糾正亞里士多德的錯(cuò)誤結(jié)論、當(dāng)牛頓構(gòu)建經(jīng)典力學(xué)體系、當(dāng)引力波的存在證實(shí)愛(ài)因斯坦的預(yù)測(cè)，現(xiàn)代文明試圖用科學(xué)的理性不斷認(rèn)識(shí)這個(gè)世界。理性的、可計(jì)算的、確定的東西可以給人帶來(lái)安全感，“工業(yè)社會(huì)、民眾的社會(huì)秩序、特別是福利國(guó)家和保險(xiǎn)國(guó)家必須能夠使人類(lèi)的生存狀況可由工具理性控制并使之可制造、可獲取、可解釋”[27]。人工智能似乎在挑戰(zhàn)這種理性的確定。烏爾里?！へ惪藢⒗硇员旧淼陌l(fā)展邏輯帶來(lái)“風(fēng)險(xiǎn)”這一現(xiàn)象稱為“不確定性”的回歸[28]，而人工智能系統(tǒng)雖然嚴(yán)格執(zhí)行算法，卻產(chǎn)生不確定的輸出結(jié)果?！安淮_定性回歸”無(wú)疑增加了人工智能應(yīng)用風(fēng)險(xiǎn)的監(jiān)管難度。各種人工智能因素逐漸滲透社會(huì)生活方方面面，不斷“內(nèi)化”的潛在風(fēng)險(xiǎn)進(jìn)一步增加了識(shí)別障礙。

2.2 監(jiān)管基礎(chǔ)薄弱

風(fēng)險(xiǎn)監(jiān)管的目的在于預(yù)防風(fēng)險(xiǎn)并降低損失。人工智能應(yīng)用中充斥的不透明因素導(dǎo)致算法很難被深刻而全面地理解，風(fēng)險(xiǎn)帶來(lái)的不利后果亦很難通過(guò)傳統(tǒng)因果分析模式發(fā)現(xiàn)問(wèn)題的根源。這些障礙進(jìn)一步割裂了損失與風(fēng)險(xiǎn)之間的聯(lián)系，而這種聯(lián)系是監(jiān)管的理論基礎(chǔ)。例如，《民法典》第1202條規(guī)定，產(chǎn)品生產(chǎn)者承擔(dān)侵權(quán)責(zé)任的前提是“因產(chǎn)品存在缺陷造成他人損害”，損害與缺陷之間的因果關(guān)系是請(qǐng)求權(quán)的必要基礎(chǔ)。又如，根據(jù)經(jīng)典的歧視學(xué)說(shuō)，歧視理由與不利條件之間的因果關(guān)系是判定歧視的前提。“馬太效應(yīng)”頻發(fā)的人工智能應(yīng)用領(lǐng)域很難證明上述因果關(guān)系，特別是在損失不可見(jiàn)、不確定或并非及時(shí)顯現(xiàn)的情況下。例如，黑人圖片被標(biāo)記為“大猩猩”、微軟聊天機(jī)器人Tay呈現(xiàn)不良價(jià)值取向[29]等事件中，潛在的受害人及其損害結(jié)果均難以全面確定，更難以承擔(dān)個(gè)性化責(zé)任[30]。

2.3 機(jī)遇與風(fēng)險(xiǎn)同在

隨著海量數(shù)據(jù)累計(jì)、算力瓶頸突破、機(jī)器學(xué)習(xí)革新，人工智能的第三次浪潮引發(fā)經(jīng)濟(jì)社會(huì)的全方位智能化變革[31]。智能技術(shù)必將帶來(lái)新產(chǎn)業(yè)、新業(yè)態(tài)、新模式，成為新的技術(shù)革命的創(chuàng)新引擎，亟待“加快形成以創(chuàng)新為主要引領(lǐng)和支撐的經(jīng)濟(jì)體系和發(fā)展模式”[32]。面對(duì)風(fēng)險(xiǎn)與機(jī)遇并存的人工智能技術(shù)應(yīng)用，需要切實(shí)把握監(jiān)管問(wèn)題。監(jiān)管力度不足則無(wú)法防范諸多風(fēng)險(xiǎn)，可能會(huì)出現(xiàn)破壞技術(shù)向善原則的惡劣現(xiàn)象；過(guò)于嚴(yán)格的監(jiān)管則很可能導(dǎo)致良機(jī)錯(cuò)失。亟待建立適時(shí)適事的監(jiān)管機(jī)制。

3 人工智能應(yīng)用風(fēng)險(xiǎn)的域外監(jiān)管現(xiàn)狀

3.1 主要國(guó)家和地區(qū)的監(jiān)管實(shí)踐

2020年1月，美國(guó)發(fā)布的以第13859號(hào)行政命令[33]為基礎(chǔ)的《人工智能應(yīng)用監(jiān)管指南備忘錄(草案)》(簡(jiǎn)稱《備忘錄》)[34]基本確立了審慎監(jiān)管的原則，給出了特定的政策指南和框架、試點(diǎn)計(jì)劃和試驗(yàn)、自愿性共識(shí)標(biāo)準(zhǔn)等具體措施，體現(xiàn)了“鼓勵(lì)A(yù)I的創(chuàng)新和發(fā)展”的理念。2020年2月，歐盟發(fā)布的《人工智能白皮書(shū)》(簡(jiǎn)稱《白皮書(shū)》)[35]嘗試建立一個(gè)共同的歐洲監(jiān)管框架，創(chuàng)建旨在提高公民技術(shù)信心的“信任生態(tài)系統(tǒng)”，并以“高風(fēng)險(xiǎn)”作為監(jiān)管范圍限定標(biāo)準(zhǔn)。根據(jù)《白皮書(shū)》的規(guī)定，如果某領(lǐng)域?qū)儆谑褂萌斯ぶ悄軕?yīng)用具有重大風(fēng)險(xiǎn)的特定領(lǐng)域且在該領(lǐng)域使用人工智能的方式屬于具有重大風(fēng)險(xiǎn)的使用方式，則會(huì)被認(rèn)定為“高風(fēng)險(xiǎn)”的人工智能應(yīng)用(如醫(yī)療、運(yùn)輸、能源等)，并給出了具體的嚴(yán)格要求。例如，要求應(yīng)用于高風(fēng)險(xiǎn)領(lǐng)域的人工智能系統(tǒng)在每一個(gè)環(huán)節(jié)都要達(dá)到穩(wěn)健準(zhǔn)確、確保成果可重復(fù)、確保人類(lèi)的適當(dāng)參與。歐盟《通用數(shù)據(jù)保護(hù)條例》《指南》與《可信AI評(píng)估列表》[36]基本確立了歐洲地區(qū)人工智能發(fā)展的倫理框架[37]。

3.2 相關(guān)國(guó)際組織的監(jiān)管實(shí)踐

近兩年，眾多國(guó)際組織參與到人工智能應(yīng)用的監(jiān)管實(shí)踐中。例如，42個(gè)國(guó)家采用了國(guó)際經(jīng)濟(jì)合作與發(fā)展組織(OECD)關(guān)于人工智能的原則[38]；二十國(guó)峰會(huì)發(fā)布的《G20人工智能原則》列出了可信賴AI 的5條原則；美國(guó)電氣電子工程師協(xié)會(huì)(IEEE)發(fā)布《人工智能設(shè)計(jì)的倫理準(zhǔn)則》并組建了IEEE P7000工作組[39]，迄今為止已經(jīng)發(fā)布了旨在解決系統(tǒng)設(shè)計(jì)過(guò)程倫理問(wèn)題的多份具體標(biāo)準(zhǔn)，如IEEE P7001-自主系統(tǒng)透明性、IEEE P7003-算法偏見(jiàn)的處理等。

此外，谷歌、微軟、亞馬遜、蘋(píng)果公司等也相繼發(fā)布了人工智能治理原則或行動(dòng)方案，試圖通過(guò)自身加強(qiáng)監(jiān)管的方式獲取和留存終端用戶。

3.3 特點(diǎn)分析

人工智能應(yīng)用風(fēng)險(xiǎn)的域外監(jiān)管實(shí)踐呈現(xiàn)出如下特點(diǎn)。

3.3.1 以原則性框架為主

截至2019年4月，政府及非政府機(jī)構(gòu)發(fā)布了80多份包含人工智能倫理原則或準(zhǔn)則的獨(dú)立政策性文件。其中大部分在2016年至2019年間發(fā)布，來(lái)自私人公司的占比最高(22.6%)，其次是來(lái)自政府機(jī)構(gòu)的文件(占比21.4%)[40]。這類(lèi)不具備法律約束力的“軟法”與“硬性”法規(guī)不同，雖然不具有法律約束力，但具有說(shuō)服力和更高的靈活性。

3.3.2 方向趨同與實(shí)質(zhì)異化

監(jiān)管機(jī)構(gòu)發(fā)布的文件中，在透明度、正義、非惡意、責(zé)任和隱私等道德原則方面趨同，而在這些原則的解釋方式、重要性依據(jù)、涉及范圍及實(shí)施方案等方面存在實(shí)質(zhì)性差異。

3.3.3 強(qiáng)化數(shù)據(jù)和算法監(jiān)管

歐盟于2016年和2019年先后發(fā)布《通用數(shù)據(jù)保護(hù)條例》和《算法責(zé)任與透明治理框架》，從數(shù)據(jù)與算法等方面提出更為具體明確的監(jiān)管指標(biāo)。美國(guó)參議員在提出《2019算法問(wèn)責(zé)制法案》(簡(jiǎn)稱《問(wèn)責(zé)法案》)時(shí)亦要求對(duì)算法實(shí)施嚴(yán)格監(jiān)管[41]。

4 風(fēng)險(xiǎn)監(jiān)管對(duì)策探索

4.1 確定監(jiān)管機(jī)構(gòu)，明確監(jiān)管責(zé)任

個(gè)人信息保護(hù)領(lǐng)域的立法與實(shí)踐經(jīng)驗(yàn)對(duì)于人工智能應(yīng)用社會(huì)性風(fēng)險(xiǎn)的監(jiān)管機(jī)制建設(shè)意義重大。對(duì)于監(jiān)管機(jī)構(gòu)混亂或責(zé)任不明等引發(fā)的“監(jiān)管空白”和“重復(fù)監(jiān)管”等諸多問(wèn)題，建立獨(dú)立統(tǒng)一的監(jiān)管體系是有效保護(hù)個(gè)人信息的關(guān)鍵環(huán)節(jié)[42]。歐盟在《通用數(shù)據(jù)保護(hù)條例》中明確規(guī)定了數(shù)據(jù)保護(hù)機(jī)構(gòu)、運(yùn)行機(jī)制并將其作為數(shù)據(jù)保護(hù)的核心制度[43]。雖然微軟、IBM等巨頭企業(yè)已經(jīng)在內(nèi)部設(shè)立了人工智能倫理委員會(huì)，卻不足以應(yīng)對(duì)人工智能應(yīng)用的社會(huì)性風(fēng)險(xiǎn)。亟待建立和完善專門(mén)性政府監(jiān)管部門(mén)，切實(shí)明確層級(jí)式監(jiān)管責(zé)任。

4.2 注重風(fēng)險(xiǎn)評(píng)估，完善監(jiān)管流程

在人工智能應(yīng)用風(fēng)險(xiǎn)的監(jiān)管范圍上，不論是歐盟《白皮書(shū)》的“高風(fēng)險(xiǎn)”標(biāo)準(zhǔn)認(rèn)定，還是《備忘錄》的風(fēng)險(xiǎn)利益衡量，都不約而同地將風(fēng)險(xiǎn)作為出發(fā)點(diǎn)。有效的風(fēng)險(xiǎn)評(píng)估不僅為監(jiān)管指明方向且避免了無(wú)價(jià)值的監(jiān)管成本，并通過(guò)監(jiān)管前置起到事前監(jiān)督的作用，從而將損失降到最低。目前，各國(guó)立法并未對(duì)人工智能應(yīng)用的風(fēng)險(xiǎn)評(píng)估作出明確要求，但是仍然有跡可循。歐盟《通用數(shù)據(jù)保護(hù)條例》第35條明確提出高風(fēng)險(xiǎn)數(shù)據(jù)處理行為的數(shù)據(jù)保護(hù)影響評(píng)估義務(wù)并規(guī)定了必須進(jìn)行影響評(píng)估的三種情形和數(shù)據(jù)監(jiān)管機(jī)構(gòu)建立、公開(kāi)評(píng)估列表的具體要求。《問(wèn)責(zé)法案》提出了針對(duì)特定規(guī)模商業(yè)實(shí)體的高風(fēng)險(xiǎn)系統(tǒng)評(píng)估義務(wù)[44]。通過(guò)數(shù)據(jù)處理及算法應(yīng)用的影響評(píng)估間接評(píng)估人工智能應(yīng)用風(fēng)險(xiǎn)的做法成為應(yīng)用風(fēng)險(xiǎn)評(píng)估一大趨勢(shì)。我國(guó)《個(gè)人信息保護(hù)法(草案)》第54條規(guī)定了個(gè)人信息處理者對(duì)個(gè)人有重大影響的個(gè)人信息處理活動(dòng)的事前風(fēng)險(xiǎn)評(píng)估及記錄義務(wù)，可以看出涉及個(gè)人信息處理的人工智能應(yīng)用的風(fēng)險(xiǎn)評(píng)估已經(jīng)勢(shì)在必行。

4.3 建立兩端分類(lèi)，形成全面監(jiān)管

面對(duì)諸多風(fēng)險(xiǎn)，監(jiān)管是必要的。但是，監(jiān)管的目的不是限制技術(shù)發(fā)展。恰恰相反，監(jiān)管的目的是推動(dòng)人工智能產(chǎn)品和服務(wù)的健康有序發(fā)展。相關(guān)監(jiān)管應(yīng)當(dāng)充分體現(xiàn)針對(duì)性。歐盟的高風(fēng)險(xiǎn)強(qiáng)制監(jiān)管通過(guò)“應(yīng)用領(lǐng)域+使用方式”予以界定，實(shí)現(xiàn)分類(lèi)監(jiān)管的目標(biāo)?！端惴▎?wèn)責(zé)法案》直接將算法影響評(píng)估義務(wù)對(duì)象的范圍限定在每年收入超過(guò) 5000 萬(wàn)美元、持有100萬(wàn)人或者設(shè)備信息的公司或者主要作為買(mǎi)賣(mài)消費(fèi)者數(shù)據(jù)的數(shù)據(jù)經(jīng)紀(jì)人公司。以經(jīng)濟(jì)實(shí)力和用戶數(shù)量作為監(jiān)管范圍的劃分標(biāo)準(zhǔn)，可能會(huì)導(dǎo)致某些初創(chuàng)型人工智能企業(yè)被排除在監(jiān)管范圍之外。有必要在監(jiān)管范圍劃定中，綜合考慮人工智能應(yīng)用的領(lǐng)域、使用方式、用戶數(shù)量等因素，通過(guò)成本效益分析綜合評(píng)判，形成全面的監(jiān)管方案。

4.4 加快規(guī)則制定，搶占市場(chǎng)高地

在信息技術(shù)大力推動(dòng)之下，全球已經(jīng)成為一個(gè)難以分割的數(shù)據(jù)市場(chǎng)。雖然歐盟的《通用數(shù)據(jù)保護(hù)條例》通過(guò)嚴(yán)格的數(shù)據(jù)收集與使用限制阻礙新產(chǎn)業(yè)發(fā)展、削弱網(wǎng)絡(luò)安全防護(hù)能力，某種程度上對(duì)歐盟數(shù)字經(jīng)濟(jì)的競(jìng)爭(zhēng)力產(chǎn)生負(fù)面效應(yīng)[45]，但這種“負(fù)外部性假象”[46]不能消減“布魯塞爾效應(yīng)”[47]。歐盟通過(guò)擴(kuò)張單邊管轄權(quán)、強(qiáng)化數(shù)據(jù)跨境傳輸限制等，對(duì)全球數(shù)字市場(chǎng)產(chǎn)生了深遠(yuǎn)影響，充分掌握了相關(guān)技術(shù)標(biāo)準(zhǔn)的話語(yǔ)權(quán)[48]。2021年4月21日，歐盟就人工智能監(jiān)管提出了新的法律框架。通過(guò)一系列法規(guī)概述了自動(dòng)駕駛、銀行貸款、招生招聘以及執(zhí)法部門(mén)和司法部門(mén)活動(dòng)中限制人工智能使用的方式方法，“該法規(guī)解決了與人工智能具體使用相關(guān)的給人類(lèi)和社會(huì)帶來(lái)的風(fēng)險(xiǎn)?！蔽覈?guó)亟需建立高質(zhì)量的具有深遠(yuǎn)影響力的法律法規(guī)和標(biāo)準(zhǔn)體系，助力搶占全球人工智能市場(chǎng)高地。

4.5 改進(jìn)安全港機(jī)制，營(yíng)建創(chuàng)新環(huán)境

美國(guó)1978年的《破產(chǎn)法典》制定確立了安全港規(guī)則，用于指代破產(chǎn)事件中為金融合約提供豁免的一種法律制度[49]。之后，美國(guó)在信息領(lǐng)域提出的“信息安全港”[50]和英國(guó)在金融領(lǐng)域提出的“監(jiān)管沙盒”[51]都可以窺見(jiàn)安全港機(jī)制的影子。這一制度既為技術(shù)實(shí)踐提供真實(shí)的系統(tǒng)性評(píng)估測(cè)試環(huán)境，有利于最大限度地提供創(chuàng)新屠場(chǎng)，又可以完成提前介入與事前監(jiān)督，有利于加強(qiáng)風(fēng)險(xiǎn)防范，從而實(shí)現(xiàn)靈活地平衡利益與風(fēng)險(xiǎn)的監(jiān)管模式。

5 結(jié)束語(yǔ)

我國(guó)實(shí)現(xiàn)技術(shù)彎道超車(chē)、躋身創(chuàng)新型國(guó)家前列的目標(biāo)有賴于智能社會(huì)的重大機(jī)遇[52]。在全球人工智能領(lǐng)域內(nèi)，中美兩國(guó)處于第一梯隊(duì)；歐盟側(cè)重于規(guī)則制定，特別是在道德國(guó)際準(zhǔn)則方面走在前列[53]。我國(guó)對(duì)于人工智能社會(huì)性風(fēng)險(xiǎn)相關(guān)領(lǐng)域的關(guān)注度尚且不足，亟待在技術(shù)上不斷推陳出新的同時(shí)，注重風(fēng)險(xiǎn)防范和監(jiān)管制度完善。我國(guó)發(fā)布的《人工智能標(biāo)準(zhǔn)化白皮書(shū)》[54]從基礎(chǔ)、平臺(tái)/支撐、關(guān)鍵技術(shù)、產(chǎn)品及服務(wù)、應(yīng)用、安全/倫理等方面提出標(biāo)準(zhǔn)框架，在“新基建”[55]背景下進(jìn)一步為產(chǎn)業(yè)智能化提供底層技術(shù)支撐。亟待在借鑒域外經(jīng)驗(yàn)教訓(xùn)的基礎(chǔ)上，充分結(jié)合我國(guó)人工智能發(fā)展現(xiàn)狀和社會(huì)性風(fēng)險(xiǎn)情狀，建立統(tǒng)一獨(dú)立的監(jiān)管機(jī)構(gòu)、完善監(jiān)管流程、擴(kuò)大有效監(jiān)管范圍、制定具有影響力的規(guī)則標(biāo)準(zhǔn)，推動(dòng)人工智能發(fā)展，賦能數(shù)字經(jīng)濟(jì)。