王麗麗 桂婷

摘要：人工智能是一把雙刃劍，在推動(dòng)人類社會(huì)發(fā)展的同時(shí)，也帶來了多重潛在風(fēng)險(xiǎn)。如何保證人工智能技術(shù)安全、可靠、可控引發(fā)廣泛討論。目前，美國、英國等均已逐步開展人工智能治理實(shí)踐，以規(guī)避技術(shù)發(fā)展帶來的風(fēng)險(xiǎn)。關(guān)于人工智能這一類新興科技的發(fā)展，我國一直是采取鼓勵(lì)與監(jiān)管并行的道路，并且在近年來越發(fā)重視新興科技監(jiān)管方面的建設(shè)。文章梳理了歐美國家有代表性的舉措，總結(jié)了人工智能治理的最新實(shí)踐做法，為我國制定政策提供參考。

關(guān)鍵詞：人工智能；監(jiān)管；風(fēng)險(xiǎn)；政策建議

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2024）05-0018-03

科技的發(fā)展已經(jīng)讓人工智能從科幻走入現(xiàn)實(shí)。近年來，人工智能已深入影響人們的生活，在諸多領(lǐng)域獲得廣泛應(yīng)用。2022年11月推出的ChatGPT更是讓生成式人工智能炙手可熱。同時(shí)，與人工智能相關(guān)的網(wǎng)絡(luò)安全、數(shù)據(jù)安全、虛假信息等負(fù)面消息也始終伴隨其發(fā)展，展示出一些令人擔(dān)憂的趨勢，圍繞如何對人工智能進(jìn)行監(jiān)管的討論不斷。本文通過研究目前國內(nèi)外關(guān)于人工智能監(jiān)管的策略和措施，為我國下一步促進(jìn)人工智能健康發(fā)展提供政策建議。

1 人工智能發(fā)展存在多重潛在風(fēng)險(xiǎn)

1） 人工智能帶來的網(wǎng)絡(luò)攻擊和信息泄露易引發(fā)犯罪或威脅國家安全。人工智能是一把雙刃劍。目前，全球范圍內(nèi)，已有多項(xiàng)研究顯示，隨著人工智能的普及，勒索軟件攻擊增加了一倍。人工智能可能會(huì)被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪，造成個(gè)人信息泄露、被篡改或被濫用，導(dǎo)致社會(huì)資源浪費(fèi)或國家安全受損等后果。例如，現(xiàn)實(shí)生活中，不少不法分子利用網(wǎng)絡(luò)平臺(tái)進(jìn)行各種“換臉”詐騙；惡意偽造視頻、圖片和文本等信息，向公眾傳播虛假信息，破壞社會(huì)的穩(wěn)定和政治的安全；采用AI技術(shù)，將勒索軟件轉(zhuǎn)化為武器化工具，以更有效地策劃針對國防、城市、公共交通、醫(yī)院、商業(yè)等相關(guān)領(lǐng)域的攻擊行動(dòng)。

2） 人工智能或?qū)蜆I(yè)造成沖擊，其算法偏見或加劇社會(huì)不公?！叭斯ぶ悄苁欠駮?huì)導(dǎo)致大規(guī)模的失業(yè)”一直是互聯(lián)網(wǎng)上的熱門話題。毫無疑問，人工智能會(huì)導(dǎo)致大量的自動(dòng)化，一定會(huì)取代一些低技能、低附加值的工作。律師、會(huì)計(jì)師等部分需要高度專業(yè)知識(shí)的工作，也可能被機(jī)器人所取代。人工智能正在挑戰(zhàn)社會(huì)就業(yè)結(jié)構(gòu)，人們抑或會(huì)進(jìn)入一個(gè)技術(shù)性失業(yè)率不斷上升的時(shí)代，社會(huì)壓力和不安定感可能會(huì)進(jìn)一步加劇。同時(shí)，由算法所引發(fā)的偏見和歧視還將影響人工智能判斷的公平性，可能會(huì)導(dǎo)致社會(huì)不公平現(xiàn)象的加劇，增加社會(huì)緊張和不穩(wěn)定的風(fēng)險(xiǎn)。例如，在就業(yè)、教育和醫(yī)療等領(lǐng)域，機(jī)器學(xué)習(xí)算法可能會(huì)根據(jù)用戶的性別、種族、宗教或社會(huì)地位等因素進(jìn)行不公正的推薦，從而加劇社會(huì)的不穩(wěn)定[1]。

3） 人工智能開發(fā)或危及人類“文明控制權(quán)”。2023年3月，馬斯克和人工智能領(lǐng)域頂尖專家約書亞·本吉奧等千名大佬在一封公開信上簽名，呼吁立即停止開發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)，認(rèn)為AI 對人類和社會(huì)構(gòu)成多重風(fēng)險(xiǎn)，并拋出疑問：“我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？”[2]這一事件再次將人工智能是否會(huì)威脅人類的話題拋到大眾跟前。新興科技正在重塑人類的社會(huì)秩序和倫理規(guī)范，不道德地使用人工智能，是否會(huì)導(dǎo)致人工智能取代人的功能，甚至取代人的主體地位，成為人工智能發(fā)展必須考慮的問題。同時(shí)，如果某個(gè)國家或國際組織獨(dú)占一些關(guān)鍵的技術(shù)、數(shù)據(jù)和算法，就可能占據(jù)全球智能產(chǎn)業(yè)的主導(dǎo)地位，從而影響全球文明的走向和人類的未來。

2 國內(nèi)外關(guān)于人工智能監(jiān)管的策略和措施

有關(guān)人工智能的監(jiān)管問題討論已久。面對迅猛發(fā)展的人工智能技術(shù)，美國、英國等皆有監(jiān)管行動(dòng)。斯坦福大學(xué)在發(fā)布的一份報(bào)告中提到，通過對127個(gè)國家的立法記錄進(jìn)行調(diào)查可以發(fā)現(xiàn)，2016年到2022 年，通過立法的與“人工智能”相關(guān)的法案，從僅1個(gè)增長到37個(gè)[3]。下面就目前推行的有關(guān)人工智能監(jiān)管的策略和措施進(jìn)行梳理匯總。

2.1 國際上關(guān)于人工智能監(jiān)管的策略和措施

1） 聯(lián)合國。當(dāng)?shù)貢r(shí)間2023年6月12日，聯(lián)合國秘書長古特雷斯表示，支持人工智能行業(yè)一些高管的提議，即成立一個(gè)像國際原子能機(jī)構(gòu)的國際人工智能監(jiān)管機(jī)構(gòu)。當(dāng)?shù)貢r(shí)間2023年7月18日，聯(lián)合國安理會(huì)在美國紐約首次就人工智能與安全問題舉行高級(jí)別公開會(huì)。聯(lián)合國秘書長古特雷斯表示，聯(lián)合國計(jì)劃9 月任命一個(gè)人工智能顧問委員會(huì)，監(jiān)管人工智能發(fā)展，為聯(lián)合國可能采取的行動(dòng)做準(zhǔn)備[4]。同時(shí)，2023年7月，聯(lián)合國教科文組織發(fā)布了《生成式人工智能與教育的未來》的報(bào)告，對生成式AI帶來的影響進(jìn)行了批判性反思，呼吁加強(qiáng)對生成式人工智能的審查和監(jiān)管，以確保生成式人工智能與教育的融合符合教育目標(biāo)和人類價(jià)值觀。

2） 美國。2020年3月，《國家人工智能倡議法》提出應(yīng)警惕具有自主意識(shí)或者不受控制的AI，建立可信賴的AI系統(tǒng)。2021年1月，美國正式頒布《2020年國家人工智能倡議法案》，設(shè)立國家人工智能倡議辦公室，承擔(dān)“監(jiān)督和實(shí)施美國國家人工智能戰(zhàn)略”等職責(zé)。2022年10月，白宮科學(xué)和技術(shù)政策辦公室發(fā)布了《人工智能權(quán)利法案藍(lán)圖》，其中列舉了算法歧視保護(hù)措施。2023年1月，美國NIST（國家標(biāo)準(zhǔn)與技術(shù)研究院）實(shí)施了《人工智能風(fēng)險(xiǎn)管理框架1.0》，目的是為相關(guān)機(jī)構(gòu)設(shè)計(jì)和管理可信賴的人工智能提供一個(gè)管理框架，從而避免產(chǎn)生負(fù)面后果。2023年4月11日，美國商務(wù)部針對ChatGPT等技術(shù)的問責(zé)措施正式地公開廣泛征求意見，包括是否應(yīng)在人工智能模型發(fā)布前進(jìn)行核準(zhǔn)認(rèn)證程序。2023年5月，美國國家科學(xué)基金會(huì)稱擬撥款1.4億美元，為7所國家人工智能研究院的啟動(dòng)提供資金。2023年5月16日，在美國參議院隱私、技術(shù)和法律小組委員會(huì)聽證會(huì)上，美國國會(huì)成員公開支持成立一個(gè)新的聯(lián)邦機(jī)構(gòu)，專門負(fù)責(zé)人工智能的監(jiān)管和許可。美國雖然尚未頒布專門針對AI監(jiān)管的全國性法律，然而，一些州開始在AI領(lǐng)域推出相關(guān)立法。據(jù)美國媒體報(bào)道，僅2023年就至少有25個(gè)州、波多黎各和哥倫比亞特區(qū)推出了人工智能法案。得克薩斯州、北達(dá)科他州、西弗吉尼亞州和波多黎各的立法機(jī)構(gòu)成立了咨詢機(jī)構(gòu)來研究和監(jiān)控各自國家機(jī)構(gòu)正在使用的人工智能系統(tǒng)，而路易斯安那州則成立了一個(gè)新技術(shù)和網(wǎng)絡(luò)安全委員會(huì)來研究人工智能對國家運(yùn)營、采購和政策的影響。

3） 歐盟。從之前發(fā)布的《塑造歐洲數(shù)字未來》到《人工智能白皮書》、GDPR、《數(shù)字服務(wù)法案》《數(shù)字市場法案》等看出，歐盟在數(shù)字領(lǐng)域和人工智能領(lǐng)域一直走在前列，而且整體推進(jìn)力度也較強(qiáng)。早在2021年4 月21 日，歐盟委員會(huì)就提出了《人工智能法案（AIAct） 》的監(jiān)管法案，旨在為人工智能引入一個(gè)共同的監(jiān)管和法律框架。2023年6月14日，歐洲議會(huì)投票通過了《人工智能法案》，禁止實(shí)時(shí)面部識(shí)別，并對Chat?GPT等生成式人工智能工具提出了新的透明度要求。歐盟批準(zhǔn)的法律版本提出，任何應(yīng)用于就業(yè)、邊境管制和教育等“高風(fēng)險(xiǎn)”用例的人工智能都必須遵守一系列安全要求，包括風(fēng)險(xiǎn)評估、確保透明度和提交日志記錄。該法案不會(huì)自動(dòng)將ChatGPT等“通用”AI視為高風(fēng)險(xiǎn)，但對“基礎(chǔ)模型”或經(jīng)過大量數(shù)據(jù)訓(xùn)練的強(qiáng)大AI系統(tǒng)施加了透明度和風(fēng)險(xiǎn)評估要求。法案預(yù)計(jì)將在今年年底獲得最終批準(zhǔn)，隨后是企業(yè)和組織適應(yīng)的寬限期，通常約為兩年。

4） 英國。2023年3月底，英國發(fā)布了名為《支持創(chuàng)新的人工智能監(jiān)管方式》的政策文件，為人工智能發(fā)展提出意見。該份文件提出了人工智能在所有經(jīng)濟(jì)部門的發(fā)展和使用需遵守的五項(xiàng)原則：安全性和穩(wěn)健性、透明度和可解釋性、公平性、問責(zé)制和管理、可競爭性和補(bǔ)救性。為達(dá)到風(fēng)險(xiǎn)評估一致性，英國政府計(jì)劃匯集來自行業(yè)、監(jiān)管機(jī)構(gòu)、學(xué)術(shù)界和民間社會(huì)的前沿專家，在監(jiān)管機(jī)構(gòu)的協(xié)助下組建中央風(fēng)險(xiǎn)職能部門。5月4日，英國競爭和市場管理機(jī)構(gòu)宣布，將對人工智能市場展開審查，涉及ChatGPT 等工具背后的技術(shù)。

5） 其他國家。意大利的個(gè)人數(shù)據(jù)保護(hù)機(jī)構(gòu)2023 年3月31日宣布，禁止使用ChatGPT，限制其開發(fā)公司使用和處理意大利用戶的信息，并對此進(jìn)行立案調(diào)查。隨后，法國國家信息自由委員會(huì)（CNIL） 以及西班牙數(shù)據(jù)保護(hù)機(jī)構(gòu)也決定對ChatGPT立案并展開調(diào)查。4月12日，澳大利亞工業(yè)、科學(xué)、能源和資源部一名發(fā)言人表示，堪培拉政府要求澳大利亞主要科學(xué)咨詢機(jī)構(gòu)提供關(guān)于如何應(yīng)對人工智能的建議。5月9日，日本首相岸田文雄透露，擬設(shè)置磋商制定利用AI相關(guān)規(guī)則等的“AI戰(zhàn)略會(huì)議”。

2.2 我國目前關(guān)于人工智能監(jiān)管的策略和措施

關(guān)于人工智能這一類新興科技的發(fā)展，我國一直是采取鼓勵(lì)與監(jiān)管并行的道路，并且在近年來越發(fā)重視新興科技監(jiān)管方面的建設(shè)。

2022年3月，中國開始實(shí)施對算法推薦的管理規(guī)定，對網(wǎng)絡(luò)服務(wù)平臺(tái)運(yùn)用大數(shù)據(jù)分析用戶喜好、向用戶推送、精選、過濾信息的過程進(jìn)行監(jiān)管。2023年1 月10日，中國開始實(shí)施與深度偽造相關(guān)的管理措施，要求服務(wù)提供商對那些“可能導(dǎo)致公眾混淆或者誤認(rèn)的”AI生成內(nèi)容進(jìn)行“顯著標(biāo)識(shí)”。2023年4月，科技部針對《科技倫理審查辦法（試行）》進(jìn)行公開征求意見，人工智能等科技的倫理審查制度初具雛形。2023 年8月15日，我國實(shí)施了《生成式人工智能服務(wù)管理暫行辦法》，成為首份監(jiān)管生成式AI的規(guī)范性文件，幫助我國人工智能產(chǎn)業(yè)監(jiān)管實(shí)現(xiàn)“彎道超車”。

地方層面，北京、深圳、成都等多地紛紛出臺(tái)人工智能相關(guān)舉措，希望贏在起跑線上?！渡钲谑屑涌焱苿?dòng)人工智能高質(zhì)量發(fā)展水平應(yīng)用行動(dòng)方案（2023—2024 年）》《成都市進(jìn)一步促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的若干政策措施（征求意見稿）》《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實(shí)施方案（2023—2025年）》《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》等紛紛為人工智能的發(fā)展提供了政策指引[5]。

3 下一步做好監(jiān)管和促進(jìn)健康發(fā)展的政策建議

目前美國、英國、歐盟等的技術(shù)發(fā)達(dá)地區(qū)在人工智能監(jiān)管上還未達(dá)成非常有效的、一致性的意見?？v觀全球人工智能監(jiān)管政策，我國的政策落實(shí)較快，措施比較到位。下一步，要從政策上多措并舉做好人工智能的監(jiān)管，促進(jìn)其健康發(fā)展。

1） 充實(shí)監(jiān)管內(nèi)容，創(chuàng)新監(jiān)管手段，細(xì)化監(jiān)管體系。人工智能的監(jiān)管內(nèi)涵豐富，監(jiān)管范圍、監(jiān)管方式、監(jiān)管標(biāo)準(zhǔn)、數(shù)據(jù)隱私保護(hù)、安全風(fēng)險(xiǎn)防范等內(nèi)容皆應(yīng)納入監(jiān)管考慮。在此基礎(chǔ)上，應(yīng)不斷創(chuàng)新監(jiān)管手段，例如檢測虛假信息的技術(shù)等，盡早在技術(shù)手段方面進(jìn)行布局。在監(jiān)管細(xì)化上，比如構(gòu)建人工智能監(jiān)管分行業(yè)、分場景、分應(yīng)用、分平臺(tái)、分技術(shù)的區(qū)別化監(jiān)管體系，兼顧各方權(quán)利與責(zé)任。

2） 采用包容審慎的軟性法律，為人工智能提供靈活的配套監(jiān)管舉措。需要遵循包容審慎的理念，實(shí)現(xiàn)精準(zhǔn)監(jiān)管和鼓勵(lì)發(fā)展的開放性思路。同時(shí)依靠監(jiān)管之外的多元化措施，如標(biāo)準(zhǔn)、指南、試點(diǎn)等，來共同促進(jìn)我國的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展。通過差異化的技術(shù)標(biāo)準(zhǔn)與規(guī)范，應(yīng)用設(shè)計(jì)的安全默認(rèn)原則、系統(tǒng)測試方案的評估與審核等，為人工智能應(yīng)用的發(fā)展提供更靈活的配套監(jiān)管舉措。

3） 必須切實(shí)加強(qiáng)國際合作，積極推動(dòng)國際人工智能標(biāo)準(zhǔn)設(shè)定。除了面向國內(nèi)的政策舉措，歐美也在積極建立相關(guān)的國際聯(lián)盟、“數(shù)據(jù)俱樂部”等，希冀主導(dǎo)數(shù)據(jù)流動(dòng)、數(shù)字稅收以及AI技術(shù)、倫理、治理等方面的國際標(biāo)準(zhǔn)。作為人工智能大國的中國，我國也應(yīng)考慮積極投身人工智能領(lǐng)域的國際治理合作與標(biāo)準(zhǔn)制定，重視AI倫理，加強(qiáng)AI治理，積極倡導(dǎo)人工智能發(fā)展理念，從而進(jìn)一步提升科技競爭力和規(guī)則話語權(quán)。

4 總結(jié)

人工智能發(fā)展迅速，如何對其進(jìn)行有效監(jiān)管也一直備受世界矚目。我國應(yīng)密切關(guān)注國際監(jiān)管動(dòng)向，取長補(bǔ)短、因地制宜，用好“他山之石”，走出屬于中國的特色監(jiān)管道路。

參考文獻(xiàn)：

[1] 陳龍，曾凱，李莎，等.人工智能算法偏見與健康不公平的成因與對策分析[J].中國全科醫(yī)學(xué)，2023，26（19）：2423-2427.

[2] 周馳.馬斯克等千人簽署公開信，人工智能開發(fā)危及“文明控制權(quán)”？[N/OL]. 中國新聞網(wǎng)，2023-03-30.[2023-08-16].https：//baijiahao.baidu.com/s？id=1761720385220967465&wfr=spider&for=pc.

[3] 斯坦福大學(xué)以人為本人工智能研究所.2023年人工智能指數(shù)報(bào)告[R/OL].（2023-04-03）.[2023-08-16].https：//www.sen?sorexpert.com.cn/article/186064.html.

[4] 南博一，劉煒康，等.聯(lián)合國敦促對人工智能實(shí)施監(jiān)管：擔(dān)憂技術(shù)發(fā)展威脅世界和平[N/OL]. 澎湃新聞網(wǎng)，2023-07-19.[2023-08-16]. https：//baijiahao. baidu. com/s？ id=1771819994007179064&wfr=spider&for=pc.

[5] 蘇德悅.人工智能產(chǎn)業(yè)健康發(fā)展路在何方？[N].人民郵電報(bào)，2023-08-08（6）.

【通聯(lián)編輯：代影】