(中國信息通信研究院安全研究所，北京 100191)

0 引言

當(dāng)前，受新冠肺炎疫情防控、國際競爭博弈等影響，我國傳統(tǒng)拉動經(jīng)濟增長的外貿(mào)、投資和消費“三駕馬車”均受到不同程度的影響，經(jīng)濟面臨下行壓力[1]。國家多次提出加快新型基礎(chǔ)設(shè)施建設(shè)，國家部委和地方政府積極出臺“新基建”相關(guān)指導(dǎo)意見和投資計劃。相較于傳統(tǒng)基建，“新基建”發(fā)展空間巨大，帶動效應(yīng)明顯，正在成為我國穩(wěn)投資、調(diào)結(jié)構(gòu)、擴內(nèi)需的經(jīng)濟發(fā)展新引擎。人工智能作為“新基建”的核心板塊之一，其發(fā)展備受矚目。在新冠肺炎疫情防控期間，人工智能企業(yè)紛紛開放算力、算法和數(shù)據(jù)等基礎(chǔ)設(shè)施資源，助力提升傳統(tǒng)行業(yè)智能化水平，為對沖疫情影響、促進產(chǎn)能恢復(fù)發(fā)揮了重要支撐作用。

人工智能作為“新基建”，更加強調(diào)其基礎(chǔ)設(shè)施屬性，主要包含以下特征：一是基礎(chǔ)支撐性，人工智能新基建著力推進人工智能計算、存儲、網(wǎng)絡(luò)等硬件基礎(chǔ)設(shè)施和框架、算法、數(shù)據(jù)等軟性基礎(chǔ)設(shè)施建設(shè)，提升數(shù)字基礎(chǔ)設(shè)施支撐能力；二是公共服務(wù)性，人工智能基礎(chǔ)算力、行業(yè)算法、數(shù)據(jù)資源和通用軟件將更多以平臺服務(wù)或者授權(quán)許可方式來提供，便利各行業(yè)、各領(lǐng)域獲取普惠性的智能化服務(wù)；三是溢出帶動性，人工智能新基建會加快人工智能技術(shù)的融合應(yīng)用推廣，推動傳統(tǒng)基礎(chǔ)設(shè)施智能化升級改造，賦能傳統(tǒng)行業(yè)高質(zhì)量轉(zhuǎn)型發(fā)展，成為培育壯大數(shù)字經(jīng)濟的重要支撐。

1 人工智能新基建推進面臨的挑戰(zhàn)

數(shù)字經(jīng)濟時代，世界主要國家大力促進新興技術(shù)發(fā)展，搶抓新一輪科技革命和產(chǎn)業(yè)變革的重大機遇，以5G、人工智能為代表的新型基礎(chǔ)設(shè)施建設(shè)成為推進信息技術(shù)產(chǎn)業(yè)化的關(guān)鍵支撐，以及提升國家核心競爭力的重要抓手。面對國際競爭新形勢、技術(shù)推廣新困境、泛在安全新風(fēng)險以及安全治理新問題，人工智能新基建的推進實施存在很多良機，同時也面臨諸多挑戰(zhàn)。

1.1 從國際形勢看，人工智能新基建發(fā)展主導(dǎo)權(quán)受到威脅

當(dāng)前，我國人口紅利逐漸消退，傳統(tǒng)制造業(yè)有加速向外轉(zhuǎn)移趨勢，而具備高附加值的科技和服務(wù)產(chǎn)業(yè)又由發(fā)達國家把持[2]。為避免落入“中等收入陷阱”，我國亟需把握以人工智能為代表的新一輪科技革命戰(zhàn)略機遇，尋求新的經(jīng)濟增長點。目前，我國在計算機視覺、智能語音等人工智能應(yīng)用層面處于全球領(lǐng)先水平，但在算力芯片、學(xué)習(xí)框架、基礎(chǔ)算法等人工智能基礎(chǔ)設(shè)施方面，對外依賴較為嚴(yán)重。近年來，以美國為首的發(fā)達國家為鎖定其技術(shù)優(yōu)勢和主導(dǎo)地位，持續(xù)加大基礎(chǔ)環(huán)節(jié)管控，遏制我國人工智能行業(yè)發(fā)展。自2019年至今，美國政府已將我國數(shù)十家知名人工智能企業(yè)列入“實體清單”，限制人工智能相關(guān)基礎(chǔ)軟硬件出口。后疫情時代，部分國家逆全球化思維呈現(xiàn)加速發(fā)展態(tài)勢。美國加入全球人工智能合作伙伴組織(Global Partnership on Artificial Intelligence，GPAI)并推動發(fā)布聯(lián)合聲明，強調(diào)以符合“人權(quán)、自由和共同的民主價值觀”的方式支持AI開發(fā)和使用，這將在一定程度上限制我國人工智能技術(shù)在全球范圍內(nèi)的發(fā)展和應(yīng)用。錯綜復(fù)雜的國際形勢給我國人工智能新基建推進帶來新的風(fēng)險挑戰(zhàn)，影響自主發(fā)展能力，制約產(chǎn)業(yè)全球推廣。

1.2 從技術(shù)特征看，人工智能新基建推進本身存在復(fù)雜性

人工智能技術(shù)快速發(fā)展演進，通用智能的實現(xiàn)方法尚不清晰，以海量數(shù)據(jù)和深度學(xué)習(xí)為驅(qū)動的技術(shù)途徑雖然取得顯著成果，但仍存在數(shù)據(jù)強依賴性、算法弱魯棒性、技術(shù)高復(fù)雜性等諸多瓶頸，制約人工智能新基建推進應(yīng)用。一是數(shù)據(jù)強依賴性制約垂直行業(yè)應(yīng)用推廣。人工智能充分賦能行業(yè)需要依賴行業(yè)內(nèi)海量優(yōu)質(zhì)的應(yīng)用場景數(shù)據(jù)，但在傳統(tǒng)的工業(yè)制造、農(nóng)業(yè)生產(chǎn)、衛(wèi)生醫(yī)療等具體行業(yè)內(nèi)，往往存在數(shù)字化轉(zhuǎn)型程度不高以及數(shù)據(jù)開放共享不足等問題，對數(shù)據(jù)資源的高要求將限制人工智能有效推廣[3]。二是算法弱魯棒性較難適應(yīng)復(fù)雜場景應(yīng)用?，F(xiàn)階段深度學(xué)習(xí)算法存在魯棒性弱的問題，在具體應(yīng)用場景的開放動態(tài)環(huán)境中，算法決策可能會產(chǎn)生意料不到的錯誤，導(dǎo)致人工智能不太適用于工業(yè)控制、能源輸配等安全可靠性要求高的場合。三是技術(shù)高復(fù)雜性限制新基建推進進程。人工智能具有多學(xué)科交叉、高度復(fù)雜性特征，導(dǎo)致專業(yè)人才無法及時供給，缺口較大，而人工智能新基建推進需要大量既懂人工智能技術(shù)、又有行業(yè)領(lǐng)域知識的復(fù)合型人才，此類人才目前更為稀缺。根據(jù)教育部門測算，我國人工智能人才缺口超過500萬，供需比例嚴(yán)重失衡，這將限制人工智能新基建的快速推進。

1.3 從安全風(fēng)險看，人工智能新基建面臨多層次安全挑戰(zhàn)

新基建戰(zhàn)略推進將促使人工智能成為具有基礎(chǔ)支撐性、公共服務(wù)性等特征的社會公共品，進而對其安全性和可靠性水平提出更高要求。然而，當(dāng)前階段人工智能技術(shù)仍不斷演進完善，且安全防御理論和技術(shù)處于探索初期，尚無法有效應(yīng)對愈加復(fù)雜、多維度、多層次安全挑戰(zhàn)。一是人工智能數(shù)據(jù)和算法安全風(fēng)險更加突出。新基建戰(zhàn)略的實施將加速人工智能技術(shù)以開源開放的平臺、算法包、模型庫等形式，向社會提供開放共享的普惠性服務(wù)。但是，受限于人工智能數(shù)據(jù)安全保護技術(shù)和機制尚不健全成熟，用戶上傳至平臺的數(shù)據(jù)面臨被第三方竊取、隱私泄露等風(fēng)險。此外，第三方預(yù)訓(xùn)練人工智能算法包面臨惡意提供者嵌入新型后門和木馬的安全風(fēng)險[4]。此類安全風(fēng)險非常隱蔽，用戶難以檢測發(fā)現(xiàn)，給后續(xù)人工智能應(yīng)用帶來安全隱患。二是人工智能外部安全攻擊威脅更加嚴(yán)峻。新基建推動人工智能基礎(chǔ)平臺向行業(yè)應(yīng)用平臺加速演進，人工智能技術(shù)在交通、醫(yī)療、金融等行業(yè)應(yīng)用持續(xù)深化，廣泛賦能云側(cè)平臺和端側(cè)設(shè)備。由此，人工智能產(chǎn)品外部攻擊面不斷延展，受攻擊的可能大大增加，不良分子可從智能終端等安全防護薄弱環(huán)節(jié)實施攻擊，通過劫持終端入侵系統(tǒng)，進而威脅云側(cè)人工智能基礎(chǔ)設(shè)施安全。

1.4 從治理體系看，人工智能新基建帶來安全治理新問題

從國家發(fā)展和改革委員會對于“新基建”概念界定來看，基于人工智能的融合基礎(chǔ)設(shè)施成為未來經(jīng)濟社會發(fā)展的重要支撐，將催生出大量的經(jīng)濟新業(yè)態(tài)和商業(yè)新模式[5]。但是，融合基礎(chǔ)設(shè)施以及構(gòu)建在其上的智能應(yīng)用的安全監(jiān)管工作會涉及到政府多個管理部門，原有基于傳統(tǒng)行業(yè)界限的部門管理職責(zé)劃分將無法適用新技術(shù)發(fā)展。例如，智能網(wǎng)聯(lián)汽車的安全監(jiān)管會涉及國家多個部委，各部門會結(jié)合自身原有職責(zé)從不同維度和切入點開展監(jiān)管工作，難免出現(xiàn)交叉監(jiān)管、監(jiān)管空白等機制體制問題。

另外，人工智能深度學(xué)習(xí)算法的不透明性、難以追責(zé)等問題，給現(xiàn)有安全監(jiān)管技術(shù)帶來極大挑戰(zhàn)，如何對人工智能安全風(fēng)險實時監(jiān)測和及時處置，成為安全治理機制建設(shè)的重點內(nèi)容。隨著人工智能技術(shù)的快速發(fā)展和應(yīng)用場景的不斷泛在，亟需加強部門統(tǒng)籌協(xié)同、創(chuàng)新監(jiān)管機制手段，以保障人工智能新基建的順利推進。

2 構(gòu)建人工智能新基建安全保障體系思路建議

新基建為國家人工智能戰(zhàn)略落地注入新動能，成為我國人工智能技術(shù)產(chǎn)業(yè)補短板、強弱項、促應(yīng)用的新機遇。我國人工智能新基建面臨著發(fā)展和安全、國內(nèi)和國際、技術(shù)和治理等多維度挑戰(zhàn)，為保障我國人工智能新基建順利實施，亟需統(tǒng)籌考慮，加快推動人工智能核心技術(shù)創(chuàng)新、治理體系構(gòu)建、安全能力提升以及國際合作深化，健全完善我國人工智能安全保障體系。

2.1 提升人工智能核心技術(shù)創(chuàng)新能力

一是立足自主創(chuàng)新補足技術(shù)短板。針對先進制程芯片、基礎(chǔ)設(shè)計軟件等“卡脖子”的關(guān)鍵核心技術(shù)環(huán)節(jié)，在新基建戰(zhàn)略推進過程中，注重發(fā)揮國家和地方政府專項產(chǎn)業(yè)基金引導(dǎo)作用，鼓勵龍頭企業(yè)聚集產(chǎn)業(yè)鏈上下游公司聯(lián)合開展短板技術(shù)攻關(guān)和國產(chǎn)化技術(shù)應(yīng)用，縮短核心技術(shù)研發(fā)攻關(guān)周期。二是加強海外人才引進和本土人才培養(yǎng)。針對人工智能新基建面臨的高端人才短缺困境，加速引入海外知名人才中介服務(wù)機構(gòu)，創(chuàng)新海外高端人才柔性引進機制，授予國有企業(yè)更大的海外高端人才薪酬激勵自由度。創(chuàng)新校企聯(lián)合教育模式，以新基建需求為導(dǎo)向，增強交叉領(lǐng)域復(fù)合型人才培養(yǎng)。三是利用全球創(chuàng)新資源提升技術(shù)創(chuàng)新能力。利用我國超大規(guī)模市場虹吸效應(yīng)以及持續(xù)優(yōu)化的外資營商環(huán)境，吸引面向我國市場的海外人工智能軟硬件企業(yè)加速在我國設(shè)立設(shè)計研發(fā)基地，增強我國人工智能產(chǎn)業(yè)整體技術(shù)創(chuàng)新能力。

2.2 建立多方參與的人工智能安全治理體系

一是政府發(fā)揮安全治理主導(dǎo)作用。整合多學(xué)科力量，加強人工智能新基建面臨的法律、倫理、社會等方面的突出問題研究，建立涵蓋政府、企業(yè)和社會各方的人工智能安全責(zé)任體系[6]，制定出臺人工智能安全治理政策指南，構(gòu)建人工智能應(yīng)用分級分類安全治理機制。二是企業(yè)積極踐行安全治理主體責(zé)任。企業(yè)作為人工智能技術(shù)研發(fā)與應(yīng)用的主要力量和一線實踐者需承擔(dān)治理主體責(zé)任。企業(yè)建立內(nèi)部人工智能安全治理規(guī)范和制度，設(shè)立人工智能治理機構(gòu)，從法律、倫理、社會等視角加強對各項人工智能應(yīng)用的合理性審查，探索并實施算法偏見、算法黑箱、算法弱魯棒性、數(shù)據(jù)隱私等問題的技術(shù)解決措施，加強出廠前人工智能產(chǎn)品安全性核實驗證。三是社會加強安全治理監(jiān)督。加快培育人工智能安全檢測咨詢服務(wù)機構(gòu)，構(gòu)建人工智能安全檢測驗證公共服務(wù)平臺，依托行業(yè)聯(lián)盟建立人工智能安全投訴舉報、核實驗證、公開曝光渠道。

2.3 健全人工智能安全技術(shù)保障能力

一是完善人工智能安全技術(shù)標(biāo)準(zhǔn)體系。制定出臺人工智能安全標(biāo)準(zhǔn)體系框架，構(gòu)建人工智能安全標(biāo)準(zhǔn)推進路線圖，加快研制人工智能數(shù)據(jù)安全、算法模型安全、產(chǎn)品和應(yīng)用安全、安全檢測評估等亟需標(biāo)準(zhǔn)。在人工智能新基建先導(dǎo)應(yīng)用領(lǐng)域，加強人工智能安全標(biāo)準(zhǔn)宣貫和試點驗證。二是加強人工智能安全技術(shù)和產(chǎn)品研發(fā)。新基建規(guī)劃加強了人工智能安全項目布局，針對人工智能新基建面臨的突出算法和數(shù)據(jù)安全風(fēng)險，鼓勵人工智能企業(yè)和網(wǎng)絡(luò)安全企業(yè)充分發(fā)揮各自優(yōu)勢，通過聯(lián)合研發(fā)等方式，開展人工智能安全防御技術(shù)和產(chǎn)品攻關(guān)。三是加快人工智能安全保障技術(shù)平臺建設(shè)。通過國家重點研發(fā)計劃等專項資金，加快人工智能安全檢測、監(jiān)測預(yù)警、應(yīng)急處置、追蹤溯源等技術(shù)平臺建設(shè)。

2.4 促進人工智能國際互信合作發(fā)展

一是增進人工智能發(fā)展國際互信。依托國際政府合作組織、標(biāo)準(zhǔn)化協(xié)會等，廣泛分享我國人工智能新基建推進、融合應(yīng)用以及安全治理工作的有益嘗試和成功經(jīng)驗，積極參與或主導(dǎo)人工智能國際標(biāo)準(zhǔn)制定工作，推動形成人工智能發(fā)展和治理國際共識，增進國家間包容互信。二是加強人工智能新基建國際合作。鼓勵國內(nèi)人工智能龍頭企業(yè)持續(xù)加強全球布局，積極開展國際業(yè)務(wù)，以東盟、亞太地區(qū)以及“一帶一路”沿線國家為合作重點，努力向歐美市場拓展延伸，推進人工智能新基建全球化發(fā)展，為我國人工智能發(fā)展構(gòu)建廣泛生態(tài)系統(tǒng)和寬松國際環(huán)境。

3 結(jié)束語

在國家加快推動“新基建”背景之下，人工智能將進入高速發(fā)展階段，其溢出帶動效應(yīng)更為凸顯，為傳統(tǒng)行業(yè)數(shù)字化轉(zhuǎn)型和經(jīng)濟社會智能化發(fā)展提供強勁引擎。立足當(dāng)下，著眼未來，需高度重視人工智能新基建發(fā)展過程中的安全風(fēng)險和問題挑戰(zhàn)，開展應(yīng)對舉措前瞻研究，探索構(gòu)建安全保障體系，為人工智能新基建的健康發(fā)展保駕護航。