朱肖曼，申志偉，時文豐，范 晶，李春光，于寅虎，郭 爍

(1.中國電子信息產(chǎn)業(yè)集團(tuán)有限公司第六研究所，北京 100083；2.工業(yè)控制系統(tǒng)信息安全技術(shù)國家工程研究中心，北京 100083)

0 引言

近年來，隨著計算機(jī)技術(shù)的發(fā)展，人工智能的應(yīng)用場景不斷擴(kuò)大和延伸，涵蓋了諸多領(lǐng)域，尤其在金融、制造、醫(yī)療、教育、交通、城市管理等關(guān)鍵領(lǐng)域得到長足發(fā)展。例如，智能交通管理可以通過分析交通狀況和交通流數(shù)據(jù)，實現(xiàn)智能信號燈控制、道路方向干道選擇等。智能交通安全可以通過實時監(jiān)測車輛位置及動態(tài)數(shù)據(jù)，預(yù)測交通違規(guī)和交通事故。智能交通信息服務(wù)可以幫助人們更好地利用交通網(wǎng)絡(luò)，通過AI自動分析實時交通狀況，可以實現(xiàn)智能駕駛，減少車輛擁堵，提供完整交通信息提醒。

影響人工智能產(chǎn)品是否順利應(yīng)用的關(guān)鍵技術(shù)主要包括自然語言處理、智能語音、計算機(jī)視覺、虛擬現(xiàn)實/增強(qiáng)現(xiàn)實、人機(jī)交互等。同時，人工智能涉及跨領(lǐng)域的多技術(shù)融合，標(biāo)準(zhǔn)之間存在著相互依存、相互制約的內(nèi)在聯(lián)系。因此，人工智能標(biāo)準(zhǔn)化工作需要統(tǒng)籌協(xié)調(diào)，以系統(tǒng)科學(xué)的理論和方法為基礎(chǔ)，運用標(biāo)準(zhǔn)化的工作原理不斷優(yōu)化標(biāo)準(zhǔn)之間的關(guān)系，避免標(biāo)準(zhǔn)間不配套、不協(xié)調(diào)及組成不合理等問題[1]。本文聚焦在人工智能關(guān)鍵領(lǐng)域技術(shù)方向，統(tǒng)計現(xiàn)行標(biāo)準(zhǔn)化文件和在研標(biāo)準(zhǔn)項目，分析相關(guān)標(biāo)準(zhǔn)化研究現(xiàn)狀，綜合得出我國在人工智能關(guān)鍵領(lǐng)域技術(shù)方面存在問題并提出相關(guān)建議。

1 我國人工智能關(guān)鍵領(lǐng)域技術(shù)標(biāo)準(zhǔn)化研究

2020年7月，國家標(biāo)準(zhǔn)化管理委員會等五部門聯(lián)合發(fā)布了《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，其中制定了人工智能標(biāo)準(zhǔn)體系各項標(biāo)準(zhǔn)，包括關(guān)鍵領(lǐng)域技術(shù)標(biāo)準(zhǔn)[2]。本文聚焦于人工智能自然語言處理、智能語音、計算機(jī)視覺、虛擬現(xiàn)實/增強(qiáng)現(xiàn)實、人機(jī)交互等關(guān)鍵領(lǐng)域技術(shù)，開展相關(guān)標(biāo)準(zhǔn)化工作現(xiàn)狀研究。

1.1 自然語言處理

自然語言處理是人工智能的重要甚至是核心內(nèi)容。根據(jù)現(xiàn)有的理論和技術(shù)現(xiàn)狀，具有相當(dāng)自然語言處理能力的實用系統(tǒng)已經(jīng)出現(xiàn)，有些已實現(xiàn)商品化，甚至開始產(chǎn)業(yè)化。典型例子有多語種數(shù)據(jù)庫和專家系統(tǒng)的自然語言接口、各種機(jī)器翻譯系統(tǒng)、全文信息檢索系統(tǒng)、自動文摘系統(tǒng)等。近期推出的ChatGPT就是一種自然語言處理技術(shù)，它是由OpenAI推出的一種基于大規(guī)模語言模型的自然語言生成模型。

自然語言處理技術(shù)細(xì)分方向有語言信息提取、文本處理、語義處理和機(jī)器翻譯等，發(fā)布并現(xiàn)行標(biāo)準(zhǔn)有12項(見表1)。其中7項標(biāo)準(zhǔn)等效采用國際標(biāo)準(zhǔn)，5項為國家推薦性標(biāo)準(zhǔn)。在研的標(biāo)準(zhǔn)項目有6項(見表2)，基本為2022-2023年立項標(biāo)準(zhǔn)，且以MOD 或等同采用標(biāo)準(zhǔn)為主。

表1 自然語言處理現(xiàn)行標(biāo)準(zhǔn)文件列表

表2 自然語言處理在研標(biāo)準(zhǔn)項目列表

傳統(tǒng)自然語言處理的機(jī)器翻譯、語音控制已經(jīng)不能滿足現(xiàn)代化社會發(fā)展的需求，目前的自然語言處理雖然在專業(yè)領(lǐng)域文檔翻譯、搜索引擎等方面提供可靠的輔助性幫助，但是在很多基礎(chǔ)問題研究仍然有很大差距，如詞義消歧、語法分析、語義分析、篇章處理和跨文本處理等方面[3]。隨著詞表詞義詞法語料庫等數(shù)據(jù)資源的豐富，自然語言處理未來將在知識抽取、融合、建模、計算和應(yīng)用等方面加強(qiáng)技術(shù)與標(biāo)準(zhǔn)化研究。

1.2 智能語音

智能語音是實現(xiàn)人機(jī)語言的通信，包括語音識別技術(shù)(ASR)和語音合成技術(shù)(TTS)，而語音交互技術(shù)是語音識別和語音合成的基礎(chǔ)和支撐。目前的標(biāo)準(zhǔn)化工作主要圍繞語音識別、語音合成和語音交互等技術(shù)開展。

智能語音方向發(fā)布并現(xiàn)行標(biāo)準(zhǔn)有27項(見表3)。其中1項標(biāo)準(zhǔn)等效采用國際標(biāo)準(zhǔn)；13項為國家推薦性標(biāo)準(zhǔn)，內(nèi)容涵蓋基礎(chǔ)概念、技術(shù)規(guī)范、測試方法、終端規(guī)范和應(yīng)用場景等；6項行業(yè)標(biāo)準(zhǔn)，主要是在汽車、家電和公安行業(yè)制定的標(biāo)準(zhǔn)文件；5項團(tuán)體標(biāo)準(zhǔn)，以智能語音技術(shù)與產(chǎn)品評估方法為主題制定的系列標(biāo)準(zhǔn)；3項應(yīng)用場景的技術(shù)規(guī)范標(biāo)準(zhǔn)。在研的標(biāo)準(zhǔn)項目有2項(見表4)，均為智能語音產(chǎn)品制訂的規(guī)范要求。

表3 智能語音現(xiàn)行標(biāo)準(zhǔn)文件列表

表4 智能語音在研標(biāo)準(zhǔn)項目列表

借助于深度學(xué)習(xí)、云計算和高性能的運算平臺等技術(shù)，在語音識別率方面，以百度、谷歌、科大訊飛為主流的平臺識別準(zhǔn)確率均在96%以上[5]，未來智能語音識別技術(shù)標(biāo)準(zhǔn)研究更多聚焦在場景應(yīng)用、跨地域跨語種實施交互、非主流語言/非標(biāo)準(zhǔn)化發(fā)音/低信號質(zhì)量情景中的語音識別、合成和處理技術(shù)[6]。

1.3 計算機(jī)視覺

計算機(jī)視覺技術(shù)已成為計算機(jī)研究領(lǐng)域中一門綜合性的前沿交叉學(xué)科，細(xì)分方向包含畫面重建、事件監(jiān)測、目標(biāo)跟蹤、目標(biāo)識別、索引建立、圖像恢復(fù)等，發(fā)布并現(xiàn)行標(biāo)準(zhǔn)有4項(見表5)。其中1項標(biāo)準(zhǔn)為基礎(chǔ)概念相關(guān)的國家推薦下標(biāo)準(zhǔn)，3項為產(chǎn)品技術(shù)要求和職業(yè)技能評價相關(guān)的團(tuán)體標(biāo)準(zhǔn)。在研的標(biāo)準(zhǔn)項目有2項(見表6)，基本為2021年立項標(biāo)準(zhǔn)，均為以技術(shù)要求或產(chǎn)品規(guī)范相關(guān)標(biāo)準(zhǔn)。

表5 計算機(jī)視覺現(xiàn)行標(biāo)準(zhǔn)文件列表

表6 計算機(jī)視覺在研標(biāo)準(zhǔn)項目列表

近年來，國內(nèi)計算機(jī)視覺算法技術(shù)供應(yīng)商集中度較高，以商湯科技為代表的4家企業(yè)占據(jù)市場份額超過50%。應(yīng)用領(lǐng)域集中在零售、安防、制造、政務(wù)、醫(yī)療等行業(yè)，其中零售行業(yè)占比最大，可基于場景化營銷、商品識別分析等應(yīng)用提升營銷轉(zhuǎn)化率，實現(xiàn)門店運營的智能化改革；安防行業(yè)是計算機(jī)視覺最早落地的場景，利用安防影像智能分析協(xié)助城市治理等領(lǐng)域的智能化轉(zhuǎn)型[7-8]。未來計算機(jī)視覺的需求和發(fā)展趨勢更多針對具體業(yè)務(wù)場景進(jìn)行針對性開發(fā)，以提供更加全面、及時的服務(wù)，這對計算機(jī)視覺技術(shù)在重視前沿算法研發(fā)的同時，需要進(jìn)一步加強(qiáng)算法和商業(yè)應(yīng)用的融合，同時也是標(biāo)準(zhǔn)化工作布局的重點方向[9]。

1.4 虛擬現(xiàn)實/增強(qiáng)現(xiàn)實

現(xiàn)階段虛擬現(xiàn)實和增強(qiáng)現(xiàn)實通過賦能各產(chǎn)業(yè)和重點場景，已經(jīng)開始運用在各個領(lǐng)域中，支撐我國虛擬現(xiàn)實產(chǎn)業(yè)快速發(fā)展。在《中華人民共和國國民經(jīng)濟(jì)和發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》中，將虛擬現(xiàn)實和增強(qiáng)現(xiàn)實列為數(shù)字經(jīng)濟(jì)重點產(chǎn)業(yè)，提出推動三維圖形生產(chǎn)，動態(tài)環(huán)境建模、實時動作捕捉快速渲染處理技等技術(shù)創(chuàng)新[10]。

虛擬現(xiàn)實和增強(qiáng)現(xiàn)實發(fā)布并現(xiàn)行標(biāo)準(zhǔn)有14項(見表7)。其中3項國家推薦性標(biāo)準(zhǔn)、3項行業(yè)標(biāo)準(zhǔn)、3項團(tuán)體標(biāo)準(zhǔn)和5項地方標(biāo)準(zhǔn)，內(nèi)容涵蓋基礎(chǔ)概念、通用技術(shù)標(biāo)準(zhǔn)及垂直行業(yè)應(yīng)用標(biāo)準(zhǔn)。在研標(biāo)準(zhǔn)項目有5項(見表8)，均為垂直行業(yè)應(yīng)用相關(guān)的規(guī)范要求。

表7 虛擬現(xiàn)實/增強(qiáng)現(xiàn)實現(xiàn)行標(biāo)準(zhǔn)文件列表

表8 虛擬現(xiàn)實/增強(qiáng)現(xiàn)實在研標(biāo)準(zhǔn)項目列表

目前，虛擬現(xiàn)實/增強(qiáng)現(xiàn)實均處于初級階段，未來在通用技術(shù)標(biāo)準(zhǔn)中將聚焦在網(wǎng)絡(luò)、云、平臺、終端、協(xié)同一體化優(yōu)化等細(xì)分方向仍需要加快標(biāo)準(zhǔn)化工作研制[11]，為產(chǎn)業(yè)發(fā)展和應(yīng)用推廣提供統(tǒng)一規(guī)范，引導(dǎo)和支持我國產(chǎn)業(yè)良性快速發(fā)展。

1.5 人機(jī)交互

人機(jī)交互作為中國計算機(jī)領(lǐng)域一個新的發(fā)展方向，在社會、經(jīng)濟(jì)和國家安全等領(lǐng)域中扮演著越來越重要的角色。細(xì)分領(lǐng)域有單通道人機(jī)交互、筆/手勢交互、手勢交互、語音交互和情緒認(rèn)知計算等[12]。

人機(jī)交互發(fā)布并現(xiàn)行標(biāo)準(zhǔn)有18項(見表9)。其中11項國家推薦性標(biāo)準(zhǔn)、5項行業(yè)標(biāo)準(zhǔn)、2項團(tuán)體標(biāo)準(zhǔn)，內(nèi)容涵蓋基礎(chǔ)概念、手勢交互技術(shù)、通用產(chǎn)品、垂直行業(yè)應(yīng)用等相關(guān)標(biāo)準(zhǔn)。目前無在研標(biāo)準(zhǔn)研制項目。

表9 人機(jī)交互現(xiàn)行標(biāo)準(zhǔn)文件列表

人機(jī)交互技術(shù)從界面形式來看，正在從圖形用戶界面向多通道用戶界面、混合用戶界面等更人性化的交互界面發(fā)展，未來的核心技術(shù)以感性交互為重要發(fā)展方向，同時倫理學(xué)也是給予關(guān)注的重點內(nèi)容，均需要制定引導(dǎo)行業(yè)健康發(fā)展的標(biāo)準(zhǔn)指南和規(guī)范。

2 我國人工智能關(guān)鍵領(lǐng)域技術(shù)標(biāo)準(zhǔn)化存在問題

2.1 標(biāo)準(zhǔn)化工作與產(chǎn)業(yè)發(fā)展不匹配

從第1部分標(biāo)準(zhǔn)研究現(xiàn)狀可以得到，在政策引領(lǐng)、項目支撐、人才協(xié)同等多因素同向發(fā)力作用下，人工智能產(chǎn)業(yè)已形成以關(guān)鍵技術(shù)為核心、以新一代信息技術(shù)為引領(lǐng)、以新型智能基礎(chǔ)設(shè)施為關(guān)鍵支撐，各領(lǐng)域深度融合發(fā)展的智能科技產(chǎn)業(yè)，尤其在金融、醫(yī)療和安防等領(lǐng)域應(yīng)用場景較為成熟，但是仍存在標(biāo)準(zhǔn)更新速度較慢且覆蓋范圍不夠廣泛、現(xiàn)行標(biāo)準(zhǔn)間協(xié)調(diào)配合度不高的問題，不能滿足關(guān)鍵領(lǐng)域技術(shù)快速發(fā)展的需求。

2.2 關(guān)鍵領(lǐng)域技術(shù)安全標(biāo)準(zhǔn)研究不足

當(dāng)前，人工智能利用服務(wù)過程中的用戶數(shù)據(jù)進(jìn)行優(yōu)化訓(xùn)練的時候可能涉及在用戶不知情情況下收集個人信息、個人隱私、商業(yè)秘密等，安全風(fēng)險較為突出。人工智能模型日益龐大，開發(fā)過程越來越復(fù)雜，數(shù)據(jù)泄露風(fēng)險點更多、隱蔽性更強(qiáng)，人工智能所使用開源庫漏洞引發(fā)數(shù)據(jù)泄露情況時有發(fā)生，同時，交互式人工智能的應(yīng)用降低了數(shù)據(jù)流入模型的門檻。

在技術(shù)層面，由于深度模型算法的復(fù)雜結(jié)構(gòu)是黑盒，人工智能模型天然缺乏呈現(xiàn)決策邏輯。由于近年來人工智能算法、模型、應(yīng)用發(fā)展演化速度快，如何判斷人工智能是否具備可解釋性一直缺乏統(tǒng)一認(rèn)知，難以形成統(tǒng)一判別標(biāo)準(zhǔn)。疊加現(xiàn)實場景中環(huán)境因素復(fù)雜多變，人工智能難以通過有限的訓(xùn)練數(shù)據(jù)覆蓋應(yīng)用場景的全部情況，因此可靠性也是制約人工智能關(guān)鍵領(lǐng)域應(yīng)用廣泛落地的主要因素[13]。

2.3 與倫理、犯罪相關(guān)的標(biāo)準(zhǔn)和規(guī)范滯后

近年來，利用虛假視頻、圖像、音頻等惡意使用人工智能技術(shù)的負(fù)面事件層出不窮，更甚者進(jìn)行詐騙、勒索、傳播色情暴力信息的惡意威脅。而且，模型和數(shù)據(jù)逐漸變成企業(yè)、行業(yè)甚至是國家的核心資產(chǎn)，通過模型竊取、成員推理等攻擊手段反向獲取模型、數(shù)據(jù)，或者利用人工標(biāo)注、數(shù)據(jù)存儲等環(huán)節(jié)的安全管理漏洞套取數(shù)據(jù)均有可能造成倫理道德風(fēng)險。我國現(xiàn)有的保護(hù)標(biāo)準(zhǔn)主要以生物特征識別和智能汽車等應(yīng)用領(lǐng)域，在業(yè)務(wù)數(shù)據(jù)安全、安全評估規(guī)范和生成式人工智能標(biāo)準(zhǔn)亟需加快推進(jìn)與發(fā)布實施文件[14]。

3 我國人工智能關(guān)鍵領(lǐng)域技術(shù)標(biāo)準(zhǔn)化發(fā)展建議

結(jié)合我國人工智能產(chǎn)業(yè)的發(fā)展趨勢和需求，最終形成標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)全面規(guī)范化的新格局，對于關(guān)鍵領(lǐng)域技術(shù)標(biāo)準(zhǔn)化研究提出以下建議。

3.1 加強(qiáng)標(biāo)準(zhǔn)頂層設(shè)計和統(tǒng)籌制定

強(qiáng)化標(biāo)準(zhǔn)化頂層設(shè)計，建立關(guān)鍵領(lǐng)域技術(shù)標(biāo)準(zhǔn)化體系，重點支持以人工智能自然語言處理、智能語音、計算機(jī)視覺、虛擬現(xiàn)實/增強(qiáng)現(xiàn)實、人機(jī)交互為代表的關(guān)鍵技術(shù)、核心產(chǎn)品和應(yīng)用迭代等標(biāo)準(zhǔn)化研究，落實國家關(guān)于人工智能的決策部署，推動人工智能技術(shù)在開源、開放的產(chǎn)業(yè)生態(tài)不斷自我優(yōu)化，充分發(fā)揮基礎(chǔ)共性、倫理、安全隱私等方面標(biāo)準(zhǔn)的引領(lǐng)作用，指導(dǎo)人工智能國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)等的制修訂和協(xié)調(diào)配套，形成標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)全面規(guī)范化發(fā)展的新格局。

3.2 加強(qiáng)安全標(biāo)準(zhǔn)的相關(guān)研究

在關(guān)鍵技術(shù)安全標(biāo)準(zhǔn)研究方面，主要針對公平性、魯棒性、可解釋性、可泛化性、可復(fù)現(xiàn)性等技術(shù)方面展開，為可信賴人工智能應(yīng)用和管理提供技術(shù)支撐，如加強(qiáng)人工智能算法模型的安全性和魯棒性；能應(yīng)用標(biāo)準(zhǔn)之前優(yōu)先考慮智能產(chǎn)品的安全標(biāo)準(zhǔn)，進(jìn)一步深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作，針對已有標(biāo)準(zhǔn)完善智能安全要求，優(yōu)先針對標(biāo)準(zhǔn)化需求迫切且應(yīng)用較成熟，或應(yīng)用較敏感的領(lǐng)域進(jìn)行標(biāo)準(zhǔn)研究[15]。

3.3 引導(dǎo)行業(yè)健康發(fā)展的標(biāo)準(zhǔn)指南和規(guī)范

為了更好地落實《數(shù)據(jù)安全法》《個人信息保護(hù)法》等法律法規(guī)，提出可以切實解決用戶輸入數(shù)據(jù)安全問題的相關(guān)標(biāo)準(zhǔn)規(guī)范，同時需要開展在數(shù)據(jù)集防護(hù)、算法模型保護(hù)、抗逆向攻擊等方面的安全技術(shù)措施指南。為了更好地提前防范安全隱患，提升人工智能產(chǎn)品或服務(wù)的安全水平，推動人工智能應(yīng)用于行業(yè)的進(jìn)一步融合發(fā)展，需要對人工智能安全評估規(guī)范標(biāo)準(zhǔn)開展相關(guān)研究。