文/張笑雪 戴宇欣

自2021年歐盟和美國成立歐美貿(mào)易技術(shù)理事會(huì)（TTC）以來，人工智能已經(jīng)成為其在新興技術(shù)領(lǐng)域?qū)で髽?biāo)準(zhǔn)突破的重點(diǎn)領(lǐng)域。本文分析了歐盟和美國在TTC框架下共同開展人工智能標(biāo)準(zhǔn)化工作的主要行動(dòng)、趨勢和特點(diǎn)，為我國推動(dòng)人工智能等新興技術(shù)領(lǐng)域標(biāo)準(zhǔn)化發(fā)展提供參考與借鑒。

一、主要行動(dòng)

人工智能是TTC技術(shù)標(biāo)準(zhǔn)工作組的重點(diǎn)工作領(lǐng)域，其標(biāo)準(zhǔn)化工作的主要行動(dòng)包括以下5個(gè)方面。

1.統(tǒng)一歐盟和美國標(biāo)準(zhǔn)路線和共識(shí)

TTC以可信賴和風(fēng)險(xiǎn)評(píng)估為核心，建立了歐盟和美國共同的標(biāo)準(zhǔn)路線圖和實(shí)施計(jì)劃，提出短期和長期目標(biāo)。短期目標(biāo)注重建立合作渠道，分析歐盟、美國和國際標(biāo)準(zhǔn)中的術(shù)語和分類，確定重點(diǎn)標(biāo)準(zhǔn)，開發(fā)評(píng)估工具等；長期目標(biāo)是對(duì)短期目標(biāo)的深化，包括促進(jìn)國際標(biāo)準(zhǔn)的參與和領(lǐng)導(dǎo)，加強(qiáng)對(duì)術(shù)語和分類標(biāo)準(zhǔn)的統(tǒng)一理解，深化標(biāo)準(zhǔn)、工具和合作，監(jiān)測、識(shí)別和預(yù)判新的風(fēng)險(xiǎn)。

在實(shí)施上，歐盟和美國吸收各方經(jīng)驗(yàn)，廣泛收集國際和民間標(biāo)準(zhǔn)組織、經(jīng)濟(jì)合作與發(fā)展組織（OECD）的意見，分析美國《人工智能風(fēng)險(xiǎn)管控框架》《人工智能權(quán)利法案藍(lán)圖》和歐盟《歐盟人工智能法案》等政策文件，以平衡各方需求，力求最大程度地獲得共識(shí)。

2.推進(jìn)關(guān)鍵標(biāo)準(zhǔn)制定

目前，TTC重點(diǎn)聚焦兩類標(biāo)準(zhǔn)：一類是術(shù)語和分類，另一類是風(fēng)險(xiǎn)測量。

① 術(shù)語和分類

2023年5月，TTC發(fā)布了《歐盟—美國人工智能術(shù)語和分類法》（第一版），對(duì)人工智能生命周期、測量、技術(shù)系統(tǒng)屬性、治理、可信賴等術(shù)語進(jìn)行定義，并完成了對(duì)該術(shù)語清單的首輪意見征集。

② 風(fēng)險(xiǎn)測量

圍繞人工智能可信度、風(fēng)險(xiǎn)測量指標(biāo)和方法等，歐盟和美國共同開展了評(píng)估方法標(biāo)準(zhǔn)研究，啟動(dòng)搭建包含人工智能可信度測量指標(biāo)、風(fēng)險(xiǎn)管理方法等工具的線上公開數(shù)據(jù)庫，對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行互操作性測試和評(píng)估。

3.規(guī)范人工智能企業(yè)行為

針對(duì)人工智能企業(yè)行為規(guī)范方面的立法空白，歐盟和美國在TTC合作框架的推動(dòng)下向七國集團(tuán)（G7）提交了關(guān)于人工智能行為準(zhǔn)則的跨大西洋聯(lián)合提案，制定了適用于人工智能企業(yè)行為的技術(shù)指導(dǎo)標(biāo)準(zhǔn)。

2023年10月，G7發(fā)布了《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際指導(dǎo)原則》和《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際行為準(zhǔn)則》，針對(duì)人工智能隱私和安全風(fēng)險(xiǎn)等提出行為準(zhǔn)則，指導(dǎo)各類組織開發(fā)先進(jìn)的人工智能基礎(chǔ)模型、系統(tǒng)和技術(shù)標(biāo)準(zhǔn)。

4.加強(qiáng)前瞻性聯(lián)合研究

歐盟和美國在TTC框架下建立了“聯(lián)合技術(shù)競爭政策對(duì)話”機(jī)制，拓展歐盟聯(lián)合研究中心和美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）的合作領(lǐng)域，并聯(lián)合標(biāo)準(zhǔn)制定組織、企業(yè)、學(xué)術(shù)界、政府等相關(guān)方共同開展人工智能標(biāo)準(zhǔn)化預(yù)研究合作，鞏固標(biāo)準(zhǔn)制定的技術(shù)和科學(xué)基礎(chǔ)。

5.開展產(chǎn)業(yè)應(yīng)用研究

針對(duì)人工智能技術(shù)在具體產(chǎn)業(yè)領(lǐng)域的應(yīng)用，TTC啟動(dòng)了在健康醫(yī)療領(lǐng)域應(yīng)用隱私增強(qiáng)技術(shù)的試點(diǎn)項(xiàng)目，明確在氣候變化、應(yīng)急管理、醫(yī)療健康、電網(wǎng)優(yōu)化和農(nóng)業(yè)優(yōu)化等5個(gè)領(lǐng)域開展人工智能和計(jì)算研究項(xiàng)目。

二、發(fā)展趨勢

根據(jù)TTC標(biāo)準(zhǔn)路線圖的實(shí)施計(jì)劃以及歐盟和美國近期在人工智能領(lǐng)域的行動(dòng)，本文預(yù)計(jì)歐盟和美國下一階段將加強(qiáng)以下3個(gè)方面的工作。

1.進(jìn)一步加強(qiáng)對(duì)人工智能安全的研究與投入

美國參議院已經(jīng)要求對(duì)美國人工智能安全研究所（USAISI）增加撥款1 000萬美元，將資助與歐盟等研究伙伴的合作研究，加快測試環(huán)境的工作，評(píng)估網(wǎng)絡(luò)安全協(xié)議，并成立聯(lián)合研究中心來集成新的人工智能技術(shù)和系統(tǒng)。從目前趨勢來看，隱私增強(qiáng)技術(shù)、人工智能攻擊模擬、人工智能模型開放風(fēng)險(xiǎn)等將是近期重點(diǎn)。

2.不斷深化人工智能基礎(chǔ)性和前瞻性研究

大模型和生成式人工智能將是歐盟和美國重點(diǎn)攻關(guān)的人工智能技術(shù)領(lǐng)域。在大模型方面，歐盟和美國已開展對(duì)人工智能大模型的研討和調(diào)查，下一步將在調(diào)研基礎(chǔ)上匯集各方專家做深化研究。在生成式人工智能方面，歐盟和美國將在術(shù)語、內(nèi)容風(fēng)險(xiǎn)和標(biāo)注等方面開展合作。

3.持續(xù)擴(kuò)大歐盟和美國人工智能標(biāo)準(zhǔn)的國際應(yīng)用

一方面，TTC技術(shù)標(biāo)準(zhǔn)工作組已經(jīng)成立了數(shù)字身份小組，將在2024年完成歐盟和美國大西洋數(shù)字身份共享術(shù)語，支撐歐盟和美國加強(qiáng)跨境互操作性；另一方面，從2023年中期起，歐盟和美國不斷加強(qiáng)與印度、印度尼西亞、新加坡、越南等國家的人工智能合作，并明確提出將吸納更多國家參與其人工智能標(biāo)準(zhǔn)化研究與應(yīng)用。

三、特點(diǎn)分析

歐盟與美國在TTC框架下持續(xù)推進(jìn)人工智能標(biāo)準(zhǔn)化工作，具有加強(qiáng)系統(tǒng)謀劃、注重基礎(chǔ)和安全標(biāo)準(zhǔn)、強(qiáng)化技術(shù)與標(biāo)準(zhǔn)協(xié)同、加強(qiáng)企業(yè)行為指導(dǎo)等鮮明特點(diǎn)。

1.加強(qiáng)系統(tǒng)謀劃，著力重點(diǎn)領(lǐng)域分步突破

歐盟和美國并未以完整的人工智能標(biāo)準(zhǔn)體系來指導(dǎo)未來的標(biāo)準(zhǔn)化工作，而是通過分階段實(shí)現(xiàn)的實(shí)施路徑來突出重點(diǎn)，逐步深化各項(xiàng)措施，促進(jìn)預(yù)期目標(biāo)的實(shí)現(xiàn)。TTC目前已經(jīng)開展和將要開展的一系列人工智能標(biāo)準(zhǔn)化工作，均體現(xiàn)出其聚焦重點(diǎn)、逐步擴(kuò)大國際共識(shí)、預(yù)判未知風(fēng)險(xiǎn)等循序漸進(jìn)的基本思路。

2.注重基礎(chǔ)和安全標(biāo)準(zhǔn)，力求以國際協(xié)同主導(dǎo)發(fā)展方向

TTC將推動(dòng)可信和風(fēng)險(xiǎn)管理作為人工智能標(biāo)準(zhǔn)化工作的共識(shí)和愿景，高度重視術(shù)語定義、分類、測試評(píng)估等基礎(chǔ)共性標(biāo)準(zhǔn)，在研制路徑上注重與國際標(biāo)準(zhǔn)的協(xié)同，并通過建立可信測量數(shù)據(jù)庫、發(fā)布企業(yè)行為指導(dǎo)準(zhǔn)則、推進(jìn)隱私安全研究等一系列“基于風(fēng)險(xiǎn)的方法”，以建立國際共識(shí)為目標(biāo)開展標(biāo)準(zhǔn)化活動(dòng)。這些做法，一方面可以使其人工智能標(biāo)準(zhǔn)框架體系更加完善，另一方面有助于塑造其安全可靠的技術(shù)形象，鞏固人工智能倫理道德領(lǐng)域的國際標(biāo)準(zhǔn)話語權(quán)。

3.強(qiáng)化技術(shù)與標(biāo)準(zhǔn)協(xié)同，推動(dòng)技術(shù)廣泛應(yīng)用

歐盟和美國人工智能標(biāo)準(zhǔn)化合作遵循新興技術(shù)標(biāo)準(zhǔn)研究的特點(diǎn)，充分利用標(biāo)準(zhǔn)預(yù)研究、技術(shù)調(diào)查、應(yīng)用試點(diǎn)等工具和方法，強(qiáng)化技術(shù)與標(biāo)準(zhǔn)協(xié)同發(fā)展。在應(yīng)用領(lǐng)域，歐盟和美國則關(guān)注氣候變化、應(yīng)急管理、醫(yī)療、電網(wǎng)等可持續(xù)發(fā)展和基礎(chǔ)設(shè)施領(lǐng)域，推動(dòng)其人工智能技術(shù)的更廣泛使用，謀求在國際范圍內(nèi)的推廣。

4.加強(qiáng)企業(yè)行為指導(dǎo)，謀求以標(biāo)準(zhǔn)填補(bǔ)立法空白

人工智能具有技術(shù)更新速度快、涉及范圍廣、不確定性強(qiáng)的特點(diǎn)，傳統(tǒng)的法律監(jiān)管很難跟上技術(shù)發(fā)展節(jié)奏。在歐盟和美國雙方尚無成熟和一致的監(jiān)管法律情況下，TTC通過制定關(guān)于人工智能行為準(zhǔn)則作為過渡性措施，為企業(yè)開發(fā)和使用人工智能技術(shù)、制定人工智能標(biāo)準(zhǔn)提供指導(dǎo)，并協(xié)調(diào)歐盟和美國雙方的監(jiān)管差異，高效應(yīng)對(duì)人工智能快速發(fā)展帶來的挑戰(zhàn)。

四、展望

我國人工智能市場規(guī)模巨大，產(chǎn)業(yè)和標(biāo)準(zhǔn)化發(fā)展成果顯著，在圖像識(shí)別、智能語音等領(lǐng)域達(dá)到全球領(lǐng)先水平，并在國際標(biāo)準(zhǔn)化組織/國際電工委員會(huì)第一聯(lián)合技術(shù)委員會(huì)（ISO/IEC JTC 1）中發(fā)揮著重要作用。但是，我國國家人工智能標(biāo)準(zhǔn)化總體組發(fā)布的《人工智能標(biāo)準(zhǔn)化白皮書》顯示，目前我國人工智能標(biāo)準(zhǔn)化發(fā)展仍存在一定的不足，如：人工智能工具完整性、融合程度、效率等沒有統(tǒng)一的衡量標(biāo)準(zhǔn)；人工智能測試體系不夠完善，尚未形成成熟的功能、性能測試基準(zhǔn)，人工智能測試標(biāo)準(zhǔn)體系還未形成；行業(yè)發(fā)展不均衡突出，在與實(shí)體經(jīng)濟(jì)融合方面存在結(jié)構(gòu)性失衡，目前主要用于金融、安防、物流等領(lǐng)域，亟待在制造、零售等領(lǐng)域有所創(chuàng)新與突破。

從上海市層面來看，近年的調(diào)查顯示，上海市人工智能企業(yè)主要集中在技術(shù)層（技術(shù)開發(fā)與輸出）和應(yīng)用層（解決方案），在產(chǎn)業(yè)應(yīng)用層具有明顯規(guī)模優(yōu)勢，相關(guān)企業(yè)占比超過90%，且其中70%以上集中于智慧城市領(lǐng)域，主要應(yīng)用于城市公共服務(wù)，如醫(yī)療、環(huán)保、政務(wù)等。調(diào)查同時(shí)顯示出當(dāng)前存在的一些不足，如：應(yīng)用賦能還不深入，應(yīng)用場景相對(duì)單調(diào)，人工智能在制造業(yè)的應(yīng)用較為分散，與智慧生產(chǎn)和智能生活的融合較少；對(duì)人工智能系統(tǒng)及軟件風(fēng)險(xiǎn)的認(rèn)識(shí)不高；缺少權(quán)威評(píng)定和測試服務(wù)機(jī)構(gòu)，對(duì)良性競爭產(chǎn)生負(fù)面影響；強(qiáng)調(diào)促進(jìn)技術(shù)進(jìn)步和產(chǎn)業(yè)應(yīng)用，但缺乏對(duì)倫理道德安全的研究和監(jiān)管，與國際趨勢不夠接軌等。

我國與美國對(duì)于人工智能標(biāo)準(zhǔn)化治理的理念相近，傾向于用政策引領(lǐng)人工智能標(biāo)準(zhǔn)的發(fā)展（歐盟相對(duì)更為保守，傾向于用標(biāo)準(zhǔn)和法律加強(qiáng)對(duì)人工智能的監(jiān)管）。美國在TTC中具有主導(dǎo)地位，它提出的建立人工智能風(fēng)險(xiǎn)監(jiān)測和風(fēng)險(xiǎn)評(píng)估機(jī)制與標(biāo)準(zhǔn)、開發(fā)人工智能風(fēng)險(xiǎn)管理標(biāo)準(zhǔn)和工具包、建立人工智能標(biāo)準(zhǔn)預(yù)研究的國際合作體系、注重可持續(xù)發(fā)展和基礎(chǔ)設(shè)施領(lǐng)域的人工智能應(yīng)用標(biāo)準(zhǔn)等具體措施，對(duì)于我們改進(jìn)當(dāng)前的薄弱環(huán)節(jié)、以標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)發(fā)展、加強(qiáng)應(yīng)用落地、完善產(chǎn)業(yè)生態(tài)等具有一定的借鑒意義。