當(dāng)前，人工智能發(fā)展進(jìn)入新階段，國(guó)務(wù)院在《新一代人工智能發(fā)展規(guī)劃》（以下簡(jiǎn)稱(chēng)《規(guī)劃》）中指出，人工智能將深刻改變?nèi)祟?lèi)社會(huì)生活、改變世界。推動(dòng)人工智能安全發(fā)展至關(guān)重要，應(yīng)著力構(gòu)建安全發(fā)展戰(zhàn)略，將人工智能安全發(fā)展提升到與人工智能科技研發(fā)、成果應(yīng)用、市場(chǎng)推廣同等重要的位置，研究制定有關(guān)法律法規(guī)和倫理準(zhǔn)則，這不僅是深入貫徹中共十九大精神，夯實(shí)人民安全感、提升人民幸福感的重要舉措，也是推進(jìn)《規(guī)劃》實(shí)施的必要條件。

一、需要關(guān)注的問(wèn)題

人工智能發(fā)展的不確定性帶來(lái)新挑戰(zhàn)。人工智能是影響面廣的顛覆性技術(shù)，可能帶來(lái)改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則等問(wèn)題，將對(duì)政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。當(dāng)前，我國(guó)人工智能安全發(fā)展需要關(guān)注的問(wèn)題主要有以下幾點(diǎn)：

（一）《規(guī)劃》未提出人工智能安全發(fā)展?！兑?guī)劃》提出了新一代人工智能發(fā)展的基本原則，即科技引領(lǐng)、系統(tǒng)布局、市場(chǎng)主導(dǎo)、開(kāi)源開(kāi)放，沒(méi)有將安全作為發(fā)展基本原則之一，對(duì)人工智能安全發(fā)展的重視不夠。

（二）倫理研究缺乏大眾參與。如果倫理研究過(guò)程中沒(méi)有全社會(huì)的共同參與，沒(méi)有吸納人工智能這個(gè)特定場(chǎng)景下的倫理道德認(rèn)識(shí)，則出臺(tái)的政策和規(guī)劃不易獲得社會(huì)認(rèn)同。

（三）輿論引導(dǎo)不及時(shí)。著名物理學(xué)家霍金認(rèn)為，強(qiáng)大人工智能的崛起，對(duì)人類(lèi)來(lái)說(shuō)，可能是最好的事情，也可能是最糟糕的事情。目前，有輿論認(rèn)為，人工智能如果誕生自我意識(shí)可能導(dǎo)致機(jī)器反抗人類(lèi)、網(wǎng)絡(luò)主權(quán)失控，替代人類(lèi)工作將導(dǎo)致失業(yè)率上升，這些觀點(diǎn)已經(jīng)在部分群體中產(chǎn)生很大影響，需要引導(dǎo)和紓解。

在大力發(fā)展人工智能的同時(shí)，必須高度重視可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展。

二、對(duì)策建議

（一）制定《人工智能安全發(fā)展綱要》。建議國(guó)家層面建立人工智能安全發(fā)展戰(zhàn)略，結(jié)合《規(guī)劃》，制定《人工智能安全發(fā)展綱要》，闡明人工智能安全發(fā)展的戰(zhàn)略意義和內(nèi)涵，明確戰(zhàn)略目標(biāo)、指導(dǎo)思想和發(fā)展原則，對(duì)人工智能安全發(fā)展進(jìn)行總體部署。

（二）有序制定人工智能安全發(fā)展的法律法規(guī)和倫理道德準(zhǔn)則。采取“政府主導(dǎo)、專(zhuān)家主體、公眾參與、社會(huì)協(xié)同”方式，深入研究人工智能安全發(fā)展戰(zhàn)略，針對(duì)不同環(huán)節(jié)和應(yīng)用場(chǎng)景，明晰不同主體的責(zé)任、權(quán)利和義務(wù)，制定有關(guān)的政策、措施和法規(guī)、標(biāo)準(zhǔn)，劃定人工智能安全發(fā)展的邊界；邀請(qǐng)社會(huì)公眾參與倫理道德準(zhǔn)則的研究和制定；對(duì)人工智能科研團(tuán)隊(duì)和科研人員開(kāi)展相關(guān)倫理道德知識(shí)普及工作，發(fā)揮倫理道德柔性約束作用，打造人工智能安全發(fā)展的關(guān)鍵防護(hù)網(wǎng)；在市場(chǎng)推廣和應(yīng)用環(huán)節(jié)，建立安全評(píng)估和市場(chǎng)準(zhǔn)入機(jī)制，沒(méi)有通過(guò)安全評(píng)估的技術(shù)，不得投放市場(chǎng)應(yīng)用；加強(qiáng)國(guó)際合作，促進(jìn)數(shù)據(jù)共享，為人工智能安全發(fā)展擬定更適合我國(guó)的法律條文和社會(huì)倫理道德標(biāo)準(zhǔn)。

（三）創(chuàng)新加快科學(xué)普及，強(qiáng)化輿論引導(dǎo)，凈化人工智能安全發(fā)展的環(huán)境。傳遞正能量，引導(dǎo)人們科學(xué)認(rèn)識(shí)人工智能的發(fā)展方向和取得的成果。針對(duì)“人工智能安全嗎？”“無(wú)人駕駛的地鐵敢坐嗎？”“我會(huì)失業(yè)嗎？”等部分公眾的恐慌心理，強(qiáng)化輿論宣傳、科普、引導(dǎo)等工作，消除誤解，打消疑慮，營(yíng)造安全穩(wěn)定的社會(huì)氛圍。以人民群眾喜聞樂(lè)見(jiàn)、容易接受的方式進(jìn)行引導(dǎo)，提升全社會(huì)的科技認(rèn)知水平。普及人工智能安全使用規(guī)范，促使人工智能更好服務(wù)人類(lèi)。