◆但少華

人工智能安全問題及其解決方向

◆但少華

（湖北省赤壁市人民檢察院 湖北 437300）

人工智能的出現(xiàn)無疑開啟了人類歷史的新時代，它在給國家和社會帶來進步和發(fā)展的同時，也帶來了巨大的安全威脅。如何解決新時代下人工智能的安全問題成為網(wǎng)絡信息領(lǐng)域的當務之急。本文筆者首先對人工智能及其發(fā)展進行介紹，然后從倫理、社會秩序、隱私以及系統(tǒng)整體性四個層面分析人工智能的信息安全威脅，最后提出人工智能安全問題的規(guī)避策略。

人工智能；安全問題；解決策略

0 引言

近年來，人工智能已經(jīng)成為了一個炙手可熱的名詞，圍棋天才柯潔大戰(zhàn)阿爾法狗和第一個擁有人類身份證的機器人索菲亞等這一系列現(xiàn)象的出現(xiàn)讓人們在感嘆人工智能給世界帶來巨大變化的同時也引起了人們對于信息安全的擔憂。一項新技術(shù)的出現(xiàn)，如果能夠有效利用，將會引領(lǐng)時代的進步和發(fā)展，但是忽略了其潛在威脅，就會適得其反。人工智能技術(shù)的出現(xiàn)，也意味著一場革命，在市場競爭如此激烈的時代浪潮裹挾下，我國的人工智能是否能夠引領(lǐng)時代發(fā)展，關(guān)鍵在于如何解決人工智能的信息安全問題。

1 人工智能及其發(fā)展

從根本上說，人工智能就是一項信息處理系統(tǒng)，它主要通過輸入圖像或者文字信息，進行感知、分析和學習，進而采取恰當?shù)男袆咏鉀Q問題。由于人工智能天生具備的信息屬性決定了其信息安全問題會全程貫穿在其應用中。世界范圍內(nèi)的各領(lǐng)域各行業(yè)都感受到了人工智能帶來的巨大變化，政府部門在制度設計上出臺了各種政策促進人工智能的發(fā)展，技術(shù)人員也試圖搶占技術(shù)的高點。我國的《新一代人工智能發(fā)展規(guī)劃》和十三五規(guī)劃都對人工智能的發(fā)展進行了詳細的戰(zhàn)略部署。中國具有天然的市場優(yōu)勢，目前人工智能的發(fā)展態(tài)勢十分樂觀，人們?nèi)粘＋@取信息、網(wǎng)購和出行等都離不開人工智能技術(shù)的支持。2017年，麻省理工科技評論公布的全球十大突破技術(shù)之中，深度學習、刷臉支付以及自動駕駛位列其中，而這些技術(shù)的研究者中科大訊飛、阿里巴巴、百度等都是中國企業(yè)。除此之外，我國的人工智能還被引入了政務領(lǐng)域，有效地提升了工作效率，促進了政府服務的創(chuàng)新。

2. 人工智能信息安全威脅分析

2.1 倫理安全

隨著人工智能的發(fā)展，越來越多智能化、自動化的設備進入了我們的日常生活，同時它們也面臨著現(xiàn)有法律、社會規(guī)范以及倫理道德的挑戰(zhàn)。比如世界圍棋大師李世石與人工智能機器人阿爾法狗的對決，人們會擔心未來人工智能會取代人類，索菲亞成為第一個擁有人類身份的機器人，人們會擔心如果她對人造成傷害怎么辦，這些現(xiàn)象都不符合我們的傳統(tǒng)認知。除此之外，人工智能技術(shù)的進步，逐漸取代了那些重復性的工作，導致相關(guān)從業(yè)人員出現(xiàn)極大的心理恐慌。

2.2 影響社會秩序

傳統(tǒng)的信息系統(tǒng)依賴于人的操作和控制，但是人工智能技術(shù)有一個自己的“大腦”，在一定程度上可以自我控制。人工智能控制的機器人、無人駕駛汽車、無人機等設備都具備一些自主行為，一旦受到安全威脅，就會帶來極大的破壞，例如無人駕駛汽車失控后對交通系統(tǒng)造成的影響，而且人工智能系統(tǒng)設備的行為還會給同一系統(tǒng)的人員帶來諸多的干擾和麻煩，導致現(xiàn)有秩序的混亂。

2.3 隱私安全

人工智能催生了大數(shù)據(jù)時代，人、事、物可以實現(xiàn)綜合的管理，沒有人是一座孤島，不可避免地會與周圍的人事物產(chǎn)生聯(lián)系，在大數(shù)據(jù)的作用下，個人的家庭信息、聯(lián)系方式、賬號密碼，甚至是出行軌跡、消費情況和健康狀況等，都可以通過智能設備、互聯(lián)網(wǎng)或者傳感設備實現(xiàn)數(shù)據(jù)的獲取，如果這些信息都被曝光，那么個人隱私安全就會受到極大的威脅。

2.4 系統(tǒng)整體性安全

人工智能系統(tǒng)中的大部分數(shù)據(jù)都被保存在云端，通過大數(shù)據(jù)分析向控制端發(fā)出指令，進而形成傳輸、智能處理。在此過程中，如果該人工智能系統(tǒng)受到攻擊或者設備故障，將會引發(fā)整個系統(tǒng)的危機，就算是局部的安全風險，也會在短時間內(nèi)迅速擴散，形成更大的安全威脅。

3 人工智能安全問題的規(guī)避策略

3.1 樹立科學的安全觀念

建立起對人工智能安全問題的科學意識，消除恐慌和擔憂的情緒，更好地利用技術(shù)促進社會的進步和發(fā)展，是規(guī)避人工智能安全問題的重點。將人工智能安全問題絕對化一定程度上是在將安全風險擴大化，相關(guān)行業(yè)人員應該樹立起科學的觀念，辯證看待人工智能的安全問題，立足發(fā)展，認真權(quán)衡利弊，別讓安全問題阻斷了發(fā)展的道路，應該運用規(guī)則的作用，以更先進的管理手段和技術(shù)措施應對人工智能所帶來的負面影響。

3.2 完善法律法規(guī)，制定道德準則

政府應充分發(fā)揮主導作用，專家作為技術(shù)宣傳的主體應該肩負起普及人工智能信息安全相關(guān)知識的責任，公眾要積極參與其中，發(fā)揮整個社會的協(xié)同作用，針對人工智能的不同環(huán)節(jié)和應用場景，研究人工智能安全發(fā)展方略，明確各主體的權(quán)利和義務。同時，有關(guān)部門制定相關(guān)的法律法規(guī)，劃定人工智能安全發(fā)展的邊界，并鼓勵公眾參與到倫理道德準則的制定過程之中，在人工智能的科研團隊中開展相關(guān)倫理道德的知識宣傳工作，發(fā)揮倫理道德的柔性約束作用。

3.3 確立有效的發(fā)展策略

任何一項技術(shù)的出現(xiàn)都會經(jīng)歷一個相對漫長的發(fā)展過程，過去很多技術(shù)都是遵循先發(fā)展后治理的原則，但是當技術(shù)發(fā)展速度越快，產(chǎn)生的影響就會越大，滯留的問題就會越多。人工智能具備自主、智能和自適應的特征，因此要改變發(fā)展策略，將發(fā)展和治理放在同一高度來看待，歐美各國在人工智能的發(fā)展戰(zhàn)略中將安全管控和風險治理都納入了其中，防微杜漸，這是我們需要學習和借鑒的。在新一代人工智能的發(fā)展過程中，應該以科學的態(tài)度迎接安全挑戰(zhàn)，做好相關(guān)的安全保障措施，才能更好地促進人工智能的發(fā)展。

3.4 創(chuàng)新加快科學普及，強化輿論引導

要構(gòu)建一個健康的人工智能發(fā)展環(huán)境，就要加大科普宣傳力度，發(fā)揮輿論的引導作用，傳遞正能量，讓人們認識和了解人工智能的發(fā)展現(xiàn)狀以及取得的成果。針對人工智能是否會取代人類等一系列疑問，相關(guān)專業(yè)人士應該進行科學宣傳和引導，消除人們對人工智能的誤解，幫助他們打消疑慮，營造和諧穩(wěn)定的社會氛圍，提升全社會的科技認知水平，讓人工智能更好地為人類服務。

3.5 人工智能的安全評估與管理

當前人工智能正以飛快的速度向前發(fā)展，相關(guān)人士應對其可能產(chǎn)生的危害以及危害的程度進行科學的評估，人工智能產(chǎn)生的安全性已不容忽視。由于人工智能產(chǎn)生在出現(xiàn)問題之前沒有任何預兆，因此人們會認為高科技所造成的后果是十分嚴重的，進而導致對相應安全問題嚴重性做出偏高的主觀評價，這也體現(xiàn)了人工智能安全評估和管理的重要性。安全評估主要著眼于那些未發(fā)生但存在發(fā)生可能性的事件，并將其數(shù)據(jù)化，計算事故發(fā)生的概率、劃分危險等級，并制定相應的安全標準和對策措施，從中選擇最佳方案，以預防事故的發(fā)生。對人工智能進行安全評估，不僅能夠讓技術(shù)人員更加全面地認識到研發(fā)對象的特性，設計出更加全面且安全的系統(tǒng)，同時在工程技術(shù)當中，安全評估是安全管理的重要內(nèi)容。

4 結(jié)語

綜上所述，人工智能給人類社會帶來的深刻變革是有目共睹的，縱觀歷史，每一個經(jīng)濟繁榮時代的到來都是由新技術(shù)引領(lǐng)的。隨著人工智能技術(shù)的不斷進步，人工智能在給人類帶來更多技術(shù)上的變革和生活上的便捷的同時，也存在著一些安全隱患。在這個智能時代背景下，我們應該理性看待人工智能的影響，同時還要用發(fā)展的眼光看待人工智能的發(fā)展，因為它就好比是一把“雙刃劍”。當然，更重要的是，我們不應將人工智能的安全問題丟給未來，人工智能安全問題不僅是網(wǎng)絡安全領(lǐng)域面臨的問題，更是全世界都需要解決的問題，只有真正解決了人工智能的安全問題，才能將人類引入更加光明和幸福的未來。

[1]杜嚴勇.人工智能安全問題及其解決進路[J].哲學動態(tài),2016.

[2]史博偉,傅曉微. 美國的國家網(wǎng)絡安全戰(zhàn)略及其借鑒意義[J].南京郵電大學學報(社會科學版),2016.

[3]何哲.人工智能時代的政府適應與轉(zhuǎn)型[J].行政管理改革,2016.

[4]郭華. 基于人工智能的網(wǎng)絡安全技術(shù)[J].電子技術(shù)與軟件工程,2017.

[5]邵江寧.基于人工智能后發(fā)制人的網(wǎng)絡安全新對策[J]. 信息安全研究,2017.