◆王劍 盧揚(yáng)帆 王袁鵬 吳佳豪 鐘賽龍

淺談人工智能——人工智能時(shí)代的管制措施

◆王劍 盧揚(yáng)帆 王袁鵬 吳佳豪通訊作者鐘賽龍通訊作者

（江西科技學(xué)院信息工程學(xué)院 江西 330000）

人工智能只有短短一百年不到的歷史，歷經(jīng)半個(gè)多世紀(jì)的發(fā)展，已經(jīng)滲透到各個(gè)領(lǐng)域，與我們的生活息息相關(guān)。本文簡要回顧了人工智能的發(fā)展歷程，羅列分析了近年來人工智能的應(yīng)用及出現(xiàn)的憂患風(fēng)險(xiǎn)，并設(shè)想根據(jù)人工智能、項(xiàng)目管理等相關(guān)知識對此提出相應(yīng)的管制措施。

人工智能；超級智能；人機(jī)交互；監(jiān)管

人工智能在發(fā)展過程中，在不斷與傳統(tǒng)行業(yè)結(jié)合帶來巨大變革的同時(shí)，各種負(fù)面事件也顯露出來，大部分科學(xué)家認(rèn)為還需數(shù)十年，才能達(dá)到人工智能的奇點(diǎn)。盡管如此，防患于未然仍是有必要的，但不管是DeepMind的“可中斷”理念還是IBM的信任透明原則，抑或是亞馬遜、谷歌、微軟、IBM等幾個(gè)硅谷人工智能巨頭公司發(fā)起的人工智能聯(lián)盟，都是企業(yè)在努力“規(guī)劃”安全的人工智能未來，而民眾、政府或者國際社會(huì)還沒有在其中找準(zhǔn)自己的定位以及所扮演的角色。

1 人工智能的發(fā)展歷程

人工智能Artificial Intelligence英文縮寫為AI，于1956年提出，源自雨果·德·加里斯的著作，字面意思就是人造的智能，“智能”一詞在中國最早由荀子提出，意味智慧和能力的總稱。如今，智能往往意味著一種運(yùn)用知識本領(lǐng)在不同復(fù)雜環(huán)境下做出相應(yīng)反應(yīng)對策的能力，人的智能就體現(xiàn)在思考和理解反應(yīng)的能力上。早在春秋戰(zhàn)國，聰明的古人就開始了對人工智能的向往和追求，列子在《列子·湯問》中記載的一位名叫偃師的工匠制作了一個(gè)能歌善舞還會(huì)思考具有獨(dú)立意識的人偶獻(xiàn)給周穆王，而這樣的故事層出不窮。

二十世紀(jì)初，數(shù)理邏輯和關(guān)于計(jì)算的新思想沖擊著智能界，不管是人工智能之父圖靈（Turing）在其基礎(chǔ)上創(chuàng)立的自動(dòng)機(jī)理論還是麥卡洛克（McCulloch）和皮茨（Pitts）提出的“擬腦機(jī)器”，都在人工智能的萌芽時(shí)期為人工智能奠定了堅(jiān)實(shí)的基礎(chǔ)。1956年被譽(yù)為機(jī)器學(xué)習(xí)之父的邁克爾·喬丹（Michael I. Jordan）在一次學(xué)會(huì)上正式提出了“人工智能（AI）”這一理念，而絕大多數(shù)參會(huì)的學(xué)者后來都成為了著名的人工智能專家，為以后的AI研究和發(fā)展做出了杰出貢獻(xiàn)。其后不管是六七十年代引起新一輪熱潮的“專家系統(tǒng)”還是八十年代霍普菲爾德（Hopfield）關(guān)于神經(jīng)網(wǎng)絡(luò)模型的正式提出，都加速了人工智能的發(fā)展。而二十一世紀(jì)的現(xiàn)在，隨著人工智能三大學(xué)派——符號主義、連接主義、行為主義的誕生以及深度學(xué)習(xí)的引入和發(fā)展，人工智能將走向一條光明的康莊大道，古人的夢想也將在超越時(shí)代的科技幫助下得以實(shí)現(xiàn)。

2 人工智能時(shí)代的風(fēng)險(xiǎn)憂慮

然而，隨著人工智能的飛速發(fā)展，一些缺陷和隱患也逐漸顯現(xiàn)出來，人工智能將面臨與未來法律制度結(jié)合的困境，大數(shù)據(jù)的隱私保護(hù)、風(fēng)險(xiǎn)問題、擔(dān)保責(zé)任問題以及知識產(chǎn)權(quán)的歸屬都將使其進(jìn)入兩難境地，這將給社會(huì)制度產(chǎn)生一定的影響。去年的AI換臉軟件“zao”刷爆了朋友圈，人們在換臉的同時(shí)殊不知不僅失去了自己的肖像權(quán)還將在未來面臨可能發(fā)生的權(quán)益紛爭，還有更早之前的AI軟件Deep Nude，種種不合時(shí)宜的人工智能出現(xiàn)在我們的視野里恰好說明其監(jiān)管體系尚未成熟。不光如此，一旦人工智能發(fā)展成熟，罪犯就可以開發(fā)出各種相關(guān)系統(tǒng)為其服務(wù)。一套完備的語音合成系統(tǒng)、人臉合成系統(tǒng)，這之間牽涉的種種都給人類敲響了警鐘，人類還沒有做好接納人工智能的準(zhǔn)備，也還沒學(xué)會(huì)對待和使用人工智能。

事實(shí)上2016年微軟推出的人工智能Tay就顯現(xiàn)出人工智能更深層次的憂患，它作為一個(gè)聊天機(jī)器人在僅僅在不到一天的時(shí)間里就變成了一個(gè)種族歧視者，這充分說明AI是趨勢工具，人可以創(chuàng)造AI卻不能保證它的發(fā)展不出現(xiàn)一絲偏差。如今的一些人工智能靠著機(jī)器學(xué)習(xí)深度學(xué)習(xí)來提升自我水平，由于神經(jīng)網(wǎng)絡(luò)的布線和初始化的突觸權(quán)重都是隨機(jī)的，所以未經(jīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)的答案也是隨機(jī)的[1]。這些人工智能通過各種函數(shù)框架模型和邏輯回歸線性回歸等算法從海量樣本里進(jìn)行特征的自動(dòng)提取來建立神經(jīng)網(wǎng)絡(luò)，然而樣本數(shù)據(jù)本身就反映人的主觀意識，人工智能無法辨別這些數(shù)據(jù)對其本身的形成過程是否有害或者是否違背了其作為創(chuàng)造者的初衷。使用者或研究者也無法確保人工智能在形成過程中只學(xué)習(xí)他們認(rèn)為對的事物，并在正確的認(rèn)知下對這些事物做出正確的反應(yīng)。事實(shí)上正確與否都只是人類自己的評判標(biāo)準(zhǔn)，所以小說以及影視作品中不乏人工智能通過種種契機(jī)形成滅絕人類才能創(chuàng)造完美世界的潛意識，不知未來創(chuàng)造者是否真的能通過代碼程序?qū)⑷斯ぶ悄芄芸卦诎⑽髂驒C(jī)器人三大條框之下。

現(xiàn)如今，人工智能逐步或者正在取代人類完成某些特定工作導(dǎo)致這些人員失業(yè)的現(xiàn)象似乎已經(jīng)開始出現(xiàn)，牛津大學(xué)教授曾對超過700份的工作進(jìn)行了分析，結(jié)果卻發(fā)現(xiàn)幾乎一半都能由現(xiàn)在或未來的計(jì)算機(jī)人工智能來完成，而其中不乏需要相當(dāng)深度的知識及能力的高薪職業(yè)，換言之不管是低腦力還是高腦力的就業(yè)崗位，在可見的未來里都面臨著被人工智能取代的危險(xiǎn)。

然而更大的危險(xiǎn)是，人類自身也即將面臨被取代的窘境，隨著技術(shù)理論的不斷發(fā)展補(bǔ)足，憑借著不斷更新的傳輸介質(zhì)以及持續(xù)發(fā)展的計(jì)算力，人工智能正在不斷逼近并將最終超越人類。人工智能設(shè)計(jì)之初是仿造人腦，通過像神經(jīng)元一樣的物質(zhì)傳輸信息，人腦神經(jīng)元之間傳遞信號的最快速度約為100米/秒，而銅線中電信號的傳播速度大約為2.3*10^8米/秒，超過光速的一半，理論上如果有一個(gè)完全基于人腦的廣義人工智能，那么它的運(yùn)行處理速度就已經(jīng)是人腦的200萬倍[2]。

現(xiàn)如今的人工智能大多都只是某一領(lǐng)域內(nèi)超越人類，不管是正式統(tǒng)治圍棋界的AlphaGo還是進(jìn)化后從零開始僅用三天就以100:0將其碾壓的AlphaGo-Zero，它們都只能完成一個(gè)比較狹窄的目標(biāo)，而通用人工智能的研究將會(huì)打破這一常理，進(jìn)而觸發(fā)“智能爆炸”。早在上世紀(jì)六十年代，英國數(shù)學(xué)家谷德（I.J.Good）就提出并預(yù)言了“智能爆炸”，當(dāng)一個(gè)超級智能機(jī)器可以設(shè)計(jì)出比它更出色的機(jī)器，那么帶來的將是“指數(shù)級”的“智能爆炸”。事實(shí)上五十年代，現(xiàn)代計(jì)算機(jī)之父馮諾依曼（John von Neumann）就曾說過，技術(shù)正以前所未有的速度增長，我們正在朝著某種類似奇點(diǎn)的方向發(fā)展，一旦超越了這個(gè)奇點(diǎn)，人類社會(huì)將會(huì)大不相同。而這個(gè)奇點(diǎn)就是“智能爆炸”。如果超級智能真的來臨，那么屆時(shí)它將以遠(yuǎn)超人想象的智能凌駕于人類這一種族之上，而后果尚未可知。人腦中大腦新皮層所占比例是黑猩猩的兩倍，憑借著這份智力人類繁衍出70億人口并根據(jù)自己的意愿改造地球，而黑猩猩只剩30萬只，并且這個(gè)物種是否會(huì)滅絕幾乎完全取決于人類的行為，超級智能將比人類聰明幾個(gè)數(shù)量級，因此人類未來的命運(yùn)，將會(huì)取決于超級智能的決策和行為[2]。

必須指出的是，想要人類放棄研究人工智能是不可能的，人工智能目前以及在可見的未來所帶來的紅利已經(jīng)不是一兩句禁令就能抵消的，況且目前人類已經(jīng)依賴很多人工智能系統(tǒng)，簡單粗暴的停止人工智能研究將導(dǎo)致人工智能無法應(yīng)對未來多變的世界，但一直放任人工智能的發(fā)展將不利于未來社會(huì)的安定，因而想要確保人工智能的發(fā)展一直處于可控階段，合理有效的管制措施非常必要。

3 管制措施

3.1 AI監(jiān)管者

創(chuàng)造一個(gè)AI監(jiān)管者，人類無法實(shí)時(shí)查看源代碼，實(shí)時(shí)調(diào)控手上的人工智能程序，況且成本可能會(huì)是個(gè)天文數(shù)字。這個(gè)監(jiān)管者類似斷路器，代替人類作為人工智能活動(dòng)的管理者，擁有判斷和中斷任何相關(guān)活動(dòng)的權(quán)限。DeepMind作為前沿人工智能企業(yè)曾在2017年12月發(fā)布過一份研究報(bào)告，實(shí)現(xiàn)了監(jiān)管者在中斷人工智能后繼續(xù)啟用程序不影響之前的工作，已經(jīng)證實(shí)這在理論和技術(shù)上是可行的。因而國際上應(yīng)該借此盡快建立一套強(qiáng)大的人工智能監(jiān)管系統(tǒng)，通過建立神經(jīng)網(wǎng)絡(luò)模型來實(shí)時(shí)監(jiān)視被它管控的其他人工智能系統(tǒng)模型，當(dāng)這些人工智能出現(xiàn)偏差或風(fēng)險(xiǎn)時(shí)及時(shí)報(bào)告并中斷它們的活動(dòng)，使其得到有效控制，如期望般發(fā)展。

3.2 人為監(jiān)管

提高人為監(jiān)管力度，建立相關(guān)組織及監(jiān)管部門，國際或政府應(yīng)建立人工智能方面的監(jiān)管部門，對企業(yè)人工智能源代碼及對應(yīng)表現(xiàn)進(jìn)行定期監(jiān)管，確保人工智能開發(fā)者在一個(gè)安全的環(huán)境內(nèi)測試他們的設(shè)計(jì)并收集相關(guān)數(shù)據(jù)，定期查看AI監(jiān)管者中斷報(bào)告來判斷項(xiàng)目風(fēng)險(xiǎn)等級。使用注意機(jī)制，專門設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)模型來復(fù)制和跟蹤其他人工智能模型的軌跡，便于監(jiān)管機(jī)構(gòu)能夠做出更加明智的審核決策，同時(shí)建立倫理審查委員會(huì)，對人工智能進(jìn)行系統(tǒng)的安全和倫理評估。建立人工智能市場部門，對測試和量化方案進(jìn)行制度化，保證人工智能按照既定的計(jì)算機(jī)算法運(yùn)行，所有企業(yè)在研發(fā)使用之前都應(yīng)備案批準(zhǔn)，每年定期對相關(guān)企業(yè)進(jìn)行核檢，同時(shí)在企業(yè)對應(yīng)產(chǎn)品即將進(jìn)入社會(huì)前進(jìn)行詳盡的測試以及評估，規(guī)范審批流程，建立完善人工智能政府監(jiān)督體系，確保人工智能從開發(fā)到投入使用每個(gè)環(huán)節(jié)都做到可控可追溯問責(zé)。

3.3 政府投入

加大人工智能領(lǐng)域相關(guān)資源投入。如今世界各國高度重視人工智能的發(fā)展，美國將其上升到國家戰(zhàn)略層面并視為二十一世紀(jì)的阿波羅登月計(jì)劃，我國也在2017年正式印發(fā)《新一代人工智能發(fā)展規(guī)劃》，但我國目前還是強(qiáng)調(diào)技術(shù)與應(yīng)用，對人力資源、教育、標(biāo)準(zhǔn)、數(shù)據(jù)環(huán)境方面還是不夠重視。政府應(yīng)該加大投入，構(gòu)建利于研究的環(huán)境基礎(chǔ)，制定人工智能相關(guān)人才的教育和培訓(xùn)計(jì)劃，同時(shí)確定知識產(chǎn)權(quán)的歸屬，積極推動(dòng)有關(guān)措施的落實(shí)，培養(yǎng)并管理一大批未來的人工智能領(lǐng)域基礎(chǔ)層人才及高端研發(fā)人才，從源頭上規(guī)范人工智能的開發(fā)。

3.4 行業(yè)規(guī)標(biāo)

制定完善相關(guān)行業(yè)規(guī)范標(biāo)準(zhǔn)和指導(dǎo)方針，人工智能界應(yīng)該確定相關(guān)共識，當(dāng)人工智能出現(xiàn)進(jìn)化的趨勢或者給出相關(guān)的警告時(shí)，各國相應(yīng)的研究應(yīng)該放緩。同時(shí)國際人工智能聯(lián)合會(huì)議應(yīng)制定相關(guān)準(zhǔn)則，建立行業(yè)規(guī)范標(biāo)準(zhǔn)，同時(shí)為人工智能研發(fā)和審查人員制定倫理守則，發(fā)布倫理標(biāo)準(zhǔn)，不斷更新和完善阿西洛馬人工智能原則，呼吁督促全世界在研發(fā)人工智能的同時(shí)恪守這些原則。同時(shí)還應(yīng)該限制人工智能的運(yùn)用，避免人工智能的濫用，規(guī)定企業(yè)及個(gè)人相關(guān)的權(quán)限許可限制，與其他國際組織如公共交通國際聯(lián)會(huì)、國際勞工組織等展開相關(guān)合作，共同制定最高準(zhǔn)則，避免各國各企業(yè)研究院研發(fā)的人工智能與傳統(tǒng)行業(yè)無限制的結(jié)合發(fā)展。

圖1 人工智能政府治理監(jiān)管體系粗略模型

3.5 司法體系

制定完善相關(guān)法律制度，形成人工智能法律體系，現(xiàn)如今人類和人工智能之間復(fù)雜的關(guān)系、未來可能會(huì)打響的法律戰(zhàn)以及政策與倫理問題正接踵而來，人工智能對當(dāng)前的倫理道德標(biāo)準(zhǔn)、法律制度、社會(huì)秩序和意識形態(tài)差異提出了不可避免的挑戰(zhàn)，必須用科學(xué)的方法處理人工智能所產(chǎn)生的問題，將人工智能限制在法律道德層面，以確保人工智能的規(guī)范化發(fā)展。國家應(yīng)該積極出臺相關(guān)法律，規(guī)定人工智能事故的相關(guān)判斷標(biāo)準(zhǔn)及運(yùn)用人工智能犯罪的相關(guān)處罰條例。建立責(zé)任擔(dān)保歸屬制度和安全責(zé)任體系，規(guī)定企業(yè)必須提供相關(guān)安全信息，建立詳細(xì)的問責(zé)條例，同時(shí)人們必須積極了解，學(xué)會(huì)正確看待和對待人工智能，積極運(yùn)用法律來面對未來可能發(fā)生的糾紛，并且知法守法。

圖2 人工智能社會(huì)治理監(jiān)督體系模型

3.6 各司其職

面對即將到來的人工智能時(shí)代，不管是國際政府、市場還是普羅大眾都應(yīng)該在其中找準(zhǔn)自己的定位、各司其職。作為社會(huì)穩(wěn)定的必要因素，政府應(yīng)該牢牢把控人工智能的發(fā)展方向，確立一系列的標(biāo)準(zhǔn)和規(guī)范來保證社會(huì)的穩(wěn)定和安全。而作為研發(fā)人工智能的科技企業(yè)，應(yīng)該主動(dòng)承擔(dān)相應(yīng)的社會(huì)責(zé)任，自我監(jiān)督，恪守政府的相關(guān)規(guī)定和原則，同行之間形成監(jiān)督，并按照倫理道德的標(biāo)準(zhǔn)進(jìn)行自我約束。最后，作為社會(huì)的基層，普羅大眾應(yīng)該做好監(jiān)督人，積極參與規(guī)則的制定與協(xié)商，積極投身于人工智能的研發(fā)及監(jiān)管，最終形成人工智能自上而下多角度多主體的治理監(jiān)督體系。

4 結(jié)語

縱觀歷史，每個(gè)時(shí)代都會(huì)有新技術(shù)新事物的產(chǎn)生和發(fā)展，石器時(shí)代、火藥時(shí)代、蒸汽時(shí)代、電氣時(shí)代等等，還有如今的信息時(shí)代包括未來的人工智能時(shí)代，每項(xiàng)技術(shù)變革都會(huì)經(jīng)歷一個(gè)甚至多個(gè)時(shí)代的研究發(fā)展和管控。事實(shí)上美國人工智能協(xié)會(huì)已經(jīng)開始評估關(guān)于“人類失去對計(jì)算機(jī)智能的掌控”的可能性，人工智能作為一個(gè)不算新穎的新鮮事物，逐步的“管控”確實(shí)應(yīng)當(dāng)提上日程。但人類不必因此過于擔(dān)心。1950年圖靈發(fā)表了一篇論文提出了圖靈測試預(yù)言到2000年將有足夠聰明的機(jī)器通過該測試，但直到2014年才有一臺英國的超級計(jì)算機(jī)機(jī)緣巧合之下通過了，而這比圖靈預(yù)測的足足晚了14年，可見對于一日千里的計(jì)算機(jī)技術(shù)，人工智能的發(fā)展并沒有像預(yù)期的那樣取得突飛猛進(jìn)的效果[3]，事實(shí)上人工智能只是一種形式化的方法，它是在嚴(yán)格遵守某種規(guī)則下的“思維”，固然其執(zhí)行的速度比人類智能的速度更快，但是人類思維是多樣化的，有形象思維、直覺思維、創(chuàng)造性思維等非邏輯思維方法，這些都是目前人工智能所不及的，也許在可見的未來，人工智能真的可能發(fā)展到這一步，但人類非常善于制定與時(shí)俱進(jìn)的規(guī)則，他們通過錯(cuò)綜復(fù)雜的法律規(guī)則和不成文的道德規(guī)范建立起了這個(gè)有著七十億龐大人口的社會(huì)，盡管這個(gè)社會(huì)里依然存在著沖突和反抗，但不可否認(rèn)這個(gè)社會(huì)體系正如日中天的發(fā)展進(jìn)化著，我們擁有著遠(yuǎn)超任何時(shí)代的科技和成就，而在不久的未來，我們有理由相信通過建立不斷更新的規(guī)則來約束將帶來劃時(shí)代革命的人工智能，能使其像蒸汽電力甚至核能一樣可控地給人類社會(huì)提供巨大的助力，去迎接下個(gè)時(shí)代的輝煌。

[1]Ray Kurzweil.The Singularity Is Near：When Humans Transcend Biology [M].李慶陳，董振華.北京：機(jī)械工業(yè)出版社，2016：162

[2]Calum Chace.Surviving AI：The promise and peril of artificial intelligence[M].張堯然.北京：機(jī)械工業(yè)出版社，2017：112-114

[3]周志敏，紀(jì)愛華.人工智能：改變未來的顛覆性技術(shù)[M].北京：人民郵電出版社，2017：37