2017年是人工智能迅猛發(fā)展的一年,技術(shù)在進步,不斷取得突破,各行各業(yè)都在和人工智能技術(shù)相結(jié)合。2017年也是人工智能公共政策異常熱鬧的一年,各國的人工智能戰(zhàn)略還在持續(xù)出臺,自動駕駛、算法規(guī)制、人工智能倫理等細分領(lǐng)域的政策、立法、標準在政府、科研機構(gòu)、行業(yè)公司等多層面逐步展開。
人工智能有望引領(lǐng)一場新技術(shù)革命,帶來全新的或者更深層次的法律、倫理、經(jīng)濟等社會制度影響和問題,因此需要搭建起政策和技術(shù)之間交流溝通的橋梁和連接,及早讓跨學科、多元化的參與者共同來推動普惠的人工智能發(fā)展,確保人工智能能夠有益于人類社會。
為此,騰訊研究院法律研究中心對2017年全球人工智能政策進行了盤點,梳理出了具有業(yè)內(nèi)影響力和引領(lǐng)作用的十大政策,為國內(nèi)人工智能政策研究提供參考的同時,也希望有更多跨學科、多背景的人員參與到人工智能政策法律的討論和制定中來,共同實現(xiàn)智能網(wǎng)絡社會的包容性、普惠性和可持續(xù)性。
【概要】2017年1月,未來生命研究院(FLI)召開主題為“有益的人工智能(Beneficial AI)”的阿西洛馬會議。法律、倫理、哲學、經(jīng)濟、機器人、人工智能等眾多學科和領(lǐng)域的專家,共同達成了23條人工智能原則,呼吁全世界在發(fā)展人工智能的時候嚴格遵守這些原則,共同保障人類未來的利益和安全。包括霍金、伊隆·馬斯克、德米斯·哈薩比斯等在內(nèi)的近四千名各界專家簽署支持這些原則。
【評析】人工智能的發(fā)展引起了國際社會對于倫理問題的關(guān)注,阿西洛馬人工智能原則被稱為人工智能發(fā)展的“23條軍規(guī)”,是目前國際社會對AI倫理相對系統(tǒng)的闡述,具有較大的影響力。但該倫理原則尚處于初期階段,很多問題缺乏廣泛的共識,需要進一步探索。我國尚無類似倫理指南,應積極構(gòu)建人工智能倫理指南,發(fā)揮引領(lǐng)作用,推動普惠和有益人工智能發(fā)展。
【概要】1月12日,美國計算機協(xié)會下屬美國公共政策委員會發(fā)布文件,在其中闡述了關(guān)于算法透明和可責性的七條原則。七大原則分別為:(1)意識:相關(guān)主體應意識到算法中可能存在的偏見及潛在危害。(2)獲取和救濟:對算法決策提出質(zhì)疑并獲得救濟。(3)責任制:即使無法詳細解釋算法如何產(chǎn)生結(jié)果,機構(gòu)也應對其所使用算法的決策負責。(4)解釋:鼓勵使用算法決策的組織和機構(gòu)對算法所遵循的程序和所做出的具體決策進行解釋。(5)數(shù)據(jù)來源:算法的構(gòu)建者應該對訓練數(shù)據(jù)的收集加以描述。(6)可審查性:模型、算法、數(shù)據(jù)和決策應被記錄,以便在懷疑有損害的情況下對其進行審查。(7)驗證和測試:機構(gòu)應使用嚴格的方法來驗證其模型,并記錄方法和結(jié)果。
【評析】隨著人工智能的發(fā)展,算法歧視與算法黑箱的問題逐步進步公眾視野。出于包括技術(shù)、經(jīng)濟和社會等在內(nèi)的很多因素,算法所作出的決策可能是不透明的。該項原則的發(fā)布是解決算法歧視問題的初步嘗試,相信后續(xù)會有更多的致力于解決算法歧視的公共政策出臺,以盡量減少潛在的危害。
【概要】2月16日,歐盟議會投票通過一項決議,就制定《機器人民事法律規(guī)則》提出具體建議,并要求歐盟委員會提交關(guān)于機器人和人工智能民事責任的法律提案。決議提出諸多制度:成立統(tǒng)一的機器人和人工智能監(jiān)管機構(gòu);針對更高級的機器人建立登記制度;引入電子人格以促進自主智能機器人(尤其是無形AI)的登記、保險和管理;提出強制保險、賠償基金等新的責任規(guī)則;提出倫理原則和《機器人憲章》以保障負責任的創(chuàng)新;針對計算機和機器人生成的可版權(quán)作品界定“獨立智力創(chuàng)造”標準以明確AI智力成果的知識產(chǎn)權(quán)保護。
【評析】歐盟是以法律理性保障公民權(quán)利的典范,對新技術(shù)和新事物的立法和監(jiān)管探索,走在世界前列。但創(chuàng)新與監(jiān)管歷來存在緊張關(guān)系,需要維持一種平衡狀態(tài)。人工智能有望引領(lǐng)新技術(shù)革命,對人類社會方方面面產(chǎn)生重大影響,其監(jiān)管應當包容、審慎,結(jié)合實際發(fā)展和應用逐步探索。
【概要】2017年6月,德國交通部下屬的倫理委員會發(fā)布一份《自動和聯(lián)網(wǎng)駕駛》報告,在其中提出了自動駕駛汽車需要遵守的20條倫理規(guī)則。這些倫理規(guī)則的核心內(nèi)容包括:(1)保護個人優(yōu)先于其他一切功利主義的考慮;(2)當危險情況不能避免時,保護人類生命優(yōu)先于其他法律利益,為了避免造成人員傷亡,可以給動物或者財產(chǎn)造成損害,這在編程上是被允許的;(3)道德困境之下的決策依賴于現(xiàn)實的具體情況,不可能被清楚地標準化,因此也不可能被事先編程;(4)在面對不可避免的事故時,禁止基于人身特征(年齡、性別、生理或者心理狀況等)進行歧視,同時不得犧牲不相關(guān)方。
【評析】人工智能倫理是2017年的熱點,很多討論都設(shè)定在自動駕駛的場景,包括MIT自動駕駛道德決策在線問卷、IEEE倫理白皮書和標準等等。但德國系統(tǒng)提出自動駕駛的20條倫理規(guī)則在全球范圍內(nèi)尚屬首次。德國連同美國、英國等的自動駕駛汽車政策說明在自動駕駛領(lǐng)域規(guī)則先行的重要性。但倫理規(guī)則的探索要避免給產(chǎn)業(yè)套上緊箍咒,阻礙創(chuàng)新。
【概要】7月20日,國務院正式印發(fā)了《新一代人工智能發(fā)展規(guī)劃》,從戰(zhàn)略態(tài)勢、總體要求、資源配置、立法、組織等各個層面闡述了我國人工智能發(fā)展規(guī)劃。規(guī)劃提出到2020年,我國人工智能總體技術(shù)和應用與世界先進水平同步;到2025年基礎(chǔ)理論實現(xiàn)重大突破;到2030年人工智能理論、技術(shù)與應用總體均達到世界領(lǐng)先水平,我國將成為世界主要人工智能創(chuàng)新中心。
【評析】近年來,越來越多的國家認同人工智能將帶來下一次產(chǎn)業(yè)革命,美國、英國、歐盟、加拿大、日韓等國家和地區(qū)都提出了各自人工智能戰(zhàn)略。《新一代人工智能發(fā)展規(guī)劃》,是中國繼美國人工智能國家戰(zhàn)略發(fā)布后在人工智能領(lǐng)域的頂層設(shè)計和戰(zhàn)略部署。與各國戰(zhàn)略相比,我國規(guī)劃突出強調(diào)技術(shù)與應用,而相對淡化人工智能發(fā)展的其他方面或問題,包括人力資源與教育、標準、數(shù)據(jù)環(huán)境等。在AI立法與促進、教育與人才培養(yǎng)、AI帶來問題應對等諸多方面,我們也應該積極探索,不僅提升“硬實力”,也要提升“軟實力”,從追隨者走向引領(lǐng)者。
【概要】7月19日,韓國國會議員提出《機器人基本法案》,旨在確定機器人相關(guān)倫理和責任的原則,應對機器人技術(shù)的發(fā)展帶來的社會變化。法案規(guī)定政府應制定政策,賦予機器人具有相應權(quán)利義務的電子人格地位,對機器人進行分類、調(diào)查和登記,確定機器人導致的損害的責任和賠償方案。法案專設(shè)“機器人倫理規(guī)范”章節(jié),明確機器人的相關(guān)倫理原則。此外,法案設(shè)立專門的國家機器人倫理政策委員會,每三年制定和修改機器人相關(guān)政策立法。
【評析】2008年,韓國出臺《智能機器人法》,促進機器人產(chǎn)業(yè)發(fā)展。2017年的該法案更加集中地討論機器人的法律問題并積極關(guān)注機器人的倫理規(guī)范。但是,由于該法案中的很多立法內(nèi)容是對韓國現(xiàn)有法律框架的突破性嘗試,目前該法案在韓國進展緩慢,有待韓國立法部門及其他相關(guān)部門進一步討論。
【概要】9月6日,美國國會眾議院通過一部自動駕駛法案(SELF DRIVE ACT);9月28日,美國國會參議院提出另一部自動駕駛法案(AV START ACT)。兩部法案略有差異,預計2018年將獲美國國會兩院正式通過,成為法律。法案旨在促進自動駕駛技術(shù)和汽車發(fā)展,規(guī)定美國聯(lián)邦對自動駕駛汽車設(shè)計、制造和性能的立法優(yōu)先權(quán),允許自動駕駛汽車在公共道路上測試,顯著增加自動駕駛汽車豁免的數(shù)量并逐年提高,成立自動駕駛汽車委員會探索自動駕駛汽車安全標準。此外,還包括網(wǎng)絡安全、隱私保護、消費者教育等方面的規(guī)定。
【評析】美國國會正在推動的自動駕駛汽車法案可以說是全球范圍內(nèi)首個重大的自動駕駛汽車立法,不僅僅會對美國自動駕駛汽車技術(shù)和產(chǎn)業(yè)產(chǎn)生重大影響,而且會給世界其他國家和地區(qū)產(chǎn)生示范效應。該法案預計將在2018年通過,結(jié)束美國各州對自動駕駛技術(shù)和汽車的碎片化監(jiān)管狀況。該法案受到了美國科技公司的普遍歡迎,也說明了法律的作用不僅僅是限制,而是可以促進甚至加速創(chuàng)新進程。
【概要】10月16日,愛沙尼亞政府公布人工智能法案,考慮賦予人工智能法律地位,使其成為人類的代理人,并確定其在事故中的責任問題。法案提出,目前人工智能的法律地位應介于獨立法律人格(比如公司)和無法律地位的財產(chǎn)之間。政府希望通過該法案賦予人工智能以代理權(quán),但最終的法律權(quán)利與義務由被代理人承擔。
【評析】該法案是全球范圍內(nèi)考慮賦予人工智能代理人法律地位的重要立法,雖然法案還在討論階段,但對于未來各國探索人工智能的法律地位具有積極的借鑒意義。愛沙尼亞國內(nèi)評估機構(gòu)認為該法案如果能夠通過,可以進一步促進愛沙尼亞本國經(jīng)濟的數(shù)字化發(fā)展,吸引投資,為人類免除簡單的重復性勞動。此外,愛沙尼亞國內(nèi)也在探討未來是否給予人工智能獨立的法律地位更為合適,但是其國內(nèi)的技術(shù)專家從人工智能技術(shù)發(fā)展的角度認為目前還為時過早。
【概要】12月11日,紐約市議會通過了算法問責法案,以解決算法歧視問題,該法案需要市長簽署后才能正式生效。根據(jù)該法案,紐約市將成立一個由自動化決策系統(tǒng)專家和受自動化決策系統(tǒng)影響的公民組織代表組成的工作組,專門監(jiān)督市政機構(gòu)使用的自動決策算法的公平性、問責性和透明度。該小組負責推動政府決策算法開源,使公眾了解市政機構(gòu)自動化決策的過程,并就如何改進算法問責制和避免算法歧視提出建議。
【評析】該法案是美國規(guī)制算法的重要立法。隨著人工智能技術(shù)不斷發(fā)展,美國的自動化決策系統(tǒng)逐漸進入政府決策和司法應用領(lǐng)域。該法案所提倡的促進政府自動決策算法的公開透明和可解釋性,將促進政府決策中的算法的可信度,為其他國家和地區(qū)制定人工智能算法監(jiān)管規(guī)則提供了有益借鑒。
【概要】12月12日,電氣電子工程師學會(IEEE)發(fā)布《人工智能設(shè)計的倫理準則(第二版)》。新版人工智能倫理準則進一步豐富了倫理事項,涵蓋一般原則、價值嵌入、研究和設(shè)計的倫理方法、AGI和ASI的安全、個人數(shù)據(jù)、自主武器、經(jīng)濟和人道主義問題、法律、情感計算、教育和知悉的政策、經(jīng)典倫理問題、混合現(xiàn)實、福祉指標等13個方面,并針對這些倫理事項提出了具體的建議,比如在法律方面,認為當前技術(shù)發(fā)展還不足以賦予人工智能法律地位。這些建議可以給后續(xù)標準制定等政策工作提供參考。
【評析】第二版準則將人工智能倫理事項從9個方面擴充到了13個方面,是來自于學術(shù)界、產(chǎn)業(yè)界、社會研究領(lǐng)域、政策研究領(lǐng)域以及政府部門的,具有技術(shù)、人文等多學科背景的數(shù)百名參與者達成的共識,是全球范圍內(nèi)系統(tǒng)、全面闡述人工智能倫理問題的重要文件,并在不斷發(fā)展和完善。人工智能倫理準則可以給IEEE正在推動的11個與人工智能倫理相關(guān)的標準制定提供建議。兩者配合,有望將人工智能倫理從抽象原則落實到具體的技術(shù)研發(fā)和設(shè)計。但是,其中的倫理要求能否在技術(shù)層面真正實現(xiàn),當前還存在爭議,需要更多探索。