范文姝

社會(huì)治理智能化是適應(yīng)新時(shí)代社會(huì)建設(shè)和人工智能技術(shù)發(fā)展而提出的重大決策[1]。黨的十九大報(bào)告指出，提高社會(huì)治理社會(huì)化、法治化、智能化、專業(yè)化水平。其中，提高社會(huì)治理智能化水平，契合當(dāng)今時(shí)代信息化、智能化快速發(fā)展的實(shí)際。隨著互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能技術(shù)不斷取得新突破，要積極運(yùn)用現(xiàn)代智能技術(shù)，使其與經(jīng)濟(jì)融合并進(jìn)，推動(dòng)社會(huì)治理創(chuàng)新，進(jìn)一步加大社會(huì)治理的智能化水平。人工智能技術(shù)應(yīng)用于社會(huì)治理智能化建設(shè)，有助于社會(huì)治理手段的創(chuàng)新，有利于構(gòu)建共治共建共享的社會(huì)治理格局，全面提升社會(huì)治理智能化水平[2]。

實(shí)踐應(yīng)用

人工智能是由人類創(chuàng)造出來的機(jī)器智能，是對(duì)人的理論、方法、技術(shù)的延展和模擬[3]。當(dāng)前，人工智能已經(jīng)成功應(yīng)用于信息處理、決策選擇以及輔助治理等領(lǐng)域，未來，人工智能將深入社會(huì)治理領(lǐng)域并發(fā)揮作用。如通過智能攝像頭識(shí)別與跟蹤犯罪嫌疑人、查詢識(shí)別失蹤兒童等。在社會(huì)治理智能化發(fā)展過程中，人工智能可以推動(dòng)智能政務(wù)、智能法庭、智能城市、智能交通和智能環(huán)保等發(fā)展。在教育、醫(yī)療和養(yǎng)老等領(lǐng)域逐步加大人工智能的應(yīng)用力度和融合深度，可以促進(jìn)公共服務(wù)精準(zhǔn)化和均等化水平邁上新臺(tái)階。通過人工智能技術(shù)，可以對(duì)社會(huì)運(yùn)行的方方面面做出精準(zhǔn)的預(yù)測(cè)或預(yù)警，加強(qiáng)對(duì)公眾認(rèn)知心理變化的把握程度，進(jìn)而促進(jìn)社會(huì)治理水平和能力的進(jìn)步。如杭州是我國(guó)最早將人工智能應(yīng)用于社會(huì)治理的城市，杭州市政府借助阿里云人工智能技術(shù)，開發(fā)了可應(yīng)用于城市社會(huì)治理的人工智能中樞，也就是杭州市的“城市大腦”。杭州市政府將與城市社會(huì)治理相關(guān)的數(shù)據(jù)通過歸集、分類和平臺(tái)接入后，城市大腦平臺(tái)便可通過算法建模進(jìn)行快速分析，實(shí)時(shí)將結(jié)果傳入城市相關(guān)基礎(chǔ)設(shè)施，促進(jìn)公共資源優(yōu)化配置，實(shí)現(xiàn)城市智能運(yùn)行[4]。

風(fēng)險(xiǎn)與挑戰(zhàn)

人工智能為社會(huì)治理提供了全新的技術(shù)和思路，將人工智能運(yùn)用于社會(huì)治理，是降低治理成本，提升治理效率，減少干擾最直接、最有效的方式。因此，我們既要順應(yīng)人工智能的發(fā)展趨勢(shì)，把技術(shù)進(jìn)步與社會(huì)治理相結(jié)合，重視人工智能對(duì)社會(huì)治理的推動(dòng)作用，又要防范人工智能可能給社會(huì)治理帶來的新風(fēng)險(xiǎn)與新挑戰(zhàn)。

1.社會(huì)不公問題

在社會(huì)治理中應(yīng)用人工智能，必須考慮其可能帶來的社會(huì)不公問題。一是傳統(tǒng)就業(yè)崗位減少，社會(huì)失業(yè)率增加。隨著人工智能的快速發(fā)展，其應(yīng)用領(lǐng)域不斷增加，“機(jī)器換人”成為必然，導(dǎo)致某些領(lǐng)域就業(yè)崗位減少。根據(jù)影響程度不同，可以將人工智能帶來的威脅分為三個(gè)階段，近期的最大威脅是大量就業(yè)崗位消失。世界經(jīng)濟(jì)論壇發(fā)布的《2018年未來就業(yè)報(bào)告》顯示，目前平均71%的總?cè)蝿?wù)時(shí)間是由人類完成的，而由機(jī)器完成的這一比例只有29%。但是到了2022年，預(yù)計(jì)人類完成任務(wù)的時(shí)間將減少至58%，機(jī)器完成42%。二是薪資差異化嚴(yán)重。人工智能對(duì)經(jīng)濟(jì)發(fā)展和國(guó)家經(jīng)濟(jì)轉(zhuǎn)型起著至關(guān)重要的作用，是國(guó)家的戰(zhàn)略發(fā)展方向。而人工智能競(jìng)爭(zhēng)又以高端人才為根本，在推動(dòng)國(guó)家人工智能領(lǐng)域的發(fā)展上發(fā)揮著關(guān)鍵性作用。高學(xué)歷、高技能的人工智能人才相比于普通就業(yè)者擁有更高的薪酬收入。同時(shí)，高端技術(shù)的學(xué)習(xí)對(duì)人才的要求更高，且需要長(zhǎng)時(shí)間的精力投入，這加劇了人們的薪資收入及財(cái)富分配差距[5]。

2.公共安全問題

當(dāng)前我國(guó)社會(huì)主要矛盾已經(jīng)轉(zhuǎn)化為人民日益增長(zhǎng)的美好生活需要和不平衡不充分的發(fā)展之間的矛盾，這對(duì)國(guó)家治理能力與水平也提出了新的挑戰(zhàn)。在積極做好人工智能與國(guó)家公共服務(wù)體系融合的同時(shí)，也要關(guān)注因網(wǎng)絡(luò)信息安全導(dǎo)致的公共安全問題，以及人工智能對(duì)公共信息安全機(jī)制的影響：一是人工智能技術(shù)的底層核心是算法，其易受人為影響和控制，在運(yùn)行過程中，還可能出現(xiàn)程序紊亂和存在漏洞等情況，如果黑客攻擊成功，可能導(dǎo)致程序運(yùn)行錯(cuò)誤進(jìn)而引發(fā)公共安全問題[6]。二是由技術(shù)壟斷催生的國(guó)家公共信息安全威脅。人工智能開發(fā)者可能利用技術(shù)壟斷優(yōu)勢(shì)尋求私利，非法操縱智能應(yīng)用程序謀取私利，造成國(guó)家信息泄露等嚴(yán)重后果；而人工智能產(chǎn)品應(yīng)用者則處于被監(jiān)視的不利地位，應(yīng)用智能程序的治理主體和公民個(gè)體的隱私信息可能受到侵害，甚至涉及國(guó)家安全和公民個(gè)體的有關(guān)信息可能被轉(zhuǎn)移或出賣，給國(guó)家公共信息安全帶來潛在威脅。

3.法律困境問題

雖然人工智能技術(shù)發(fā)展日新月異，但與此相關(guān)的法律法規(guī)體系建設(shè)尚未跟上技術(shù)發(fā)展的步伐，存在立法缺位的問題。一是難以界定人工智能衍生產(chǎn)品的法律地位。作為人工智能衍生產(chǎn)品，機(jī)器人可以像自然人一樣思辨、行動(dòng)和判別，但其是否具備與自然人同等的法律地位，目前尚無定論?；谌斯ぶ悄芏鴦?chuàng)造的機(jī)器產(chǎn)品，與人類擁有生命權(quán)不同，其只具有使用壽命，且受人類的支配，法律權(quán)利和地位也應(yīng)低于人類。若突破現(xiàn)有的法律底線，可能給人類社會(huì)帶來巨大威脅。二是難以界定人工智能衍生產(chǎn)品的法律責(zé)任[7]。法律是道德的最后底線，人的行為受到法律約束和矯正，而人工智能產(chǎn)品是一種技術(shù)的創(chuàng)新和應(yīng)用，與自然人接受教育，擁有道德、倫理和良知等人性因素不同，人工智能產(chǎn)品只是程序執(zhí)行者，沒有良知和善惡判斷標(biāo)準(zhǔn)，也就不具備民事主體責(zé)任，所以應(yīng)當(dāng)明確使用者、銷售者以及制造者各自的責(zé)任。雖然人工智能產(chǎn)品具備一定的學(xué)習(xí)能力，能夠在一定條件下實(shí)現(xiàn)運(yùn)算和運(yùn)行的自主性，但其如果造成了安全事故發(fā)生，事故責(zé)任難以厘清。

4.倫理道德問題

人工智能被廣泛應(yīng)用后，一些原本由人處理、決策和控制的領(lǐng)域，改由人工智能產(chǎn)品替代執(zhí)行，由此導(dǎo)致人的主體責(zé)任開始缺失，人的方案和決策轉(zhuǎn)為機(jī)器意志代為執(zhí)行，那么在執(zhí)行過程中的合法性、合規(guī)性以及倫理性等都將受到影響，使原本清晰的倫理界限逐漸模糊。從一定程度上來說，人工智能產(chǎn)品歸根結(jié)底是代替人的意志在執(zhí)行社會(huì)治理工作，若程序算法的設(shè)計(jì)者存在思想道德問題，或嚴(yán)重的個(gè)人偏見和私利，那么人工智能產(chǎn)品在應(yīng)用中就可能存在偏差和不公，導(dǎo)致對(duì)使用者正當(dāng)權(quán)益造成侵害，或者對(duì)社會(huì)倫理產(chǎn)生侵害。

政策建議

“共建共治共享”的社會(huì)治理原則要求人工智能應(yīng)用于社會(huì)治理時(shí)，必須堅(jiān)持人工智能的共有屬性，堅(jiān)決遏制私有屬性，并在開發(fā)過程中以公共性和社會(huì)性為基礎(chǔ)品格，以人工智能助推社會(huì)治理能力現(xiàn)代化[8]。

1.加強(qiáng)對(duì)社會(huì)不公風(fēng)險(xiǎn)的評(píng)估，做好全民人工智能教育

一是在推動(dòng)社會(huì)治理與人工智能技術(shù)融合過程中，針對(duì)人工智能技術(shù)在社會(huì)治理中應(yīng)用帶來的社會(huì)不公、社會(huì)矛盾激化等風(fēng)險(xiǎn)，要兼顧效益和公平，進(jìn)行科學(xué)、全面評(píng)估，做好應(yīng)對(duì)預(yù)案。二是關(guān)注人工智能技術(shù)應(yīng)用導(dǎo)致的貧富差距進(jìn)一步加大的問題。政府要嚴(yán)格遵循和貫徹“共建共享共治”原則，通過教育培訓(xùn)等手段，全面提高公民在人工智能方面的知識(shí)和素養(yǎng)，積極推動(dòng)全民共享人工智能技術(shù)帶來的紅利，以此提高社會(huì)治理智能化水平。

2.構(gòu)建人工智能公共安全突發(fā)事件的監(jiān)管體系和應(yīng)對(duì)預(yù)案

一是積極組織專門力量統(tǒng)籌建立人工智能公共安全突發(fā)事件監(jiān)管體系。建議圍繞人工智能技術(shù)建立統(tǒng)一的質(zhì)量和監(jiān)管標(biāo)準(zhǔn)，統(tǒng)籌規(guī)劃和建立行業(yè)、監(jiān)管機(jī)構(gòu)一致認(rèn)可的道德和行為規(guī)范，對(duì)人工智能不應(yīng)涉足的開發(fā)領(lǐng)域明確禁止。隨著人工智能參與的領(lǐng)域越來越廣，當(dāng)信息安全遭遇非法利用時(shí)，需要通過立法來明確追訴和問責(zé)制度，以及人工智能應(yīng)用涉及到的民事和刑事責(zé)任確認(rèn)。建議建立貫穿人工智能產(chǎn)品（包括算法和數(shù)據(jù)使用）從設(shè)計(jì)開發(fā)到投入使用全流程的監(jiān)管制度，對(duì)于國(guó)家機(jī)關(guān)和政府在使用智能系統(tǒng)過程中生成的數(shù)據(jù)信息，應(yīng)當(dāng)保障公眾對(duì)其享有知情權(quán)。二是模擬人工智能應(yīng)用復(fù)雜場(chǎng)景下可能出現(xiàn)的公共安全危機(jī)突發(fā)事件，制定各類應(yīng)對(duì)預(yù)案。

3.界定人工智能應(yīng)用的法律邊界

一是采用立法形式明確人工智能開發(fā)的邊界。在社會(huì)層面，積極引導(dǎo)和鼓勵(lì)提供基礎(chǔ)服務(wù)的人工智能，對(duì)于增強(qiáng)型的人工智能應(yīng)當(dāng)采取謹(jǐn)慎和保守的態(tài)度加以限制，以立法的方式明確禁止開發(fā)超級(jí)智能。對(duì)于人工智能不應(yīng)涉足的開發(fā)禁區(qū)，應(yīng)由政府和行業(yè)利益相關(guān)者一致確定，并共同商討和制定法律標(biāo)準(zhǔn)，對(duì)造成的損害要明確應(yīng)承擔(dān)的法律責(zé)任。二是做好人工智能產(chǎn)品倫理和安全風(fēng)險(xiǎn)評(píng)估的立法工作。在圍繞人工智能技術(shù)開展立法建設(shè)的過程中，可以借鑒發(fā)達(dá)國(guó)家在人工智能方面的法制建設(shè)經(jīng)驗(yàn)，積極推動(dòng)我國(guó)在人工智能產(chǎn)品倫理和安全風(fēng)險(xiǎn)評(píng)估等方面的立法工作，確保自然人權(quán)益不受傷害，維護(hù)國(guó)家和社會(huì)的共同利益。

4.強(qiáng)化對(duì)人工智能開發(fā)的合規(guī)監(jiān)管

一是要求開發(fā)企業(yè)建立合規(guī)部門。在制度層面，政府部門應(yīng)要求相關(guān)開發(fā)企業(yè)建立合規(guī)部門，做好人工智能應(yīng)用在開發(fā)方面的合規(guī)工作，政府要與開發(fā)企業(yè)簽訂相關(guān)的法律文書，讓開發(fā)企業(yè)明白如果公眾權(quán)益遭到損害時(shí)，所要承擔(dān)的法律責(zé)任。二是加強(qiáng)對(duì)人工智能開發(fā)從業(yè)者的倫理道德教育，在開發(fā)過程中本著對(duì)社會(huì)公眾有益的原則進(jìn)行研發(fā)。