朱子葉

摘要：人工智能技術(shù)的快速發(fā)展，推動(dòng)了公共管理方式創(chuàng)新，同時(shí)產(chǎn)生一定應(yīng)用風(fēng)險(xiǎn)，如基礎(chǔ)設(shè)施層、算法層、應(yīng)用層出現(xiàn)的部分風(fēng)險(xiǎn)。本文就人工智能在公共管理中應(yīng)用的風(fēng)險(xiǎn)探析。

關(guān)鍵詞：人工智能;公共管理;應(yīng)用風(fēng)險(xiǎn)

1.引言

人工智能在公共管理應(yīng)用初期，管理者不僅需發(fā)掘新技術(shù)的應(yīng)用紅利，同時(shí)需對(duì)新技術(shù)的應(yīng)用風(fēng)險(xiǎn)進(jìn)行評(píng)估，及時(shí)對(duì)其風(fēng)險(xiǎn)漏洞進(jìn)行處理，保證公共管理工作的整體開展安全性與可靠性。為達(dá)到人工智能技術(shù)預(yù)期應(yīng)用價(jià)值，需對(duì)其應(yīng)用風(fēng)險(xiǎn)進(jìn)行針對(duì)性分析，進(jìn)而合理優(yōu)化完善。

2.基礎(chǔ)設(shè)施層，數(shù)據(jù)安全風(fēng)險(xiǎn)

在現(xiàn)代社會(huì)公共管理過程中，人工智能技術(shù)主要依靠基礎(chǔ)設(shè)施，即大數(shù)據(jù)平臺(tái)、儲(chǔ)存平臺(tái)、調(diào)度系統(tǒng)、運(yùn)算系統(tǒng)。通過對(duì)公共大數(shù)據(jù)進(jìn)行分析可知，海量的公共大數(shù)據(jù)、高質(zhì)量、多領(lǐng)域的數(shù)據(jù)資料，則可以客觀真實(shí)的反饋公共事務(wù)的復(fù)雜關(guān)系，進(jìn)而訓(xùn)練得出高精度的智能算法，為公共管理提供真實(shí)、可行、客觀的分析參考結(jié)果。為達(dá)到預(yù)期公共管理效果，需在實(shí)際公共管理過程中，將相關(guān)公共信息進(jìn)行量化處理，為人工智能處理提供數(shù)據(jù)支持[1]。

如政府進(jìn)行智慧政務(wù)平臺(tái)搭建時(shí)，需對(duì)政務(wù)工作開展模式進(jìn)行改革創(chuàng)新，合理應(yīng)用現(xiàn)代網(wǎng)絡(luò)信息技術(shù)，使得用戶“足不出戶”利用手機(jī)終端完成事務(wù)辦理，而用戶開展政務(wù)辦理時(shí)，則會(huì)產(chǎn)生一定公共數(shù)據(jù)，智慧政務(wù)平臺(tái)將對(duì)數(shù)據(jù)信息進(jìn)行收集整理。部分政務(wù)系統(tǒng)管理時(shí)，設(shè)定人臉識(shí)別閘機(jī)，預(yù)先對(duì)政務(wù)工作人員的人臉信息進(jìn)行采集，將其個(gè)人信息轉(zhuǎn)化為代碼程序，為后續(xù)政務(wù)系統(tǒng)運(yùn)行鋪墊基礎(chǔ)。2020年伊始出現(xiàn)的新冠疫情，給公共事務(wù)開展造成直接沖擊，為保證社會(huì)公共服務(wù)的正常運(yùn)行，相關(guān)公共服務(wù)部門推出在線辦公、在線會(huì)議等工作模式，加速了公共管理實(shí)踐決策端到服務(wù)端的轉(zhuǎn)變。

3.算法層，風(fēng)險(xiǎn)解析

3.1算法監(jiān)管風(fēng)險(xiǎn)

在算法層運(yùn)行過程中，由于監(jiān)管力度不足，導(dǎo)致算法監(jiān)管風(fēng)險(xiǎn)的增加，如部分地區(qū)的無人駕駛、無人售貨、隱私合規(guī)等，給市場(chǎng)運(yùn)行監(jiān)管造成一定難度。因?yàn)?，人工智能在公共管理工作中?yīng)用時(shí)，將出現(xiàn)產(chǎn)品許可、研發(fā)監(jiān)督、侵權(quán)責(zé)任等不同監(jiān)管問題。

在人工智能技術(shù)研發(fā)過程中，可能會(huì)涉及到技術(shù)專利，因此使得外部人員介入監(jiān)管的成本非常高昂，無法在算法出現(xiàn)重大問題前進(jìn)行預(yù)防，給公共管理工作造成一定影響。由于智能算法的設(shè)計(jì)特殊性，無法簡(jiǎn)要進(jìn)行設(shè)計(jì)程序解釋，導(dǎo)致智能算法監(jiān)管工作出現(xiàn)短板。人工智能算法運(yùn)行時(shí)，算法運(yùn)算與推理機(jī)制都處于密封的“黑盒”當(dāng)中，公共管理人員與監(jiān)管方案只可以輸入數(shù)據(jù)，由算法進(jìn)行自主訓(xùn)練，直到最終輸出數(shù)據(jù)運(yùn)算結(jié)果，而監(jiān)管方與管理方，則無法了解算法的訓(xùn)練學(xué)習(xí)模式與內(nèi)在邏輯體系。鑒于算法黑盒運(yùn)行過程的不可解釋性，無法滿足公共管理的監(jiān)管基本要求，使得算法結(jié)果的整體可靠性與可信度降低[2]。

3.2算法偏見風(fēng)險(xiǎn)

在算法輸入大數(shù)據(jù)平臺(tái)時(shí)，可能會(huì)帶有一定算法偏見，而公共管理部門無法覺察到算法偏見，導(dǎo)致部分信息量輸入到智能算法系統(tǒng)當(dāng)中，算法程序則會(huì)對(duì)輸入的數(shù)據(jù)信息進(jìn)行深度挖掘，使得人工智能“學(xué)習(xí)”過程中產(chǎn)生一定算法偏見，該偏見問題的存在，將導(dǎo)致人工智能做出錯(cuò)誤判斷，進(jìn)而衍生出算法偏見風(fēng)險(xiǎn)。

算法設(shè)計(jì)者精心設(shè)計(jì)的算法系統(tǒng)，本人認(rèn)為算法系統(tǒng)完美無缺，但由于智能算法沒有得到同行專家審查，并沒有對(duì)算法的偏見性進(jìn)行考察，且未設(shè)計(jì)抵御偏見算法的相關(guān)機(jī)制，導(dǎo)致算法偏見風(fēng)險(xiǎn)一旦出現(xiàn)，則無法進(jìn)行很好解決。在實(shí)際算法應(yīng)用過程中，工程師將目標(biāo)任務(wù)轉(zhuǎn)化為智能算法可識(shí)別的程序代碼，在代碼程序設(shè)定時(shí)，將具有很強(qiáng)的主觀意識(shí)，進(jìn)而導(dǎo)致輸出結(jié)果受到一定影響。在算法程序設(shè)定過程中，出資利益集團(tuán)為保證核心利益，將引導(dǎo)算法出現(xiàn)一定偏好，導(dǎo)致智能算法成為資本操控與政治內(nèi)嵌的助手，進(jìn)而對(duì)公共管理系統(tǒng)進(jìn)行操控，引導(dǎo)人民大眾的盲目信任，不利于社會(huì)可持續(xù)穩(wěn)定發(fā)展。

3.3技術(shù)精度風(fēng)險(xiǎn)

人工智能技術(shù)基于特殊算法形成應(yīng)用價(jià)值，但由于算法技術(shù)方案的差異性，無法保證算法方案的可靠性，導(dǎo)致算法層，出現(xiàn)技術(shù)精度風(fēng)險(xiǎn)。在人工智能技術(shù)開發(fā)過程中，基于實(shí)驗(yàn)室的良好條件完成算法運(yùn)行，但并不表示算法技術(shù)方案，在現(xiàn)實(shí)復(fù)雜環(huán)境中應(yīng)用具有一定可靠性。由此可見，人工智能技術(shù)的應(yīng)用穩(wěn)定性仍需考證。

在公共管理服務(wù)合作過程中，由于合作雙方的視域鴻溝，導(dǎo)致無法對(duì)人工智能技術(shù)穩(wěn)定性與可靠性進(jìn)行全面評(píng)估，給后續(xù)公共管理工作埋下安全隱患。同時(shí)，公共管理部門缺乏技術(shù)創(chuàng)新意識(shí)，沒有打造核心工程師團(tuán)隊(duì)，導(dǎo)致無法對(duì)人工智能技術(shù)進(jìn)行科學(xué)評(píng)估，進(jìn)而引發(fā)人工智能技術(shù)精度風(fēng)險(xiǎn)。

4.應(yīng)用層，風(fēng)險(xiǎn)剖析

公共管理應(yīng)用層出現(xiàn)的風(fēng)險(xiǎn)，主要是基礎(chǔ)設(shè)施層與算法層，產(chǎn)生的風(fēng)險(xiǎn)傳導(dǎo)形成應(yīng)用層風(fēng)險(xiǎn)。筆者以隱私泄露風(fēng)險(xiǎn)為例分析，基礎(chǔ)設(shè)施層的用戶隱私數(shù)據(jù)，遭到黑客攻擊后，將可能受到算法層相關(guān)利益集團(tuán)的操控，對(duì)用戶的隱私進(jìn)行截取，導(dǎo)致用戶應(yīng)用隱私不斷泄漏。

5.結(jié)束語

綜上，文中對(duì)人工智能技術(shù)，在公共管理中的應(yīng)用風(fēng)險(xiǎn)進(jìn)行分析。筆者基于基礎(chǔ)設(shè)施層、算法層、應(yīng)用層進(jìn)行風(fēng)險(xiǎn)闡述，旨在說明人工智能技術(shù)應(yīng)用的實(shí)際效果。未來人工智能技術(shù)應(yīng)用過程中，應(yīng)當(dāng)對(duì)人工智能技術(shù)進(jìn)行不斷完善，保證人工智能技術(shù)應(yīng)用的可靠性與安全性，推動(dòng)我國人工智能技術(shù)的可持續(xù)發(fā)展，使其發(fā)揮出一定社會(huì)公共服務(wù)價(jià)值。

參考文獻(xiàn)：

[1]胡象明，陳一帆.人工智能在公共管理中應(yīng)用的風(fēng)險(xiǎn)分析[J].科技智囊，2020（01）：66-70.

[2]鮑源濤.淺談人工智能在公共管理中的應(yīng)用[J].中國新通信，2019，21（01）：138.