于文軒

(廈門大學(xué) 公共政策研究院，福建 廈門 361005)

一、引言

第四次工業(yè)革命呼嘯而來，其核心就是信息技術(shù)和人工智能技術(shù)對生產(chǎn)工具、生產(chǎn)方式和生產(chǎn)關(guān)系的巨大變革。人工智能及其核心技術(shù)組成部分的機器學(xué)習(xí)技術(shù)在公共管理領(lǐng)域已經(jīng)開始得到了廣泛的應(yīng)用。人工智能和機器學(xué)習(xí)技術(shù)在公共管理領(lǐng)域應(yīng)用的潛力和對政府決策質(zhì)量、行政管理效率和治理效能的提升已經(jīng)成為國內(nèi)外公共管理學(xué)界的熱門話題和研究焦點。學(xué)者們普遍認(rèn)為人工智能具有巨大潛力，不僅可以在常規(guī)和程序性的政務(wù)服務(wù)中使用，在其他更加復(fù)雜的行政裁量環(huán)境和決策環(huán)節(jié)也大有用武之地。在包括公共安全、交通、醫(yī)療、智慧城市、環(huán)境治理等領(lǐng)域，人工智能技術(shù)已在和將會發(fā)生巨大作用[1-4]。此次抗擊新型冠狀病毒肺炎疫情過程中人工智能技術(shù)的應(yīng)用，受到了普遍關(guān)注。后疫情時代人工智能在公共管理各場景里的應(yīng)用將會更加廣泛，對傳統(tǒng)政府和社會的關(guān)系以及政府治理手段將產(chǎn)生巨大沖擊和革命性的變化[5]。

當(dāng)前，中國國內(nèi)公共管理學(xué)者對人工智能和互聯(lián)網(wǎng)科技對公共管理的影響從正面及科技賦能角度的關(guān)注較多。雖然有少數(shù)例外[6-8]，但整體上國內(nèi)公共管理學(xué)界對人工智能技術(shù)對公共管理的挑戰(zhàn)分析和反思的較少。文章將結(jié)合已有文獻(xiàn)，探討人工智能對公共管理的挑戰(zhàn)，特別指出，人工智能只是一個 工具，人工智能技術(shù)并沒有樂觀主義者想象的那么完美，人工智能技術(shù)也沒有悲觀主義者想象的那么可怕，公共管理者需要對人工智能技術(shù)的本質(zhì)、發(fā)展有充分的了解和認(rèn)識，在利用人工智能的同時，充分認(rèn)識公共管理過程是個政治過程，對人工智能技術(shù)代表的價值觀有充分認(rèn)識，在公共價值和技術(shù)價值之間尋找平衡。

二、人工智能對人文與社會的挑戰(zhàn)

盡管人工智能及其應(yīng)用當(dāng)前是一個非常熱門的話題，然而人工智能并不是什么新奇的新發(fā)明。不管是在西方還是東方文明里，人們早就有關(guān)于人工智能的傳說和想象。例如，在德國西南部的斯泰德地區(qū)發(fā)現(xiàn)了4萬年前的獅人象牙雕塑；中國古代神話傳說中的哪吒即是古人人工智能想象的體現(xiàn)。這些虛構(gòu)之物不是肉身，但是有人的思想、智力和情感。就現(xiàn)在的人工智能技術(shù)而言，人工智能也不是最近才發(fā)展起來的，現(xiàn)代人工智能技術(shù)是隨著計算機技術(shù)的發(fā)展而發(fā)展的。1956年，美國計算機科學(xué)家提出“人工智能”(Artificial Intelligence，AI)這一概念，開啟了人工智能作為一門獨立研究領(lǐng)域的大門。20世紀(jì)60年代初，人工智能概念提出后，以邏輯學(xué)為基礎(chǔ)，取得了一定的成果和社會關(guān)注度。之后，整個60年代，人工智能在更高的期望下，以邏輯學(xué)為基礎(chǔ)的研究方法走進(jìn)了死胡同。20世紀(jì)70年代，隨著專家系統(tǒng)的引入，人工智能研究掀起了應(yīng)用的新熱度。20世紀(jì)80年代，由于人工智能應(yīng)用范圍和規(guī)模的擴大，專家系統(tǒng)無法滿足人們對人工智能的需求和新要求，整個人工智能研究和應(yīng)用進(jìn)入低谷期。20世紀(jì)90年代以來，隨著互聯(lián)網(wǎng)時代的到來，巨型計算機和互聯(lián)網(wǎng)技術(shù)的大發(fā)展，使得人工智能技術(shù)取得了推動力。1997年，IBM公司的深藍(lán)超級計算機戰(zhàn)勝了國際象棋世界冠軍卡斯帕羅夫，讓大眾開始關(guān)注人工智能技術(shù)。2011年開始，以大數(shù)據(jù)和深度神經(jīng)網(wǎng)絡(luò)為代表的人工智能技術(shù)取得了突破。人工智能技術(shù)在圖像分類識別、語音識別、人機對弈、無人駕駛等領(lǐng)域開始取得大發(fā)展，并得以廣泛應(yīng)用。

人工智能技術(shù)的發(fā)展，也開始讓人們對人工智能可能給人類帶來的威脅產(chǎn)生恐懼和不安。2018年11月，美國新聞媒體報道Facebook的工程師用計算機進(jìn)行協(xié)商和討價還價的研究，結(jié)果發(fā)現(xiàn)，計算機之間的交流和對話，工程師已經(jīng)不能理解了。報道一出，輿論嘩然。盡管Facebook后來解釋說這是計算機程序出了漏洞、出了亂碼，但是，公眾對人工智能進(jìn)一步發(fā)展可能出現(xiàn)的狀況的恐懼和擔(dān)心并沒有得到消減。隨著統(tǒng)計學(xué)、數(shù)學(xué)和計算機科學(xué)的發(fā)展，圖靈獎得主Pearl教授帶領(lǐng)他的團(tuán)隊，已經(jīng)開始可以讓計算機進(jìn)行因果推斷[9]。如果計算機能像人一樣進(jìn)行因果推斷，那么計算機具有真正的人工智能就為期不遠(yuǎn)了。盡管有計算機專家稱，現(xiàn)在的人工智能還是在有限場景下的弱人工智能。但是，即使是現(xiàn)在的弱人工智能，已經(jīng)開始給經(jīng)濟(jì)、社會發(fā)展和公共管理帶來很大沖擊。人工智能甚至開始進(jìn)入醫(yī)療和法律事務(wù)領(lǐng)域，如人工智能在癌癥識別和法律案例篩選上的巨大優(yōu)勢，已經(jīng)開始影響這兩個專業(yè)領(lǐng)域的人才培養(yǎng)，以及拉動勞動力市場。

互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能加持的在線教育正在變革傳統(tǒng)的高等教育。例如，美國Coursera網(wǎng)站上，學(xué)生可以學(xué)到幾乎所有課程，只要交幾十美元就可以得到哈佛大學(xué)、斯坦福大學(xué)的課程結(jié)業(yè)證書，教學(xué)效果非常好。又如，美國一些大型IT企業(yè)，已經(jīng)公開宣布招聘員工不再要求學(xué)歷和畢業(yè)院校的資質(zhì)。

人工智能技術(shù)在給教育和經(jīng)濟(jì)帶來發(fā)展的同時，人文和社會科學(xué)學(xué)者在思考人工智能技術(shù)的發(fā)展對人文(人的本質(zhì)以及人與社會關(guān)系)帶來的影響。人工智能技術(shù)的發(fā)展是建立在一整套本體論、認(rèn)知論和方法論基礎(chǔ)之上的，其本體論的基礎(chǔ)是邏輯實證主義。邏輯實證主義者認(rèn)為，萬物都是數(shù)據(jù)。人及其社會關(guān)系的總和都可以變成數(shù)據(jù)及期間的關(guān)系?，F(xiàn)代西方社會科學(xué)的發(fā)展也是基于此來進(jìn)行的，即使用自然科學(xué)的技術(shù)和方法來測量人類心理和行為、了解人類運行的規(guī)律、指導(dǎo)人類實踐和改造社會。人文學(xué)者對人工智能進(jìn)行了激烈的批評，包括文學(xué)和歷史學(xué)在內(nèi)的傳統(tǒng)人文學(xué)者以及馬克思主義者都認(rèn)為人是人，人不可以被物化，人是社會關(guān)系的集合。人是有血有肉的，是社會關(guān)系中存在的社會個體。具有人類智慧的機器人對人、對人性、對人文和社會關(guān)系都是革命性甚至是顛覆性的變革。

在互聯(lián)網(wǎng)和大數(shù)據(jù)加持之下，人工智能對倫理、隱私和社會正義等人文學(xué)者非常看重的價值產(chǎn)生了很大的沖擊。互聯(lián)網(wǎng)剛剛興起之時，人們認(rèn)為“在互聯(lián)網(wǎng)上，沒人知道你是條狗”， 但是通過大數(shù)據(jù)和機器學(xué)習(xí)等人工智能技術(shù)，任何傳統(tǒng)保護(hù)隱私的技術(shù)和法律手段都無效了。人工智能技術(shù)可以迅速將網(wǎng)上碎片化的信息進(jìn)行拼圖，從而使人們毫無隱私可言。更嚴(yán)重的問題是，傳統(tǒng)上并不認(rèn)為是隱私的信息，正以人們無法覺察的方式，通過人工智能技術(shù)的使用，泄漏重要的個人隱私。例如，新加坡南洋理工大學(xué)的研究人員通過獲取和分析沒有任何手機制造廠商會加密的手機陀螺儀信息，成功破解了手機用戶的密碼。

中國機場的自動售賣機已經(jīng)開始可以刷臉銷售飲料和小吃。這個機器學(xué)習(xí)的算法，根據(jù)一個顏值的賦值模型，通過人臉識別技術(shù)給人打分，相應(yīng)進(jìn)行折扣。這一應(yīng)用具有巨大的社會歧視的風(fēng)險和被濫用的威脅。而美國人工智能技術(shù)已經(jīng)被應(yīng)用到司法領(lǐng)域，法院和警察局開始使用人工智能技術(shù)進(jìn)行犯罪預(yù)測和量刑。這些做法可能在科學(xué)上是高效的，但是實際上違反了社會正義的一個最基本準(zhǔn)則，即無罪推論。人工智能技術(shù)對人文和社會科學(xué)學(xué)者推崇的社會公平和公眾參與也產(chǎn)生了巨大的威脅。在大數(shù)據(jù)和人工智能時代，數(shù)據(jù)已經(jīng)成為新型“原油”。在大數(shù)據(jù)時代，誰擁有數(shù)據(jù)，誰就是資本家和事實上的社會統(tǒng)治者。擁有數(shù)據(jù)的資本家和數(shù)據(jù)精英，甚至宣稱不需要市場“看不見的手”進(jìn)行資源的分配。以色列著名歷史學(xué)家尤瓦爾·赫拉利在其著作《人類簡史：從動物到上帝》中指出，人類現(xiàn)在就在一個重大的歷史轉(zhuǎn)折點[10]。現(xiàn)在人和以后人的差距，將比現(xiàn)在人跟類人猿的差距要大得多。大部分人將來都會是碌碌無為、吃飽等死，只有一小部分人是人和機器的合體，這些人將會統(tǒng)治全人類。在北歐國家已經(jīng)有一項公共政策叫社會最低工資，這就是未來的經(jīng)濟(jì)形態(tài)，即將由極少數(shù)的精英來創(chuàng)造無比巨大的財富，剩余的人只是為了維持社會存在的需要而存在。從這個角度來看，人工智能給人、人的社會關(guān)系和社會參與帶來了革命性的影響。亞里士多德說，人之所以是人，是因為人是政治動物；人之所以是人，是因為人在社區(qū)、在人群里有自己的社會屬性。離開此，人還能成為人嗎？人如果不參與社會財富的創(chuàng)造，人活著還有意義嗎？

互聯(lián)網(wǎng)技術(shù)和大數(shù)據(jù)加持下的人工智能技術(shù)給資本家剝削工人創(chuàng)造了前所未有的便利和條件。通過大數(shù)據(jù)和人工智能技術(shù)，資本家可以隨時雇傭臨時工，有效規(guī)避勞動保護(hù)和福利政策。美國著名的電召車公司優(yōu)步(Uber)，就是因為通過新經(jīng)濟(jì)模式，不用給員工繳納醫(yī)療保險和養(yǎng)老保險，受到巨大社會輿論的譴責(zé)。

如前所述,人工智能技術(shù)對人的存在、人和社會的關(guān)系都產(chǎn)生了深遠(yuǎn)影響。人工智能技術(shù)在公共管理中也開始得到廣泛的應(yīng)用。人工智能由于其優(yōu)勢在輔助公共管理決策和政策執(zhí)行上發(fā)揮了獨特的作用，但是也帶來了巨大的挑戰(zhàn)。

三、人工智能對公共管理的挑戰(zhàn)

人工智能技術(shù)在公共管理領(lǐng)域應(yīng)用的重要方面是用于決策。美國著名公共管理大師赫伯特·西蒙指出，管理的本質(zhì)是決策。早在20世紀(jì)40年代，赫伯特·西蒙認(rèn)為，公共管理學(xué)研究要全面轉(zhuǎn)向決策研究。他和公共管理學(xué)大師瓦爾多的一系列辯論可以直接用來分析人工智能技術(shù)在公共管理領(lǐng)域面臨的困境和挑戰(zhàn)。事實上，赫伯特·西蒙本人在那場著名大辯論后，轉(zhuǎn)身成為計算機系教授，他對“有限理性人”的研究，使他成為人工智能的先驅(qū)之一。他還認(rèn)為，公共管理學(xué)就是要研究決策。但是在不確定性的情況下，人的生理和心理局限，以及外部文化和社會環(huán)境都會使人決策產(chǎn)生各種偏差，人不可能是完全理性的，人最多是有限理性，只能做“滿意”決策而不是最優(yōu)決策。因此，赫伯特·西蒙一生致力于使用科學(xué)的方法研究人的理性和決策行為，希望使用數(shù)學(xué)、統(tǒng)計學(xué)和信息技術(shù)提升人技術(shù)理性能力。瓦爾多則認(rèn)為，赫伯特·西蒙簡單化了公共管理決策過程，認(rèn)為公共管理決策過程是一個政治過程，充滿著各種哲學(xué)觀、價值觀和價值取向的考量，因此，片面追求技術(shù)效率和理性，在公共管理政策和執(zhí)行過程中是不合適的，也是不現(xiàn)實的。赫伯特·西蒙和瓦爾多爭論背后的這兩種價值觀和認(rèn)知論一直到今天，都貫穿公共管理學(xué)學(xué)術(shù)研究和實踐的全過程[11]。

人工智能技術(shù)的核心機器學(xué)習(xí)算法基于大數(shù)據(jù)和高維數(shù)據(jù)，可以進(jìn)行變量間復(fù)雜非線性關(guān)系的測量和模擬，極大地提高了數(shù)據(jù)分析的精度和效度。這種以大數(shù)據(jù)和非參數(shù)估計為基礎(chǔ)的數(shù)據(jù)分析模型，不需要決策者事先設(shè)定任何形式數(shù)學(xué)模型，允許數(shù)據(jù)自己決定變量的擬和過程，最大可能地選擇數(shù)據(jù)適合的函數(shù)，在很大程度上避免了參數(shù)模型的簡單化。因此，和傳統(tǒng)結(jié)構(gòu)化統(tǒng)計分析相比，機器學(xué)習(xí)算法的預(yù)測準(zhǔn)確性有極大優(yōu)勢。因為這個特性，人工智能在公共問題、政策問題的界定和政策方案的選擇上都有很大潛力，并開始在諸如公共衛(wèi)生、城市基礎(chǔ)設(shè)施建設(shè)、經(jīng)濟(jì)事務(wù)、財政稅收、環(huán)保甚至司法等領(lǐng)域被廣泛應(yīng)用。但是，也如瓦爾多指出的那樣，公共決策過程的技術(shù)理性化一直以來都受到公共管理和公共政策學(xué)者的批評。公共管理決策過程是一個 政治過程，在這個過程中技術(shù)官僚的一廂情愿是不行的。特別是在公共決策過程中，技術(shù)理性的實現(xiàn)充滿各種不確定性，技術(shù)官僚所宣稱的技術(shù)中性和技術(shù)效果能不能實現(xiàn)，能不能為政治過程中各利益相關(guān)人士接受和認(rèn)可，是每一位公共管理者都必須面對的問題，并要作出艱難的政策平衡。正如美國著名公共政策學(xué)者Stone指出的那樣，公共管理的過程就是個多價值互相競爭、平衡的過程。很多時候技術(shù)理性可能根本就不重要，或者不得不讓步于其他價值[12]。

人工智能技術(shù)在公共管理應(yīng)用過程中面臨的挑戰(zhàn)，在2015年美國佛林特市水污染危機中體現(xiàn)得淋漓盡致。美國佛林特市坐落于五大湖區(qū)的密歇根州，由于傳統(tǒng)汽車行業(yè)的沒落，佛林特市財政吃緊，2013年決定更換淡水供應(yīng)商以降低成本。在轉(zhuǎn)換過渡期，佛林特市決定以當(dāng)?shù)胤鹆痔睾拥暮铀鳛榕R時供水水源。但是，稍后市民發(fā)現(xiàn)，自來水成為黃褐色，還有異味。市民中開始出現(xiàn)病癥，有兒童臉上開始長紅疹、發(fā)炎。市民開始懷疑自來水遭到污染，開始向市政府和州政府反映問題。但是在一年多的時間里，政府都沒有積極回應(yīng)市民們的投訴，也沒有動手進(jìn)行調(diào)查，反而一直聲稱水是合格的。后來事情鬧大，《時代周刊》做了專訪之后，美國聯(lián)邦環(huán)保署介入，發(fā)現(xiàn)自來水果然被污染了。因為汽車重工業(yè)早已污染了佛林特河，河水具有高腐蝕性，流經(jīng)鉛管會產(chǎn)生化學(xué)反應(yīng)，帶來嚴(yán)重的水鉛污染。危機爆發(fā)后，為了應(yīng)對危機，政府決定啟動緊急自來水管道更換計劃，檢查和更換所有的鉛制水管。然而由于當(dāng)?shù)厮茕佋O(shè)的歷史過程非常復(fù)雜，且施工記錄保管很差，政府沒有準(zhǔn)確的信息知道哪家的水管是鉛管，而直接檢查和更換成本又極高，甚至是不現(xiàn)實的，所以，如何在時間和財務(wù)都非常緊張的情況下，準(zhǔn)確地找出鉛管住戶并進(jìn)行更換，成為當(dāng)局面臨的重大挑戰(zhàn)。

為解決此問題，2016年密歇根大學(xué)的埃里克·施瓦茨教授的團(tuán)隊開發(fā)了人工智能機器學(xué)習(xí)的算法模型，通過使用小樣本數(shù)據(jù)訓(xùn)練計算機數(shù)據(jù)模型，他們不斷比對真實情形和模型預(yù)測，測量精度越來越高，最終達(dá)到了94%的準(zhǔn)確率。然而，2017年底，這個技術(shù)上相當(dāng)優(yōu)越的人工智能決策系統(tǒng)被當(dāng)?shù)卣畻売昧耍饕蛴腥旱谝?，該機器學(xué)習(xí)算法，不能百分之百準(zhǔn)確。由于統(tǒng)計一類錯誤和二類錯誤的存在，任何錯誤產(chǎn)生的政治后果，政府都是沒有辦法接受的，即使是99%的準(zhǔn)確率。第二，人工智能算法最大的問題在于它是個黑箱，其結(jié)果是通過數(shù)據(jù)挖掘得出的。沒有辦法解釋為什么一個家庭是鉛管，另外一個不是。在這個案例中，由于之前的錯誤，居民已經(jīng)不相信地方政府的說辭了。要解決不信任的問題，必須把所有家庭的水管進(jìn)行挖掘和更換。第三，人工智能算法發(fā)現(xiàn)，由于歷史上經(jīng)濟(jì)發(fā)展和種族隔離等原因，黑人和其他有色人種住房中鉛管的數(shù)量和概率遠(yuǎn)遠(yuǎn)高于白人和高收入人群居住的社區(qū)，有色人種是這次水污染事件最大的受害者。人工智能算法將這一丑惡的事實公布于眾，引起當(dāng)?shù)鼐用竦牟粷M，對有色人種家庭帶來了二次傷害，這是城市決策者不愿意看到和接受的[13]。

四、結(jié)論

盡管人文和倫理學(xué)者哀嘆人工智能技術(shù)對人文和社會產(chǎn)生的重大影響，甚至有人主張停止研發(fā)人工智能，美國科創(chuàng)天才馬斯克一直警告世人人工智能可能對人類生存和發(fā)展產(chǎn)生威脅，但是歷史和科技的發(fā)展是不以人的意志為轉(zhuǎn)移的，世人沒有選擇，只能選擇和擁抱人工智能技術(shù)，揚長避短。歐洲的科學(xué)家和政策制定者已經(jīng)開始行動起來，制定研發(fā)和應(yīng)用人工智能的倫理規(guī)范。2018年12月18日，歐盟高級別人工智能專家小組起草了《為值得信任的人工智能制定的倫理準(zhǔn)則》(Ethics Guidelines for Trustworthy AI)。該準(zhǔn)則認(rèn)為今后科學(xué)家對人工智能的研發(fā)和業(yè)界對人工智能的應(yīng)用要遵守七條原則：第一，服從人類準(zhǔn)則。人工智能要接受人類的能動性和監(jiān)管，人工智能不能侵犯人類的自主性。第二，技術(shù)安全性準(zhǔn)則。人工智能技術(shù)的健全性和安全性。第三，隱私性準(zhǔn)則。人工智能系統(tǒng)搜集的個人數(shù)據(jù)應(yīng)該是安全的、 私有的。第四，透明性準(zhǔn)則。人工智能系統(tǒng)的數(shù)據(jù)和算法所做的決定應(yīng)該能被人類理解和跟蹤。第五，多樣性、非歧視和公平性準(zhǔn)則。人工智能提供的服務(wù)應(yīng)該面向所有人，不應(yīng)該基于年齡、性別、種族和其他特征而存在偏見。第六，環(huán)境和社會福祉。第七，問責(zé)性準(zhǔn)則。人工智能系統(tǒng)應(yīng)該是可審計的，系統(tǒng)可能產(chǎn)生的負(fù)面應(yīng)該事先報告和告知(歐盟)。

人工智能技術(shù)已經(jīng)在中國公共管理的各種場景中開始得到應(yīng)用，在此次新型冠狀病毒肺炎疫情防控中發(fā)揮了巨大的作用?？萍假x能已經(jīng)成為中國公共管理改革和能力提升的重要方向。但是在對人工智能技術(shù)運用的同時，對人工智能技術(shù)可能對人文、社會和公共價值帶來的問題和挑戰(zhàn)應(yīng)保持高度的敏感和警惕。人工智能工程師一定要和哲學(xué)家、倫理學(xué)家、法學(xué)家和公共管理學(xué)家緊密合作，在充分利用技術(shù)的威力的同時，切莫為雙刃劍的另一側(cè)所傷。需要特別指出的是，在高度警惕的同時，也不能因噎廢食，人工智能技術(shù)是后發(fā)國家彎道超車的絕好機會，后發(fā)國家需要結(jié)合自己的國情，大膽創(chuàng)新和突破，尋找適合自己的平衡。