黃雪英

問題的提出

在政府治理領(lǐng)域中,建立“數(shù)字政府”或“數(shù)字法治政府”的呼聲愈發(fā)高漲。《中國法治政府評估報(bào)告(2021—2022)》指出,“數(shù)字法治政府”是新增的法治政府評估一級指標(biāo),而“智能高效”則是該指標(biāo)體系中的觀察點(diǎn)之一。(1)中國政法大學(xué)法治政府研究院:《中國法治政府評估報(bào)告(2021—2022)》,社會科學(xué)文獻(xiàn)出版社2023年版,第253—277頁。雖然目前各類人工智能體已經(jīng)具備了一定的自主交互能力,但缺失情感感知與情感反饋等情感要素的智能體始終無法實(shí)現(xiàn)真正的“智慧化”。在情理社會中,僅關(guān)注科學(xué)性、知識性和合法性的行政治理無法滿足現(xiàn)實(shí)需求?；谇楦兄卫碓趪抑卫碇械闹匾?數(shù)字行政治理也應(yīng)該關(guān)切情感計(jì)算技術(shù)的嵌入和運(yùn)行。實(shí)際上,部分政府平臺已經(jīng)逐步將情感計(jì)算或“數(shù)據(jù)畫像”納入公共安全防范系統(tǒng)、應(yīng)急管理決策系統(tǒng)和基層網(wǎng)格化治理系統(tǒng)的建設(shè)中,(2)馬平川:《平臺數(shù)據(jù)權(quán)力的運(yùn)行邏輯及法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2023年第2期。以期提升行政機(jī)關(guān)與行政相對人的深度交互體驗(yàn),提升行政機(jī)關(guān)的治理效能和服務(wù)質(zhì)量。

我國對新興技術(shù)的規(guī)制多采用回應(yīng)型立法模式,即先給予新興技術(shù)足夠的發(fā)展空間,當(dāng)技術(shù)問題累積到一定程度再進(jìn)行立法規(guī)制。但是,伴隨情感計(jì)算在醫(yī)療、教育、商業(yè)、就業(yè)、執(zhí)法等領(lǐng)域的應(yīng)用拓展,(3)參見王祿生:《情感計(jì)算的應(yīng)用困境及其法律規(guī)制》,《東方法學(xué)》2021年第4期;龔善要:《教育場景中情感計(jì)算的應(yīng)用風(fēng)險及其法律規(guī)制》,《復(fù)旦教育論壇》2022年第6期;岳遠(yuǎn)雷、徐著雨:《醫(yī)療情感計(jì)算應(yīng)用的多維困境及其法治實(shí)現(xiàn)》,《醫(yī)學(xué)與哲學(xué)》2022年第19期。技術(shù)發(fā)展與法治建設(shè)之間的張力愈發(fā)凸顯,行政治理活動中人的主體地位和數(shù)據(jù)權(quán)利受到侵害,此時亟須將行政治理活動中的情感計(jì)算納入法治化治理軌道,以最大程度實(shí)現(xiàn)技術(shù)紅利。此外,情感計(jì)算可能涉及計(jì)算科學(xué)、心理科學(xué)與認(rèn)知科學(xué)等多學(xué)科的交叉內(nèi)容,行政機(jī)關(guān)工作人員綜合知識儲備的不足進(jìn)一步加劇了實(shí)踐需求與理論供給之間的失衡狀態(tài),技術(shù)與行政治理的良性運(yùn)轉(zhuǎn)一時無法實(shí)現(xiàn)?；诖?為化解技術(shù)與規(guī)范之間的沖突和張力,有必要在明確情感計(jì)算技術(shù)邏輯的基礎(chǔ)上,對其技術(shù)風(fēng)險和制度風(fēng)險進(jìn)行規(guī)范限制。

因此,我們應(yīng)該在明確情感計(jì)算技術(shù)的運(yùn)行邏輯基礎(chǔ)之上,就其在數(shù)字行政治理中的風(fēng)險進(jìn)行判別、分析和預(yù)測,并在行政法治原則之下從技術(shù)本身以及技術(shù)運(yùn)用兩個層面通過多種手段規(guī)避其可能存在的風(fēng)險,促進(jìn)我國政府服務(wù)能力的提升,加快政府治理體系與治理能力現(xiàn)代化建設(shè)。

數(shù)字行政治理中情感計(jì)算技術(shù)的應(yīng)用

“情感計(jì)算”這一概念由皮卡德(R. W. Picard)最先提出,(4)Rosalind W. Picard, Affective Computing, Cambridge: The MIT Press, 1997.其作為人工智能技術(shù),在嵌入行政治理時也意味著人類智能體與人工智能體同時成為政務(wù)服務(wù)的提供者,(5)王張華、顏佳華:《人工智能驅(qū)動政府治理變革:技術(shù)邏輯、價值準(zhǔn)則和目標(biāo)指向》,《天津行政學(xué)院學(xué)報(bào)》2020年第6期。從而使得人類在數(shù)字行政治理過程中能夠充分運(yùn)用技術(shù)治理邏輯來增強(qiáng)其治理能力。

(一)情感計(jì)算技術(shù)服務(wù)于行政治理虛擬場景的搭建

數(shù)字技術(shù)的繁榮發(fā)展使傳統(tǒng)的行政治理行動得以在虛擬場景中進(jìn)行,數(shù)字空間或元宇宙為實(shí)現(xiàn)跨時空行政治理奠定了基礎(chǔ)。在搭建虛擬行政治理空間的過程中,情感計(jì)算能夠有效復(fù)現(xiàn)參與者的內(nèi)心情感狀態(tài),從而使虛擬場景更具擬真性。

將情感計(jì)算嵌入行政治理場域不僅能優(yōu)化政治生態(tài),還能維系公民與行政機(jī)關(guān)的情感聯(lián)結(jié)。行政管理者在面對具體行政治理情境時,要能夠在移情過程中產(chǎn)生與他人經(jīng)歷上的一體感。(6)王鋒:《公共行政的情感之維——基于同情的理解》,《天津行政學(xué)院學(xué)報(bào)》2022年第5期?！扒楦兄卫怼眲t意味著政府在公共治理中要重視“人”及其情感的回歸,這種對理性、制度和技術(shù)治理進(jìn)行深刻反思的傾向能夠有效柔化行政治理中的剛性結(jié)構(gòu),優(yōu)化國家治理方式和手段。雖然情感治理的敘事通常由于“治理重心下沉”的需要而被局限在“社區(qū)治理”或“基層治理”等層面,(7)王麗萍:《國家治理中的情感治理:價值、邏輯與實(shí)踐》,《山東社會科學(xué)》2021年第9期。但現(xiàn)代社會的群體離散性導(dǎo)致這種情感聯(lián)結(jié)的必要性已然不僅僅體現(xiàn)在社區(qū)治理中。各級政府應(yīng)該及時了解公民的情感動向,并明晰此種情感產(chǎn)生的原因。目前,該敘事方式或話語尚未擴(kuò)展至更廣的層面,原因之一就在于傳統(tǒng)行政治理與尚未成熟的數(shù)字行政治理活動對情感的感受與認(rèn)知存在障礙,人力、時間等資源的有限性導(dǎo)致情感治理無法徹底展開。

情感計(jì)算可以在技術(shù)層面上有效克服行政治理在獲取、分析情感要素能力方面的闕如,使得行政治理活動不再囿于對主體外在行動的識別,更能夠直接深入到主體的個性情緒或情感維度。(8)張新寶、葛鑫:《人臉識別法律規(guī)制的利益衡量與制度構(gòu)建》,《湖湘法學(xué)評論》2021年第1期。一方面,通過情感計(jì)算技術(shù),治理主體能夠結(jié)合人類智能體與人工智能體的“雙重智慧”,增強(qiáng)其在現(xiàn)實(shí)治理活動中對治理對象情感狀態(tài)的認(rèn)知能力,提供更具針對性和個性化的政務(wù)服務(wù),提升行政治理效能;另一方面,情感計(jì)算能夠幫助治理活動中的各方參與者在虛擬場景中獲得更真實(shí)、更具象化的體驗(yàn),使治理者能夠了解被治理者的真實(shí)情感反饋,透過傳統(tǒng)的信息媒介接觸治理對象行為背后隱藏的真實(shí)目的和深層情感需求,從而進(jìn)行相應(yīng)的行動或制度調(diào)整。此外,在理想的虛擬交互場景中,情感計(jì)算是針對治理者和治理對象雙方同時進(jìn)行的,這使得數(shù)字行政治理不僅能夠滿足各方的擬真性需求,還能完成對傳統(tǒng)“面對面”式行政治理模式的超越。不同于以往“政府—公民”的單向治理方式,情感計(jì)算技術(shù)的嵌入能夠幫助參與者獲致立體的、雙向的“情感藍(lán)圖”,從而強(qiáng)化公職人員與群眾之間的情感互動,(9)徐明強(qiáng):《中國科層制的情感屬性:源流、定位與比較》,《政治學(xué)研究》2022年第5期。使治理活動的各方參與者之間能夠在內(nèi)在情緒或情感的層面形成緊密聯(lián)系。基于此,情感治理與數(shù)字行政都能夠在某種程度上超越現(xiàn)有的體系。對“人”及其情感的關(guān)切不僅要求治理者密切關(guān)注治理對象的情感狀態(tài),還要求被治理者能夠適當(dāng)理解治理者所肩負(fù)的責(zé)任。在此過程中,情感計(jì)算不僅為搭建一個和諧的虛擬治理場景提供了可能性,還為數(shù)字行政治理活動設(shè)定了限制框架:情感計(jì)算使治理者消極的情感反應(yīng)無所遁形,從而建構(gòu)了一種健康的行政治理面貌。

(二)情感計(jì)算適配行政執(zhí)法技術(shù)工具升級

在行政執(zhí)法場域,捕獲特定主體主觀情感狀態(tài)是提升執(zhí)法能力的重要環(huán)節(jié),也是提高人民群眾對于行政治理滿意度的有效途徑。然而,由于情感具有一定“神秘性”,僅憑人類智能準(zhǔn)確獲知特定對象的完整情感狀態(tài)較為困難。因此,在數(shù)字行政治理的背景下,借助情感計(jì)算適配行政執(zhí)法技術(shù)工具升級實(shí)為必要。例如,“靈視多模態(tài)情緒研判系統(tǒng)”(針對審訊問詢場景的業(yè)務(wù)系統(tǒng))、(10)億歐:《多維度識別情緒,這家公司要打造審訊問詢的Alpha Go》,https://www.sohu.com/a/303378512_115035?！皩徲崍鼍暗臒o感知情緒檢測分析系統(tǒng)”(11)《太古計(jì)算行為分析技術(shù),讓生活更智能,更美好!》,http://www.taigusys.com/news/news145.html。等技術(shù)能夠?yàn)樾姓?zhí)法提供技術(shù)助力。一方面,情感計(jì)算在行政執(zhí)法中的應(yīng)用場域多集中于審訊問詢或治理管理,能夠有效改善行政執(zhí)法多源數(shù)據(jù)融合能力和多模態(tài)情感分析能力。與單模態(tài)相比,多模態(tài)情感計(jì)算無論是在準(zhǔn)確率還是效率上都具有顯著優(yōu)勢。(12)Sidney K. D’mello, Jacqueline Kory, “A Review and Meta-Analysis of Multimodal Affect Detection Systems”, ACM Computing Surveys, Vol.47, No.3, 2015, pp.1-36.人們往往能夠通過單模態(tài)情感條件和特性分析出特定對象的情感狀態(tài),并進(jìn)一步確認(rèn)對象的情感或立場特性(即反對、支持或中立)。(13)權(quán)學(xué)良等:《基于生理信號的情感計(jì)算研究綜述》,《自動化學(xué)報(bào)》2021年第8期。然而,人們在日常生活中一般也會采取多模態(tài)的方式對情感進(jìn)行感知與識別,從而形成一個立體、全面、完整的認(rèn)知結(jié)果。(14)例如,人們在交流時,如果在傾聽到內(nèi)容的同時也觀察到了發(fā)言者的語氣和語調(diào)以及面部表情和肢體行為,則會更加準(zhǔn)確地理解和判斷出發(fā)言者說話的動機(jī)、意圖以及相應(yīng)的情感狀態(tài)。參見饒?jiān)?《基于語義分析的情感計(jì)算技術(shù)研究進(jìn)展》,《軟件學(xué)報(bào)》2018年第8期。情感計(jì)算將多源數(shù)據(jù)進(jìn)行融合,使數(shù)字行政治理主體能夠統(tǒng)合文本、語音、視頻、生理信號等多模態(tài)信息,最大程度地復(fù)現(xiàn)執(zhí)法對象的內(nèi)心情感傾向與立場,通過提高識別準(zhǔn)確率幫助執(zhí)法人員排除外界干擾和主觀偏見,作出更為準(zhǔn)確和理性的決策。

另一方面,情感計(jì)算的嵌入能夠有效分擔(dān)行政人員的壓力,實(shí)現(xiàn)行政治理活動的高效化。以往的行政執(zhí)法技術(shù)工具通常僅用于收集相關(guān)決策或行動所需的信息,而具體的分析與判斷仍依賴于執(zhí)法人員的審慎決斷。然而,當(dāng)行政執(zhí)法工作面臨大量難以處理的數(shù)據(jù),或公職人員因個人和職務(wù)原因而陷入消極狀態(tài)(如身心疲倦、情緒低落等)時,相應(yīng)的執(zhí)法行動會受到極大的影響,行政相對人的切身利益可能也會因此受到損害。情感計(jì)算技術(shù)不僅能夠借助人工智能的持續(xù)性優(yōu)勢大幅降低執(zhí)法人員的時間和精力損耗、提高行政效率,還可以借助相關(guān)技術(shù)產(chǎn)品提供的科學(xué)分析提升行政執(zhí)法活動的合法性與合理性。

(三)情感計(jì)算推動行政治理的智慧化轉(zhuǎn)型

一方面,情感計(jì)算使行政治理行動更具體化,使其能夠更好地滿足建設(shè)服務(wù)型政府的需要。傳統(tǒng)行政治理模式沉浸于科層制體制內(nèi)部的政治需求和政治目標(biāo),忽視了與公眾之間的情感聯(lián)結(jié)。而情感計(jì)算能夠幫助治理主體精確剖析治理對象的情感狀態(tài),判斷情感極性、收集傾向數(shù)據(jù),從而使治理者能夠根據(jù)不同的情感反饋及時、全面地獲悉治理舉措產(chǎn)生的社會效果和影響,并在合理、合法的框架內(nèi)適當(dāng)調(diào)整治理措施?；诖?不同個體和群體的多元化需求能夠得到極大滿足,使作為獨(dú)立個體的“人”(而不是抽象的“社會”)感受到“行政為民”的力度與溫度,在個性化與凝聚力之間形成良性互動。

另一方面,情感計(jì)算推動了行政治理的內(nèi)生發(fā)展,擴(kuò)充了行政治理介質(zhì)。傳統(tǒng)行政治理模式主要關(guān)注治理對象的外在行為,且“數(shù)字行政治理”的話語體系也僅僅是對“外在行為”進(jìn)行了一定的延展(至數(shù)字空間)。而情感計(jì)算則更為直接地觸及人們的心靈,當(dāng)人們的情感狀態(tài)可以被感知、計(jì)算和分析時,行政治理的介質(zhì)就從外在行動擴(kuò)充到了精神領(lǐng)域,治理者需要關(guān)注治理行動對被治理者內(nèi)心產(chǎn)生的效果。同時,此種精神或情感需求不能由治理者肆意假設(shè)或遐想,其實(shí)質(zhì)內(nèi)涵已然可以通過情感計(jì)算得以確證,這在一定程度上也限制了相關(guān)主體的行政權(quán)力的無序擴(kuò)張。

數(shù)字行政治理中情感計(jì)算技術(shù)的風(fēng)險

情感計(jì)算存在著較多的高風(fēng)險應(yīng)用,在數(shù)字行政治理過程中亦不例外。對風(fēng)險的準(zhǔn)確界定是進(jìn)行有效規(guī)制的前提,具體而言,情感計(jì)算在數(shù)字行政治理活動中可能存在信息邊界界定困難、個人隱私數(shù)據(jù)受到侵犯、個人情感自主性被消解以及行政公權(quán)力過度擴(kuò)張等風(fēng)險。

(一)模糊情感信息與生物信息的邊界

《歐盟人工智能協(xié)調(diào)規(guī)則的提案》第3條明確指出,情感識別系統(tǒng)是一種人工智能,用于根據(jù)自然人的生物特征數(shù)據(jù)識別或推斷自然人的情緒或意圖。其中,“生物特征數(shù)據(jù)”屬于“生物信息”的范疇,而“自然人的情緒和意圖”則屬于“情感信息”的范疇。然而,情感信息與生物信息具有相似性,二者的概念范圍存在交叉或重疊。具體而言,生物信息包括生物識別信息和生物反饋信息。生物識別信息能夠直接、準(zhǔn)確地體現(xiàn)個人的生物特征,我國《信息安全技術(shù)人格信息安全規(guī)范》附錄B規(guī)定,“個人生物識別信息包括個人基因、指紋、聲紋、掌紋、耳廓、面部識別特征等”。而生物反饋信息的收集與處理則是為了識別信息主體的情感狀態(tài),具有一定的主觀性和難以辨別性。

現(xiàn)階段情感計(jì)算要在“感知”的基礎(chǔ)上實(shí)現(xiàn)對生物信息的“識別”,解析出某一生物信息當(dāng)中所蘊(yùn)含的情感狀態(tài)。人工智能通過不斷積累與深度學(xué)習(xí),最終形成固定的情感識別算法模型。在后續(xù)運(yùn)用過程中,即可通過輸入定向生物信息從而相應(yīng)輸出定向情感狀態(tài)。通過上述技術(shù)路徑可知,情感計(jì)算是意圖通過生物信息來揭示情感信息的技術(shù)。二者之間的從屬關(guān)系導(dǎo)致某些生物信息是否為情感信息的載體或反應(yīng)難以界定,這種情況可能導(dǎo)致行政機(jī)關(guān)信息收集范圍的肆意擴(kuò)大與權(quán)力的濫用,甚至由于信息收集不準(zhǔn)確導(dǎo)致計(jì)算結(jié)果出現(xiàn)偏差,引發(fā)決策錯誤。

(二)情感操縱侵犯個人信息的私密性

情感操縱是指網(wǎng)絡(luò)平臺在情感識別的基礎(chǔ)上向用戶投放相關(guān)信息,以利用、控制或影響用戶情緒的方式指引其作出相關(guān)決策并獲得相關(guān)利益。(15)褚婧一:《情感計(jì)算的信息隱私法律風(fēng)險及其應(yīng)對》,《交大法學(xué)》2023年第3期。情感操縱的前提是情感信息的獲取,其實(shí)現(xiàn)依賴于對情感信息的計(jì)算。然而,情感信息的本質(zhì)屬性可能與隱私權(quán)存在相似性?！睹穹ǖ洹返?032條第2款規(guī)定:“隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息?！贝藭r,自然人的某種不愿意被他人所察覺或知悉的情感可能屬于“隱私”的范疇,具有一定的秘密性和敏感性。

一方面,對情感信息的歸納計(jì)算極易侵犯行政相對人的個人隱私。雖然直接顯露在臉上的表情是一種“公共泄露”,無法達(dá)至私密的程度。但當(dāng)行政機(jī)關(guān)通過對表情的標(biāo)記、識別與分析并據(jù)此作出判斷時則極易侵犯個人信息的私密性。例如,阿爾法鷹眼通過視頻動態(tài)分析精神生理參數(shù)來監(jiān)測危險人物,即通過攝像頭采集的人體面部視頻流,分析頭部和頸部微小肌肉振動的頻率和振幅,計(jì)算出個人壓力、侵略性和焦慮度等參數(shù),甄別有自體原發(fā)性焦慮緊張狀態(tài)的潛在可疑危險人員以輔助安檢人工排查。(16)荔枝:《生物識別3.0時代,阿爾法鷹眼想用“情感計(jì)算”布局智慧安全》,https://www.sohu.com/a/137016839_114778。諸如對個人壓力、焦慮度等的揭示則具有明顯的深入性與侵入性,具有探究“隱私”的意涵,尤其是當(dāng)對情感算法進(jìn)行不當(dāng)使用或者濫用時,極易產(chǎn)生侵犯隱私權(quán)的風(fēng)險。

另一方面,情感操縱會使個人失去對選擇是否公開情感信息的控制力。隱私之所以重要,在于其關(guān)乎一個完整、獨(dú)立、自決的人,而非一個固定、透明隨時被預(yù)測的人。(17)李延舜:《個人信息保護(hù)中的第三方當(dāng)事人規(guī)則之反思》,《法商研究》2022年第4期。個人對信息的控制能力表現(xiàn)在,既能控制自己的何種信息能夠被披露,又能控制自己的何種信息不被披露。美國著名隱私權(quán)學(xué)者索洛韋伊認(rèn)為,隱私保護(hù)制度“應(yīng)當(dāng)是個人能夠自主選擇何種信息可以被收集與使用的制度”。(18)[美]丹尼爾·J.索洛韋伊:《隱私權(quán)與權(quán)力:計(jì)算機(jī)數(shù)據(jù)庫與信息性隱私權(quán)隱喻》,孫言譯,張民安編:《信息性隱私權(quán)研究——信息性隱私權(quán)的產(chǎn)生、發(fā)展、適用范圍和爭議》,中山大學(xué)出版社2014年版,第176頁。在情感操縱的干預(yù)下,個人不僅可能無力控制何種情感信息被以數(shù)據(jù)的形式呈現(xiàn),還有可能無力決定何種信息能夠脫離個人控制而進(jìn)入公共領(lǐng)域。據(jù)此,情感操縱在數(shù)字行政治理過程中引發(fā)了極大的隱私權(quán)危機(jī)。

(三)機(jī)器情感消解個人的情感自主性

人的秉性包括智性、心性與靈性。人工智能涵蓋邏輯推理、可計(jì)算性、規(guī)則性、功利性和經(jīng)驗(yàn),總體來說是智性的體現(xiàn)。但算法能否發(fā)展出心性和靈性則是一個可想但不可及的問題。(19)於興中:《數(shù)字素養(yǎng):從算法社會到網(wǎng)絡(luò)3.0》,上海人民出版社2022年版,第51—52頁。實(shí)際上,情感計(jì)算便試圖以機(jī)器情感來對抗人的心性與靈性,即情感的自主性。從情感計(jì)算的類別化分析來看:文本情感計(jì)算包括文本信息采集、情感特征提取以及情感信息分類,在完成文本信息采集后,借助文本抓取工具獲得情感評論文本,在提取過程中轉(zhuǎn)化為計(jì)算機(jī)語言,并通過情感信息分類得出計(jì)算結(jié)果。(20)張瑞:《文本情感計(jì)算研究綜述》,《管理觀察》2017年第13期。語言情感計(jì)算是指通過對語音信號的測量、分解、分析、合成等方法進(jìn)行情感方面的計(jì)算,從而使計(jì)算機(jī)具備一定程度的情感能力。如,醫(yī)療情感聊天機(jī)器人的本質(zhì)是一種由信號分析和自動語言識別、語義分析和對話策略、響應(yīng)生成和語音合成組建的自主系統(tǒng),可以通過與病人進(jìn)行交互來檢測情感,確定并模擬情感答案。(21)Joachim von Braun, et al., Robotics, AI, and Humanity, Cham: Springer, 2021.面部表情情感計(jì)算與語言情感計(jì)算的運(yùn)行機(jī)理基本相似,只是將所收集分析的對象變成了人臉表情模態(tài),通過對面部表情的分析來辨別其蘊(yùn)含的情緒。

通過對以上不同情感計(jì)算類型運(yùn)行機(jī)理的剖析,可以發(fā)現(xiàn)其核心技術(shù)邏輯在于“通過情感測量和建模的過程,從定量的方面將情感客觀化”。(22)朱敏:《情感計(jì)算展現(xiàn)強(qiáng)大應(yīng)用潛力》,《社會科學(xué)報(bào)》2023年1月19日。為實(shí)現(xiàn)定量的情感客觀化,需要滿足以下條件:(1)一個人的內(nèi)在情感需要能夠通過外在表現(xiàn)予以展示;(2)上述內(nèi)在情感的外在表達(dá)需要在提取上具有普遍性;(3)這種挖掘需要足夠可靠以支撐作出決策。但是,情感具有極強(qiáng)的主觀性和自主性,一個生理信息與某一情感之間并不具有唯一性的聯(lián)系,可能會承載多重感情。整體而言,心理生理數(shù)據(jù)非常復(fù)雜,難以證明其與情緒之間的因果關(guān)系。(23)Robert D. Ward, Philip H. Marsden, “Affective Computing: Problems, Reactions and Intentions”, Interacting with Computers, Vol.16, No.4, 2004, pp.707-713.不同的文化傳統(tǒng)與社會背景,個人的成長環(huán)境和社會經(jīng)歷,都可能對人的感情產(chǎn)生影響。況且,現(xiàn)有技術(shù)尚不成熟,無法準(zhǔn)確地對多樣化、各有差異的情感進(jìn)行標(biāo)記。故而,意圖用機(jī)器算法來對抗主觀性、自主性的情感難逃為時過早之嫌。

(四)情感計(jì)算的應(yīng)用易導(dǎo)致算法公權(quán)力過度擴(kuò)張

第一,算法黑箱滋生權(quán)力濫用風(fēng)險。鑒于算法的技術(shù)性和專業(yè)性,除了少數(shù)研發(fā)人員外,外部人員很難對算法的運(yùn)行有充分的了解和掌握。即使現(xiàn)下對算法黑箱危害性的認(rèn)識不斷深化,并嘗試通過算法解釋權(quán)等路徑予以規(guī)制,但當(dāng)算法進(jìn)行深度學(xué)習(xí)后,研發(fā)人員某種程度上可能也無法解釋算法模型的具體原理和運(yùn)行路徑。權(quán)力是否合法運(yùn)行、依規(guī)運(yùn)行、謙抑運(yùn)行等并無明確答案。況且,“一切擁有權(quán)力的人都容易濫用權(quán)力”,尤其是在缺乏有效制約的情況下,此時,“算法黑箱”的存在將容易使公權(quán)力產(chǎn)生過度擴(kuò)張的危險。

第二,情感計(jì)算的監(jiān)控效力誘發(fā)權(quán)力膨脹。“情感計(jì)算應(yīng)用的重要假設(shè)是可以推斷內(nèi)心的真實(shí)情感,并應(yīng)當(dāng)以此為基礎(chǔ)作出決策?！?24)王祿生:《情感計(jì)算的應(yīng)用困境及其法律規(guī)制》,《東方法學(xué)》2021年第4期。當(dāng)通過情感計(jì)算能夠識別每個人的情緒時,實(shí)則是將人放置在秘密且全面的監(jiān)控中。尤其是當(dāng)通過一個人的細(xì)微生理行為如語言行為、面部表情等便可分析出此人的內(nèi)心感受、想法與偏好,此時行政權(quán)力的過度擴(kuò)張就會使個人處于單向透明的不對等境況中。雖然這會給行政機(jī)關(guān)作出決策提供便利,使行政機(jī)關(guān)能夠及時發(fā)現(xiàn)有關(guān)人員的非法行為或不法舉動,從而高效便捷地進(jìn)行社會治理,但此種不透明性、不對等性卻也意味著數(shù)字行政治理中權(quán)力正在被大規(guī)模無限制地使用,處于一種膨脹、異化甚至是非法治化的趨勢之中。

第三,情感計(jì)算易導(dǎo)致算法監(jiān)管的政府失靈。在數(shù)字行政治理過程中,情感計(jì)算的恰當(dāng)運(yùn)用需要有準(zhǔn)確的情感信息以及科學(xué)的算法模型作為支撐。相應(yīng)地,為了實(shí)現(xiàn)對算法的有效規(guī)制,政府應(yīng)當(dāng)掌握并審查技術(shù)提供者生成的算法運(yùn)行目標(biāo)記錄、算法計(jì)算相關(guān)信息以及算法運(yùn)行流程等內(nèi)容。(25)譚九生、范曉韻:《算法“黑箱”的成因、風(fēng)險及其治理》,《湖南科技大學(xué)學(xué)報(bào)(社會科學(xué)版)》2020年第6期。然而,一方面,誠如上文所言,情感信息是主觀的、多樣的,生理信號與情感信息之間的連接并不具有必然性、唯一性與普適性。基于此,政府在監(jiān)管時也無法有效及時地發(fā)現(xiàn)問題及其“病灶”。另一方面,算法黑箱的存在使得算法缺陷與漏洞通常也難以被發(fā)現(xiàn),而且政府作為“外行人”在面對算法模型時會受到專業(yè)壁壘的限制。由此,造成了政府對情感計(jì)算應(yīng)用的監(jiān)管失靈,算法在一定程度上成為行政決策的“實(shí)際做出者”,行政權(quán)力因?yàn)榍楦杏?jì)算技術(shù)的介入而不受控制,繼而對政府的公信力產(chǎn)生消極影響。

數(shù)字行政治理中情感計(jì)算風(fēng)險的規(guī)制

情感計(jì)算是通過情感計(jì)算技術(shù)對人類情感狀態(tài)的感知、識別、模擬和影響。我們既要承認(rèn)情感計(jì)算日益嵌入數(shù)字行政治理帶來的便利,也要對情感計(jì)算的風(fēng)險進(jìn)行規(guī)制。

(一)規(guī)范維度:明確情感數(shù)據(jù)使用的法律指引

情感計(jì)算發(fā)揮實(shí)際效能的關(guān)鍵在于接收主體發(fā)出的情感數(shù)據(jù)并據(jù)此對個人情感和行為進(jìn)行分析。數(shù)據(jù)是情感計(jì)算的基礎(chǔ),在數(shù)字行政治理中控制情感計(jì)算的風(fēng)險,首要的是進(jìn)行情感數(shù)據(jù)的規(guī)制。

一方面,行政機(jī)關(guān)使用情感數(shù)據(jù)應(yīng)當(dāng)符合現(xiàn)行法律要求?；诩夹g(shù)賦權(quán)和數(shù)據(jù)賦權(quán)的邏輯,情感計(jì)算助力數(shù)字行政治理實(shí)際上擴(kuò)大了行政機(jī)關(guān)的權(quán)力?；诠珯?quán)力—私權(quán)利的傳統(tǒng)理論,公權(quán)力的無序擴(kuò)張必然帶來私權(quán)利保護(hù)的難題,為此應(yīng)當(dāng)保護(hù)和加強(qiáng)行政相對人的權(quán)利保障。(26)張婧飛、姚如許:《自動化行政視角下算法權(quán)力的異化風(fēng)險及規(guī)制》,《大連大學(xué)學(xué)報(bào)》2022年第6期。我國以《個人信息保護(hù)法》為基礎(chǔ),建立了個人信息處理的合法性條件,若情感數(shù)據(jù)落入上述規(guī)范的規(guī)制范圍內(nèi),情感數(shù)據(jù)即具備身份識別功能,此時行政機(jī)關(guān)的使用行為必然受到上述法律的調(diào)整。例如,人臉情緒數(shù)據(jù)是人臉情緒識別算法特有的一類數(shù)據(jù),這類數(shù)據(jù)的法律地位和相關(guān)主體的權(quán)利義務(wù)安排將直接規(guī)制對人臉情緒數(shù)據(jù)的收集、存儲、使用、加工、傳輸、公開、刪除等。(27)包康赟:《人臉情緒識別算法的風(fēng)險與規(guī)制》,《北方法學(xué)》2022年第1期。

另一方面,行政機(jī)關(guān)應(yīng)當(dāng)建立情感數(shù)據(jù)使用的內(nèi)部合法性審查機(jī)制。在行政治理中運(yùn)用情感計(jì)算技術(shù)應(yīng)當(dāng)建立內(nèi)部的合法性審查機(jī)制,確保數(shù)字行政符合行政法治原理。該審查機(jī)制應(yīng)當(dāng)由專門機(jī)構(gòu)負(fù)責(zé),通過對情感計(jì)算算法設(shè)計(jì)者和使用者進(jìn)行合法性評估、定期披露數(shù)據(jù)收集機(jī)構(gòu)使用情感數(shù)據(jù)的狀況、對違法違規(guī)使用情感數(shù)據(jù)的行為進(jìn)行問責(zé)和糾正等方式實(shí)現(xiàn)動態(tài)的情感數(shù)據(jù)使用合法性控制。該專門機(jī)構(gòu)還可以建立電子監(jiān)察管理系統(tǒng),對數(shù)字行政治理中的情感數(shù)據(jù)使用進(jìn)行全過程監(jiān)督,實(shí)現(xiàn)對異常數(shù)據(jù)使用、可能侵害相對人權(quán)益等進(jìn)行預(yù)警。(28)查云飛:《行政裁量自動化的學(xué)理基礎(chǔ)與功能定位》,《行政法學(xué)研究》2021年第3期。此外,行政機(jī)關(guān)還應(yīng)當(dāng)從情感數(shù)據(jù)加密和安全傳輸協(xié)議、情感數(shù)據(jù)訪問限制、情感數(shù)據(jù)匿名化和去標(biāo)識化處理等維度降低個人信息被識別和追蹤的風(fēng)險。

(二)規(guī)訓(xùn)維度:嵌入人機(jī)情感協(xié)同的倫理邏輯

人工情感技術(shù)的發(fā)展面臨著生理信號的采集和通用性問題以及情感信息捕獲技術(shù)的標(biāo)記問題等。(29)之江實(shí)驗(yàn)室等:《情感計(jì)算白皮書(2022年)》,https://www.zhejianglab.com/uploadfile/20221208/1670465654902617.pdf。由于情感計(jì)算的數(shù)據(jù)來源不足且質(zhì)量欠缺、情感算法設(shè)計(jì)的不完善、情感計(jì)算的應(yīng)用效果有待提升等因素,情感計(jì)算在行政治理中存在人機(jī)脫節(jié)的障礙。(30)石磊:《智能司法裁判的人機(jī)協(xié)同機(jī)制探索》,《行政與法》2022年第4期。

一方面,提高情感計(jì)算算法的透明度和可解釋性是人機(jī)情感協(xié)同的前提。實(shí)現(xiàn)人機(jī)協(xié)同以人能夠理解算法為前提,為此應(yīng)當(dāng)提高情感計(jì)算算法透明度和可解釋性。行政機(jī)關(guān)應(yīng)當(dāng)加強(qiáng)對情感計(jì)算算法研發(fā)和使用過程的監(jiān)管,建立算法審查制度,要求技術(shù)提供者對情感數(shù)據(jù)的收集、情感計(jì)算模型的構(gòu)建和訓(xùn)練、情感計(jì)算結(jié)果的生成等內(nèi)容進(jìn)行明確,以防止算法偏見,提高情感計(jì)算的可信度和可接受性。情感計(jì)算系統(tǒng)應(yīng)當(dāng)提供清晰的解釋和邏輯推理,使得決策過程可以被人理解和評估。透明度和可解釋性的要求可以通過技術(shù)手段來實(shí)現(xiàn),比如通過公開算法原理、數(shù)據(jù)來源和訓(xùn)練過程等信息使公眾能夠了解情感計(jì)算的運(yùn)行機(jī)制和結(jié)果生成過程,通過隱私設(shè)置、數(shù)據(jù)共享選項(xiàng)和用戶參與機(jī)制強(qiáng)化數(shù)據(jù)主體對個人信息的決策權(quán)和管理權(quán)。值得注意的是,從本質(zhì)上看,面向行政機(jī)關(guān)算法透明度的范圍與限度仍然要高于面向個人與社會。

另一方面,行政機(jī)關(guān)應(yīng)當(dāng)推動建立多方參與的情感計(jì)算人機(jī)交互體系。其一,情感計(jì)算技術(shù)開發(fā)者應(yīng)當(dāng)遵循法律和倫理準(zhǔn)則,在情感計(jì)算算法和模型的設(shè)計(jì)與優(yōu)化過程中注重用戶隱私和權(quán)益的保護(hù)。其二,情感計(jì)算應(yīng)用的提供商首先應(yīng)當(dāng)將用戶隱私和信息安全放在首位,以確保情感數(shù)據(jù)的安全存儲和使用;其次應(yīng)提供明確的隱私政策和用戶協(xié)議,并給予用戶選擇和控制的權(quán)利。其三,行政機(jī)關(guān)負(fù)責(zé)明確情感計(jì)算的權(quán)責(zé)關(guān)系和監(jiān)管要求,與企業(yè)、專家學(xué)者和公眾等多元主體進(jìn)行廣泛合作,共同研究和探討情感計(jì)算的規(guī)則和標(biāo)準(zhǔn),確保情感計(jì)算的邏輯以人為本。其四,學(xué)術(shù)界應(yīng)當(dāng)加強(qiáng)對情感計(jì)算的研究和探索,積極參與制定情感計(jì)算的標(biāo)準(zhǔn)和規(guī)范,為情感計(jì)算的發(fā)展提供科學(xué)依據(jù)和指導(dǎo)。其五,用戶應(yīng)當(dāng)主動了解情感數(shù)據(jù)的收集和使用過程,選擇是否參與情感計(jì)算應(yīng)用,決定數(shù)據(jù)是否共享給第三方等。

(三)標(biāo)準(zhǔn)維度:細(xì)化情感計(jì)算應(yīng)用的目的限度

規(guī)制數(shù)字行政治理中的情感計(jì)算風(fēng)險不僅要采取多種技術(shù)措施,關(guān)鍵是要在規(guī)范上明確情感計(jì)算的標(biāo)準(zhǔn),確定情感計(jì)算在行政治理中應(yīng)用的限度。

一方面,行政機(jī)關(guān)應(yīng)當(dāng)通過行政立法和政策制定為情感計(jì)算設(shè)立標(biāo)準(zhǔn)。目前我國以《個人信息保護(hù)法》《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》為代表,對智能技術(shù)的應(yīng)用采用的是以數(shù)據(jù)為基礎(chǔ)的規(guī)制模式。(31)包康赟:《人臉情緒識別算法的風(fēng)險與規(guī)制》,《北方法學(xué)》2022年第1期。這種規(guī)制模式缺乏對新興技術(shù)的針對性,而行政立法和政策制定具有一定的靈活性,可以彌補(bǔ)此種不足。對此,行政立法和政策應(yīng)當(dāng)明確情感計(jì)算的定義、范圍和使用條件,限制情感計(jì)算的濫用和潛在風(fēng)險,強(qiáng)調(diào)保護(hù)個人隱私和信息安全的重要性,規(guī)定情感計(jì)算數(shù)據(jù)的收集、存儲、使用和共享的規(guī)則,以確保公眾利益和個人權(quán)益的平衡。政府部門可以制定指導(dǎo)性文件和指南,明確數(shù)字行政治理中情感計(jì)算應(yīng)用的原則和指導(dǎo)方針,提供具體的操作指引和參考。

另一方面,行政機(jī)關(guān)應(yīng)當(dāng)明確情感計(jì)算應(yīng)用的目的和限度。其一,明確情感計(jì)算的數(shù)據(jù)收集和使用范圍,確保僅收集和使用符合行政法治特定目的的相關(guān)數(shù)據(jù),并遵守相關(guān)的隱私保護(hù)法律和政策。其二,行政機(jī)關(guān)應(yīng)當(dāng)明確情感計(jì)算應(yīng)用的目的是為政府決策提供參考和改善公共服務(wù)。情感計(jì)算的結(jié)果不能直接用于制定懲罰措施或歧視個人。其三,行政機(jī)關(guān)應(yīng)避免利用情感計(jì)算結(jié)果對個體進(jìn)行操控或影響。情感計(jì)算結(jié)果僅應(yīng)作為決策支持工具和參考,而不應(yīng)直接用于操縱個體情感狀態(tài)或行為。其四,行政機(jī)關(guān)應(yīng)避免情感計(jì)算結(jié)果中的偏見和歧視,避免對特定群體的情感態(tài)度或情感表達(dá)進(jìn)行錯誤分類或歧視性判斷。

(四)倫理維度:廓清情感計(jì)算應(yīng)用的價值底線

2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出要建立公開透明的人工智能監(jiān)管體系,實(shí)行設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)。對于數(shù)字行政治理而言,不論是設(shè)計(jì)問責(zé)還是應(yīng)用監(jiān)督都需要在規(guī)范上確立情感計(jì)算的價值底線與倫理禁區(qū)。

一方面,確定價值底線和倫理禁區(qū)的原則。其一,情感計(jì)算的設(shè)計(jì)者和使用者應(yīng)當(dāng)尊重個人權(quán)利和隱私,不得侵犯個人隱私權(quán)和信息安全。其二,情感計(jì)算的設(shè)計(jì)者和使用者應(yīng)該遵循公平和公正原則,不得歧視或偏袒特定個體或群體。其三,情感計(jì)算的設(shè)計(jì)者和應(yīng)用者應(yīng)當(dāng)遵循透明原則,使用戶和利益相關(guān)者能夠理解和評估情感計(jì)算的依據(jù)和可靠性。其四,情感計(jì)算的設(shè)計(jì)者和使用者應(yīng)該遵循公眾參與和民主決策原則,確保決策的合理性和公眾的意見得到充分考慮。

另一方面,加強(qiáng)情感計(jì)算的倫理評估和正當(dāng)性審查。在事前階段,應(yīng)當(dāng)加強(qiáng)對情感計(jì)算模型的預(yù)備審查。其一,應(yīng)當(dāng)對情感計(jì)算的潛在影響進(jìn)行評估,包括對個人隱私、自由意志和社會公平性的影響,確保其尊重個人隱私和遵循社會公平公正原則。其二,情感計(jì)算模型應(yīng)當(dāng)經(jīng)過充分的訓(xùn)練和測試,模型的訓(xùn)練數(shù)據(jù)應(yīng)當(dāng)具有多樣性,并代表不同人群的情感表達(dá),確保其遵循透明原則。其三,建立反饋機(jī)制,讓用戶和利益相關(guān)者可以提供對情感計(jì)算應(yīng)用的意見和建議,確保情感計(jì)算遵循公眾參與和民主決策原則。在事后階段,應(yīng)當(dāng)建立情感計(jì)算應(yīng)用監(jiān)督機(jī)制,加強(qiáng)行政監(jiān)督和執(zhí)法,確保情感計(jì)算的合規(guī)合法,專門設(shè)立有效的投訴和舉報(bào)機(jī)制,處理涉及情感計(jì)算濫用和違規(guī)行為的投訴和舉報(bào)。同時,通過定期的審核、現(xiàn)場檢查和獨(dú)立評估來實(shí)現(xiàn)對情感計(jì)算的監(jiān)督。

(五)技術(shù)維度:增設(shè)情感計(jì)算迭代的正當(dāng)性要求

情感計(jì)算在行政治理應(yīng)用中的倫理要求被確立之后,問題的關(guān)鍵就轉(zhuǎn)化為如何使情感計(jì)算的應(yīng)用符合倫理要求。除了采用綜合的保障機(jī)制進(jìn)行外部控制之外,也可以將道德要求融入情感計(jì)算的算法迭代之中,讓算法遵循善法。(32)田海平:《讓“算法”遵循“善法”》,《光明日報(bào)》2017年9月4日。問題是人類的道德要求是蘊(yùn)含了價值判斷的自然語言,其難以完全轉(zhuǎn)化為可以被智能機(jī)器理解的代碼,不過可以通過加強(qiáng)情感計(jì)算算法自身對道德要求的深度學(xué)習(xí)和機(jī)器訓(xùn)練,保證情感計(jì)算在應(yīng)用過程中像人一樣進(jìn)行價值判斷,這是靠近科技向善這一終極理想的可能路徑。

一方面,情感計(jì)算算法迭代應(yīng)當(dāng)通過數(shù)據(jù)收集和學(xué)習(xí)提高道德判斷能力。情感計(jì)算算法可以使用大量的數(shù)據(jù)來訓(xùn)練和學(xué)習(xí),從而理解人類道德的基本原則和規(guī)則。情感計(jì)算算法在應(yīng)用時必須遵守社會規(guī)范,不能違背基本的倫理原則。由于道德判斷涉及眾多復(fù)雜的情境和價值觀,情感計(jì)算算法的訓(xùn)練數(shù)據(jù)必須具有多樣性和代表性,應(yīng)當(dāng)收集來自不同文化、社會群體和背景的數(shù)據(jù),以避免偏見和歧視。同時,應(yīng)注重平衡各種觀點(diǎn)和利益,以保證算法道德判斷能力的全面性和公正性,而后通過迭代更新逐漸提高情感計(jì)算算法對不同情境下的道德問題的理解和處理能力。此外,在迭代情感計(jì)算算法時,還需要建立監(jiān)管和合規(guī)機(jī)制,對違規(guī)行為進(jìn)行糾正和懲罰。

另一方面,情感計(jì)算算法迭代應(yīng)當(dāng)通過倫理模型和規(guī)則更新提高道德判斷能力。倫理模型是一種用于指導(dǎo)道德決策的框架,可以基于人類倫理學(xué)理論和道德準(zhǔn)則進(jìn)行構(gòu)建。通過不斷迭代和改進(jìn)這些模型,情感計(jì)算算法可以更好地理解和應(yīng)用倫理原則。為了能夠提供明確的道德規(guī)則,人類應(yīng)當(dāng)盡可能走出道德模糊地帶。(33)田海平:《讓“算法”遵循“善法”》,《光明日報(bào)》2017年9月4日。隨著社會和道德觀念的演變或者道德規(guī)則的明確化,算法可以及時更新其規(guī)則和準(zhǔn)則,以適應(yīng)不斷變化的道德要求。目前有研究基于羅爾斯的“公平的機(jī)會平等”理論,引入“歧視指數(shù)”的概念,提出設(shè)計(jì)公平算法的方法,并證明其開發(fā)的“公平”算法沒有表現(xiàn)出結(jié)構(gòu)化的歧視行為。情感計(jì)算算法迭代應(yīng)當(dāng)通過倫理模型和規(guī)則的不斷更新來提高道德判斷的能力。

結(jié) 語

科技進(jìn)步促進(jìn)了人們技術(shù)應(yīng)用能力的提升,但同時也可能伴隨著技術(shù)風(fēng)險和制度風(fēng)險。情感計(jì)算本質(zhì)上是人工智能算法的一種,相比于以客觀行為數(shù)據(jù)為質(zhì)料而進(jìn)行運(yùn)算的智能算法,情感計(jì)算在技術(shù)上試圖通過一系列數(shù)據(jù)信息來觀測、分析甚至影響人們的情感。這對于建設(shè)服務(wù)型數(shù)字化政府,講求情理法并重的現(xiàn)代化中國具有重要意義?？梢酝茢?情感計(jì)算技術(shù)未來必將廣泛應(yīng)用于數(shù)字政府的各項(xiàng)服務(wù)當(dāng)中,但在此過程中還需要規(guī)避該技術(shù)運(yùn)用的諸多風(fēng)險,不僅要防范技術(shù)本身對相對人權(quán)益造成損害的風(fēng)險,還要防范造成技術(shù)運(yùn)用者的權(quán)力擴(kuò)張風(fēng)險?？偠灾?“人始終是目的而非手段”,而“將權(quán)力關(guān)進(jìn)制度的籠子里”則是一切人工智能技術(shù)與政府治理相結(jié)合應(yīng)當(dāng)遵循的基本原則。