岳遠(yuǎn)雷 徐著雨

近年來，情感計算技術(shù)在智能醫(yī)學(xué)領(lǐng)域得到創(chuàng)新性應(yīng)用，為實現(xiàn)健康中國拓展了新的空間。隨著智能可穿戴設(shè)備、醫(yī)用聊天機(jī)器人等醫(yī)療產(chǎn)品的使用，醫(yī)療情感計算技術(shù)的法律問題開始浮現(xiàn)，更多人意識到規(guī)制該技術(shù)的重要性。目前我國沒有專項規(guī)制情感計算技術(shù)的建構(gòu)式立法，針對情感計算醫(yī)療應(yīng)用的一系列風(fēng)險，法律界采取的是回應(yīng)式立法。2021 年《新一代人工智能倫理規(guī)范》發(fā)布，2022 年3 月《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實施，開啟了應(yīng)對算法挑戰(zhàn)的初步嘗試。這些立法嘗試為我國初步構(gòu)建規(guī)制情感計算相關(guān)技術(shù)法律框架創(chuàng)造了基礎(chǔ)條件。當(dāng)前，面對實踐中已然存在的醫(yī)療情感計算應(yīng)用的功能異化的多維困境，充分發(fā)揮法治手段作用，可以最大限度地規(guī)避情感計算醫(yī)療應(yīng)用可能引發(fā)的風(fēng)險，進(jìn)而不斷夯實情感計算技術(shù)醫(yī)療應(yīng)用的基石。

1 醫(yī)療情感計算的技術(shù)邏輯

1.1 情感計算的概念

情感計算是信息技術(shù)領(lǐng)域的一個術(shù)語，作為算法的重點研究領(lǐng)域它歸屬于人工智能的范疇。情感計算自從被皮卡德教授提出以后，國際上對它的關(guān)注越來越顯著。迄今為止，皮卡德已經(jīng)帶領(lǐng)團(tuán)隊陸續(xù)提出了約50 種關(guān)于情感計算應(yīng)用的項目。皮卡德教授將其定義為“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或有意影響情緒或其他情感現(xiàn)象的計算”[1]?；诙嘣募夹g(shù)發(fā)展路徑，與情感計算相關(guān)的概念眾多，但是由于各類人工智能技術(shù)與情感計算技術(shù)日益結(jié)合并不斷發(fā)展應(yīng)用，情感計算常被置于人工智能框架內(nèi)。通常將情感計算統(tǒng)稱為能夠感知、識別、模擬、影響人類情感狀態(tài)的各項智能技術(shù)[2]。我國于1998 年就已經(jīng)對情感計算有所研究，同年該理論被列為信息技術(shù)的探索主題。2003 年，我國第一屆情感智能交互學(xué)術(shù)會議在北京召開。2005 年，國際情感智能交互首屆會議也在北京召開。迄今，我國已經(jīng)是情感計算技術(shù)的主要研發(fā)應(yīng)用國之一，而且2021 年中國情感計算大會第一次會議在北京召開后，學(xué)界對情感計算技術(shù)的關(guān)注又有了新的高度。2019 年起關(guān)于“情感計算”的文章較往年多，涉及“醫(yī)療、算法”的文章也有所增加。主要原因有兩個方面：一方面，是2017 年《新一代人工智能發(fā)展規(guī)劃》中提到要改善人際溝通障礙，開發(fā)能理解人的需求、能進(jìn)行情感交互的智能助理產(chǎn)品。另一方面，是2019 年《新一代人工智能治理原則》發(fā)布。但從總體上看，我國關(guān)于醫(yī)療情感計算的研究較少，尤其缺少法治實現(xiàn)層面的探究。

1.2 醫(yī)療情感計算的技術(shù)邏輯

醫(yī)療情感計算在技術(shù)邏輯上與醫(yī)療人工智能算法技術(shù)聯(lián)系緊密，是指將情感計算技術(shù)投入醫(yī)療領(lǐng)域使用與開發(fā)，使之能夠適應(yīng)并且準(zhǔn)確識別、理解患者的情感進(jìn)而模擬、影響患者情感的技術(shù)。它可以通過情緒識別、表征學(xué)習(xí)、語音識別等技術(shù)，利用情感計算算法獲取健康信息以實現(xiàn)輔助診療、預(yù)防疾病等功能。從技術(shù)路徑來看，可以將醫(yī)療情感計算分為四個步驟：第一步是感知患者情感；第二步是識別患者情感；第三步是模擬患者情感；第四步是影響患者情感。首先，情感計算系統(tǒng)通過接觸式和非接觸式等多元方式感知到患者的語音、姿勢、脈搏等各項生理信息。隨后，情感計算算法會依托情感理論將感知到的信息數(shù)據(jù)提取出關(guān)鍵特征點，采用人工標(biāo)注的形式將其與患者情感狀態(tài)關(guān)聯(lián)。當(dāng)標(biāo)注數(shù)量達(dá)到一定程度后，醫(yī)療情感計算系統(tǒng)通過反復(fù)模擬訓(xùn)練逐步建立與患者內(nèi)外情感信息特征相契合的醫(yī)療情感計算模型并借助此模型進(jìn)行情感模擬。醫(yī)療情感計算系統(tǒng)在運行中需要實時記錄患者情感變化并根據(jù)已有模型和情感信息數(shù)據(jù)分析患者情感狀態(tài)，做出情感反饋，采取個性化策略影響患者情感。

醫(yī)療情感計算的最終目的是使機(jī)器具備情感交互能力并能影響患者情感進(jìn)而治療疾病、提升患者體驗。在醫(yī)療情感計算相關(guān)技術(shù)產(chǎn)品研發(fā)中，準(zhǔn)確地計算患者的情感類型是設(shè)計情感識別方法與診斷治療的基礎(chǔ)，而且情緒的多模態(tài)識別也是情感計算領(lǐng)域的重點研究對象。目前普遍公認(rèn)的六種基本情感類型即喜、怒、悲、恐、驚、厭，這六種情感的組合即屬于其他情感。當(dāng)前情感計算的建模方法也大多是基于上述多維情感來構(gòu)建。以往在醫(yī)療過程中使用的機(jī)器人或其他人工智能醫(yī)療設(shè)備雖然存在小部分能夠理解人類需求，但是很難甚至無法正確分析人的情緒現(xiàn)狀以及真實意圖。現(xiàn)在通過賦予計算機(jī)這種情感識別理解能力，不僅可以提高醫(yī)療服務(wù)的質(zhì)量，同時還能起到疾病預(yù)防的作用。

2 我國醫(yī)療情感計算的應(yīng)用場景

醫(yī)療情感計算是醫(yī)療人工智能的關(guān)鍵研究領(lǐng)域，能夠?qū)Ω黝惤】禂?shù)據(jù)展開分析并建立情感模型。而且在算法與醫(yī)療深度融合的背景下，醫(yī)療情感計算技術(shù)應(yīng)用前景廣泛，在醫(yī)療機(jī)器人、疾病的輔助診療、健康管理、影像識別等方面均已有所實踐，起到了保障人民健康，促進(jìn)衛(wèi)生健康事業(yè)發(fā)展的作用。

2.1 改善情感交流

情感是實現(xiàn)機(jī)器智能和人機(jī)交互的重要元素。機(jī)器人智能化的標(biāo)準(zhǔn)之一就是要注入情感認(rèn)知能力。醫(yī)療情感聊天機(jī)器人就是一個典型的應(yīng)用，它能夠利用算法技術(shù)監(jiān)測個人健康狀況，也可以為老人、抑郁癥兒童等弱勢群體提供人工情感陪伴服務(wù)從而改善情感交流能力，保障他們的身心健康。孤獨癥個體的情緒識別困難被認(rèn)為會導(dǎo)致社會交往問題。情感計算技術(shù)醫(yī)療應(yīng)用恰好可以彌補(bǔ)孤獨癥、抑郁癥患者的這種社交缺陷，提升其情感交流能力。情感計算算法輔助情感交互的步驟有：進(jìn)行交互、用戶反饋、智能體響應(yīng)、達(dá)到標(biāo)準(zhǔn)，這種雙向交互能提升患者情感體驗的滿意度。智能體首先通過交互時患者的表情、姿態(tài)、語音等多重信息分析其情感狀態(tài)和意圖，進(jìn)而根據(jù)感知識別到的情感調(diào)節(jié)自身情感以積極響應(yīng)患者反饋。第九代微軟小冰注重人類思維模擬和情商擬合[3]，能夠把情感與技術(shù)結(jié)合，已經(jīng)成為全球最大規(guī)模的人工智能情感計算框架系統(tǒng)，幫助了許多有困難的人。

2.2 助力疾病診療

在疾病診療方面，情感計算技術(shù)已經(jīng)被應(yīng)用于各類疾病的評估治療，不僅已經(jīng)在孤獨癥和抑郁癥等精神心理疾病的預(yù)防、干預(yù)和治療方面發(fā)揮了巨大作用，而且在突發(fā)公共衛(wèi)生事件中成為了心理醫(yī)生完成心理疏導(dǎo)任務(wù)的得力助手。麻省理工學(xué)院媒體實驗室（Massachusetts Institute of Technology Media Lab，簡 稱The MIT Media Lab，中 文 簡稱“媒體實驗室”）基于情感計算理論開展了癲癇、孤獨癥等各類疾病的診斷與評價研究。當(dāng)前已經(jīng)有社交假肢、谷歌眼鏡、智能頭盔等智能可穿戴設(shè)備被研發(fā)使用。這些設(shè)備依靠患者的心率、肌肉張力等生理信號推斷其情感狀態(tài)進(jìn)而開展情感調(diào)控，將人隱秘的內(nèi)心活動變成潛在數(shù)據(jù)，一旦檢測到不良情緒狀態(tài)就會進(jìn)行疾病風(fēng)險預(yù)測并采取干預(yù)措施。另一方面，情感腦機(jī)接口技術(shù)在情感治療方面也有所進(jìn)展。其與神經(jīng)科技結(jié)合精準(zhǔn)刺激患者的情緒神經(jīng)，提高了對抑郁癥、精神分裂癥等疾病的研究診療水平[4]。此外，情感計算技術(shù)在心理疾病的診斷篩查中也起到了重要作用，已經(jīng)被用于心理健康和精神衛(wèi)生領(lǐng)域的各個方面。

2.3 強(qiáng)化健康管理

一些群體基于生理病理原因存在潛在患病風(fēng)險，偶爾會有信心缺乏、機(jī)能退化等影響健康的因素出現(xiàn)，情感計算技術(shù)的研發(fā)應(yīng)用使情緒手表、情緒手環(huán)這些便攜式監(jiān)護(hù)設(shè)備在感知獲取到對方的語音、行為動作、脈搏頻率等不同來源的多元健康數(shù)據(jù)信息后迅速進(jìn)行分析并給予反饋，可以實現(xiàn)對交互對象健康狀況的監(jiān)測、保障。例如，可穿戴智能監(jiān)測設(shè)備通過數(shù)據(jù)分析技術(shù)可以做到實時監(jiān)測健康狀況并自動進(jìn)行風(fēng)險評估，預(yù)防疾病風(fēng)險。此外，醫(yī)療情感計算產(chǎn)品還可以在交互時展現(xiàn)自身的情感變化從而豐富患者的精神世界。例如，能夠預(yù)測孕婦患高血壓病的產(chǎn)后抑郁風(fēng)險的臉部情緒追蹤器，輔助孤獨癥兒童進(jìn)行康復(fù)的生活能力正向干預(yù)模式設(shè)計[5]，還有為孤獨癥患者提升社會交往與溝通能力的情感交互系統(tǒng)等，這些設(shè)計都大幅度提高了康復(fù)治療的效果，保障了患者健康。

2.4 賦能影像識別

智能醫(yī)療背景下，情感計算技術(shù)可以與圖像分析技術(shù)結(jié)合在一起應(yīng)用到醫(yī)學(xué)影像領(lǐng)域，協(xié)助醫(yī)生對患者情感進(jìn)行檢測并定量分析，令影像識別技術(shù)更好地實現(xiàn)預(yù)測、診斷和治療疾病的目的。醫(yī)療情感計算系統(tǒng)通過實時監(jiān)測追蹤收集到這一系列健康信息，形成穩(wěn)定的數(shù)據(jù)流，最終將數(shù)據(jù)轉(zhuǎn)化成可視化的圖像。再將圖像分析技術(shù)和深度學(xué)習(xí)算法結(jié)合，分析出患者的情緒狀態(tài)，令醫(yī)療人員和患者預(yù)知疾病發(fā)生情況，盡早采取措施治療。熱像儀就是典型的溫度功能影像應(yīng)用，它可以根據(jù)人體熱量分布狀態(tài)成像，根據(jù)成像可以看出身體不同部位的熱量分布及熱量差異，進(jìn)而推斷患者是處于焦慮狀態(tài)還是其他情緒狀態(tài)。當(dāng)識別出不良情緒狀態(tài)時，成像儀會自動分析并報告給數(shù)據(jù)主體，令其積極采取措施恢復(fù)至正常狀態(tài)。

3 醫(yī)療情感計算應(yīng)用的多維困境

情感計算技術(shù)在衛(wèi)生健康領(lǐng)域發(fā)揮積極功效的同時也面臨著多個維度的負(fù)面效應(yīng)，削弱了情感計算算法的診療優(yōu)勢，萌生了醫(yī)療情感計算算法的“擬制主體性”危機(jī)、“道德異化”憂患、情感隱私刺探、人格尊嚴(yán)吞噬、計算精度缺陷等多維困境問題，產(chǎn)生功能異化現(xiàn)象。

3.1 道德合理性風(fēng)險

3.1.1 醫(yī)療算法的“擬制主體性”危機(jī)

醫(yī)療情感計算不僅涉及對患者內(nèi)在情緒的推斷，而且與算法存在緊密關(guān)聯(lián)，將計算延展到了患者的內(nèi)心世界，最終目的是影響患者的情感。一方面，隨著技術(shù)發(fā)展，算法在語言思維方面與人類相似度大大提高，而人的主體性是其區(qū)別于其他生物的重要原因，醫(yī)療人員的一些事務(wù)和決策將由情感計算機(jī)器來完成甚至為其所控，這可能會挑戰(zhàn)其主體地位。在算法運行過程中，患者個人情緒等健康信息逐步被數(shù)據(jù)化和被計算化，很容易將人鎖定在自我編織的“信息繭房”中導(dǎo)致自身被客體化[6]。另一方面，情感計算算法重視對健康信息數(shù)據(jù)的收集、分析，容易忽略甚至代替醫(yī)生對患者的關(guān)懷與情感。從這種意義上而言，人的情感在生產(chǎn)生活方面都產(chǎn)生了異在性，被當(dāng)成外在于主體的對象或客體進(jìn)行讀寫，成為了被利用和操控的對象[7]。雖然當(dāng)前仍處在弱人工智能時代，但一些具備情感計算功能的醫(yī)療產(chǎn)品正逐漸脫離物理軀體的限制，被置于算法和計算程序中，具備與患者對話以及情感交互的能力并能根據(jù)環(huán)境做出決策，令醫(yī)療人員擔(dān)憂被代替。

3.1.2 情感智能的“道德異化”憂患

情感計算算法將計算作為本質(zhì)，把人的情感技術(shù)化，注重效率，這與傳統(tǒng)的道德正義頗有沖突。首先，情感計算醫(yī)療應(yīng)用容易引發(fā)“健康平等”失衡問題[8]。醫(yī)學(xué)智能化的過程中每個患者都被視為更加獨立的個體，能否提供滿足患者不同需求的個性化診療是相關(guān)倫理討論的重點[9]。情感計算技術(shù)尚未充分獲得人們理念認(rèn)可，這使醫(yī)療情感計算技術(shù)在很多情況下不能惠及所有人。其次，由于醫(yī)療情感計算的可及性不足且設(shè)計成本高，難以實現(xiàn)情感計算醫(yī)療應(yīng)用的公平正義，容易因這種不公平引發(fā)社會矛盾[10]。最后，醫(yī)療情感計算技術(shù)應(yīng)用后會影響患者的情感。沒有人為干預(yù)的自動生成是生物醫(yī)學(xué)情感分析最關(guān)鍵的任務(wù)。而醫(yī)療情感計算設(shè)備交流互動能力有限，難以全面模仿患者情感并給出對等反饋，因此情感交互過程中雙方的情感表達(dá)并不對稱。

3.2 規(guī)制自洽性盲區(qū)

3.2.1 觸犯健康信息權(quán)能

基于算法的特殊屬性，醫(yī)療情感計算會侵犯個人健康信息的刪除權(quán)、知情權(quán)等權(quán)能。其一，情感計算技術(shù)能夠揭示此前技術(shù)無法察覺到的信息，例如人的內(nèi)心感受、動機(jī)、態(tài)度等。醫(yī)療情感計算技術(shù)的運行需要利用算法收集大量健康信息數(shù)據(jù)，在收集到相關(guān)健康醫(yī)療數(shù)據(jù)后會對收集到的信息展開分析，分析過程涉及多個環(huán)節(jié)，各個環(huán)節(jié)都與算法存在關(guān)聯(lián)。而算法具有黑箱性，不確定性與復(fù)雜性[11]，對于算法運作的過程，用戶無法了解，即使了解了算法運作的流程，也很難對每個數(shù)據(jù)背后的產(chǎn)生機(jī)理有效掌握。其二，算法具有自動化決策功能，這會削弱患者對健康信息的控制能力和自決能力。而且情感計算醫(yī)療應(yīng)用多數(shù)未明確讓患者知悉該應(yīng)用自身具有情感計算功能，更不會告知其計算結(jié)果，對患者情緒和行為的監(jiān)測有時是在不知情的情況下進(jìn)行。一些情緒數(shù)據(jù)是算法通過多種渠道和媒介推斷得到，這種“推斷”不等同于收集，并不受數(shù)據(jù)主體控制，因此即使在《個人信息保護(hù)法》的視域下也會構(gòu)成對患者個人健康信息權(quán)能的侵犯。

3.2.2 刺探患者情感隱私

情緒是人的一種主觀反應(yīng)，醫(yī)療情感計算系統(tǒng)的構(gòu)建需要大量患者個人信息，若將情感計算投入應(yīng)用就會不同程度地影響甚至侵害患者的隱私權(quán)。因為醫(yī)療情感計算產(chǎn)品所作出的醫(yī)療決策是機(jī)器學(xué)習(xí)了大量的數(shù)據(jù)后經(jīng)過訓(xùn)練和模擬而作出的，所以在該技術(shù)使用過程中這些數(shù)據(jù)很有可能面臨泄露的風(fēng)險。一方面，醫(yī)療情感計算技術(shù)可以未經(jīng)同意就通過患者細(xì)微的動作或其他表征的變化探析出其內(nèi)心情感，從而構(gòu)成對患者個人隱私的侵犯。另一方面，醫(yī)療情感計算信息資源數(shù)據(jù)濫用會影響到患者生活的各個方面。個人信息的主要價值在于社會交往的可識別性[12]。匿名化處理可以抹除信息的重大性或關(guān)聯(lián)性，但無法根除“殘存的可識別性”[13]。相關(guān)信息即使是被刪除也有被恢復(fù)的可能，如果服務(wù)器被攻擊，或者握有患者健康數(shù)據(jù)的軟件公司將患者健康隱私信息販賣，患者的個人健康隱私信息會面臨泄露風(fēng)險。

3.2.3 影響患者自由意志的表達(dá)

醫(yī)療情感計算是可以推斷患者內(nèi)心真實情感的技術(shù)，對于不愿意讓外界知道自己內(nèi)心情感的人而言，會在各方面感到很不自然從而影響其自由意志的表達(dá)。首先，醫(yī)療情感計算技術(shù)可能迫使患者作出虛假情感表達(dá)。情感計算算法具有很強(qiáng)的分類篩選和預(yù)測能力，當(dāng)人產(chǎn)生負(fù)面情緒或某些特殊場景下產(chǎn)生對自己不利的情緒狀態(tài)時，他們的情感會被貼上“情緒狀態(tài)差”的標(biāo)簽，因此會有人為避免內(nèi)心真實情感外露而作出虛假表示。其次，因為算法的復(fù)雜性，患者越來越多地放棄了意識參與[14]。情感計算醫(yī)療應(yīng)用后，當(dāng)患者情緒有輕微波動時，情感計算運行系統(tǒng)會迅速給出反饋甚至為患者提供建議策略，可能會給患者帶來壓力，令他們擔(dān)憂自己的細(xì)微變化都在被監(jiān)控甚至使其產(chǎn)生恐懼心理。再次，醫(yī)療情感計算智能傳感系統(tǒng)有時會使處于日常健康監(jiān)測過程中的健康人群經(jīng)常懷疑自己的健康狀況存在問題，過度依賴情感計算系統(tǒng)的判斷而頻繁開展健康體檢。最后，患者有時會被算法的價值取向所裹挾，放棄選擇的思維、意識和能力。醫(yī)療情感計算系統(tǒng)的運行具有偏好性，帶有偏見的計算結(jié)果會轉(zhuǎn)化為新數(shù)據(jù)。而情感計算技術(shù)在為患者提供個性化服務(wù)時受制于這些數(shù)據(jù)從而誘導(dǎo)患者作出特定選擇，如此長久循環(huán)，患者的選擇會受到極大限制。

3.2.4 侵犯人格尊嚴(yán)價值

醫(yī)療情感計算的應(yīng)用對象區(qū)分性明顯，使該技術(shù)容易與平等保護(hù)相沖突進(jìn)而侵犯人格尊嚴(yán)。一方面，情緒識別診斷帶有偏見性。情感計算醫(yī)療應(yīng)用會根據(jù)收集到的數(shù)據(jù)感知、理解并分析出患者的情緒狀態(tài)，同時將情緒控制力分等級，這樣的等級劃分會令患者心理不平衡。而且實踐中針對特定人群的情感交互設(shè)計也越來越多，也有可能形成歧視。例如，情感計算在孤獨癥抑郁癥診療領(lǐng)域，老年人居家陪護(hù)、孕婦及兒童健康監(jiān)護(hù)三個方面使用得較多。這可能會在人們腦海中形成一種標(biāo)簽效應(yīng)，認(rèn)為該項技術(shù)僅僅是弱勢群體的助手。另一方面，初次的算法歧視一旦形成，會形成“歧視慣性”。算法始終包含著一定的價值判斷，程序編寫者所處的社會環(huán)境及主觀需求極有可能對算法程序產(chǎn)生干預(yù)，使之得出自己想要的結(jié)果。而且一些情感計算算法運行時沒有充分尊重患者意思自治，使其對決策結(jié)果享有的成就感與責(zé)任感降低，進(jìn)而損害患者尊嚴(yán)。

3.3 技術(shù)羈絆性隱患

3.3.1 衍生診療精確度問題

情感計算醫(yī)療應(yīng)用可能會因為其精準(zhǔn)性方面的缺陷做出錯誤的預(yù)測、決策或反饋，一旦造成患者人身傷害等嚴(yán)重后果還會由此引發(fā)確定責(zé)任主體、歸責(zé)等法律問題。首先，情感計算結(jié)果基于的心理生理數(shù)據(jù)十分復(fù)雜，難以分析解釋，算法運行稍有設(shè)計缺陷或考慮不周就會導(dǎo)致判斷失誤從而影響計算結(jié)果。即使是相同的心理生理信息也不一定只代表一種情感，相關(guān)的情緒識別技術(shù)僅通過面部表情、脈搏等征象難以準(zhǔn)確檢測到患者的情感類型。其次，人的情感類型眾多且復(fù)雜多樣，在不同的環(huán)境下或不同的人群間具有差異性，且患者等特殊群體的情緒更是波動性大。當(dāng)對這些情感進(jìn)行人工標(biāo)注時有他人主觀意識的融入。各參與主體在某個行為階段具有何種主觀方面也難以認(rèn)定[15]。最后，醫(yī)療情感計算技術(shù)可能會因為患者情感表達(dá)具有隱喻意義而出現(xiàn)精度問題。醫(yī)療情感計算技術(shù)能否準(zhǔn)確把握患者情感趨勢，是否可以模擬影響患者的情感，對患者的情緒判斷是否準(zhǔn)確，是否可以窮盡各類復(fù)雜情感從而得出可靠的結(jié)果，仍然是技術(shù)上亟待解決的問題。

3.3.2 牽涉診療可靠性缺陷

一旦醫(yī)療情感計算對患者的情緒識別與判斷出現(xiàn)漏洞，會影響醫(yī)療決策，甚至引發(fā)醫(yī)患矛盾。一方面，醫(yī)療情感計算的過程和結(jié)果并不是順利的，生活環(huán)境、地域文化的不同會使得同樣的內(nèi)在情感通過情感計算得出的結(jié)果不一致。采用熟練可靠的算法模型，保障人類健康是智能醫(yī)療決策系統(tǒng)的首要要求。隨著機(jī)器學(xué)習(xí)的加深，算法這一“神經(jīng)網(wǎng)絡(luò)系統(tǒng)”的層數(shù)與參數(shù)更加復(fù)雜，進(jìn)一步增加了專業(yè)化程度[16]。有研究指出僅從單一因素推斷情緒為時過早。另一方面，當(dāng)內(nèi)心情感極其復(fù)雜，多種情感交織在一起時，人們的外在表達(dá)更是復(fù)雜，分析和解釋的難度會加大，現(xiàn)有相關(guān)傳感技術(shù)能否迅速識別并做出判斷與反饋仍然存疑。情緒識別算法本質(zhì)是對各種人類情緒的概率分析[17]，人的情感系統(tǒng)是整體性的，情感計算最終要將情感轉(zhuǎn)變?yōu)樗惴▎栴}加以解決。不同的人面對同一情況時仍然會表現(xiàn)出細(xì)微的肉眼不易察覺的差異，從特定生理信息反推情緒狀態(tài)前需要人工標(biāo)注好這些情緒，這些標(biāo)注的誤差會影響最終的診療決策的科學(xué)性。

4 情感計算醫(yī)療應(yīng)用的法治實現(xiàn)

目前在我國的一些法律法規(guī)中能找到一些針對醫(yī)療人工智能的規(guī)范性要求，但是沒有針對情感計算醫(yī)療應(yīng)用的功能異化困境從法治實現(xiàn)層面構(gòu)建規(guī)制體系，需要針對其多重功能隱患構(gòu)建規(guī)范指引，為醫(yī)療情感計算技術(shù)良性發(fā)展提供法治保障。

4.1 堅守醫(yī)學(xué)倫理底線，規(guī)范醫(yī)療算法至善

4.1.1 堅守“擬制主體”身份的倫理底線

醫(yī)療情感計算以算法作為技術(shù)支撐，仍在醫(yī)療人工智能技術(shù)的范圍內(nèi)，立法時無論是從技術(shù)設(shè)計方面還是其他方面考量，需要注重人的主體性，堅持以患者為中心，保障情感計算應(yīng)用的安全發(fā)展。第一，設(shè)計算法時要引導(dǎo)相關(guān)研發(fā)人員在技術(shù)設(shè)計上更多地考慮到用戶實際需求，保護(hù)算法相對人的意思形成自由與人格成長自由[18]。保證系統(tǒng)運行和程序設(shè)計的各個環(huán)節(jié)尊重患者的隱私權(quán)、知情權(quán)等各項權(quán)利以保持醫(yī)療情感計算算法的工具屬性。第二，保證醫(yī)療算法的自動化決策融合技術(shù)理性與人的理性。在研發(fā)設(shè)計的早期階段就把相關(guān)標(biāo)準(zhǔn)和以人為中心的理念嵌入到設(shè)計思想之中以降低醫(yī)療安全風(fēng)險，注重技術(shù)標(biāo)準(zhǔn)與法律規(guī)范之間的銜接，保證醫(yī)療情感計算技術(shù)的科學(xué)、規(guī)范。第三，注重對人的心理體驗和情感關(guān)懷。作為具有豐富情感的人，不應(yīng)在大數(shù)據(jù)中喪失主體性，異化為任由技術(shù)和數(shù)字?jǐn)[布的數(shù)字單元[19]。因此，醫(yī)療情感計算技術(shù)從設(shè)計到運行的全周期都應(yīng)當(dāng)注重對患者的情感關(guān)懷。要為算法設(shè)計注入“醫(yī)學(xué)人文”的價值，讓患者感受到技術(shù)溫暖，令醫(yī)療情感計算更好為健康服務(wù)。

4.1.2 追求醫(yī)學(xué)倫理與衛(wèi)生法治的最佳耦合

從倫理學(xué)角度而言，情感具有高度自主性，因此通過法治方式規(guī)制醫(yī)療情感計算技術(shù)時需要綜合考量二者關(guān)系，遵循醫(yī)療倫理與衛(wèi)生法治相結(jié)合原則，將醫(yī)療倫理原則逐步法治化，從而促進(jìn)新興科技與倫理道德協(xié)調(diào)發(fā)展。首先，要讓算法遵循人類主體模式下的善法。在設(shè)計建構(gòu)時就要將道德當(dāng)作關(guān)鍵因素考慮，運用法律手段設(shè)置相應(yīng)的準(zhǔn)入門檻，保證醫(yī)學(xué)倫理與衛(wèi)生法治能夠科學(xué)、有機(jī)地結(jié)合在一起，從而保障情感計算應(yīng)用良性發(fā)展。其次，立法倫理要求算法主體的技術(shù)行為要符合人類實踐的理性目標(biāo)[20]。相關(guān)主體需要參考并遵循世衛(wèi)組織及國務(wù)院等有關(guān)部門發(fā)布的倫理規(guī)范以增強(qiáng)法律規(guī)范的科學(xué)性、有效性。把公平原則融入到自身的價值理性之中以防范醫(yī)療算法偏見，使不同的群體或個體都有機(jī)會享有此類醫(yī)療服務(wù)。最后，將倫理規(guī)范編入情感計算算法的操作規(guī)程里，令醫(yī)療算法符合道德規(guī)范的“善”。采用醫(yī)學(xué)倫理與衛(wèi)生法治相結(jié)合的治理思路，特別是在算法設(shè)計過程中嵌入醫(yī)學(xué)道德規(guī)范，使“算法”僅僅作為實現(xiàn)目標(biāo)的手段，實現(xiàn)醫(yī)學(xué)倫理與衛(wèi)生法治的最佳耦合。

4.2 強(qiáng)化治理機(jī)制，完善多元共治

4.2.1 構(gòu)建權(quán)責(zé)明晰的算法責(zé)任嵌入機(jī)制

針對作為醫(yī)療情感計算核心技術(shù)的算法，從設(shè)計到應(yīng)用涉及多個主體，應(yīng)制定專門的法律來明晰相關(guān)主體的權(quán)利義務(wù)，明確算法決策歸責(zé)主體，并設(shè)置相應(yīng)的懲戒制度，避免情感計算技術(shù)濫用。首先，無論是否賦予人工智能主體資格，在解決其法律責(zé)任問題時都必須解釋其是如何行為的[21]?？梢栽诹⒎ㄉ弦笄楦杏嬎慵夹g(shù)開發(fā)者對使用的算法履行解釋說明義務(wù)以增強(qiáng)用戶的信賴，保證醫(yī)療情感計算產(chǎn)品的設(shè)計、開發(fā)直至健康數(shù)據(jù)的刪除等各個環(huán)節(jié)都具有透明性，令患者放心接受醫(yī)療情感計算服務(wù)。其次，建立限權(quán)與賦權(quán)的制度體系以防范算法權(quán)力異化[22]。厘清情感計算技術(shù)應(yīng)用到醫(yī)療這一特殊領(lǐng)域的限制性條件，明確情感計算技術(shù)干預(yù)患者情感的限度和方式。與此同時，合理配置患者個人權(quán)利來對抗情感計算算法權(quán)力，將“情緒數(shù)據(jù)”列為一種權(quán)利類型，降低算法運行時的數(shù)據(jù)安全風(fēng)險。再次，明確對“推測數(shù)據(jù)”的賦權(quán)，令基于多種表征的情緒識別數(shù)據(jù)進(jìn)入到相關(guān)法律的保護(hù)范疇，填補(bǔ)既有規(guī)制的漏洞。最后，建立情感計算醫(yī)療應(yīng)用的問責(zé)機(jī)制和權(quán)利救濟(jì)路徑，明確算法問責(zé)的主體和標(biāo)準(zhǔn)。當(dāng)產(chǎn)生情感識別糾紛時由運營者承擔(dān)舉證責(zé)任證明情感計算結(jié)果的可靠性，若存在計算準(zhǔn)確率問題則令其他主體更正補(bǔ)充。

4.2.2 建立多元協(xié)同的算法權(quán)力治理機(jī)制

有效監(jiān)管是實現(xiàn)技術(shù)普惠的前提。情感計算算法技術(shù)的更迭在提升醫(yī)療服務(wù)效率的同時也透視著患者的情感世界，極易使其陷入“算法囚徒”困境，需要從算法用戶、平臺、監(jiān)管部門等主體的角度出發(fā)，采用多種手段開展多元協(xié)同治理。首先，從立法層面探索醫(yī)療情感計算技術(shù)的應(yīng)用對象在特殊領(lǐng)域享有的算法權(quán)利，建立情感計算算法侵權(quán)的維權(quán)機(jī)制，使不具有身份識別目的性質(zhì)的情緒數(shù)據(jù)也能受到充分保護(hù)。其次，研發(fā)設(shè)計人員需要牢固樹立衛(wèi)生法律意識，在研發(fā)新技術(shù)的同時注意在不觸犯法律底線與倫理禁區(qū)前提下深入研究不同群體各場景下的情感類型及其地域差異，從而突破技術(shù)羈絆，更好地達(dá)到醫(yī)療情感治愈目的。再次，算法技術(shù)的日新月異容易使用戶產(chǎn)生混淆感和陌生感，令人低估情緒識別算法的風(fēng)險程度，因此政府應(yīng)加快建立一套盡可能通用的情緒識別算法的風(fēng)險評估框架，實現(xiàn)對算法技術(shù)的科學(xué)監(jiān)管治理。最后，針對算法的敏捷治理具有較高技術(shù)性、復(fù)雜性、系統(tǒng)性以及風(fēng)險性[23]，單一力量難以治理。應(yīng)加強(qiáng)平臺自律，加緊與第三方力量的合作治理，明確第三方參與算法決策的限度和參與程序，實現(xiàn)對醫(yī)療情感計算技術(shù)的外部化監(jiān)管[23]。在情感計算算法做出影響患者情感的決策之前就消解決策偏差風(fēng)險，使醫(yī)療情感計算技術(shù)普惠更多人群。

4.3 嚴(yán)格審查分類，提升治理效能

4.3.1 建立健全醫(yī)療情感計算技術(shù)審查機(jī)制

醫(yī)療情感計算技術(shù)需要收集患者的心理生理等數(shù)據(jù)信息，而且其所涉及的算法存在數(shù)字鴻溝等缺陷，加上運行過程復(fù)雜，計算效率與結(jié)果存在不確定性等問題，其在設(shè)計、模擬運行和最終應(yīng)用方面都需要嚴(yán)格審查監(jiān)管，保證決策科學(xué)。首先，成立專門技術(shù)審查監(jiān)管機(jī)構(gòu)。為了保證醫(yī)療情感計算技術(shù)的穩(wěn)健性，可以建立區(qū)域?qū)彶槲瘑T會，注重審查人員的學(xué)科背景與專業(yè)素養(yǎng)。借助多學(xué)科專家力量，優(yōu)化監(jiān)管效能。構(gòu)建多層次全方位的審查體系，避免技術(shù)濫用影響患者權(quán)益。必要時可采用第三方監(jiān)管和嚴(yán)格遵守審查程序的方式，確保醫(yī)療情感計算的準(zhǔn)確率，避免算法失控產(chǎn)生“算法未知”現(xiàn)象。其次，審查機(jī)構(gòu)要注重對醫(yī)療情感計算技術(shù)潛在風(fēng)險的研判與防范。對技術(shù)的工具價值保持合理預(yù)期，預(yù)設(shè)醫(yī)療情感計算應(yīng)用可能出現(xiàn)的問題，提高準(zhǔn)入門檻，加強(qiáng)醫(yī)學(xué)倫理審查，對觸犯醫(yī)療倫理禁區(qū)與價值底線的應(yīng)用完全禁止。對醫(yī)療情感計算技術(shù)的合法性、倫理規(guī)范性等方面進(jìn)行全面審查，對各項醫(yī)療情感計算技術(shù)的研究目的、醫(yī)療健康數(shù)據(jù)質(zhì)量、保密等級等內(nèi)容綜合分析并評估該技術(shù)的風(fēng)險性，強(qiáng)化智能診療領(lǐng)域的算法決策風(fēng)險監(jiān)管。最后，用監(jiān)控算法來監(jiān)督其他算法，以算法規(guī)制算法。將醫(yī)療情感計算產(chǎn)品的健康信息掌控、計算效率、計算準(zhǔn)確性等能力納入審查范圍，實時將情感計算系統(tǒng)的安全缺陷反饋給有關(guān)部門，使情感計算算法的運行狀態(tài)和計算結(jié)果處于全流程監(jiān)控之下，將損害降到最低限度。

4.3.2 完善情感計算算法風(fēng)險等級治理體系

情感計算技術(shù)醫(yī)療應(yīng)用過程中產(chǎn)生的風(fēng)險波及范圍與程度深淺各異，十分有必要根據(jù)其風(fēng)險等級進(jìn)行分級治理。首先，建立以風(fēng)險為基礎(chǔ)的全生命周期人工智能監(jiān)管治理體系，強(qiáng)化系統(tǒng)使用者的風(fēng)險治理主體責(zé)任，并突出技術(shù)性方案的基礎(chǔ)性作用。將其分為高中低幾個不同風(fēng)險等級，分別提出法律規(guī)制方案。例如，對于嚴(yán)重違背道德倫理的應(yīng)該明確禁止；對人的權(quán)利有嚴(yán)重影響的應(yīng)該禁止；當(dāng)面臨不得已情況必須投入使用則需要全流程監(jiān)管；對個人權(quán)利影響輕微的需要全流程監(jiān)管并通過權(quán)利義務(wù)性規(guī)定來約束。其次，將一般監(jiān)管與特殊監(jiān)管相結(jié)合，根據(jù)人群特殊性進(jìn)行有針對性的規(guī)定，避免一刀切。醫(yī)療情感計算可以惠及的群體眾多且類型不一，包括孕婦、老人、兒童等，不同類型人群在某些方面可能需要特定的服務(wù)。例如，針對生理病理等方面不便的患者、老人、兒童，需要在應(yīng)用該技術(shù)的同時保證尊重其作為自然人的人格尊嚴(yán)、隱私等各項權(quán)利，避免算法歧視與偏見。最后，情感計算算法具有復(fù)合性質(zhì)，所以醫(yī)療情感計算技術(shù)應(yīng)用時需要區(qū)分醫(yī)療情感計算算法和其他醫(yī)療技術(shù)，根據(jù)其復(fù)合性質(zhì)將其一分為二，分別提出規(guī)制方案，避免單純地將其作為“技術(shù)”進(jìn)行規(guī)制。例如針對人臉情緒識別算法，可以分為人臉識別算法和情緒識別算法兩部分并根據(jù)其風(fēng)險性分別加以規(guī)制。

5 結(jié)語

醫(yī)療情感計算技術(shù)是當(dāng)前醫(yī)療人工智能領(lǐng)域的重要研究方向，算法技術(shù)日新月異，國內(nèi)現(xiàn)已頒布的法律法規(guī)大多屬于原則性基礎(chǔ)條款，缺乏具體的指引，人們對相應(yīng)技術(shù)展開法律規(guī)制的需求也愈加迫切。作為人工智能發(fā)展中的關(guān)鍵技術(shù)，在大力開拓其應(yīng)用市場的同時也需要關(guān)注情感計算應(yīng)用到醫(yī)療這一特殊而敏感領(lǐng)域時面臨的重重挑戰(zhàn)，運用法律手段加以規(guī)制以促進(jìn)醫(yī)療情感計算良性發(fā)展，實現(xiàn)權(quán)利保障和技術(shù)創(chuàng)新的平衡。