徐 明 韋儼蕓

(1.華中科技大學(xué) 法學(xué)院,湖北 武漢 430074;2.中國地質(zhì)大學(xué) 公共管理學(xué)院,湖北 武漢 430074)

當(dāng)今數(shù)字時(shí)代,全球“百年未有之大變局”伴隨著人工智能的深度學(xué)習(xí)加速演進(jìn),醫(yī)療領(lǐng)域亦不例外。我國在《健康中國2030規(guī)劃綱要》中,將“推動(dòng)健康科技創(chuàng)新”上升為國家戰(zhàn)略,《新一代人工智能發(fā)展規(guī)劃》也將“智能醫(yī)療”作為重點(diǎn)發(fā)展領(lǐng)域,醫(yī)療人工智能已經(jīng)成為推動(dòng)醫(yī)療衛(wèi)生領(lǐng)域智能化發(fā)展的重要物質(zhì)載體。然而,科學(xué)技術(shù)是一把“雙刃劍”,醫(yī)療人工智能的快速發(fā)展,不僅是數(shù)字技術(shù)迭代的紅利釋放,而且也可能對(duì)醫(yī)療倫理、法律與社會(huì)體制形成潛在的破壞性塑造。醫(yī)療活動(dòng)“健康所系,性命相托”,事關(guān)公眾生命健康與基本尊嚴(yán),如何將破壞性因子內(nèi)化為醫(yī)療科技紅利,是數(shù)字醫(yī)療的首要命題。

數(shù)字時(shí)代社會(huì)的經(jīng)濟(jì)基礎(chǔ)與社會(huì)結(jié)構(gòu)已經(jīng)發(fā)生質(zhì)的改變,社會(huì)發(fā)展所攜帶、展示和渴求的物質(zhì)標(biāo)簽在無形之中已逐漸轉(zhuǎn)化為虛擬的數(shù)字代碼,應(yīng)當(dāng)摒棄傳統(tǒng)思維,基于數(shù)字法治視角,尋求解決方法。習(xí)近平法治思想蘊(yùn)含著數(shù)字法治建設(shè)的深刻要義,且在融入數(shù)字要素后形成了系統(tǒng)的數(shù)字法治觀[1],其中的數(shù)字人權(quán)、數(shù)字正義與數(shù)字安全等價(jià)值元素不斷得到重視,并為人類如何邁向“科技向善”的數(shù)字時(shí)代指明方向。是故,本文擬從數(shù)字法治視角探索醫(yī)療人工智能的運(yùn)行邏輯,對(duì)其衍生的算法風(fēng)險(xiǎn)進(jìn)行分析,并探討數(shù)字時(shí)代醫(yī)療功能與人的權(quán)利保障兼顧的應(yīng)對(duì)之策。

一、數(shù)字時(shí)代醫(yī)療人工智能的算法邏輯

數(shù)字賦能醫(yī)療人工智能運(yùn)行表現(xiàn)為一定的算法邏輯,即醫(yī)療人工智能以嵌入方式聯(lián)結(jié)各醫(yī)療環(huán)節(jié),并在預(yù)設(shè)模型下深度學(xué)習(xí)醫(yī)學(xué)數(shù)據(jù),適應(yīng)其結(jié)構(gòu)特征,依照概率統(tǒng)計(jì)學(xué)原理運(yùn)算出最優(yōu)解,而在機(jī)器求解醫(yī)療數(shù)據(jù)價(jià)值與臨床診療科學(xué)最大化的過程中,皆由效率邏輯全程主導(dǎo)。由此,算法正在以其深度嵌入、概率統(tǒng)計(jì)及效率主導(dǎo)的邏輯,引導(dǎo)醫(yī)療人工智能邁向數(shù)字化。

1.嵌入邏輯:促進(jìn)人工智能與醫(yī)學(xué)診療的雙向共融。醫(yī)學(xué)診療活動(dòng)的實(shí)踐性強(qiáng)調(diào)醫(yī)生臨床經(jīng)驗(yàn)的積累,與醫(yī)療人工智能基于大規(guī)模、高質(zhì)量且多模態(tài)的醫(yī)療數(shù)據(jù)建構(gòu)的強(qiáng)化學(xué)習(xí)機(jī)制具有天然相融性。由此,智能算法日益將“基于機(jī)器學(xué)習(xí)的算法自動(dòng)化場(chǎng)景”嵌入醫(yī)療決策過程[2],并通過自動(dòng)化的智能算法介質(zhì)搭建“AI+醫(yī)療”的多元聯(lián)合體平臺(tái),實(shí)現(xiàn)以人、機(jī)、物為核心的三元協(xié)同的智能組織架構(gòu)[3]。面向醫(yī)務(wù)人員群體,醫(yī)療人工智能發(fā)揮著輔助疾病診療、提供治療方案并預(yù)測(cè)病情發(fā)展等作用,常以“最高效率提煉最權(quán)威依據(jù)后作出最優(yōu)解”的機(jī)器運(yùn)行程式,把控基本醫(yī)療經(jīng)驗(yàn)的內(nèi)在規(guī)律。例如,在醫(yī)學(xué)影像領(lǐng)域,電腦輔助診斷系統(tǒng)可以通過對(duì)胸部CT照片的分析精準(zhǔn)檢查出肺結(jié)核等疾病,并輔助醫(yī)生將誤診率從3.5%降低至0.5%[4]。又如,IBM研發(fā)的Watson for Oncology(沃森腫瘤智能系統(tǒng))為肺癌、乳腺癌、直腸癌、胃癌、宮頸癌、前列腺癌等多種癌癥的患者推薦個(gè)性化的治療方案[5];更有直接參與到治療進(jìn)程的“達(dá)芬奇手術(shù)機(jī)器人”,在那些使用微創(chuàng)方法實(shí)施復(fù)雜的外科手術(shù)中,借助其得以在病人體內(nèi)準(zhǔn)確無延時(shí)地重現(xiàn)醫(yī)生的手部動(dòng)作,且對(duì)狹窄解剖區(qū)域有極大優(yōu)勢(shì)[6]。

更值得關(guān)注的是,當(dāng)下以ChatGPT為代表的大型語言模型正催生新一輪的技術(shù)革命,而對(duì)基于GPT架構(gòu)的通用大型語言模型進(jìn)行微調(diào),能夠在生物醫(yī)學(xué)領(lǐng)域發(fā)揮更出色的性能,增強(qiáng)醫(yī)療算法模型的魯棒性與泛化能力。例如,清華大學(xué)智能產(chǎn)業(yè)研究院聯(lián)合水木分子公司開源全球首個(gè)多模態(tài)生物醫(yī)藥百億參數(shù)大模型BioMedGPT-10B[7]。該醫(yī)療模型不僅建立了文本、分子和蛋白質(zhì)三個(gè)模態(tài)的統(tǒng)一特征空間,而且支持跨模態(tài)自然語言和分子語言的交互式問答,可在藥物靶點(diǎn)探索與挖掘、先導(dǎo)化合物設(shè)計(jì)與優(yōu)化、蛋白質(zhì)設(shè)計(jì)等領(lǐng)域得以應(yīng)用。隨后,該團(tuán)隊(duì)再次宣布新一代對(duì)話式藥物研發(fā)助手ChatDD(Drug Design)問世,作為制藥專家的智能助手,覆蓋藥物立項(xiàng)、臨床研究、臨床試驗(yàn)的各階段,極大提升了新興藥物的研發(fā)效率。由此可見,現(xiàn)代人工智能日益嵌入到生物醫(yī)學(xué)與診療活動(dòng)的各個(gè)環(huán)節(jié),在社會(huì)轉(zhuǎn)型中不斷推動(dòng)臨床醫(yī)學(xué)前沿化、專業(yè)化、自動(dòng)化[8]。

2.概率邏輯:推動(dòng)人工診療向智能診療的機(jī)制轉(zhuǎn)換。數(shù)字時(shí)代的醫(yī)療人工智能算法普遍采取“大數(shù)據(jù),小定律”的技術(shù)范式。此種范式將病癥問題支解為若干待以解決的子集,再根據(jù)指令中預(yù)設(shè)的特定情景、場(chǎng)域或現(xiàn)實(shí)需求,將離散化的海量醫(yī)療“數(shù)據(jù)信息”有機(jī)聚合,并從中提取出“共性規(guī)律”,對(duì)待解決子集做出相關(guān)性反饋[9]。其背后所遵循的是一套嚴(yán)格“條件-結(jié)果”的連鎖式反應(yīng),而此種基于數(shù)據(jù)進(jìn)行量化分析的數(shù)理統(tǒng)計(jì)思維即概率邏輯判斷。

依照此種概率邏輯,醫(yī)療人工智能能夠在可視化、數(shù)量化的數(shù)據(jù)比較分析中,基于數(shù)據(jù)之間的相關(guān)性驗(yàn)證醫(yī)學(xué)領(lǐng)域中的某個(gè)命題為真、某項(xiàng)選擇最優(yōu),由此得以精準(zhǔn)識(shí)別病灶、斷定疾病種類并給出最優(yōu)治療方案,是算法設(shè)計(jì)者將具有一階語言描述性質(zhì)的分散數(shù)據(jù)及相關(guān)性解釋為“適當(dāng)?shù)拇蟾怕适录?再經(jīng)由結(jié)論證成決策之正當(dāng)性[10]。相較于傳統(tǒng)的強(qiáng)調(diào)主體身份性與權(quán)威性的人工診療,此種借助于精準(zhǔn)概率理論分析醫(yī)學(xué)案例的智能診療具有極大優(yōu)勢(shì),不僅可以擺脫傳統(tǒng)人工診療受到嚴(yán)格時(shí)空條件限制的弊端,而且在診療成功率或效果方面也毫不遜色。醫(yī)療實(shí)踐中,國內(nèi)首例5G醫(yī)療機(jī)器人借助定制網(wǎng)絡(luò)信號(hào)傳輸,在北京接收來自浙江外科專家發(fā)出的動(dòng)作指令,經(jīng)系列精準(zhǔn)計(jì)算后完成解剖、分離、縫合等手術(shù)動(dòng)作[11]。且據(jù)研究報(bào)告,一個(gè)使用卷積神經(jīng)網(wǎng)絡(luò)的智能醫(yī)療決策系統(tǒng)在經(jīng)過對(duì)10萬張圖像的學(xué)習(xí)訓(xùn)練后,對(duì)黑色素瘤的診斷準(zhǔn)確率可高達(dá)95%,遠(yuǎn)超人類皮膚科醫(yī)生86.6%的診斷準(zhǔn)確率[12]?？梢?醫(yī)療領(lǐng)域所面臨的疑難雜癥,經(jīng)由機(jī)器高度精確的相關(guān)性概率統(tǒng)計(jì)與計(jì)算便可尋得解決方案,由此推動(dòng)醫(yī)療實(shí)踐從人工診療向智能診療轉(zhuǎn)換。

3.效率邏輯:協(xié)調(diào)功利主義與自然正義的價(jià)值博弈。醫(yī)療人工智能的行為決策受到強(qiáng)烈的效率邏輯主導(dǎo),其運(yùn)行完全排除主觀認(rèn)知因素而嚴(yán)格遵循客觀公式計(jì)算。在這一過程中,機(jī)器并無道德“善與惡”的價(jià)值評(píng)價(jià)標(biāo)準(zhǔn),只有程序推進(jìn)“是與否”的邏輯運(yùn)算法則。此種將效率置于價(jià)值位階之首的運(yùn)行程式,實(shí)現(xiàn)的是功利主義所推崇的“最大多數(shù)人的最大幸?！薄孕蕿閷?dǎo)向確保社會(huì)價(jià)值最大化。在此意義上,醫(yī)療人工智能行為、決斷及其方案的“正確性”,能夠通過社會(huì)總福祉的增加趨勢(shì)加以衡量。然而,此種集體主義與自然法則下所崇尚的個(gè)人正義形成天然的對(duì)抗力,而導(dǎo)致醫(yī)療正義價(jià)值也在功利目標(biāo)追求的過程中黯然失色。并且,與傳統(tǒng)的生命倫理、醫(yī)學(xué)倫理相比,人工智能尚未形成公認(rèn)可靠的倫理準(zhǔn)則[13]。醫(yī)療人工智能發(fā)展是功利主義與自然正義此消彼長的過程,甚至呈現(xiàn)正義理念消解而功利目的式漲的發(fā)展趨勢(shì)。這不僅與亞當(dāng)·斯密所構(gòu)建的以自然正義和道德正義為基礎(chǔ)的社會(huì)秩序截然相反,而且難以符合現(xiàn)代法治所崇尚的“良法善治”標(biāo)準(zhǔn)。

不過,效率邏輯在引發(fā)價(jià)值博弈擔(dān)憂的同時(shí),其所具備的高度“科學(xué)理性”又恰好可以補(bǔ)強(qiáng)自然正義式微的發(fā)展勢(shì)態(tài)。具體而言,醫(yī)學(xué)診療活動(dòng)除了憑借醫(yī)生基于自身理論知識(shí)和實(shí)踐經(jīng)驗(yàn)的反復(fù)“客觀循證”之外,還將依賴由于醫(yī)生心理慣性所形成的超越經(jīng)驗(yàn)的“主觀先驗(yàn)”判斷。此種富有明顯價(jià)值色彩的診療活動(dòng),體現(xiàn)的正是人們孜孜以求的樸素的自然正義觀念,常言道之“醫(yī)者仁心”,這顯然有利于“人性化”地全面診療疾患,亦與現(xiàn)代社會(huì)奉行的“生物-心理-社會(huì)醫(yī)學(xué)”模式緊密契合。然而,人的主觀認(rèn)識(shí)能力極為有限,也更容易受到形態(tài)各異的醫(yī)患關(guān)系、社會(huì)氛圍、個(gè)人性格與情緒等多元因素的影響。此時(shí)醫(yī)療人工智能作為“最高思考能力產(chǎn)物”,較之一般手工工具凝結(jié)著更多的知識(shí)和思考,為降低行為決策之錯(cuò)誤率以實(shí)現(xiàn)效率最大化,便能夠以其科學(xué)理性、不偏不倚且建立于客觀事實(shí)之上的思維邏輯作出判斷,為傳統(tǒng)診療提供有益的參考或驗(yàn)證,實(shí)現(xiàn)另一種意義上的社會(huì)正義。

二、數(shù)字時(shí)代醫(yī)療人工智能的法治風(fēng)險(xiǎn)

醫(yī)療人工智能在數(shù)字時(shí)代承載著解放醫(yī)療生產(chǎn)力的使命,極大地推動(dòng)了醫(yī)學(xué)診療活動(dòng)的科學(xué)發(fā)展,賦予其理性、精準(zhǔn)和高效的價(jià)值特征。然而,當(dāng)站在科技紅利的對(duì)立面觀察,也不難發(fā)現(xiàn)在與數(shù)字科技結(jié)合緊密的醫(yī)療領(lǐng)域,技術(shù)賦能醫(yī)學(xué)診療的同時(shí),基本權(quán)利危機(jī)、醫(yī)療自主性和醫(yī)療歸責(zé)的風(fēng)險(xiǎn)正接踵而至。

1.權(quán)利危機(jī):消極耦合威脅患者的基本權(quán)利。醫(yī)療活動(dòng)的首要目標(biāo)即維護(hù)患者的生命健康,保障患者的基本權(quán)利。相應(yīng)地,醫(yī)療與智能的消極耦合所引發(fā)的基本權(quán)利危機(jī)也是智能診療的首要風(fēng)險(xiǎn)。且數(shù)字技術(shù)賦予了患者“生物人”與“信息人”的雙重身份,導(dǎo)致對(duì)基本權(quán)利的維護(hù)也因人的存在形式異化而需要付出超越以往的代價(jià)。

首先,這種代價(jià)直接體現(xiàn)為數(shù)字技術(shù)對(duì)患者生命健康權(quán)的沖擊。當(dāng)醫(yī)療機(jī)構(gòu)難以馴化“數(shù)字利維坦”,那么患者只能被動(dòng)接受由于算法理性失控所導(dǎo)致的生存危機(jī),正如“英國達(dá)芬奇機(jī)器人心臟手術(shù)致死案”那般觸目驚心,又如“在線AI醫(yī)生誤診漏診”這般駭人聽聞。究其原因,正是技術(shù)內(nèi)生性風(fēng)險(xiǎn)與社會(huì)外在性風(fēng)險(xiǎn)協(xié)同演化的后果。智能診療本身存在漏診、錯(cuò)誤判斷、治療不足、干預(yù)計(jì)劃或順序不正確等情形。此外,醫(yī)務(wù)人員對(duì)智能系統(tǒng)的誤用和濫用也成為一種潛在威脅。如2021年在澳大利亞和新西蘭對(duì)632名醫(yī)療保健人員進(jìn)行的一項(xiàng)調(diào)查表明,80%的臨床醫(yī)生從未在工作中使用過人工智能應(yīng)用程序,只有5%的人認(rèn)為自己對(duì)醫(yī)療人工智能擁有豐富知識(shí)[14]。這種陌生和不熟悉勢(shì)必會(huì)導(dǎo)致嚴(yán)重的不良后果。

其次,算法權(quán)力“持續(xù)性控制”容易導(dǎo)致患者信息泄露。數(shù)字時(shí)代的醫(yī)療健康大數(shù)據(jù)已然升級(jí)成為重要的戰(zhàn)略資源[15],然而深陷“數(shù)據(jù)孤島”的社會(huì)與充滿不確定性的知情同意原則難以確?；颊邤?shù)據(jù)來源的合法正當(dāng),被符號(hào)化、代碼化的醫(yī)療信息更得以輕松突破時(shí)空壁壘,在去邊界化的數(shù)字世界中被無限制地復(fù)制與傳播,個(gè)體的健康狀況與醫(yī)學(xué)研究價(jià)值不僅被大數(shù)據(jù)“精準(zhǔn)算計(jì)”,而且極易陷入信息脫敏處理困境。在Dinerstein訴芝加哥大學(xué)及谷歌案中,芝加哥大學(xué)因向谷歌共享數(shù)十萬條“去標(biāo)識(shí)化”的患者記錄而受到指控,因?yàn)橄嚓P(guān)記錄的匿名化處理不充分,仍然包含了患者的人口統(tǒng)計(jì)數(shù)據(jù)、診斷數(shù)據(jù)、手術(shù)記錄和藥物記錄等,據(jù)此可以重新定位患者身份,嚴(yán)重侵犯個(gè)人隱私[16]。

最后,在算法偏見與算法黑箱的支配下,患者公平獲取醫(yī)療資源的權(quán)利與知情同意權(quán)利同樣面臨挑戰(zhàn)。由于數(shù)據(jù)樣本偏差、算法邏輯瑕疵、算法設(shè)計(jì)者動(dòng)機(jī)傾向等因素普遍存在,有關(guān)基因、種族、性別、地域等偏見將于無形之中嵌入算法程序。例如,一篇發(fā)表于《科學(xué)》的研究報(bào)告指出,一項(xiàng)廣泛運(yùn)用于美國醫(yī)療保健系統(tǒng)的健康服務(wù)算法對(duì)非洲裔患者存在嚴(yán)重的種族歧視,在患者病情發(fā)展相當(dāng)?shù)臓顟B(tài)下,算法總是賦予黑人相對(duì)較低的風(fēng)險(xiǎn)閾值,因此,有將近一半的黑人未被算法識(shí)別為“產(chǎn)生復(fù)雜醫(yī)療需求”的群體,導(dǎo)致他們無法參與改善健康的干預(yù)項(xiàng)目[17];并且,患者的知情同意權(quán)基于算法的固有屬性和復(fù)雜架構(gòu)很難實(shí)現(xiàn)[18],因?yàn)獒t(yī)療人工智能本質(zhì)上是一套基于統(tǒng)計(jì)學(xué)的數(shù)學(xué)模型,行為決策更多依賴的是概率統(tǒng)計(jì)學(xué)上的相關(guān)關(guān)系,而非因果關(guān)系。因此,其輸出結(jié)果在部分情況下可能難以被通常推理所理解,也難以經(jīng)由邏輯所復(fù)現(xiàn)[19]。而現(xiàn)代醫(yī)學(xué)是一種“循證”的生物科學(xué),重視證據(jù)和醫(yī)生的臨床經(jīng)驗(yàn)技能,臨床行為決策也必須遵循現(xiàn)象與結(jié)果之間因果關(guān)系的經(jīng)驗(yàn)演繹。算法黑箱的不透明屬性導(dǎo)致醫(yī)生只能通過觀察數(shù)據(jù)來驗(yàn)證機(jī)器判斷是否正確,這顯然超越了醫(yī)生的認(rèn)知能力范圍,導(dǎo)致其向患者履行告知義務(wù)時(shí)受阻,相應(yīng)的,患者真正的知情同意權(quán)便無從保障。

2.主體消解:智能診療挑戰(zhàn)醫(yī)生自主地位?？萍嫉谋举|(zhì)屬性并不會(huì)因?yàn)闀r(shí)代的更迭而改變,身處每一個(gè)歷史階段的人類都需要進(jìn)行科技的人文反思。誠如馬克思所言,人與機(jī)器之間的關(guān)系是主客體關(guān)系,機(jī)器在本質(zhì)上應(yīng)當(dāng)是增進(jìn)與確證人的自由全面發(fā)展的社會(huì)性存在[20]。然而,當(dāng)下由數(shù)據(jù)所塑造的“人機(jī)關(guān)系”似乎正朝著人類預(yù)期的相反方向發(fā)展。在人類社會(huì)中最應(yīng)體現(xiàn)“人文關(guān)懷”的醫(yī)療領(lǐng)域,身披算法“隱身衣”的醫(yī)療人工智能卻能夠輕松繞過傳統(tǒng)醫(yī)學(xué)的倫理審查與規(guī)范強(qiáng)制,并以其智能診療優(yōu)勢(shì)作為“麻醉劑”實(shí)現(xiàn)醫(yī)生群體對(duì)醫(yī)療活動(dòng)主動(dòng)控制權(quán)的“自愿”轉(zhuǎn)移,醫(yī)療領(lǐng)域正面臨一場(chǎng)機(jī)器“反客為主”的人文危機(jī)。實(shí)際上,這是醫(yī)療人工智能工具理性超越價(jià)值理性所使然,機(jī)器“價(jià)值無涉”的理性偏失致使工具理性價(jià)值凌駕于醫(yī)生的自我價(jià)值之上,醫(yī)生群體被迫讓渡部分自主權(quán)利,置身于“技術(shù)繭房”之中難以逃脫被技術(shù)同化的命運(yùn)。伴隨著智能診療優(yōu)勢(shì)持續(xù)放大,各執(zhí)業(yè)階段的醫(yī)生在診療活動(dòng)中會(huì)更加傾向于參考人工智能的建議,甚至讓人工智能直接參與其中,尤其是在醫(yī)療資源短缺、診療壓力巨大以及新手醫(yī)生缺乏臨床實(shí)踐經(jīng)驗(yàn)的現(xiàn)實(shí)情況下[21]。最終,醫(yī)務(wù)人員的自主決策空間不斷受到輔助決策系統(tǒng)的擠壓。當(dāng)醫(yī)療人工智能無法考量個(gè)體獨(dú)特的身心特征、過往病史以及社會(huì)因素等差異性,在診療過程中出現(xiàn)人機(jī)判斷相左的“同行分歧”,如何抉擇對(duì)于醫(yī)生而言更是一項(xiàng)艱難的事實(shí)判斷與價(jià)值選擇。

3.問責(zé)困境:數(shù)字要素介入加重歸責(zé)難題?，F(xiàn)階段認(rèn)定人工智能致人損害的法律責(zé)任主要遵循“人-物”二分法,即當(dāng)下的人工智能由于缺乏獨(dú)立的主觀意識(shí)而與具有“人類智慧”的自然人存在本質(zhì)區(qū)別,也因欠缺對(duì)加害行為的“辨認(rèn)能力”與“控制能力”,故暫不具備承擔(dān)法律責(zé)任的主體資格[22]。同時(shí),機(jī)器“價(jià)值無涉”的行為法則也意味著很難在規(guī)范層面之外將其作為“充分的道德行動(dòng)者”納入道德責(zé)任的歸屬和分配機(jī)制。因此,當(dāng)下的醫(yī)療人工智能歸責(zé)只能遵照傳統(tǒng)的以過錯(cuò)責(zé)任與嚴(yán)格責(zé)任為核心的二元問責(zé)制,對(duì)處于醫(yī)療機(jī)構(gòu)、醫(yī)療產(chǎn)品的生產(chǎn)者與銷售者等自然人主體問責(zé),試圖將人機(jī)混合診療模式下的復(fù)雜行為拆解為個(gè)體行為,將損害責(zé)任分配于系統(tǒng)個(gè)體[23]。

然而,正如塔代奧和弗洛里迪所指出的,“人工智能的能動(dòng)性是分布式的而非個(gè)體性的”[24],不僅作為機(jī)器生產(chǎn)動(dòng)力的數(shù)據(jù)要素呈全面分散式存在,而且機(jī)器決策通常是多元主體之間無數(shù)次的交互結(jié)果,這就使得處于對(duì)立面的個(gè)體歸責(zé)方案極易陷入適用困境。主要體現(xiàn)為三個(gè)方面:一是責(zé)任主體難以追溯。在傳統(tǒng)的醫(yī)療損害事故中,醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員是唯一的疾病診斷者和干預(yù)者,法律僅需要依據(jù)過錯(cuò)原則確認(rèn)單一醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員的責(zé)任。當(dāng)醫(yī)生自主決策轉(zhuǎn)向人機(jī)混合決策,醫(yī)療算法模型的設(shè)計(jì)者、使用者及其管理者等多主體均涉入決策過程,法律便很難在多元主體共決和算法復(fù)雜特質(zhì)的共同作用下快速確認(rèn)究竟是何主體實(shí)施了決定性的加害行為,個(gè)體主義歸責(zé)方案所遵循的“復(fù)雜行為-個(gè)體行為”邏輯鏈條在虛實(shí)交互之下斷裂。二是因果關(guān)系難以認(rèn)定。人工智能醫(yī)療事故損害的發(fā)生往往是多因一果、多因多果的過程,不僅判斷每一層因果關(guān)系的有無以及強(qiáng)弱十分困難,而且難以查明損害究竟是何種原因所直接或間接導(dǎo)致?lián)p害結(jié)果。且人機(jī)共決的錯(cuò)綜復(fù)雜關(guān)系更是加劇了因果關(guān)系的證明難度[25]。三是可能存在無“責(zé)任空?qǐng)觥钡那闆r。倘若處于因果關(guān)系鏈上的自然人已經(jīng)在能力范圍內(nèi)盡到充分認(rèn)知與完全控制仍無法阻止醫(yī)療損害發(fā)生,便可基于其不存在過錯(cuò)主張責(zé)任豁免,加之現(xiàn)階段的醫(yī)療人工智能尚不具備承擔(dān)法律責(zé)任的主體資格,即使行為符合構(gòu)成要件與違法性要件之后也不具備非難可能性,承擔(dān)法律責(zé)任的“有責(zé)性”要件直接被排除在外[26]。此時(shí),在規(guī)范層面不存在確切的責(zé)任主體為一場(chǎng)實(shí)在發(fā)生的醫(yī)療損害事故承擔(dān)責(zé)任,這顯然不符合現(xiàn)代社會(huì)“理性人”的正義標(biāo)準(zhǔn)。

三、數(shù)字時(shí)代醫(yī)療人工智能風(fēng)險(xiǎn)的應(yīng)對(duì)策略

醫(yī)療人工智能日新月異的發(fā)展不斷挑戰(zhàn)著傳統(tǒng)社會(huì)的法律制度,形成了一個(gè)社會(huì)倫理風(fēng)險(xiǎn)泛在的虛擬醫(yī)療數(shù)字空間。因此,必須立足數(shù)字技術(shù)空間與醫(yī)療領(lǐng)域的特殊性,以數(shù)字法治所內(nèi)涵的數(shù)字人權(quán)、數(shù)字正義以及數(shù)字安全理念重新配置權(quán)利、義務(wù)和責(zé)任等法律關(guān)系,構(gòu)建符合智能醫(yī)學(xué)發(fā)展規(guī)律的倫理框架和行為規(guī)范。

1.以數(shù)字人權(quán)為本源,維護(hù)醫(yī)療主體基本權(quán)利。數(shù)字社會(huì)需要人權(quán)以“數(shù)字形態(tài)”的方式繼續(xù)承擔(dān)為人類社會(huì)進(jìn)行道德奠基的重任[27],由此傳統(tǒng)人權(quán)的更新迭代而衍生出第四代人權(quán)——數(shù)字人權(quán)[28]。在醫(yī)療數(shù)字領(lǐng)域,患者的生命健康與人格尊嚴(yán)等最基本的個(gè)人價(jià)值實(shí)現(xiàn)皆有賴于信息、數(shù)據(jù)和代碼的數(shù)字描繪,然而技術(shù)門檻與信息不對(duì)稱筑起的壁壘是如此之高,以至于被“攔在門外”的患者逐漸喪失對(duì)其生存發(fā)展的控制支配權(quán)。而法律人應(yīng)對(duì)挑戰(zhàn)通常的方式是訴諸法律權(quán)利,但數(shù)字人權(quán)新生的內(nèi)涵與外延又無法被傳統(tǒng)人權(quán)所完全覆蓋,因此,有必要在數(shù)字空間下探索人的數(shù)字權(quán)利,推動(dòng)從傳統(tǒng)物質(zhì)世界人權(quán)觀到新興數(shù)字世界人權(quán)觀的提級(jí)轉(zhuǎn)變[29]。

一方面,堅(jiān)持“以人為本”的數(shù)字法治運(yùn)行原則,是數(shù)字人權(quán)的首要內(nèi)涵[30]。面對(duì)醫(yī)療人工智能對(duì)患者基本人權(quán)的威脅,必須堅(jiān)持人本主義理念及其以人民為中心的基本立場(chǎng),并在此基礎(chǔ)上排列醫(yī)療領(lǐng)域的價(jià)值位階。首先要以患者的身體健康和生命安全作為首要價(jià)值追求,馴化醫(yī)療人工智能應(yīng)當(dāng)具備的道德正義價(jià)值次之,最后才涉及醫(yī)療科技發(fā)展、經(jīng)濟(jì)效益追求等效率價(jià)值。另一方面,細(xì)化醫(yī)療領(lǐng)域的具體數(shù)字人權(quán),并以制度保障其權(quán)利行使。在患者與醫(yī)療人工智能的關(guān)系中,患者顯然屬于被動(dòng)的、極易受到侵犯的“數(shù)字弱勢(shì)群體”。因?yàn)樗麄冸y以跨越“數(shù)字鴻溝”尋得公平正義,這便需要確立以數(shù)字人權(quán)為核心內(nèi)容的制度保障。而數(shù)字人權(quán)的介入常以抽象的“權(quán)利束”的方式呈現(xiàn),因此還需要進(jìn)一步細(xì)化為患者在數(shù)字空間的數(shù)據(jù)自主權(quán)、數(shù)據(jù)隱私權(quán)、數(shù)據(jù)知情權(quán)、數(shù)據(jù)表達(dá)權(quán)、數(shù)據(jù)公開使用權(quán)、數(shù)據(jù)財(cái)產(chǎn)權(quán)等事關(guān)數(shù)字身份的子權(quán)利,并且隨著醫(yī)療數(shù)字實(shí)踐的發(fā)展逐步擴(kuò)大具體權(quán)利范疇。

2.以數(shù)字正義為基礎(chǔ),保持智能醫(yī)療的正確方向。數(shù)字正義是社會(huì)正義原則和正義實(shí)現(xiàn)機(jī)制在數(shù)字領(lǐng)域的體現(xiàn),是正義體系的重要組成部分與中樞,具有價(jià)值引導(dǎo)與利益分配、技術(shù)規(guī)則與發(fā)展激勵(lì)等治理功能[31]。然而,基于算法具有效率導(dǎo)向的內(nèi)生特點(diǎn),極易與實(shí)現(xiàn)數(shù)字正義的初衷背道而馳[32]。為防止技術(shù)主義、工具主義、形式主義的反向侵蝕,算法應(yīng)用當(dāng)滿足人權(quán)、正義、法治價(jià)值的理想狀態(tài)[33]。尤其是在關(guān)乎最基本民生福祉的醫(yī)療領(lǐng)域,更應(yīng)當(dāng)排除傳統(tǒng)“技術(shù)中立”原則下機(jī)器價(jià)值無涉的被動(dòng)立場(chǎng),遵循數(shù)字正義所內(nèi)涵的“科技向善”原則。

一是在醫(yī)療算法程序編寫過程中施以積極價(jià)值導(dǎo)向的人為干預(yù),確立“自上而下”的通過普遍性醫(yī)療倫理準(zhǔn)則來指導(dǎo)和約束機(jī)器具體行為的治理范式。算法自動(dòng)化決策的知識(shí)、邏輯、邊界和價(jià)值基準(zhǔn)可以被事先預(yù)置,這一論斷早已體現(xiàn)在艾薩克·阿西莫夫(Isaac Asimov)提出的“機(jī)器人三大定律”中,其認(rèn)識(shí)到通過道德準(zhǔn)則和倫理規(guī)范來指引機(jī)器行為以提高人類福利的可能性,指出實(shí)現(xiàn)機(jī)器正義的最佳途徑就是對(duì)基本倫理原則進(jìn)行“可計(jì)算式”處理后通過編程的方式將其嵌入機(jī)器的行為機(jī)制中。借鑒此種優(yōu)化頂層設(shè)計(jì)的治理思路,可將醫(yī)療數(shù)字正義的實(shí)現(xiàn)訴諸于用以模型訓(xùn)練的醫(yī)療數(shù)據(jù)正義,即確保數(shù)據(jù)來源與內(nèi)容合法、數(shù)據(jù)的準(zhǔn)確性與科學(xué)性以及數(shù)據(jù)的普遍適用性與系統(tǒng)全面性。在研發(fā)階段主動(dòng)依照世界衛(wèi)生組織《衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南》所提出的六大倫理準(zhǔn)則引導(dǎo)醫(yī)療人工智能行為,經(jīng)由前攝性地對(duì)算法設(shè)計(jì)施加積極影響,而非算法運(yùn)行之后被動(dòng)的事后反應(yīng)。

二是通過“自下而上”的案例訓(xùn)練機(jī)制培養(yǎng)機(jī)器對(duì)倫理要素和道德內(nèi)涵的理解,以形成系統(tǒng)性價(jià)值觀后指導(dǎo)機(jī)器行為。這在當(dāng)代人工智能倫理奠基人科林·艾倫(colin allen)與溫德爾·瓦拉赫(wendell wallach)所提倡的“道德圖靈測(cè)試”中也有所體現(xiàn)。他們發(fā)現(xiàn)通過測(cè)試的人工智能可以作為“人工道德行動(dòng)者”而具備識(shí)別道德事實(shí)相關(guān)的敏感性能力,并相信人工智能可以通過經(jīng)驗(yàn)性情境中的個(gè)別案例學(xué)習(xí)來模擬人類的道德行為,從而間接地獲取普遍抽象的道德規(guī)范以作為未來行為決策的指引,甚至在此基礎(chǔ)上形成類似人類的社會(huì)性情感關(guān)系[34]。借鑒此治理范式,當(dāng)下可以選擇在具有典型代表性與普遍適用性的臨床案例學(xué)習(xí)中循環(huán)往復(fù)馴化機(jī)器,并形成醫(yī)生對(duì)機(jī)器的“復(fù)數(shù)決策機(jī)制”與“正負(fù)反饋機(jī)制”,即明確醫(yī)務(wù)人員的自主地位與人工智能的輔助地位,要求醫(yī)務(wù)人員必須負(fù)擔(dān)機(jī)器價(jià)值判斷后的再判斷義務(wù),再由醫(yī)生將判斷結(jié)果反饋于機(jī)器,通過外部評(píng)判加深機(jī)器對(duì)其自身行為的認(rèn)知,以指引其執(zhí)行下一次診療任務(wù)。由此,形成專屬于醫(yī)療人工智能的以數(shù)字正義為核心的道德評(píng)價(jià)體系。

3.以數(shù)字安全為保障,完善醫(yī)療算法運(yùn)行機(jī)制。數(shù)字安全是指數(shù)字系統(tǒng)及應(yīng)用處于穩(wěn)定可靠運(yùn)行的狀態(tài)以及具備保障其安全性的能力[35]。不同于其他領(lǐng)域通用的人工智能,醫(yī)療人工智能聚焦嚴(yán)肅且謹(jǐn)慎的醫(yī)療場(chǎng)景,事涉患者生存發(fā)展最基本的生命健康權(quán),故而其天然對(duì)錯(cuò)誤的容忍度更低。因此,確有必要基于事前防范、事中監(jiān)管以及事后問責(zé)三個(gè)層面完善算法運(yùn)行機(jī)制,回歸算法底層邏輯控制算法風(fēng)險(xiǎn)。

在事前防范階段,依照數(shù)字安全所要求的“防患于未然”之要義,構(gòu)建醫(yī)療算法影響評(píng)估機(jī)制,并將其設(shè)置為醫(yī)療人工智能投入臨床使用的前置性審查程序。對(duì)于算法研發(fā)主體而言,需要遵照醫(yī)療領(lǐng)域的特殊性全面評(píng)估醫(yī)療智能設(shè)備在投放市場(chǎng)或進(jìn)入醫(yī)療機(jī)構(gòu)之前的風(fēng)險(xiǎn)指標(biāo),依據(jù)準(zhǔn)確率、靈敏度、特異性以及公平性等多項(xiàng)指標(biāo)綜合考量。而對(duì)于醫(yī)療機(jī)構(gòu)而言,綜合性的算法影響評(píng)估機(jī)制更是輔助其完成風(fēng)險(xiǎn)自查與事前干預(yù)的合規(guī)管理路徑。

在事中監(jiān)管階段,遵循數(shù)字安全所內(nèi)涵的“權(quán)力制約”的邏輯進(jìn)路,確保日漸膨脹的算法權(quán)力在透明化標(biāo)準(zhǔn)下接受行政主管部門的公權(quán)力監(jiān)管。一方面,醫(yī)療人工智能的研發(fā)設(shè)計(jì)主體向行政主觀部門履行算法參數(shù)報(bào)備義務(wù),甚至對(duì)于直接關(guān)乎生命健康的重大研發(fā)項(xiàng)目,需要履行更為嚴(yán)格的源代碼備案程序[36],便于事后通過參數(shù)從源頭追溯研發(fā)設(shè)計(jì)環(huán)節(jié)的主體責(zé)任。同時(shí),此類主體還應(yīng)當(dāng)負(fù)擔(dān)打開“算法黑箱”解釋算法的義務(wù),并形成書面報(bào)告向行政主管部門報(bào)備。即由研發(fā)設(shè)計(jì)者將算法代碼轉(zhuǎn)化為醫(yī)學(xué)專業(yè)術(shù)語,并向醫(yī)療機(jī)構(gòu)解釋決定機(jī)器決策的主要參數(shù)以及這些主要參數(shù)相對(duì)于其他參數(shù)更為重要的理由,進(jìn)而有助于醫(yī)療機(jī)構(gòu)向患者履行“告知”義務(wù)[37]。另一方面,醫(yī)療人工智能的最終生產(chǎn)者應(yīng)當(dāng)依照《醫(yī)療器械監(jiān)督管理?xiàng)l例》第6條劃分的“三級(jí)分類監(jiān)管”方式向行政主管部門履行登記備案手續(xù),依據(jù)預(yù)期目的、結(jié)構(gòu)特征、使用方法等因素綜合評(píng)價(jià)醫(yī)療人工智能的風(fēng)險(xiǎn)等級(jí)后歸類管理。由此,數(shù)字醫(yī)療場(chǎng)域在行政公權(quán)力的介入之下形成“算法權(quán)力-國家權(quán)力-私人權(quán)利”的平衡格局。

在事后問責(zé)階段,應(yīng)當(dāng)完善醫(yī)療算法問責(zé)機(jī)制,分級(jí)分類構(gòu)建“負(fù)責(zé)任”的醫(yī)療人工智能[38]。“分級(jí)”旨在區(qū)分醫(yī)療人工智能的高級(jí)狀態(tài)與低級(jí)狀態(tài),高級(jí)狀態(tài)的醫(yī)療人工智能不僅需要滿足思維自主性能力及與道德事實(shí)相關(guān)的敏感性能力,還需要具備足以賠償損失的獨(dú)立財(cái)產(chǎn)[39]。自主獨(dú)立意識(shí)和道德評(píng)價(jià)體系的“擬人格化”特征使其具備承擔(dān)責(zé)任的主體資格,而獨(dú)立的財(cái)產(chǎn)要件決定其具備責(zé)任能力。顯然,現(xiàn)階段的法律責(zé)任承擔(dān)暫且只能在人工智能的低級(jí)狀態(tài)下“分類”討論,即在區(qū)分醫(yī)療產(chǎn)品責(zé)任與醫(yī)療損害責(zé)任的基礎(chǔ)上,提高現(xiàn)行規(guī)則之于數(shù)字技術(shù)的適應(yīng)性。第一種情況,當(dāng)醫(yī)療人工智能純粹作為“醫(yī)療器械”具有產(chǎn)品缺陷,可依據(jù)《民法典》第1223條適用無過錯(cuò)責(zé)任原則,追究生產(chǎn)者、銷售者與醫(yī)療機(jī)構(gòu)的不真正連帶責(zé)任。事實(shí)上,還應(yīng)當(dāng)擴(kuò)大無過錯(cuò)責(zé)任原則的適用主體,將醫(yī)療人工智能的設(shè)計(jì)者、數(shù)據(jù)提供者、標(biāo)注者等實(shí)質(zhì)影響智能醫(yī)療產(chǎn)品質(zhì)量的主體作為問責(zé)對(duì)象。第二種情況,當(dāng)醫(yī)療人工智能在輔助醫(yī)生決策時(shí)引發(fā)醫(yī)療損害,可依據(jù)《民法典》第1218條適用過錯(cuò)責(zé)任原則,將醫(yī)療機(jī)構(gòu)作為主要的問責(zé)對(duì)象,并調(diào)整相關(guān)規(guī)則:一是擴(kuò)大過錯(cuò)推定的法定情形,《民法典》第1222條僅明確在三種特殊情況下推定醫(yī)療機(jī)構(gòu)對(duì)損害發(fā)生具有過錯(cuò),均未考慮數(shù)字要素介入后人機(jī)混合決策的復(fù)雜情況。為此,應(yīng)當(dāng)增加醫(yī)療機(jī)構(gòu)使用智能診療系統(tǒng)致患者損害的過錯(cuò)推定標(biāo)準(zhǔn)。二是采取舉證責(zé)任倒置,囿于醫(yī)學(xué)診療的專業(yè)性、特殊性和復(fù)雜性,患者在證據(jù)取得、保存等方面處于相對(duì)弱勢(shì)的地位,應(yīng)當(dāng)由醫(yī)療人工智能的“實(shí)際控制主體”醫(yī)療機(jī)構(gòu)承擔(dān)證明責(zé)任。第三種情況,當(dāng)產(chǎn)品缺陷和醫(yī)療機(jī)構(gòu)過錯(cuò)共同導(dǎo)致?lián)p害發(fā)生時(shí),則首先遵循“原因力規(guī)則”,依據(jù)對(duì)損害結(jié)果的發(fā)生或擴(kuò)大所發(fā)揮的作用力大小按份分配責(zé)任[40]。若無法區(qū)分原因力作用大小,則遵循“公平原則”對(duì)因果關(guān)系鏈上的主體平均分配責(zé)任,以實(shí)現(xiàn)社會(huì)風(fēng)險(xiǎn)分散化的價(jià)值目標(biāo)。

醫(yī)療人工智能的風(fēng)險(xiǎn)應(yīng)對(duì)是數(shù)字時(shí)代建設(shè)健康中國的必答題,而醫(yī)療領(lǐng)域的特殊情景與人文特質(zhì),使得醫(yī)療人工智能合乎倫理的價(jià)值體系不能直接套用一般性的智能倫理準(zhǔn)則,數(shù)字要素的介入更是決定了危機(jī)化解的出路不能再局限于傳統(tǒng)規(guī)則。應(yīng)當(dāng)立足于數(shù)字法治視角,深度挖掘數(shù)字人權(quán)、數(shù)字正義以及數(shù)字安全的內(nèi)涵,并將其價(jià)值內(nèi)嵌于醫(yī)療法治體系中。在協(xié)調(diào)人工智能與醫(yī)療主體之間的外部關(guān)系的同時(shí),回歸算法內(nèi)部的底層邏輯,完善其運(yùn)行機(jī)制,協(xié)同推進(jìn)智能醫(yī)療向善向美發(fā)展。