霍俊閣

西南政法大學(xué)智能司法研究院，重慶，401120

目前,醫(yī)療人工智能已經(jīng)廣泛運(yùn)用于輔助診療、疾病風(fēng)險(xiǎn)預(yù)測(cè)、藥物挖掘、健康管理、醫(yī)學(xué)影像、虛擬助理、醫(yī)院管理、輔助醫(yī)學(xué)研究平臺(tái)等醫(yī)療領(lǐng)域[1]。作為醫(yī)療人工智能關(guān)鍵核心的算法,在醫(yī)療人工智能運(yùn)用中發(fā)揮著關(guān)鍵作用。所謂算法,在狹義上一般是指具體的數(shù)學(xué)計(jì)算方法,在廣義上是指解決問(wèn)題的具體方法和步驟[2]。而醫(yī)療人工智能中的醫(yī)療人工智能算法,則指的是解決診斷、治療、健康管理等醫(yī)療問(wèn)題的具體方法和步驟,包括有監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)、基于模型、基于數(shù)據(jù)、白盒、黑盒的醫(yī)療人工智能算法等[3]。雖然通常認(rèn)為醫(yī)療人工智能算法是客觀且中立的,但不爭(zhēng)的事實(shí)是,其也不可避免地會(huì)產(chǎn)生致患者損害的醫(yī)療錯(cuò)誤。加之,醫(yī)療行為本身就具有風(fēng)險(xiǎn)性、不確定性,直接關(guān)乎著患者身體健康甚至生命[4]。因而,在醫(yī)療人工智能實(shí)體的應(yīng)用場(chǎng)景中,患者不可避免地會(huì)面臨遭受醫(yī)療人工智能算法侵害的潛在風(fēng)險(xiǎn)。這一潛在風(fēng)險(xiǎn)既包括致患者輕微損害等民事風(fēng)險(xiǎn),也包括致患者重傷、死亡等嚴(yán)重?fù)p害的刑事風(fēng)險(xiǎn),僅憑行政方式、民事方式難以滿足醫(yī)療人工智能算法風(fēng)險(xiǎn)的管理需求,有必要引入事前的刑事合規(guī)機(jī)制。事前刑事合規(guī)是學(xué)界對(duì)刑事合規(guī)作新的分類基礎(chǔ)上逐漸提出的概念,官方文件或相關(guān)著作還沒(méi)有明確界定該概念。事前刑事合規(guī)是指在刑事危機(jī)發(fā)生之前,就在企業(yè)內(nèi)部構(gòu)建一套符合刑事規(guī)范的內(nèi)控機(jī)制,以期識(shí)別、預(yù)防、降低可能的刑事風(fēng)險(xiǎn)[5]。鑒于此,本文將在分析醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)基礎(chǔ)上,闡述醫(yī)療人工智能算法刑事合規(guī)管理的基礎(chǔ)和依據(jù),并構(gòu)建其刑事合規(guī)方案。

1 醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)概況

為避免醫(yī)療人工智能算法給患者造成不應(yīng)有的損害,原國(guó)家食品藥品監(jiān)督管理總局在2017年8月發(fā)布了《醫(yī)療器械分類目錄》。該目錄將通過(guò)算法提供診斷建議但不直接給出診斷結(jié)論的診斷軟件,作為第二類醫(yī)療器械管理;將通過(guò)算法自動(dòng)識(shí)別病變部位并提供明確診斷提示的診斷軟件,作為第三類醫(yī)療器械管理。但是,無(wú)論在為醫(yī)生提供輔助診斷建議情形下還是在提供明確診斷提示情形下,醫(yī)療人工智能算法均可能引發(fā)致患者嚴(yán)重?fù)p害的刑事風(fēng)險(xiǎn)。

當(dāng)醫(yī)療人工智能算法僅提供輔助診斷建議時(shí),其刑事風(fēng)險(xiǎn)主要表現(xiàn)為醫(yī)療事故犯罪風(fēng)險(xiǎn)。因?yàn)榇藭r(shí)醫(yī)療行為的決策權(quán)仍在醫(yī)生手中,醫(yī)生必須謹(jǐn)慎對(duì)待醫(yī)療人工智能,認(rèn)真核實(shí)醫(yī)療人工智能算法給出的診斷建議,明確其給出診斷建議的依據(jù)。但現(xiàn)代人工智能系統(tǒng)逐漸成為一個(gè)“黑箱”,所有決策都存在于這個(gè)“黑箱”中,醫(yī)療人工智能同樣具有“黑箱”屬性[6]。醫(yī)療人工智能的這一算法“黑箱”將使醫(yī)生無(wú)法獲知算法給出某一診斷建議的依據(jù)或者邏輯,難以判斷該診斷建議是否正確、是否可以采納。正是在醫(yī)療人工智能算法所提供診斷建議的正確性難以判斷,以及醫(yī)生對(duì)該診斷建議是否可以采納模棱兩可的情形下,醫(yī)療人工智能就產(chǎn)生了引發(fā)醫(yī)療事故犯罪的刑事風(fēng)險(xiǎn)。如果醫(yī)療人工智能算法提供了正確的診斷建議但醫(yī)生未能采納,并由此造成就診人損害的,醫(yī)生的醫(yī)療行為可能會(huì)被認(rèn)定為嚴(yán)重不負(fù)責(zé)任而涉嫌醫(yī)療事故犯罪。如果醫(yī)療人工智能算法提供了錯(cuò)誤的診斷建議但醫(yī)生予以采納,并給就診人造成損害的,醫(yī)生的醫(yī)療行為同樣可能被認(rèn)定為嚴(yán)重不負(fù)責(zé)任而涉嫌構(gòu)成醫(yī)療事故罪。

當(dāng)醫(yī)療人工智能算法提供明確的診斷提示時(shí),其刑事風(fēng)險(xiǎn)主要表現(xiàn)為過(guò)失致人重傷、過(guò)失致人死亡的犯罪風(fēng)險(xiǎn)和醫(yī)療事故犯罪風(fēng)險(xiǎn)。因?yàn)樵谔峁┟鞔_診斷提示的時(shí)候,醫(yī)療人工智能會(huì)對(duì)醫(yī)生的診斷和決策產(chǎn)生導(dǎo)向作用[7],此時(shí)醫(yī)療人工智能算法會(huì)部分獲得醫(yī)療行為的決策權(quán)。在此情形下,若機(jī)器在決策上出現(xiàn)了偏差,即使該決策是不正確的,醫(yī)生也會(huì)偏向性的予以接受,而錯(cuò)誤的醫(yī)療決策則可能危及患者生命[8]。盡管醫(yī)生可能因缺乏預(yù)見(jiàn)可能性并不涉嫌醫(yī)療事故犯罪,但醫(yī)療人工智能研發(fā)者、生產(chǎn)者則可能涉嫌構(gòu)成過(guò)失致人重傷罪、過(guò)失致人死亡罪。因?yàn)獒t(yī)療人工智能算法給出的明確性診斷提示,已經(jīng)為特定醫(yī)療行為的采取作出了部分決策,且對(duì)該錯(cuò)誤性診斷提示的認(rèn)知并不在醫(yī)生業(yè)務(wù)能力范圍內(nèi)。判斷其給出的明確診斷提示錯(cuò)誤與否,是醫(yī)療人工智能算法研發(fā)者、生產(chǎn)者的能力范疇,醫(yī)療人工智能算法研發(fā)者、生產(chǎn)者對(duì)算法提供的診斷提示存在錯(cuò)誤具有預(yù)見(jiàn)可能性。相反,當(dāng)醫(yī)療人工智能算法提供了正確的診斷提示卻未被醫(yī)生采納,進(jìn)而給患者造成損害的,醫(yī)生則可能被認(rèn)定為嚴(yán)重不負(fù)責(zé)任而涉嫌構(gòu)成醫(yī)療事故罪。

2 醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的合規(guī)管理

刑事合規(guī)是防控社會(huì)組織體刑事風(fēng)險(xiǎn)的重要方式。企業(yè)刑事合規(guī)可以分為三個(gè)維度:一是將合規(guī)管理作為企業(yè)管理的一部分,即作為公司治理方式的合規(guī);二是將合規(guī)作為涉罪企業(yè)的從寬處置依據(jù),即作為刑法激勵(lì)的合規(guī);三是作為律師之業(yè)務(wù)的合規(guī),即為企業(yè)防控法律風(fēng)險(xiǎn)所提供的一種法律服務(wù)[9]。而對(duì)醫(yī)療人工智能算法的刑事合規(guī)管理,則集中于作為公司治理方式與律師業(yè)務(wù)的合規(guī)維度,主要是立足事前的刑事合規(guī),從企業(yè)內(nèi)部構(gòu)筑醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的合規(guī)防控體系。因而,事前的刑事合規(guī)管理,能夠有效保障醫(yī)療人工智能算法的研發(fā)、生產(chǎn)、應(yīng)用行為符合刑法規(guī)范要求。

2.1 醫(yī)療人工智能算法風(fēng)險(xiǎn)結(jié)果的嚴(yán)重性

鑒于醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)結(jié)果具有嚴(yán)重性,關(guān)涉患者的生命、身體健康法益,而保護(hù)生命、身體健康法益的法律條款,既規(guī)定于民法、行政法中也規(guī)定于刑法中。那么,醫(yī)療人工智能算法的研發(fā)、生產(chǎn)、應(yīng)用既要遵循行政法、民法等前置部門法規(guī)范,更應(yīng)遵循刑法規(guī)范。應(yīng)當(dāng)依據(jù)刑法中的法益保護(hù)規(guī)范審查其研發(fā)、生產(chǎn)、應(yīng)用行為,對(duì)其研發(fā)、生產(chǎn)、應(yīng)用過(guò)程進(jìn)行刑事合規(guī)管理。

刑事合規(guī)實(shí)際也是管理醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)不可忽略的方式。因?yàn)獒t(yī)療與人民群眾的身體健康切身相關(guān)[10],且醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)中又包括了致人死亡的風(fēng)險(xiǎn),其刑事風(fēng)險(xiǎn)一旦現(xiàn)實(shí)化就可能造成患者死亡的嚴(yán)重結(jié)果。但受智能醫(yī)療技術(shù)水平和患者個(gè)體差異化等條件限制,尚無(wú)法確定醫(yī)療人工智能算法多大概率上會(huì)出現(xiàn)致人死亡這一嚴(yán)重情形。即便如此,在防范醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)時(shí)也必須謹(jǐn)記其具有致人死亡的可能性。而在既有的知識(shí)內(nèi)容能夠使監(jiān)管機(jī)構(gòu)識(shí)別后果,但不能識(shí)別各種后果的發(fā)生幾率時(shí),其通常會(huì)在最壞結(jié)果情況下采取最優(yōu)政策[11]。于此,在防范醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)時(shí)不能忽略刑事合規(guī)方式,應(yīng)保障醫(yī)療人工智能算法的研發(fā)、生產(chǎn)、應(yīng)用符合行政法、民法、刑法等法律規(guī)范,從而全面規(guī)范醫(yī)療人工智能算法的研發(fā)、生產(chǎn)、應(yīng)用行為,實(shí)現(xiàn)醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)應(yīng)對(duì)的最優(yōu)化。

2.2 醫(yī)療人工智能算法風(fēng)險(xiǎn)追責(zé)的困難性

以現(xiàn)行刑法解決醫(yī)療人工智能潛在的刑事風(fēng)險(xiǎn)問(wèn)題,必須經(jīng)由規(guī)制人工智能算法背后的行為人來(lái)實(shí)現(xiàn)。這種規(guī)制方式存在著兩種可能路徑:一是事后的處罰規(guī)制,二是事前的預(yù)防規(guī)制。但在醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)防控中,應(yīng)采取事前的預(yù)防規(guī)制路徑。因?yàn)獒t(yī)療人工智能算法的介入,使傳統(tǒng)醫(yī)療過(guò)失犯罪責(zé)任認(rèn)定中的因果關(guān)系及其預(yù)見(jiàn)可能性難以確證,致使對(duì)醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的事后追責(zé)較為困難。

一方面,為了證明事實(shí)因果關(guān)系,必須提供事實(shí)說(shuō)明人工智能的行為與造成的損害之間的聯(lián)系[12]。但人工智能技術(shù)與醫(yī)療行為的結(jié)合,使得人工智能醫(yī)療行為比傳統(tǒng)醫(yī)療行為更具有風(fēng)險(xiǎn)的復(fù)雜性[13]。人類幾乎不可能完全理解人工智能的結(jié)果是如何實(shí)現(xiàn)的,我們能夠知道人工智能在工作卻不知道它如何工作,且作為人工智能決策基礎(chǔ)的原始算法也會(huì)不斷變化[14]。而在人工智能算法決策過(guò)程難以解釋的情形下,司法人員難以在客觀上明確損害結(jié)果與醫(yī)療人工智能算法之間的因果聯(lián)系,無(wú)法證明醫(yī)療人工智能算法與損害結(jié)果之間具有刑法上的因果關(guān)系。這就使得難以對(duì)醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)進(jìn)行事后追責(zé)。

另一方面,由于刑法上過(guò)失犯罪的預(yù)見(jiàn)可能性包含了對(duì)具體犯罪事實(shí)及因果關(guān)系的預(yù)見(jiàn)可能性[15],所以主觀上,為了證明因果關(guān)系,必須提供事實(shí)證明行為人對(duì)醫(yī)療人工智能算法與損害結(jié)果之間的因果關(guān)系具有預(yù)見(jiàn)可能性?？捎袆e于普通醫(yī)療設(shè)備介入下的傳統(tǒng)醫(yī)療行為,醫(yī)療人工智能自身的技術(shù)屬性讓醫(yī)生難以知曉其分析、處理過(guò)程及遵循的醫(yī)學(xué)知識(shí)邏輯[16]。甚至在人工智能算法“黑箱”存在的情況下,人工智能的決定或行為的結(jié)果可能無(wú)法以任何方式為人工智能的創(chuàng)建者或者用戶所預(yù)見(jiàn)[17]。如此,司法人員就更難確證醫(yī)療人工智能算法研發(fā)者、生產(chǎn)者、應(yīng)用者,有能力預(yù)見(jiàn)醫(yī)療人工智能算法與損害結(jié)果之間的因果關(guān)系。而因果關(guān)系的預(yù)見(jiàn)可能性證明困難,使得對(duì)醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的事后處罰難以展開(kāi)。

鑒于此,需要通過(guò)事前預(yù)防路徑規(guī)制醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)。應(yīng)當(dāng)對(duì)醫(yī)療人工智能算法進(jìn)行刑事合規(guī)管理,保障醫(yī)療人工智能算法的研發(fā)、生產(chǎn)、應(yīng)用符合刑事法律規(guī)范的要求,從而防控其刑事風(fēng)險(xiǎn)的生成和現(xiàn)實(shí)化。

2.3 醫(yī)療人工智能算法“黑箱”的難破解性

算法“黑箱”可以說(shuō)是人工智能技術(shù)的一種缺陷[18],醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)也與其算法“黑箱”密切相關(guān)。如果通過(guò)事后規(guī)制方式防控醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn),通常需要破解醫(yī)療人工智能算法的“黑箱”。但在當(dāng)前技術(shù)階段上,刑事司法人員與醫(yī)療人工智能研發(fā)者、生產(chǎn)者、應(yīng)用者,均無(wú)法解決其算法的可靠性、透明性、可解釋性及可問(wèn)責(zé)性問(wèn)題,難以破解醫(yī)療人工智能的算法“黑箱”。并且,公開(kāi)算法可能會(huì)遇到知識(shí)產(chǎn)權(quán)方面的問(wèn)題[19]。如此一來(lái),通過(guò)破解醫(yī)療人工智能算法“黑箱”,進(jìn)而以事后處罰方式防控其刑事風(fēng)險(xiǎn)的辦法就難以實(shí)施。需要革新醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的管理手段,繞開(kāi)其算法“黑箱”的技術(shù)限制。

打破算法“黑箱”本就不是法律介入算法的當(dāng)然結(jié)果,法律還可以通過(guò)正當(dāng)程序規(guī)制算法[20],以正當(dāng)程序規(guī)制算法時(shí)則無(wú)需破解算法“黑箱”。該方式為管理醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn),提供了一個(gè)能夠避開(kāi)其算法“黑箱”的路徑;即通過(guò)正當(dāng)程序管理醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)。但這一創(chuàng)新性管理手段的實(shí)施離不開(kāi)刑事合規(guī)方案,因?yàn)檎?dāng)程序?qū)︶t(yī)療人工智能算法刑事風(fēng)險(xiǎn)的規(guī)制必然作用于醫(yī)療人工智能算法的結(jié)果出現(xiàn)之前。而在醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的防控模式中,通過(guò)刑法處罰的事后預(yù)防模式是在算法結(jié)果出現(xiàn)之后發(fā)揮作用,無(wú)法使醫(yī)療人工智能算法的研發(fā)、生產(chǎn)、應(yīng)用遵循正當(dāng)程序。反之,通過(guò)刑事合規(guī)的事前預(yù)防模式則能夠作用于算法的研發(fā)、生產(chǎn)、應(yīng)用過(guò)程當(dāng)中,可以使醫(yī)療人工智能算法運(yùn)行遵循正當(dāng)程序。所以,醫(yī)療人工智能算法“黑箱”的存在需要引入刑事合規(guī)管理。

3 醫(yī)療人工智能算法刑事合規(guī)方案建構(gòu)

3.1 醫(yī)療人工智能算法刑事合規(guī)的目標(biāo)

刑事合規(guī)方案的構(gòu)建既要考慮風(fēng)險(xiǎn)防范也要考慮經(jīng)濟(jì)利益,這就容易使醫(yī)療人工智能算法刑事合規(guī)的目標(biāo)選擇,陷入以經(jīng)濟(jì)利益為目標(biāo)還是以風(fēng)險(xiǎn)防范為目標(biāo)的分歧。比較而言,醫(yī)療人工智能算法的刑事合規(guī)應(yīng)當(dāng)以風(fēng)險(xiǎn)防范為目標(biāo)。

第一,醫(yī)療人工智能算法刑事合規(guī)的功能,要求其應(yīng)當(dāng)將風(fēng)險(xiǎn)防范作為目標(biāo)。因?yàn)槭虑靶淌潞弦?guī)的目的本就在于識(shí)別、預(yù)防、降低可能的刑事風(fēng)險(xiǎn)。且合規(guī)本身并不會(huì)創(chuàng)造經(jīng)濟(jì)價(jià)值,只是使企業(yè)避免因受到法律制裁而帶來(lái)的各種經(jīng)濟(jì)和聲譽(yù)損失,從而最終避免了企業(yè)收益的減少或喪失[21]。這意味著,醫(yī)療人工智能算法刑事合規(guī)的經(jīng)濟(jì)利益附屬于風(fēng)險(xiǎn)防范,其經(jīng)濟(jì)價(jià)值是醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)防范帶來(lái)的附隨結(jié)果。這要求醫(yī)療人工智能算法刑事合規(guī),應(yīng)當(dāng)將風(fēng)險(xiǎn)防范作為其目標(biāo),以最大限度的保障醫(yī)療人工智能算法的安全性。

第二,實(shí)現(xiàn)智能醫(yī)療的公益性,需要醫(yī)療人工智能算法刑事合規(guī)以風(fēng)險(xiǎn)防范為目標(biāo)。在本質(zhì)上,智能醫(yī)療與其他醫(yī)療器械一樣均屬于醫(yī)療產(chǎn)品,兼具醫(yī)療產(chǎn)品的公共產(chǎn)品屬性和私人產(chǎn)品屬性。但由醫(yī)療產(chǎn)品自然屬性決定的私人產(chǎn)品消費(fèi)特征,已經(jīng)被其社會(huì)屬性所弱化,醫(yī)療產(chǎn)品的公益性得到確認(rèn)并強(qiáng)化[22]。所以,智能醫(yī)療呈現(xiàn)更多的還是其公益性特征。而智能醫(yī)療公益性的實(shí)現(xiàn)要求醫(yī)療人工智能算法的刑事合規(guī)應(yīng)積極考慮公益性,應(yīng)能夠立足于社會(huì)公眾和社會(huì)利益角度確立刑事合規(guī)的目標(biāo)。這要求醫(yī)療人工智能算法刑事合規(guī)應(yīng)以風(fēng)險(xiǎn)防范為目標(biāo),應(yīng)當(dāng)側(cè)重于產(chǎn)品安全的保障,從而最大限度的防范醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)。

第三,醫(yī)患關(guān)系的良性互動(dòng),要求醫(yī)療人工智能算法刑事合規(guī)應(yīng)致力于風(fēng)險(xiǎn)防范。以風(fēng)險(xiǎn)防范為目標(biāo)構(gòu)建醫(yī)療人工智能算法的刑事合規(guī)方案,能夠使之優(yōu)先考慮刑事風(fēng)險(xiǎn)防控的有效性,達(dá)致醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)預(yù)防的最優(yōu)化。而對(duì)患者來(lái)說(shuō),最大限度防控醫(yī)療人工智能算法刑事風(fēng)險(xiǎn),其實(shí)就是最大程度的保護(hù)患者權(quán)益。這在患者對(duì)人工智能醫(yī)療產(chǎn)品接受程度有限的現(xiàn)狀下[23],能夠有效促進(jìn)醫(yī)患關(guān)系的良性互動(dòng)。相反,如果醫(yī)療人工智能算法刑事合規(guī)以經(jīng)濟(jì)利益為目標(biāo),則難以最大限度的保障患者合法權(quán)益,甚至?xí)l(fā)刑事合規(guī)成本向患者的轉(zhuǎn)嫁,進(jìn)而加劇醫(yī)患矛盾。

3.2 醫(yī)療人工智能算法刑事合規(guī)的實(shí)施

我國(guó)已經(jīng)針對(duì)中央國(guó)有企業(yè)和從事海外經(jīng)營(yíng)業(yè)務(wù)的企業(yè)發(fā)布了合規(guī)管理指引,即《中央企業(yè)合規(guī)管理指引(試行)》與《企業(yè)境外經(jīng)營(yíng)合規(guī)管理指引》。參照上述兩個(gè)合規(guī)管理的指引性標(biāo)準(zhǔn),可以對(duì)醫(yī)療人工智能算法的刑事合規(guī)方案作如下設(shè)計(jì)。

第一,標(biāo)記醫(yī)療人工智能算法刑事合規(guī)的重點(diǎn)對(duì)象。醫(yī)療人工智能算法刑事合規(guī)方案的具體實(shí)施,首先要確定、定位醫(yī)療人工智能算法刑事合規(guī)的重點(diǎn)對(duì)象。因?yàn)樵卺t(yī)療人工智能算法從研發(fā)、生產(chǎn)到應(yīng)用的整個(gè)生命周期中,其刑事風(fēng)險(xiǎn)在不同階段具有不同的表現(xiàn)形態(tài)和強(qiáng)度。且在醫(yī)療人工智能算法研發(fā)、生產(chǎn)、應(yīng)用各階段,其刑事風(fēng)險(xiǎn)在不同環(huán)節(jié)上也具有不同的表現(xiàn)形態(tài)和強(qiáng)度。這就需要建立常態(tài)化的重點(diǎn)合規(guī)對(duì)象標(biāo)記機(jī)制,通過(guò)共同協(xié)作方式明確醫(yī)療人工智能算法刑事合規(guī)的重點(diǎn)對(duì)象,以有的放矢的采取刑事合規(guī)措施。

第二,制定醫(yī)療人工智能算法刑事合規(guī)的內(nèi)部規(guī)則。刑法規(guī)范是醫(yī)療人工智能算法刑事合規(guī)的主要依據(jù),在實(shí)施醫(yī)療人工智能算法刑事合規(guī)方案時(shí),應(yīng)當(dāng)將刑法規(guī)范作為醫(yī)療人工智能算法研發(fā)、生產(chǎn)、應(yīng)用行為的指引規(guī)則。而由于醫(yī)療行業(yè)具有高度嚴(yán)謹(jǐn)性,若相關(guān)政策法規(guī)的內(nèi)容不明確、不細(xì)化,則會(huì)嚴(yán)重阻礙人工智能醫(yī)療行業(yè)的發(fā)展[24]。因而在將刑法規(guī)范融入醫(yī)療人工智能算法刑事合規(guī)方案時(shí),必須制定具體的內(nèi)部規(guī)則予以承接。而在內(nèi)部規(guī)則中,則需要將醫(yī)療事故風(fēng)險(xiǎn)、侵犯公民個(gè)人生命健康權(quán)益風(fēng)險(xiǎn)所涉及的刑事法律規(guī)范的禁止性要求,轉(zhuǎn)化為單位內(nèi)部可供執(zhí)行的禁止性規(guī)則。

第三,建立醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的識(shí)別與應(yīng)對(duì)機(jī)制。合規(guī)風(fēng)險(xiǎn)識(shí)別是設(shè)計(jì)合規(guī)計(jì)劃最為重要、最為基礎(chǔ)的環(huán)節(jié)[25],唯有準(zhǔn)確識(shí)別出醫(yī)療人工智能算法在研發(fā)、生產(chǎn)、應(yīng)用階段的刑事風(fēng)險(xiǎn),才能有效的進(jìn)行刑事風(fēng)險(xiǎn)防范。這需要在醫(yī)療人工智能算法的刑事合規(guī)方案中建立風(fēng)險(xiǎn)識(shí)別機(jī)制,以明確醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)的發(fā)生概率、危害后果、嚴(yán)重程度等內(nèi)容。在識(shí)別出醫(yī)療人工智能算法的刑事風(fēng)險(xiǎn)以后,還應(yīng)能夠及時(shí)采取應(yīng)對(duì)措施。故根據(jù)醫(yī)療人工智能算法刑事風(fēng)險(xiǎn)在不同階段、環(huán)節(jié)的表現(xiàn)形態(tài)與強(qiáng)度,建立針對(duì)性的應(yīng)對(duì)機(jī)制必不可少。

第四,建立健全醫(yī)療人工智能算法刑事合規(guī)的審查機(jī)制。刑事合規(guī)是一個(gè)動(dòng)態(tài)的機(jī)制,連續(xù)的、主動(dòng)的監(jiān)測(cè)和審查是刑事合規(guī)的標(biāo)志性組成部分[26]。為了連續(xù)、主動(dòng)監(jiān)測(cè)刑事合規(guī)的實(shí)施情況,應(yīng)當(dāng)構(gòu)建醫(yī)療人工智能算法刑事合規(guī)的審查機(jī)制。如此,能夠?qū)崟r(shí)發(fā)現(xiàn)醫(yī)療人工智能算法研發(fā)、生產(chǎn)、應(yīng)用過(guò)程中的不合規(guī)之處,促進(jìn)對(duì)醫(yī)療人工智能算法刑事合規(guī)方案的執(zhí)行。而在構(gòu)建刑事合規(guī)審查機(jī)制時(shí),不僅要求醫(yī)療人工智能算法研發(fā)者、生產(chǎn)者、應(yīng)用者需要設(shè)立合規(guī)審查崗位或者部門,以形成固定的合規(guī)審查程序和措施,保障醫(yī)療人工智能算法刑事合規(guī)方案的有效實(shí)施。并且,要求醫(yī)療人工智能研發(fā)者要在技術(shù)上保證算法或數(shù)據(jù)能被審查[27],要求醫(yī)療人工智能生產(chǎn)者、應(yīng)用者要在生產(chǎn)、應(yīng)用過(guò)程中維持算法、數(shù)據(jù)的可審查性。

第五,確立醫(yī)療人工智能算法刑事合規(guī)的評(píng)估機(jī)制。有效的醫(yī)療人工智能算法刑事合規(guī),必須保障其刑事合規(guī)方案取得預(yù)定成效。這需要在實(shí)施醫(yī)療人工智能算法的刑事合規(guī)方案以后,積極開(kāi)展跟蹤性的評(píng)估工作,測(cè)定其刑事合規(guī)執(zhí)行的有效性程度。確立刑事合規(guī)的評(píng)估機(jī)制,也是查漏補(bǔ)缺、持續(xù)提升合規(guī)實(shí)效的重要機(jī)制。評(píng)估中,醫(yī)療人工智能算法研發(fā)者、生產(chǎn)者、應(yīng)用者,可以依據(jù)自身組織結(jié)構(gòu)和經(jīng)濟(jì)實(shí)力,綜合采取定期評(píng)估、不定期評(píng)估、自主評(píng)估、聘請(qǐng)專業(yè)團(tuán)隊(duì)評(píng)估等多種方式。

3.3 醫(yī)療人工智能算法刑事合規(guī)的保障

在執(zhí)行層面,應(yīng)當(dāng)從以下方面構(gòu)建醫(yī)療人工智能刑事合規(guī)的運(yùn)行保障機(jī)制,確保醫(yī)療人工智能算法刑事合規(guī)方案的有效實(shí)施。第一,定期開(kāi)展醫(yī)療人工智能算法刑事合規(guī)技能的專項(xiàng)培訓(xùn)。合規(guī)管理是整個(gè)企業(yè)和全體員工共同的責(zé)任[28],進(jìn)行合規(guī)技能的專項(xiàng)培訓(xùn),是保障醫(yī)療人工智能算法刑事合規(guī)實(shí)施的重要基礎(chǔ)。專項(xiàng)培訓(xùn)應(yīng)當(dāng)向刑事合規(guī)方案執(zhí)行人員明確醫(yī)療人工智能算法的合規(guī)標(biāo)準(zhǔn),增強(qiáng)在刑事法律規(guī)范框架內(nèi)設(shè)計(jì)、生產(chǎn)、運(yùn)用算法的技能,提升刑事合規(guī)方案執(zhí)行人員的刑事風(fēng)險(xiǎn)處置能力。

第二,積極推進(jìn)醫(yī)療人工智能算法刑事合規(guī)的文化建設(shè)。合規(guī)文化能夠促進(jìn)相關(guān)人員將醫(yī)療人工智能算法刑事合規(guī)方案由外在約束轉(zhuǎn)化為內(nèi)在動(dòng)力,自覺(jué)規(guī)范研發(fā)、生產(chǎn)、應(yīng)用行為,能夠在單位內(nèi)部凝聚持續(xù)實(shí)施刑事合規(guī)的向心力。為了加強(qiáng)醫(yī)療人工智能算法的刑事合規(guī)文化建設(shè),醫(yī)療人工智能算法研發(fā)者、生產(chǎn)者、應(yīng)用者應(yīng)當(dāng)確保其人員具備醫(yī)療人工智能算法刑事合規(guī)的意識(shí)和行為習(xí)慣。

第三,增加醫(yī)療人工智能算法刑事合規(guī)的信息化投入。對(duì)醫(yī)療人工智能算法研發(fā)、生產(chǎn)、應(yīng)用的全過(guò)程進(jìn)行合規(guī)管理,才能全流程防范其刑事風(fēng)險(xiǎn)。但醫(yī)療人工智能算法刑事合規(guī)在各階段的實(shí)施主體可能并不相同,甚至同一階段的刑事合規(guī)可能涉及多個(gè)實(shí)施主體。為提升醫(yī)療人工智能算法刑事合規(guī)的成效,應(yīng)增加醫(yī)療人工智能算法刑事合規(guī)的信息化投入,促進(jìn)各實(shí)施主體之間的信息集成和共享。