吉 萍 郭 銳 許衛(wèi)衛(wèi) 祝丹娜 肖 平 李馥宣 周麗萍

醫(yī)療人工智能泛指應(yīng)用在健康領(lǐng)域的人工智能技術(shù)，目的是提高醫(yī)療服務(wù)水平與效率，應(yīng)用場(chǎng)景涵蓋智能臨床輔助診療、醫(yī)用機(jī)器人、智能公共衛(wèi)生、智能醫(yī)院管理、藥物研發(fā)、智能醫(yī)學(xué)教育以及健康管理等多個(gè)方面。雖然全球已形成廣泛接受的人工智能倫理共識(shí)與準(zhǔn)則，但醫(yī)療人工智能作為新類型研究，倫理與法律風(fēng)險(xiǎn)防控仍然在探討與起步階段。通過(guò)2019年走訪深圳開(kāi)展健康領(lǐng)域人工智能研發(fā)的企業(yè)、醫(yī)療機(jī)構(gòu)以及研究機(jī)構(gòu)的開(kāi)發(fā)者，了解到相關(guān)的產(chǎn)業(yè)、醫(yī)療機(jī)構(gòu)、科研院所以及行業(yè)監(jiān)管部門都面臨諸多實(shí)際問(wèn)題[1-4]，包括：(1)如何遵循醫(yī)學(xué)科研倫理審查的通用原則與標(biāo)準(zhǔn)？(2)倫理審查時(shí)應(yīng)該重點(diǎn)關(guān)注什么：研究?jī)r(jià)值，科學(xué)有效性，如何收集、利用數(shù)據(jù)，共享數(shù)據(jù)的可行性，合作方責(zé)任與權(quán)利？(3)醫(yī)院如何定位管理：是否作為科研轉(zhuǎn)化項(xiàng)目，是否應(yīng)歸為醫(yī)療器械進(jìn)行監(jiān)管，由誰(shuí)來(lái)監(jiān)管，等等？負(fù)責(zé)任開(kāi)發(fā)醫(yī)療人工智能產(chǎn)品離不開(kāi)充分、有效的監(jiān)管與支持。本文將結(jié)合上述問(wèn)題，從倫理審查與法律層面探討，期望與相關(guān)方交流實(shí)踐中的具體考量。

1 醫(yī)療人工智能產(chǎn)品研發(fā)中的挑戰(zhàn)

1.1 醫(yī)療人工智能的監(jiān)管不足

我國(guó)已將人工智能上升為國(guó)家戰(zhàn)略，法律法規(guī)和政策體系也在進(jìn)行建設(shè)。從國(guó)內(nèi)外現(xiàn)有醫(yī)療人工智能倫理準(zhǔn)則與共識(shí)來(lái)看，依據(jù)醫(yī)療領(lǐng)域研究廣泛遵循的《涉及人的健康研究國(guó)際倫理準(zhǔn)則》《涉及人的生物醫(yī)學(xué)研究倫理審查辦法》以及健康大數(shù)據(jù)相關(guān)規(guī)范進(jìn)行管理。我國(guó)國(guó)家衛(wèi)生健康委員會(huì)與國(guó)家食品藥品監(jiān)督管理局也陸續(xù)發(fā)布了人工智能診療、移動(dòng)醫(yī)療器械注冊(cè)以及深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審批要點(diǎn)。美國(guó)醫(yī)學(xué)會(huì)[5]、英國(guó)納菲爾德生命倫理委員會(huì)[6]對(duì)人工智能在健康領(lǐng)域研發(fā)及應(yīng)用提出了倫理原則與考量。然而，醫(yī)療人工智能產(chǎn)學(xué)研轉(zhuǎn)化鏈中具有跨行業(yè)、跨機(jī)構(gòu)、多學(xué)科交叉合作的特點(diǎn)。目前，作為重要參與方的企業(yè)以及科研院所倫理意識(shí)及倫理監(jiān)管措施相對(duì)薄弱。如果是聯(lián)合申報(bào)學(xué)術(shù)課題，一般是誰(shuí)牽頭誰(shuí)審批，由牽頭的醫(yī)療機(jī)構(gòu)或科研院所的倫理委員會(huì)進(jìn)行審查。如果是企業(yè)或研究者自發(fā)的項(xiàng)目，多僅靠提供數(shù)據(jù)的合作醫(yī)院做倫理審查。醫(yī)院一般沿用醫(yī)學(xué)科研倫理審查機(jī)制對(duì)醫(yī)療人工智能項(xiàng)目進(jìn)行倫理審查，甚至存在醫(yī)院未對(duì)醫(yī)療人工智能研發(fā)進(jìn)行倫理審查而直接開(kāi)展的情況。從整體來(lái)看，現(xiàn)階段在醫(yī)院開(kāi)展的醫(yī)療人工智能研發(fā)多是醫(yī)學(xué)數(shù)據(jù)分析的軟件，通過(guò)算法實(shí)現(xiàn)對(duì)醫(yī)療的各種輔助支持，是否應(yīng)歸為并按醫(yī)療器械軟件研發(fā)進(jìn)行監(jiān)管？行業(yè)內(nèi)對(duì)醫(yī)療人工智能研發(fā)階段的定位管理還存在模糊地帶，是否是臨床研究項(xiàng)目？是否是科研轉(zhuǎn)化項(xiàng)目？如何收集、利用、共享數(shù)據(jù)以及各個(gè)合作方的職責(zé)權(quán)利等具體要求還未達(dá)成廣泛共識(shí)，存在盲區(qū)。

1.2 數(shù)據(jù)收集及處理過(guò)程欠缺標(biāo)準(zhǔn)化

醫(yī)療人工智能技術(shù)的核心是基于數(shù)據(jù)和智能算法的決策過(guò)程，這一過(guò)程依賴大量的數(shù)據(jù)處理。目前，大多數(shù)人工智能產(chǎn)品是通過(guò)算法實(shí)現(xiàn)的，訓(xùn)練樣本主要來(lái)自醫(yī)院患者的各類醫(yī)學(xué)數(shù)據(jù)，但醫(yī)院信息標(biāo)準(zhǔn)化和結(jié)構(gòu)化工作整體還比較薄弱，數(shù)據(jù)質(zhì)量不高。醫(yī)院各自為政,缺乏統(tǒng)一的信息標(biāo)準(zhǔn)、編碼和信息化系統(tǒng)，很難實(shí)現(xiàn)數(shù)據(jù)集成與共享的智能化。另外，雖然僅利用和共享去標(biāo)識(shí)化信息的數(shù)據(jù)，但去標(biāo)識(shí)化到何種程度、數(shù)據(jù)清洗個(gè)人信息的準(zhǔn)則以及數(shù)據(jù)標(biāo)注的規(guī)范格式等尚無(wú)統(tǒng)一標(biāo)準(zhǔn)[2]。需要考慮數(shù)據(jù)收集、數(shù)據(jù)標(biāo)注中完整性及可用性與保護(hù)隱私的倫理要求平衡[3]，如何最大程度地保留信息滿足分析需求，又保證其數(shù)據(jù)結(jié)果最終是可解釋的、可信任的，同時(shí)避免通過(guò)信息追溯到個(gè)人。

1.3 數(shù)據(jù)共享的責(zé)任機(jī)制不清楚

醫(yī)學(xué)大數(shù)據(jù)共享追求的是公共利益，在充分保護(hù)個(gè)人權(quán)利的前提下，能發(fā)揮數(shù)據(jù)的潛在價(jià)值，實(shí)現(xiàn)數(shù)據(jù)使用效益最大化。一方面，健康醫(yī)療數(shù)據(jù)屬于個(gè)人敏感數(shù)據(jù)，人工智能醫(yī)學(xué)應(yīng)用收集的數(shù)據(jù)需要遵守個(gè)人健康醫(yī)療數(shù)據(jù)處理的一般原則，然而，存在數(shù)據(jù)泄露或非法提供、出售等違規(guī)情況[7]。一般數(shù)據(jù)處理僅限于科研目的才可以，但合作企業(yè)長(zhǎng)遠(yuǎn)的最終目標(biāo)是商業(yè)化應(yīng)用，如何約束數(shù)據(jù)控制者和處理者的權(quán)利與義務(wù)[4]是現(xiàn)實(shí)問(wèn)題；另一方面，數(shù)據(jù)的歸屬、管理責(zé)任不清。數(shù)據(jù)控制者缺乏合作觀念[7]，也缺乏從最初的設(shè)計(jì)出發(fā)，對(duì)數(shù)據(jù)收集、存儲(chǔ)、分析和共享等全過(guò)程可能涉及的倫理問(wèn)題提出規(guī)范要求，在力所能及的范圍內(nèi)確保公開(kāi)透明與負(fù)責(zé)任的使用數(shù)據(jù)的觀念，阻礙了數(shù)據(jù)的流動(dòng)與共享。

2 倫理相關(guān)考量

2.1 倫理審查

首先，要明確跨機(jī)構(gòu)合作的醫(yī)療人工智能相關(guān)研究和產(chǎn)品開(kāi)發(fā)的倫理審查應(yīng)由誰(shuí)來(lái)承擔(dān)？一般倫理審查采用誰(shuí)發(fā)起誰(shuí)承擔(dān)的形式，但醫(yī)院無(wú)論是作為發(fā)起方還是僅作為提供數(shù)據(jù)的參與方都應(yīng)進(jìn)行必要的、與研究風(fēng)險(xiǎn)相稱的倫理審查。對(duì)低風(fēng)險(xiǎn)項(xiàng)目，可以加快審核流程，避免過(guò)度監(jiān)管而影響研究效率。

醫(yī)院對(duì)開(kāi)展的醫(yī)療人工智能課題進(jìn)行管理時(shí)，主要按經(jīng)費(fèi)來(lái)源分縱向課題和橫向課題?？v向課題為醫(yī)院主導(dǎo)獲得政府資助，多為早期以探索發(fā)現(xiàn)科研思路為主。橫向課題為醫(yī)學(xué)健康領(lǐng)域相關(guān)學(xué)會(huì)、協(xié)會(huì)、研究會(huì)、科研院所等以及企事業(yè)單位委托開(kāi)展的合作課題，要判斷是否屬于醫(yī)療器械的產(chǎn)品研發(fā)范疇，如區(qū)分軟件類醫(yī)療器械、移動(dòng)醫(yī)療器械與移動(dòng)健康電子產(chǎn)品等。如果屬于醫(yī)療器械，則應(yīng)按現(xiàn)行藥監(jiān)部門的注冊(cè)申請(qǐng)要求及路徑進(jìn)行管理，并在具有資質(zhì)的醫(yī)療機(jī)構(gòu)開(kāi)展試驗(yàn)。移動(dòng)醫(yī)療器械與移動(dòng)健康電子產(chǎn)品不存在清晰的劃分界線，凡符合醫(yī)療器械定義的移動(dòng)計(jì)算設(shè)備和軟件均屬于移動(dòng)醫(yī)療器械。一般情況下，預(yù)期用于健康管理的、目標(biāo)人群為健康人群的、記錄統(tǒng)計(jì)健康信息的移動(dòng)計(jì)算設(shè)備或軟件不具有醫(yī)療目的，不屬于移動(dòng)醫(yī)療器械；而預(yù)期用于疾病管理的、目標(biāo)人群為醫(yī)護(hù)人員和患者的、控制驅(qū)動(dòng)醫(yī)療器械的、處理分析監(jiān)測(cè)醫(yī)療數(shù)據(jù)/圖像的移動(dòng)計(jì)算設(shè)備或軟件具有醫(yī)療目的，屬于移動(dòng)醫(yī)療器械[8]。對(duì)于無(wú)法明確判斷醫(yī)療人工智能課題所屬類別的，可按學(xué)術(shù)性科研課題進(jìn)行監(jiān)管，保障研發(fā)過(guò)程的安全、合法、可靠。

結(jié)合醫(yī)療人工智能研發(fā)項(xiàng)目現(xiàn)有的特點(diǎn)，依據(jù)醫(yī)學(xué)科研倫理基本準(zhǔn)則與標(biāo)準(zhǔn)開(kāi)展適宜的審查，審查要點(diǎn)包括如下內(nèi)容[9]。

(1)是否具有開(kāi)展的價(jià)值？換言之，研究能否為個(gè)體或公共健康做出貢獻(xiàn)，要關(guān)注創(chuàng)新性與重要性。國(guó)家倡導(dǎo)和鼓勵(lì)政策引導(dǎo)下，人工智能在醫(yī)療健康領(lǐng)域的研發(fā)日益增多。然而，多數(shù)企業(yè)、研究機(jī)構(gòu)與醫(yī)院合作時(shí)，在產(chǎn)品應(yīng)用和價(jià)值體現(xiàn)方面尚缺乏深入交流與分析。從事人工智能的研發(fā)人員多來(lái)自工科專業(yè)，包括數(shù)學(xué)、電子信息、自動(dòng)化和計(jì)算機(jī)專業(yè)。有訪談?wù)弑硎荆骸岸惴ǖ牟欢t(yī)，懂醫(yī)的不懂算法。”有些僅依據(jù)能獲得數(shù)據(jù)而開(kāi)展研究，甚至未考慮診療中的實(shí)際情況，難免造成資源浪費(fèi)。因此，人工智能項(xiàng)目應(yīng)開(kāi)展圍繞臨床和公共利益需求，以確保研究有開(kāi)展的必要性。研究方案是否科學(xué)，是對(duì)科學(xué)有效性提出要求，即研究設(shè)計(jì)科學(xué)、能獲得可靠和有效的數(shù)據(jù)實(shí)現(xiàn)研究目的。人工智能項(xiàng)目需要關(guān)注算法設(shè)計(jì)，應(yīng)當(dāng)考慮算法選擇、算法訓(xùn)練、算法性能評(píng)估等活動(dòng)的質(zhì)控要求[9]。還要考慮數(shù)據(jù)多樣性，以提高算法泛化能力，如盡可能來(lái)自多家、不同地域、不同層級(jí)的代表性臨床機(jī)構(gòu)，盡可能來(lái)自多種、不同采集參數(shù)的采集設(shè)備[10]。深度學(xué)習(xí)算法的專業(yè)性可由科學(xué)審查進(jìn)行或聘請(qǐng)獨(dú)立顧問(wèn)進(jìn)行判斷。

(2)如何保證數(shù)據(jù)安全可靠和隱私保護(hù)？醫(yī)療人工智能研發(fā)離不開(kāi)大量醫(yī)學(xué)數(shù)據(jù)，要關(guān)注在健康領(lǐng)域中的數(shù)據(jù)收集、儲(chǔ)存和使用方面是否有充分的信息防護(hù)措施，特別是個(gè)人敏感信息處理、身份識(shí)別信息的保密辦法、與數(shù)據(jù)分析結(jié)果相聯(lián)的個(gè)人信息來(lái)源等，保證其不被泄露。另外，如何合法取得、提供、使用、共享數(shù)據(jù)，以及相應(yīng)責(zé)任的承擔(dān)是否明確。相關(guān)方應(yīng)建立合作協(xié)議，規(guī)定各方義務(wù)和職責(zé)。例如，數(shù)據(jù)提供方應(yīng)確保收集的合規(guī)性以及質(zhì)量：是否建立了數(shù)據(jù)采集操作規(guī)范，明確采集人員要求和采集過(guò)程要求；具備對(duì)數(shù)據(jù)的管理策略和能力，避免隱私信息的泄露。數(shù)據(jù)使用方應(yīng)規(guī)范、合理標(biāo)注，數(shù)據(jù)標(biāo)注應(yīng)當(dāng)建立數(shù)據(jù)標(biāo)注操作規(guī)范，如明確標(biāo)注人員的資質(zhì)、數(shù)量、培訓(xùn)考核要求，以及標(biāo)注流程[9]。數(shù)據(jù)使用與共享應(yīng)嚴(yán)格執(zhí)行方案規(guī)定的數(shù)據(jù)享用范圍，避免濫用。

(3)風(fēng)險(xiǎn)獲益是否合理？一般合理的風(fēng)險(xiǎn)獲益比評(píng)估關(guān)注研究可能涉及的風(fēng)險(xiǎn)與預(yù)期的獲益是什么，盡可能最小化研究涉及的風(fēng)險(xiǎn)，同時(shí)避免不必要的風(fēng)險(xiǎn)。在人工智能研發(fā)中要特別關(guān)注隱私和信息安全風(fēng)險(xiǎn)，避免被不正當(dāng)處理、個(gè)人信息泄露、侵害隱私權(quán)所帶來(lái)的風(fēng)險(xiǎn)。

(4)研究是一個(gè)動(dòng)態(tài)的過(guò)程，在人工智能研發(fā)風(fēng)險(xiǎn)獲益的評(píng)估亦是動(dòng)態(tài)的，因此應(yīng)結(jié)合研究過(guò)程，開(kāi)展適時(shí)的、必要的跟蹤審查。

2.2 知情同意

知情同意是受試者保護(hù)的重要措施之一。但是，醫(yī)療人工智能在收集和使用健康醫(yī)療大數(shù)據(jù)時(shí)，多是整合、分析、使用常規(guī)臨床情形下收集的海量數(shù)據(jù)，以創(chuàng)造新的價(jià)值和技術(shù)，并不是要個(gè)體可識(shí)別信息。去標(biāo)識(shí)化信息在使用時(shí)安全風(fēng)險(xiǎn)較低，可以酌情考慮選擇[11-13]。

(1)知情同意的豁免(waiver of informed consen)：采用既往信息開(kāi)展的研究可以申請(qǐng)免除知情同意，應(yīng)滿足如下條件：①獲取個(gè)人知情同意在操作層面或經(jīng)費(fèi)上無(wú)法實(shí)現(xiàn)；②研究必須具有重要的社會(huì)價(jià)值；③研究對(duì)受試者及其群體造成的風(fēng)險(xiǎn)不超過(guò)最小風(fēng)險(xiǎn)。

(2)泛知情同意( broad informed consent)：指患者可選擇是否同意參與將來(lái)某一類型的研究，泛知情同意并不是無(wú)限制的同意；相反，其要求應(yīng)詳細(xì)說(shuō)明下列內(nèi)容以規(guī)范患者信息在未來(lái)研究中的應(yīng)用：①采集數(shù)據(jù)目的和用途；②數(shù)據(jù)的儲(chǔ)存條件和期限；③該信息的使用權(quán)限；④告知數(shù)據(jù)管理者的聯(lián)系方式，以便受試者可隨時(shí)了解其信息的使用情況；⑤數(shù)據(jù)信息的預(yù)期使用情況。

(3)當(dāng)為了已知研究目的的研究收集數(shù)據(jù)時(shí)，應(yīng)獲取具體的知情同意(specific consent)。同時(shí)，應(yīng)告知研究參與者所收集數(shù)據(jù)的將來(lái)處置措施。

(4)知情選擇退出(informed opt-out)：指除非患者明確拒絕，否則其相關(guān)數(shù)據(jù)可被留存并用于研究，應(yīng)滿足如下條件：①患者需知曉存在該程序；②需為患者提供充分的信息；③患者需知曉其擁有撤回相關(guān)數(shù)據(jù)的權(quán)利；④需為患者拒絕參加研究提供切實(shí)可行的操作流程。如在患者就診或者入院時(shí)進(jìn)行告知或公示。

3 法律相關(guān)考量

醫(yī)療人工智能產(chǎn)品的研發(fā)往往需要大量的個(gè)人數(shù)據(jù)，研發(fā)的產(chǎn)品上市后可能作為醫(yī)療器械、作為輔助診斷的專家系統(tǒng)甚至作為獨(dú)立實(shí)施醫(yī)療診斷行為的智能診療主體而存在。故此，醫(yī)療人工智能產(chǎn)品研發(fā)中的法律考量主要有如下幾個(gè)方面：(1)個(gè)人信息收集和利用的邊界；(2)侵權(quán)責(zé)任主體的認(rèn)定。

醫(yī)療人工智能產(chǎn)品依賴于收集和利用患者與用戶數(shù)據(jù)。無(wú)論是作為醫(yī)療人工智能產(chǎn)品開(kāi)發(fā)前提的醫(yī)療數(shù)據(jù)儲(chǔ)存、醫(yī)療數(shù)據(jù)分析，還是給出輔助診斷意見(jiàn)或?qū)嵤┽t(yī)療診斷行為的醫(yī)療人工智能產(chǎn)品，都需要收集和利用個(gè)人信息。按照是否可以單獨(dú)或者通過(guò)與其他信息結(jié)合的方式識(shí)別出自然人個(gè)人身份的標(biāo)準(zhǔn)，這里提到的個(gè)人數(shù)據(jù)可以分為兩類：個(gè)人信息和去標(biāo)識(shí)化信息。這兩類個(gè)人數(shù)據(jù)區(qū)分的標(biāo)準(zhǔn)是能否單獨(dú)或者通過(guò)與其他信息結(jié)合的方式識(shí)別出個(gè)人身份：前者能夠，后者不能夠。大量去標(biāo)識(shí)化信息進(jìn)行聚合形成的在健康醫(yī)療領(lǐng)域內(nèi)能被有效利用的數(shù)據(jù)集群，稱為健康醫(yī)療大數(shù)據(jù)。 醫(yī)療數(shù)據(jù)收集和利益主體，應(yīng)基于個(gè)人健康醫(yī)療數(shù)據(jù)的敏感性，充分尊重?cái)?shù)據(jù)主體的個(gè)人信息權(quán)利，確保信息收集的來(lái)源和目的的合法、正當(dāng)以及信息主體的知情同意，遵循最少夠用的信息收集原則，并嚴(yán)格遵守國(guó)家對(duì)于患者個(gè)人健康信息的特別規(guī)制。

去標(biāo)識(shí)化信息屬經(jīng)過(guò)特殊技術(shù)處理而降低了信息風(fēng)險(xiǎn)的個(gè)人信息，要求信息控制主體對(duì)敏感信息等進(jìn)行去標(biāo)識(shí)化處理，以及避免去標(biāo)識(shí)化的數(shù)據(jù)被重新關(guān)聯(lián)到個(gè)體等，都是追求健康醫(yī)療大數(shù)據(jù)的有用性趨勢(shì)下對(duì)數(shù)據(jù)風(fēng)險(xiǎn)進(jìn)行控制的重要手段。

醫(yī)療人工智能產(chǎn)品有其特有的特征，主要體現(xiàn)在軟件開(kāi)發(fā)者可以在產(chǎn)品生命周期內(nèi)改變其功能。對(duì)于需要頻繁更新軟件或依賴機(jī)器學(xué)習(xí)的產(chǎn)品，尤其如此。這些功能可能會(huì)帶來(lái)產(chǎn)品投放市場(chǎng)時(shí)尚不存在的新的風(fēng)險(xiǎn)。

關(guān)于侵權(quán)責(zé)任主體的認(rèn)定和責(zé)任范圍的劃分，其基本原則是責(zé)任應(yīng)由最合適防范風(fēng)險(xiǎn)的行為者承擔(dān)。醫(yī)療人工智能產(chǎn)品的開(kāi)發(fā)人員最適合對(duì)開(kāi)發(fā)階段和頻繁更新產(chǎn)生的風(fēng)險(xiǎn)負(fù)責(zé)；但在使用階段，醫(yī)療專業(yè)人士有更大的控制風(fēng)險(xiǎn)的能力，故也有可能承擔(dān)相應(yīng)責(zé)任。尤其在醫(yī)療機(jī)構(gòu)使用醫(yī)療人工智能產(chǎn)品侵害患者權(quán)利的場(chǎng)景下，必然產(chǎn)生醫(yī)療人工智能產(chǎn)品生產(chǎn)者和醫(yī)療機(jī)構(gòu)作為責(zé)任主體之間的責(zé)任劃分問(wèn)題。在損害完全由醫(yī)療人工智能產(chǎn)品缺陷導(dǎo)致的情況下，醫(yī)療人工智能產(chǎn)品生產(chǎn)者為實(shí)質(zhì)責(zé)任的承擔(dān)主體，出于保護(hù)患者及其對(duì)于醫(yī)療機(jī)構(gòu)的合理信賴的考量，若醫(yī)療機(jī)構(gòu)使用的醫(yī)療人工智能產(chǎn)品為醫(yī)療器械，患者也可就缺陷人工智能醫(yī)療器械帶來(lái)的損害向醫(yī)療機(jī)構(gòu)主張賠償責(zé)任，但醫(yī)療機(jī)構(gòu)僅承擔(dān)表面責(zé)任，可就相應(yīng)損失向缺陷醫(yī)療人工智能產(chǎn)品生產(chǎn)者進(jìn)一步追償；在完全由醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員的過(guò)錯(cuò)致使患者在診療活動(dòng)中受到損害的情況下，患者可向醫(yī)療機(jī)構(gòu)主張醫(yī)療侵權(quán)責(zé)任。醫(yī)療過(guò)錯(cuò)主要體現(xiàn)為醫(yī)療機(jī)構(gòu)及醫(yī)務(wù)人員未盡到一定診療義務(wù)，義務(wù)來(lái)源包括與當(dāng)時(shí)醫(yī)療水平相稱的、使用醫(yī)療人工智能產(chǎn)品相關(guān)的注意義務(wù)。醫(yī)療人工智能產(chǎn)品在提供決策支持時(shí)，醫(yī)務(wù)人員的診療義務(wù)很大程度上體現(xiàn)為對(duì)此決策的風(fēng)險(xiǎn)進(jìn)行理性并專業(yè)的判斷和控制的義務(wù)。比較復(fù)雜的情況是導(dǎo)致?lián)p害的原因難以區(qū)分為醫(yī)療人工智能產(chǎn)品缺陷或醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員過(guò)錯(cuò)的情況下，如何認(rèn)定兩個(gè)主體是否成立侵權(quán)責(zé)任或如何進(jìn)一步劃定責(zé)任范圍，都應(yīng)從產(chǎn)生損害的風(fēng)險(xiǎn)防范基本原則角度出發(fā)，結(jié)合具體的實(shí)際情況來(lái)綜合判斷。

4 結(jié)語(yǔ)

國(guó)家出臺(tái)一系列鼓勵(lì)并推動(dòng)人工智能產(chǎn)品研發(fā)的政策，投入力度也在增加，無(wú)疑將促進(jìn)我國(guó)醫(yī)療人工智能的開(kāi)發(fā)。前沿醫(yī)療人工智能作為新型以數(shù)據(jù)驅(qū)動(dòng)的研究類型，具有跨行業(yè)、跨機(jī)構(gòu)的多學(xué)科交叉合作特點(diǎn)，相應(yīng)的數(shù)據(jù)安全、數(shù)據(jù)利用以及數(shù)據(jù)共享有關(guān)倫理與法律問(wèn)題也日益突顯。

加強(qiáng)人工智能在健康領(lǐng)域健康發(fā)展，離不開(kāi)有效、充分的監(jiān)管與支持。一方面，國(guó)家應(yīng)盡快明確醫(yī)療人工智能從科研到產(chǎn)品開(kāi)發(fā)全流程中各環(huán)節(jié)的監(jiān)管主體和管理政策，尤其是數(shù)據(jù)使用，為相關(guān)責(zé)任方提供規(guī)范指引，增強(qiáng)合法合規(guī)意識(shí)，確保應(yīng)用的安全、可靠、可控。另一方面，醫(yī)療人工智能產(chǎn)品作為新興類別產(chǎn)品，缺乏實(shí)例和經(jīng)驗(yàn)，針對(duì)人工智能研發(fā)特點(diǎn)，需要相關(guān)參與方主動(dòng)、負(fù)責(zé)任地協(xié)同開(kāi)展研究[14]，在產(chǎn)品開(kāi)發(fā)與評(píng)估階段遵守醫(yī)學(xué)研究倫理原則和數(shù)據(jù)規(guī)范。醫(yī)療機(jī)構(gòu)作為數(shù)據(jù)提供方，應(yīng)建立數(shù)據(jù)治理系統(tǒng)，確保數(shù)據(jù)的儲(chǔ)存、使用全程監(jiān)管，并應(yīng)探索課題的主動(dòng)監(jiān)管，保障安全、合法、可靠地開(kāi)發(fā)醫(yī)療人工智能產(chǎn)品。

(致謝：感謝北京大學(xué)醫(yī)學(xué)部叢亞麗教授和張海洪老師為本文提供的專業(yè)指導(dǎo)意見(jiàn)！)