吳 蓓 陸樹程

1 AI醫(yī)療現(xiàn)狀

近年來，人工智能(artificial intelligence,AI)以不可阻擋之勢引領(lǐng)科技潮流。隨著AI在各領(lǐng)域的廣泛應(yīng)用，現(xiàn)代醫(yī)學(xué)也隨之出現(xiàn)深刻變革，AI輔助診療、護(hù)理、疾病風(fēng)險預(yù)測、健康管理、醫(yī)院管理、藥物研發(fā)數(shù)據(jù)管理、AI融入腦科學(xué)，AI融入心理精神疾病研究等。AI在提升現(xiàn)有醫(yī)療體系性能和人類健康福祉上被寄予厚望。

早在20世紀(jì)70年代，人們就已開始嘗試將AI融入醫(yī)療。1972年，MYCIN系統(tǒng)研發(fā)成功，用于傳染性血液診斷和處方，這標(biāo)志著AI邁入“專家系統(tǒng)”時期。20世紀(jì)90年代，計算機(jī)輔助診斷、影像病灶標(biāo)記等技術(shù)應(yīng)用不斷研發(fā)。21世紀(jì)初期，斯坦福大學(xué)研發(fā)出“卷積神經(jīng)網(wǎng)絡(luò)技術(shù)(Convolutional Neural Network,CNN) ”診斷皮膚癌,將AI醫(yī)療推向了新高峰。2015年,IBM公司研究的沃森(Watson) 受到全世界關(guān)注，通過深度學(xué)習(xí)，為肺癌、前列腺癌等多種癌癥提供診治。而達(dá)芬奇手術(shù)系統(tǒng)則成為當(dāng)今最知名的微創(chuàng)外科治療平臺。

2017年，國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出探索智慧醫(yī)院建設(shè), 推廣應(yīng)用AI治療新模式新手段, 建立快速精準(zhǔn)的智能醫(yī)療體系。國內(nèi)AI醫(yī)療項目紛涌而出。騰訊“覓影”食管癌早期篩查系統(tǒng)落地廣西壯族自治區(qū)人民醫(yī)院。阿里健康發(fā)布醫(yī)療AI系統(tǒng)(Doctor You), 提供醫(yī)療影像檢測、醫(yī)生能力培訓(xùn)等多項服務(wù)。截至2017年10月，中國內(nèi)地有67臺達(dá)芬奇手術(shù)機(jī)器人進(jìn)駐醫(yī)院[1]?？傮w上，我國對AI醫(yī)療在肺結(jié)節(jié)、眼底、乳腺癌、宮頸癌方面已有較為成熟的產(chǎn)品，但與發(fā)達(dá)國家利用的多樣性仍存在一定的差距。

從實際應(yīng)用來看，盡管資本對AI醫(yī)療一片樂觀，但效果不盡理想。以被高估的Watson為例，建立在統(tǒng)計數(shù)據(jù)基礎(chǔ)上機(jī)器學(xué)習(xí)方式無法與當(dāng)今醫(yī)療系統(tǒng)的復(fù)雜現(xiàn)實和醫(yī)生工作方式相匹配，尚未能圍繞醫(yī)院的痛點構(gòu)建出具有更大實際應(yīng)用價值的產(chǎn)品。在輔助診療方面，AI醫(yī)療只能用于診斷極特定類型的疾病，病情需要具備典型性，且每次出現(xiàn)的癥狀需有相似性。目前，AI醫(yī)療企業(yè)大多將訓(xùn)練模型建立在各自數(shù)據(jù)庫基礎(chǔ)上，與醫(yī)療機(jī)構(gòu)多以單點合作為主，訓(xùn)練數(shù)據(jù)效果較好，可一旦遇到未知數(shù)據(jù)，效果則大幅下降，依賴模型做決策無法被信任。在印度，Manipal 綜合癌癥中心的醫(yī)生對638 例乳腺癌病例中，Watson 與專家治療建議的一致率為73%。Watson 在韓國Gachon 大學(xué)Gil 醫(yī)療中心表現(xiàn)更差，該醫(yī)院為656 名結(jié)腸癌患者提供的最佳建議，只有49% 與專家相匹配。此外，AI醫(yī)療算法對于找到多種信息源之間的聯(lián)系尚且力不從心[2]。

相比之下，學(xué)界對于醫(yī)學(xué)與AI交融之勢則持更審慎的態(tài)度。第一，目前國內(nèi)大部分AI醫(yī)療項目仍處于科研階段，一旦進(jìn)入商用，資本的逐利導(dǎo)向下如何確保技術(shù)不被濫用，確保AI醫(yī)療技術(shù)安全使用的落地模式和AI醫(yī)療企業(yè)監(jiān)管制度問題有待探究。第二，使用中如何預(yù)防、應(yīng)對AI醫(yī)療系統(tǒng)的錯誤、漏洞，甚至是系統(tǒng)崩潰？一般AI技術(shù)的錯誤或許會引起某些財產(chǎn)性損害，但AI醫(yī)療系統(tǒng)的這些問題卻可能影響人的人身權(quán)利乃至生命安全，相關(guān)風(fēng)險如何防范？第三，強(qiáng)AI對現(xiàn)代醫(yī)學(xué)模式與醫(yī)患關(guān)系的解構(gòu)，如何在提升醫(yī)生的主體性和促進(jìn)患者健康利益之間找到平衡， AI醫(yī)療的目標(biāo)定位關(guān)系到發(fā)展方向，須予明確。

總之，AI到底是現(xiàn)代醫(yī)療的福音還是會造成對人類潛在的威脅，從根本上取決于人是否能充分駕馭它，其前提則是人們對AI醫(yī)療倫理、法律邊界的厘清和充分把控，是醫(yī)者對于醫(yī)學(xué)本質(zhì)的遵循。

2 AI醫(yī)療面臨何種風(fēng)險

科技是把“雙刃劍”。AI技術(shù)高速推進(jìn)過程中潛在諸多不確定性風(fēng)險，既有其介入醫(yī)療領(lǐng)域因知識技術(shù)體系的不完備、預(yù)估不足所潛在的風(fēng)險，也有AI研發(fā)人員尤其是相關(guān)企業(yè)在研發(fā)與應(yīng)用過程中短視、功利性因素所造成的某些不必要開發(fā)或不良應(yīng)用而埋下的潛在危險。

2.1 AI技術(shù)或?qū)⒃斐蓪︶t(yī)療人員主體性的消解

赫拉利在其所著《未來簡史》中指出，在生命科學(xué)理論視域中，生物即算法。對于海量數(shù)據(jù)量，人腦無法處理，由此，AI似乎為人類的生命健康、疾病診治提供了某種更智能優(yōu)化的選擇，也將醫(yī)者從部分繁重的工作中得以解放。然而，人是具有生存意義、價值的存在，在21世紀(jì)，AI時代數(shù)據(jù)主義導(dǎo)向下以人為中心走向以數(shù)據(jù)為中心，算法忽略或替代了人特有的情感、體驗和關(guān)懷，把人推向一邊，造成醫(yī)者價值的失落、剝奪感的滋生、主體性的消解。到底是AI輔助醫(yī)療還是部分醫(yī)者淪為AI技術(shù)的附屬，是經(jīng)驗讓位于算法還是算法服從于經(jīng)驗？一旦醫(yī)者過度依賴AI，其認(rèn)知與獨立思考能力減弱，與患者溝通、關(guān)懷能力、醫(yī)學(xué)水準(zhǔn)也可能因此降低。AI醫(yī)療不僅改變了現(xiàn)有醫(yī)療的存在方式，更沖擊了醫(yī)生的勞動價值觀，醫(yī)療人員必須重新審視自身定位和找到成長動力，尋求體現(xiàn)自身價值的方式，以克服AI技術(shù)對醫(yī)者的異化與非人改造。

2.2 AI對傳統(tǒng)醫(yī)患關(guān)系的解構(gòu)或使醫(yī)學(xué)偏離其本質(zhì)

醫(yī)療與AI結(jié)合的關(guān)鍵要素是“算法+有效數(shù)據(jù)+計算能力”[2]。AI重數(shù)據(jù)，但數(shù)據(jù)不等同于事實。AI為醫(yī)療決策所提供的證據(jù)雖然能為患者做出輔助判斷，尤其在醫(yī)生無法就診斷給出統(tǒng)一意見時提出方案，填補(bǔ)了不同醫(yī)生醫(yī)療經(jīng)驗、水平參差不齊的缺陷，盡管這看似高效優(yōu)能，但醫(yī)學(xué)活動有別于單純的科學(xué)活動。人體終究不是由數(shù)據(jù)堆砌出的生命體，人體的生態(tài)系統(tǒng)微妙而復(fù)雜，個體的差異性是不容忽視的特殊事實，個體的生活習(xí)慣、環(huán)境、人際關(guān)系、心理等因素對人體健康和疾病康復(fù)也有著各種關(guān)聯(lián)，而這是AI大數(shù)據(jù)難以覆蓋的。和諧醫(yī)患關(guān)系是在醫(yī)者悉心全面了解掌握患者情況等醫(yī)學(xué)事實的基礎(chǔ)上，基于醫(yī)患間信任與溝通、診療與關(guān)懷的生物心理社會醫(yī)學(xué)模式，而非簡單依賴算法的診斷。重診療方法的普適性、輕患者多樣性，重科學(xué)技術(shù)手段輕人文關(guān)懷的醫(yī)學(xué)發(fā)展并不可取。AI是從屬于計算機(jī)學(xué)科的一個分支，AI投資者、研發(fā)者以及制造者大多并不具備醫(yī)學(xué)專業(yè)素養(yǎng)，在風(fēng)險監(jiān)管和制度構(gòu)建尚不完備的情況下，如何保證AI醫(yī)療技術(shù)研發(fā)與使用不偏離對生命健康保障的宗旨，不會出于逐利而造成對患者潛在傷害，這是AI醫(yī)療不得不思考的問題。

2.3 AI大數(shù)據(jù)對患者權(quán)益乃至國家安全構(gòu)成潛在風(fēng)險

“AI發(fā)展的原始助推力不是算法、不是推理, 更不是軟件系統(tǒng), 而是大量的數(shù)據(jù)。”[3]我國醫(yī)療數(shù)據(jù)采集使用往往是由以營利為目的的AI研發(fā)企業(yè)和醫(yī)療機(jī)構(gòu)開展，數(shù)據(jù)采集涉及面極廣，多樣化的數(shù)據(jù)尤其是敏感性的數(shù)據(jù)涉及多方利益。不同主體、不同學(xué)科領(lǐng)域、不同機(jī)構(gòu)之間關(guān)于醫(yī)療大數(shù)據(jù)尚無統(tǒng)一認(rèn)識和標(biāo)準(zhǔn)，這既影響數(shù)據(jù)解讀質(zhì)量和算法準(zhǔn)確性，也可能帶來安全隱患或侵權(quán)行為。當(dāng)前，“醫(yī)療信息成為黑客攻擊的新熱點、醫(yī)學(xué)大數(shù)據(jù)的控制力在不斷被削弱、網(wǎng)絡(luò)安全成為醫(yī)學(xué)大數(shù)據(jù)安全的基石”[4]。以群體基因信息為例，一旦遭遇安全風(fēng)險，可能嚴(yán)重威脅國家安全。此外，數(shù)據(jù)關(guān)系到AI醫(yī)療算法的精準(zhǔn)性，一旦數(shù)據(jù)采集出現(xiàn)偏差，算法給出的模型和結(jié)果則可能出現(xiàn)偏誤，對患者權(quán)益造成損害。對于醫(yī)生而言，算法在本質(zhì)上無異于黑箱，因其可能觸及商業(yè)、國家秘密以及自身的復(fù)雜性，算法并不透明，大數(shù)據(jù)、算法也極可能被用于某種非保障人類生命健康利益的不法目的，發(fā)生異化和畸變。

2.4 AI準(zhǔn)入領(lǐng)域制度準(zhǔn)則的空白或?qū)⒃斐煞韶?zé)任界定模糊

與AI可能帶來的倫理挑戰(zhàn)相耦合的還有法律問題。目前就臨床中相對普遍使用的機(jī)器人輔助腹腔鏡手術(shù)——達(dá)芬奇系統(tǒng)而言，它還只是一種機(jī)械手，隨著AI技術(shù)的日益精進(jìn)，將來完全可能由智能機(jī)器人獨立完成手術(shù)。盡管現(xiàn)階段學(xué)界主流觀點并不認(rèn)同AI機(jī)器人的法律主體資格，智能機(jī)器人仍只是在醫(yī)生的指示控制范圍內(nèi)輔助完成一部分精密手術(shù)。然而，一旦手術(shù)失敗或某些醫(yī)療風(fēng)險發(fā)生，應(yīng)由AI機(jī)器人研發(fā)者、制造商還是院方，甚至包括行使了知情同意權(quán)的患者承擔(dān)責(zé)任，以何種歸責(zé)原則認(rèn)定，以及責(zé)任大小分配，責(zé)任界定的主體是誰，這些法律問題尚沒有明確界分。由于國外AI研發(fā)起步早于國內(nèi)，在實踐中已出現(xiàn)相關(guān)案例，例如“姆來塞克訴布林茅爾醫(yī)院案”，最終法院判定適用生產(chǎn)者嚴(yán)格責(zé)任規(guī)則，盡管國內(nèi)尚未出現(xiàn)相關(guān)案例，但學(xué)界顯然有必要對相關(guān)問題作出前瞻性思考。此外，隨著AI的觸角不斷延伸，如由IBM主導(dǎo)研發(fā)出“類人腦芯片TRUENORTH和類似的神經(jīng)織網(wǎng)”技術(shù)，將人腦芯片或微小腦電極植入人腦，直接上傳和下載想法；另有智能眼球、機(jī)械臂、人工臟器等智能生物輔助設(shè)備，由此引發(fā)主體身份的法律界定以及智能設(shè)備的權(quán)益問題，相關(guān)探討尚不成熟。

3 如何應(yīng)對AI醫(yī)療風(fēng)險

風(fēng)險是人類創(chuàng)造活動的動力。AI醫(yī)療能否有效造福人類，需要人們在機(jī)遇和風(fēng)險之間謹(jǐn)慎平衡，從主體與制度層面不斷建構(gòu)。惟有如此，才能揚(yáng)長避短、發(fā)揮AI醫(yī)療的最大價值。

3.1 建構(gòu)AI醫(yī)療倫理原則

“效率原則是技術(shù)社會構(gòu)建的基石。然而，問題的關(guān)鍵在于到底是誰的效率?”[5]醫(yī)學(xué)與科學(xué)技術(shù)之間有一定的差別，醫(yī)學(xué)的發(fā)展催生了對科學(xué)技術(shù)的需求，但醫(yī)學(xué)服務(wù)于生命，而科學(xué)技術(shù)卻不盡然。因此，效率不應(yīng)成為AI醫(yī)療的專有價值，醫(yī)療、生物科學(xué)領(lǐng)域的特殊性決定了該領(lǐng)域不具備反復(fù)試錯的機(jī)會，AI技術(shù)發(fā)展中“效率主義”應(yīng)當(dāng)?shù)玫椒此迹苑缹I醫(yī)療前景的過度美化和神化。對此，有必要為AI醫(yī)療的發(fā)展設(shè)定倫理原則，為其“能做什么”劃定倫理限度。

醫(yī)學(xué)的本質(zhì)是為了生命。造福人類生命健康利益、提高醫(yī)療服務(wù)水平是AI醫(yī)療發(fā)展的初衷，AI醫(yī)療的發(fā)展仍應(yīng)堅持生命倫理原則，強(qiáng)調(diào)公平性、透明性、公益性、合作性的倫理價值導(dǎo)向。這是基于，其一，生命健康利益應(yīng)當(dāng)是無差別的、平等的，然而不同國家、地區(qū)乃至同一國家不同地區(qū)的經(jīng)濟(jì)、技術(shù)發(fā)展并不平衡，AI技術(shù)中算法關(guān)系到各種決策結(jié)果，為避免算法歧視，一切AI醫(yī)療行為應(yīng)當(dāng)基于公平性倫理原則，確保技術(shù)程序的正當(dāng)性，而非在資本和利益導(dǎo)向下做出，增強(qiáng)AI醫(yī)療決策系統(tǒng)的透明性、可解釋性，避免算法黑箱，以防類似“魏則西”事件的悲劇也會在AI醫(yī)療中上演。其二，數(shù)據(jù)是AI醫(yī)療的關(guān)鍵，數(shù)據(jù)的量與質(zhì)關(guān)系算法結(jié)果的準(zhǔn)確性和AI醫(yī)療的真實效能，數(shù)據(jù)孤島阻斷AI醫(yī)療融合應(yīng)用，由IBM制造的AI 產(chǎn)品Watson，因訓(xùn)練中使用的非真實性數(shù)據(jù)，而給出錯誤甚至危險的方案。AI醫(yī)療要從弱AI階段得到突破，能真正造福于民，各醫(yī)療機(jī)構(gòu)、企業(yè)、科研院所、患者等不同主體間應(yīng)強(qiáng)調(diào)公益性、合作性原則，實現(xiàn)數(shù)據(jù)有效共享。

3.2 加強(qiáng)AI醫(yī)療人才建設(shè)

應(yīng)對AI的挑戰(zhàn)與沖擊，首當(dāng)其沖的是醫(yī)學(xué)工作者主體性的重構(gòu)，既要有科技信息時代信仰的堅守，又要作出思維的積極轉(zhuǎn)向，保持自我提升的能力。

3.2.1 堅守職業(yè)信仰，重塑醫(yī)學(xué)人文精神

AI時代，醫(yī)務(wù)工作者應(yīng)認(rèn)清醫(yī)學(xué)發(fā)展的變與不變。2016 年，經(jīng)濟(jì)合作與發(fā)展組織(Organization for Economic Cooperation and Development,OECD，簡稱經(jīng)合組織)一項關(guān)于全球醫(yī)療問題的統(tǒng)計，在經(jīng)合組織當(dāng)時的34個成員國中，美國醫(yī)療開支處于各國之首，人均壽命卻處于倒數(shù)第八位，可見，高昂的醫(yī)療費用、先進(jìn)的技術(shù)并不代表著更健康的人群[6]。AI融入醫(yī)療是醫(yī)學(xué)發(fā)展在新階段的變量，是思維與技術(shù)手段的變化，不變的是醫(yī)學(xué)的本質(zhì)，醫(yī)學(xué)活動的本質(zhì)仍然是人的問題，“關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上的奮斗目標(biāo)”[7]。醫(yī)務(wù)工作者仍需堅守“健康所系、性命相托”“醫(yī)乃仁術(shù)”的職業(yè)信仰，恪守 “有時去治愈，常常去幫助，總是去安慰”的職業(yè)準(zhǔn)則，培育“大醫(yī)精誠”、“樂業(yè)奉獻(xiàn)”的職業(yè)精神，既有過硬的職業(yè)技能，更要始終保持同理心和敬畏心，不至于在功利主義、技術(shù)主義浪潮中迷失，能為AI醫(yī)療技術(shù)作出倫理和價值指引，引領(lǐng)其理性發(fā)展，致力于造福人類生命健康事業(yè)。

3.2.2 變革高等醫(yī)學(xué)教育，為AI醫(yī)療提供人才支持

人才是AI醫(yī)療發(fā)展的核心要素。國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出要加快培養(yǎng)聚集AI高端人才。AI醫(yī)療是跨學(xué)科、跨行業(yè)、多部類，集產(chǎn)學(xué)研于一體的集體活動。AI與醫(yī)學(xué)兩大不同學(xué)科領(lǐng)域跨界融合，引領(lǐng)著新時代醫(yī)學(xué)與醫(yī)學(xué)教育變革。當(dāng)前，我國AI醫(yī)療人才嚴(yán)重匱乏，醫(yī)學(xué)生在高等教育階段對AI醫(yī)療應(yīng)用一知半解甚至一無所知。AI醫(yī)療應(yīng)用產(chǎn)品的研發(fā)往往由企業(yè)開發(fā)，AI人才集中于計算機(jī)科學(xué)領(lǐng)域，AI醫(yī)療中往往通過培訓(xùn)現(xiàn)有醫(yī)療人員，在臨床實踐中被動學(xué)習(xí)使用相關(guān)產(chǎn)品，這種模式并不滿足AI醫(yī)療發(fā)展根本之需。對此，應(yīng)在高等教育階段推進(jìn)醫(yī)學(xué)教育變革：一方面，支持有條件的院校推進(jìn)“AI+X”復(fù)合專業(yè)培養(yǎng)新模式， 建立由不同學(xué)術(shù)背景或不同學(xué)科教師組成的學(xué)術(shù)共同體，推進(jìn)高校、企業(yè)、醫(yī)院產(chǎn)教研結(jié)合，發(fā)揮各類協(xié)同創(chuàng)新組織的功能，聯(lián)合培養(yǎng)人才，注重更新醫(yī)學(xué)生知識結(jié)構(gòu)、培養(yǎng)和形成跨學(xué)科思維模式，推動醫(yī)學(xué)生在該領(lǐng)域的參與，在理論學(xué)習(xí)、教學(xué)實踐與各類項目合作中發(fā)現(xiàn)問題、解決問題，挖掘AI醫(yī)療的潛在價值和可行方向，以需求為導(dǎo)向培育具有交叉學(xué)科背景的復(fù)合型人才。另一方面，借力AI技術(shù)，充分助力醫(yī)學(xué)教育，例如，清華大學(xué)醫(yī)學(xué)院建立“智慧現(xiàn)實虛擬臨床教學(xué)中心“，致力于推進(jìn)臨床教學(xué)培訓(xùn)新模式，面對未來AI醫(yī)療影響下醫(yī)患關(guān)系處理、臨床決策、技術(shù)運(yùn)用等問題作出模擬探察。同時，注重將醫(yī)學(xué)人文精神與智能教學(xué)教育模式有效配合，在目前已有的醫(yī)學(xué)人文類課程中關(guān)注、探求相關(guān)問題，致力于引導(dǎo)醫(yī)學(xué)生建構(gòu)技術(shù)與人文相整合的知識體系與價值觀。

3.3 完善AI醫(yī)療的制度規(guī)約

3.3.1 建構(gòu)大數(shù)據(jù)規(guī)范使用和隱私權(quán)保護(hù)制度

健康醫(yī)療大數(shù)據(jù)領(lǐng)域標(biāo)準(zhǔn)體系是推動健康醫(yī)療大數(shù)據(jù)交換共享的基礎(chǔ)和前提, 是推進(jìn)健康醫(yī)療大數(shù)據(jù)應(yīng)用發(fā)展的有力保障[8]。美國、歐盟等國家在標(biāo)準(zhǔn)制定，安全管理以及平臺體系搭建方面都已相對成熟，美國2007年通過了《電子病歷系統(tǒng)功能模型》并使其成為國家標(biāo)準(zhǔn),2011年責(zé)任醫(yī)療機(jī)構(gòu)(Accountable Care Organizations,ACOs)最終法進(jìn)一步對電子病歷管理作出設(shè)定、強(qiáng)調(diào)數(shù)字化收集33項指標(biāo)數(shù)據(jù),強(qiáng)化了電子健康記錄(Electronic Health Record,EHR)作為醫(yī)療質(zhì)量度量工具的地位,構(gòu)建準(zhǔn)確、完整、及時的臨床質(zhì)量指標(biāo)數(shù)據(jù)報告制度和責(zé)任機(jī)制。為AI醫(yī)療數(shù)據(jù)的標(biāo)準(zhǔn)化采集和優(yōu)質(zhì)化使用奠定了基礎(chǔ)[9]。數(shù)據(jù)的價值在于使用，AI醫(yī)療數(shù)據(jù)安全的核心不是避免其使用，而是要實現(xiàn)數(shù)據(jù)開放與隱私風(fēng)險之間的平衡。歐盟《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,GDPR)在數(shù)字經(jīng)濟(jì)的時代背景下，數(shù)據(jù)生產(chǎn)者權(quán)利能夠與GDPR中的各項“數(shù)據(jù)權(quán)利”協(xié)同，解決“非個人數(shù)據(jù)”和“個人數(shù)據(jù)”背后各主體的利益平衡問題[10]。該條例還規(guī)定了歐盟委員會有權(quán)對已證實違反條例規(guī)定的企業(yè)處以2 000萬歐元或其全球收入4%的高額罰款，監(jiān)管機(jī)構(gòu)在歐盟范圍內(nèi)實現(xiàn)跨區(qū)域協(xié)作，賦予個人在隱私保護(hù)上更強(qiáng)大的話語權(quán)[11]。

我國健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)研究起步較晚，國家衛(wèi)生健康委員會于2018年9月正式發(fā)布《國家健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)、安全和服務(wù)管理辦法(試行)》(以下簡稱《試行辦法》)，《試行辦法》對醫(yī)療大數(shù)據(jù)的定義、內(nèi)涵和外延，以及自身的適用范圍、遵循原則和總體思路，各級衛(wèi)生健康行政部門的邊界和權(quán)責(zé)，各級醫(yī)療衛(wèi)生機(jī)構(gòu)及相關(guān)應(yīng)用單位的職責(zé)權(quán)利作出探索，但在系統(tǒng)化的法律建構(gòu)依然處于缺失狀態(tài)。從國家層面對大數(shù)據(jù)予以統(tǒng)籌管理，推進(jìn)構(gòu)建完整的國家醫(yī)療數(shù)據(jù)體系并予以有效監(jiān)管，以確保大數(shù)據(jù)的規(guī)范使用和總體安全的立法和技術(shù)安全標(biāo)準(zhǔn)亟待出臺。對AI醫(yī)療數(shù)據(jù)進(jìn)行分級管理，設(shè)置保密等級與公開等級，兼顧協(xié)調(diào)患者的隱私權(quán)、企業(yè)的商業(yè)秘密權(quán)以及醫(yī)療的公益性等多方利益，合理逐步推動各類數(shù)據(jù)資源的共享，有效解決“數(shù)據(jù)孤島”問題。構(gòu)建相應(yīng)的數(shù)據(jù)共享規(guī)則和涉及患者及其他公民健康數(shù)據(jù)的同意規(guī)則，明確AI醫(yī)療中多方主體數(shù)據(jù)權(quán)利義務(wù)，建立大數(shù)據(jù)中關(guān)鍵信息基礎(chǔ)設(shè)施安全風(fēng)險的監(jiān)測、通報與信息共享機(jī)制和應(yīng)急措施。

3.3.2 構(gòu)建行業(yè)指導(dǎo)和監(jiān)管制度

當(dāng)前，我國AI醫(yī)療器械無論從監(jiān)管層面、運(yùn)用認(rèn)證層面還是高性能的醫(yī)療器械標(biāo)準(zhǔn)制定方面, 相比美國、歐盟、日本等醫(yī)療器械國家法規(guī)與監(jiān)管體系, 都仍存在一定的差距[12]。國務(wù)院提出對“AI+”發(fā)展的審慎監(jiān)管原則。對于AI醫(yī)療風(fēng)險防范治理，重在事先預(yù)防、實行分級管理。當(dāng)前AI醫(yī)療總體上處于“弱AI階段”，集中于醫(yī)院管理、影像分析、流行病識別、保健和康復(fù)領(lǐng)域，這些領(lǐng)域風(fēng)險不大，可通過制定行業(yè)準(zhǔn)則實現(xiàn)對其進(jìn)行規(guī)范化管理。建構(gòu)對參與設(shè)計和研發(fā)的醫(yī)療機(jī)構(gòu)、企業(yè)、醫(yī)療人員、技術(shù)人員等相關(guān)準(zhǔn)入規(guī)范和質(zhì)量管理規(guī)范體系，根據(jù)AI醫(yī)療器械、產(chǎn)品、技術(shù)的特殊性，制定臨床評價技術(shù)規(guī)范、技術(shù)標(biāo)準(zhǔn)和安全標(biāo)準(zhǔn)。

對發(fā)展中的“強(qiáng)AI”、“超強(qiáng)AI”則需保持高度警惕，制定重點監(jiān)管目錄，實施算法代碼備案制度，完備覆蓋其技術(shù)產(chǎn)品研發(fā)、生產(chǎn)、流通、使用等全過程的生命周期監(jiān)管制度，尤其是相關(guān)數(shù)據(jù)庫和信息追溯體系。鑒于“強(qiáng)AI”自身的技術(shù)復(fù)雜性與不確定性，其使用需在政府職能部門、行業(yè)組織、科研機(jī)構(gòu)、醫(yī)療機(jī)構(gòu)、企業(yè)、高校的共同參與和多方監(jiān)管下開展?！坝蓢鴥?nèi)領(lǐng)軍型的大型公立醫(yī)院與企業(yè)、學(xué)術(shù)研究機(jī)構(gòu)牽頭，成立第三方醫(yī)療AI倫理監(jiān)管平臺，對醫(yī)療AI產(chǎn)品的研發(fā)、臨床應(yīng)用注冊、多中心臨床研究、不良事件上報、開展合倫理性和適用性評價等，實現(xiàn)全流程多方位的倫理監(jiān)管?！盵13]

此外，AI醫(yī)療關(guān)系全體成員，應(yīng)努力提高公眾對AI醫(yī)療的認(rèn)知度、鼓勵公眾參與，為利益相關(guān)者提供對話平臺?？傊鎸Σ淮_定性風(fēng)險，只有有節(jié)制地對科技研發(fā)與應(yīng)用進(jìn)行有效控制，才能避免不負(fù)責(zé)任的、盲目的技術(shù)發(fā)展。

3.3.3 完善AI醫(yī)療責(zé)任法律法規(guī)

AI醫(yī)療的到來為醫(yī)學(xué)誤診以及醫(yī)療事故的責(zé)任分配提出了法律挑戰(zhàn)[14]。AI醫(yī)療侵權(quán)責(zé)任問題復(fù)雜。AI醫(yī)療致人損害主要表現(xiàn)為如下情形:一是不法者對智能系統(tǒng)進(jìn)行非法入侵，進(jìn)而控制所造成的損害。例如, 黑客、病毒等人為因素入侵智能系統(tǒng), 由此導(dǎo)致危及他人生命健康權(quán)益的后果。二是AI醫(yī)療因自身產(chǎn)品缺陷瑕疵而造成的損害，如在英國2015年首例“達(dá)芬奇”心瓣修復(fù)手術(shù)中，機(jī)械手臂亂動打到醫(yī)生的手，還把患者心臟放錯位置，戳穿了患者的大動脈[15]。三是AI醫(yī)療系統(tǒng)操作者、使用者因自身不當(dāng)使用所致的損害。四是在未來超強(qiáng)AI時代AI醫(yī)療系統(tǒng)可能超越原控制方案的“自身行為”所致?lián)p害。

對于第一種情形，侵權(quán)者理應(yīng)承擔(dān)侵權(quán)責(zé)任，同時不排除相關(guān)監(jiān)管者應(yīng)承擔(dān)相應(yīng)的行政責(zé)任。此外，基于受害人救濟(jì)原則, 在侵權(quán)者難以確定或無力承擔(dān)賠償責(zé)任時由AI醫(yī)療生產(chǎn)者、銷售者或使用者根據(jù)公平原則分擔(dān)責(zé)任。第二種情形所致?lián)p害類型，在“弱AI階段”，AI醫(yī)療產(chǎn)品往往被視作醫(yī)療器械的情況下，適用產(chǎn)品責(zé)任規(guī)定。第三種情形中由醫(yī)療主體承擔(dān)責(zé)任是自然選擇。但與第二種情形面臨共同的難題是，責(zé)任認(rèn)定的關(guān)鍵在于AI醫(yī)療的安全標(biāo)準(zhǔn)和技術(shù)法規(guī)，沒有特定的安全標(biāo)準(zhǔn)，則難以判定損害是產(chǎn)品缺陷還是醫(yī)療主體主觀過錯所致。在第四種情形下，超強(qiáng)AI醫(yī)療擁有更強(qiáng)的獨立行為能力或以更復(fù)雜的形式助力生命健康事業(yè)，如大腦芯片等，屆時AI醫(yī)療或可擁有電子人身份，損害責(zé)任界定更加困難。鑒于立法的相對滯后性和科技發(fā)展的未知性，AI強(qiáng)制險十分必要，針對AI醫(yī)療發(fā)展中可能出現(xiàn)的各類風(fēng)險，設(shè)置不同的責(zé)任險種，以確保對受損者的權(quán)利救濟(jì)。必須指出的是，盡管“制定一部總括性的‘人工智能法’在目前這個階段時機(jī)尚不成熟”[16]，但在現(xiàn)有法律體系內(nèi)，厘清AI醫(yī)療的責(zé)任認(rèn)定問題，以在公眾健康權(quán)益和技術(shù)創(chuàng)新之間保持平衡，對推進(jìn)AI醫(yī)療具有重要意義[17]。

4 結(jié)語

人類對科學(xué)技術(shù)及生命健康的探索永無止境，風(fēng)險與機(jī)遇并存，AI與醫(yī)療的深度融合充滿未知性，既不可裹足不前，也不能盲目狂熱。AI醫(yī)療要走向“善智”，倫理反思與法律設(shè)計應(yīng)當(dāng)走在技術(shù)前面，為技術(shù)發(fā)展的合理性、合法性作出前瞻性的考量。