董星宇 陳敏

華中科技大學(xué)同濟醫(yī)學(xué)院醫(yī)藥衛(wèi)生管理學(xué)院，武漢，430030

國務(wù)院《新一代人工智能發(fā)展規(guī)劃》(2017)中指出，人工智能作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動力，必須加快其在各個行業(yè)的深度應(yīng)用。人工智能在疾病診療、醫(yī)學(xué)影像、健康管理、藥物研發(fā)等多個方面具有廣闊的應(yīng)用前景。醫(yī)療人工智能通過對醫(yī)療領(lǐng)域進行深度數(shù)據(jù)挖掘與分析，最終實現(xiàn)輔助或替代醫(yī)護人員提供醫(yī)療服務(wù)。醫(yī)療人工智能帶來新機遇的同時，也因其發(fā)展的不確定性帶來了新的挑戰(zhàn)。如何應(yīng)對醫(yī)療人工智能帶來的諸多問題與風(fēng)險，確保其安全、可靠、可控發(fā)展，是當前必須重視和解決的問題。

1 醫(yī)療人工智能應(yīng)用現(xiàn)狀

在國家全民健康信息化建設(shè)背景下，人工智能在健康醫(yī)療領(lǐng)域中的應(yīng)用發(fā)展迅速，形成了“AI+健康醫(yī)療”的模式。主要有：①AI+疾病診療。如IBM Watson可提供乳腺癌、肺癌、子宮癌等多種癌癥的診療服務(wù)。②AI+醫(yī)學(xué)影像識別。如騰訊覓影對早期發(fā)現(xiàn)食管癌的準確率高達90%。未來也可支持肺癌、乳腺癌等的早期醫(yī)學(xué)影像診斷。③AI+健康管理?？稍诮】当O(jiān)測、慢病管理、情緒調(diào)節(jié)、合理膳食指導(dǎo)等方面提供醫(yī)療護理和健康指導(dǎo)。④AI+機器人?？蓱?yīng)用于醫(yī)療咨詢、手術(shù)操作和術(shù)后護理。此外還有AI+藥物研發(fā)、AI+精準醫(yī)療、AI+基因測序等。

2 醫(yī)療人工智能發(fā)展存在的問題

法律法規(guī)是規(guī)范醫(yī)療人工智能健康發(fā)展最根本的保障，倫理學(xué)則是在法律法規(guī)的基礎(chǔ)上，可以促進醫(yī)療人工智能的社會價值導(dǎo)向，體現(xiàn)社會的可行性。標準的規(guī)范體系在解決醫(yī)療人工智能發(fā)展的技術(shù)方面發(fā)揮著重要的作用。網(wǎng)絡(luò)安全、醫(yī)療安全以及隱私信息安全也至關(guān)重要。評價體系和人才培養(yǎng)對于推動醫(yī)療人工智能發(fā)展也同樣不可或缺，但這些方面都還很不完善。

2.1 法律法規(guī)滯后與倫理道德的問題

醫(yī)療人工智能作為迅速發(fā)展的新事物，法律的滯后性非常明顯，如侵權(quán)責(zé)任的劃分問題。醫(yī)院和醫(yī)生是承擔醫(yī)療服務(wù)責(zé)任的主體，但引進人工智能產(chǎn)品后，對醫(yī)療服務(wù)過程中造成的醫(yī)療事故、不良事件等，如何劃分責(zé)任主體是亟待解決的問題[1]。人工智能具有獨創(chuàng)性，能否作為“主體”來進一步確定版權(quán)歸屬，也有待解決[2]。

醫(yī)療人工智能的應(yīng)用也存在醫(yī)學(xué)倫理學(xué)的問題。首先是人權(quán)倫理問題，如醫(yī)療人工智能能否被賦予人權(quán)，人工智能的特權(quán)是否會凌駕于醫(yī)生之上。智能眼球、智能臟器等輔助設(shè)備開始應(yīng)用于人體中，出現(xiàn)“智能人”，對人的道德主體地位也是挑戰(zhàn)。人工智能具有高效的學(xué)習(xí)能力、巨大的知識容量等，可以為患者實現(xiàn)更加優(yōu)化的診療，但對醫(yī)生的地位也有極大的影響[2]。

2.2 缺乏標準的規(guī)范體系

近年來國家已開始著手人工智能標準化建設(shè)?！度斯ぶ悄馨灼?2018版)中表明，當前人工智能相關(guān)標準有200個,其中已發(fā)布81個、在研88個、擬研制31個。但醫(yī)療人工智能的相關(guān)標準仍處空白階段。行業(yè)內(nèi)對醫(yī)療人工智能的內(nèi)涵、應(yīng)用模式等未達成共識，標準化工作基礎(chǔ)較為薄弱。臨床術(shù)語是醫(yī)療人工智能發(fā)展的前提和基礎(chǔ)，由于版權(quán)歸屬、語言障礙、醫(yī)療環(huán)境等諸多因素的限制，缺乏中文臨床醫(yī)學(xué)術(shù)語的標準，制約了健康醫(yī)療與人工智能的深度融合。醫(yī)療人工智能涉及醫(yī)學(xué)、計算機科學(xué)、心理學(xué)等多個領(lǐng)域，不同領(lǐng)域的融合都需要有相關(guān)的標準進行界定[3]。

2.3 存在安全隱患的問題

醫(yī)療人工智能在網(wǎng)絡(luò)安全、醫(yī)療安全、社會安全、隱私信息安全等方面均存在不少隱患。人工智能系統(tǒng)如果因操作失誤或網(wǎng)絡(luò)受到惡意攻擊等可能會對醫(yī)生或患者造成傷害。算法模型可能帶有主觀色彩，在診療方案的選擇上存在很大的差異，也可能會引發(fā)醫(yī)療安全事故問題[4]。醫(yī)療人工智能由機器取代醫(yī)務(wù)人員部分智能化自主工作，可能會造成人員的薪酬下降、失業(yè)等一系列問題，使醫(yī)生和患者產(chǎn)生不安的情緒，成為社會不穩(wěn)定的因素。

醫(yī)療人工智能需要對大量的健康醫(yī)療數(shù)據(jù)進行挖掘和利用，涉及個人信息的獲取、擴散、分析利用等一系列問題。個人信息可能會未經(jīng)本人允許被獲取或超出用戶允許范圍之外使用，也可因經(jīng)濟利益或某些商業(yè)目的造成個人健康醫(yī)療數(shù)據(jù)被非法擴散。在個人未被告知甚至非法隱瞞醫(yī)療數(shù)據(jù)的情況下，會造成個人醫(yī)療信息的泄露。此外，醫(yī)療人工智能學(xué)習(xí)和分析的能力，也會推導(dǎo)出其他隱私信息，造成隱私泄露[5]。

2.4 缺乏應(yīng)用評價體系的問題

評價體系包括對醫(yī)療人工智能的算法模型、產(chǎn)品性能、應(yīng)用效果等方面的評價，可評估產(chǎn)品的優(yōu)劣，也是行業(yè)內(nèi)的“領(lǐng)航標”，引領(lǐng)產(chǎn)品的發(fā)展方向。例如人工智能影像診斷，需從準確性、醫(yī)生利用率以及業(yè)務(wù)流程等方面進行評價。這些評價指標是否合理直接影響其后續(xù)發(fā)展及應(yīng)用效果。缺乏醫(yī)療人工智能評價體系既無法充分評估醫(yī)療人工智能產(chǎn)品及系統(tǒng)的關(guān)鍵性能[6]，阻礙推廣應(yīng)用，也可能會影響產(chǎn)品的良好發(fā)展。

2.5 人才培養(yǎng)的問題

中國人工智能人才缺口預(yù)計將超過500萬人，人才缺乏導(dǎo)致供需嚴重失衡。醫(yī)療人工智能作為跨學(xué)科應(yīng)用，涉及自然語言處理、圖像處理、醫(yī)學(xué)、統(tǒng)計學(xué)、機械自動化等多專業(yè)的融合，需要多樣化的人才。醫(yī)療衛(wèi)生人員對人工智能新興技術(shù)的接受度還無法估計，目前也沒有建立專業(yè)化、規(guī)范化的培訓(xùn)與考核體系，導(dǎo)致醫(yī)療衛(wèi)生人員對人工智能產(chǎn)品接受度低、操作失誤等問題[5]。如何有針對性地培育人才、引進人才、留住人才也是亟待解決的問題[8]。

3 對策

3.1 應(yīng)加快制訂相關(guān)法律法規(guī)，加強倫理道德風(fēng)險管控

目前與醫(yī)療人工智能相關(guān)的法律規(guī)范滯后，應(yīng)盡早制訂和完善相關(guān)法律法規(guī)，界定醫(yī)療人工智能產(chǎn)品的開發(fā)者、生產(chǎn)者、使用者的責(zé)任。建立一套明確法律邊界的醫(yī)療人工智能責(zé)任體系，從法律上明確責(zé)權(quán)。可設(shè)立責(zé)任認定監(jiān)管機構(gòu)，通過引入第三方機構(gòu)來保障責(zé)任認定的公正公平[1]。在《著作權(quán)保護法》等法律中明確人工智能的創(chuàng)作管理。在《網(wǎng)絡(luò)安全法》、《信息安全等級保護管理辦法》等法律法規(guī)的基礎(chǔ)上，建立人工智能隱私信息安全管理辦法，加強公民的隱私保護。

在倫理風(fēng)險管控方面，應(yīng)堅定醫(yī)生主體地位，明確以醫(yī)生為主導(dǎo)、人工智能為輔助的觀念，實現(xiàn)醫(yī)務(wù)人員與人工智能的有機結(jié)合，為患者提供更加優(yōu)質(zhì)的服務(wù)。在人工智能產(chǎn)品的設(shè)計開發(fā)時應(yīng)根據(jù)倫理學(xué)原則進行風(fēng)險評估，使人工智能風(fēng)險最小化、效益最大化。

3.2 完善標準規(guī)范體系

醫(yī)療人工智能的標準包括基礎(chǔ)、平臺/支撐、技術(shù)、產(chǎn)品與服務(wù)、應(yīng)用和安全/倫理等六大類標準體系[7]。①基礎(chǔ)標準。是對醫(yī)療人工智能基礎(chǔ)進行的規(guī)范，包括總則、術(shù)語、參考模型/框架、數(shù)據(jù)、測試評估等。②平臺/支撐標準。是對開展醫(yī)療人工智能平臺和支撐的規(guī)范，包括云計算、大數(shù)據(jù)、智能感知、人工智能平臺等。③技術(shù)標準。是對醫(yī)療人工智能關(guān)鍵技術(shù)的規(guī)范要求，包括機器學(xué)習(xí)、自然語言處理、圖像識別、虛擬現(xiàn)實、人機交互等技術(shù)標準。④產(chǎn)品與服務(wù)標準。包括機器人、智能器械、智能終端、智能服務(wù)等產(chǎn)品和服務(wù)標準。⑤應(yīng)用標準。包括醫(yī)療人工智能在疾病診療、醫(yī)學(xué)影像、健康管理、藥物研發(fā)、精準醫(yī)療等方面的標準。⑥安全/倫理標準。主要包括醫(yī)療人工智能安全、倫理、隱私保護等相關(guān)標準。

其中基礎(chǔ)術(shù)語，人工智能平臺支撐，機器學(xué)習(xí)、計算機視覺、人機交互、VR/AR等關(guān)鍵技術(shù)，包括機器人在內(nèi)的人工智能產(chǎn)品，安全/倫理等標準規(guī)范則是迫在眉睫需要制定的。

3.3 應(yīng)建立應(yīng)用評價體系

應(yīng)制定醫(yī)療人工智能應(yīng)用評價體系，評估其開發(fā)過程與產(chǎn)品性能等指標。通過指標體系對產(chǎn)品進行考核評價，引導(dǎo)醫(yī)療人工智能產(chǎn)品的健康發(fā)展，避免不合格產(chǎn)品進入市場，創(chuàng)造良性競爭環(huán)境，為醫(yī)療人工智能的推廣應(yīng)用奠定良好的基礎(chǔ)。

3.4 應(yīng)加強醫(yī)療人工智能人才的培養(yǎng)

首先，應(yīng)加強復(fù)合型人才的培養(yǎng)。各高校應(yīng)加強醫(yī)學(xué)與計算機、統(tǒng)計學(xué)、大數(shù)據(jù)等交叉性學(xué)科的建設(shè)，培養(yǎng)“人工智能+”復(fù)合人才。積極探索醫(yī)療衛(wèi)生機構(gòu)、醫(yī)學(xué)院校與工科類院校、企業(yè)之間的合作，共同培養(yǎng)復(fù)合型人才。其次，應(yīng)建立醫(yī)療人工智能培訓(xùn)體系。醫(yī)療機構(gòu)在引進人工智能時，對相關(guān)的醫(yī)務(wù)人員進行規(guī)范化、專業(yè)化技能培訓(xùn)，制定完整的考核標準。第三，建立高端人才引進機制，制定相應(yīng)政策，實現(xiàn)醫(yī)療人工智能高端人才、精準引進[8]，提供優(yōu)厚待遇，引進人才并留住人才，保障醫(yī)療人工智能持續(xù)快速發(fā)展。