葉卓俊,沈艷麗,江 曉,袁蕙蕓

(1.上海交通大學醫(yī)學院公共衛(wèi)生學院,上海 200025;2.上海交通大學醫(yī)學院附屬仁濟醫(yī)院,上海 200127)

人工智能(artificial intelligence,AI)是一種模擬人類智能的計算機技術(shù),使計算機能夠像人類一樣思考和行動,從而作出決策并解決問題[1]。近年來,我國在推動AI與醫(yī)療融合方面取得了顯著進展。醫(yī)學AI基于深度學習算法和大數(shù)據(jù)分析等技術(shù),使臨床診斷、醫(yī)學治療、醫(yī)療康復、疾病預測、健康管理和醫(yī)學研究等傳統(tǒng)醫(yī)學模式發(fā)生了巨大變革[2-3],為提高患者滿意度、優(yōu)化醫(yī)療資源配置、改善醫(yī)療質(zhì)量和管理效率提供了新的途徑[4]。然而,隱私泄漏、算法解釋和溯源困難、醫(yī)療資源分配不公、道德責任界定和分配模糊等倫理問題也逐漸浮現(xiàn)[5],可能對患者權(quán)益與健康構(gòu)成威脅。因此,為實現(xiàn)AI技術(shù)在醫(yī)學領(lǐng)域的可持續(xù)發(fā)展,深入的倫理思考和治理研究至關(guān)重要。本文旨在明確醫(yī)學AI領(lǐng)域倫理治理的重點,并以倫理原則為引導,為潛在的倫理問題開展倫理治理提供借鑒。

1 人工智能的概念與醫(yī)學領(lǐng)域應(yīng)用

隨著深度學習、機器算法、硬件水平等的不斷提升,AI技術(shù)在21世紀迎來了第三次發(fā)展熱潮,主要聚焦于計算機視覺、大數(shù)據(jù)分析、決策規(guī)劃、自然語言圖像識別及智能機器人為主的技術(shù)領(lǐng)域[6]。自2016年以來,我國大力推進“互聯(lián)網(wǎng)+醫(yī)療健康”,這些技術(shù)大規(guī)模用于醫(yī)學領(lǐng)域,旨在利用AI模擬人類醫(yī)學專業(yè)人員的思維和決策過程,通過分析和解釋大量醫(yī)療數(shù)據(jù)以輔助進行診斷、治療、預測、研究和管理等活動[7]。例如,AI可通過深度學習和計算機視覺技術(shù),分析和解讀醫(yī)學影像;通過分析和整合大量患者數(shù)據(jù)、醫(yī)學文獻和臨床指南,為醫(yī)生提供專業(yè)的診斷和治療建議;通過監(jiān)測和分析個體的健康數(shù)據(jù),提供個性化的健康建議和預測潛在的健康風險;通過大數(shù)據(jù)分析和模型構(gòu)建,進行公共衛(wèi)生監(jiān)測和疾病流行趨勢的預測[8-9]。研究證明,AI的運用有助于提高醫(yī)學影像識別與臨床決策的速度與準確性[10-11],提升診療的規(guī)范性,并平衡不同年資醫(yī)生的診療差異[12-13],降低患病風險和節(jié)省藥物研發(fā)的時間和成本[5,14]。盡管我國仍處于弱AI階段,主要以智能機器的方式模擬人類或動物行為來解決實際問題,現(xiàn)階段應(yīng)致力于推動AI與醫(yī)療的融合,并進一步優(yōu)化算法,充分發(fā)揮AI在醫(yī)學領(lǐng)域的技術(shù)紅利。

2 中外醫(yī)學人工智能相關(guān)法律法規(guī)比較

1996年,美國頒布了《健康保險攜帶和責任法案》(health insurance privacy and portability act,HIPAA),而后經(jīng)過了20多年不斷的修訂和擴展,成為患者隱私保護的法律基礎(chǔ)。該法案要求醫(yī)療健康組織、臨床醫(yī)生及其他涉及個人醫(yī)療信息的實體遵守一系列關(guān)于健康信息獲取、存儲、傳輸、訪問、使用、披露等方面的規(guī)定,違規(guī)行為將面臨100～50 000美元甚至更高的罰款[15]。在AI快速發(fā)展的當下,遵守HIPAA的規(guī)定是保障患者權(quán)益、確保醫(yī)療數(shù)據(jù)隱私、數(shù)據(jù)共享合規(guī)性、透明度和安全性的關(guān)鍵。為確保醫(yī)療AI的道德合規(guī),美國國家標準與技術(shù)研究院于2019年發(fā)布了AI標準制定指南,為制定AI技術(shù)和道德標準提供了明確指導,并提出“負責、公平、可追蹤、可靠、可控”五項AI倫理原則。

2021年,美國食品藥品監(jiān)督管理局發(fā)布《基于人工智能/機器學習的醫(yī)療器械軟件行動計劃》,強調(diào)應(yīng)對醫(yī)療AI軟件的臨床有效性和安全性進行全生命周期的監(jiān)管與審查,提倡提高產(chǎn)品透明度,并鼓勵創(chuàng)新和快速發(fā)展。美國還高度重視倫理道德和可信賴性等方面的問題[16]。

2018年5月,歐盟的《通用數(shù)據(jù)保護條例》(general data protection regulation,GDPR)正式生效,為保障算法可解釋性和保護個人數(shù)據(jù)隱私提供了嚴格且詳細的規(guī)制。相較于以前的隱私法規(guī),新規(guī)具有更廣泛的地域適用范圍和數(shù)據(jù)主體權(quán)利,因此更適合作為監(jiān)管AI的工具[17]。2021年,歐盟率先頒布《醫(yī)療器械法規(guī)》,對AI醫(yī)療器械投入使用前的監(jiān)管要求、風險判定、支持措施、數(shù)據(jù)質(zhì)量及上市后安全控制等多方面進行規(guī)制[18]。同時,提出《人工智能道德準則》,以確保醫(yī)療AI在倫理原則的框架下運作[19]。

自2016年以來,我國相繼出臺了一系列法規(guī)和指導文件,旨在促進AI在醫(yī)療健康領(lǐng)域的發(fā)展和創(chuàng)新。2019年,我國成立了人工智能醫(yī)療器械標準化技術(shù)委員會,隨后陸續(xù)發(fā)布了《人工智能醫(yī)療器械注冊審查指導原則》(征求意見稿)等參考性文件。同年,國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》,強調(diào)了發(fā)展AI需要遵守的八項治理原則,包括尊重隱私、安全可控等。2022年,中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》,這是我國首個關(guān)于科技倫理的國家級指導性文件,明確指出應(yīng)加強醫(yī)學、AI等領(lǐng)域的科技倫理立法研究,并積極推動相關(guān)立法工作。2023年10月,科技部等十部門聯(lián)合印發(fā)《科技倫理審查辦法(試行)》,進一步明確了在涉及AI等科技活動時,強化科技倫理審查的必要性。這一過程展現(xiàn)了中國政府對醫(yī)學AI領(lǐng)域的極大關(guān)注和支持,以及在推動技術(shù)創(chuàng)新的同時注重倫理治理的決心。

盡管我國在數(shù)據(jù)安全領(lǐng)域出臺了相關(guān)法律,如《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國個人信息保護法》等,但在醫(yī)學AI領(lǐng)域仍存在立法空白[8],涵蓋醫(yī)療數(shù)據(jù)的保護和利用、醫(yī)學領(lǐng)域AI的法律地位、發(fā)生醫(yī)療損害時的法律責任等問題[20]。加之AI算法的不透明性以及其利用深度學習技術(shù)不斷演進的特點,監(jiān)管也面臨一定困難。立法和監(jiān)管的缺失可能影響患者的合法權(quán)益,引發(fā)倫理問題,并阻礙醫(yī)學AI的發(fā)展。因此,我國應(yīng)積極借鑒國際先進立法經(jīng)驗,建立完善的法律框架,以有效規(guī)制AI在醫(yī)學領(lǐng)域的應(yīng)用。

3 醫(yī)學人工智能領(lǐng)域的倫理治理重點

隨著AI在醫(yī)療實踐中的廣泛應(yīng)用,一些倫理問題和道德風險也逐漸凸顯。如何在倫理危機中孕育新機,明確醫(yī)學AI領(lǐng)域倫理治理的重點成為各界學者們關(guān)注的焦點。

3.1 隱私權(quán)保護

醫(yī)學AI技術(shù)的應(yīng)用需要醫(yī)療數(shù)據(jù)來訓練和優(yōu)化算法,通常包含大量患者的個人信息、病例數(shù)據(jù)、醫(yī)療影像以及基因組等敏感信息。在數(shù)據(jù)收集、存儲和分析的過程中,存在未經(jīng)授權(quán)訪問、不當使用或意外泄漏的風險;在傳輸和共享的過程中,可能會遭遇未經(jīng)授權(quán)的第三方竊取或篡改。一旦敏感信息被暴露,可能引發(fā)利益沖突并產(chǎn)生安全隱患,包括導致患者因擔心隱私泄漏而提供不真實的信息,遭受醫(yī)療保險或就業(yè)歧視,產(chǎn)生尷尬、焦慮、多疑等心理健康問題[21]。當前我國的法律體系尚未明確規(guī)定患者隱私延伸出的數(shù)據(jù)權(quán)利,如何保護患者的隱私權(quán)成為醫(yī)學AI領(lǐng)域倫理治理中亟須解決的關(guān)鍵問題。

3.2 算法透明與公正

醫(yī)學倫理四大原則為平衡醫(yī)學AI發(fā)展與倫理道德之間的關(guān)系奠定了基礎(chǔ)。然而,這一平衡面臨著來自算法黑箱和偏見的挑戰(zhàn)。首先,AI算法的復雜模型和大量參數(shù)使其決策過程往往難以被理解和解釋,這為患者評估決策的合理性帶來困難,不僅限制患者行使知情同意權(quán)與自主權(quán),也進一步削弱了患者對決策的信任和接受度。其次,訓練數(shù)據(jù)的不足或歷史數(shù)據(jù)的不均使某些特定群體的醫(yī)療數(shù)據(jù)被忽略,加之現(xiàn)有醫(yī)療條件分配和各地區(qū)經(jīng)濟發(fā)展不平衡,AI醫(yī)療手段只能惠及少數(shù)人群,可能間接加劇社會偏見和歧視等不平等現(xiàn)象[22],違背公正和有利原則。值得注意的是,算法黑箱和偏見現(xiàn)象的產(chǎn)生可能源自技術(shù)限制,但人們也不禁懷疑其背后是否存在利益驅(qū)使下罔顧倫理道德的操縱者,這可能會使不傷害原則的實現(xiàn)受到威脅。在醫(yī)學AI領(lǐng)域的倫理治理中,需要尋求創(chuàng)新方法來確保技術(shù)的應(yīng)用能夠合乎倫理原則并促進公共利益。

3.3 責任界定和分配

現(xiàn)行的道德制度是以規(guī)范人與人之間的關(guān)系和行為為主體的制度,而AI的出現(xiàn)使道德行為主體延伸至機器,形成了人-機二元主體結(jié)構(gòu)[23]。AI的行為被認定為設(shè)計者和使用者的延伸,超出的部分被視為機器自主行為,因此理應(yīng)承擔相應(yīng)責任。但AI從本質(zhì)上并不具備自由意志,其行為不具備法律上的評價意義[24]。若一名醫(yī)生依賴AI的診斷結(jié)果導致誤診或漏診,或者在治療過程中,AI機器人的行為導致患者受傷甚至手術(shù)失敗,那么責任應(yīng)歸咎于醫(yī)生、醫(yī)療機構(gòu)、技術(shù)開發(fā)者,還是AI系統(tǒng)本身?目前,相關(guān)法律法規(guī)和倫理框架仍缺乏明確指導,這不僅撼動著社會道德和法律責任的基礎(chǔ),限制了分配責任和掌控決策的能力[25],也為不法分子提供了可乘之機,進一步加劇了公眾對醫(yī)療AI技術(shù)的擔憂。因此,醫(yī)學AI領(lǐng)域的倫理治理亟須解決責任界定和分配的問題,以填補技術(shù)發(fā)展與不法行為之間的空白地帶。

3.4 公眾認知與態(tài)度

公眾是醫(yī)療AI技術(shù)的最終使用者,其認知和態(tài)度影響著產(chǎn)品的早期開發(fā)和中后期的實際應(yīng)用。一味追求技術(shù)的發(fā)展,而忽視公眾的態(tài)度無異于閉門造車,與“以患者為中心”的醫(yī)學理念背道而馳。宋楊楊等[26]采用問卷調(diào)查法發(fā)現(xiàn),大多數(shù)公眾支持并樂意接受醫(yī)療AI技術(shù),但對智能機器的應(yīng)變能力、涉及的隱私保護和醫(yī)療安全問題持擔憂態(tài)度。Gao等[27]運用社交媒體分析法發(fā)現(xiàn),對AI技術(shù)缺乏信任及人文關(guān)懷因素的缺失是負面態(tài)度的本質(zhì)原因。目前國內(nèi)學界少有研究實證探討公眾對醫(yī)療AI的認知與態(tài)度,研究對象主要聚焦于醫(yī)療從業(yè)者,而來自不同背景、擁有不同知識和經(jīng)驗的人們提出的觀點和擔憂,有助于揭示那些可能在專業(yè)領(lǐng)域內(nèi)部被低估或漏掉的倫理挑戰(zhàn)。為實現(xiàn)倫理治理的前瞻性,了解公眾的認知與態(tài)度,明確新興技術(shù)應(yīng)用中潛在的倫理問題,并制定提高其信任和接受度的策略值得業(yè)界關(guān)注。

4 醫(yī)學人工智能領(lǐng)域潛在倫理問題治理的對策

在醫(yī)學領(lǐng)域中,AI的應(yīng)用潛藏著違背自主、不傷害、有利和公正倫理原則的風險。為確保AI始終在倫理原則和法律規(guī)范的框架下發(fā)揮積極作用,加強醫(yī)學AI領(lǐng)域的倫理治理成為當務(wù)之急。

4.1 以生命倫理學倫理原則引領(lǐng)醫(yī)學人工智能領(lǐng)域的頂層設(shè)計

通過頂層設(shè)計能夠在早期確立穩(wěn)定的倫理準則,以應(yīng)對醫(yī)療AI技術(shù)發(fā)展的不可預見性,不僅有助于指導立法和監(jiān)管,還能提升技術(shù)的透明度和可信度,消除公眾的擔憂。進行頂層設(shè)計時,應(yīng)始終以人的健康為中心,秉持尊重與自主、不傷害、有利和公正原則。目前,部分國家已相繼成立AI倫理委員會[5],建議我國有關(guān)部門可積極借鑒國際經(jīng)驗并加強國際合作,盡快落實《科技倫理審查辦法(試行)》,針對醫(yī)療AI技術(shù)的應(yīng)用建立專門的倫理委員會,并制定全面的倫理審查機制。同時,為確保倫理與道德的不斷完善,建議建立定期監(jiān)督與反饋機制,持續(xù)跟蹤AI在醫(yī)學領(lǐng)域的應(yīng)用效果和倫理問題,進行動態(tài)調(diào)整和改進。

4.2 加快健全政策法規(guī),促進醫(yī)療人工智能技術(shù)的安全應(yīng)用

目前已有一些文件關(guān)注到醫(yī)學AI技術(shù)可能造成的倫理危機,呼吁增進人民福祉、尊重個人隱私、堅持公平公正、保持公開透明,而倫理問題的討論和解決往往滯后于技術(shù)進步[28]。當前最迫切的需要是及時將相關(guān)倫理準則和道德規(guī)范上升至政策與法律法規(guī)的層面。建議立法規(guī)制醫(yī)療AI技術(shù)的透明度和可解釋性,減少技術(shù)的安全風險;明確技術(shù)開發(fā)者、醫(yī)療機構(gòu)、醫(yī)療專業(yè)人員和患者等各方在發(fā)生誤診和患者受到傷害時的職責、權(quán)利與義務(wù),建立完善的責任體系和問責機制,并確保其與技術(shù)的發(fā)展相協(xié)調(diào)。尤其應(yīng)當針對個人的健康信息隱私與安全完善相關(guān)法律法規(guī),對數(shù)據(jù)采集、存儲、傳輸、調(diào)取、分析等各個環(huán)節(jié)的操作進行規(guī)制。

4.3 以公眾反饋為基石,推進醫(yī)學人工智能的倫理治理

醫(yī)療AI技術(shù)的廣泛應(yīng)用與健康發(fā)展依賴于社會公眾對其良好的認知與積極的態(tài)度。盡管這項前沿技術(shù)為醫(yī)療健康領(lǐng)域帶來了革命性的突破,其復雜的機制和潛在的風險卻常使公眾對其心生疑慮?？紤]到公眾的態(tài)度可能隨著技術(shù)革新、輿論趨勢和實際體驗而變化,建議采用定量問卷、定性訪談、社交媒體分析等研究方法,以長期跟蹤了解公眾對醫(yī)療AI技術(shù)的認知情況、使用意愿、實際體驗、擔憂疑慮以及期望建議。這種持續(xù)地反饋將有助于揭示倫理治理中可能存在的盲點和不足,并為完善倫理治理策略提供有力的依據(jù)。建議重點探索如何通過倫理治理,提升和維護患者對于醫(yī)療AI技術(shù)的認知與信任度,致力于為醫(yī)療AI技術(shù)在臨床和其他醫(yī)療場景中的普及鋪設(shè)穩(wěn)固的公眾心理基礎(chǔ)。

4.4 強化跨學科合作研究,為技術(shù)研發(fā)與應(yīng)用注入人文理性

關(guān)注醫(yī)療AI技術(shù)本身性能的同時,還應(yīng)深入思考其如何與人的價值觀、文化和道德觀念相協(xié)調(diào)?？鐚W科合作為醫(yī)學AI的倫理治理提供了一個全面的視角,通過匯集醫(yī)學、倫理、AI、社會科學等各領(lǐng)域?qū)＜业闹腔?能夠整合各學科的專業(yè)知識以全方位評估技術(shù)發(fā)展中的倫理風險,確保技術(shù)研發(fā)與應(yīng)用的全過程合乎倫理道德。這涵蓋了從醫(yī)學的角度審查技術(shù)的準確性和安全性;從倫理學角度確保技術(shù)的應(yīng)用基于患者的最佳權(quán)益;從哲學和社會學角度探討技術(shù)對社會和個人產(chǎn)生的多維影響;從技術(shù)開發(fā)者角度保護數(shù)據(jù)隱私,確保算法透明性和可解釋性,保障模型公平和無偏見。應(yīng)重點探討如何以患者為中心設(shè)計出更具人文關(guān)懷的醫(yī)療AI技術(shù),從而降低患者的疑慮和抵觸。

5 結(jié)論

AI的應(yīng)用與發(fā)展為醫(yī)療行業(yè)帶來了巨大的希望和機遇,但也引發(fā)了一系列倫理問題和挑戰(zhàn)。隨著AI越來越多地用于醫(yī)療決策、改善患者治療路徑和手術(shù)結(jié)果,加強醫(yī)學AI領(lǐng)域的倫理治理至關(guān)重要。目前我國相關(guān)法律法規(guī)和監(jiān)管體系有待完善,為保障患者權(quán)益并實現(xiàn)社會倫理價值,應(yīng)特別關(guān)注保護隱私權(quán)、保障算法透明與公正、厘清責任界定和分配,并深入了解公眾認知和態(tài)度。政府和社會各界迫切需要通過加強頂層設(shè)計、健全政策法規(guī)、重視公眾反饋、強化跨學科合作,從政策制定、法律框架、科學研究和技術(shù)研發(fā)等方面構(gòu)建一個全方位、多層次的倫理治理體系。只有這樣,才能在AI技術(shù)的浪潮中,確保醫(yī)學發(fā)展始終以人為本,真正做到倫理與技術(shù)的和諧共生。