劉 琪 谷笑穎

隨著人們對(duì)精準(zhǔn)醫(yī)療及個(gè)性化醫(yī)療的追求，加之人口紅利消失以及老齡化情況加劇等因素的影響，醫(yī)療人工智能在醫(yī)學(xué)中的應(yīng)用不斷增加。但同時(shí)在醫(yī)療人工智能與人類(lèi)交互的過(guò)程中存在的技術(shù)異化的現(xiàn)象變得愈來(lái)愈突出，醫(yī)療人工智能是否會(huì)取代醫(yī)生的角色？如何消解人性技術(shù)化現(xiàn)象？如何實(shí)現(xiàn)技術(shù)向善？本文將對(duì)醫(yī)療機(jī)器人的科技異化現(xiàn)象進(jìn)行探討，并對(duì)醫(yī)療人工智能科技異化中的倫理風(fēng)險(xiǎn)問(wèn)題進(jìn)行分析，并以此為基礎(chǔ)采取適當(dāng)?shù)膽?yīng)對(duì)態(tài)度及預(yù)防策略。

1 醫(yī)療人工智能發(fā)展現(xiàn)狀概述

醫(yī)療人工智能是一種新型的交叉研究領(lǐng)域，它集成了許多學(xué)科，如醫(yī)學(xué)、生物力學(xué)、力學(xué)、材料科學(xué)、計(jì)算機(jī)圖形學(xué)、計(jì)算機(jī)視覺(jué)、數(shù)學(xué)分析、機(jī)器人學(xué)和其他學(xué)科[1]。醫(yī)療人工智能有助于提高醫(yī)學(xué)治療的精確度，減輕醫(yī)生體力勞動(dòng)，提高患者的生活質(zhì)量，以及他們參與社會(huì)活動(dòng)的能力。根據(jù)用途，醫(yī)療人工智能大致可以分為手術(shù)人工智能、康復(fù)人工智能、醫(yī)療服務(wù)人工智能。

1.1 手術(shù)人工智能

1985年，美國(guó)加州放射醫(yī)學(xué)中心的研究人員用PUMA 560工業(yè)機(jī)器人完成了機(jī)器人輔助神經(jīng)外科活檢，這是人工智能技術(shù)首次應(yīng)用于醫(yī)療手術(shù)，標(biāo)志著醫(yī)療人工智能發(fā)展的開(kāi)始。此后，隨著人工智能技術(shù)在醫(yī)療領(lǐng)域的不斷發(fā)展，醫(yī)療人工智能已在神經(jīng)外科、腹腔外科、胸外科、骨外科、血管介入、顱面外科等手術(shù)中得到了廣泛的應(yīng)用。目前，由美國(guó)直觀醫(yī)療研發(fā)的達(dá)芬奇手術(shù)人工智能是國(guó)際上技術(shù)最為成熟和完備的外科機(jī)器人系統(tǒng)，受到了許多國(guó)家和地區(qū)的青睞。大量患者受益于達(dá)芬奇手術(shù)這一先進(jìn)的微創(chuàng)技術(shù)。我國(guó)在手術(shù)人工智能領(lǐng)域的發(fā)展也十分迅速。北京天智航醫(yī)療科技股份有限公司是全球第五家取得醫(yī)療器械產(chǎn)品注冊(cè)許可證的公司，其推出的天璣骨科手術(shù)人工智能是國(guó)際上唯一能夠開(kāi)展創(chuàng)傷骨科、脊柱外科手術(shù)的骨科機(jī)器人，現(xiàn)已投入市場(chǎng)銷(xiāo)售。

1.2 康復(fù)人工智能

輔助性康復(fù)人工智能主要應(yīng)用于康復(fù)護(hù)理、康復(fù)器具(假肢)和康復(fù)治療等方面，可以有效地幫助老年人群、殘疾人群、慢性病患者、亞健康人群。最早出現(xiàn)的康復(fù)機(jī)器人是由英國(guó)Mike Topping公司1987年研制的Handy1，成功地幫助一名患有腦癱的11歲男孩獨(dú)立地用餐[2]。目前，最先進(jìn)的康復(fù)機(jī)器人是可穿戴外骨骼機(jī)器人，它穿戴于患者的肢體，患者佩戴后可以確保機(jī)器人的運(yùn)動(dòng)模式和人體自由度同軸，實(shí)現(xiàn)更有效的康復(fù)訓(xùn)練。我國(guó)許多企業(yè)和大學(xué)也一直在對(duì)康復(fù)人工智能進(jìn)行研究，并取得了一定成效。錢(qián)璟康復(fù)聯(lián)合多所國(guó)內(nèi)院校，歷時(shí)多年開(kāi)發(fā)出的Flexbot多體位智能康復(fù)訓(xùn)練機(jī)器人，打破了國(guó)外企業(yè)對(duì)該產(chǎn)品的市場(chǎng)壟斷。

1.3 醫(yī)療服務(wù)人工智能

醫(yī)療服務(wù)人工智能主要包括護(hù)理機(jī)器人、救援機(jī)器人和轉(zhuǎn)運(yùn)機(jī)器人。護(hù)理機(jī)器人主要用來(lái)協(xié)助護(hù)士完成餐食、更換床單、藥品和醫(yī)療器械的傳送等日常工作。救援機(jī)器人用于配合醫(yī)療人員在發(fā)生道路交通事故、礦難、火災(zāi)、地震等情況時(shí)將傷員安全救出。轉(zhuǎn)運(yùn)機(jī)器人主要用于危重病患者的特殊檢查和運(yùn)送。目前，歐美和日本在醫(yī)療服務(wù)機(jī)器人市場(chǎng)中處于主導(dǎo)地位。日本機(jī)械工程研究所開(kāi)發(fā)的MELKONG護(hù)理機(jī)器人可平穩(wěn)地將病人從床上運(yùn)送到衛(wèi)生間、浴室等。美國(guó) Vecna 公司研發(fā)的救援機(jī)器人“Vecna's Bear”可以抱起受傷士兵行走長(zhǎng)達(dá)50分鐘。燕山大學(xué)王洪波教授和日本Fumio Kasagami教授共同研制的“C-Pam”轉(zhuǎn)運(yùn)機(jī)器人不需患者移動(dòng)身體，就可以將患者移動(dòng)到床板上[3]。我國(guó)在醫(yī)療服務(wù)類(lèi)型機(jī)器人方面發(fā)展仍處在初期，創(chuàng)立時(shí)間普遍在近兩年，產(chǎn)業(yè)尚處于培育前期。

2 醫(yī)療人工智能發(fā)展中的科技異化表現(xiàn)

馬克思將“異化”厘定為：在一定歷史條件下，現(xiàn)實(shí)的人作為活動(dòng)主體通過(guò)對(duì)象化活動(dòng)創(chuàng)造出的客體逐漸和主體疏遠(yuǎn)，變成獨(dú)立于客體的東西，反過(guò)來(lái)反對(duì)主體，并成為支配和控制主體的異己力量[4]?？萍籍惢侵缚萍荚诋a(chǎn)生、發(fā)展和應(yīng)用過(guò)程中，違背人類(lèi)研究初衷，成為支配人、控制人的異己力量，從而出現(xiàn)了人原有的正常的性質(zhì)和本質(zhì)被壓抑、扭曲，甚至被否定的情況。隨著醫(yī)療人工智能的廣泛應(yīng)用，科技異化現(xiàn)象也逐漸顯現(xiàn)出來(lái)。醫(yī)療主體變更、醫(yī)患關(guān)系變異、醫(yī)學(xué)宗旨背離、人的道德責(zé)任弱化等都是醫(yī)療人工智能異化的表現(xiàn)。

2.1 醫(yī)療人工智能社會(huì)角色的轉(zhuǎn)變

如今，醫(yī)療人工智能走向了越來(lái)越多的醫(yī)療崗位，醫(yī)療人工智能代替醫(yī)生完成了許多重復(fù)單調(diào)和難度極高的工作,醫(yī)療技術(shù)在醫(yī)學(xué)中地位的不斷提升使得醫(yī)生獲得了更高的地位和權(quán)力，導(dǎo)致醫(yī)生對(duì)高科技的依賴(lài)感也逐漸增加，即使有些憑主觀思維就能夠把握的疾病，醫(yī)生也要利用技術(shù)手段對(duì)患者進(jìn)行檢查和診斷，醫(yī)生的技能逐漸轉(zhuǎn)變成了對(duì)儀器設(shè)備的操作水平。醫(yī)療機(jī)器人技術(shù)的成功應(yīng)用也使得很多患者和家屬陷入了盲目的技術(shù)崇拜，認(rèn)為只要使用高新醫(yī)療技術(shù)就能達(dá)到好的治療效果，所以將治愈疾病的希望寄托于高科技醫(yī)療設(shè)備，忽視甚至懷疑醫(yī)生的專(zhuān)業(yè)水平，迷失在醫(yī)療高新技術(shù)里。

醫(yī)生、患者和家屬對(duì)醫(yī)療人工智能不同程度地膜拜和依賴(lài)致使醫(yī)療人工智能的角色在無(wú)形中發(fā)生了變化，醫(yī)療人工智能的角色由原來(lái)的工具、手段轉(zhuǎn)變?yōu)榱酸t(yī)院的核心競(jìng)爭(zhēng)力。一方面，醫(yī)療人工智能角色的轉(zhuǎn)變使得醫(yī)生過(guò)分依賴(lài)醫(yī)療智能儀器對(duì)疾病的判斷和診斷，人們對(duì)高新醫(yī)療技術(shù)的推崇遠(yuǎn)遠(yuǎn)超過(guò)了對(duì)醫(yī)生的重視，醫(yī)生將變得無(wú)足輕重，醫(yī)生的主體地位也因此出現(xiàn)弱化。另一方面，醫(yī)療人工智能的高應(yīng)用成本轉(zhuǎn)嫁給患者和家屬，高新技術(shù)的過(guò)度使用增加了家庭的經(jīng)濟(jì)負(fù)擔(dān)，當(dāng)高昂的醫(yī)療價(jià)格未能滿(mǎn)足其治療期待時(shí)，勢(shì)必會(huì)激發(fā)家屬的不滿(mǎn)情緒，醫(yī)患矛盾加深，最終導(dǎo)致醫(yī)患雙方信任關(guān)系的崩塌。因此，醫(yī)療人工智能社會(huì)角色的轉(zhuǎn)變不僅致使其自身的角色發(fā)生了異化，也使得醫(yī)生、患者及其家屬、醫(yī)患關(guān)系發(fā)生了異化。

2.2 醫(yī)療科技異化引發(fā)的人性異化

弗洛姆認(rèn)為人性亦即人之本性、人之本質(zhì)，是人通過(guò)人所處的情境表現(xiàn)出來(lái)的人的生存欲望和需求[5]?？梢?jiàn)，人性異化是人們?cè)谟忻允Я俗晕遥瑔适Я吮拘??？萍嫉耐伙w猛進(jìn)給人類(lèi)帶來(lái)了前所未有的巨大財(cái)富，但人類(lèi)在依附于科技的同時(shí)也喪失了人類(lèi)的主體性、主動(dòng)性和目的性。在醫(yī)療領(lǐng)域，醫(yī)療人工智能的推廣和應(yīng)用使現(xiàn)代醫(yī)學(xué)逐漸失去了傳統(tǒng)醫(yī)學(xué)中的藝術(shù)與溫情，人性異化現(xiàn)象越來(lái)越明顯，通過(guò)對(duì)人性異化問(wèn)題的成因進(jìn)行分析，大致上可以把其原因分為以下幾種。

2.2.1 現(xiàn)代醫(yī)學(xué)的過(guò)度技術(shù)化

目前，人工智能對(duì)包括醫(yī)學(xué)在內(nèi)的所有人類(lèi)活動(dòng)都產(chǎn)生了重大影響，因?yàn)樵卺t(yī)學(xué)領(lǐng)域，對(duì)數(shù)據(jù)分析和解釋的需求很高，而科技為人類(lèi)打開(kāi)了新的視角。隨著自動(dòng)化時(shí)代的到來(lái)，重復(fù)性的工作將會(huì)消失，人工智能的作用將繼續(xù)增長(zhǎng)，使得醫(yī)生在醫(yī)學(xué)活動(dòng)中過(guò)度依賴(lài)并夸大醫(yī)學(xué)技術(shù)的作用。

在技術(shù)倫理學(xué)中，當(dāng)人類(lèi)完全被看作實(shí)現(xiàn)某種目的的手段時(shí)，這在倫理上是不可接受的。如果對(duì)醫(yī)學(xué)技術(shù)的使用不加以管控，那么人與機(jī)器、技術(shù)的主客體關(guān)系就會(huì)完全發(fā)生顛倒。一方面，患者變成了客體，作為機(jī)器、技術(shù)、工具的支配對(duì)象被迫地受到機(jī)器的控制。例如，醫(yī)療機(jī)器人對(duì)每個(gè)年滿(mǎn)五十歲的患者進(jìn)行結(jié)腸鏡檢查時(shí)，就像裝配流水線上的產(chǎn)品一樣，被動(dòng)地適應(yīng)機(jī)器運(yùn)轉(zhuǎn)，根本不會(huì)顧及患者的情緒。又如，醫(yī)療機(jī)器人以同樣的方式治療所有膝關(guān)節(jié)骨性關(guān)節(jié)炎患者，而不考慮特定患者之間的差異。另一方面，機(jī)器變成了主體，機(jī)器成為醫(yī)生的主宰，醫(yī)生則變?yōu)闄C(jī)器的奴隸。隨著醫(yī)療人工智能覆蓋的領(lǐng)域越來(lái)越廣，醫(yī)生的作用越來(lái)越單一化，少數(shù)醫(yī)生被固定在一個(gè)位置上重復(fù)著單調(diào)、乏味的同一個(gè)操作程序，被動(dòng)地適應(yīng)機(jī)器運(yùn)轉(zhuǎn)。醫(yī)生沒(méi)有了思想、樂(lè)趣，他們的時(shí)間和工作性質(zhì)完全根據(jù)技術(shù)和機(jī)器的指令來(lái)安排和決定。這種患者商品化和醫(yī)生機(jī)械化現(xiàn)象大大消解了人性。

面對(duì)復(fù)雜多樣的醫(yī)療需求，需要醫(yī)生不斷創(chuàng)新，努力學(xué)習(xí)新的醫(yī)學(xué)知識(shí)。醫(yī)院自動(dòng)化增強(qiáng)，更多的機(jī)器人取代了醫(yī)生，就會(huì)限制醫(yī)生專(zhuān)業(yè)特長(zhǎng)的發(fā)揮，削弱工作的激情，從而限制了醫(yī)生潛能的發(fā)展。此外，如果機(jī)器決策出現(xiàn)偏差，那意味著即使錯(cuò)誤，醫(yī)生也傾向于接受機(jī)器的決策，而醫(yī)療決策的錯(cuò)誤可能會(huì)危及患者的生命，引起醫(yī)療沖突和糾紛。

2.2.2 人工智能責(zé)任的缺失

人工智能給人類(lèi)帶來(lái)的潛在危機(jī)和發(fā)展隱患，涉及到社會(huì)的多重因素，因其應(yīng)用帶來(lái)的數(shù)據(jù)泄露問(wèn)題、隱私問(wèn)題、算法黑箱問(wèn)題、失業(yè)問(wèn)題等，這一系列問(wèn)題其實(shí)都是因?yàn)槿斯ぶ悄茇?zé)任的缺失導(dǎo)致，給人類(lèi)帶來(lái)了諸多的倫理困境。在醫(yī)療領(lǐng)域，醫(yī)療人工智能的廣泛應(yīng)用使得醫(yī)生的工作只是按一下按鍵，對(duì)診斷流程和最終結(jié)果一無(wú)所知，也不需要對(duì)患者的問(wèn)題是否解決負(fù)責(zé)。一旦患者提及機(jī)器是如何以及為什么做出重要決策的時(shí)候，如果醫(yī)生告訴我們：“我不知道你為什么生病，但是我的機(jī)器說(shuō)‘吃這些藥’”，或者“我不知道你為什么生病，但是我的機(jī)器建議你做手術(shù)”。我們當(dāng)中會(huì)有多少人對(duì)這個(gè)結(jié)果感到滿(mǎn)意呢？但機(jī)器決策是由算法決定的，臨床醫(yī)生能夠解釋的內(nèi)容可能會(huì)受到限制，那么責(zé)任歸屬的轉(zhuǎn)移就會(huì)影響患者對(duì)臨床醫(yī)生和醫(yī)療機(jī)構(gòu)的信任。

為了應(yīng)對(duì)人工智能這一創(chuàng)新技術(shù)帶來(lái)的潛在風(fēng)險(xiǎn)，歐美國(guó)家興起的“負(fù)責(zé)任創(chuàng)新”理念旨在解決科技發(fā)展中的責(zé)任倫理問(wèn)題[6]。該理念強(qiáng)調(diào)對(duì)研究與創(chuàng)新的未知影響和結(jié)果進(jìn)行預(yù)測(cè)與反饋，以對(duì)科技的社會(huì)角色“負(fù)責(zé)”[7]，實(shí)現(xiàn)“技以致善”[8]。尤其在醫(yī)療領(lǐng)域，醫(yī)療人工智能的應(yīng)用引發(fā)的倫理問(wèn)題更是凸顯了對(duì)人工智能負(fù)責(zé)任創(chuàng)新的必要性。鑒于此，應(yīng)該意識(shí)到，科技的應(yīng)用不僅僅是技術(shù)挑戰(zhàn)，更是一項(xiàng)道德、法律和社會(huì)的挑戰(zhàn)，人工智能責(zé)任的治理不僅僅是科學(xué)家和工程師的事情，人工智能學(xué)術(shù)界、產(chǎn)業(yè)界，以及倫理、哲學(xué)、法律等社會(huì)學(xué)科各界都應(yīng)緊密合作，積極應(yīng)對(duì)人工智能發(fā)展過(guò)程中的倫理道德風(fēng)險(xiǎn)。

2.2.3 名利與技術(shù)的“合謀”

醫(yī)療人工智能給患者帶來(lái)的高治愈率導(dǎo)致醫(yī)療機(jī)構(gòu)認(rèn)為誰(shuí)有先進(jìn)的醫(yī)療設(shè)備，誰(shuí)就在同行中占據(jù)領(lǐng)先地位，醫(yī)療的原始宗旨逐漸被異化為對(duì)利潤(rùn)的追逐，在利潤(rùn)的驅(qū)動(dòng)下，醫(yī)療機(jī)構(gòu)對(duì)人工智能的過(guò)度投入使得人們?cè)谝欢ǔ潭壬媳患夹g(shù)所掌控，醫(yī)療人工智能產(chǎn)品的研發(fā)、銷(xiāo)售及使用甚至演變?yōu)橐恍┤酥赂坏墓ぞ?，醫(yī)療領(lǐng)域人工智能的不斷應(yīng)用也為科技公司未來(lái)的發(fā)展提供了方向，醫(yī)療合作與商業(yè)利益捆綁在一起，從而大肆宣揚(yáng)人工智能，吸引更多熱情的投資者和擁護(hù)者，但這種過(guò)度資本化的行為并不總會(huì)對(duì)患者有利，所以在開(kāi)發(fā)和應(yīng)用醫(yī)療人工智能的同時(shí)也要謹(jǐn)防資本逐利的本性。機(jī)器對(duì)人的異化越來(lái)越凸顯。

對(duì)于醫(yī)務(wù)人員來(lái)說(shuō)，從一名醫(yī)學(xué)生成長(zhǎng)到醫(yī)生花費(fèi)了大量的時(shí)間和精力，而由于大規(guī)模醫(yī)療人工智能的使用，醫(yī)療勞動(dòng)的價(jià)值就完全被忽視了，醫(yī)生的個(gè)人價(jià)值和社會(huì)價(jià)值得不到體現(xiàn)，醫(yī)生的積極性下降，醫(yī)療環(huán)境日趨惡化。此外，過(guò)度醫(yī)療檢查行為所帶來(lái)的利益誘惑也使醫(yī)務(wù)工作者出現(xiàn)道德偏離甚至缺失。對(duì)于患者來(lái)說(shuō)，高昂的治療費(fèi)用會(huì)使得數(shù)以萬(wàn)計(jì)的家庭因病致貧、因病返貧，進(jìn)而增加了看病難、看病貴等社會(huì)問(wèn)題。

2.3 技術(shù)人性化和人性技術(shù)化

人性技術(shù)化是指人們迷失在技術(shù)及其產(chǎn)品的價(jià)值中，逐漸喪失了自己的創(chuàng)造性和主體性，最終導(dǎo)致人性發(fā)生異化。技術(shù)人性化是指將人性賦予技術(shù),在技術(shù)中融入人性，是與人的本性相和諧的技術(shù)，技術(shù)人性化其實(shí)是技術(shù)積極的“異化”。所以人們?cè)谙硎茚t(yī)療人工智能帶來(lái)優(yōu)質(zhì)快捷服務(wù)的同時(shí)，也必須認(rèn)識(shí)和警惕人性技術(shù)化的嚴(yán)重后果，必須思考如何使醫(yī)療人工智能的應(yīng)用更加人性化，實(shí)現(xiàn)技術(shù)和人之本性的和諧。

2.3.1 人性技術(shù)化的表現(xiàn)

在醫(yī)療領(lǐng)域，醫(yī)療人工智能導(dǎo)致的人性技術(shù)化現(xiàn)象表現(xiàn)在兩個(gè)方面：一方面，對(duì)自然人性的影響。醫(yī)生過(guò)度依賴(lài)醫(yī)療人工智能會(huì)導(dǎo)致醫(yī)生智力的相對(duì)弱化和退化。傳統(tǒng)醫(yī)療模式中，醫(yī)生往往通過(guò)閱讀醫(yī)學(xué)文獻(xiàn)和實(shí)踐來(lái)鍛煉思維，最終做出理性的判斷及相應(yīng)的治療分析，如今，醫(yī)生在臨床診斷及后續(xù)治療中往往把這些工作都交給高度精密和極高速度的機(jī)器，這就在一定程度上使醫(yī)生人工工作相對(duì)懈怠，甚至導(dǎo)致醫(yī)生對(duì)其過(guò)分依賴(lài)從而造成醫(yī)生智力的退化和理性判斷力的弱化。在此趨勢(shì)下，人在科技面前愈來(lái)愈缺乏人性，人性逐漸被技術(shù)所吞噬。那么，不得不思考人類(lèi)究竟是技術(shù)的主人還是奴隸？另一方面，對(duì)社會(huì)人性的影響。醫(yī)療人工智能給人們帶來(lái)了許多倫理困境。如何面對(duì)醫(yī)療人工智能泄露患者隱私的風(fēng)險(xiǎn)？如何處理人工智能引發(fā)的醫(yī)療事故？未來(lái)是否會(huì)賦予人工智能人權(quán)？等等。這些問(wèn)題都給傳統(tǒng)的醫(yī)患關(guān)系帶來(lái)了巨大的挑戰(zhàn)。

其實(shí)，無(wú)論是醫(yī)生還是患者在醫(yī)療人工智能技術(shù)面前都漸漸失去了對(duì)生命的尊重。在醫(yī)生的思維中，技術(shù)理性占據(jù)了主導(dǎo)地位。醫(yī)生忠誠(chéng)于機(jī)械設(shè)備的每一個(gè)步驟，甚至把患者也當(dāng)成了機(jī)械，忽視患者的感受，醫(yī)生對(duì)生命失去了可貴的悲憫和敬畏。而患者懷著迷茫和希望將自己的身體交給機(jī)械設(shè)備，忠誠(chéng)地配合著醫(yī)生的每一個(gè)指令，輕視了自己生命的尊嚴(yán)。在理性、冰冷的醫(yī)療機(jī)械面前，醫(yī)學(xué)的目的變成了治病不治人，醫(yī)學(xué)中的人文關(guān)懷也逐漸喪失。

2.3.2 從人性技術(shù)化走向技術(shù)人性化

愛(ài)因斯坦[9]曾指出“科學(xué)最突出的實(shí)際效果在于它使那些豐富生活的東西的發(fā)明成為可能”，“所有這些發(fā)明給予人類(lèi)的最大實(shí)際利益，我們就應(yīng)當(dāng)把它歸功于科學(xué)的實(shí)際效果”。所以要從醫(yī)療機(jī)器人的設(shè)計(jì)、發(fā)明、創(chuàng)新開(kāi)始就要堅(jiān)持“以人為本”的原則。研發(fā)方面，科學(xué)家和工程師要對(duì)潛在風(fēng)險(xiǎn)和安全隱患進(jìn)行評(píng)估，提升技術(shù)水平控制各種風(fēng)險(xiǎn)。在此基礎(chǔ)上，設(shè)計(jì)要合乎倫理，體現(xiàn)出多樣性與包容性，盡可能地惠及更多人。在使用方面，提倡善用和慎用，避免誤用和濫用，應(yīng)確保患者對(duì)其權(quán)益所受影響有充分的知情與同意。因此，要從醫(yī)療人工智能的研發(fā)和使用上規(guī)避倫理道德風(fēng)險(xiǎn)，才能使醫(yī)療人工智能更好地為患者服務(wù)。

3 醫(yī)療人工智能科技異化中的倫理風(fēng)險(xiǎn)問(wèn)題分析

醫(yī)療人工智能科技異化現(xiàn)象使得傳統(tǒng)醫(yī)學(xué)倫理價(jià)值和生命倫理觀念受到了沖擊，不斷地消蝕著傳統(tǒng)道德。如果漠視這一切，現(xiàn)代醫(yī)學(xué)的發(fā)展就會(huì)陷入困境。所以，深入剖析醫(yī)療醫(yī)療人工智能異化的表現(xiàn)，反思醫(yī)療人工智能的倫理風(fēng)險(xiǎn)并最大限度地降低和規(guī)避其風(fēng)險(xiǎn)，對(duì)于構(gòu)建和諧的醫(yī)患關(guān)系具有重大意義。

3.1 人的主體性和“人-機(jī)”統(tǒng)一性之間的矛盾

目前，對(duì)道德主體的研究已經(jīng)從人類(lèi)拓展到動(dòng)物甚至是技術(shù)人工物，但以人是唯一道德主體的思路考慮，只有具有理性思維決策能力、能夠獨(dú)立地承擔(dān)責(zé)任的理性主體才具有道德主體地位[10]，顯然，機(jī)器是不具有道德主體地位的。醫(yī)學(xué)側(cè)重于對(duì)以人為主體的情感關(guān)懷，所以，即使醫(yī)生在知識(shí)儲(chǔ)備和對(duì)信息的掌控方面與醫(yī)療人工智能技術(shù)相比具有自己的局限性，但機(jī)器是不可能取代醫(yī)務(wù)人員的。

醫(yī)療診斷和治療的過(guò)程并不是單純地將患者視為一架需要修理的精密“機(jī)器”，只從生物學(xué)的角度對(duì)患者進(jìn)行治療，醫(yī)護(hù)人員對(duì)患者的關(guān)愛(ài)和尊重對(duì)患者來(lái)說(shuō)也十分重要。醫(yī)療咨詢(xún)是患者就醫(yī)的第一步，而良好的溝通是醫(yī)療咨詢(xún)的核心?；颊卟粌H想要醫(yī)生了解他們的癥狀，也希望醫(yī)生能夠理解他們的感受。例如，醫(yī)生只有經(jīng)歷過(guò)頭痛才能真正理解頭痛患者的抱怨，或者利用其他經(jīng)歷來(lái)想象這樣的疼痛可能是什么樣的。當(dāng)醫(yī)生響應(yīng)時(shí)，患者可以感知到醫(yī)生診斷和治療的努力。由于機(jī)器人不可能患病，所以就無(wú)法體會(huì)到患者的痛苦，難以實(shí)現(xiàn)醫(yī)患共情。另外，非語(yǔ)言交流在醫(yī)療咨詢(xún)中也十分重要。例如，身體姿勢(shì)、眼睛注視、語(yǔ)音語(yǔ)調(diào)、面部表情、手上的安慰觸覺(jué)、醫(yī)生與患者之間的距離。這些表達(dá)雖然微小，但會(huì)增強(qiáng)醫(yī)生和患者之間的情感，包括同理心、關(guān)注和安慰。這樣，患者在醫(yī)生面前可以充分表達(dá)他們的癥狀、擔(dān)憂(yōu)、想法、感受和期望。即使醫(yī)療機(jī)器人可以執(zhí)行這些操作，也難以知道如何以及何時(shí)適當(dāng)?shù)厥褂眠@樣的手勢(shì)，患者會(huì)對(duì)醫(yī)療機(jī)器人的觸摸有所響應(yīng)嗎？雖然在某些情況下，有效的診斷和治療就足夠了，但是對(duì)于慢性病和絕癥患者來(lái)說(shuō)，他們希望醫(yī)生提供的不僅是更多的技術(shù)手段，而且提供人類(lèi)的智慧和同情心，畢竟人類(lèi)在疾病和死亡面前是脆弱的。因此，同情心對(duì)于醫(yī)患關(guān)系至關(guān)重要，而這是醫(yī)療人工智能所不具備的。

人工智能歸根結(jié)底還是人類(lèi)創(chuàng)造的產(chǎn)物，其職責(zé)是更好地為人類(lèi)服務(wù)。醫(yī)療行業(yè)是一個(gè)特殊的服務(wù)類(lèi)行業(yè)，必須堅(jiān)持醫(yī)務(wù)人員為主導(dǎo)，醫(yī)療機(jī)器人為輔助這一原則，構(gòu)建以醫(yī)生為主體的“人-機(jī)”共同體。

3.2 醫(yī)生、機(jī)器、患者的權(quán)益公平性的矛盾

醫(yī)療人工智能技術(shù)的應(yīng)用和發(fā)展解決了醫(yī)學(xué)難題，延長(zhǎng)了人類(lèi)壽命，對(duì)人類(lèi)健康事業(yè)作出了巨大貢獻(xiàn)，當(dāng)我們過(guò)度使用醫(yī)療技術(shù)時(shí)，我們不得不面對(duì)醫(yī)生和患者的相關(guān)權(quán)益受到威脅的倫理困境，主要表現(xiàn)在以下兩個(gè)方面。

3.2.1 隱私侵犯風(fēng)險(xiǎn)

在電子醫(yī)療記錄時(shí)代，人工智能使已經(jīng)復(fù)雜的網(wǎng)絡(luò)安全環(huán)境變得更加復(fù)雜。在劍橋分析公司竊取Facebook用戶(hù)隱私數(shù)據(jù)事件之后，關(guān)于如何平衡隱私與更好的用戶(hù)體驗(yàn)的辯論正在持續(xù)發(fā)展，特別是在涉及諸如醫(yī)療信息的敏感數(shù)據(jù)時(shí)。數(shù)據(jù)是技術(shù)開(kāi)發(fā)的一個(gè)組成部分，特別是對(duì)于人工智能來(lái)說(shuō)[11]。醫(yī)療人工智能需要訪問(wèn)醫(yī)療大數(shù)據(jù)才能向人工智能設(shè)備提供資料，以便它們可以進(jìn)行更精準(zhǔn)的治療。但問(wèn)題是，患者的敏感數(shù)據(jù)可能被非法獲取，患者的隱私易受到侵犯。每個(gè)人就醫(yī)時(shí)的信息都在虛擬的網(wǎng)絡(luò)系統(tǒng)中留下了痕跡，即便刪除也可以找回，任何人都有可能從中獲取信息，即使有加密措施也不能完全阻止信息被不法分子竊取。而且隨著智能移動(dòng)終端和可穿戴設(shè)備的廣泛使用，也給不法分子提供了獲取患者信息的途徑。公民健康信息和患者隱私保護(hù)是醫(yī)療人工智能面臨的重大挑戰(zhàn)，應(yīng)對(duì)該挑戰(zhàn)需從技術(shù)、法律制度等多方面著手，需要患者、醫(yī)療機(jī)構(gòu)、人工智能公司、政府和社會(huì)各界的共同努力。

3.2.2 責(zé)任風(fēng)險(xiǎn)

盡管現(xiàn)在醫(yī)療人工智能技術(shù)較為成熟，故障率很低，但由于人工智能技術(shù)的復(fù)雜性，除了極少數(shù)人能夠理解它們是如何工作的，幾乎對(duì)所有人來(lái)說(shuō)都是一個(gè)“黑匣子”[12]。醫(yī)療人工智能行為異常將由一個(gè)或多個(gè)邊界條件的失敗引起。例如，一個(gè)編程錯(cuò)誤可以導(dǎo)致系統(tǒng)重啟；障礙物會(huì)使機(jī)械臂的運(yùn)動(dòng)發(fā)生偏離；連接控制臺(tái)和機(jī)器人的導(dǎo)線損壞會(huì)使機(jī)器人無(wú)法響應(yīng)外科醫(yī)生的指令，等等。那么由于機(jī)器人異常行為對(duì)患者造成的嚴(yán)重傷害，誰(shuí)會(huì)對(duì)這種傷害負(fù)責(zé)？如何厘清醫(yī)生、算法設(shè)計(jì)者、制造者等各方的責(zé)任？人工智能一旦脫離人類(lèi)的束縛，機(jī)器人可能會(huì)做出超出設(shè)計(jì)者設(shè)計(jì)意圖的行為，其責(zé)任如何認(rèn)定？由于現(xiàn)階段缺乏明確的倫理規(guī)范和法律法規(guī)的要求，因此，有必要針對(duì)智能機(jī)器人建立健全相關(guān)的規(guī)范要求，使得相關(guān)責(zé)任方承擔(dān)起自己應(yīng)盡的責(zé)任。

3.2.3 技術(shù)價(jià)值中立和道德向善的矛盾

對(duì)價(jià)值中立進(jìn)行系統(tǒng)論述的德國(guó)社會(huì)學(xué)家馬克思·韋伯認(rèn)為價(jià)值中立就是在進(jìn)行社會(huì)學(xué)研究的時(shí)候只是力求反映事物的真實(shí)情況，而避免政治的、倫理的影響，不對(duì)它進(jìn)行價(jià)值判斷[13]。技術(shù)本身是中立的，但人類(lèi)進(jìn)行科技活動(dòng)難道僅僅是為了追求真理，完全撇開(kāi)主體的目的、利益、情感、欲望等主觀偏好嗎？2018年賀建奎“基因編輯嬰兒”事件在社會(huì)上引起了軒然大波。如果試驗(yàn)脫靶，不僅對(duì)嬰兒的發(fā)育和成長(zhǎng)留下難以預(yù)料的隱患，也將會(huì)改變整個(gè)人類(lèi)的基因池。賀建奎為了達(dá)成他的科學(xué)目的冒著危及整個(gè)人類(lèi)社會(huì)的風(fēng)險(xiǎn)，這其中難道沒(méi)有追逐個(gè)人名利的目的嗎？可見(jiàn)，雖然高技術(shù)在食品、醫(yī)療、交通和信息獲取等各個(gè)方面都給人類(lèi)帶來(lái)了福祉，但也讓我們置于復(fù)雜的困境之中。人始終是技術(shù)的主人，科技給人類(lèi)帶來(lái)的是善還是惡完全取決于人，人類(lèi)決定著科技的發(fā)展方向。四川警方利用人工智能跨年齡人臉識(shí)別技術(shù)，成功地找到了4名走失約10年的孩子。這告訴人們將科技與善意結(jié)合，技術(shù)才能變得更有溫度。

在醫(yī)療人工智能這種有爭(zhēng)議的技術(shù)進(jìn)展面前，如果國(guó)家通過(guò)法律對(duì)技術(shù)發(fā)展進(jìn)行回應(yīng)和保護(hù)會(huì)加大醫(yī)療人工智能帶給人類(lèi)的福祉。例如，根據(jù)新聞文章中的調(diào)查和采訪，新罕布什爾州多佛市的Wentworth-Douglass醫(yī)院發(fā)生的醫(yī)療機(jī)器人行為異常引發(fā)的醫(yī)療事故是由于機(jī)器人系統(tǒng)訓(xùn)練不足而導(dǎo)致的：外科醫(yī)生沒(méi)有足夠的時(shí)間和資源來(lái)學(xué)習(xí)如何正確使用機(jī)器人。Wentworth-Douglass醫(yī)務(wù)人員的一些成員宣稱(chēng)他們只在豬和人類(lèi)尸體上練習(xí)2天，而擁有豐富機(jī)器人經(jīng)驗(yàn)的外科醫(yī)生至少需要200次手術(shù)才能熟練掌握醫(yī)療機(jī)器人[14]。雖然這一觀點(diǎn)需要進(jìn)一步證明和完善，但加強(qiáng)對(duì)醫(yī)生的培訓(xùn)和監(jiān)管是十分必要的。又如，如果在算法設(shè)計(jì)中暗藏某種歧視，一旦被機(jī)器人學(xué)習(xí)并繼承，很難通過(guò)技術(shù)手段消除，這種醫(yī)療人工智能應(yīng)用于實(shí)踐中是不利于社會(huì)公正的。所以應(yīng)對(duì)算法輸入進(jìn)行嚴(yán)格監(jiān)管，當(dāng)出現(xiàn)算法歧視之后，要求事后公開(kāi)審查，使得編程人員的行為受到約束，這樣才能削弱或避免人工智能出現(xiàn)算法歧視。因此，有必要加快我國(guó)相關(guān)立法，增強(qiáng)醫(yī)學(xué)行業(yè)自律等措施，讓法律成為保護(hù)和實(shí)現(xiàn)善的最有效機(jī)制，實(shí)現(xiàn)人與科技的友好相處。

4 結(jié)語(yǔ)

雖然醫(yī)療人工智能的發(fā)展和應(yīng)用給人們帶來(lái)了許多倫理難題，但醫(yī)療智能化將是醫(yī)療領(lǐng)域的必然趨勢(shì)，人們對(duì)待醫(yī)療人工智能的態(tài)度將決定人工智能的發(fā)展方向。要認(rèn)識(shí)到：醫(yī)療人工智能并不是要取代醫(yī)生，而是將醫(yī)生所獲得的時(shí)間和精神上的余地留給患者。如果醫(yī)生能夠有效地利用人工智能，人工智能可能會(huì)比以往任何時(shí)候都更加成為人們的盟友，醫(yī)療人工智能的發(fā)展也將會(huì)造福于人類(lèi)。