肖 堯

（武漢鐵路職業(yè)技術(shù)學(xué)院，湖北武漢 430205）

隨著科學(xué)技術(shù)的飛速發(fā)展，人工智能的產(chǎn)品在生活中隨處可見，它們被應(yīng)用于各種行業(yè)，而人工智能在醫(yī)療行業(yè)的作用尤為明顯，人工智能可以為醫(yī)生在診斷過(guò)程中提供參考，有效提升了醫(yī)生的診斷正確率，同時(shí)，也節(jié)省了更多的時(shí)間，提高了患者的醫(yī)療效率，緩解醫(yī)生資源短缺。人工智能的出現(xiàn)給醫(yī)生和患者帶來(lái)了很多幫助，于此同時(shí)人工智能技術(shù)也帶來(lái)了一定的安全隱患。本文將重點(diǎn)介紹人工智能支持決策工具影響患者安全的因素，主要涉及到其計(jì)算思維、倫理思維、系統(tǒng)思維和設(shè)計(jì)思維四個(gè)層面，從這四個(gè)層面找出威脅患者安全的原因，進(jìn)而分析這些原因并提出減少或杜絕對(duì)患者安全影響的改進(jìn)策略，最大限度地提高人工智能支持決策工具輔助醫(yī)生服務(wù)于患者的安全。

1 人工智能支持決策工具

人工智能是研究人類智能活動(dòng)的規(guī)則，構(gòu)建具有一定智能的人工系統(tǒng)，研究如何讓計(jì)算機(jī)完成過(guò)去需要人類智能的工作，即如何應(yīng)用計(jì)算機(jī)硬件和軟件來(lái)模擬人類活動(dòng)的理論、方法和技術(shù)的一些智能行為[1]。人工智能決策支持工具是一系列技術(shù)，允許計(jì)算機(jī)執(zhí)行通常認(rèn)為需要人類推理和解決問(wèn)題的任務(wù)[2]。例如，在醫(yī)療行業(yè)應(yīng)用中，設(shè)計(jì)使用人工智能決策支持工具，經(jīng)過(guò)訓(xùn)練分析大腦掃描的計(jì)算機(jī)可以在出現(xiàn)癥狀之前檢測(cè)出癡呆的跡象。目前，人工智能決策支持工具在各行業(yè)包括醫(yī)療行業(yè)均得到廣泛應(yīng)用，它主要是提高了醫(yī)生的診斷效率，但另一方面其對(duì)患者安全的影響更需要得到關(guān)注。

2 計(jì)算思維層面對(duì)患者安全的影響分析

計(jì)算思維是一系列涵蓋計(jì)算機(jī)科學(xué)廣度的思維活動(dòng)，如問(wèn)題解決、系統(tǒng)設(shè)計(jì)、人類行為理解等[3]。人工智能決策工具通常需醫(yī)院提供更高效和準(zhǔn)確的設(shè)備，但過(guò)度依賴這些設(shè)備可能會(huì)產(chǎn)生無(wú)法彌補(bǔ)的后果。在計(jì)算思維層面，人工智能支持決策工具對(duì)患者安全的影響包括醫(yī)院、醫(yī)生、患者和人工智能工具開發(fā)人員等幾個(gè)實(shí)體對(duì)象。根據(jù)概念映射（圖1），這些實(shí)體對(duì)象在患者安全方面都有相應(yīng)問(wèn)題，并存在共性。

圖1 概念映射圖

2.1 各實(shí)體對(duì)象對(duì)患者安全的影響

醫(yī)院方面，一般來(lái)說(shuō)，大多數(shù)患者在醫(yī)院接受治療，如果患者在醫(yī)院的病情惡化，醫(yī)院可能會(huì)收到投訴，這會(huì)導(dǎo)致患者安全問(wèn)題和對(duì)醫(yī)院的不信任。

醫(yī)生方面，醫(yī)生應(yīng)該對(duì)患者的病情有自己的判斷。一旦醫(yī)生過(guò)分依賴機(jī)器，他就會(huì)失去判斷力，如果機(jī)器做出錯(cuò)誤判斷，患者的病情會(huì)變得越來(lái)越嚴(yán)重，從而影響患者的安全。

對(duì)于人工智能工具開發(fā)人員為醫(yī)院創(chuàng)建此工具，此工具確實(shí)可以幫助醫(yī)生更快地計(jì)算患者的病情和解決方案。然而，開發(fā)人員不能保證該工具給出的解決方案是100%正確的，若錯(cuò)誤，患者的病情將繼續(xù)惡化，甚至導(dǎo)致直接死亡，患者的安全就會(huì)受到威脅。

2.2 各實(shí)體對(duì)患者安全的共性問(wèn)題分析

這個(gè)共性問(wèn)題就是，機(jī)器的錯(cuò)誤決定會(huì)導(dǎo)致患者的安全受到威脅。機(jī)器不會(huì)出錯(cuò)，因?yàn)闄C(jī)器總是遵循開發(fā)人員的要求，并且機(jī)器不能自己反映，只有開發(fā)人員在機(jī)器中創(chuàng)建算法模式，機(jī)器才能學(xué)習(xí)如何診斷患者的病情，然后給出相應(yīng)的解決方案。因此，人工智能支持決策工具的主要問(wèn)題是算法，因?yàn)樗惴ㄖС秩斯ぶ悄苤С譀Q策工具的主要功能，算法的正確與否直接影響機(jī)器對(duì)患者的判斷和后續(xù)的治療計(jì)劃，而后續(xù)治療計(jì)劃則將直接影響患者的安全。

3 倫理思考層面對(duì)患者安全的影響分析

倫理思考是指人們?cè)噲D批判性地探究或分析問(wèn)題背后的原因，并在特定情況下證明自己的選擇或行為是合理的。眾所周知，人工智能在醫(yī)療系統(tǒng)中發(fā)揮著至關(guān)重要的作用，通常用于根據(jù)患者的情況和需求做出醫(yī)療決策。人工智能決策工具可以比人類更快地做出選擇，尤其是在一些復(fù)雜的場(chǎng)景中，因?yàn)闄C(jī)器在數(shù)學(xué)和算法方面比人腦要好得多，就安全性而言，即使機(jī)器在識(shí)別罕見疾病和小問(wèn)題等方面也要好得多，但人們?nèi)匀桓敢馀c醫(yī)生交談，主要是便于患者理解決策結(jié)果。

當(dāng)醫(yī)生使用人工智能決策工具規(guī)劃患者在醫(yī)院的治療時(shí)，需要綜合考慮醫(yī)院、醫(yī)生、患者和人工智能工具開發(fā)人員作為利益相關(guān)者的問(wèn)題。為了盡量減少危害并最大限度地發(fā)揮效益，需要從倫理思考層面進(jìn)行分析。

3.1 決策工具的適宜性方面

就絕對(duì)命令部分而言，如果人工智能決策工具不適宜每個(gè)患者，那么它也不適合所有患者。另一個(gè)方面是遵循變化的規(guī)則，如果人工智能決策工具有時(shí)在做出決策時(shí)出現(xiàn)問(wèn)題，那么它在任何時(shí)候都不適合使用。對(duì)于新開發(fā)的人工智能決策工具即使?jié)M足部分患者的特殊需求，但對(duì)于其提供的決策是否正確都需要關(guān)注。在當(dāng)前階段，可能并不適合所有人。

3.2 決策工具的實(shí)用性方面

根據(jù)功利主義原則，人工智能決策工具是否能為大多數(shù)患者帶來(lái)巨大利益需要關(guān)注，從風(fēng)險(xiǎn)規(guī)避原則來(lái)講，人工智能可以根據(jù)最新的指導(dǎo)方針進(jìn)行標(biāo)準(zhǔn)化評(píng)估和治療。提高最低標(biāo)準(zhǔn)，減少不必要的改變，向患者提供建議，建立識(shí)別醫(yī)療緊急情況的危險(xiǎn)信號(hào)機(jī)制。

3.3 非正式倫理模式方面

根據(jù)黃金法則，人工智能決策工具越來(lái)越多地用于支持醫(yī)療決策，但在某些情況下，任何決定，都將由醫(yī)生做出。例如，當(dāng)人工智能決策工具做出拒絕對(duì)嚴(yán)重受傷或即將死亡的患者進(jìn)行手術(shù)的決定時(shí)，醫(yī)生不能只是出于對(duì)生命的尊重而遵循這個(gè)冷酷的決定。因?yàn)?，在道德或倫理方面，這涉及到人類情感。

4 系統(tǒng)思維層面對(duì)患者安全的影響分析

在現(xiàn)代社會(huì)，人工智能技術(shù)在醫(yī)療行業(yè)的應(yīng)用越來(lái)越受到人們的重視。在這種情況下，醫(yī)院在使用該技術(shù)分析病史并獲得結(jié)果時(shí)將考慮結(jié)果的準(zhǔn)確性，因?yàn)闇?zhǔn)確率將影響患者在治療期間的安全。Ben Zvi Assaraf 和Orion 總結(jié)了八個(gè)系統(tǒng)思維的涌現(xiàn)層次，即識(shí)別系統(tǒng)的組件和過(guò)程；確定組件之間的關(guān)系；確定動(dòng)態(tài)關(guān)系；確定一個(gè)框架來(lái)組織系統(tǒng)的組件、過(guò)程及其交互；確定系統(tǒng)的生命周期；識(shí)別系統(tǒng)的隱藏維度；對(duì)系統(tǒng)機(jī)制的理解，找到解決問(wèn)題的概括；回顧與預(yù)測(cè)[4]。這里使用因果循環(huán)圖（CLD）來(lái)分析支持決策工具引起的患者安全問(wèn)題，該圖將以可見的方式顯示行為，根據(jù)因果分析循環(huán)圖（圖2）我們可以得出組件之間的關(guān)系，這些都涉及到對(duì)患者安全的影響。

圖2 因果分析循環(huán)圖

4.1 技術(shù)的發(fā)展將提高結(jié)果的準(zhǔn)確性

隨著技術(shù)的發(fā)展，人工智能工具的結(jié)構(gòu)將得到改進(jìn)，這些工具中使用的數(shù)據(jù)將是完整的。在這種情況下，結(jié)果可能會(huì)獲得較高的精度。然而，環(huán)境總是在變化，每年都會(huì)有網(wǎng)絡(luò)病毒，當(dāng)開發(fā)人員發(fā)現(xiàn)精度下降時(shí)，他們必須維護(hù)和改進(jìn)舊系統(tǒng)，以便再次提高精度。

4.2 準(zhǔn)確性與患者治療率呈正相關(guān)

病歷報(bào)告的高準(zhǔn)確性可以幫助醫(yī)生做出適當(dāng)?shù)闹委煕Q定。換句話說(shuō)，治愈的可能性將增加。相反，如果結(jié)果的準(zhǔn)確性較低，醫(yī)生可能會(huì)做出錯(cuò)誤的決定，患者可能無(wú)法按時(shí)治療。在這種情況下，治療率將降低。

4.3 過(guò)度依賴決策工具將可能導(dǎo)致準(zhǔn)確性下降

醫(yī)生過(guò)度相信人工智能支持決策工具將會(huì)導(dǎo)致準(zhǔn)確性下降。毫無(wú)疑問(wèn)，使用人工智能技術(shù)的產(chǎn)品給我們帶來(lái)了很多好處，例如：通過(guò)使用計(jì)算機(jī)醫(yī)囑輸入（CPOE）和臨床決策支持系統(tǒng)（CDSS），大多數(shù)藥物和可預(yù)防的不良藥物事件（ADE）可以在藥物訂購(gòu)階段預(yù)防，有研究數(shù)據(jù)表明，用藥錯(cuò)誤減少了81%，未截獲的嚴(yán)重用藥錯(cuò)誤減少了86%[5]。在這種情況下，越來(lái)越多的人將樂于使用這些工具來(lái)幫助他們做出決策，醫(yī)生可能更愿意相信由輔助決策工具分析的結(jié)果。因此，如果系統(tǒng)有錯(cuò)誤和誤導(dǎo)性的算法，醫(yī)生可能會(huì)被這些結(jié)果誤導(dǎo)，并做出錯(cuò)誤的決定，這可能會(huì)導(dǎo)致醫(yī)療疏忽，從而威脅患者的安全。

一般來(lái)說(shuō)，系統(tǒng)思維可以幫助我們從整個(gè)系統(tǒng)過(guò)程中分析思考，通過(guò)分析各組成部分之間的關(guān)系，找出產(chǎn)生問(wèn)題的原因。我們可以發(fā)現(xiàn)，雖然支持決策系統(tǒng)可以為醫(yī)療行業(yè)帶來(lái)好處，但如果利益相關(guān)者過(guò)度依賴這項(xiàng)技術(shù)并失去自己的判斷，也會(huì)給患者帶來(lái)一些安全問(wèn)題。

5 設(shè)計(jì)思維層面對(duì)患者安全的影響分析

設(shè)計(jì)思維通常被定義為一個(gè)分析和創(chuàng)造性的過(guò)程，一個(gè)好的設(shè)計(jì)思維應(yīng)該具備可視化、創(chuàng)造性等特征[6]，設(shè)計(jì)思維主要包括移情、定義、構(gòu)思、原型和測(cè)試等五個(gè)“模式”，這些“模式”在人工智能支持決策工具設(shè)計(jì)實(shí)施中都具有其重要性，并將對(duì)患者安全方面構(gòu)成影響。

5.1 移情模式下對(duì)患者安全的影響

移情是人類解決問(wèn)題的路徑。醫(yī)生、護(hù)士和醫(yī)生試圖解決的問(wèn)題很少是他們自己的，通常認(rèn)為是患者的問(wèn)題。醫(yī)療服務(wù)提供者需要通過(guò)了解患者在就診或治療期間的體驗(yàn)、價(jià)值觀和期望，為其患者建立同理心。醫(yī)生需要根據(jù)患者的生活質(zhì)量觀察患者的行為，有些問(wèn)題可能是隱性的，最好的解決方案是通過(guò)對(duì)患者的觀察與交流，找到解決問(wèn)題路徑。例如，發(fā)現(xiàn)患者無(wú)明顯原因缺席預(yù)約，如果發(fā)現(xiàn)他們是因?yàn)橛X得等待時(shí)間太長(zhǎng)，那我們就應(yīng)設(shè)計(jì)實(shí)時(shí)等待時(shí)間應(yīng)用程序，以便更輕松地為他們安排預(yù)約。

5.2 定義模式下對(duì)患者安全的影響

定義模式是當(dāng)我們想要探索我們的同理心發(fā)現(xiàn)到需求和見解，并界定一個(gè)有意義的挑戰(zhàn)項(xiàng)目。然而，這種模式不僅僅是定義問(wèn)題，它需要具體、可操作和可測(cè)量，否則定義的問(wèn)題將一事無(wú)成。為了真正產(chǎn)生創(chuàng)造力，我們必須根據(jù)通過(guò)移情工作獲得的新見解重新審視挑戰(zhàn)。最重要的是，我們需要有一個(gè)壯觀的視野，并產(chǎn)生許多可能性，例如頭腦風(fēng)暴。

5.3 構(gòu)思模式下對(duì)患者安全的影響

構(gòu)思模式是一種生成激進(jìn)設(shè)計(jì)方案的模式，用于探索廣泛的解決方案。例如，如果我們想解決缺席預(yù)約的患者，并想為患者探索解決方案，我們可以將我們的解決方案從實(shí)時(shí)等待時(shí)間更新應(yīng)用程序、免費(fèi)公交車共享來(lái)接送患者、虛擬協(xié)助來(lái)提醒患者預(yù)約等等，以及從這個(gè)龐大的想法庫(kù)中分離出來(lái)，我們可以以產(chǎn)品或服務(wù)的形式構(gòu)建原型，以測(cè)試患者。這種模式最重要的部分是不要拒絕任何想法，即使它看起來(lái)/聽起來(lái)很荒謬，但非常重要的創(chuàng)新想法有時(shí)就來(lái)自于它。

5.4 原型模式下對(duì)患者安全的影響

原型是思想的實(shí)現(xiàn)。原型可以是我們實(shí)際實(shí)現(xiàn)的任何物理形式、診斷設(shè)備、新的簡(jiǎn)化服務(wù)等。然而，由于監(jiān)管，醫(yī)療原型的成本通常很昂貴。因此，當(dāng)相關(guān)方設(shè)計(jì)原型時(shí)，他們應(yīng)該在昂貴的基于計(jì)算機(jī)的模擬或角色扮演中運(yùn)行，我們可以從互動(dòng)或行動(dòng)中學(xué)習(xí)，從而推動(dòng)更深層次的同理心并形成成功的解決方案。

5.5 測(cè)試模式下對(duì)患者安全的影響

測(cè)試是收集反饋、完善解決方案和繼續(xù)了解患者的好機(jī)會(huì)。例如，如果我們想看看實(shí)時(shí)等待應(yīng)用程序是否有效，我們可以對(duì)兩組患者進(jìn)行測(cè)試，其中一組使用該應(yīng)用程序，而另一組不使用。然后通過(guò)比較這兩組人，我們可以看出該應(yīng)用程序是否有助于人們參加預(yù)約。如果在使用應(yīng)用程序時(shí)缺席率顯著降低，這意味著我們走在了正確的軌道上，可以繼續(xù)對(duì)原型進(jìn)行下一階段的改進(jìn)。

6 結(jié)語(yǔ)

人工智能技術(shù)雖然可以幫助人們節(jié)省時(shí)間，但人工智能技術(shù)仍然存在許多隱患，人工智能支持決策工具對(duì)醫(yī)院患者安全的影響也是需要高度關(guān)注的方面，第一是人工智能支持決策工具的算法設(shè)計(jì)方面，算法的正確與否將直接影響決策依據(jù)，并將影響醫(yī)生對(duì)患者治療方案的選擇和患者安全；第二是人工智能使用與否與人類情感方面，也就是在道德或倫理方面人們的情感需受到關(guān)注，當(dāng)人工智能支持決策工具不適用于醫(yī)院中所有需要它的人時(shí)就不應(yīng)該在醫(yī)院中使用；第三是不應(yīng)過(guò)度依賴人工智能支持決策工具，醫(yī)生必須有自己的判斷，不能僅僅依靠機(jī)器的預(yù)測(cè)和決定，否則可能導(dǎo)致患者安全方面的醫(yī)療事故?？傊?，醫(yī)生應(yīng)該從患者安全的角度考慮問(wèn)題，全面了解患者情況，并向機(jī)器提供最詳細(xì)的數(shù)據(jù)，并設(shè)計(jì)一種收集患者信息的方法，然后通過(guò)收集的信息整合反饋，最后將信息傳遞給機(jī)器，而不是完全依賴機(jī)器分析。