周 杰 宋 揚(yáng)

近年來(lái)，有關(guān)人工智能輔助臨床診療決策支持系統(tǒng)(clinical decision support system,CDSS)在醫(yī)學(xué)診斷和預(yù)后方面應(yīng)用的研究成果大量涌現(xiàn)。雖然CDSS為提高醫(yī)療質(zhì)量提供了新工具，但也帶來(lái)了患者對(duì)醫(yī)療的信任、診斷準(zhǔn)確性、診斷標(biāo)準(zhǔn)、責(zé)任歸屬等潛在挑戰(zhàn)。醫(yī)療人工智能輔助決策系統(tǒng)的臨床效益及發(fā)展趨向還需要辯證再思考。

1 CDSS的發(fā)展現(xiàn)狀

CDSS是人工智能在醫(yī)療方面應(yīng)用的重要一部分。美國(guó)醫(yī)藥信息學(xué)會(huì)是這樣定義CDSS：為醫(yī)務(wù)工作者、患者或任何個(gè)人提供知識(shí)、特定個(gè)體或人群信息，在恰當(dāng)?shù)臅r(shí)間條件下，智能化地過(guò)濾干擾信息和表達(dá)合理信息，提供更好地為健康、診療和公共衛(wèi)生服務(wù)[1]。

從其產(chǎn)生目的和背景來(lái)看，CDSS根本目的是為了評(píng)估和提高醫(yī)療質(zhì)量，減少醫(yī)療差錯(cuò)。CDSS按系統(tǒng)結(jié)構(gòu)可分為兩類：第一類是基于知識(shí)庫(kù)的CDSS，目前主要以《人衛(wèi)臨床助手》《UpToDate》《朗通醫(yī)學(xué)知識(shí)庫(kù)》為代表。包括三個(gè)部分：知識(shí)庫(kù)、推理機(jī)和人機(jī)交流接口。這種類型的CDSS由于其較封閉，并且缺乏深度學(xué)習(xí)功能，所有數(shù)據(jù)信息的采集、編譯、整理及規(guī)則均需人工完成，所以存在維護(hù)成本高昂，存在信息更新時(shí)效性不強(qiáng)的問(wèn)題。

第二類則是基于非知識(shí)庫(kù)的CDSS，一般采用人工智能的形式，這種類型的CDSS依賴人工神經(jīng)網(wǎng)絡(luò)具有機(jī)器學(xué)習(xí)能力，并且可以在人機(jī)交互、不斷訓(xùn)練的過(guò)程中總結(jié)和明確知識(shí)，并利用知識(shí)數(shù)據(jù)為用戶提供建議。截止目前情況，《Hubble人工智能輔助決策》《Vitark16》比較廣泛應(yīng)用。通過(guò)高效的學(xué)習(xí)能力提供精準(zhǔn)的決策建議，基于以上特點(diǎn)，這種類型的CDSS勢(shì)必成為將來(lái)的發(fā)展趨勢(shì)。

然而即使知道CDSS的發(fā)展趨勢(shì)非常光明，但是其自身存在并發(fā)展過(guò)程中產(chǎn)生的技術(shù)及倫理問(wèn)題不容輕視。否則，智能醫(yī)療就會(huì)存在造成重大醫(yī)療事故和社會(huì)問(wèn)題的風(fēng)險(xiǎn)。

2 目前CDSS應(yīng)用中存在的問(wèn)題

2.1 醫(yī)療的信任問(wèn)題

面對(duì)腫瘤及心腦血管病等疾病時(shí)，醫(yī)生將當(dāng)前的診斷后告知患者，癌癥的診斷會(huì)打亂患者生活狀態(tài)及精神世界，患者會(huì)有很多疑慮要尋問(wèn)醫(yī)生，很多心事要與醫(yī)生訴說(shuō)。這就要求醫(yī)生要傾聽(tīng)患者的故事，在故事中建立對(duì)彼此的信任，加深彼此了解，為后期的診斷治療建立依從性的情感基礎(chǔ)。

然而，CDSS卻改變了這種傳統(tǒng)的診斷模式。在醫(yī)學(xué)中使用CDSS的最大挑戰(zhàn)之一是醫(yī)生不愿意相信和采用他們不完全理解的東西，由于缺乏信任，這些人工智能工具的臨床應(yīng)用進(jìn)展緩慢。除了臨床醫(yī)生的懷疑，缺乏人工智能技術(shù)信心的患者也不會(huì)完全相信[2]。

大多數(shù)研究采用了孤立地評(píng)估深度學(xué)習(xí)診斷準(zhǔn)確性的方法，這種方法不能完全真實(shí)反映臨床實(shí)踐。許多醫(yī)療AI研究結(jié)果不被臨床信任，因?yàn)檠芯拷Y(jié)論沒(méi)有提供與使用相同測(cè)試數(shù)據(jù)集的醫(yī)療專業(yè)人員(醫(yī)生)診斷結(jié)果的比較。

雖然CDSS在一段時(shí)期的系統(tǒng)學(xué)習(xí)和持續(xù)訓(xùn)練已經(jīng)具備了一定的臨床應(yīng)用基礎(chǔ)，但是不能忽視的是CDSS在臨床應(yīng)用方面還是有很大的局限性，無(wú)論是對(duì)于單一病種的診斷水平還是復(fù)雜疾病的整體思考都非常有限，這其實(shí)也是目前臨床懷疑其可靠度的原因之一；再有，從核心算法及訓(xùn)練邏輯乃至通常使用的訓(xùn)練方式的不同角度來(lái)看，這些都對(duì)CDSS在臨床上的決策產(chǎn)生很大的影響，這也是臨床醫(yī)生對(duì)CDSS的決策結(jié)果不甚認(rèn)同的原因。一個(gè)算法如果可以準(zhǔn)確地檢測(cè)皮膚癌的醫(yī)學(xué)圖像，同時(shí)也擁有支持診斷準(zhǔn)確性的醫(yī)生。但是，黑箱算法是不透明的，這意味著醫(yī)生無(wú)法說(shuō)明算法是如何得到推薦或得出診斷的。這對(duì)臨床工作提出了挑戰(zhàn)：當(dāng)我們不能確立它是如何獲得診療結(jié)果的時(shí)候，我們有足夠的理由相信診斷不透明算法嗎？醫(yī)生應(yīng)該如何處理難以理解的診斷？醫(yī)生無(wú)法理解的人工智能系統(tǒng)，醫(yī)生能對(duì)醫(yī)學(xué)診斷負(fù)責(zé)嗎？

2.2 診斷的準(zhǔn)確性問(wèn)題

真正的醫(yī)療診斷中，醫(yī)生往往要面對(duì)紛繁復(fù)雜的信息，但在很多試驗(yàn)中，人工智能進(jìn)行診斷的條件卻是孤立的，總體來(lái)說(shuō)，真正深入臨床流程的人工智能很少[3]。如同真實(shí)臨床環(huán)境診療一樣包含了各種附加信息的研究微乎其微。對(duì)試驗(yàn)結(jié)果的陳述也并不完全客觀，多數(shù)研究都沒(méi)有列出數(shù)據(jù)缺失情況，這種情況將影響試驗(yàn)結(jié)果的準(zhǔn)確性。由于可以信任的研究數(shù)量不太充分，相關(guān)數(shù)據(jù)還太少，以及試驗(yàn)設(shè)計(jì)上的不足，現(xiàn)在對(duì)人工智能的醫(yī)療診斷能力下斷言還為時(shí)過(guò)早，不能得出在真實(shí)環(huán)境中的最終結(jié)論。要得知人工智能對(duì)患者恢復(fù)結(jié)果的影響，需要設(shè)計(jì)有替代醫(yī)療方案的隨機(jī)臨床試驗(yàn)，而目前還沒(méi)有此類試驗(yàn)?zāi)軌驒z驗(yàn)人工智能在及時(shí)治療、患者出院時(shí)間和生存率方面的表現(xiàn)。很少有研究可以提供外部驗(yàn)證的結(jié)果，或者比較使用同一樣本的深度學(xué)習(xí)模型和醫(yī)生的表現(xiàn)。此外，深度學(xué)習(xí)研究中普遍存在不良報(bào)告，這限制了對(duì)報(bào)告診斷準(zhǔn)確性的可靠解釋。

在純技術(shù)方面(如算法的性能、準(zhǔn)確度等)人工智能表現(xiàn)的還是可圈可點(diǎn)的，但是在貼近臨床應(yīng)用場(chǎng)景中，如何把醫(yī)生的經(jīng)驗(yàn)和知識(shí)變成可復(fù)制的數(shù)字化程序還是頗有挑戰(zhàn)的。例如，病理診斷模式是以圖像形式呈現(xiàn)，最容易以大數(shù)據(jù)為依托通過(guò)模式識(shí)別進(jìn)行疾病的診斷與鑒別診斷。目前，在病理學(xué)方面，人工智能已應(yīng)用于血液系統(tǒng)惡性腫瘤(主要是白血病)的輔助診斷。不過(guò)，目前病理學(xué)應(yīng)用人工智能還是有局限性的，病理學(xué)實(shí)體腫瘤實(shí)質(zhì)和間質(zhì)成分更加復(fù)雜，部分腫瘤的確診還要依靠免疫組化，這些都會(huì)大大增加人工智能診斷的難度。

況且大多數(shù)的智能診斷產(chǎn)品并沒(méi)有完全緊跟臨床工作流程環(huán)節(jié)，以肺結(jié)節(jié)診斷為例，僅僅診斷出肺結(jié)節(jié)沒(méi)有問(wèn)題，而不能確定是否有其他疾病，而誤診或漏診的后果是非常嚴(yán)重的。目前的醫(yī)療輔助系統(tǒng)只負(fù)責(zé)把病灶找出來(lái)，最終定性還是醫(yī)生做的。以目前應(yīng)用在臨床最為廣泛的影像人工智能為例,通過(guò)X光片判斷患者是否有肺炎，影像科醫(yī)生單憑片子是無(wú)法做診斷的。影像科醫(yī)生讀片后最多能說(shuō)的是“在典型的臨床癥狀下，這張肺部X光片符合肺炎征象”。 而且不同的影像科專家對(duì)圖片顯示的結(jié)果很可能給出不同意見(jiàn)。因?yàn)榉戏窝椎挠跋癖憩F(xiàn)看上去也可能是肺膨脹不全。肺炎看似簡(jiǎn)單，最后的診斷需要結(jié)合患者的臨床病史、癥狀、血檢、圖像等綜合考慮得來(lái)。另一個(gè)比較現(xiàn)實(shí)的案例很說(shuō)明問(wèn)題，深圳某知名醫(yī)院通過(guò)智能輔助系統(tǒng)為一名兒童診斷發(fā)現(xiàn)，肺部出現(xiàn)結(jié)節(jié)表現(xiàn)。如果根據(jù)CDSS診斷并治療，則會(huì)出現(xiàn)過(guò)度診斷治療可能。同時(shí)診斷標(biāo)準(zhǔn)和治療責(zé)任就成為了繼續(xù)研究的問(wèn)題。

2.3 診斷標(biāo)準(zhǔn)問(wèn)題

醫(yī)學(xué)知識(shí)的嚴(yán)謹(jǐn)性、更迭性以及疾病無(wú)法精準(zhǔn)預(yù)知的復(fù)雜性讓CDSS的設(shè)計(jì)需要考慮更多的因素。除了患者本身的多重因素以外，還要實(shí)時(shí)篩選、更新、補(bǔ)充無(wú)數(shù)的新數(shù)據(jù)，僅在醫(yī)學(xué)領(lǐng)域里，大量的臨床研究結(jié)果需要科學(xué)家們、研發(fā)CDSS的工程師們不斷的去理解、還要去剔除老舊的內(nèi)容，核心就是選擇高質(zhì)量的證據(jù)用于CDSS，同時(shí)這也是困擾CDSS研發(fā)人員的問(wèn)題。在目前研究的環(huán)境看，很少有研究團(tuán)隊(duì)對(duì)CDSS的療效進(jìn)行評(píng)價(jià)總結(jié)并思考，也就是說(shuō)系統(tǒng)的實(shí)用性問(wèn)題沒(méi)有得到業(yè)界比較公認(rèn)的評(píng)價(jià)，甚至可以說(shuō)沒(méi)有臨床療效的準(zhǔn)確數(shù)據(jù)，我們無(wú)法得到權(quán)威的評(píng)價(jià)指標(biāo)及標(biāo)準(zhǔn)，這個(gè)問(wèn)題會(huì)在很大程度上會(huì)影響CDSS在臨床上的標(biāo)準(zhǔn)化使用。

CDSS的現(xiàn)存問(wèn)題以及臨床工作流程的復(fù)雜性使二者融合的難度提升。另外還要考慮的是由于不同級(jí)別、不同條件的醫(yī)院的網(wǎng)絡(luò)存在邏輯隔離或是物理隔離，使某些需要在線應(yīng)用的CDSS無(wú)法在院內(nèi)正常使用。

2.4 CDSS的責(zé)任歸屬問(wèn)題

CDSS根據(jù)既定算法采取實(shí)施行動(dòng)方案。人工智能被賦予更多的自主性，并且被以獨(dú)有的個(gè)體“意識(shí)”加入到人類的社會(huì)行為中，并在醫(yī)療決策過(guò)程中擁有的權(quán)力逐漸擴(kuò)大，但是同時(shí)也無(wú)可避免地承擔(dān)更多的責(zé)任。

2022年國(guó)家藥監(jiān)局發(fā)布的《醫(yī)療器械分類目錄》[4]表明，僅僅是通過(guò)算法的支持給出臨床診斷建議，只有輔助診斷作用而不是直接作出結(jié)論性診斷的醫(yī)療人工智能產(chǎn)品，需要按照第二類醫(yī)療器械管理規(guī)定進(jìn)行管理。如果是通過(guò)算法將病變部位進(jìn)行自動(dòng)識(shí)別、并在此基礎(chǔ)上提供明確的診斷結(jié)論提示的醫(yī)療人工智能產(chǎn)品，因其應(yīng)用風(fēng)險(xiǎn)升級(jí)，則需要按照第三類醫(yī)療器械的管理規(guī)定進(jìn)行管理。

我們無(wú)法回避傳統(tǒng)的責(zé)任歸屬，原來(lái)的醫(yī)療世界里，醫(yī)生的地位是無(wú)法撼動(dòng)的。而當(dāng)CDSS應(yīng)用在臨床以后，其表現(xiàn)、應(yīng)用程度越來(lái)越強(qiáng)，這使得醫(yī)生的在醫(yī)療服務(wù)當(dāng)中的身份比重會(huì)逐漸減弱，也是基于以上的原因，醫(yī)生的醫(yī)療行為也會(huì)被大幅削弱。對(duì)于患者來(lái)說(shuō)，特別是可能已經(jīng)遭受到醫(yī)療侵害的患者來(lái)說(shuō)，對(duì)醫(yī)方的追責(zé)的角度更應(yīng)該偏向?qū)DSS。這樣的理解已經(jīng)引起了很大的爭(zhēng)議，無(wú)論是哲學(xué)、倫理理論辨析還是法理應(yīng)用的思考，絕大多數(shù)學(xué)者對(duì)責(zé)任歸屬問(wèn)題的思考都集中在醫(yī)療的問(wèn)題還是應(yīng)該由醫(yī)生負(fù)責(zé)的論點(diǎn)。如果CDSS參與到責(zé)任主體范圍，我們無(wú)法回避的責(zé)任問(wèn)題就產(chǎn)生了，責(zé)任方互相推諉、權(quán)責(zé)的分工混亂，對(duì)患者的健康、權(quán)利、社會(huì)道德框架的一致性、法律責(zé)任明晰產(chǎn)生威脅?！度斯ぶ悄茌o助診斷技術(shù)管理規(guī)范(2017年版)》[5]明確了醫(yī)療人工智能輔助診斷技術(shù)的定位：輔助診斷和臨床決策支持系統(tǒng)。醫(yī)療人工智能輔助診斷技術(shù)的結(jié)論不能直接作為臨床最終診斷的結(jié)論，而只能作為臨床診斷的參考依據(jù)之一。有資質(zhì)的臨床醫(yī)生的結(jié)論才可以作為最終的診斷。然而，決策的發(fā)展會(huì)隨著技術(shù)的不斷改進(jìn)而產(chǎn)生變化的，客觀理性的評(píng)價(jià)標(biāo)準(zhǔn)更需要我們逐步完善。

2.5 共享決策與患者自主權(quán)的問(wèn)題

患者自主權(quán)行使的前提就是決策共享[6]。在臨床診療以及醫(yī)學(xué)倫理實(shí)踐規(guī)范中，患者擁有遵照個(gè)人意愿采用醫(yī)療措施、接受醫(yī)療行為的權(quán)利，而且同時(shí)擁有決定是否接受醫(yī)療建議的權(quán)利。在此基礎(chǔ)上，為了讓患者在醫(yī)療服務(wù)中的同意有效，醫(yī)生需要提前、如實(shí)、充分告知患者信息；而患者則是在充分理解醫(yī)療過(guò)程及醫(yī)療行為的實(shí)際內(nèi)容及影響后，才能參與到臨床共享決策當(dāng)中。由此，可以看出醫(yī)療信息、醫(yī)療行為的理解性披露非常重要。

而決策模式更是需要被思考的問(wèn)題，以沃森腫瘤診斷系統(tǒng)為例：這個(gè)系統(tǒng)以"生存時(shí)間最大化"作為臨床診療目標(biāo)，并以此提供治療方案的排序建議[7]。這就會(huì)產(chǎn)生這樣的問(wèn)題：治療的方案很可能不是患者個(gè)體的意愿所決定的，而是按照CDSS算法的理念驅(qū)動(dòng)產(chǎn)生的結(jié)論。這就會(huì)導(dǎo)致醫(yī)患雙方醫(yī)療信息的不對(duì)等甚至是患者喪失醫(yī)療決策權(quán)，甚至是以醫(yī)療人工智能為驅(qū)動(dòng)的家長(zhǎng)式?jīng)Q策模式為主導(dǎo)，這是一種診療模式、理念的倒退。

沃森腫瘤診斷系統(tǒng)在考慮診療決策權(quán)重時(shí)，將患者生存時(shí)間最大化作為首要也是最重要的考慮標(biāo)準(zhǔn)。如果患者期望的是痛苦最小時(shí)，算法將很難幫助實(shí)現(xiàn)。這同時(shí)也可以說(shuō)明，如果將醫(yī)療人工智能納入到醫(yī)療決策的控制權(quán)范圍，患者的各種權(quán)利/尊嚴(yán)會(huì)受到顛覆性的破壞。從長(zhǎng)遠(yuǎn)發(fā)展角度考慮，醫(yī)療人工智能如果在發(fā)展中不能解決患者自由意志實(shí)現(xiàn)的問(wèn)題，將不可避免地帶來(lái)個(gè)體傷害。目前，CDSS很難從患者的角度去權(quán)衡最適宜的醫(yī)療行為、最佳的醫(yī)療結(jié)果，CDSS的算法也鮮少涉及患者診療時(shí)的多維度權(quán)利，而真正具體的醫(yī)療過(guò)程應(yīng)該是最大限度的融合(包括技術(shù)、倫理、法律等問(wèn)題)，完全由機(jī)器自主的治療決策是對(duì)人自由權(quán)利的侵犯，打破了傳統(tǒng)醫(yī)學(xué)"以患者為中心"的關(guān)鍵原則?！度斯ぶ悄茌o助診斷技術(shù)管理規(guī)范(2017年版)》[5]也明確闡釋了臨床中應(yīng)如何進(jìn)行使用及其注意事項(xiàng)。

3 CDSS研發(fā)與應(yīng)用中“以患者為中心”

3.1 CDSS對(duì)“以患者為中心”的挑戰(zhàn)

目前的AI診斷精度越來(lái)越高，這是不容否認(rèn)的事實(shí)，然而醫(yī)生面對(duì)如此精準(zhǔn)的診斷是否可以按照他的建議進(jìn)行治療呢？目前人工智能輔助決策系統(tǒng)在研發(fā)過(guò)程中出現(xiàn)醫(yī)生的身份缺位，醫(yī)生的作用沒(méi)有發(fā)揮出來(lái)，如在使用人工智能輔助決策系統(tǒng)時(shí)，發(fā)現(xiàn)5歲的小女孩出現(xiàn)肺結(jié)節(jié)，這其實(shí)是個(gè)純碎的醫(yī)學(xué)問(wèn)題，如果輔助診斷系統(tǒng)面對(duì)此類問(wèn)題做出統(tǒng)一的手術(shù)治療的決策則是對(duì)醫(yī)學(xué)倒退的表現(xiàn)。沒(méi)有醫(yī)生的綜合評(píng)估，或是只靠CDSS的數(shù)據(jù)分析是不足以做出最后的判斷的。

在臨床應(yīng)用中CDSS為醫(yī)生帶來(lái)了一些問(wèn)題：是否告知患者其診斷是依靠智能系統(tǒng)而不是傳統(tǒng)的醫(yī)生的判斷？如果醫(yī)生使用CDSS時(shí)，產(chǎn)生的顧慮是否應(yīng)該告知患者？從上文的患者自主權(quán)的討論中推定我們是應(yīng)該告知的，然而我們?cè)诤罄m(xù)的處理中應(yīng)該怎么做，就變成了一個(gè)新的問(wèn)題。

CDSS的出現(xiàn)及發(fā)展趨勢(shì)為未來(lái)的醫(yī)療發(fā)展貢獻(xiàn)很大力量，但是無(wú)論是CDSS還是其他更多的人工智能工具，實(shí)質(zhì)上是要為人服務(wù)的，從這一角度來(lái)看，CDSS改變的只應(yīng)該是診療形式而不是診療目的。從目的角度看，無(wú)論技術(shù)如何發(fā)展應(yīng)用，他應(yīng)該解決的是醫(yī)療的根本問(wèn)題，為患者服務(wù)，而不是以技術(shù)、資本等問(wèn)題優(yōu)先。所以無(wú)論怎樣的方式解決問(wèn)題都應(yīng)該符合臨床的真正目的，為患者診療。醫(yī)護(hù)人員所要面對(duì)的患者是有不同思想、情感及不同心理需求的病情各異的人。而CDSS可以替代醫(yī)務(wù)人員完成部分簡(jiǎn)單、重復(fù)的醫(yī)療工作，但它無(wú)法理解患者情感、不能與患者產(chǎn)生共鳴。而這一切，都需要醫(yī)務(wù)人員來(lái)彌補(bǔ)。

3.2 提升信任的基礎(chǔ)

無(wú)論怎樣發(fā)展，醫(yī)學(xué)本身沒(méi)有突破的問(wèn)題，寄望于醫(yī)療人工智能的發(fā)展、輔助系統(tǒng)的完善，從根本上是不可能解決的?，F(xiàn)在的醫(yī)療人工智能屬于弱人工智能范疇，醫(yī)生的直覺(jué)、整體認(rèn)知、法律和人文方面的統(tǒng)籌，是醫(yī)療人工智能不能企及的。雖然有學(xué)者已經(jīng)討論過(guò)為什么黑盒算法是值得信賴的，但是公眾的看法可能不同。一般公眾可能會(huì)懷疑或?qū)嶋H上不信任這樣的系統(tǒng)算法，公眾接受醫(yī)療人工智能并應(yīng)用在醫(yī)療環(huán)境，已經(jīng)成為一個(gè)問(wèn)題。

不只是黑箱問(wèn)題，在大數(shù)據(jù)背景下，要兼顧醫(yī)療數(shù)據(jù)共享與患者隱私安全，除在技術(shù)上對(duì)數(shù)據(jù)采取“匿名化”、加密存儲(chǔ)等措施外，加強(qiáng)數(shù)據(jù)管理是重中之重。醫(yī)療大數(shù)據(jù)的安全管理包括數(shù)據(jù)采集、存儲(chǔ)、挖掘、應(yīng)用、運(yùn)營(yíng)、傳輸?shù)榷鄠€(gè)環(huán)節(jié)。從實(shí)際問(wèn)題出發(fā)，在發(fā)展的過(guò)程中，醫(yī)療人工智能技術(shù)必須滿足客觀的標(biāo)準(zhǔn)從而保證對(duì)安全性、可信賴性、可追溯性、隱私保護(hù)等方面的要求。

3.3 提高CDSS安全性，明確其診斷標(biāo)準(zhǔn)

技術(shù)本身并不是第一優(yōu)先級(jí)，解決臨床問(wèn)題才是。2021年6月28日世界衛(wèi)生組織正式發(fā)布了《世界衛(wèi)生組織衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南》(Ethics and Governance of Artificial Intelligence for Health: WHO Guidance)[8]，提出了確保人工智能符合所有國(guó)家公共利益的六項(xiàng)原則：保護(hù)人類自主性；促進(jìn)人類福祉、安全以及公共利益；確保透明度、可解釋性和可理解性；促進(jìn)責(zé)任和問(wèn)責(zé)；確保包容性和公平性；促進(jìn)負(fù)責(zé)任和可持續(xù)的人工智能。

CDSS需要權(quán)威的知識(shí)來(lái)源，遵循臨床診療指南、臨床技術(shù)操作規(guī)范、行業(yè)標(biāo)準(zhǔn)和臨床路徑進(jìn)行合適的提示與預(yù)警，有助于提高臨床診療規(guī)范化水平，提升醫(yī)療質(zhì)量安全。以目前應(yīng)用比較廣泛的影像科、病理科為例，人工智能與影像結(jié)合能解決這些問(wèn)題：一是醫(yī)生沒(méi)有時(shí)間做的事情或?qū)＜襾?lái)講是浪費(fèi)時(shí)間，但是對(duì)診斷十分必要的事情，如取材時(shí)候做記錄、影像篩查等;二是計(jì)算機(jī)更擅長(zhǎng)做的事情。醫(yī)生更擅長(zhǎng)定性診斷，但計(jì)算機(jī)更適合定量診斷;三是對(duì)于影像科和放射科而言更重要，解決技術(shù)經(jīng)驗(yàn)不足、成像標(biāo)準(zhǔn)不統(tǒng)一的問(wèn)題。對(duì)于病理科而言，人工智能有助于成像更加標(biāo)準(zhǔn)。疾病的種類千差萬(wàn)別，現(xiàn)階段的CDSS發(fā)展依賴于數(shù)據(jù)庫(kù)，而數(shù)據(jù)庫(kù)的建設(shè)各地的數(shù)量有限，質(zhì)量參差不齊，所以亟待增加醫(yī)療大數(shù)據(jù)的體量規(guī)模、增加病種，提高數(shù)據(jù)質(zhì)量，以用于模型的訓(xùn)練和檢測(cè)。此外，國(guó)家的資質(zhì)審查、醫(yī)療人工智能算法在臨床上的評(píng)價(jià)、風(fēng)險(xiǎn)控制、評(píng)價(jià)體系、醫(yī)院的準(zhǔn)入流程問(wèn)題等還要逐步完善。人工智能對(duì)于醫(yī)療怎樣用處最大？這是技術(shù)上的難題，同時(shí)也是應(yīng)用的難題，需要人工智能專家與醫(yī)療專業(yè)碰撞交流。

3.4 CDSS的發(fā)展應(yīng)該源于臨床、回歸臨床

臨床的真實(shí)需求,才是醫(yī)療CDSS發(fā)展的初衷。醫(yī)療行業(yè)對(duì)CDSS已經(jīng)有了較為清晰的認(rèn)識(shí)和臨床應(yīng)用需求,同時(shí)，囿于臨床診療的復(fù)雜性、多變性，使臨床診療很難如其他行業(yè)一樣被簡(jiǎn)單“規(guī)則化”，這使得很多臨床醫(yī)生對(duì)人工智能應(yīng)用仍抱有較謹(jǐn)慎的態(tài)度。但整體來(lái)講，臨床專家同研發(fā)者達(dá)成了一定應(yīng)用共識(shí)，即在具體的臨床問(wèn)題和科研場(chǎng)景中，共同探索和開發(fā)CDSS的應(yīng)用空間，其目的正是為了使人工智能真正回歸臨床，發(fā)揮其應(yīng)有的輔助作用。在臨床應(yīng)用落地時(shí)，由臨床醫(yī)生思考診療過(guò)程中的難點(diǎn)并提出問(wèn)題，由研究人員有針對(duì)性地配合臨床醫(yī)生尋找解決問(wèn)題的方法，真正讓CDSS的應(yīng)用源于臨床、高于臨床、回歸臨床、真正為臨床所用。為人工智能的參數(shù)設(shè)定和有效性提供支持依據(jù)。

科技最大的價(jià)值就是能夠成為人類助手，而CDSS就是輔助醫(yī)者更有效率地工作，更好地造福患者。醫(yī)療領(lǐng)域?qū)θ斯ぶ悄芗夹g(shù)提出了更高的要求：CDSS與生物心理社會(huì)醫(yī)學(xué)模式進(jìn)行兼容?；诖说难邪l(fā)應(yīng)該致力于為臨床專家提供技術(shù)和工具，針對(duì)臨床的需求，提出更好的數(shù)據(jù)智能化解決方案。從患者需求出發(fā)，圍繞著疾病診斷和治療問(wèn)題，利用新的智能醫(yī)療技術(shù)，為臨床醫(yī)生提供更好的臨床診療思路和解決方案。