胡泳

IBM正在考慮出售沃森健康（Watson Health），這標(biāo)志著人工智能的雄心在醫(yī)療保健業(yè)遭遇重大挫折。作為這家標(biāo)志性科技企業(yè)近年來(lái)的明星業(yè)務(wù)，沃森健康最重要的產(chǎn)品可以幫助醫(yī)生診斷和治療癌癥。它是IBM最早也是最大的AI嘗試之一。然而，盡管為了打造這一增長(zhǎng)引擎，IBM展開了一系列有針對(duì)性的價(jià)值數(shù)十億美元的收購(gòu)，但沃森健康在爭(zhēng)取美國(guó)國(guó)內(nèi)外市場(chǎng)份額上的進(jìn)展并不順利，并且短期內(nèi)也看不到盈利的前景。

失敗的原因不一而足。醫(yī)療專家相信，沃森機(jī)器人醫(yī)生的困境凸顯了將AI用于治療復(fù)雜疾病的障礙，可能同時(shí)包括人力、財(cái)務(wù)和技術(shù)。比如，獲得具廣泛代表性的患者群體的數(shù)據(jù)一直是一項(xiàng)挑戰(zhàn)，而在另外一方面，這些疾病的結(jié)果往往取決于許多可能無(wú)法在臨床數(shù)據(jù)庫(kù)中完全捕獲的因素。同時(shí)，科技公司缺乏深厚的醫(yī)療保健專業(yè)知識(shí)，如果它們不夠了解實(shí)戰(zhàn)的臨床工作流程，就會(huì)增加在病患環(huán)境中實(shí)施人工智能的困難。必須知道可以在哪里插入AI，以及AI又能夠在哪些方面提供幫助，而一切都要以提高醫(yī)院的效率為準(zhǔn)。

不過(guò)，究其根本，在醫(yī)院中應(yīng)用人工智能，首當(dāng)其沖的是信任問(wèn)題。在相當(dāng)大的程度上，我們還是第一次見證人和機(jī)器人共處一室的復(fù)雜環(huán)境。當(dāng)醫(yī)生首次與沃森交流時(shí)，他們發(fā)現(xiàn)自己處于相當(dāng)困難的境地。一方面，如果沃森提供了與他們自己的觀點(diǎn)相一致的治療指導(dǎo)，醫(yī)生們對(duì)沃森的建議就看不出太多價(jià)值。超級(jí)計(jì)算機(jī)只是告訴他們本身業(yè)已知道的東西，而這些建議并沒(méi)有改變實(shí)際的處理方式。這可能會(huì)讓醫(yī)生放心，讓其對(duì)自己的決定更有信心。然而如果只是幫忙確認(rèn)，機(jī)器人醫(yī)生值得在醫(yī)院里部署嗎？另一方面，如果沃森提出了與專家意見相矛盾的建議，醫(yī)生通常會(huì)得出結(jié)論：沃森對(duì)癌癥無(wú)能為力。機(jī)器無(wú)法解釋為什么它的處理是合理的，因?yàn)樗乃惴ㄌ珡?fù)雜了，不能被人完全理解。因此，這導(dǎo)致了更多的不信任和懷疑，許多醫(yī)生會(huì)忽略看起來(lái)異乎尋常的AI建議，并堅(jiān)持自己的專業(yè)知識(shí)。

由此來(lái)看，沃森的腫瘤診斷問(wèn)題是醫(yī)生根本不信任它。人類的信任往往基于我們對(duì)其他人如何思考的理解，以及對(duì)其可靠性的經(jīng)驗(yàn)了解。這有助于創(chuàng)造一種心理安全感。而AI對(duì)于大多數(shù)人來(lái)說(shuō)仍然是相當(dāng)新穎和陌生的。它使用復(fù)雜的分析系統(tǒng)進(jìn)行決策，以識(shí)別潛在的隱藏模式和來(lái)自大量數(shù)據(jù)的微弱信號(hào)。即使可以在技術(shù)上解釋（并非總是如此），AI的決策過(guò)程對(duì)于大多數(shù)人來(lái)說(shuō)通常難以理解。和自己不明白的事情互動(dòng)會(huì)引起焦慮，并使我們感覺(jué)我們失去了控制。許多人也不太了解許多AI實(shí)際工作的實(shí)例，因?yàn)樗鼈兂３０l(fā)生在后臺(tái)。

相反，人們總能敏銳地意識(shí)到人工智能出錯(cuò)的情況：谷歌算法將黑人分類為大猩猩；一個(gè)微軟聊天機(jī)器人在不到一天的時(shí)間里成為白人至上主義者；在自動(dòng)駕駛模式下運(yùn)行的特斯拉汽車導(dǎo)致了致命的事故。這些不幸的例子受到了媒體不成比例的關(guān)注，向社會(huì)發(fā)出了人類不能完全依賴技術(shù)的信息。機(jī)器學(xué)習(xí)并非萬(wàn)無(wú)一失，部分原因是設(shè)計(jì)它的人不是萬(wàn)能的。雖說(shuō)如此，用人工智能改進(jìn)醫(yī)療保健業(yè)的努力還會(huì)繼續(xù)。原因很簡(jiǎn)單：在這個(gè)價(jià)值萬(wàn)億美元的行業(yè)里，效率只能實(shí)現(xiàn)40%～60%。因此，用機(jī)器學(xué)習(xí)算法或可擴(kuò)展的AI之類的優(yōu)雅工具使它得到顯著改善的想法，顯然還是非常誘人。然而，要想達(dá)至誘人的前景，至少需要完成三件事情：第一，打開黑箱，讓AI能夠解釋自己所做的事情；第二，發(fā)現(xiàn)和減輕訓(xùn)練數(shù)據(jù)及算法中的偏見；第三，為人工智能系統(tǒng)賦予倫理價(jià)值。