醫(yī)療保健行業(yè)似乎是部署人工智能系統(tǒng)的理想場所。每次的醫(yī)學檢測、醫(yī)生診斷及過程，都是被記錄下來的，而且患者的醫(yī)療記錄正越來越多地以電子格式存儲。人工智能系統(tǒng)可以分析這些數(shù)據并得出結論，指出如何提供更好的和更具成本效益的護理。

許多研究人員正在建立這樣的AI系統(tǒng)。醫(yī)學和計算機科學期刊上發(fā)表了很多介紹實驗性AI系統(tǒng)的文章，這些AI系統(tǒng)可以解析患者記錄，掃描影像，并給出關于患者健康情況的診斷和預測。然而，這些系統(tǒng)還鮮有進入醫(yī)院和診所以發(fā)揮其價值的。

阻礙因素是什么呢？匹茲堡大學醫(yī)學院的研究員和醫(yī)生ShinjiniKundu說，障礙并不在于技術方面。“障礙主要在信任方面，”她說。“你可能有一項很棒的技術，但你如何讓人們使用這項技術并信賴它呢？”

大多數(shù)醫(yī)療AI系統(tǒng)都是攝入數(shù)據后給出答案的“黑匣子”。以他們不理解的推理為基礎進行治療，醫(yī)生們對此心存擔憂，這是可以理解的。因此，研究人員正在嘗試各種技術來創(chuàng)建能展示其如何工作的系統(tǒng)。

給我們畫一幅圖

Kundu最近在聯(lián)合國的AIforGood會議上介紹了她的研究。她正致力于研究對醫(yī)學圖像進行分析并解釋其所見的AI。她的系統(tǒng)包含一個機器學習組件，該組件檢查諸如MRI掃描影像等的圖像，并找出醫(yī)生感興趣的圖案。

在Kundu最近的實驗中，AI分析了若干膝關節(jié)MRI影像并預測了哪些膝蓋會在三年內發(fā)生骨關節(jié)炎。然后，使用一種稱為“生成建模”（generativemodeling）的技術，AI創(chuàng)建了一幅新圖像——一幅顯示出膝蓋肯定會發(fā)展這種狀況的MRI影像。Kundu說他們啟用了一個黑匣子分類器來生成這些新圖像。

照片來源：上圖，OsteoarthritisInitiative；下圖，UniversityofPittsburghSchoolofMedicine。

預測的力量：人類的眼睛無法分辨出那些在三年內會發(fā)生膝關節(jié)炎的患者和不會發(fā)生膝關節(jié)炎的患者的MRI掃描影像之間的區(qū)別。但AI發(fā)現(xiàn)了它們在軟骨圖案部分的微妙差異，并向研究人員展示了這些差異。

AI系統(tǒng)生成的圖像顯示，它是基于顯示在MRI掃描影像中的軟骨的細微變化（人類醫(yī)生沒能注意到它們）來做出預測的。Kundu說：“這是這項工作另一個很重要的方面。它幫助人類了解關節(jié)炎的早期發(fā)育過程可能是怎樣的。”

現(xiàn)在你看到了什么？

加利福尼亞大學的助理教授和執(zhí)業(yè)心臟病專家RimaArnaout訓練了一個神經網絡來對超聲心動圖進行分類（超聲波掃描對于心臟疾病的診斷是至關重要的）。在今年3月份的NPJDigitalMedicine期刊上，發(fā)表了她對其第一版AI系統(tǒng)的介紹。在從對心臟進行透視的角度分類低分辨率的圖像上，該系統(tǒng)所做的分類結果比心臟科醫(yī)生所做的要更準確。該系統(tǒng)的下一版本將使用這些信息來識別視野中的解剖結構并診斷心臟疾病和缺陷。

圖片來源：Rima Arnaout

但這樣的診斷系統(tǒng)不太可能被醫(yī)生們接受：“我永遠不會因為計算機讓我這樣做就做出與我自己的判斷不相符的診斷，”Arnaout說。為此，她使用了兩種技術來理解她的分類器是如何做出決定的。在遮擋實驗中，她對待測圖像的部分區(qū)域進行了遮擋，看看AI的答案會如何改變；通過顯著性映射，她將神經網絡給出的最終答案向原始圖像追溯，以發(fā)現(xiàn)哪些像素承載的權重最大。

這兩種技術都顯示了AI依賴圖像的一部分來做出決策。令人鼓舞的是，對人工智能決策貢獻最大的結構也是人類專家認為重要的結構。

超越相關性

微軟研究院的首席研究員RichCaruana幾十年來一直致力于創(chuàng)建不僅智能而且易懂的機器學習模型。他的人工智能使用醫(yī)院的電子健康記錄來預測患者的預后情況。但他發(fā)現(xiàn)，即使是看似高度準確的模型，也會隱藏著嚴重的缺陷。

在他正進行的一項研究中，他訓練了一個機器學習模型，用來區(qū)分應住院治療的肺炎高風險患者和可以在家休養(yǎng)的肺炎低風險患者。該模型發(fā)現(xiàn)患有心臟病的人死于肺炎的可能性較小，并自信地斷言這些患者風險較低。

Caruana解釋說，被診斷患有肺炎的心臟病患者在風險高低方面之所以有更好的輸出結果，并不是因為他們就是風險低，而是因為他們通常在一出現(xiàn)呼吸問題時就去急診室，因而第一時間得到了診斷和治療。“模型發(fā)現(xiàn)的相關性是真實的，”Caruana說，“但如果我們用它來指導醫(yī)療干預，那么實際上我們會受到傷害，甚至可能會害死一些病人。”基于這樣的發(fā)現(xiàn)，他現(xiàn)在正在研究能清楚地顯示變量之間關系的機器學習模型，以便讓他能判斷模型是否不僅在統(tǒng)計學上是準確的，而且在臨床上也是有用的。