一項新的研究表明，機器學(xué)習和AI在醫(yī)學(xué)圖像重建中非常不穩(wěn)定，并且可能導(dǎo)致誤報和誤報。

由劍橋大學(xué)和西蒙弗雷澤大學(xué)領(lǐng)導(dǎo)的一組研究人員針對基于AI和深度學(xué)習的醫(yī)學(xué)圖像重建算法設(shè)計了一系列測試，發(fā)現(xiàn)這些技術(shù)會導(dǎo)致大量偽像或數(shù)據(jù)中的不必要更改，以及最終圖像中的其他主要錯誤。在基于非AI的成像技術(shù)中通常不存在這種效果。

這種現(xiàn)象廣泛分布在不同類型的人工神經(jīng)網(wǎng)絡(luò)中，這表明該問題將不容易解決。研究人員告誡說，依靠基于AI的圖像重建技術(shù)進行診斷并確定治療方法可能最終會對患者造成傷害。他們的結(jié)果發(fā)表在《美國國家科學(xué)院院刊》上。

劍橋大學(xué)應(yīng)用數(shù)學(xué)系主任安德斯·漢森（Anders Hansen）表示：“ 人們對醫(yī)學(xué)成像中的 AI充滿熱情，它可能具有革新現(xiàn)代醫(yī)學(xué)的潛力：但是，存在潛在的陷阱，不容忽視。”理論物理學(xué)，由西蒙·弗雷澤大學(xué)的本·阿德考克博士領(lǐng)導(dǎo)研究。“我們發(fā)現(xiàn)AI技術(shù)在醫(yī)學(xué)成像中非常不穩(wěn)定，因此輸入的微小變化可能會導(dǎo)致輸出的巨大變化。”

典型的MRI掃描可能需要15分鐘到兩個小時之間的任何時間，具體取決于掃描區(qū)域的大小和所拍攝圖像的數(shù)量。患者在機器內(nèi)花費的時間越長，最終圖像的分辨率就越高。但是，需要限制患者在機器內(nèi)花費的時間，以減少單個患者的風險并增加可以執(zhí)行的掃描總數(shù)。

使用AI技術(shù)提高MRI掃描或其他類型醫(yī)學(xué)成像的圖像質(zhì)量是解決在最短時間內(nèi)獲得最高質(zhì)量圖像的問題的有吸引力的可能性：理論上，AI可以拍攝低分辨率圖像并使其成為高分辨率版本。AI算法基于先前數(shù)據(jù)的訓(xùn)練來“學(xué)習”重建圖像，并通過此訓(xùn)練過程來優(yōu)化重建質(zhì)量。與僅基于數(shù)學(xué)理論而不依賴先前數(shù)據(jù)的經(jīng)典重建技術(shù)相比，這代表了根本性的變化。特別是，古典技術(shù)不會學(xué)習。

任何AI算法都需要兩件事來保證可靠性：準確性和穩(wěn)定性。AI通常會將貓的圖像分類為貓，但是圖像中幾乎看不見的微小變化可能會導(dǎo)致算法將貓分類為卡車或桌子。在此圖像分類示例中，可能出錯的一件事是圖像分類不正確。但是，在圖像重建（例如醫(yī)學(xué)成像中使用的圖像重建）方面，可能會出錯。例如，諸如腫瘤之類的細節(jié)可能會丟失或被錯誤地添加。細節(jié)可能被遮蓋，并且圖像中可能會出現(xiàn)不需要的偽影。

漢森說：“當涉及到有關(guān)人類健康的關(guān)鍵決策時，我們不能讓算法犯錯誤。” “我們發(fā)現(xiàn)，如果您使用AI和深度學(xué)習來重建醫(yī)學(xué)圖像，那么最細微的損壞（例如可能是由患者移動引起的）可能會產(chǎn)生截然不同的結(jié)果，這意味著這些算法缺乏所需的穩(wěn)定性。”

Hansen及其來自挪威，葡萄牙，加拿大和英國的同事設(shè)計了一系列測試，以發(fā)現(xiàn)基于AI的醫(yī)學(xué)成像系統(tǒng)（包括MRI，CT和NMR）的缺陷。他們考慮了三個關(guān)鍵問題：與微小擾動或運動相關(guān)的不穩(wěn)定性;關(guān)于微小結(jié)構(gòu)變化的不穩(wěn)定性，例如帶有或不帶有小腫瘤的大腦圖像;以及樣本數(shù)量變化的不穩(wěn)定性。

他們發(fā)現(xiàn)某些微小的運動會導(dǎo)致最終圖像中出現(xiàn)大量偽像，細節(jié)被模糊或完全去除，并且圖像重建的質(zhì)量會因重復(fù)進行二次采樣而變差。這些錯誤廣泛分布在不同類型的神經(jīng)網(wǎng)絡(luò)中。

研究人員認為，最令人擔憂的錯誤是放射科醫(yī)生可能將其解釋為醫(yī)學(xué)問題，而不是那些由于技術(shù)錯誤而可以輕易消除的錯誤。

漢森說：“我們開發(fā)了這項測試，以驗證我們的論點，即深度學(xué)習技術(shù)在醫(yī)學(xué)成像中普遍不穩(wěn)定。” “我們進行預(yù)測的理由是，在有限的掃描時間下如何進行良好的重建是有局限的。從某種意義上說，現(xiàn)代AI技術(shù)打破了這一障礙，結(jié)果變得不穩(wěn)定。我們通過數(shù)學(xué)方法證明了為這些不穩(wěn)定因素付出代價，或者簡單地說：仍然沒有免費的午餐之類的東西。”

研究人員現(xiàn)在專注于提供AI技術(shù)可以完成的基本限制。只有知道了這些限制，我們才能了解可以解決的問題。漢森說：“基于試驗和錯誤的研究永遠不會發(fā)現(xiàn)煉金術(shù)士無法制造黃金：我們在現(xiàn)代AI方面處于類似情況。” “這些技術(shù)永遠不會發(fā)現(xiàn)自己的局限性。這些局限性只能以數(shù)學(xué)方式顯示出來。”