深度學習是AI的重要元素，可幫助推進診斷和治療，但它仍然是一個相對未知的領域。

該技術的第一作者Fei Wang博士和紐約Weill Cornell Medicine的同事在《JAMA Internal Medicine》上寫道，迄今為止，該技術最成功的應用是醫學成像。人工智能技術的其他應用領域非常廣泛，但是科學家仍然面臨著巨大的障礙。

Wang和合著者說：“深度學習有可能解開圖像中復雜的，微妙的區分模式，這表明這些技術可能在醫學的其他領域有用。” “但是，在深度學習可以更廣泛地應用之前，必須解決重大挑戰。”

Wang和他的團隊認為，這些是其中五個挑戰：

1.我們可能沒有足夠的數據

Wang等人在深度學習模型中分別使用128，175張視網膜圖像和129，450張皮膚圖像來對糖尿病性視網膜病變和皮膚癌進行分類。寫道。“模型的復雜性由問題的復雜性決定”，這意味著更復雜或異構的疾病可能需要大量我們尚未掌握的可靠數據。深度學習模型可能需要數以千萬計的樣本才能為慢性心臟病或腎衰竭創建合適的診斷模型。

作者寫道：“模型很復雜，設計其最佳架構可能很困難。”

從電子健康記錄中確保數據的質量也很困難，其中包含“高度異類，有時不一致”的患者信息，這可能會妨礙AI算法的準確性。

2. AI模型產生結果，但沒有解釋

Wang和合著者說，典型的皮膚科醫生對黑色素瘤的檢測將評估一系列主要和次要標準的圖像，從而為診斷提供依據。接受過培訓的深度學習模型可以做到這一點，例如“該患者患有黑色素瘤的可能性為0.8”，但仍然難以為他們的結論提供清晰的解釋。

這組作者說，正在影像領域做出一些努力來改善這個問題，但是他們承認“一種僅表示診斷的深度學習模型可能會受到懷疑。”

3.創建通用模型很困難

該團隊說，模型的偏見和互操作性使得很難設計可擴展到其他人群，國家或系統的深度學習模型。如果主要對白人患者的數據進行訓練，那么該模型將難以為少數群體提供準確的預測。同樣，在亞洲接受培訓的模型在歐洲可能做得不好。

EHR的可變性也帶來了一個問題，因為使用不同EHR的兩個衛生系統可能無法使用相同的AI算法。

4.我們需要更好的人工智能來開發更好的數據

Wang等人說：“由于深度學習模型適合數據，但對它們的處理過程卻知之甚少，因此可靠，高質量的輸入很重要。” 寫道。“創建提高數據收集過程質量的工具也很重要，例如糾錯，有關數據丟失的警告和差異的調和。”

作者提到了《 IBM Watson Imaging臨床評論》，該評論分析了臨床成像報告中的結構化和非結構化數據，并將其與EHR中記錄的診斷進行比較，以識別任何報告差異。

5.深度學習需要更多規范

Wang和同事寫道，隨著AI，機器學習和深度學習在醫學領域的普及，這些技術越來越受到計算機黑客的歡迎。盡管一些社會正在聯合起來提供有關AI倫理學的指導，但作者說科學家可能需要更嚴格的法規以確保模型安全。

他們寫道：“現有法規側重于醫療數據的隱私，而新法規也應保護分析模型。”