三年前，人工智能先驅 Geoffrey Hinton說：“我們現在應該停止培訓放射科醫生。完全顯而易見的是，五年之內，深度學習將比放射科醫生做得更好。”

如今，全球數百家新興公司都在嘗試將深度學習應用于放射學。然而，被AI取代的放射科醫生的數量大約為零。（實際上，它們在世界范圍內都短缺。）

至少就短期而言，該數字可能保持不變。事實證明，放射學比欣頓和其他許多人想象的要自動化得多。對于一般醫學而言，情況同樣如此。有概念的許多證據，如的自動診斷從胸部X射線，但在其中深學習（機器學習技術，它是目前最占優勢的方法來AI）已經實現了變換和改進出奇少數情況下經常答應了。

首先，有關深度學習有效性的實驗室證據并不像看起來那樣可靠。當使用AI的機器勝過人類的機器時，正面的結果往往會引起媒體的廣泛關注，而當機器的表現不如人類時，負面的結果則很少在學術期刊上報道，甚至更少的媒體報道。

同時，越來越多的文學作品表明，深度學習從根本上容易受到“對抗性攻擊”的攻擊，并且常常容易被虛假的聯想所欺騙。例如，如果一輛翻倒的校車碰巧被雪包圍，可能會誤認為是掃雪機。用幾片膠帶改變了停車標志，因此深度學習系統將其誤認為是速度限制。如果這些問題在機器學習社區中廣為人知，那么它們的含義在醫學界就不太為人所理解了。

例如，在X射線圖像上進行訓練以進行診斷決策的深度學習算法可以輕松地檢測用于制作圖像的成像機。考慮這種假設情況：醫院使用兩種不同型號的X射線機-一種便攜式，一種安裝在固定位置。因病情臥床不起的患者必須使用便攜式機器在床旁成像。這意味著機器的選擇與條件的存在相關。而且，由于AI算法對使用哪臺機器高度敏感，因此它可能會無意中誤認為與機器有關的基本條件信息。在醫院中始終使用便攜式機器的相同算法可能會產生混淆的決定。

實際上，深度學習僅在狹義的技術意義上（即在神經網絡中使用了多少“層”的準神經元）是深度的，而不是在概念上。深度學習系統擅長在訓練數據中查找關聯，但無法區分因果相關和意外相關，例如成像設備上的模糊。虛假的聯想可能會被過度加權。

例如，在通過圖像診斷皮膚癌時，皮膚科醫生只有在懷疑皮膚癌的情況下才可以使用尺子來確定皮膚的大小。這樣，尺子的存在與圖像數據中的癌癥診斷相關聯。AI算法可以很好地利用這種關聯而不是病變的視覺外觀來做出癌癥決策。但是統治者實際上并沒有引起癌癥，這意味著該系統很容易被誤導。