假設您完成了對患者的X射線檢查，正在等待人工智能系統診斷病情。幾分鐘后，人工智能返回了診斷結果，顯示可信度為98%，但是診斷結果明顯錯誤。您該怎么做？嘗試重新拍攝X光片，還是呼叫主任醫師？

人工智能通常被視為“黑盒子”，即人類不清楚具體算法，但這也是它特別有效的部分原因，人工智能建立算法的邏輯方式并不依賴人類的思路。但當人工智能無法正常工作時，我們就需要獲得一定程度的可解釋性，了解如何合理修復模型。

恩智浦一直致力于借助現有技術解決這一問題，并對技術進行優化，以量化對人工智能系統最重要的兩種數學不確定性。

第一種是偶然不確定性，這是指自然發生的隨機性或噪聲，我們無法（或不知道如何）減少模型內部的這些不確定性。這代表了由于輸入數據質量不佳導致的不確定性，原因可能是X光片模糊，就像自動駕駛汽車在起霧的夜間行駛，看不清交通標志，或圖像中存在其他噪音源。

第二種是認知不確定性，在人工智能領域，這是指由于模型造成的不確定性。原因可能是數據集有限，模型訓練得不夠好，或為了降低訓練成本而刻意簡化了模型。

恩智浦嵌入式處理器技術和業務戰略主管Gowrishankar Chindalore表示：“我們認為認知不確定性是可以降低的；您可以通過提高計算復雜度，進行更多訓練，增加更多的層數，從而降低模型的不確定性，當然要注意避免過度擬合。對于輸入不確定性，神經網絡只能報告輸入有問題，因此我們應對輸出持謹慎態度。您希望神經網絡能夠識別這種局限性，最后由人類決定是否需要質量更好的輸入，或完全拒絕輸出。這就是恩智浦的可解釋人工智能（xAI）的概念。”

在研究中，恩智浦使用了各種成熟技術來量化不確定性，包括TensorFlow概率、Logit概率分布和貝葉斯統計。我們的思路是，人類或算法根據量化不確定性決定下一步怎么做。例如，在上面的X射線方案中，如果返回的偶然不確定性超過一定水平，技術人員將重新拍攝圖像。如果返回的認知不確定性太高，就需要由人類專家判斷X光片，并考慮對模型進行更多訓練。

恩智浦的技術總監兼人工智能/機器學習工程負責人Natraj Ekambaram表示：“今天任何神經網絡都只會報告預測結果，其可信度為50%或70%。我們還希望神經網絡能報告這兩種不同的不確定性具體是什么。計算成本非常高，在邊緣進行推理非常昂貴，存在功率和計算方面的限制。因此我們也探索各種技術，以優化的方式加速邊緣不確定性量化技術。”

恩智浦認為可解釋人工智能技術的首個應用是根據醫學影像數據（X射線或CT掃描）進行新冠病毒篩查。Chindalore介紹了這項技術支持的新流程：

“在系統中輸入X光片，經過訓練的神經網絡就會返回預測結果。我們改變了傳統的垂直、線性、一維的方法，現在使用帶分支的決策樹。如果返回預測結果之后，［算法］報告傳感器輸入導致了不確定性，技術人員可以重新拍攝X光片，因為神經網絡自身無法解決這一問題。但如果不確定性是由于模型的原因，將由專家對X光片進行判斷，判斷人工智能結果正確與否。這樣就能取得可信的篩查結果。借助可解釋性，人們可以采用三種決策中的一種。”

目前的新冠病毒篩查依靠聚合酶鏈式反應（PCR）檢測，利用鼻腔拭子對病毒相關遺傳信息進行檢測。由于檢測試劑盒供應有限，并且需要幾個小時才能得到結果，而X射線和CT掃描技術已經在醫院廣泛應用，可作為新冠病毒檢測的快捷替代技術。恩智浦建議在人工智能技術中加入可解釋性，以提高根據胸部成像檢測細菌或病毒性肺炎的可信度，必要時可用于增強PCR檢測。

Chindalore表示：“我們聯絡了許多公司、高校和醫院，他們對此感到非常興奮，因為通過神經網絡進行疾病檢測已非新鮮事。事實上，世界各地的許多醫院已經開始使用神經網絡技術。讓他們感到興奮的原因是可解釋性因素能帶來某種程度的可信度，神經網絡不再盲目地提供輸出，可以進行某種程度的反省。”

恩智浦計劃開放根據醫學成像檢測新冠病毒模型的源代碼，以幫助對抗病毒，并積極尋求與感興趣的健康保健行業機構開展合作，特別是能夠獲得匿名訓練數據集的機構，以進一步推動檢測新冠病毒的研究工作。

雖然將這項技術投入實際應用為時尚早，但Chindalore和Ekambaram表示，這項技術還能用于自動駕駛汽車，識別需要駕駛員參與的情況，也可用于工業機器人，因為工業機器人的訓練數據集往往非常有限。這項技術仍處于開發之中，尚未最終確定具體的商業模式。
? ? ? ?責任編輯：tzh