10月13日，為期兩天的中國國際半導體高管峰會（China International Semiconductor Executive Summit）在上海成功舉行，并邀請到了清華大學魏少軍教授（IEEE Fellow， CIE Fellow）等演講嘉賓。

作為全球規模最大的半導體制造產業高管的年度盛會，今年的大會結合人工智能技術應用探討了半導體行業的發展趨勢。深蘭科技首席數據科學家、戰略委員會戰略技術專家、深蘭科學院智能社會研究院院長沙文灝受邀參加，作為國內人工智能企業率先公開發表了《深蘭科技可解釋人工智能（XAI）技術》并作主題演講。

未來2-3年內，約50%以上的信息系統直接或間接地與機器學習相關，在企業數字化轉型（DX）與人工智能的主要應用（自然語言處理、自動駕駛與智能工廠等）中起到了決定性的作用。可解釋人工智能（XAI）技術應用正在形成閉環，也是實現安全可信人工智能重要的基礎。

XAI架起數據特征和人類概念（語義）空間的橋梁

中國的基礎研究在全球占有一定的優勢，提出決策幫助推進業務是人工智能的首要任務。傳統人工智能的核心是通過機器學習盡可能地把觀測樣本（訓練數據）映射到特征空間中， 而后在特征空間進行分析， 并發現樣本在特征空間不同區域內的規律， 從而達到算法要實現的任務目標（如聚類、解析等）。但是人類的分析和決策是利用自身的背景知識，在概念（語義）空間（非定理性）當中完成的。

數據特征空間和人類概念（語義）空間（非定理性）在內涵（結構）與外延（影響）上存在顯著的區別，而可解釋人工智能就是要填補這二者之間的鴻溝（GAP）。

人工智能模型越來越多地被用于輔助與代替人類決策，這些情況下，企業更需要了解這些模型是如何做出決策的。為了與用戶及權益方建立信任，人工智能的應用必須讓所有的模型變得更加透明與更易理解。

XAI正形成閉環 人類或將讀懂AI推理

人工智能推動企業加速創新，它已經從執行簡單任務的自動化操作升級成為與人類互動的強大協作工具。企業已不再將人工智能視為簡單的技術工具，而是成為整個組織的變革引擎。未來，企業需要以人機協作為核心，有效地運用工具和改進方法，幫助人與機器更好地相互理解及互動。

自然語言處理技術提高了機器理解書面和口頭文字的能力；擴展現實和計算機視覺的進步，可幫助機器準確識別人們周邊的實體環境；而可解釋人工智能（XAI）正在形成閉環，使人們明確系統做出決策的推理。在人機協作模式下，從部門架構、產品設計、一直到員工的雇用和培訓，企業將對業務進行徹底的重構。

使用“提示決策依據的人工智能”，以實現決策的可視化、高度化：

可理解：基于提出預測結果的依據取得業務人員的理解，促進AI的使用；

可確認：可以確認AI正確學習了業務知識，提高業務人員使用AI的愿意；

可改善：在與PoC有較大差別時能迅速確定原因，使AI的預測得到改善。

XAI作為核心的數字化架構

在基于IoT、API管理、網絡安全、DevOps、云計算、RPA、容器化的數字化能力的基礎上，使用可解釋人工智能（XA）作為核心的數字化架構為工業4.0、生態整合、個性化營銷、供應鏈、生產管理等提供人工智能技術的賦能。

比如：當XAI使得AI內部工作透明化時，將有助于建立企業和其他行業監管的信心；當XAI將通過自然語言（語音或文本）來解釋它的決定，而不是通過復雜的模型時，使用者會更容易理解，也將推動自然語言解釋與XAI的結合使用；當與XAI將建立起信任的橋梁，人們就能夠在方方面面中適應并習慣與智能機器一起工作與生活，從而真正享受人工智能技術帶來的社會進步。

XAI領域有很好的發展前景，可以幫助企業解決傳統AI的不足，在可理解的基礎上，全方位推動企業成長與社會發展。

責任編輯：gt