日前，在寧召開的第二屆江蘇省人工智能大會上，中國科學院院士何積豐帶來主旨報告《可信人工智能》。他表示，隨著人類生活被人工智能廣泛滲透，公眾接受人工智能的程度也越來越高，隨之而來的就是人工智能的可信問題。

去年3月，美國優步的一輛自動駕駛車在路試時撞倒一名行人，當時行人正推著自行車在人行道之外橫穿馬路，關于責任認定，車輛使用者和自動駕駛系統設計者開始扯皮。

“這些人工智能案例，是因為這些突發的場景并不在訓練范圍，機器也就無法從容應對。” 何積豐說，“可信”是計算機領域的一個概念，主要強調的是計算機系統和其處理過程的可預測性、可驗證性。近年來，“可信”的概念也被引入到人工智能領域。

可信人工智能由我國提出，并在G20會議上被各國所認可，這也是關注人工智能發展的核心所在。人、機、物融合是當前社會面臨的一個很重要的系統狀態。如果把人、機、物中間的物理運動以及眾多事件進行組合，如何進行系統性的訓練和測試尤為重要。

在何積豐看來，人工智能的安全發展面臨著“內憂外患”，對內要處理數據偏差、系統失誤等情況，對外則要應對黑客攻擊、場景受限等問題。他解釋，人工智能系統與傳統的軟件系統有很大區別，這使得其安全發展面臨一系列新挑戰。例如，讓程序學習檢測皮膚癌，程序卻發現惡性皮膚病變的照片里往往放著一把尺子，便以尺子來作為判斷標準。

如何保證人工智能安全可控？何積豐表示，人工智能能夠與行業、社會治理結合，具備新的賦能功能。因此，對于其安全問題，應該從兩個層面來討論，一層是人工智能技術本身的安全問題，一層是人工智能與行業結合后的潛在風險。以網絡安全為例，他認為，人工智能很多目前應用到一線的產品，其實效果遠未達到理想狀態，尤其是算法、算力、網絡體系和數據體系的安全性等，比如，數據傳輸過程中會不會被篡改，很難去驗證。

人工智能的“可信”，也需要建立相應的法律、法規、標準和社會倫理準則。比如，對數據進行分類，規定這個數據哪些地方能用，哪些地方不能用。人類應該為人工智能技術的開發設定邊界，不能做無限開發。

此外，何積豐指出，現階段人工智能的通用性較弱，行業應用場景差異較大，技術大規模的普及應用仍未真正實現。因此需要有更多的技術推動人工智能通用發展，此趨勢不可阻擋，不僅是技術發展的需求，更是整個社會經濟發展的需求。

“很多人擔心人工智能會不會帶來失業潮，機器人會不會取代人的工作，其實這些消息都有些夸大。”何積豐表示，很多職業其實是被時代發展而淘汰的，機器人只是取代了一些簡單、重復的勞動，還有部分高危、人類不愿意參與的工作等。與此同時，技術的發展也帶來新的就業機會和新的職業。同時，我們也不必糾結于究竟何時能夠實現真正的人工智能，去為它劃定時間界限，當技術發展到一定階段，人工智能足夠安全，可以被人們信任、接受時，這樣的可信人工智能時代自然會到來。