可信可用的人工智能是怎樣的

在進博會期間，安永1大中華區數字化咨詢服務合伙人吳顯光于安永展臺上以“可信可用的人工智能”為主題為來賓進行了分享，現場觀眾反響熱烈。

我們也在進博會前夕針對這個話題對他進行了專訪，請點擊下方視頻和我們一起看看他分享的獨到觀察。

通過本文。您可以詳細了解到底什么是可信可用的人工智能以及它可以為我們帶來的好處又有哪些？

什么是人工智能？

人工智能（AI）不是一種單一的技術，而是多種方法和工具的集合，它有很多子領域，可被應用于豐富的場景。我們通常會說“實施”技術和“建造”機器人，但是對于人工智能，我們會說，“應用”。

一般來說，人工智能產業有三個層次，由下至上分別是提供算力的基礎層、提供算法模型的技術層和應用層，其中，數據是AI發展的必備條件。具體來說，基礎層提供的是包含人工智能芯片、傳感器等的計算能力，它決定著完成效率；技術層是依托算法和數據開發出面向不同領域的技術，包括計算機視覺、自然語言處理等；應用層則最貼近我們的日常生活，例如無人機、機器人、自動駕駛等都是常見的應用層用例，是具體的產品、服務或整體解決方案。

可用人工智能

在這場AI競賽中，企業面臨著挑戰和機遇，同時，多數人都對AI表達出了較樂觀的態度。安永在今年三月開展的一項針對美國的CEO和企業領導者的調研表明，85%的受訪者對AI持積極態度，87%的受訪者表示在今年投資了AI項目，

盡管人工智能可以實現的一些目標還有待觀察，但許多企業正經歷其帶來的變革性結果。例如在安永，我們的團隊創建了一個名為EY Document Intelligence的工具，它可以提高讀取海量合同的速度和準確度，使審計團隊能夠更專注于其他價值創造的活動。

由此我們可以窺見一個不爭的事實，人工智能技術正在幫助企業實現更好的工作方式——技術增強人類創造力，人類能夠騰出時間進行創新——這是一種良好的正向循環。

同時，根據最新的IDC Spending Guide，全球人工智能系統支出將在2019年增長至近358億美元，相較于2018年增長44%，隨著各行業積極投資利用AI軟件能力的項目，這個數字將在2022年增加至一倍以上。為了在全球范圍內展開競爭，創新和充分利用人工智能應該成為全球各行業幾乎所有企業的優先事項。

可信人工智能

AI是具有顛覆性的技術，其改變世界的潛力是無限的。AI可以改善復雜的決策制訂流程，這使其成為了各個行業轉型的催化劑。除了可以更有效、更高效地完成繁重且費時的任務外，AI還可以賦予管理團隊前所未有的深刻洞察。但與此同時，AI技術也會催生一系列道德、法律和技術風險，需要企業妥善處理。

33%的受訪者認為員工信任是AI實施的最大障礙之一，即使受訪者完全或一定程度上信任AI。除此之外，我們發現，技術、風險、人員能力和意識等都成為了人們信任AI實施的主要限制因素，尤其在技術方面，技術的可靠性和性能、技術的安全性和堅固性、技術治理與監督、AI應用相關的倫理道德問題都成為了關鍵因素。

現有的外部監管機構對AI的控制力度遠遠跟不上AI技術的發展速度。企業在沒有強有力的治理下使用AI，會面臨嚴重的風險。這些風險和威脅不僅復雜，還會隨著AI技術的發展不斷演變。為了確保AI的使用安全，我們提倡在最初的AI設計中就將信任原則嵌入。面對不斷演變的威脅，越早將信任原則嵌入AI中，越能未雨綢繆，在確保AI隱私和安全的前提下收獲最大的回報，使AI技術成為推動企業未來發展的強大動力。

對企業來說，AI既是管理風險的工具，也是產生新風險的來源，需要妥善管理。這些風險不僅會損害對這些系統的信任，還會損害對產品、品譽的信任。因此無論何時采用AI技術，企業都應該識別各項AI技術應用的風險。

安永的可信的人工智能框架，幫助企業了解新的和不斷擴大的風險，企業可以根據他們在AI產業鏈中的角色和職責開展治理活動。安永的可信AI框架從性能、無偏、透明、韌性、可解釋五個方面強調了維持信任所必備的屬性。

要被用戶接受，AI必須是可以被理解的，這意味著AI的決策框架需要可解釋和驗證。它還必須按預期運行，無偏見以及安全。

性能是指，AI的結果與利益相關者的期望一致，且其性能達到期望的精確度和一致性水平。

無偏是指，通過AI設計識別并解決由開發團隊組成、數據和訓練方法產生的固有偏見。AI系統的設計考慮所有受影響的利益相關者的需求，并對社會產生積極影響。

透明是指，給予與AI交互的最終用戶適當的通知，以及選擇交互程度的機會。根據采集和使用數據的要求，獲取用戶同意。

韌性是指，AI系統組件和算法本身使用的數據受到安全防護，避免未經授權的訪問、損壞和/或對抗性攻擊。

可解釋是指，AI的訓練方法和決策標準可以被理解和記錄，并且可供人類操作者隨時挑戰和驗證。

實際上，AI不是被實施，而是被應用，并且當AI應用在三步創新法中時，將可實現可信AI。所謂“三步創新法”為：有目的的設計、謹慎監督和敏捷治理。

有目的的設計是指，在設計和構建系統時有目的地整合并適當平衡自動的、智能的和自主的能力，以促進明確的定義業務目標的發展，并考慮環境、約束、準備程度和風險等。

謹慎監督是指，持續調整優化、關注和監控系統，以提高性能的可靠性，降低識別和糾正偏差，加強透明度和包容性。

敏捷治理是指，跟蹤社會、監管、聲譽和倫理領域暴露的問題，并報告給以下內容的流程負責人：系統完整性、系統使用、架構和內嵌組件、數據采購和管理、模型訓練、監控。

安永與華為今年一起合作撰寫了AI治理、安全與隱私白皮書，在這個過程中，我們做了大量的調研，雖然目前業界有AI治理原則、框架和指南，但一個企業具體應該怎么做并沒有明確的指引。我們提出了企業應從責任的角度出發來思考自身的AI治理，這對行業是非常有積極意義的。

AI的產品和應用涉及廣泛的生態系統，涉及的市場參與者眾多，治理難度大、復雜度高。AI的每項產品/服務需要生態系統中不同市場參與者提供不同層次的支持，因此對AI的安全隱私治理也需要全行業共同合作，從自身責任的角度出發，根據企業自己的AI戰略和業務范疇確定自己的治理目標和框架。我們根據業界現有的一些報告和研究，認為AI生態系統中共有6種市場參與者，即消費者/客戶、部署者、應用開發者、解決方案提供者、數據收集者和立法者，讓我們從下往上看看每個角色應當承擔的責任。

立法者需要完善AI相關的法律和標準，明確利益相關方的責任。

數據收集者需要保障數據采集的合法合規，以及數據的質量和安全等。

全棧解決方案提供者對方案的安全可控承擔主要責任，技術層主要包括預置模型的可解釋和可追溯、隱私保護特性、安全與健壯。基礎層主要實現可信解決方案。

應用開發者需要保障商業目標實施，在開發定制模型時需要基于應用目的選擇算法和定制模型，并持續調整更新。

部署者需要保障部署目的，并對部署過程中的安全隱私風險進行管控。

消費者/客戶需要遵循產品/服務說明書安全地使用產品和服務，并需要進行一些授權，例如同意隱私條款、簽署授權合同等。

數據治理、隱私保護和勝任能力需要各方共同擔責。

可信而可用的人工智能

AI產品應用的廣泛性導致了AI相關的利益方無法單獨對整個生態系統承擔所有責任，AI全生態的安全和隱私需要所有利益相關方都能夠重視，把安全和隱私融入AI整個產品生命周期，將安全和隱私納入首要工作標準。

同時，我們也希望AI生態中的所有企業都能從責任角度出發，開展自己的工作，并提供寶貴的建議和方案，互相了解、互相借鑒。只有AI產業鏈上的每個環節都做到安全和隱私保護，AI整體才能夠更加可靠可信。

在這里，我們呼吁AI產業鏈的所有利益相關者能積極為AI治理獻計獻策，共同努力，持續提升，共享AI裨益！

長按并識別左側二維碼，訪問安永進博會微站，掌握安永進博會最新動態。