“商湯已初步建立起人工智能倫理治理體系，力求實現從理論到實踐、從組織到機制、從研發到產品的全生命周期的多維度閉環”。

在近日中國計算機學會計算法學分會舉辦的首屆年會上，商湯科技副總裁、倫理與治理委員會主席張望，受邀在主論壇發表演講，面向國內外百名專家學者和企業領導者，分享了“商湯科技AI倫理與治理前沿實踐”的主題報告，從組織建設、倫理研究、治理實踐、生態合作四方面重點介紹了商湯科技在人工智能倫理與治理方面的實踐探索。

推進人工智能倫理治理工作體系建設

演講中，張望首先介紹了商湯人工智能倫理治理的組織建設。

商湯在2020年1月正式成立“人工智能倫理與治理委員會”，是業界最先組建人工智能倫理與治理委員會，并將倫理治理工作作為公司戰略級方向的科技創新企業之一。

委員會統籌推進人工智能倫理治理工作體系建設，日常職責包括制定倫理領域戰略發展規劃、產品倫理審核和風險把控、內部倫理通識培訓與宣傳，倫理治理生態體系建設、參與倫理標準討論與制定、開展倫理聯合研究等六個方面。

特別是在倫理聯合研究方面，商湯早在2019年即開始持續推進人工智能倫理研究，并提出平衡發展的倫理觀，倡導“可持續發展、以人為本、技術可控”的倫理原則。

同時，商湯與多所知名高校建立密切的倫理研究合作機制，積極開展合作課題，推動AI技術向負責任且可持續的方向發展。

堅持“平衡發展”的人工智能治理實踐

在人工智能倫理治理實踐中，張望闡述商湯科技堅持“平衡發展”的倫理觀，把“可持續發展、以人為本、技術可控”的倫理原則落實到實際工作中，四年來不斷推動倫理治理工作迭代升級。

商湯科技致力于將倫理原則嵌入到產品設計、開發、部署的全生命周期，今年在業界首次提出發展“負責任且可評估”的人工智能，并將其作為開展人工智能治理的愿景目標。

為實現這一目標，著力推進三方面的人工智能倫理治理實踐：一是建立覆蓋產品全生命周期的風險控制機制；二是開發一系列流程工具和技術平臺；三是做好公司內部的科技倫理宣貫。

目前，商湯已建立起覆蓋產品全生命周期的風險控制機制，針對人工智能領域面臨的數據、算法及應用管理風險，初步形成了人工智能治理閉環。

例如，在應對算法風險上，商湯通過建立“算法定級備案管理與安全評估機制”，成立“算法安全管理工作組”，從技術局限、算法設計、軟件缺陷、數據安全、框架安全等多個維度對算法風險進行安全評估。

商湯AI訓練平臺（AutoLink）榮獲人工智能產業發展聯盟（AIIA）“可信AI平臺應用標桿案例”獎，倫理治理體系、算法評測工具，獲“可信AI實踐優秀案例”獎

在流程工具和技術平臺方面，商湯開發一系列覆蓋數據治理、算法測評、模型體檢、倫理審查的流程工具和技術平臺。

例如，在應對數據風險上，開發統一的數據治理平臺以及規范的數據采集流程。在數據處理過程中，通過開發、使用自動化標注工具，減少人工接觸數據量，在模型訓練的源頭降低引入人類偏見的風險，并且數據標注平臺具備訪問控制和身份驗證功能，僅能由認證的數據標注人員進行訪問。

此外，商湯科技還建立了倫理宣貫的定期宣傳和培訓機制，每周面向全體員工發送人工智能治理相關重要動態，定期組織研討會、邀請內外部專家開展倫理治理培訓。同時，強調“分類宣貫”，針對核心產品人員，風險聯絡人，管理層，公司全員都配有針對性的宣傳內容及方案，全方位讓倫理貼近員工工作視野。

最后，在科技倫理治理生態合作方面，張望也系統地介紹了“商湯成果”。

一方面，商湯積極與高校、科研院所、政府機構開展常態化交流，將一線人工智能企業倫理工作的機制建設、研究成果與學研層分享，提供各種有價值的一線研究案例。

另一方面，商湯也積極參與相關國內外組織活動，并參與建立相關組織機構。例如，今年與上海交通大學、新加坡AIII人工智能國際研究院等國內外機構聯合發起“亞洲科技促進可持續發展目標聯盟”

（Tech4SDG），旨在廣泛開展科技倫理研究和合作，推動科技助力可持續發展目標的實現。

經過近四年探索，商湯科技倫理與治理實踐已經實現多維度閉環，并獲得社會認可。商湯發布的首份《AI可持續發展白皮書》被聯合國《人工智能戰略資源指南》收錄；商湯人工智能倫理治理體系和相關技術工具，多次獲得第三方機構積極評價，并先后入選《哈佛商業評論》及中國人工智能產業發展聯盟“可信AI”優秀案例。