近日，中國人工智能產業發展聯盟（AIIA）第十次全體會議暨2023年通用人工智能創新發展論壇在重慶召開。

會上，商湯科技聯合中國信息通信研究院云計算與大數據研究所（中國信通院云大所）共同發布行業首個《大模型可信賴研究報告》，系統化分析闡釋了人工智能大模型發展風險要素及治理建議，具體包括：

重點梳理大模型發展現狀，點明大模型風險來源。

從大模型涉及的關鍵要素和可信維度出發，全面分析大模型面臨的各項風險并進行整理歸納，形成大模型風險全景視圖。

針對大模型在框架、數據、模型和生成內容等層面風險，系統梳理產業界保障大模型可信賴的關鍵舉措。

指出當前大模型可信賴發展面臨的問題及挑戰，從多個維度提出參考建議。

該《報告》為人工智能大模型的可信發展提供了重要的方向參考。同時，也對大模型風險管理體系化建設提供了框架依據。

此外，《報告》還對如何實現大模型的可信賴目標給出一系列實踐方案，從技術、管理、監管等維度對大模型的可信賴目標實現進行了分析研究。

商湯SenseTrust可信AI基礎設施

入選《報告》可信賴實踐案例

今年7月，為迎接大模型全新挑戰，基于“日日新SenseNova”大模型體系，商湯科技快速推出可信AI基礎設施SenseTrust，構建領先的解決方案，推動大模型開發訓練和應用治理可靠、可信。

“SenseTrust” 商湯可信AI基礎設施

數據層面，商湯SenseTrust能夠提供從數據脫敏、數據去毒、數據合規審查及偏見評估等治理工具。

模型層面，商湯SenseTrust基于自研模型體檢系列平臺，能夠針對傳統“小模型”、生成式“大模型”，以及基礎模型提供標準化和定制化的模型評測能力。

應用層面，借助商湯在數據保護、數字取證及偽造檢測等技術領域的深厚積累，逐步開發了基于生成、鑒偽和溯源三位一體的綜合解決方案。

目前，商湯SenseTrust相關技術已服務于“商湯秒畫SenseMirage”文生圖平臺、“商湯如影SenseAvatar”數字人等多個產品，以及內容創作、大數據客戶，以及銀行安全系統。

商湯也將持續通過“商湯AI安全治理開放平臺”等多種形式，為行業提供AI治理公益技術服務，推動建設安全可信的人工智能產業生態。