AI賦能系統的安全風險不容忽視

隨著人工智能技術在產業中的不斷深化，AI系統已逐步成為企業關鍵業務的組成部分。與傳統IT系統不同，AI系統具備“自學習、自決策”的特性，這也意味著它們在運行過程中可能面臨更多非結構化、動態演變的風險場景。例如：

數據投毒：攻擊者通過惡意干擾訓練數據，誘導模型產生錯誤輸出，影響系統決策。

對抗攻擊：輸入精心設計的對抗樣本可欺騙AI模型，繞過安全檢測或做出錯誤判斷。

模型竊取與反向工程：AI模型作為企業核心資產，易成為攻擊者試圖復制、反推出模型邏輯的目標。

隱私泄露：模型訓練過程中可能暴露敏感數據，觸發GDPR等法規的合規風險。

系統不可控性：AI系統的不透明性與自適應行為，使傳統安全檢測難以奏效。

這些問題一旦發生，不僅可能導致企業數據資產受損、業務中斷，甚至還會引發合規風險。因此，構建具備“可防御、可識別、可響應”能力的AI安全體系，已成為企業當前與未來不可回避的重要課題。

ETSI TS 104 223標準發布

為AI系統構建系統性安全框架

為響應日益突出的AI安全需求，歐洲電信標準協會（ETSI）于2025年4月正式發布了《Securing Artificial Intelligence (SAI); Baseline Cyber Security Requirements for AI Models and Systems》——ETSI TS 104 223標準。

ETSI TS 104 223標準通過以下方式增強 AI 系統的網絡安全性：

數據治理：確保 AI 系統使用的數據來源可靠，防止數據中毒等攻擊。

模型穩健性：增強 AI 模型對抗攻擊的能力，如對抗樣本和模型混淆。

透明性和可解釋性：提高 AI 系統的透明度，使其決策過程更易于理解和審查。

責任分配：明確各方在 AI 系統安全中的責任，確保在出現問題時能夠迅速響應。

持續評估和測試：定期對 AI 系統進行安全評估和測試，及時發現并修復潛在漏洞。

作為全球首個聚焦AI系統網絡安全的標準體系，該標準通過三大核心亮點，為企業提供了清晰的建設路徑：

13項核心安全原則：為AI系統的安全設計與實現提供了頂層指導。

72條可操作性要求：細化了在AI系統生命周期各階段需要滿足的具體安全要求，具有很強的落地指導意義。

安全生命周期管控：將安全考慮融入AI的規劃、數據處理、模型開發、部署、運行維護等生命周期的每一個環節。

通過這些規范，標準旨在建立一個可信賴的 AI 安全生態系統，保護最終用戶免受不斷演變的網絡威脅。

DEKRA德凱：專業AI安全評估合作伙伴

助力企業理解并實施ETSI TS 104 223

作為國際領先的第三方檢驗檢測認證機構，DEKRA德凱緊跟AI領域前沿標準動態，現已推出覆蓋 ETSI TS 104 223 的評估與測試服務，護航企業AI創新之路：

標準解讀與差距評估：協助企業全面理解標準要求，并識別當前AI系統的安全弱點與改進方向。

技術測試與漏洞分析：通過實測方式檢測數據安全性與系統防御能力。

整改建議與能力建設：指導企業通過架構優化、流程重建或技術加固，提升系統整體安全性。

DEKRA德凱不僅提供技術服務，更幫助客戶構建長期可信的AI安全管理機制。通過引入ETSI TS 104 223標準體系，企業不僅能提升自身AI系統的安全水平，也能在信任、合規與責任方面，建立更堅實的基礎。

關于DEKRA德凱

DEKRA德凱，百年安全保障的全球領導者。成立于1925年，DEKRA德凱旨在通過車輛檢驗確保道路安全。如今，DEKRA德凱已發展成為全球最大的獨立非上市檢驗、檢測和認證專家機構，覆蓋廣泛的行業領域。作為值得信賴的全球合作伙伴，DEKRA德凱憑借全面的服務和創新的解決方案，助力客戶提升安全和可持續發展，踐行百年慶典主題——“Securing the Future”。2024年，DEKRA德凱營業總額達到43億歐元，業務遍布世界5大洲60多個國家和地區，逾48,000名員工致力于提供獨立、專業的專家服務。DEKRA德凱連續榮獲EcoVadis鉑金評級，位列前1%的可持續發展公司之列。