智能駕駛時代的新挑戰：AI功能安全

寫在前面：

隨著人工智能（AI）技術在自動駕駛汽車等領域的快速發展，其功能安全性成為了一個不可忽視的議題。功能安全指的是在正常或異常操作情況下，系統能夠安全運行的能力，這對于直接影響人類生命安全的自動駕駛汽車尤為重要。為了全面管理安全生命周期，確保車輛AI系統在各種情況下都能保持預期的安全性能，需要系統地實施安全措施。

本文將詳細探討AI功能安全的生命周期，從ISO/CD PAS 8800標準的角度，講述如何實施生命周期內的各項安全措施，以及這些措施如何幫助實現AI系統的可持續、安全運行。

01.

AI安全管理

AI安全生命周期流程，主要用來支撐整個ISO/CD PAS 8800標準，把ISO/CD PAS 8800標準的所有章節都融入到此流程。

圖2-1-AI安全生命周期

（參考ISO/CD PAS 8800 chapter7 Figure7-1）

AI安全生命周期流程是一個全面的框架，旨在確保AI系統從設計到部署的各個階段都符合安全標準。這一流程開始于需求分配階段，其中上游系統輸入的需求首先在第9章中進行詳細的規劃和優化，然后將優化后的需求傳遞到開發階段。在開發階段，進行AI系統的開發和測試驗證，以確保系統滿足所有安全要求。

開發和驗證確認活動完成后，AI系統將進行安全認證，以驗證其是否滿足輸入的安全要求。如果認證成功，系統則可投入市場。上市后，將執行運營階段的監控工作，確保系統的持續安全性能。整個過程形成一個完整的閉環，每個階段的工作產出都將支持最終的安全認證。

此外，流程中還考慮了軟件工具的資質認證，包括如何進行相關的軟件開發和資質認證工作，從而確保AI系統在整個生命周期中的安全性和可靠性。

圖2-1-AI安全生命周期的V&V階段

（參考ISO/CD PAS 8800 chapter7 Figure7-2）

其中，專門針對AI系統的V模型開發生命周期模型與ISO 26262標準中的生命周期具有相似之處。V模型的開發流程從最左側開始，涵蓋AI系統的設計和AI組件的設計與實施。一旦AI組件開發完成，接下來是AI組件的驗證，隨后進行整個AI系統的集成，包括進一步的驗證和確認環節。

在V模型的整個過程中，功能安全分析是必不可少的，它幫助識別和預防各個環節中可能出現的潛在安全失效和功能不足。此外，數據的重要性在AI系統中尤為突出，因此在V模型的開發過程中也特別強調對數據相關性的考量。數據管理同樣遵循自身的生命周期，確保數據的有效性和安全性貫穿AI系統開發的每一個階段。這樣的流程設計確保了AI系統在安全性和功能性方面能夠滿足預設的標準和要求。

02.

總結和展望

AI安全生命周期流程和V模型的實施不僅保證了AI系統在功能和安全性方面的高標準，還提供了一種適應未來技術發展的靈活框架。隨著AI技術的快速發展和應用領域的不斷擴展，這種全面的安全管理方法顯得尤為重要。未來，隨著更多的技術創新和新的安全挑戰的出現，這一流程將需要不斷地更新和優化，以適應新的安全需求和標準，從而保證AI系統在所有使用場景中的安全性和可靠性。這將要求業界、學界和標準制定者之間有更深入的合作和持續的技術革新，以推動AI安全管理向更高水平發展。

03.

面對的挑戰

實施AI安全生命周期流程和V模型面臨的挑戰包括技術的快速變化、數據管理和隱私保護問題、跨學科合作困難、缺乏詳細的安全認證和標準、資源和成本限制、不確定性和未知風險以及需適應不斷變化的監管和法規要求。這些挑戰要求組織必須具備高度的技術能力和戰略規劃，建立內部的跨部門合作及與外部監管和標準化機構的密切協作，通過技術創新和持續的政策更新來有效管理風險并保障AI系統的安全性。

作者

邊俊

磐時創始人/首席安全專家

汽車安全社區SASETECH發起人；智能網聯預期功能安全工作組核心成員；國內最早從事汽車功能安全、預期功能安全的專家之一