中國已發布首個汽車人工智能安全國際標準,並獲國家標準化管理委員會正式批准立項。
這項具里程碑意義的項目,標誌着中國首次在汽車人工智能安全領域牽頭制定國際標準。
該標準由中國及美國的專家共同牽頭,擔任共同項目負責人,並有德國、法國、日本等國的專家參與制定。
人工智能作為智能網聯汽車的「數碼大腦」,直接影響其運行安全。現有全球汽車人工智能安全標準僅提供廣泛原則及指引,缺乏專為智能網聯汽車,特別是自動駕駛場景而設的詳細實施細則,未能充分應對行業特定的安全挑戰。
中國汽車標準化研究院資深研究員李波指出,新標準旨在將廣泛安全原則,轉化為自動駕駛的可量化基準及實用保障措施。
李波表示:「此標準的主要目標是建立量化人工智能安全指標,以及涵蓋整個流程的全面風險控制措施,從安全分析、測試驗證到運行監控。我們知道,自動駕駛最關鍵指標之一是故障率:每運行一萬小時,故障次數不多於一次。基於此量化指標,它必須進一步細分並分配至不同場景下的人工智能子系統。」
該標準系統性地應對人工智能大模型帶來的行業面臨的安全挑戰,例如其缺乏可解釋性及固有不確定性。它分析整個生命週期中的全鏈故障模式及危害機制,並將這些見解轉化為人工智能系統架構、模型設計、硬件安全及數據集開發的具體要求。
此外,它引入分層人工智能診斷及多維度冗餘設計方案,以建立穩固安全防線。
李波表示:「制定此標準旨在為智能網聯汽車人工智能安全的整個生命週期,從設計、測試、開發到運行監控,提供風險管理指引。它旨在系統性地解決由系統性故障及人工智能能力輸出不足引起的安全隱患,這些問題可能源於人工智能系統模型、數據、算力、算法以及模型迭代過程。」
(CGTN)
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片