ISO/PAS 8800道路车辆--安全和人工智能标准即将发布

一、法规基本情况

车辆人工智能（Vehicle AI）指的是在车辆（如小型轿车、卡车等）中应用的人工智能技术，用以提高车辆的智能化、自动化和自主决策能力。它整合了计算机科学、传感器技术、深度学习和数据分析等领域的技术，让车辆更安全、高效、环保和便捷地运行。

随着人工智能以及车辆智能化的快速发展，车辆人工智能领域面临的安全问题日益凸显。人工智能技术发展参差不齐，行业缺乏统一标准，由人工智能导致的车辆事故率逐渐升高……如何在提升车辆人工智能化的同时还能确保车辆的安全成为了当前行业的焦点，基于此背景下，ISO/PAS8800应运而生，该标准将用于规范车辆人工智能的发展，提高车辆安全，为行业带来一套标准规则，从而推动汽车行业的人工智能快速安全地发展。

二、标准范围

本标准适用于安全相关系统，包括一个或多个使用AI技术的电气或电子（E/E）系统，并安装在量产的道路车辆上（轻便摩托车除外）。它没有涉及特殊车辆的独特电动系统，例如为残疾司机设计的电动系统。

三、标准规范文件

▪ISO 21448:2022, Road vehicles — Safety of the intended functionality.
▪ISO 26262-1:2018, Road vehicles — Functional safety — Part 1: Vocabulary.
▪ISO 26262-2:2018, Road vehicles — Functional safety — Part 2: Management of functional safety.
▪ISO 26262-6:2018, Road vehicles — Functional safety — Part 6: Product development at the software level.
▪ISO 26262-8:2018, Road vehicles — Functional safety — Part 8: Supporting processes.
▪ISO/IEC 22989:2022, Information technology — Artificial intelligence — Artificial intelligence concepts and terminology.

四、标准主要内容

ISO 8800 标准对人工智能技术在道路车辆安全领域的发展具有多方面的重要影响，该标准主要作用有：

1、定义安全生命周期：
针对汽车领域中的安全相关人工智能系统，定义了包含明确功能需求、设计系统架构、收集处理训练数据、评估安全需求、安全分析、安全性保证论据评估、系统部署和持续监控等阶段的安全生命周期，为 AI 系统的开发和应用提供了全面的流程规范。

图2-AI安全生命周期的V&V阶段（参考ISO/CD PAS 8800 chapter7 Figure7-2）

2.提供应用指导
为在 AI 系统中应用 ISO 26262 和 ISO 21448 标准提供了指导，建立了人工智能系统危害行为的因果模型，描述了从 AI 系统故障到车辆级不安全行为的过程，涵盖了从触发条件到 AI 要素的安全相关错误及机器学习模型的安全相关错误可能导致的危险故障行为和合理可预见的间接误用预防。

3.识别和缓解风险

指出人工智能系统发生错误可归因于系统性失效（如过拟合、概念漂移、数据偏差、安全漏洞等）、随机硬件故障、功能不足（如训练数据不足或分布偏差、模型训练偏差、性能指标不足等）、操作不当（如错误配置、错误使用、恶意操作等）等根源类别。通过系统设计和安全分析来识别这些风险，并采取如冗余系统设计、异常输入检测机制等措施缓解风险。

4.强调数据质量
讨论了人工智能系统的数据相关考虑，强调数据质量对系统安全性能的重要影响，建议采取相应的数据质量控制措施，并在数据处理和分析过程中考虑其对安全性的潜在影响。国际上流行使用数据质量控制工具来提高数据质量和可靠性。

5.保障安全运维

探讨了运营期间保持 AI 系统安全的措施，如持续监控性能和输出、收集现场数据分析和优化 AI 模型、更新或重新训练 AI 模型等，以确保系统的稳健运行。

6.提供全面规范和指导
融合了功能安全 ISO 26262、预期功能安全（SOTIF）ISO 21448、ISO/IEC TR 5469 人工智能 AI 功能安全、ISO TS 5083 自动驾驶系统安全等，涵盖了 AI 安全属性定义、AI 技术选择和设计、数据定义和挑选、AI 安全措施、AI 安全性能评价、AI 验证和确认 V&V、运行监控和 AI 安全保障等关键内容，以避免不合理的风险。

ISO/PAS 8800:2024定义了影响道路车辆中人工智能（AI）性能不足和故障行为的安全相关属性和风险因素。它描述了一个解决开发和部署生命周期所有阶段的框架。这包括对功能的适当安全要求的推导，与数据质量和完整性相关的考虑，控制和减轻故障的架构措施，用于支持人工智能的工具，验证和确认技术，以及支持系统整体安全性的保证论点所需的证据。

五、标准解决问题

▪解决道路车辆中人工智能相关的安全问题。
▪从ISO 26262（功能安全）和ISO 21448（SOTIF预期功能安全）扩展概念。
▪为汽车行业引入人工智能安全生命周期
▪为管理AI安全提供框架，包括设计、数据管理和验证。
▪涵盖AI/ML在安全关键汽车应用中的不足。

颐卓咨询管理集团-广州总部

总部地址：广州市海珠区琶洲数字科技产业园A15-2栋

联系方式：13622221264（张小姐）

邮        箱：eyzo@chinakec.com

公司官网：www.chinakec.com

集团分支机构：深圳、成都、重庆、佛山、东莞、长沙、武汉、北京、昆山、厦门等