自动驾驶汽车可靠性指标与评估方法综述

摘要：近年来，随着社会发展与技术进步的步伐不断加快，自动驾驶汽车领域受到的关注度逐渐提升。其中，可靠性评估作为保障自动驾驶汽车安全稳定运行的重要环节，相关研究呈现出蓬勃发展的态势。聚焦该领域最新研究成果进行综述，对自动驾驶汽车领域采用的可靠性概念、指标和评估模型进行了分类梳理，并提出了3个未来研究方向。研究结论指出，虽然现有的可靠性指标具有多样性，但指标和相关评估方法尚未考虑系统时延、误差和故障等情况的内在机理，仍需要进一步针对复杂任务场景下自动驾驶汽车的整体特征开展系统性研究。

关键词：自动驾驶汽车；可靠性评估；失效建模；系统可靠性；可靠性指标

作者：李彦夫；王路遥；姜俊方；刘河珍

作者单位：清华大学工业工程系；清华大学质量与可靠性研究院；北京三快科技有限公司

自动驾驶技术的探索和实践最早可以追溯至20世纪20年代^[1]。在过去的20年间，随着传感器技术、计算机视觉、机器学习及自动化控制等技术的日新月异，自动驾驶汽车（Autonomous Vehicles, AVs）发展迅猛，越来越广泛地应用于社会生产生活的各个方面^[2-3]。众多研究人员认为，鉴于自动驾驶技术具备诸多优势，例如提升驾驶安全性^[4-5]、优化能源消耗^[6-8]、改善残疾人和老年人的出行能力及节省原本用于驾驶的通勤时间^[9-10]，该技术极有可能在未来取代人类驾驶员。

然而，世界各地已经发生了多起涉及自动驾驶汽车的事故，引发了人们对自动驾驶汽车可靠性和安全性的广泛关注。2016年，一辆特斯拉Model S汽车在自动驾驶模式下未能将明亮天空背景下的白色大型拖车检测为障碍物，与拖车相撞而导致驾驶员身亡^[11]。近年来，还发生了多起类似事故，例如2018年的特斯拉Model X汽车事故^[12]、2024年的特斯拉Model Y汽车事故^[13]、2024年的百度自动驾驶汽车撞人事故^[14]及2025年的小米SU7高速爆燃事故^[15]。

目前，自动驾驶汽车的可靠性和安全性问题已经引起了广泛的关注与担忧。可靠性是指系统在规定的条件下使用时，在规定的时间内完成预定功能的能力^[16]。当可靠性以概率来度量时，称为可靠度。系统的安全性通常是指在规定的时间内，假设系统在起始时刻运行无故障，那么它能在该时间段内无事故地度过这一区间的条件概率^[17]。在自动驾驶汽车领域，公众、汽车制造商和政府都面临着一个紧迫的问题，即利益相关者能在多大程度上信任这些车辆。相关研究表明，自动驾驶汽车的社会接受度并不高，人们普遍对自动驾驶系统的突发状况应对能力、事故追责机制等存在担忧^[18-20]。研究者指出，当前自动驾驶车辆的安全审批方法尚无法有效证明系统的安全性，因此难以为其大规模推广应用提供充分的安全保障依据^[21]。旨在为系统提供定量评估的可靠性模型有望填补这一空白。

关于自动驾驶技术分析与安全提升的各类方法研究已形成丰富的文献体系。在安全评估方面，已有多篇系统性综述对相关研究成果进行了梳理^{[7, 22-25]}。相较而言，自动驾驶汽车的可靠性评估在近年来才受到学界关注，其目标是估算自动驾驶汽车按预期运行的概率。目前，仅有少量研究关注到了自动驾驶汽车的可靠性评估问题。例如，有研究从信息物理系统角度对传感器可靠性进行了全面综述^[26]，也有研究针对自动驾驶汽车的各类传感器故障进行了梳理总结^[27]。然而，上述综述仅聚焦于感知子系统，缺少对自动驾驶汽车可靠性的理论总结与凝练。

有研究将自动驾驶汽车的可靠性和安全性划分为硬件可靠性、人机协同可靠性、道路测试集成可靠性及网络物理系统韧性可靠性4个研究维度，并就自动驾驶决策可靠性相对于人类驾驶的优劣展开了讨论^[28]。然而，上述研究仅关注了部分经验性指标，缺乏对自动驾驶系统可靠性指标与评估方法的系统性回顾与总结。此外，在无人机领域，已有研究从理论与应用2个维度对无人机可靠性研究进展进行了批判性评述^[29]。

综上所述，目前尚缺少针对自动驾驶汽车可靠性评估的系统性综述。因此，本文旨在系统梳理自动驾驶汽车可靠性领域的研究成果，重点剖析可靠性概念、指标与评估方法，为后续研究奠定基础，并为相关制造企业和科研机构提升自动驾驶汽车可靠性提供理论参考。

下文分为4个章节：章节1综述了可靠性概念与相关指标，分为故障视角的可靠性和任务性能视角的可靠性2个类别；章节2总结了基于系统结构和基于总体指标的2类可靠性评估方法；章节3提出了3个未来研究方向；最后，章节4对全文进行了总结。

本章对自动驾驶汽车可靠性的概念与相关指标的发展进行了全面综述，将自动驾驶汽车可靠性的主流定义划分为故障视角的可靠性和任务性能视角的可靠性。此外，还总结了自动驾驶汽车可靠性的其他相关指标和观点。

1.1   故障视角的可靠性

1.1.1   事故、失效与故障的概念

与工程领域中的经典可靠性概念类似，自动驾驶汽车的可靠性可根据历史统计数据基于故障情况进行衡量。同时，由于自动驾驶汽车功能与应用场景的特殊性，其故障情况又与经典定义存在显著差异。相关研究在经典定义的基础上拓展出一系列故障视角的自动驾驶汽车可靠性指标。这些指标可分为3类，分别从事故（Accident）、失效（Failure）和故障（Fault）的视角来衡量自动驾驶汽车的可靠性。

事故被定义为一种突然、意外且无计划的事件或事件序列，它会导致人员、环境或其他资产受到损害^[30]。失效被定义为执行规定功能的能力终止^[30]。故障被定义为在硬件、软件组件或系统中出现的严重程度不同的缺陷、瑕疵、错误或漏洞^[31]。故障是一个通用术语，其严重程度可从轻微缺陷到失效不等^[31]。

上述3个术语之间的逻辑关系如图1所示，其中，事故和失效都是故障的具体表现形式。事故和失效存在交集，这表明部分事故涉及自动驾驶汽车某些规定功能的终止。例如，在2018年特斯拉Model X的致命撞车事故中，制动系统未能启动。经典可靠性理论中失效的概念已被采用并拓展，将事故和故障也纳入自动驾驶汽车可靠性评估的范畴^[32-47]。此外，经典可靠性理论中关于失效的相关指标也被拓展用于描述事故和故障^{[16, 48-49]}。

图1 事故、失效和故障之间的逻辑关系

1.1.2   事故视角的可靠性指标

在自动驾驶汽车可靠性研究中，事故可视为故障的特殊表现形式，特指具有突发性、不可预测性及严重后果的故障类型。考虑到自动驾驶事故往往会造成财产损失甚至人员伤亡，此类故障事件的发生概率引起了相关研究者的高度重视。在统计建模方面，研究者通过离散过程建立概率模型^[49]。基于伯努利过程构建的伤亡事件模型能有效拟合现实场景，而适用于连续运行场景的泊松过程模型则基于恒定单位里程事故概率假设（即各里程事件相互独立）实现建模。由此衍生出单位里程事故概率（Probability of a Crash Event Per Mile，PCM）和单位里程伤亡概率（Probability of a Fatality Event Per Mile，PFM）2个核心指标，其数值可通过仿真测试的概率密度函数估计获得。值得注意的是，这2个指标可统一视为经典可靠性理论中失效的概率密度函数f（t）的离散化表征，计算公式为

式中：X为PFM取值的随机变量，F（x）为X的先验概率分布函数，k为伤亡事件的数量，n为驾驶里程，p为规定的可靠性约束。

为了描述事故概率与可靠性指标的映射关系，Chen等人^[48]创新性地引入可靠性指标概念，通过一阶可靠性模型（First-Order Reliability Model, FORM）构建多变量事故预测体系。事故概率通过式（2）进行估计。

式中：Φ（·）为标准正态分布函数，β为可靠性指数。

标准正态分布函数将可靠性指标转换为事故概率估计值，以定量研究汽车在不同驾驶条件下的可靠性指数。驾驶条件则被参数化为风速、风向、车速、摩擦系数、转向角、簧载质量及其质心高度等随机变量。该方法将特定场景下的事故概率转化为与可靠性指标相关的函数，为工程实践提供了量化分析工具。

1.1.3   失效视角的可靠性指标

自动驾驶汽车作为一种典型的智能无人系统，集成了大量人工智能（Artificial Intelligence，AI）技术和模块。在工程应用中，其失效原因和具体机理与机械产品或机电产品往往存在显著区别。考虑到对其进行维修和维护的重要性，工程师往往关注的是那些会导致自动驾驶汽车所需功能停止的故障，失效视角的相关可靠性指标因此受到广泛关注^[47]。自动驾驶汽车必须确保失效率尽可能低，以避免对人员造成死亡或严重伤害的风险^[45]。现有研究中，失效视角的可靠性指标可以分为经验指标和概率模型2类，如图2所示。其中，失效概率既有基于经验的统计方式，又有基于概率模型假设的相关分析。

式中：为发生致命性、致伤性或财产损失性的失效数量。该指标已被应用于美国2014和2017年度交通事故数据分析^[37]。

失效概率被研究者细分到不同驾驶场景中，并结合测试数据进行经验性的统计。有研究者将驾驶场景定义为描述交通系统行为、天气状况、道路规则和基础设施对象的小时间序列；场景用例则指车辆环境描述空间上的一个限定区域，由相关参数的特定取值来定义^[42]。失效概率和1 h内的可靠度的具体计算分别见式（4）和式（5）。

式中：为场景用例i所观测到的失效数量，为场景用例i所观测到的场景数量，Fi为场景用例i的失效概率，由和的比值估计，T为1 h内系统遇到的场景数量，pi为场景用例i的出现概率，Nuc为场景用例的数量，R为1 h内的可靠度。

此外，失效概率还被用于多种协作技术之间的比较性评估研究中，相关试验结果表明，选择合适的供应商和技术可以将自动驾驶汽车的整体可靠性提高7.4%^[33]。

除了失效率和失效概率，研究者还提出了与失效相关的时间指标，来描述自动驾驶汽车的系统可靠性。例如，研究者提出了系统首次失效时间（Mean Time to First Failure，MTTFF）、预期运行时间（Expected Operational Time，EOT）等指标^[40]。在自动驾驶汽车软件栈的软件错误可靠性分析中，对于每次故障注入测试，平均工作时间（Mean Work Time to Failure，MWTF）和外推绝对失效计数（Extrapolated Absolute Failure Counts，EAFC）被用作可靠性指标^[34]。其中：MWTF指标反映了应用程序在2次故障之间能够正常运行的平均时长，值越高说明软件越可靠^[34]；EAFC指的是软件在全失效空间扫描下的绝对故障计数，适用于比较不同软件的可靠性，值越低说明软件越可靠^{[34, 50]}。

自动驾驶汽车一类特殊的可靠性指标是与脱离（Disengagement）相关的经验指标。脱离描述了失效导致自动驾驶汽车的控制权被切换到人类驾驶员的情况。美国加州机动车管理局（California DMV）持续统计并发布每年发生的自动驾驶汽车脱离事件的数据报告，是基于脱离的可靠性研究的核心数据来源^[51]。在该报告中，脱离被定义为“自动驾驶模式的停用”，其发生原因包括“技术故障”及“需要手动控制车辆以确保安全操作”等。当出现紧急情况时，无论是出于明确伦理责任的原因，还是考虑到管控风险、减少损失等因素，人类驾驶员有必要偶尔或选择性地接管驾驶活动^[52]。

现有研究通常通过单位时间内车辆脱离次数与行驶里程的比值（Disengagements Per Mile，DPM）或其倒数（Miles Per Disengagement，MPD）来量化自动驾驶系统的可靠性表现^{[47, 49]}，公式为

式中：Ma为总自动里程，ND为总脱离事件数。

值得注意的是，上述指标中行驶里程的单位可以按照1英里（mile）等于1.61 km的国际标准换算关系进行转换，将其转换为适合国内车辆里程数常用单位的形式。

尽管DPM数值下降不能直接等同于系统可靠性或安全性提升，但该指标仍为深入分析实际道路场景中自动驾驶汽车可靠性提供了重要参考。数据显示，Waymo自动驾驶汽车在加州路测中曾创下每11 017英里发生1次脱离事件的记录^[35]，展现出显著的技术优势。

有研究者建立了与经典失效率近似计算方式相似的基于脱离事件统计的失效率计算模型，通过单位时间内的脱离事件数来估计系统失效率^[36]。此外，还有研究者将基于单调样条的参数模型和非参数模型引入脱离数据分析，通过对比4家制造商的重复事件数据，分析了自动驾驶汽车中的AI可靠性^[43]。有相关研究进一步分析了脱离事件数据的局限性，指出由于数据收集的差异性、运行设计域（Operational Design Domain，ODD）的不同及不同制造商的报告实践的不一致性，脱离事件数据的直接可比较性受到了限制，使其难以作为衡量自动驾驶汽车可靠性的决定性指标^[53]。

上述经验指标在工程应用中实现了对自动驾驶汽车失效特性的统计性描述。同时，也有部分研究采用概率模型来定义可靠性指标，并结合特定的概率分布假设分析了自动驾驶汽车的失效规律。概率模型通常可划分为二状态模型和多状态模型2类，如图3所示。二状态模型假设系统只有正常工作和失效2个状态，多状态模型则假设系统在进入失效状态前会经历至少2个状态。

式中：为事件A从阶段i至j的失效概率，为事件A的失效率，为从阶段1至j的失效概率，为阶段j的失效概率。

此外，也有研究基于多状态的概率模型来计算可靠度。例如，研究者将自动驾驶汽车的状态划分为安全态、可用态和失效态，将其可靠度定义为系统没有进入过失效态的概率，并通过统计多次仿真中系统首次进入失效态的时间来近似计算可靠度^[39]，相关公式如下：

式中：为系统在t时刻的状态；，和分别为安全态、可用态和失效态；为首次进入失效状态的时间；为仿真总次数。

1.1.4   故障视角的可靠性指标

除了事故与失效，在自动驾驶汽车相关领域的可靠性研究中也考虑了更广义的故障概念。在自主水下航行器的工程应用中，系统故障通常不直接关联其自主性本质，因此需要采用更广义的故障概念来分析系统可靠性。根据故障对AUV作业性能的影响程度^[55]，可将其划分为12个类别及3个等级。例如，“数据丢失或损坏”和“产生额外成本”被归类为中等影响，介于无实质影响与导致装备损毁（例如碰撞、耐压壳体泄漏）的极端情况之间。

相关研究通过对AUV执行6组任务期间的故障记录分析，建立了每公里平均故障数及单次任务平均故障数2项可靠性指标^[55]。在基于行驶距离计算故障概率F（t）和可靠度R（t）时，采用了威布尔分布的假设^[55]，计算公式如下。

式中：α，β为威布尔分布的参数。

1.2   任务性能视角的可靠性

1.2.1   任务性能视角的可靠性概念

自动驾驶汽车作为一种主要服务于交通运输场景的新兴智能产品，其任务场景与人民群众生活出行需求密切相关。与经典可靠性工程中基于故障的视角不同，一些研究从服务系统的视角来定义自动驾驶汽车的可靠性。例如，Makarova提出，需要将车辆本身纳入“车—人—环境—服务”协同体系予以考量，并预测未来将形成由制造商构建的、与运行环境深度融合的品牌化服务网络^[56]。

从服务系统视角来看，自动驾驶汽车可靠性研究主要围绕任务执行能力展开概念界定。现有研究从3个维度构建理论框架：①强调任务完成的时间与资源效率，将可靠性定义为系统在规定条件下准时完成既定任务的能力^[57-58]；②关注质量维持特性，着重系统在特定时间段内保持既定服务质量水平的能力^[59-61]；③突出任务完整性要求，将可靠性量化为任务完成效能^[62-63]。值得关注的是，部分研究尝试构建量化评估体系，例如通过仿真测试轮次表现构建评价指标^[64]，或运用故障树分析法建立包含软硬件的综合评估模型^[54]。

在用户满意度评估的相关研究中，自动驾驶汽车的可靠性也同样与任务性能相联系。例如，研究者通过评估防止采用无效和不正确测量得到的性能数据来评估自动驾驶汽车的可靠性^[65]。相关研究假设，如果自动驾驶方法能够可靠地估计情况评估模块的推理结果，则该方法具有很高的可靠性^[66-69]。

1.2.2   任务性能视角的可靠性指标

相关研究指出，自动驾驶的性能具有动态演变特征，需要根据环境变化实时予以评估^[28]。实时性能指标被运用于评估自动驾驶汽车的性能可靠性。其中，碰撞时间（Time To Collision，TTC）作为经典指标被广泛应用于风险预测^{[66, 70-72]}。但该指标存在固有局限：当主车（Ego-vehicle）与目标车以相近速度近距离行驶时，可能低估实际风险；同时无法有效处理前车急停等突发场景^[66]。为此，研究者提出将安全余量（Minimal Safety Margin，MSM）和制动时间（Time To Brake，TTB）作为补充指标，并提出将进入时间（Time To Enter，TTE）这一指标用于交叉路口风险评估^{[66, 73]}。这些指标满足阈值条件的概率被用来反映自动驾驶汽车的可靠性，相关公式如下：

式中：e表示主车，k表示观测车辆，v_t^e为主车速度，v_t^k为观测车辆速度；d_t^k指主车和观测车辆之间的纵向距离，c_k表示碰撞区域，d_t^k（c_k）为沿道路曲率从观测车辆到碰撞区域的距离。

在自动驾驶任务规划层面，相关研究引入状态移动可靠性（State Mobility Reliability，SMR）^[74]与任务移动可靠性（Mission Mobility Reliability，MMR）^[75]双重评估体系。前者量化特定位置的可达性，后者评估全程路径的可行性。通过基于车辆参数、环境参数与仿真模型的协同分析，建立了速度阈值的动态控制机制^[74]。SMR和MMR的计算公式如下：

式中：x表示位置，ψ表示给定的任务路径；V（x）代表车辆机动性，设置为AGV可达到的最大速度；V_limit为保持车辆机动性的速度阈值；W为车辆参数；Y为路面坡度或土壤性质；G（·，·）为仿真模型。

在自动驾驶汽车的多源感知融合研究中，研究者提出采用角度误差指标来评估车道线检测可靠性^[76]，公式如下。

式中：h表示候选路径，为车辆在t₀时刻的初始位置，为车辆在控制点CP_h的位置，为当车辆到达CP_h时的位置真值，ε_α为角度误差的阈值，s'_h为传感器相关信息，γ'为场景信息。

任务性能视角的可靠性还被应用到自主水下航行器的相关研究中，将系统可靠性转化为设计约束的达标概率，综合考虑质量标准化、检测时效比等关键参数^[77]。

1.2.3   任务性能视角的可靠性的形式化定义

基于现有研究，本文总结了任务性能视角的自动驾驶汽车可靠性的形式化定义，即

式中：P为自动驾驶汽车的一组关键性能指标（Key Performance Indicator，KPI）；D_P为满足用户需求的P的取值集合，它是全集U_P（由P的所有可能值组成）的一个子集；T为给定的时间或距离。

从任务性能的角度来看，可靠性R被定义为自动驾驶汽车的关键性能指标P在给定时间或距离T下满足用户需求的概率。

1.3   其他相关指标和视角

在一些相关研究中，虽然对可靠性的描述也依赖于1.1节中所述的故障，但可靠性不再是一个时间依赖的函数，而是被简化为与时间无关的简单频率指标，以适应工程应用场景。例如，无人机路径规划采用了模拟试验成功率指标^[78]，公式为

式中：N_E为在特定攻击条件和信息下的随机试验次数，b（N_E）为不会崩溃的试验数量。

相似的指标还被应用于多自主水下航行器（multi-AUV）协作系统^[79]，公式为

式中：N_sim为仿真重复次数，N_f为失效数量。

近年来，环境因素对可靠性的影响机制研究取得显著进展。研究者发现交通拥堵度与环境事故率的提升会显著降低自动驾驶汽车的可靠性^[80]。对此，车联网技术支持下的实时态势感知系统展现出双重优化效应，既能通过动态信息交互提升驾驶员操作效能^[81]，又能协同车载传感技术增强无人运输网络的整体可靠性^[82]。

一些研究从用户感知的维度对自动驾驶汽车可靠性的影响因素进行了探讨。有相关研究指出，驾驶员特质焦虑水平与系统接管能力的感知可靠性存在显著相关性^[83]。研究者将可靠性纳入用户信任模型，提出需要建立用户偏好建模与参与度监测的复合分析框架^[84]。还有研究探讨了驾驶员的情绪与系统可靠性的交互机制^[85]，以及驾驶经验在感知可靠性模型中的调节作用^[19]。此外，在由自动驾驶汽车和人类驾驶员组成的混合交通流场景下，相关研究采用了安全操作可靠性的观点^[86]。这一观点意味着所提出的方法并不能保证无碰撞行为，而是侧重于确定实现具有任意所需可靠性水平的人类安全所需的资源^[86]。

可靠性评估是指基于概率方法对与系统可靠性相关的各种指标进行定量的估算。目前，汽车行业依赖ISO 26262《道路车辆功能安全》等传统标准来确保汽车电子系统在不同开发阶段的安全性^[87-88]。然而，Pateras指出，随着设备规模和复杂性的不断增加，要满足ISO 26262的质量和可靠性要求将变得更加困难，这表明未来需要研究更实用的标准^[89]。因此，已有一些研究提出了评估自动驾驶汽车可靠性的新方法。

自动驾驶汽车的可靠性评估通常基于仿真和测试的统计数据。已有相关研究通过仿真来测试自动驾驶汽车商业模型的可靠性。大多数仿真方法都在接近真实环境的非驾驶员环境（NDE）仿真中测试高保真自动驾驶汽车模型，例如英特尔的CARLA、微软的AirSim、英伟达的Drive Constellation、谷歌/Waymo的CarCraft、百度的自动驾驶仿真系统（AADS）^[90]。相关研究实施了4项试验，以验证其可靠性评估框架的有效性，包括：①基于机器人操作系统（ROS）的内部仿真器^[91]，用于测试自动驾驶系统（ADS）在处理危险情况时的能力；②另一个基于ROS的内部仿真器，用于测试ADS对交通信号灯的反应能力；③在开源的CARLA平台上测试保持车道行驶的能力^[92]；④道路测试。研究表明，对自然驾驶环境进行稀疏但对抗性的调整，从而形成自然驾驶与对抗性驾驶相结合的环境，可以在不损失评估公正性的前提下显著减少所需的测试里程^[90]。

在本节中，我们将对用于评估自动驾驶汽车可靠性的方法进行全面综述。

2.1   基于系统结构的可靠性评估

一些现有研究从系统结构的角度对自动驾驶汽车的可靠性进行评估。与传统机械产品或机电产品不同，自动驾驶汽车不仅受到传感器、执行器和机械部件功能的影响，还受到控制软件的操作及其与其他部件、人类驾驶员和环境交互的影响。控制器中的故障可能会被环境条件或人为错误激活，并传播到系统中，导致安全隐患^[93]。

现有研究从经典可靠性理论出发，基于串并联、k-out-of-n等常见结构的基本原理构建概率模型^{[38, 41, 44, 94]}。值得注意的是，k-out-of-n系统模型展现出强大的适用性，既被应用于自主水下航行器的失效概率计算^[95]，也为无人机和无人机编队可靠性评估提供了有效工具^[96-98]。相关研究指出，马尔可夫链嵌入法（Markov Chain Embedded Method，MCEM）通过构建空间环形分布模型，能有效估算多旋翼无人机系统的平均失效时间（MTTF）及其置信区间^[96]。表1为此类可靠性模型的具体公式表达。

表1 基于系统结构的可靠性模型

图4 AGV的故障树模型

2.2   基于总体指标的可靠性评估

与阐述基于系统结构的可靠性评估方法的文献相比，另一类文献将自动驾驶汽车视作一个整体，而不关心其内部具体结构。换言之，自动驾驶汽车的系统可靠性不是基于其内部组件的可靠性计算得出的，而是由汽车某些可以直接观察到的特定可靠性指标所决定的。这些方法可分为2类：①故障视角的可靠性评估；②任务性能视角的可靠性评估。

2.2.1   故障视角的可靠性评估

针对自动驾驶汽车的软件可靠性，相关研究普遍采用故障注入方法或软件可靠性增长模型开展评估。有研究者采用了故障注入方法^[34]，通过开源故障注入框架SOFIA^[99]实现软件错误模拟，在程序执行过程中对寄存器或内存地址实施单比特翻转操作，以评估MWTF和EAFC这2项可靠性指标，为系统可靠性分析提供量化依据。基于软件可靠性增长模型（Software Reliability Growth Model，SRGM）的方法建立失效间隔时间的随机过程模型，通过故障修复迭代过程预测系统可靠性演化趋势^{[49, 100]}。

对于与自动驾驶汽车脱离相关的可靠性评估，相关研究^[100]结合Waymo公司公开的脱离事件数据^[101]开展了实证分析。研究表明，即使采用强化学习进行长期训练（达到数十年甚至百年量级），在全方位驾驶场景下要达到预期可靠性目标仍面临严峻挑战。这一结论对采用与Waymo架构相近的自动驾驶系统具有普适性警示意义。

此外，还有研究应用了保守贝叶斯推断（Conservative Bayesian Inference，CBI）方法^[102]，通过重构似然函数建立事故概率评估模型。该方法突破了传统贝叶斯框架的限制，不仅能够处理极端小概率事件，还可兼容部分先验信息的复杂场景，显著提升了可靠性评估的工程适用性。

2.2.2   任务性能视角的可靠性评估

在评估框架构建方面，Roshdi提出了支持多源数据融合的实时统一测试框架^[57]。不同来源的数据被转换为带时间戳的结构化数据包，然后传递给ADS评估器。其评估指标体系涵盖碰撞风险、车道偏离、交规遵守等核心维度，并在模拟交叉路口、实车道路测试等多个场景中验证了系统的有效性。

相关研究针对交叉路口和高速变道场景开发了多维度风险评估体系^{[66, 73]}，基于TTE指标，将危险（Dangerous）、注意（Attentive）、安全（Safe）定义为发生碰撞可能性的3个整体风险等级，并采用贝叶斯网络方法对场景中的动态车辆的潜在风险进行了量化评估。

综上所述，基于系统结构和总体指标的2类可靠性评估方法各有侧重、互为补充。前者针对自动驾驶汽车的故障或失效与其内部组件之间的关联进行分析与建模，后者则针对预定义的总体指标进行统计分析和量化建模。

图5 自动驾驶汽车可靠性技术的未来研究方向

（1）适用于自动驾驶汽车的可靠性指标体系有待完善。现有的可靠性指标从服务系统的视角对任务性能进行量化，但仍然未能考虑复杂任务场景下自动驾驶汽车的特性，例如动态的任务输入、复杂多变的环境条件、多模块交互过程及多阶段任务。针对自动驾驶汽车的特性，研究综合考虑故障、失效、任务性能及动态因素的可靠性指标体系，是实现对其精准可靠性评估的基础。

（2）自动驾驶汽车的系统失效机理尚未得到深入挖掘与研究。现有的可靠性研究考虑了自动驾驶汽车失效的二状态和多状态假设，但这类简化假设不能准确反映其内部功能模块交互过程的时延、误差和故障的内在机理。建立准确有效的可靠性模型，探索误差传播、误差累积效应、数据传输时延的机理及其对自动驾驶汽车的影响，是一个重要的研究方向。

（3）针对自动驾驶汽车的运营与维修决策技术仍有待研究与应用。自动驾驶汽车安全、可靠、高效的运行离不开良好的运维保障。然而，自动驾驶汽车的硬件、软件和AI组件的故障类型与维修保养方式各不相同，导致其运维的复杂程度比常规系统更高。同时，自动驾驶汽车通常依赖蓄能电池提供动力，当其在充电或维修时通常处于不可用的状态，所以维修任务必须要与运营任务、充电任务协同规划，从而提升整个系统的运营效能。因此，针对硬件、软件和AI组件分别开展基于寿命预测和运行状态监测的维修优化，并在充分考虑复杂任务场景带来的复杂性与不确定性的基础上，开展系统级运维规划，是一个重要的研究方向。

[1] SENTINEL M. Phantom Auto'will tour city[J]. The milwaukee sentinel, 1926, 4.

[2] 王聪, 胡文, 李文博, 等. 社会认知自动驾驶[J]. 机械工程学报, 2023, 59(20): 304-324.

[3] 王燕文, 张钊. 自动驾驶汽车测试评价技术研究[J]. 上海汽车, 2025(4): 33-38.

[4] VAHIDI A, ESKANDARIAN A. Research advances in intelligent collision avoidance and adaptive cruise control[J]. IEEE Transactions on intelligent transportation systems, 2003, 4(3): 143-153. DOI: 10.1109/TITS.2003.821292

[5] 翟树余. 安全视域下自动驾驶交通安全管理思考[J]. 时代汽车, 2025(12): 193-195.

[6] KALRA N, PADDOCK S M. Driving to safety: How many miles of driving would it take to demonstrate autonomous vehicle reliability[J]. Transportation research part a policy & practice, 2016, 94(dec. ): 182-193.

[7] CUI J, LIEW L S, SABALIAUSKAITE G, et al. A review on safety failures, security attacks, and available countermeasures for autonomous vehicles[J]. Ad hoc netw, 2019, 90: 13.

[8] SCHULZE T, MüLLER B, MEYER G. Advanced microsystems for automotive applications 2015: smart systems for green and automated driving[M]. Springer, 2015.

[9] OSóRIO A, PINTO A. Information, uncertainty and the manipulability of artificial intelligence autonomous vehicles systems[J]. International journal of human-computer studies, 2019, 130: 40-46. DOI: 10.1016/j.ijhcs.2019.05.003

[10] OLUFOWOBI H, BLOOM G. Connected cars: automotive cybersecurity and privacy for smart cities-sciencedirect[J]. Smart cities cybersecurity and privacy, 2019: 227-240.

[11] PEI K, CAO Y, YANG J, et al. DEEPXPLORE: automated whitebox testing of deep learning systems[J]. Mobile computing and communications review, 2018, 22(3): 36-38.

[12] BOUDETTE N. Fatal tesla crash raises new questions about autopilot system[R]. 2018.

[13] MONEYWATCH. Tesla's "Full Self-Driving"system faces probe after pedestrian death[R]. 2024.

[14] ASIA. Driverless taxi accident in China sparks discussions on challenges of autonomous driving tech[R], 2024.

[15] 界面新闻. 致命两秒: 小米SU7碰撞爆燃事故全复盘[R], 2025.

[16] KUO W, ZUO M J. Optimal reliability modeling[J]. John wiley & sons, 2003.

[17] LAWRENCE J D. Software reliability and safety in nuclear reactor protection systems[J]. 1996.

[18] 魏辉鸿. 自动驾驶出行服务发展问题及对策研究[J]. 汽车与驾驶维修, 2025(3): 24-26.

[19] 查验宣, 李晶. 知识背景对自动驾驶车辆使用意愿的影响——基于技术接受模型[J]. 科技导报, 2025, 43(3): 81-94.

[20] 刘劲椿阳. 自动驾驶技术引发的刑法归责问题研究[J]. 法制博览, 2025(11): 43-45.

[21] GRABBE N, KELLNBERGER A, AYDIN B, et al. Safety of automated driving: The need for a systems approach and application of the functional resonance analysis method[J]. Safety science, 2020, 126: 104665. DOI: 10.1016/j.ssci.2020.104665

[22] NASCIMENTO A M, VISMARI L F, MOLINA C, et al. A systematic literature review about the impact of artificial intelligence on autonomous vehicle safety[J]. IEEE Transactions on intelligent transportation systems, 2020, 21(12): 4928-4946. DOI: 10.1109/TITS.2019.2949915

[23] LINKOV V, ZAMECNIK P, HAVLICKOVA D, et al. Human factors in the cybersecurity of autonomous vehicles: trends in current research[J]. Front psychol, 2019, 10: 7. DOI: 10.3389/fpsyg.2019.00007

[24] SKRICKIJ V, SABANOVIC E, ZURAULIS V. Autonomous road vehicles: recent issues and expectations[J]. IET Intelligent transport systems, 2020, 14(6): 471-479. DOI: 10.1049/iet-its.2018.5513

[25] GUPTA R, TANWAR S, KUMAR N, et al. Blockchain-based security attack resilience schemes for autonomous vehicles in industry 4.0: a systematic review[J]. Computers & electrical engineering, 2020, 86.

[26] CASTANO F, STRZELCZAK S, VILLALONGA A, et al. Sensor reliability in cyber-physical systems using internet-of-things data: a review and case study[J]. Remote sens, 2019, 11(19): 20.

[27] MATOS F, BERNARDINO J, DURAES J, et al. A survey on sensor failures in autonomous vehicles: challenges and solutions[J]. Sensors, 2024, 24(16): 5108. DOI: 10.3390/s24165108

[28] KUO-WEI W, CHUNG-CHIH L, WEN-FANG W. Reliability and safety assessment of automated driving systems: review and preview[C]//2020 IEEE International Conference on Industrial Engineering and Engineering Management (IEEM), 2020: 390-394.

[29] XING L D, JOHNSON B W. Reliability theory and practice for unmanned aerial vehicles[J]. IEEE Internet of things journal, 2023, 10(4): 3548-3566. DOI: 10.1109/JIOT.2022.3218491

[30] RAUSAND, MARVIN. Risk assessment: theory, methods, and applications[M]. Risk assessment: theory, methods, and applications, 2011.

[31] STAMATELATOS M. Probabilistic risk assessment procedures guide for NASA managers and practitioners[J]. 2002.

[32] 2019 CA DMV Disengagement Reports, Cover Letters and Supplemental Materials[Z]//VEHICLES T C D O M. 2020

[33] AHARI A, NOVACEK J, VIEHL A, et al. CTEF: collaborative technology evaluation framework[C]//The 4th IEEE International Symposium on Systems Engineering (ISSE), 2018. 

[34] BANDEIRA V, OLIVEIRA I, ROSA F, et al. An extensive soft error reliability analysis of a real autonomous vehicle software stack[J]. IEEE Transactions on circuits and systems ii-express briefs, 2021, 68(1): 446-450.  

[35] CROWE S. Waymo autonomous vehicles leave Apple in the dust[Z]. 2019.

[36] DABBOUSSI A, KOUTA R, GABER J, et al. Dependability overview for autonomous vehicles and reliability analysis for basic safety messages[C]//The 2018 Sixth International Conference on Digital Information, Networking, and Wireless Communications (DINWC), 2018.

[37] DATABASE T N H T S A. Fatality Analysis Reporting System (FARS)[Z]. 2020.

[38] HAGELE G, SOFFKER D, IEEE. Safety unit-based safe behavior assurance for autonomous and semi-autonomous aerial systems: requirements, concept, and simulation results[C]. 2017 28th IEEE Intelligent Vehicles Symposium, 2017: 1546-1551.

[39] HOREIS T F, KAIN T, MüLLER J, et al. A reliability engineering based approach to model complex and dynamic autonomous systems[C]//The 2020 International Conference on Connected and Autonomous Driving (MetroCAD), 2020.

[40] JIAWEI, ZHENG, SONGLIN, et al. Reliability modeling of multi-state degraded repairable systems and its applications to automotive systems[J]. Quality & reliability engineering international, 2018, 34(3): 459-474.

[41] KHALID M H, SHAKELL S Z, MANSOOR S A, et al. FATCAR-AUV: fault tolerant control architecture of AUV[C]//2007 International Bhurban Conference on Applied Sciences and Technology, 2007: 161-167.

[42] LAKOMICKI P, CASTANIER B, GRALL A, et al. Incremental reliability modeling framework to optimize vehicle's validation tests[C]//The Annual Reliability and Maintainability Symposium (RAMS), 2018.

[43] MIN J, HONG Y, KING C B, et al. Reliability analysis of artificial intelligence systems using recurrent events data from autonomous vehicles[J]. Journal of the royal statistical society series C: applied statistics, 2022, 71(4): 987-1013. DOI: 10.1111/rssc.12564

[44] RAVANDI M G, MORTAZAVI M, GHORSHI S, et al. CPM: a congestion control method for interplanetary network[C]//The IEEE 27th Canadian Conference on Electrical and Computer Engineering (CCECE), 2014.

[45] WATANABE T, WOLF D. Verisimilar percept sequences tests for autonomous driving intelligent agent assessment[M]. 2018.

[46] YAN R D, JACKSON L M, DUNNETT S J. Automated guided vehicle mission reliability modelling using a combined fault tree and Petri net approach[J]. International journal of advanced manufacturing technology, 2017, 92(5-8): 1825-1837. DOI: 10.1007/s00170-017-0175-7

[47] ZHAO X Y, SALAKO K Z, STRIGINI L, et al. Assessing safety-critical systems from operational testing: a study on autonomous vehicles[J]. Information and software technology, 2020, 128: 106393. DOI: 10.1016/j.infsof.2020.106393

[48] CHEN F, CHEN S R. Reliability-based assessment of vehicle safety in adverse driving conditions[J]. Transp Res Pt C-emerg technol, 2011, 19(1): 156-168. DOI: 10.1016/j.trc.2010.05.003

[49] ZHAO X Y, ROBU V, FLYNN D, et al. Assessing the safety and reliability of autonomous vehicles from road testing[C]//2019 IEEE 30th International Symposium on Software Reliability Engineering, 2019: 13-23.

[50] SCHIRMEIER H, BORCHERT C, SPINCZYK O. Avoiding pitfalls in fault-injection based comparison of program susceptibility to soft errors[C]//The 2015 45th Annual IEEE/IFIP International Conference on Dependable Systems and Networks, 2015.

[51] DMV C. Disengagement reports[R]. 2025.

[52] 蒲畴嶷, 徐瑞彪. 面向自动驾驶接管的人机信任多通道交互设计[J]. 机电产品开发与创新, 2025, 38(2): 35-38.

[53] SKOKAN A, MARECEK J. Could disengagement reports indicate evolution of autonomous vehicles?[J]. Vehicles, 2025, 7(2): 32. DOI: 10.3390/vehicles7020032

[54] BYUN S, PAPAELIAS M, MARQUEZ F P G, et al. Fault-tree-analysis-based health monitoring for autonomous underwater vehicle[J]. Journal of marine science and engineering, 2022, 10(12).

[55] GRIFFITHS G, MILLARD N W, MCPHAIL S D, et al. On the reliability of the autosub autonomous underwater vehicle[J]. Underwater technology, 2003, 25(4): 175-84. DOI: 10.3723/175605403783101612

[56] MAKAROVA I, MUKHAMETDINOV E, MA VRIN V, et al. Improvement of the vehicle clutch's diagnosing system with the use of vibrodiagnostics[C]//The IEEE International Conference on Technology Management, Operations and Decisions (ICTMOD), 2018.

[57] ROSHDI M, NAYEER N, ELMAHGIUBI M, et al. A Unified evaluation framework for autonomous driving vehicles[C]//2020 IEEE Intelligent Vehicles Symposium (IV), 2020.

[58] AL HADDAD C, CHANIOTAKIS E, STRAU BINGER A, et al. Factors affecting the adoption and use of urban air mobility[J]. Transportation research part a-policy and practice, 2020, 132: 696-712. DOI: 10.1016/j.tra.2019.12.020

[59] LINZ T. Testing Autonomous Systems[M]. The Future of Software Quality Assurance, 2020.

[60] ABAEI M M, HEKKENBERG R, BAHOOTO ROODY A. A multinomial process tree for reliability assessment of machinery in autonomous ships[J]. Reliability engineering & system safety, 2021, 210: 107484.

[61] WANG F P, ARAUJO D F, LI Y F. Reliability assessment of autonomous vehicles based on the safety control structure[J]. Proceedings of the institution of mechanical engineers part o-journal of risk and reliability, 2022, 237(2): 389-404.

[62] ZHANG L Y, ZHANG L, LIU S. Role-based collaborative task planning of heterogeneous multi-autonomous underwater vehicles[J]. International journal of advanced robotic systems, 2019, 16(3): 1-7.

[63] GRIFFITHS G, BRITO M, IEEE. Predicting risk in missions under sea ice with autonomous underwater vehicles[M]. 2008 IEEE/OES Autonomous Underwater Vehicles. 2008: 32-38.

[64] ROVIRA E, MCLAUGHLIN A C, PAK R, et al. Looking for age differences in self-driving vehicles: examining the effects of automation reliability, driving risk, and physical impairment on trust[J]. Front psychol, 2019, 10.

[65] FARRELL J A, ROYSDON P F. Advanced vehicle state estimation: a tutorial and Comparative study[C]//The 20th World Congress of the International-Federation-of-Automatic-Control (IFAC), 2017.

[66] NOH S, AN K. Decision-making framework for automated driving in highway environments[J]. IEEE Transactions on intelligent transportation systems, 2018, 19(1): 58-71. DOI: 10.1109/TITS.2017.2691346

[67] NOH S, IEEE. Probabilistic collision threat assessment for autonomous driving at unsignalized T-junctions: merging into traffic on the major road and being merged by traffic on the minor road[C]//2018 International Conference on Information and Communication Technology Convergence, 2018: 989-995.

[68] NOH S. Probabilistic collision threat assessment for autonomous driving at road intersections inclusive of vehicles in violation of traffic rules[C]//The 25th IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 2018.

[69] WEN W S, HSU L T, ZHANG G H. Performance analysis of NDT-based graph SLAM for autonomous vehicle in diverse typical driving scenarios of Hong Kong[J]. Sensors, 2018, 18(11): 3928. DOI: 10.3390/s18113928

[70] KAEMPCHEN N, SCHIELE B, DIETMAYER K. Situation assessment of an autonomous emergency brake for arbitrary vehicle-to-vehicle collision scenarios[J]. IEEE Transactions on intelligent transportation systems, 2009, 10(4): 678-687. DOI: 10.1109/TITS.2009.2026452

[71] PAIGWAR A, BARANOV E, RENZAGLIA A, et al. Probabilistic collision risk estimation for autonomous driving: validation via statistical model checking[C]//2020 IEEE Intelligent Vehicles Symposium (IV), 2020: 737-743.

[72] JEONG S, BAEK Y, SON S H. Component-based interactive framework for intelligent transportation cyber-physical systems[J]. Sensors, 2020, 20(1): .

[73] NOH S. Decision-making framework for autonomous driving at road intersections: safeguarding against collision, overly conservative behavior, and violation vehicles[J]. IEEE Trans ind electron, 2019, 66(4): 3275-3286. DOI: 10.1109/TIE.2018.2840530

[74] JIANG C, HU Z, MOURELATOS Z P, et al. R2-RRT: reliability-based robust mission planning of off-road autonomous ground vehicle under uncertain terrain environment[J]. IEEE Transactions on automation science and engineering, 2022, 19(2): 1030-1046. DOI: 10.1109/TASE.2021.3050762

[75] LIU Y X, JIANG C, MOURELATOS Z P, et al. Simulation-based mission mobility reliability analysis of off-road ground vehicles[J]. Journal of mechanical design, 2021, 143(3).

[76] NGUYEN T T, SPEHR J, ZUG S, et al. Multisource fusion for robust road detection using online estimated reliabilities[J]. IEEE Transactions on industrial informatics, 2018, 14(11): 4927-4939. DOI: 10.1109/TII.2018.2865582

[77] GHOLINEZHAD H, TORABI S H. Reliability-based multidisciplinary design optimization of an underwater vehicle including cost analysis[J]. Journal of marine science and technology, 2022, 27(1): 11-26. DOI: 10.1007/s00773-021-00804-2

[78] RODRIGUES L, RIKER A, RIBEIRO M, et al. Flight planning optimization of multiple UAVs for internet of things[J]. Sensors (Basel), 2021, 21(22): 7735. DOI: 10.3390/s21227735

[79] LIANG Q, SUN T, OU J. System reliable probability for multi-AUV cooperative systems under the influence of current[J]. Journal of navigation, 2019, 72(6): 1649-1659. DOI: 10.1017/S0373463319000298

[80] HARDY B, FENNER R A. Towards the sustainability of road transport through the introduction of AV technology[J]. Proceedings of the institution of civil engineers-engineering sustainability, 2015, 168(5): 192-203. DOI: 10.1680/jensu.14.00053

[81] KULKARNI C, CORBETTA M, IEEE. Health management and prognostics for rlectric aircraft powertrain[M]. 2019.

[82] TALEBPOUR A, MAHMASSANI H S, BUSTAMANTE F E. Modeling driver behavior in a connected environment: integrated microscopic simulation of traffic and mobile wireless telecommunication systems[J]. Transportation research record, 2016, 2560(1): 75-86. DOI: 10.3141/2560-09

[83] QU W N, SUN H L, GE Y. The effects of trait anxiety and the big five personality traits on self-driving car acceptance[J]. Transportation, 2021, 48(5): 2663-2679. DOI: 10.1007/s11116-020-10143-7

[84] SARKER A, SHEN H Y, RAHMAN M, et al. A review of sensing and communication, human factors, and controller aspects for information-aware connected and automated vehicles[J]. IEEE Transactions on intelligent transportation systems, 2020, 21(1): 7-29. DOI: 10.1109/TITS.2019.2892399

[85] ZIEGER S, DONG J Y, TAYLOR S, et al. Happiness and high reliability develop affective trust in in-vehicle agents[J]. Front psychol, 2023, 14.

[86] HICKERT C, LI S, WU C. Cooperation for scalable supervision of autonomy in mixed traffic[J]. IEEE Transactions on robotics, 2023, 39(4): 2751-2769. DOI: 10.1109/TRO.2023.3262120

[87] SHI W, ALAWIEH M B, LI X, et al. Efficient statistical validation of machine learning systems for autonomous driving[C]//The 35th IEEE/ACM international conference on computer-aided design (ICCAD), 2016.

[88] MARTIN H, TSCHABUSCHNIG K, BRIDAL O, et al. Functional safety of automated driving systems: does ISO 26262 meet the challenges?[J]. Automated driving: safer and more efficient future driving, 2017: 387-416.

[89] PATERAS S, TAI T P, IEEE. Automative semiconductor test[C]//The International Symposium on VLSI Design, Automation and Test (VLSI-DAT), 2017.

[90] FENG S, YAN X T, SUN H W, et al. Intelligent driving intelligence test for autonomous vehicles with naturalistic and adversarial environment[J]. Nat commun, 2021, 12(1): 14. DOI: 10.1038/s41467-020-20170-8

[91] QUIGLEY M, CONLEY K, GERKEY B P, et al. ROS: an open-source robot operating system[Z]. ICRA Workshop on Open Source Software, 2009.

[92] DOSOVITSKIY A, ROS G, CODEVILLA F, et al. CARLA: an open urban driving simulator[C]//Conference on Robot Learning (Co RL), 2017.

[93] RUBAIYAT A M, QIN Y M, ALEMZADEH H, et al. Experimental resilience assessment of an open-source driving agent[C]//2018 IEEE 23rd Pacific Rim International Symposium on Dependable Computing, 2018: 54-63.

[94] ELSAYED E A. Reliability engineering[M]. Reliability engineering, 2005.

[95] BRITO M, SMEED D, GRIFFITHS G. Underwater glider reliability and implications for survey design[J]. Journal of atmospheric and oceanic technology, 2014, 31(12): 2858-2870. DOI: 10.1175/JTECH-D-13-00138.1

[96] HUA D G, ELSAYED E A. Reliability estimation of k-out-of-n pairs: G balanced systems with spatially distributed units[J]. IEEE Transactions on reliability, 2016, 65(2): 886-900. DOI: 10.1109/TR.2015.2495153

[97] HUA D G, ELSAYED E A. Reliability approximation of k-out-of-n pairs: G balanced systems with spatially distributed units[J]. IISE Transactions, 2018, 50(7): 616-626. DOI: 10.1080/24725854.2018.1431742

[98] ZAITSEVA E, LEVASHENKO V, BRINZEI N, et al. Reliability assessment of UAV fleets[J]. Emerging networking in the digital transformation age: approaches, protocols, platforms, best practices, and energy efficiency lecture notes in electrical engineering (965), 2023: 335-357.

[99] BANDEIRA V, ROSA F, REIS R, et al. Non-intrusive fault injection techniques for efficient soft error vulnerability analysis[C]//The 27th IFIP/IEEE International Conference on Very Large Scale Integration (VLSI-SoC), 2019.

[100] BJELICA M Z, MRAZOVAC B. Reliability of self-driving cars: when can we remove the safety driver?[J]. IEEE Intelligent transportation systems magazine, 2023, 15(4): 46-54. DOI: 10.1109/MITS.2023.3244271

[101] Autonomous vehicles: disengagement reports[R]. 2021.

[102] ZHAO X Y, ROBU V, FLYNN D, et al. Assessing the safety and reliability of autonomous vehicles from road testing[C]//The 30th IEEE International Symposium on Software Reliability Engineering (ISSRE), 2019.

长按扫码 阅读原文