自动驾驶伦理别再只谈“电车难题”了：真正的问题，是每天都在发生的风险分配

论文：An international survey on risk distribution preferences for autonomous vehicles
期刊：Transportation Research Part A: Policy and Practice, Volume 201, 2025, Article 104695
作者：Sebastian Krügel, Matthias Uhl
DOI：10.1016/j.tra.2025.104695
方向：自动驾驶伦理、风险分配、跨文化实验、社会接受度、AI 治理
核心问题：自动驾驶到底应该如何在行人、骑行者、乘客和其他道路参与者之间分配风险？

自动驾驶伦理，不该总停在“撞谁”这个问题上

一提到自动驾驶伦理，很多人第一反应就是：

刹车失灵了，车应该撞老人还是撞小孩？
保护乘客，还是保护路人？
如果事故不可避免，算法应该牺牲谁？

这就是经典的“电车难题”。

它确实很有冲击力，也很适合传播。

但问题是：

真实自动驾驶每天面对的伦理问题，大多数并不是最后一秒“撞谁”。

真实驾驶更常见的是另一类问题：

车应该离骑行者远一点，还是离旁边汽车远一点？
车应该更靠近路边，还是更靠近车道中线？
为了提高通行效率，能不能略微增加某些道路参与者的风险？
面对脆弱道路使用者，系统应该额外保守到什么程度？

这些问题没有电车难题那么戏剧化。

但它们每天都在发生。

因为车辆的每一个动作，其实都在重新分配道路参与者之间的风险。

这篇 Transportation Research Part A 2025 的论文，真正有意思的地方就在这里：

它把自动驾驶伦理从“极端事故选择题”，拉回到了“日常交通风险分配”。

一句话看懂这篇论文

这篇论文做的事情可以压缩成一句话：

通过 8 个国家、近 11,000 名参与者的跨文化实验，研究公众希望自动驾驶汽车如何在日常道路场景中分配风险。

它不是问：

如果必须撞一个人，你选谁？

而是问：

在正常行驶中，自动驾驶系统应该如何平衡不同道路参与者的风险？

这就比电车难题更接近真实自动驾驶。

因为真实道路上的自动驾驶系统，绝大多数时候不是在做“生死二选一”，而是在持续做微小但重要的风险权衡。

这篇论文的核心发现也很反直觉：

不同国家、不同文化背景下，人们对自动驾驶风险分配的偏好相当相似。

研究发现，大多数参与者并不支持只最小化事故概率，而是倾向于同时权衡：

• 事故发生概率；
• 事故严重程度；
• 不同道路参与者的脆弱性。

这意味着：

自动驾驶伦理的全球共识，可能比我们想象中更容易建立。

为什么“只最小化事故概率”不够？

很多人会觉得，自动驾驶最简单的原则应该是：

尽可能避免事故。

听起来没问题。

但现实更复杂。

假设自动驾驶汽车在道路中行驶，左侧是一辆汽车，右侧是一名骑行者。

如果它只追求“事故概率最低”，可能会选择离某一侧更近，只要总体碰撞概率更低就行。

但问题是：

同样的碰撞概率，撞到汽车和撞到骑行者的后果完全不同。

汽车有车身保护。
骑行者非常脆弱。
行人更脆弱。

所以伦理决策不能只看：

撞上的概率是多少？

还必须看：

一旦撞上，后果有多严重？

这篇论文的一个关键结论是，绝大多数参与者并不是纯粹按照“最小化事故概率”来判断，而是会权衡事故概率和事故严重性。

这其实很合理。

因为风险本来就不是单一概率。

更完整的风险概念应该接近：

风险 = 事故概率 × 事故严重程度

所以自动驾驶伦理不应该只问：

怎么让事故概率最低？

还应该问：

怎么让整体风险更合理地分配？

这和“电车难题”最大的区别是什么？

电车难题的典型设定是：

事故已经不可避免。
必须二选一。
选择谁被撞。

但日常驾驶风险分配不是这样。

它更像是：

事故还没有发生。
风险只是概率。
车辆每一个微小动作，都会让某些人的风险升高，让另一些人的风险降低。

举个例子。

自动驾驶车辆在车道里保持行驶时，可以略微靠左，也可以略微靠右。

靠左一点，可能离对向车或旁边汽车更近。
靠右一点，可能离骑行者或路边行人更近。

这时候没有“必撞”。

但风险已经在分配。

这就是论文最重要的视角：

自动驾驶伦理不是只存在于事故最后一秒，而是存在于每一次轨迹规划中。

这对技术系统非常关键。

因为轨迹规划本质上就是在优化代价函数。

而代价函数里怎么设置行人、骑行者、车辆、乘客的风险权重，本身就是伦理问题。

为什么这篇比普通伦理讨论更有价值？

普通自动驾驶伦理讨论经常停留在抽象层面：

应该保护多数人还是少数人？
应该保护乘客还是路人？
机器能不能做道德判断？

这些问题当然重要，但它们离工程系统还有距离。

这篇论文更接近自动驾驶真正要实现的东西：

把伦理问题变成风险管理问题。

也就是说，算法不一定需要在车里写一套“道德哲学规则”。

但它必须有一套风险代价函数。

比如：

• 不同道路参与者的碰撞概率如何估计？
• 不同碰撞对象的伤害严重性如何建模？
• 脆弱交通参与者是否应该获得更高保护权重？
• 系统是否允许为了降低一方风险而略微增加另一方风险？
• 这种风险权重是否应该跨国家统一？

这就从“哲学辩论”进入了“算法设计”。

所以这篇论文的价值在于：

它不是讨论自动驾驶在极端事故里该怎么选，而是讨论自动驾驶日常规划中该怎么分配风险。

最有意思的结果：全球差异没有想象中那么大

很多人可能会预设：

自动驾驶伦理肯定因国家和文化不同而差异很大。

比如，有些文化更重视个人权利，有些文化更重视集体利益；有些国家交通秩序更强，有些国家交通环境更混乱。

所以我们可能会以为，不同国家对自动驾驶风险分配的偏好会很不一样。

但这篇研究发现：

不同文化区域之间的道路风险偏好非常相似。

在国家层面，人们对事故概率和事故严重程度的权衡差异并没有想象中那么大。

这个结果很重要。

因为它意味着，自动驾驶伦理规则未必必须完全按国家碎片化定制。

至少在“日常风险分配”这个层面，可能存在比较稳定的跨文化共识。

这和传统电车难题讨论不太一样。

极端事故场景里，人们的选择可能更容易受到文化、身份、情绪和道德直觉影响。

但在日常风险评估中，人们似乎更容易达成一致：

不要只看事故概率，也要看事故后果。

自动车该不该给骑行者“额外优待”？

这篇论文还有一个很值得讨论的结论：

公众并不倾向于给骑行者超出其脆弱性的额外风险奖励。

什么意思？

骑行者比汽车驾驶员更脆弱。

所以在风险管理中，自动驾驶系统应该考虑骑行者一旦被撞，伤害可能更严重。

这意味着骑行者应该被保护。

但问题是：

是否应该在“更脆弱”之外，再给骑行者额外优待？

论文的结果显示，并没有明显证据表明参与者希望无条件给骑行者额外特权。

这个结果很微妙。

它不是说骑行者不应该被保护。

而是说：

公众更倾向于按照风险严重性保护骑行者，而不是无条件给骑行者额外特权。

这对自动驾驶风险函数设计很有启发。

合理的做法不是简单写成：

骑行者权重无限大。

而是应该把骑行者的高脆弱性纳入伤害严重程度建模。

也就是说：

保护弱者，但不是无条件牺牲其他参与者。

社会困境为什么在日常风险里变弱了？

自动驾驶伦理里有一个经典“社会困境”。

当人们从社会角度看时，可能希望自动驾驶车保护行人、减少整体伤亡。

但当自己是乘客时，又希望车辆优先保护自己。

这就产生矛盾：

作为社会成员，我希望车更利他；
作为购买者，我希望车更保护我。

这也是自动驾驶商业化最难的地方之一。

但这篇论文发现，在日常风险评估场景中，传统确定性碰撞场景里发现的这种社会困境似乎被削弱了。

这点很有意思。

为什么？

因为日常风险不是“马上牺牲谁”。

它是概率性的、连续的、可分配的。

当问题从“谁死”变成“如何合理分配小概率风险”，公众更容易接受平衡式风险管理。

这说明：

自动驾驶伦理如果一直讲电车难题，反而可能夸大公众分歧。

真正工程化的风险管理，可能比极端伦理实验更容易形成共识。

对自动驾驶算法有什么启发？

这篇论文虽然是社会科学实验，但它对算法设计有直接启发。

自动驾驶系统的规划模块通常会计算一条最优轨迹。

这条轨迹背后一定有代价函数。

代价函数可能包括：

• 碰撞风险；
• 车道偏离；
• 舒适性；
• 通行效率；
• 法规约束；
• 乘客安全；
• 行人安全；
• 骑行者安全；
• 周车风险。

问题是：

这些风险项的权重怎么定？

如果只由工程师拍脑袋决定，就会带来治理问题。

如果完全由企业自己决定，也可能引发公众不信任。

这篇论文的价值是提供了一个方向：

自动驾驶的风险权重设计，应该参考公众对风险概率和风险严重性的共同偏好。

也就是说，伦理不是一个额外模块。

它应该进入：

• 风险预测；
• 轨迹规划；
• 行为决策；
• 安全验证；
• 法规制定；
• 责任划分。

真正的自动驾驶伦理，不是车内藏着一个“道德按钮”。

而是体现在每一条轨迹的风险代价函数里。

和博弈论有什么关系？

如果从博弈角度看，自动驾驶不是单车决策。

它是多主体互动：

• 自动驾驶车辆；
• 人类驾驶员；
• 行人；
• 骑行者；
• 乘客；
• 监管者；
• 车企；
• 保险公司。

每个主体都有自己的利益和风险偏好。

自动驾驶车如果过于保守，可能被人类驾驶员频繁加塞。
如果过于激进，公众会认为它不安全。
如果过度保护乘客，行人和骑行者会承担更多外部风险。
如果过度保护外部道路参与者，消费者可能不愿购买。

所以自动驾驶伦理本质上也是一个博弈问题：

风险不能凭空消失，只能在不同主体之间重新分配。

这篇论文有价值的地方在于，它试图寻找一种公众可接受的风险分配规则。

也就是让自动驾驶系统不只是技术上可行，还要社会上可接受。

这篇论文真正的启发

这篇论文最值得学习的，不是样本量大。

虽然 8 个国家、近 11,000 人的样本确实很强。

但真正重要的是它的问题重构：

自动驾驶伦理的核心，不是极端事故中的“撞谁”，而是日常驾驶中的“风险怎么分”。

这句话比电车难题更接近真实系统。

因为自动驾驶系统每天要做的不是哲学选择题，而是连续控制：

左偏 10 cm，还是右偏 10 cm？
保守刹车，还是平稳通过？
离骑行者更远，还是避免压到旁车？
为了通行效率，能否接受更高一点的低概率风险？

这些细节，才是自动驾驶伦理真正落地的地方。

当然，也不能过度神化

这篇论文很有价值，但也不能说它已经解决自动驾驶伦理。

第一，它是偏好调查，不等于法规。

公众偏好可以作为参考，但不能直接替代法律责任、工程安全标准和伦理审查。

第二，问卷场景和真实交通系统仍然有差距。

真实驾驶是动态、多主体、连续反馈系统，不是静态选择题。

第三，跨文化相似性不等于完全一致。

即便总体偏好相似，各国法规、道路环境、驾驶习惯和责任体系仍然不同。

第四，它讨论的是风险分配偏好，不等于完整的自动驾驶安全框架。

真正落地还需要结合感知误差、预测不确定性、轨迹规划、安全冗余、事故责任和保险机制。

所以更准确的评价是：

这篇论文不是给出了自动驾驶伦理标准答案，而是证明“日常风险分配”比“电车难题”更适合作为自动驾驶伦理治理的入口。

如果基于这篇做选题，可以怎么延伸？

这篇论文很适合继续往技术方向挖。

方向一：Risk-Distribution-Aware Planning

把公众风险偏好转成自动驾驶规划代价函数。

不是只最小化碰撞概率，而是同时考虑：

• 碰撞概率；
• 伤害严重性；
• 道路参与者脆弱性；
• 乘客与外部参与者之间的风险平衡。

这可以直接接轨自动驾驶轨迹规划。

方向二：Game-Theoretic Risk Allocation

把自动驾驶风险分配建模成多主体博弈。

研究自动驾驶车、人类驾驶员、骑行者和行人之间的风险互动。

核心问题是：

当 AV 更保守时，人类驾驶员是否会利用它？
当 AV 更激进时，社会接受度是否下降？
什么样的策略在安全和效率之间达到均衡？

这条线很适合做“伦理 + 博弈 + 自动驾驶决策”。

方向三：Uncertainty-Aware Ethical Planning

风险分配不能只基于确定预测。

真实系统里，行人轨迹、骑行者行为、周车意图都有不确定性。

所以可以进一步研究：

在预测不确定性下，如何进行伦理风险分配？

这会比静态伦理偏好更接近真实自动驾驶。

方向四：From Survey Preference to Regulation

把公众偏好、交通法规和工程安全指标统一起来。

不是简单问“公众喜欢什么”，而是研究：

哪些公众偏好可以转化为法规？
哪些偏好应该被工程安全标准约束？
企业是否应该公开自己的风险分配策略？

这更偏自动驾驶治理。

总结

这篇论文的核心贡献可以压缩成一句话：

它把自动驾驶伦理从“不可避免事故中牺牲谁”的电车难题，转向“日常驾驶中如何分配风险”的算法治理问题。

它的主要启发是：

• 自动驾驶每一次轨迹规划都在分配风险；
• 伦理问题不只存在于事故最后一秒；
• 公众并不只关心事故概率，也关心事故严重性；
• 不同文化背景下，日常风险分配偏好可能高度相似；
• 自动驾驶伦理更适合进入风险代价函数，而不是停留在抽象哲学讨论；
• 真正的难点不是“撞谁”，而是“如何让风险分配可解释、可接受、可监管”。

这篇最值得学习的地方是：

它把一个看似哲学的问题，变成了自动驾驶规划系统必须回答的风险管理问题。

一句话收尾：

自动驾驶伦理的未来，不在电车难题里，而在每一次轨迹规划的风险权重里。

参考信息

• 论文：An international survey on risk distribution preferences for autonomous vehicles
• 期刊：Transportation Research Part A: Policy and Practice, Volume 201, November 2025, Article 104695
• 作者：Sebastian Krügel, Matthias Uhl
• DOI：10.1016/j.tra.2025.104695
• 预印本题名：The global consensus on the risk management of autonomous driving
• arXiv：https://arxiv.org/abs/2501.05391