当算法手握生死簿:自动驾驶的“电车难题2.0”,谁来决定谁该活?

想象一下这个场景：你坐在一辆全速行驶的自动驾驶汽车里，前方突然蹿出五个行人。刹车已经来不及了，但系统检测到——如果猛打方向盘，可以撞向旁边车道，那里只有一个行人。

救五个，还是救一个？

这不是电影桥段。这是自动驾驶技术商业化落地前，我们必须回答的一道“送命题”。

从思想实验到现实困境：电车难题的“2.0版”

“电车难题”是伦理学领域最著名的思想实验之一。原版故事很简单：一辆失控的电车即将撞死前方五个工人，你可以扳动开关让电车转向另一条轨道，但那条轨道上站着一个人。你会扳吗？

半个世纪以来，这个问题困扰了无数哲学家。如今，它被“移植”到了自动驾驶汽车上。不同的是，当年那个扳开关的人换成了冰冷的算法——而决策时间，被压缩到了毫秒级。

这不再是思想实验，而是工程师们必须写进代码里的现实问题。正如有学者指出的，自动驾驶汽车不可能百分百安全，无法完全避免事故。因此，我们需要设计一套“事故算法”，让自动驾驶在不同情境下自主对可能的危险做出反应。这本质上是一个伦理问题，不是技术问题，因为核心在于如何分配风险。

算法在毫秒间的“道德选择题”

那么，目前主流的方案有哪些？

第一种是功利主义算法。简单说就是“伤亡最小化”——哪边死的人少，就选哪边。听起来很合理对吧？但问题在于：谁有资格预先定义谁是“可牺牲者”？ 这种做法从根本上违背了现代法律体系中“生命价值平等”的基本准则。就像孟子在《鱼我所欲也》中所说：“生亦我所欲也，义亦我所欲也；二者不可得兼，舍生而取义者也。”生命无法用数量来简单衡量价值。

第二种是义务论算法，以康德哲学为根基。康德提出“绝对命令”：“不论做什么，总应该做到使你的意志所遵循的准则永远同时能够成为一条普遍的立法原理。”翻译成人话就是：你的行为准则要能成为所有人都遵守的普遍法则。应用到自动驾驶上，就是不能主动把任何人当作手段。但问题来了——当碰撞不可避免时，“不作为”本身也是一种选择。

第三种更“取巧”——伦理旋钮。让车主自己设定偏好：你希望你的车优先保护你，还是优先保护行人？听起来民主对吧？但有个致命漏洞：如果每辆车都极度自私，只会造成“囚徒困境”——所有人都输。

你看，每一种方案都有道理，每一种又都有漏洞。

比“怎么选”更可怕的是“谁在选”

然而，比“算法该怎么选”更让人细思极恐的是另一个问题：谁有资格替全人类写好这道题的答案？

是工程师？是车企CEO？是政府监管部门？还是……我们每一个人？

MIT曾做过一个名为“道德机器”的大型实验，收集全球数百万人的道德偏好数据，试图“用民意解决道德算法问题”。实验发现，人们的直觉是如此不融贯、不一致：人们普遍认为拥有功利主义式事故算法的自动驾驶汽车最具道德性，但却鲜有人想购买此款汽车。

换句话说：大家都觉得“牺牲自己保护路人”是对的，但没人愿意买一辆会牺牲自己的车。

这让人想起墨子的“兼爱”思想——“视人之国若视其国，视人之家若视其家，视人之身若视其身”。理论上我们都认同“兼相爱，交相利”，但真到了生死关头，谁又能毫无保留地爱陌生人如爱自己？

更麻烦的是，自动驾驶的伦理决策远比经典“电车难题”复杂。真实场景里，数据往往是模糊的、不完整的。系统可能只知道“前方有障碍物，碰撞概率很高”，根本来不及也没能力去做“谁的命更值钱”这种精确计算。

谁为算法的“一念之差”买单？

就算算法做出了选择，还有一个更难的问题：谁负责？

基于137例国内外自动驾驶事故案例的研究发现，当前责任认定面临三大困境：算法黑箱导致的因果关系证明困难、伦理决策的法律评价缺位，以及技术等级跃迁下的归责标准混乱。

简单说：撞了人，是算法的问题、车企的问题、还是车主的问题？ 目前的法律体系里，没有标准答案。

最后：没有标准答案的答案

回到开头的那个问题：救五个，还是救一个？

也许真正的答案不是“选哪个”，而是——我们是否应该让算法来做这个选择？

清代魏源曾说：“两害相形，则取其轻；两利相形，则取其重。”这看起来是理性的决策原则。但当“两害”都关乎人命时，“取其轻”的正当性本身就值得质疑。

有学者提出了一种新思路：与其让算法做“两害相权”的残酷计算，不如设计“风险规避优先”的伦理范式——当系统检测到无法完全规避的潜在碰撞风险时，自动触发紧急制动，而非进行传统的“谁该死”式决策。

这或许不是完美的答案，但它至少守住了一条底线：算法不应该扮演上帝。

毕竟，当人类自己都无法在哲学上达成共识的问题，凭什么让一行代码来替我们做决定？

生命无法用算法衡量，就像灵魂无法用代码书写。