自动驾驶的"电车难题"——哲学家的答案

Waymo的自动驾驶出租车已经在旧金山跑了超过两百万英里。没有司机，没有安全员，方向盘自己转。

但我问你一个问题：如果有一天，一辆Waymo面临一个不可回避的选择——撞向一个行人还是撞向五个行人——它应该怎么选？

你说这不可能发生？2023年 Cruise 的无人车就遇到过一个类似的情况：一辆卡车挡住了它的传感器视野，它差点撞上了一个从盲区冲出来的行人。虽然没有伤亡，但那个场景让所有做自动驾驶的人都后背发凉。

工程师的直觉反应是：这种情况概率极低，先不管它。哲学家的反应是：不管概率多低，只要可能性存在，你就必须有一个答案。因为你没有答案，就说明你根本不知道你自己的系统在关键时刻会做什么。

◆ ◆ ◆

"电车难题"可能是哲学史上最著名的思想实验。

一辆失控的电车正冲向五个被绑在轨道上的人。你可以拉一个拉杆，让电车变道到另一条轨道上——但那上面绑着一个人。你拉不拉？

大多数人说拉。牺牲一个，救五个，划算。这叫功利主义——边沁和密尔的路子，追求"最大多数人的最大幸福"。

但哲学家的厉害之处在于，他们会继续追问。

如果那个"一个人"是变道之后你才知道会撞到的人——事情就不一样了。你之前并不知道变道之后还有一个人。这时候责任算谁的？

如果在电车难题里，你不需要拉杆，而是需要把一个胖子从桥上推下去挡住电车——你还干不干？同样是牺牲一个救五个，但大部分人不干了。为什么？

因为在"拉杆"的版本里，你只是在重新分配一个已有的风险。而在"推胖子"的版本里，你是在主动制造一个新的伤害。

       康德会怎么说？他大概会禁止在任何情况下主动伤害任何一个人。因为人必须是"目的本身"，永远不能仅仅被当作"手段"。你把一个人推下去救五个——你把他当成了手段，这是绝对不允许的。不管结果多好。     

问题来了：自动驾驶应该听谁的？边沁还是康德？

这不是一个理论游戏。2016年，MIT做了一个著名的"道德机器"实验，收集了全球233个国家几百万人的道德偏好。结果发现——不同文化的人，选择完全不同。西方人倾向于救更多人（功利主义），东方人倾向于救老人和守法者（道义论）。日本人和法国人在同一个场景下的选择，可以完全相反。

这意味着什么？意味着没有"普世的"电车难题答案。

而自动驾驶是要上路的东西。你不能说"在中国按中国的方式开，在法国按法国的方式开"——因为你没法事先穷举所有情况。

◆ ◆ ◆

但我觉得，整个讨论都跑偏了。

电车难题之所以在哲学史上这么有名，不是因为它给出了一个"正确答案"，而是因为它揭示了一个让人不舒服的事实：很多道德选择根本没有"正确答案"，你选了A会伤害一批人，选了B会伤害另一批人，你只是选择了"谁被伤害"而已。

自动驾驶的真正问题不是"应该撞谁"——而是"为什么让它开到需要做这种选择的地步"。

一个好的自动驾驶系统，不应该把精力花在"撞一个还是撞五个"上。它应该把精力花在"永远不要让自己进入那种境地"上。

这个思路，在哲学上叫"消极伦理学"或者"预防原则"。它的核心逻辑是：你不需要知道"什么是对的"，你只需要知道"什么是绝对不能做的"。然后你围绕这些"绝对不能做的事"来设计系统。

Waymo和Cruise实际在做的就是这件事。他们的安全架构不是"碰到人之后怎么选"，而是"怎么确保永远不会碰到需要选择撞谁的情况"。提前减速、提前避让、宁可停车也不冒险——这些是工程选择，但它们的底层哲学是预防原则，不是功利计算。

很多人不知道，Waymo内部有一个专门的"伦理安全团队"，成员有哲学家、有前军事伦理顾问、有急救医生。他们的工作不是在白板上讨论电车难题——是在每一行代码里检查：这个决策在极端情况下会不会把人置于不可接受的风险中。

◆ ◆ ◆

回到电车难题本身，我觉得它最大的价值不是"帮我们找到正确答案"，而是"让我们意识到这个问题有多难"。

两千多年前，亚里士多德就说过：伦理学不是数学，你不能指望一个精确的公式算出"什么是对的"。伦理学需要"实践智慧"（phronesis）——在具体情境中做出具体判断的能力。

这种能力，AI没有。

AI可以算概率、算预期效用、算"哪个选项的损失函数最小"。但AI永远无法理解——为什么推一个人下桥比拉一个拉杆更让人难受，为什么"主动伤害"和"允许伤害发生"在道德上不是一回事。

这不是AI的错。这是伦理的本质决定的。伦理不是计算问题，伦理是存在方式的问题。

一个人类司机在危急时刻的选择，不是一个"计算结果"，而是他一生的经历、价值观、情感、文化、此时此刻的直觉——所有这些东西在一瞬间的汇聚。你可以模拟这个过程的表面，但你模拟不了它的重量。

所以我的结论可能跟你想的不太一样。

我不会告诉你电车难题的答案——因为它没有答案。我也不会说"自动驾驶不应该上路"——因为它已经在上路了，而且整体上比人类司机安全。

我会说的是：电车难题给我们的最大启示，不是"我们应该让AI怎么选"，而是"我们应该让人类自己怎么活"。

每一次面对电车难题式的选择，人类都在暴露自己的价值观。你选功利主义，说明你更在乎结果。你选康德，说明你更在乎原则。你选"永远不要让自己进入这种境地"，说明你更在乎预防。

电车难题不是关于电车的。它是关于你是谁的问题，被伪装成了一个关于技术的问题。

加缪说过："真正严肃的哲学问题只有一个，那就是自杀。判断人生是否值得活，就是回答哲学的根本问题。"

电车难题没有那么极端。但它追问的是同一件事：在必须做出抉择的时刻，你会选择成为什么样的人。

而AI，不管它将来多么强大，它永远不需要面对这个问题。因为AI不需要"成为什么"——它只需要"执行什么"。

这大概就是人和机器之间，最深的那道沟。

关注我，给你一个不一样的世界观。