马宏:完全自动驾驶的不可能性

——责任链的终点，必须是一个可以被伤害的人

他们说，自动驾驶会让世界更安全。

他们说，AI不会疲劳、不会分心、不会路怒，事故率会降到无限接近于零。

他们说的可能对。但那不是我们讨论的问题。

我们要讨论的是：当事故发生了，谁来负责？

一、可以被伤害，是一种特权

你开车的时候撞了人，你会坐牢，你会赔钱，你的名字会出现在新闻里，你的家庭会因此改变。你被伤害了——你的自由、你的财产、你的声誉。你承担了后果。责任链在你这里终止了。

AI开车的时候撞了人，谁坐牢？谁赔钱？谁的名字出现在新闻里？谁的家庭因此改变？没有。没有一个人被伤害。

你说：公司赔。

公司是一张营业执照。它不会坐牢，不会失眠，不会在深夜想起那个被撞的人然后流泪。公司把钱付了，然后继续运行。责任链在公司这里没有终止，它只是被财务部门结算了。

这就是“可以被伤害”的本质——你必须是一个能承受痛苦的实体，你才能被追责。AI不是。公司也不是。只有人才是。

二、值得被伤害，是一种资格

你说：我可以让工程师负责。

工程师确实可以被伤害。但问题是：他值不值得被伤害？

一个工程师，写了一段感知代码。那辆车在雨夜里没有识别出路边的人。工程师有错吗？他没有预见到那个场景。但人有预见一切场景的能力吗？没有。如果你把一个工程师送上法庭，你是在惩罚他“不够完美”，而“不够完美”不是过错，是人类的常态。

“值得被伤害”的意思是：你做了一个明知有风险的决定，然后你承担了那个风险。工程师没有做那个决定。做决定的是产品经理，是CEO，是董事会。但他们不在现场。他们坐在办公室里，看着报表，决定“这个版本可以上线了”。

他们不会被伤害。所以他们不值得被追责。

三、自动驾驶的决策，是对伤害的分配

这是一个电车难题的升级版：

前方有一群行人，左边是一个老人，右边是一个孩子。AI必须在几十毫秒内选择转向哪边。它选了左边。老人死了。

谁做的决定？算法。谁训练的算法？数据科学家。谁批准的数据集？产品经理。谁定义了“最优解”的数学公式？工程师。谁决定把这种系统放在公共道路上？CEO。

每一个人都有份，没有一个人全责。

老人死了，没有人坐牢，没有人失眠，没有人跪下握住他家属的手说“是我做的”。

只有一个系统，给出了“最优解”。系统不会愧疚。系统不会道歉。系统不会说“我错了”。

而这，就是自动驾驶的伦理黑洞——它把伤害分配出去，却没有任何一个人来认领。

四、真正的安全，不是不出错

你说：但AI比人安全，事故率更低。

我相信。那又怎样？

一个系统，即使只有万分之一的事故率，当那万分之一发生时，那个被撞的人，他的家人，他的未竟之事——这些不是概率，是真实的、不可逆的、完全具体的失去。他们会问：“谁负责？”

人负责了。那个人会坐牢、会赔款、会背负一生的愧疚。他可以被打、被骂、被起诉、被伤害。他把自己的自由、声誉、资产、人生，全部压在了那个决定上。他愿意为那万分之一的可能性买单。他做到了。

AI没有做出任何决定。没有AI坐过牢。没有AI写过道歉信。没有AI在深夜盯着天花板问自己：“如果我当时转向另一边，会怎样？”

“安全”不是“不出错”。安全是“出了错，有人能负责”。一个不能道歉的系统，不配被原谅。一个不能负责的系统，不配说“安全”。

五、自动驾驶的悖论

自动驾驶的终极悖论是：

它越是试图消除“人为错误”，它就越是将人类排除在责任链之外。而责任一旦无处附着，就只剩下一个空洞的、逃避责任的系统。

人出了错，他会负责。他可以被伤害。

AI出了错，它不会负责。它不能被伤害。

如果一条路上跑的车，出了事没人能负责——那这条路上的每一公里，都在把人命变成算法迭代的测试数据。

而测试数据，是不会说话的。

结语：可被伤害者的尊严

我们为什么需要人坐在驾驶座上？不是因为人开得比AI好。是因为人可以被伤害。

当事故发生时，有人能说：“是我做的，我来承担。”

这是驾驶的尊严——它不是一台机器的性能参数，而是一个人愿意为自己的判断承担后果的那份重量。失去了重量，车轮就只是轮子；失去了责任人，安全就只是一种统计。

真正的安全，不仅仅是杜绝事故。是每一场事故，都有一个可以被伤害的、愿意被追责的人，站在终点，承接那句“我负责”。

AI做不到。只有人可以。