每次自动驾驶汽车出事故,无论多轻微,都会上头条。而同一时间,全球每天有将近3500人死于人类驾驶的车祸,新闻里连个水花都没有。
这揭示了一个残酷的真相:我们对机器的错误零容忍,对人类的错误却无比宽容。
心理学上管这叫“自动化偏见”的反面——“自动化问责”。当一个人类司机因为走神追尾,我们会说“人总有犯错的时候”。当一辆自动驾驶车因为同样的原因追尾,我们会说“这系统太垃圾了”。
这种双标,正在成为自动驾驶落地的最大阻力。
为什么?因为人类的驾驶本身就是极其糟糕的基准线。人类司机平均每行驶百万公里会发生多少次可能导致死亡的危险事件?数据远超你的想象。但人类有一个“优势”——我们会把别人的失误归因为“素质差”,把自己的失误归因为“当时情况特殊”。我们有一套强大的自我合理化机制。
但机器没有。机器犯的每一个错误,都会被记录、回放、分析、放大。
这就引出了一个伦理问题:我们应该设定什么样的安全标准?
理论上,如果自动驾驶比人类平均安全水平好10%,就应该允许上路,因为它能拯救90%的生命。但现实是,公众要求它比最好的人类司机还要好100倍。这导致工程师不得不去解决那些“一辈子发生不了一次的边缘场景”——比如一个穿圣诞老人服装的人骑着一匹斑马横穿高速。为了这几乎不存在的场景,技术落地推迟了五年。
更隐蔽的问题是责任归属。人类开车撞了,是司机赔钱坐牢。自动驾驶撞了,谁赔?车企?软件商?地图商?还是车主自己?这个问题不解决,车企宁可把辅助驾驶做得保守到烦人,也不敢真正放开手脚。
自动驾驶的终局,不是一个技术问题,而是一个社会契约问题。 我们需要集体达成共识:我们愿意接受一个什么样的错误率?如果这个错误率低于人类,我们就该闭嘴上车。否则,我们就是在用完美的幻想,阻碍优秀的现实。