——资本早就偷偷写好了答案

有一个著名的思想实验，叫“电车难题”：

一辆刹车失灵的电车冲向前方，轨道上绑着五个人。

你手里有一个道岔，可以让电车转到另一条轨道上，但那条轨道上绑着一个人。

扳不扳？扳，牺牲一个救五个；不扳，牺牲五个救一个。

这道题在哲学课上吵了几十年，始终没有标准答案。

过去，大家都觉得这不过是个考验人性的脑洞。直到自动驾驶把未来拉到了我们面前。

2020年，有研究机构做过一项关于自动驾驶伦理的调查，发现了一个极具讽刺意味的矛盾：

绝大多数人在假设自己是驾驶员时，会大义凛然地说“我愿意牺牲自己保护路人”；但当他们被问到“你希望自己花钱买的自动驾驶汽车怎么做”时，答案却出奇地一致——“先保护我，别让我死。”

也就是说，我们在道德上都想当英雄，但我们买的车，必须把我们当成唯一的宝贝。

从那一刻起，“电车难题”不再是哲学课堂上的思维体操。它变成了程序员必须敲进代码里的参数，变成了车企法务在法庭上辩护的筹码，变成了监管机构反复扯皮的条例。

更残酷的真相是：它变成了一个资本早就替我们算好账的商业模型。

谁来定生死的规矩？

先别急着讨论AI会怎么选。

我们需要先问一个更底层的问题：谁来决定AI怎么选？

想象一辆自动驾驶汽车高速冲向十字路口，左边是满载小学生的校车，右边是违规横穿马路的行人，直行是一辆价值千万的限量版跑车。

刹车失灵，碰撞不可避免。

这时候，算法必须做出一个选择。

但这个“选择规则”，不是AI在电光火石间自己顿悟的——是人写的。

是工程师坐在电脑前，一行一行敲进系统里的。

那么，工程师听谁的？听老板的。

老板听谁的？听股东的。

股东在乎什么？利润与风险控制。

问题恰恰出在这里。

德国伦理委员会早些年曾为自动驾驶定过规矩：系统必须优先保护人的生命，不能因为年龄、性别、身体状况区别对待，财产损失永远不能排在人身安全前面。

听起来非常文明，对吧？但这条规矩有一个致命的漏洞：它只说了“不能歧视”，却没说“该保护谁”。

当碰撞不可避免，算法必须打方向盘。

选左边撞校车，选右边撞行人，选直行撞跑车。不管选哪个，系统都在进行实质上的“区别对待”，因为每一次方向盘的偏转，都在决定“谁死谁活”。

标准按什么定？

按道德？道德本就没有唯一解。

按法律？法律的滞后性让它在算法面前苍白无力。

最后，这个标准只能由资本来定。

造车的公司要活下去，要赚钱，要避免面临天价的集体诉讼甚至破产因此，他们在设定强化学习的奖励函数时，一定会优先考虑一件事：

怎么选，能让公司的综合赔偿成本降到最低。

在算法的底层逻辑中，目标是最大化累积奖励。

当面对事故时，系统实际上是在寻找“负奖励（惩罚）最小化”的最优解。

这不是工程师恶毒地在代码里写下“撞死一个穷人扣100分，撞死一个富人扣1000分”，而是整个系统的设计逻辑，从一开始就被资本的避险需求绑架了。

作为坐在车里的乘客，或是走在路上的行人，你对这套决定你生死的规则，没有任何发言权，甚至连知情权都没有。

把命算成钱，这事四十年前就干过

别觉得这是AI时代的专利。

把人命折算成财务报表上的数字，这招人类早就玩得炉火纯青了。

20世纪70年代，福特汽车推出了一款名为“平托（Pinto）”的廉价车。

这车有一个致命缺陷：被追尾时油箱极易起火爆炸。

福特的工程师很快发现了问题，并提出加装一个成本仅为11美元的防护装置就能解决隐患。

但福特的高管们在会议室里算了一笔账：

给所有售出的车加装防护装置，总成本约为1.375亿美元。

如果不装，按概率估算死伤人数，支付的法律赔偿金约为4950万美元。

算完这笔账，福特做出了决定：不安装了。

后来，这车烧死了27个人，重伤了24个人。

福特被告上法庭，这份冷血的“成本收益分析报告”被曝光，成为商业史上最臭名昭著的反面教材。

你看，四十年前，资本家在烟雾缭绕的会议室里算账。四十年后，同样的账，交给了AI来算。

唯一的区别是：以前算得慢，现在算得快；以前一年算一次，现在一秒钟算几万次。

医院里的算计

不只是马路上的汽车，医院里的AI，也在进行着同样的算计。

2025年的一项医疗数据研究分析了近20万名ICU患者的记录，发现AI在推荐重症治疗方案和分配紧缺医疗资源时，年龄大的患者与年轻患者之间，死亡率预测的权重差了5.1个百分点；不同社会经济地位的群体之间，也存在显著的资源倾斜。

为什么？因为AI学习的历史数据里，本来就写满了人类社会的偏见。

在冰冷的数据维度里，老年人或低收入群体往往意味着“治疗成本高、预后收益低、出院后经济贡献小”。

AI没有感情，它只是忠实地学会了“少给低净值资产分配资源”。

你可能会说：那不是AI的错，是数据的错。确实如此。

但真正让人绝望的问题在于——如果一个人类医生因为偏心而见死不救，你可以投诉他、起诉他、吊销他的执照。

但如果一个AI偏心，你找谁？

找程序员？代码是团队写的，且经过了深度学习的黑盒演化。

找医院？医院说系统是合法采购的。

找算法公司？公司法务会微笑着告诉你：这是受知识产权保护的商业机密，无可奉告。

你连它是怎么算出你“不值得被抢救”的都不知道，你拿什么去证明它错了？

数学洗白：它根本不觉得自己错了

AI没有恶意。它不是在“歧视”你，它只是在“优化”。

就像你让AI帮你规划最省钱的路线，它就会避开收费站。

当你让它在危机中“损失最小化”时，它就会毫不犹豫地选择那个财务代价最小的选项——不管那个选项是一个流浪汉，还是一辆自行车。

在它的世界里，没有鲜血，没有眼泪，没有破碎的家庭。

它不知道自己撞的是一个活生生的人。它只知道，撞左边扣100分，撞右边扣1万分——扣得越少越好。

这就是最可怕的“数学洗白”：偏见和冷血穿上了复杂数学公式的外衣，变得理直气壮、不容置疑。

如果一个HR公开说“我不招35岁以上的人”，第二天公司就会被舆论淹没。

但如果一套AI系统通过复杂的特征提取，默默把35岁以上候选人的简历全部扔进垃圾桶，大家只会耸耸肩说：“算法嘛，客观的，没办法。”你连愤怒的力气都被抽干了，因为你根本找不到可以发泄愤怒的具体对象。

想不通的地方

我们发明AI，是想让它更公平、更理性。

结果它把人类最糟糕的那套——歧视、偏见、把人命当成本——学了个透，然后光速运转，从不手软。

你可能会说：算法做错了事，找开发它的公司啊。

对。然后呢？公司赔钱。赔完钱，下次算法还会这么选。

因为只要赔的钱比改进系统便宜，他们就会继续赔。

福特四十年前就是这么算的：加装11美元的防护装置太贵，不如赔死者划算。今天，AI只是替他们算得更快。

所以真正想不通的不是“该找谁”，而是——我们明明知道该找谁，却拿它没办法，因为“犯错”的成本，早就被算进生意里了。

人间清醒金句

AI没有恶意，但它把人类的恶意学得太好了。

你以为是机器在做决定，其实是人类最冷酷的成本账本，借着机器的速度，在未来又重演了一遍。

人命从来都不应该是一串数字。但如果资本和算法非要把人命塞进奖励函数，变成一个可以被计算、被交易、被牺牲的变量——

那最先被牺牲的，永远是那个在社会权重中，数字最小的人。