在过去十年里，自动驾驶系统（Autonomous Driving Systems, ADS）从实验室走向公共道路，成为人工智能技术最具象征性的应用之一。它们不仅能“看见”道路、识别行人、规划路径，还能在许多情况下自主决策。然而，正是这种“自主性”让 ADS 进入了一个前所未有的伦理与责任灰区。
传统技术的责任归属相对清晰：
但 ADS 的出现打破了这一逻辑。它们在高度复杂、动态且不可完全预测的环境中运行，能够在没有人类许可的情况下执行关键任务。于是，一个核心问题浮现出来：
当系统比人类更“能干”，但又无法完全被理解或预测时，我们该如何分配责任？
Rowe 等（2023）的综述文章正是试图回答这一问题。他们通过跨学科文献分析，提出了一个极具洞察力的框架：自动化反讽（ironies of automation）。这一框架揭示了自动化越高，责任越难以界定的悖论性结构。
自动化反讽：技术越先进，责任越模糊
作者总结了六大“反讽”，它们构成了理解 ADS 责任困境的核心视角。
1. 任务分配反讽：自动化替代的往往不是最难的任务
自动化系统通常擅长执行重复性、结构化的任务，而真正困难的任务，例如在极端天气、突发状况或伦理困境中做出判断，仍然需要人类接管。
然而，正是这些“最难的任务”往往发生在最危险的时刻。当系统把简单任务做得越来越好，人类反而更难保持警觉。
2. 去技能化反讽：人类越依赖系统，越难在关键时刻接管
大量研究表明，自动化会导致人类技能退化（deskilling）。在自动驾驶中，这意味着：
这形成一个悖论：系统越先进，人类越不具备接管能力，但法律却仍要求人类随时准备接管。
3. 认知反讽：系统越复杂，人类越难理解
深度学习模型的黑箱性让用户难以理解系统为何做出某个决策。但责任归属的前提是理解：
4. 控制反讽：谁在控制？谁应负责？
在部分自动化（如 SAE Level 3）中，控制权在系统与人类之间不断切换。这种“模糊控制”导致责任边界极不清晰：
5. 信任反讽：系统越复杂，越难信任
信任需要可预测性，而 ADS的学习型算法往往不可预测。用户既需要信任系统才能使用它，又因为系统不可预测而难以信任它。
6. 法律反讽：法律要求人类负责，但人类已不再掌控
法律体系仍基于“人类控制”的假设，但在高度自动化中，人类往往只是“名义上的驾驶者”。这导致所谓的“责任真空”（responsibility gap）：
人类无法控制，系统无法承担，制造商不愿承担，法律无法界定。
自动化等级与责任转移：从Level 2 到 Level 5 的责任漂移
SAE 自动化等级提供了一个理解责任转移的清晰框架：
等级 | 环境监控者 | 控制权 | 责任主体 |
Level 2 | 人类 | 人类为主 | 人类 |
Level 3 | 系统 | 系统为主，但需人类随时接管 | 模糊 |
Level 4 | 系统 | 系统 | 制造商/运营方 |
Level 5 | 系统 | 系统 | 制造商/系统本身（理论上） |
最具争议的是Level 3：系统负责监控环境，但要求人类随时接管。这在认知科学上几乎是不可能的任务——人类无法在长时间不参与驾驶的情况下保持高度警觉。
因此，Level 3 被称为“责任最危险的地带”。
责任的三重维度：道德、问责与法律
Rowe 等将责任分为三类：
1. 道德责任（moral responsibility）
涉及伦理判断：谁应该为伤害负责？
2. 问责（accountability）
涉及组织与制度：谁需要解释、报告、接受审查？
3. 法律责任（liability）
涉及赔偿与惩罚：谁承担法律后果？
ADS 的不确定性让三者都变得复杂：
这些问题在自动驾驶事故中屡屡出现，却始终没有明确答案。
信任与可预测性：技术的黑箱如何侵蚀社会信任
信任是 ADS 能否被社会接受的关键。但信任建立在三个条件之上：
- 可靠性
- 透明度
- 可解释性
深度学习模型在这三点上都存在挑战。例如，系统可能因为训练数据偏差而误判行人，或在极端天气下失效。这些不可预测性削弱了用户对系统的信任，也让责任归属更加困难。
六大相关研究集群：跨学科视角的全景图
Rowe 等通过文献耦合分析识别出六大研究方向：
- 采纳与用户行为
- 治理与监管
- 人机交互与安全
- 可追溯性技术
- 责任敏感安全模型（RSS）
- 安全设计（Safety by Design）
这些方向共同构成了 ADS 责任研究的知识版图。
未来研究议程：从技术问题到社会技术系统问题
作者提出七项建议与五大未来方向，核心思想是：
自动驾驶不是技术问题，而是社会技术系统问题。
未来研究应关注：
这些方向不仅对学术界重要，也对政策制定者、企业与公众具有现实意义。
结语：自动化时代的责任重构
自动驾驶系统让我们第一次面对一个现实：
机器不仅在替我们行动，也在替我们“做决定”。
当决策权从人类转移到系统，责任体系也必须随之重构。然而，现有法律、伦理与社会制度仍停留在“人类控制”的时代。
自动化反讽提醒我们：技术越先进，责任越难界定；系统越智能，人类越难承担责任；而社会越依赖自动化，责任制度越需要重新设计。
未来的关键不在于让 ADS 完全无错，而在于：
这不仅是技术挑战，更是社会挑战、伦理挑战与制度挑战。
参考文献：
Rowe, F., Jeanneret Medina, M., Benoit Journé, Coëtard, E., & Myers, M. (2023). Understanding responsibility under uncertainty: A critical and scoping review of autonomous driving systems. Journal of Information Technology, 02683962231207108. 🧠「洞见特写」以扎实研究为底稿，拆解前沿议题背后的关键机制与现实含义，把学术发现转化为可理解、可应用的社会洞见。
✨ 智研前沿（Human-AI Inquiry）聚焦人工智能与人类社会的交汇地带。关注我们，一起洞察AI背后的社会逻辑。
10个月宝宝每天需要喝多少奶粉？
