本期,我们团队成员-胡凡,为大家研读分享Accident Analysis and Prevention期刊发表的一篇相关论文《Is it OK to bully automated cars?》。该文通过严谨的实证设计,深入剖析了观察者对针对自动驾驶车与人类驾驶员的攻击行为的评价差异,为理解混合交通下的人机交互机制提供了重要学术参考。
文献研读分享
题目:Is it OK to bully automated cars?
作者:Tingting Li, Peng Liu,Siming Zhai
期刊:Accident Analysis and Prevention
年代:2022
理论基础与研究假设
理论基础
人机互动相关范式:根据“计算机即社会行动者” (Computers Are Social Actors)和“媒体等同” (Media Equation)范式,人类会不自觉地将社会规则与期望应用于非人类主体。人们可能会(攻击性地)对非人类主体做出如同对人的反应。人类在与具身和虚拟机器人互动时存在攻击性行为。例如,成群的儿童出于好奇,在购物中心聚集并通过阻挡、踢打和拳击虐待机器人(Brsci´c et al., 2015; Yamada et al., 2020),而年轻人群体对信息型机器人也有类似行为(Salvini et al., 2010)。
道德判断双加工理论:个体的决策判断受理性分析(如风险感知)和经验直觉(如负性情绪、道德判断)两套系统共同作用。其中风险感知是攻击行为的重要预测因子,情感反应与道德规范会显著影响驾驶行为倾向。
研究假设
H1:与对人类驾驶员相比,人们对针对AV的攻击性行为有更高的接受度。(依据:前期比较研究已证实,驾驶员对AV的攻击意图显著高于对其他人类驾驶员,而AV因预设的保守编程特性,不会采取反击行为,易成为人类利用与攻击的目标(Hancock et al., 2019;Moore et al., 2020)。据此,本研究提出H1。)
H2:与对人类驾驶员相比,人们在评价针对AV的攻击性行为时感知到的风险更少。(依据:根据决策判断的双加工理论,风险感知是理性分析系统的核心认知成分,且直接影响个体的攻击行为倾向。AV被预设为风险规避型,会在不确定情境下主动减速、避让,人类驾驶员可预判这一特性并“利用”(Millard-Ball, 2018),认为此类攻击行为引发冲突或事故的风险更低,因此对其风险感知更弱。已有研究也表明,风险感知的降低会显著增加攻击行为的发生概率(Rhodes & Pivik, 2011),进一步支撑本假设。)
H3:与人类驾驶员相比,人们报告由针对AV的攻击性行为引发的负性情绪更少。(依据:情感反应对驾驶行为具有情绪一致性影响(Mesken et al., 2007;Goh et al., 2020),而人类对非人类主体的共情水平显著更低。AV在人类认知中常被视为机器或“外群体”,而非具有情感感知的同类,针对其的攻击行为难以唤起强烈的共情与负性情绪,这与机器人霸凌研究中“对机器人的虐待引发更少负面情感”的结论高度一致(Nomura et al., 2015)。)
H4:与对人类驾驶员相比,人们判断针对AV的攻击性行为较道德。(依据:道德判断属于经验直觉系统的核心要素,且受受害者身份特征的显著影响(Haidt, 2001;Malle, 2021)。结合“防御性归因假设”,观察者与AV的身份相似度极低,这种类别差异会降低对攻击行为的道德谴责(Shaver, 1970)。同时,前期研究显示人类对非人类主体的行为的道德约束更宽松,针对机器人的虐待行为被判定为不道德的程度显著低于针对人类的同类行为,因此推测针对AV的攻击行为会被赋予更低的不道德性。)
H5:在H1-H4中假设的针对AV和人类驾驶员的攻击性行为评价差异,在受害者身份凸显度 (victim identity salience)高时比在低时更为显著。(依据:社会线索中的受害者身份特征是影响行为评价的关键因素,已有研究指出“隐藏非人类主体身份可促进人类与非人类主体的合作”(Karpus et al., 2021)。当受害者身份未被明确强调时,人类可能默认适用统一的社会规则评价行为,AV与人类驾驶员的类别差异未被激活,因此评价无显著不同;而当身份被明确凸显时,AV与人类驾驶员的本质差异被强化,进而放大对两类攻击行为的评价差异,故提出受害者身份凸显度的调节作用。)
实证研究
一、研究设计
研究类型:2(场景类型:人类驾驶员vs.AV)×2(受害者身份凸显度:低vs.高)被试间设计,结合视频刺激的问卷调查法。
场景类型操纵:告知参与者该视频来自人类驾驶的汽车或自动驾驶汽车。
受害者身份的凸显度操纵:视频在视觉上无法区分被欺凌的人类驾驶的汽车和AV。因此,在测量设计中操控了受害者身份的凸显度:要求参与者在低凸显条件下评价攻击性行为(即,未明确提及受害者身份),或在高凸显条件下评价针对AV或人类驾驶员的攻击性行为(即,明确提及受害者身份)。
刺激材料:改编自Moore等(2020)的13秒视频,内容为前方车辆在无前车情况下突然连续制动两次,视频本身无法区分后方车辆是人类驾驶还是AV。
控制变量:性别与年龄(因两组条件下被试性别比例和年龄存在显著差异,分析时予以控制)。
变量测量:采用10点量表(1=非常低,10=非常高)测量4个核心变量,包括可接受性 (acceptability)、风险感知(risk perception)、负性情绪(negative affect) 、道德判断 (moral judgment);通过提问方式操纵身份凸显度(低:不提及受害者身份;高:明确提及受害者是人类驾驶员或AV)。
研究流程:被试先阅读场景说明(AV场景额外增加自动驾驶技术背景介绍),观看视频后完成测量题项,接着回答2道注意力检查题(视频来源、制动次数),最后提交人口统计学信息。
二、数据分析
探索性因子分析(EFA):检验负性情绪和道德判断量表的结构效度与信度。
协方差分析(ANCOVA):以场景类型和受害者身份的凸显度为自变量,性别和年龄为协变量,四个核心变量为因变量,检验主效应与交互效应;交互效应显著后进行简单主效应分析。
三、核心研究结果
量表信效度:EFA结果显示,负性情绪和不道德判断为两个独立因子,信效度良好;可接受性与其他三个变量呈显著负相关,风险感知、负性情绪、道德判断三者间呈显著正相关。
主效应:场景类型对可接受性、负性情绪、道德判断有显著主效应,对风险感知主效应不显著;受害者身份的凸显度对四个核心变量的主效应均不显著。
交互效应:场景类型与受害者身份凸显度在四个核心变量上均存在显著交互效应。
简单主效应:
低身份凸显度条件:针对AV与人类驾驶员的攻击行为,在可接受性、风险感知、负性情绪、道德判断上均无显著差异,拒绝H1-H4。
高身份凸显度条件:针对AV的攻击行为被评为更可接受、风险更低、引发负性情绪更少、不道德程度更低,支持H1-H4;且仅当受害者为AV时,凸显身份会提升行为可接受性、降低道德判断,支持H5。
四、研究结论
针对自动驾驶车辆的欺凌虽然罕见,但确实存在。关于人们如何理解AV欺凌的实证证据却很少。本研究比较了人们对针对AV和人类驾驶员的相同攻击性行为(即,故意突然刹车)的反应。受害者身份凸显度调节了参与者对该行为的反应。具体而言,当该行为的受害者身份在参与者评价过程中凸显时,他们对针对AV的该行为评价较不负面。当受害者身份不凸显时,参与者对这两个受害者的评价没有差异。
理论意义与实践启示
理论意义
1.为“人-机不对称性”提供新证据:研究证实,在混合交通情境中,人们对AV与人类(驾驶员)的评价存在系统性差异。当自动驾驶汽车的身份被凸显时,观察者对其遭受的相同攻击性行为表现出更高的可接受性和更低的道德谴责。这一发现为“人-机不对称性”的普遍性提供了直接支持,并可能间接解释了为何驾驶员更倾向于对AV实施攻击性行为。
2.揭示“身份凸显度”的关键调节作用:研究指出,对非人类主体(如AV)的评价差异并非无条件存在,而受到受害者身份是否被凸显这一社会线索的调节。当身份未被强调时,人们对AV和人类受害者的评价趋于一致;只有当AV的身份被明确标定后,评价的差异性才显现。这表明,人们虽然会将社会规则应用于机器,但这种倾向在机器身份变得显著时可能会减弱,影响道德判断。
实践启示
1.建议隐藏AV的身份:为降低AV成为攻击目标的可能性和严重性,研究建议AV应在外观上尽可能不做标记,以“伪装”成普通人类驾驶的汽车,从而减少因身份凸显而引发的负面或剥削性行为。
2.建议模拟人类驾驶行为:除了外观,AV在驾驶行为上也应尽可能接近人类驾驶员,减少因保守、可预测或异常的驾驶风格而引发的人类驾驶员的不满、困惑或攻击性利用。实现“行为上的隐蔽”是更大的技术挑战。
3.提示开发应对欺凌的能力:研究指出,AV的开发者需要考虑如何让车辆检测并妥善响应可能遇到的欺凌或攻击性行为。这涉及复杂的技术实现(如事件检测)和深刻的伦理考量(如如何反击或规避),需要在产品设计阶段予以重视。
✨本期分享人胡凡,浙江工商大学应用心理学专业一年级研究生,来自浙江杭州。主要研究兴趣为自动驾驶技术的应用与社会伦理问题。
✨智研前沿Human-AI Inquiry是由浙商大 Insight & Interaction Lab 研究小组运营管理的公众号,聚焦商科语境下人工智能与人类社会的交汇研究,分享学术文献精读与研究洞察。关注我们,洞见智能时代的商业与人文前沿。