
龙哥导读:如果自动驾驶大模型在同一个危险路口犯过一次错,下次再来,它会记住教训,还是继续一本正经地犯同样的错?从 PaperDaily MCP 检索并重点核验的六篇自动驾驶论文中,可以看到一个明显变化:研究重点不再只是让模型“一次生成正确轨迹”,而是给它补上世界模型、失败记忆、测试时验证、实时推理、安全审计和数据闭环。
让大模型开车,最危险的究竟是它不会开,还是它犯错后根本不知道自己错了?
这是近期自动驾驶 VLA 与世界模型热潮背后更值得追问的问题。端到端自动驾驶曾经有一个很诱人的目标:把摄像头、激光雷达和导航输入模型,直接输出方向盘、油门或未来轨迹。中间模块越少,系统越简洁,数据越多,性能似乎就能越高。
但真实道路不会因为网络结构简洁就降低难度。一次预测可能遇到遮挡、噪声、陌生路况和多车博弈;错误也不会像图片分类那样只损失一个百分点。
本次从 PaperDaily/PaperMiner MCP 当前 1.2 万余篇论文记录中,按“自动驾驶、世界模型、VLA、规划、安全、风险”等多组关键词检索,再回到 arXiv 原始页面核验,最终筛出 六篇能拼成完整系统闭环的近期工作。
这六篇不是同一研究系列,也不是按发布日期机械选出的“最新六篇”。它们入选的原因是分别代表预演、记忆、验证、实时、安全和数据六个互补环节,组合起来恰好回答一个核心问题:自动驾驶 AI 犯错之后,系统如何发现、修正并避免重犯?
图1:六篇论文不是一个系列,而是共同补齐下一代自动驾驶 AI 的六个闭环环节。
图2:六条路线分别对应预演、记忆、验证、实时、安全和数据闭环。
第一步:不只看现在,还要在内部预演未来
传统端到端模型擅长从历史驾驶数据中模仿“此时应该怎么开”,却未必真正理解动作之后会发生什么。世界模型路线试图让车辆在执行动作前,先预测未来场景。
HyWorldVLA 关注一个具体矛盾:像素级未来预测细节丰富、可解释,却容易被雨雾和图像噪声影响;潜变量预测更稳,但可能失去细节与视觉锚点。
它在预训练阶段同时预测视频潜变量并重建视频帧,用像素监督约束潜在表示;联合微调时再让潜变量驱动动作专家生成轨迹。论文在 NAVSIM v1/v2 上报告优于纯像素和纯潜变量世界模型,并专门分析了噪声鲁棒性。
关键发现:像素预测负责“看清细节”,潜变量负责“扛住噪声”;真正有用的世界模型,需要同时服务理解与规划。
图3:HyWorldVLA 对比像素、潜变量和混合世界模型。图片来源:论文。
这条路线的价值不是让 AI “脑补一段漂亮视频”,而是让未来预测真正服务于规划。判断世界模型是否有用,最终应看它能否减少碰撞和错误决策,而不是只看生成画面的 FID。
第二步:把失败变成可检索的“错题本”
人类司机在危险路口犯过一次错,通常会留下记忆;模型如果没有更新机制,下次遇到相似场景仍可能重复失败。
2026 年 8 月发布的 DriveVLA-M0 为 VLA 模型引入失败感知潜在记忆。系统保存失败场景的结构化表示和专家轨迹,再把当前道路结构与动态交通参与者分开检索,找到真正相似的历史错例。
检索结果不是简单塞进提示词,而是通过解耦 LoRA 进行轻量测试时训练,在不修改主干模型的情况下定向修正。论文报告 Navtest 达到 94.1 PDMS、Navhard 达到 47.0 EPDMS,测试时反向传播延迟增加 26.44 毫秒,并且扩充记忆库还能带来无需重新训练的性能增益。
关键思想:模型参数不必每次重新训练,但失败经验必须能够被检索、被验证,并在当前场景中定向生效。
图4:DriveVLA-M0 从失败记忆池检索相似场景,并通过测试时训练修正动作解码器。图片来源:论文。
但错题本也会带来新问题:检索错了怎么办?记忆是否会过期?测试时更新会不会影响实时性和稳定性?从研究原型走向车端系统,还需要严格的记忆准入、版本控制和回滚机制。
第三步:一次规划不放心,再加一个轻量“安全考官”
当前很多规划器仍采用一次生成范式:模型给出轨迹,系统直接执行。训练规模继续增加的成本越来越高,边际收益却可能越来越低。
DriveVer 选择在推理阶段补一道检查。它把候选轨迹、多视角视觉特征和车辆运动状态一起输入一个双头网络,同时预测安全置信度和几何修正量。
这个验证器只有 3400 万参数,可以作为即插即用模块接在不同规划器后面。它体现了一个值得关注的趋势:与其重新训练一个更大的驾驶模型,不如给现有模型增加一个专门发现低级错误的“小模型”。
图5:普通规划器直接执行一次生成的轨迹;DriveVer 先评分,再输出修正轨迹。图片来源:论文。
不过,验证器的上限取决于它是否看到了足够多的危险轨迹。如果训练数据只覆盖常见错误,面对真正的长尾场景,它也可能给出虚假的安全感。
第四步:能讲道理还不够,必须在车上来得及
VLA 模型把视觉理解、语言推理和动作预测统一起来,解释性更强,却经常被庞大的视觉语言主干拖慢。道路控制没有时间等待模型写一篇思维链。
卡内基梅隆大学等机构提出的 RT-VLA,通过多级监督蒸馏,把 SimLingo 的驾驶和推理能力迁移到紧凑学生模型。论文报告,相比教师模型,纯视觉模式推理时间降低 44.8 倍,视觉加语言模式降低 7.9 倍,同时保持有竞争力的闭环驾驶与语言推理表现。
它还把解释从实时控制链路中拆出来:车辆先快速行动,安全关键片段可以离线做语言分析。关键取舍是:实时控制先保证速度,语言解释留到不阻塞控制的链路中完成。
图6:RT-VLA 学生模型架构,将实时驾驶控制与离线语言解释解耦。图片来源:论文。
图7:不同论文使用不同任务和基准,数字只能说明各自实验结论,不能直接排名。
第五步:世界模型会做梦,也可能被诱导做噩梦
世界模型依赖高清地图、三维框和车辆状态等物理条件生成未来。如果这些条件被微小但有目标地篡改,生成画面仍可能看起来真实,语义和决策却已经偏离。
PhysCond-WMA 提出了针对生成式驾驶世界模型的白盒攻击。它扰动 HD Map 嵌入和 3D 框特征,在尽量保持视频感知质量的同时制造语义或决策级偏差。
论文报告,目标攻击成功率达到 0.55;用受攻击视频训练时,3D 检测性能下降约 4%,开环规划性能恶化约 20%。这说明“生成视频肉眼看着正常”远远不够:画面逼真,不代表物理条件和决策因果正确。
世界模型越深入规划闭环,攻击面也越靠近车辆决策核心。未来系统不仅需要世界模型,还需要世界模型的审计器。
第六步:别急着录更多数据,先判断问题真在数据吗
自动驾驶数据采集昂贵,很容易形成“模型不够好,就再录一批车”的路径依赖。但性能瓶颈可能来自评估指标、场景定义或标注方式,而不是数据量。
KITScenes 数据集设计指南 提出一个反常识原则:先诊断研究问题究竟被数据缺口还是评估缺口卡住,再选择最小成本的数据操作;只有现有数据无法解决时,才录制新数据。
这篇工作没有再造一个炫目的驾驶模型,却可能对中小团队更实用。数据集真正的价值不在 TB 数和行驶里程,而在于它是否覆盖了模型最需要学习、现有评测最难揭示的场景。
六篇论文拼出的下一代驾驶闭环
把六条路线放到同一个系统中,可以得到一套比“一次出轨迹”更完整的驾驶流程:
先预演:世界模型预测不同动作可能带来的未来;
再回忆:检索过去相似失败,避免重复踩坑;
后验证:轻量检查器评估轨迹并做几何修正;
快执行:蒸馏后的 VLA 在实时预算内控制车辆;
持续审计:检测世界模型、物理条件和数据链路攻击;
补对数据:根据真实失败有针对性地扩充数据和评测。
这与人类成熟驾驶员的学习方式非常接近:不是每次都从零决策,而是用经验、预判和复核共同降低风险。
龙哥点评:闭环比单点 SOTA 更重要
近期自动驾驶论文最值得肯定的变化,是研究者终于开始正视“模型会犯错”这件事。新的工作围绕错误建立记忆、验证、攻击测试和数据反馈,而不是只把希望寄托在更大的主干网络上。
但也必须明确,NAVSIM 等研究基准上的高分不等同于公开道路安全,更不代表已经具备量产条件。开环规划、闭环仿真和真实道路之间仍有巨大鸿沟;几十毫秒的模型延迟之外,还有传感器、通信、系统调度和执行器延迟。
判断一项自动驾驶工作有没有真实价值,建议重点看四件事:它是否在闭环中验证;是否覆盖长尾和分布偏移;失败后是否有回退策略;增加的模型复杂度能否在车端算力、功耗和安全认证预算内承受。
未来真正可靠的自动驾驶系统,大概率不会只依赖一个无所不能的大模型,而是由世界模型、VLA、记忆库、验证器、安全监控和规则回退共同组成。智能可以端到端,责任链路不能黑盒到底。
龙迷三问
1. 错题本会不会记住错误答案?
失败记忆必须有可靠的专家轨迹和质量控制,否则测试时适应可能把偶然偏差固化。
2. 验证器和主模型一起失效怎么办?
两者如果共享相同数据偏差,二次检查未必独立。安全验证需要异构信息和明确回退机制。
3. 世界模型生成得像,是否就代表物理上对?
视觉逼真只能证明像素合理,不能证明交通参与者行为、地图条件和未来因果关系正确。
总结
从 HyWorldVLA 的未来预演,到 DriveVLA-M0 的失败记忆、DriveVer 的轨迹复核、RT-VLA 的实时蒸馏,再到 PhysCond-WMA 的安全警报和 KITScenes 的数据诊断,近期研究正在把自动驾驶从一个单次预测问题,改造成一个持续闭环系统。
下一阶段的关键不只是让车“第一次就答对”,而是让它知道自己可能错在哪里,能在执行前检查,执行后学习,并在不确定时安全地退回来。
本文基于龙哥读论文 PaperDaily 数据库及 PaperMiner MCP 汇总整理。论文指标来自各论文公开摘要和原始页面,不同数据集与评测协议不可直接横向比较。研究基准结果不等同于量产道路安全验证。
主要参考论文:
HyWorldVLA
DriveVLA-M0
DriveVer
RT-VLA
PhysCond-WMA
Creating Impactful Autonomous Driving Datasets
