轻量化模型部署,如何让自动驾驶从能跑到跑得好?
- 2026-07-25 05:23:31
轻量化模型部署,如何让自动驾驶从能跑到跑得好?2026年的自动驾驶行业有一些数据蛮有意思的，据工信部7月公开的信息，搭载组合驾驶辅助功能的乘用车新车市场渗透率已经达到70%，配备领航驾驶辅助功能，也就是NOA的车型渗透率也超过了30%。短短几年时间，智驾就从高端车型的选配变成了新车的常见配置。 而另一组数据显示，城市NOA的用户黏性据行业测算大概在20%到30%之间。东吴证券就曾对75位车主做过一次深度调研，只有31%的车主表示经常使用城市NOA，20%明确表示不敢用；元戎启行CEO周光也提到过类似的观点，2025年城市NOA的渗透率只有15%左右，用户黏性大概在20%到30%。也就是说，领航驾驶辅助功能虽装上了车，真正高频使用的人并不算多。 之所以会出现这个现象，原因有很多，东吴证券的调研就给出了一个拆解，约35%的原因归因于系统拟人化不足，刹车生硬，变道犹豫，在拥堵路口处理得不够自然，这些体验上的问题让不少用户尝试几次之后就不再用了；另外20%的用户明确表示不敢用，主要是因为责任归属不清晰；还有一部分用户根本搞不清楚系统到底能处理哪些场景、哪些处理不了。 这些数据其实也说明了一些问题，那就是要在有限的车载算力上跑出足够智能的模型，让系统开起来像人一样自然流畅，是很难做到的。 
2022年的时候，一套城市NOA的硬件成本超过两万块钱；到2024年，行业方案开始收敛，成本降到了八千到一万；而到了2026年，纯视觉高速NOA硬件的BOM成本已经降到了四千以下，两年内降幅达到40%。 供应链的成本下降直接催生了智驾在中低端市场的普及，比亚迪就把天神之眼C装进了6.99万元的海鸥，深蓝L06则带着城区辅助驾驶进入了13万级市场，广汽丰田铂智3X更是将激光雷达版本的价格压到了14万。 
图片源自：网络 但硬件便宜了，并不代表算力可以随便堆，2026年1月，轻舟智航宣布行业首个基于地平线单征程6M的城市NOA方案实现量产上车，首发搭载于理想L系列。这套方案只用128TOPS的算力就跑通了城市NOA。 128TOPS是什么概念？英伟达单颗Orin-X的算力是254TOPS，很多高端车型用两颗甚至更多，用一半的算力做出可用的城市NOA，这不是靠堆芯片能解决的，它依赖的是算法层面的深度优化。 问题已经摆在这儿了，硬件成本在往下走，智驾功能在往下沉，但算力并没有跟着无限增长。地平线在2026年4月发布了中国首款舱驾融合芯片星空6P，用5纳米制程、650TOPS算力把智舱、智驾和端侧大模型整合到了一颗芯片上。这说明行业自己也在往算力集成的方向走。 但即便如此，单一芯片上要跑的任务也在同步变多，智舱交互、端侧大模型、智驾决策都在抢计算资源。模型如果做得太大，推理延迟上去了，决策就慢半拍，体验自然好不了。所以问题很明确，要在给定的算力约束下让模型跑得足够聪明、足够自然，就得靠轻量化的技术手段。 
模型轻量化其实在自动驾驶领域已经做了好几年了，但2026年的进展有一些特别值得聊一聊的地方。 量化是目前最成熟也最直接的手段，神经网络在训练的时候，里面的参数都是用32位浮点数来存的，你可以理解成每个数字都带着很长的小数尾巴，算起来特别精确但也特别费劲。量化的思路就是把这些小数尾巴砍掉，用更低精度的数字来表示，比如8位整数甚至更低。 这样做最直接的好处就是让模型占用的内存变小了，计算速度也快了不少。但量化的难点在于，砍掉精度之后模型的预测准确率会往下掉，所以大部分量化方案都在找一个平衡点，通过牺牲一点精度换取效率的提升。 
图片源自：网络 2026年有一篇被CVPR收录为Findings论文的工作叫BitTP，它做的量化有点反常识。BitTP处理的是轨迹预测任务，就是预测周围车辆和行人接下来会怎么走。这个任务以前用的是大语言模型来做，效果好但模型太大，车上那点算力根本跑不动。 BitTP的做法是把模型的权重从32位浮点数直接压到了1.58-bit。1.58-bit是什么概念？正常的32位浮点数每个参数有2的32次方种可能的取值，而1.58-bit的量化只允许参数取三个值，即-1、0和1。相当于把一个可以写任何数字的参数，强行限制成只能写-1、0或者1。 按理说这么粗暴的压缩方式，精度应该会掉得没法看，但BitTP的结果是，量化之后的模型不仅没有变差，反而比原来那个全精度的模型预测得更准了，平均位移误差降了14.29%，最终位移误差降了20.97%。论文里给的解释是，其精心设计的量化本身起到了一种正则化的作用，可以这么理解，原来的模型参数太自由了，什么值都能取，反而容易学到一些不重要的细节。量化把参数限制在三个值之后，模型被迫用更简洁的方式去表达规律，反而抓住了更本质的东西。 BitTP还有一个很关键的细节，那就是它只量化了模型的权重，但中间的计算结果也就是激活值，还是保留了全精度，如果连激活值一起量化，模型的时空推理能力会严重崩坏。这说明量化不是一刀切的事，什么地方该压、什么地方该留，需要仔细设计。 
图片源自：网络 YOLOv8n的改进则是另一个值得聊的案例，YOLO系列在目标检测领域用得很多，但标准的YOLOv8n在自动驾驶场景里有个问题，那就是它对于远处的小目标检测效果不太好，而那些小目标恰是行人或者远处的车辆。 2026年发表在IET Image Processing上的一篇工作，围绕YOLOv8n做了一套针对小目标检测和边缘部署的轻量化改造。他们做了几件事，第一是改损失函数，针对小目标引入了一种叫归一化沃瑟斯坦距离的损失，跟传统的IoU损失配合着用，小目标用前者更稳定，大目标用后者更准；第二是在特征提取网络里加了一个小目标增强模块，防止小目标的信息在层层传递中丢失；第三是参数共享，让不同尺度的检测头共用同一套参数。 这几招下来，效果相当明显，参数量少了45%，计算量少了50%，推理速度反而快了9%到10%，精度还提升了4%以上。此外，这个模型经过训练后的量化可以进一步压缩到1.4 GFLOPs，能在Raspberry Pi和Jetson Nano这类嵌入式平台上跑起来。 知识蒸馏是另一条重要的路径，这个方法的思路很简单，那就是用一个参数量巨大的大模型当老师，训练一个小的学生模型，让学生尽可能模仿老师的行为。 
图片源自：网络 2026年有一篇arXiv上的工作叫Orion-Lite，做的就是这件事，它把一个VLA大模型的知识蒸馏到一个纯视觉的小模型里。VLA是视觉-语言-动作模型，参数量巨大，车上很难跑动，Orion-Lite的做法是通过特征蒸馏和轨迹监督两方面的约束，让小模型学到老师模型的推理能力。结果小模型在Bench2Drive评测中的Driving Score达到了80.6，不仅不比老师差，甚至还超过了它那个庞大的老师。 这说明大模型里的知识经过蒸馏之后，小模型不仅能保留，有时候还能做得更好。该论文的结论是，纯视觉架构在反应式规划方面还有很大的潜力没有被挖掘出来。也就是说，不一定非要塞一个大语言模型上车，通过蒸馏把大模型的推理能力迁移到小模型上，可能是一条更务实的路。 剪枝则是从模型结构入手，直接去掉那些不重要的参数。 华中科技大学和阿里安全在ICLR 2026上发表的工作提出了Vulcan方法。他们发现了一个很有意思的现象，那就是自动驾驶的传感器其实只需要识别交通相关的类别，那些花花草草之类的无关类别不仅浪费算力，还会干扰模型对关键目标的注意力。 现有的压缩方法都在努力保持模型的通用能力，但边缘设备根本不需要那么全。Vulcan的核心思路是先训练再剪枝，而不是传统的先剪枝再训练。他们先在模型里主动引入一些结构化的冗余，然后再把那些跟目标类别无关的部分剪掉。这样剪完之后，模型在特定类别上的准确率不仅没有下降，反而最高提升了15.12%，而模型规模只有原来的20%到40%。 
回到最开始的问题，用户为什么不太愿意用城市NOA？体验不够好是最直接的原因。刹车生硬、变道犹豫、在路口处理得不够果断，这些问题的背后，很大程度上是模型在有限算力上跑得不够快、不够准。推理慢了半拍，决策就跟着迟钝；模型被压缩得太狠，复杂场景就处理不好，如果用户试几次觉得还不如自己开，自然就不再用了。 
图片源自：网络 轻量化的本质不是在精度和速度之间做简单的取舍，而是在算力、响应时间和决策质量三者之间找一个更好的平衡点。这个平衡点找得好，系统反应就快，处理复杂场景就从容，开起来才像个人类老司机；若找得不好，省下来的算力最后都变成了用户体验的损失。 2026年的自动驾驶行业，算力还在涨，芯片还在迭代，但用更少的算力做更多的事已经成为一条很清晰的技术主线，轻量化这件事，一开始是为了解决硬件跑不动的问题，到现在已经变成了决定智驾系统好不好用的关键因素之一。毕竟用户不会在意车上的模型做了多少次量化、用了什么蒸馏方法，他们只在意这车开起来顺不顺、敢不敢放心让它开。 模型轻量化做到位了，用户才会真正愿意用。 #自动驾驶#模型轻量化#知识蒸馏
算力不是越多越好，模型也不是越大越强
让模型变轻的三条技术路径
1）量化
2）知识蒸馏
3）剪枝
轻量化不只是为了降本，更是为了提升体验
本文来自网友投稿或网络内容，如有侵犯您的权益请联系我们删除，联系邮箱：wyl860211@qq.com 。
