“端到端”这三个字,差不多是我近几年在行业会议和技术讨论里听到频率最高的词。全球头部的自动驾驶团队,几乎都把端到端写进技术发布的核心页面,有的已经做到量产上车,有的还在为最后那段长尾场景挣扎。这背后并不只是算法结构换了个形状,而是一整套研究范式正在被重写:传统自动驾驶里“感知-预测-规划-控制”环环相扣的模块化链路,正在被一个用海量数据训练出来的大模型整体接管;与此同时,多模态大模型也在快速进入车载语音、知识问答、驾驶解释这些场景。标题里那句“端到端突飞猛进,大模型演化带来全新机会”,我觉得不是夸张说法,而是眼下汽车AI行业最准确的一句话。
这篇文章我想认真梳理三件事:端到端为什么能在这个时间点爆发;汽车大模型演化到底改变了什么;“大模型演化带来的机会”落到具体的研究和工程落地上,应该往哪里看。过程中我会把这两年在实际项目里踩过的坑、反复验证过的判断也一起放进来,希望能给正在做智驾算法、做大模型应用,或者准备进入这个领域的同学一点参考。
1. 为什么说端到端是“范式换总”,而不是普通升级
1.1 从模块化链路到单一可学习系统:控制权交接才是核心
传统自动驾驶系统的结构,大家都很熟悉:感知模块负责识别障碍物、车道线、红绿灯,预测模块负责估计周围目标接下来几秒的轨迹,规划模块在全局路径和局部避障之间做权衡,最后控制模块输出方向盘转角和加减速。这套体系里每一个模块都被打磨了很多年,学术论文和工程文档堆积如山,但它的核心问题一直存在——接口。
接口是模块化系统最容易出错的地方。感知模块输出的目标框带有一个置信度,预测模块根据这个目标框估计轨迹,规划模块再基于轨迹做决策。每一层都只是拿上一层的结果继续加工,误差会在链路里一级一级放大。举个最常见的例子:夜间光线不好时,感知模块把一个路边静止的锥桶漏检了,预测模块自然就不会为它生成轨迹,规划模块也根本不知道前方存在风险,整个系统就安静地开过去了。这不是任何一个模块单独做错了,而是链路设计本身决定了任何一个薄弱环节都可能让全局能力塌陷。
端到端模型的不同之处在于,它把原始传感器输入到驾驶决策输出之间的映射,统一成了一个可学习的网络。感知和规划不再有清晰的物理边界,中间也没有人工定义的接口。整个网络自己决定哪些中间特征需要保留、哪些需要丢弃。我不太喜欢“端到端就是输入图像输出方向盘”这种简化说法,因为真正的端到端系统里其实仍然会有可解释的中间表征,比如BEV特征、占用网格、目标轨迹查询,只是这些表征不再是为某个独立模块服务的“接口”,而是为整体驾驶目标服务的“中间变量”。
这种范式换总的本质,是驾驶系统中“控制权”的转移。传统系统把决策权交给工程师手工编写的规则和模块逻辑,端到端把决策权交给数据和模型。工程师的角色从“写决策规则”变成了“定义数据质量和训练目标”,这是一个非常大的角色转变。
1.2 端到端实验做了几十年,为什么偏偏是这两年起飞
端到端驾驶并不是新鲜概念。上世纪80年代末,卡内基梅隆大学的ALVINN项目就已经用神经网络直接处理摄像头图像输出转向指令,试验车还能在校园道路上跑起来。2016年前后,NVIDIA的DAVE-2系统也用CNN成功实现了端到端转向,那段“只用摄像头就学会车道保持”的演示视频,当时在圈子里传得很广。但那一代端到端系统最终都没能进入量产,原因并不神秘:一是数据规模不够,神经网络需要海量驾驶场景才能覆盖足够多的情况;二是算力不够,当时的嵌入式平台跑不动足够大的模型;三是缺少有效的仿真验证环境,模型稍微面对没见过的情况就容易彻底失控。
这两年情况完全不同。视觉Transformer和BEV感知成为主流之后,自动驾驶第一次有了一个比较统一的空间表示方式,多个摄像头的特征可以投影到车体坐标系里做融合。占用网络进一步把三维空间划分成可以学习的体素网格,让障碍物检测不再局限于人工定义的目标类别。这些技术为端到端提供了“统一表征”的基础。与此同时,大算力域控制器开始上车,云端训练集群的能力也上来了,训练一个大型神经网络所需的时间和成本大幅下降。更重要的是,量产车队每天回传的海量真实驾驶数据,让端到端训练有了足够丰富的“教材”。
所以端到端不是突然出现的黑科技,而是数据、算力、网络结构、仿真环境四件事同时成熟之后,水到渠成的结果。那些看起来“突飞猛进”的进展,背后其实是过去五六年基础技术积累的集中兑现。
1.3 数据成为第一生产力,开发范式被彻底改写了
端到端真正带来的冲击,是开发团队的组织方式发生了变化。过去做自动驾驶,绝大部分时间花在规则和调参上:某个路口处理不好,加一条规则;某种场景误识别,调一个阈值。这种开发范式是“以工程师为中心的”,系统的能力上限取决于工程师能不能想到足够多的边缘情况并写成代码。
到了端到端时代,开发的核心变成了数据。工程师不再花大量时间写规则,而是把精力放在三个问题上:采集什么数据、如何清洗和标注数据、如何平衡不同场景在训练集中的比例。一个典型的数据闭环大致是:量产车在真实道路上运行,车端触发式采集异常片段,比如安全接管、驾驶员急刹车、用户主动报告的问题,这些片段回传到云端之后,用自动化工具做场景标签、困难样本挖掘、场景还原,再经过人工审核进入训练集。
我在项目里见过很多团队,模型结构都是从开源方案里迁移过来的,差别不大,真正拉开差距的是数据流水线的完整度。有的团队能在一周内把新发现的corner case注入训练集并验证效果,有的团队光走完数据上传、标注、回放这套流程就要一个月。这个差距反映在量产体验上,就是接管率的差别。所以端到端时代,数据工程能力某种意义上比算法创新能力更决定产品下限。
2. 从感知到认知:大模型演化正在重写汽车AI的能力上限
2.1 不是“检测到障碍物”,而是“理解了这个场景”
传统感知模型追求的是“看清”能力,目标是输出边界框、车道线、深度值,输出的东西是结构化信号。但驾驶场景里大量信息是结构化描述表达不了的。举个例子,高速上两公里外就开始堵车,前方车辆踩刹车的节奏非常一致,这是“事故或拥堵即将到来”的信号;又比如夜间路边停了一辆开着双闪的车,旁边有人在后备箱附近拿东西,这暗示“可能存在人员突然横穿的风险”。传统感知模型很难从这些场景里提炼出“理解和预判”,因为它只负责识别几何位置,不负责理解社会性活动。
大模型带来的一个关键变化,是模型开始具备“场景整体理解”的能力。多模态大模型把图像、视频、文本、语音映射到同一个表征空间,模型不再只回答“目标框在哪里”,还能回答“这个画面里正在发生什么”“前方是否安全”“这个行为的意图是什么”。这种能力在长尾场景里价值极高,因为它把驾驶从几何避障提升到了语义理解层面。
我在工程上比较看好的做法,是视觉语言模型作为驾驶系统的“场景解释器”存在。它不直接做最终决策,但负责把摄像头视频流转换成结构化的场景描述、风险提示、可以理解的意图判断,给下游的规划模块提供更高层的语义信息。这种架构既利用了多模态模型的泛化能力,又避免了大模型直接控制车辆带来的安全风险。
2.2 驾驶、座舱、语音正在收敛到同一个“车载大脑”
过去一辆车上有好几套互相隔离的AI系统:智驾域控制器负责辅助驾驶,座舱域控制器负责语音交互和中控屏,车机导航又是另一套逻辑。每一套系统都在自己的数据和模型里独立运作,彼此几乎不共享信息。这个局面越来越不合理了:驾驶员正在使用导航到达某个目的地,智驾系统却不知道目的地是什么,也不知道导航规划的下一个转向操作是什么,两者之间信息隔着一堵墙。
大模型演化让“一个大脑”成为可能。车载大模型可以同时接入视觉、语音、导航信息、车辆状态和用户历史偏好,用一组模型统一处理。比如车机语音助手不再是简单的指令识别,它可以听懂“我快来不及了,帮我找一条快的路并且路上少点坑洼”,然后综合导航数据和驾驶偏好给出建议。更进一步,可以研究驾驶决策与语言模型的结合:规划模块输出的轨迹,可以用自然语言向驾驶员解释“我检测到前方三公里外有堵车,所以提前变道到左侧车道”,同时根据语言交互中透露的用户意图动态调整驾驶风格。
我理解这种收敛现在还远没有成熟,技术栈、组织架构、供应商边界都是阻碍。但从模型演化的方向看,智驾和座舱共用一套大模型底座,几乎是必然趋势。区别只是谁先完成这个整合。
2.3 模型演化把知识获取方式从“写规则”变成了“组织语料”
传统智驾系统里的驾驶知识,很大一部分来自工程师的规则提炼:安全距离是多少、限速多少、雨刮什么速度该开。这些规则明确、可控,但覆盖面永远有限,因为真实世界的场景组合几乎是无限的。大模型的思路完全相反,它通过在海量语料和视频上自监督训练,把“世界的运行方式”压缩进模型参数里。这个知识不是什么人写出来的规则,而是从亿万级的数据分布中自动统计出来的常识。
这意味着团队的核心竞争力也在迁移:过去比的是谁更擅长把驾驶专家的经验写成精密的规则,现在比的是谁更擅长找到高质量的数据、设计合理的训练任务、构造规模更大更均匀的数据集。换句话说,“数据牧人”的角色价值在上升,传统意义上的“调参工程师”价值在下降。
对应到具体技能栈,做汽车大模型的人要同时懂数据标注流程、分布式训练、模型压缩部署,还得理解车辆控制和功能安全的基本约束。这个复合型要求,比传统算法岗位的门槛高了不少,但正因为门槛高,先跑通的人才能建立起壁垒。
3. 未来三到五年值得押注的三条技术主线
3.1 主线一:端到端驾驶模型从“视觉到动作”升级为VLA(视觉-语言-动作)
第一代端到端驾驶模型,基本是“摄像头视频进、方向盘转角出”的映射学习。它能够学会正常驾驶,但面对开放世界的复杂语义场景时,还是会显得“有点笨”。现在演进的焦点是引入语言和知识作为中间的桥梁,这就是VLA的核心思路:视觉传感器提供环境信息,语言模块提供任务描述和常识推理,动作模块输出具体控制指令。
我理解的VLA大致是这样工作的:系统接收到一个指令,比如“下一个路口右转”,视觉模块实时感知交通信号和路况,语言模型把这些信息综合起来形成一个对当前场景的理解,最终由动作生成模块输出安全的转向轨迹。语言在这里起的作用是“常识对齐”和“意图传递”,避免模型只学会某种视觉模式就直接输出动作。
VLA最大的意义在于它把自动驾驶和具身智能放在了同一个技术框架里。模型不再只是为汽车服务的“驾驶专家”,而是一个能理解物理世界的通用大脑,只不过当前学的是方向盘和踏板。沿着这个方向,未来无人配送小车、服务机器人、工业机械臂的控制模型,理论上可以共享同一套的基础能力。这也是很多团队愿意重兵力押注的原因。
3.2 主线二:多模态大模型作为“驾驶系统中枢”的角色会更加清晰
另一条重要路线,是多模态大模型不直接控制方向盘,而是作为驾驶系统里的“理解中枢”。所有传感器数据流都汇入这个大模型,它负责环境理解、场景常识、操作风险提示和驾驶员交互,然后把提炼出的语义信息交给负责任务决策和控制的模块。这是一种“大模型做认知,传统模块做执行”的混合架构。
这种路线现实中有非常强的落地动力。直接让大模型背方向盘,出了问题很难解释,安全验证也难以通过;但如果大模型只负责“看图说话”和“推理建议”,下游永远保留规则模型作为安全兜底,整个系统的可控性就高得多。比如复杂路口场景,感知模块只检测到一堆目标框,大模型则可以判断“这是一个不规则的环岛,需要慢行并让主路车辆先行”,把这句话转换成一条风险提示或速度上限约束交给规划模块执行。
工业界现在很多量产方案走的就是这个路线。多模态大模型被当成“副驾驶大脑”来用,它有自己的判断能力,但最后一道控制红线仍然握在人写好的安全模块手里。这一路线壁垒主要在两个点:一是大模型在车端推理的时延能不能压到可接受范围,二是幻觉问题能不能通过系统设计控制在“建议层”而不会污染执行层。
3.3 主线三:世界模型正在改变仿真和测试的基本玩法
这条线我在圈里观察了很久,觉得是被低估得最严重的方向。传统自动驾驶测试靠两条腿:真实路测和规则化仿真。真实路测成本极高,亿级里程才能覆盖足够多的情况;规则化仿真能覆盖的场景又是工程师预先定义好的,很难生成真正让模型意外的难点。世界模型解决了这个矛盾:用生成式方法从真实数据中学习环境动态规律,然后根据一段历史场景,生成后续可能出现的连续视频和动态目标轨迹。
这带来的价值非常直接:模型可以在离线情况下被投喂几百万个“不存在但合理”的极端场景,比如同一辆车在同一个路口遭遇突然窜出的行人、对向车道逆行、雨天反光等各类组合,通过仿真把整个决策空间压得更扎实。世界模型本身就是一个大模型,它对物理世界规律的学习程度,直接决定了生成场景的真实性和多样性。
当然世界模型也有它的问题,最大的还是“物理一致性”。一个稍微夸大的转弯轨迹、一个不符合摩擦力的减速,都可能让训练出来的模型把注意力放在错误的因果上。所以它目前更适合作为数据扩充和模型评估的手段,而不是直接生成训练数据替代真实采集。这也是一个值得长期跟进的突破点。
4. 从Demo到量产:数据闭环、车载算力与安全评估的三重门槛
4.1 数据闭环:绝大多数团队过不去的工程屏障
Demo阶段做端到端模型,最常用的是公开数据集,或者自己开一辆车采集几百小时数据,跑通几个场景就行。但要量产,数据工程就变成了完全不同的课题。量产车每天产生的原始视频数据量级是海量的,但其中真正有价值的、能推动模型进步的样本却极其稀少。每天堵在路上两小时的日常驾驶,对模型的边际提升几乎为零,真正让它进步的,是安全员接管那一秒、前车突然急刹那几帧、行人突然横穿那种异质场景。
我在项目里推的实践方式是“影子模式+触发式采集”。量产车正常行驶时,车端策略并行跑一个“影子模型”,它只在后台输出预测,不实际操控方向。后台预测和驾驶员真实操作差异较大时,系统自动把触发前后的完整数据段回传到云端。云端再用离线大模型做快速标注、场景聚类、风险评分,挑选出有价值的新样本进训练流程。这个流水线里的每一个环节都要有人负责,而且越早搭好越值钱。
我还见过不少团队在神经网络结构上反复较劲,却把数据流水线做得很粗放:车端采集规则拍脑袋定,上传链路延迟高,标注工具依赖外包。结构层面的优势在这种数据工程短板面前很难发挥,因为模型训练用的数据质量上不去,再先进的架构也只能学个“平均值”。如果让我给准备做端到端量产的人提一个建议,我会说:先把采集、标注、回放、训练、验证这套闭环打通,再谈模型结构创新。
4.2 车载算力与大模型部署:功耗墙比算力墙更现实
大模型在云端跑得再好,最后要上车,就必须面对车载域控制器的真实限制。车载AI芯片的算力再大,也架不住模型越来越大、输入分辨率越来越高。实际部署中最大的问题往往不是“算不动”,而是“功耗散热扛不住”。连续推理大模型会让域控温度明显上升,一旦触发降频,模型精度和推理延迟都会恶化,夏天场景尤其明显,阳光暴晒下车内温度原本就高,再加上大模型满负荷运行,散热压力确实很大。
我的经验是,上车项目一定要把功耗和时延的预算放在算法设计之前。比如摄像头分辨率是否真的要全部1280×720?BEV特征的网格密度能不能降到128×128?遮挡注意力机制能不能只在前方区域计算?这些决策对模型性能和功耗的影响,往往比选择哪套网络结构还大。另一个常用手段是模型蒸馏:离线先用一个大模型做老师,蒸馏出一个参数量小不少的学生模型上车,用int8量化做精度补偿,尽量在算力和效果之间找到平衡点。
车端大模型的优化方向,短期不应该是“把更大的模型塞进去”,而是“在可控功耗下让模型真正稳定运行”。满足不了这一点,一切高阶能力都只停留在发布会PPT上。
4.3 安全评估:黑盒模型和开放世界之间的信任缺口
传统自动驾驶功能的安全评估,有一套非常成熟的参考标准,MDG那些条目有详细的测试过程。但端到端大模型的评估就难多了:模型输出的长期轨迹没有唯一正确答案,模型内部又是一个黑盒,工程师很难解释“它为什么要在这个路口这样转弯”。这种不确定性与汽车安全的基本要求存在天然冲突。
我现在看到行业内比较认可的做法是三层评估叠加。第一层是影子模式和车端数据统计,运营车的接管率、驾驶员干预频率,这类指标可以反映模型在真实分布下的表现;第二层是世界模型与对抗仿真,主动生成高风险场景,比如突遇遮挡、前方视线压顶以及车道线混乱,看模型在这些场景里能否保持安全边界;第三层是“行为风格”层面的评测,比如急加速频率、急转弯幅度、大偏差回中次数,这类指标虽然不覆盖安全问题,但直接决定乘客和驾驶员的信任感。
这三层里,仿真层是最值得投入的。因为真实路测永远不够快,AI大模型需要的是主动、可控而且记录下来能反复使用的测试场景。谁能把评测体系建得比模型演化还快,谁就能在量产上少踩很多坑。
5. 大模型演化的“全新机会”,哪些方向值得重兵投入
5.1 机会全景:四层结构需要不同背景的人
从产业链角度,汽车大模型的机会大致可以拆成四层,不同背景的人可以找到自己合适的切入点。
第一层是算法层,主要是端到端模型架构、VLA、世界模型、多模态对齐这类前沿课题。这一层壁垒最高,适合研究型团队和头部公司,需要长时间积累和大量算力支撑。如果你是刚进入领域的个人开发者,不建议直接从这一层正面突破,跟住社区路线做开源算法复现会比较合适。
第二层是数据层,包括高质量驾驶场景语料的采集、清洗、标注和交易。这一层看起来离算法很远,实际上是大模型能力的上限所在。一家团队如果能稳定提供某个细分场景的高质量数据,比如恶劣天气、乡镇道路、园区物流,它就拥有了极强的产业链话语权。数据公司的创业机会这两年其实正在重新抬头。
第三层是工具链层,包括大模型仿真生成、自动标注平台、车端模型压缩工具、评测系统。这一层的共同点是服务对象是开发者,需要做出好用、稳定、可集成的产品。对一个中小团队来说,这比直接做算法更容易找到商业闭环,因为客户是明确的,痛点也更具体。
第四层是应用层,包括更聪明的座舱助手、保险和理赔的知识引擎、售后维修的智能诊断、车队运营管理,以及有一个基础的“懂车Agent”。这一层不需要自研大模型,更多是利用开源基座模型加领域知识和私有数据做微调与工作流集成,门槛最低,离场景最近,跑通起来也最快。
5.2 别高估“演示速度”,也别被开源和微调迷了眼
机会多的地方同样泡沫也多。我的判断里有几个清醒点想分享。
第一,端到端演示视频的“惊艳程度”不等于量产能力。很多演示是在封闭道路和千挑万选的场景里录出来的,真实的开放道路情况要复杂得多。真正拉开差距的是路灯信号灯残旧、多车加塞博弈、极端天气下的稳定表现,这些只能靠时间一点点磨出来,没有捷径。
第二,开源模型让起步门槛降了很多,但这不是竞争的终点。开源VLA模型拿来做一个合理起步是可以的,但一旦进入量产,数据、工具链、安全的边际成本才是真正决定胜负的东西。想要靠开源模型直接做出差异化产品,往往会在真实场景上撞到常识缺失的墙。围绕私有数据做微调和评测,是必须补的功课,这也是目前不少团队瓶颈最明显的地方。
第三,不要把所有逻辑都丢给一个大模型。我的建议永远是“大模型+安全兜底”的混合架构,认知层用大模型,执行层保留可解释的规则和确定性控制,系统在未知场景下至少要有一种“退到安全模式”的机制。
第四,通用具身大脑这个方向很性感,但非常难。汽车是一个有明确操作边界的环境,相对容易先跑通。相比之下,做工业、物流、家用场景的机器人大模型,前端的物理交互复杂度成倍上升,不确定性也大很多。稳妥的做法是先聚焦汽车场景完成闭环,积累到足够数据和经验之后,再横向扩展。
5.3 我个人更看好的几个落点
如果一定要我选几个具体方向,我会提这几个:车端大模型轻量化和蒸馏工具,这是一个刚需,每家车厂和Tier 1都在找好用的工具链;基于世界模型的场景生成服务,这条几乎还没有出现真正成熟的产品,但需求已经起来了;还有就是面向售后和客服场景的“懂车Agent”,它不需要碰方向盘,安全风险小,商业模式却非常直接,用户问“仪表盘亮了这个灯怎么办”的时候,能给出准确、结构化、本地化的答复,价值感就很清楚了。
数据闭环里的工具产品也是一个容易低估的方向。大多数车厂都已经意识到数据是资产,但真正能高效地把数据转化成模型能力的人还很少,一套好用的数据筛选、自动标注、场景检索系统,可以帮团队节省一半以上的迭代时间。这样的产品空间在整个行业里是普遍存在的。
最后说几句
我做了这些年汽车AI相关的工作,最大的感受是:技术路线变得很快,但底层制约因素其实还是那几样——数据够不够多、算力够不够用、体系能不能证明自己安全。端到端和大模型确实带来了新的可能性,也让很多过去做不了的事情有了落地的希望,但这不意味着过去的系统设计经验就作废了。系统架构、兜底机制、数据闭环、评测体系,这些“不性感”的工程积累,恰恰是决定大模型能发挥多大作用的地方。
最后分享一个我们在项目里一直在用的小原则:无论模型跑得多好,永远保留一个最简单、可解释、能离线验证的安全兜底路径。大模型负责复杂,兜底负责安全。复杂和可靠之间不是对立,而是需要一套清晰的切换逻辑把它们衔接起来。新手团队最容易犯的错,就是把所有希望寄托在一个大模型身上,等到那个极端场景出现时才发现,连一个基本的减速规则都没有准备好。这个坑我在早期也踩过,希望看到这篇文章的你不用再踩一遍。