车东西(公众号:chedongxi)
作者 | 郭月
编辑 | 志豪
2025年11月5日,小鹏集团董事长兼CEO何小鹏正式宣布公司全面向物理AI转型,并将2026年明确定性为“物理AI全面量产元年”,从当日高调官宣转型至今,一共过去了247天,约8个月的时间。
这8个月里,外界看到的是小鹏在加速 “交卷”—— 不仅接连把产品推向市场,也持续亮出底层技术底牌。
在小鹏宏大的物理AI叙事中,VLA(视觉语言动作模型)2.0 被定位为整套体系的核心基座:不仅支撑自动驾驶,更是未来人形机器人、飞行汽车等具身智能产品的通用底层能力。
就在最近,小鹏在这个基座上又往前推了一步,发布了X-Mind,宣称给自动驾驶装上了一个能“预见未来”的大脑,解决了车端算力约束下难以清晰表达“思考过程”的难题,它与X-World、X-Foresight共同组成小鹏物理AI基座模型的研发谱系。
小鹏带来的到底是一次真正的技术革新,还是只是技术噱头的包装?
车东西将以系列的形式来拆解小鹏VLA 2.0,本文为该系列首篇,我们结合小鹏预测世界模型(Predictive World Model, PWM)团队发布的论文,把X-Mind的技术原理、实测表现和目前还存在的短板,一条条掰开看。
一、传统VLA仍为直觉驾驶 “嫁接”世界模型后仍未破局
小鹏团队在论文中指出当前主流VLA模型的短板:传统端到端VLA模型本质上是一套纯反应式映射系统。
▲小鹏发布论文《X-Mind:面向端到端自动驾驶、基于预测世界模型的高效视觉思维链》
简单来说,就是摄像头捕捉到什么,模型就直接输出对应的转向、加减速指令,不会主动思考这套操作会引发怎样的连锁路况变化,全程没有对未来交通时序变化的显式推演环节。
该团队将这套机制的不足总结为两点:一是模型缺失前瞻物理推理能力,所有驾驶策略仅依托当前瞬时观测生成,而非对环境动态演变的完整理解;二是该训练模式极易催生捷径学习——模型只会记忆数据表层的画面-动作匹配关系,绕开了对道路物理因果逻辑的深层学习。
这种”感知→动作”的直接映射,在简单场景下够用,但遇到训练集未覆盖的长尾场景,比如周边货车遮挡视线、雨天路面打滑等情况,模型无法自主推导风险,决策可能失效。
那么问题来了:行业难道不知道预判的重要性吗?其实业内早就意识到让VLA拥有预测未来的能力的重要性。
为了让智驾系统学会提前想一步,研究者们一直在尝试把预测世界模型(Predictive World Model, PWM)整合进智驾系统。
但探索来探索去,两条主流技术路线都撞上了“南墙”。
论文梳理了现有方案的两条路径,并指出了各自的问题:
第一种是级联式方案,把预判路况和规划动作拆成两个独立模块,逻辑框架清晰,但大幅增加运算量,推理延迟严重,无法满足车载实时运行标准。
第二种是末端附加联合训练方案,把路况重建作为辅助任务叠加在网络末端,但末端任务生成的信号难以有效回传至大模型深层,模型容易陷入捷径学习,无法真正建立物理推理能力。
两条路,一条跑不动,一条学不透。小鹏团队高调宣扬的X-Mind,正是试图解决这一矛盾。
二、X-Mind要怎么做?先“脑补”草图再开车
X-Mind的核心思路是:不将PWM作为一个外部模块接入,而是将其内化为视觉思维链(Visual CoT) ,成为模型内部推理流程的一部分。
▲X-Mind的整体架构
X-Mind让VLA在驾驶动作生成之前执行显式的时空“推演”,让规划出来的路径考虑到未来交通流的变化,再基于此输出轨迹。
那么,模型具体要“推演”什么?又要“推演”多远?
论文给出的答案是:抽象草图+12帧——前者为想象的内容,后者为想象的范围。
为什么推演草图,而不是推演未来高清画面?其实很好理解,要考虑性价比。
根据小鹏官方设计的实验,如果将原始高清图像作为输入传统VLA模型,确实能小幅降低预测误差、提升预判准度;但代价是额外新增3584个Token,数据量暴增,带来巨大内存占用与计算压力,推理耗时是基础模型的22倍,推理延迟严重。
X-Mind不这么干,它只“脑补”一张草图——只保留开车用得上的东西的鸟瞰示意图,这张图里包含物理场景实体(自车本体、周边全部动态车辆/非机动车等障碍物以及车道线、车道边界、路面轮廓等道路拓扑结构)、动态交通灯状态、导航意图以及合规车速。
▲结构化思维草图的可视化
换句话说,模型推演的不是未来的高清画面,而是一张包含物理场景和驾驶规则的俯视草图——并且这张草图会连续变化12帧,形成一个完整的未来场景演变序列。
三、为什么要看未来12帧?长时序推演误差最小
那问题又来了:预测那么远干嘛?直接看眼前或者预测未来1帧不就行了吗?
小鹏技术团队设置了三组对照实验来验证预测时长的选择:仅重建当前画面帧,仅预测未来1帧草图,预测连续12帧未来草图。
这些实验采用两个评估指标:FID代表评估生成草图与真实BEV草图的相似度,分数越低,生成的鸟瞰草图越贴近真实道路;ADE代表评估规划轨迹与最优轨迹的偏差,数值越低说明开车越稳、预判越准。
▲时序预测目标消融实验
实验结果显示:只复刻眼前画面,FID数值最低,草图画面清晰度最高,但ADE横、纵向轨迹误差全部最高,三组里驾驶规划效果最差。这意味着,单纯让模型认识当前画面,无法让模型学习车辆动态变化,对真实行车预判没有帮助。
仅预测未来1帧草图,在画面清晰度轻微下降的同时,横、纵向轨迹误差同步降低。哪怕只预判1帧未来画面,也能让系统捕捉车流、自车位移时序信息,对轨迹规划的作用远高于静态画面复刻。
而预测连续12帧未来草图,长时序推演难度更高,画面会轻微模糊;但横向、纵向轨迹误差全部为三组最低,轨迹规划性能最优。
论文据此认为,连续12帧推演强制模型学习多车交互、障碍物持续移动、长线导航约束,输出轨迹最贴合真实驾驶需求。
简单来说,逼着AI去推演未来12帧的“连续剧”,哪怕画面有点模糊,AI也能从中悟出“周围的车是在变道还是刹停”的动态逻辑,足够让模型“看到”交通流的演变趋势。
四、算力瓶颈如何突破?两大绝招破解落地难题
可能还有人好奇:平时开个导航、搜个玩乐地址都怕车机卡顿,在车端算力受限的情况下,这一整套推演要如何完成?X-Mind从两个方向入手。
1、超级压缩包——DC-AE深度压缩自编码器。
即使推演的是抽象草图,连续12帧的数据量依然可观。
为此X-Mind配了一个“超级压缩包”——深度压缩自编码器(DC-AE),专门压缩这套草图,将12帧连续未来抽象草图压缩成96个Token,仅保留道路拓扑、交通灯状态和导航意图等核心语义先验,过滤掉与规划无关的纹理干扰,解决了长上下文带来的计算瓶颈。
2、单层直通引擎——递归块扩散机制。
传统去噪扩散模型需要数十轮迭代式去噪采样步骤,才能生成高保真的未来路况草图,多次重复前向计算会带来极高的推理延迟,这套方案对于算力资源受限、要求实时运行的车载场景不具备落地可行性。
为此,X-Mind设计了递归块扩散机制(Recurrent Block Diffusion, RBD),将降噪流程拆分进驾驶大模型的每一层网络,仅通过单次前向传播就能输出12帧完整的长时序未来路况推演画面。
▲递归块扩散机制整体架构
研发团队设计了三组对照实验:无扩散模块的基础模型(Base)、单步去噪扩散方案(Base+Sketch(Single Step))、递归块扩散RBD方案(Base+Sketch(RBD)),采用FID指标量化评估生成画面视觉质量。
▲不同架构范式下性能与推理效率对比
实验数据显示,RBD的图像生成质量(FID 9.59)显著优于单步去噪方案(FID 67.30),而推理延迟基本持平。
▲白天和夜间场景下RBD的未来空间推演结果
该团队据此得出结论:RBD机制打通了高精度时序推理与车载实时落地之间的壁垒,在保留高质量未来推演能力的同时,解决了传统扩散模型延迟过高、无法上车的缺陷。
五、说了半天,X-Mind实战效果到底怎么样?
论文里还对比了四类场景表征方案:无世界模型的传统VLA模型(Base);传统VLA叠加原始图像(Base+Image);传统VLA叠加3D高斯溅射(Base+3DGS);传统VLA叠加结构化BEV思维草图(Base+Sketch),也就是X-Mind方案。
▲不同场景表征方案的性能与推理效率对比
结果显示,无世界模型的传统VLA方案,横向、纵向轨迹误差全部最高,预判精度最差。
而叠加原始图像的方案虽能小幅减少误差,但该方案需要额外新增3584个Token,带来巨大的内存占用与计算负担。
3DGS方案虽以画面重建为核心,Token开销同样极高,规划精度提升却极为有限。
思维草图方案,也就是小鹏X-Mind方案,ADE横向/纵向轨迹预测误差全部最低,且仅需96个额外Token,推理耗时仅为传统VLA的1.1倍,只增加10%运算延迟,满足车载实时运行要求。
六、还有哪些短板?论文坦承两个方向
虽然X-Mind在一些数据上表现有优势,但当前架构仍存在两大局限,而这也是小鹏研究团队正在攻关的方向。
第一,从“先想后做”到“边想边做”。
当前推理流程是串行执行——先完成未来世界推演,再基于草图求解最优轨迹。
团队正研究路况草图与车辆控制动作联合同步采样生成方案,让决策和脑补同步进行,进一步提升复杂场景下的响应速度。
第二,从“监督学习”到“自监督学习”。
当前架构虽取得效果,但训练必须依赖人工标注生成结构化草图真值(GT),这会成为模型持续扩容迭代的瓶颈。
小鹏团队下一阶段计划引入自监督表征学习范式,充分利用近乎无限的原始行车录像,大幅降低标注成本,让模型习得更底层、更深刻的物理环境规律,进一步强化端到端自动驾驶系统的认知推理能力。
一旦实现这些突破,VLA的进步速度会像坐了火箭一样。
结语:X-Mind到底改变了什么?
从技术架构来看,X-Mind提出的方案是将预测世界模型以内化而非外挂的方式整合进VLA模型。具体来说,它做了三件事:
第一,把“预判”从外部模块变成了模型内部的视觉思维链,让VLA在输出动作之前先完成一次对未来的显式推演;第二,用抽象草图替代高清画面,将12帧的未来推演压缩至96个Token,把长时序预测的成本降到了车端算力能够承受的范围;第三,通过递归块扩散机制,让这一整套推演在单次前向传播中完成,最大限度保障了画面生成的质量。
这篇论文的真正价值,在于它提供了一条足够轻量化的、可行的技术路径,预测未来这件事,仅靠单次前向传播、仅增加10%推理延迟、新增96个Token就能实现。
但论文没有回答的问题同样重要:这套在特定数据集上验证有效的推演机制,能否在泛化到从未见过的场景时依然可靠?自监督学习突破后,模型学到的是真实的物理因果,还是仅仅是更复杂的统计相关性?以及,当量产车真正跑起来,这10%的延迟增量在极端工况下会不会成为新的隐患?
这些问题能不能被解决,这条路能不能走通,还需要真实道路上的每一公里来验证。