DC娱乐网

特斯拉AI总监段鹏飞(Phil Duan)在CVPR26上的Q&A值得一读:➡️

特斯拉AI总监段鹏飞(Phil Duan)在CVPR26上的Q&A值得一读:

➡️Q:VLA与 VA模型:既然大规模驾驶数据已经让 VA 工作得很好,Tesla 为什么不在同一批海量数据上训练 VLA,以争取更好的性能?

A:真正重要的不是 language 本身,而是两项能力:互联网知识与推理(reasoning)。

自动驾驶不应只利用驾驶数据。人类在学车之前,已经通过其他渠道获得了大量世界知识;到法定年龄后才开始驾驶,并不意味着驾驶所需知识只来自驾车经历。

利用互联网数据进行训练,并引入 reasoning traces(推理轨迹),有助于车辆处理复杂场景和未见场景;这比模型是否以语言作为中间接口更关键。

语言是一种手段,推理也可以通过其他形式实现。Tesla 会利用这些能力来提升模型的泛化。

备注:他没有把问题回答成“Tesla 支持或反对 VLA”的二选一,而是重新拆解 VLA 的价值来源:VLA 可能带来开放世界知识与推理监督,但真正应验证的是这些能力是否改善驾驶泛化,而不是模型名称中是否带有 “L”。

➡️Q: 纯车队相机数据如何获得 3D 任务真值:Tesla 车队的在线传感器主要是相机。训练 driving foundation model 时,3D occupancy(三维占据)、object detection(目标检测)等代理任务所需的 ground truth(真值)从何而来?

A:Tesla 在这些 3D 任务上已经积累多年,拥有一套可以运行推理的现有模型。

这些模型可用于生成相应任务的监督信息。

➡️Q:推理阶段是否仍有碰撞检查或安全后备层:面对 Robotaxi 场景,端到端模型输出轨迹后是否还会做碰撞检查、在多条候选轨迹之间选择,或设置额外的安全后备层?是否还需要显式预测任务作为辅助任务?

A:Tesla 将碰撞检查 bake into training(写入/内化到训练过程),使用强化学习处理。- 碰撞检查可以充当 verifiable reward(可验证奖励):碰撞显然属于负面结果,因此很容易构造明确的训练信号。

在 test time / inference time(测试或推理阶段),系统主要依赖模型本身完成驾驶,而不是依赖额外候选轨迹筛选逻辑。

Tesla 会进行非常严格的验证,以确保安全;

备注:对“是否显式保留 prediction 辅助任务”这一小问,他没有单独展开回答。

➡️Q:海量数据下,data curation(数据筛选与配比) 还重要吗?

A: 数据集较小时,首要矛盾是数量不足,此时过度筛选的收益有限。

达到 Tesla 的车队数据规模后,data curation(数据筛选与配比,亦称数据策展)反而非常重要,团队会投入大量时间。

如果从数百万辆车中随机回传数据,约 90% 可能只是高速公路直行。这类数据高度重复,边际训练价值很低。因此需要主动挖掘:真正有挑战性、信息量高的场景;模型做出某种动作、而人类驾驶者不同意或进行了不同操作的场景。

将这些数据回流训练,会带来更高的 data efficiency / sample efficiency(数据效率/样本效率)。

➡️Q:如何判断代理任务是否值得继续优化?

(小贴士:代理任务(proxy task)是指:它不是系统最终要完成的目标,而是为了帮助模型学会最终目标而设置的中间训练任务。)

既然 action loss(动作损失)对应最终驾驶目标,而其他任务只是 proxy tasks(代理任务),应如何判断哪个代理任务更重要、应往哪个方向优化?单项代理指标变好,并不会带来整体驾驶能力提升。

A: 第一层方法仍是工程直觉与 failure analysis(失败分析)。发现模型行为失败后,要反向追踪真正的瓶颈。

例如车辆闯红灯,需要判断:是否因为没有检测到红灯;是否属于策略/决策环节的问题;是否只是训练集中缺少这类数据。

对不向非典型车辆让行等问题,也要区分是感知遗漏还是数据覆盖不足。调试此类模型包含大量 trial and error(试错)。

代理任务的主要价值,是帮助模型学习有效表示并改善神经网络中的 gradient flow(梯度流);代理任务自身的准确率不是最终产品。

不应把“所有代理指标都做到 SOTA”当作目标,因为这不保证最终驾驶模型变得更好。

有些代理任务只需达到“足够健康、能提供训练收益”的水平。

最终应测量真正关心、真正部署到现实世界的任务;对 Tesla 而言,就是 driving actions(驾驶动作)。