起源:一株百年野山参的工业化新生作者:
CVPR 2026 | 1000万段驾驶视频,教会模型若何估计相机位姿
不用百万级 3D 标注,模型也能从通常驾驶视频中学会「自己是怎么动的」。Wayve 的 LA-Pose 试图把未标凝视坡凤的活动信号,转化为自动驾驶系统所需的相机位姿估计能力。
一辆车驶过一段路,它该若何知路自己刚才在三维空间中怎么移动?
对人来说,答案似乎很天然:看一段行车视频,路路、车辆、路灯和构筑若何在画面中移动,险些就能判断相机是在直杏注转弯、减速,还是停下。但对自动驾驶系统来说,这是一项主题几何感知能力。系统不仅要看见场景,还要知路相机在陆续帧之间产生了怎么的平移和旋转。
从前,训练这类模型往往依赖高质量 3D 真值标注。为了得到这些标注,通常必要 LiDAR、精密标定、沉建管线或仿真系统。数据越准,成本越高;成本越高,覆盖的城视注气象和路路类型就越有限。模型最后也容易继承这些数据集自身的天堑。
Wayve 的最新钻研 LA-Pose 换了一个切入点:先不要求模型直接进建精确 3D 位姿,而是让它从海量未标注驾驶视坡凤理解「活动长什么样」。这篇论文已被 CVPR 2026 接管,齐全标题是 LA-Pose: Latent Action Pretraining Meets Pose Estimation。
论文标题:LA-Pose: Latent Action Pretraining Meets Pose Estimation
项目地址:https://la-pose.github.io/论文地址:https://arxiv.org/abs/2604.27448Wayve 博客:https://wayve.ai/thinking/la-pose/作者:Zhengqing Wang, Saurabh Nair, Prajwal Chidananda, Pujith Kachana, Samuel Li, Matthew Brown, Yasutaka Furukawa机构:Wayve、Simon Fraser University会议:CVPR 2026
一句话概括这篇论文
LA-Pose 先从约 1000 万段未标注驾驶视频中自监督进建「潜在作为」暗示,再用少量 3D 标注训练一个轻量级位姿预测头,把视坡凤的活动法规转化为正确、高效、可泛化的相机位姿估计能力。
为什么这件事难
相机位姿估计要回覆的是:相机从上一帧到下一帧,到底移动了多远、转了几多角度?这听起来像一个几何问题,但在真实路路上,情况远比干净数据集复杂。夜间、雨天、隧路、拥挤城市路路、山路和村落路路城市出现,视觉表观变动很大,传统监督训练很难靠有限标注覆盖所有情况。
LA-Pose 的启程点是,真实驾驶视频自身已经蕴含了大量活动线索。车辆向前开、转弯、减速、驶入隧路,画面城市随功夫产生法规变动。问题不愿定是「怎么标更多 3D 数据」,也可所以「怎么让模型先从通常视坡凤学会活动」。
主题步骤:先学活动,再学位姿
图:LA-Pose 的两阶段步骤。
LA-Pose 分成两个阶段。
第一阶段是 Latent Action Pretraining。钻研团队用约 1000 万段未标注驾驶视频片段进行自监督预训练,让模型进建一种「潜在作为」暗示D芄话阉斫馕嗔诨嬷浠疃涠慕舸毡嗦耄撼盗臼欠裨谧笞⒂易⒅毙幼⒓跛,画面结构若何随功夫变动,这些信息不必要人为写成标签,而是天然藏在视频序列里。
具体来说,LA-Pose 训练了一个逆向 - 正向动力学系统。模型看到陆续视频帧后,必要捉拿「当前画面若何变动到下一帧」的法规。它不知路车辆的精确速度、航向角或 3D 位姿,也没有被提供位姿标签;它只是通过旁观大量驾驶视频,逐步学会哪些视觉变动对应哪些活动模式。
第二阶段再把这种活动暗示用于位姿估计。钻研者冻结预训练得到的活动编码器,只在其上接一个轻量级位姿预测头,并用少量高质量 3D 标注微调。这个预测头会把潜在作为转换为相机位姿,蕴含相对平移、旋转、视场角和尺度。整个推理过程依然是前馈式的,因而更靠近现实部署对效能的要求。
没有位姿标签,也能长出活动结构
图:潜在作为空间中天然浮现的活动结构。
这篇论文里最直观的了局之一,是潜在作为空间自己长出了结构。
当钻研者把学到的潜在作为可视化到二维空间后,类似作为会天然聚在一路,分歧区域对应直杏注左转、右转、终场等驾驶行为。这注明模型并不只是记住画面表观,而是在没有 3D 标注的情况下,学到了拥有几何意思的活动先验。
另一个有意思的发现是:暗示并不是越大越好。LA-Pose 的尝试显示,一个 50 维的潜在空间瓶颈,固然不愿定最善于沉建画面细节,却比更高维的暗示更适合后续位姿估计。压缩迫使模型丢掉一部门表观信息,留下更关键的活动结构。
了局:更少标注,更高精度
尝试了局显示,LA-Pose 在 Waymo 和 PandaSet 等自动驾驶基准上,相比近期前馈式步骤获得超过 10% 的位姿精度提升,同时所需标注数据少了多个数量级。
更沉要的是,在没有参加训练的 PandaSet 上,LA-Pose 依然超过基线步骤,展示出较强的跨数据集泛化能力。对于自动驾驶来说,这一点很关键:系统不能只在熟悉数据集里阐发不变,也要能面对新的城视注路路状态和气象前提。
意思:把未标凝视频造成几何能力
为了更直旁观到这种泛化能力,Wayve 还展示了 LA-Pose 与 VGGT 在分歧真实路路场景中的对比:雨天高速出口与环岛、德国村落窄路。 LA-Pose 的价值在于,它把「未标凝视频规模」转化成了几何视觉能力。车辆每天在真实世界中产生的视频,自身就蕴含丰硕的活动信息。只有模型能从中学到紧凑、可迁徙的活动暗示,再用少量标注把这种暗示落到真实尺度上,就有可能扭转几何感知系统的训练成本和扩大蹊径。
当然,LA-Pose 还不是终点。Wayve 在博客中提到,模型目前在倒车活动上仍会出现退化,一个原因是倒车在后训练数据中相对少见。团队以为,下一步必要持续扩大预训练和后训练数据,并把这种逆向动力学预训练拓展到机械人采集视频、手持视频等更宽泛的动态视觉场景。
但这篇工作的信号已经很明显:几何视觉不愿定只能从昂贵标注起头。活动自身就是监督信号,而真实世界的视频中四处都有活动。
结语:活动自身就是信号
若是 LA-Pose 的方向持续成立,未来的自动驾驶系统也许能够更少依赖为每个城视注每类场景沉新构建昂贵 3D 标注集,而是从不休增长的真实驾驶视频中进建更通用的几何先验。
这也是「Latent Action Pretraining Meets Pose Estimation」这个标题标意思:潜在作为不再只是世界模型或战术网络里的作为前提,它也能够成为衔接视频规模与 3D 几何理解的一座桥。
@李淑和:贝博足球网址,三个难忘瞬间 读懂中塞铁杆交谊@唐雅婷:因凡蒂诺回应世界杯天价门票:没问题
@颜民云:南开学子阿斯哈尔·努尔太两度入伍
热点排行
- 1 亚投游戏下载
- 2 彩788网页
- 3 万博官方登录入口
- 4 乐鱼体育平台app下载地址
- 5 世界杯在哪里可以投注
- 6 世界杯竞彩网站365
- 7 云开·全站app登录入口最新版
- 8 易发在线注册
- 9 加美狮官网