This paper addresses the problem of weakly supervised cross-view localization, where the goal is to estimate the pose of a ground camera relative to a satellite image with noisy ground truth annotations. A common approach to bridge the cross-view domain gap for pose estimation is Bird's-Eye View (BEV) synthesis. However, existing methods struggle with height ambiguity due to the lack of depth information in ground images and satellite height maps. Previous solutions either assume a flat ground plane or rely on complex models, such as cross-view transformers. We propose BevSplat, a novel method that resolves height ambiguity by using feature-based Gaussian primitives. Each pixel in the ground image is represented by a 3D Gaussian with semantic and spatial features, which are synthesized into a BEV feature map for relative pose estimation. Additionally, to address challenges with panoramic query images, we introduce an icosphere-based supervision strategy for the Gaussian primitives. We validate our method on the widely used KITTI and VIGOR datasets, which include both pinhole and panoramic query images. Experimental results show that BevSplat significantly improves localization accuracy over prior approaches.


翻译:本文研究弱监督跨视角定位问题,其目标是在存在噪声地面真值标注的情况下,估计地面相机相对于卫星图像的位姿。解决跨视角域差异进行位姿估计的常用方法是鸟瞰图合成。然而,由于地面图像和卫星高度图中缺乏深度信息,现有方法难以处理高度模糊性。先前解决方案要么假设平坦地平面,要么依赖复杂模型(如跨视角Transformer)。我们提出BevSplat,一种通过使用基于特征的高斯基元来解决高度模糊性的新方法。地面图像中的每个像素由具有语义和空间特征的3D高斯表示,这些特征被合成为用于相对位姿估计的BEV特征图。此外,为解决全景查询图像的挑战,我们为高斯基元引入了基于二十面体球面的监督策略。我们在广泛使用的KITTI和VIGOR数据集上验证了所提方法,这些数据集包含针孔和全景查询图像。实验结果表明,BevSplat在定位精度上较现有方法有显著提升。

0
下载
关闭预览

相关内容

【ICML2023】SEGA:结构熵引导的图对比学习锚视图
专知会员服务
23+阅读 · 2023年5月10日
MonoGRNet:单目3D目标检测的通用框架(TPAMI2021)
专知会员服务
18+阅读 · 2021年5月3日
CVPR 2019:精确目标检测的不确定边界框回归
AI科技评论
13+阅读 · 2019年9月16日
语义分割中的深度学习方法全解:从FCN、SegNet到DeepLab
炼数成金订阅号
26+阅读 · 2017年7月10日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员