CN111105467B - 一种图像标定方法、装置及电子设备 - Google Patents
一种图像标定方法、装置及电子设备 Download PDFInfo
- Publication number
- CN111105467B CN111105467B CN201911294340.9A CN201911294340A CN111105467B CN 111105467 B CN111105467 B CN 111105467B CN 201911294340 A CN201911294340 A CN 201911294340A CN 111105467 B CN111105467 B CN 111105467B
- Authority
- CN
- China
- Prior art keywords
- key frame
- image
- coordinate system
- preset
- calibration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明提供了一种图像标定方法、装置及电子设备,确定当前图像是否是关键帧,若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整,在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置,对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。由于本发明最终的图像会转换到地图坐标系下,进而使得图像相对于地球水平面(世界坐标系)的位姿均是与重力对齐的。
Description
技术领域
本发明涉及增强现实领域,更具体的说,涉及一种图像标定方法、装置及电子设备。
背景技术
单目视觉SLAM算法存在一些本身框架无法克服的缺陷,如视觉SLAM算法一般采取第一帧作为世界坐标系,这样估计出的位姿是相对于第一帧图像的位姿,而不是相对于地球水平面(世界坐标系)的位姿,后者却是导航中真正需要的位姿,换言之,视觉方法估计的位姿不能和重力方向对齐。
发明内容
有鉴于此,本发明提供一种图像标定方法、装置及电子设备,以解决的问题。
为解决上述技术问题,本发明采用了如下技术方案:
一种图像标定方法,包括:
确定当前图像是否是关键帧;
若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。
可选地,在确定当前图像是否是关键帧之前,还包括:
获取满足预设要求的两个关键帧;所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值;
计算两个所述关键帧的第一相对位置关系;
获取两个所述关键帧的第一实际移动距离,并作为绝对尺度;
依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为所述初始位置。
可选地,确定当前图像是否是关键帧,包括:
获取当前图像;
将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果;
若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧。
可选地,确定当前图像是否是关键帧之后,还包括:
计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
获取所述当前的关键帧和上一关键帧的第二实际移动距离;
依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
可选地,将预设图像映射到所述标定位置,包括:
在所述标定位置创建所述预设图像对应的局部坐标系;
将所述局部坐标系转换到所述空间坐标系下,再将所述空间坐标系转换到所述拍照设备的相机坐标系下,从而将所述预设图像映射到所述标定位置。
一种图像标定装置,包括:
帧确定模块,用于确定当前图像是否是关键帧;
数据处理模块,用于若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
图像映射模块,用于在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
坐标转换模块,用于对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。
可选地,还包括:
帧获取模块,用于获取满足预设要求的两个关键帧;所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值;
第一关系计算模块,用于计算两个所述关键帧的第一相对位置关系;
第一距离获取模块,用于获取两个所述关键帧的第一实际移动距离,并作为绝对尺度;
位置确定模块,用于依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为所述初始位置。
可选地,所述帧确定模块用于确定当前图像是否是关键帧时,具体用于:
获取当前图像,将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果,若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧。
可选地,还包括:
第二关系计算模块,用于计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
第二距离获取模块,用于获取所述当前的关键帧和上一关键帧的第二实际移动距离;
修正模块,用于依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
一种电子设备,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
确定当前图像是否是关键帧;
若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。
相较于现有技术,本发明具有以下有益效果:
本发明提供了一种图像标定方法、装置及电子设备,确定当前图像是否是关键帧,若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整,在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置,对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。由于本发明最终的图像会转换到地图坐标系下,进而使得图像相对于地球水平面(世界坐标系)的位姿均是与重力对齐的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的一种图像标定方法的方法流程图;
图2为本发明实施例提供的另一种图像标定方法的方法流程图;
图3为本发明实施例提供的一种图像标定装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种图像标定方法,参照图1,可以包括:
S11、确定当前图像是否是关键帧;若是,执行步骤S12。
在执行步骤S11之前,需要确定拍照设备的初始姿态以及初始位置。
在实际应用中,拍照设备可以是相机、带有摄像装置的移动设备等设备,所述拍照设备在进行移动拍照时得到多个图像,拍照设备在拍照之前,会对拍照设备进行标定,以获取拍照设备的内参数、外参数以及畸变参数,其中,标定方法可以是传统相机标定法、主动视觉相机标定方法和相机自标定法。其中,传统相机标定方法可以是通过相机对着棋盘标定板拍摄一种带有标定板的照片,然后运行OpenCV产品包中的自带的示范标定程序,就可以结算出上述的内参数、外参数以及畸变参数。
在实际应用中,在上述的拍照设备为单目相机时,单目相机拍摄的图像的算法的缺陷是没有尺度信息,无法识别和观察世界的缩放,此外他们也没有方向的参考。为了能够确定尺度信息,必须参考IMU(惯性测量单元)进行测量。本发明实施例引入了IMU,在初始时保持系统平稳,测量第一秒内IMU测量的平均值设置为重力矢量。然后直接从测量结果获取初始姿态,其中,初始姿态包括拍照设备的俯仰角(pitch)、翻滚角(roll)和偏航角(yaw),这些数据由IMU测量得到。
拍照设备的初始位置是指拍照设备启动时的真实位置,本发明的另一实现方式中,参照图2,确定拍照设备的初始位置,可以包括:
S21、获取满足预设要求的两个关键帧。
所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值。
两个关键帧必须满足特征点匹配以及视差匹配,特征点匹配是指匹配的特征点数量大于第一预设阈值,视差匹配是指视差大于第二预设阈值。
本实施例中可以使用KLT光流算法跟踪特征点,同时保持每一帧图像有最少的(100-300)个特征点。
上述的拍照设备IMU的偏差和初始阶段的运动会导致错误的结果。需要使用IMU预积分数据和SFM算法输出的松散耦合对齐作为稳健的初始化过程。
其中,初始化过程包括:
1)需要保证IMU充分运动,此时可以考虑IMU采集的线加速度的变化,计算滑动窗口中加速度的标准差,当标准差大于0.25代表IMU充分激励,足够初始化;
2)纯视觉初始化:对滑动窗口中的图像帧和相机姿态求解sfm问题(Structurefrom Motion,即通过相机的移动来确定目标的空间和几何关系)。首先通过特征点管理器获取特征匹配,考察最新的关键帧和滑动窗口中某个关键帧之间有足够的特征匹配(匹配的特征点数量大于第一预设阈值)和足够大的视差(视差大于第二预设阈值)。则认为这两个关键帧是本实施例所需要的关键帧。
S22、计算两个所述关键帧的第一相对位置关系。
这两个关键帧之间通过五点法恢复旋转矩阵和平移矩阵,旋转矩阵和平移矩阵可以表征这两个关键帧之间的第一相对位置关系。第一相对位置关系可以是向前移动30厘米。
S23、获取两个所述关键帧的第一实际移动距离,并作为绝对尺度。
并且三角化出三维的特征点。三维特征点和滑动窗口中的二维特征点求解PnP(求解3D到2D点对的方法),并且使用ceres(一种非线性优化库)优化。
c)IMU与视觉对齐,利用已有算法求出imu和sfm结果进行对齐需要的比例,获取绝对尺度,即第一实际移动距离。
d)初始化成功。
S24、依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为所述初始位置。
依据所述第一相对位置关系和第一实际移动距离调整初始时刻IMU的坐标系,得到空间坐标系。
在实际应用中,步骤S11具体可以包括:
1)获取当前图像。
当前图像即为拍照设备拍照得到的图像。
2)将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果;若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧。
在实际应用中,在初始化过程的该步骤中,基于视觉信息进行相机位置的第一评估。
首先,检查在滑动窗口的当前图像和最后一个关键帧之间是否可以找到30多个相同的特征点。另外,平均旋转补偿视差值必须大于20个像素。如果是这样,它就是一个关键帧。使用两帧的特征对应和所谓的“五点法”可以确定两个图像之间的相对旋转和平移。否则,当前帧保留在滑动窗口中并等待新帧。由于此时没有可用的度量参考值,因此首先将缩放因子设置为临时值。在下一步中,对两个帧的特征进行三角测量以确定它们的空间深度。
本发明的另一实现方式中,在步骤S11之后,还可以包括:
1)计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
2)获取所述当前的关键帧和上一关键帧的第二实际移动距离;
3)依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
本实施例中的步骤1和2,跟上述实施例中确定第一相对位置关系和第二实际移动距离的过程类似,在此不再赘述。对于步骤3,由于拍照设备在初始位置时构建的空间坐标系,则拍照设备移动过程中,拍照设备在空间坐标系中的位置也在不断改变,此时应该校正拍照设备在空间坐标系中的位置。
S12、若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
本实施例中仍可以采用上述的KLT光流算法跟踪特征点,得到该关键帧的特征点,在拍照设备移动过程中,如A位置移动到B位置,计算出所述关键帧中的特征点的三维坐标可以采用上述的三角化法以及所述拍照设备的位置信息仍采用上述的三角化法和PNP方法。
依据所述特征点的三维坐标对所述位置信息进行调整是指实时调整该拍照设备在拍照设备所在的空间坐标系中的位置。具体的调整过程为:
建立IMU的测量模型,计算IMU的测量误差,计算相机测量误差,主要是特征点的重投影误差。
利用Bundle Adjustment寻找梯度下降优化该拍照设备在拍照设备所在的空间坐标系中的位置。
S13、在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置。
具体的,根据设备姿态和射线算法创建或者人工标记识别方式找到标定位置,记录标定位置空间坐标,当前设备空间坐标和设备的姿态。
在实际应用中,将该预设图像映射到所述标定位置的过程可以包括:
1)在所述标定位置创建所述预设图像对应的局部坐标系;
2)将所述局部坐标系转换到所述空间坐标系,再将所述空间坐标系转换到所述拍照设备的相机坐标系,从而将所述预设图像映射到所述标定位置。
其中,预设图像可以是二维图像,也可以是三维图像,现以二维图像进行说明,通过上述确定的标定位置和当前的世界坐标系,根据设备当前姿态和屏幕像素,可以在此基础上将二三维地图映射到标定点上。标定成功后,相当于OpenGLES场景中在标定位置创建该预设图像的局部坐标系,二维地图放置在空间中二维局部平面,三维放置在空间中局部空间,此时在地图上的操作也就是在地图局部坐标系内操作,再根据设备的姿态算出空间坐标系的变化,再转到拍照设备屏幕像素坐标系,从而达到能够在三维空间中,不同方向,不同角度上绘制及操作的效果。
S14、对将预设图像映射到所述标定位置的关键帧转换到地图坐标系下。
在观测过程中,设备的实时移动表达了设备在真实三维空间的变化,在初始化完成后,设备就相当于世界坐标系位置坐标,设备的变化也即是世界坐标系中坐标的变化,在上述标定好的位置在世界坐标系中有一个固定的坐标,通过对设备坐标和标定好位置的AR地图坐标映射到OpenGL ES场景空间中,就可以实时的表达设备对标定的AR地图观察。
本实施例中,确定当前图像是否是关键帧,若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整,在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置,对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。由于本发明最终的图像会转换到地图坐标系下,进而使得图像相对于地球水平面(世界坐标系)的位姿均是与重力对齐的。
可选地,本发明的另一实施例中提供了一种图像标定装置,参照图3,可以包括:
帧确定模块11,用于确定当前图像是否是关键帧;
数据处理模块12,用于若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
图像映射模块13,用于在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
坐标转换模块14,用于对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。
进一步,还包括:
帧获取模块,用于获取满足预设要求的两个关键帧;所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值;
第一关系计算模块,用于计算两个所述关键帧的第一相对位置关系;
第一距离获取模块,用于获取两个所述关键帧的第一实际移动距离,并作为绝对尺度;
位置确定模块,用于依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为所述初始位置。
进一步,所述帧确定模块用于确定当前图像是否是关键帧时,具体用于:
获取当前图像,将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果,若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧。
进一步,还包括:
第二关系计算模块,用于计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
第二距离获取模块,用于获取所述当前的关键帧和上一关键帧的第二实际移动距离;
修正模块,用于依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
进一步,图像映射模块13用于将预设图像映射到所述标定位置时,具体用于:
在所述标定位置创建所述预设图像对应的局部坐标系,将所述局部坐标系转换到所述空间坐标系下,再将所述空间坐标系转换到所述拍照设备的相机坐标系下,从而将所述预设图像映射到所述标定位置。
本实施例中,确定当前图像是否是关键帧,若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整,在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置,对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。由于本发明最终的图像会转换到地图坐标系下,进而使得图像相对于地球水平面(世界坐标系)的位姿均是与重力对齐的。
需要说明的是,本实施例中的各个模块的工作过程,请参照上述实施例中的相应说明,在此不再赘述。
可选的,在上述图像标定方法及装置的实施例的基础上,本发明的另一实施例提供了一种电子设备,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
确定当前图像是否是关键帧;
若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。
进一步,在确定当前图像是否是关键帧之前,还包括:
获取满足预设要求的两个关键帧;所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值;
计算两个所述关键帧的第一相对位置关系;
获取两个所述关键帧的第一实际移动距离,并作为绝对尺度;
依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为所述初始位置。
进一步,确定当前图像是否是关键帧,包括:
获取当前图像;
将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果;
若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧。
进一步,确定当前图像是否是关键帧之后,还包括:
计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
获取所述当前的关键帧和上一关键帧的第二实际移动距离;
依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
进一步,将预设图像映射到所述标定位置,包括:
在所述标定位置创建所述预设图像对应的局部坐标系;
将所述局部坐标系转换到所述空间坐标系下,再将所述空间坐标系转换到所述拍照设备的相机坐标系下,从而将所述预设图像映射到所述标定位置。
本实施例中,确定当前图像是否是关键帧,若是关键帧,在所述拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整,在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置,对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下。由于本发明最终的图像会转换到地图坐标系下,进而使得图像相对于地球水平面(世界坐标系)的位姿均是与重力对齐的。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (7)
1.一种图像标定方法,其特征在于,包括:
确定当前图像是否是关键帧;
若是关键帧,在拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下;
确定当前图像是否是关键帧,包括:
获取当前图像;
将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果;
若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧;
依据所述特征点的三维坐标对所述位置信息进行调整包括:
建立惯性测量单元的测量模型,计算惯性测量单元的测量误差,计算相机测量误差,所述相机测量误差包括特征点的重投影误差;
利用Bundle Adjustment寻找梯度下降,优化所述拍照设备在拍照设备所在的空间坐标系中的位置;
将预设图像映射到所述标定位置,包括:
在所述标定位置创建所述预设图像对应的局部坐标系;
将所述局部坐标系转换到所述空间坐标系下,再将所述空间坐标系转换到所述拍照设备的相机坐标系下,从而将所述预设图像映射到所述标定位置。
2.根据权利要求1所述的图像标定方法,其特征在于,在确定当前图像是否是关键帧之前,还包括:
获取满足预设要求的两个关键帧;所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值;
计算两个所述关键帧的第一相对位置关系;
获取两个所述关键帧的第一实际移动距离,并作为绝对尺度;
依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为初始位置。
3.根据权利要求1所述的图像标定方法,其特征在于,确定当前图像是否是关键帧之后,还包括:
计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
获取所述当前的关键帧和上一关键帧的第二实际移动距离;
依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
4.一种图像标定装置,其特征在于,包括:
帧确定模块,用于确定当前图像是否是关键帧;
数据处理模块,用于若是关键帧,在拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
图像映射模块,用于在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
坐标转换模块,用于对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下;
所述帧确定模块用于确定当前图像是否是关键帧时,具体用于:
获取当前图像,将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果,若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧;
所述数据处理模块用于依据所述特征点的三维坐标对所述位置信息进行调整时,具体用于:
建立惯性测量单元的测量模型,计算惯性测量单元的测量误差,计算相机测量误差,所述相机测量误差包括特征点的重投影误差;
利用Bundle Adjustment寻找梯度下降,优化所述拍照设备在拍照设备所在的空间坐标系中的位置;
所述图像映射模块用于将预设图像映射到所述标定位置时,具体用于:
在所述标定位置创建所述预设图像对应的局部坐标系;
将所述局部坐标系转换到所述空间坐标系下,再将所述空间坐标系转换到所述拍照设备的相机坐标系下,从而将所述预设图像映射到所述标定位置。
5.根据权利要求4所述的图像标定装置,其特征在于,还包括:
帧获取模块,用于获取满足预设要求的两个关键帧;所述预设要求包括匹配的特征点数量大于第一预设阈值以及视差大于第二预设阈值;
第一关系计算模块,用于计算两个所述关键帧的第一相对位置关系;
第一距离获取模块,用于获取两个所述关键帧的第一实际移动距离,并作为绝对尺度;
位置确定模块,用于依据所述第一相对位置关系和所述第一实际移动距离,确定空间坐标系,所述空间坐标系的原点为初始位置。
6.根据权利要求4所述的图像标定装置,其特征在于,还包括:
第二关系计算模块,用于计算所述当前的关键帧和上一关键帧之间的第二相对位置关系;
第二距离获取模块,用于获取所述当前的关键帧和上一关键帧的第二实际移动距离;
修正模块,用于依据所述第二相对位置关系和所述第二实际移动距离,对所述拍照设备在所述空间坐标系中的位置进行修正。
7.一种电子设备,其特征在于,包括:存储器和处理器;
其中,所述存储器用于存储程序;
处理器调用程序并用于:
确定当前图像是否是关键帧;
若是关键帧,在拍照设备移动过程中,计算出所述关键帧中的特征点的三维坐标和所述拍照设备的位置信息,并依据所述特征点的三维坐标对所述位置信息进行调整;
在所述拍照设备的位置信息调整完成后,从所述关键帧中确定需要进行图像映射的标定位置,并将预设图像映射到所述标定位置;
对将预设图像映射到所述标定位置的关键帧进行坐标系转化,转换到地图坐标系下;
确定当前图像是否是关键帧,包括:
获取当前图像;
将所述当前图像与最后一个关键帧进行特征点匹配,以及进行视差计算,得到视差计算结果;
若匹配上的特征点的数量大于第三预设阈值且所述视差计算结果满足预设条件,则将所述图像作为关键帧;
依据所述特征点的三维坐标对所述位置信息进行调整包括:
建立惯性测量单元的测量模型,计算惯性测量单元的测量误差,计算相机测量误差,所述相机测量误差包括特征点的重投影误差;
利用Bundle Adjustment寻找梯度下降,优化所述拍照设备在拍照设备所在的空间坐标系中的位置;
将预设图像映射到所述标定位置,包括:
在所述标定位置创建所述预设图像对应的局部坐标系;
将所述局部坐标系转换到所述空间坐标系下,再将所述空间坐标系转换到所述拍照设备的相机坐标系下,从而将所述预设图像映射到所述标定位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911294340.9A CN111105467B (zh) | 2019-12-16 | 2019-12-16 | 一种图像标定方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911294340.9A CN111105467B (zh) | 2019-12-16 | 2019-12-16 | 一种图像标定方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111105467A CN111105467A (zh) | 2020-05-05 |
CN111105467B true CN111105467B (zh) | 2023-08-29 |
Family
ID=70422956
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911294340.9A Active CN111105467B (zh) | 2019-12-16 | 2019-12-16 | 一种图像标定方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111105467B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111754586A (zh) * | 2020-06-28 | 2020-10-09 | 苏州臻迪智能科技有限公司 | 外参定标方法、装置、外参标定系统及计算机存储介质 |
CN112651997B (zh) * | 2020-12-29 | 2024-04-12 | 咪咕文化科技有限公司 | 地图构建方法、电子设备和存储介质 |
CN113932805B (zh) * | 2021-10-12 | 2024-02-23 | 天翼数字生活科技有限公司 | 用于提高ar虚拟对象定位准确性与速度的方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013120133A (ja) * | 2011-12-07 | 2013-06-17 | Fujitsu Ltd | 三次元座標測定装置、三次元座標測定方法、及びプログラム |
WO2017022033A1 (ja) * | 2015-07-31 | 2017-02-09 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
CN106846467A (zh) * | 2017-01-23 | 2017-06-13 | 阿依瓦(北京)技术有限公司 | 基于每个相机位置优化的实体场景建模方法和系统 |
CN108597036A (zh) * | 2018-05-03 | 2018-09-28 | 三星电子(中国)研发中心 | 虚拟现实环境危险感知方法及装置 |
JP2019133658A (ja) * | 2018-01-31 | 2019-08-08 | 株式会社リコー | 測位方法、測位装置及び読取り可能な記憶媒体 |
JP2019132664A (ja) * | 2018-01-30 | 2019-08-08 | 株式会社豊田中央研究所 | 自車位置推定装置、自車位置推定方法、及び自車位置推定プログラム |
CN110490131A (zh) * | 2019-08-16 | 2019-11-22 | 北京达佳互联信息技术有限公司 | 一种拍摄设备的定位方法、装置、电子设备及存储介质 |
-
2019
- 2019-12-16 CN CN201911294340.9A patent/CN111105467B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013120133A (ja) * | 2011-12-07 | 2013-06-17 | Fujitsu Ltd | 三次元座標測定装置、三次元座標測定方法、及びプログラム |
WO2017022033A1 (ja) * | 2015-07-31 | 2017-02-09 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
CN106846467A (zh) * | 2017-01-23 | 2017-06-13 | 阿依瓦(北京)技术有限公司 | 基于每个相机位置优化的实体场景建模方法和系统 |
JP2019132664A (ja) * | 2018-01-30 | 2019-08-08 | 株式会社豊田中央研究所 | 自車位置推定装置、自車位置推定方法、及び自車位置推定プログラム |
JP2019133658A (ja) * | 2018-01-31 | 2019-08-08 | 株式会社リコー | 測位方法、測位装置及び読取り可能な記憶媒体 |
CN108597036A (zh) * | 2018-05-03 | 2018-09-28 | 三星电子(中国)研发中心 | 虚拟现实环境危险感知方法及装置 |
CN110490131A (zh) * | 2019-08-16 | 2019-11-22 | 北京达佳互联信息技术有限公司 | 一种拍摄设备的定位方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111105467A (zh) | 2020-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10984554B2 (en) | Monocular vision tracking method, apparatus and non-volatile computer-readable storage medium | |
CN110383343B (zh) | 不一致检测系统、混合现实系统、程序和不一致检测方法 | |
CN110146099B (zh) | 一种基于深度学习的同步定位与地图构建方法 | |
CN114399554B (zh) | 一种多相机系统的标定方法及系统 | |
CN110176032B (zh) | 一种三维重建方法及装置 | |
CN111473739A (zh) | 一种基于视频监控的隧道塌方区围岩变形实时监测方法 | |
CN110728715A (zh) | 一种智能巡检机器人像机角度自适应调整方法 | |
JP6883608B2 (ja) | 深度マップに対して画像位置合せを行って深度データを最適化することができる深度データ処理システム | |
EP3547260B1 (en) | System and method for automatic calibration of image devices | |
CN108038886B (zh) | 双目摄像系统标定方法、装置及其汽车 | |
CN111105467B (zh) | 一种图像标定方法、装置及电子设备 | |
CN112686877B (zh) | 基于双目相机的三维房屋损伤模型构建测量方法及系统 | |
WO2010133007A1 (en) | Techniques for rapid stereo reconstruction from images | |
CN102472609A (zh) | 位置和姿势校准方法及设备 | |
CN110189400B (zh) | 一种三维重建方法、三维重建系统、移动终端及存储装置 | |
CN111091076B (zh) | 基于立体视觉的隧道限界数据测量方法 | |
CN104537707A (zh) | 像方型立体视觉在线移动实时测量系统 | |
CN111192235A (zh) | 一种基于单目视觉模型和透视变换的图像测量方法 | |
CN111260720A (zh) | 一种基于深度学习方法的目标高度测定系统 | |
US11288877B2 (en) | Method for matching a virtual scene of a remote scene with a real scene for augmented reality and mixed reality | |
CN111220120B (zh) | 一种动平台双目测距自校准方法及装置 | |
CN111524174B (zh) | 一种动平台动目标双目视觉三维构建方法 | |
CN111402315B (zh) | 一种自适应调整双目摄像机基线的三维距离测量方法 | |
CN103900473A (zh) | 一种基于摄像头与重力感应器融合的智能移动设备六自由度位姿估计方法 | |
CN111998862A (zh) | 一种基于bnn的稠密双目slam方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |