激光测距仪与相机信息融合过程中位姿标定方法 下载: 545次
0 引 言
在最近的科研研究和工业应用中,单点激光测距仪[1-3]和成像相机的集成运用,成为工业机器人等领域的研究焦点[4-5]。单点激光测距仪尺寸小巧、成本低廉,以其高精度深度提取能力,非常适合手持设备和轻便机器人平台兼容应用。但是传统基于单目相机的深度提取,其在光轴方向的精度不高,只能借助外部传感器的融合来改进其深度提取精度不高的缺点,因此,利用这两者的融合能够很好取长补短,发挥各自的优势。但是对于这两者的融合,标定其外部参数就显得很有意义,这有利于两者之间信息的融合,能够使这两种组合在工业应用领域发挥更大的优势。
对于激光测距仪与相机外参标定研究,已有很多学者进行研究。但是绝大多数都是基于二维或者三维激光测距仪的标定,因为二维或者三维激光测距仪能够提供的信息更多,不仅包括距离信息,还包括角度信息,能够为建立标定方程提供更多的参数和有用信息。
二维或三维激光测距仪可同时测量多个点,并已广泛应用于机器人[6-8]和巡航。然而,这些多点激光测距仪非常昂贵且笨重,从而限制了它们在手持或小型设备中的广泛应用。因此,一些研究人员研究了人们更可接受的单点激光测距仪。而且近年来,单点激光测距仪经常被组装在一些测量装置上,从而给这些装置测量物体参数时带来了很多便利。比如Patel[4]和Wither[5]等人提出利用单点激光测距仪在他们的增强现实系统中。近些年,单点激光测距仪进一步的微型化,移动设备中可以很容易地发现装备单点激光测距仪的模型[6],这些设备为将来广泛的应用推广开辟了新的机会,因此需要一个由单点激光测距仪和相机组成的系统的简单而且准确的标定过程。
文献中可以查阅到很多关于多点激光测距仪和相机的标定方法。Zhang和Pless[9]的一种广为人知的标定方法是在射影线商标定相机的固有参数和激光测距仪相对相机的位姿参数。另外Hebert[10]开发了一个快速简单的软件,可以校准三维激光测距仪与相机的外部参数和相机的内参。Vasconcelos[6]等人介绍了一种新的标定方法,该方法需要至少三个捕获的平面姿态用于约束方程的建立,但是他们只专注于相机和激光测距仪外部参数的标定,对于相机的内参则认为是事先标定好的。
与二维或者三维激光测距仪外参标定不同,由于激光在图像中被限制在单个点上,无法建立激光测距仪坐标系与相机坐标系之间的转换关系,因此对单点激光测距仪和相机相对姿态的标定需要一种完全不同的方法。目前能够查询到的单点激光测距仪与相机外参的标定研究只有浙江大学的熊蓉,他的做法是先提取激光测距仪点云数据边缘轮廓和相机图像的边缘轮廓,建立点云数据边缘的概率分布,然后最小化两个分布的KL距离,求得激光测距仪和相机的相对位姿参数。虽然该方法能够标定得到位姿参数,但是时间消耗较多,原理较为复杂。因此,文中提出了两种方法来解决标定单点激光测距仪和相机的外部参数这一问题。最终的实验结果表明我们的方法是有效和准确的。
1 方法介绍
与二维或三维激光测距仪的标定相比,单点激光测距仪的标定是完全不同的。具体的标定图如
图 1. (a) 激光测距仪和相机标定示意图 ,(b) 激光与相机坐标轴之间的角度
Fig. 1. (a) Laser range finder and camera calibration diagram, (b) Angle between laser and camera axes
式中:
这样,相机坐标系中的光点只需要5个变量:
而对于外参标定就是要求解这5个变量,传统的二维或三维激光测距仪标定,因为能够提供激光光斑的距离和角度,而且有若干个光斑点,可以建立的约束方程个数也多,而对于单点激光测距仪只有距离值可以应用,因此像之前的二维或者三维激光测距仪那样建立校正参数矩阵是很困难的。文中从光斑点的约束条件出发提出了两种标定单点激光测距仪和相机的方法。
1.1 方法1:基于光斑可见性的外参标定
第一种方法是在相机图像中有效地使用激光测距仪光斑点的成像,并利用激光光斑的像素坐标来建立约束方程。对于具体方法,可以参考
由于文中使用的是光学波长在可见光范围内的激光测距仪,肉眼可以观察到相机中存在激光光斑。按照一般的模型,相机可以用针孔模型来描述。从相机坐标
式中:K是相机内参矩阵;“~”表示点p的实际坐标与右手方程相差一个比例因子。在文中,假设矩阵K已经预先标定,并且激光光斑的图像坐标为
式中:
1.2 方法2:基于平面方程约束的外参标定
实际的工业应用中,激光测距仪的光斑不是总是可见的,因此第一种标定方法有其限制范围,并且一些应用要求激光测距仪测量相机视场外的点,因此需要建立光斑不可见情况下的外参标定约束方程。
在
同样地,相机通过针孔模型来描述,从世界坐标P=
式中:K是相机内参矩阵;R是表示相机方向的3×3正交矩阵;t是表示其位置的3×1向量。
方法2是在笔者的系统前面放置一个平面图形,例如棋盘格,它对相机和激光测距仪都是可见的,如
在不失一般性的情况下,假设标定平面是世界坐标系中的平面Z=0。在相机坐标系中,标定平面可由3个矢量N参数化,使N与标定平面的法向量平行。通过相机的成像模型,可以得出:
式中:R3是旋转矩阵R的第3列;t是世界坐标中相机的中心。已知棋盘格平面的法向量,就可以得到棋盘格的平面方程。
假设棋盘平面
再定义一个向量
和一个向量
然后上面的方程可以调整获得一个线性约束:
上述方程有5个未知变量,要使用至少5个输入图像,得到5组约束进行标定参量的求解。
方程解的存在性:方程要得到一个数值解,约束矩阵必须满秩。因此对于前3列,满秩意味着实验的所有平面的法向量张成一个秩为 3 的空间,也就表明实验中的平面不可能都是平行的,或者在空间中与一个方向平行。此外,后 3 列是相同的法向量的集合,只不过是按照不同的比例进行缩放的。同样地,为了保证满秩,对于单独一个姿态的棋盘格平面,其距离值应该不一样。综上所述,如果移动棋盘格平面到不同的距离,并且沿着空间三维不同的方向,那么这样的约束矩阵是满秩的。
1.3 优化方法
在Zhang和Pless[9]的文章中证明了,对相机内参、平面位姿和激光测距机的相对位姿进行全局优化可以提高整体的标定精度。按照同样的方法,分别建立对于上面两种标定方法的优化方法。
按照Zhang的观点,相机的内参也要参与整体的优化,对此一个单一的优化方程:
可以用来表征对相机内参的优化。其中
对于一个完整的全局优化的目标函数可以表示为两项,一项是上面讨论的相机内参和平面姿态的目标函数,一项是优化激光测距机相对位姿的,所以一个完整的全局优化目标函数可以表述为:
对于两种不同的方法,函数Q是不同的。对于方法1,由于该方法直接使用激光光斑的可见性来建立模型,方法1的主要误差是像素偏差,因此函数Q可以写成如下:
式中:
但是,对于方法2,函数Q也不能被忽略,其定义如下:
在这种情况下,文中通过将函数E最小化来优化提出的标定方法。
2 实验与讨论
基于以上描述,文中分别按照上述的两种方法进行实验。实验硬件平台包括计算机和通过互联网接入连接到计算机的单目相机。计算机的操作系统是Windows XP。两个激光测距仪,其中一个激光光斑可见,另一个不可见。具有不可见光斑的激光测距仪的波长为905 nm,可见光斑的激光测距仪为普通红波段,使用的相机为MV-EM系列的工业相机,最高分辨率为1 280×960。
对于方法1,具体操作为使用相机直接观察棋盘,并检测激光光斑。详细的原理图如
如
可以看到,方法1的主要误差源是光斑像素坐标的测量误差和相机的内部参数误差,其中像素坐标的测量误差是主要误差源,因为相机的内部参数误差可以通过多次标定来校正。
对于方法1的主要误差源,在检测点的像素坐标时,通常通过选择多个点并计算重心来计算点的像素坐标,以尽量减小像素坐标对参数精度的影响。
对于方法2,由于激光光斑不可见,文中使用激光光斑位于棋盘平面上的约束条件来建立约束方程(12)。根据Zhang和Pless[12]的标定方法,可以得到每个位置的棋盘平面方程。在这种方法中,在随机位置捕获10个平面姿态,并利用张氏方法得到每个图像中的平面方程。通过求解方程(12),得到未知变量
图 5. 不可见的激光光斑落在不同姿态的棋盘上
Fig. 5. Invisible laser spot falls on the chessboard in different postures
根据笔者拍摄的图片,计算了每个棋盘平面的具体参数
表 1. 棋盘平面的计算参数
Table 1. Calculation parameters of the chessboard plane
|
类似地,很明显方法2的主要误差源是棋盘平面参数的求解,并且平面参数的求解涉及相机的内部参数,外部参数和其他因素,这些因素总是具有或多或少的误差。通过人工方法很难减少这种误差。只能收集尽可能多的图像来标定相机的内部和外部参数,以使相机的参数接近真实值。
在得到标定参数后,文中提出几种方法来评估标定结果。对于方法1和方法2,可以使用误差函数公式(15)来评估。通过比较参考图像中激光光斑的两个像素坐标,并根据标定参数计算,如
上图显示了收集相同数量图像的两种方法的比较结果,显然,方法1取得了良好的效果,因为图像数目相同的条件下,方法1的唯一影响因素是激光光斑的像素坐标。这与收集到的图像数量无关,更重要的是,当使用多个点计算重心时,像素坐标的影响已降至最小。方法2的影响因素包括相机外部参数,外部参数的精度与所收集的图像数量有关。收集的图像越多,外部参数就越准确。因此,在采集图像数量相同的条件下,方法1的表现明显优于方法2。而且文中最后的实际实验结果证实了笔者的推理。
另外,由于位置变量
式中:
从
图 6. 激光光斑的实际位置和计算位置的比较。 (a)红色矩形是通过方法1计算的位置; (b)蓝色矩形是通过方法2计算的位置
Fig. 6. Comparison of the actual position and calculated position of the laser spot. (a) Red rectangle is the position calculated by method 1; (b) Blue rectangle is the position calculated by method 2
图 7. 方法1和方法2中不同数量的棋盘姿态的位置误差
Fig. 7. Position error of different number of checkerboard postures in methods 1 and 2
更重要的是,文中特别比较了进行全局优化的方法与没有全局优化的标定结果。结果如
图 8. 方法1(上)和方法2(下)的位置误差分布
Fig. 8. Position error distribution for method 1 (top) and method 2 (bottom)
对于目前存在的标定算法,将文中算法与其做了对比,对比结果如
表 2. 三种标定算法对比
Table 2. Comparison of three calibration algorithms
|
很明显可以看出,在实际的标定结果上,文中算法与现存算法的结果相差不多,但是时间上确是消耗较少,而且方法一比方法二所需时间更少。由于所选样本太少,导致方法二的结果与其他两种方法存在一点偏差。
最后,文中将实际光斑与根据标定参数计算出的像素位置进行了比较。这两种方法都比最小测量集有显著的改进。可以看到,通过14次或更多的测量,方法1达到了可接受的水平。相反,方法2需要18次或更多次才能达到可比的精度。
从
图 9. 方法1(黑色)和方法2(红色)的姿态数的坐标误差
Fig. 9. Coordinate error of the number of poses for method 1 (black) and method 2 (red)
3 结 论
文中提出了在信息融合过程中的单点激光测距仪和相机标定的两种方法。两种方法的使用条件不同,方法1需要对图像中的激光光斑进行距离收集和二维观测,而方法2只需要激光光斑落在棋盘格平面上,与激光光斑的可见度无关。实验部分的结果数据表明,这两种方法都可以用来标定单点激光测距仪关于相机的相对姿态,最后的各种评价方法的数据也证实了文中提出的方法是可靠和正确的。实验过程中对于给定棋盘格相同姿态数目,方法1的表现明显优于方法2,因为方法1的误差来源主要是像素坐标的提取,但是方法2只使用激光测距的距离观测信息,误差来源平面向量的求取,这与相机内参等参数关系较大,影响因素也较多,因此难以减小。因此,接下来的工作将研究获得更高精度的、适用性更高的位姿标定方法。
在获取了激光测距仪与相机的外部参数之后,利用激光测距仪的返回距离值,可以为单目相机的深度提取提供参考,大大提高单目相机的深度提取能力,在有图像信息的基础上能够拥有更精确的深度信息,这将有利于扩展相机与激光测距仪组合在工业应用中的范围和前景。
[1] Cui Wei, Xiang Qian. Design and study of high precision laser rangefinder[J]. Laser Journal, 2018(7): 46-49.
[4] Shwetak N P, Jun Rekimoto, Gregy D A. iCam: Precise ataDistance interaction in the physical environment[C]International Conference on Pervasive Computing, 2006.
[5] Wither J, Coffin C, Ventura J, et al. Fast annotation modeling with a singlepoint laser range finder[C]7th IEEE ACM International Symposium on Mixed Augmented Reality, 2008.
[7] Wenbo Dong, Volkan Isler. A novel method for the extrinsic calibration of a 2D laser rangefinder and a camera[J]. IEEE Sensors Journal, 2018(99): 1.
[8] Aishwarya A P, Sam Shue, James M C. A survey of methods f mobile robot localization mapping in dynamic indo environments[C]2018 Conference on Signal Processing Communication Engineering Systems (SPACES). IEEE, 2018.
[9] Zhang Q, Pless R. Extrinsic calibration of a camera laser range finder (improves camera calibration)[C]IEEERSJ International Conference on Intelligent Robots & Systems, 2005.
[10] Scaramuzza, Davide, Harati, et al. Extrinsic self calibration of a camera a 3D laser range finder from natural scenes[C]2007 IEEERSJ International Conference on Intelligent Robots Systems, 2007.
[11] Zhang Yuhai. Research on multicamera codinate measurement technology[D]. Hefei: University of Science Technology of China, 2017.(in Chinese)
[12] Vasconcelos Francisco, Barreto João P, Nunes Urbano. A minimal solution for the extrinsic calibration of a camera and a laser-rangefinder[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2012, 34(11): 97-107.
王鹤, 李泽明. 激光测距仪与相机信息融合过程中位姿标定方法[J]. 红外与激光工程, 2020, 49(4): 0413002. He Wang, Zeming Li. Calibration method of laser range finder and camera in information fusion process[J]. Infrared and Laser Engineering, 2020, 49(4): 0413002.