光学学报, 2017, 37 (11): 1115006, 网络出版: 2018-09-07   

基于共线向量与平面单应性的双目相机标定方法 下载: 1038次

Binocular Camera Calibration Based on Collinear Vector and Plane Homography
作者单位
1 南京航空航天大学自动化学院, 江苏 南京 210000
2 中国科学院光电研究院, 北京 100089
3 中国科学院大学, 北京 100049
摘要
现有双目相机标定的方法是通过矩阵变换求得各个相机间的旋转平移关系,再通过优化求得最终参数。非线性优化步骤多,相机内外参数与镜头畸变存在耦合,时间花费较大。提出一种畸变矫正与平面单应性矩阵结合的双目相机标定方法。根据三维空间直线投影到像平面仍然是直线的法则,对于无畸变的图像,直线上任意两点所构成的向量的方向相同时向量夹角应为零。基于此特征求解双目相机的畸变系数,再通过平面单应矩阵构造测量矩阵,然后通过矩阵分解求得相机内、外参的初值,最终通过非线性优化求得双目相机的各个参数。仿真和实验结果证明,该方法稳定性高,精度与传统标定方法的精度相当,且计算时间短,标定效率优于传统标定方法。
Abstract
The current approach for binocular camera calibration is to obtain the rotation and translation relationship between cameras through matrix transformation, and the final parameters are obtained by optimization. The nonlinear optimization procedure is tedious, and the internal and external parameters of the camera are coupled with the lens distortion. We present a calibration method for the binocular camera with the combination of a distortion correction and a plane homography matrix. Firstly, based on the principle that three-dimensional linear projection to the image plane is still a straight line for the image without distortion, while any two points on the right line of vectors has the same direction, the direction of the vector angle should be zero. The distortion coefficient can be solved based on this characteristics. Then the measurement matrix is constructed by plane homography matrix, and the initial values of inside and outside parameters of the camera are obtained through matrix decomposition. Finally, all parameters of binocular camera are calculated by the nonlinear optimization. Simulations and experimental results show that this method is highly stable, and has equal accuracy compared to the traditional calibration methods. It spends less time and has better efficiency than the traditional calibration methods.

1 引言

作为视觉测量的核心技术之一,视觉测量系统中摄像机标定的精度直接影响测量结果的精度。摄像机标定的本质是:基于数学模型和几何关系,提取位于世界坐标系的3D对象和其位于图像平面或图像坐标系投影之间的量测信息[1-2]。在计算机视觉领域,近几十年来国内外学者对摄像机标定进行了深入的研究,提出了一系列经典的标定方法和工具。一般来说,摄像机标定可根据摄像机模型分为线性摄像机标定和非线性摄像机标定。线性摄像机标定忽略了镜头畸变的影响,标定精度较低。考虑了镜头畸变的影响的非线性摄像机标定是目前主流的标定方法。

非线性摄像机标定方法可分为两类[3-4]:1)基于极线约束的自标定方法,该方法无需预知目标的三维坐标,但是缺乏稳定性;2)传统的摄像机标定方法,该方法需要在摄像机视场中放置一个已知三维信息的靶标[5],然后根据摄像机参数模型推导出空间坐标系和图像坐标系之间的关系。Tsai[6]提出了一种基于径向约束的摄像机标定方法,利用径向不变性原理,先估计摄像机内部参数,再求解径向畸变系数,但该方法需要昂贵的三维靶标并且只考虑径向畸变的影响。针对这个问题,部分学者开始研究平面靶标方法,其中最具影响力的是Zhang[7]提出的平面靶标摄像机标定,将摄像机参数与镜头畸变系数进行非线性优化求解。其他学者基于该方法提出了一系列优化算法求解摄像机参数,以提高标定精度[8]。Heikkila[9]采用遗传算法对目标方程进行优化,降低了非线性优化陷入局部最优解的概率,从而提高摄像机标定性能。张敏等[10]提出基于直线特征的摄像机镜头畸变标定方法,该方法可以取得较高的标定精度

传统非线性标定方法对于单个相机标定具有很强的适用性,并且标定精度较高。但是对于双目摄像机标定非线性标定方法仍有不足,目前主流的双相机标定方法需要先对单个摄像机进行标定,再通过矩阵变换方式求解两摄像机间的旋转平移关系,并以此作为初值进行非线性优化,求得最终双相机内外参数。此过程非线性优化步骤过多、耗时较长,并且对于镜头畸变较大的摄像机,将摄像机线性参数和镜头畸变系数同时标定优化会导致非线性参数与线性参数的耦合,造成标定结果不准确。Ueshiba等[11]提出采用相关单应性矩阵方法进行多相机标定,提高了标定效率,但并没有考虑畸变的影响。

本文提出一种有效的双目立体摄像机标定方法,该方法将摄像机线性参数与镜头畸变系数分别标定,使标定结果更加稳定可靠。利用图像特征点之间的共线向量估计镜头的径向畸变系数。求出畸变系数后,校正原有图像,并将校正后的图像用于双目相机线性参数的标定,同步求解双相机内参和外参,无需像传统标定方法那样进行外参变换后再进行优化。相比传统方法,该方法运算速度更快,能够获得可靠的高精度标定结果,为双目摄像机标定提供了新的思路。

2 标定方法

2.1 摄像机模型

在三维空间中,平面可以由三个不共线的三维点ABC进行描述。在这个平面上三维坐标Xp可以表述为

Xp=A+xp(B-A)+yp(C-A)=[(B-A) (C-A) A]x˙p,(1)

式中 x˙p=[xp yp 1]T是该平面上的二维坐标点。设 X˙pXp的齐次坐标,则

X˙p=xyz1=r1r2d001xpyp1(2)

图 1. 双目摄像机模型

Fig. 1. Binocular camera model

下载图片 查看所有图片

不失一般性,如图1所示,以左摄像机为例,可设r1r2为平行于该平面并且相互垂直的单位向量,即 r1Tr1= r2Tr2=1, r1Tr2=0,d为平面在参考坐标系下的位置向量。由左摄像机线性参数模型可得

uv1=A[R t]X˙p=A[R t]r1r2d001xpyp1(3)

2.2 镜头畸变模型

由于镜头畸变的客观存在,上述摄像机模型会出现几何失真,因此在实际摄像机标定中,必须选择合适的镜头畸变模型,并对镜头畸变进行校正。图2所示为最常用的镜头畸变模型。畸变分为径向畸变dr、离心畸变dt和薄透镜畸变dp。镜头畸变校正的本质就是根据镜头畸变模型来估计镜头的畸变系数。

图 2. 摄像机镜头畸变模型

Fig. 2. Distortion model of camera lens

下载图片 查看所有图片

镜头畸变中径向畸变通常起决定性作用。如果引入过多的畸变因素,精度可能不会提高,反而会导致数值解的不稳定,因而本文只考虑镜头一阶径向畸变的影响。摄像机的畸变模型为

xu=xd(1+k1r2)yu=yd(1+k1r2),(4)

式中xuyu是理想的无畸变的图像坐标值,xdyd是相应的带畸变的图像坐标值,k1为一阶径向畸变参数,r2=xd2+yd2

2.3 双目摄像机参数立体标定方法

由于存在镜头畸变的非线性因素,如果将镜头畸变与线性参数一起进行非线性优化求解,则非线性畸变对线性参数的影响较大。因此,本文先根据图2所示镜头畸变模型求解畸变系数,然后利用校正后的图像来进行线性参数求解。

2.3.1 镜头畸变系数估计

求解镜头畸变系数的目的在于找到实际摄像机图像平面与理想的小孔成像模型之间的转换映射。为求取镜头的畸变系数,需引入一个空间几何光学的基本特性:对于摄像机小孔成像模型,在不考虑镜头畸变的情况下,空间中位于摄像机视场内的一条直线在摄像机成像平面上的投影依然是一条直线。基于这个特性,实际中常使用空间共线点作为标记点进行镜头畸变系数的估计[12-13]。传统的非测量方法以斜率作为畸变测度,但是存在一些弊端,比如当直线接近垂直时,斜率过大造成溢出,且计算量也会偏大。周子卿等[14]提出了共线向量畸变系数标定方法,提供了新的畸变测量指标,但使用向量内积的计算过于复杂。

根据向量知识,如两个向量方向相同且共线那么它们的夹角应为0°。因此,对于直线上任意两点构造的向量,只要方向相同,则其夹角就为0°。因此共线向量夹角可作为畸变测度,实现简单,计算量小。

2.3.2 畸变参数求解

假设对靶标平面图像提取MN列特征点。同一行或者同一列的相邻两个特征点PiPi+1构成向量PiPi+1,则向量PiPi+1与向量Pi-1Pi的夹角为

θi=arccosPi-1Pi×PiPi+1Pi-1Pi×PiPi+1(5)

建立畸变参数标定的目标优化函数:

F(k1)=j=1Mi=2N-1θij(6)

用优化算法对(6)式进行求解,即可得到畸变系数k1。左右相机均进行此操作。

2.3.3 双目相机线性参数求解

由(3)式可得单应性矩阵:

H=AHcHp,(7)

式中Hc=[R t],Hp= r1r2d001

Hji(i=1,2,j=1,2,…,n)是第i个相机与靶标板平面中第j个位置间的单应矩阵,但实际计算的是 H˙ji= λjiHji,其中 λji是未知的尺度因子。为了求解 λji,Ueshiba[11]提出一种相关单应性矩阵方法,但是该方法的估值受限。Sturm[15]采用的方法需已知内参矩阵,而通常内参矩阵是未知的。因此本文采取一种新方法,先估算两相机的内参矩阵A1A2。假设相机的分辨率为m×n,相机镜头焦距为f,像素尺寸为dx×dy,则相机内参矩阵可估计为

A=f/dx0m20f/dyn2001(8)

可以得到:

M˙ji=Ai-1H˙ji=λjiHciHpj(9)

M˙ji的前2列 M˙j3×2i,对 M˙j3×2i进行奇异值分解(SVD),得到 M˙j3×2i=U3×2Σ2×2V2×2T,则

λji=Tr[(M˙j3×2i)TM˙j3×2i]Tr(U3×2VT2×2M˙j3×2i)(10)

在求得 λji后,测量矩阵M可表示为

M=M˙11/λ11M˙n1/λn1M˙21/λ12M˙n2/λn2=H1cH2cC[Hp1  Hpn]P,(11)

式中C是6×4矩阵,P是4×3n矩阵,因此测量矩阵M的秩为4。矩阵C包含两个相机之间的外参,矩阵P包含靶平面的位姿参数。根据Ueshiba[11]提出的方法可求解CP矩阵。

2.3.4 非线性优化

klkr为左右相机的畸变系数, Xnj=( xnj, ynj)(n=1,…,Nj)表示平面πj上的Nj个参考点, Uinj=( uinj, vinj)为 Xnj在第i个相机像平面上的像素坐标。构建优化函数

fc=i=12k=1Jj=1NjUinj-u^(Ai,Ri,ti,r1j,r2j,dj,ki;Xnj)2,(12)

式中 u^(Ai,Ri,ti,r1j,r2j,dj,ki; Xnj)表示 Xnj重投影的像素坐标,使用Levenberg-Marquardt优化算法得出最终双目相机内外参数值。

2.3.5 双目摄像机标定算法流程图

图3为双目摄像机标定算法流程图。该流程主要包括左右相机拍摄的图片角点坐标提取、构造畸变系数优化方程求解畸变系数、图像矫正、求解单应矩阵H、构造测量矩阵M、求解CP矩阵并取得初值和非线性优化求得终值。

图 3. 双目摄像机标定算法流程图

Fig. 3. Flow chart of binocular camera calibration algorithm

下载图片 查看所有图片

3 仿真和实验

3.1 仿真

假设两相机水平放置,间距150 mm。两相机内参矩阵相同,fx=fy=850,u0=385,v0=338,左右相机畸变系数k1=kr=0.94,靶平面设置为尺寸10×14、间距30 mm的棋盘格。模拟靶标平面旋转不同的角度,取6张不同的姿势图。通过给图像点坐标添加高斯噪声来观察标定的结果,高斯噪声均值为0,方差从0.1 pixel到2 pixel,间隔为0.1 pixel。每个噪声水平下独立重复50次实验,结果取平均值。以左相机各内参以及一阶畸变系数为例,随着噪声的增加,相机参数误差也增加,如图4所示。当噪声在较低水平时,相机各内参的误差都能保持较低的水平。这是因为先对畸变系数进行求解,所以相机的线性因素和非线性因素能够独立求解。图5表明随着噪声的增加,左右相机间的旋转角与平移向量的绝对误差也在增加。通过矩阵分解的方式,为非线性优化提供了较好的初值,使得其绝对误差值保持很低的水平。重投影误差能够反映标定算法的性能,由图6可知,当噪声误差在0.4 pixel内时,左右相机的重投影误差为0.38 pixel,满足正常的标定精度要求。

图 4. 不同误差水平下的内参以及畸变误差。 (a) fx、fy误差;(b) u0、v0误差;(c) k1误差

Fig. 4. Internal parameters and distortion error at different error levels. (a) fx and fy error; (b) u0 and v0 error; (c) k1 error

下载图片 查看所有图片

图 5. 不同误差水平下的外参误差。 (a)平移误差;(b)旋转误差

Fig. 5. External parameter error at different error levels. (a) Translation error; (b) rotation error

下载图片 查看所有图片

图 6. 左右相机拍摄照片的重投影误差平均值

Fig. 6. Average of reprojection error of the images captured by left and right camera

下载图片 查看所有图片

3.2 实验

为验证本文方法的可行性和适用性,将该方法与张正友标定方法作比较。

在双目摄像机标定实验中,左右摄像机型号均为piA2400-17gm,分辨率为2400 pixel×2050 pixel。摄

像机镜头型号为M2514-MP2,焦距为25 mm,镜头视场角为80°。图7(a)所示为摄像机标定实验系统,该系统包括摄像机、镜头、靶标和计算机。

在不同的角度、距离调整靶标板,左右相机同时对靶标板拍摄6张图片,靶标图片如图7(b)、(c)所示。48个角点(8×6)均匀分布在靶标平面上,相邻点之间的间距为30 mm(误差为0.02 mm)。采用左右相机所拍摄的前5张图片进行摄像机参数的标定,采用第6张图片评估标定后摄像机的测量精度。通过计算它们之间的距离来进行精度评估。

图 7. (a)双目视觉测量系统;(b)左相机拍摄靶标图;(c)右相机拍摄靶标图

Fig. 7. (a) Binocular vision measurement system; (b) target chart captured by left camera; (c) target chart captured by right camera

下载图片 查看所有图片

首先定义距离误差

Ed=Dtrue-d,(13)

式中Dtrue是相邻点的距离真值,在实验中等于30 mm。d是测量得到的距离值。

最大距离误差Emax,最小距离误差Emin和平均距离误差Eeq分别定义为

Emax=max1N(Ed)Emin=min1N(Ed)Eeq=1N(Ed)(14)

使用两种方法标定的摄像机参数结果如表1所示。根据双目视觉测量原理,计算靶标板角点的三维坐标值,与已知角点间距对比,可以计算出相邻角点间距的误差。

表2可以看到,张正友标定法的平均距离误差为0.113 mm,本文方法的平均距离误差为0.095 mm,说明在给定实验条件下,本文方法略优于张正友方法。统计了左右相机标定所使用的计算时间,如图8所示。本文方法相对于张正友标定法用时较短,并且随着标定靶标图片的增加这种优势越来越明显。

表 1. 本文标定方法与张正友标定方法的实验结果对比

Table 1. Comparison of the experimental results of proposed calibration method and Zhang’s calibration method

ParameterProposed calibration methodZhang’s calibration method
Left cameraRight cameraLeft cameraRight camera
fx7176.64007176.63467176.88587176.8858
fy7176.61217176.63437176.88587176.8858
u01222.98841223.50391223.50001223.5000
v01024.34671023.99861024.50001024.5000
R[1,0,0; 0,1,0; 0,0,1][0.99987,0.00293,0.01247;0.00438,0.99964,0.00962;-0.01178,-0.00765,0.9938][1,0,0; 0,1,0; 0,0,1][0.99991,0.00336,0.01242;0.00324,0.99994,0.00992;-0.01245,-0.00988,0.9998]
t[0,0,0][184.6340,0.0593,-4.2206][0,0,0][184.9330,0.0642,-4.4113]
k1-0.08324-0.09502-0.10131-0.10205

查看所有表

表 2. 两种方法距离误差比较

Table 2. Comparison of distance error between two methodsmm

MethodDistance error
EminEmaxEeq
Zhang’s calibration method0.0390.3870.113
Proposed calibration method0.0080.1350.095

查看所有表

图 8. 不同图片的双目标定耗时对比

Fig. 8. Comparison of consuming time in binocular calibration with different pictures

下载图片 查看所有图片

4 结论

提出了一种新的双目摄像机标定方法,先进行畸变系数的求解,再进行双目相机线性参数的求解,通过两次优化就能得到最终参数。该方法大大减少了算法的运算量,在时间花费上相对于传统标定方法具有较大优势。同时,在给定的实验条件下,标定精度略优于传统标定方法的标定精度。

参考文献

[1] Urban S, Leitloff J, Hinz S. Improved wide-angle, fisheye and omnidirectional camera calibration[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2015, 108: 72-79.

    Urban S, Leitloff J, Hinz S. Improved wide-angle, fisheye and omnidirectional camera calibration[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2015, 108: 72-79.

[2] Ma W H, Dong T, Tian H, et al. Line-scan CCD camera calibration in 2D coordinate measurement[J]. Optik-International Journal for Light and Electron Optics, 2014, 125(17): 4795-4798.

    Ma W H, Dong T, Tian H, et al. Line-scan CCD camera calibration in 2D coordinate measurement[J]. Optik-International Journal for Light and Electron Optics, 2014, 125(17): 4795-4798.

[3] Galego R, Ortega A, Ferreira R, et al. Uncertainty analysis of the DLT-lines calibration algorithm for cameras with radial distortion[J]. Computer Vision and Image Understanding, 2015, 140: 115-126.

    Galego R, Ortega A, Ferreira R, et al. Uncertainty analysis of the DLT-lines calibration algorithm for cameras with radial distortion[J]. Computer Vision and Image Understanding, 2015, 140: 115-126.

[4] Heikkila J. Geometric camera calibration using circular control points[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2000, 22(10): 1066-1077.

    Heikkila J. Geometric camera calibration using circular control points[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2000, 22(10): 1066-1077.

[5] Ricolfe-Viala C. Sánchez-Salmerón A J. Robust metric calibration of non-linear camera lens distortion[J]. Pattern Recognition, 2010, 43(4): 1688-1699.

    Ricolfe-Viala C. Sánchez-Salmerón A J. Robust metric calibration of non-linear camera lens distortion[J]. Pattern Recognition, 2010, 43(4): 1688-1699.

[6] Tsai R Y. An efficeint and accurate camera calibration technique for 3D machine vision[J]. Computer Vision and Pattern Recognition, 1986: 364-374.

    Tsai R Y. An efficeint and accurate camera calibration technique for 3D machine vision[J]. Computer Vision and Pattern Recognition, 1986: 364-374.

[7] Zhang Z Y. A flexible new technique for camera calibration[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2000, 22(11): 1330-1334.

    Zhang Z Y. A flexible new technique for camera calibration[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2000, 22(11): 1330-1334.

[8] Jiang W S, Wang Z Y. Calibration of visual model for space manipulator with a hybrid LM-GA algorithm[J]. Mechanical Systems and Signal Processing, 2016, 66: 399-409.

    Jiang W S, Wang Z Y. Calibration of visual model for space manipulator with a hybrid LM-GA algorithm[J]. Mechanical Systems and Signal Processing, 2016, 66: 399-409.

[9] Heikkila J. Geometric camera calibration using circular control points[J]. IEEE Transactions on Pattern Analysis And Machine Intelligence, 2000, 22(10): 1066-1077.

    Heikkila J. Geometric camera calibration using circular control points[J]. IEEE Transactions on Pattern Analysis And Machine Intelligence, 2000, 22(10): 1066-1077.

[10] 张敏, 金龙旭, 李国宁, 等. 基于直线特征的摄像机镜头畸变标定方法[J]. 光学学报, 2015, 35(6): 0615001.

    张敏, 金龙旭, 李国宁, 等. 基于直线特征的摄像机镜头畸变标定方法[J]. 光学学报, 2015, 35(6): 0615001.

    Zhang Min, Jin Longxu, Li Guoning, et al. Camera distortion calibration method based on straight line characteristics[J]. Acta Optica Sinica, 2015, 35(6): 0615001.

    Zhang Min, Jin Longxu, Li Guoning, et al. Camera distortion calibration method based on straight line characteristics[J]. Acta Optica Sinica, 2015, 35(6): 0615001.

[11] UeshibaT, TomitaF. Plane-based calibration algorithm for multi-camera systems via factorization of homography matrices[C]. IEEE International Conference on Computer Vision, 2003, 2( 2): 966- 973.

    UeshibaT, TomitaF. Plane-based calibration algorithm for multi-camera systems via factorization of homography matrices[C]. IEEE International Conference on Computer Vision, 2003, 2( 2): 966- 973.

[12] 周富强, 蔡斐华. 基于非量测畸变校正的摄像机标定方法[J]. 机械工程学报, 2009, 45(8): 228-232.

    周富强, 蔡斐华. 基于非量测畸变校正的摄像机标定方法[J]. 机械工程学报, 2009, 45(8): 228-232.

    Zhou Fuqiang, Cai Feihua. Camera calibration method based on non-metric distortion correction[J]. Journal of Mechanical Engineering, 2009, 45(8): 228-232.

    Zhou Fuqiang, Cai Feihua. Camera calibration method based on non-metric distortion correction[J]. Journal of Mechanical Engineering, 2009, 45(8): 228-232.

[13] 周富强, 胡坤, 张广军. 基于共线特征点的摄像机镜头畸变校正[J]. 机械工程学报, 2006, 42(9): 174-177.

    周富强, 胡坤, 张广军. 基于共线特征点的摄像机镜头畸变校正[J]. 机械工程学报, 2006, 42(9): 174-177.

    Zhou Fuqiang, Hu Kun, Zhang Guangjun. Correcting distortion of camera lens with collinear points[J]. Chinese Journal of Mechanical Engineering, 2006, 42(9): 174-177.

    Zhou Fuqiang, Hu Kun, Zhang Guangjun. Correcting distortion of camera lens with collinear points[J]. Chinese Journal of Mechanical Engineering, 2006, 42(9): 174-177.

[14] 周子卿, 赵鹏, 李勃, 等. 基于共线向量的非量测镜头畸变校正[J]. 光学学报, 2014, 34(10): 1015001.

    周子卿, 赵鹏, 李勃, 等. 基于共线向量的非量测镜头畸变校正[J]. 光学学报, 2014, 34(10): 1015001.

    Zhou Ziqing, Zhao Peng, Li Bo, et al. Nonmetric lens distortion calibration based on collinear vectors[J]. Acta Optica Sinica, 2014, 34(10): 1015001.

    Zhou Ziqing, Zhao Peng, Li Bo, et al. Nonmetric lens distortion calibration based on collinear vectors[J]. Acta Optica Sinica, 2014, 34(10): 1015001.

[15] SturmP. Algorithms for plane-based pose estimation[C]. IEEE Conference on Computer Vision and Pattern Recognition, 2000, 1: 706- 711.

    SturmP. Algorithms for plane-based pose estimation[C]. IEEE Conference on Computer Vision and Pattern Recognition, 2000, 1: 706- 711.

邹朋朋, 张滋黎, 王平, 汪启跃, 周维虎. 基于共线向量与平面单应性的双目相机标定方法[J]. 光学学报, 2017, 37(11): 1115006. Pengpeng Zou, Zili Zhang, Ping Wang, Qiyue Wang, Weihu Zhou. Binocular Camera Calibration Based on Collinear Vector and Plane Homography[J]. Acta Optica Sinica, 2017, 37(11): 1115006.

本文已被 16 篇论文引用
被引统计数据来源于中国光学期刊网
引用该论文: TXT   |   EndNote

相关论文

加载中...

关于本站 Cookie 的使用提示

中国光学期刊网使用基于 cookie 的技术来更好地为您提供各项服务,点击此处了解我们的隐私策略。 如您需继续使用本网站,请您授权我们使用本地 cookie 来保存部分信息。
全站搜索
您最值得信赖的光电行业旗舰网络服务平台!