基于结构光的高反物体三维形貌测量方法 下载: 2230次
1 引言
三维形貌测量技术[1-3]在工业制造、逆向工程、虚拟现实等诸多领域具有广泛应用。形式多样和结构复杂的高反射曲面具有高反射性质,加工测量这类曲面的难度比较大。采用结构光三维重建方法能够快速地重建出曲面面形,但对表面高反光的物体进行重建时,会出现大面积的错误数据。因此,解决高反表面引起的数据错误是实现结构光测量高反物体[4-6]的难题。对此,国内外学者进行了一系列研究。在基于颜色信息进行高光区域数据恢复的理论基础,Shaffer提出了双色反射模型[7]。Sato等[8]发现在RGB颜色空间中,漫反射像素和高光像素形成T形颜色分布,对颜色矢量进行分离就能去除高光。但由于噪声的存在,去除效果并不理想。Yoon等[9]通过分析多幅图像的颜色信息对高光进行分离,但这需要保证相邻像素点有相同的反射特性,不适合用于具有强烈高反射性质的高光物体。Tan等[10]利用单幅图片进行镜面反射分离,这种方法不需要颜色分割,且可适用于表面纹理复杂的物体。Tan等[7]通过比较高光和漫反射光的色度特性,结合光照约束条件引入补色方法,设计出去除高光并还原漫反射分量的新算法。刘元坤等[11]提出了针对类镜面物体表面的测量方法,将不同的物体作为投射光源,以减少采集图像中的高光。姜宏志等[12]提出了用于强反射表面形貌测量的投影栅相位法,投射亮暗条纹,多时间曝光采集,点云数据准确率可达99.6%。Shen等[13]提出了一种彩色图像反射分离的方法,实现了单像素级的反射分离,不需要图像分割,不需要相邻像素之间的局部交互。肖朝等[14]利用结构光调制度与亮度成正比的特性,使用结构光调制度信息来替代传统的光强亮度信息进行多投影拼接融合。刘飞等[15]通过投射区域格雷编码灰度图来计算饱和区域的位置,然后增加过渡补偿区域,平滑降低饱和区域的条纹光栅投射强度,提高了表面高反物体的三维重建质量。Chen等[16]提出了自适应投影强度调整方法,该方法可以避免在高反射率范围内测量目标时的图像饱和,可以保持良好的条纹调制。Sun等[17]根据反射分量分离理论提出了反射分量分离与像素填补相结合的改进算法,该方法可使高光像素数目显著减少,从而减小高光部分对结构光三维测量精度的影响。
针对上述问题,本文提出了一种基于反射分量分离理论的改进高光去除方法,与改进种子填充算法相配合,使结构光三维测量技术可以适用于陶瓷、金属等具有高反性质的物体测量。该方法的优点是完全基于颜色信息,不依赖物体的几何信息,填充结果忠于原始图像,测量范围广。在算法上,通过两种去除高光方法的逻辑求交运算,可精确选择高光区域,通过改进后的种子填充算法对去除后的空洞进行填充,在去除高光的同时保证了颜色信息,减小了物体表面的高光对测量精度的影响。
2 结构光投影测量
采用结构光投影系统对高反物体的三维轮廓进行测量时,将正弦光栅投影技术和数字相移技术融合,采用漫反射光源。系统由投影仪、电荷耦合器件 (CCD)、计算机组成,如
CCD相机采集到的条纹图强度可表示为
式中:
式中:
3 高光消除
3.1 双色反射模型
非均匀光照下高光的形成受两方面因素的影响:物体表面反射率和光照强度。描述高光图像的双色反射模型[5]为
式中:
式中:
式中:像素点的漫反射色度
3.2 高光区域的选择
反射分离(SF)图像[15]不存在高光影响,且可以保持物体表面的几何形变。假设相邻像素的最大漫反射色度具有连续性,利用迭代方法将高光像素的最大漫反射色度收敛到与邻域漫反射的最大色度一致,即可实现高光去除。之后,在SF图像的基础上提出改进的反射分离(MSF)图像[16]的概念,通过自适应阈值将图像大致划分为漫反射点和高光点,然后利用原始图像在色度图中的信息,找出高光像素对应的漫反射色度,最后采用最小二乘法对高光分量和漫反射分量进行求解。去除高光的过程分为两步:1)根据灰度大小聚类漫反射像素和高光像素;2)对高光像素进行搜索,寻找与其体色度接近的漫反射像素并替换,即可得到消除高光后的图像。MSF图像的计算过程如下
其中
将(8)式改写为
将
式中:
色度距离指的是两个颜色之间的差距,通常距离越大,两个颜色相差越大;反之,两个颜色越相近。但是,由于RGB空间是线性的并且相互正交,而人眼的视觉系统并不是线性的,RGB空间并不能反映人眼对颜色的感知,相对应的颜色距离也不能很好地反映两个颜色是否相近。据此本研究引入色度距离作为第二判定条件。其中MSF图像的色度计算方法为
像素
式中:
3.3 改进的强反射分量去除方法
根据双色反射模型,像素点颜色可以表示为该点体色度和光源色度的线性组合。高光像素的最大色度是随图像强度变化的,而漫反射像素是不随之改变的。如何寻找与高光像素体色度接近的漫反射像素,并用漫反射像素的体色度将其替换是解决问题的关键。为避免体色度[16]错选而造成图像失真,仅在高光像素所在的连通区域寻找替换。高光反射分量去除的具体步骤为:针对高光像素选择它的连通区域
3.4 基于种子填充的改进算法
种子填充算法的核心是递归算法,从指定的种子点开始,向各个方向搜索,逐像素进行处理,直到遇到边界。不同的种子填充算法只是在处理颜色和边界的方式上有所不同。4-联通算法和8-联通算法是种子填充算法的关键概念。如
图 3. 填充效果图。(a)待处理像素;(b) 4-联通填充效果图;(c) 8-联通填充效果图
Fig. 3. Fill effect images. (a) Pending pixel; (b) 4-unicom filling effects image; (c) 8-unicom filling effects image
该算法从需要填充区域的外边界开始,逐渐缩小填充区域,直至填充区域大小为零。先填充的像素点作为后填充像素点的临近像素,又被作为后填充点的填充基准,所以像素点的填充顺序会影响修复的效果。本研究通过定义优先级来决定填充顺序,每次仅修复优先级最高的像素点,然后更新该点附近像素的优先级,进一步决定修复对象。对像素的优先级定义为
式中:
1) 对输入的图像生成掩模,即找出需要填充的像素区域
2) 先使用边界跟踪算法对原图像进行膨胀操作,然后以膨胀后的图像减去原图像,得到需填充的像素边界
3) 根据漫反射图像建立填充像素与边界像素之间的关系。满足以下任一条件都需要进行填充处理。条件1):寻找边界
4) 确定像素区域
高光分离并经像素填充后,如果发现4-联通算法的填充效果不好,可采用8-联通算法扩大搜索范围,直至找到符合条件的像素。应根据应用环境和实际需求来选择联通搜索方式,一般情况下,采用4-联通算法就能得到正确的结果。
4 实验结果与分析
测量系统的硬件有投影仪、CCD相机和计算机。采用的投影仪为XL3DS-L型三维扫描仪,图像分辨率为1280 pixel×1024 pixel;CCD相机为Daheng HV1351 μm,分辨率为1280 pixel×1024 pixel。条纹投影测量系统如
将原始图像转换为MSF图像,经过与
图像以及像素粗分类结果如
对MSF图像进行像素粗分类后,噪声可能会被当作高光像素进行处理,因此需要进行进一步判断。色度距离指的是两个颜色之间的差距,距离越大,两个颜色相差越大;反之,两个颜色越相近。据此对噪声和高光像素进行区分,并进行体色度替换得到最终的色度图。
图 5. MSF图像以及像素粗分类结果。(a)MSF图像;(b)像素粗分类后的反射分量图;(c)像素粗分类后的漫反射分量图
Fig. 5. MSF image and images of pixel rough classification. (a) MSF image; (b) reflection component map after pixel rough classification;(c) diffuse reflection component map after pixel rough classification
图 6. 色度图。(a)原始色度图;(b)反射分量色度图;(c)漫反射分量色度图
Fig. 6. Chromaticity images. (a) Original chromaticity image; (b) reflection component chromaticity image; (c) diffuse reflection component chromaticity image
对带有条纹的金属工件进行高光分离,得到的漫反射分量图和反射分量图如
图 7. 处理前后对比图。(a)原始图像;(b)处理后漫反射分量图像;(c)处理后镜面反射分量图像
Fig. 7. Images before and after processing. (a) Original image; (b) diffuse reflection component image after processing; (c) specular component image after processing
10 cm×10 cm的工业金属工件如图8所示,投影正弦条纹采集到的图像如图7(a)所示。图8中的高反区域为图9中的红框区域。图9(a)是采用文献[ 10]的方法进行填充后的结果,而图9(b)是采用所提方法填充后的图像。原始图像中的高反区域面积约为1.5 cm×10 cm,采用所提方法处理后,高反面积基本完全消除,处理了93%以上的高反像素。这是因为本研究中确定的阈值更符合实际情况,并且引入了权函数进行判断,有效降低了填充误差。
图 9. 采用不同方法处理后的对比图。(a)采用文献[ 10]的方法;(b)采用所提方法
Fig. 9. Comparison images processed with different methods. (a) Image obtained with the method in ref. [10]; (b) image processed with the proposed method
高光分离并进行填充后,分别以灰度值240、120、100对原图、漫反射分量图和处理后图像进行遍历,统计像素数量,并生成条形图,结果如
图 10. 处理前后的对比。(a)像素条形统计图;(b)灰度变化曲线图
Fig. 10. Comparison before and after processing. (a) Pixel bar graph; (b) grayscale change graph
将正弦条纹投影到10 cm×10 cm的金属工件表面,采集条纹图并解调绝对相位,比较处理前后的重建结果,如
图 11. 金属工件的重建对比。(a)原始图像的重建结果;(b)所提方法处理后的图像的重建结果
Fig. 11. Reconstructed images of metal workpiece. (a) Reconstruction result of the original image; (b) reconstruction result of the image processed with the proposed method
对表面曲率变化复杂、半径为5 cm的陶瓷杯盖进行测量,结果如
图 12. 杯盖重建结果。(a)原始图像的重建结果;(b)经所提方法处理后的重建结果
Fig. 12. Reconstructed images of cup lid. (a) Reconstruction results of the original image; (b) reconstruction results after processing using the proposed method
综合
5 结论
在高反物体的结构光投影测量过程中,高光现象是无法避免的。针对这一问题,本课题组提出了一种用于大面积高反物体的三维重建方法,解决了采集条纹图像中亮度分布不均匀的现象。实验结果表明,所提方法能有效解决高反材质物体形貌测量过程中的高光问题,进而获得了准确的三维信息。所提方法不需要昂贵的设备支持,不需要采集不同曝光时间或不同最大灰度值的投影条纹图,易于实现,操作简便,实测误差约为0.23 mm,可消除93%~97%的高光像素。
[3] Qi Z S, Wang Z. Highlight removal based on the regional-projection fringe projection method[J]. Optical Engineering, 2018, 57(4): 041404.
Qi Z S, Wang Z. Highlight removal based on the regional-projection fringe projection method[J]. Optical Engineering, 2018, 57(4): 041404.
[7] TanP, LinS, QuanL, et al. Highlight removal by illumination-constrained inpainting[C]. IEEE International Conference on Computer Vision, 2003: 164- 169.
TanP, LinS, QuanL, et al. Highlight removal by illumination-constrained inpainting[C]. IEEE International Conference on Computer Vision, 2003: 164- 169.
[10] Tan RT, IkeuchiK. Separating reflection components of textured surfaces using a single image[C]. IEEE International Conference on Computer Vision, 2003: 870- 877.
Tan RT, IkeuchiK. Separating reflection components of textured surfaces using a single image[C]. IEEE International Conference on Computer Vision, 2003: 870- 877.
[11] 刘元坤, 苏显渝, 吴庆阳. 基于条纹反射的类镜面三维面测量方法[J]. 光学学报, 2006, 26(11): 1636-1640.
刘元坤, 苏显渝, 吴庆阳. 基于条纹反射的类镜面三维面测量方法[J]. 光学学报, 2006, 26(11): 1636-1640.
[12] 姜宏志, 赵慧洁, 李旭东, 等. 用于强反射表面形貌测量的投影栅相位法[J]. 光学精密工程, 2010, 18(9): 2002-2008.
姜宏志, 赵慧洁, 李旭东, 等. 用于强反射表面形貌测量的投影栅相位法[J]. 光学精密工程, 2010, 18(9): 2002-2008.
[14] 肖朝, 苏显渝, 陈锋, 等. 基于条纹调制度的多投影显示融合方法[J]. 光学学报, 2016, 36(4): 0412007.
肖朝, 苏显渝, 陈锋, 等. 基于条纹调制度的多投影显示融合方法[J]. 光学学报, 2016, 36(4): 0412007.
[15] 刘飞, 何春桥, 申爱民, 等. 结构光饱和区域分区投射优化补偿方法[J]. 光学学报, 2018, 38(6): 0612001.
刘飞, 何春桥, 申爱民, 等. 结构光饱和区域分区投射优化补偿方法[J]. 光学学报, 2018, 38(6): 0612001.
Article Outline
杨鹏斌, 邓林嘉, 陈元, 伏燕军, 徐天义, 王霖. 基于结构光的高反物体三维形貌测量方法[J]. 中国激光, 2019, 46(2): 0204004. Pengbin Yang, Linjia Deng, Yuan Chen, Yanjun Fu, Tianyi Xu, Lin Wang. Three-Dimensional Shape Measurement of Highly Reflective Objects Based on Structured Light[J]. Chinese Journal of Lasers, 2019, 46(2): 0204004.