基于自适应多曝光融合的高动态范围表面测量方法
0 引 言
三维测量是一种利用计算机或其他设备对物体三维表面进行精确测量的技术[1]。结构光扫描技术因具有测量速度快、精度高、分辨率高等优点,成为制造业、建筑设计、医疗、生物医学等领域中应用较为广泛的三维测量技术之一[2-3]。条纹投影轮廓术是一种常用于三维形状测量的结构光扫描技术[4-5],通过投影仪将条纹图投射到物体表面,利用相机捕获变形的条纹图,求解出绝对相位后,结合系统标定参数对物体进行点云重建实现三维轮廓的测量[6]。
对于高动态范围表面的物体,由于物体表面反射光具有较大的动态范围,很难保证在单次曝光时间下被测物体表面的不同区域同时捕捉到高质量的条纹图。因此,Zhang等[7]提出了一种高动态范围扫描技术,通过合成不同曝光时间下捕获的条纹图,融合生成图像质量良好的条纹图,但该方法需要手动设置曝光时间,效率较低且依靠操作者的经验。Song等[8]利用两个相机捕获物体表面的图像,其中一个相机捕获反射率较低的区域,另一个相机捕获反射率较高的区域,最后利用所得到的不同曝光下的图像,结合双向反射分布函数模型,得到物体的三维形状信息,但该方法对于实验环境要求较高且过程较为复杂。李兆杰等[9]提出了一种自适应曝光重建的方法,利用响应函数和图像序列来计算曝光次数和曝光时间,该方法对环境的适应性较好,但需要拍摄大量图片,不具备通用性。姜宏志等[10]采用向被测物投射明暗条纹图方法,通过设置不同的相机曝光时间采集图像,并将采集到的图像合成一幅无失真的条纹图,但该方法对投射条纹图的明暗程度要求较高。薛峰等[11]提出了一种在多曝光融合过程中通过替换像素点灰度值的方法得到高质量条纹图,但当某块区域图像质量整体偏差时,得到的条纹图质量依然不高。
针对上述方法,选取曝光时间的局限性以及获得的条纹图质量不高的问题,文中提出了一种改进的多曝光融合方法。首先在初始曝光时间下对拍摄的图像进行直方图分析,通过直方图的集群分布将被测物表面反射率分为若干个组,分别计算每个组别的最佳曝光时间。在不同组别对应的最佳曝光时间下分别拍摄投射白光和投射条纹的图像,先对拍摄的图像进行阈值预处理,将预处理后的投射白光的图像制作成掩模图像并与相同曝光时间下的条纹图相乘,对相乘的图像进行亮度压缩与融合,采用CLAHE(Contrast Limited Adaptive Histogram Equalization)算法提高融合后的图像的对比度与清晰度,最后通过求解相位和系统标定对物体进行三维点云重建。该方法自动化程度高,适用范围广,能够实现高动态范围表面物体高精度三维轮廓测量。
1 实验原理
1.1 自适应曝光时间
结构光扫描技术中,曝光时间会直接影响拍摄到的条纹图质量和精度[12]。在环境光强不变的情况下,曝光时间的选取取决于被测物体表面反射率的大小。如果反射率较大,应选择相对较短的曝光时间,避免过度曝光;如果反射率较小,需要考虑增加曝光时间来提高成像的信噪比。传统的手动曝光的方法全凭操作者的经验,从而影响三维测量的精度。基于此,文中利用直方图自适应计算曝光时间。条纹投影轮廓术原理如图1所示。
图1中,Ip为投影强度;α为表面反射率;αIp为反射光;β1为环境光;αβ1为反射的环境光;β2为直接进入相机的环境光。所以当投射均匀明亮的白光时,相机捕获的图像强度可以表示为:
式中:s、t分别为相机感光度和曝光时间,因为实验情况下场景亮度不变,所以相机感光度s通常情况下为常数[13]。又因为该实验在黑暗环境下进行,环境光可忽略不计,所以上式可以简化为:
由公式(2)可知捕获的图像强度主要取决于曝光时间t,想要获取高质量的图像,需选择合适的曝光时间。假设topt为相机的最佳曝光时间,Iideal为理想拍摄强度,代入公式(2)可得:
通常情况下,对于8 bit的图像,Iideal设为254[14],这个值可以保证条纹图具有高信噪比的同时避免了相机传感器饱和现象的发生。由公式(3)可知只要求出sαIp,便可得出最佳曝光时间topt,因此,通过引入一个初始曝光时间
将公式(3)与公式(4)联立可得:
在初始曝光时间t0下拍摄图像I0的直方图如图2所示。
图2中,横轴代表I0的灰度值,纵轴代表相应灰度值的像素数,阴影区域代表I0的整个变化范围。通过该方法将整个大的范围进一步划分为由I0小范围变化形成的几个集群,如图2所示,每个集群由一个波峰和两个波谷来区分,沿着I0的正方向,从1~m标记集群,m是确定集群的总数,由于同一集群内的像素具有相同的反射率,所以在单个集群中只需单次曝光。为了计算一个能够完全覆盖整个集群的曝光时间,选择每个集群右侧谷底对应的I0值来计算曝光时间。所以对于高动态范围表面物体,根据表面反射率的不同,可以计算出m个最佳曝光时间
1.2 图像融合
对于低动态范围表面物体,单次曝光可以提供足够的曝光量[15],但对于高动态范围表面物体,单次曝光难以获得高质量的条纹图。多曝光融合技术通过多次曝光将条纹图进行融合,可以有效提高条纹图的清晰度,进而提高相位测量的精度[16]。传统多曝光融合方法获得的条纹图虽然去除了过曝点,但条纹图的整体质量依然不高。所以文中在传统的多曝光融合的方法上进行改进,具体流程如下:通过自适应曝光方法得出的m个最佳曝光时间topt,投影仪按照曝光时间顺序向物体投射纯白图像,将相机拍摄的图像依次存入序列I中,同样按照曝光时间顺序在每个最佳曝光时间topt下采集4幅相移为π/2的光栅条纹图像,将拍摄的图像存入序列J中。对于序列I和序列J中的图像通过百分比的方式进行阈值预处理,具体的操作为首先将灰度图归一化,选择一个合适的百分比值,例如百分比值设置为95%,表示图像灰度级范围95%的灰度值作为阈值,接着将这个百分比值转换为像素值。如果图像的灰度级范围为0~255,则95%的像素点的灰度值为0.95×255=242.25,最后将此灰度值作为阈值,大于这个阈值的像素点灰度值将被截断到指定阈值threshold。
对序列I和序列J中的图像进行阈值预处理后,将序列I中的图像制作成掩模图,定义掩模图序列为M,计算公式如公式(6)所示:
式中:
将掩模图像序列M与条纹图序列J依次相乘,定义G为合成的条纹图序列,可得:
式中:
为了防止下一步图像融合的时候图像出现新的饱和区域,文中使用亮度压缩的方法将灰度值范围缩小到相同的范围得到序列F,用公式可表示为:
式中:
用T表示融合后的光栅图像,坐标点(x,y)处的灰度值T(x,y)计算公式如下:
最后对融合后的图像T采用CLAHE算法提高条纹图的对比度和清晰度。
1.3 相位解算
相移法是一种通过投影若干幅具有一定常量相位差的光栅条纹图像来求解相位场的方法,所以又被称为相位测量术[17],文中采用四步相移法求解相位主值,需投射4幅条纹图,则每幅条纹图的灰度分布为:
由公式(10)可知四步相移中相邻的两个光栅条纹图像的相位差为π/2,此时的相位主值提取的公式为:
此时,求出的相位主值由于反正切函数的性质使得相位值被包裹在[0,2π]之间[18],需要对包裹的相位进行展开。解包裹相位的方法包括格雷码法、傅里叶法、双频外差法等[19]。传统的格雷码法解相位可能会因为投影仪和相机畸变效应等原因,在包裹相位的边缘处可能会发生跳变,所以文中使用互补格雷码进行解相。互补格雷码如图3所示引入一张5位格雷码,与4位格雷码形成互补[20]。互补格雷码的原理如图4所示。
互补格雷码的计算如下式所示:
式中:k1为4张格雷码图使用传统解相方法获得;k2为全部5张格雷码图进行解相获得,最后求得的
2 实验过程与分析
测量系统由DLP投影设备和Congex工业相机组成,系统采用四步相移和互补格雷码的方法进行测量,共需投射4幅相移图和5幅格雷码图以及一张投射白光图。
选取标准块作为被测物,设置初始曝光时间t0为18 ms时,图像直方图呈现规律的集群分布,为了观察明显,将t0取18 ms时图像的直方图划分30等分如图5所示。
由图5可知,图像的直方图有4个明显的集群,将每个集群右侧谷底的I0值以及t0值代入公式(5)求得的最佳曝光时间topt依次为:18.57、23.63、30.59、74.28 ms。同时根据经验设置的第一组曝光时间为20、40、60、80 ms;第二组曝光时间为10、20、30、60 ms,不同曝光时间下融合的条纹图如图6所示。
图 6. 不同曝光时间融合的条纹图。(a)第一组曝光;(b)第二组曝光;(c)自适应曝光
Fig. 6. Fringe patterns fused with different exposure times. (a) First group exposure; (b) Second group exposure; (c) Adaptive exposure
通过图6的对比可以看出,手动曝光第一组融合的条纹图仍然存在过曝点;手动曝光第二组融合的条纹图虽然没有过曝点,但条纹图整体偏暗,光栅条纹不清晰;自适应曝光融合的条纹图没有过曝点且条纹图的整体清晰度较好。通过以上对比可知,自适应曝光避免了设置曝光时间全凭操作者经验的问题,同时提高了曝光精度。
同时文中选取U型卡,连接块和圆盘作为高动态范围表面测量物体,对其进行三维轮廓检测。被测物的各参数值如表1所示,表中的阈值百分比和亮度压缩系数通过多组实验对比择优选出。
表 1. 被测物体各参数值
Table 1. The parameter values of the tested object
|
实验分别采用投影栅相位法、文献[11]方法、文中方法对样件进行测量,其中投影栅相位法通过单次曝光的方法获得条纹图,文献[11]和文中通过多曝光融合的方法获得条纹图,文献[11]和文中选取相同的曝光时间,图7~图9分别为通过投影栅相位法,文献[11]方法和文中方法得到的3个被测物相同周期内的条纹图。
图 7. U型卡在不同方法下的条纹图像。(a)投影栅相位法;(b)文献[11]方法;(c) 文中方法
Fig. 7. Fringe image of U-card in different methods. (a) Projection phase method; (b) Methods of Ref.[11]; (c) Proposed method
图 8. 连接块在不同方法下的条纹图像。(a)投影栅相位法;(b)文献[11]方法;(c)文中方法
Fig. 8. Fringe image of connection block in different methods. (a) Projection phase method; (b) Methods of Ref.[11]; (c) Proposed method
图 9. 圆盘在不同方法下的条纹图像。(a)投影栅相位法;(b)文献[11]方法;(c)文中方法
Fig. 9. Fringe image of disc in different methods. (a) Projection phase method; (b) Methods of Ref.[11]; (c) Proposed method
投影栅相位法因为单次曝光的原因,在测量高动态范围物体时,拍摄的条纹图部分区域过亮或过暗;文献[11]方法在图像融合过程中进行像素值替换,但对于某块区域图像质量整体偏差的情况,获得的条纹图质量依然较差。文中的方法对于过亮区域和过暗区域都进行了优化,融合后的条纹图没有过亮和过暗的区域,且条纹图的整体质量良好。
将条纹图经过相位解算和参数标定后,得到被测物的三维点云图,如图10~图12所示。
图 10. U型卡在不同方法下的点云图像。(a)投影栅相位法;(b)文献[11]方法;(c)文中方法
Fig. 10. Point cloud image of U-card in different methods. (a) Projection phase method; (b) Methods of Ref.[11]; (c) Proposed method
图 11. 连接块在不同方法下的点云图像。(a)投影栅相位法;(b)文献[11]方法;(c)文中方法
Fig. 11. Point cloud image of U-card in different methods. (a) Projection phase method; (b) Methods of Ref.[11]; (c) Proposed method
图 12. 圆盘在不同方法下的点云图像。(a)投影栅相位法;(b)文献[11]方法;(c)文中方法
Fig. 12. Point cloud image of disc in different methods. (a) Projection phase method; (b) Methods of Ref.[11]; (c) Proposed method
通过点云图对比可以看出,投影栅相位法在测量高反光物体时,因为单次曝光的局限性,从而导致点云图缺失严重。文献[11]方法对于部分饱和区域有一定的修补效果,但如果饱和区域过大,得到的点云图仍然会有缺失的现象。文中的方法提高了条纹图的整体质量,得到的点云图无明显缺失,整体较好。
在3个被测物的表面喷一层显像剂,使之呈现漫反射特性,将喷显像剂三维重建的点云数设置为基准数。U型卡、连接块、圆盘在投影栅相位法、文献[11]方法和文中方法测出的三维点云数、重建率如图13所示。
从图13可知,文中方法测出的点云数与喷显像剂法测出的三维点云数相近,且重建率分别达到了99.88%、99.75%、99.76%,说明文中方法可以有效解决测量高动态范围表面物体三维点云缺失的问题。
图 13. 不同方法下测出的三维点云数和重建率。(a) U型卡;(b)连接块;(c)圆盘
Fig. 13. The number and reconstruction rate of 3D point clouds measured using different methods. (a) U-card; (b) Connection block; (c) Disc
文中方法在解决三维点云缺失问题的同时,也进一步提高了测量精度。为验证文中方法的测量精度,选用具有高动态范围表面的标准块阶梯进行测量,并与投影栅相位法和文献[11]方法进行对比。标准量块的高度差为9 mm,精度等级为0级。将其堆叠成图14(a)所示的阶梯状,并重建形成三维点云,通过设置半径滤波的相邻点和阈值去除点云图中杂乱点,使用Geomagic Wrap软件将经滤波处理后的点云进行封装,并对封装图的上下两个平面进行拟合,拟合平面之间的垂直距离即为标准量块的高度差。使用不同方法测量的高度差结果如表2所示。采用文中方法测量得出的标准块阶梯三维点云封装图以及标准块阶梯上下两个表面的高度差如图14(b)和图14(c)所示。
图 14. 标准块阶梯高度差测量。(a)标准块阶梯实物图;(b)标准块阶梯三维点云封装图;(c)高度差测量结果
Fig. 14. Standard block step height measurement. (a) Standard block ladder physical diagram; (b) Standard block ladder 3D point cloud encapsulation diagram; (c) Height difference measurement results
表 2. 不同方法测量标准块阶梯误差对比分析
Table 2. Comparative analysis of step error in measuring standard blocks using different methods
|
通过表2可知,投影栅相位法和文献[11]方法测出的高度差绝对误差分别为0.174 mm和0.124 mm,相对误差分别为1.93%和1.40%,而文中方法测出的高度差绝对误差和相对误差仅为0.062 mm和0.69%,说明了文中方法可以有效提高高动态范围表面物体的测量精度。
3 结 论
针对高动态范围表面物体三维轮廓检测失效的问题,文中提出了一种改进的多曝光融合方法,利用自适应曝光取代手动曝光,同时在图像融合的过程中通过设定阈值、亮度压缩以及使用CLAHE算法等方法提高条纹图的对比度和清晰度。实验结果表明:自适应曝光相较于手动曝光具有高效性和准确性,对不同的高动态范围表面物体点云重建率均在99.75%以上,测量出的标准块阶梯高度差绝对误差和相对误差仅为0.062 mm和0.69%,有效解决了检测高动态范围表面物体三维点云缺失的问题,提高了测量效率和三维轮廓测量的精度。
[1] 殷永凯, 张宗华, 刘晓利, et al. 条纹投影轮廓术系统模型与标定综述[J]. 红外与激光工程, 2020, 49(3): 0303008.
[3] 刘佳, 路长秋, 文杰, et al. 基于二进制编码条纹的三维测量方法[J]. 光学学报, 2023, 43(1): 0112004.
[4] Gorthi S S, Rastogi P. Fringe projection techniques: Whither we are?[J]. Optics and Lasers in Engineering, 2010, 48: 133-140.
[5] 任明阳, 王立忠, 赵建博, et al. 复杂曲面零件面结构光扫描视点规划[J]. 中国光学(中英文), 2023, 16(1): 113-126.
[6] 刘飞, 李佳鑫, 赖俊霖, et al. 基于多频外差的全频解相方法[J]. 激光与光电子学进展, 2019, 56(1): 011202.
[9] 李兆杰, 崔海华, 刘长毅, et al. 一种基于自动多次曝光面结构光的形貌测量方法[J]. 光学学报, 2018, 38(11): 1112004.
[10] 姜宏志, 赵慧洁, 李旭东, et al. 用于强反射表面形貌测量的投影栅相位法[J]. 光学精密工程, 2010, 18(9): 2002-2008.
[11] 薛峰, 陈龙, 张峰峰. 基于结构光的强反射表面三维重建方法研究[J]. 哈尔滨理工大学学报, 2021, 26(5): 18-24.
Xue Feng, Chen Long, Zhang Fengfeng. Research on 3D reconstruction of strongly reflected surface based on structured light[J]. Journal of Harbin University of Science and Technology, 2021, 26(5): 18-24.
[12] 张宗华, 于瑾, 高楠, et al. 高反光表面三维形貌测量技术[J]. 红外与激光工程, 2020, 49(3): 0303006.
[13] 付轶帆, 吴剑, 何宏辉. 偏振成像系统中的面阵CMOS传感器非线性校正[J]. 红外与激光工程, 2016, 45(6): 0633001.
[15] 王永红, 张倩, 胡寅, et al. 显微条纹投影小视场三维表面成像技术综述[J]. 中国光学, 2021, 14(3): 447-457.
[16] 杨洪飞, 夏晖, 陈忻, et al. 图像融合在空间目标三维重建中的应用[J]. 红外与激光工程, 2018, 47(9): 0926002.
[17] 朱新军, 侯林鹏, 宋丽梅, et al. 基于虚拟双目的条纹结构光三维重建[J]. 红外与激光工程, 2022, 51(11): 20210955.
[18] 张莲涛, 卢荣胜, 程子怡. 基于相移偏折法的高反射表面面形测量技术[J]. 光子学报, 2020, 49(1): 0112002.
[20] 张启灿, 吴周杰. 基于格雷码图案投影的结构光三维成像技术[J]. 红外与激光工程, 2020, 49(3): 0303004.
雷经发, 谢浩然, 李永玲, 吴东, 张淼, 赵汝海. 基于自适应多曝光融合的高动态范围表面测量方法[J]. 红外与激光工程, 2024, 53(1): 20230370. Jingfa Lei, Haoran Xie, Yongling Li, Dong Wu, Miao Zhang, Ruhai Zhao. High dynamic range surface measurement method based on adaptive multi-exposure fusion[J]. Infrared and Laser Engineering, 2024, 53(1): 20230370.