运动模糊情况下的结构光光条中心快速提取 下载: 626次
1 引言
线结构光测量技术具有精度高和非接触等优点,被广泛应用于三维扫描和物料流量的快速测量中[1-2]。该测量技术通过相机采集投射到物体上的结构光光条图像并提取光条中心的二维坐标,进而利用三角测量原理计算被测物体的空间坐标。其中,结构光光条中心提取是测量过程中的关键,直接决定了测量的速度和精度[3]。在工业高速测量场景中,采集的结构光光条图像一般存在运动模糊干扰[4],如煤流流量测量场景中,激光线投射在高速运动的输煤传送带上,相机采集的光条图像是曝光时间内激光光条运动轨迹的叠加,从而产生运动模糊效应,且各区域的模糊程度不同[5],极大增加了光条中心提取的难度。缩短相机曝光时间可以降低模糊效应,但高速相机的成本昂贵,且通常情况下,帧率越高,相机的分辨率就越低,而低分辨率图像同样会影响光条中心的提取精度。针对具有一定规律的运动模糊图像,人们提出了诸多复原方法,但这些方法均难以适用于被测物体表面高度剧烈且毫无变化规律的情况[6]。
传统线结构光光条中心提取法有极值法、几何法、曲线拟合法、灰度重心算法等[7],这些方法简单高效,但提取精度有限,容易受噪声影响。因此,人们根据光条特征提出了方向模板法[8]、Steger算法[9]等,从原理上提高了算法的精度和鲁棒性,但这些算法存在计算复杂度高、运算速度慢的不足。为了提高光条中心提取算法的效率:Li等[10]采用蒙特卡罗方法对传统灰度重心算法计算的中心进行修正,以相对较低的计算代价获得高精度的光条中心点;李伟明等[11]结合阈值轮廓跟踪算法和灰度重心算法,避免了对整张图像进行搜索,大幅提高了光条中心提取的速度;何坚强等[12]用主成分分析法替代Hessian矩阵法并采用区域增长算法搜索光条像素区域,提取光条中心的速度是Steger算法的4倍。近年来,随着深度学习的发展,人们进一步提出了基于图卷积的光条中心提取算法,如郭雁蓉等[13]通过设计多尺度卷积网络不断优化算法的损失函数,得到平滑、完整的中心线。
上述算法大多假定光条成像稳定清晰,不能很好地处理光条图像发生运动模糊的情况,且运动模糊的光条截面像素灰度不再符合单一分布规律,这也增加了结构光光条中心的提取难度。针对这些问题,本文分析结构光光条运动模糊的成因和光条图像的灰度值分布发现,模糊光条亮度最大部分对应着曝光时间内运动方向上待测物体表面出现最多的高度。利用该结论将光条截面像素灰度值的峰值附近区域作为光条核心区域,提出了一种能在运动模糊情况下快速提取结构光光条中心的算法,以满足工业高速测量场景的需求。
2 光条运动模糊特性分析
在皮带传送工业场景中使用结构光测量技术时,将一定宽度的激光线投射到传送带上并对随传送带高速运动的物体进行扫描,同时由相机采集激光光条图像进行三维重建。该技术应用于煤流流量测量时,线激光通常垂直投射在煤流上,如
图 1. 煤流扫描系统的结构。(a)扫描场景;(b)光条图像
Fig. 1. Structure of coal flow scanning system. (a) Scanning scene; (b) light stripe image
2.1 光条图像的特点
为了便于从模型和实验两方面对光条的运动模糊进行对照分析,搭建了线结构光测量实验平台,实验平台如
图 3. 采集的光条图像。(a)静止物体表面E点的成像;(b)运动物体表面D、E点间的成像;(c)运动物体表面C、E点间的成像
Fig. 3. Light stripe image obtained by acquisition. (a) Imaging of point E on the surface of static object; (b) imaging between points D and E on the surface of moving objects; (c) imaging between points C and E on the surface of moving objects
2.2 光条图像运动模糊的原因分析
线激光可看作是一列激光点的集合,因此以单个激光点分析运动成像模糊的原因。激光点成像原理是相机感光元件在单次曝光中对激光点反射出的光强度时间积分成像[14]。对于
图 4. 光条成像模型。(a)运动方向无高度差;(b)运动方向存在高度差
Fig. 4. Light stripe imaging model. (a) There is no height difference in the movement direction; (b) there is a height difference in the movement direction
2.3 光条截面的灰度值分布特性
高斯激光线以一定宽度和亮度投射在物体表面,其光强理论上呈高斯分布[15]。对
图 5. 光条截面的灰度值分布。(a)平顶高斯分布;(b)多束高斯叠加分布
Fig. 5. Gray distribution of light stripe cross section pixel. (a) Flat-top Gaussian distribution; (b) multi-beam Gaussian superposition distribution
线激光器投射的激光条纹中心亮度最大,尽管成像的光条截面灰度值分布受相机曝光量和运动模糊的影响不再符合单一的高斯分布特点,但其峰值附近区域仍对应曝光时间内物体表面出现最多的高度位置。因此,通过提取峰值区域的光条中心并使用激光三角法可以得到曝光时间内出现频率最高的高度值。由于曝光时间内相机无法提取其他辅助信息,上述方法计算的高度值是现有技术条件下误差最小的方法。峰值附近区域可能出现平顶高斯分布与类高斯分布,不同的分布情况需使用不同的中心提取算法[16]。因此,将波峰部分是否饱和作为划分依据,将光条截面灰度值分布的峰值区域分成类高斯分布和平顶高斯分布两种类型,不饱和的波峰部分满足类高斯分布特点,饱和分布的波峰部分满足平顶高斯分布特点,为后续设计的光条中心位置提取算法提供了依据。
3 光条中心快速提取
基于对光条成像运动模糊的分析,设计了适用于运动模糊情况下的光条中心提取算法,具体流程如
图 6. 光条中心快速提取算法的流程图
Fig. 6. Flow chart of the fast extraction algorithm for the center of the light strip
3.1 图像预处理
高速运动场景下相机采集的不同区域结构光光条图像宽度不一,亮度无规则变化,无法使用全局阈值法分割光条区域,需要逐列分割出光条区域。因此,使用小窗口高斯滤波器平滑图像后基于光条理论成像像素宽度的P-tile阈值算法提取光条区域。
P-tile阈值法通过目标像素面积占图像像素面积的百分比p计算灰度阈值。根据实际场景与激光发射器的参数得到光条理论成像像素宽度
式中,
采用P-tile阈值法得到光条区域,光条的每一列像素宽度接近光条理论成像像素宽度
3.2 光条区域的快速定位
经过P-tile阈值处理后仍会残留少量亮斑干扰,通常亮斑的像素列数远小于组成光条线段的像素列数,通过设定像素宽度阈值
图 7. 光条区域快速定位算法的流程图
Fig. 7. Flow chart of the fast positioning algorithm in the light strip area
图 8. 定位光条区域的策略。(a)全图定位策略;(b)区域生长策略
Fig. 8. Strategies for locating light strip area . (a) Full-map localization strategy; (b) regional growth strategy
3.3 中心提取算法
平顶高斯分布的光条截面中多个相邻像素灰度值等于饱和值,而类高斯分布的光条截面灰度值只有极值可能等于饱和值,这为判断光条截面的灰度值分布类型提供了依据。将像素灰度值有两个及两个以上等于饱和值的光条截面设为平顶高斯分布,其余设为类高斯分布。为了快速准确提取峰值附近区域的光心,选择适当的峰值附近区域范围内的点进行计算是关键。
1)类高斯分布的提取算法
若某列光条截面灰度值分布的波峰区域为类高斯分布类型,为了减少光条运动叠加的影响,选择波峰极值点及其左右共三个点,采用灰度重心算法求解此列的光心。根据灰度重心算法计算的中心坐标为
式中:
2)平顶高斯分布的提取算法
若某列光条截面灰度分布的峰值附近区域为平顶高斯分布类型,由于饱和部分像素的实际灰度值大于饱和值,直接将饱和数值当作实际灰度值计算的中心坐标误差较大。此外,由于光条运动叠加的影响,距离峰值位置远的两侧非饱和像素对于光条中心求解不具有太高的指导价值。考虑到高速场景对于提取速度的要求,直接将光条截面灰度亮度峰值部分的中心作为光心[19]。
通过上述方法可提取到像素级精度的光条中心,但受运动模糊的影响,相邻光条线段会有纵向遮挡部分,提取到的光条中心在图像列上不唯一。因此,需要对比光条线段相互遮挡部分中心像素的平均亮度并删除平均亮度较低的部分。
4 实验与分析
按照
4.1 阈值分割算法的对比
为验证本算法中图像预处理方法对于运动模糊光条图像的处理效果,对
图 9. 不同阈值法的分割结果。(a)极值法;(b)大津法;(c)P-tile阈值法
Fig. 9. Segmentation results of different threshold methods. (a) Extreme value method; (b) Otsu method; (c) P-tile threshold method
4.2 提取结果对比
对于光条中心提取精度的分析并没有统一且明确的方法[20]。运动模糊图像的光条中心真值无法测得,即不能直接计算光条中心的标准误差,因此用激光三角法测量物体高度以反映光条中心提取方法引入的系统测量误差[21]。此外,静止光条中心位置和运动模糊光条较亮部分对应的高度一致,光条像素中心位置也相同,且静止情况下光质均匀、稳定,灰度重心算法可以获得较好的提取结果[22]。用灰度重心算法提取静止情况下
图 10. 不同算法的提取结果。(a)灰度重心算法对图3(a)的提取结果;(b)灰度重心算法对图3(c)的提取结果;(c)Steger算法对图3(c)的提取结果;(d)本算法对图3(c)的提取结果
Fig. 10. Extraction results of different algorithms. (a) Extraction results of Fig. 3 (a) by the gray-scale centroid algorithm; (b) extraction results of Fig. 3 (c) by the gray-scale centroid algorithm; (c) extraction results of Fig.3 (c) by the Steger algorithm; (d) extraction result of Fig. 3 (c) by our algorithm
为验证本算法的实时性,分别用三种算法对5张图像进行100次中心提取,并计算平均运行时间。
表 1. 不同算法的提取结果
Table 1. Extract results of different algorithms
|
为了克服实际情况下光条中心坐标未知的问题,制作光条中心坐标已知,尺寸为600 pixel×240 pixel、像素宽度为8 pixel的类高斯激光图像、平顶高斯激光线图像和多束高斯激光叠加图像,并加入均值为0、标准差
图 11. 不同分布模型的仿真图。(a)类高斯分布;(b)平顶高斯分布;(c)多束高斯叠加分布
Fig. 11. Simulation diagrams of different distribution models. (a) Gaussian-like distribution; (b) flat-topped Gaussian distribution; (c) multi-beam Gaussian superposition distribution
表 2. 不同算法的提取结果
Table 2. Extract results of different algorithms
|
4.3 工业煤流图像结构光中心的提取
为验证本算法在实际复杂工业场景的应用效果,使用高速工业场景中煤流扫描图像对本算法的运行速度和提取效果进行验证。实际煤流工业场景采集的图像尺寸为800 pixel×340 pixel,根据现场设备安装情况计算得到线激光理论成像像素宽度为4 pixel,p值为0.012,设置像素扫描间隔为5 pixel,提取结果如
图 12. 煤流表面线结构光中心提取结果
Fig. 12. Extraction results of linear structured light center on coal flow surface
图 13. 局部放大图。(a)皮带上的光条中心提取;(b)煤流上的光条中心提取
Fig. 13. Partial enlarged view. (a) Light strip center extraction on the belt; (b) light strip center extraction on the coal stream
5 结论
针对高速场景下线结构光成像发生运动模糊的问题,通过分析结构光成像特点和光条截面的灰度值分布,提出了一种基于光条截面灰度值分布的光条中心快速提取算法。实验结果表明,本算法能有效提取复杂运动模糊情况下的结构光光条中心,且实时性较高,为工业高速场景下可能遇到的运动模糊问题提供了分析方法和解决方案,这对于高速三维重建和物料流量检测等工业应用具有重要应用意义。但本算法目前还不能达到亚像素级检测精度,后续还需结合其他算法思想开展进一步的工作。
[1] 詹坤烽, 陈文建, 李武森, 等. 线激光三维场景重建系统及误差分析[J]. 中国激光, 2018, 45(12): 1204004.
[2] 王雪嵩, 邵双运, 苏晓东, 等. 基于双目线结构光的承轨台测量[J]. 激光与光电子学进展, 2020, 57(21): 211202.
[3] Zhang Y, Liu W, Li X D, et al. Accuracy improvement in laser stripe extraction for large-scale triangulation scanning measurement system[J]. Optical Engineering, 2015, 54(10): 105108.
[4] 鄢化彪, 黄绿娥, 王鹏. 高速运动的轨道图像去模糊[J]. 铁道学报, 2019, 41(12): 75-80.
Yan H B, Huang L E, Wang P. Motion deblurring from fast railway images[J]. Journal of the China Railway Society, 2019, 41(12): 75-80.
[5] 沈飞鹏, 朱彤, 张赫男, 等. 基于显著性目标分类的无参考模糊图像质量评价[J]. 激光与光电子学进展, 2021, 58(22): 2210015.
[6] 孙小桐. 基于常见模糊类型的图像复原技术方法研究[D]. 长春: 长春工业大学, 2019.
SunX T. Research on image restoration techniques based on common fuzzy types[D]. Changchun: Changchun University of Technology, 2019.
[7] 冀振燕, 宋晓军, 付文杰, 等. 激光光条中心线提取研究综述[J]. 测控技术, 2021, 40(6): 1-8.
Ji Z Y, Song X J, Fu W J, et al. Review on centerline extraction for laser stripe[J]. Measurement & Control Technology, 2021, 40(6): 1-8.
[8] 王泽浩, 张中炜. 自适应方向模板线结构光条纹中心提取方法[J]. 激光杂志, 2017, 38(1): 60-64.
Wang Z H, Zhang Z W. Adaptive direction template method to extract the center of structured light[J]. Laser Journal, 2017, 38(1): 60-64.
[9] Steger C. An unbiased detector of curvilinear structures[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1998, 20(2): 113-125.
[10] Li Y H, Zhou J B, Huang F S, et al. Sub-pixel extraction of laser stripe center using an improved gray-gravity method[J]. Sensors, 2017, 17(4): 814.
[11] 李伟明, 彭国, 高兴宇, 等. 线激光光条中心快速提取算法[J]. 中国激光, 2020, 47(3): 0304002.
[12] 何坚强, 侯建成, 汪志成. 基于主成分分析和区域增长的结构光中心线提取[J]. 科学技术与工程, 2020, 20(12): 4793-4797.
He J Q, Hou J C, Wang Z C. Structured light center line extraction based on principal component analysis and region growth[J]. Science Technology and Engineering, 2020, 20(12): 4793-4797.
[13] 郭雁蓉, 杨剑, 宋文爱, 等. 复杂环境中的线结构光中心提取方法[J]. 计算机工程与设计, 2019, 40(4): 1133-1138, 1144.
Guo Y R, Yang J, Song W A, et al. Method for extracting line structured light center in complex environment[J]. Computer Engineering and Design, 2019, 40(4): 1133-1138, 1144.
[14] 叶晓杰, 崔光茫, 于快快, 等. 结合编码曝光和运动先验信息的局部模糊图像复原[J]. 浙江大学学报(工学版), 2020, 54(2): 320-330, 339.
Ye X J, Cui G M, Yu K K, et al. Restoration of local blurred images based on coded exposure and motion prior information[J]. Journal of Zhejiang University (Engineering Science), 2020, 54(2): 320-330, 339.
[15] 叶大华. 高斯光束特性分析及其应用[J]. 激光技术, 2019, 43(1): 142-146.
[16] Shi X Q, Sun Y Z, Liu H T, et al. Research on laser stripe characteristics and center extraction algorithm for desktop laser scanner[J]. SN Applied Sciences, 2021, 3(3): 1-12.
[17] 张永杰, 殷园, 侯向丹, 等. P-tile与直方图模糊C-均值聚类相结合的路面图像阈值分割[J]. 计算机工程与科学, 2008, 30(10): 27-29, 32.
Zhang Y J, Yin Y, Hou X D, et al. Threshold segmentation of road images based on the combination of P-tile and histogram-based fuzzy C-means clustering[J]. Computer Engineering & Science, 2008, 30(10): 27-29, 32.
[18] 刘涛, 王宗义, 于秀辉, 等. 基于自适应窗曲线拟合的结构光条纹中心提取[J]. 半导体光电, 2010, 31(1): 151-154.
Liu T, Wang Z Y, Yu X H, et al. Curve fitting method based on adaptive window for center extracting of structured light stripe[J]. Semiconductor Optoelectronics, 2010, 31(1): 151-154.
[19] 韩洁, 刘亚文. 线结构光光条中心提取的变阈值分割算法[J]. 测绘地理信息, 2020, 45(3): 20-23.
Han J, Liu Y W. Multi-threshold segmentation for center extraction of structured light stripe[J]. Journal of Geomatics, 2020, 45(3): 20-23.
[20] 孙晓明. 基于结构光的公路路面裂缝检测关键技术研究[D]. 哈尔滨: 哈尔滨工业大学, 2012.
SunX M. Research on key technologies of pavement crack inspection based on structure light[D]. Harbin: Harbin Institute of Technology, 2012.
[21] 邓世祥, 吕彦明, 王康, 等. 线激光测量点云数据误差的预测与补偿[J]. 激光与光电子学进展, 2020, 59(16): 1628005.
Deng S X, Lü Y M, Wang K, et al. Prediction and compensation of point cloud data error in line laser measurement[J]. Laser & Optoelectronics Progress, 2020, 59(16): 1628005.
[22] 周渊, 孟祥群, 江登表, 等. 复杂干扰情况下的结构光条纹中心提取方法[J]. 中国激光, 2020, 47(12): 1204004.
[23] 刘宁, 卢荣胜, 夏瑞雪, 等. 一种用于计算三维视觉测量中线结构光平面的新型算法[J]. 光子学报, 2012, 41(2): 179-184.
Article Outline
张倩, 张坤, 朱美强, 李海港, 王军. 运动模糊情况下的结构光光条中心快速提取[J]. 激光与光电子学进展, 2023, 60(1): 0112002. Qian Zhang, Kun Zhang, Meiqiang Zhu, Haigang Li, Jun Wang. Fast Extraction of Structure Light Strip Center Under Motion Blur[J]. Laser & Optoelectronics Progress, 2023, 60(1): 0112002.