基于线结构光扫描的复杂曲面焊缝检测 下载: 584次
1 引 言
目前,对复杂曲面焊接区域的打磨几乎完全依靠有经验的钳工手工作业。打磨过程中,工人需要观察被打磨区域的位置及形状,实时调整打磨头的姿态、位置[1]以及施加力的大小,效率低且质量一致性较差[2];此外打磨时火花四溅,导致现场作业环境十分恶劣,对工人的身体健康会造成一定影响。基于现有打磨工艺的打磨机器人视觉识别任务就是自动对数据进行采集分析,找到焊缝区域的起始与终止位置。这是自动打磨的第一步,对打磨工艺起着不可或缺的作用。焊缝位置定位主要分为示教和视觉引导两种方式。视觉引导定位可根据实际的焊缝形状特征自动调节实现定位[3],在柔性制造及智能制造中起到关键作用,是一种非常有发展前景的定位方法。
基于视觉的引导定位方法中,方艳等[4]利用缺陷边界特征生成初始缺陷边界,进而对初始缺陷边界不连续、多分支、锯齿状等特点进行分析,得到高精度破损零件的缺陷边界。朱振友等[5]使用模板匹配方法寻找焊缝的起始点,但该方法精度较低且对模板的依赖性强。Lü等[6]基于最小二乘法的斜率分析法检测焊缝坡口图像的特征,并根据提取的特征点计算焊缝的尺寸信息。Geng等[7]在解决检测焊接螺柱问题时设计了自适应阈值计算二值图像,然后利用骨架线提取算法和形态学滤波法提取图像,但该算法仅适用于有特定结构的图像特征提取。陈海永等[8]利用边缘检测及霍夫变换得到焊接点圆形的感兴趣区域,然后将像素值较高的白色区域作为寻找的焊接点,降低了算法对光照等外部干扰的影响,鲁棒性较强。Qi等[9]先通过8连接区域处理方法标记焊接区域,然后提取周长、面积及圆度等参数特征提高焊接区域的辨识度。郭吉昌等[10]采用极大值抑制方式提取熔池边界,实现宽度测量,可适用于线特征的定位。Metwally等[11]通过计算拓扑能量的方式突显出焊缝缺陷位置,增强了图像对比效果。刘子腾等[12]通过分段拟合直线求交点的方法寻找焊缝位置,可适用于直线或平面相交的焊缝形状,但不适用于不规则曲线,原因是不规则曲线的拟合比较复杂,且两曲线的交点不突出。邹焱飚等[13]结合深度卷积神经网络(CNN)研究了基于深度分层特征的焊缝检测和跟踪系统,从被噪声污染的时序图中确定焊缝位置。杨雪君等[14]利用灰度值突变定位V型焊缝上部的两个拐点,然后在这两点间拟合直线,并通过寻找交点的方式找到特征点。这种方式可去掉干扰点,大大提高特征点的提取精度。Li等[15]利用序列重力法(SGM)提取更平滑的焊缝中心线,可减少干扰的影响,增强算法的提取精度。Zhu等[16]通过熔池图像轮廓的尖端找到坡口间隙的中心,并利用导线轮廓中心坐标与熔池图像轮廓尖端坐标之间的水平距离估计焊接偏差。
现有研究成果大多根据点、线或规则形状焊缝本身的几何属性进行识别,不能满足工业领域对复杂曲面焊缝进行打磨的要求。近年来,针对复杂曲面的测量研究日益增多,如复杂曲面的表面动态测量修复[17-18]。本文从焊缝表面的纹理特征出发,结合实际工艺要求,针对不规则曲面提出了一种鲁棒性强、精度高的识别算法及深度图像增强算子,可实现曲面焊缝区域的识别及深度图像的特征表达效果。
2 问题描述
3 算法原理
需要打磨的位置位于耳板末端,线结构光扫描仪扫描得到的是工件表面的三维点云数据。从耳板的实物图及设计图可知,耳板表面模型在焊接前是光滑(数学定义)连续曲面。焊接后,焊接区域会变得凹凸不平,表面特征与未焊接表面有明显差异。表面点云模型如
文献[4-5,12]在识别、检测线形焊缝时利用斜率突变特征找到焊缝的起始位置与终止位置。检测曲面上的打磨区域时,斜面某点的曲率半径与该点切平面的法向量共线。从微分角度考虑,当曲面分割得足够小时,微分的微小曲面就是该点的切平面。因此,可将曲率突变法扩展至三维空间中。曲面上某点曲率的变化量与其法向量的夹角变化量成正比,为了简化运算,可利用法向量的夹角将曲率突变法(算法1)和本算法(算法2)进行对比分析。
3.1 算法1
根据工件表面曲率突变信息寻找焊缝区域的算法步骤:1)数据预处理;2)滤波;3)降采样;4)分割出耳板点云并将其沿耳板宽度方向切片;5)平面拟合各切片并求出拟合后平面的法向量;6)计算相连两个切片法向量的夹角;7)根据两个法向量夹角的突变位置判断焊缝的起始和终止位置;8)根据具体的打磨工艺,输出机器人所需的位置点。
3.2 算法2
工件表面及耳板表面均为相对平滑的金属表面,但焊接工艺会导致焊缝所在的局部区域形成斑点或凹凸不平的曲面,可通过表面的平滑程度定位焊缝的起始和终止位置。数据的标准差可表示数据的波动程度,因此,利用车间使用的线结构光扫描仪得到焊缝表面的高度信息,从而计算耳板的表面平滑程度,标准差越大,表明表面越不平滑。
为了验证本算法的可行性及工件表面的实际粗糙情况,设计了一种增强显示深度图表面平滑特征的算子,以处理原始扫描仪生成的深度图(像素的强度值为工件表面的高度)。实验证明该算子的效果很好,不仅能凸显出工件表面的特征,还能展现工件表面的纹理信息。
3.2.1 算子的处理过程
1) 对原始图像中的异常值进行判断
被测量表面的一些特性及线结构光的特性会导致扫描不到某些点,从而出现异常值。因此需要先判断是否存在异常值,若存在,则对异常值进行标记。
2) 明确异常值的处理方式后,对图像进行处理。若图像的尺寸为M×N,首先通过在图像周围增加一层像素值为0的像素或在边界补充临近值的方式补充边界,将图像的长和宽各增加1 pixel,新图像的尺寸为(M+2)×(N+2)。然后从原始图像的第1个元素开始,在以该像素为中心的9宫格内,用中心像素值分别减去周围8个点的像素值,取绝对值之和作为中心元素的新像素值。从左到右、从上到下依次遍历整幅图像,9宫格每次的滑动步长为1 pixel。最后去除最外层边界,将图像恢复为原始尺寸M×N。
3) 设置合适的阈值,保留需要的纹理特征。从原理上看,经增强算子处理的图像中灰度越大(越暗),表明表面越光滑;相反,灰度越小(越亮),表明表面越凹凸。
图 5. 增强算子的效果图。(a)原始图像;(b)增强算子处理后的图像
Fig. 5. Effect diagram of the enhancement operator. (a) Original image; (b) image obtained after enhancement operator processing
3.2.2 利用表面特征设计算法
1) 滤波及异常值的处理:为了去除异常值对数据的影响,需考虑到数据的标准差,可表示为
式中,
令异常值(扫描到的点)等于每行数据的平均值,实验证明,用平均值处理异常值的效果较好。同时用平均值代替异常值还可以避免某行大部分数据是异常值,从而减少部分数据的波动带来的影响。
2) 计算每行数据的标准差或方差:以行为单位依次计算每行高度数据的标准差或方差,并以此表征耳板表面的平滑程度。
3) 将步骤2)中得到的数据进行拟合,找到突变较大的位置。
4) 找到满足步骤3)的值并与现实工件进行转换,得到焊接区域的边界值。
4 算法实验及分析
4.1 算法1
算法1用4组样本以多个曲率进行分析,选取最优结果,实验结果如
图 6. 算法1的实验结果。(a)~(d)样本1~样本4
Fig. 6. Experimental results of the algorithm1. (a)‒(d) Sample1‒sample4
图 7. 不同样本的曲率。(a)~(d)样本1~样本4
Fig. 7. Curvature of different samples. (a)‒(d) Sample1‒sample4
综上所述,算法1在处理点云数据时鲁棒性较差且与切片的大小有十分密切的关系。理论上讲,切片越小,将发生突变的两个曲面交线作为要寻找的线越准确。但实际情况下,焊接区域并不光滑,曲面曲率的特征突变会被焊接区域的凹凸不平掩盖。切片如果较大,则会产生较大的误差。
4.2 算法2
图 8. 算法2的实验结果。(a)~(d)样本1~样本4
Fig. 8. Experimental results of the algorithm2. (a)‒(d) Sample1‒sample4
图 9. 不同样本的标准差。(a)~(d)样本1~样本4
Fig. 9. Standard deviation of different samples. (a)‒(d) Sample1‒sample4
对比
5 现场打磨误差分析
实际车间进行打磨时,在打磨的起始位置和终止位置处寻找几个位点,设计打磨工艺,然后进行打磨。将识别出的点与实际位置的偏移量作为误差衡量值,结果如
表 1. 本算法的误差
Table 1. Error of our algorithm
|
6 结 论
提出了一种基于表面相对平滑度识别焊缝位置的算法,该算法在复杂焊接曲面上有很强的鲁棒性,同时可以满足打磨机器人工艺的像素级精度,包含测量误差在内,最大误差为10 pixel(每个像素的长度为0.1 mm)。相比传统算法,本算法综合考虑了曲面的特征,不仅对孤立的线与点进行分析,还提出了增强深度图像表面纹理特征的算子,很好地增强了图像的表面特征。还可作为对深度图像的基础性预处理,增强显示出焊接区域的表面纹理分布。本算法在缺失值的填充部分还存在不足,若采集到的数据在横向的缺失较大会影响最后的实验结果,接下来的工作可利用深度学习的数据拟合功能进行三维数据点的填充。
[1] 俞喆, 张金, 张训全, 等. 高速铁路钢轨廓形打磨质量评估方法及应用[J]. 中国铁道科学, 2020, 41(1): 25-30.
Yu Z, Zhang J, Zhang X Q, et al. Quality evaluation method and application of rail profile grinding of high speed railway[J]. China Railway Science, 2020, 41(1): 25-30.
[2] 许家忠, 郑学海, 周洵. 复合材料打磨机器人的主动柔顺控制[J]. 电机与控制学报, 2019, 23(12): 151-158.
Xu J Z, Zheng X H, Zhou X. Active and compliant control of the composite polishing robot[J]. Electric Machines and Control, 2019, 23(12): 151-158.
[4] 方艳, 杨洗陈. 激光再制造中缺陷识别关键技术研究[J]. 中国激光, 2012, 39(4): 0403001.
[5] 朱振友, 朴泳杰, 林涛, 等. 基于视觉的局部环境焊缝起始位置识别方法[J]. 焊接学报, 2004, 25(2): 95-98, 133.
Zhu Z Y, Piao Y J, Lin T, et al. Visual-based research on weld seam initial position recognition in local envieronment[J]. Transactions of the China Welding Institution, 2004, 25(2): 95-98, 133.
[6] Lü X, Gu D X, Wang Y D, et al. Feature extraction of welding seam image based on laser vision[J]. IEEE Sensors Journal, 2018, 18(11): 4715-4724.
[7] Geng L, Wang J, Wang W, et al. Welding studs detection based on line structured light[J]. Proceedings of SPIE, 2018, 10621: 106210Z.
[8] 陈海永, 方灶军, 徐德, 等. 基于视觉的薄钢板焊接机器人起始点识别与定位控制[J]. 机器人, 2013, 35(1): 90-97.
Chen H Y, Fang Z J, Xu D, et al. Vision based starting position recognition and positioning control for thin steel sheet welding robot[J]. Robot, 2013, 35(1): 90-97.
[9] Qi J Y, Li J Y. Feature extraction of welding defect based on machine vision[J]. China Welding, 2019, 28(1): 56-62.
[10] 郭吉昌, 朱志明, 于英飞, 等. 焊接领域激光结构光视觉传感技术的研究及应用[J]. 中国激光, 2017, 44(12): 1200001.
[11] Metwally K, Lubeigt E, Rakotonarivo S, et al. Weld inspection by focused adjoint method[J]. Ultrasonics, 2018, 83: 80-87.
[12] 刘子腾, 白瑞林, 王秀平. 基于激光视觉的角焊缝图像特征点提取[J]. 焊接学报, 2016, 37(2): 89-93, 133.
Liu Z T, Bai R L, Wang X P. Image feature extraction of fillet weld based on laser vision[J]. Transactions of the China Welding Institution, 2016, 37(2): 89-93, 133.
[13] 邹焱飚, 周卫林, 陈向志. 基于深度分层特征的激光视觉焊缝检测与跟踪系统研究[J]. 中国激光, 2017, 44(4): 0402009.
[14] 杨雪君, 许燕玲, 黄色吉, 等. 一种基于结构光的V型坡口焊缝特征点识别算法[J]. 上海交通大学学报, 2016, 50(10): 1573-1577.
Yang X J, Xu Y L, Huang S J, et al. A recognition algorithm for feature points of V-groove welds based on structured light[J]. Journal of Shanghai Jiao Tong University, 2016, 50(10): 1573-1577.
[15] Li X H, Li X D, Khyam M O, et al. Robust welding seam tracking and recognition[J]. IEEE Sensors Journal, 2017, 17(17): 5609-5617.
[16] Zhu Y J, Wu Z S, Li K, et al. Welding deviation detection method based on weld pool image contour features[J]. China Welding, 2019, 28(2): 35-44.
[17] 阴雷, 王向军, 秦贯宇. 基于视觉结构光的大型曲面动态测量方法[J]. 激光与光电子学进展, 2020, 57(13): 131202.
[18] 朱星星, 易定容, 叶一青, 等. 抗干扰并行物方差动轴向的高精度三维形貌测量[J]. 光学学报, 2020, 40(4): 0412001.
[19] 段朋, 田国会, 张伟. 服务空间中人的定位与跟踪[J]. 中国激光, 2014, 41(11): 1108007.
[20] 王永雄, 田永永, 李璇, 等. 穿越稠密障碍物的自适应动态窗口法[J]. 控制与决策, 2019, 34(5): 927-936.
Wang Y X, Tian Y Y, Li X, et al. Self-adaptive dynamic window approach in dense obstacles[J]. Control and Decision, 2019, 34(5): 927-936.
Article Outline
李朋超, 王金涛, 宋吉来, 王晓峰, 徐方. 基于线结构光扫描的复杂曲面焊缝检测[J]. 激光与光电子学进展, 2021, 58(3): 0312005. Li Pengchao, Wang Jintao, Song Jilai, Wang Xiaofeng, Xu Fang. Weld Recognition of Complex Curved Surface Based on Linear Structured Light Scanning[J]. Laser & Optoelectronics Progress, 2021, 58(3): 0312005.