激光与光电子学进展, 2021, 58 (3): 0312005, 网络出版: 2021-03-12  

基于线结构光扫描的复杂曲面焊缝检测 下载: 584次

Weld Recognition of Complex Curved Surface Based on Linear Structured Light Scanning
李朋超 1,2,3王金涛 1,2,4,*宋吉来 1,4王晓峰 4徐方 1,2,4
作者单位
1 中国科学院沈阳自动化研究所机器人学国家重点实验室,辽宁 沈阳 110016
2 中国科学院机器人与智能制造创新研究院,辽宁 沈阳 110169
3 中国科学院大学,北京 100049
4 沈阳新松机器人自动化股份有限公司,辽宁 沈阳 110168
摘要
针对机器人自适应打磨曲面焊接区域的识别问题,提出了一种基于线结构光的打磨机器人自动识别起始点与终止点的算法和一种深度图像增强算子。增强算子将中心像素与8邻域内像素强度差的绝对值和作为中心像素值,以增强深度图像的可视化特征和打磨区域的纹理特征。首先,对点云数据进行滤波和空洞填充处理;然后,计算每一扫描行点云在高度方向的标准差;最后,对所得特征进行识别,找到一定范围内特征变化较大的位置,从而提取出打磨区域。实验结果表明,该增强算子对深度图像的增强效果极佳,本算法对起始与终止位置的识别精度均值小于1 mm,可达到像素级精度,具有较强的鲁棒性,且对噪声不敏感。在现场打磨测试中也证实了本算法的有效性和可行性。
Abstract
Aiming at the recognition problem of robot adaptive grinding curved surface welding area, an algorithm based on linear structured light for automatic recognition of starting and ending points of grinding robot and a depth image enhancement operator are proposed in this work. The enhancement operator takes the sum of the absolute value of the intensity difference between the center pixel and the pixels in the 8 neighboring regions as the value of the center pixel to enhance the visualization features of the depth image and reveal the texture features of the polished area. First, the point cloud data is filtered and the hole filling is processed; second, the standard deviation of each scan line point cloud in the height direction is calculated; finally, the obtained features are identified to find the position with large feature change in a certain range, so as to extract the area that needs grinding. Experimental results show that the enhancement operator has excellent effect on depth image enhancement, and the average recognition accuracy of the algorithm for the start and end positions is less than 1 mm, which can achieve pixel level accuracy, and has strong robustness and is insensitive to noise. The effectiveness and feasibility of the algorithm are also verified in the field test.

1 引  言

目前,对复杂曲面焊接区域的打磨几乎完全依靠有经验的钳工手工作业。打磨过程中,工人需要观察被打磨区域的位置及形状,实时调整打磨头的姿态、位置1以及施加力的大小,效率低且质量一致性较差2;此外打磨时火花四溅,导致现场作业环境十分恶劣,对工人的身体健康会造成一定影响。基于现有打磨工艺的打磨机器人视觉识别任务就是自动对数据进行采集分析,找到焊缝区域的起始与终止位置。这是自动打磨的第一步,对打磨工艺起着不可或缺的作用。焊缝位置定位主要分为示教和视觉引导两种方式。视觉引导定位可根据实际的焊缝形状特征自动调节实现定位3,在柔性制造及智能制造中起到关键作用,是一种非常有发展前景的定位方法。

基于视觉的引导定位方法中,方艳等4利用缺陷边界特征生成初始缺陷边界,进而对初始缺陷边界不连续、多分支、锯齿状等特点进行分析,得到高精度破损零件的缺陷边界。朱振友等5使用模板匹配方法寻找焊缝的起始点,但该方法精度较低且对模板的依赖性强。Lü等6基于最小二乘法的斜率分析法检测焊缝坡口图像的特征,并根据提取的特征点计算焊缝的尺寸信息。Geng等7在解决检测焊接螺柱问题时设计了自适应阈值计算二值图像,然后利用骨架线提取算法和形态学滤波法提取图像,但该算法仅适用于有特定结构的图像特征提取。陈海永等8利用边缘检测及霍夫变换得到焊接点圆形的感兴趣区域,然后将像素值较高的白色区域作为寻找的焊接点,降低了算法对光照等外部干扰的影响,鲁棒性较强。Qi等9先通过8连接区域处理方法标记焊接区域,然后提取周长、面积及圆度等参数特征提高焊接区域的辨识度。郭吉昌等10采用极大值抑制方式提取熔池边界,实现宽度测量,可适用于线特征的定位。Metwally等11通过计算拓扑能量的方式突显出焊缝缺陷位置,增强了图像对比效果。刘子腾等12通过分段拟合直线求交点的方法寻找焊缝位置,可适用于直线或平面相交的焊缝形状,但不适用于不规则曲线,原因是不规则曲线的拟合比较复杂,且两曲线的交点不突出。邹焱飚等13结合深度卷积神经网络(CNN)研究了基于深度分层特征的焊缝检测和跟踪系统,从被噪声污染的时序图中确定焊缝位置。杨雪君等14利用灰度值突变定位V型焊缝上部的两个拐点,然后在这两点间拟合直线,并通过寻找交点的方式找到特征点。这种方式可去掉干扰点,大大提高特征点的提取精度。Li等15利用序列重力法(SGM)提取更平滑的焊缝中心线,可减少干扰的影响,增强算法的提取精度。Zhu等16通过熔池图像轮廓的尖端找到坡口间隙的中心,并利用导线轮廓中心坐标与熔池图像轮廓尖端坐标之间的水平距离估计焊接偏差。

现有研究成果大多根据点、线或规则形状焊缝本身的几何属性进行识别,不能满足工业领域对复杂曲面焊缝进行打磨的要求。近年来,针对复杂曲面的测量研究日益增多,如复杂曲面的表面动态测量修复17-18。本文从焊缝表面的纹理特征出发,结合实际工艺要求,针对不规则曲面提出了一种鲁棒性强、精度高的识别算法及深度图像增强算子,可实现曲面焊缝区域的识别及深度图像的特征表达效果。

2 问题描述

图1为需要进行打磨的工件(workpiece),耳板的末端与工件本体通过焊接工艺连接在一起。焊接完成后,需要将焊接表面(target area)打磨成与耳板表面圆滑过渡的区域。图1主要展现的是工件焊接后的表面特征,寻找焊缝的起始位置与终止位置,本质上就是设计一种特征对其进行跟踪定位并确定其位置19,以便机器人进行打磨作业。

图 1. 原始工件

Fig. 1. Original workpiece

下载图片 查看所有图片

3 算法原理

需要打磨的位置位于耳板末端,线结构光扫描仪扫描得到的是工件表面的三维点云数据。从耳板的实物图及设计图可知,耳板表面模型在焊接前是光滑(数学定义)连续曲面。焊接后,焊接区域会变得凹凸不平,表面特征与未焊接表面有明显差异。表面点云模型如图2所示,可以发现,焊接区域几乎都是凹凸不平的曲面,而焊缝上部的耳板表面及下部的工件本体为连续光滑的曲面。

图 2. 耳板表面的点云数据

Fig. 2. Point cloud data on the surface of the ear plate

下载图片 查看所有图片

文献[4-512]在识别、检测线形焊缝时利用斜率突变特征找到焊缝的起始位置与终止位置。检测曲面上的打磨区域时,斜面某点的曲率半径与该点切平面的法向量共线。从微分角度考虑,当曲面分割得足够小时,微分的微小曲面就是该点的切平面。因此,可将曲率突变法扩展至三维空间中。曲面上某点曲率的变化量与其法向量的夹角变化量成正比,为了简化运算,可利用法向量的夹角将曲率突变法(算法1)和本算法(算法2)进行对比分析。

3.1 算法1

根据工件表面曲率突变信息寻找焊缝区域的算法步骤:1)数据预处理;2)滤波;3)降采样;4)分割出耳板点云并将其沿耳板宽度方向切片;5)平面拟合各切片并求出拟合后平面的法向量;6)计算相连两个切片法向量的夹角;7)根据两个法向量夹角的突变位置判断焊缝的起始和终止位置;8)根据具体的打磨工艺,输出机器人所需的位置点。

3.2 算法2

工件表面及耳板表面均为相对平滑的金属表面,但焊接工艺会导致焊缝所在的局部区域形成斑点或凹凸不平的曲面,可通过表面的平滑程度定位焊缝的起始和终止位置。数据的标准差可表示数据的波动程度,因此,利用车间使用的线结构光扫描仪得到焊缝表面的高度信息,从而计算耳板的表面平滑程度,标准差越大,表明表面越不平滑。

为了验证本算法的可行性及工件表面的实际粗糙情况,设计了一种增强显示深度图表面平滑特征的算子,以处理原始扫描仪生成的深度图(像素的强度值为工件表面的高度)。实验证明该算子的效果很好,不仅能凸显出工件表面的特征,还能展现工件表面的纹理信息。

3.2.1 算子的处理过程

图3为增强算子对图像的处理过程,具体步骤如下。

图 3. 增强算子的处理流程

Fig. 3. Processing flow of the enhancement operator

下载图片 查看所有图片

1) 对原始图像中的异常值进行判断

被测量表面的一些特性及线结构光的特性会导致扫描不到某些点,从而出现异常值。因此需要先判断是否存在异常值,若存在,则对异常值进行标记。图4为该增强算子对图像的具体处理过程,其中,o为核kernel的中心像素值,a~h为中心像素的8邻域像素值,onew为处理后的新像素值。

图 4. 增强算子的具体处理流程

Fig. 4. Specific processing flow of the enhancement operator

下载图片 查看所有图片

2) 明确异常值的处理方式后,对图像进行处理。若图像的尺寸为M×N,首先通过在图像周围增加一层像素值为0的像素或在边界补充临近值的方式补充边界,将图像的长和宽各增加1 pixel,新图像的尺寸为(M+2)×(N+2)。然后从原始图像的第1个元素开始,在以该像素为中心的9宫格内,用中心像素值分别减去周围8个点的像素值,取绝对值之和作为中心元素的新像素值。从左到右、从上到下依次遍历整幅图像,9宫格每次的滑动步长为1 pixel。最后去除最外层边界,将图像恢复为原始尺寸M×N

3) 设置合适的阈值,保留需要的纹理特征。从原理上看,经增强算子处理的图像中灰度越大(越暗),表明表面越光滑;相反,灰度越小(越亮),表明表面越凹凸。

图5(a)为线结构光扫描仪生成的原始深度图像,图5(b)为经增强算子处理后的图像。可以看出,线结构光相机获得的原始深度图表面高度值接近且表面粗糙程度不明显,而经增强算子处理后的图像工件表面信息得到了增强。工件本体表面及耳板上部的灰度较小,相对比较平滑,而焊接区域出现明显的纹理特征,这表明该区域的表面相对粗糙。与实际工件图像进行对比后发现,两者的纹理特征基本一致。且从右下角的细节处可知,工件上的焊接斑点也得到了很好的显示。这表明利用增强算子可区分焊接区域与非焊接区域,考虑到数据通过线结构光采集,因此实验利用每行数据的波动变化设计算法。

图 5. 增强算子的效果图。(a)原始图像;(b)增强算子处理后的图像

Fig. 5. Effect diagram of the enhancement operator. (a) Original image; (b) image obtained after enhancement operator processing

下载图片 查看所有图片

3.2.2 利用表面特征设计算法

1) 滤波及异常值的处理:为了去除异常值对数据的影响,需考虑到数据的标准差,可表示为

σr=1Ni=1N(xi-r)2

式中,xi为第i个数据点的高度值,r为平均高度值,N为每行点云的个数。

令异常值(扫描到的点)等于每行数据的平均值,实验证明,用平均值处理异常值的效果较好。同时用平均值代替异常值还可以避免某行大部分数据是异常值,从而减少部分数据的波动带来的影响。

2) 计算每行数据的标准差或方差:以行为单位依次计算每行高度数据的标准差或方差,并以此表征耳板表面的平滑程度。

3) 将步骤2)中得到的数据进行拟合,找到突变较大的位置。

4) 找到满足步骤3)的值并与现实工件进行转换,得到焊接区域的边界值。

4 算法实验及分析

4.1 算法1

算法1用4组样本以多个曲率进行分析,选取最优结果,实验结果如图6所示,图7为相邻两切片的夹角分布情况。可以发现,在焊接区域存在曲率突变的情况,因此可以大致找到焊缝的起始位置和终止位置。但识别出的部分位置是一条倾斜的线,与实际焊缝不能重合,即找到的焊缝位置不准确。其次,该算法容易受空洞点及切片宽度的影响,且无法定量控制检测出的误差。当切片过小时,焊接区域的局部特征更明显,而焊接区域的局部区域粗糙程度会掩盖焊接边缘处的特征。图6(b)识别出的焊缝倾斜程度较大,原因是分区过大,利用两平面的交线作为焊缝的起始或终止位置时偏差也较大。

图 6. 算法1的实验结果。(a)~(d)样本1~样本4

Fig. 6. Experimental results of the algorithm1. (a)‒(d) Sample1‒sample4

下载图片 查看所有图片

图 7. 不同样本的曲率。(a)~(d)样本1~样本4

Fig. 7. Curvature of different samples. (a)‒(d) Sample1‒sample4

下载图片 查看所有图片

综上所述,算法1在处理点云数据时鲁棒性较差且与切片的大小有十分密切的关系。理论上讲,切片越小,将发生突变的两个曲面交线作为要寻找的线越准确。但实际情况下,焊接区域并不光滑,曲面曲率的特征突变会被焊接区域的凹凸不平掩盖。切片如果较大,则会产生较大的误差。

4.2 算法2

图8为利用本算法处理得到的实验结果,可以发现,图8(a)、图8(c)及图8(d)中存在明显的空洞及异常值问题,但未对实验结果造成影响。对比图8(a)与图6(a)可知,本算法可以很好地解决算法1中存在的空洞点或异常值问题。为了更清晰地表现出算法的效果,计算了每行数据的标准差s,结果如图9所示。

图 8. 算法2的实验结果。(a)~(d)样本1~样本4

Fig. 8. Experimental results of the algorithm2. (a)‒(d) Sample1‒sample4

下载图片 查看所有图片

图 9. 不同样本的标准差。(a)~(d)样本1~样本4

Fig. 9. Standard deviation of different samples. (a)‒(d) Sample1‒sample4

下载图片 查看所有图片

对比图7图9可以发现,标准差能很好地显示出目标区域与工件其他部分的特征差异,经滑动自适应最小二乘窗口去拟合得到的数据可使打磨区域与其他位置的特征差异更明显20。相比算法1的曲率特征,本算法显示出的特征更明显且不易被异常值及空洞点干扰,具有较强的鲁棒性。同时算法的精度仅取决于数据的硬件精度,满足工业现场打磨的精度要求且可定量化控制识别精度。

5 现场打磨误差分析

实际车间进行打磨时,在打磨的起始位置和终止位置处寻找几个位点,设计打磨工艺,然后进行打磨。将识别出的点与实际位置的偏移量作为误差衡量值,结果如表1所示,实验中选择起始与终止位置处的中点作为参考。实验采用的线结构光扫描仪精度有限,很大程度上影响了本算法精度的提高,增加实验设备的精度可进一步缩小误差。

表 1. 本算法的误差

Table 1. Error of our algorithm

NumberStarting pointErrorTermination pointError
Actual measurementOur algorithmActual measurementOur algorithm
Mean value0.63750.30125
12352451.05896001.1
21842000.65605590.1

3

4

249

188

243

193

0.6

0.5

607

718

600

723

0.6

0.5

53503460.47337320.1
62912970.67327290.3
73183230.57207160.4
83113180.77717670.4

查看所有表

6 结  论

提出了一种基于表面相对平滑度识别焊缝位置的算法,该算法在复杂焊接曲面上有很强的鲁棒性,同时可以满足打磨机器人工艺的像素级精度,包含测量误差在内,最大误差为10 pixel(每个像素的长度为0.1 mm)。相比传统算法,本算法综合考虑了曲面的特征,不仅对孤立的线与点进行分析,还提出了增强深度图像表面纹理特征的算子,很好地增强了图像的表面特征。还可作为对深度图像的基础性预处理,增强显示出焊接区域的表面纹理分布。本算法在缺失值的填充部分还存在不足,若采集到的数据在横向的缺失较大会影响最后的实验结果,接下来的工作可利用深度学习的数据拟合功能进行三维数据点的填充。

参考文献

[1] 俞喆, 张金, 张训全, 等. 高速铁路钢轨廓形打磨质量评估方法及应用[J]. 中国铁道科学, 2020, 41(1): 25-30.

    Yu Z, Zhang J, Zhang X Q, et al. Quality evaluation method and application of rail profile grinding of high speed railway[J]. China Railway Science, 2020, 41(1): 25-30.

[2] 许家忠, 郑学海, 周洵. 复合材料打磨机器人的主动柔顺控制[J]. 电机与控制学报, 2019, 23(12): 151-158.

    Xu J Z, Zheng X H, Zhou X. Active and compliant control of the composite polishing robot[J]. Electric Machines and Control, 2019, 23(12): 151-158.

[3] 万国扬, 王国峰, 李福东, 等. 基于视觉定位与轨迹规划的机器人打磨工作站[EB/OL]. 计算机集成制造系统, (2019-09-16). [2020-05-18]. https://kns.cnki.net/kcms/detail/11.5946.TP.20190916.0909.002.html.

    Wan G Y, Wang G F, Li F D, et al. A robot grinding workstation based on visual positioning and trajectory planning [EB/OL]. Computer Integrated Manufacturing System, (2019-09-16). [2020-05-18]. https://kns.cnki.net/kcms/detail/11.5946.TP.20190916.0909.002.html.

[4] 方艳, 杨洗陈. 激光再制造中缺陷识别关键技术研究[J]. 中国激光, 2012, 39(4): 0403001.

    Fang Y, Yang X C. Reaserch on key techniques of defect detection for laser remanufacturing[J]. Chinese Journal of Lasers, 2012, 39(4): 0403001.

[5] 朱振友, 朴泳杰, 林涛, 等. 基于视觉的局部环境焊缝起始位置识别方法[J]. 焊接学报, 2004, 25(2): 95-98, 133.

    Zhu Z Y, Piao Y J, Lin T, et al. Visual-based research on weld seam initial position recognition in local envieronment[J]. Transactions of the China Welding Institution, 2004, 25(2): 95-98, 133.

[6] Lü X, Gu D X, Wang Y D, et al. Feature extraction of welding seam image based on laser vision[J]. IEEE Sensors Journal, 2018, 18(11): 4715-4724.

[7] Geng L, Wang J, Wang W, et al. Welding studs detection based on line structured light[J]. Proceedings of SPIE, 2018, 10621: 106210Z.

[8] 陈海永, 方灶军, 徐德, 等. 基于视觉的薄钢板焊接机器人起始点识别与定位控制[J]. 机器人, 2013, 35(1): 90-97.

    Chen H Y, Fang Z J, Xu D, et al. Vision based starting position recognition and positioning control for thin steel sheet welding robot[J]. Robot, 2013, 35(1): 90-97.

[9] Qi J Y, Li J Y. Feature extraction of welding defect based on machine vision[J]. China Welding, 2019, 28(1): 56-62.

[10] 郭吉昌, 朱志明, 于英飞, 等. 焊接领域激光结构光视觉传感技术的研究及应用[J]. 中国激光, 2017, 44(12): 1200001.

    Guo J C, Zhu Z M, Yu Y F, et al. Research and application of visual sensing technology based on laser structured light in welding industry[J]. Chinese Journal of Lasers, 2017, 44(12): 1200001.

[11] Metwally K, Lubeigt E, Rakotonarivo S, et al. Weld inspection by focused adjoint method[J]. Ultrasonics, 2018, 83: 80-87.

[12] 刘子腾, 白瑞林, 王秀平. 基于激光视觉的角焊缝图像特征点提取[J]. 焊接学报, 2016, 37(2): 89-93, 133.

    Liu Z T, Bai R L, Wang X P. Image feature extraction of fillet weld based on laser vision[J]. Transactions of the China Welding Institution, 2016, 37(2): 89-93, 133.

[13] 邹焱飚, 周卫林, 陈向志. 基于深度分层特征的激光视觉焊缝检测与跟踪系统研究[J]. 中国激光, 2017, 44(4): 0402009.

    Zou Y B, Zhou W L, Chen X Z. Research of laser vision seam detection and tracking system based on depth hierarchical feature[J]. Chinese Journal of Lasers, 2017, 44(4): 0402009.

[14] 杨雪君, 许燕玲, 黄色吉, 等. 一种基于结构光的V型坡口焊缝特征点识别算法[J]. 上海交通大学学报, 2016, 50(10): 1573-1577.

    Yang X J, Xu Y L, Huang S J, et al. A recognition algorithm for feature points of V-groove welds based on structured light[J]. Journal of Shanghai Jiao Tong University, 2016, 50(10): 1573-1577.

[15] Li X H, Li X D, Khyam M O, et al. Robust welding seam tracking and recognition[J]. IEEE Sensors Journal, 2017, 17(17): 5609-5617.

[16] Zhu Y J, Wu Z S, Li K, et al. Welding deviation detection method based on weld pool image contour features[J]. China Welding, 2019, 28(2): 35-44.

[17] 阴雷, 王向军, 秦贯宇. 基于视觉结构光的大型曲面动态测量方法[J]. 激光与光电子学进展, 2020, 57(13): 131202.

    Yin L, Wang X J, Qin G Y. Dynamic measurement method of large-scale surface based on visual structured light technology[J]. Laser & Optoelectronics Progress, 2020, 57(13): 131202.

[18] 朱星星, 易定容, 叶一青, 等. 抗干扰并行物方差动轴向的高精度三维形貌测量[J]. 光学学报, 2020, 40(4): 0412001.

    Zhu X X, Yi D R, Ye Y Q, et al. High-precision three-dimensional shape measurement based on anti-interference parallel object-side differential axial[J]. Acta Optica Sinica, 2020, 40(4): 0412001.

[19] 段朋, 田国会, 张伟. 服务空间中人的定位与跟踪[J]. 中国激光, 2014, 41(11): 1108007.

    Duan P, Tian G H, Zhang W. Human localization and tracking in service space[J]. Chinese Journal of Lasers, 2014, 41(11): 1108007.

[20] 王永雄, 田永永, 李璇, 等. 穿越稠密障碍物的自适应动态窗口法[J]. 控制与决策, 2019, 34(5): 927-936.

    Wang Y X, Tian Y Y, Li X, et al. Self-adaptive dynamic window approach in dense obstacles[J]. Control and Decision, 2019, 34(5): 927-936.

李朋超, 王金涛, 宋吉来, 王晓峰, 徐方. 基于线结构光扫描的复杂曲面焊缝检测[J]. 激光与光电子学进展, 2021, 58(3): 0312005. Li Pengchao, Wang Jintao, Song Jilai, Wang Xiaofeng, Xu Fang. Weld Recognition of Complex Curved Surface Based on Linear Structured Light Scanning[J]. Laser & Optoelectronics Progress, 2021, 58(3): 0312005.

引用该论文: TXT   |   EndNote

相关论文

加载中...

关于本站 Cookie 的使用提示

中国光学期刊网使用基于 cookie 的技术来更好地为您提供各项服务,点击此处了解我们的隐私策略。 如您需继续使用本网站,请您授权我们使用本地 cookie 来保存部分信息。
全站搜索
您最值得信赖的光电行业旗舰网络服务平台!