基于方向梯度直方图粒子滤波的V型焊缝跟踪 下载: 861次
1 引言
自动焊接技术已被广泛应用于****、航天航空、车船制造等领域。焊缝跟踪是自动化焊接的关键技术[1-4]。基于激光视觉的焊缝跟踪技术具有非接触、特征明显、精度高等优点,是目前焊缝跟踪的主要研究方向。但在焊接过程中,焊缝图像会受弧光、烟雾、飞溅等的干扰而产生大量噪声,导致焊缝特征不明显,难以精确获取焊缝的位置,从而影响焊缝跟踪的质量。从强干扰的焊缝图像中准确地获取焊缝的位置信息是焊缝跟踪的关键。
通常采用图像处理方法,如滤波、分割、中心提取等,从激光条纹的灰度分布或几何形状中获取焊缝的关键位置信息[5-8]。申俊琦等[9]提出了一种有效去除焊缝图像中噪声的自适应中值滤波算法。陈海永等[10]提出了基于阈值变换和自适应形态学的算法,并用该算法来分割焊缝条纹;结果发现,该算法在获取焊缝特征点的同时有效地消除了噪声的干扰。江南春等[11]提出了一种针对搭接焊缝的图像处理技术,该技术通过形态学细化、Hough变换拟合直线和模板匹配来获取焊缝的特征点。胡金等[12]在边缘检测的基础上提出了一种基于方向梯度直方图的焊缝边缘检测方法,该方法能检测出焊缝的主要信息,并能较好地抑制噪声。Carlson等[13]依据实时更新的特征模板和图像相关性,采用粒子滤波实现了对焊缝的跟踪。邹焱彪等[14]利用概率连续模型进行焊缝跟踪,这种方法可以实时获取焊缝特征,而且跟踪准确。
在基于视觉的焊缝自动跟踪过程中,相邻两帧图像中焊缝激光条纹的形态具有连续性,因此焊缝是可以进行检测和跟踪的。但受弧光、飞溅等干扰,焊缝位置的准确识别与检测会很困难。不同的焊缝特征描述有不同的检测与跟踪效果,因此选择更准确的焊缝特征提取算法对于焊缝的识别和跟踪来说极为重要。
本文利用具有良好的几何和光学形变不变性的方向梯度直方图[15-16](Hog)特征来描述V型焊缝信息,并结合焊缝序列图像位置信息的连续性,提出了一种基于Hog进行粒子滤波的V型焊缝跟踪方法。该方法首先针对V型焊缝图像目标区域提取Hog特征,建立目标模板;然后采用粒子滤波[17-19]方法在目标区域进行先验性采样,再将采样结果与目标模板进行匹配计算,得到下一帧目标的位置信息,最终实现焊缝的准确跟踪。
2 方向梯度直方图
在进行自动焊接时,通常依据焊缝坡口边沿信息进行焊接。典型V型坡口焊缝的激光条纹如
由于图像的方向性可由边缘的梯度来表示,因此,焊缝条纹拐点处具有方向性变化的特征能够被梯度或边缘的方向密度分布很好地描述。Hog特征就是利用边缘方向或者像素强度梯度来表现图像特征的,因此能很好地描述焊缝条纹图像的方向性。同时,Hog在图像局部区域的方格单元上对边缘梯度进行统计计算,具有对空域粗采样、对方向性精采样以及局部归一化的特点,因此对图像的几何和光学形变都能保持良好的不变性,能很好地统计局部区域方格的方向性特征。只要焊缝形状不发生大的形变,焊缝微小的形变以及干扰信号就可以被抑制,从而提高检测效果。因此,Hog能够很好地描述焊缝条纹图像的方向性特征,适合有干扰下的焊缝跟踪。
图 3. 无干扰下焊缝拐点区域的Hog特征
Fig. 3. Hog characteristics of weld flex point area without interference
图 4. 强干扰下焊缝拐点区域的Hog特征
Fig. 4. Hog characteristics of weld flex point area with strong interference
3 跟踪原理
在实际焊接中,焊缝图像位置的变化十分微弱,且不会有较大的突变,即焊缝位置具有平滑性、连续性和可预测性。因此,可以通过粒子滤波预测和修正的方法进行焊缝的跟踪,即:先根据焊缝的连续性预测下一帧焊缝的候选位置;然后在候选位置附近进行粒子采样,根据不同采样的Hog特征与目标Hog特征的相似度分配权值,再根据粒子对目标位置的贡献加权计算得到焊缝的目标位置。可见,焊缝跟踪原理可以分为预测和更新修正两个步骤。
1) 预测:对焊缝进行实时跟踪时,相邻两帧图像上焊缝的位置变化不大,因此焊缝拐点位置是可预测的。根据上一帧k-1时刻焊缝的状态信息xk-1预测下一帧k时刻焊缝的状态信息xk。可以利用服从高斯分布的运动模型p(xk|xk-1)来预测候选状态。
2) 更新修正:根据实际采集的k时刻的焊缝图像计算观测值zk,然后通过观测似然概率p(zk|xk)和先验概率p(xk-1|z1:k-1),计算k时刻的后验概率p(xk|z1:k),并通过统计修正计算出焊缝最优的状态
因此,焊缝跟踪可以看成是后验概率的状态估计问题。也就是说,利用观测数据和前一时刻的后验概率来估计当前的后验概率,进而实现目标跟踪。通过预测和更新这两个步骤就可以解决通过观测似然概率p(zk|xk)和先验概率p(xk-1|z1:k-1)推导后验概率p(xk|z1:k-1)的问题,即得出当前时刻待跟踪目标位置的最优解。由此可知,在焊缝跟踪过程中,观测似然概率p(zk|xk)的计算对最优解计算的影响巨大,即焊缝特征描述的准确性和抗干扰能力是影响焊缝跟踪结果的关键,因此,将Hog特征向量作为焊缝特征的观测矢量。在实际的焊缝跟踪过程中,无法求解出后验概率的解析解。利用基于蒙特卡罗采样原理的粒子滤波方法,通过随机采样产生的粒子状态来逼近真实状态的后验概率分布。因此,为了实现焊缝目标的准确跟踪,本文采用基于Hog的粒子滤波算法。
4 基于Hog粒子滤波的焊缝跟踪算法
根据跟踪原理设计了基于Hog粒子滤波的焊缝跟踪算法。算法流程如
图 5. 基于Hog粒子滤波的焊缝跟踪算法流程图
Fig. 5. Flow chart of seam tracking algorithm based on particle filter with histogram of oriented gradient
根据滤波流程图,具体的滤波过程如下:
1) 目标区域初始化
焊接过程中,焊缝的预测跟踪将以焊缝拐点为中心的合适大小的矩形区域作为目标区域,提取目标区域的Hog特征向量T,建立目标的特征模板。
2) 粒子初始化
根据设定的粒子数目N,依据先验分布概率p(x0)=1/N,初始化粒子集{
3) 状态转移
在粒子从k-1时刻到k时刻的状态转移过程中,采用高斯分布的运动模型p(xk|xk-1)预测粒子位置:
4) 权值更新
依据粒子的Hog特征与目标特征的相似度对粒子状态的权值进行更新。k时刻粒子权值的更新公式通过k-1时刻的粒子权重
权值归一化公式为
利用Hog特征得到的系统观测概率模型中的系统观测概率p(
其中,
式中:R为系统的观测噪声;d为评价采样与目标模板Hog特征相似度的巴氏距离,它可作为相似性的衡量标准;ρ为粒子采样得到的Hog特征向量
式中:M为提取的特征向量的维数。经过相似性计算后,可根据(1)~(5)式实现粒子权重的计算与更新。
5) 重采样
为了避免迭代计算导致粒子退化,对粒子集进行重采样得到新的粒子集。重采样后的粒子数目不变,且每个粒子的权值均为1/N,用新的粒子集去估计系统状态,进入循环跟踪。
6) 状态估计
①利用公式
②判断迭代是否继续,若继续,则更新时刻k=k+1,转移步骤2);若不继续,目标跟踪结束。
5 实验与分析
5.1 实验系统
本文以典型的V型焊缝进行跟踪实验。实验采用的自动焊接系统如
进行自动焊接时,焊枪依据焊缝坡口的边沿信息进行焊接。因此,跟踪目标选择为焊缝坡口两边的拐点区域。如
图 6. 自主移动焊接机器人实验装置与实际自主焊接过程,以及焊缝跟踪区域示意图。(a)实验装置与自主焊接过程;(b)焊缝跟踪区域示意图
Fig. 6. Experimental device of autonomous mobile welding robot and actual autonomous welding process, and schematic of seam tracking area. (a) Experimental device and actual autonomous welding process; (b) schematic of seam tracking area
5.2 跟踪实验
对跟踪目标进行初始化需要准确获取焊缝目标拐点的精确位置,并以拐点位置确定焊缝跟踪的目标区域。针对首帧获取的无弧光干扰的焊缝激光条纹图像,采用Steger算法[20]得到激光条纹的中心点,然后利用V型焊缝的形状特点,将中心点分为A、B、C、D四部分点集,如
图 7. 点集和拐点示意图。(a)将中心点分成四部分点集;(b)焊缝的左拐点;(c)焊缝的右拐点
Fig. 7. Schematics of point sets and flex points. (a) Divide the center point into four point sets; (b) left flex point of weld; (b) right flex point of weld
通过对焊缝激光条纹进行上述处理,就实现了首帧图像焊缝拐点的自动识别以及目标区域的自动选取。在目标区域提取如
跟踪过程如
跟踪结果如
5.3 实验分析
5.3.1 粒子数的选取
采用粒子滤波的方式对跟踪目标区域进行焊缝跟踪。本文采用的基于Hog的粒子滤波跟踪算法的处理时间主要受采样粒子数的影响。平均跟踪误差随粒子数的变化曲线如
每帧处理时间随粒子数的变化如
图 11. 每帧图像处理时间随粒子数的变化
Fig. 11. Variation of processing time of each frame image with the number of particles
5.3.2 跟踪精度
为了定量分析基于Hog粒子滤波的焊缝跟踪算法的跟踪效果,根据选定的粒子数100,统计分析了60帧焊缝目标图像的跟踪结果。通过计算得到了预测点与真实点的距离,如
目标1跟踪分析:预测点与真实位置误差的最大值为第31帧,最大误差为3.261个像素。目标2跟踪分析:预测点与真实位置误差的最大值为第11帧,最大误差为2.670个像素。跟踪实验中真实点的像素坐标是通过多人对实验图片进行人工标注后取平均值得到的。像素坐标到真实坐标的转化是以焊缝左右拐点横坐标之间的距离与焊缝真实宽度进行标度变换后得到的。实验中的焊缝坡口经过精密加工得到,加工精度为10 μm级,焊缝坡口宽度为25 mm;图像中坡口的平均宽度为350个像素,单位像素对应的实际距离为0.071 mm。跟踪结果中出现的最大误差为3.261个像素,对应的跟踪误差小于0.2315 mm。
5.3.3 对比实验
为了验证本文所提算法在提高跟踪精度和抗干扰能力方面的有效性,将其与基于图像灰度特征的粒子滤波跟踪算法、基于KCF的算法进行对比,对比结果如
在无干扰情况下,三种算法均能够准确地跟踪目标,如
综上,本文所提算法的跟踪效果与基于KCF的算法比较接近,跟踪结果满足要求。
为了定量分析基于灰度特征的粒子滤波算法、基于KCF的算法与本文算法的跟踪效果,统计分析了这三种算法在60帧焊缝图像中的跟踪结果。通过计算得到的三种算法的跟踪误差如
由
6 结论
本文针对自动焊接过程中弧光、飞溅等噪声严重影响焊缝跟踪质量的现象,利用具有良好几何和光学形变不变性的Hog来描述V型焊缝激光条纹在拐点处的方向性特征,提出了一种基于Hog粒子滤波的焊缝跟踪算法;经实验验证后可知,该方法能够在严重噪声干扰的环境下准确识别焊缝特征,精准定位焊缝位置,且目标跟踪效果具有良好的稳定性和较高的精度。将本文算法与基于灰度特征的粒子滤波跟踪算法进行对比后可知,本文算法能够有效避免焊接过程中噪声干扰的影响,跟踪精度能达到0.240 mm,具有更好的精度和鲁棒性。本文算法为工业现场的自动焊接提供了一种可靠且有效的焊缝跟踪算法。
[1] 郭吉昌, 朱志明, 于英飞, 等. 焊接领域激光结构光视觉传感技术的研究及应用[J]. 中国激光, 2017, 44(12): 1200001.
[2] 范俊峰, 景奉水, 方灶军. 基于视觉传感的焊缝跟踪技术研究现状和发展趋势[J]. 热加工工艺, 2017, 46(5): 6-10, 14.
Fan J F, Jing F S, Fang Z J. Research status and development trend of welding seam tracking technology based on vision sensors[J]. Hot Working Technology, 2017, 46(5): 6-10, 14.
[3] 郭志鹏, 于治水, 张培磊, 等. 基于视觉传感的焊缝跟踪系统研究现状[J]. 轻工机械, 2016, 34(5): 95-100.
Guo Z P, Yu Z S, Zhang P L, et al. Research status of seam tracking technology based on visual sensing[J]. Light Industry Machinery, 2016, 34(5): 95-100.
[4] 李琳, 林炳强, 邹焱飚. 基于条纹式激光传感器的机器人焊缝跟踪系统研究[J]. 中国激光, 2015, 42(5): 0502005.
[5] 刘习文, 洪波, 戴铁峰. 激光视觉焊缝跟踪图像处理与坡口识别[J]. 激光与红外, 2011, 41(7): 804-807.
Liu X W, Hong B, Dai T F. Image processing and groove recognition in weld seam tracking based on laser vision[J]. Laser & Infrared, 2011, 41(7): 804-807.
[6] 雷正龙, 吕涛, 陈彦宾, 等. 34(5): 54-[J]. . 基于扫描激光视觉传感的焊缝图像特征信息识别. 焊接学报, 2013, 58: 115-116.
Lei ZL, LüT, Chen YB, et al., 2013, 34(5): 54-58, 115- 116.
[7] 周卫林. 基于深度分层特征的激光视觉焊缝检测与跟踪系统的研究[D]. 广州: 华南理工大学, 2018.
Zhou WL. Research of laser vision seam detection and tracking system based on depth hierarchical feature[D]. Guangzhou: South China University of Technology, 2018.
[8] 袁攀, 孔建益, 仄士春, 等. V型焊接坡口图像处理方法的研究[J]. 机械设计与制造, 2017( 6): 64- 66.
YuanP, Kong JY, Ze SC, et al. The research on image processing method of V-shaped welding groove[J]. Machinery Design & Manufacture, 2017( 6): 64- 66.
[9] 申俊琦, 胡绳荪, 冯胜强. 自适应中值滤波在焊缝视觉跟踪中的应用[J]. 焊接学报, 2011, 32(3): 57-60, 116.
Shen J Q, Hu S S, Feng S Q. Application of adaptive median filtering in vision seam tracking[J]. Transactions of the China Welding Institution, 2011, 32(3): 57-60, 116.
[10] 陈海永, 孙鹤旭, 徐德. 一类窄焊缝的结构光图像特征提取方法[J]. 焊接学报, 2012, 33(1): 61-64, 116.
Chen H Y, Sun H X, Xu D. An image feature extraction method for a certain kind of narrowgap weld seam[J]. Transactions of the China Welding Institution, 2012, 33(1): 61-64, 116.
[11] 江南春, 刘苏宜, 张华. 激光视觉搭接焊缝的图像识别[J]. 微型机与应用, 2011, 30(6): 41-44, 49.
Jiang N C, Liu S Y, Zhang H. Laser vision welding welded joint image recognition[J]. Microcomputer & Its Applications, 2011, 30(6): 41-44, 49.
[12] 胡金, 赵慧, 蒋林. 一种基于梯度直方图的焊缝边缘检测方法[J]. 电焊机, 2015, 45(4): 50-53.
Hu J, Zhao H, Jiang L. A weld edge detection method based on gradient histogram[J]. Electric Welding Machine, 2015, 45(4): 50-53.
[13] Carlson FB, KarlssonM, RobertssonA, et al. Particle filter framework for 6D seam tracking under large external forces using 2D laser sensors[C]∥IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), October 9-14, 2016. Daejeon, South Korea. New York: IEEE, 2016: 3728- 3734.
[14] 邹焱飚, 周卫林, 王研博. 基于概率连续模型的激光视觉焊缝自动跟踪[J]. 机械工程学报, 2017, 53(10): 70-78.
Zou Y B, Zhou W L, Wang Y B. Laser vision seam automatic tracking based on probability continuous model[J]. Journal of Mechanical Engineering, 2017, 53(10): 70-78.
[15] DalalN, TriggsB. Histograms of oriented gradients for human detection[C]∥IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05), San Diego, CA, USA. New York: IEEE, 2005: 886- 893.
[16] 傅红普, 邹北骥. 方向梯度直方图及其扩展[J]. 计算机工程, 2013, 39(5): 212-217.
Fu H P, Zou B J. Histogram of oriented gradient and its extension[J]. Computer Engineering, 2013, 39(5): 212-217.
[17] Djuric P M, Kotecha J H, Zhang J, et al. Particle filtering[J]. IEEE Signal Processing Magazine, 2003, 20(5): 19-38.
[18] 王法胜, 鲁明羽, 赵清杰, 等. 粒子滤波算法[J]. 计算机学报, 2014, 37(8): 1679-1694.
Wang F S, Lu M Y, Zhao Q J, et al. Particle filtering algorithm[J]. Chinese Journal of Computers, 2014, 37(8): 1679-1694.
[19] 昝孟恩, 周航, 韩丹, 等. 粒子滤波目标跟踪算法综述[J]. 计算机工程与应用, 2019, 55(5): 8-17, 59.
Zan M E, Zhou H, Han D, et al. Survey of particle filter target tracking algorithms[J]. Computer Engineering and Applications, 2019, 55(5): 8-17, 59.
[20] 南方, 李大华, 高强, 等. 改进Steger算法的自适应光条纹中心提取[J]. 激光杂志, 2018, 39(1): 85-88.
Nan F, Li D H, Gao Q, et al. Implementation of adaptive light stripe center extraction of improved Steger algorithm[J]. Laser Journal, 2018, 39(1): 85-88.
[21] 秦涛, 张轲, 邓景煜, 等. 33(2): 33-[J]. . 基于改进最小二乘法的焊缝特征直线提取方法. 焊接学报, 2012, 36: 114-115.
QinT, ZhangK, Deng JY, et al., 2012, 33(2): 33-36, 114- 115.
杨国威, 闫树明, 王以忠. 基于方向梯度直方图粒子滤波的V型焊缝跟踪[J]. 中国激光, 2020, 47(7): 0702002. Yang Guowei, Yan Shuming, Wang Yizhong. V-Shaped Seam Tracking Based on Particle Filter with Histogram of Oriented Gradient[J]. Chinese Journal of Lasers, 2020, 47(7): 0702002.