TDFF:一种强鲁棒性的烟雾图像检测算法 下载: 834次
1 引言
及时、准确地预警火灾征兆在火灾检测中有着极其重要的意义,火灾的物理现象主要有烟雾和火焰两种。火灾发生初期,一般情况下仅先产生烟雾,因此对烟雾进行检测和自动准确识别,能够及时实现火灾的早期预警。由于传统的烟雾检测方法受到监控范围的限制、周围环境事物的干扰以及烟雾浓度低等因素的影响,探测的准确度和算法的鲁棒性均不尽如人意。通过对烟雾检测方法进行改进以克服传统检测方法存在的不足,但如何对火灾产生的烟雾及其与烟雾形色相近的事物进行准确区分以及有效地提取特征,成为火灾烟雾检测的难点之一。
烟雾特征提取是一种识别烟雾的关键技术,烟雾特征有LBP(Local Binary Patterns)和Gabor等[1-4],近年来很多科研团队对其进行研究。文献[ 5]采用了一种级联方法对摄像机的监控数据进行处理以检测特定类型的突发事件,该方法可以提高目标检测性能和处理速度,但是存在较高的误警率。文献[ 6]提出了一种基于监控摄像机的烟雾检测方法,该方法有较高的检测率,但会出现一些错误检测的现象,因为在某些情况下,烟雾的LBP信息与非烟雾重叠。文献[ 7]提出了面向烟雾识别与纹理分类的Gabor网络,该网络能够实现多尺度和多方向的多层级纹理特征表达,可以提高烟雾识别的综合效果和纹理分类的准确率,但是该方法的冗余度和复杂度较高。
多特征融合技术也是一种广泛应用的烟雾图像处理技术。文献[ 8]采用了改进的三帧差分法来提取图像块的运动区域,并提取烟雾图像块的HSV(Hue, Saturation, Value)颜色特征和LBP特征等,特征融合后对其进行烟雾检测。文献[ 9]一种基于视频烟雾多特征融合的火灾烟雾早期识别方法,该方法根据RGB(Red, Green, Blue)和HIS(Hue, Intensity, Saturation)空间的早期烟雾颜色模型来提取可疑区域的颜色特征。在一些特定的环境中,上述检测方法仍然存在识别率低的问题。
受到环境的影响以及算法本身存在的问题,导致烟雾检测算法出现识别率低和误警率高的现象。鉴于此,本文提出一种TDFF(Triple Multi Feature LBP and Derivative Gabor Feature Fusion)的烟雾图像检测算法。将改进的Gabor特征与LBP特征融合后放入支持向量机(SVM)中进行训练,能够减少环境的干扰以获得较高的检测率,从而提高算法的鲁棒性。
2 基本原理
2.1 传统的LBP特征
LBP是一种用来描述图像局部纹理特征的算子,可以体现中心像素与其周围像素的关系,具有旋转不变性与灰度不变性的特点。LBP算子的基本思想是将某一点的灰度值作为中心值,并对其邻域点进行二值化运算,若邻域点的灰度值不小于中心像素点则记为1,否则记为0,将得到的二值化结果按照顺序进行排列,可以得到一组8位二进制数。LBP的编码计算公式为
式中:(xc,yc)表示中心像素点的坐标;gc表示中心像素点(xc,yc)的灰度值;N表示邻域像素个数;gp表示第p个邻域点的灰度值;s(·)表示阶跃函数[10-12]。实验采用圆形LBP算子来计算图像的LBP特征值,接着采用双线性插值的方法计算未完全落在像素中心位置的采样点的真实灰度值。
2.2 Gabor特征
Gabor特征是使用二维Gabor滤波器对图像进行处理后而得的,其中Gabor滤波器的参数和方向均可以调整。二维Gabor滤波器的小波核函数可表示为
式中:ημ,v(·)表示小波核函数;σ表示带宽,值为2π;v表示尺度参数;μ表示方向个数;z表示给定位置的图像坐标(x,y);kμ,v表示滤波器的中心频率;kv=2-(v+2)/2π;φμ=μπ/8。
Gabor特征可表示为
式中:*表示卷积运算符号;f(x,y)表示输入的图像[13]。
3 TDFF算法
传统算法的检测结果并不是特别理想,而且纹理的识别率与算法的鲁棒性都较低。为了改善融合算法的性能,提出一种融合T-MFLBP和D-Gabor的算法,该算法能够包含与提炼LBP特征中有价值的信息并加以结合与完善,可以更有效地反映纹理的变化细节,并通过改进Gabor的核函数可以提高捕捉烟雾图像边缘纹理的性能。针对传统算法提取的特征信息不充分以及对噪声很敏感的问题,T-MFLBP可以综合考虑LBP特征中所有可能出现的情况,从而提高检测烟雾图像边缘的敏感度和纹理的识别率,D-Gabor可以改进烟雾图像特征的表征性能,更注重灰度梯度变化。最后对两种特征矩阵进行线性融合,再将其输入SVM中进行训练以得到识别结果。
3.1 T-MFLBP
传统算法将中心像素与邻域像素差大于0或等于0的视为一类情况,并只对这一种情形进行编码计算,但无法区分像素灰度差等于0和大于0的情况。实际中心像素与邻域像素的差值一般分为大于0、等于0和小于0三种情形,分别代表上升、均匀和下降变化。为了提高区分不同纹理的性能以及降低对噪声的敏感性,实验使用T-MFLBP模型。相较于文献[ 14]只对像素间灰度差存在的两种变化情况进行编码计算,T-MFLBP模型可以对三种情形进行编码计算。对于上升变化的情况,LBP特征的编码计算公式为
对于下降变化的情况,LBP特征的编码计算公式为
对于均匀变化的情况,LBP特征的编码计算公式为
得到LBP特征图像后,特征向量不会立刻送入分类器中,而是利用等价模式对LBP算子进行降维,从而得到较为分散的LBP特征直方图。当N=8时,仅保留59维特征,这更有利于特征的提取。相比于等价模式处理后的LBP算子,MFLBP算子[15]可以考虑非均匀模式中的纹理特征,非均匀模式即二进制串中0跳变到1或1跳变到0的次数大于2的模式,其中含有一些特殊位置的像素,而且能够从这些特殊位置的像素中提取烟雾图像的一些重要信息。线性特征如
式中:T表示一个中间变量;U表示一个映射表,代表N(N-1)+2种均匀模式分别对应着0到N(N-1)+1的整数;JMFLBP表示特征模式中0跳变到1或者1跳变到0的次数,其可表示为
式中:g0表示第1个邻域点的灰度值。当gp的灰度值不小于gc时,s(gp-gc)=1;否则s(gp-gc)=0。在N=8的情况下,均匀模式有58种,再将非均匀模式中跳变次数分别为4、6和8的三类模式单独提取出来并作为另外的三维特征,除此之外其他非均匀模式作为一类,共有62维特征。将
从(15)式可以看到,
图 1. 非均匀模式中不同类型的特征。(a1)~(a4) 线性特征;(b1)~(b4) T型特征;(c1)(c2) 十字与对角特征
Fig. 1. Different types of features in heterogeneous modes. (a1)--(a4) Linear features; (b1)--(b4) T-type features; (c1)(c2) cross and diagonal features
3.2 D-Gabor
Gabor变换是短时傅里叶变换中当窗函数取为高斯函数时的一种特殊情况。传统Gabor滤波器类似一维Gabor核,二维的Gabor核由二维高斯函数和二维复数波构成。针对传统Gabor滤波器的鲁棒性差以及难以区分与烟雾相近的事物纹理的问题,对Gabor核函数进行改进,表达式为
式中:g(x,y)表示高斯核函数,对其求一阶导数可以得到
将(17)式代替(3)式中的高斯核函数,则新的小波核函数可表示为
高斯滤波是典型的低通滤波,具有旋转对称性和傅里叶变换频谱为单瓣等性质。使用高斯函数处理图像可以避免图像失真,也不会被高频信号所污染,所以高斯函数在图像平滑处理与边缘检测中发挥着重要的作用。高斯函数的一阶和二阶导数也可以用于滤波,如Canny算子中用到的是高斯函数的一阶导数,因为一阶导数可以反映图像灰度的变化程度。高斯函数的二阶导数一般用于提取边缘细节,但高斯函数的一阶导数以丢失部分边缘细节为代价,使其更注重于反映图像灰度梯度的变化情况。实验中,选用高斯函数的一阶导数来提取边缘纹理梯度,可以加强边缘部分的特征提取,只提取复数波的实部部分信息,可以解决由冗余信息造成鲁棒性差的问题。
当统计Gabor特征时,通常将图像分块并计算每块的能量,这既可以保持Gabor的局部细节,又可以保持一定的结构特性。分块的尺寸一般根据实验中图片的尺寸和所需特征值的数量来设定,实验将尺寸为224 pixel×224 pixel的图像分割成尺寸为16 pixel×16 pixel的图像块,通过累计图像块中的能量可以获得196个特征值。
3.3 特征融合
由3.1节和3.2节可以得到T-MFLBP与D-Gabor的特征矩阵,将T-MFLBP(Triple Multi Feature Local Binary Patterns)与D-Gabor结合可以形成TDFF算法。考虑到烟雾探测对实时性具有一定的要求,则对该算法的时间复杂度进行如下分析。LBP的时间复杂度为O(n2),T-MFLBP的时间复杂度为O(3n2),一般等效于O(n2),D-Gabor的时间复杂度等同于Gabor,其中n为变量个数。TDFF算法耗时较少,而且具有一定的实时性,总体流程如
4 实验结果与分析
4.1 T-MFLBP的性能
T-MFLBP特征可以更有效地表示烟雾特征。将一幅图分成4块并统计LBP特征,实验只提取其中两块图像的统计直方图,则传统LBP与T-MFLBP特征的直方图如
图 3. 不同特征的提取结果。(a1)(a2) 传统LBP特征;(b1)(b2) T-MFLBP特征
Fig. 3. Extraction results of different features. (a1)(a2) Traditional LBP features; (b1)(b2) T-MFLBP features
不同方法提取不同数据集中LBP特征的实验结果如
图 4. 不同方法在不同数据集中的检测率对比
Fig. 4. Comparison of detection rates of different methods in different datasets
不同方法在不同数据集中的误警率如
图 5. 不同方法在不同数据集中的误警率对比
Fig. 5. Comparison of false alarm rates of different methods in different datasets
不同方法在不同维度下的检测率如
图 6. 不同方法在不同维度下的检测率对比曲线
Fig. 6. Detection rate comparison curves of different methods in different dimensions
不同方法在不同维度下的误警率如
图 7. 不同方法在不同维度下的误警率对比曲线
Fig. 7. Comparison curves of false alarm rates in different dimensions by different methods
4.2 融合后的性能比较
实验涉及4个数据集,每个数据集包含500个烟雾正样本与500个非烟雾负样本,烟雾正样本中包含不同类型、不同浓度的烟雾,非烟雾负样本包含灯光、有云彩的天空和雾霾等常见易与烟雾混淆的情况。从每个数据集中各选取400个烟雾正样本以及400个非烟雾负样本作为训练集,剩下的100个烟雾正样本和100个非烟雾负样本作为测试集。实验中,分别采用平均灰度化、最大值灰度化和加权平均灰度化对数据集进行预处理。实验结果证明,平均灰度化处理的数据集比其他常见灰度化方法拥有更好的检测率,所以对图像进行平均灰度化处理。提取LBP特征矩阵后降维到90,提取Gabor特征矩阵后降维到130,特征融合后送入SVM中迭代900次。实验使用的软件为MATLAB R2018b,操作系统为Win10,实验结果如
表 1. 不同特征融合方法的性能比较
Table 1. Performance comparison of different feature fusion methods unit: %
|
不同特征融合方法在不同迭代次数下的检测率如
图 8. 不同特征融合方法在不同迭代次数下的检测率对比曲线
Fig. 8. Comparison curves of detection rates of different feature fusion methods under different number of iterations
不同特征融合方法在不同迭代次数下的误警率如
图 9. 不同特征融合方法在不同迭代次数下的误警率对比曲线
Fig. 9. Comparison curves of false alarm rates of different feature fusion methods under different number of iterations
5 结论
TDFF算法由T-MFLBP与D-Gabor两部分组成,该算法可以成功提高检测率,并具有较强的鲁棒性。采用T-MFLBP算法分别对像素间不同灰度差值的情况以及非均匀模式中特殊位置的像素进行编码计算,将相比于中心像素变化最大的LBP值与均匀变化的LBP值的差的绝对值作为度量,从而解决传统算法识别性能不佳的问题。D-Gabor利用一阶偏导的高斯函数提取Gabor特征,可以增强提取烟雾图像边缘特征的性能。最后将特征融合矩阵放入SVM中进行训练。实验结果表明,所提算法的检测率可以达到99%,比传统融合算法提高4个百分点,同时鲁棒性也得到较大改善。
[2] 罗胜, 张翔, 胡杰, 等. 时间压缩轨迹特征识别的火灾烟雾检测[J]. 中国图象图形学报, 2019, 24(10): 1648-1657.
[3] CosteaA, SchiopuP. New design and improved performance for smoke detector[C]∥2018 10th International Conference on Electronics, Computers and Artificial Intelligence (ECAI), June 28-30, 2018, Iasi, Romania. New York: IEEE, 2018: 18566018.
[5] MaksymivO, RakT, PeleshkoD. Real-time fire detection method combining AdaBoost, LBP and convolutional neural network in video sequence[C]∥2017 14th International Conference The Experience of Designing and Application of CAD Systems in Microelectronics (CADSM), February 21-25, 2017, Lviv, Ukraine. New York: IEEE, 2017: 351- 353.
[6] Ashraf UR, KaushikD, Sharmistha CT, et al. Smoke detection method based on LBP and SVM from surveillance camera[C]∥2018 International Conference on Computer, Communication, Chemical, Material and Electronic Engineering (IC4ME2), February 8-9, 2018, Rajshahi, Bangladesh. New York: IEEE, 2018: 18113375.
[7] 袁非牛, 夏雪, 李钢, 等. 面向烟雾识别与纹理分类的Gabor网络[J]. 中国图象图形学报, 2019, 24(2): 269-281.
Yuan F N, Xia X, Li G, et al. GaborNet for smoke recognition and texture classification[J]. Journal of Image and Graphics, 2019, 24(2): 269-281.
[8] 殷梦霞, 王理, 孙连营. 基于多特征融合的自适应烟雾检测算法[J]. 建筑科学, 2019, 35(9): 26-31.
[9] WangL, Li AG. Early fire recognition based on multi-feature fusion of video smoke[C]∥2017 36th Chinese Control Conference (CCC), July 26-28, 2017. Dalian, China. New York: IEEE, 2017: 5318- 5323.
[10] 全永志, 高树辉, 杨孟京, 等. 基于局部二值模式方法的USM锐化图像检验[J]. 激光与光电子学进展, 2019, 56(12): 121002.
[11] Hoang VT. Unsupervised LBP histogram selection for color texture classification via sparse representation[C]∥2018 IEEE International Conference on Information Communication and Signal Processing (ICICSP), September 28-30, 2018, Singapore, Singapore. New York: IEEE, 2018: 79- 84.
[12] 程姗, 曾焕强, 陈婧, 等. 基于特征融合的无参考屏幕图像质量评价[J]. 信号处理, 2019, 35(3): 419-425.
[13] Shi DC, CaiF, Du GY. Facial expression recognition based on Gabor wavelet phase features[C]∥2013 Seventh International Conference on Image and Graphics, July 26-28, 2013, Qingdao, China. New York: IEEE, 2013: 520- 523.
[14] XuJ, Ding XQ, Wang SJ, et al. Background subtraction based on a combination of texture, color and intensity[C]∥2008 9th International Conference on Signal Processing, October 26-29, 2008, Beijing, China. New York: IEEE, 2008: 1400- 1405.
[15] 熊俊杰. 基于改进局部二值模式的纹理分类算法研究[D]. 南昌: 南昌航空大学, 2019: 21- 23.
Xiong JJ. Research on texture classification based on improved local binary patterns[D]. Nanchang: Nanchang Hangkong University, 2019: 21- 23.
[17] Zhang QX. Research webpage about smoke detection for fire alarm: datasets[DB/OL]. [2020-07-09] http:∥smoke.ustc.edu.cn/datasets.htm.
Article Outline
王韦刚, 王炳蔚, 张云伟. TDFF:一种强鲁棒性的烟雾图像检测算法[J]. 激光与光电子学进展, 2021, 58(4): 0410023. Weigang Wang, Bingwei Wang, Yunwei Zhang. TDFF: Strong Robust Algorithm for Smoke Image Detection[J]. Laser & Optoelectronics Progress, 2021, 58(4): 0410023.