基于各向异性Retinex的人脸图像光照补偿 下载: 846次
ing at the face images in large angle oblique illumination and extremely dark and uneven illumination environment, an illumination compensation method is proposed based on anisotropic Retinex transform. First, according to the statistical characteristics of face image, the direction of the light source is analyzed, and the edge is detected by Prewitt operator. Combined with the geometric characteristics of the face texture, the curvature, slope and symmetry are introduced to achieve the unevenness of the face and illumination, thus distinguishing the false edge of the face. Second, based on the Weickert structure tensor, an improved anisotropic diffusion model is implemented based on different types of edges. The model is combined with Retinex algorithm to realize face image illumination compensation. The experimental results show that the improved anisotropic diffusion method can enhance the image brightness, prominent texture detail, and eliminate most light shadow at the same time enhancing face edge.
1 引言
相比于其他生物特征识别技术,人脸识别由于其隐蔽性和非接触性而得到广泛应用。随着其应用范围的扩大,人脸识别应用的环境越来越恶劣,识别的对象也越来越复杂,尤其是光照不均的人脸图像。对于光照变化环境下既有高光又有局部信息无法辨认的暗区人脸图像,有效信息无法提取,同时存在干扰信息(如光照变化引起的人脸伪边缘),使得人脸识别在非均光照下识别率较低而误判率较高,因此研究有效的非均匀光照环境下人脸图像的光照处理方法是一个值得研究和探索的课题。
目前,国内外学者在针对低照度非均匀光照环境下人脸图像的光照处理中已取得不少成果,主要分为重新构造光源模型和采用图像增强方法两类。重新构造光源模型需要大量处于不同光照情况下的图像,数据量大、计算复杂,使用范围受到一定程度的限制。对于图像增强的方法,从初期的空域方法到频域、梯度域方法[1],再到神经网络[2-3]、深度学习[4]方法。经典的直方图均衡化方法[5]、自适应Gamma校正方法[6]在增强图像的对比度和清晰度的同时对图像中较暗的区域增加明显的噪声;基于入射分量和反射分量的同态滤波算法和Retinex算法得到广泛关注并取得很好的处理效果;随着研究的深入,小波理论及其衍生[7]成了图像光照处理的热点;近来,模拟人眼视觉系统对图像的感知能力的脉冲耦合神经网络模型[8]也成了图像光照处理的主流之一。上述方法能够提升图像的整体亮度,恢复阴影区域的细节信息,但仍然存在一定的不足:1) 涉及的参数很多,不易选取,如果参数选取不当,效果会不理想;2) 对比度不强,丢失了一些纹理细节信息,不能完全消除阴影边缘。
Retinex算法早期用于去雾,能改善清晰度,丰富图像的细节信息,达到更舒适的视觉效果。但对于同时有低亮度、高亮度和阴影区域的图像,这种方法存在雾化现象,且处理后的图像仍有明显的阴影。文献[ 9]提出自适应平滑Retinex算法,来消除了光照的影响,这种方法在平滑光照边缘的同时使一些局部细节信息被平滑了;Weickert结构张量能够对图像的线性结构和均匀结构进行判断;Saint-Marc等[10]提出了一个具有各向异性扩散特性的指数函数。受到上述方法和理论的启发,针对大角度斜光照、较暗环境下的图像,为了抑制由于光照引起的伪边缘特征,本文在判断出人脸真实边缘和伪边缘的基础上,引入Weickert结构张量确定图像的线性结构和平滑区域并重新赋值,将所得的结果代入Saint-Marc的各向异性扩散函数来改进Retinex算法,在增强人脸边缘信息的同时平滑了光照引起的伪边缘,使图像中阴影区域的细节信息得到很好展现,为不均衡光照下的图像的光照补偿提供一种思路。
2 传统Retinex方法
基于光的反射原理,Land等在20世纪70年代提出了Retinex理论[11],将人眼视觉中的颜色恒常性和稳定的亮度感知能力用理论模型表达出来。根据Retinex理论,图像由入射分量和反射分量构成,数学表达式为
式中:
对(1)式两边取对数,得:
这样处理后将两者的乘积关系转换成简单的相加关系,同时对数变换还能有效扩展被压缩的高值图像中的暗像素,符合人类视觉对光线的亮度感知能力。
运用Retinex理论对图像进行处理的方法,都是为了准确地估计出光照分量
2.1 单尺度Retinex算法
Jobson等[12]定义了单尺度Retinex(SSR)算法,该算法的表述为
式中:
2.2 多尺度Retinex算法
由于SSR不能同时实现图像动态范围压缩和色调再现,为了克服这种不足,研究者们给不同尺度下的SSR分配合适的权值,通过对SSR的加权求和得到多尺度Retinex(MSR)算法 [13-15],该方法表述为
式中:
对于同时含有低亮度、高亮度和阴影区域的图像,多尺度Retinex算法不能有效地去除阴影边缘。葛微等[9]基于Retinex算法,将梯度域的传导函数引入Retinex算法中,提出了改进的自适应平滑Retinex算法,将人脸的主要特征突显出来;但在设计传导函数时只考虑了单向的扩散,但是平滑光照引起伪边缘的同时将有用的边缘信息也平滑了,并且图像中存在大量椒盐噪声。唐磊等[16]针对路面图像阴影提出了基于中心环绕的各向异性Retinex算法,这种算法对于灰度比较均匀、只有阴影和非阴影的图像,具有较好效果;但对于人脸图像,即灰度级多、纹理信息丰富、非刚性对象,不再适用。为了淡化大角度倾斜光照下人脸图像中的阴影,对光照引起的人脸伪边缘进行判断就是基础而关键的步骤。
3 结合光照方向和Retinex算法的人脸图像光照处理
3.1 人脸边缘特征的判断和光照方向的分析
为实现阴影边缘检测的准确性,本文以传统的边缘检测为基础,在研究光照边缘与人脸边缘几何特性的基础上,将多种几何特性结合起来,并利用形态学方法对阴影边缘进行区分,提取出阴影边缘所处的区间邻域。
3.1.1 基于统计特性的光照方向分析
文献[
17]基于球面模型来近似图像的光照方向,但人脸图像中除了人脸部、额头等区域沿不同的方向都可以看作球面模型,当结合鼻子等整个人脸,沿垂直于光照方向看则未必满足球面模型了,因此,这种方法具有一定的局限性。沈耀强等[18]通过子空间方法确定人脸图像的光照方向,这种方法需要多组不同光照方向下的人脸图像作为先验知识,计算量较大。本文方法只需要根据光照的方向来判断人脸阴影的方向,因此,采用像素统计的方法即可完成光照方向的判断,这与人眼可看到的视觉效果相符合。根据光源方向自适应近似确定一个能完成图像边缘特征曲率方向判断的光源位置,设图像
式中:求
图 1. 图像行、列像素均值。(a)(d)原始图像;(b)(e)列像素均值;(c)(f)行像素均值
Fig. 1. Pixel mean of image row and column. (a)(d) Original image; (b)(e) pixel mean in column; (c)(f) pixel mean in row
3.1.2 多种几何特征联合的光照边缘区分
1) 图像离散曲率
在数字图像中,曲率常指离散目标中沿离散点序列的方向变化[19]。根据曲率理论,对数字图像中的离散曲率作类似的定义,如
式中
为了减少曲率受边界方向局部变化的影响,在像素点
设
中心像素
由于数字图像在边缘检测中会出现角点,为了减小曲率误差的影响,对曲线
式中
2) 图像离散斜率
对于离散图像,曲率的存在是有一定条件的,有的光照引起的近似直线边缘不存在曲率,因此需要通过斜率的变化来判断,边缘的离散斜率的变化在以点
对于一条曲线,如果
3.1.3 人脸边缘与光照边缘的区分
基于微分的Prewitt算子从一定程度上反映了图像边缘像素的分布,和其他典型的微分算子(如Roberts算子、用Sobel算子、Canny算子等)相比,Prewitt算子能提取最主要的边缘特征。对于不均匀光照或角度偏差较大的环境下的人脸图像,光照引起的伪边缘一般比较明显,并且边缘较长,这些边缘正符合Prewitt算子提取的边缘的特点,因此,本文选用Prewitt算子提取人脸图像的边缘。
由于光照引起的伪边缘清晰,且具有分布不均的特点。除了曲率、斜率、光照方向阴影伪边缘的条件,还根据人脸边缘的特征对边缘的长度和对称性进行判断。同时对于正面人脸,人脸的边缘一般具有相似对称性,因此需要满足基本对称的另一条边缘,否则就是光照引起的伪边缘。
归纳上述几个特性,满足以下条件之一的都是光照引起的伪边缘,判断的人脸伪边缘所处的邻域记为
1) 伪边缘主要是由于鼻子、脸颊、额头、下颚等凸出部位遮挡光照造成的阴影,根据经验会出现2~3个比较长的边缘。因此,本文将边缘的长度(像素个数)从大到小排列,在所有的边缘中排名前三,即{
2) |Δ
图 3. 人脸伪边缘提取。(a)原始图像;(b)人脸边缘;(c)直角坐标系下的边缘;(d)连通域最大且不具有对称性的伪边缘
Fig. 3. Face false edge extraction. (a) Original image; (b) face edge; (c) edge of a Cartesian coordinate system; (d) false edge of largest connected domain and no symmetry
图 4. 斜率较小的人脸伪边缘。(a) t=0;(b) t=0.1;(c) t=0.2;(d) t=0.3
Fig. 4. Face false edge of small slope. (a) t=0; (b) t=0.1; (c) t=0.2; (d) t=0.3
3) 曲线的曲率较小(相比较于眼部特征曲线的曲率,以免将真实的眼部特征边缘判断为伪边缘),曲率方向和光源方向相反。设近似确定的光源的坐标为
图 5. 曲率较小且与光源方向相反的伪边缘
Fig. 5. False edge with a small curvature and opposite direction of the light source
3.2 Weickert结构张量极其改进
在人脸特征提取中,伪边缘由于特征突出,很容易被当作人脸特征用于后期的人脸识别;因此,在对人脸进行光照补偿时,要对伪边缘进行平滑,对真实的人脸边缘特征进行增强。
基于非线性扩散Perona-Malik模型(简称PM模型)只考虑了图像边缘梯度的模,没有考虑梯度的方向。Weickert重新定义了一个既与图像梯度的大小,又与梯度方向有关的结构张量。
对于图像
式中
该局部张量[1]
对应的特征值为
特征值
对于光照不均、存在阴影的图像,完全通过
式中
图 6. 改进前后需增强边缘标记结果。(a)原图;(b)~(f) m为0.01、0.03、0.05、0.07、0.1时改进后的边缘标记结果;(g)~(k)对应的改进前的边缘标记结果
Fig. 6. Edge markup results need to be enhanced before and after improvement. (a) Original image; (b)-(f) improved edge markup results with m is 0.01、0.03、0.05、0.07、0.1, respectively; (g)-(k) corresponding edge markup results before improvement
从
3.3 改进各向异性扩散应用于Retinex算法
在对Weickert结构张量的特征值进行了重新赋值的基础上,通过
式中
将Retinex算法中的环境函数
本文方法的实现流程如
本文算法的具体步骤如下:
1) 对原始图像进行经典Retinex光照补偿;
2) 对步骤1)得到的图像进行边缘检测,根据(15)式判断伪边缘;
3) 根据(16)~(18)式求Weickert结构张量及其对应的特征值
4) 利用(19)式标记出伪边缘对应的低照度区域
5) 将步骤2)~4)得到的值代入(22)式;
6) 将(5)式中的环境函数用(22)式代替,利用(5)式得出光照补偿后的图像。
4 实验对比及分析
4.1 不同光照角度和强度下的实验
为了证明本文方法的有效性,
图 8. 光照角度为0°。(a)原图;(b)改进MSR;(c) PCNN;(d)自适应Gamma校正;(e)本文方法
Fig. 8. Illumination angle is 0°. (a) Original image; (b) improved MSR; (c) PCNN; (d) adaptive Gamma correction; (e) proposed method
图 9. 光照角度为+15°。 (a)原图;(b)改进MSR;(c) PCNN;(d)自适应Gamma校正;(e)本文方法
Fig. 9. Illumination angle is 15°. (a) Original image; (b) improved MSR; (c) PCNN; (d) adaptive Gamma correction; (e) proposed method
图 10. 光照角度为-20°。(a)原图;(b)改进MSR;(c) PCNN;(d)自适应Gamma校正;(e)本文方法
Fig. 10. Illumination angle is -20°. (a) Original image; (b) improved MSR; (c) PCNN; (d) adaptive Gamma correction; (e) proposed method
图 11. 光照角度为+65°。 (a)原图;(b)改进MSR;(c) PCNN;(d)自适应Gamma校正;(e)本文方法
Fig. 11. Illumination angle is +65°. (a) Original image; (b) improved MSR; (c) PCNN; (d) adaptive Gamma correction; (e) proposed method
图 12. 光照角度为+90°。 (a)原图;(b)改进MSR;(c) PCNN;(d)自适应Gamma校正;(e)本文方法
Fig. 12. Illumination angle is +90°. (a) Original image; (b) improved MSR; (c) PCNN; (d) adaptive Gamma correction; (e) proposed method
从
除了自然光照下的图像,还选取了MCU-PIE人脸数据库中Illum子集中三幅处于不同光照角度非自然光下的人脸图像,处理结果如
图 13. MCU PIE人脸数据库中的实验。 (a)原图;(b)改进MSR;(c) PCNN;(d)本文方法
Fig. 13. Experiment of MCU PIE face database. (a) Original images; (b) improved MSR; (c) PCNN; (d) proposed method
从
4.2 补偿效果指标评价
对于不同角度、非均匀光照下的图像,其评价指标需要既能衡量图像整体亮度、对比度的增强效果,又能代表光照不均匀区域的亮度和阴影区域中细节信息得到展现的效果。图像的均值[19]能够反映图像整体亮度;标准差(RMSD)能反映图像的整体对比度大小,标准差是对整幅图像而言,有时候需要衡量局部特征;而局部标准差(LSD)[20]能反映图像局部区域内的对比度大小和细节边缘的清晰程度,对于图像局部细节特征分析而言,局部标准差的评价更有意义;基于对比敏感度的无参考图像清晰度评价(CSFNRS)[21]比较全面地反映了图像的各项结构信息,注重图像细节内容的完整性,对不同模糊类型图像的评价接近于人眼的视觉特性。用上述4个参数对
表 1. 实验图像的评价结果
Table 1. Evaluation values of test image
|
根据图像光照补偿的评价参数可以看出,改进多尺度Retinex方法、PCNN方法、自适应Gamma校正方法和本文方法都能使图像整体亮度得到提高;在前两种方法中可以明显看到阴影的存在并有明显的分界线;自适应Gamma校正方法在对比度增强的同时增强了阴影边缘的对比度;从整体亮度、局部标准差和清晰度看,本文方法都具有一定的优势。
为了进一步验证光照补偿的效果,选择Yale B人脸数据库中的图像质量较差的部分图像,根据光照环境的优劣分成4种不同的子集:子集1代表整体较暗的图片;子集2是有50%左右的暗区;子集3有80%左右的暗区;子集4有95%左右的暗区。在Yale B人脸数据库中选择10个人,每人5幅光照环境较理想的图像作为人脸样本;每个人在每种子集下选5张共200幅图片,通过上述方法进行光照补偿,把处理后的图像作为人脸识别测试图片,采用结合局部子块的局部二值模式(LBP)识别方法进行人脸识别,测试结果如
5 结论
针对不同角度、非均匀光照环境下的图像,利用水平、垂直方向像素值判断光照方向,引入曲率、斜率等几何数据,分析并区分出人脸阴影伪边缘,将Weickert的结构张量和Saint-Marc的具有各向异性扩散特性的指数函数相结合,用于Retinex光照补偿算法。实验结果表明,提出的改进算法能够克服传统Retinex和PCNN在光照补偿中不能消除阴影和引起雾化现象等缺点,在一定程度上淡化图像中的阴影、消除阴影边缘,并使细节信息得到展现,使人脸识别率有所提高,降低了人脸误判率。由于文中采用曲率、斜率等几何数据,可能会导致细小伪边缘的误判而增加噪声。
[1] 冯象初, 王卫卫. 图像处理的变分和偏微分方程方法[M]. 北京: 科学出版社, 2009: 162- 173.
Feng XC, Wang WW. Variational and partial differential equation method for image processing[M]. Beijing: Science Press, 2009: 162- 173.
[2] 梁康康, 李涛. 神经网络的高反差图像增强算法研究[J]. 计算机技术与发展, 2017, 27(9): 97-100.
[3] 肖进胜, 刘恩雨, 朱力, 等. 改进的基于卷积神经网络的图像超分辨率算法[J]. 光学学报, 2017, 37(3): 0318011.
[4] 杨超, 杨斌, 黄国玉. 基于多光谱图像超分辨率处理的遥感图像融合[J]. 激光与光电子学进展, 2016, 53(2): 021001.
[6] 武娜. 复杂光照下的人脸识别方法的研究[D]. 杭州: 杭州电子科技大学, 2016: 17- 26.
WuN. The research of face recognition under illumination variations[D]. Hangzhou: Hangzhou Dianzi University, 2016: 17- 26.
[7] 王明蓉, 蒋树清. 光照不均图像自适应增强方法[J]. 激光杂志, 2017, 38(6): 74-77.
[8] 张谦, 周浦城, 薛模根, 等. 一种结合IGM和改进PCNN的图像增强方法[J]. 光电工程, 2017, 44(9): 888-894.
[9] 葛微, 李桂菊, 程宇奇, 等. 利用改进的Retinex进行人脸图像光照处理[J]. 光学精密工程, 2010, 18(4): 1011-1020.
[11] Land E H. McCann J. Lightness and retinex theory[J]. Journal of Optical Society of America, 1971, 61(1): 1-11.
[15] 余萍, 郝成成. 基于分数阶微分和多尺度Retinex联合的雾霭图像增强算法[J]. 激光与光电子学进展, 2018, 55(1): 011012.
[16] 唐磊, 赵春霞, 王鸿南, 等. 基于各向异性Retinex的路面图像阴影消除[J]. 中国图象图形学报, 2008, 13(2): 264-268.
[17] 张雯, 梁艳梅, 常胜江. 基于方向扫描的图像光照补偿算法[J]. 光电子·激光, 2010, 21(3): 435-439.
[18] 沈耀强, 李久贤, 金立左. 基于光照方向估计的人脸图像阴影补偿[J]. 工业控制计算机, 2013, 26(10): 97-98,100.
[19] 朱洪玲, 刘畅, 张博, 等. 激光超声可视化图像处理研究[J]. 中国激光, 2018, 45(1): 0104004.
[20] 沈瑜, 党建武, 王阳萍, 等. 基于Tetrolet变换的彩色水下图像清晰化算法[J]. 光学学报, 2017, 37(9): 0910002.
[21] 范媛媛, 沈湘衡, 桑英军. 基于对比度敏感度的无参考图像清晰度评价[J]. 光学精密工程, 2011, 19(10): 2485-2493.
Article Outline
杨梅, 谭泽富, 蔡黎, 姚雪. 基于各向异性Retinex的人脸图像光照补偿[J]. 激光与光电子学进展, 2018, 55(12): 121007. Mei Yang, Zefu Tan, Li Cai, Xue Yao. Illumination Compensation for Face Images Based on Anisotropic Retinex[J]. Laser & Optoelectronics Progress, 2018, 55(12): 121007.