基于白平衡和相对全变分的低照度水下图像增强 下载: 1157次
1 引言
水下图像在图像分类、目标检测等计算机视觉领域扮演着重要角色。然而由于低光照水下环境光照范围有限,获取的水下图像物体辨识度差,能见度低,使低照度水下图像增强成为一项具有挑战性的水下计算机视觉任务。光照不足时,水下图像存在亮度和对比度低、区域特征不明显、细节模糊等问题,不同光谱区域的光在水中的衰减速率不同,导致图像出现色偏和伪影,这些问题给图像预处理阶段带来极大的困难。因此低照度水下图像增强算法在海洋工程中具有重要研究价值。
目前,传统的低照度图像增强算法大概可以分为以下几类:基于直方图均衡的方法[1-2]、基于暗通道先验的方法[3-5]、基于色调映射的方法[6-8]以及基于Retinex模型的算法[9-10]等。近年来,基于全变分的低照度图像增强算法取得了较好的图像增强效果,为低照度水下图像增强提供了新的研究思路。文献[ 11]提出一种基于相对全变分(RTV)[12]的低照度图像增强算法,采用相对全变分约束来估计照度图,然后代入低照度成像模型,得到增强的图像,该算法较好地增强了图像亮度和细节,但由于相对全变分约束在分离照度图的结构和纹理时,会将噪声当作结构保留下来,从而放大图像的噪声。因此,文献[ 13]在其基础上将图像从RGB颜色空间转换到YCbCr颜色空间,然后采用BM3D算法[14]对亮度通道Y进行自适应去噪。文献[ 15]在文献[ 13]的低照度图像形成模型上增加了一个噪声项,采用相对全变分约束估计照度图和噪声图,提高了图像亮度,降低了噪声。然而不同于地面环境,水对光的选择性吸收以及水中悬浮粒子对光的散射导致图像出现色偏和模糊。因此,面向地面图像的低照度图像增强算法,不能很好地用于增强低照度水下图像。
针对基于相对全变分的低照度图像增强算法应用在水下图像处理中的局限性,本文提出一种基于白平衡和相对全变分的低照度水下图像增强算法,对图像的红、绿通道进行全局光照补偿以提高图像亮度,并采用灰度世界算法[16]去除图像色偏;通过相对全变分约束估计照度图,为了更好地平滑照度图纹理,增强结构,将原始相对全变分中的高斯滤波替换成引导滤波,以得到准确估计的照度图,最后将照度图代入低照度图像形成模型,得到反射图像,即颜色校正和细节增强的水下图像。
2 基本理论
2.1 灰度世界算法
灰度世界算法是常用的白平衡算法,其假设自然界中的物体对于光线的平均反射率是一个定值。基于该假设,灰度世界算法能够有效地校正由水下光照特性引起的色偏,从而恢复出图像本来的颜色。算法具体过程如下:
1) 计算水下图像的平均灰度值:
式中:
2) 基于平均反射率
式中:kr、kg、kb分别为红、绿、蓝通道的增益系数。
3) 基于各通道的增益系数,对每个通道进行灰度变换:
式中:p为图像的像素点;Ir(p)、Ig(p)、Ib(p)分别为三个通道灰度变换前的像素值;I'r(p)、I'g(p)、I'b(p)分别为三个通道灰度变换后的像素值。
该算法能够较好地去除图像色偏,改善图像颜色失真的问题,但该算法仅适用于颜色丰富的图像,因此在使用该算法前,对图像进行预处理,使灰度世界算法更好地校正水下图像色偏。
2.2 引导滤波
引导滤波[17]算法利用引导图指导输入图像的滤波过程,使输出图像保留输入图像的整体特征,并且与引导图像的纹理部分相似。该算法具有平滑图像细节、保留图像边缘、计算速度快等特点。引导滤波假设引导图像与滤波输出的图像存在局部线性关系,该关系模型可表示为
式中:J(p)为引导滤波输出的图像;I(p)为引导图像;aq和bq为该线性函数的系数;Ω(p)为以像素点p为中心的局部窗口。
通过求解系数aq和bq的最优解,使滤波输出图像J(p)和输入图像之间的差值最小,即最小化代价函数,代价函数可表示为
式中:X(p)为输入图像;λ为正则化系数。为避免aq的值过大,通过该函数求出aq和bq,从而求出滤波输出图像J(p)。
引导滤波算法能够很好地对照度图进行精细化,实现保边平滑的效果。
2.3 相对全变分
相对全变分模型[12]能够较好地分离图像纹理细节和主结构,从而实现图像对比度增强,相对全变分模型可表示为
式中:ε=0.001;Dx(p)=
D(p)用于计算局部区域Ω(p)内的绝对空间差,局部区域中图像纹理和结构越多时,D(p)的值越大。由于在相同方向上局部窗口中的结构比纹理的梯度值更大,因此只包含结构的局部区域的L(p)值通常比只包含纹理的局部区域的L(p)值要大。结构部分的RTV(p)值比纹理部分的小,使得结构可以较好地从纹理中分离出来。
3 本文算法
本文基于白平衡和相对全变分的低照度水下图像增强方法包括两个步骤:1)基于白平衡方法的图像颜色校正;2)基于相对全变分的图像清晰度恢复。具体流程图如
3.1 基于白平衡的颜色修正
由于不同光谱区域的光在水中传播时的衰减速率不同,其中红光衰减最快,蓝绿光衰减最慢,因此水下图像通常呈现蓝绿色偏。灰度世界法在处理地面图像或者光照充足的水下图像时,能较好地校正图像颜色,但应用于低照度水下图像会失效,这是由于低照度水下图像的红、绿、蓝三通道的像素均值很低,图像颜色不够丰富,且存在部分黑色或灰色区域。
Ancuti等[18]在2018年提出一种新的白平衡算法,该算法基于各个通道的像素差值对红通道和蓝通道进行补偿,然后用灰度世界算法对颜色补偿后的图像进行颜色校正。
在此基础进行改进,基于以下三个理论对各通道进行全局光照补偿:
1) 在低光照条件下,红光和绿光严重衰减,图像的蓝通道相对红、绿通道有更高的灰度值,因此用蓝通道来补偿红、绿通道;
2) 在对红通道进行补偿时,由于灰度世界假设所有通道的均值相同,而红通道均值和绿通道均值的差值体现了红、绿通道衰减的不平衡性,因此基于该差值对红通道进行补偿,对绿通道的补偿也是如此;
3) 为了避免红、绿通道过饱和,只对红、绿通道值较小的区域进行补偿。
补偿后的红通道像素值为
式中:
补偿后的绿通道在每个像素位置p的像素值为
式中:
在对红、绿通道进行补偿后,采用灰度世界算法去除图像色偏,得到颜色校正后的水下图像。
观察
3.2 基于相对全变分的图像清晰度恢复
反转后的低照度图像相似于雾天图像,基于该现象,文献[ 19-21]提出了一种低照度成像模型,具体模型为
式中:a=0.9;I是已知的低照度图像;1-I是反转后的低照度图像;R是反射图,即增强亮度和细节后的清晰图像;T是图像的照度图。
图 2. 低照度水下图像及颜色校正结果。(a)低照度水下图像;(b)颜色校正的结果
Fig. 2. Color correction results of low illumination underwater images. (a) Low illumination underwater images; (b) color correction results
由于本文经过颜色校正后的水下图像仍然是低照度的,因此该模型同样适用于该低光照水下图像的增强。基于该模型,准确地估计照度图是增强图像亮度和细节的关键,因此本文的照度图估计过程如下。
首先初始化照度图:
式中:
照度图反映的是图像每个区域的光照强度,精确的照度图应该在纹理细节上是平滑的,同时还能保持整体结构,即具有局部一致性和结构性,然而(10)式中初始化的照度图保证了局部一致性,但缺乏结构性,因此本文采用基于相对全变分的方法来优化照度图,优化的目标函数可表示为
式中:λ为常系数,用来平衡前后两项;‖·‖F为Frobenious范数;‖·‖1为L1范数;W为照度图平滑权重。在(11)式中,第一项保证精细后的照度图T和初始化的照度图
为了精细化照度图,基于相对全变分理论,x方向上的权重Wx(p)可表示为
式中:Gp,q为引导滤波函数;类似地,可以求出y方向上的权重Wy(p)。在RTV模型中采用高斯函数gp,q来平滑照度图,然而由于高斯函数在平滑照度图纹理细节的同时将结构也平滑掉,因此为了更好地保留照度图的结构,这里采用引导滤波,(11)式具体可以写为
由于(13)式中的权值是根据初始化照度图
(13)式中的参数λ用于控制照度图的平滑程度,
图 3. 照度图估计结果。(a)原图; (b) λ=0.01;(c) λ=0.02;(d) λ=0.03;(e) λ=0.04;(f) λ=0.05
Fig. 3. Estimation results of illuminance diagram. (a) Original image; (b) λ=0.01; (c) λ=0.02; (d) λ=0.03; (e) λ=0.04; (f) λ=0.05
由
4 实验结果与分析
本文方法在MATLAB软件平台上实现,为了验证算法在处理低照度水下图像时的有效性,分别采用本文方法和CLAHE[1]、DCP[4]、Retinex算法[10]、Dehaze算法[22]、VCIP算法[23]、RTV算法[15]对低照度水下图像进行增强,并对增强结果进行主观评价、客观分析及应用比较实验。
4.1 主观评价
在水下图像数据集中挑选10幅具有代表性的低照度水下图像,利用CLAHE[1]、DCP[4]、Retinex算法[10]、Dehaze算法[22]、VCIP算法[23]、RTV算法[15]和本文方法对低照度水下图像进行处理,处理结果如
图 4. 各方法增强结果对比。(a)原图;(b) CLAHE;(c) DCP;(d) Retinex;(e) Dehaze;(f) VCIP;(g) RTV;(h)本文方法
Fig. 4. Comparison of enhancement results of each algorithm. (a) Original image; (b) CLAHE; (c) DCP; (d) Retinex; (e) Dehaze; (f) VCIP; (g) RTV; (h) our method
观察
4.2 客观比较
本文采用一种常用的水下图像质量评价指标(UIQM,其值用UIQM表示)[24]对增强后的水下图像进行客观评价,该指标有三个水下图像属性度量指标:色彩度量指标 (UICM,其值用UICM表示) 、清晰度度量指标(UISM,其值用UISM表示)、对比度度量指标(UIConM,其值用UIConM表示),UIQM是三个指标的线性组合,可表示为
式中:c1、c2、c3为权重参数,根据文献[ 24]分别设置c1=0.0282,c2=0.2953,c3=3.5753。
对60张低照度水下图像的各评价指标求均值,对比结果如
表 1. 水下图像的客观评价结果
Table 1. Objective evaluation results of underwater images
|
由
4.3 应用比较实验
尺度不变特征变换(SIFT)[25]特征点匹配在目标识别、目标跟踪等计算机视觉任务中起到了至关重要的作用,因此本文将各算法的图像增强结果应用于特征点匹配,并对特征点匹配结果进行对比,两组图像的比较结果如
图 5. 基于SIFT应用的比较结果(第1组)。(a)原图;(b) CLAHE;(c) DCP;(d) Retinex;(e) Dehaze;(f) VCIP; (g) RTV;(h)本文方法
Fig. 5. Comparison of results based on SIFT application (the first group). (a) Original image; (b) CLAHE; (c) DCP; (d) Retinex; (e) Dehaze; (f) VCIP; (g) RTV; (h) our method
图 6. 基于SIFT应用的比较结果(第2组)。(a)原图;(b) CLAHE;(c) DCP;(d) Retinex;(e) Dehaze;(f) VCIP; (g) RTV;(h)本文方法
Fig. 6. Comparison of results based on SIFT application (the second group). (a) Original image; (b) CLAHE; (c) DCP; (d) Retinex; (e) Dehaze; (f) VCIP; (g) RTV; (h) our method
在
5 结论
根据低照度水下图像特点,提出了一种基于白平衡和相对全变分的低照度水下图像增强算法,该算法采用全局光照补偿提高了图像整体亮度,使灰度世界算法对图像有更好的颜色校正效果;根据引导滤波的特性构造相对全变分约束,提高了照度图的局部一致性和结构性,从而提高了水下图像的清晰度。实验结果证明,相比其他增强算法,本文算法有更好的视觉效果。
[1] ZuiderveldK. Contrast limited adaptive histogram equalization[M]. Amsterdam: Elsevier, 1994: 474- 485.
[2] Singh K, Kapoor R, Sinha S K. Enhancement of low exposure images via recursive histogram equalization algorithms[J]. Optik, 2015, 126(20): 2619-2625.
[3] 杨爱萍, 白煌煌. 基于Retinex理论和暗通道先验的夜间图像去雾算法[J]. 激光与光电子学进展, 2017, 54(4): 041002.
[4] Peng Y T, Cao K M, Cosman P C. Generalization of the dark channel prior for single image restoration[J]. IEEE Transactions on Image Processing, 2018, 27(6): 2856-2868.
[5] 卢辉斌, 赵燕芳, 赵永杰, 等. 基于亮通道和暗通道结合的图像去雾[J]. 光学学报, 2018, 38(11): 1115004.
[6] 贾新宇, 李婷婷, 江朝晖, 等. 基因表达式编程优化的色调保持低照度图像增强[J]. 激光与光电子学进展, 2019, 56(9): 091502.
[7] 宋瑞霞, 李达, 余建德. DT-CWT和色调映射相结合的低照度图像增强算法[J]. 计算机辅助设计与图形学学报, 2018, 30(7): 1305-1312.
Song R X, Li D, Yu J D. Low illumination image enhancement algorithm based on DT-CWT and tone mapping[J]. Journal of Computer-Aided Design & Computer Graphics, 2018, 30(7): 1305-1312.
[8] 杨爱萍, 赵美琪, 宋曹春洋, 等. 基于色调映射和暗通道融合的弱光图像增强[J]. 天津大学学报, 2018, 51(7): 768-776.
Yang A P, Zhao M Q, Song C Y, et al. Low-light image enhancement based on tone mapping and dark channel fusion[J]. Journal of Tianjin University, 2018, 51(7): 768-776.
[9] 杨梅, 谭泽富, 蔡黎, 等. 基于各向异性Retinex的人脸图像光照补偿[J]. 激光与光电子学进展, 2018, 55(12): 121007.
[10] 张杰, 周浦城, 张谦. 基于迭代多尺度引导滤波Retinex的低照度图像增强[J]. 图学学报, 2018, 39(1): 1-11.
Zhang J, Zhou P C, Zhang Q. Low-light image enhancement based on iterative multi-scale guided filter retinex[J]. Journal of Graphics, 2018, 39(1): 1-11.
[11] Guo X J. LIME: a method for low-lightIMage enhancement[EB/OL]. ( 2016-05-17)[2019-09-01]. https: ∥arxiv.org/abs/1605. 05034.
[12] Xu L, Yan Q, Xia Y, et al. Structure extraction from texture via relative total variation[J]. ACM Transactions on Graphics, 2012, 31(6): 1-10.
[13] Guo X J, Li Y, Ling H B. LIME: low-light image enhancement via illumination map estimation[J]. IEEE Transactions on Image Processing, 2017, 26(2): 982-993.
[14] Dabov K, Foi A, Katkovnik V, et al. Image denoising by sparse 3-D transform-domain collaborative filtering[J]. IEEE Transactions on Image Processing, 2007, 16(8): 2080-2095.
[15] Li M D, Liu J Y, Yang W H, et al. Structure-revealing low-light image enhancement via robust retinex model[J]. IEEE Transactions on Image Processing, 2018, 27(6): 2828-2841.
[16] Buchsbaum G. A spatial processor model for object colour perception[J]. Journal of the Franklin Institute, 1980, 310(1): 1-26.
[17] He K M, Sun J, Tang X O. Guided image filtering[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2010, 35(6): 1397-1409.
[18] Ancuti C O. Ancuti C, de Vleeschouwer C, et al. Color balance and fusion for underwater image enhancement[J]. IEEE Transactions on Image Processing, 2018, 27(1): 379-393.
[20] Narasimhan S G, Nayar S K. Contrast restoration of weather degraded images[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2003, 25(6): 713-724.
[21] Meng GF, WangY, Duan JY, et al. Efficient image dehazing with boundary constraint and contextual regularization[C]∥2013 IEEE International Conference on Computer Vision, December 1-8, 2013, Sydney, Australia. IEEE, 2013: 617- 624.
[22] Cai B L, Xu X M, Jia K, et al. DehazeNet: an end-to-end system for single image haze removal[J]. IEEE Transactions on Image Processing, 2016, 25(11): 5187-5198.
[23] Zhang WH, LiG, Ying ZQ. A new underwater image enhancing method via color correction and illumination adjustment[C]∥2017 IEEE Visual Communications and Image Processing (VCIP), December 10-13, 2017, St. Petersburg, FL. IEEE, 2017: 1- 4.
[24] Panetta K, Gao C, Agaian S. Human-visual-system-inspired underwater image quality measures[J]. IEEE Journal of Oceanic Engineering, 2016, 41(3): 541-551.
Article Outline
张薇, 郭继昌. 基于白平衡和相对全变分的低照度水下图像增强[J]. 激光与光电子学进展, 2020, 57(12): 121016. Wei Zhang, Jichang Guo. Low-Illumination Underwater Image Enhancement Based on White Balance and Relative Total Variation[J]. Laser & Optoelectronics Progress, 2020, 57(12): 121016.