基于快速有限剪切波变换与引导滤波的多聚焦图像融合算法 下载: 1413次
1 引言
可见光成像系统的聚焦范围有限,会使处于聚焦区域外的目标成像模糊。要获得场景内所有物体都清晰的图像,可通过多聚焦图像融合技术来实现[1]。多聚焦图像融合是指将来自多个(2个或2个以上)传感器的关于同一场景的不同聚焦位置的图像综合起来,从而获取更全面、更可靠的场景描述,以利于目标识别和探测,在**监测、医学图像分析、远程遥感方面都有广泛应用[2]。研究者们提出了许多高效的多聚焦图像融合算法,如多尺度分析[3]、显著性分析[4]、模糊逻辑[5]、神经网络[6]等。在这些算法中,基于多尺度分析的图像融合算法由于能够提取图像的显著信息受到了广大研究者的青睐,其图像融合过程一般包含以下3步:源图像分解、图像系数融合和图像系数重构。传统的小波变换在分解图像时只有3个(水平、垂直和对角)方向,因而不能最优地表示具有曲线奇异性的二维图像或者具有面奇异性的高维函数[7]。为了避免小波变换的缺陷,曲波变换[8]、轮廓波变换[9]、剪切波变换[10]等多尺度几何分析(MGA)方法相继被提出。其中,剪切波变换克服了小波变换的不足,继承了曲波变换的优良特性,具有比轮廓波变换更强的方向敏感性,且数学结构简单,可有效地提升运算效率,弥补非下采样轮廓波变换(NSCT)[11]的弊端,在图像去噪、图像分割及图像融合等方面都得到应用[12]。然而,剪切波变换在离散化过程中采用了下采样操作,因而不具备平移不变性,在应用于图像去噪、图像融合时易在奇异点附近产生伪布吉斯现象[13]。快速有限剪切波变换(FFST)[14]通过级联非下采样金字塔滤波器和剪切滤波器,具有剪切波变换的所有优点,且避免了下采样操作过程,因而具有平移不变性,可以有效减少因配准误差带来的影响,因而更适用于图像融合[15]。
在多聚焦图像融合中,虽然MGA能够提取图像中的显著信息,但由于未充分考虑空间一致性,融合图像可能出现光晕或伪影现象[16]。Li等[17]提出了一种基于引导滤波的加权平均多聚焦图像融合算法,有效避免了上述现象的出现,但仍然存在不足:一方面,拉普拉斯算子生成的显著图不能很好地表示图像中的视觉显著特征;另一方面,算法未考虑多方向分解,这可能会导致图像细节丢失。为此,杨航等[18]提出了基于多尺度引导滤波的多聚焦图像融合方法,其主要思想是借助引导滤波器把一幅图像分解为一幅基础图像和多幅细节图像,然后提出一种基于引导滤波的加权方法从而实现图像融合。该方法丰富了融合后图像的信息,有效地提取了原始图像的细节特征,但由于过程中涉及多次图像引导滤波,因此融合后的图像对比度下降。本文综合FFST优良的细节表现特性和引导滤波良好的边缘梯度保持能力[19-20],提出一种基于FFST与引导滤波的多聚焦图像融合算法,对源图像进行分解后,分别针对高低频系数的特性,设计相应的融合策略,最后通过对多组图像的融合实验验证本文算法的性能。
2 相关理论
2.1 FFST
剪切波变换通过对基函数进行缩放、剪切、平移等仿射变换而生成具有不同特征的剪切波函数。基于剪切波变换的图像分解分为:1) 应用拉普拉斯金字塔算法将图像分解成不同尺度下的低频子带和高频子带;2) 利用剪切滤波器对不同尺度子带进行方向剖分,从而实现图像的多尺度多方向分解,且分解后的子带图像与源图像的大小保持一致[13]。
FFST通过对剪切函数的伸缩、剪切,以及对平移参数进行离散化得到离散剪切波变换,定义为
其频域表达式为
式中A为控制尺度的各向异性膨胀矩阵,a∈R+,aj为尺度参数,j是分解尺度,Aaj为关联尺度变换,
由此,离散剪切波可被定义为
式中f为输入函数或图像,ϕ为尺度函数,h代表水平锥,v代表垂直锥,×代表锥面交叉线。(4)式的离散剪切波变换可以由傅里叶变换实现,运算速度快。FFST过程不存在下采样过程,因此具备平移不变性。
2.2 引导滤波
图像引导滤波器[21]是一种局部线性滤波器,与传统的滤波器(高斯滤波器、双边滤波器、联合双边滤波器等)相比,图像引导滤波器在保持图像边缘梯度的同时,能够增强图像的细节信息,保留输入图像的整体特征,广泛应用于图像去噪、图像去雾及图像融合。
假设引导滤波器的引导图像为I,输入图像为p,输出图像为q,则在以k为中心、r为半径的窗口ωk中,输出图像与引导图像存在以下线性关系:
式中ak、bk为窗口中的线性系数,均为常数,i、k为像素点坐标。从(5)式可以看出,Ñq=aÑI,这就保证了输出图像q与引导图像I的边缘一致性。为了使q与I的差别最小,将确定(5)式中线性系数的问题转化为最优化问题,引入代价函数E(ak,bk),它的定义为
式中ε为正则化参数,是为了防止系数ak过大而设置的。运用线性回归法对(6)式进行求解,可得出ak和bk的最优解:
式中w表示窗口ωk内像素点总数,μk=
3 融合规则
3.1 基于区域拉普拉斯能量和的低频融合规则
多尺度变换域的低频系数中包含有图像的大部分信息和能量,因此,低频系数融合规则的选取不容忽视。拉普拉斯能量和(SML)反映了图像的边缘特征信息,在一定程度上能恰当地反映图像的聚焦度和清晰度[22]。相对于图像的方差、空间频率以及梯度能量等清晰度评价指标,SML在融合图像时表现出明显的优越性。传统的SML存在如下不足[23]:1) 未突出区域中心像素的重要性;2) 没有考虑区域邻域像素与中心像素的距离对融合效果的影响;3) 只在水平和垂直方向上计算每个像素点的变步长拉普拉斯能量值(ML),未考虑对角方向[24]。为此,本文定义一种改进的拉普拉斯能量和(NSML),并据此来选择图像的低频系数,以获得视觉特性更佳、边缘信息更丰富的融合效果。
首先计算水平、垂直和斜对角线共8个方向上每个像素点改进的变步长拉普拉斯能量值(NML),增加了斜对角线上的4个方向,然后引入加权矩阵ω计算区域拉普拉斯能量和,(i,j)像素处改进的拉普拉斯能量值表示为
式中Ck0(i,j)表示图像位于(i,j)处像素点的低频分解系数,Δm、Δn为窗口内的可变步长,若窗口大小为m×n,则Δm=(m-1)/2,Δn=(n-1)/2。
那么(i,j)像素处改进的拉普拉斯能量和表示为
式中ω为区域NML加权矩阵,具体取值方法见文献[ 25]。
基于NSML的低频融合算法为
式中
3.2 基于引导滤波的区域能量加权高频融合规则
图像的高频系数包含图像的大部分细节特征。准确、有效地提取图像的细节信息,保持图像的边缘清晰,对图像融合效果有着直接影响。在图像融合中,利用基于区域能量的规则选择融合系数能够取得好的融合效果。人类视觉系统对边缘、方向、纹理等比较敏感,基于区域能量的规则可以满足这一要求。因此,本文采用区域能量重构高频系数加权矩阵。但是,图像中的噪声主要集中在高频部分,为了有效地抑制噪声对融合效果的影响,本文应用引导滤波对高频系数加权矩阵进行优化,使得亮度或颜色相近的相邻像素值也具有相近的权重,从而满足空间一致性。具体步骤如下。
1) 计算源图像高频系数的区域能量
式中(i,j)表示像素点位置,Ek,l为k尺度l方向的区域能量,Ck,l为源图像k尺度l方向的高频分解系数,ωe为能量权值矩阵。考虑到中心像素与相邻像素之间的距离,则:
2) 利用区域能量构建高频系数加权映射矩阵。
式中
3) 引导滤波优化权重矩阵。
式中n为待融合图像数;r为窗口半径;ε为正则化参数;
4) 高频系数重构。
式中Fk,l为k尺度l方向的高频融合系数,N为融合图像总数。
4 融合过程
本文假定所有源图像已严格配准,具体融合过程如下。
1) 利用FFST将源图像分解为低频系数{
2) 采用基于区域NSML的低频融合规则进行低频系数融合;
3) 采用基于引导滤波的区域能量加权高频融合规则进行高频系数融合;
4) 将步骤2)和步骤3)中融合后的低频和高频系数通过逆FFST重构得到融合图像。
5 实验结果及分析
为了验证本文算法的有效性和优越性,选取多组严格配准的多聚焦图像为样本,进行两组融合实验。第一组实验为不同变换域融合实验。考虑到图像融合中多尺度变换方法的多样性,针对本文算法,分别基于小波变换、曲波变换、轮廓波变换及FFST进行多尺度变换方法的对比实验,分解层数均为4。第二组实验为不同融合算法的比较实验。将本文算法与其他算法进行对比,并采用主观视觉评价和客观评价指标进行实验结果分析。
5.1 不同变换域融合实验
选取2组多聚焦图像作为测试数据(
图 2. 基于Clock图像与Pepsi图像的不同变换域融合效果。(a)(e)小波变换;(b)(f)曲波变换;(c)(g)轮廓波变换;(d)(h) FFST
Fig. 2. Fusion results of Clock and Pepsi images in different transform domains. (a)(e) Wavelet transformation; (b)(f) curvelet transformation; (c)(g) contourlet transformation; (d)(h) FFST
表 1. 多聚焦图像不同变换域融合评价指标
Table 1. Quantitative evaluation results of multi-focus images in different transform domains
|
5.2 不同融合算法比较实验
图 3. 多聚焦源图像。(a) Clock;(b) Pepsi;(c) camera;(d) peppers
Fig. 3. Source multi-focus images. (a) Clock; (b) Pepsi; (c) camera; (d) peppers
选取4组多聚焦图像作为测试数据(
文算法融合图像的各项指标均优于其他算法,表明本文算法不仅可以提高图像的清晰度、对比度,而且丰富了图像的细节信息,边缘保持效果良好,与主观评价结果一致,进一步验证了本文算法的有效性和可行性。
表 2. 多聚焦图像不同算法融合评价指标
Table 2. Quantitative evaluation results of multi-focus images by using different algorithms
|
图 4. 不同算法的图像融合结果。(a) CSGF算法;(b) VGF算法;(c) NPF算法;(d)本文算法
Fig. 4. Fusion results of images by using different algorithms. (a) CSGF algorithm;(b) VGF algorithm; (c) NPF algorithm; (d) proposed algorithm
6 结论
结合FFST优良的细节表现特性和引导滤波良好的边缘保持性能,提出了一种新的多聚焦图像融合算法,并选取多组严格配准的多聚焦图像为样本进行不同变换域和不同融合算法的对比实验。不同变换域的融合实验证明了基于FFST的图像融合算法优于其他几种融合算法;不同融合算法的仿真实验结果验证了基于FFST与引导滤波的算法融合性能比较优越。从主观视觉效果来看,融合图像不仅细节突出,而且边缘清晰;从客观评价指标来看,各项指标相对其他算法均有所提升,验证了本文算法的有效性和优越性。
[3] 吴一全, 陶飞翔. 改进投影梯度NMF的NSST域多光谱与全色图像融合[J]. 光学学报, 2015, 35(4): 0410005.
[4] 张立保, 章珏. 基于显著性分析的自适应遥感图像融合[J]. 中国激光, 2015, 42(1): 0114001.
[5] 冯鑫, 胡开群. 多尺度域内改进模糊规则的红外与可见光图像融合[J]. 光学精密工程, 2015, 23(10): 623-630.
[7] 金鑫, 聂仁灿, 周冬明, 等. S-PCNN与二维静态小波相结合的遥感图像融合研究[J]. 激光与光电子学进展, 2015, 52(10): 101004.
[8] 杨扬, 戴明, 周箩鱼. 基于均匀离散曲波变换的多聚焦图像融合[J]. 红外与激光工程, 2013, 42(9): 2547-2552.
[9] HuangH, Feng XA, Jiang JH. Medical image fusion algorithm based on nonlinear approximation of contourlet transform and regional features[J]. Journal of Electrical and Computer Engineering, 2017( 7): 1- 9.
[12] 郑红, 郑晨, 闫秀生, 等. 基于剪切波变换的可见光与红外图像融合算法[J]. 仪器仪表学报, 2012, 33(7): 1613-1619.
[13] 王朝晖, 王佳琪, 赵德功, 等. 基于Shearlet与改进PCNN的图像融合[J]. 激光与红外, 2012, 42(2): 213-216.
[14] HäuserS, Steidl G. Fast finite shearlet transform[J]. arXiv preprint arXiv: 1202, 1773, 2012.
[18] 杨航, 吴笑天, 贺柏根, 等. 基于多尺度导引滤波的图像融合方法[J]. 光电子·激光, 2015, 26(1): 170-176.
[19] 周岩, 周苑, 王旭辉. 基于有限离散剪切波变换的灰度图像融合[J]. 计算机工程, 2016, 42(12): 222-227.
[20] 陈清江, 魏冰蔗, 柴昱洲, 等. 基于FFST和方向特性对比度的图像融合算法[J]. 激光与红外, 2016, 46(7): 890-895.
[22] 孙晓龙, 王正勇, 符耀庆, 等. 基于改进拉普拉斯能量和的快速图像融合[J]. 计算机工程与应用, 2015, 51(5): 193-197.
[23] 屈小波, 闫敬文, 杨贵德. 改进拉普拉斯能量和的尖锐频率局部化Contourlet域多聚焦图像融合方法[J]. 光学精密工程, 2009, 17(5): 1203-1212.
[24] 江平, 张强, 李静, 等. 基于NSST和自适应PCNN的图像融合算法[J]. 激光与红外, 2014, 44(1): 108-113.
[25] 胡钢, 吉晓民, 刘哲, 等. 结合区域特性和非子采样SPT的图像融合方法[J]. 计算机辅助设计与图形学学报, 2012, 24(5): 636-648.
Article Outline
朱达荣, 许露, 汪方斌, 刘涛, 储朱涛. 基于快速有限剪切波变换与引导滤波的多聚焦图像融合算法[J]. 激光与光电子学进展, 2018, 55(1): 011001. Zhu Darong, Xu Lu, Wang Fangbin, Liu Tao, Chu Zhutao. Multi-Focus Image Fusion Algorithm Based on Fast Finite Shearlet Transform and Guided Filter[J]. Laser & Optoelectronics Progress, 2018, 55(1): 011001.