彩色图像质量评价的广义平均池化策略 下载: 953次
1 引言
彩色图像质量评价(CIQA)是目前图像质量评价(IQA)研究的一个热点,其目的是评价彩色图像质量的好坏,目前IQA方法分为主观评价方法和客观评价方法。根据对原始图像的参考程度,客观IQA可分为3类:全参考型、半参考型和无参考型。随着对人类视觉系统(HVS)认识的加深,近年来全参考型IQA(FR-IQA)取得了极大的进展。通常FR-IQA方法可以归纳为2步来进行[1-2]:1) 在参考图像和失真图像中分别提取相应的特征,计算它们的局部质量映射图;2) 根据局部质量映射图,并通过池化策略得到最终的质量分数。
Wang等[3]提出的结构相似性指标(SSIM)具有里程碑式的意义。随后,杨春玲等[4]在梯度域上构造SSIM(GSSIM)。Zhang等[5]提出了基于相位一致性(PC)和梯度幅值(GM)的特征相似性(FSIM)。
目前,针对彩色图像的IQA方法也越来越多。一种方法是直接在RGB图像上进行计算。如Li等[6]提出基于稀疏表示和重构残差的CIQA方法,通过组合基于稀疏表示的特征图、重建残差和亮度相似性来评估彩色图像的质量;Temel等[7]提出了基于颜色、结构和视觉系统特征的FR-IQA方法,通过分离红(R)、绿(G)、蓝(B)通道,量化颜色、结构和视觉感知的差异来获得IQA;Lu等[8]提出了结合视觉感知和颜色结构的IQA方法,通过测量参考图像与失真图像之间的视觉感知系数的比例差异来获取客观IQA;徐海勇等[9]提出了非负矩阵分解IQA,利用非负矩阵分解方法,无监督地提取彩色图像R、G、B 3个通道的特征,并用显著性模型提取视觉显著区域,从而进行质量评价。另一种方法是将RGB图像转换成其他更符合HVS的色彩空间。如Lee等[10]提出了基于定向统计的颜色相似度,先将RGB图像转换到S-CIELAB色彩空间,利用从3个感知色彩通道L*、a*、b*提取的局部颜色描述符,采用定向统计工具来处理色调数据,并利用两个加权机制将测量得到的比较分数准确地组合成最终得分。Gupta等[11]提出在YIQ色彩空间中结合Sobel算子和色度信息的彩色图像的FR-IQA方法。事实上,文献[ 5]也将FSIM扩展到了彩色图像,即先将RGB图像转换到YIQ色彩空间,从而分离图像的亮度与色度信息,然后将色度信息融合到亮度信息FSIM中得到彩色图像的FSIM(C-FSIM)。
池化策略也是最近研究的热点,其目的是为了模拟HVS的复杂非线性属性。池化是在特征提取的基础上,对每个特征进行处理,然后将得到的所有数据进行融合,得到最终的结果。一般的FR-IQA方法往往采用算术平均的池化策略,对提取的局部特征图同等对待处理,这不符合HVS的非线性特点。之后,研究者们又提出了加权池化策略,如:信息量加权[1]、PC加权[5]和区域类型加权[12]。这些策略在一定程度上提高了评价准确率,但计算复杂度较高、运行时间较长。另外,研究者们还提出了偏差池化策略,如标准偏差池化策略[2]和平均绝对偏差池化策略[13]。平均绝对偏差池化策略相比于平均池化策略和标准偏差池化策略,效率较高且具有较好的稳健性。文献[ 14]扩展了算术平均和调和平均[15],通过参数选取来刻画HVS的非线性特点,针对灰度图像得到了广义平均的池化策略,改进了SSIM、GSSIM、FSIM评价算法。
本文首先将RGB彩色图像转换到YIQ色彩空间,引入色度信息,将灰度图像的SSIM和GSSIM扩展得到彩色图像的SSIM和GSSIM(即C-SSIM、C-GSSIM)。对C-SSIM、C-GSSIM、C-FSIM采用两种广义平均池化策略,以获得CIQA算法。
2 针对彩色图像的FR-IQA方法
一般的IQA方法都是针对灰度图像的,但色度会影响HVS对图像的理解。Zhang等[5]利用PC和GM特征,提出了FSIM,并将FSIM扩展得到C-FSIM。数值实验表明,C-FSIM比FSIM有更好的视觉一致性。此处首先简单介绍C-FSIM的构造,然后将灰度图像的SSIM、GSSIM方法扩展得到C-SSIM和C-GSSIM。
2.1 C-FSIM
1) 将原来的RGB空间转换成另一个更符合人类主观视觉的色彩空间YIQ[16]。YIQ色彩空间将图像的亮度和色度信息分离出来,
2) 分别在参考图像块
式中
3) 引入
假设
式中
4) 参考图像和失真图像C-FSIM的计算可以表示为
式中
2.2 C-SSIM
类似于C-FSIM,将RGB空间转换成YIQ色彩空间,提取亮度信息和色度信息,在亮度信息的基础上进行亮度相似性、对比度相似性及结构相似性的计算,在色度信息的基础上进行色度相似性的度量,最后计算C-SSIM,其计算可以表示为
式中
2.3 C-GSSIM
类似于C-SSIM,C-GSSIM的计算可以表示为
式中
3 广义平均池化策略的FR-IQA方法
对于任意给定的
广义平均是几类常用平均数的概括和延伸。从(10)式中可以看出,当
HVS是一个复杂的非线性分析系统。研究表明,HVS对图像中局部严重失真的区域更加敏感,即图像中严重失真的局部区域对整幅图像的质量影响较大[15],如
3.1 对C-SSIM采用广义平均的池化策略
C-SSIM中涉及到4个局部特征,分别是亮度相似性、结构相似性、对比度相似性和色度相似性,采用2种广义平均的池化策略,得到2种改进的算法。
算法1:先利用(8)式计算C-SSIM,再对C-SSIM进行广义平均,最终得到的整个图像的质量分数GM-C-SSIM1可以表示为
图 1. TID2013数据库中的一幅参考图像和两幅不同程度的失真图像。(a)参考图像;(b)失真图像(EMSE=76.54,RPSNR=29.29);(c)失真图像(EMSE=0.88,RPSNR=48.68)
Fig. 1. Reference image and distorted images of varying degrees in TID2013 database. (a) Reference image; (b) distorted image (EMSE=76.54, RPSNR=29.29); (c) distorted image (EMSE=0.88, RPSNR=48.68)
算法2:先分别对C-SSIM中的4幅局部特征图
式中
3.2 对C-GSSIM采用广义平均的池化策略
同样,对C-GSSIM采用2种广义平均的池化策略,可得
3.3 对C-FSIM采用广义平均的池化策略
同样,对(2)~(5)式采用2种广义平均的池化策略,可得
4 数值计算
4.1 评价指标
为了评价IQA算法的好坏,视频质量专家组VQEG提出了4个可以验证客观评价与主观评价紧密程度的性能指标[17],分别是斯皮尔曼等级相关系数(SROCC)、肯德尔等级相关系数(KROCC)、皮尔逊相关系数(PLCC)以及均方根误差(RMSE)。SROCC、KROCC和PLCC反映了在非线性回归条件下待测图像的客观评价值与主观评价值(MOS)的线性相关性,三者的值越大则相关性越好。RMSE反映的是在非线性回归条件下客观评分与MOS之间的均方误差,RMSE值越小则评价方法越好。对于非线性回归,使用Logistic回归函数[18]
式中
4.2 参数的选择
选取TID2013数据库和不同的参数值进行数值计算[19]。对计算得到的SROCC值进行对比,通过选取最优的SROCC值来确定最佳参数值。
在IQA算法C-SSIM和C-GSSIM中,参数
在基于广义平均池化策略的IQA算法中,选取
图 2. SROCC值随r变化的曲线图。(a)广义平均池化策略1;(b)广义平均池化策略2
Fig. 2. SROCC curves varying with r. (a) General mean pooling strategy 1; (b) general mean pooling strategy 2
在基于广义平均池化策略的IQA算法2中,在第2步进行加权时,需要确定
图 3. SROCC值随ω变化的网状图。(a) GM-C-SSIM2的SROCC值随ω2、ω3的变化;(b) GM-C-GSSIM2的SROCC值随ω2、ω3的变化;(c) GM-C-FSIM2的SROCC值随ω1、ω2的变化
Fig. 3. SROCC mesh graphs varying with ω. (a) Variation in SROCC of GM-C-SSIM2 with ω2 and ω3; (b) variation in SROCC of GM-C-GSSIM2 with ω2 and ω3; (c) variation in SROCC of GM-C-FSIM2 with ω1 and ω2
4.3 计算结果
为了说明C-SSIM、C-GSSIM以及采用广义平均池化策略的有效性,
由
用Logistic回归函数非线性拟合可以得到各个评价算法在TID2013数据库中的客观评价得分与MOS之间的散点图,如
表 1. IQA指标在TID2013数据库中的性能比较
Table 1. Performance comparison of IQA in TID2013 database
|
图 4. 各个评价算法在TID2013数据库中的客观评价得分与MOS之间的散点图。(a) C-SSIM;(b) C-GSSIM;(c) C-FSIM;(d) GM-C-SSIM1;(e) GM-C-GSSIM1;(f) GM-C-FSIM1;(g) GM-C-SSIM2;(h) GM-C-GSSIM2;(i) GM-C-FSIM2
Fig. 4. Scatter plots between objective scores and MOS of each evaluation algorithm in TID2013 database. (a) C-SSIM; (b) C-GSSIM; (c) C-FSIM; (d) GM-C-SSIM1; (e) GM-C-GSSIM1; (f) GM-C-FSIM1; (g) GM-C-SSIM2; (h) GM-C-GSSIM2; (i) GM-C-FSIM2
5 结论
基于色度信息和HVS的非线性特性对IQA的影响,首先将RGB图像转换到YIQ色彩空间,在SSIM、GSSIM的基础上,引入色度信息,扩展得到C-SSIM、C-GSSIM;然后利用广义平均的非线性来刻画HVS的非线性特性,对C-SSIM、C-GSSIM、C-FSIM分别采用2种广义平均池化策略,改进已有算法。算法1的本质是先对局部多特征图进行融合,然后利用参数来刻画视觉质量评价系统复杂的非线性,而算法2本质上是将复杂的非线性视觉IQA系统模拟为非线性处理与线性组合两步策略。基于TID2013数据库进行数值计算,结果表明:C-SSIM、C-GSSIM、C-FSIM明显比SSIM、GSSIM、FSIM的评价效果要好;采用2种广义平均池化策略的CIQA算法均比C-SSIM、C-GSSIM、C-FSIM的评价效果要好,与主观评价结果具有较好的一致性,尤其当采用算法2时效果更为显著。因此,采用广义平均池化策略能有效提高IQA算法的评价效果。
[4] 杨春玲, 陈冠豪, 谢胜利. 基于梯度信息的图像质量评判方法的研究[J]. 电子学报, 2007, 35(7): 1313-1317.
Yang C L, Chen G H, Xie S L. Gradient information based image quality assessment[J]. Acta Electronica Sinica, 2007, 35(7): 1313-1317.
[9] 徐海勇, 郁梅, 骆挺, 等. 基于非负矩阵分解的彩色图像质量评价方法[J]. 电子与信息学报, 2016, 38(3): 578-585.
Xu H Y, Yu M, Luo T, et al. A color image quality assessment method based on non-negative matrix factorization[J]. Journal of Electronics and Information Technology, 2016, 38(3): 578-585.
[13] Nafchi HZ, HedjamR, ShahkolaeiA, et al. Deviation based pooling strategies for full reference image quality assessment[J]. Computer Science, 2015, arXiv.
[14] 刘国军, 高丽霞, 陈丽奇. 广义平均的全参考型图像质量评价池化策略[J]. 光学精密工程, 2017, 25(3): 742-748.
Article Outline
马月梅, 陈海英, 刘国军. 彩色图像质量评价的广义平均池化策略[J]. 激光与光电子学进展, 2018, 55(2): 021007. Yuemei Ma, Haiying Chen, Guojun Liu. General Mean Pooling Strategy for Color Image Quality Assessment[J]. Laser & Optoelectronics Progress, 2018, 55(2): 021007.