基于四元数傅里叶变换的盲彩色图像质量评价 下载: 791次
1 引言
图像质量评价(Image Quality Assessment, IQA)是对图像质量进行评估的一种技术,对图像和视频处理具有重要作用。图像作为视觉信息的主要来源,包含了大量有价值的信息,在图像的获取、存储、传输和显示等过程中,难免会出现图像失真现象,这会引起图像质量退化[1]。因此,对图像质量进行评价就显得十分重要。
图像质量评价可以分为主观评价和客观评价,主观评价由观测者直接对图像质量进行评分,如平均主观得分(Mean Opinion Score, MOS)和平均主观得分差异(Differential Mean Opinion Score, DMOS),尽管此方法能够基于人类视觉系统(Human Visual System, HVS)给出较为准确的评价,但是评价结果受个体专业知识、经验和主观心理因素的影响,并且评价过程的时间成本极高。客观评价利用由算法计算出的指数进行评价,时间成本较低且易实现。
目前,图像质量评价方法按照是否需要参考图像又可以分为全参考(Full Reference, FR)、半参考(Reduced Reference, RR)和无参考(No Reference, NR)等。全参考(FR)评价通过原始图像与失真图像之间的对比,得到失真图像的评价结果,如均方误差(Mean Square Error, MSE)、峰值信噪比(Peak Signal-Noise-Ratio, PSNR)[2]和结构相似度(Structural Similarity, SSIM)[3-4]等,但在实际应用中,通常很难获取原始图像;半参考(RR)评价不必对比原始图像与失真图像,仅仅需要将失真图像的某些特征与原始图像的某些特征进行比较,如小波变换域中的自然图像统计模型[5];无参考(NR)评价即盲图像质量评价(Blind Image Quality Assessment, BIQA),则不需要参考图像,仅仅根据失真图像的自身特性来进行图像质量评价,是本文研究的重点。
在日常生活中,人们接触的图像基本都是彩色图像,与灰度图像相比,彩色图像包含有更丰富的信息。常用的彩色图像质量评价方法之一是将彩色图像转化为灰度图像之后[6-9],再对其进行质量评价;另一个方法是将彩色图像表示为红(R)、绿(G)、蓝(B)三个颜色通道分量并通过线性组合将其转换到其他颜色空间,如HSI[10]、YCbCr[11]和YUV[12]等。显然,前者将彩色图像转化为灰度图像丢失了色彩信息,是一个有信息损失的过程,后者破坏了彩色图像的整体性。人类视觉系统对色彩的感知过程不仅仅是简单的线性叠加,为了解决上述问题,陈莉莉等[13]提出了一种基于离散四元数傅里叶变换的彩色图像质量评价算法,该算法先根据人眼的视觉特性对频域进行非均匀分块,再计算失真图像和原始图像之间的幅值相似度和相位相似度,最后通过熵值法来评价图像质量。岳靖等[14]提出了一种四元数谱余量方法,该方法以四元数梯度特征为指标来对彩色图像进行质量评价,计算复杂度较高。闻武等[15]提出了一种评价彩色图像质量的数学模型,该模型综合考虑了彩色图像的亮度、色调、色饱和度和色彩熵等色度特征。
De等[16]提出了基于频域信息评价模糊图像质量的算法,本文受其启发,利用四元数傅里叶变换,提出了一种无参考彩色图像质量评价算法。首先,利用四元数表征彩色图像并求出傅里叶变换频谱,完整保留了彩色图像的色彩信息并保证其整体性。其次,确定图像中高频分量的阈值。最后,计算频谱中超过阈值的高频分量的数目,最终实现对彩色图像质量的评价。
2 预备知识
2.1 彩色图像的傅里叶变换
四元数的概念最早由Hamilton提出[17],是复数域的拓展。一个四元数q由4个部分组成,即1个实部和3个虚部:
式中:a,b,c,d为实数;i,j,k为三个虚数单位,且满足
当a=0时,四元数q为纯四元数。由 (2) 式可以看出,四元数不满足乘法的交换律。四元数的模
彩色图像可由R, G, B三个分量进行表征,因此,可以利用四元数的定义对彩色图像进行表征[18],即
式中:R(m,n),G(m,n),B(m,n)分别为彩色图像在R、G、B三个颜色通道中的值;m和n分别为四元数矩阵的行和列。因此,一幅大小为M×N的彩色图像可以被表示为一个四元数矩阵f(m,n)。
对于f(m,n),其左边离散四元数傅里叶变换[18]为
对应的逆变换为
式中: u、v为m,n在频域中的对应物理量,μ2=-1,即μ为一个单位纯四元数。处理彩色图像时,令μ=(i+j+k)/
式中:a(u,v),b(u,v),c(u,v),d(u,v)为实数矩阵。则其幅值为
相位为
因此,可以对彩色图像进行四元数傅里叶变换,从而得到其频谱。
图 1. 原图及其在R、G、B通道中的四元数傅里叶变换频谱图。(a)(e)原始图;(b)(f) R通道;(c)(g) G通道;(d)(h) B通道
Fig. 1. Original images and spectra of images from R、G、B channels obtained by quaternion Fourier transform. (a)(e) Original images; (b)(f) images from R channel; (c)(g) images from G channel; (d)(h) images from B channel
2.2 基于频域信息的模糊图像质量评价
图像越模糊,其包含的高频分量越少。De等[16]提出了一种基于频域信息的模糊图像质量评价算法。步骤如下:1)对灰度图像进行二维傅里叶变换;2)对傅里叶变换后的矩阵取模并求出其最大值;3)最大值除以1000作为高频分量的阈值;4)求出频谱中超过此阈值的高频分量数量,将其除以图像的尺寸以作为图像评价值。虽然此算法具有较高的评价准确性,但是在将彩色图像转为灰度图像的过程中却损失了色彩信息,不能很好地与主观结果保持一致。
3 彩色图像质量评价方法
虽然文献[ 16]中的算法利用灰度图像的傅里叶变换实现了图像质量评价,但是评价彩色图像时没有考虑色彩这一因素。本文对文献[ 16]中的算法进行了改进,即第一步是对彩色图像进行四元数傅里叶变换,其余步骤不变,最终实现了彩色图像质量评价。
图 2. 不同标准偏差下的Monarch高斯模糊图像。(a) σ=0.5;(b) σ=1.0;(c) σ=1.5;(d) σ=2.0; (e) σ=2.5;(f) σ=3.0;(g) σ=3.5;(h) σ=4.0;(i) σ=4.5
Fig. 2. Monarch Gaussian blurred images under different standard deviations. (a) σ=0.5; (b) σ=1.0; (c) σ=1.5; (d) σ=2.0; (e) σ=2.5; (f) σ=3.0; (g) σ=3.5; (h) σ=4.0; (i) σ=4.5
图 3. 不同标准偏差下的Monarch模糊图像的四元数傅里叶变换频谱。(a) σ=0.5;(b) σ=1.0;(c) σ=1.5;(d) σ=2.0;(e) σ=2.5;(f) σ=3.0;(g) σ=3.5;(h) σ=4.0;(i) σ=4.5;(j) σ=5.0
Fig. 3. Quaternion Fourier transform spectra of Monarch blurred image under different standard deviations. (a) σ=0.5; (b) σ=1.0; (c) σ=1.5; (d) σ=2.0; (e) σ=2.5; (f) σ=3.0; (g) σ=3.5; (h) σ=4.0; (i) σ=4.5; (j) σ=5.0
3.1 改进算法流程
1) 利用四元数矩阵表征大小为M×N的彩色图像I,并进行四元数傅里叶变换,得到频谱F。
2) 对频谱F进行频谱中心化处理,得到Fc。
3) 求出频谱Fc的模AF:
式中:abs(·)为取模。
4) 计算AF中的最大值M:
5) 经过多次测试发现,当图像中高频分量的阈值Tthres=M/1000时,算法性能最佳,因此令阈值Tthres=M/1000。然后计算频谱F中超过阈值Tthres的像素数目TH。
6) 计算彩色图像质量评价分数,即
7) 输出彩色图像质量评价分数。
3.2 图像质量评价示例
图 5. 建筑模糊图像及其对应的频谱图。(a)(c) σ=0.5;(b)(d) σ=5.0
Fig. 5. Building blurred images and their corresponding spectra. (a)(c) σ=0.5; (b)(d) σ=5.0
3.3 时间复杂度
算法每一步的时间复杂度为O(n),彩色图像I的像素总数n=M×N,四元数快速傅里叶变换的时间复杂度为O(nlog n),所以该算法的时间复杂度为O(nlog n)。
4 实验结果与分析
实验所用的Matlab版本为R2016a,并且使用了四元数工具箱qtfm(Version 2.7, 2019-04-23)。使用无参考图像质量评价算法GSVD[6]、JNBM[7]、CPBD[8]、LPC-SI[9]、ENIQA[19]与本文算法四元数傅里叶测量(QFTM)进行对比,所有对比算法的Matlab代码均由作者提供。
首先,采用无噪模糊图像来测试算法的单调性、单峰性和评价准确性。然后,通过给模糊图像添加噪声,得到噪声模糊图像以分析算法的抗噪性。最后,使用数据库图像进一步验证算法的有效性并对算法进行耗时分析。
4.1 无噪模糊图像
此部分使用的原始测试图像是6幅768 pixel×512 pixel彩色图像,如
无噪模糊图像如
图 6. 原始彩色图像。(a) 自行车;(b)建筑;(c)帽子;(d)蝴蝶;(e)油漆房;(f)鹦鹉
Fig. 6. Original color images. (a) Bike; (b) building; (c) cap; (d) monarch butterfly; (e) painted house; (f) parrot
图 7. 无噪模糊图像。(a) ~(c) σ=5.0;(d)~(f) ρ=20
Fig. 7. Noiseless blurred images. (a)-(c) σ=5.0; (d)-(f) ρ=20
图 8. 无噪高斯模糊图像的质量评价结果
Fig. 8. Quality assessment results of noiseless Gaussian blurred images
图 9. 无噪运动模糊图像的质量评价结果
Fig. 9. Quality assessment results of noiseless motion blurred images
4.2 噪声模糊图像
对3.1节中模糊程度不同的高斯模糊图像添加零均值的高斯白噪声和椒盐噪声以进行抗噪实验分析。其中高斯白噪声的方差v=0.01,0.02,椒盐噪声的密度d=0.10,0.20。对
图 10. 噪声模糊图像。(a)~(c) v=0.02;(d)~(f) d=0.20
Fig. 10. Noisy blurred images. (a)-(c) v=0.02; (d)-(f) d=0.20
图 11. 高斯白噪声条件下的图像质量评价结果(v=0.01)
Fig. 11. Quality assessment results of images with Gaussian white noises (v=0.01)
图 12. 高斯白噪声条件下的图像质量评价结果(v=0.02)
Fig. 12. Quality assessment results of images with Gaussian white noises (v=0.02)
图 13. 椒盐噪声条件下的图像质量评价结果(d=0.10)
Fig. 13. Quality assessment results of images with salt and pepper noises (d=0.10)
图 14. 椒盐噪声条件下的图像质量评价结果(d=0.20)
Fig. 14. Quality assessment results of images with salt and pepper noises (d=0.20)
4.3 基于数据库图像的验证分析
为了进一步分析所提算法的性能,使用三个公开的数据库IVC、TID2013[20]和CSIQ[21]中的高斯模糊失真图像集进行实验,其中数据库IVC、TID2013和CSIQ中的高斯模糊图像数量分别为20幅、125幅和150幅。
测试算法的性能时,需要对客观评价值进行非线性逻辑回归拟合处理。实验中,每个算法均采用了五参数的罗杰斯回归方程[22]。该方程为
式中:X是客观评价值;β1,β2,β3,β4,β5为初始化参数,即
式中:MMOS为平均主观得分;mean(·)为取均值。
为了分析预测(客观评价)值和主观评价值之间的单调性和准确性,需要计算4个指数:衡量算法预测结果准确性的皮尔逊线性相关系数(Pearson Linear Correlation Coefficient, PLCC)和均方根误差(Root Mean Square Error, RMSE)及衡量算法预测结果单调性的斯皮尔曼秩相关系数(Spearman Rank Order Correlation Coefficient, SRCC)和肯达尔秩相关系数(Kendall Rank Order Correlation Coefficient, KRCC)。对于理想的图像质量评价算法,其PLCC,SRCC和KRCC值应接近于1,而RMSE值应接近于0。
本文算法QFTM与现有的无参考图像质量评价算法的对比结果如
4.4 耗时测试与分析
对本文算法QFTM与算法CPBD、ENIQA、GSVD、JNBM、LPC-SI进行耗时对比分析。IVC、TID2013和CSIQ三个数据库共有295幅高斯模糊失真图像,从中随机选取100幅,且每个评价算法运行10次进行耗时分析。
表 2. 算法在IVC、TID2013和CSIQ数据库上的性能对比
Table 2. Performance comparison among algorithms on IVC, TID2013 and CSIQ databases
|
表 3. 算法的平均耗时
Table 3. Average running time of methods
|
5 结论
利用四元数傅里叶变换设计了一种新的盲彩色图像质量评价算法。对彩色图像进行四元数傅里叶变换,该操作能够充分保证彩色图像的整体性并保留色彩信息。基于越清晰的高质量图像包含越多的高频分量这一概念,确定了高频分量的阈值。最后,计算频谱中超过阈值的高频分量数量并将其除以图像尺寸,所得结果作为质量评价值。实验结果表明,与现有的无参考图像质量评价算法相比,所提算法的预测结果单调性和一致性较好,且抗噪性好,计算复杂度低,易于实现、效率较高。
[1] 王志明. 无参考图像质量评价综述[J]. 自动化学报, 2015, 41(6): 1062-1079.
Wang Z M. Review of no-reference image quality assessment[J]. Acta Automatica Sinica, 2015, 41(6): 1062-1079.
[2] Eskicioglu A M, Fisher P S. Image quality measures and their performance[J]. IEEE Transactions on Communications, 1995, 43(12): 2959-2965.
[3] WangZ, Simoncelli EP, Bovik AC. Multiscale structural similarity for image quality assessment[C]//The Thrity-Seventh Asilomar Conference on Signals, Systems & Computers, November 9-12, 2003, Pacific Grove, CA, USA. New York: IEEE, 2003: 1398- 1402.
[4] Wang Z, Bovik A C, Sheikh H R, et al. Image quality assessment: from error visibility to structural similarity[J]. IEEE Transactions on Image Processing, 2004, 13(4): 600-612.
[5] Simoncelli E P. Reduced-reference image quality assessment using a wavelet-domain natural image statistic model[J]. Proceedings of SPIE, 2005, 5666: 149-159.
[6] Ospina-Borras J E, Benítez Restrepo H D. Non-reference assessment of sharpness in blur/noise degraded images[J]. Journal of Visual Communication and Image Representation, 2016, 39: 142-151.
[7] Ferzli R, Karam L J. A no-reference objective image sharpness metric based on the notion of just noticeable blur (JNB)[J]. IEEE Transactions on Image Processing, 2009, 18(4): 717-728.
[10] Thakur N, Devi S. A new method for color image quality assessment[J]. International Journal of Computer Applications, 2011, 15(2): 10-17.
[11] Tan L C, Yazid H, Chong Y F. Image quality assessment (IQA) using high-frequency and image variance (HFIV) for colour image[J]. Journal of Physics: Conference Series, 2019, 1372: 012034.
[12] Yalman Y, Erturk I. A new color image quality measure based on YUV transformation and PSNR for human vision system[J]. Turkish Journal of Electrical Engineering and Computer Sciences, 2013, 21(2): 603-612.
[13] 陈莉莉, 朱峰, 盛斌, 等. 基于离散四元数傅里叶变换的彩色图像质量评价[J]. 计算机科学, 2018, 45(8): 70-74.
Chen L L, Zhu F, Sheng B, et al. Quality evaluation of color image based on discrete quaternion Fourier transform[J]. Computer Science, 2018, 45(8): 70-74.
[14] 岳靖, 刘国军, 付浩. 四元数谱余量彩色图像质量评价[J]. 激光与光电子学进展, 2019, 56(3): 031009.
[15] 闻武, 左凌轩. 基于色彩特征的无参考彩色图像质量评价[J]. 计算机科学, 2017, 44(S1): 151-156.
Wen W, Zuo L X. Blind color image quality assessment base on color characteristics[J]. Computer Science, 2017, 44(S1): 151-156.
[16] De K, Masilamani V. Image sharpness measure for blurred images in frequency domain[J]. Procedia Engineering, 2013, 64: 149-158.
[17] Hamilton WR. Elements of quaternions[M]. London: Cambridge University Press, 1866.
[18] Ell T A, Sangwine S J. Hypercomplex Fourier transforms of color images[J]. IEEE Transactions on Image Processing, 2007, 16(1): 22-35.
[19] Chen X Q, Zhang Q Y, Lin M H, et al. No-reference color image quality assessment: from entropy to perceptual quality[J]. EURASIP Journal on Image and Video Processing, 2019, 2019(1): 1-14.
[20] PonomarenkoN, IeremeievO, LukinV, et al. Color image database TID2013: peculiarities and preliminary results[C]//European Workshop on Visual Information Processing (EUVIP), June 10-12, 2013, Paris, France. New York: IEEE, 2013: 106- 111.
[21] Larson E C, Chandler D M. Most apparent distortion: full-reference image quality assessment and the role of strategy[J]. Journal of Electronic Imaging, 2010, 19(1): 011006.
[22] Sheikh H R, Sabir M F, Bovik A C. A statistical evaluation of recent full reference image quality assessment algorithms[J]. IEEE Transactions on Image Processing, 2006, 15(11): 3440-3451.
Article Outline
周珂, 吴成茂, 李昌兴. 基于四元数傅里叶变换的盲彩色图像质量评价[J]. 激光与光电子学进展, 2020, 57(18): 181021. Ke Zhou, Chengmao Wu, Changxing Li. Quality Assessment of Blind Color Images Using Quaternion Fourier Transform[J]. Laser & Optoelectronics Progress, 2020, 57(18): 181021.