基于层次聚类的图像超分辨率重建 下载: 923次
1 引言
图像超分辨率重建通过相应的算法对单一低分辨率图像或多幅低分辨率序列图像进行重构,以实现低分辨率图像细节和纹理的还原,同时提高图像的分辨率。由于超分辨率重建无需考虑太多的硬件限制和成本问题,因此已被广泛应用于视频监控、卫星遥感、医学图像、生物特征识别等领域[1-3]。目前,经典的图像超分辨率重建算法可大致归为3类:基于插值的算法、基于重建模型的算法和基于学习的算法[4-6]。基于插值的算法常用于加强单幅图像的分辨率,算法的实现具有简单、快速的特点,但因缺乏先验知识而达不到较高的重建效果。基于重建模型的算法根据特定的图像退化模型,可对输入的低分辨率图像序列重建出质量较好的高分辨率图像,但受放大倍率和图像帧之间亚像素精度位移的限制,在实际中常因放大因子过大或亚像素位移过小而达不到较佳的重建效果。基于学习的算法通过求解高、低分辨率图像之间的映射关系,充分运用先验知识来重建图像,能够较好地恢复图像的细节信息,且重建效率高,因此成为当前该领域的研究热点。
基于学习的图像超分辨率重建算法最早由Freeman等[7]提出,通过马尔可夫随机场构建高、低分辨率图像块之间的联系。与以往的插值算法和重建模型算法相比,该算法的图像重建质量有一定改善,但构建马尔可夫随机场所需的图像块样本数量十分庞大,且训练耗时巨大。Yang等[8]运用稀疏表示概念,设定高、低分辨率图像块的稀疏表示系数相同,并将其作为图像重建的约束条件,该方法虽然在改善图像重建质量的同时有效地缩短了运算时间,但是所需图像块样本数量仍然很庞大。Dong等[9]先对图像块样本数据进行聚类,然后结合稀疏表示方法生成了多个稀疏字典,再根据测试图像块自适应地选择最合适的字典进行图像块重建,这种方法在改善图像重建质量的同时能有效地抑制噪声;但选用的聚类方式为
层次聚类是一种对数据样本集进行层次分解的聚类方式,因其具有自主聚类、聚类效率高、效果好等优点而被广泛应用于图像分割[11]、图像检索[12]等领域。考虑到层次聚类无需设定初始聚类中心,且能根据相关系数进行自主聚类的优点,本文将层次聚类算法应用于Dong等[9]的方法中,提出了一种新的基于层次聚类的多字典的图像超分辨率重建算法,从而在有效抑制噪声的基础上进一步改善了图像的重建质量。
2 基于字典学习的图像超分辨率的重建
假设低分辨率图像为
假设
式中
2.1 单一字典对
在单一字典对模型中,将
根据Yang等[8]的验证,高、低分辨率图像块
2.2 多字典
不同的图像承载的纹理和细节不同,将所有图像块用单一字典进行稀疏分解是不稳定的[15-16],因此基于多字典的图像超分辨率重建算法应运而生。Sun等[17]将梯度先验引入到图像重建中,对样本图像块以梯度形状和角度作为分类的依据,学习多个梯度字典。Yang等[18]将稀疏表示运用到图像超分辨率的重建中,对样本图像块进行
图 1. 基于层次聚类的图像超分辨率重建算法流程图
Fig. 1. Flow chart of image super-resolution reconstruction based on hierarchical clustering
3 基于层次聚类的多字典学习
基于多字典模型的图像超分辨率重建首先需要对图像块样本数据进行聚类,该领域常见的聚类方法有
3.1 层次聚类
一般来说,层次聚类可以分为凝聚和分裂这两种聚类形式。凝聚层次聚类的聚类顺序为从下到上,先将每个数据划分成一个类,然后合并最邻近的类形成一个新类,以此类推直至所有的数据都包括在一个类中。分裂层次聚类的顺序为从上到下,先将所有的数据定义为一个类,然后逐步细分成小类,直至每个数据均为一个类。
图 3. 凝聚和分裂层次聚类方法流程图
Fig. 3. Flow chart of hierarchical clustering of agglomerative nesting and divisive analysis
在选择层次聚类的类型时,本研究采用凝聚层次聚类方法,该聚类方法可以通过相关系数判别,也可以直接输入聚类数。为清晰、直观地阐述层次聚类方法,分别选取20、5000个图像块特征向量进行说明,如
图 5. 5000个样本的层次聚类结构图
Fig. 5. Structure diagram of hierarchical clustering of 5000 samples
3.2 中值主成分分析
主成分分析(PCA)是一种非监督的线性降维方法,它对原始数据进行线性转换使其由原高维空间投影至低维空间,同时保留了原始数据的主要信息,并确保新数据间互不相关[22],主要算法如下:
1) 计算
式中
2) 根据协方差矩阵求解其特征值
3) 对特征值
由(4)式可知,主成分分析对样本均值十分敏感,若样本存在噪声、离群值等异常值的干扰,实际信息就不能准确地由干扰后的均值表示。与均值相比,中值也可以用来表示样本的集中趋势估计量,当样本中存在异常值干扰时,中值比均值更稳定。因此,本研究将原主成分分析算法流程中的均值替换为中值,生成新的模型MPCA,即
式中
4 高分辨率图像重建
4.1 局部重建
图像的超分辨率重建过程实际上就是稀疏表示系数更新的过程,稀疏表示系数的求解为
式中‖‖1为
其中
Candès等[23]已证明,重加权的
式中
假设测试图像块为
式中
4.2 全局重建
自然图像具有非局部自相似性[24],这种特性能够有效地保留图像的细节信息,因此将每个测试图像块
式中
最终的稀疏表示系数可表示为
5 实验结果与分析
本实验对象为标准测试图像“Parrots”“Bike”“Hat”“Lena”“Peppers”“Leaves”, 测试图像大小均为256 pixel×256 pixel,如
图 6. 标准测试图像。(a) Parrots; (b) Bike; (c) Hat; (d) Lena; (e) Peppers; (f) Leaves
Fig. 6. Standard test images. (a) Parrots; (b) Bike; (c) Hat; (d) Lena; (e) Peppers; (f) Leaves
5.1 主观分析
以Leaves和Lena图片为例进行主观分析,不同算法的结果如
图 7. Leaves图像采用不同算法重建后的效果。(a)原图;(b)双三次插值算法;(c) Yang等[8]所提算法;(d) Dong等[9]所提算法;(e) Peleg等[10]所提算法;(f)本研究所提算法
Fig. 7. Reconstruction images of Leaves using different algorithms. (a) Original image; (b) bicubic interpolation algorithm; (c) algorithm proposed by Yang et al.[8]; (d) algorithm proposed by Dong et al.[9]; (e) algorithm proposed by Peleg et al.[10]; (f) our algorithm
图 8. Lena图像采用不同算法重建后的效果。(a)原图;(b)双三次插值算法;(c) Yang等[8]所提算法;(d) Dong等[9]所提算法;(e) Peleg等[10]所提算法;(f)本研究所提算法
Fig. 8. Reconstruction images of Lena using different algorithms. (a) Original image; (b) bicubic interpolation algorithm; (c) algorithm proposed by Yang et al.[8]; (d) algorithm proposed by Dong et al.[9]; (e) algorithm proposed by Peleg et al.[10]; (f) our algorithm
图 9. Leaves和Lena图像采用不同算法重建后的局部效果。(a)双三次插值算法;(b) Yang等[8]所提算法;(c) Dong等[9]所提算法;(d) Peleg等[10]所提算法;(e)本研究所提算法
Fig. 9. Local reconstruction images of Leaves and Lena using different algorithms. (a) Bicubic interpolation algorithm; (b) algorithm proposed by Yang et al.[8]; (c) algorithm proposed by Dong et al.[9]; (d) algorithm proposed by Peleg et al.[10]; (e) our algorithm
5.2 客观分析
PSNR和SSIM是客观评价图像的重要指标,对以上采用不同算法重建图像的PSNR和SSIM进行比较,结果如
表 1. 采用不同算法重建图像的PSNR和SSIM
Table 1. PSNR and SSIM of reconstruction images using different algorithms
|
图 10. 采用不同算法重建图像的(a) PSNR和(b) SSIM折线图
Fig. 10. (a) PSNR and (b) SSIM line diagrams of reconstruction images with different algorithms
6 结论
通过分析基于多字典图像重建过程中常见的聚类方法存在的缺陷,提出了一种基于层次聚类的图像超分辨率重建算法。通过对图像块样本进行层次聚类和学习获得多字典,将非局部自相似性作为约束条件重建了高分辨率图像,解决了现有
[1] 王晓文, 刘雨. 图像超分辨率研究综述[J]. 信息技术, 2009( 7): 236- 240.
王晓文, 刘雨. 图像超分辨率研究综述[J]. 信息技术, 2009( 7): 236- 240.
Wang XW, LiuY. Survey of image super-resolution investigation[J]. Information Technology, 2009( 7): 236- 240.
Wang XW, LiuY. Survey of image super-resolution investigation[J]. Information Technology, 2009( 7): 236- 240.
[2] 陆婉芸, 王继周. 遥感影像超分辨率处理方法与研究进展[J]. 测绘科学, 2016, 41(12): 53-58, 69.
陆婉芸, 王继周. 遥感影像超分辨率处理方法与研究进展[J]. 测绘科学, 2016, 41(12): 53-58, 69.
Lu W Y, Wang J Z. Survey of super resolution processing method of remote sensing image[J]. Science of Surveying and Mapping, 2016, 41(12): 53-58, 69.
[3] 席志红, 曾继琴, 李爽. 基于双字典和稀疏表示的医学图像超分辨率重建[J]. 计算机测量与控制, 2017, 25(3): 197-200.
席志红, 曾继琴, 李爽. 基于双字典和稀疏表示的医学图像超分辨率重建[J]. 计算机测量与控制, 2017, 25(3): 197-200.
Xi Z H, Zeng J Q, Li S. Super-resolution reconstruction of medical image based on dual-dictionary and sparse representation[J]. Computer Measurement & Control, 2017, 25(3): 197-200.
[4] 廖秀秀. 基于学习的图像超分辨率重建算法研究[D]. 广州: 华南理工大学, 2013.
廖秀秀. 基于学习的图像超分辨率重建算法研究[D]. 广州: 华南理工大学, 2013.
Liao XX. Research on learning-based image super-resolution reconstruction algorithms[D]. Guangzhou: South China University of Technology, 2013.
Liao XX. Research on learning-based image super-resolution reconstruction algorithms[D]. Guangzhou: South China University of Technology, 2013.
[5] 谭政, 相里斌, 吕群波, 等. 一种基于频域的序列图像超分辨率增强方法[J]. 光学学报, 2017, 37(7): 0710001.
谭政, 相里斌, 吕群波, 等. 一种基于频域的序列图像超分辨率增强方法[J]. 光学学报, 2017, 37(7): 0710001.
[6] 郑向涛, 袁媛, 卢孝强. 自外而内的单幅图像超分辨率复原算法[J]. 光学学报, 2017, 37(3): 0318006.
郑向涛, 袁媛, 卢孝强. 自外而内的单幅图像超分辨率复原算法[J]. 光学学报, 2017, 37(3): 0318006.
[7] Freeman W T, Jones T R, Pasztor E C. Example-based super-resolution[J]. IEEE Computer Graphics and Applications, 2002, 22(2): 56-65.
Freeman W T, Jones T R, Pasztor E C. Example-based super-resolution[J]. IEEE Computer Graphics and Applications, 2002, 22(2): 56-65.
[8] Yang JC, WrightJ, HuangT, et al. Image super-resolution as sparse representation of raw image patches[C]. IEEE Conference on Computer Vision and Pattern Recognition, 2008: 10139952.
Yang JC, WrightJ, HuangT, et al. Image super-resolution as sparse representation of raw image patches[C]. IEEE Conference on Computer Vision and Pattern Recognition, 2008: 10139952.
[11] 许晓丽. 基于聚类分析的图像分割算法研究[D]. 哈尔滨: 哈尔滨工程大学, 2012.
许晓丽. 基于聚类分析的图像分割算法研究[D]. 哈尔滨: 哈尔滨工程大学, 2012.
Xu XL. Research of image segmentation algorithm based on clustering analysis[D]. Harbin: Harbin Engineering University, 2012.
Xu XL. Research of image segmentation algorithm based on clustering analysis[D]. Harbin: Harbin Engineering University, 2012.
[12] 卢汉清, 桂创华, 刘静. 基于层次聚类的图像检索方法: CN200810240361.8[P].2010-06-23.
卢汉清, 桂创华, 刘静. 基于层次聚类的图像检索方法: CN200810240361.8[P].2010-06-23.
Lu HQ, Gui CH, Liu J. Image retrieval method based on hierarchical clustering: CN200810240361.8[P].2010-06-23.
Lu HQ, Gui CH, Liu J. Image retrieval method based on hierarchical clustering: CN200810240361.8[P].2010-06-23.
[13] 黄文奇, 许如初. 近世计算理论导引: NP难度问题的背景、前景及其求解算法研究[M]. 北京: 科学出版社, 2006.
黄文奇, 许如初. 近世计算理论导引: NP难度问题的背景、前景及其求解算法研究[M]. 北京: 科学出版社, 2006.
Huang WQ, Xu RC. In the theory of computation: Research background, foreground and algorithm for solving NP hard problems[M]. Beijing: Science Press, 2006.
Huang WQ, Xu RC. In the theory of computation: Research background, foreground and algorithm for solving NP hard problems[M]. Beijing: Science Press, 2006.
[15] Elad M, Yavneh I. A plurality of sparse representations is better than the sparsest one alone[J]. IEEE Transactions on Information Theory, 2009, 55(10): 4701-4714.
Elad M, Yavneh I. A plurality of sparse representations is better than the sparsest one alone[J]. IEEE Transactions on Information Theory, 2009, 55(10): 4701-4714.
[17] SunJ, Xu ZB, Shum HY. Image super-resolution using gradient profile prior[C]. IEEE Conference on Computer Vision and Pattern Recognition, 2008: 10139964.
SunJ, Xu ZB, Shum HY. Image super-resolution using gradient profile prior[C]. IEEE Conference on Computer Vision and Pattern Recognition, 2008: 10139964.
[19] 张小丹, 范九伦, 徐健, 等. K均值聚类和支持向量数据描述的图像超分辨率算法[J]. 中国图象图形学报, 2016, 21(2): 135-144.
张小丹, 范九伦, 徐健, 等. K均值聚类和支持向量数据描述的图像超分辨率算法[J]. 中国图象图形学报, 2016, 21(2): 135-144.
Zhang X D, Fan J L, Xu J, et al. Image super-resolution algorithm via K-means clustering and support vector data description[J]. Journal of Image and Graphics, 2016, 21(2): 135-144.
[20] 虞涛. 基于邻域嵌入的图像超分辨率重建研究[D]. 南京: 南京邮电大学, 2013.
虞涛. 基于邻域嵌入的图像超分辨率重建研究[D]. 南京: 南京邮电大学, 2013.
YuT. Research on neighbor embedding base image super-resolution reconstruction[D]. Nanjing: Nanjing University of Posts and Telecommunications, 2013.
YuT. Research on neighbor embedding base image super-resolution reconstruction[D]. Nanjing: Nanjing University of Posts and Telecommunications, 2013.
[21] 方琪. 基于字典学习的图像超分辨率重建算法及研究[D]. 合肥: 合肥工业大学, 2016.
方琪. 基于字典学习的图像超分辨率重建算法及研究[D]. 合肥: 合肥工业大学, 2016.
FangQ. Research for image super resolution reconstruction based on dictionary learning[D]. Hefei: Hefei University of Technology, 2016.
FangQ. Research for image super resolution reconstruction based on dictionary learning[D]. Hefei: Hefei University of Technology, 2016.
[22] 王德芬, 高建强, 李莉. 基于中值PCA和加权PCA数据分类的研究[J]. 信息技术, 2014( 2): 14- 18.
王德芬, 高建强, 李莉. 基于中值PCA和加权PCA数据分类的研究[J]. 信息技术, 2014( 2): 14- 18.
Wang DF, Gao JQ, LiL. Studies on data classification based on median PCA and weighted PCA[J]. Information Technology, 2014( 2): 14- 18.
Wang DF, Gao JQ, LiL. Studies on data classification based on median PCA and weighted PCA[J]. Information Technology, 2014( 2): 14- 18.
[24] MairalJ, BachF, PonceJ, et al. Non-local sparse models for image restoration[C]. IEEE 12 th International Conference on Computer Vision , 2010: 2272- 2279.
MairalJ, BachF, PonceJ, et al. Non-local sparse models for image restoration[C]. IEEE 12 th International Conference on Computer Vision , 2010: 2272- 2279.
Article Outline
曾台英, 杜菲. 基于层次聚类的图像超分辨率重建[J]. 光学学报, 2018, 38(4): 0410004. Taiying Zeng, Fei Du. Image Super-Resolution Reconstruction Based on Hierarchical Clustering[J]. Acta Optica Sinica, 2018, 38(4): 0410004.