光子计数集成成像的压缩与重构
1 引言
集成成像技术(integral imaging,II)[1-2]是一种重要的裸眼三维显示技术,能够完整记录并还原出三维立体场景,具有成像结构简单、稳定性高、无需辅助设备、不会造成视觉疲劳等优点[3]。它是近年来三维显示领域的研究热点,广泛应用于目标识别和定位、深度信息检测、医疗影像、微光成像等领域,特别是Yeom等人[4]将集成成像技术与光子计数技术结合,首次提出光子计数集成成像系统,有效提高了光子计数图像的质量。集成成像技术优势明显,但是采集的图像相似度高、数据量大,给系统的传输和存储带来了巨大的压力,因此,解决集成成像图像的压缩问题就变得尤为重要。
传统的图像压缩方法必须满足奈奎斯特采样定理,采样数据量大,且先采样后压缩的方式浪费了大量时间和存储空间。压缩感知(compressed sensing,CS)理论[5]的提出,突破了奈奎斯特采样定理的限制,实现了信号采样与压缩的同时进行。该理论充分利用信号的稀疏性,用少量的测量数据就可以完成信号的精确重构,有效避免了资源浪费[6-7]。然而,压缩感知理论针对的是单一信号的压缩与重构问题,当面临多信号压缩时,若依然采用单独压缩与重构的方式,会造成资源浪费,同时加大编码端的计算复杂度。因此,为了解决多信号压缩问题,研究人员在压缩感知理论的基础上提出了分布式压缩感知理论(distributed compressed sensing,DCS)[8],该理论利用多个信号内和信号间的相关性,对信号进行压缩和重构,提高了信号的整体重构效率,降低了信号的存储和传输成本。
自DCS提出以来,众多学者将其应用于音视频处理、图像融合、三维成像等领域,并展开了广泛研究。Thong T. Do等人[9]将DCS理论成功地应用于视频信号,提出了分布式压缩视频框架(distributed compressed video sensing,DCVS)。它将视频序列划分为关键帧和非关键帧,前者采用传统的帧内编码技术将其传输到解码端,后者结合关键帧的信息进行基于压缩感知的测量与重构。为了提高测量效率和降低复杂度,一些学者采用了基于块的压缩测量以及平滑投影Landweber重构算法(block compressed sensing-smoothed projected landweber,BCS-SPL)[10-11]。基于BCS-SPL,有学者提出了块分类测量方式,即在编码端对图像块进行分类判断,不同的图像块设置不同的测量率,这种方式进一步提高了测量效率,且保证了图像质量[12]。除了应用于视频处理,DCS在其他领域也有广泛应用。王忠良等人[13]根据高光谱数据的特点,提出了一种基于像元的分布式压缩采样模型,搭建了实现该模型的压缩采样光谱成像系统,完成了高光谱图像的有效压缩采样与重构。Deng等人[14]根据高光谱图像的光谱相关性,提出了高光谱图像压缩自适应分组算法,提高了图像的重构效果,获得了较好的压缩效率。张娜等人[15]设计了一种DCS距离选通三维成像方法,根据相关性构建基于联合稀疏模型的分布式压缩模型,辅助重构部分时间切片,有效解决了三维成像庞大数据量与硬件存储性能的冲突。Sumi等人[16]将分布式压缩感知的框架应用到光场相机的多视角图像,并将交替方向乘子法应用于字典设计,高概率地同时重构多幅图像。
基于以上DCS理论在众多领域的应用,考虑到光子计数集成成像系统采集的图像序列之间相似性大,图像信息少,对压缩和重构要求高的特点,本文将DCS应用于光子计数集成成像的压缩,对图像序列进行测量和重构。本文提出一种新的适用于光子计数图像序列的压缩与重构方案,将图像序列分为参考图像和非参考图像,分别进行处理。其中参考图像设置高测量率,采用块测量与重构的方式;非参考图像设置较低测量率,提出针对低测量率下图像重构的算法。所提算法在解码端对图像块测量值完成分类,针对不同类型的图像块使用不同的矢量构建策略,保证图像的重构质量,同时进行二次残差补偿重构,进一步提高重构图像质量。
1基本原理
1.1离轴分布感知集成成像原理
集成成像系统主要有基于透镜采集和基于相机采集两种类型。本节主要介绍基于相机的离轴分布感知集成成像系统[17]。系统原理图如
1.2分布式压缩感知原理
压缩感知理论指出,当信号具有稀疏性或可以被稀疏表示时,仅依靠少量的测量值就可以高概率地恢复原始信号。设长度为
式中:
信号重构过程定义为
压缩感知理论处理单个信号时具有重构精度高、运算速度快的优势,但是在处理多个信号时,由于不能利用信号之间的相关性,使得它优势不再明显。因此,针对多信号处理情况,研究人员提出了分布式压缩感知理论[6],该理论充分利用信号内和信号间的关联性,完成多个信号的独立测量和联合重构。分布式压缩感知理论的模型如
2图像压缩与重构
本文基于分布式压缩感知理论,提出用于光子计数集成成像图像压缩与重构的框架,如
图 3. 本文所提分布式压缩与重构框架
Fig. 3. Proposed distributed compression and reconstruction framework
2.1图像的分块测量
对于多幅元素图像,将相邻的两幅图像设为一个图像组,即NGOP=2。设置每个GOP中第一幅图像为参考图像,用
参考图像
式中:
在
那么,整幅图像的测量值
式中
非参考图像
式中:
同理可得整幅非参考图像的测量值
式中:
2.2参考图像的重构
由于测量值的数量远小于原信号的长度,压缩感知图像重构面临着求解欠定方程的问题。由1.2节可知,为了能够从
式中:
针对图像分块测量的特点,选择BCS-SPL算法[8]求解式(9),获得参考图像重构值。该算法复杂度低,重构速度快,通过不断迭代可以很大程度上去除图像块效应,提高图像质量。
2.3非参考图像的重构
由于非参考图像设置了较低的测量率,直接重构会导致图像质量不高,有效信息严重缺失。为了解决这个问题,本文根据集成成像系统采集的图像序列存在大量重叠信息的特点,利用图像之间的相关性,提出以下非参考图像重构算法。
2.3.1初次重构
首先根据参考图像与非参考图像的相关性大小,在解码端对非参考图像进行块分类,并按照分类结果重新构建块测量值矢量。
由2.1节可知,参考图像与非参考图像的第
具体块分类方式为
式中:
当
当
经过块分类和块测量矢量构建后,非参考图像块的测量值维度不再一致,无法按照参考图像的方式进行整体重构,只能对每个图像块单独进行重构,重构过程如下:
式中:
重构算法选择正交匹配追踪(orthogonal matching pursuit,OMP)算法[18]完成对每个图像块的重构,然后将图像块重组成整幅图像,获得非参考图像的初次重构结果。
2.3.2二次重构
与图像的直接重构相比,初次重构通过增加块分类和块测量矢量构建的步骤可以达到提升图像质量的目的,但是对于大变化块来说,重构质量依然不理想,而且选择块独立重构方式会使重构图像产生一定程度的块效应。所以为了进一步提高图像的质量,对非参考图像进行第二次重构,算法框架如
首先,根据原始非参考图像
接着计算两次测量值的差值
利用BCS-SPL算法对
式中:
3实验结果与分析
3.1实验设置和参数选择
本文实验图像来自基于光子计数的离轴分布感知集成成像实验平台[19],如
设置载有目标物体的一维导轨偏离相机光轴
为了对所提方案的性能进行评估,本节进行一系列实验,选择OMP(orthogonal matching pursuit)算法、Joint-OMP算法[20]、BCS-SPL算法作为对比算法重构非参考图像,其中,OMP算法和BCS-SPL算法是仅依靠非参考图像测量值重构图像的独立重构算法,Joint-OMP算法和所提算法是结合参考图像测量值信息的联合重构算法。选择PSNR(峰值信噪比)和SSIM(结构相似性)作为图像重构质量的客观评价指标。参考图像测量率固定为0.7,非参考图像测量率在
3.2实验结果
首先,验证分组设置测量率对传输数据量的减少作用。由上节内容可知,集成成像系统共采集到10幅图像,分为5个图像组,即5张参考图像和5张非参考图像,每张图像的尺寸为
为了验证所提算法的图像重构性能,将参考图像和非参考图像的测量率分别设置为0.7和0.3。利用OMP算法、Joint-OMP算法、BCS-SPL算法和所提算法重构非参考图像,计算所有非参考图像的PSNR和SSIM值,结果如
表 1. 测量率0.3时图像重构结果的PSNR和SSIM值
Table 1. PSNR and SSIM values for image reconstruction results at measurement rate of 0.3
|
从
此外,算法运行时间可以作为计算复杂度的一个合理近似。
为了直观地展示每种算法的图像重构性能,本文比较了不同方案的主观图。如
图 7. 测量率0.3时不同非参考图像的重构结果
Fig. 7. Reconstruction results of different non-reference images at measurement rate of 0.3
为了进一步验证所提算法的性能,设置不同的测量率进行实验。参考图像的测量率
图 8. GOP_1在不同测量率下PSNR和SSIM值
Fig. 8. PSNR and SSIM values of GOP_1 at different measurement rates
图 9. GOP_2在不同测量率下PSNR和SSIM值
Fig. 9. PSNR and SSIM values of GOP_2 at different measurement rates
图 10. GOP_3在不同测量率下PSNR和SSIM值
Fig. 10. PSNR and SSIM values of GOP_3 at different measurement rates
图 11. GOP_4在不同测量率下PSNR和SSIM值
Fig. 11. PSNR and SSIM values of GOP_4 at different measurement rates
除此之外,从
图 12. GOP_5在不同测量率下PSNR和SSIM值
Fig. 12. PSNR and SSIM values of GOP_5 at different measurement rates
为了进一步表明所提算法的优势,
图 13. 测量率0.25和0.4时GOP_2重构结果
Fig. 13. Reconstruction results of GOP_2 at measurement rates of 0.25 and 0.4
为了增强实验的客观性,计算了同一测量率下5幅非参考图像的平均PSNR和SSIM值,结果如
表 2. 不同测量率下重构图像的平均PSNR和SSIM
Table 2. Average PSNR and SSIM values of reconstruction image at different measurement rates
|
综合以上所有实验结果,可以得出,与对比算法相比,本文所提算法在不同测量率下对图像进行重构均具有一定优势,尤其是在测量率较低时,获得的重构图像质量依然很高。所提方案可以达到减少集成成像图像序列传输数据量,同时保证图像质量的目的。
4结论
本文根据光子计数集成成像的图像特点,设计了基于分布式压缩感知的图像测量与重构框架。该框架将图像序列区分处理,设置高低不同的测量率,使存储的数据量大幅减少,节省了存储空间。同时,为了保证低测量率下的图像重构质量,提出了图像二次重构算法,在对图像进行块分类测量的基础上,利用图像之间的相关性,对低测量值拓展,完成初次重构,并将初次重构结果作为参考信息完成二次重构。实验结果验证了所提算法有效提高了低测量率图像的重构质量,具有优越的性能。
[1] LIPPMANN GLa photographie integraleComptes Rendus de I’Academie Bulgare des Sciences1908146446451
张雷, 焦小雪, 孙羽, 等集成成像大纵深物体的三维形貌获取技术应用光学2017384587591
[6] 蒋宗铧, 田昕, 杨晋陵基于非局部广义全变分的计算鬼成像重建方法应用光学20224315259
[7] 吴笑男, 张瑞, 王志斌, 等基于FP微阵列的压缩感知光谱重建研究应用光学202142343644210.5768/JAO202142.0301010
[8] BARON D, DUARTE M F, WAKIN M B, et alDistributed compressive sensingIEEE Signal Processing Magazine20092133547
[9] DO T T, CHEN Y, NGUYEN D T, et al. Distributed Compressed Video Sensing[C]//2009 16th IEEE International Conference on Image Processing. Cairo, Egypt: IEEE, 2009: 1393-1396.
[10] MUN S, FOWLER J E. Block compressed sensing of images using directional transforms[C]//2009 16th IEEE International Conference on Image Processing. Cairo, Egypt: IEEE, 2009: 3021-3024.
[11] MUN S, FOWLER J E. Residual reconstruction for block-based compressed sensing of video[C]//2011 Data Compression Conference. Snowbird, UT, USA: IEEE, 2011: 183-192.
[12] 练秋生, 田天, 陈书贞, 等基于变采样率的多假设预测分块视频压缩感知电子与信息报2013351203208
LIAN Qiusheng, TIAN Tian, CHEN Shuzhen, et alBlock compressed sensing of video based on variable sampling rates and multihypothesis predictionsJournal of Electronics & Information Technology2013351203208
[13] 王忠良, 冯燕, 肖华, 等高光谱图像的分布式压缩感知成像与重构光学精密工程20152341131113710.3788/OPE.20152304.1131
[14] DENG L, ZHENG Y, JIA P, et al. Adaptively group based on the first joint sparsity models distributed compressive sensing of hyperspectral image[C]//2017 6th International Conference on Computer Science and Network Technology. Dalian, China: IEEE, 2017: 429-434.
[15] ZHANG Na, WANG Lu, CHENG Junna, er alAdaptive Range-Gated 3D Imaging Based on Distributed Compressed SensingJournal of Northeastern University (Natural Science)2021424516523
张娜, 王璐, 程军娜, 等基于分布式压缩感知的自适应距离选通三维成像东北大学学报(自然科版)2021424516523
[16] SUMI T, NAKAMURA I, KUROKI Y. Distributed compressed video sensing of multi-viewpoint images using ADMM[C]//2016 Asia-Pacific Signal and Information Processing Association Annual Summit and Conference. Jeju, Korea: IEEE, 2016: 1-5.
[19] 李英, 尹丽菊, 申晋, 等微光成像实验平台的光路设计实验室研究与探索20193812757810.3969/j.issn.1006-7167.2019.12.018
[20] 崔平, 倪林分布式压缩感知联合重构算法红外与激光工程201544123825383010.3969/j.issn.1007-2276.2015.12.055
[21] 梁漠杨. 图像的采样率自适应分块压缩感知算法研究[D]. 西安: 西安电子科技大学, 2019.
LIANG Moyang. Research on sampling rate adaptive block compressed sensing algorithms for image[D]. Xi'an: Xidian University, 2019.
Article Outline
崔玉敏, 尹丽菊, 隋立国, 周辉, 邓玉林. 光子计数集成成像的压缩与重构[J]. 应用光学, 2023, 44(2): 295. Yumin CUI, Liju YIN, Liguo SUI, Hui ZHOU, Yulin DENG. Compression and reconstruction of photon counting integral imaging[J]. Journal of Applied Optics, 2023, 44(2): 295.