水下鬼成像的研究进展 下载: 1889次特邀综述
1 引言
图像作为信息传递载体充当了枢纽角色,而成像则是获取图像的重要技术手段。传统成像采用带有空间分布的阵列型探测器作为图像传感器,日常生活中使用的手机摄像头、数码相机等都采用了电耦合器件或互补阳极金属氧化半导体。传统阵列光电探测器往往采用硅作为光敏面材料,而硅的响应波段为400~1100 nm:当波长大于700 nm时,探测器响应度已降低;当波长大于1100 nm时,硅阵列探测器几乎不响应。为了解决长波长或短波长的光电探测问题,研究者们纷纷在光电材料领域中进行了探索,铟镓砷(响应波段为1100~1700 nm)、硫化铅(响应波段为1000~3300 nm)、硒化铅(响应波段为1000~5300 nm)和氧化锌(响应波段为200~380 nm)等材料探测器的出现使得光电探测波段得到了扩展,但制备特殊波段阵列型探测器存在价格高、难度大等难题。同时,对于阵列型探测器件来说,光强矩阵形成了图像的空间分布,当弱光下每点的光强值低于探测阈值时,将出现探测失败的结果。鬼成像(GI)作为一种非常规的成像方式,利用不带有空间分辨率的桶探测器记录光强来重建图像,这种非点对点的成像方式可以用来解决常规成像所面临的问题。
由于水中存在吸收、介质散射和复杂的光与物质相互作用,故在水下环境中对物体进行成像一直是一项艰巨的任务。浊水成像技术由于效率低且缺乏抗散射成像能力,故一直是业内的卡脖子问题。特别是,在浑浊度超过50 NTU(NTU为散射浊度单位,1 NTU=1 mg/L,标准液为二氧化硅水溶液)的高浊水中,传统成像过程中会出现严重的对比度低、细节缺失、边界模糊和颜色失真等现象,这都将导致成像结果达不到预期的要求。
水下鬼成像的应用说明鬼成像在能见度差的水下环境中具有克服视觉局限性的独特能力,在复杂环境中,如浑浊液体、浓雾和胶体介质等,都将发挥出其优秀的潜质。首先,本文介绍了鬼成像发展历程、光路结构和关键技术。然后,针对近年来水下鬼成像的研究,讨论了影响水下鬼成像质量的因素和提升方法。最后,对水下鬼成像的未来研究方向进行了展望。
2 鬼成像
2.1 鬼成像发展历程
鬼成像,也被称为关联成像,其成像系统由两条光路共同组成。参考光路中具有空间分辨率的探测器收集了不包含待测物体信息的信号,而信号光路中不具有空间分辨能力的桶探测器收集了带有待测物体信息的信号,将两路信息进行关联计算可以获得待测物体清晰的像。因不可单独在任何一条光路中直接获得成像结果,故被称为鬼成像。可以将鬼成像认为是改进型的逐点扫描成像。逐点扫描成像是将桶探测器进行机械移动,通过每个位置的光强值来判断该点处待测物体的灰度值。虽然逐点扫描成像可以获取待测物体的空间分布,但是由于探测到的信号较弱且噪声较大,故成像质量不够优秀。在鬼成像中,人们则是将桶探测器值视作多个位置的光强之和,以判断这些位置处待测物体的灰度占比。由于探测器得到的信号较大,信噪比(SNR)较高,故成像质量更加可靠。鬼成像面临的如何分辨每次给出的多个位置和每个位置的强度占比问题则是由关联计算等方法进行解决的。
鬼成像的起源可以追溯到1956年,Brown和Twiss[1-2]利用光场二阶关联实现了天狼星的角直径测量,关联计算的应用为新型成像技术打开了大门。1995年,Pittman等[3]使用纠缠光子对进行符合测量,在实验上证实了量子鬼成像的有效性。2002年,Bennink等[4]使用氦氖激光器在经典领域中实现了鬼成像,证明了鬼成像不只存在于量子领域中,其也可在经典领域发挥其独特作用。2008年,Shapiro等[5]从理论角度提出了一种仅使用单光路的计算鬼成像方案,省略了参考光路的计算鬼成像使得实验装置更为简单,这为鬼成像测量后的数据处理打开了新思路。对于传统鬼成像来说,成像质量与测量的数目有关,往往大量测量时才能实现清晰的鬼成像,而大量的测量会使得成像速度变慢。压缩感知技术的发展为鬼成像提供了新工具。2009年,Katz等[6]将压缩感知技术应用于鬼成像中,使用数学优化手段来解决成像问题,可以在保证成像质量的同时大大降低测量数目。鬼成像与计算机的融合让鬼成像依托于测量后计算机的计算性能,而非测量时的实验测量数目,这使得鬼成像更适应于计算机时代的趋势。2017年,Lü等[7]将深度学习应用于鬼成像中,这进一步推进了鬼成像的发展。
近年来,许多人将鬼成像技术应用于水下成像中,例如:2011年,西安电子科技大学进行了海水环境鬼成像的仿真实验[8];2017年,西安交通大学设计了不同视角下的水下鬼成像实验方案[9];2017年,湖南大学探索了溶液折射率分布对鬼成像的影响[10];2019年,南京邮电大学探究了温度和振动对浑水鬼成像的影响[11];2021年,中国科学院上海光学精密机械研究所设计了浑水鬼成像的改进方案[12]。
2.2 光路结构
在鬼成像中调制器件常用旋转的毛玻璃[13-15]、旋转的掩模板[16-19]、数字微镜器件(DMD)[20-26]、空间光调制器(SLM)[27-31]和发光二极管(LED)阵列[32]等,如
根据掩模调制位置可将鬼成像分为前调制型和后调制型,前调制是指掩模的调制位置处于待测物体之前,后调制是指掩模调制位置处于待测物体之后。前调制是指调制器件对光源进行调制以实现结构化照明,这是鬼成像的经典调制方式,其光路图如
图 2. 基于投影仪的鬼成像结构示意图。待测物体为透射型且调制器为透射型时的(a)鬼成像和(b)单像素成像;待测物体为透射型且调制器为反射型时的(c)鬼成像和(d)单像素成像;待测物体为反射型且调制器为透射型时的(e)鬼成像和(f)单像素成像;待测物体为反射型且调制器为反射型时的(g)鬼成像和(h)单像素成像
Fig. 2. Structural diagram of ghost imaging based on projector. (a) Ghost imaging and (b) single-pixel imaging when object to be measured is transmissive and modulator is transmissive; (c) ghost imaging and (d) single-pixel imaging when object to be measured is transmissive and modulator is reflective; (e) ghost imaging and (f) single-pixel imaging when object to be measured is reflective and modulator is transmissive; (g) ghost imaging and (h) single-pixel imaging when object to be measured is reflective and modulator is reflective
采用一系列散斑模式与透射型目标图像进行相互作用,利用不具有空间分辨能力的桶探测器进行收集,得到的光强信息可表示为
式中:
式中:
式中:
2.3 关键技术
到目前为止,根据鬼成像的关键技术,可将其分为三类,即关联计算、压缩感知和神经网络,如
1995年,鬼成像首次提出时使用的是关联计算,研究者们在此基础上设计出了差分鬼成像(DGI)[34]和归一化鬼成像(NGI)[35],相应的计算公式为
式中:
2008年,压缩感知技术被提出后,便被广泛应用于鬼成像中[36-42]。与传统鬼成像相比,利用信号稀疏性来完成重建的压缩感知鬼成像(CSGI)的测量数目大大降低,成像质量却得到了提升。在此过程中存在信号的稀疏表示、测量矩阵的选择和重构算法的优化三个问题。在自然界中,原始信号通常不具备稀疏性,但此时存在某些变换域会使得信号在该变换域上能够实现稀疏表示。常采用的变换有离散小波变换(DWT)、连续曲波变换、轮廓波变换、快速傅里叶变换(FFT)、离散傅里叶变换(DFT)、离散余弦变换(DCT)、多尺度几何分析和冗余字典等。压缩感知中的测量矩阵在鬼成像中为调制器件产生的散斑模式,常采用高斯随机矩阵型、部分阿达玛型、循环型和编码型等方式的矩阵。算法恢复中主要涉及三大类算法,分别是凸优化算法、贪婪算法和组合算法。常用的压缩感知鬼成像可以表示为
式中:i=1,2,
2017年,神经网络技术在鬼成像中首次应用,并展现出了其优异的性质[43-50]。相比于压缩感知鬼成像,测量数目进一步降低,成像质量进一步提升,但是神经网络鬼成像具有其本身的局限性,进而其适用性会略低一些,如手写数字库训练的网络在目标为动植物的鬼成像中的成像质量远低于目标为手写数字库的情况。在神经网络鬼成像中常使用的是卷积神经网络、生成对抗神经网络和深度卷积生成对抗网络。研究者们往往采用关联成像的重构图
这三种形式的鬼成像并不单独存在,在发展中相互交叉和融合,但共同目的都是在尽可能短的时间内获得尽可能高的成像质量。
使用
图 5. 水下鬼成像的装置图和模拟结果。(a)水下鬼成像的装置图;(b)盐水和牛奶水环境下的鬼成像、差分鬼成像、压缩感知鬼成像和卷积神经网络鬼成像(CNNGI)
Fig. 5. Experimental setup and simulation results of underwater ghost imaging. (a) Experimental setup of underwater ghost imaging; (b) ghost imaging, differential ghost imaging, compressed sensing ghost imaging and convolutional neural network ghost imaging (CNNGI) in water environment added salt and milk
3 水下鬼成像的影响因素
水下成像技术在海洋领域中具有广泛的应用,因此在考虑水下鬼成像效果时,不仅需要探究无波动时的成像因素,还需要考虑海洋湍流所带来的影响。在无湍流时,对成像质量的影响因素主要是水的吸收系数和散射系数。浑浊度、水下散斑-物距离、视角、水温和水温梯度等因素也直观地影响了成像质量。当存在海洋湍流时,需要引入海洋湍流模型进行分析。
3.1 无海洋湍流
2013年,Bina等[51]演示了浑浊介质中的后向散射鬼成像。2015年,华中科技大学在多年研究水下环境激光性质的基础上,根据光在水中的传播规律,在统计光学基础上建立了带有后向散射系数的水下鬼成像模型,得到了散射影响下光强起伏图像的数值结果[52]。考虑到光路中水的吸收和后向散射的存在,仿真得到的成像信噪比会有所下降,但物体的反射率信息在空间分布上并不会改变,如
图 6. 后向散射光作用下的水下鬼成像结果[52]。(a)仿真结果;(b)结果实验
Fig. 6. Underwater ghost imaging results under backscatter light[52]. (a) Simulation result; (b) experiment result
2017年,西安交通大学从实验角度上探究了水下散斑-物距离、水质浑浊度和视角对水下鬼成像的影响[9]。研究者们通过将待测物体放置在如
图 7. 水下散斑-物距离、水质浑浊度和视角对水下鬼成像的影响[9]。(a)水下成像装置图;(b)视角测量装置图;(c)电荷耦合器件(CCD)捕获的不同浑浊度图;(d)不同帧数、浑浊度和位置下的鬼成像图;(e)信噪比与浑浊度的关系;(f)光功率、信噪比与视角的关系
Fig. 7. Effects of underwater speckle-object distance, water turbidity and angle of view on underwater ghost imaging[9]. (a) Experimental setup of underwater imaging; (b) experimental setup for measurement of angle of view; (c) images with different turbidities captured by charge-coupled device (CCD); (d) ghost imaging results at different frame numbers, turbidities, and positions; (e) relationship between signal-to-noise ratio and turbidity;(f) relationship among optical power, signal-to-noise ratio and angle of view
同年,湖南大学针对水下散斑-物距离进行了研究,并讨论了折射率对鬼成像质量的影响[10]。当散斑在水中的行进距离增大时,成像质量变差、成像分辨率降低,如
图 8. 水下散斑-物距离和折射率对水下鬼成像的影响[10]。(a)不同行进距离下鬼成像结果图;(b)不同行进距离下点扩散函数宽度随总光程的变化;(c)不同折射率下鬼成像结果图;(d)不同折射率下点扩散函数宽度随总光程的变化
Fig. 8. Effects of speckle-object distance and refractive index on underwater ghost imaging[10]. (a) Ghost imaging results at different distances; (b) width of point spread function varying with total optical path under different distances; (c) ghost imaging results under different refractive indices; (d) width of point spread function varying with total optical path under different refractive indices
图 9. 水下散斑-物距离和水温对水下鬼成像的影响[53]。(a)光路示意图;(b)不同位置和温度时成像结果;(c)不同位置处鬼成像信噪比与温度的关系;(d)鬼成像信噪比与散斑-物距离的关系
Fig. 9. Effects of underwater speckle-object distance and water temperature on underwater ghost imaging[53]. (a) Light path diagram; (b) imaging results under different locations and temperatures; (c) relationship between signal-to-noise ratio of ghost imaging and temperature at different locations; (d) relationship between signal-to-noise ratio of ghost imaging and speckle-object distance
2019年,南京邮电大学在实验上进一步探究了温度梯度、振动幅度对水下鬼成像的影响[11]。他们通过改变加热器位置至如
图 10. 温度梯度、振动幅度对水下鬼成像的影响[11]。(a)水下环境示意图;(b)不同位置和温度梯度下的成像结果;(c)不同位置下结构相似性(SSIM)与温度梯度的关系;(d)不同振动幅度下的成像结果和结构相似度;(e)结构相似度与浑浊度关系
Fig. 10. Effects of temperature gradient and vibration amplitude on underwater ghost imaging[11]. (a) Schematic diagram of underwater environment; (b) imaging results under different locations and temperature gradients; (c) relationship between structural similarity (SSIM) and temperature gradient at different locations; (d) imaging results and structural similarities under different vibration amplitudes; (e) relationship between structural similarity and turbidity
3.2 有海洋湍流
在水环境中,光子会因为悬浮粒子的衰减而产生能量耗散,同时吸收和散射的作用使得光场随传输距离的增加而变弱。Hardy和Shapiro[54]考虑了大气湍流环境对鬼成像的影响,而在海水环境中光场会因水下湍流发生剧烈衰减,这使得传统水下成像的应用范围局限于短距离,海洋湍流作为重要参数同样会影响水下鬼成像的成像质量。
2018年,华东交通大学数值分析了传播距离和海洋湍流强度对图像质量的影响[55]。众所周知,成像质量会随着传播距离的增大而减弱,如
式中:
图 11. 传播距离、海洋湍流系数和光束形貌对水下鬼成像的影响[55,57]。(a)不同传播距离下的成像结果;(b)均方根误差与 、 、 间的关系;(c)高斯光源和洛伦兹光源的鬼成像结果;(d)高斯光源和不同调制因子的洛伦兹光源下均方根误差与海洋湍流参数关系
Fig. 11. Effects of propagation distance, ocean turbulence coefficients and beam morphology on underwater ghost imaging[55, 57]. (a) Imaging results under different propagation distances; (b) root mean square error varying with , and ; (c) ghost imaging results of Gaussian light source and Lorentz light source; (d) relationship between root mean square error and ocean turbulence parameters under Gaussian light source and Lorentz light source with different modulation factors
2019年,中国海洋大学建立了海洋湍流作用下光场传输的鬼成像物理模型,在不考虑水吸收和光散射的条件下对鬼成像质量进行了分析[58]。结果表明,均方温度耗散率
式中:
图 12. 海洋湍流系数和浑浊度对水下鬼成像的影响[58-59]。(a)能见度与 的关系;(b)能见度与 的关系;(c)能见度与 的关系;(d)能见度与波长的关系;(e)能见度与相干长度的关系;(f)不同浑浊度的传统成像与鬼成像;(g)峰值信噪比与相对衰减系数的关系;(h)可见度与相对衰减系数的关系
Fig. 12. Effects of ocean turbulence coefficient and turbidity on underwater ghost imaging[58-59]. (a) Relationship between visibility and ; (b) relationship between visibility and ; (c) relationship between visibility and ; (d) relationship between visibility and wavelength; (e) relationship between visibility and coherence length; (f) traditional imaging and ghost imaging under different turbidities; (g) relationship between peak signal-to-noise ratio and relative attenuation coefficient; (h) relationship between visibility and relative attenuation coefficient
2020年,潍坊学院基于惠更斯-菲涅耳原理,进行了Kolmogorov海洋湍流中反射式无透镜鬼成像的仿真计算[60]。他们探究了
图 13. 入射角度、传播距离和海洋湍流系数对水下鬼成像的影响[60]。(a)水下光路图;(b)不同入射角度的成像结果;(c)不同传输距离的成像结果。(d)可见度与 间的关系;(e)可见度与 间的关系;(f)可见度与 间的关系
Fig. 13. Effects of incident angle, propagation distance and ocean turbulence coefficients on underwater ghost imaging[60]. (a) Light path diagram of underwater; (b) imaging results of different incident angles; (c) imaging results of different transmission distances; (d) relationship between visibility and ; (e) relationship between visibility and ; (f) relationship between visibility and
4 水下鬼成像优化方案
4.1 散斑优化
2019年,长春理工大学将最小化全变分应用到压缩感知水下鬼成像中发现,投射阿达玛散斑时成像效果更好[61]。如
图 14. 散斑阿达玛模式的水下鬼成像[61]。(a)随机散斑与阿达玛散斑下的成像结果;(b)不同浑浊度下阿达玛散斑鬼成像与传统成像对比
Fig. 14. Hadamard speckle underwater ghost imaging[61]. (a) Imaging results under random speckles and Hadamard speckles; (b) comparison between Hadamard speckle ghost imaging and traditional imaging under different turbidities
2021年,厦门大学演示了一种优于随机模式的阿达玛鬼成像系统,并探究了激光功率、投影率和水浑浊度对图像质量的影响[62]。对检测到的阿达玛谱进行阿达玛逆变换得到初步鬼像,再使用块匹配三维滤波平滑滤波器抑制噪声进一步提升成像质量。结果表明,该系统具有高分辨率和抗散射能力,更利于水下成像。增加激光功率,能够提高重建图像的质量,如
图 15. 激光功率、投影率和浑浊度对阿达玛水下鬼成像的影响[62]。(a)不同激光功率下的阿达玛水下鬼成像;(b)不同投影频率下的阿达玛水下鬼成像;(c)不同浑浊度下的阿达玛水下鬼成像;(d)阿达玛水下鬼成像、相机、压缩感知鬼成像和傅里叶鬼成像结果的对比
Fig. 15. Effects of laser power, projection rate and turbidity on Hadamard underwater ghost imaging[62]. (a) Hadamard underwater ghost imaging under different laser powers; (b) Hadamard underwater ghost imaging under different projection frequencies; (c) Hadamard underwater ghost imaging under different turbidities; (d) comparison of Hadamard underwater ghost imaging, camera, compressed sensing ghost imaging and Fourier ghost imaging results
4.2 硬件优化
在所有的水下激光应用中,反射的激光脉冲在激光的传播路径和反射过程中会发生高度衰减。2019年,长春理工大学设计了一种简单稳定的脉冲峰值检测型水下鬼成像系统[63],从而降低了后向散射光噪声的影响。基于双向反射分布函数和激光探测与测距模型,桶探测器的光强信息会受到多种因素的影响,其表达式为
式中:
图 16. 脉冲峰值检测型水下鬼成像[63]。(a)不同传输距离下的鬼成像;(b)不同入射角下的鬼成像;(c)不同介质衰减系数下的鬼成像
Fig. 16. Pulse peak detection underwater ghost imaging[63]. (a) Ghost imaging at different transmission distances; (b) ghost imaging at different incident angles; (c) ghost imaging at different medium attenuation coefficients
大连海事大学针对水下鬼成像中存在的后向散射问题设计了两种解决方案[64-66]。一种解决方案是推扫式计算鬼成像,如
图 17. 推扫式计算水下鬼成像和交叉偏振型水下鬼成像[64-66]。(a)推扫式计算水下鬼成像的结构示意图;(b)不同浑浊度和传输距离下的成像对比;(c)交叉偏振型水下鬼成像的结构示意图;(d)不同偏振和浑浊度下的成像对比
Fig. 17. Push-sweep computing underwater ghost imaging and cross-polarization underwater ghost imaging[64-66]. (a) Structural diagram of push-sweep computing underwater ghost imaging; (b) imaging comparison under different turbidities and transmission distances; (c) structural diagram of cross-polarization underwater ghost imaging; (d) imaging comparison under different polarizations and turbidities
2021年,中国科学院上海光学精密机械研究所演示了一种基于直方图预处理的水下偏振差分关联成像方法[12]。在获取两个正交偏振方向的鬼像后,借助灰度拉伸方法对初步形成的鬼像进行预处理,再利用偏振差分算法得到最终的鬼像,可表示为
式中:
图 18. 基于直方图预处理的水下偏振差分鬼成像[12]。(a)直方图偏振差分鬼成像光路示意图;(b)不同浑浊度和偏振下的鬼成像结果;(c)不同浓度下的重建图像灰度的直方图统计结果
Fig. 18. Underwater polarization differential ghost imaging based on histogram preprocessing[12]. (a) Schematic diagram of light path of histogram polarization differential ghost imaging; (b) ghost imaging results under different turbidities and polarizations; (c) histogram statistical results of gray values of reconstructed images under different concentrations
4.3 算法优化
2011年,中国科学院西安光学精密机械研究所在凸集交替投影方法的基础上设计了一种水下鬼成像的重构算法[8]。他们利用凸集交替投影方法找到问题最佳解,再采用硬阈值法去除重构过程中产生的高斯噪声。与原有算法相比,这种方式大大提高了水下鬼成像的成像质量,如
为了减少前向散射带来的畸变负面作用,哈尔滨工业大学于2022年构建了一种水降解函数补偿法,对桶探测器数据进行空间谱域处理,再进行水降解函数估计,以消除前向散射,最终提升了鬼成像的重建效果[67]。该方法不仅适用于不同采样率,同时也适用于不同浑浊度的水下环境,如
图 20. 水降解函数补偿的水下鬼成像[67]。(a)水降解函数补偿鬼成像、差分鬼成像和傅里叶鬼成像的对比;(b)不同采样率下水降解函数补偿鬼成像和傅里叶鬼成像的结果
Fig. 20. Underwater ghost imaging compensated by water degradation function[67]. (a) Comparison of ghost imaging compensated by water degradation function, differential ghost imaging and Fourier ghost imaging; (b) results of ghost imaging compensated by water degradation function and Fourier ghost imaging at different sampling rates
广东工业大学于2021年演示了一种基于小波增强的水下压缩计算鬼成像[68]。他们也使用了阿达玛散斑模式,利用基于全变分正则化先验的压缩感知模型,采用了增广拉格朗日乘子法初步恢复目标图像,并结合进一步去噪的小波增强算法,最终提高了图像质量,实现了水下目标的清晰成像。不论在纯水下,还是在浑水下,该方法的成像方案都优于基于四连接区域(CR)、“蛋糕切割”(CC)、全变分(TV)、“俄罗斯娃娃”(RD)和低等级(LR)的方法,如
图 21. 基于小波增强的水下压缩计算鬼成像[68]。(a)纯水下文献[68]中的方法、“俄罗斯娃娃”方法、基于四连接区域的方法、全变分方法、低等级的方法和“蛋糕切割”方法的成像结果;(b)浑水下文献[68]中的方法、“俄罗斯娃娃”方法、基于四连接区域的方法、全变分方法、低等级的方法和“蛋糕切割”方法的成像结果;(c)纯水下峰值信噪比与采样率的关系;(d)污水下峰值信噪比与采样率的关系
Fig. 21. Underwater compression computing ghost imaging based on wavelet enhancement[68]. (a) Imaging results of method in Ref.[68], "Russian Doll" method, method based on four connected region, total variation method, low grade method, and "Cake Cutting" method in tap water; (b) imaging results of method in Ref.[68], "Russian Doll" method, method based on four connected region, total variation method, low grade method, and "Cake Cutting" method in turbid water; (c) relationship between peak signal-to-noise ratio and sampling rate in tap water; (d) relationship between peak signal-to-noise ratio and sampling rate in turbid water
自2017年深度学习鬼成像首次被提出以来,大大加快了成像速度并提升了成像质量。关于深度学习水下图像重建技术的研究目前较少,利用鬼成像和深度学习来改进水下成像具有广阔的研究空间。2021年,长春理工大学构建了一种基于压缩感知超分辨率卷积神经网络的水下单像素目标检测系统[69]。在利用最小全变分作为压缩感知恢复算法的条件下,将超分辨率卷积神经网络作为模型。基于压缩感知超分辨率的卷积神经网络由三部分构成,如
图 22. 基于压缩感知超分辨率卷积神经网络的水下鬼成像[69]。(a)基于压缩感知超分辨率卷积神经网络的重构示意图;(b)不同采样率下的仿真结果;(c)不同浑浊度下文献[69]中的方法、鬼成像和超分辨率卷积神经网络的仿真对比;(d)文献[69]中的方法、鬼成像和超分辨率卷积神经网络的实验结果对比;(e)不同采样率下文献[69]中的方法与全变分正则化的对比
Fig. 22. Underwater ghost imaging based on compressed sensing super-resolution convolutional neural network[69]. (a) Schematic diagram of reconstruction based on compressed sensing super-resolution convolutional neural network; (b) simulation results under different sampling rates; (c) simulation comparison of method in Ref.[69], ghost imaging and super-resolution convolutional neural network under different turbidities; (d) experimental result comparison of method in Ref. [69], ghost imaging and super-resolution convolutional neural network under different turbidities; (e) comparison between method in Ref. [69] and total variational regularization under different sampling rates
2021年,哈尔滨工业大学设计了一种利用生成对抗网络来解决水下环境鬼成像面临的模糊问题的方案[70]。采用U-Net模型作为网络的生成器,在层与层之间添加双跳跃式连接,并在其中一个跳跃式连接中增加了注意力模型,将卷积神经网络作为鉴别器,将对抗损失、感知损失和像素损失之和作为总损失函数,将水下桶探测器检测到的总光强作为输入,设计了水下鬼成像生成对抗网络(UGI-GAN)模型,在仿真和实验中高质量地重建了水下目标。在黑暗环境中使用中心波长为532 nm的脉冲激光器作为光源,对计算机控制散斑模式分析的空间光调制器进行照明,将目标放置于纯水淹没的水槽中,并将桶探测器收集的光强作为UGI-GAN模型的输入返回到计算机中,如
图 23. 基于生成对抗网络的水下鬼成像[70]。(a)基于生成对抗网络的水下鬼成像的装置示意图;(b)生成成对的水下数据集的Cycle-GAN网络模型结构;(c)成对的水下数据集;(d)生成对抗网络的模型结构;(e)基于生成对抗网络的水下鬼成像、金字塔深度学习鬼成像和U-Net深度学习鬼成像的仿真对比;(f)基于生成对抗网络的水下鬼成像、金字塔深度学习鬼成像和U-Net深度学习鬼成像的实验对比;(g)浑浊度对基于生成对抗网络的水下鬼成像、金字塔深度学习鬼成像和U-Net深度学习鬼成像的影响
Fig. 23. Underwater ghost imaging based on generative adversarial network[70]. (a) Experimental setup of underwater ghost imaging based on generative adversarial network; (b) Cycle-GAN network model structure for generating paired underwater data sets; (c) paired underwater data sets;(d) model structure of generative adversarial network; (e) simulation comparison of underwater ghost imaging based on generative adversarial network, pyramid deep learning ghost imaging and U-NET deep learning ghost imaging; (f) experimental comparison of underwater ghost imaging based on generative adversarial network, pyramid deep learning ghost imaging and U-NET deep learning ghost imaging; (g) influence of turbidity on underwater ghost imaging based on generative adversarial network, pyramid deep learning ghost imaging and U-NET deep learning ghost imaging
4.4 性能对比
在图像处理领域中,信噪比、峰值功率信噪比(PSNR)和结构相似性常作为主要技术指标来表征图像质量。用以上三个普遍适用的成像质量指标对近年来一些水下鬼成像方案的实验配置和实验结果进行简单的归纳和对比,如
表 1. 水下鬼成像技术的指标对比
Table 1. Comparison of indicators of underwater ghost imaging technology
|
5 应用场景
水下鬼成像具有的成像质量高、速度快和抗干扰性强等特点,这在众多学者的研究中已被证实。目前其应用场景主要包括以下4个方面。
1)**安全
我国领海一直受到他国水下窃听装置和水文环境窃密装置的侵扰,东南沿海和南海地区经常打捞出他国窃密装置,对我国****具有严重威胁。水下鬼成像技术以其优秀的抗干扰能力可为我国水下反间谍提供新的技术方案,对入侵的窃密设备进行快速准确的成像探测,进而在**安全领域中具有广阔的应用前景。
2)水下救援
当海上发生意外时,救援船只的探测手段起到了至关重要的作用。相比于传统水下成像技术,将水下鬼成像方案搭载于救援船只上,可更快更好地对海上遇难者进行定位和追踪,进一步减少人员伤亡。
3)水下探测
深海作为天然的自然基金库,具有重大的研究潜力。水下鬼成像可快速捕获移动的水下动物,对微小物种进行成像,并能监测鲸鱼和其他濒危物种的生存深度。因此,水下鬼成像在深海生物学的物种发掘、能源应用等方面具有深远的意义[71]。搭载优秀的水下探测技术可以更好地进行距离探测并检测周围的生物,从而避免撞击。水下鬼成像具有的抗电磁波干扰性质[72]也可以进一步提升通信能力,从而提升经济效益。
4)极端环境
水下航行器在北极冰架下航行尤其困难,传统的导航设备如全球定位系统、罗盘和陀螺罗盘的可用性和可靠性低,且冰架形状和厚度变化快。使用水下鬼成像的北极水下导航系统可以抵御低温环境带来的影响,在极端环境下具有重大的应用潜力[73-75]。
人类对海洋的深入探索对水下成像技术提出了更高的要求,可以看到,水下鬼成像具有广阔的应用前景,但其在成像质量、速度、精度、尺寸和成本上仍然具有较大的研究空间,需要研究人员进一步探究。
6 结束语
水下成像技术的目的是实现远距离的高质量成像,在传统的水下光学成像方案中,提升光源照明度将带来强散射效应,导致无法同时兼顾成像质量与成像距离,而水下鬼成像技术在这一点上有着明显的优势。介绍了鬼成像技术的发展历程、光路结构和关键技术,罗列了水下鬼成像的影响因素,给出了提升方案,并对鬼成像日后的应用场景进行了预判。基于光强涨落的水下鬼成像对水体复杂环境更具抗干扰性,将水下鬼成像的抗干扰优势最大程度地发挥将是研究者们需要解决的研究内容。基于深度学习算法的水下鬼成像可以提升采样速度、减少成像时间,实时高质量的水下鬼成像,故其也将是热点的研究方向。虽然目前鬼成像技术在水下成像领域中的研究受到成像距离、浑浊度和湍流等因素的限制,但是相信随着计算成像的发展和水下传输环境研究的深入,水下鬼成像技术将走向成熟。
[1] Brown R H, Twiss R Q. Correlation between photons in two coherent beams of light[J]. Nature, 1956, 177(4497): 27-29.
[2] Brown R H, Twiss R Q. A test of a new type of stellar interferometer on Sirius[J]. Nature, 1956, 178(4541): 1046-1048.
[3] Pittman T B, Shih Y H, Strekalov D V, et al. Optical imaging by means of two-photon quantum entanglement[J]. Physical Review A, 1995, 52(5): R3429-R3432.
[4] Bennink R S, Bentley S J, Boyd R W. Two-Photon coincidence imaging with a classical source[J]. Physical Review Letters, 2002, 89(11): 113601.
[5] Shapiro J H. Computational ghost imaging[J]. Physical Review A, 2008, 78(6): 061802.
[6] Katz O, Bromberg Y, Silberberg Y. Compressive ghost imaging[J]. Applied Physics Letters, 2009, 95(13): 131110.
[7] Lü M, Wang W, Wang H, et al. Deep-learning-based ghost imaging[J]. Scientific Reports, 2017, 7: 17865.
[8] 吕沛, 周仁魁, 何俊华, 等. 水下单像素成像系统研究[J]. 光电子·激光, 2011, 22(9): 1425-1430.
Lü P, Zhou R K, He J H, et al. Research on underwater single-pixel imaging system[J]. Journal of Optoelectronics·Laser, 2011, 22(9): 1425-1430.
[9] Le M N, Wang G, Zheng H B, et al. Underwater computational ghost imaging[J]. Optics Express, 2017, 25(19): 22859-22868.
[10] Gao Y, Fu X Q, Bai Y F. Ghost imaging in transparent liquid[J]. Journal of Optics, 2017, 46(4): 410-414.
[11] Yin M Q, Wang L, Zhao S M. Experimental demonstration of influence of underwater turbulence on ghost imaging[J]. Chinese Physics B, 2019, 28(9): 190-195.
[12] 李宜泽, 邓陈进, 龚文林, 等. 浑浊介质下的偏振差分关联成像研究[J]. 光学学报, 2021, 41(15): 1511004.
[13] Zhang M H, Wei Q, Shen X, et al. Lensless Fourier-transform ghost imaging with classical incoherent light[J]. Physical Review A, 2007, 75(2): 441-445.
[14] Chan K W C, O'Sullivan M N, Boyd R W. Optimization of thermal ghost imaging: high-order correlations vs. background subtraction[J]. Optics Express, 2010, 18(6): 5562-5573.
[15] Chen L Y, Wang C, Xiao X Y, et al. Denoising in SVD-based ghost imaging[J]. Optics Express, 2022, 30(4): 6248-6257.
[16] Vallés A, He J H, Ohno S, et al. Broadband high-resolution terahertz single-pixel imaging[J]. Optics Express, 2020, 28(20): 28868-28881.
[17] Ma Y, Grant J, Saha S, et al. Terahertz single pixel imaging based on a Nipkow disk[J]. Optics Letters, 2012, 37(9): 1484-1486.
[18] Kingston A M, Myers G R, Pelliccia D, et al. Neutron ghost imaging[J]. Physical Review A, 2020, 101(5): 053844.
[19] Schori A, Shwartz S. X-ray ghost imaging with a laboratory source[J]. Optics Express, 2017, 25(13): 14822-14828.
[20] Studer V, Bobin J, Chahid M, et al. Compressive fluorescence microscopy for biological and hyperspectral imaging[J]. Proceedings of the National Academy of Sciences of the United States of America, 2012, 109(26): E1679-E1687.
[21] Yu W K, Li M F, Yao X R, et al. Adaptive compressive ghost imaging based on wavelet trees and sparse representation[J]. Optics Express, 2014, 22(6): 7133-7144.
[22] Sun M J, Edgar M P, Gibson G M, et al. Single-pixel three-dimensional imaging with time-based depth resolution[J]. Nature Communications, 2016, 7: 12010.
[23] Wang L, Zhao S M. Full color single pixel imaging by using multiple input single output technology[J]. Optics Express, 2021, 29(15): 24486-24499.
[24] Liu J F, Wang L, Zhao S M. Spread spectrum ghost imaging[J]. Optics Express, 2021, 29(25): 41485-41495.
[25] Liu B L, Wang F, Chen C H, et al. Self-evolving ghost imaging[J]. Optica, 2021, 8(10): 1340-1349.
[26] Edgar M P, Gibson G M, Padgett M J. Principles and prospects for single-pixel imaging[J]. Nature Photonics, 2019, 13(1): 13-20.
[27] Bromberg Y, Katz O, Silberberg Y. Ghost imaging with a single detector[J]. Physical Review A, 2009, 79(5): 053840.
[28] ShapiroJ H, ErkmenB I. Ghost imaging: from quantum to classical to computational[C]. AIP Conference Proceedings, 2009, 1110(1): 417-422.
[29] Zhang H, Duan D Y. Turbulence-immune computational ghost imaging based on a multi-scale generative adversarial network[J]. Optics Express, 2021, 29(26): 43929-43937.
[30] Shi W X, Hu C Y, Yang S G, et al. Optical random speckle encoding based on hybrid wavelength and phase modulation[J]. Optics Letters, 2021, 46(15): 3745-3748.
[31] Olivieri L, Gongora J S T, Peters L, et al. Hyperspectral terahertz microscopy via nonlinear ghost imaging[J]. Optica, 2020, 7(2): 186-191.
[32] Xu Z H, Chen W, Penuelas J, et al. 1000 fps computational ghost imaging using LED-based structured illumination[J]. Optics Express, 2018, 26(3): 2427-2434.
[33] Yu H, Lu R H, Han S S, et al. Fourier-transform ghost imaging with hard X rays[J]. Physical Review Letters, 2016, 117(11): 113901.
[34] Ferri F, Magatti D, Lugiato L A, et al. Differential ghost imaging[J]. Physical Review Letters, 2010, 104(25): 253603.
[35] Sun B Q, Welsh S S, Edgar M P, et al. Normalized ghost imaging[J]. Optics Express, 2012, 20(15): 16892-16901.
[36] 李畅, 高超, 邵嘉琪, 等. 基于压缩感知重构算法的哈达玛鬼成像[J]. 激光与光电子学进展, 2021, 58(10): 1011032.
[37] Yang D Y, Chang C, Wu G H, et al. Compressive ghost imaging of the moving object using the low-order moments[J]. Applied Sciences, 2020, 10(21): 7941.
[38] Wang L, Zhao S M. Compressed ghost imaging based on differential speckle patterns[J]. Chinese Physics B, 2020, 29(2): 341-347.
[39] Zhang W W, Yu D Q, Han Y C, et al. Depth estimation of multi-depth objects based on computational ghost imaging system[J]. Optics and Lasers in Engineering, 2022, 148: 106769.
[40] Bian Z X, Zhang L H, Ye H L, et al. Multiple-image encryption based on Toeplitz matrix ghost imaging and elliptic curve cryptography[J]. Laser Physics Letters, 2021, 18(5): 055206.
[41] Zheng P X, Tan Q L, Liu H C. Inverse computational ghost imaging for image encryption[J]. Optics Express, 2021, 29(14): 21290-21299.
[42] Zhao M, Zhang X D, Zhang R F. Single-arm ghost imaging via conditional generative adversarial network[J]. Laser Physics Letters, 2021, 18(7): 075203.
[43] Yu Z, Liu Y, Li J X, et al. Color computational ghost imaging by deep learning based on simulation data training[J]. Applied Optics, 2022, 61(4): 1022-1029.
[44] Wang F, Wang C L, Chen M L, et al. Far-field super-resolution ghost imaging with a deep neural network constraint[J]. Light: Science & Applications, 2022, 11: 1-11.
[45] Zhang Z J, Wang C F, Gong W L, et al. Ghost imaging of the blurred object based on the deep-learning[J]. Applied Optics, 2021, 60(13): 3732-3739.
[46] 赵延庚, 董冰, 刘明, 等. 可抑制大气湍流影响的深度学习计算鬼成像[J]. 光学学报, 2021, 41(11): 1111001.
[47] Wu H, Wang R Z, Zhao G P, et al. Deep-learning denoising computational ghost imaging[J]. Optics and Lasers in Engineering, 2020, 134: 106183.
[48] Wu H, Wang R Z, Zhao G P, et al. Sub-Nyquist computational ghost imaging with deep learning[J]. Optics Express, 2020, 28(3): 3846-3853.
[49] Bian T, Yi Y X, Hu J L, et al. A residual-based deep learning approach for ghost imaging[J]. Scientific Reports, 2020, 10: 12149.
[50] Wang F, Wang H, Wang H C, et al. Learning from simulation: an end-to-end deep-learning approach for computational ghost imaging[J]. Optics Express, 2019, 27(18): 25560-25572.
[51] Bina M, Magatti D, Molteni M, et al. Backscattering differential ghost imaging in turbid media[J]. Physical Review Letters, 2013, 110(8): 083901.
[52] 项青, 杨克成, 于龙, 等. 反射式水下量子成像[J]. 光学学报, 2015, 35(7): 0711002.
[53] Wang M Q, Bai Y F, Zou X P F, et al. Effect of uneven temperature distribution on underwater computational ghost imaging[J]. Laser Physics, 2022, 32(6): 065205.
[54] Hardy N D, Shapiro J H. Reflective ghost imaging through turbulence[J]. Physical Review A, 2011, 84(6): 063824.
[55] Luo C L, Li Z L, Xu J H, et al. Computational ghost imaging and ghost diffraction in turbulent ocean[J]. Laser Physics Letters, 2018, 15(12): 125205.
[56] Korotkova O, Farwell N. Effect of oceanic turbulence on polarization of stochastic beams[J]. Optics Communications, 2011, 284(7): 1740-1746.
[57] Luo C L, Wan W X, Chen S Y, et al. High-quality underwater computational ghost imaging with shaped Lorentz sources[J]. Laser Physics Letters, 2020, 17(10): 105209.
[58] Zhang Q W, Li W D, Liu K, et al. Effect of oceanic turbulence on the visibility of underwater ghost imaging[J]. Journal of the Optical Society of America A, 2019, 36(3): 397-402.
[59] Zhang Y, Li W D, Wu H Z, et al. High-visibility underwater ghost imaging in low illumination[J]. Optics Communications, 2019, 441: 45-48.
[60] 张钦伟, 曹连振, 刘霞, 等. 反射式鬼成像在海洋湍流中的成像分析[J]. 光子学报, 2020, 49(9): 0901002.
[61] Chen Q, Mathai A, Xu X P, et al. A study into the effects of factors influencing an underwater, single-pixel imaging system′s performance[J]. Photonics, 2019, 6(4): 123.
[62] Yang X, Liu Y, Mou X Y, et al. Imaging in turbid water based on a Hadamard single-pixel imaging system[J]. Optics Express, 2021, 29(8): 12010-12023.
[63] Chen Q, Mathai A, Xu X P, et al. A study into the effects of factors influencing an underwater, single-pixel imaging system's performance[J]. Photonics, 2019, 6(4): 123.
[64] 赵明, 王钰, 田芷铭, 等. 水下推扫式计算鬼成像的方法[J]. 激光与光电子学进展, 2019, 56(16): 161101.
[65] 赵美晶. 水下偏振鬼成像方法研究[D]. 大连: 大连海事大学, 2019: 42-43.
ZhaoM J. Research on underwater polarization-based ghost imaging[D]. Dalian: Dalian Maritime University, 2019: 42-43.
[66] Wu H D, Zhao M, Li F Q, et al. Underwater polarization-based single pixel imaging[J]. Journal of the Society for Information Display, 2020, 28(2): 157-163.
[67] 杨旭, 蒋鹏飞, 吴龙, 等. 基于水体退化函数补偿方法的水下傅里叶单像素成像[J]. 红外与激光工程, 2020, 49(11): 20200281.
[68] Wang T, Chen M Y, Wu H, et al. Underwater compressive computational ghost imaging with wavelet enhancement[J]. Applied Optics, 2021, 60(23): 6950-6957.
[69] Li M D, Mathai A, Lau S L H, et al. Underwater object detection and reconstruction based on active single-pixel imaging and super-resolution convolutional neural network[J]. Sensors, 2021, 21(1): 313.
[70] Yang X, Yu Z Y, Xu L, et al. Underwater ghost imaging based on generative adversarial networks with high imaging quality[J]. Optics Express, 2021, 29(18): 28388-28405.
[71] HondoriE J, KatoM, AsakawaE, et al. Receiver ghost imaging using vertical cable seismic data for methane hydrate exploration[C]//SEG Technical Program Expanded Abstracts 2019, September 18, 2019, San Antonio, Texas. Houstin: Society of Exploration Geophysicists, 2019: 4322-4326.
[72] 吴泳波, 杨志慧, 唐志列. 水下鬼成像抗扰动能力的实验研究[J]. 激光与光电子学进展, 2021, 58(10): 1011031.
[73] Lanzagorta M. Quantum imaging for underwater arctic navigation[J]. Proceedings of SPIE, 2017, 10188: 101880G.
[74] LanzagortaM. Quantum imaging for underwater arctic navigation: US20160018525[P]. 2016-01-21.
[75] LanzagortaM, UhlmannJ. Quantum imaging in the maritime environment[C]//OCEANS 2017-Anchorage, September 18-21, 2017, Anchorage, AK, USA. New York: IEEE Press, 2017.
Article Outline
杨莫愁, 吴仪, 冯国英. 水下鬼成像的研究进展[J]. 光学学报, 2022, 42(17): 1701003. Mochou Yang, Yi Wu, Guoying Feng. Research Progress on Underwater Ghost Imaging[J]. Acta Optica Sinica, 2022, 42(17): 1701003.