锁定成像背景光消除技术扩展研究
1 引言
人类获取外界信息靠视觉、听觉、触觉、味觉、嗅觉等。“百闻不如一见”,视觉更能传达直观、生动的信息,计算机视觉是计算机应用的一个重要、热门领域。该领域目前主要关注图像分类[1-2]、目标检测[3-4]、语义分割[5]、实例分割[6]和全景分割[7]等。直观地,一张高质量的原始图像能为研究与应用带来更理想的结果。影响图像采集质量的因素有很多,如环境光、目标距离、相机参数等,其中环境光是重要影响因素之一。环境光在图像采集中也常称为“背景光”。影响图像采集的强背景光(如高光反射)的信号强度通常远大于目标物体,导致目标物湮没在背景光下,影响目标图像信息的获取。
消除强背景光以提取弱信号目标物图像已有一些卓有成效的工作,提取信息的技术主要分为利用辅助光源的成像技术和无辅助光源的数字图像处理技术两类。锁定成像技术[8-10]采用正弦调制的激光作为辅助光源,经乘法、归一化、累加等一系列鉴相流程后,得到消除背景光后的图像。调制白光的锁定成像方法[11]采用正弦调制的白光LED作辅助光源,并对图像RGB三个分量分别进行鉴相处理,以消除背景光。数字外差锁定图像检测技术[12]涉及一种使用高速脉冲辅助光源和高速图像传感器的主动视觉系统,采用脉宽调制技术对辅助光源进行调制,高速传感器同步采集图像,然后将图像与调制光数字相乘,使用低通滤波器提取结果的低频分量,得到去背景光图像。除利用辅助光源的成像技术外,数字图像处理技术也广泛地应用于背景光消除,该技术主要采用滤波法去除图像中的高光部分,间接消除部分背景光对图像的影响。如,基于双边滤波的高光去除法[13-16]通过双色反射模型将漫反射分量和镜面反射分量分离,并估计最大漫反射色度,利用最大漫反射色度具有的局部平滑的特征,以最大漫反射色度估计值作为双边滤波器的阈值去除图像的高光部分,在一定程度上保留了边缘信息和图像细节颜色。另外,高动态范围(HDR)成像[17]通过采集同一场景不同曝光水平下的多幅图像,将其合并以重建场景的原始动态范围图像,更好地还原真实场景,减轻了过曝等问题,在一定程度上消除了强背景光的影响。除图像背景光消除外,在无线激光通信等领域也需要消除背景光对信号光的影响,如神经网络消除背景光法[18-19]利用前向神经网络能够使非线性函数逼近线性的特点,将无线激光通信中的信号光和背景光作为神经网络的输入,得到与背景光无关的输出信号,达到消除背景光的目的。
尽管数字图像处理技术不需要辅助光源,但它只能部分滤除背景光的高光部分,且不可避免地会过滤掉部分目标图像信息,背景光消除效果并不理想。要较好地去除背景光对目标图像的影响,采用辅助光源的成像技术是目前的主要方法。Throngnumchai等[12]利用脉宽调制的辅助光源去背景光技术,该技术需要高速调制器和高速图像传感器,系统成本高。激光锁定成像技术[8-10]采用正弦信号调制的辅助光源,需要与调制速度匹配的图像传感器。为解决复杂背景光对能见度测量造成极大干扰的问题,本课题组[20]曾把激光锁定成像技术应用于能见度测量中的光斑图像背景光消除方面,取得了较好的效果,与文献[8-10]相同,所使用的辅助光源也是单色激光。虽然激光光源性能优良,但存在大面积成像成本高以及高能量密度激光带来的安全隐患等问题。文献[11]把辅助光源改为白色LED,也取得了较理想的效果,但需要同时处理图像的RGB三个分量,运算量较大,且其目标物位于LED光源表面。激光锁定成像、调制白光的锁定成像等技术均是基于正弦信号进行调制的,获取理想的正弦信号有一定难度,且需要为图像传感器增加滤光片,同时在调制过程中必须等时间间隔采集图像,要求图像传感器帧频足够高以跟上调制速度。
本文对激光锁定成像技术进行进一步扩展,使用普通LED辅助光源、去除滤光片、更改图像传感器控制方式以适应低速传感器,并讨论了如方波、三角波等非正弦信号调制的可行性。研究结果表明,辅助光源调制信号可以是任何一种在一个周期内积分为零的信号,新的传感器控制方式可适应任意帧频的图像传感器。实验表明,常见的正弦波、方波、三角波、锯齿波4种信号调制辅助光源,在不同采样率下都获得了较理想的背景光消除效果。整个实验装置所涉及的辅助光源、图像传感器等都是常见的民用级,间接地验证了锁定成像技术通用性高、抗干扰能力强等优点。
2 技术原理
2.1 锁定成像
锁定成像是苏柯等[8]提出的利用调制激光作为辅助光源消除背景光的技术,技术原理如
2.2 调制与鉴相原理
设光源调制信号函数
无任何外界光源(无背景光)时,调制光源
式中:
有外界光源(背景光)时,目标区域叠加背景光的影响,此时图像可表示为
式中:
消除背景光的影响,即消去
将
在一个调制周期内对
若光源调制速度足够快,那么可认为在一个调制周期内背景光不发生变化,即
1)正弦波
设调制信号是幅度为
图像是离散采集的,将积分转变为求和,则
式中:N为一个调制周期内采集的图像帧数。整理
2)方波
令调制信号的幅度为
与正弦波同理,积分变为求和,得
3)三角波
设三角波幅度为
与正弦波同理,积分变为求和,得
4)锯齿波
设锯齿波幅度为
与正弦波同理,积分变为求和,得
图 2. 图像采样时间示意图。(a)等时间间隔采样;(b)非等时间间隔采样
Fig. 2. Schematic of image sampling time. (a) Equal interval sampling; (b) unequal interval sampling
3 成像实验
3.1 光源调制与图像采集
光源调制系统由计算机(上位机)、光源调制模块(下位机)、图像传感器组成,如
由2.2节可知,一个调制周期内采集任意两张图像的时间间隔可以不同,所以实验将光源调制和相机控制都交由计算机完成。为便于讨论,以下称N为“采样率”。
在实际光源调制过程中,光强不可能为负值,将调制信号整体向上偏移
图 4. 图像采集流程(虚线表示PC,实线表示MCU)
Fig. 4. Flowchart of image acquisition (dotted and solid lines represent PC and MCU, respectively)
3.2 鉴相
鉴相过程如
3.3 光强校正
在实际调制过程中,对于除方波外的其他波形,需考虑两个问题:①辅助光源从最暗到最亮的整个亮度变化区间可能非线性;②亮度过低的辅助光源无法获得足够光照强度的图像。因此,需要控制辅助光源强度在一个合理的区间,令调制波形的有效峰-峰值为
式中:
由于实际的光源并非理想的线性元件,电流过大时会饱和,如
图 6. 电流-光强曲线(DAC是数模转换器的输入值,代表电流)
Fig. 6. Curve of current-light intensity (DAC is the input value of the digital-to-analog converter corresponding to the current)
4 结果与讨论
4.1 光强校正
实验得到的电流-光强曲线如
图 7. 电流-光强拟合(实线为线性拟合后的直线)
Fig. 7. Fitting of current-light intensity (solid is the fitting line)
4.2 基于LED的锁定成像去背景光
考虑到高能量密度激光带来的安全隐患以及大面积成像成本高,实验采用普通平面LED作辅助光源,正弦波、方波、三角波、锯齿波作调制与鉴相信号,采样率为2~512,对每场景完成36组实验。其中,正弦波作为光源调制信号时采样率为4的场景一照明图案示例如
利用4种调制波形,在采样率为2~512时,未归一化的去背景光图像像素均值如
图 9. 未归一化的去背景光图像像素均值。(a)场景一;(b)场景二
Fig. 9. Unnormalized pixel mean of background light removed image. (a) Scene 1; (b) scene 2
作为示例,这里随机选取采用方波作调制信号与鉴相信号、采样率为64的锁定成像进行背景光去除,结果如
图 10. LED锁定成像去背景光。(a)仅含背景光的亮度增强图像;(b)不含背景光的图像;(c)未归一化的去背景光图像;(d)去背景光后的图像
Fig. 10. Eliminating background light by LED lock-in imaging. (a) Brightness-enhanced image with background light; (b) image without background light; (c) image of eliminated background light without normalization; (d) image of eliminated background light
探讨不同调制信号和采样率对背景光消除效果的影响,图
图 13. 三角波调制的去背景光结果
Fig. 13. Results of eliminated background light by triangular modulation
图 14. 锯齿波调制的去背景光结果
Fig. 14. Results of eliminated background light by sawtooth modulation
两个实验场景的图像鉴相平均运行时间如
表 1. 鉴相平均运行时间
Table 1. Average running time of phase discrimination
|
实验采用结构相似度(SSIM)及ISO12233分辨率测试卡检测图像分辨率,来评价去背景光效果。结构相似度在图像品质的衡量上符合人眼对图像品质的判断,SSIM值越大,表示两张图像的相似度越高,即去背景光效果越好[22]。由未裁剪的全局去背景光结果图像分别与不含背景光的真实图像和含背景光的原图像计算SSIM值,结果
表 2. 去背景光结果图像与无/有背景光图像的SSIM值
Table 2. SSIM of eliminated background light image to image without/with background light
|
分辨率测试可以检测去背景光后的图像分辨率是否退化,这里对不同调制信号和采样率进行实验,并通过IQstest软件进行分辨率判读。实验结果显示,不含背景光的原图像分辨率为119.77 lp/mm,去背景光后的图像分辨率如
表 3. 结果图像的分辨率
Table 3. Resolution of the resulting image
|
图
由
4.3 对比实验
实验使用双边滤波法和高动态范围成像Mertens曝光融合算法[23]与所提方法进行比较。双边滤波法利用估计的最大漫反射色度,结合双边滤波器,去除图像中的高光部分,同时保留图像信息的纹理和颜色,达到间接去除背景光的目的。两个实验场景下,使用该方法处理仅含背景光的原图像,平均运行时间为1.11 s,结果如
图 15. 不同方法处理的图像。(a)仅含背景光的亮度增强图像;(b)双边滤波法去背景光的亮度增强图;(c)高动态范围成像去背景光的图像;(d)LED锁定成像去背景光的图像
Fig. 15. Images processed by different methods. (a) Brightness-enhanced image with background light; (b) brightness-enhanced image of eliminated background light by bilateral filtering; (c) image of eliminated background light by HDR imaging; (d) image of eliminated background light by lock-in imaging technology based on LED
结合
5 结论
对锁定成像背景光消除技术进行了扩展讨论,从理论上探讨了除正弦波以外的其他信号波形调制辅助光源的可行性,以及不同采样率对背景光消除效果的影响,利用优化图像采集的控制方式降低对图像传感器等设备的要求,并通过实验加以验证。理论研究表明,任何一种在一个周期内积分为零的信号均可用于调制辅助光源。基于普通LED的锁定成像实验表明,正弦波、方波、三角波和锯齿波4种波形作为调制信号时均得到了良好的背景光消除效果,且当正弦波、三角波、锯齿波调制采样率大于8及方波调制采样率大于2时,背景光消除效果基本不受调制波形和一周期内采集图像数的影响,这表明在实际应用中可以使用较低的采样率来获得较满意的背景光消除效果。同时,实验也验证了锁定成像技术对辅助光源及图像传感器帧频的要求不高,反映了低成本解决方案的可行性。
[1] Jena B, Saxena S, Nayak G K, et al. Artificial intelligence-based hybrid deep learning models for image classification: the first narrative review[J]. Computers in Biology and Medicine, 2021, 137: 104803.
[2] 张祥东, 王腾军, 朱劭俊, 等. 基于扩张卷积注意力神经网络的高光谱图像分类[J]. 光学学报, 2021, 41(3): 0310001.
[3] Zaidi S S A, Ansari M S, Aslam A, et al. A survey of modern deep learning based object detection models[J]. Digital Signal Processing, 2022, 126: 103514.
[4] 赵亮, 胡杰, 刘汉, 等. 基于语义分割的深度学习激光点云三维目标检测[J]. 中国激光, 2021, 48(17): 1710004.
[5] Yuan X H, Shi J F, Gu L C. A review of deep learning methods for semantic segmentation of remote sensing imagery[J]. Expert Systems with Applications, 2021, 169: 114417.
[6] YangL J, FanY C, XuN. Video instance segmentation[C]∥Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), October 27-November 2, 2019, Seoul, Korea. New York: IEEE Press, 2019: 5188-5197.
[7] Mohan R, Valada A. EfficientPS: efficient panoptic segmentation[J]. International Journal of Computer Vision, 2021, 129(5): 1551-1579.
[8] 苏柯, 余学才, 朱良销, 等. 激光锁定成像获取强背景光下的目标图像[J]. 激光与红外, 2010, 40(12): 1293-1297.
Su K, Yu X C, Zhu L X, et al. The target image acquisition in strong background light using laser lock-in imaging[J]. Laser & infra-red, 2010, 40(12): 1293-1297.
[9] 吴柯庆, 余学才, 吴福华, 等. 激光锁定成像在钢轨磨耗测量系统中的应用[J]. 激光技术, 2012, 36(3): 353-356.
[10] 王玉杰. 基于激光锁定成像的低信噪比图像目标的轮廓测量[D]. 成都: 电子科技大学, 2015.
WangY J. Profile measurement of low signal-to-noise ratio targets is based on laser lock-in imaging[D]. Chengdu: University of Electronic Science and Technology of China, 2015.
[11] 蒋波, 余学才, 万聪灵, 等. 基于调制白光照射的锁定成像[J]. 光电工程, 2014, 41(1): 83-86.
[13] Yang Q X, Tang J H, Ahuja N. Efficient and robust specular highlight removal[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2015, 37(6): 1304-1311.
[14] 高如新, 李雪颖. 双边滤波的改进高光去除[J]. 中国图象图形学报, 2018, 23(1): 9-17.
Gao R X, Li X Y. Specular highlight removal using improved bilateral filtering[J]. Journal of Image and Graphics, 2018, 23(1): 9-17.
[15] ChenH A, HouC G, DuanM H, et al. Single image specular highlight removal on natural scenes[M]∥Ma H M, Wang L, Zhang C S, et al. Pattern recognition and computer vision. Lecture notes in computer science. Cham: Springer, 2021, 13021: 78-91.
[16] ShanW Z, XuC, FengB. Image highlight removal based on a double edge-preserving filter[C]∥2020 IEEE 5th International Conference on Signal and Image Processing, October 23-25, 2020, Nanjing, China. New York: IEEE Press, 2020: 263-268.
[17] DebevecP E, MalikJ. Recovering high dynamic range radiance maps from photographs[C]∥SIGGRAPH '08: ACM SIGGRAPH 2008 Classes, August 11-15, 2008, Los Angeles, California, USA. New York: ACM Press, 2008: 1-10.
[18] 欧阳沄霏. 基于ATP的背景光消除技术研究[D]. 南京: 南京邮电大学, 2014.
OuyangY F. Research on background light elimination based on ATP[D]. Nanjing: Nanjing University of Posts and Telecommunications, 2014.
[19] 白一波, 潘康立, 耿林. 激光测距的空间卷积神经网络信号处理研究[J]. 中国激光, 2021, 48(23): 2304001.
[20] 郝勤正, 杨玲, 甄小琼, 等. 能见度仪的背景光消除设计[J]. 激光与光电子学进展, 2018, 55(3): 030102.
[21] 刘寿鑫, 龙伟, 李炎炎, 等. 基于HSV色彩空间的低照度图像增强[J]. 计算机工程与设计, 2021, 42(9): 2552-2560.
Liu S X, Long W, Li Y Y, et al. Low-light image enhancement based on HSV color space[J]. Computer Engineering and Design, 2021, 42(9): 2552-2560.
[22] Sara U, Akter M, Uddin M. Image quality assessment through FSIM, SSIM, MSE and PSNR: a comparative study[J]. Journal of Computer and Communications, 2019, 7(3): 8-18.
[23] Mertens T, Kautz J, van Reeth F. Exposure fusion: a simple and practical alternative to high dynamic range photography[J]. Computer Graphics Forum, 2009, 28(1): 161-171.
Article Outline
胡珍珍, 刘汉明, 黎姿, 李泽南, 郭港, 司马燊. 锁定成像背景光消除技术扩展研究[J]. 激光与光电子学进展, 2023, 60(14): 1411003. Zhenzhen Hu, Hanming Liu, Zi Li, Zenan Li, Gang Guo, Shen Sima. Study on Lock-In Imaging Technology Expansion for Background Light Elimination[J]. Laser & Optoelectronics Progress, 2023, 60(14): 1411003.