基于角度照明优化的傅里叶叠层显微成像方法 下载: 1445次
1 引言
在传统的光学显微系统中,如果使用低数值孔径(NA)物镜成像,虽然可以得到大的视场范围,但是图像的空间分辨率较低。傅里叶叠层显微成像(FPM)利用角度变化的LED照明技术和相位恢复算法,突破了物镜的衍射极限[1-3]。在基于LED阵列照明的常规FPM系统中,拍摄一组单个LED照明角度不同的低分辨率图像,基于低分辨图像的频域和空域的迭代更新,重建获取样品的复振幅信息,经傅里叶逆变换得到样品的高分辨率强度图和相位图[4-6]。FPM突破了光学系统空间带宽积(SBP)的限制,实现了高分辨率和大视场的成像,应用潜力巨大。然而,FPM耗时较长,效率较低。为了提高FPM的效率,研究者们提出了多种方法。这些方法总体可分为两类:一是改变FPM系统的照明结构及方法;二是以提高重建效率为目的的改进重建算法。对于第一类方法的研究较多:李生福等[7]为了减少所需的低分辨图像频数,提出一种选择型照明傅里叶叠层成像提取粒子尺度信息的方法,可以减轻存储和处理负担,但该方法只通过了无噪声和高噪声的数据验证,在普通低噪声的情况下还未得到数据验证;林子强等[8]通过使用弧形阵列LED光源装置代替平面阵列LED光源,提高了大角度照明的信噪比,但是这种设计引入了机械位移,导致照明角度的精度受到影响;杨佳琪等[9]通过研究照明光强校正,发现在重建过程中,需要对不同角度的照明光强进行校正,否则将导致重建图像质量下降,但是该过程导致成像效率降低;Kuang等[10]建议使用激光代替LED阵列来增强照明强度,以减少捕获过程的曝光时间;Zhou等[11]利用FPM在频域的对称性,发现用一半捕获数据重建的图像分辨率与用全部捕获数据重建的图像分辨率没有显著差异。此外,还可以通过同时点亮多个LED[12-13]和对样品光谱进行非均匀采样[14-16]来减少所需的图像数量。然而,上述方法通过牺牲原始FPM系统的简单性来改变照明结构和编码照明方式,增加了软硬件的复杂度。对于第二类方法的研究,主要集中在:Bian 等[17]提出一种Wirtinger-flow优化算法,可减少约80%的曝光时间;Zuo等[18]提出将自适应步长策略引入重建算法中,提高重建效率;Jiang等[19]利用神经网络建模求解傅里叶变换成像问题,加快了相位恢复过程。然而,上述方法的计算成本均明显增加。
本文提出一种基于LED角度照明优化模式的高效FPM方法,该方法基于新照明模式,只需减少照明LED的数量,不改变LED阵列的结构,不改变单个点亮LED的模式,不改变重建的算法。首先,从LED的位置关系、光阑和样品的位置关系出发,得到所有LED在傅里叶空间的理论可扩展光谱范围和光谱分布。其次,使用图像质量评估方法提取任意LED照明与全LED照明之间的差异表达。然后,对微分表达式进行分析,得到最佳的角度照明策略,并设计出一种菱形采样方法来加速FPM过程。最后,采用主观和客观的评价方法对仿真和实际实验结果的有效性进行评价,结果显示,本文方法可以有效提高FPM的效率。
2 FPM的角度照明优化方法
2.1 FPM成像理论
FPM采用LED阵列照明来获取大量低分辨率图像,并通过计算重建高分辨率图像,这种大量的采集和计算过程导致成像效率较低。为了加速成像进程,对LED的阵列照明模式进行优化,即用较少的LED来实现较好的结果。首先,通过分析LED阵列、孔径与样品之间的空间位置关系,获得频谱扩展的理论范围和在傅里叶频谱空间所有LED从不同角度入射形成的空间频谱分布。FPM成像装置示意图见
如
中心位置的LED发射光垂直入射到样品并进入物镜,孔径在傅里叶平面的截止频率为fc=
式中:a和b分别为当前LED与中心LED沿X、Y方向的间隔数量;r表示以LED数量为衡量手段的对应距离。对于明场成像,LED的最大入射角度φmax取决于数值孔径NA,NA=sinφmax,其对应距离的最大值为rmax。边缘LED与中心LED的距离L=[rmax/D],其中[A]表示不超过A的最大整数。因此,有效明场成像的LED分布是一个(2L+1)×(2L+1)的阵列;而暗场成像的LED入射角φ可以取得更大值。
图 1. 装置中的空间位置关系。(a)装置空间关系与基本光路图;(b)包含边缘光线的具体光路图
Fig. 1. Spatial position relationship in the setup. (a) Spatial position relationship and basic light path of the setup; (b) specific light path with edge rays
实际上,LED阵列没有数量的限制。频谱的扩展范围即截止频率取决于边缘LED的入射角度φ0(边缘LED入射光线与X轴夹角为αmax,与Y轴夹角为βmax)。X方向与Y方向的截止频率分别为
通过重建可以获得合成孔径理论频谱的扩展范围(全频谱)与傅里叶平面频谱分布,其中包含了所有的有效LED贡献的所有角度的光线。根据
频率域的合成孔径即频谱扩展后的全频谱如
图 3. 频谱扩展后合成孔径的全频谱示意图
Fig. 3. Sketch map of synthetic aperture for full spectrum after spectrum extension
2.2 基于图像质量评价的优化
本研究使用图像质量评价指标峰值信噪比 (PSNR) 与结构相似性(SSIM)来设计φ(Fij,F0)。F0对应的强度图像为f0,而残余图fres对应于残余频谱F0-Fij。
PSNR与SSIM是2个全参考型图像质量评价指标。设待评价的图像为x,参考图像为y。PSNR衡量的是像素差异的平方和的平均,
式中:Ntotal为像素总数。SSIM[20]是亮度、对比度与结构相似度的结合,可表示为
式中:μx、σx及μy、σy 分别是x与y的均值与标准差;σxy是两者的协方差;C1~C3 是用来避免病态的常数, C1=C2=C3=0.01(该数据的取值结合了文献[ 20]的推荐与实验测试)。由(3)式和(4)式可知,PSNR与SSIM越大,表明x与y越接近。
使用fres和f0代替SSIM与PSNR表达式中的x与y,可以获得全频谱重建图像与缺Fij的重建图像的差异,即任意位置(i,j)的差异表达函数分别为PSNR——φ1(Fij,F0)与SSIM——φ2(Fij,F0)。随着LED坐标(i,j)遍历到整个区域,能够获得两个差异矩阵Dφ1与Dφ2,差异矩阵的元素数即LED的个数。
使用差异矩阵Dφ1与Dφ2来分析所有LED对重建图像的贡献权重,并根据权重大小进行排序。为了详细而全面地分析所有LED对重建图像的贡献权重,引入针对不同内容图像的仿真测验。采用的图像如
在仿真中,LED阵列的尺寸为15×15,LED平面与样品平面的距离h=75 mm,相邻LED的距离为3 mm,工作波长λ=630 nm,物镜放大倍数为4,等效数值孔径NA为0.1,成像器件像元尺寸2.75 μm×2.75 μm。使用FPM技术成像后,截止频率从原始的fc=1.587×105 m-1扩展到f'c=5.867×105 m-1,并且NAnew=0.4。仿真过程如下:将
图 4. 测试图像。(a) 摄影男;(b)硬币;(c)图标;(d)米粒;(e) X光片;(f)轮胎;(g)标靶;(h)俯瞰图;(i)文字;(j)花
Fig. 4. Tested images. (a) Man; (b) coin; (c) icon; (d) rice; (e) X-ray image; (f) tire; (g) target; (h) aerial view; (i) text; (j) flower
图 5. 图4 所示各图像对应的SSIM差异矩阵Dφ1 。(a) 摄影男;(b)硬币;(c)图标;(d)米粒;(e) X光片;(f)轮胎;(g)标靶;(h)俯瞰图;(i)文字;(j)花
Fig. 5. Dφ1 of SSIM corresponding to each image of Fig. 4 . (a) Man; (b) coin; (c) icon; (d) rice; (e) X-ray image; (f) tire; (g) target; (h) aerial view; (i) text; (j) flower
图 6. 图4 所示各图像对应的PSNR差异矩阵Dφ2。(a) 摄影男;(b)硬币;(c)图标;(d)米粒;(e) X光片;(f)轮胎;(g)标靶;(h)俯瞰图;(i)文字;(j)花
Fig. 6. Dφ2 of PSNR corresponding to each image of Fig. 4 . (a) Man; (b) coin; (c) icon; (d) rice; (e) X-ray image; (f) tire; (g) target; (h) aerial view; (i) text; (j) flower
对
从
2.3 本文优化方法
在FPM成像系统中,效率的关键影响因素是成像获取模式,包括适当增大相邻孔径的重叠比和选择合适的LED阵列照明顺序等。不同位置的LED光源可等效为频谱面不同位置处交叠的光瞳函数,利用相机捕获的一系列低分辨图像在频域里进行迭代,依次更新对应子孔径内的频谱信息,这些孔径相互重叠,导致了信息冗余,使得整个系统的超分辨率成像存在可能。根据2.2节的分析,信号能量主要集中在中心区域,即低频区域。因此,采用从中心到周围点亮LED的策略,选择的M个LED的光线变化是从垂直入射光线到最大的斜入射光线。
当选择最重要的M个LED时,可优先考虑中心的菱形区域和4个角落。如
与通常所用的逐个点亮LED的方法相比,本文方法可有效减少LED的点亮数量与采集图像数量,从而有效减少采集数据,缩短重建时间,显著提高FPM的效率。
图 7. 基于菱形区域和4个角落原则优选最重要的M个LED的方法
Fig. 7. Selection method of most important LEDs following the principle of area of rhombus and four corners
3 实验与分析
本节采用仿真与实验来论证本文方法的有效性,并且使用主、客观方法进行评价。
2个全参考型评价指标已在2.2节中介绍。此外,还引入2个无参考型评价指标——灰度算子和(GMG) 与拉普拉斯算子和(LS)。 对于待评价图像x,有
由(6)式和(7)式可知,GMG与LS越大,则图像质量越好。
3.1 仿真分析
在仿真中,LED阵列为15×15,LED平面与样品平面间距h=75 mm,每个LED间隔为D=3 mm,工作波长λ=630 nm,物镜放大倍数为4,等效数值孔径NA为0.1,图像传感器像元尺寸为2.75 μm×2.75 μm。原始截止频率fc= 1.587×105 m-1,通过FPM后,截止频率被扩展为f'c-sim=5.867×105 m-1,对应的等效数值孔径扩展到NAs-sim=0.4。
基于不同照明模式的仿真结果如
图 8. 基于不同照明模式的仿真结果。(a1)(a2)原始高分辨率景物的幅度和相位图,(d1)(d2)幅度图的局部放大图;(b1)(b2)使用225个LED时的重建幅度和相位图,(e1)(e2)幅度图的局部放大图;(c1)(c2)使用57个LED时的重建幅度和相位图,(f1)(f2)幅度图的局部放大图
Fig. 8. Comparisons of simulated results under different patterns of LED angle illumination. (a1)(a2) Original input amplitude and phase of the high-resolution object, (d1)(d2) the partial enlargement of amplitude image; (b1)(b2) recovered complex amplitude (amplitude and phase) with conventional lighting one by one using 225 LEDs, (e1)(e2) the partial enlargement of amplitude image; (c1)(c2) recovered complex amplitude (amplitude and phase) with using 57 LEDs, (f1)(f2) the partial enlargement of amplit
采用4个客观指标来评价
3.2 实验分析
采用OLYMPUS CX23显微镜来设计FPM系统,
图 9. 本文方法的实验装置以及光路图。(a)装置图;(b)光路图
Fig. 9. Setup and optical path of proposed method. (a)Setup; (b) optical path
基于不同模式下LED角度照明的实验结果对比如
表 1. 图8 (b1)(c1)的重建幅度图的客观评价指标比较
Table 1. Comparison of objective evaluation indexes for amplitude comparison of Fig. 8 (b1) and (c1)
|
表 2. 图8 (e1)(e2)以及图8 (f1)(f2)的重建幅度图的客观评价指标比较
Table 2. Comparison of objective evaluation indexes for amplitude comparison of Fig. 8 (e1), (e2), (f1), and (f2)
|
图 10. 不同LED照明模式下的实验结果对比。(a) 垂直入射LED(中心LED)获得的原始图像数据与中心区域的局部图;(b)传统的225个LED照明模式下的重建图以及与中心区域的局部图;(c)所提(仅使用57个LED)照明模式下的重建图以及与中心区域的局部图;(d)中心区域局部图的强度曲线
Fig. 10. Comparisons of experimental results under different patterns of LED angle illumination. (a) Raw data with the vertical incidence LED (the central LED) and its local magnification; (b) recovered amplitude with conventional lighting one by one using 225 LEDs and its local magnification; (c) recovered amplitude with proposed method (only using 57 LEDs) and its local magnification; (d) intensity curves of the local map of the central area
使用2种无参考型评价指标来表征
表 3. 图10 的客观评价指标、重建效率的对比
Table 3. Comparison of objective evaluation indexes and efficiencies for Fig. 10
|
利用与标靶实验相同的实验参数,对地钱叶切片样本进行一组实验,实验对比结果如
图 11. 不同LED照明模式下的实验结果对比。(a) (b)垂直入射LED(中心LED)获得的原始图像数据与中心区域的局部图;(c1)(c2)传统的225个LED照明模式下的重建振幅图以及重建相位图;(d1)(d2)所提(仅使用57个LED)照明模式下的重建振幅图以及重建相位图
Fig. 11. Comparisons of experimental results under different patterns of LED angle illumination. (a) Raw data with the vertical incidence LED (the central LED); (b) local magnification; (c1)(c2) recovered amplitude and recovered phase with conventional lighting one by one using all 225 LEDs; (d1) (d2) recovered amplitude and recovered phase with our strategy (only using 57 LEDs)
4 结论
提出一种基于LED角度照明模式优化的高效FPM成像方法。通过分析系统单元的相对位置关系,获取所有LED在傅里叶平面的分布;利用图像质量评价方法来衡量任意LED照明单元与整体照明下的重建图像数据的差异;分析并推断出基于菱形采样方法提取的最佳照明模式优于传统照明模式;采用仿真结合实验的方案,论证了本文方法的有效性。
本文的不足之处在于:一方面,未在实验中利用其他角度照明的方式进行对比,这涉及较长周期的硬件加工与调试;另一方面,本文实验的重建效果还有改进空间,存在灰度能量水平的不足和噪声的局限等,利用照明的优化以及重建策略设计可进一步改善效果。上述不足是未来工作的重点。
[3] 孙佳嵩, 张玉珍, 陈钱, 等. 傅里叶叠层显微成像技术: 理论、发展和应用[J]. 光学学报, 2016, 36(10): 1011005.
[4] Fienup J R. Phase retrieval algorithms: a personal tour[J]. Applied Optics, 2013, 52(1): 45-56.
[5] Song P M, Jiang S W, Zhang H, et al. Super-resolution microscopy via ptychographic structured modulation of a diffuser[J]. Optics Letters, 2019, 44(15): 3645-3648.
[6] Jiang S W, Liao J, Bian Z C, et al. Axially shifted pattern illumination for macroscale turbidity suppression and virtual volumetric confocal imaging without axial scanning[J]. Optics Letters, 2019, 44(4): 811-814.
[7] 李生福, 赵宇, 陈光华, 等. 选择型照明傅里叶叠层成像提取粒子尺度[J]. 红外与激光工程, 2017, 46(11): 1103005.
[8] 林子强, 马骁, 林锦新, 等. 基于弧形阵列LED光源旋转照明装置的傅里叶叠层显微术[J]. 激光与光电子学进展, 2018, 55(7): 071102.
[9] 杨佳琪, 马骁, 林锦新, 等. 傅里叶叠层显微术的照明光强校正研究[J]. 激光与光电子学进展, 2017, 54(3): 031101.
[10] Kuang C F, Ma Y, Zhou R J, et al. Digital micromirror device-based laser-illumination Fourier ptychographic microscopy[J]. Optics Express, 2015, 23(21): 26999-27010.
[11] Zhou A, Chen N, Wang H C, et al. Analysis of Fourier ptychographic microscopy with half of the captured images[J]. Journal of Optics, 2018, 20(9): 095701.
[13] Zhou Y, Wu J M, Bian Z C, et al. Fourier ptychographic microscopy using wavelength multiplexing[J]. Journal of Biomedical Optics, 2017, 22(6): 066006.
[14] Guo K K, Dong S Y, Nanda P, et al. Optimization of sampling pattern and the design of Fourier ptychographic illuminator[J]. Optics Express, 2015, 23(5): 6171-6180.
[15] Zhang Y B, Jiang W X, Tian L, et al. Self-learning based Fourier ptychographic microscopy[J]. Optics Express, 2015, 23(14): 18471-18486.
[17] Bian L H, Suo J L, Zheng G A, et al. Fourier ptychographic reconstruction using Wirtinger flow optimization[J]. Optics Express, 2015, 23(4): 4856-4866.
[18] Zuo C, Sun J S, Chen Q. Adaptive step-size strategy for noise-robust Fourier ptychographic microscopy[J]. Optics Express, 2016, 24(18): 20724-20744.
[19] Jiang S W, Guo K K, Liao J, et al. Solving Fourier ptychographic imaging problems via neural network modeling and TensorFlow[J]. Biomedical Optics Express, 2018, 9(7): 3306.
[20] Wang Z, Bovik A C, Sheikh H R, et al. Image quality assessment: from error visibility to structural similarity[J]. IEEE Transactions on Image Processing, 2004, 13(4): 600-612.
李通, 赵巨峰, 毛海锋, 崔光茫, 胡金星. 基于角度照明优化的傅里叶叠层显微成像方法[J]. 激光与光电子学进展, 2020, 57(8): 081106. Tong Li, Jufeng Zhao, Haifeng Mao, Guangmang Cui, Jinxing Hu. An Efficient Fourier Ptychographic Microscopy Imaging Method Based on Angle Illumination Optimization[J]. Laser & Optoelectronics Progress, 2020, 57(8): 081106.