基于改进的Harris和二次归一化互相关的量子图像拼接算法 下载: 928次
1 引言
在低维半导体表面形貌的研究过程中,原子力显微镜(AFM)和扫描隧道显微镜(STM)为常见的表面形貌表征手段[1-2]。当使用STM和AFM对低维半导体表面形貌进行研究时,为获得更加细微的形貌信息往往需要较小的尺寸进行扫描,但为得到低维半导体表面的整体趋势却需要较大尺寸进行扫描,这必然会导致细微形貌信息的丢失。为保留细微的形貌信息,同时得到整体的趋势,图像拼接是一种常用的方法。
图像拼接是通过特征点检测、配准、融合等方法将部分视图转换为更大范围视图的过程,是图像处理的重要组成部分,广泛应用于运动检测、分辨率增强、遥感和医学成像等领域[3]。现有的拼接算法有两种:基于灰度的配准方法和基于特征的配准方法。其中,基于特征的配准方法具有仿射不变性、稳定性和较好的鲁棒性,从而倍受研究者的青睐[4-6]。在众多的基于特征配准方法中,Harris算子[7]在稳定性和简便性等方面具有明显的优势,成为了当前研究的一个热点。但Harris算法存在两方面局限,即对尺度敏感和需要人为设定阈值。为改进Harris对尺度的敏感性,许佳佳[8]通过构建高斯尺度空间,提取具有尺度不变性的角点特征;为实现Harris算法对阈值的自适应性,冯宇平等[9]采用阈值排序的方法寻找局部区域最佳阈值,并将此阈值作为全局的阈值进行角点检测;邹志远等[10]对阈值下限进行图像分块,并通过加权的方法得到图像的总阈值。周志艳等[11]首先使用Harris算法检测角点,然后使用标准化的图像灰度值标准差对角点进行筛选,从而避免了阈值设置不合理带来的不良影响。
对于量子图像直接使用Harris算法会存在阈值自适应差和局部相似度大导致的误匹配率高的问题。在阈值设置方面,本文通过二值化和阈值下降统计量子点或环的数量,并分析算法阈值与其数量的关系,以进行阈值的设置,得到了合适的阈值和角点数量。在误匹配率高方面,进行二次归一化互相关(NCC)的计算,有效地降低了误匹配率,且获得了较快的速度。
2 量子图像拼接的整体框架
量子图像拼接算法的流程如
3 传统的Harris和NCC算法
3.1 Harris角点检测算法
Harris算法具有速度快、精度高等特点[9-11],是常用的角点检测算法,但阈值的设定对其效果有着直接的影响。若阈值过小,则易形成伪角点[如
Harris算法通过设置阈值和非极大值抑制对角点响应函数(CRF)进行筛选,以得到角点。CRF定义为
式中:det (M)为矩阵M(x,y)的行列式;tr M为矩阵的迹;k是经验常数,取值范围为0.04~0.06。M(x,y)为像素(x,y)的自相关矩阵,表达式为
图 2. 阈值对角点检测的影响。 (a)阈值过小;(b)阈值过大
Fig. 2. Impact on corner detection by threshold. (a) Small threshold; (b) excessive threshold
式中:w(x,y)为高斯窗口;Ix、Iy分别表示图像中该点的水平和垂直方向上的导数。
3.2 NCC角点匹配算法
角点检测后,需进行角点匹配。NCC是常用的算法之一,计算公式为
式中:I1和I2分别为两幅图像中角点的相关窗口;
将NCC直接应用到量子图像时,由于量子图像其局部相似度较大,若选取较小的窗口进行检测,则存在误匹配的情况,如
4 基于量子点或环数量的阈值设置和二次NCC
针对上述问题,本文基于Harris和NCC算法进行改进。基于量子点或环是Harris角点信息有效提供者这一事实,通过统计量子点或环的数量以设置阈值。在误匹配方面,使用二次NCC的方法,以降低误匹配率,同时保证较快的速度。
4.1 量子点或环的计数
对于图像中的物体数量统计,传统的方法是使用最大类间方差法(OTSU)进行图像的分割,提取物体信息,并进行连通域计数。但量子图像存在量子点粘连等问题,不适合直接使用OTSU方法,文献[
12]采用二值化和阈值下降的方法将图像进行分割,并在每次二值化的过程中判断二值化提取到的量子点是否在之前的过程中被检测到,同时统计每次检测到的量子点,以得到量子点的数量。该方法获得了较高的精度,但其速度较慢。本文在其基础上进行改进,采用计数方法的流程如
图 4. 量子点或环的数量统计方法流程图
Fig. 4. Flow chart of statistical method for the number of quantum dots or rings
算法的主要目的是在阈值下降的过程中,计算每次二值化的连通区域质心,并保存。在此过程中,量子点或环被二值化提取的区域会逐渐扩大,因此同一区域可能产生多个质心,本文通过设置最小距离(在本文中设置值为14)以区别质心是否来源于同一量子点或环。只有当质心距离大于此值时,才认定为独立的量子点或环。
在迭代分析量子点与环的过程中,需要设置终止阈值以停止搜索过程。终止阈值根据图像的灰度值的对数直方图进行设置,以
4.2 基于量子点或环数量的Harris算法阈值设置
在量子图像中,衬底平坦,而量子点、环等结构可以带来图像梯度的变化,因此量子点、环是角点的有效提供者。并且在相同的生长条件下,量子点、环的形貌特征相近[13-15]。因此量子图像局部区域之间呈现一定的相似性,可从局部确定全局阈值,以减小量子点或环计数阶段的时间开销。本文将图像分割为3×3的子图,并选取其中一个子图确定阈值,同时将此阈值作为全局阈值。
得到一个子图的量子点或环的数量n后,可对该子图进行阈值设置。首先,采用较小的阈值T0进行角点检测,以产生过多的角点。然后,对检测到角点的CRF值进行排序,保留最大的N作为该区域的角点,将此第N个角点的CRF值作为该区域阈值,同时也是全局阈值。由于量子点、环是角点的有效提供者,因此得到量子点或环的数量n与区域保留的角点N呈正比例关系,
式中:a为比例系数;b为常数项。为得到其具体数值,本文对100张量子图像进行实验,即手动调整子区域保留的角点数量N,以保证图像获得合适的角点数量,并将N与图像中的量子点或环的数量n进行统计分析,其结果如
图 6. 量子点或环与子区域保留角点的关系统计图
Fig. 6. Statistical graph of the relationship between quantum dots or rings and subregions with preserved corner points
4.3 二次NCC
对于量子点图像局部相似度高,采用一次NCC进行匹配,若采用较小的窗口,则会导致较高的误匹配率;若采用较大的窗口,则会导致时间开销过大。因此本文提出二次NCC的方法,首先选取一个较小窗口(本文选取为5×5)进行第一次NCC计算,得到粗匹配的角点对,然后使用较大的窗口(本文选取为49×49)在第一次NCC的基础上对匹配的角点对进行筛选,删除误匹配的角点,以降低误匹配率。由于第二次NCC是在第一次的匹配的角点对上进行筛选,因此其所需计算的次数只是匹配上的角点的对数,额外所需计算量较小。从而能以相对较小的计算代价,降低角点的误匹配率。
5 实验结果分析
5.1 量子点或环计数方法分析
为验证基于阈值下降的量子计数方法的可靠性,对
图 7. 原始图片。(a)(b)量子线图像;(c)(d)量子环图像;(e)(f)量子点图像
Fig. 7. Original images. (a)(b) Quantum wire images; (c)(d) quantum ring images; (e)(f) quantum dot images
表 1. 量子点或环计数方法对比
Table 1. Comparison of quantum dot or ring counting methods
|
5.2 基于数量的阈值设置方法分析
为验证本文改进的算法在设置阈值方面的可靠性,对
图 8. 角点检测结果。(a)(c)(e)传统的Harris算法;(b)(d)(f)本文算法
Fig. 8. Corner detection results. (a)(c)(e) Traditional Harris algorithm; (b)(d)(f) proposed algorithm
表 2. 角点检测结果对比
Table 2. Comparison of corner detection results
|
5.3 误匹配率和时间分析
为验证二次NCC的匹配效果,将其与传统的NCC算法进行对比,其结果如
表 3. 误匹配率和时间对比结果
Table 3. Comparison results of mismatch rate and time
|
由
二次NCC的算法匹配情况如
图 9. 角点匹配结果。(a)量子线拼接图像;(b)量子环拼接图像;(c)量子点拼接图像
Fig. 9. Results of corner matching. (a) Quantum wire stitching image; (b) quantum ring stitching image; (c) quantum dot stitching image
图 10. 图像拼接结果。(a)量子线拼接图像;(b)量子环拼接图像;(c)量子点拼接图像
Fig. 10. Image stitching results. (a) Quantum wire stitching image; (b) quantum ring stitching image; (c) quantum dot stitching image
6 结论
本文对Harris和NCC算法进行改进,使之应用于量子点图像拼接并有利于解决此过程中的两个问题:需要人为设置阈值和局部区域相似度大导致误匹配率高。对于阈值的设置,利用量子点和量子环的数量对角点的有直接影响这一特性进行阈值设置,为更快的完成计数,减小时间开销,基于文献[ 12]方法提出了一种新的计数方法,然后根据数量进行阈值的设置,以获得合适的角点。对于误匹配的问题,提出二次NCC的方法,即在第一次小窗口NCC的基础上使用大窗口的NCC对第一次NCC匹配的角点进行筛选,以利用较小的时间开销为代价换取误匹配率的降低。结果表明:在量子点或环的计数方面,本文方法获得了较高的精度和较快的速度,能有效地降低该阶段的时间开销;在阈值设置方面,算法通过数量动态地设置阈值,获得了合适的角点数量;在误匹配方面,与5×5的传统NCC相比,以1.34%~4.97%的时间代价降低了55.59%~62.06%的误匹配率,将其降低至4.82%~27.27%。以较小的时间开销为代价换取了较大的误匹配率的降低。因此,本文改进的算法具有在AFM和STM等量子图像中进行拼接的潜在应用价值。
[1] Zhou X, Luo Z J, Guo X, et al. Surface segregation of InGaAs films by the evolution of reflection high-energy electron diffraction patterns[J]. Chinese Physics B, 2012, 21(4): 046103.
[2] 周勋, 杨再荣, 罗子江, 等. 反射式高能电子衍射实时监控的分子束外延生长GaAs晶体衬底温度校准及表面相变的研究[J]. 物理学报, 2011, 60(1): 479-483.
Zhou X, Yang Z R, Luo Z J, et al. Study on temperature calibration and surface phase transition of GaAs crystal substrate in MBE growth by RHEED real-time monitoring[J]. Acta Physica Sinica, 2011, 60(1): 479-483.
[3] Ghosh D, Kaabouch N. A survey on image mosaicing techniques[J]. Journal of Visual Communication and Image Representation, 2016, 34: 1-11.
[4] Zhang K, Li X Z, Zhang J X. A robust point-matching algorithm for remote sensing image registration[J]. IEEE Geoscience and Remote Sensing Letters, 2014, 11(2): 469-473.
[5] Wu Y, Ma WP, Gong M G, et al. A novel point-matching algorithm based on fast sample consensus for image registration[J]. IEEE Geoscience and Remote Sensing Letters, 2015, 12(1): 43-47.
[6] 徐鑫, 孙韶媛, 沙钰杰, 等. 一种基于改进RANSAC的红外图像拼接方法[J]. 激光与光电子学进展, 2014, 51(11): 135-140.
Xu X, Sun S Y, Sha Y J, et al. A method of infrared image mosaic based on improved RANSAC[J]. Laser & Optoelectronics Progress, 2014, 51(11): 135-140.
[7] HarrisC, StephensM. A combined corner and edge detector[C]∥Proceedings of the Alvey Vision Conference 1988, Manchester. Alvey Vision Club, 1988.
[8] . Harris 与 SIFT 算子的图像快速配准算法[J]. 中国光学, 2015, 8(4): 574-581.
Xu J J. Fast image registration method based on Harris and SIFT algorithm[J]. Chinese Journal of Optics, 2015, 8(4): 574-581.
[9] 冯宇平, 戴明, 孙立悦, 等. 图像自动拼接融合的优化设计[J]. 光学精密工程, 2010, 18(2): 470-476.
[10] 邹志远, 安博文, 曹芳, 等. 一种自适应红外图像角点检测算法[J]. 激光与红外, 2015, 45(10): 1272-1276.
Zou Z Y, An B W, Cao F, et al. Adaptive corner point detection of infrared images[J]. Laser & Infrared, 2015, 45(10): 1272-1276.
[11] 周志艳, 闫梦璐, 陈盛德, 等. Harris角点自适应检测的水稻低空遥感图像配准与拼接算法[J]. 农业工程学报, 2015, 31(14): 186-193.
Zhou Z Y, Yan M L, Chen S D, et al. Image registration and stitching algorithm of rice low-altitude remote sensing based on Harris corner self-adaptive detection[J]. Transactions of the CSAE, 2015, 31(14): 186-193.
[12] 唐泽恬, 杨晨, 汤佳伟, 等. 基于机器视觉的量子点STM形貌图像识别研究[J]. 原子与分子物理学报, 2019, 36(5): 824-830.
Tang Z T, Yang C, Tang J W, et al. Research on quantum dot STM morphological image recognition based on machine vision[J]. Journal of Atomic and Molecular Physics, 2019, 36(5): 824-830.
[13] 马明明, 杨晓珊, 郭祥, 等. 生长温度对In0.5Ga0.5As/GaAs量子点尺寸的影响[J]. 原子与分子物理学报, 2019, 36(1): 103-108.
Ma M M, Yang X S, Guo X, et al. Effect of growth temperature on size of In0.5Ga0.5As/GaAs quantum dots[J]. Journal of Atomic and Molecular Physics, 2019, 36(1): 103-108.
[14] 王继红, 罗子江, 周勋, 等. 间歇式As中断生长InGaAs/GaAs量子点[J]. 功能材料, 2017, 48(5): 5023-5027.
Wang J H, Luo Z J, Zhou X, et al. MBE growth and STM analysis ofInGaAs quantum dots with As intermittent interruption[J]. Journal of Functional Materials, 2017, 48(5): 5023-5027.
[15] 李志宏, 丁召, 汤佳伟, 等. Ga液滴沉积速率对GaAs/GaAs(001) 量子双环形貌的影响[J]. 物理学报, 2019, 68(18): 102-107.
Li Z H, Ding Z, Tang J W, et al. Effect of Ga droplet deposition rate on morphology of concentric quantum double rings[J]. Acta Physica Sinica, 2019, 68(18): 102-107.
Article Outline
唐泽恬, 丁召, 曾瑞敏, 王阳, 朱登玮, 王昱皓, 钟岷哲, 杨晨. 基于改进的Harris和二次归一化互相关的量子图像拼接算法[J]. 激光与光电子学进展, 2020, 57(10): 101005. Zetian Tang, Zhao Ding, Ruimin Zeng, Yang Wang, Dengwei Zhu, Yuhao Wang, Minzhe Zhong, Chen Yang. Quantum Image Stitching Algorithm Based on Improved Harris and Quadratic Normalized Cross Correlation[J]. Laser & Optoelectronics Progress, 2020, 57(10): 101005.