激光与光电子学进展, 2020, 57 (10): 101005, 网络出版: 2020-05-08   

基于改进的Harris和二次归一化互相关的量子图像拼接算法 下载: 928次

Quantum Image Stitching Algorithm Based on Improved Harris and Quadratic Normalized Cross Correlation
作者单位
1 贵州大学大数据与信息工程学院, 半导体功率器件可靠性教育部工程研究中心, 微纳电子与软件技术重点实验室,贵州 贵阳, 550025
2 贵阳朗玛信息技术股份有限公司, 贵州 贵阳, 550022
摘要
针对量子图像拼接时,Harris算法需要人为设置阈值,以及图像局部相似度大导致误匹配率高的问题,提出了基于改进的Harris和二次归一化互相关(NCC)的量子图像拼接算法。在阈值设置方面,基于图像重复度高的事实,通过二值化和阈值下降统计图像子区域的量子点或环的数量以确定Harris阈值,并将其作为全图阈值。在误匹配方面,首先以小窗口进行NCC的匹配,初步筛选角点;然后在此结果上用大窗口进行第二次NCC,以降低误匹配率。实验结果表明:在量子点或环计数方面,该算法具有较好的精度和速度;在阈值设置方面,该算法将角点数量控制在合理的范围内;在匹配阶段,二次NCC的方法将误匹配率降低至4.82%~27.27%。因此,本文算法改善了量子图像拼接的可靠性和时间开销,在量子图像拼接中具有潜在的应用价值。
Abstract
For the stitching of quantum images, the Harris algorithm needs to artificially set the threshold and the local similarity of the image is high, which leads to the high mismatch rate. The quantum image stitching algorithm based on improved Harris and the quadratic normalized cross correlation (NCC) is proposed. In terms of threshold setting, based on the fact that the image repeatability is high, the number of quantum dots or rings of the statistical image sub-region is determined by binarization and threshold reduction to determine the Harris threshold,and as a full-image threshold. In terms of mismatching, the NCC matching is first performed in a small window, and the corner points are initially screened. Then the second NCC is performed on the result with a large window to reduce the mismatch rate. Experimental results show that the proposed algorithm has better accuracy and speed in quantum dot or ring counting. In terms of threshold setting, the proposed algorithm controls the number of corner points within a reasonable range. In the matching stage, the quadratic NCC method reduces the mismatch rate to 4.82%-27.27%. Therefore, the proposed algorithm optimizes the reliability and time overhead of quantum image stitching, and has potential application value in quantum image stitching.

1 引言

在低维半导体表面形貌的研究过程中,原子力显微镜(AFM)和扫描隧道显微镜(STM)为常见的表面形貌表征手段[1-2]。当使用STM和AFM对低维半导体表面形貌进行研究时,为获得更加细微的形貌信息往往需要较小的尺寸进行扫描,但为得到低维半导体表面的整体趋势却需要较大尺寸进行扫描,这必然会导致细微形貌信息的丢失。为保留细微的形貌信息,同时得到整体的趋势,图像拼接是一种常用的方法。

图像拼接是通过特征点检测、配准、融合等方法将部分视图转换为更大范围视图的过程,是图像处理的重要组成部分,广泛应用于运动检测、分辨率增强、遥感和医学成像等领域[3]。现有的拼接算法有两种:基于灰度的配准方法和基于特征的配准方法。其中,基于特征的配准方法具有仿射不变性、稳定性和较好的鲁棒性,从而倍受研究者的青睐[4-6]。在众多的基于特征配准方法中,Harris算子[7]在稳定性和简便性等方面具有明显的优势,成为了当前研究的一个热点。但Harris算法存在两方面局限,即对尺度敏感和需要人为设定阈值。为改进Harris对尺度的敏感性,许佳佳[8]通过构建高斯尺度空间,提取具有尺度不变性的角点特征;为实现Harris算法对阈值的自适应性,冯宇平等[9]采用阈值排序的方法寻找局部区域最佳阈值,并将此阈值作为全局的阈值进行角点检测;邹志远等[10]对阈值下限进行图像分块,并通过加权的方法得到图像的总阈值。周志艳等[11]首先使用Harris算法检测角点,然后使用标准化的图像灰度值标准差对角点进行筛选,从而避免了阈值设置不合理带来的不良影响。

对于量子图像直接使用Harris算法会存在阈值自适应差和局部相似度大导致的误匹配率高的问题。在阈值设置方面,本文通过二值化和阈值下降统计量子点或环的数量,并分析算法阈值与其数量的关系,以进行阈值的设置,得到了合适的阈值和角点数量。在误匹配率高方面,进行二次归一化互相关(NCC)的计算,有效地降低了误匹配率,且获得了较快的速度。

2 量子图像拼接的整体框架

量子图像拼接算法的流程如图1所示,算法分为以下步骤:1)对图像的量子点或环的数量进行统计,并根据其数量设置Harris角点检测的阈值;2)根据前一步的阈值进行Harris角点检测;3)对于检测得到的角点先使用较小的窗口进行NCC匹配,然后在小窗口匹配的角点的基础上使用较大的窗口进行第二次NCC匹配,以降低误匹配率;4)根据匹配完成的角点计算投影变换矩阵,确定图像之间的对应关系,并进行图像融合,完成图像的拼接。

图 1. 量子图像拼接流程图

Fig. 1. Flow chart of quantum image stitching

下载图片 查看所有图片

3 传统的Harris和NCC算法

3.1 Harris角点检测算法

Harris算法具有速度快、精度高等特点[9-11],是常用的角点检测算法,但阈值的设定对其效果有着直接的影响。若阈值过小,则易形成伪角点[如图2(a)①所示]和角点聚簇[如图2(a)②所示]。若设置阈值过大,则角点过少,不能充分描述图像特征[如图2(b)所示]。

Harris算法通过设置阈值和非极大值抑制对角点响应函数(CRF)进行筛选,以得到角点。CRF定义为

FCRF=det(M)-k(trM)2,(1)

式中:det (M)为矩阵M(x,y)的行列式;tr M为矩阵的迹;k是经验常数,取值范围为0.04~0.06。M(x,y)为像素(x,y)的自相关矩阵,表达式为

M(x,y)=x,yw(x,y)Ix2IxIyIxIyIy2,(2)

图 2. 阈值对角点检测的影响。 (a)阈值过小;(b)阈值过大

Fig. 2. Impact on corner detection by threshold. (a) Small threshold; (b) excessive threshold

下载图片 查看所有图片

w(x,y)=exp-(x2+y2)2σ2,(3)

式中:w(x,y)为高斯窗口;IxIy分别表示图像中该点的水平和垂直方向上的导数。

3.2 NCC角点匹配算法

角点检测后,需进行角点匹配。NCC是常用的算法之一,计算公式为

CNCC=iI1(xi,yi)-I-1I2(xi,yi)-I-2iI1(xi,yi)-I-12iI2(xi,yi)-I-22,(4)

式中:I1I2分别为两幅图像中角点的相关窗口; I-1I-2分别为其平均灰度值。

将NCC直接应用到量子图像时,由于量子图像其局部相似度较大,若选取较小的窗口进行检测,则存在误匹配的情况,如图3所示。若选取较大的窗口进行检测,则时间开销过大。

图 3. 误匹配

Fig. 3. Error matching

下载图片 查看所有图片

4 基于量子点或环数量的阈值设置和二次NCC

针对上述问题,本文基于Harris和NCC算法进行改进。基于量子点或环是Harris角点信息有效提供者这一事实,通过统计量子点或环的数量以设置阈值。在误匹配方面,使用二次NCC的方法,以降低误匹配率,同时保证较快的速度。

4.1 量子点或环的计数

对于图像中的物体数量统计,传统的方法是使用最大类间方差法(OTSU)进行图像的分割,提取物体信息,并进行连通域计数。但量子图像存在量子点粘连等问题,不适合直接使用OTSU方法,文献[ 12]采用二值化和阈值下降的方法将图像进行分割,并在每次二值化的过程中判断二值化提取到的量子点是否在之前的过程中被检测到,同时统计每次检测到的量子点,以得到量子点的数量。该方法获得了较高的精度,但其速度较慢。本文在其基础上进行改进,采用计数方法的流程如图4所示。

图 4. 量子点或环的数量统计方法流程图

Fig. 4. Flow chart of statistical method for the number of quantum dots or rings

下载图片 查看所有图片

算法的主要目的是在阈值下降的过程中,计算每次二值化的连通区域质心,并保存。在此过程中,量子点或环被二值化提取的区域会逐渐扩大,因此同一区域可能产生多个质心,本文通过设置最小距离(在本文中设置值为14)以区别质心是否来源于同一量子点或环。只有当质心距离大于此值时,才认定为独立的量子点或环。

在迭代分析量子点与环的过程中,需要设置终止阈值以停止搜索过程。终止阈值根据图像的灰度值的对数直方图进行设置,以图2为例,图5为其灰度值对数直方图,由于图像背景部分灰度值占比最大,因此,最大值之后的虚线位置为图像中量子点或环能被检测到的最小灰度值,即终止阈值。

图 5. 灰度值对数直方图

Fig. 5. Gray value logarithmic histogram

下载图片 查看所有图片

4.2 基于量子点或环数量的Harris算法阈值设置

在量子图像中,衬底平坦,而量子点、环等结构可以带来图像梯度的变化,因此量子点、环是角点的有效提供者。并且在相同的生长条件下,量子点、环的形貌特征相近[13-15]。因此量子图像局部区域之间呈现一定的相似性,可从局部确定全局阈值,以减小量子点或环计数阶段的时间开销。本文将图像分割为3×3的子图,并选取其中一个子图确定阈值,同时将此阈值作为全局阈值。

得到一个子图的量子点或环的数量n后,可对该子图进行阈值设置。首先,采用较小的阈值T0进行角点检测,以产生过多的角点。然后,对检测到角点的CRF值进行排序,保留最大的N作为该区域的角点,将此第N个角点的CRF值作为该区域阈值,同时也是全局阈值。由于量子点、环是角点的有效提供者,因此得到量子点或环的数量n与区域保留的角点N呈正比例关系,

N=a×n+b,(5)

式中:a为比例系数;b为常数项。为得到其具体数值,本文对100张量子图像进行实验,即手动调整子区域保留的角点数量N,以保证图像获得合适的角点数量,并将N与图像中的量子点或环的数量n进行统计分析,其结果如图6所示,通过对该数据进行拟合,得到ab的值分别为0.996和29.78。

图 6. 量子点或环与子区域保留角点的关系统计图

Fig. 6. Statistical graph of the relationship between quantum dots or rings and subregions with preserved corner points

下载图片 查看所有图片

4.3 二次NCC

对于量子点图像局部相似度高,采用一次NCC进行匹配,若采用较小的窗口,则会导致较高的误匹配率;若采用较大的窗口,则会导致时间开销过大。因此本文提出二次NCC的方法,首先选取一个较小窗口(本文选取为5×5)进行第一次NCC计算,得到粗匹配的角点对,然后使用较大的窗口(本文选取为49×49)在第一次NCC的基础上对匹配的角点对进行筛选,删除误匹配的角点,以降低误匹配率。由于第二次NCC是在第一次的匹配的角点对上进行筛选,因此其所需计算的次数只是匹配上的角点的对数,额外所需计算量较小。从而能以相对较小的计算代价,降低角点的误匹配率。

5 实验结果分析

图7为3组拼接使用的原始图像,其中,图7(a)和(b)大小为483 pixel×483 pixel;图7 (c)和(d)大小为511 pixel×511 pixel;图7(e)和(f)大小为534 pixel×534 pixel。

5.1 量子点或环计数方法分析

为验证基于阈值下降的量子计数方法的可靠性,对图7中的图像选取一个子图分别使用OTSU、文献[ 12]方法和本文改进的方法在准确率和时间上进行对比,结果如表1所示。由表1可知,OTSU处理时间较短,但其准确率最差;文献[ 12]方法准确率最高,但时间开销较大。本文改进的方法获得了较高的准确率和较快的速度,可以较好地完成阈值的设置,同时减少时间开销。

图 7. 原始图片。(a)(b)量子线图像;(c)(d)量子环图像;(e)(f)量子点图像

Fig. 7. Original images. (a)(b) Quantum wire images; (c)(d) quantum ring images; (e)(f) quantum dot images

下载图片 查看所有图片

表 1. 量子点或环计数方法对比

Table 1. Comparison of quantum dot or ring counting methods

123456
Image
Number ofquantumdots or ringsOTSU3223221921
Ref. [12]111040462826
Proposed81038472725
Manual counting111044462826
OTSU0.0280.0230.0210.0210.0160.010
Time /sRef. [12]0.5170.5130.7370.7050.7030.779
Proposed0.0820.0750.2690.2600.2960.302

查看所有表

5.2 基于数量的阈值设置方法分析

为验证本文改进的算法在设置阈值方面的可靠性,对图7(a)、(c)和(e)分别使用传统的Harris算法和本文算法进行角点检测,结果如图8所示,表2为两种方法检测的角点数量对比表。由表2图8可知,传统的Harris算法,量子环和点图像[图8(c)、(e)]的角点数量过少,且在图像上分布稀疏,无法较好地描述图像,不利于图像的拼接;量子线图像[图8(a)]的角点数量过多,且在图像上形成角点聚簇和伪角点,角点聚簇的区域会被反复利用,不能提供足够多的有效信息,且极大地增加了算法的搜索空间和复杂度。而本文改进的算法,对于量子环和量子点图像的角点数量分别增加到238、335和592、514,角点在空间分布上拥有更大的占比,有效地增加了的角点,且在图8(d)和(f)中没有观测到伪角点和角点聚簇,更为有效地描述图像信息,有利于图像的拼接;对于量子线图像,将角点数量减少至678和513,角点匹配阶段所需搜索的空间大小由1277×1099下降至678×513,下降了75.22%,该方法有效地将角点数量控制在合理的范围,兼顾了图像信息的描述与伪角点和角点聚簇的避免,且有利于减小角点匹配的搜索空间和算法的复杂度。综上可知,本文算法有利于平衡量子图像的角点数量,对信息较少的图像增加其角点数量,以更好地描述图像信息,对信息较多的图像减少其角点数量,以减小角点匹配的搜索空间和算法的复杂度。

图 8. 角点检测结果。(a)(c)(e)传统的Harris算法;(b)(d)(f)本文算法

Fig. 8. Corner detection results. (a)(c)(e) Traditional Harris algorithm; (b)(d)(f) proposed algorithm

下载图片 查看所有图片

表 2. 角点检测结果对比

Table 2. Comparison of corner detection results

AlgorithmFig. 7(a)Fig. 7(b)Fig. 7(c)Fig. 7(d)Fig. 7(e)Fig. 7(f)
Harris1277109915717490252
Proposed678513238335592514

查看所有表

5.3 误匹配率和时间分析

为验证二次NCC的匹配效果,将其与传统的NCC算法进行对比,其结果如表3所示。

表 3. 误匹配率和时间对比结果

Table 3. Comparison results of mismatch rate and time

Window sizeFig. 7(a)(b)Fig. 7(c)(d)Fig. 7(e)(f)
Error rate /%Time /sError rate /%Time /sError rate /%Time /s
5×566.883.92982.861.60867.353.551
9×961.104.02672.321.73866.773.728
13×1356.014.15454.171.87665.793.941
17×1750.534.40938.561.96663.244.134
21×2145.334.83027.592.06861.674.569
25×2541.225.18825.002.17958.504.916
Proposed4.823.98227.271.68810.173.682

查看所有表

表3可知,传统的NCC算法随着窗口尺寸的增加,时间逐渐增加,误匹配率逐渐降低,但误匹配率仍相对较高。二次NCC与5×5的传统NCC相比,以1.34%~4.97%的时间代价降低了55.59%~62.06%的误匹配率,将其降低至4.82%~27.27%。如前所述,第二次NCC是第一次NCC匹配角点的基础上实现的,所需的额外计算时间并不多,却较为有效地降低了误匹配率。

二次NCC的算法匹配情况如图9所示,由图9可知,该方法误匹配的情况较少,误匹配率较低。图像拼接的结果如图10所示,本文改进的算法有效地完成了量子图像的拼接,在保留细微的纹理信息的同时,获得了更大范围的图像。

图 9. 角点匹配结果。(a)量子线拼接图像;(b)量子环拼接图像;(c)量子点拼接图像

Fig. 9. Results of corner matching. (a) Quantum wire stitching image; (b) quantum ring stitching image; (c) quantum dot stitching image

下载图片 查看所有图片

图 10. 图像拼接结果。(a)量子线拼接图像;(b)量子环拼接图像;(c)量子点拼接图像

Fig. 10. Image stitching results. (a) Quantum wire stitching image; (b) quantum ring stitching image; (c) quantum dot stitching image

下载图片 查看所有图片

6 结论

本文对Harris和NCC算法进行改进,使之应用于量子点图像拼接并有利于解决此过程中的两个问题:需要人为设置阈值和局部区域相似度大导致误匹配率高。对于阈值的设置,利用量子点和量子环的数量对角点的有直接影响这一特性进行阈值设置,为更快的完成计数,减小时间开销,基于文献[ 12]方法提出了一种新的计数方法,然后根据数量进行阈值的设置,以获得合适的角点。对于误匹配的问题,提出二次NCC的方法,即在第一次小窗口NCC的基础上使用大窗口的NCC对第一次NCC匹配的角点进行筛选,以利用较小的时间开销为代价换取误匹配率的降低。结果表明:在量子点或环的计数方面,本文方法获得了较高的精度和较快的速度,能有效地降低该阶段的时间开销;在阈值设置方面,算法通过数量动态地设置阈值,获得了合适的角点数量;在误匹配方面,与5×5的传统NCC相比,以1.34%~4.97%的时间代价降低了55.59%~62.06%的误匹配率,将其降低至4.82%~27.27%。以较小的时间开销为代价换取了较大的误匹配率的降低。因此,本文改进的算法具有在AFM和STM等量子图像中进行拼接的潜在应用价值。

参考文献

[1] Zhou X, Luo Z J, Guo X, et al. Surface segregation of InGaAs films by the evolution of reflection high-energy electron diffraction patterns[J]. Chinese Physics B, 2012, 21(4): 046103.

[2] 周勋, 杨再荣, 罗子江, 等. 反射式高能电子衍射实时监控的分子束外延生长GaAs晶体衬底温度校准及表面相变的研究[J]. 物理学报, 2011, 60(1): 479-483.

    Zhou X, Yang Z R, Luo Z J, et al. Study on temperature calibration and surface phase transition of GaAs crystal substrate in MBE growth by RHEED real-time monitoring[J]. Acta Physica Sinica, 2011, 60(1): 479-483.

[3] Ghosh D, Kaabouch N. A survey on image mosaicing techniques[J]. Journal of Visual Communication and Image Representation, 2016, 34: 1-11.

[4] Zhang K, Li X Z, Zhang J X. A robust point-matching algorithm for remote sensing image registration[J]. IEEE Geoscience and Remote Sensing Letters, 2014, 11(2): 469-473.

[5] Wu Y, Ma WP, Gong M G, et al. A novel point-matching algorithm based on fast sample consensus for image registration[J]. IEEE Geoscience and Remote Sensing Letters, 2015, 12(1): 43-47.

[6] 徐鑫, 孙韶媛, 沙钰杰, 等. 一种基于改进RANSAC的红外图像拼接方法[J]. 激光与光电子学进展, 2014, 51(11): 135-140.

    Xu X, Sun S Y, Sha Y J, et al. A method of infrared image mosaic based on improved RANSAC[J]. Laser & Optoelectronics Progress, 2014, 51(11): 135-140.

[7] HarrisC, StephensM. A combined corner and edge detector[C]∥Proceedings of the Alvey Vision Conference 1988, Manchester. Alvey Vision Club, 1988.

[8] . Harris 与 SIFT 算子的图像快速配准算法[J]. 中国光学, 2015, 8(4): 574-581.

    Xu J J. Fast image registration method based on Harris and SIFT algorithm[J]. Chinese Journal of Optics, 2015, 8(4): 574-581.

[9] 冯宇平, 戴明, 孙立悦, 等. 图像自动拼接融合的优化设计[J]. 光学精密工程, 2010, 18(2): 470-476.

    Feng Y P, Dai M, Sun L Y, et al. Optimized design of automatic image mosaic[J]. Optics and Precision Engineering, 2010, 18(2): 470-476.

[10] 邹志远, 安博文, 曹芳, 等. 一种自适应红外图像角点检测算法[J]. 激光与红外, 2015, 45(10): 1272-1276.

    Zou Z Y, An B W, Cao F, et al. Adaptive corner point detection of infrared images[J]. Laser & Infrared, 2015, 45(10): 1272-1276.

[11] 周志艳, 闫梦璐, 陈盛德, 等. Harris角点自适应检测的水稻低空遥感图像配准与拼接算法[J]. 农业工程学报, 2015, 31(14): 186-193.

    Zhou Z Y, Yan M L, Chen S D, et al. Image registration and stitching algorithm of rice low-altitude remote sensing based on Harris corner self-adaptive detection[J]. Transactions of the CSAE, 2015, 31(14): 186-193.

[12] 唐泽恬, 杨晨, 汤佳伟, 等. 基于机器视觉的量子点STM形貌图像识别研究[J]. 原子与分子物理学报, 2019, 36(5): 824-830.

    Tang Z T, Yang C, Tang J W, et al. Research on quantum dot STM morphological image recognition based on machine vision[J]. Journal of Atomic and Molecular Physics, 2019, 36(5): 824-830.

[13] 马明明, 杨晓珊, 郭祥, 等. 生长温度对In0.5Ga0.5As/GaAs量子点尺寸的影响[J]. 原子与分子物理学报, 2019, 36(1): 103-108.

    Ma M M, Yang X S, Guo X, et al. Effect of growth temperature on size of In0.5Ga0.5As/GaAs quantum dots[J]. Journal of Atomic and Molecular Physics, 2019, 36(1): 103-108.

[14] 王继红, 罗子江, 周勋, 等. 间歇式As中断生长InGaAs/GaAs量子点[J]. 功能材料, 2017, 48(5): 5023-5027.

    Wang J H, Luo Z J, Zhou X, et al. MBE growth and STM analysis ofInGaAs quantum dots with As intermittent interruption[J]. Journal of Functional Materials, 2017, 48(5): 5023-5027.

[15] 李志宏, 丁召, 汤佳伟, 等. Ga液滴沉积速率对GaAs/GaAs(001) 量子双环形貌的影响[J]. 物理学报, 2019, 68(18): 102-107.

    Li Z H, Ding Z, Tang J W, et al. Effect of Ga droplet deposition rate on morphology of concentric quantum double rings[J]. Acta Physica Sinica, 2019, 68(18): 102-107.

唐泽恬, 丁召, 曾瑞敏, 王阳, 朱登玮, 王昱皓, 钟岷哲, 杨晨. 基于改进的Harris和二次归一化互相关的量子图像拼接算法[J]. 激光与光电子学进展, 2020, 57(10): 101005. Zetian Tang, Zhao Ding, Ruimin Zeng, Yang Wang, Dengwei Zhu, Yuhao Wang, Minzhe Zhong, Chen Yang. Quantum Image Stitching Algorithm Based on Improved Harris and Quadratic Normalized Cross Correlation[J]. Laser & Optoelectronics Progress, 2020, 57(10): 101005.

本文已被 4 篇论文引用
被引统计数据来源于中国光学期刊网
引用该论文: TXT   |   EndNote

相关论文

加载中...

关于本站 Cookie 的使用提示

中国光学期刊网使用基于 cookie 的技术来更好地为您提供各项服务,点击此处了解我们的隐私策略。 如您需继续使用本网站,请您授权我们使用本地 cookie 来保存部分信息。
全站搜索
您最值得信赖的光电行业旗舰网络服务平台!