1 华中科技大学智能制造装备与技术全国重点实验室，湖北 武汉 430074
2 湖北光谷实验室，湖北 武汉 430074
光刻热点检测是实现集成电路可制造性设计，保障集成电路芯片最终良率的关键。鉴于传统基于深度学习的光刻热点检测方法难以满足先进集成电路制造对检测精度的要求，提出了一种基于改进Yolov5s的检测算法，用于光刻版图热点缺陷的精确检测。通过将坐标注意力机制引入骨干网络，提高了Yolov5s模型对版图图形区域的关注度，进而极大地改善了基于Yolov5s的检测算法的光刻热点检测性能。与此同时，采用Sigmoid线性单元激活函数进一步完善整个神经网络的非线性表达，利用Scylla交并比损失函数更快速地定量评估边界框回归损失，提高了热点检测算法的收敛速度和精度。将ICCAD（The International Conference on Computer-Aided Design）2012竞赛基准、经光学邻近校正优化后的光刻图形作为数据集对所提算法开展性能测试实验，验证了热点检测算法的优异检测精度。实验结果表明，该算法的平均准确率、平均召回率、平均F1-score和均值平均精度分别达到97.7%、98.0%、97.8%和98.4%，显著优于其他光刻热点检测算法，展示了良好的应用前景。
光刻热点检测 改进Yolov5s 检测精度 坐标注意力机制 Sigmoid线性单元激活函数 Scylla交并比损失函数 激光与光电子学进展
2023, 60(24): 2422001
1 北京大学物理学院人工微结构和介观物理国家重点实验室，北京 100871
2 南开大学物理科学学院，天津 300071
3 北京工业大学理学部信息光子技术研究所，北京 100124
4 山西大学极端光学协同创新中心，山西 太原 030006
神经网络中的非线性激活层可以改变多层网络数据间的线性变换关系，使神经网络得以进行更复杂的学习。为实现处理速度更快，能耗更低的运算，近年来光子领域的神经网络逐渐受到重视，一系列光学非线性激活函数器件应运而生。本文综述了近年来在光学神经网络中引入非线性激活函数的工作，从光学非线性函数的物理机制及其在光学神经网络中的应用出发，对该领域的工作进行了回顾；总结并讨论了光学神经网络中光学非线性激活函数器件发展所面临的挑战及变化趋势，并基于此展望了其发展前景。
非线性光学 光学神经网络 非线性激活函数 光学学报
2023, 43(16): 1623001
山东中医药大学智能与信息工程学院，山东 济南 250355
针对儿童肺炎图像难以准确诊断的问题，提出一种基于改进Inception-ResNet-v2的分类识别方法，以提高对不同类型的儿童肺炎图像的识别准确率。以Inception-ResNet-v2为基础网络，引入多尺度通道注意力模块，促进网络识别和检测极端尺度变化下的目标。加大网络stem层的卷积核大小，增大模型初期的有效感受野。为避免模型出现过拟合，减少了激活函数的使用，并使用SiLU激活函数来代替ReLU激活函数。针对数据集Chest X-ray中数据量较少的问题，对输入图像进行一定角度的旋转和随机水平的翻转以增强原始数据。实验结果表明，所提方法在儿童肺炎数据的二分类中准确率达到97.9%，三分类中准确率达到85.8%，证明该方法能够有效提高儿童肺炎的识别精度。
图像处理 儿童肺炎 多尺度通道注意力模块 感受野 激活函数 激光与光电子学进展
2023, 60(14): 1410008
1 南京信息工程大学 计算机与软件学院
2 电子与信息工程学院, 南京 210000
针对裂缝图像获取困难导致的样本少、传统数据扩充方法提升样本特征空间能力不足等问题, 提出了一种基于改进深度卷积生成对抗网络(MDCGAN)的裂缝样本扩充方法。首先对数据集进行预处理, 利用滑窗法进行数据降维和清洗; 其次优化激活函数, 提高生成特征的多样性, 同时引入谱归一化进行权重标准化提升网络结构的稳定性, 以生成高质量的裂缝数据集; 最后, 利用改进的Alexnet网络对扩充后的混合样本集进行特征提取并分类识别。结果表明, MDCGAN网络数据增强性能与传统扩充方法相比均有明显提高, 适用于扩充裂缝图像。
深度卷积生成对抗网络 数据增强 裂缝图像 谱归一化 激活函数 deep convolution generative adversarial network data argumentation crack image spectral normalization activation function
1 上海应用技术大学计算机科学与信息工程学院，上海 201418
2 上海应用技术大学理学院，上海 201418
2D-3D医学图像配准在解决放射治疗的摆位验证问题上发挥着至关重要的作用。针对现有配准方法精度不高、耗时较长等问题，提出一种基于训练-推理解耦架构的2D-3D医学图像配准方法。该方法在训练阶段采用多分支结构，利用多尺度卷积增强特征多样性，提高配准精度；在推理阶段，利用重参数化将多分支结构转换为单路结构，加快配准速度；另外，引入自适应激活函数Meta-ACON，提高网络的非线性表达能力。在胸部和骨盆两个数据集上进行训练和测试，实验结果表明，所提方法预测结果的位移误差约为0.08 mm，角度误差约为0.05°，配准时间仅需26 ms。所提方法有效解决了摆位验证中的医学图像配准问题，不仅提高了精度，还满足了临床实时性要求。
图像处理 2D-3D配准 卷积神经网络 重参数化 激活函数 激光与光电子学进展
2022, 59(16): 1610015
红外与激光工程
2022, 51(3): 20210253
1 湖北汽车工业学院 机械工程学院，湖北十堰442002
2 上海大学 上海市智能制造与机器人重点实验室，上海0007
为了实现轮毂焊缝缺陷的智能化检测，本文对深度学习目标检测算法（You Only Look Once version3，YOLOv3）进行改进，得到YOLOv3-MC算法用于轮毂焊缝缺陷的检测。首先，使用工业相机采集轮毂焊缝图像，然后标注图像制作数据集，并且通过数据增强方法扩充数据集。接着，为了提高算法检测精度，使用Mish激活函数替换YOLOv3主干网络中的激活函数。修改算法的损失函数，使用完备交并比（Complete Intersection over Union，CIoU）的计算方法提升算法检测的定位精度。最后使用训练集训练算法模型，再使用验证集和测试集图像数据进行检测试验，结果表明，YOLOv3-MC的最优模型在验证集上的平均准确率（Mean Average Precision，mAP）达到了98.94%，F1得分值为0.99，平均交并比（Average Intersection over Union，AvgIoU）为80.92%，检测速度为76.59帧/秒，模型大小234MB。该模型在测试集上的检测正确率达到了99.29%。相较于传统机器视觉检测方法，该方法提高了检测精度，满足轮毂生产企业的焊缝实时在线检测需求。
焊缝缺陷检测 YOLOv3-MC Mish激活函数 损失函数 weld defect detection YOLOv3-MC mish activation function loss function
1 中国科学院长春光学精密机械与物理研究所空间光学研究二部, 吉林 长春 130033
2 中国科学院大学, 北京 100094
3 北京跟踪与通信技术研究所, 北京 100094
针对传统遥感图像飞机目标检测算法在复杂背景下存在检测准确度和检测召回率较低的问题, 基于深度学习中YOLOv4-tiny提出一种遥感图像飞机目标检测算法。根据YOLOv3和YOLOv4的网络结构对YOLOv4-tiny的网络结构进行改进, 将原算法中的CSP特征提取网络强化, 使其特征提取能力增加; 使用Mish激活函数替换原激活函数Leaky ReLU, 以获取更好的泛化性; 添加了空间金字塔池化模块, 缓解网络对目标尺度的敏感程度。实验结果表明:在常规高质量、过度曝光的停机坪、登机口干扰和雾天影响的遥感图像测试中, 改进后的算法都有很优秀的检测效果, 最终统计检测准确度为98.49%, 较原算法提升了1.79%, 召回率为97.19%, 提升了23.2%, 速度达到8.77ms。检测效果有显著提升, 能够满足实时性要求。
光学图像处理 遥感图像 目标检测 空间金字塔池化 Mish激活函数 optical image processing remote sensing image target detection YOLOv4-tiny YOLOv4-tiny spatial pyramid pooling Mish activation function
北京信息科技大学光电测试技术及仪器教育部重点实验室, 北京 100192
提出了一种基于10.6 μm波长的小型化非线性全光衍射深度神经网络建模方法。采用波长为10.6 μm的二氧化碳(CO2)激光光源,其对应的神经网络物理尺寸为1 mm×1 mm,依据相关的光学物理参数特性,构建了基于10.6 μm波长的非线性全光衍射深度神经网络模型框架,使用网格搜索法确定最优的神经网络模型超参数,并选择交叉熵损失函数和Adam优化器对神经网络进行了优化。分别在MNIST手写数字数据集和Fashion-MNIST数据集上对该方法进行了测试,其分类结果分别达到了0.9630和0.8743。所提方法为制备小型化的全光衍射光栅提供了理论参考。
光计算 非线性全光衍射深度神经网络 激活函数 10.6 μm; 深度学习 激光与光电子学进展
2021, 58(8): 0820001
辽宁工程技术大学软件学院, 辽宁 葫芦岛 125105
针对超分辨率卷积神经网络(SRCNN)卷积层较少、训练时间长、不易收敛且表达和泛化能力受限等问题,提出了一种残差反卷积SRCNN(RD-SRCNN)算法。首先利用不同大小的卷积核进行卷积操作,以更好地提取低分辨率图像中的细节特征;然后将获取的图像特征输入由不同大小卷积核构成的卷积层和指数线性单元激活层组成的残差网络,并通过短路径连接各个特征提取单元,以解决梯度消失、实现特征重用、减少网络冗余;最后,通过加入反卷积层增大感受野,得到清晰的高分辨率图像。实验结果表明,RD-SRCNN算法在视觉和客观评价标准上均取得了较好的效果。
图像处理 反卷积 残差网络 激活函数 卷积神经网络 激光与光电子学进展
2021, 58(2): 0210018
