为提升复杂交通场景下天气识别准确率的同时实现网络轻量化，提出了一种结合改进ConvNeXt网络与知识蒸馏的天气识别方法。首先，在ConvNeXt网络的每组Block特征提取块后加入SimAm注意力机制，构建ConvNeXt_F网络，利用SimAm注意力机制对Block块提取的深层特征进行鉴权并校正权重，有效强化对天气判别性特征的捕获能力；其次，在网络训练过程中将Equalized Focal Loss（EFL）与Mutual-Channel Loss（MCL）采用平均占比的方式进行累加作为总损失函数，一方面利用EFL消除数据不均衡造成的影响，另一方面利用MCL减小同类天气下局部细节特征差异；最后，采用知识蒸馏技术将天气分类知识从ConvNeXt_F网络迁移到轻量级MobileNetV3网络，虽然精度略微损失但网络参数量大幅减少。实验结果表明，与其他算法相比，所提方法在本文构建的宁夏高速公路场景下的天气数据集weather-traffic和公开的自然天气数据集RSCM2017上准确率分别达到96.22%，84.8%，FPS分别达到157.6 Hz,137.6 Hz，FLOPs和Params仅为0.06 G和2.54 M，识别精度、速度和网络的轻量化较原网络均有提高，能够更好地应用于储存和计算能力受限的实际场景中。
天气识别 ConvNeXt网络 注意力机制 知识蒸馏 weather recognition ConvNeXt network attention mechanism knowledge distillation 光学 精密工程
2023, 31(14): 2123
细粒度图像具有不同子类间差异小、相同子类内差异大的特点。现有网络模型在处理过程中存在特征提取能力不足、特征表示冗余和归纳偏置能力弱等问题，因此提出一种改进的Transformer图像分类模型。首先，利用外部注意力取代原Transformer模型中的自注意力，通过捕获样本间相关性提升模型的特征提取能力；其次，引入特征选择模块筛选区分性特征，去除冗余信息，加强特征表示能力；最后，引入融合的多元损失，增强模型归纳偏置和区分不同子类、归并相同子类的能力。实验结果表明，所提方法在CUB-200-2011、Stanford Dogs和Stanford Cars三个细粒度图像数据集上的分类精度分别达89.8%、90.2%和94.7%，优于多个主流的细粒度图像分类方法，分类结果较好。
细粒度图像分类 Transformer 外部注意力 特征选择 多元损失 激光与光电子学进展
2023, 60(2): 0210013
针对人物姿态迁移生成图像存在纹理细节丢失、姿态转移不合理等问题，提出一种融合自注意力机制的人物姿态迁移生成模型。首先，在两阶段姿态迁移生成模型的基础上，通过把改进的自注意力模块嵌入到生成对抗网络中，降低相似特征间的相互影响，强化对纹理细节的学习能力及丰富信息的捕获能力，增强姿态特征的显著性建模。然后，使用马尔可夫判别模型，进一步增强对生成图像细节的鉴别能力。最后，采用优化的内容损失函数，约束整个模型的图像特征信息损失计算，促进生成图像与真实图像语义内容一致性，加强姿态转移的合理性。实验验证，本模型在Deepfashion数据集上比PG2方法的IS值与SSIM值分别提升了0.388和0.032，在Market-1501数据集上比PG2方法的IS值与SSIM值分别提升了0.036和0.065，改善了图像生成质量。
图像处理 深度学习 生成对抗网络 图像生成 自注意力机制 激光与光电子学进展
2022, 59(4): 0410014
1 宁夏大学 信息工程学院, 宁夏 银川 750021
2 四川师范大学 工学院, 四川 成都 610000
针对传统的弱光照图像增强算法鲁棒性差, 基于神经网络的图像增强算法直接从弱光照图像中估计增强结果, 并未注入视觉注意机制, 不能有效注意弱光照区域, 导致算法增强结果的精度不高等问题, 本文提出了注意残差稠密神经网络的弱光照图像增强算法来提高弱光照图像的增强精度和视觉效果。该算法主要包括注意循环网络和残差稠密网络, 注意循环网络在光照图的引导下, 利用循环网络结构逐步关注图像中的弱光照区域, 从而产生由粗到细, 逐步优化的光照注意图。而光照注意图则进一步联合弱光照图像作为后续的残差稠密网络的输入, 引导残差稠密网络为弱光照区域分配更多的计算资源, 更好地学习弱光照图像与增强图像的映射关系, 得到准确的图像增强结果。实验表明, 本文算法在合成图像及真实图像上均较常用算法有更好的增强效果。
弱光照图像增强 Retinex模型 卷积神经网络 残差稠密网络 注意机制 weakly illuminated image enhancement Retinex mode convolutional neural network residual dense network attention mechanism
针对现有方法在肺结节检测中准确率低及存在过拟合现象的问题,提出一种基于改进YOLACT模型的肺结节检测方法。在模型的主体结构上,采用DetNet替代原始的残差网络,解决了原始模型在小型结节检测上的局限性。在模型训练上,针对原模型在少量肺结节数据上学习困难而引起的过拟合问题,引入迁移学习机制,帮助新模型得到更好的检测结果。使用RReLU激活函数代替原有的ReLU激活函数,减少了原模型可能存在的过拟合现象。在LUNA16数据集上的实验结果表明,所提方法在受试者工作曲线下面积、假阳率、漏诊率及准确率上均取得了一定的提升。
图像处理 肺结节检测 全卷积网络模型 迁移学习 深度学习 激活函数 激光与光电子学进展
2020, 57(16): 161015
细粒度图像之间具有高度相似的外观,其差异往往体现在局部区域,提取具有判别性的局部特征成为影响细粒度分类性能的关键。引入注意力机制的方法是解决上述问题的常见策略,为此,在双线性卷积神经网络模型的基础上,提出一种改进的双线性残差注意力网络:将原模型的特征函数替换为特征提取能力更强的深度残差网络,并在残差单元之间分别添加通道注意力和空间注意力模块,以获取不同维度、更为丰富的注意力特征。在3个细粒度图像数据集CUB-200-2011、Stanford Dogs和Stanford Cars上进行消融和对比实验,改进后模型的分类准确率分别达到87.2%、89.2%和92.5%。实验结果表明,相较原模型及其他多个主流细粒度分类算法,本文方法能取得更好的分类结果。
图像处理 细粒度图像分类 注意力机制 残差网络 通道注意力 空间注意力 激光与光电子学进展
2020, 57(12): 121011
1 宁夏大学信息工程学院, 宁夏 银川 750021
2 银川市第一人民医院医技科, 宁夏 银川 750002
针对过拟合及甲状腺恶性结节细粒度分类(恶性分为恶性与高度恶化)的问题,提出一种基于循环卷积神经网络的分类方法。将Xception网络与长短时记忆网络(LSTM)作为互不干扰的两部分,分别对甲状腺结节样本进行特征提取得到两个权重矩阵;通过Merge算法融合为单个权重矩阵,将单个权重矩阵导入卷积神经网络(CNN)进行特征提取与池化;采用L2正则化的Softmax函数作为分类器,完成循环卷积神经网络的训练与测试。实验结果表明,甲状腺恶性结节细粒度分类的准确率为87.00%,并有较好的特征提取能力。
图像处理 神经网络 超声图像 甲状腺 图像分类预测 激光与光电子学进展
2019, 56(24): 241003
1 宁夏大学信息工程学院, 宁夏 银川 750021
2 中国民用航空西北地区空中交通管理局宁夏分局, 宁夏 银川 750009
小目标、飞机相互遮挡等难以检测的问题,对飞机检测的准确性及实时性提出很大的挑战。将实时性较高的YOLO v3算法应用到机场场面飞机检测领域,并提出两点改进:将骨干网络中的卷积层替换为空洞卷积,保持较高分辨率及较大感受野,提高模型对小目标检测的准确率;通过线性衰减置信得分的方式,对非极大值抑制(NMS)算法进行优化,以提升模型对被遮挡飞机的检测能力。结果表明,改进后的YOLO v3能够较好地检测小目标和遮挡飞机,且在保证实时性的前提下,将检测准确率从72.3%提高到83.7%。
图像处理 场面飞机检测 YOLO v3 空洞卷积 非极大抑制算法 激光与光电子学进展
2019, 56(19): 191003
