1 上海市计量测试技术研究院，上海 201203
2 上海在线检测与控制技术重点实验室，上海 201203
3 桂林电子科技大学 计算机与信息安全学院，广西 桂林 541004
提出了一种结合深度学习的空间相位解包裹方法，采用基于改进U-Net网络的编码器-解码器架构，同时加入包含双向长短期记忆网络（BILSTM）的CBiLSTM模块，并且结合注意力机制，避免了典型卷积神经网络学习全局空间依赖关系的固有缺陷的同时增强了深度学习模型对相位解包裹任务中的关键信息的关注能力。通过大量的模拟数据，验证了文中方法在严重噪声(SNR=0)、不连续条件和混叠条件下的鲁棒性，在以上三种情况下，同其他深度学习网络模型进行对比，文中所提出的网络模型的归一化均方根误差（NRMSE）分别为0.75%、1.81%和1.68%；结构相似性指数（SSIM）分别为0.98、0.92和0.94；峰值信噪比(PSNR)分别为40.87、32.56、37.38；同时计算时间显著减少，适合应用到需要快速准确的空间相位解包裹任务中去。通过实际测量数据，验证了文中提出网络模型的可行性。该研究将双向长短期记忆网络（BILSTM）和注意力机制同时引入光学相位解包裹问题中，为解决复杂相位场的解包裹提供了新的思路和方案。
相位解包裹 深度学习 注意力机制 长短期记忆网络 卷积神经网络 phase unwrapping deep learning attention mechanism long short-term memory network convolutional neural network 红外与激光工程
2024, 53(2): 20230564
1 中国民航大学电子信息与自动化学院，天津 300300
2 中国民航大学空中交通管理学院，天津 300300
为解决复杂多变环境下光纤入侵事件因噪声干扰识别困难、误报率高的问题，提出了基于改进的奇异谱分析和遗传算法优化的双向长短期记忆神经网络的入侵事件识别方法。首先，为了减少噪声对识别效果的影响采用改进的奇异谱分析法去噪，对入侵信号及其分量进行迭代奇异谱分析去噪，并利用信号贡献率的大小来确定信号重构的秩阶次，调节信号分量去噪的程度，实现光纤信号的去噪。然后，利用遗传算法优化神经网络结构参数，构建双向长短期记忆神经网络提取光纤信号空间特征，最后基于以上方法对攀爬、跑动、敲击、静态、大风、雨天6种实测信号进行入侵事件识别实验，实验结果表明，在双Mach-Zehnder光纤周界传感系统识别入侵事件过程中，改进的奇异谱分析相比普通的奇异谱分析，去噪信噪比有明显提高，平均信噪比提高了12.79 dB，平均均方根误差略有减少。遗传算法优化的双向长短期记忆神经网络较未优化神经网络平均识别率提高了5.7%，识别准确率最高可达98.1%。
光纤传感 奇异谱分析 遗传算法 长短期记忆神经网络 激光与光电子学进展
2024, 61(5): 0506001
刘琨 1,2,3,*尹慧 1,2,3江俊峰 1,2,3刘铁根 1,2,3赵成伟 1,2,3
1 天津大学精密仪器与光电子工程学院，天津 300072
2 天津大学光电信息技术教育部重点实验室，天津 300072
3 天津大学光纤传感研究所，天津 300072
针对目前深度学习在气体检测领域多聚焦于学习单个任务即气体定性分类或气体体积分数定量回归，忽略了相关任务间的信息关联性，降低了模型学习精度与效率等问题，提出了一种基于一维卷积神经网络和长短期记忆网络的多任务学习模型，即MTL-1DCNN-LSTM，并行实现了混合气体种类定性识别与体积分数定量回归。利用掺铥光纤，搭建了二级放大掺铥环腔光纤激光器，基于有源内腔吸收光谱法探测了CO2和NH3混合气体的吸收光谱数据。将实验数据放入多任务学习模型中训练，并进行超参数优化后，对测试集数据进行测试得到气体识别准确率为100%，NH3体积分数预测决定系数为99.84%，CO2体积分数预测决定系数为99.62%，优于单任务模型与传统的气体反演算法如反向传播神经网络和支持向量机。所提出的深度学习算法与有源内腔法相结合的方法，为吸收光谱型混合气体反演技术的进一步研究提供了新思路。
掺铥光纤激光器 有源内腔法 多任务学习 一维卷积神经网络 长短期记忆网络 激光与光电子学进展
2024, 61(3): 0306002
杭州电子科技大学自动化学院，浙江 杭州 310018
近年来，随着深度学习的发展，基于深度学习的特征提取方法在高光谱图像领域表现出良好的发展前景。提出了一种引入注意力机制的多尺度高光谱图像特征提取方法，包括光谱特征提取网络和空间特征提取网络两个部分，并使用一种得分融合策略进行融合。在光谱特征提取网络中，引入注意力机制来缓解因光谱维数过高导致的梯度消失问题，以提取多尺度的光谱特征。在空间特征提取网络中，引入注意力机制作用于网络主干，使其关注邻域内的重要部分，帮助分支网络提取关键信息。将5种光谱特征提取方法、3种空间特征提取方法以及3种空间-光谱联合特征提取方法在3个数据集上进行对比实验，实验结果表明，所提方法能够稳定、有效地提升高光谱图像的分类准确率。
高光谱图像 长短期记忆网络 注意力机制 特征提取 深度学习 激光与光电子学进展
2024, 61(4): 0437010
1 电子科技大学电子科学技术研究院四川成都 611731
2 电子科技大学格拉斯哥学院四川成都 611731
事件句的句法结构有助于语义理解。针对中文领域的事件检测任务, 本文设计了面向句义及句法的事件检测模型(BDD)以增强对事件句的理解能力。以基于来自变压器的双向编码器表示 (BERT)的动态词向量为信息源, 设计基于依存树的长短时记忆网络模型(D-T-LSTM)以融合学习句法结构及上下文语义, 并加入基于依存向量的注意力机制强化对不同句法结构的区分度, 在中文突发事件语料库(CEC)上的实验证明了本文模型的有效性, 精确率、召回率、F1值均靠前, 且 F1值比基准模型提升了 5.4%, 召回率提升了 0.4%。
事件检测 来自变压器的双向编码器表示 基于依存树的长短时记忆网络模型 基于依存向量的注意力机制 event detection Bidirectional Encoder Representations from Transfo Dependency-Tree-LSTM(Long Short-Term Memory Networ D-Attention 太赫兹科学与电子信息学报
2023, 21(12): 1464
1 西安电子科技大学 微电子学院, 西安 710071
2 北京轩宇空间科技有限公司, 北京 100190
3 西安电子科技大学 综合业务网理论及关键技术国家重点实验室, 西安 710071
针对基于静态结构特征的机器学习方法对门级硬件木马检测结果检测率不高的问题，提出了一种基于级联结构特征的硬件木马检测方法。利用共现矩阵进行特征构建，并使用多对多结构的堆叠式长短期记忆网络(Long Short-Term Memory，LSTM)进行木马特征的训练与识别。实验结果表明，该方法在Trusthub的15个基准网表中获得了93.1%的平均真阳性率(TPR)、99.0%的平均真阴性率(TNR)和79.3%的F1-score。实验结果优于现有方法。
硬件木马 长短期记忆 硬件木马检测 门级网表 hardware trojan long short-term memory (LSTM) HT detection gate-level netlist
1 哈尔滨工业大学(深圳)机电工程与自动化学院, 广东 深圳 518000
2 深圳市西渥智控科技有限公司, 广东 深圳 518000
该文搭建迟滞测量实验平台, 测量一种用于LED晶圆检测压电执行器的迟滞效应, 设计了一种基于长短期记忆(LSTM)神经网络的压电迟滞模型, 使用时间序列预测法对压电执行器位移迟滞效应建模。将该模型与传统的Prandtl-Ishlinskii(PI)模型进行对比。实验结果表明, 神经网络模型具有较好、较广泛的迟滞建模效果, 对于正弦波, 位移预测精度保证小于2%; 对于衰减正弦波, 位移预测精度可保证小于3%。较高的模型预测精度为使用压电执行器进行LED晶圆检测提供了依据。
压电执行器 迟滞非线性 长短期记忆(LSTM)神经网络 piezoelectric actuator hysteresis nonlinearity long short-term memory(LSTM) neural network
1 上海电力大学自动化工程学院，上海 200090
2 新南威尔士大学电气工程与电信学院，澳大利亚 新南威尔士州悉尼 2052
借助深度学习算法的非线性处理能力，提出基于注意力机制和长短期记忆（LSTM）网络的温漂预测模型，从而对法布里-珀罗（F-P）滤波器进行温漂补偿。针对温漂数据中复杂的时空信息，采用LSTM提取时间信息，利用注意力机制分配空间权重。实验结果表明：在升温-降温-升温环境下，所提方法和LSTM模型的最大波长漂移误差分别为6.75 pm和16.64 pm；在单调降温环境下，两种方法的最大波长漂移误差分别为5.39 pm和14.09 pm。所提方法在最大绝对误差（MAXE）、均方根误差（RMSE）和平均误差（MAE）上均优于最小二乘支持向量机（LSSVM）和循环神经网络（RNN）。
光栅 光纤光栅 法布里-珀罗滤波器 温漂误差 注意力机制 长短期记忆网络 光学学报
2023, 43(22): 2205001
1 山东中医药大学智能与信息工程学院，山东 济南 250355
2 山东中医药大学第一临床医学院，山东 济南 250355
卷积神经网络（CNN）在新冠肺炎X射线图像分类中取得诸多成果，但卷积结构只能学习到特征图相邻空间位置的上下文信息。为了更好地结合胸部X射线图像全局信息，除了提高CNN的深度，所提网络通过设计主干网络ConvNeXt、聚合注意力模块、长短期记忆网络，更加关注全局与局部信息的交互性。对公开访问的COVID-19 Radiography Database数据集图像分类，所提网络在三分类实验中相较于基础模型ConvNeXt在准确率、精确率、召回率上分别提高1.60个百分点、1.23个百分点、1.76个百分点，且其在多项实验指标上优于Vision Transformer、Swin-Transformer，准确率、精确率、召回率、特异度分别提高到95.6%、96.03%、95.76%、97.53%。另外选用Chest X-ray数据集进一步验证所提网络泛化能力，采用Score-CAM算法验证其有效性。实验结果表明，所提网络对新冠肺炎X射线图像具有较好的分类效果。
图像处理 X射线图像 新冠肺炎 注意力机制 长短期记忆网络 激光与光电子学进展
2023, 60(14): 1410001
