1　引言

近年来，极端天气频发，温室效应加剧，人们对大气的高精度监视也越发迫切^[1-2]。激光雷达常用于探测物体的三维空间信息^[3-4]，应用范围广泛，其中侧向激光雷达是探测近地面气溶胶时空分布情况的重要装置^[5]。侧向散射激光雷达使用激光器向大气中发射激光，通过电荷耦合器(CCD)接收不同高度、不同方向上的散射光子，利用激光雷达方程计算消光系数廓线，从而实现对PM2.5、风速、能见度等大气参数进行精确测量，在大气探测领域得到了广泛运用。同时侧向激光雷达盲区范围较小^[6]，在近地面大气探测中优势较大。

大气离散时，光强度数据储存在CCD图像中，信号无法避免受到图像噪声影响。对图像数据进行去噪，能够大大提升雷达数据的精确性和可靠性。常用的去噪方法^[7-13]主要为小波去噪、滤波器去噪和神经网络噪声预测。小波去噪性能受阈值选取与小波基函数直接影响，且计算过程复杂；滤波器去噪对于规律性信号处理效果较理想，实测数据往往需要针对性改进才能满足需求；神经网络作为一种新兴技术，通过对大量训练集进行特征提取，对图像噪声进行预测，能够实现高性能、高速度、高鲁棒性的信号去噪。但该方法目前并未用于侧向激光雷达信号处理。2017年，孙国栋等人对侧向激光雷达CCD图像进行仿真，并使用小波去噪方法处理仿真图像，验证了侧向激光雷达图像去噪的必要性和可行性^[10]；2017年，黄金等人提出一种混合维纳滤波的去噪模型，能够保证边缘角点特征信息的完整性^[11]；2019年，Raj Kumar等人使用离散小波变换改进训练集，使用递归神经网络对图像噪声的特征进行提取并分析^[12]；2020年，钱满等人提出一种改进卷积神经网络，将神经网络用于合成孔径雷达图像去噪，优化了算法性能，优化了图像信噪比^[13]。传统侧向激光雷达信号去噪方法往往受到手动设置参数的影响，对于不同信号需要频繁调整参数，导致鲁棒性不足。上述网络模型未能用于侧向激光雷达图像，且存在死区较多、梯度消失等问题，网络性能有较大的进步空间。

本文将神经网络用于侧向激光雷达信号去噪，完善了侧向激光雷达信号处理领域对于神经网络技术的空缺。同时对激活函数进行了优化，增加了注意力机制，提升了网络性能，使网络更契合侧向激光雷达图像，缓解了深层神经网络带来的系统负荷，并和多种常用的图像去噪方法进行了对比，拓展了基于神经网络的噪声预测方法的适用性。

2　基于神经网络的雷达信号去噪算法

侧向激光雷达原理示意图如图1所示，图中y为探测高度，D为CCD到光束的垂直距离。该系统使用激光器向大气中发射激光，通过CCD接收散射光，计算散射粒子的分布情况。

图 1. 侧向激光雷达原理示意图

Fig. 1. Diagram of the side-scatter lidar

下载图片 查看所有图片

侧向激光雷达信号被CCD接收后，激光光束上各点的信号光子数被记录在不同位置的像素中，由多个像素点组合成二维图像。侧向激光雷达CCD图像如图2所示。从图中分析可得，由于激光光束宽度较小，信号波动幅度较大，信号光子数在去噪过程中容易受到破坏，因此如何在提升图像信噪比的同时保护信号光子数成为了侧向激光雷达信号去噪领域的重要问题。神经网络适合处理含有大量信息的复杂图像，通过对图像进行多次卷积，神经网络可自动识别图像特征，选取信号波动较大的区域并进行针对性处理，能够更好地保护信号光子数。

图 2. 侧向激光雷达信号

Fig. 2. The side-scatter lidar signal

下载图片 查看所有图片

侧向激光雷达回波信号由回波真值和噪声组成，主要的噪声来源为背景噪声、热噪声、散粒噪声和读出噪声^[14-15]。背景噪声为取值不随时间变化，信号强度稳定的信号，能够通过安装滤光片或采用背景相减法消除；热噪声主要由相机芯片热效应产生，随曝光时间累积，能够通过物理降温来抑制；散粒噪声是电子入射产生的噪声，是多数半导体器件的主要噪声来源，具有白噪声的特性；读出噪声由电路放大器或信号数模转换引起，和信号强度无关，呈高斯分布，能够通过改进相机芯片读出效率进行抑制。后三种噪声为科学相机成像过程中的主要噪声来源，处理过程复杂，而神经网络能够将多种噪声统一进行预测，无需进行不同噪声的分类处理，简化了信号分析的流程，大大提升了图像去噪的效率。

2.1　网络模型结构

神经网络性能受到其网络结构的直接影响，为了提高网络学习效率，本文在深度卷积神经网络中使用了批量标准化、残差学习和注意力机制模块CBAM^[16] (convolutional block attention module)；同时为解决原始激活函数可能造成神经元大量死亡无法修复及网络梯度消失的问题，使用SELU^[17](the scaled exponential linear units)作为激活函数。本文网络模型如图3所示。

图 3. 本文模型结构示意图

Fig. 3. The structure of the proposed model

下载图片 查看所有图片

网络输入为加入噪声的原始图像，图像经过由64个3×3的卷积核组成的卷积层Conv (convolution)和激活函数SELU，提取出图像特征，这一过程被称为卷积层处理；然后经过8个相同卷积块，每个卷积块由卷积层、激活函数和批量归一化层BN (batch normalization)组成，结合残差学习法，提升了网络训练速度，加快了收敛过程；之后输出数据会进入CBAM模块，提取图像的跨通道信息和空间信息，抑制图像的非必要特征。输出数据之后会依次经过7个相同卷积块及1个卷积层，卷积块之间使用残差网络进行连接，最终预测出噪声图像^[18]。

残差图像是预测图像和仿真图像的差值。由于噪声信号强度远小于原始信号，进行信号预测比噪声预测更加困难，导致噪声残差往往小于信号残差。数据量较小的目标在神经网络中更容易优化，对网络深度的需求也更小，因此噪声残差更适合作为神经网络的优化目标。将噪声残差图像作为预测对像和学习目标能够大大提升网络模型的学习效率和收敛速度，降低模型对硬件的需求。预测残差图像和实际残差图像之间的平均均方误差用于评价网络的学习性能，用于修正下一轮迭代的训练参数，其公式表示为^[19]

1l(θ)=12N‖R(yi;θ)−(yi−xi)‖2,

式中，R(yi;θ)为预测的噪声输出，y为染噪图像，x为原始图像，N为样本数，θ为网络参数。

残差学习法^[20](ResNet，residual network)用于解决神经网络过深带来的梯度爆炸问题。随着网络深度的增加，网络的性能也会不断提升，训练集的损失也不断降低直到稳定。但当网络深度无限制地增加时，网络的性能反而会降低，网络发生退化现象^[21]。因此，网络层数较少的网络有时会取得比层数较多的网络更好的训练效果。这种现象反映出当网络层数较高时，神经网络无法进行有效的学习，使高层神经网络失去了意义。残差学习法能够有效解决网络退化问题，过滤负数产生的线性变化，使更新参数更快收敛。本文使用的残差网络结构如图4所示。

图 4. 残差网络结构图

Fig. 4. Residual network structure

下载图片 查看所有图片

当输入数据经过两层运算后，将输出数据和输入数据相加，这种结构保证在残差接近0时，输出信号和输入信号仍然具有恒等映射的关系，防止了网络性能的急剧下降，从而保证了神经网络在深度较大时的学习能力。残差网络的设计目的是保证浅层网络的性能不会因深层网络降低，因此在本文模型中残差网络用于CBAM模块之后的深层卷积块连接。

2.2　批量标准化

传统神经网络在训练时，随着参数更新，每层的数据输入和输出分布往往存在较大差异，使网络参数需要不断调整来适应变化。网络深度越大，输入和输出的差异越明显，会显著增大网络训练难度。批量标准化能够有效解决这一问题，通过对每一层的输入进行标准化处理，使输出服从正态分布。本文模型在每层卷积核都使用了批量标准化，能够简化调参过程、加快训练速度，降低了对数据初始化的要求。

2.3　注意力机制

网络非线性表达能力和深度相关，但过深的网络需要处理的数据量较大，运算时间长，学习效率低。注意力机制能够对计算资源进行更合理的分配，提升学习效率，是一种性价比较高的模块。为缓解网络深度带来的负担，本文使用了CBAM模块来引入注意力机制。该模块分为两部分，通道注意力模块和空间注意力模块^[22]，如图5所示。CBAM模块中输入与输出的关系可表示为

图 5. CBAM结构图

Fig. 5. CBAM structure

下载图片 查看所有图片

2F′=Mc(F)⊗FF′′=Ms(F′)⊗F′,

式中，F为输入信号，F′为通道注意力模块输出，Mc(F)为通道注意力计算权重，F′′为CBAM模块输出，Ms(F′)为空间注意力计算权重。通道注意力模块对特征图像进行全局最大池化和全局平均池化，将得到的两个相同维度输出相加，经过激活函数处理后得到最终的通道注意力图像。空间注意力模块同样对特征图进行池化操作，并将池化结果拼接成维度高于原图的特征图，再通过卷积层处理后降低特征图维度，最后经过激活函数处理得到空间注意力图像。

2.4　激活函数

卷积神经网络常用的激活函数为 ReLU^[23] (rectified linear activation function)，用于构建神经网络数据的非线性关系。ReLU可以表示为

3ReLU(x)={x,x>00,x<0.

可以看出，该函数在x>0时斜率为1，输出不会增大，可能导致梯度消失；当x<0时，输出会被直接置零，造成神经元死亡，当死亡数量较大时会出现死区。因此本文采用SELU作为激活函数，即

4{SELU(x)={λx,x>0αλ(ex−1),x<0α=1.67λ=1.05,

两种激活函数对比如 图6，当x大于0时，SELU的斜率大于ReLU，当x小于0时SELU的输出不会像ReLU一样直接置0，而是逐渐增加至0，同时斜率随x增加而变大。使用SELU后，由于SELU正半轴斜率大于1，因此能够增大系统输出，保证网络学习效率，解决梯度消失问题；同时避免了使用ReLU可能导致的神经元输出大量0的情况，消除了网络模型中的死区。

图 6. ReLU和SELU对比图

Fig. 6. Comparison of ReLU and SELU

下载图片 查看所有图片

3　侧向激光雷达信号去噪结果分析

本文对多幅不同侧向激光雷达信号图像进行了小波阈值去噪、维纳滤波、VGG16 (visual geometry group) 和 DnCNN (denoising convolutional neural network)去噪实验，并对实验结果进行对比，分析了不同方法的性能差异。

小波阈值^[24-25]是一种常用的图像去噪方法，根据图像和噪声在经过小波变换后具有不同特性的原理，根据能量分布状况来分离信号中的噪声。小波阈值去噪法的核心在于如何设定阈值，根据阈值门限的不同可以分为硬阈值法和软阈值法。硬阈值法认为当小波系数小于临界阈值时，应该直接舍弃，大于临界阈值时则保留。软阈值法则通过对比小波系数和阈值，动态调整小波系数。维纳滤波^[26]是一种计算最小均方误差的线性滤波器，通过求解维纳霍夫方程设计系统函数，使滤波后图像和原始图像的均方误差最小。VGG16是一种经典卷积神经网络，首次完全使用3×3的卷积核组成网络，证明了使用更小的卷积核组成更深的网络能有效提升网络性能；DnCNN在VGG16基础上引入了批量归一化和残差学习法，验证了两种模块能够提高网络学习效率，提升了神经网络的有效深度。本文模型采用了和DnCNN相似的网络结构，增加了CBAM模块，更改激活函数为SELU，因此称本文模型为DnCNN+。

实验平台为中科曙光定制服务器，CPU配置为Intel(R) Xeon(R) Silver 4214 CPU @ 2.20GHz*8，内存配置为2T。雷达图像处理实验，小波阈值去噪实验和维纳滤波实验基于Matlab2015版本实现，神经网络相关实验基于 Tensorflow-2.4.0版本相关库，CUDA9.0硬件环境和Python3.6版本实现。训练集、验证集和测试集数据比例为100∶1∶1，均随机取自labelme公开数据集，所有图像通过相机拍摄。训练集由400张图像组成，大小为1280×1280，每张图像切割为32张40×40大小的灰度图用于训练。批尺寸(batch-size)为32，迭代数(epoch)为50，每迭代10轮进行一次模型保存。不同模型性能对比中使用了侧向激光雷达仿真图像，仿真参数选取自文献^[10]，用于评估不同模型对侧向激光雷达CCD图像的去噪能力。

3.1　CCD图像仿真

根据侧向激光雷达结构及激光雷达方程，能够对侧向激光雷达CCD图像进行仿真。仿真中激光雷达收发间距为480 mm，激光波长为532 nm，平均输出功率为4 W，光束发散角为1.5 mrad。CCD水平方向像素个数为800，垂直方向像素个数为604。CCD成像系统光轴与激光发射光轴夹角为90°，CCD成像系统视场角近似90°，发射光束直径为便于观察设置为仿真图像宽度的1/40，像素尺寸为6.45μm×6.45μm，镜头焦距14 mm，当侧向激光雷达散射角接近180°时，侧向散射信号和后向散射信号随高度的变化关系一致，侧向散射可视为后向散射。激光雷达方程中气溶胶后向散射系数βa(y)，大气分子后向散射系数βm(y)为

5βa(y)=(2.47×10−3)exp(−y2)+5.13×10−6exp{−[(y−20)2/36]}532λ,βm(y)=1.54×10−3(532λ)4exp(−y7),

分子激光雷达比为8π/3sr，气溶胶激光雷达比为50sr。将以上参数带入激光雷达方程中，利用雷达信号在光束宽度上呈高斯分布的特点进行还原，得到原始图像如图7(a)所示。在原始图像中分别加入均值为0，方差为0.01、0.02和0.03的高斯白噪声(噪声模型1、2、3)后，得到染噪图像分别如图7(b)、7(c)、7(d)。

图 7. 仿真图像。(a)原始图像；(b)噪声模型1对应的染噪图像；(c)噪声模型2对应的染噪图像；(d)噪声模型3对应的染噪图像

Fig. 7. Simulation images. (a) Original image; (b) Noised image corresponding to noise model 1; (c) Noised image corresponding to noise model 2; (d) Noised image corresponding to noise model 3

下载图片 查看所有图片

从图中可以看出，仿真图像在高度上满足泊松分布，随着高度提升光束强度先增大再减小，光束宽度总体上下宽上窄。加入的噪声强度越大，对图像的破坏效果越明显。

3.2　CCD图像去噪效果

使用软阈值法、硬阈值法、维纳滤波和3种神经网络处理模型2对应染噪图像，得到图8。为便于观察，选取部分图像并拉伸为三维网格图，颜色和曲面高度相匹配。由图可见硬阈值法图像较为模糊，维纳滤波图像信噪比较低。其他图片去噪效果用肉眼难以判断，因此采用以下参数评价去噪效果。

图 8. 去噪图像。(a)小波阈值(软)；(b)小波阈值(硬)；(c)维纳滤波；(d) VGG16；(e) DnCNN；(f) DnCNN+

Fig. 8. De-noising images. (a) Wavelet threshold (Soft); (b) Wavelet threshold (Hard); (c) Wiener filtering; (d) VGG16; (e) DnCNN; (f) DnCNN+

下载图片 查看所有图片

本文采用峰值信噪比(PSNR，peak signal to noise ratio)和结构相似度(SSIM，structural similarity，公式中简写为S_SSIM)来定量评价模型的去噪效果，两种参数分别对图像去噪效果和相似程度进行量化^[27]。峰值信噪比可以表示为

6PSNR=10⋅lg[Q2mn∑i=0m−1∑j=0n−1‖I(i,j)−K(i,j)‖2],

式中，Q为去噪后灰度图像的灰度最大值，m为图像的行数，n为图像的列数，I为原始图像，K为去噪后图像。峰值信噪比越大，说明去噪效果越好。SSIM的设计思路为计算两张图像的亮度、对比度、结构相似度、结合三种参数进行对比得到SSIM。

7SSSIM(x,y)=(2μxμy+C1)(2σxy+C2)(μx2+μy2+C1)(σx2+σy2+C2),

其中x和y表示两幅图像，μ为图像像素值的平均值，σ表示给定图像的标准差，C1、C2为常数，防止分母为0。SSIM越大表明两张图像的差异越小。去噪后图像PSNR如表1所示，SSIM如表2所示。

图像经6种方式处理后PSNR均得到了提升，其中由DnCNN+处理后PSNR提高了5.88 dB，SSIM最大，优于其他方法。可以看出，DnCNN+的去噪能力及对图像的还原能力均优于软阈值法，硬阈值法和维纳滤波。

为对比不同噪声强度下各算法的去噪性能，在相同条件下，只改变噪声强度进行试验，PSNR对比如表3所示。

在三种噪声强度下，DnCNN+均取得了较好去噪效果，证明了该模型具有较好的鲁棒性。

3.3　神经网络性能对比

神经网络损失表示网络预测目标和实际情况的误差，其变化能够反映网络性能随训练批次的成长情况，步数(Step)为神经网络进行参数更新的次数。为对比VGG16、DnCNN、DnCNN+的学习效率，使用相同数据训练后，将三种网络损失随步数变化进行归一化处理后对比，结果如图9。三种网络中DnCNN+损失收敛速度最快，收敛后损失值在0.2左右，约低于DnCNN损失0.1，低于VGG16损失0.4。结合表1、2、3能够看出，在加入CBAM模块，更换激活函数后网络性能得到了一定增加，提高了神经网络学习效率，降低了网络损失，增强了对图像噪声的预测能力，图像信噪比和SSIM得到提升。

图 9. 神经网络损失变化图

Fig. 9. Change of the Neural network loss

下载图片 查看所有图片

3.4　侧向激光雷达回波信号提取与去噪效果

为进一步验证DnCNN+对侧向激光雷达CCD图像的去噪能力，需要对CCD图像进行信号提取，计算不同图像中的信号光子数并进行对比，分析不同方法对侧向激光雷达回波信号的影响。将侧向激光雷达CCD图像同一高度的像元信号相加后，才能计算出散射光子数随高度的变化情况^[28]。散射信号在空间上满足高斯分布，在一定高度上的总光子数可表示为

8Ntotal(y)=A0exp[−(y−A1)2/(2A22)]+A3,

其中，Ntotal(y)为在高度y上的总光子数，A0为CCD图像的高斯曲线峰值，A1为高斯曲线中心位置坐标，A2为高斯宽度，A3为噪声光子数。沿光束方向每个像元对应的信号光子数Ns能够用对应的高斯曲线面积表示，为

9Ns=2πA0A2.

噪声光子数Nn为

10Nn=2πA2A3.

散射光柱在时间上满足泊松分布，标准误差σN可用信号平均值N表示为

11σN=N¯12,

则信号相对误差为

12σN/Ns=(Nn+Ns)12/Ns,

将原始图像加入方差0.02的高斯白噪声，使用小波阈值(软，硬)、维纳滤波、DnCNN+去噪后对图像进行信号提取，得到的信号光子数归一化和原始数据对比得到差值，光子数差值随垂直方向上的像素变化情况如图10。

图 10. 信号光子数差值分布图

Fig. 10. Difference distribution of the signal photon number

下载图片 查看所有图片

能够看出4种方法处理后的图像光子数差值产生了不同程度的偏移，差值越接近0说明图像去噪效果越好。维纳滤波处理后光子数差值波动最大，DnCNN+处理后光子数差值波动较为平稳，最接近0。为量化信号光子数差值波动程度，引入平均偏离度S，计算公式如式(13)，

13S=|a−b|b⋅n,

其中，a为去噪后信号光子数，b为原始信号光子数，n为像素总量。不同图像的平均偏离度如表4所示。

DnCNN+平均偏离度最小，说明该模型能够最大程度的还原原始图像，减小信号光子数在去噪过程中受到的损伤。

由公式(12)计算出的相对误差能够反映侧向激光雷达回波信号的可靠程度。使用不同方法处理加入方差为0.02的高斯白噪声的原始图像后，对信号相对误差进行对比，结果如图11所示。

图 11. 相对误差分布图

Fig. 11. Distribution of the relative error

下载图片 查看所有图片

图中染噪信号相对误差波动幅度最大，硬阈值法、软阈值法、维纳滤波和DnCNN+相对误差平均值分别为12.01%、11.94%、10.28%、9.62%，且DnCNN+相对误差极值点较少，变化趋势稳定。综合比较相对误差和信号光子数，可以看出DnCNN+去噪能力最强，这与表1、2、3中PSNR和SSIM的对比情况一致，因此认为DnCNN+去噪性能优秀，提取的回波信号可靠。

4　结论

本文提出了一种结合注意力机制改进卷积神经网络的侧向激光雷达信号去噪算法DnCNN+，通过多个卷积层提取出信号特征后，利用注意力机制调整信号特征权重，最后通过残差学习法对神经网络进行训练，能够有效去除图像中的噪声并且较好的保护回波信号。使用了硬阈值法、软阈值法、维纳滤波、VGG16和DnCNN进行去噪性能对比试验，多次实验结果证明DnCNN+对侧向激光雷达信号去噪效果较好，回波信号信噪比得到提升，去噪后图像最接近原始图像，和硬阈值法、软阈值法、维纳滤波对比，相对误差分别减小2.38%、2.32%、0.66%，对后续基于侧向激光雷达信号的大气光学特性准确反演具有重要意义。

Overview: A side-scatter lidar is known to have evident advantages over other types of lidar in atmosphere detection, especially for lower atmosphere. For a side-scatter lidar, a high-power laser is normally used as the light source. As the charge coupled device (CCD) optoelectronic detector is used to capture the light backscattered by the atmosphere. Correspondingly, the original side-scatter lidar signal is depicted as a 2D CCD image. The 2D CCD image of the side-scatter lidar may suffer from the noise as all other lidars. Therefore, denoising the side-scatter lidar signal may need more efforts than ordinary lidar signals. The extinction coefficient profile can be derived from the CCD image. With the help of other auxiliary techniques, atmosphere features such as wind speed and meteorological optical range can be obtained.

In the paper a denoising algorithm based on denoising convolution neutral network (DnCNN) is proposed for side-scatter lidar signal, called DnCNN+. The DnCNN+ uses scaled exponential linear units (SELU) as the activation function of the network in order to avoid the gradient explosion and gradient disappearance that might happen frequently in the traditional network. On the other hand, convolutional block attention module (CBAM) is used in the DnCNN+ to ensure the efficient allocation of the computation resources in the training process, hence increasing the learning efficiency. Furthermore, we introduce residual learning and batch standardization in the network to improve the network output performance.

For the denoising strategy, we identify the noise and separate the noise from the simulated lidar signal. The signal-to-noise ratio (SNR) is hence increased. The denoising performances of five methods, including wavelet transform soft threshold, wavelet transform hard threshold, Visual Geometry Group (VGG16), DnCNN, and DnCNN+, are evaluated for the signals with SNR of 0.01-0.03 dB. VGG16 is one of the classic convolution neutral networks. Peak signal to noise ratio (PSNR) and structural similarity (SSIM) are used to evaluate the denoising performance. Simulation results showe that the PSNR is increased by over 5 dB using the DnCNN+. The DnCNN+ has the best denoising performance in terms of PSNR and SSIM. Additionally, it is also seen that the DnCNN+ has smaller network loss than the methods using convolution neutral networks, VGG16, and DnCNN. Furthermore, the 1D signal photon number is retrieved from the CCD image. It is shown that the DnCNN+ has the smallest relative error of signal of 9.62%. The proposed denoising algorithm based on the convolution neutral network is shown to be efficient for improving the side-scatter lidar signal.