改进的卷积神经网络对地震数据进行去噪的方法 下载: 1202次
1 引言
当代的石油探测、地震勘探技术中大量利用反演地震波进行勘测。勘测地形的多样性和环境的恶劣性使得地震波极易受到噪声的干扰,因此对采集的地震波进行去噪具有重要意义。早期的地震波去噪主要采取传统方法,如刘法启等[1]采用F-K滤波法进行去噪,该方法将信号变换到频率-波数域内,利用一个扇形的滤波器对信号和噪声进行分离,从而达到去噪的目的。之后康冶等[2]提出F-X域拟线性预测去噪法, 该方法首先将地震数据进行拟线性变换, 通过F-X域预测滤波后再进行反拟线性变换, 从而抑制噪声。然而,上述两种方法主要适用于信号和噪声的特性差异明显的情况,在二者差异不明显时则无法进行去噪。因此,陆文凯等[3]提出了基于信号子空间分解的三维地震资料高分辨率处理方法,该方法利用奇异值分解算法(SVD)对3D地震信号子空间进行分解,根据不同分解的奇异值将信号和噪声进行分离,但该方法对非水平同相轴噪声的去噪效果不佳。程浩等[4]提出了基于小波变换的自适应阈值微震信号去噪方法,该方法采用小波变换对矿山地震信号进行分解与重构,但是小波阈值的选取依靠人工,对去噪效果影响较大。
由于上述的传统去噪方法对地震数据的采集条件过于敏感,整体去噪效果不佳,改进的去噪方法随之产生。赵迎等[5]提出了互补集合经验模态分解(CEEMD)与小波变换联合去噪的方法。张银雪等[6]提出了基于改进的粒子群优化的独立分量分析(PSO-ICA)的地震信号去噪方法。卜一波等[7]提出基于复合稀疏去噪的沙漠地震噪声消减方法。这些改进的算法以传统去噪法为基础,依赖地震数据的先验信息,去噪效果仍然有待进一步提高。
随着2012年神经网络在计算机科学技术方面的应用,其高效的网络结构和识别能力得到广泛认可。学者们尝试将神经网络应用于去噪领域,其中,章云港等[8]提出基于卷积神经网络(CNN)的电子计算机断层扫描(CT)图像去噪方法,该方法取得了良好的去噪结果。之后,文献[ 9]提出了基于深度学习卷积神经网络的地震数据去噪方法,实验证明该方法对地震数据具有较好的去噪能力。然而文献[ 9]采用全卷积网络,除去输入层,共有17个卷积层,且每个卷积层使用单一大小的3×3卷积核,经过卷积后每层得到相同的64个特征映射,这使得文献[ 9]的去噪效果仍然受到限制。
为了进一步提高卷积神经网络对地震数据的去噪效果,本文提出了一种基于改进的卷积神经网络进行地震数据去噪的方法。该方法采用经典LeNet-5网络,除去输入层,网络共包含2个卷积层、2个池化层和1个输出层,每个卷积层所用卷积核大小和特征图个数并不单一固定,而是采用均方误差最小的实验试选法,通过分析实验数据确定卷积核大小和特征图个数。将12000个大小为32×32的地震数据输入LeNet-5系统,这些数据包含10000个含噪数据和2000个不含噪数据,测试样本采用1000个相同大小、相同信噪比的地震数据。最后,通过Marousi2叠前和叠后地震数据进行去噪实验,并将本文方法与传统SVD算法、BP(Back Propagation)算法以及文献[ 9]中算法进行对比,实验结果表明本文方法的去噪效果较好。
2 CNN网络简介
2.1 CNN网络结构
传统的人工神经网络结构中隐含层的神经元与前一层是全连通的,这意味着每一个神经元都与前一层的所有神经元存在参数关联,从而使得传统神经网络计算量大、速度慢,容易出现过拟合。而CNN是一个由单层卷积神经网络组成的多层可训练监督学习网络,每个单层卷积神经网络包含卷积、非线性变换和下采样(池化)三个阶段,如
式中:ωij为可训练的卷积核;bj为可训练的偏置参数。
2.2 LeNet-5系统简介
CNN最为经典的应用是LeCun等[12]提出的LeNet-5系统。除去输入层,该系统包含2个卷积层、2个池化层和1个输出层(输出层的各层看作一个整体),具体结构如
2.3 CNN去噪原理
若设原始地震数据为S,噪声为N,则含噪地震数据Y的具体公式为
地震数据去噪的本质就是从含噪数据Y中去除噪声N,从而恢复原始不含噪声的地震数据S。因此本文的实验方法是:将含噪数据Y作为CNN网络的输入数据,经过残差单元学习输入数据与输出数据的残差,在达到目标时网络输出误差N(去除的噪声),再用含噪数据Y减去去除的噪声N,即可得去噪后的地震数据
CNN残差单元的学习目标公式为
式中:g为卷积神经网络输出;g(yi)为去噪后的单道地震数据;xi为原始单道地震数据。CNN去噪的过程就是不断调整各层网络参数,使去噪后的地震数据与原始地震数据之间的误差最小。
3 LeNet-5系统去噪设计
3.1 网络深度的确定
文献[ 9]借助Matlab中MatConvNet工具箱,采用全卷积的CNN网络,除去输入层,该网络包含17个全卷积层,每层均采用64个大小为3×3的卷积核(最后一个卷积层包含1个特征图),文献[ 9]通过实验证明该网络能有效地对地震数据进行去噪。一般地,CNN网络的深度越大,网络的残差越小,去噪的效果越好。但是网络的深度越大,包含的参数越多,过大的网络极容易出现过拟合、计算时间过长的问题,使得去噪效果不佳。在处理地形复杂区域采集的信号时,面对数以百万计的大规模地震数据,文献[ 9]采用的全卷积网络负担过重,容易出现过拟合,使网络精度下降,输出去噪效果不佳。因此本文采用5层深度的LeNet-5系统(其中卷积层只有2个)对地震数据进行去噪处理。
3.2 卷积核和特征图的选取思路
对于卷积核大小、特征图个数的选择,文献[ 9]将每层的卷积核均设置为3×3大小,对应每层的特征图个数(除去最后一层,均为64个)也相同,然而地震属性中包含地质结构和反演岩层变化信息,各道数据的构成复杂,采用单一的卷积核和特征图个数,在提取信息时容易造成细节的损失。因此,本文以网络输出结果与期望值之间的均方误差(MSE)衡量该系统的特征提取能力,其数学公式为
式中:yi是第i个不含噪数据;yio是对应的第i个去噪后数据;n是输入数据的数量(采样点)[14]。MSE越小,代表系统提取特征的能力越强,去噪后数据和原始数据之间差异越小,去噪效果越好。通过实验试选法,将MSE最小时对应的组合作为每层卷积核大小、特征图个数,具体思路为:
1) 在单层卷积网络中(
2) 将上一层网络确定的参数作为下一层卷积网络(
3.3 卷积核和特征图的确定
3.3.1 C1层参数的确定
本文采用广泛的Marousi2模型产生地震数据,LeNet-5系统的训练样本为12000个32×32大小(时域为32道,每道32个采样点)的地震数据,其中包含10000个含噪数据(加入15%随机噪声)和2000个不含噪数据,测试样本采用1000个相同信噪比、相同大小的含噪数据,补零步长为1,历经50个epoch(训练次数)。
1) 经典LeNet-5系统在最后一个卷积层采用16个特征图进行十分类(识别数字0~9)[12]。对地震数据进行去噪相当于对噪声和信号进行二分类,因此本文实验的特征图个数不应大于16,其范围为1~16。
2) 卷积核的大小一般选取奇数尺寸[13]。相对 LeNet-5系统实现十分类,对地震数据进行去噪(二分类)所提取的特征相对简单,卷积核大小一般选取1×1、3×3、5×5、7×7、9×9,又因为后一层的卷积核不应大于上一层的卷积核,因此本文实验中C1层卷积核选取3×3、5×5、7×7、9×9。
试选实验的结果如
表 1. C1层不同的卷积核大小和特征图个数对应的MSE
Table 1. MSE values corresponding to different sizes of convolution kernels and numbers of feature maps in C1 layer
|
3.3.2 C3层参数的确定
由
表 2. C1层卷积核大小为5×5、9个特征图时,C3层不同的卷积核大小和特征图个数对应的MSE
Table 2. MSE values corresponding to different sizes of convolution kernels and feature map numbers of C3 layer when the convolution kernel size is 5×5 and the number of feature maps is 9 for
|
4 实际去噪结果
4.1 叠前地震数据去噪结果
采用Marousi2地震数据进行实验,将大小为500×500(时域总共500道,每道含有500个采样点)的叠前地震数据加入幅度为15%的随机噪声(与训练系统时噪声幅度一致),采用本文建立的LeNet-5系统进行去噪,并分别与传统SVD算法、BP算法以及文献[
9]所述全卷积网络进行对比,结果如
式中:y为不含噪的原始地震数据; yo是去噪后数据;‖•‖2表示L2范数。MSE值越小,则PSNR值越大,SNR值越大,代表网络去除的噪声越干净,算法恢复的地震数据失真越小,去噪效果越好[17],实验结果如
图 3. 叠前地震数据不同算法的去噪结果。(a)原始地震数据;(b)含噪地震数据;(c) SVD算法去噪效果;(d) BP算法去噪效果;(e)文献[ 9]中算法去噪效果;(f)所提算法去噪效果
Fig. 3. Denoising results of different algorithms for pre-stack seismic data. (a) Original seismic data; (b) noisy seismic data; (c) denoising results of SVD algorithm; (d) denoising results of BP algorithm; (e) denoising results of algorithm proposed in Ref. [9]; (f) denoising results of proposed algorithm
由
表 3. 不同算法针对叠前和叠后地震数据的结果
Table 3. Results of different algorithms for pre-stack and post-stack seismic data
|
4.2 叠后地震数据去噪结果
采用Marousi2地震数据进行实验,在大小为300×600的叠后地震数据中加入幅度为15%的随机噪声(与训练系统时噪声幅度一致),分别采用本文建立的LeNet-5系统、SVD算法、BP算法,以及文献[
9]所述全卷积网络进行去噪,结果对比如
图 4. 叠后地震数据不同算法的去噪结果。(a)原始地震数据;(b)含噪地震数据;(c) SVD算法去噪效果;(d) BP算法去噪效果;(e)文献[ 9]中算法去噪效果;(f)所提算法去噪效果
Fig. 4. Denoising results of different algorithms for post-stack seismic data. (a) Original seismic data; (b) noisy seismic data; (c) denoising results of SVD; (d) denoising results of BP; (e) denoising results of algorithm proposed in Ref. [9]; (f) denoising results of proposed algorithm
由
需要指出的是,本文去噪方法是在固定噪声幅度(15%)时进行的,如果待去噪地震数据的噪声幅度发生变化,需要重新训练LeNet-5系统,这对实际地震数据去噪时所用样本集的丰富性提出了更高的要求。为了解决实际数据中训练样本少的问题,本文采用与实际噪声概率分布相似的估计水平,即5%、10%、15%,25%、30%,分别进行实验,对实际工程中采用的叠后地震数据进行去噪,结果如
表 4. 不同噪声水平时本文算法的去噪结果
Table 4. Denoising results of proposed algorithm at different noise levels
|
5 结论
提出了一种基于LeNet-5系统的地震数据去噪方法。采用误差最小的实验试选法确定系统参数,首先在单层网络中确定第1个卷积层和池化层的卷积核大小、特征图个数,根据第1层的参数确定第2个卷积层和池化层的卷积核大小、特征图个数。将12000个32×32大小的地震数据输入系统,包含10000个含噪数据和2000个不含噪数据,测试样本采用1000个同样大小、相同信噪比的地震数据。Marousi2叠前和叠后地震数据去噪实验均表明,本文方法对水平和倾斜同相轴数据的去噪效果较好。与SVD算法、BP算法以及文献[ 9]中算法相比,本文方法的去噪效果更好。同时,本文算法加入了2个池化层后,只采用2个卷积层,便使得系统处理参数的数目约减少到了75%,大大降低了计算成本,有效避免了过拟合现象,本文算法在处理大规模地震数据时具有实际意义。
[1] 刘法启, 张关泉. 小波变换与F-K算法在滤波中的应用[J]. 石油地球物理勘探, 1996, 31(6): 782-791, 906.
Liu F Q, Zhang G Q. Application of wavelet transform and F-K algorithm in filtering[J]. Oil Geophysical Prospecting, 1996, 31(6): 782-791, 906.
[2] 康冶, 于承业, 贾卧, 等. f-x域去噪方法研究[J]. 石油地球物理勘探, 2003, 38(2): 136-138.
Kang Y, Yu C Y, Jia W, et al. A study on noise-suppression method in f-x domain[J]. Oil Geophysical Prospecting, 2003, 38(2): 136-138.
[3] 陆文凯, 丁文龙, 张善文, 等. 基于信号子空间分解的三维地震资料高分辨率处理方法[J]. 地球物理学报, 2005, 48(4): 896-901.
Lu W K, Ding W L, Zhang S W, et al. A high-resolution processing technique for 3-D seismic data based on signal sub-space decomposition[J]. Chinese Journal of Geophysics, 2005, 48(4): 896-901.
[4] 程浩, 袁月, 王恩德, 等. 基于小波变换的自适应阈值微震信号去噪研究[J]. 东北大学学报(自然科学版), 2018, 39(9): 1332-1336.
Cheng H, Yuan Y, Wang E D, et al. Study of hierarchical adaptive threshold micro-seismic signal denoising based on wavelet transform[J]. Journal of Northeastern University (Natural Science), 2018, 39(9): 1332-1336.
[5] 赵迎, 乐友喜, 黄健良, 等. CEEMD与小波变换联合去噪方法研究[J]. 地球物理学进展, 2015, 30(6): 2870-2877.
Zhao Y, Yue Y X, Huang J L, et al. CEEMD and wavelet transform jointed de-noising method[J]. Progress in Geophysics, 2015, 30(6): 2870-2877.
[6] 张银雪, 田学民. 47(1): 56-62[J]. . 基于改进PSO-ICA的地震信号去噪方法. 石油地球物理勘探, 2012, 188: 194.
Zhang Y X. 47(1): 56-62[J]. Tian X M. Seismic denoising based on the modified particle swarm optimization-independent component analysis. Oil Geophysical Prospecting, 2012, 188: 194.
[7] 卜一波, 梁乃升, 邵丹, 等. 基于复合稀疏去噪的沙漠地震噪声消减[J]. 吉林大学学报(信息科学版), 2018, 36(3): 240-245.
Bu Y B, Liang N S, Shao D, et al. Desert seismic noise attenuation via compound sparse denoising[J]. Journal of Jilin University (Information Science Edition), 2018, 36(3): 240-245.
[8] 章云港, 易本顺, 吴晨玥, 等. 基于卷积神经网络的低剂量CT图像去噪方法[J]. 光学学报, 2018, 38(4): 0410003.
[9] 韩卫雪, 周亚同, 池越. 基于深度学习卷积神经网络的地震数据随机噪声去除[J]. 石油物探, 2018, 57(6): 862-869, 877.
Han W X, Zhou Y T, Chi Y. Deep learning convolutional neural networks for random noise attenuation in seismic data[J]. Geophysical Prospecting for Petroleum, 2018, 57(6): 862-869, 877.
[10] 张永帅, 杨国威, 王琦琦, 等. 基于全卷积神经网络的焊缝特征提取[J]. 中国激光, 2019, 46(3): 0302002.
[11] 彭晏飞, 宋晓男, 訾玲玲, 等. 基于卷积神经网络和改进模糊C均值的遥感图像检索[J]. 激光与光电子学进展, 2018, 55(9): 091008.
[12] LeCun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278-2324.
[13] Qiao J F, Wang G M, Li W J, et al. An adaptive deep Q-learning strategy for handwritten digit recognition[J]. Neural Networks, 2018, 107: 61-71.
[14] 张晗, 卢双舫, 李文浩, 等. ΔLogR技术与BP神经网络在复杂岩性致密层有机质评价中的应用[J]. 地球物理学进展, 2017, 32(3): 1308-1313.
Zhang H, Lu S F, Li W H, et al. Application of ΔLogR technology and BP neural network in organic evaluation in the complex lithology tight stratum[J]. Progress in Geophysics, 2017, 32(3): 1308-1313.
[15] 李勇, 林小竹, 蒋梦莹. 基于跨连接LeNet-5网络的面部表情识别[J]. 自动化学报, 2018, 44(1): 176-182.
Li Y, Lin X Z, Jiang M Y. Facial expression recognition with cross-connect LeNet-5 network[J]. Acta Automatica Sinica, 2018, 44(1): 176-182.
[16] 李传朋, 秦品乐, 张晋京. 基于深度卷积神经网络的图像去噪研究[J]. 计算机工程, 2017, 43(3): 253-260.
Li C P, Qin P L, Zhang J J. Research on image denoising based on deep convolutional neural network[J]. Computer Engineering, 2017, 43(3): 253-260.
[17] 史紫腾, 王知人, 王瑞, 等. 基于卷积神经网络的单幅图像超分辨[J]. 激光与光电子学进展, 2018, 55(12): 121001.
[18] 崔少华, 单巍, 方振国. 基于Hankel矩阵SVD算法的去噪研究[J]. 实验室研究与探索, 2018, 37(2): 32-34.
Cui S H, Shan W, Fang Z G. Research on denoising of SVD algorithm based on Hankel matrix[J]. Research and Exploration in Laboratory, 2018, 37(2): 32-34.
Article Outline
崔少华, 李素文, 汪徐德. 改进的卷积神经网络对地震数据进行去噪的方法[J]. 激光与光电子学进展, 2020, 57(6): 061501. Shaohua Cui, Suwen Li, Xude Wang. De-Noising Method for Seismic Data via Improved Convolution Neural Network[J]. Laser & Optoelectronics Progress, 2020, 57(6): 061501.