CN115267911B - 一种基于模型与数据驱动深度学习的地震多次波压制方法 - Google Patents
一种基于模型与数据驱动深度学习的地震多次波压制方法 Download PDFInfo
- Publication number
- CN115267911B CN115267911B CN202210914617.9A CN202210914617A CN115267911B CN 115267911 B CN115267911 B CN 115267911B CN 202210914617 A CN202210914617 A CN 202210914617A CN 115267911 B CN115267911 B CN 115267911B
- Authority
- CN
- China
- Prior art keywords
- data
- model
- seismic
- seismic data
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000001629 suppression Effects 0.000 title claims abstract description 46
- 238000013135 deep learning Methods 0.000 title claims abstract description 23
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 33
- 238000012545 processing Methods 0.000 claims abstract description 23
- 238000013136 deep learning model Methods 0.000 claims abstract description 4
- 238000012549 training Methods 0.000 claims description 57
- 239000011159 matrix material Substances 0.000 claims description 41
- 230000006870 function Effects 0.000 claims description 34
- 238000007781 pre-processing Methods 0.000 claims description 31
- 238000013528 artificial neural network Methods 0.000 claims description 23
- 238000012360 testing method Methods 0.000 claims description 23
- 230000009466 transformation Effects 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 239000000284 extract Substances 0.000 claims description 5
- 238000003062 neural network model Methods 0.000 claims description 5
- 238000003825 pressing Methods 0.000 claims description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 4
- 230000008034 disappearance Effects 0.000 claims description 4
- 238000002203 pretreatment Methods 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 2
- 238000010606 normalization Methods 0.000 claims description 2
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000004088 simulation Methods 0.000 abstract description 4
- 230000036039 immunity Effects 0.000 abstract 1
- 239000010410 layer Substances 0.000 description 53
- 238000013178 mathematical model Methods 0.000 description 7
- 238000013473 artificial intelligence Methods 0.000 description 6
- 238000005070 sampling Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000011229 interlayer Substances 0.000 description 2
- 238000003325 tomography Methods 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 150000003839 salts Chemical class 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
- G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
- G01V1/28—Processing seismic data, e.g. for interpretation or for event detection
- G01V1/36—Effecting static or dynamic corrections on records, e.g. correcting spread; Correlating seismic signals; Eliminating effects of unwanted energy
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Remote Sensing (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Acoustics & Sound (AREA)
- Environmental & Geological Engineering (AREA)
- Geology (AREA)
- General Life Sciences & Earth Sciences (AREA)
- Geophysics (AREA)
- Geophysics And Detection Of Objects (AREA)
Abstract
本发明公布了一种基于模型与数据驱动深度学习算法的地震多次波压制方法，构建用于多次波压制的模型与数据驱动的深度学习模型，提取地震数据标签，并以包含一次波和多次波的全波场炮集为模型的输入，模型的输出即为压制多次波后的一次波炮集。本发明通过残差傅里叶子模块在网络架构中结合傅里叶算子和残差网络，在时间域的通道维度、时间维度及频率域提取多次波特征，使网络能够准确高效地实现多次波压制，可实现深度模拟复杂的多次波压制处理，且具有良好的抗噪性和泛化能力。本发明技术方案可用于提高地震多次波压制的精度和效率。
Description
技术领域
本发明属于深度学习算法信号处理及地学中勘探地震数据处理技术领域，通过采用深度残差傅里叶算子网络模型挖掘地震数据中一次波与多次波的内在差别，并快速准确地压制多次波，从而避免多次波对速度分析、地震偏移和成像造成的干扰。同时，也可将本发明提出的深度残差傅里叶算子网络模型拓展应用于地震数据的去噪、速度分析、边缘检测和油气预测等方面，应用领域广泛。
背景技术
多次波是在地下或地表界面反射一次以上的地震波，在地震数据处理流程中，对速度分析、地震偏移和层析成像构成干扰，进而影响地震资料的解释。因此，在基于一次波成像的工业化地震数据处理流程中，需要准确的识别和压制多次波[1]。
目前，多次波压制方法主要有数学模型驱动和智能数据驱动两类，数学模型驱动方法是基于一次波与多次波在时间-空间域的特征差异和波动理论，对多次波进行压制的一类方法，包括滤波法[2]-[3]和波动理论法[4]-[5]。智能数据驱动方法是一类以人工智能算法为依托，挖掘地震数据中与多次波有关的规律与特征，进而实现多次波压制的方法[6]-[8]。基于智能数据驱动的方法缺乏控制方程对神经网络算法的约束，通常需要大量训练数据予以支持，这与地震勘探数据小样本的特点相背离，需要更改驱动模式使神经网络可以在小样本条件下进行训练。
随着人工智能技术的发展，机器学习算法在图像、语音、文本的识别与处理领域得到广泛应用，并逐步开始在地震勘探领域应用[9]-[11]。以数学模型与智能数据联合驱动的深度学习算法开始被学者们用于解决地球物理正演、反演问题[12]-[15]。智能数据驱动算法训练神经网络的本质是尽可能逼近一个函数，这与数学模型驱动方法求解偏微分方程数值解的本质相同。数学模型驱动方法中，偏微分控制方程对解空间较强的约束能力，为智能数据驱动方法求解更复杂的非线性问题提供了可能。
参考文献：
[1]Liu J H,Hu T Y,Peng G X.2018.Suppressing seismic inter-bedmultiples with the adaptive virtual events method.Chinese Journal ofGeophysics(in Chinese),61(3):1196-1210.
[2]Weglein A B,Hsu S Y,Terenghi P,et al.2011.Multiple attenuation:Recent advances and toad ahead(2011).The Leading Edge,30(8):864-875.
[3]胡天跃，王润秋，White R E.2000.地震资料处理中的聚束滤波方法.地球物理学报，43(1):105-115.
[4]Loewenthal D,Lu L,Roberson R,et al.1976.The wave equation appliedto migration.Geophysical Prospecting,24(2):380-399.
[5]Berkhout A J.2006.Seismic processing in the inverse dataspace.Geophysics,71(4):A29-A33.
[6]Siahkoohi A,Verschuur D J,Herrmann F J.2019.Surface-relatedmultiple elimination with deep learning.SEG Technical Program ExpandedAbstracts,2019:4629-4634.
[7]宋欢,毛伟建,唐欢欢.2021.基于深层神经网络压制多次波.地球物理学报,64(8):2795-2808.
[8]王坤喜,胡天跃等.2021.基于数据增广训练的深度神经网络方法压制地震多次波.地球物理学报,64(11):4196-4214.
[9]Zhang H,Zhu P,Yuan G U,et al.2019.Velocity auto-picking fromseismic velocity spectra based on deep learning.Geophysical Prospecting forPetroleum,58(5):724-733.[10]Wu X,Liang L,Shi Y,et al.2019.FaultSeg3D:usingsynthetic datasets to train an end-to-end convolutional neural network for 3Dseismic fault segmentation.Geophysics,84(3):IM35-IM45.
[11]Liu L,Ma J.2018.Structured Graph Dictionary Learning andApplication on the Seismic Denoising.IEEE Transactions on Geoscience andRemote Sensing,PP(99):1-11.
[12]Sun J,Niu Z,Innanen K A,et al.2019.A theory-guided deep learningformulation of seismic waveform inversion.SEG Technical Program ExpandedAbstracts,2019:2343-2347.
[13]Sun J,Niu Z,Innanen K A,et al.2019.A theory-guided deep learningformulation and optimization of seismic waveform inversion.Geophysics,85(2):1-63.
[14]Wang W,Mcmechan G A,Ma J.2021.Elastic isotropic and anisotropicfull wave-form inversions using automatic differentiation for gradientcalculations in a framework of recurrent neural networks.Geophysics,86(6):1-56.
[15]Alkhalifah T,Song C,Waheed U B,et al.2021.Wavefield solutionsfrom machine learned functions.Artificial Intelligence in Geosciences,2:11-19.
发明内容
针对上述现有技术存在的问题，本发明提供一种基于模型与数据驱动深度学习算法的多次波压制方法，输入数据为包含一次波和多次波的地震全波场炮集数据，通过方程大致结构参与约束的弱约束模型与数据驱动的深度学习算法，结合本发明提出的数据预处理、数据增强、Dropout正则化和L2正则化，实现叠前地震数据的多次波压制。本发明通过层状介质模型和Sigsbee2B复杂模型两套模拟地震数据验证了本发明提出的模型与数据驱动深度学习算法多次波压制处理方法的有效性和泛化能力。
本发明根据数学模型驱动方式，将模型与数据驱动的人工智能算法划分为：方程直接参与约束的强约束模型驱动和方程大致结构参与约束的弱约束模型驱动。本发明的核心是以包含一次波和多次波的全波场炮集为输入，以真实一次波或传统方法得到的准确一次波炮集为标签，通过加入高斯噪声等常用的数据增强方法增加训练样本数量，接着通过本发明提出的预处理方法处理输入与标签，并训练本发明提出的深度学习网络模型，输出为压制多次波后的一次波炮集。地震资料与传统图像处理领域的数据特征不同，地震波场各同相轴的振幅存在较大数量级的差异。在神经网络训练阶段，振幅较强的同相轴对误差值和权值更新影响较大，而弱同相轴对总误差值和权值更新的影响微乎其微，进而导致神经网络输出结果中振幅较弱的多次波无法被有效压制。本发明提出一种适用于人工智能算法的地震数据预处理方法，缩小同一样本中同相轴的振幅差异，使更新后的隐藏层权值能处理样本中的所有同相轴。经过该方法处理后的地震波场作为神经网络模型的输入与标签，能够比将原始波场作为训练数据获得更好的训练效果，测试集数据通过训练好的网络模型的输出数据可经过该预处理方法的逆变换得到真实振幅的一次波场。针对深度学习网络模型，本发明基于傅里叶算子和残差网络搭建了用于多次波压制的一种模型与数据驱动深度学习模型，该网络模型架构的核心是残差傅里叶子模块，从时间域的通道维度、时间维度及频率域提取多次波特征，使得该网络模型兼备小样本下训练的能力和在不影响训练能力的前提下增加网络层数，提升模型模拟复杂介质下多次波压制的能力。与传统算法相比，本发明提出的用于多次波压制的深度学习算法具备较高压制精度，且效率更高。
本发明提供的技术方案如下：
一种基于模型与数据驱动深度学习算法的地震多次波压制方法，构建用于多次波压制的模型与数据驱动深度学习模型，以包含一次波和多次波的全波场炮集为模型的输入，以真实一次波或传统方法得到的准确一次波炮集为标签，模型的输出为压制多次波后的一次波炮集；包括以下步骤(参见图1的具体实施步骤)：
A.获得叠前多次波地震数据；
B.从叠前多次波地震数据中提取得到训练数据集和测试数据集，包括：
B1.从叠前多次波地震数据中提取部分叠前地震数据作为训练数据集，训练数据集应尽可能包含工区的各种主要地质结构；
B2.其他叠前地震数据作为测试数据集；
C.从训练数据集多次波地震数据中提取地震数据样本和地震数据标签，并通过预处理方法进行处理，包括：
C1.提取地震数据样本：以训练数据集中的全波场地震数据结合该全波场地震数据的横坐标和纵坐标组成3通道，每个通道都是一个2维矩阵，作为地震数据样本矩阵；
C2.提取地震数据标签：采用通过高精度的传统多次波压制方法处理训练数据集中的全波场地震数据得到的一次波地震数据，或采用现有的高精度一次波地震数据作为地震数据标签；
C3.通过预处理方法对步骤C1得到的地震数据样本矩阵和步骤C2得到的标签进行处理；
通过数据预处理方法，缩小同一样本中同相轴的振幅差异，进行数据预处理更新后的地震数据样本和地震数据标签可使得构建的神经网络模型的隐藏层权值能处理地震数据样本中的所有同相轴；本发明提出的地震数据预处理方法具备以下条件：
C31、步骤C1中的地震数据样本矩阵经过预处理后，样本矩阵的取值范围约为[-1,1]，且步骤C1中的地震数据样本(原矩阵)中振幅绝对值较小的像素点能量增益幅度较大，振幅绝对值较大的像素点能量增益幅度较小；
C32、经过预处理后，地震数据样本矩阵(预处理后矩阵)的数值分布应基本满足正态分布；
C33、经过预处理的数据可以通过预处理的逆变换恢复为原始数据。
本发明提出的地震数据预处理方法具体包括：
当原始振幅绝对值较小时采用非线性变换进行大幅增益，原始振幅越小，增益的倍数越大；当原始振幅绝对值较大时采用线性变换进行预处理；变换后的各值可通过逆变换恢复原始值。具体实施时，首先，将数据进行归一化处理，使振幅值分布在[-1,1]，将振幅值在10-1～10-2量级视为较大，将10-2以下量级的振幅值视为较小的振幅值。
预处理的变换公式如下：
其中，x表示振幅为真实振幅的地震波场数据，y表示振幅经过本发明提出的预处理方法处理后的地震波场数据，α,β,k分别表示预设参数，其中α控制非线性部分的函数曲率，其值越小非线性部分增益效果越强，β控制进行非线性变换的x范围，α和β的取值大小要满足函数非线性部分具备足够大的增益倍数，且不会出现梯度消失的问题。“足够大”是指函数非线性变换部分，原始地震振幅值经过预处理函数处理后得到的地震振幅值能够满足本发明提出的神经网络算法的训练要求，即经过多次迭代训练后，仍能保证误差更新，不会出现梯度消失。判定是否足够大的增益倍数，通常根据损失loss经过一定次数的迭代次数后，是否继续下降，若损失loss不继续下降，需通过调整参数，增大增益倍数。也就是，若损失loss经过一定次数的迭代次数后，继续下降，则函数非线性部分具备足够大的增益倍数。k控制线性部分的函数梯度，k的取值大小要满足函数的线性部分保留原有取值的趋势，但减小斜率，使变换后的函数取值范围约为[-1,1]。具体实施时，k取值范围0.1-1；α的取值范围为0.01-0.2，β的取值范围为0.05-0.2。
D.深度残差傅里叶算子网络模型的初始化和模型训练，包括：
D1.搭建多次波压制网络模型。
本发明构建深度残差傅里叶算子网络模型并应用于地震多次波压制的任务中。深度残差傅里叶算子网络模型以经过预处理函数(方法)处理后的地震全波场数据及该地震全波场数据的横坐标和纵坐标组成的3通道的2维矩阵作为模型输入矩阵，模型输出为压制多次波后的一次波场；网络模型将全连接层作为首特征层和尾特征层，用于连接输入的波场数据、输出的波场数据与网络模型内部隐藏层的特征数据；网络模型的隐藏层由多个残差傅里叶子模块串联组成，用于在时间域的通道维度、图像维度及频率域提取得到多次波特征。本发明中，特征层为将输入数据经过每层神经网络计算得到的矩阵，即神经网络对输入数据提取特征得到的特征。残差傅里叶子模块在时间域需要提取两部分维度(即通道维度和图像维度)的特征：一部分是通道维度，通过卷积整合各通道的特征值，不同通道使用的权值与偏置不同，同一通道内部的各特征元素均使用同一权值与偏置。另一部分是图像维度，通过卷积处理各通道内部二维特征矩阵。
首先通过全连接层(FC层)整合网络模型的输入，将模型输入矩阵的波场信息整合到特征层的多个通道的矩阵(每一层提取多组特征矩阵)中，使每个通道的特征矩阵同时包含波场和坐标信息。接着，网络模型通过多个残差傅里叶子模块在时间域的通道维度、时间维度及频率域提取得到地震多次波特征。为进一步缓解过拟合问题，在网络模型的残差傅里叶子模块之间和内部使用Dropout正则化和L2正则化进行处理。在残差傅里叶子模块中的频率域特征提取部分和时间域的通道、图像维度特征提取部分均额外使用BN(Batchnormalization，批标准化)控制各层特征值的分布，而时间域的“短路连接”部分无需使用BN。最后，网络通过一个FC层整合各通道得到的特征矩阵，得到输出的波场矩阵。对上述深度残差傅里叶算子网络模型架构中的各权值与偏置进行深度学习通用的随机初始化。本发明中，时间域的“短路连接”指的是在时间域特征提取中，网络中的每一层除了要提取通道维度的特征和图像维度的特征，还要直接加上提取上一层的特征，提取到的上一层的特征即作为网络中本层的输入特征。这样即构成时间域的“短路连接”。
D2.将训练集数据导入初始化后的深度残差傅里叶算子网络模型，并根据训练结果调整神经网络的初始学习率、网络层数等超参数；得到训练好的网络模型即为多次波压制模型。
具体实施时，将训练集数据导入初始化的网络模型，计算得到网络的输出，使用神经网络通用的Adam算法进行优化更新网络，Adam算法会根据初始网络模型输出与训练集数据的标签计算误差，并将误差反向传导至神经网络的各层中，根据误差的梯度，使用人工智能中常用的梯度下降法更新神经网络各层的权值与偏置。将以上流程成为训练过程的一次迭代，经过多次迭代直至网络模型与训练集数据的标签间的误差小于预设目标，且经过多次迭代仍小于预设目标，即完成训练，得到训练好的神经网络模型。
E.根据多次波压制模型，对多次波地震数据测试集中的数据进行多次波压制：
E1.待网络模型的训练集误差收敛后，固定网络模型的权值与偏置，即得到训练好的网络模型(多次波压制网络模型)；将测试集样本导入多次波压制网络模型，得到输出的一次波；
E2.将网络模型输出的一次波根据预处理函数的逆变换进行处理，得到真实振幅的一次波地震数据。
与现有技术相比，本发明的有益效果是：
多次波是在地下或地表界面反射一次以上的地震波，在地震数据处理流程中，对速度分析、地震偏移和层析成像构成干扰，进而影响地震资料的解释。因此，在基于一次波成像的工业化地震数据处理流程中，需要准确的识别和压制多次波。本发明方法提出一种适用于地震数据的预处理函数处理样本和标签；基于多次波地震数据训练集训练特定的深度学习初始模型，获得多次波压制模型；根据完成训练的多次波压制模型对测试集中含有多次波的地震数据进行多次波压制，获得只含一次波的地震数据。本发明可用于提高地震多次波压制的精度和效率。
本发明的深度残差傅里叶算子网络能够准确、高效地压制叠前地震数据中的多次波，本发明的技术优点在于：
(一)通过本发明提出的地震数据预处理方法对地震数据进行预处理，缩小同一样本中同相轴的振幅差异，使更新后的隐藏层权值能处理样本中的所有同相轴，使以经过处理后的地震波场作为输入与标签的神经网络，能够比原始波场获得更好的训练效果；
(二)通过傅里叶算子的框架对训练进行弱约束模型驱动，与传统智能数据驱动类算法相比，该网络加入了与描述原始数学模型的控制方程形式类似的非线性模块，使模型经过训练，在约束后的空间寻找全局最优解，加快网络的训练速度，降低训练难度；
(三)通过借鉴残差网络的“短路连接”，克服网络训练能力随层数增加逐渐下降的问题，使网络具备足够的深度模拟复杂的多次波压制处理，且具有良好的抗噪性和泛化能力；
(四)通过残差傅里叶子模块在网络架构中结合傅里叶算子和残差网络，在时间域的通道维度、时间维度及频率域提取多次波特征，使网络能够准确高效地实现多次波压制。
附图说明
图1是本发明提供的一种基于模型与数据驱动深度学习算法的多次波压制方法的程序框图。
图2是本发明搭建的深度残差傅里叶算子网络的架构：
深度残差傅里叶算子网络以经过预处理函数处理的地震全波场数据及该地震全波场数据的横纵坐标矩阵组成的3通道2维矩阵作为输入，输出压制多次波后的一次波场；网络通过全连接层作为首尾特征层，连接输入、输出的波场数据与网络内部隐藏层的特征数据；隐藏层由多个残差傅里叶子模块串联组成，在时间域的通道维度、时间维度及频率域提取多次波特征。
图3是用于验证本发明方法的四层层状介质模型样例：
共设计3000个四层水平层状介质模型，每个模型的层厚与地层速度均不相同。其中2000个模型用于生成训练集样本和标签，另外1000个模型用于生成测试集样本和标签。
图4是验证本发明方法用到的四层层状介质模型生成的作为输入和标签的地震波场及经过预处理方法处理后得到的地震波场：
其中(a)为网络输入的全波场地震数据；(b)为网络的一次波场标签；(c)为多次波场；(d)为网络输入的经过预处理的全波场地震数据；(e)为经过预处理的一次波场标签；(f)为经过预处理的多次波场；
图5是本发明方法在四层层状介质模型上的验证结果：
其中(a)为使用波场延拓方法获得的真实一次波；(b)为使用训练后的深度残差傅里叶算子网络输出的一次波；(c)为真实一次波与网络输出一次波的误差。
图6是用于验证本发明方法使用的复杂模型，Sigsbee2B速度模型。
图7是验证本发明方法用到的复杂模型生成的作为输入和标签的地震波场：
其中(a)为网络输入的全波场地震数据；(b)为网络的一次波场标签；
图8是本发明方法在复杂模型上的验证结果：
其中(a)为真实一次波；(b)为使用训练后的深度残差傅里叶算子网络输出的一次波；(c)为真实一次波与网络输出一次波的误差。
图9是本发明方法在复杂模型上的验证结果叠加后得到的剖面：
其中(a)为全波场叠加剖面；(b)为真实一次波叠加剖面；(c)为网络输出一次波结果的叠加剖面；(d)为真实一次波叠加剖面与网络输出一次波叠加剖面的误差；
具体实施方式
下面结合附图，通过发明进一步描述本发明，但不以任何方式限制本发明的范围。
本发明属于勘探地震信号处理技术领域，涉及地震资料多次波的压制以及一次波的估计，具体是使用弱约束模型与数据驱动的深度残差傅里叶算子网络模型实现地震数据多次波压制，主要流程如图1所示，本发明提出的多次波压制技术的技术核心分为地震数据预处理、深度残差傅里叶算子网络模型两部分。
本发明的地震数据预处理部分：
地震资料与传统图像处理领域的数据特征不同，地震波在地层间的透射、折射和传播过程中有较强的能量衰减，因此地震波场各同相轴的振幅存在较大数量级的差异。在神经网络训练阶段，需要根据输出矩阵与标签矩阵各像素点的误差之和计算权值的更新量。这使得振幅较强的同相轴对误差值和权值更新影响较大，而弱同相轴对总误差值和权值更新的影响微乎其微，进而导致神经网络输出结果中振幅较弱的多次波无法被有效压制。因此，需要对地震数据进行预处理，缩小同一样本中同相轴的振幅差异，使更新后的隐藏层权值能处理样本中的所有同相轴。
本发明根据地震数据多次波压制的数据特点和人工智能在图像处理等领域数据预处理方法进行分析，提出了训练网络模型的地震数据样本的预处理方法，可应用于地震勘探数据处理的人工智能算法。本发明所提出网络的地震数据样本的预处理具备以下条件：1、经过预处理后，样本矩阵的取值范围约为[-1,1]，且原矩阵中振幅绝对值较小的像素点能量增益幅度较大，振幅绝对值较大的像素点能量增益幅度较小，2、经过预处理后，样本矩阵的数值分布应基本满足正态分布，3、经过预处理的数据可以通过预处理的逆变换恢复为原始数据。
根据以上条件，本发明提出一种适用于人工智能算法的地震数据预处理方法。原始振幅绝对值较小时采用非线性变换进行大幅增益，原始振幅越小，增益的倍数越大，原始振幅绝对值较大时采用线性变换进行预处理，变换后的各值可通过逆变换恢复原始值。预处理的变换公式如下：
其中，x表示振幅为真实振幅的地震波场数据，y表示振幅经过本发明提出的地震数据预处理方法处理后的地震波场数据，α,β,k分别表示预设参数，其中α控制非线性部分的函数曲率，其值越小非线性部分增益效果越强，β控制进行非线性变换的x范围，α和β的取值大小要满足函数非线性部分具备足够大的增益倍数，且不会出现梯度消失的问题。k控制线性部分的函数梯度，k的取值大小要满足函数的线性部分保留原有取值的趋势，但减小斜率，使变换后的函数取值范围约为[-1,1]。如图4、5对比可知，原始波场中能量较强的同相轴经过本发明提出的预处理方法处理后依旧能量较强，原始波场中能量较弱的同相轴经过该方法处理后能量明显增强，但仍弱于那些在原始波场中能量就较强的同相轴。经过该方法处理后的地震波场作为神经网络的输入与标签，能够比原始波场获得更好的训练效果，网络测试集的输出数据经过该方法的逆变换得到一次波场。
本发明的深度残差傅里叶算子网络部分：
设Mr(t,x)、M0(t,x)分别表示深度残差傅里叶算子网络的输入和输出，公式(2)、(3)分别描述了网络通过全连接层(FC)连接输入、输出的波场数据与网络内部特征域数据的流程：
M0(t,x)＝FCn(U(cn,z,x)) (3)
其中，U(c0,z,x)和U(cn,z,x)分别为首特征层和尾特征层，分别与网络输入层和输出层通过全连接层FC0、FCn相连，c0、cn分别表示首特征层的通道数和尾特征层的通道数，首特征层和尾特征层之间的隐藏层由多个残差傅里叶子模块组成。
公式(4)、(5)是残差傅里叶子模块的计算流程：
U(cn+1,x,y)＝σ(ΒN(Block(U(cn,x,y)))) (4)
Block(U(cn,x,y))＝WU(cn,x,y)+wfU(cn,x,y) (5)
其中，σ表示非线性激活函数ReLU。wf表示频率域权值。公式(5)中的W是时间域权值集合，用于对输入特征的通道、图像维度及“短路连接”提取特征。
本发明使用的神经网络通过权值和偏置提取特征，通过训练集的输入和标签，更新网络中的权值与偏置，并将测试集数据应用于训练好的网络。在式(5)中，W可指代权值与偏置的集合。设w为权值，b为偏置，则WU(cn,x,y)一项的计算可写为wU(cn,x,y)+b。
本发明网络模型的损失函数使用常用的L2范数损失函数LpLoss，其定义如下：
其中y表示网络输出，y'表示标签，N为单批训练的样本数量。
对构建的深度残差傅里叶算子网络模型进行训练，训练好的深度残差傅里叶算子网络能够较为有效地压制地震数据中的多次波同相轴，保留一次波同相轴，由此得到训练好的多次波压制网络模型。
为了进一步验证本发明方法在地质模型当中的有效性，本发明设计的四层水平层状介质模型如图3所示，每个样本对应四层水平层状介质模型的层厚与地层速度均不相同。本文使用基于波场延拓的层间多次波模拟方法，对四层水平层状介质模型进行分阶正演模拟，通过迭代，依次模拟得到一次波和各阶多次波。以全波场矩阵和坐标矩阵组成作为本发明方法的网络模型的输入，如图4的(a)所示；一次波作为网络模型的标签，如图4的(b)所示；该全波场对应的真实多次波场如图4(c)所示。经过预处理，网络模型的输入、标签和真实的多次波场分别如图4的(d),(e),(f)所示。将数据集划分为训练集、测试集，使用训练集数据训练网络模型，测试集用于评估网络模型并展示输出结果，两个数据集的数据互不包含。每个模拟地震数据的尺寸是纵向1001个时间采样点和横向501个空间采样点，时间采样间隔为4ms，相邻检波器间距为5m，训练集包含2000个样本，测试集1000个样本。
在训练集上使用自适应学习率的Adam优化算法，通过人为预设初始学习率、Batchsize和迭代次数(epochs)等超参数，用于最小化损失函数，更新神经网络的权值与偏置。在测试集中选取一个样本展示本发明提出的网络模型在四层水平层状介质下对多次波的压制效果。网络模型的标签，即使用波场延拓方法得到的真实一次波如图7的(a)，本发明的网络模型输出的一次波如图7的(b)，本发明的网络模型输出与真实一次波的误差如图7的(c)。测试集数据经过网络模型计算后输出的一次波与真实的一次波基本吻合，说明经过训练的深度残差傅里叶算子网络能够较为有效地压制地震数据中的多次波同相轴，保留一次波同相轴。
网络训练单个样本约49秒，测试单个样本约0.008秒，波场延拓预测并压制多次波方法处理每个样本约15.5秒。网络的测试过程速度较快，避免了传统波场延拓方法中从一次波求取层间多次波过程根据步长的迭代过程，在处理大量数据时，能够在保证准确压制多次波的前提下，加快计算速度。
本发明使用的Sigsbee2B复杂速度模型如图6所示，Sigsbee2B是由SEG和EAEG发布的墨西哥湾深水模型，具有较强的自由表面多次波，被广泛应用于多次波压制算法的检测。
本发明使用Sigsbee2B模型对应的一次波和多次波波场是SMAART公司提供的模拟地震数据。将Sigsbee2B模拟得到的炮集数据分为训练集和测试集，全波场炮集数据作为网络的输入，真实一次波炮集数据作为网络的标签，真实一次波和多次波炮集数据分别作为网络隐藏层中两条分支的约束。速度模型的采样道间隔和深度采样间隔均为7.62m，模型最大深度为9144m，盐体介质速度为4511m/s，水体介质速度为1499m/s。模拟地震数据炮间隔45.72m，道间距22.86m，采样时间间隔8ms，地震记录长度为11.992s。测试集样本输入与标签的模拟地震记录如图7所示。
在测试集中选取一个样本展示本发明的网络模型在Sigsbee2B复杂介质下对多次波的压制效果。网络模型的标签，即真实一次波如图8的(a)，该网络模型输出的一次波如图8的(b)，该网络模型输出与真实一次波的误差如图8的(c)。测试集数据经过网络模型计算后输出的一次波与真实的一次波基本吻合，说明本发明的网络经过训练能够较为有效的压制地震数据中的多次波同相轴，具有一定重构一次波同相轴的能力。
将Sigsbee2B模型所有炮的一次波+多次波地震数据通过训练好的网络模型，得到压制多次波后的重建一次波地震数据。将重建一次波地震数据经过NMO后叠加，得到Sigsbee2B叠后地震数据如图9所示，图9的(a)为全波场叠后地震数据，图9的(b)为真实一次波叠后地震数据，图9的(c)为网络模型输出叠加的一次波叠后地震数据，图9的(d)为真实一次波叠后地震数据与网络模型输出叠加的一次波叠后地震数据的误差。
由真实叠后地震数据与网络输出地震数据叠加得到的叠后地震数据对比，网络能够有效的压制Sigsbee2B模型中的多次波和保留一次波的相位，基本有效的重构一次波能量。
需要注意的是，公布发明的目的在于帮助进一步理解本发明，但是本领域的技术人员可以理解：在不脱离本发明及所附权利要求的范围内，各种替换和修改都是可能的。因此，本发明不应局限于发明所公开的内容，本发明要求保护的范围以权利要求书界定的范围为准。
Claims (9)
1.一种基于模型与数据驱动深度学习算法的地震多次波压制方法，构建用于多次波压制的模型与数据驱动的深度学习模型，提取地震数据标签，并以包含一次波和多次波的全波场炮集为模型的输入，模型的输出即为压制多次波后的一次波炮集；包括以下步骤：
A.获得叠前多次波地震数据；
B.从叠前多次波地震数据中提取得到训练数据集和测试数据集；
C.从训练数据集多次波地震数据中提取得到地震数据样本矩阵和地震数据标签，并通过预处理方法进行处理；具体是：
C1.以训练数据集中的全波场地震数据结合该全波场地震数据的横坐标和纵坐标组成三个通道，每个通道数据均为一个二维矩阵，即地震数据样本矩阵；
C2.采用一次波地震数据作为地震数据标签；
C3.通过地震数据预处理方法对步骤C1得到的地震数据样本矩阵和步骤C2得到的地震数据标签进行处理，缩小同一样本中同相轴的振幅差异；进行数据预处理更新后的地震数据样本矩阵和地震数据标签可使得构建的神经网络模型的隐藏层权值能处理地震数据样本中的所有同相轴；经过预处理后得到的地震数据样本矩阵的数值分布基本满足正态分布；且经过预处理的数据可通过预处理的逆变换恢复为原始数据；
地震数据预处理方法具体为：首先将地震数据进行归一化处理，使振幅值分布在[-1,1]；再通过式(1)的函数进行变换，得到经过预处理方法处理后的地震波场数据：
其中，x表示振幅为真实振幅的地震波场数据；y表示振幅经过预处理方法处理后的地震波场数据；α,β,k分别为预设参数，其中α用于控制非线性部分的函数曲率；β用于控制进行非线性变换的x范围；k用于控制线性部分的函数梯度；
D.构建深度残差傅里叶算子网络模型并进行模型初始化和模型训练，包括：
D1.构建深度残差傅里叶算子网络模型，作为多次波压制网络模型；
深度残差傅里叶算子网络模型以经过预处理处理后的地震全波场数据及该地震全波场数据的横坐标和纵坐标组成的三通道的二维矩阵作为模型输入矩阵，模型输出为压制多次波后的一次波场；网络模型将全连接层作为首特征层和尾特征层，用于连接输入的波场数据、输出的波场数据与网络模型内部隐藏层的特征数据；网络模型的隐藏层由多个残差傅里叶子模块串联组成，用于在时间域的通道维度、图像维度及频率域提取得到多次波特征；
首先通过全连接层整合网络模型的输入，将模型输入矩阵的波场信息整合到特征层的多个通道的矩阵中，使每个通道的特征矩阵同时包含波场和坐标信息；
接着，通过网络模型的多个残差傅里叶子模块在时间域的通道维度、时间维度及频率域提取得到地震多次波特征；
在网络模型的残差傅里叶子模块之间和内部使用Dropout正则化和L2正则化进行处理，进一步缓解过拟合；
在残差傅里叶子模块中的频率域特征提取部分和时间域的通道、图像维度特征提取部分均额外使用批标准化BN控制各层特征值的分布；时间域的短路连接部分无需使用BN；所述时间域的短路连接是在时间域特征提取中，网络中的每一层除了要提取通道维度的特征和图像维度的特征，还提取上一层的特征，提取到的上一层的特征即作为网络中本层的输入特征，即构成时间域的短路连接；
再通过一个全连接层整合网络各通道得到的特征矩阵，即得到输出的波场矩阵；
对上述深度残差傅里叶算子网络模型架构中的各权值与偏置进行深度学习随机初始化；
深度残差傅里叶算子网络中，具体是：
设Mr(t,x)、M0(t,x)分别表示深度残差傅里叶算子网络的输入和输出，通过式(2)、(3)分别描述网络通过全连接层连接输入、输出的波场数据与网络内部特征域数据的流程：
M0(t,x)＝FCn(U(cn,z,x)) 式(3)
其中，U(c0,z,x)和U(cn,z,x)分别为首特征层和尾特征层，分别与网络输入层和输出层通过全连接层FC0、FCn相连，c0、cn分别表示首特征层的通道数和尾特征层的通道数，首特征层和尾特征层之间的隐藏层由多个残差傅里叶子模块组成；
残差傅里叶子模块的计算流程表示为式(4)、(5)：
U(cn+1,x,y)＝σ(ΒΝ(Block(U(cn,x,y)))) 式(4)
Block(U(cn,x,y))＝WU(cn,x,y)+wfU(cn,x,y) 式(5)
其中，σ表示非线性激活函数ReLU；wf表示频率域权值；式(5)中的W是时间域权值集合，用于对输入特征的通道、图像维度及短路连接提取特征；
D2.将训练集数据导入初始化后的深度残差傅里叶算子网络模型，并根据训练结果调整和更新神经网络超参数，得到训练好的网络模型即为多次波压制模型；
E.根据多次波压制模型，对多次波地震数据测试集中的数据进行多次波压制：
E1.将测试集样本导入训练好的网络模型，即多次波压制网络模型，得到输出的一次波；
E2.将网络模型输出的一次波根据预处理方法的逆变换进行处理，即得到真实振幅的一次波地震数据；
通过上述步骤，实现基于模型与数据驱动深度学习算法的地震多次波压制。
2.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，步骤B中，从叠前多次波地震数据中提取得到训练数据集，所述训练数据集包含工区的各种主要地质结构。
3.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，步骤C2中，所述一次波地震数据是通过高精度的多次波压制方法处理训练数据集中的全波场地震数据得到的，或是采用现有的高精度一次波地震数据。
4.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，步骤C1中的地震数据样本中振幅绝对值较小的像素点能量增益幅度较大，振幅绝对值较大的像素点能量增益幅度较小；当原始振幅绝对值较小时采用非线性变换进行大幅增益，原始振幅越小，增益的倍数越大；当原始振幅绝对值较大时采用线性变换进行预处理；具体是将数据进行归一化处理，使振幅值分布在[-1,1]，振幅值在10-1～10-2量级为较大，10-2以下量级的振幅值为较小。
5.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，步骤C3中，预设参数α和β的取值大小满足函数非线性部分具备足够大的增益倍数，且不会出现梯度消失；足够大是指函数非线性变换部分，原始地震振幅值经过预处理函数处理后得到的地震振幅值能够神经网络训练要求，即经过多次迭代训练后，仍能保证误差更新，不会出现梯度消失；判定是否足够大的增益倍数具体是：根据损失loss经过一定次数的迭代次数后是否继续下降；若损失loss不继续下降，则通过调整参数增大增益倍数；预设参数k的取值大小满足函数的线性部分保留原有取值的趋势，但减小斜率，使变换后的函数取值范围约为[-1,1]。
6.如权利要求5所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，k的取值范围为0.1-1；α的取值范围为0.01-0.2；β的取值范围为0.05-0.2。
7.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，步骤D1中，残差傅里叶子模块在时间域提取通道维度和图像维度的特征；通道维度的特征是通过卷积整合各通道的特征值，不同通道使用的权值与偏置不同，同一通道内部的各特征元素均使用同一权值与偏置；图像维度的特征是通过卷积处理各通道内部二维特征矩阵；步骤D2中，训练神经网络模型调整神经网络的超参数包括：神经网络的初始学习率和网络层数。
8.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，式(5)中，W可表示权值与偏置的集合；WU(cn,x,y)可表示为：wU(cn,x,y)+b，其中w为权值，b为偏置。
9.如权利要求1所述基于模型与数据驱动深度学习算法的地震多次波压制方法，其特征是，具体是使用Adam算法对构建的网络模型进行优化。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210914617.9A CN115267911B (zh) | 2022-08-01 | 2022-08-01 | 一种基于模型与数据驱动深度学习的地震多次波压制方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210914617.9A CN115267911B (zh) | 2022-08-01 | 2022-08-01 | 一种基于模型与数据驱动深度学习的地震多次波压制方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115267911A CN115267911A (zh) | 2022-11-01 |
| CN115267911B true CN115267911B (zh) | 2024-05-24 |
Family
ID=83746130
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210914617.9A Active CN115267911B (zh) | 2022-08-01 | 2022-08-01 | 一种基于模型与数据驱动深度学习的地震多次波压制方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115267911B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115577247B (zh) * | 2022-12-09 | 2023-07-11 | 中海油田服务股份有限公司 | 基于堆叠反馈残差网络的地震噪声去除方法及装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018148492A1 (en) * | 2017-02-09 | 2018-08-16 | Schlumberger Technology Corporation | Geophysical deep learning |
| CN110045419A (zh) * | 2019-05-21 | 2019-07-23 | 西南石油大学 | 一种感知器残差自编码网络地震资料去噪方法 |
| CN112946749A (zh) * | 2021-02-05 | 2021-06-11 | 北京大学 | 基于数据增广训练深度神经网络压制地震多次波的方法 |
| CN113687414A (zh) * | 2021-08-06 | 2021-11-23 | 北京大学 | 基于数据增广的卷积神经网络地震层间多次波压制方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11105942B2 (en) * | 2018-03-27 | 2021-08-31 | Schlumberger Technology Corporation | Generative adversarial network seismic data processor |
-
2022
- 2022-08-01 CN CN202210914617.9A patent/CN115267911B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018148492A1 (en) * | 2017-02-09 | 2018-08-16 | Schlumberger Technology Corporation | Geophysical deep learning |
| CN110045419A (zh) * | 2019-05-21 | 2019-07-23 | 西南石油大学 | 一种感知器残差自编码网络地震资料去噪方法 |
| CN112946749A (zh) * | 2021-02-05 | 2021-06-11 | 北京大学 | 基于数据增广训练深度神经网络压制地震多次波的方法 |
| CN113687414A (zh) * | 2021-08-06 | 2021-11-23 | 北京大学 | 基于数据增广的卷积神经网络地震层间多次波压制方法 |
Non-Patent Citations (4)
| Title |
|---|
| Seismic multiple suppression based on a deep neural network method for marine data;Kunxi Wang， Tianyue Hu ，Shangxu Wang，Jianxin Wei;GEOPHYSICS;20220701;第87卷(第4期);全文 * |
| 从成像到反演:叠前深度偏移的理论、实践与发展;张宇;;石油物探;20180125(第01期);全文 * |
| 基于自适应变步长波场延拓的可控层分阶层间多次波模拟;匡伟康;胡天跃;段文胜;李劲松;李艳东;;地球物理学报;20200507(第05期);全文 * |
| 自适应虚同相轴方法压制地震层间多次波;刘嘉辉;胡天跃;彭更新;;地球物理学报;20180315(第03期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115267911A (zh) | 2022-11-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Fang et al. | Seismic data interpolation based on U-net with texture loss | |
| Wu et al. | White noise attenuation of seismic trace by integrating variational mode decomposition with convolutional neural network | |
| Zhang et al. | Adjoint-driven deep-learning seismic full-waveform inversion | |
| Sun et al. | Deep learning for low-frequency extrapolation of multicomponent data in elastic FWI | |
| CN113687414B (zh) | 基于数据增广的卷积神经网络地震层间多次波压制方法 | |
| Si et al. | Attenuation of random noise using denoising convolutional neural networks | |
| CN110895348B (zh) | 一种地震弹性阻抗低频信息提取方法、系统及存储介质 | |
| CN116047583A (zh) | 基于深度卷积神经网络的自适应波阻抗反演方法及系统 | |
| Wang et al. | Deblending of seismic data based on neural network trained in the CSG | |
| CN115267911B (zh) | 一种基于模型与数据驱动深度学习的地震多次波压制方法 | |
| CN117631028A (zh) | 一种多尺度全局信息融合神经网络地震数据低频重构方法 | |
| Sun et al. | Intelligent AVA inversion using a convolution neural network trained with pseudo-well datasets | |
| Cheng et al. | Multiscale recurrent-guided denoising network for distributed acoustic sensing-vertical seismic profile background noise attenuation | |
| Sun et al. | LsmGANs: Image-domain least-squares migration using a new framework of generative adversarial networks | |
| CN111273346B (zh) | 去除沉积背景的方法、装置、计算机设备及可读存储介质 | |
| Wu et al. | An unsupervised inversion method for seismic brittleness parameters driven by the physical equation | |
| CN116068644B (zh) | 一种利用生成对抗网络提升地震数据分辨率和降噪的方法 | |
| Dong et al. | Global-Feature-Fusion and Multi-Scale Network for Low-frequency Extrapolation | |
| CN114942473B (zh) | 基于注意力门神经网络的叠前地震速度反演方法 | |
| Liu-Rong et al. | The separation of seismic surface-related multiples based on CAE-SAGAN | |
| Yan et al. | Seismic spatially variant noise suppression method in the Tarim Basin based on FFDNet and transfer learning | |
| Zhao et al. | Smoothness: The key factor in well-log information-assisted PINNtomo | |
| Luo et al. | Low-frequency prediction based on multiscale and cross-scale deep networks in full-waveform inversion | |
| Huang et al. | A fast least-squares reverse time migration method using cycle-consistent generative adversarial network | |
| Wu et al. | High-resolution imaging: An approach by compensating absorption and dispersion in prestack time migration with effective Q estimation and Fresnel zone identification based on deep learning |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |