CN113393027A - 一种基于深度学习的航标漂移智能预测方法 - Google Patents

Abstract

本发明提供了一种基于深度学习的航标漂移智能预测方法，涉及航标漂移预测技术领域，该方法包括：获取样本数据，并对样本数据进行预处理；其中，样本数据包括航标历史位置数据和水位历史数据；基于预处理后的样本数据构建时间序列；利用时间序列反映出的航标运动规律建立并训练航标漂移预测模型；所述航标漂移预测模型包括用于提取时间序列中的时序特征的门控循环单元和用于对时间序列的各时间步赋予不同权重的注意力机制；输入航标预设个时刻数据，利用训练好的航标漂移预测模型进行预测；输出航标预测位置。本发明基于深度学习的方法从大量航标、水位历史数据中学习时序特征，通过考虑水位因素影响和添加注意力机制进一步提高了模型预测精度。

Description

一种基于深度学习的航标漂移智能预测方法

技术领域

本发明涉及航标漂移预测技术领域，特别是涉及一种基于深度学习的航标漂移智能预测方法。

背景技术

航标是帮助引导船舶航行、定位和标示碍航物与表示警告的人工标志，为各种水上活动提供安全信息的设施或系统。通常设于通航水域或其近处，以标示航道、锚地、滩险及其他碍航物的位置。浮标是一种浮于水面的航标，在航标中数量最多，应用广泛。浮标通常沿航道边界布设，由系碇和锚链系留于水面，受潮水涨落、过往船只冲撞、系留装置自身故障等一些自然及人为因素影响，会发生偏移现象，直接影响航道尺度。若浮标位置偏移过大，而未能及时察觉，将向过往船舶发出错误的导助航信息，威胁通航安全。

近年来，深度学习技术快速发展，在数值预测、图像识别等领域得到广泛应用。在数值预测领域，基于循环神经网络的理论和方法表现优异，它们适应数据能力强，可捕捉多个特征之间的联系，且擅长短期预测，是时间序列预测问题中的常用方法。数字航道遥测遥控系统长期采集积累下来的航标位置GPS观测数据、水位数据亦是一种典型的时间序列数据。大量的历史观测数据为深入分析影响航标漂移的因素，挖掘航标漂移运动的规律提供了数据支持。

如果能够利用最新的深度学习方法，结合航标漂移的运动规律，构建高适用性航标漂移预测方法，对航标漂移位置、漂移距离进行准确快速预测，提前作出预警，在通航船舶航线规划及防碰撞等方面具有重要意义。

目前，传统的航标漂移预测方法有：

期刊论文：基于卡尔曼滤波和K-means++算法的内河航标漂移特性研究(周雨萌，初秀民，蒋仲廉，钟诚.基于卡尔曼滤波和K-means++算法的内河航标漂移特性研究[J].武汉理工大学学报(交通科学与工程版),2019,43(01):81-85.)。

该论文提出使用卡尔曼滤波对航标数据进行预处理，结合K-means++算法获取航标聚类中心，采用相关性分析方法建立了内河航标漂移-水位二次拟合模型，可根据水位值估算航标漂移距离，模型可较好地反映长江中游河段水位对航标漂移的影响。

该方法存在以下缺点：卡尔曼滤波算法和K-means++算法(其流程图如图1所示)只能针对处理历史数据进行处理，无法进行实时计算，且将聚类中心作为基准位置的合理性还有待验证；所构建的线性回归模型结构较简单，预测存在较大误差。

期刊论文：潮流场作用下的航标漂移计算方法研究(周春辉，赵俊男，甘浪雄，徐言民，徐才云.潮流场作用下的航标漂移计算方法研究[J].安全与环境学报,2021,21(01):217-223.)。

该论文提出通过拉依达数学准则对航标遥测数据进行预处理，结合K-means++算法和ISODATA算法，对预处理数据进行聚类，选取精确度更高的聚类中心作为计算航标漂移量的基准点并计算航标漂移距离。采用Person相关性分析方法和回归分析方法，构建潮流场作用下的航标漂移模型，可用于降低潮流场中航标漂移引起的误报警行为，可为海上航标的遥控遥测系统的维护管理提供较强实践参考。

该方法通过分析潮流流向和流速与航标漂移量间的关系，提高了航标漂移预测结果精度，但模型结构仍较为简单，忽略了航标数据的时序特征，预测精度有待进一步提高。

发明内容

有鉴于此，本发明提供了一种基于深度学习的航标漂移智能预测方法，提出了一种基于注意力机制和循环神经网络结合的航标漂移预测模型，可通过航标GPS观测数据对短期内的航标漂移位置和漂移距离进行预测，提高了预测精度，预测结果可供航道部门和航行船舶参考，有助于提升航道通航安全水平。

为此，本发明提供了以下技术方案：

本发明提供了一种基于深度学习的航标漂移智能预测方法，所述方法包括以下步骤：

S1、获取样本数据，并对所述样本数据进行预处理；其中，所述样本数据包括航标历史位置数据和水位历史数据；

S2、基于预处理后的样本数据构建时间序列；

S3、利用时间序列反映出的航标运动规律建立并训练航标漂移预测模型；所述航标漂移预测模型包括用于提取时间序列中的时序特征的门控循环单元和用于对时间序列的各时间步赋予不同权重的注意力机制；

S4、输入航标预设个时刻数据，利用训练好的航标漂移预测模型进行预测；

S5、输出航标预测位置。

进一步地，所述航标漂移预测模型的网络结构包括：包括输入层、2个GRU层、Attention层和输出层；

所述航标漂移预测模型的网络参数包括：

输入层的输入向量形状为[64,24,3]，64为一次输入网络的数据量大小，即batch_size，24为时间步长，3为特征数量，即经度值、纬度值和水位值；

两层GRU层的神经元个数分别为128和64，激活函数均为tanh函数。

进一步地，Attention机制计算公式如下：

h_k′＝tanh(W_c[C；h_k])；

其中，x₁,x₂,...,x_k表示输入序列，h₁,h₂,...,h_k表示对应于输入序列的隐藏层的状态值，评分函数s_kj采用点积，α_ki为历史输入的隐藏层状态对当前输入的注意力权重，C是中间向量；h_k′表示最终输出的当前时刻隐藏层状态值。

进一步地，对所述样本数据进行预处理，包括：

对于数据重复，找到重复记录项将其删除；

对于数据缺失，采用线性插值进行数据填充；

对于数据异常，使用箱形图检测异常值，剔除异常值后使用数据缺失处理方法进行填充。

进一步地，线性插值公式包括：

其中，t_i和x_i分别为填充时间点和填充值，x_i+1、x_i-1分别为相邻时间点观测值。

进一步地，数据预处理后还包括：

按照预设时间间隔提取航标、水位数据作为数据集；

对数据集中的每一列进行归一化处理。

进一步地，所述航标漂移预测模型的损失函数采用平均绝对误差。

上述技术方案具有以下有益效果：本发明创新性地提出航标漂移预测模型，基于深度学习的方法从大量航标、水位历史数据中学习时序特征，通过考虑水位因素影响和添加注意力机制进一步提高了模型预测精度，预测精度满足实际应用要求。

本发明可应用于指导船舶航行方面，船舶可参考航标漂移预测位置进行航线规划，提高航道通航效率。还可应用于航标管理方面，监管部门可根据航标漂移预测位置更好的掌握航标漂移动态，进行漂移预警，提升航道通航安全水平。预测航标漂移位置在防碰撞方面也具有重要意义，船舶根据预测位置可提前作好避碰措施，保障通航安全，减少财产损失。

综上，使用本发明的技术方案实现航标漂移预测，在航线规划、航标管理、防碰撞等多个方面均有重要应用，具有明显的经济和社会效益。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做以简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为现有技术中K-means++算法的流程图；

图2为本发明实施例中一种基于深度学习的航标漂移智能预测方法的流程图；

图3为本发明实施例中基于Attention-GRU的航标漂移预测模型结构示意图；

图4为本发明实施例中GRU单元结构的结构示意图；

图5为本发明实施例中Attention单元结构的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

本发明旨在基于大量航标、水位历史数据，利用深度学习方法构建高精度模型学习数据间的时序特征，对短期内的航标漂移位置及漂移距离进行预测。

浮标移位的因素通常有两种：一是自然因素，即航标受水流、潮流、风的影响发生移位；二是人为因素，即过往船舶碰撞或拖带引起航标移位。在潮流影响下，江水做往复性运动，引起水位周期性变化。航标作为漂浮于水面上的悬浮体，亦会随之做往复性运动。因此，水位变化是影响航标漂移的一个重要因素。

本发明的基本思路是，基于航标历史GPS位置数据，即经度值和纬度值，并考虑水位特征构建时间序列，然后利用深度循环神经网络提取序列的时序特征，进一步使用注意力机制对输入序列的各时间步赋予不同的权重，突出更关键时刻的影响，来帮助模型做出更加准确的判断。最后，利用训练好的深度学习模型对短期内的航标位置经度值和纬度值进行预测。

参见图2，其示出了本发明实施例中一种基于深度学习的航标漂移智能预测方法的流程图，该方法包括以下步骤：

S1、获取样本数据，并对所述样本数据进行预处理；

其中，所述样本数据包括航标历史位置数据和水位历史数据；

由于测量精度和数据传输故障等原因，航标历史位置数据和水位历史数据都存在少量质量较差的情况。对于时间序列预测，数据的质量直接关系到模型的可用性和鲁棒性，对模型的预测精度也有较大影响。因此，对原始数据的进行预处理工作十分重要。

水位、航标观测数据主要存在数据重复、数据缺失、数据异常等问题。

数据重复，指同一航标或水位站出现时间戳相同的若干条记录，且记录的信息相同。对于数据重复，只需找到重复记录项将其删除即可。

数据缺失，指若干时间点缺少数据记录。观察航标和水位原始观测数据发现，数据缺失的情况较少。因此，采用线性插值进行数据填充，如式(1)所示，t_i和x_i分别为填充时间点和填充值，x_i+1、x_i-1分别为相邻时间点观测值。

数据异常(错误值)，指一段时间序列中，数据值出现错误或明显偏离正常水平的极端小值或极端大值。本发明实施例使用箱形图检测异常值，剔除异常值后使用数据缺失处理方法进行填充。

数据预处理后，按照预定时间间隔提取航标、水位数据作为实验数据集，最终的数据集构成如表1所示，表1中预定时间间隔为2小时。

表1

序号	时间	水位	经度	纬度
					0	2020/2/20 22：00	1.78	120.559559	32.009901
1	2020/2/21 0:00	2.83	120.559503	32.009912
					2	2020/2/21 2:00	2.98	120.559422	32.009961
3	2020/2/21 4:00	2.32	120.559445	32.009959
					4	2020/2/21 6:00	1.65	120.559524	32.009917
5	2020/2/21 8:00	1.24	120.559565	32.009914
					6	2020/2/21 10:00	1.98	120.559559	32.009908

由于水位、经度、纬度数据值大小差异较大，需对数据集中的每一列进行归一化处理，归一化计算公式如式(2)所示：

其中x为需要归一化的值，x_min、x_max分别为当列最小值和最大值，x′为归一化后的值。

S2、基于预处理后的样本数据构建时间序列；

S3、利用时间序列反映出的航标运动规律建立并训练航标漂移预测模型；所述航标漂移预测模型包括用于提取时间序列中的时序特征的门控循环单元和用于对时间序列的各时间步赋予不同权重的注意力机制；

利用航标运动规律构建航标漂移预测模型，即考虑水位特征构建航标漂移预测模型，该预测模型中融合了注意力机制。航标漂移预测模型基于注意力机制(Attention)和门控循环单元(GRU)，该预测模型的构建包括整体网络结构以及超参数，包括输入层、2个GRU层、Attention层和输出层的参数等，以及网络的损失函数和优化方法。GRU(GateRecurrent Unit，门控循环单元)是循环神经网络(Recurrent Neural Network,RNN)的一种，是为了解决长期记忆和反向传播中的梯度等问题而提出来的。

S4、输入航标预设个时刻数据，利用训练好的航标漂移预测模型进行预测；

本发明实施例中预设个时刻数据为24个时刻数据。

S5、输出航标预测位置。

本发明实施例中，选取长江下游多个航段的航标进行对比实验，以漂移距离预测值的RMSE值作为评价指标，计算结果如表2所示。

表2

本发明实施例中提出了基于Attention-GRU的航标漂移预测模型，基于深度学习的方法从大量航标、水位历史数据中学习时序特征，通过考虑水位因素影响和添加注意力机制进一步提高了模型预测精度，预测精度满足实际应用要求。

为了便于理解，下面对本发明实施例中步骤S2建立航标漂移预测模型进行详细说明。

(1)模型的构建

本发明提出的基于Attention和GRU的航标漂移预测模型结构如图3所示。

在该模型中，核心参数如下：

1)输入层。输入向量形状为[64,24,3]，64为一次输入网络的数据量大小，即batch_size，24为时间步长，3为特征数量，即经度值、纬度值和水位值，其中batch_size和时间步长后续测试时可自行调整。

2)GRU层。两层GRU层的神经元个数分别为128和64，激活函数均为tanh函数。GRU引入了门控机制，充分利用历史信息，可解决长距离存在的长期依赖问题。GRU单元结构如图4所示。

GRU只包含更新门和重置门，更新门控制前一时刻的状态信息被带入到当前状态中的程度，值越大表示前一时刻带入的信息越多。重置门控制当前状态与之前信息的结合的程度，值越大说明保留的信息越多。具体计算公式如下：

式(3)中，r_t、z_t分别代表重置门、更新门的值，x_t为t时刻的输入，

表示t时刻候选隐藏状态值，h_t为t时刻隐藏层状态值，W_r、W_z、W_h为训练参数矩阵，σ和tanh分别表示sigmoid激活函数和双曲正切激活函数，⊙表示矩阵对应元素相乘。重置门r_t用于控制对上一时间步隐藏状态h_t-1的遗忘程度，如果r_t接近0，意味着重置对应隐藏状态h_t-1为0，即丢弃上一时间步的隐藏状态，如果r_t接近1，表明更大程度保留上一时间步的隐藏状态。更新门z_t用于控制隐藏状态被包含当前时间步信息的候选隐藏状态的更新程度，一方面，z_t决定了上一时间步隐藏状态h_t-1流入当前隐藏状态h_t的程度，另一方面，1-z_t决定了候选隐藏状态

对当前的隐藏状态h_t的更新程度。假设更新门在时间步t′到t(t′<t)之间一直近似为1，即在时间步t′到t之间的输入信息几乎没有流入时间步t的隐藏状态h_t，可以看作较早时刻的隐藏状态h_t‘-1一直保存并传递至当前时间步t。

3)Attetion层。Attention机制是一种模拟人脑注意力的模型，借鉴了人脑在某个特定时刻对事物的注意力会集中到特定的地方，而减少甚至是忽略对其他部分的注意力的特性。GRU在实际训练中，需要一步一步去捕捉序列信息，在长序列上的表现会随着步数增加慢慢衰减，难以保留全部的有用信息。Attention机制通过对输入序列的各时间步赋予不同的权重，突出更关键时刻的影响，帮助模型做出更加准确的判断，而且不会增加模型的计算和存储开销，因此本方案将Attention机制引入预测模型中，以期进一步改善航标漂移预测效果。Attention单元结构如图5所示。

图5中，x₁,x₂,...,x_k表示输入序列，h₁,h₂,...,h_k表示对应于输入序列的隐藏层的状态值，评分函数s_kj采用点积，α_ki为历史输入的隐藏层状态对当前输入的注意力权重，C是中间向量。h_k′表示最终输出的当前时刻隐藏层状态值。Attention机制计算公式如下：

h_k′＝tanh(W_c[C；h_k]) (7)

(2)损失函数

需要根据前向传播的预测结果与实际结果进行损失计算，以便在反向传播的过程中，对权重参数进行更新。这里损失函数采用MAE(Mean Absolute Error，平均绝对误差)，即观测值与真实值的误差绝对值的平均值，其计算公式如式(8)所示。

式(8)中，m表示样本总数，y_i和

分别为航标真实的位置(经纬度坐标)和预测位置(经纬度坐标)。

本发明实施例还公开了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机指令集，计算机指令集被处理器执行时实现如上文任一实施例所提供的基于深度学习的航标漂移智能预测方法。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (7)

1.一种基于深度学习的航标漂移智能预测方法，其特征在于，所述方法包括以下步骤：

S1、获取样本数据，并对所述样本数据进行预处理；其中，所述样本数据包括航标历史位置数据和水位历史数据；

S2、基于预处理后的样本数据构建时间序列；

S3、利用时间序列反映出的航标运动规律建立并训练航标漂移预测模型；所述航标漂移预测模型包括用于提取时间序列中的时序特征的门控循环单元和用于对时间序列的各时间步赋予不同权重的注意力机制；

S4、输入航标预设个时刻数据，利用训练好的航标漂移预测模型进行预测；

S5、输出航标预测位置。

2.根据权利要求1所述的基于深度学习的航标漂移智能预测方法，其特征在于，所述航标漂移预测模型的网络结构包括：包括输入层、2个GRU层、Attention层和输出层；

所述航标漂移预测模型的网络参数包括：

输入层的输入向量形状为[64,24,3]，64为一次输入网络的数据量大小，即batch_size，24为时间步长，3为特征数量，即经度值、纬度值和水位值；

两层GRU层的神经元个数分别为128和64，激活函数均为tanh函数。

3.根据权利要求1所述的基于深度学习的航标漂移智能预测方法，其特征在于，Attention机制计算公式如下：

h_k′＝tanh(W_c[C；h_k])；

其中，x₁,x₂,...,x_k表示输入序列，h₁,h₂,...,h_k表示对应于输入序列的隐藏层的状态值，评分函数s_kj采用点积，α_ki为历史输入的隐藏层状态对当前输入的注意力权重，C是中间向量；h_k′表示最终输出的当前时刻隐藏层状态值。

4.根据权利要求1所述的基于深度学习的航标漂移智能预测方法，其特征在于，对所述样本数据进行预处理，包括：

对于数据重复，找到重复记录项将其删除；

对于数据缺失，采用线性插值进行数据填充；

对于数据异常，使用箱形图检测异常值，剔除异常值后使用数据缺失处理方法进行填充。

5.根据权利要求4所述的基于深度学习的航标漂移智能预测方法，其特征在于，线性插值公式包括：

其中，t_i和x_i分别为填充时间点和填充值，x_i+1、x_i-1分别为相邻时间点观测值。

6.根据权利要求4所述的基于深度学习的航标漂移智能预测方法，其特征在于，数据预处理后还包括：

按照预设时间间隔提取航标、水位数据作为数据集；

对数据集中的每一列进行归一化处理；

相应地，基于预处理后的样本数据构建时间序列，包括：

基于归一化处理后的数据集构建时间序列。

7.根据权利要求1所述的基于深度学习的航标漂移智能预测方法，其特征在于，所述航标漂移预测模型的损失函数采用平均绝对误差。

Images