CN114298183B - 飞行动作智能识别方法 - Google Patents
飞行动作智能识别方法 Download PDFInfo
- Publication number
- CN114298183B CN114298183B CN202111559798.XA CN202111559798A CN114298183B CN 114298183 B CN114298183 B CN 114298183B CN 202111559798 A CN202111559798 A CN 202111559798A CN 114298183 B CN114298183 B CN 114298183B
- Authority
- CN
- China
- Prior art keywords
- flight
- time sequence
- action
- network
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009471 action Effects 0.000 title claims abstract description 159
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000011218 segmentation Effects 0.000 claims abstract description 91
- 238000012549 training Methods 0.000 claims abstract description 41
- 230000006870 function Effects 0.000 claims description 42
- 238000009826 distribution Methods 0.000 claims description 26
- 230000033001 locomotion Effects 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 16
- 238000012360 testing method Methods 0.000 claims description 15
- 239000013598 vector Substances 0.000 claims description 14
- 238000013528 artificial neural network Methods 0.000 claims description 9
- 238000012952 Resampling Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000005520 cutting process Methods 0.000 claims description 5
- 239000012634 fragment Substances 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 3
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 230000002238 attenuated effect Effects 0.000 claims 1
- 238000005096 rolling process Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000000875 corresponding effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 241000208340 Araliaceae Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 206010034719 Personality change Diseases 0.000 description 1
- 241000282487 Vulpes Species 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000010835 comparative analysis Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000000407 epitaxy Methods 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 230000008140 language development Effects 0.000 description 1
- 239000010687 lubricating oil Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000001575 pathological effect Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
飞行动作智能识别方法,结合指定机型的飞行训练大纲和飞行专家的经验知识,从丰富的历史飞行数据中选择与之相关标准的飞行动作条目,建立具有典型代表性的标准动作基准库,而后基于变分自编码网络构建深度变分多元时序分割模型,并将深度变分多元时序分割模型识别的飞行动作与标准动作基准库进行对比,以得到符合标准的深度变分多元时序分割模型,最后将待预测的时间序列输入至深度变分多元时序分割模型进行飞行动作智能识别。本发明以架次内的全部飞行参数序列作为网络输入,不仅关注飞行时间序列的时序关系,且将网络输出飞行时间序列中每一个点处的飞行动作类别作为标签,不依赖于专家知识划分样本,有效提高飞行动作识别准确率。
Description
技术领域
本发明涉及数据挖掘技术领域,尤其涉及一种飞行动作智能识别方法。
背景技术
从飞参数据中快速准确地识别出飞行动作,是开展飞行员操纵品质监控的前提。军事飞行学员在日常飞行训练中,积累了大量的飞行训练数据资源,能够用于分析评估其执行的飞行动作及飞行质量,但传统算法处理飞行训练数据,普遍存在飞行动作识别度不高、五分制质量评估分辨率低、应用中评分区分度不高等问题,尤其是面对当前军事飞行训练强度增加、飞行机动性更强的状况,传统动作识别与质量评估算法在应用中几乎失效。
飞行动作识别本质上属于模式识别问题,针对飞行动作识别任务,目前在工程上得到广泛应用的飞行动作识别方法主要是依靠基于知识库的专家系统,由领域专家根据经验人工从飞行数据中提取出飞行参数变化特征并建立动作识别知识库,再应用计算机高级语言研制推理机,采用正向精确推理策略完成飞行动作的快速识别。2004年,谢川等人利用支持向量机将飞行动作识别任务分解为动作数据筛选与动作片段分类两个阶段;2005年,谢川等人提出了利用粗糙集理论来提取飞行参数特征的方法以提高模型分类准确率;倪世宏等人基于专家系统的思想构建了典型飞行动作的飞参判别规则知识库,但基于知识库的专家系统在飞行评估过程中过于教条,不够灵活,对于复杂机动动作知识表达出现多层嵌套关系,知识库完备性和准确性不易判断。极端情况下,对于某些战术类机动动作,飞行参数变化特征难以提取,动作识别知识无法表达,用户反馈的问题也多。
第二类方法是基于统计学原理或概率图模型的识别系统,如贝叶斯网络模型,支持向量机等,孟光磊等人提出利用动态贝叶斯网络[4]来设计机动动作识别方法,该方法能够实现对模拟飞行训练中的飞行员做出的机动动作通过飞行参数进行自动识别,再对做出的每个动作进行评分;北京航空航天大学的李丹丹等利用主成分分析(Particle SwarmOptimization,PCA)方法对飞参数据进行降维,然后使用SVM分别对降维前、后的数据进行飞行阶段的划分,通过对比实验得出SVM对主成分降维后的数据划分效果更好,基于统计学原理或概率图模型的识别方法,能够运用机器学习的知识形成飞行动作的模型,准确率高,但由于计算复杂,存在所需识别时间长的缺点。
近年来,学者们提出了可将动作识别的问题转化为飞行时间序列和标准时间序列的相似性查询问题,动态时间规整广泛应用在语音识别中,核心思想是通过动态时间规整技术获取最小路径,其优点是可实现最佳对齐匹配,能支持序列的时间轴弯曲、不同长度时间序列的相似性度量,但计算相对复杂;2015年,李鸿利等人利用多元动态时间规整(Multivariant Dynamic Time Warping,MDTW)算法来计算时间序列与标准动作序列之间的相似度进而判断其所属动作类别;2017年,沈一超等人利用基于多元动态时间规整的层次聚类来筛选节点特征,然后构建贝叶斯网络来预测时间序列属于不同类别的概率;周超等人利用改进的多元动态时间规整算法来实现飞行动作的分级预分类-细分类;2019年沈一超等人提出了动态时间规整路径病态匹配算法,来去除时间序列中的无效片段,以提高动作起止点的精度,然而动态时间规整计算相对复杂。
此外,还有基于神经网络的识别方法,基于神经网络的识别方法是与本发明最相似的实现方案,按网络的输入类型可分为逐点预测和逐段预测两类,逐点预测即将多元时间序列中每一时刻的多类飞行参数作为输入,以该点处的实际飞行动作类别作为标签,以梯度反向传播的策略训练网络,在测试阶段,输入时间序列中每一点的飞行参数,预测该点所属于的飞行动作类别;逐段预测即将多元时间序列划分为一系列等长的区段作为输入,而后以该区段处所处的飞行动作类别作为标签,以梯度反向传播的策略训练网络。在测试阶段,输入每一段的飞行参数,预测该区段所属于的飞行动作类别,海军装备部舰船办公室的许卫宝针对舰载机着舰动作状态变化小,动作划分不明显等特点,设计了模糊神经网络分类器来识别舰载机着陆动作,神经网络的权值计算采用Alopex方法。通过与领域专家的分类结果进行对比,验证了模糊神经网络方法对识别着舰动作的有效性。但基于逐点预测的神经网络未考虑飞行时间序列数据的时序关系,飞行动作识别率不高、模型泛化能力差,基于逐段预测的神经网络仍需借助专家知识划分特定飞行动作的样本,不能独立处理各飞行动作长度不一致或含有多类飞行动作的架次数据。
发明内容
本发明所解决的技术问题在于提供一种飞行动作智能识别方法,以解决上述背景技术中的问题。
本发明所解决的技术问题采用以下技术方案来实现:
飞行动作智能识别方法,具体步骤如下:
1、建立标准动作基准库
①、梳理待识别的飞行动作数据
由于不同飞机的适用场景和目标任务不同,其飞行动作类别不同,根据实际飞行架次中的任务,将待识别的飞行过程分为横滚、上升横滚、半滚倒转、懒八字、起飞、上转弯、低空平飞、下转弯、着陆和地面滑行共10类动作,其中,若某飞行过程不属于任何一类动作,则属于其他类别,因此,目标为将飞行架次划分为11种飞行状态;
②、建立标准动作基准库
结合指定机型的飞行训练大纲和飞行专家的经验知识,从丰富的历史飞行数据中选择与之相关标准的飞行动作条目,建立具有典型代表性的标准动作基准库,相关标准包括各类飞行动作的飞参标准和三维轨迹标准,飞参标准包括进入速度、改出速度、带起仰角、时间、高度、进气压力等飞行参数的取值规则,三维轨迹标准用于判断飞行动作的三维轨迹是否符合动作描述以及其平滑程度是否符合要求;
依据以上标准,从飞行历史数据中提取经过梳理后的每一类飞行动作标准数据若干,并记录动作的起止时刻,归入标准动作基准库;
2、构建深度变分多元时序分割模型
I、飞参数据预处理
采集多个飞行架次内的K类飞行参数(如航向角、俯仰角、气压高度等),而后在时间维度上将其拼接为L×K的多元时间序列s∈RL×K,其中,L为序列总时长,为加速模型的收敛过程,使各类飞行参数取值保持在同一数量级,分别对序列内的每类飞行参数s:,i∈RL×1进行归一化处理,使各参数的取值在0~1之间,如式(1)所示,其中,max()代表取最大值函数,min()代表取最小值函数,最后,以6:4的比例将其划分为训练集和测试集:
随后,对训练集进行重采样操作,为保证模型输入大小一致,采用固定大小Lt的滑动窗口以大小为It的步距遍历整个时间序列s∈RL×K,再将时间序列s∈RL×K划分为若干个子样本i=1,2,…N,因此,对于总点数为L的时间序列s∈RL×K,重采样所得的样本数N如式(2)所示:
得多元时间序列x∈Rl×n;
II、构建动作时序分割模型
利用变分自编码网络(variational auto-encoder,VAE)构建动作时序分割模型,变分自编码网络包括编码器网络qφ(z|x)和解码器网络pθ(x|z),其中,x为输入样本特征的可见变量,z为一系列不可观测的隐层变量,变分自编码网络利用变分推断理论和随机梯度下降原理训练网络,编码器g将原始数据压缩至低维空间内,从而使可见变量x映射至连续的隐层变量z中,解码器使用隐层变量z生成数据,进而重构原始数据x,深度变分自编码网络采用深度神经网络分布构造的编码器网络qφ(z|x)和解码器网络pθ(x|z),编码器网络qφ(z|x)提取具有丰富无冗余飞行动作信息的隐层特征,解码器网络pθ(x|z)用于将隐层信息恢复为原始数据大小并计算重构损失,以保证编码器网络提取的隐层特征无信息损失;
根据先验假设,隐层变量z被约束为正态分布p(z)~N(μ,σ),使模型学习输入数据的分布,但分布的边际似然函数难于求解,根据变分理论,将边际似然函数的变分下界作为目标函数,给定近似后验qφ(z|x),变分自编码网络的损失函数如式(3)所示:
L(θ,φ;x)=Eq(z|x)[log pθ(x|z)]-Eq(z|x)[log qφ(z|x)+log pθ(z)]
=Eq(z|x)[log pθ(x|z)]-DKL(qφ(z|x)||pθ(z)) (3)
其中,Eq(z|x)表示在后验分布qφ(z|x)下求期望,DKL表示潜在隐层变量z的近似后验qφ(z|x)与先验分布pθ(z)之间的KL散度,用于衡量近似后验与先验分布之间的差距,KL散度值越大,两种分布间的差异越大,因此,通过最小化损失函数,飞行动作隐层特征的分布越接近独立正态分布,有利于进行后续的多元时序动作识别;
III、构建变分多元时序分割网络
针对飞行过程中的多元时间序列,构建深度变分多元时序分割网络,分为变分自编码特征提取与多元时序分割两个部分,针对预处理后的多元时间序列x∈Rl×n(即为时间序列划分为若干个子样本),其中l为时间序列的长度,n为输入的飞参数量,首先利用动作时序分割模型提取飞参维度上的隐层特征/>其中,h为隐层特征的维度,使所提取的特征标准化、无冗余,有利于进一步进行飞行动作时序分割,随后,对隐层特征进行卷积和下采样操作,得到编码为含有时序关系的高层特征,最后对高层特征进行反卷积和上采样操作,输出序列预测类别概率向量/>分类误差由序列预测类别概率向量/>与序列真实类别的one-hot编码向量y∈Rl×1共同计算,结合分类误差与重构误差,利用梯度下降法对动作时序分割模型参数进行迭代更新,以确定最终的变分多元时序分割网络;
IV、确定损失函数和模型训练
深度变分多元时序分割模型的损失函数分为重构误差和分类误差两个部分,对于变分自编码网络,为保证所提取的隐层变量z无信息丢失,解码器输出与原始输入x∈Rl×n之间的最小均方误差应尽可能小,同时为使隐层变量z的近似后验接近真实先验,应确保近似后验与真实先验之间的KL散度最小,因此,重构误差如式(5)所示:
其中,μ和σ分别为编码器g输出的均值向量和方差向量;
对多元时序分割部分,为提高序列类别分割的准确率,应尽可能使预测类别与标签一致,采用交叉熵损失函数,如式(6)所示:
其中,pij表示在时刻i时模型预测为第j类动作的概率,yij表示在时刻i时飞行执行的真实动作;
因此,深度变分多元时序分割模型的总体损失函数为重构误差与分类误差之和,如式(7)所示:
Lseg=Lrecon+LCE (7)
其余动作时序分割模型训练设置如下:所有网络参数由kaiming初始化方式进行初始化,单批次训练样本数为512,以时序分割总体损失函数作为目标函数,以反向传播策略计算目标函数关于权重的梯度,并向梯度的反方向更新网络权重,优化算法选择为随机梯度下降优化器,初始学习率为0.1,采用指数衰减策略进行学习率衰减,训练时每一轮次的学习率衰减为上一轮次学习率的α倍,衰减率α选定为0.95,共训练100轮次,在损失趋于稳定后,停止训练并保存模型权重,以此构建深度变分多元时序分割模型;
IIV、测试深度变分多元时序分割模型并验证性能
将待预测的序列通过动作时序分割模型截断成若干长度并满足网络输入长度Lt的子序列,再将各段子序列输入至深度变分多元时序分割模型,获得预测子序列,而后将预测子序列进行拼接,得到整个飞行架次的逐点预测标签,最后进行边界判断,提取出飞行架次中的每个飞行动作片段,作为输出结果,最后将得到的输出结果与步骤1建立的标准动作基准库进行比对,并采用三类评价指标进行评估;
为验证所提出的基于时序分割的飞行动作识别网络的性能,选取基于逐点分类的飞行动作识别方法进行对比,得到基于时序分割的飞行动作识别模型相较于逐点预测模型,不仅关注各时刻处的飞行参数取值情况,同时考虑了飞行时间序列间的相关性,提取特征的鲁棒性更强,进而得到符合标准的深度变分多元时序分割模型;
3、应用深度变分多元时序分割模型
将待预测的时间序列截断成若干长度并满足网络输入长度Lt的子序列,而后将各段子序列输入至步骤2建立的深度变分多元时序分割模型中,以获得预测子序列,再将预测子序列进行拼接,得到整个飞行架次的逐点预测标签,最后进行边界判断,提取出飞行架次中的每个飞行动作片段,作为输出结果,即完成对飞行动作的智能识别。
有益效果:本发明基于深度变分自编码网络构建深度变分多元时序分割模型,以架次内的全部飞行参数序列作为网络输入,不仅关注飞行时间序列的时序关系,且将网络输出飞行时间序列中每一个点处的飞行动作类别作为标签,不依赖于专家知识划分样本,有效提高飞行动作识别准确率。
附图说明
图1为本发明的较佳实施例中的变分自编码网络结构流程示意图。
图2为本发明的较佳实施例中的变分多元时序分割网络结构示意图。
图3为本发明的较佳实施例中的深度变分多元时序分割模型测试过程示意图。
图4为本发明的较佳实施例中的基于逐点预测模型识别结果的混淆矩阵示意图。
图5为本发明的较佳实施例中的基于时序分割方法识别结果的混淆矩阵示意图。
具体实施方式
为了使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解,下面结合具体图示,进一步阐述本发明。
飞行动作智能识别方法,具体步骤如下:
1、建立标准动作基准库
①、梳理待识别的飞行动作数据
由于不同飞机的适用场景和目标任务不同,其飞行动作类别不同,根据实际飞行架次中的任务,将待识别的飞行过程分为横滚、上升横滚、半滚倒转、懒八字、起飞、上转弯、低空平飞、下转弯、着陆和地面滑行共10类动作,其中,若某飞行过程不属于任何一类动作,则属于其他类别,因此,目标为将飞行架次划分为11种飞行状态,如表1所示:
表1待识别的飞行动作类别表
②建立标准动作基准库
为了识别不同飞行类别的动作,需选择相应的标准动作基准并建立标准动作基准库,作为飞行动作的参考基准,标准动作基准库的建立流程为:结合指定机型的飞行训练大纲和飞行专家的经验知识,从丰富的历史飞行数据中选择与之相关标准的飞行动作条目,建立具有典型代表性的标准动作基准库,相关标准包括各类飞行动作的飞参标准和三维轨迹标准,飞参标准包括进入速度、改出速度、带起仰角、时间、高度、进气压力等飞行参数的取值规则,三维轨迹标准用于判断飞行动作的三维轨迹是否符合动作描述以及其平滑程度是否符合要求;
依据以上标准,从飞行历史数据中提取经过梳理后的每一类飞行动作标准数据若干,并记录动作的起止时刻,归入标准动作基准库;
2、构建深度变分多元时序分割模型
采集多元时间序列飞行参数,基于数据时序特性进行逐点预测,构建基于深度变分自编码网络的逐点动作识别网络模型,对完整架次中的飞行动作进行智能分割:
I、飞参数据预处理
采集多个飞行架次内的K类飞行参数(如航向角、俯仰角、气压高度等),而后在时间维度上将其拼接为L×K的多元时间序列s∈RL×K,其中,L为序列总时长,为加速模型的收敛过程,使各类飞行参数取值保持在同一数量级,分别对序列内的每类飞行参数s:,i∈RL×1进行归一化处理,使各参数的取值在0~1之间,如式(1)所示,其中,max()代表取最大值函数,min()代表取最小值函数,最后,以6:4的比例将其划分为训练集和测试集:
随后,对训练集进行重采样操作,为保证模型输入大小一致,采用固定大小Lt的滑动窗口以大小为It的步距遍历整个时间序列s∈RL×K,再将时间序列s∈RL×K划分为若干个子样本i=1,2,…N,因此,对于总点数为L的时间序列s∈RL×K,重采样所得的样本数N如式(2)所示:
得多元时间序列x∈Rl×n;
II、构建动作时序分割模型
飞行动作参数类型多样,变化范围不一,且存在较大的冗余信息,直接利用原始信号进行飞行动作特征提取,将产生严重的归纳偏差,无法应用于实际的飞行环境,利用变分自编码网络(variational auto-encoder,VAE)构建动作时序分割模型,变分自编码网络包括编码器网络qφ(z|x)和解码器网络pθ(x|z),如图1所示,其中,x为输入样本特征的可见变量,z为一系列不可观测的隐层变量,变分自编码网络利用变分推断理论和随机梯度下降原理训练网络,编码器g将原始数据压缩至低维空间内,从而使可见变量x映射至连续的隐层变量z中,解码器使用隐层变量z生成数据,进而重构原始数据x,深度变分自编码网络采用深度神经网络分布构造的编码器网络qφ(z|x)和解码器网络pθ(x|z)以对完整架次中的飞行动作进行智能分割,编码器网络qφ(z|x)提取具有丰富无冗余飞行动作信息的隐层特征,解码器网络pθ(x|z)用于将隐层信息恢复为原始数据大小并计算重构损失,以保证编码器网络提取的隐层特征无信息损失;
根据先验假设,隐层变量z被约束为正态分布p(z)~N(μ,σ),使模型学习输入数据的分布,但分布的边际似然函数难于求解,根据变分理论,将边际似然函数的变分下界作为目标函数,给定近似后验qφ(z|x),变分自编码网络的损失函数如式(3)所示:
L(θ,φ;x)=Eq(z|x)[log pθ(x|z)]-Eq(z|x)[log qφ(z|x)+log pθ(z)]
=Eq(z|x)[log pθ(x|z)]-DKL(qφ(z|x)||pθ(z)) (3)
其中,Eq(z|x)表示在后验分布qφ(z|x)下求期望,DKL表示潜在隐层变量z的近似后验qφ(z|x)与先验分布pθ(z)之间的KL散度,用于衡量近似后验与先验分布之间的差距,KL散度值越大,两种分布间的差异越大,因此,通过最小化损失函数,飞行动作隐层特征的分布越接近独立正态分布,有利于进行后续的多元时序动作识别;
III、构建变分多元时序分割网络
针对飞行过程中的多元时间序列,构建深度变分多元时序分割网络,如图2所示,分为变分自编码特征提取与多元时序分割两个部分,针对预处理后的多元时间序列x∈Rl ×n,其中l为时间序列的长度,n为输入的飞参数量,首先利用动作时序分割模型提取飞参维度上的隐层特征其中,h为隐层特征的维度,使所提取的特征标准化、无冗余,有利于进一步进行飞行动作时序分割,随后,对隐层特征进行卷积和下采样操作,得到编码为含有时序关系的高层特征,最后对高层特征进行反卷积和上采样操作,输出序列预测类别概率向量/>分类误差由序列预测类别概率向量/>与序列真实类别的one-hot编码向量y∈Rl×1共同计算,结合分类误差与重构误差,利用梯度下降法对动作时序分割模型参数进行迭代更新,以确定最终的变分多元时序分割网络,网络具体结构及参数如表2所示:
表2变分多元时序分割网络结构表
IV、确定损失函数和模型训练
深度变分多元时序分割模型的损失函数分为重构误差和分类误差两个部分,对于变分自编码网络,为保证所提取的隐层变量z无信息丢失,解码器输出与原始输入x∈Rl×n之间的最小均方误差应尽可能小,同时为使隐层变量z的近似后验接近真实先验,应确保近似后验与真实先验之间的KL散度最小,因此,重构误差如式(5)所示:
其中,μ和σ分别为编码器g输出的均值向量和方差向量;
对多元时序分割部分,为提高序列类别分割的准确率,应尽可能使预测类别与标签一致,采用交叉熵损失函数,如式(6)所示:
其中,pij表示在时刻i时模型预测为第j类动作的概率,yij表示在时刻i时飞行执行的真实动作;
因此,深度变分多元时序分割模型的总体损失函数为重构误差与分类误差之和,如式(7)所示:
Lseg=Lrecon+LCE (7)
其余动作时序分割模型训练设置如下:所有网络参数由kaiming初始化方式进行初始化,单批次训练样本数为512,以时序分割总体损失函数作为目标函数,以反向传播策略计算目标函数关于权重的梯度,并向梯度的反方向更新网络权重,优化算法选择为随机梯度下降(Adam)优化器,初始学习率为0.1,采用指数衰减策略进行学习率衰减,训练时每一轮次的学习率衰减为上一轮次学习率的α倍,衰减率α选定为0.95,共训练100轮次,在损失趋于稳定后,停止训练并保存模型权重,以此构建深度变分多元时序分割模型;
IIV、测试深度变分多元时序分割模型
将待预测的序列通过动作时序分割模型截断成若干长度并满足网络输入长度Lt的子序列,再将各段子序列输入至深度变分多元时序分割模型,获得预测子序列,而后将预测子序列进行拼接,得到整个飞行架次的逐点预测标签,最后进行边界判断,提取出飞行架次中的每个飞行动作片段,作为输出结果,测试过程如图3所示,最后将得到的输出结果与步骤1建立的标准动作基准库进行比对;
深度变分多元时序分割模型对飞行动作类型及动作起止时刻的识别准确率对整个飞行架次的识别结果具有重大影响,故采用三类评价指标对深度变分多元时序分割模型智能识别结果进行评估:
A、交并比(IoU)
交并比是指预测结果与真实标签的交集和并集之比,衡量预测序列与真实标签序列之间的相似性,如式(8)、(9)所示:
其中,Ij为指示函数,用于说明样本序列中是否存在属于动作j的元素点,pj表明输出预测的最大概率为动作j的点数,yj为真实标签为动作j的点数,I(·,·)和U(·,·)分别表示pj和yj的交集和并集,C为类别总数;
B、总体精度
总体精度指深度变分多元时序分割模型输出的预测正确点数占全部序列点数的比例,如(10)所示:
其中,p表明输出预测的最大概率对应动作;
C、F1分数
F1分数同时关注深度变分多元时序分割模型的总体预测精度和不同类别之间的平衡关系,其是精确率和召回率的调和平均数,取值范围为0~1,如式(11)所示,取值越接近1,模型性能越强:
IIIV、模型测试结果
总体精度、交并比、F1分数的评估结果,如表3所示,其中,各项指标的训练结果均接近100%,且在测试集中运行深度变分多元时序分割模型,总体精度为92.76%,表明模型能够较好地识别飞行动作,测试的交并比为0.7354,表明飞行动作的起止时刻识别基本正确,但仍有提升空间,部分类别识别准确率不高,这与标签的质量和数据大小有关,需要加入更多高质量的飞行数据及标签,以训练更好的分类模型;
表3飞行动作识别结果表
指标 | 训练结果 | 测试结果 |
总体精度 | 0.9992 | 0.9276 |
IoU | 0.9885 | 0.7354 |
F1分数 | 0.9953 | 0.5362 |
IIIIV、性能对比分析
为验证所提出的基于时序分割的飞行动作识别网络的性能,选取基于逐点分类的飞行动作识别模型进行对比,基于逐点识别的飞行动作识别模型即将飞行过程中单个采样点处的多元飞行参数x∈R1×n作为一个样本,输入深度学习模型,输出为在该采样点处所属的飞行动作类别,实验数据集为真实飞行过程中收集的若干飞机架次的多元飞行参数,飞行参数可分为4类:位置参数、姿态参数、操纵参数和发动机参数,其中位置参数在三维空间内描述飞机的实时位置和速度信息,姿态参数描述机身围绕三个坐标轴的实时姿态变化,操纵参数描述飞行员为控制飞机而执行的相关操纵情况,如升降舵位置、方向舵位置等,发动机参数利用安装在航空发动机关键位置处的传感器来衡量其工作状态,如发动机转速、进气压力、滑油温度等,在实验中选择输入飞行参数共22类,分别输入基于时序分割的深度变分多元时序分割模型和基于逐点分类的飞行动作识别模型进行训练,保留模型参数,而后将得到的飞行动作类别与步骤1建立的标准动作基准库进行比对,以计算两者总体精度、IoU和F1分数,如表4所示:
表4基于时序分割和基于逐点预测飞行动作识别结果对比表
模型 | 逐点预测 | 时序分割 |
总体精度 | 0.6747 | 0.9276 |
IoU | 0.1978 | 0.7354 |
F1分数 | 0.1537 | 0.5362 |
由表4可知,基于时序分割的深度变分多元时序分割模型的总体精度、IoU和F1分数均高于基于逐点预测的动作识别模型,这是因为基于时序分割的飞行动作识别模型相较于逐点预测的模型,不仅关注各时刻处的飞行参数取值情况,同时考虑了飞行时间序列间的相关性,提取特征的鲁棒性更强,进而得到符合标准的深度变分多元时序分割模型;
图4、5分别表示基于逐点预测的动作识别模型和基于时序分割的动作识别模型在测试集上的混淆矩阵、训练损失曲线和准确率曲线,从图中可以看出,基于逐点预测的动作识别模型受到各类动作类别数据不平衡的影响,识别精度低,识别正确的动作类别主要为其他和地面滑行,而模型将其他动作基本识别为地面动作,而基于逐点预测的动作识别模型训练损失稳定收敛,识别准确率接近1,且各类动作均有较高的准确率,可见所提方法在识别类别不平衡的架次数据中具有明显优势;
3、应用深度变分多元时序分割模型
将待预测的时间序列截断成若干长度并满足网络输入长度Lt的子序列,而后将各段子序列输入至步骤2建立的深度变分多元时序分割模型中,以获得预测子序列,再将预测子序列进行拼接,得到整个飞行架次的逐点预测标签,最后进行边界判断,提取出飞行架次中的每个飞行动作片段,作为输出结果,即完成对飞行动作的智能识别。
Claims (10)
1.飞行动作智能识别方法,其特征在于,具体步骤如下:
1、建立标准动作基准库
结合指定机型的飞行训练大纲和飞行专家的经验知识,从丰富的历史飞行数据中选择与飞行动作相关标准的飞行动作条目,建立具有典型代表性的标准动作基准库;
2、构建深度变分多元时序分割模型
I、飞参数据预处理
采集多个飞行架次内的K类飞行参数,而后在时间维度上将其拼接为L×K的多元时间序列s∈RL×K,其中,L为序列总时长,而后对序列内的每类飞行参数s:,i∈RL×1进行归一化处理,得多元时间序列x∈Rl×n;
II、构建动作时序分割模型
利用变分自编码网络构建动作时序分割模型,动作时序分割模型包括采用深度神经网络分布构造的编码器网络qφ(z|x)和解码器网络pθ(x|z),其中,x为输入样本特征的可见变量,z为一系列不可观测的隐层变量,编码器网络qφ(z|x)提取具有丰富无冗余飞行动作信息的隐层特征,解码器网络pθ(x|z)用于将隐层信息恢复为原始数据大小并计算重构损失;
根据先验假设,隐层变量z被约束为正态分布p(z)~N(μ,σ),根据变分理论,将边际似然函数的变分下界作为目标函数,变分自编码网络的损失函数如式(1)所示:
其中,Eq(z|x)表示在后验分布qφ(z|x)下求期望,DKL表示潜在隐层变量z的近似后验qφ(z|x)与先验分布pθ(z)之间的KL散度,用于衡量近似后验与先验分布之间的差距,KL散度值越大,两种分布间的差异越大;
III、构建变分多元时序分割网络
针对飞行过程中的多元时间序列,构建深度变分多元时序分割网络,分为变分自编码特征提取与多元时序分割两个部分,针对步骤I得到的多元时间序列x∈Rl×n,其中,l为时间序列的长度,n为输入的飞参数量,首先利用动作时序分割模型提取飞参维度上的隐层特征其中,h为隐层特征的维度,随后,对隐层特征进行卷积和下采样操作,得到编码为含有时序关系的高层特征,最后对高层特征进行反卷积和上采样操作,输出序列预测类别概率向量/>分类误差由序列预测类别概率向量/>与序列真实类别的one-hot编码向量y∈Rl×1共同计算,结合分类误差与重构误差,利用梯度下降法对动作时序分割模型参数进行迭代更新,以确定最终的变分多元时序分割网络;
IV、确定损失函数和模型训练
深度变分多元时序分割模型的损失函数分为重构误差和分类误差两个部分,重构误差如式(3)所示:
其中,μ和σ分别为编码器g输出的均值向量和方差向量;
对多元时序分割部分,采用交叉熵损失函数,如式(4)所示:
其中,pij表示在时刻i时模型预测为第j类动作的概率,yij表示在时刻i时飞行执行的真实动作;
因此,深度变分多元时序分割模型的总体损失函数为重构误差与分类误差之和,如式(5)所示:
Lseg=Lrecon+LCE (5)
设置模型训练其余参数进行训练,直至训练衰减损失趋于稳定后,停止训练并保存模型权重,以此构建深度变分多元时序分割模型;
IIV、测试深度变分多元时序分割模型并验证性能
对深度变分多元时序分割模型进行测试并验证其性能,进而得到符合标准的深度变分多元时序分割模型;
3、应用深度变分多元时序分割模型
将待预测的时间序列截断成若干长度并满足网络输入长度Lt的子序列,而后将各段子序列输入至步骤2建立的深度变分多元时序分割模型中,以获得预测子序列,再将预测子序列进行拼接,得到整个飞行架次的逐点预测标签,最后进行边界判断,提取出飞行架次中的每个飞行动作片段,作为输出结果,即完成对飞行动作的智能识别。
2.根据权利要求1所述的飞行动作智能识别方法,其特征在于,步骤1中,相关标准包括各类飞行动作的飞参标准和三维轨迹标准。
3.根据权利要求2所述的飞行动作智能识别方法,其特征在于,飞参标准包括飞行参数的取值规则,三维轨迹标准用于判断飞行动作的三维轨迹是否符合动作描述及其平滑程度是否符合要求。
4.根据权利要求1所述的飞行动作智能识别方法,其特征在于,步骤2中,进行归一化处理,使各参数的取值在0~1之间,如式(6)所示,其中,max()代表取最大值函数,min()代表取最小值函数,最后,以6:4的比例将其划分为训练集和测试集:
随后,对训练集进行重采样操作,为保证模型输入大小一致,采用固定大小Lt的滑动窗口以大小为It的步距遍历整个时间序列s∈RL×K,再将时间序列s∈RL×K划分为若干个子样本因此,对于总点数为L的时间序列s∈RL×K,重采样所得的样本数N如式(7)所示:
5.根据权利要求1所述的飞行动作智能识别方法,其特征在于,步骤(1)中,步骤2中,模型训练其余参数包括网络参数、单批次训练样本数、目标函数、权重的梯度。
6.根据权利要求5所述的飞行动作智能识别方法,其特征在于,所有网络参数由kaiming初始化方式进行初始化。
7.根据权利要求5所述的飞行动作智能识别方法,其特征在于,单批次训练样本数为512。
8.根据权利要求5所述的飞行动作智能识别方法,其特征在于,以时序分割总体损失函数作为目标函数,以反向传播策略计算目标函数关于权重的梯度,并向梯度的反方向更新网络权重,优化算法选择为随机梯度下降优化器。
9.根据权利要求1所述的飞行动作智能识别方法,其特征在于,采用指数衰减策略进行学习率衰减,初始学习率为0.1。
10.根据权利要求9所述的飞行动作智能识别方法,其特征在于,训练时,每一轮次的学习率衰减为上一轮次学习率的α倍,衰减率α选定为0.95,共训练100轮次。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111559798.XA CN114298183B (zh) | 2021-12-20 | 2021-12-20 | 飞行动作智能识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111559798.XA CN114298183B (zh) | 2021-12-20 | 2021-12-20 | 飞行动作智能识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114298183A CN114298183A (zh) | 2022-04-08 |
CN114298183B true CN114298183B (zh) | 2024-04-05 |
Family
ID=80967206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111559798.XA Active CN114298183B (zh) | 2021-12-20 | 2021-12-20 | 飞行动作智能识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114298183B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117972454B (zh) * | 2023-12-26 | 2024-10-01 | 中国人民解放军海军航空大学 | 一种基于vmsd-ticc的飞行阶段划分方法及划分终端 |
CN118569312A (zh) * | 2024-08-05 | 2024-08-30 | 中国人民解放军空军航空大学 | 一种基于双向循环神经网络的飞行动作识别方法及装置 |
CN118626894B (zh) * | 2024-08-12 | 2024-11-05 | 西安理工大学 | 一种基于深度学习的飞机失速场景识别方法及系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110020623A (zh) * | 2019-04-04 | 2019-07-16 | 中山大学 | 基于条件变分自编码器的人体活动识别系统及方法 |
CN110647900A (zh) * | 2019-04-12 | 2020-01-03 | 中国人民解放军战略支援部队信息工程大学 | 基于深度神经网络的安全态势智能预测方法、装置及系统 |
CN111339845A (zh) * | 2020-02-13 | 2020-06-26 | 福州大学 | 自动区分并增强时空特征的图卷积神经网络的人体动作识别方法 |
CN111897353A (zh) * | 2020-07-08 | 2020-11-06 | 西北工业大学 | 基于gru的飞行器机动轨迹预测方法 |
EP3745412A1 (en) * | 2019-05-28 | 2020-12-02 | Corti ApS | An intelligent computer aided decision support system |
CN112115550A (zh) * | 2020-09-13 | 2020-12-22 | 西北工业大学 | 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 |
CN112131944A (zh) * | 2020-08-20 | 2020-12-25 | 深圳大学 | 一种视频行为识别方法及系统 |
CN113239959A (zh) * | 2021-04-09 | 2021-08-10 | 西安电子科技大学 | 基于解耦表征变分自编码机的雷达hrrp目标识别方法 |
-
2021
- 2021-12-20 CN CN202111559798.XA patent/CN114298183B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110020623A (zh) * | 2019-04-04 | 2019-07-16 | 中山大学 | 基于条件变分自编码器的人体活动识别系统及方法 |
CN110647900A (zh) * | 2019-04-12 | 2020-01-03 | 中国人民解放军战略支援部队信息工程大学 | 基于深度神经网络的安全态势智能预测方法、装置及系统 |
EP3745412A1 (en) * | 2019-05-28 | 2020-12-02 | Corti ApS | An intelligent computer aided decision support system |
CN111339845A (zh) * | 2020-02-13 | 2020-06-26 | 福州大学 | 自动区分并增强时空特征的图卷积神经网络的人体动作识别方法 |
CN111897353A (zh) * | 2020-07-08 | 2020-11-06 | 西北工业大学 | 基于gru的飞行器机动轨迹预测方法 |
CN112131944A (zh) * | 2020-08-20 | 2020-12-25 | 深圳大学 | 一种视频行为识别方法及系统 |
CN112115550A (zh) * | 2020-09-13 | 2020-12-22 | 西北工业大学 | 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 |
CN113239959A (zh) * | 2021-04-09 | 2021-08-10 | 西安电子科技大学 | 基于解耦表征变分自编码机的雷达hrrp目标识别方法 |
Non-Patent Citations (2)
Title |
---|
Identification and standardization of maneuvers based upon operational flight data;Wang Yongjun et al;《Chinese Journal of Aeronautics》;第28卷(第1期);133-140 * |
基于深度学习的多模态动作识别方法探究;黄心依;《信息与电脑》(第8期);171-173 * |
Also Published As
Publication number | Publication date |
---|---|
CN114298183A (zh) | 2022-04-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114298183B (zh) | 飞行动作智能识别方法 | |
CN112100865B (zh) | 基于并行cnn模型的航空发动机剩余寿命预测方法 | |
CN109766583B (zh) | 基于无标签、不均衡、初值不确定数据的航空发动机寿命预测方法 | |
CN108594788B (zh) | 一种基于深度随机森林算法的飞机作动器故障检测与诊断方法 | |
CN113486938B (zh) | 基于多分支时间卷积网络的重着陆的分析方法和装置 | |
CN115618733B (zh) | 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法 | |
CN112859898B (zh) | 一种基于双通道双向神经网络的飞行器轨迹预测方法 | |
CN112465199B (zh) | 空域态势评估系统 | |
CN112489497B (zh) | 基于深度卷积神经网络的空域运行复杂度评估方法 | |
CN110018453A (zh) | 基于飞机航迹特征的智能机型识别方法 | |
CN111680875A (zh) | 基于概率基线模型的无人机状态风险模糊综合评价方法 | |
CN114880925A (zh) | 基于时间卷积网络和多层自注意力的装备寿命预测方法 | |
CN114937182A (zh) | 一种基于情感轮和卷积神经网络的图像情感分布预测方法 | |
Tian et al. | Flight maneuver intelligent recognition based on deep variational autoencoder network | |
CN111816205B (zh) | 一种基于飞机音频的机型智能识别方法 | |
CN118410417A (zh) | 基于小波时频图和轻量级混合神经网络的复杂飞行动作识别方法 | |
CN112257914A (zh) | 一种基于随机森林的航空安全因果预测方法 | |
Li et al. | Interpretable intelligent fault diagnosis strategy for fixed-wing UAV elevator fault diagnosis based on improved cross entropy loss | |
CN112784487B (zh) | 飞行动作识别方法和装置 | |
Wang et al. | An Entropy-and Attention-Based Feature Extraction and Selection Network for Multi-Target Coupling Scenarios | |
CN117390407B (zh) | 变电站设备的故障识别方法、系统、介质和设备 | |
Hu et al. | Intelligent temporal detection network for boundary-sensitive flight regime recognition | |
CN115048873A (zh) | 一种用于飞机发动机的剩余使用寿命预测系统 | |
CN116484497A (zh) | 一种基于多任务Transformer的过失速预测方法 | |
Arts et al. | Trajectory Based Flight Phase Identification with Machine Learning for Digital Twins |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |