CN117034020A - 一种基于cvae-gan模型的无人机传感器零样本故障检测方法 - Google Patents
一种基于cvae-gan模型的无人机传感器零样本故障检测方法 Download PDFInfo
- Publication number
- CN117034020A CN117034020A CN202311297725.7A CN202311297725A CN117034020A CN 117034020 A CN117034020 A CN 117034020A CN 202311297725 A CN202311297725 A CN 202311297725A CN 117034020 A CN117034020 A CN 117034020A
- Authority
- CN
- China
- Prior art keywords
- cvae
- sample
- gan model
- reconstruction
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013256 Gubra-Amylin NASH model Methods 0.000 title claims abstract description 78
- 238000001514 detection method Methods 0.000 title claims abstract description 57
- 238000012549 training Methods 0.000 claims abstract description 43
- 238000012795 verification Methods 0.000 claims abstract description 41
- 238000012360 testing method Methods 0.000 claims abstract description 40
- 230000006870 function Effects 0.000 claims abstract description 22
- 230000003044 adaptive effect Effects 0.000 claims abstract description 5
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 4
- 230000007246 mechanism Effects 0.000 claims abstract description 4
- 238000000034 method Methods 0.000 claims description 30
- 238000004364 calculation method Methods 0.000 claims description 13
- 239000013598 vector Substances 0.000 claims description 10
- 238000002347 injection Methods 0.000 claims description 7
- 239000007924 injection Substances 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 6
- 230000035945 sensitivity Effects 0.000 claims description 6
- 230000006835 compression Effects 0.000 claims description 5
- 238000007906 compression Methods 0.000 claims description 5
- 230000000694 effects Effects 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims description 3
- 230000008569 process Effects 0.000 claims description 3
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical compound C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 description 6
- 230000005856 abnormality Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000007281 self degradation Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
- G01D18/00—Testing or calibrating apparatus or arrangements provided for in groups G01D1/00 - G01D15/00
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0475—Generative networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/094—Adversarial learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本发明涉及无人机传感器故障检测方法领域，具体涉及一种基于CVAE‑GAN模型的无人机传感器零样本故障检测方法，包括步骤：采用滑动窗口截取多变量传感器数据构建样本，划分训练集、验证集和测试集；利用轻量级卷积神经网络，设计包含生成器和判别器的CVAE‑GAN模型；设计各子网络损失函数和权重系数以构建CVAE‑GAN模型的整体目标函数；利用正常传感器样本训练CVAE‑GAN模型，学习正常数据的重构机制；利用含故障样本的验证集获得自适应阈值调节系数；利用含故障样本的测试集测试模型，计算测试样本与重构样本的重构误差；归一化重构误差，与自适应阈值对比实现传感器故障检测。本发明能够在不提供故障训练样本的情况下，实现无人机传感器多种典型故障的细粒度准确检测。
Description
技术领域
本发明涉及无人机传感器故障检测方法领域，具体涉及一种基于CVAE-GAN模型的无人机传感器零样本故障检测方法。
背景技术
各类机载传感器对飞行状态和环境态势的实时感知，是无人机实现安全自主飞行和任务高效执行的重要基础。然而，这些传感器作为典型的精密测量仪器，通常由多个微小元器件组成，受外部环境因素和自身退化因素的共同影响，其故障率较高。一旦某类传感器出现故障，将无法保持正常的工作状态，不准确的测量参数可能导致飞控系统产生错误的控制命令和动作执行，对无人机的安全性和稳定性构成重大威胁。
无人机传感器出现故障的直接表现是测量数据产生不同程度的异常，因此现有故障检测技术主要利用数据异常检测理论，以基于深度学习的数据驱动方法为主，包括基于有监督学习的分类方法、基于无监督/半监督学习的回归类和重构类方法。尽管目前研究提出的方法取得了一定进展，但仍存在以下不足之处：1）在传感器早期故障检测中，由于缺少故障样本和标签，导致模型的误检率和漏检率较高；2）大多数智能检测方法是针对特定的传感器和故障类型设计的，其鲁棒性很难满足无人机飞控系统的预期要求；3）此外，面向飞控系统多传感器的细粒度检测方法鲜有研究。
发明内容
本发明意在提供一种基于CVAE-GAN模型的无人机传感器零样本故障检测方法，用于执行无人机多传感器的零样本故障检测任务，以解决无人机传感器故障数据难以获取、智能检测模型训练阶段依赖于大量的故障数据、现有故障检测模型准确性及鲁棒性差的问题。
本方案中的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，包括以下步骤：
步骤一，通过无人机机载传感器获取正常飞行状态下的多变量传感器数据，采用具有固定长度的滑动窗口截取多变量传感器数据构建样本，并划分训练集、验证集和测试集；
步骤二，利用轻量级卷积神经网络，设计包含生成器和判别器的CVAE-GAN模型；
步骤三，根据CVAE-GAN模型组成结构，设计CVAE-GAN模型中各子网络的损失函数、分配相应的权重系数，构建CVAE-GAN模型的整体目标函数；
步骤四，利用只包含正常传感器样本的训练集训练CVAE-GAN模型，使模型学习训练集中正常数据的重构机制；
步骤五，向验证集注入设定比例的异常以生成故障样本，将验证集的样本输入经过训练的CVAE-GAN模型，得到重构样本，计算验证样本与重构样本的重构误差并归一化，计算各传感器自适应阈值并获得最优的调节系数；
步骤六，向测试集注入设定比例的异常以生成故障样本，将测试集的样本输入经过训练的CVAE-GAN模型，得到重构样本，计算测试样本与重构样本的重构误差并归一化；
步骤七，利用步骤六中获得的归一化重构误差和步骤五中验证集上获得的调节系数计算各传感器的自适应阈值，通过对比测试样本的归一化重构误差和自适应阈值，实现各传感器的故障检测并输出CVAE-GAN模型的检测性能指标。
优选的，所述步骤一中，所述滑动窗口的固定长度为20，步长为1，构建样本维度为（1，3，20），训练集、验证集和测试集的划分比例为60%、20%和20%且彼此相互独立。
优选的，所述步骤二中，所述CVAE-GAN模型的生成器包括第一编码器、解码器和第二编码器/>三个子网络，其中，所述第一编码器/>、第二编码器/>依次使用卷积层、BN层、LReLU层和两个全连接层；所述解码器/>依次使用全连接层、反卷积层、BN层和ReLU层；所述判别器/>包括一个编码器子网络；判别器与编码器具有相同的特征提取结构，并在其后增加了一个二进制分类器，二进制分类器使用sigmoid函数。
优选的，所述步骤三中，所述子网络的损失函数为：
步骤3.1，重构损失：通过测量输入样本/>和生成样本/>之间的L1距离来直接反映生成器的数据重构效果，计算公式为：
，其中，/>表示L1距离；
步骤3.2，第一编码器重构损失：使用KL损失来调节第一编码器学到的潜在分布/>与标准正态分布/>之间的差距，计算方法如下:
；
步骤3.3，第二编码器损失：第二编码器对生成数据/>进行二次编码获得相应的潜在向量/>分布，通过KL损失最小化潜在向量分布/>之间的差异：
；
步骤3.4，对抗损失：引入特征匹配损失函数/>，比较特征提取器从真实数据和生成数据中提取的特征统计分布，计算方式为：
；
所述子网络损失函数分别分配不同的权重系数，构建CVAE-GAN模型的整体目标函数为：
，式中，/>分别表示重构损失、第一编码器重构损失、第二编码器损失、对抗损失的权重系数。
优选的，所述步骤四中，训练集中的样本输入CVAE-GAN模型后的具体训练过程包括如下步骤：
步骤4.1，编码：输入样本通过第一编码器编码/>压缩，得到维度为/>的潜在向量/>：
；
步骤4.2，解码：将潜在向量解码为与输入维度相同的生成数据/>：
；
步骤4.3，编码：第二编码器对重构数据/>进行编码压缩，得到维度为/>的潜在向量/>：
；
步骤4.4，判别：将真实样本与解码器输出的生成样本输入判别器/>，判别器/>输出样本来自真实样本/>的概率：
。
优选的，所述步骤四中，模型训练时，使用Adam优化器，采用双时间尺度更新规则，生成器和判别器的学习率分别为0.001和0.0001，模型训练的迭代次数为200，所述子网络损失的权重系数分别为50、1、1和1。
优选的，所述步骤五中，向验证集中注入异常的设定比例为1%，验证样本与重构样本的重构误差的计算方法为：
；
由于输入样本是具有固定长度的多变量时序数据，因此是包含多个传感器在一段时间内重构误差的矩阵；
验证集中每个传感器的重构误差集表示为：
；
其中，每个样本中第/>个传感器在/>时刻的重构误差表示为/>。
优选的，所述步骤五中，重构误差使用最小-最大归一化方法获得取值范围为[0,1]的标准化分数：
；
采用滑动窗口自适应阈值方法，使用长度为的滑动窗口，计算每个传感器在窗口内历史样本重构误差的均值/>和标准差/>，然后使用均值和标准差计算每个传感器的当前样本对应的动态阈值/>：
；
其中，上下标分别表示个传感器和第/>个窗口；/>表示对应传感器的阈值调节系数，用来控制阈值对重构误差的敏感度。
优选的，所述步骤六中，向测试集中注入异常的设定比例为1%，使用的测试模型是在验证集上几何平均数GM指标表现最好的CVAE-GAN模型，GM指标表现最好是指GM取最大值，测试样本与重构样本的重构误差采用与验证集中相同的重构误差计算和归一化方法。
优选的，所述步骤七中，所述自适应阈值调节系数是使用CVAE-GAN模型在验证集上性能表现最优时各个传感器的值，如果测试样本与重构样本的重构误差大于对应传感器的动态阈值，表示该传感器在该时刻出现了故障；
CVAE-GAN模型的检测性能指标包括阈值相关指标和阈值无关指标，其中，阈值相关指标包括准确度Acc、敏感度Sen、特异度Spe和几何平均数GM；阈值无关指标包括ROC曲线的AUC值，具体计算方法如下：
；
；
；
；
其中：TN、TP、FN、FP分别代表真阴性、真阳性、假阴性、假阳性样本的数量。
与现有技术相比，本方案的有益效果是：
CVAE-GAN为轻量化无监督故障检测框架，融合了CVAE和GAN网络在数据生成方面的优势，在对抗训练期间只使用多个传感器的正常状态数据，使生成器学习正常数据的潜在分布。在测试期间，生成器无法对未见的故障数据进行合理重构而产生较大的重构误差，通过与自适应阈值进行比较，实现对飞控系统多个传感器不同类型故障的细粒度准确检测。对于无人机的多种传感器的多种故障类型，均表现出较高的阈值相关和阈值无关指标性能，相比主流方法具有较大的优越性，大大降低了无人机传感器故障检测的成本。
附图说明
图1为本发明基于CVAE-GAN模型的无人机传感器零样本故障检测方法实施例的流程图；
图2为本发明基于CVAE-GAN模型的无人机传感器零样本故障检测方法实施例实例的原理框图；
图3为本发明基于CVAE-GAN模型的无人机传感器零样本故障检测方法实施例的模型网络结构参数图；
图4为本发明基于CVAE-GAN模型的无人机传感器零样本故障检测方法实施例中CVAE-GAN模型的训练损失和准确率变化趋势图；
图5为本发明基于CVAE-GAN模型的无人机传感器零样本故障检测方法实施例中模型在传感器恒偏差故障检测任务上的阈值相关性能指标对比图；
图6为本发明基于CVAE-GAN模型的无人机传感器零样本故障检测方法实施例中模型在传感器卡死故障检测任务上的阈值无关性能指标对比图。
具体实施方式
下面通过具体实施方式进一步详细说明。
实施例1
基于CVAE-GAN模型的无人机传感器零样本故障检测方法，如图1所示：本方法的零样本是指CVAE-GAN模型在对抗训练期间只使用无人机多个传感器的正常状态数据，而无需使用故障样本，通过使生成器学习正常数据的潜在分布，从而在测试期间，生成器无法对未见的故障数据进行合理重构而产生较大的重构误差，通过与自适应阈值进行比较，实现对飞控系统多个传感器不同类型故障的细粒度检测，包括以下步骤：
步骤一，通过无人机机载传感器获取正常飞行状态下的多变量飞行状态数据，采用具有固定长度的滑动窗口截取多变量传感器数据构建样本，并划分为训练集、验证集和测试集，所述滑动窗口的固定长度为20，步长为1，构建样本维度为（1，3，20），训练集、验证集和测试集的划分比例为60%、20%和20%且彼此相互独立。
步骤二，利用轻量级卷积神经网络，设计包含生成器和判别器的CVAE-GAN模型。如图3所示，所述CVAE-GAN模型的生成器包括第一编码器、解码器/>和第二编码器/>三个子网络，其中，所述第一编码器/>、第二编码器/>依次使用卷积层、BN层、LReLU层和两个全连接层；所述解码器/>依次使用全连接层、反卷积层、BN层和ReLU层；所述判别器/>包括一个编码器子网络；判别器/>与编码器具有相同的特征提取结构，并在其后增加了一个二进制分类器，二进制分类器使用sigmoid函数。
步骤三，根据CVAE-GAN模型组成结构，设计各子网络的损失函数、分配相应的权重系数，构建CVAE-GAN模型的整体目标函数，所述子网络的损失函数为：
步骤3.1，重构损失：通过测量输入样本/>和生成样本/>之间的L1距离来直接反映生成器的数据重构效果，计算公式为：
，其中，/>表示L1距离；
步骤3.2，第一编码器重构损失：使用KL损失来调节第一编码器学到的潜在分布/>与标准正态分布/>之间的差距，计算方法如下:
；
步骤3.3，第二编码器损失：第二编码器对生成数据/>进行二次编码获得相应的潜在向量/>分布，通过KL损失最小化潜在向量分布/>之间的差异：
；
步骤3.4，对抗损失：引入特征匹配损失函数/>，比较特征提取器从真实数据和生成数据中提取的特征统计分布，计算方式为：
；
所述子网络损失函数分别分配不同的权重系数，构建CVAE-GAN模型的整体目标函数为：
，式中，/>分别表示重构损失、第一编码器重构损失、第二编码器损失、对抗损失的权重系数。
步骤四，利用只包含正常传感器样本的训练集训练CVAE-GAN模型，使CVAE-GAN模型学习训练集中正常数据的重构机制。模型训练时，使用Adam优化器，采用双时间尺度更新规则，生成器和判别器的学习率分别为0.001和0.0001，模型训练的迭代次数为200，所述子网络损失的权重系数/>分别为50、1、1和1。训练集中的样本输入CVAE-GAN模型后的具体训练过程包括如下步骤：
步骤4.1，编码：输入训练集样本时通过第一编码器/>编码压缩，得到维度为/>的潜在向量/>：
；
步骤4.2，解码：将潜在向量解码为与输入维度相同的重构数据/>：
；
步骤4.3，编码：第二编码器对重构数据/>进行编码压缩，得到维度为/>的潜在向量/>：
；
步骤4.4，判别：将真实样本与解码器输出的重构数据输入判别器/>，判别器/>输出样本来自真实样本/>的概率：
。
步骤五，向验证集注入设定比例的异常以生成故障样本，将验证集的样本输入经过训练的CVAE-GAN模型，得到重构样本，计算验证样本与重构样本的重构误差并归一化，计算各传感器自适应阈值并获得最优的调节系数。向验证集中注入异常的设定比例为1%，验证样本与重构样本的重构误差的计算方法为：
；
由于输入样本是具有固定长度的多变量时序数据，因此是包含多个传感器在一段时间内重构误差的矩阵；验证集中每个传感器的重构误差集/>，表示为：
；
其中，每个样本中第/>个传感器在/>时刻的重构误差表示为/>。
重构误差使用最小-最大归一化方法获得取值范围为[0,1]的标准化分数：
；
采用滑动窗口自适应阈值方法，使用长度为的滑动窗口，计算每个传感器在窗口内历史样本重构误差的均值/>和标准差/>，然后使用均值和标准差计算每个传感器的当前样本对应的动态阈值/>：
；
其中，上下标分别表示个传感器和第/>个窗口；/>表示对应传感器的阈值调节系数，用来控制阈值对重构误差的敏感度。基于重构误差的均值和标准差设置各传感器的自适应阈值，能够对样本进行动态检测，提高传感器故障检测的准确性。
步骤六，向测试集注入1%的异常以生成故障样本，将测试集的样本输入经过训练的CVAE-GAN模型，得到重构样本，使用在验证集上几何平均数GM指标表现最好的CVAE-GAN模型作为用于测试的模型，即GM指标取最大值为表现最好，采用与验证集中相同的重构误差和归一化方法计算，测试样本与重构样本的重构误差。
步骤七，利用步骤六中获得的归一化重构误差和步骤五中验证集上获得的调节系数计算各传感器的自适应阈值，通过对比测试样本的归一化重构误差和自适应阈值，实现各传感器的故障检测并输出CVAE-GAN模型的检测性能指标。所述自适应阈值调节系数是使用CVAE-GAN模型在验证集上性能表现最优时各个传感器的值，在验证集上性能表现最优即在验证集上几何平均数GM指标表现最好，如果测试样本与重构样本的重构误差大于对应传感器的动态阈值，表示该传感器在该时刻出现了故障，动态阈值即自适应阈值；
CVAE-GAN模型的检测性能指标包括阈值相关指标和阈值无关指标，其中，阈值相关指标包括准确度Acc、敏感度Sen、特异度Spe和几何平均数GM；阈值无关指标包括ROC曲线的AUC值，具体计算方法如下：
；
；
；
；
其中：TN、TP、FN、FP分别代表真阴性、真阳性、假阴性、假阳性样本的数量。
以无人机传感器数据集为一架小型固定翼无人机的实际飞行数据为例，如图2所示，该使用的固定翼无人机翼展为2米，控制面包括副翼、襟副翼、升降舵和方向舵，装备了皮托管、GPS导航模块和Nvidia Jetson TX2型号的飞控计算机，通过遥测无线电与地面站进行通信。选用无人机IMU传感器中的磁力计（表示为S1）和陀螺仪（表示为S2）的轴信号、以及加速计（表示为S3）的轴信号来构建样本，利用构建的样本训练CVAE-GAN模型，得到如图4所示的生成器的损失、判别器的损失和判别器的准确率。由图4可知，经过约200次训练以后，生成器和判别器的损失值基本平稳，意味着二者达到了纳什平衡状态；经过100次训练之后，生成器能够生成比较真实的假样本，此时判别器难以正确识别二类样本，导致两者的分类准确率逐渐接近，最后均维持在50%左右。综合观察训练损失和准确率的变化，可以证明CVAE-GAN 模型得到了有效的训练。
采用故障注入方法，向测试集的正常传感器数据中分别注入1%的遵循一定分布的异常分别生成恒偏差和卡死故障样本。其中，恒偏差故障是通过在均匀分布中随机采样获得不同幅值的故障，设置不同的时间长度/>来控制故障的持续时间，最后将采样的数据添加到正常传感器数据中以生成故障样本；根据卡死故障发生时其输出为一固定值的特点，采用与恒偏差故障相似的注入方式，即从均匀分布中随机采样获得不同幅值的故障，添加到正常传感器数据中分别得到一恒定值，使其持续一定的时间/>，从而生成卡死故障样本。
为验证模型性能，将CVAE-GAN模型与典型的生成类检测方法AEGAN和GAN进行全面对比，得到如图5所示模型在传感器恒偏差故障检测任务上的阈值相关性能指标对比图，图6所示的模型在传感器卡死故障检测任务上的阈值无关性能指标对比图。从两幅图中可以看出对于无人机传感器的恒偏差故障和卡死故障，CVAE-GAN均能表现出比对比模型更优的性能指标。
本实施例不需要向CVAE-GAN模型提供故障训练样本，基于无人机正常状态下的传感器数据进行训练，对CVAE-GAN模型的各子网络设计相应的损失函数、分配相应的权重系数，以构建CVAE-GAN模型的整体目标函数，使CVAE-GAN模型学习对正常数据的潜在分布规律；通过向验证集注入一定比例的异常以生成故障样本，计算并归一化模型的验证样本与重构样本的重构误差，计算各传感器自适应阈值并获得最优的调节系数；通过向测试集注入一定比例的异常以生成故障样本，将训练好的模型在测试集上测试，计算并归一化测试样本与重构样本的重构误差；将归一化重构误差和自适应阈值进行对比，以检测各传感器的不同类型的故障。
本实施例能够实现无人机各类传感器不同故障的零样本故障检测，在训练数据方面，因为无人机机载传感器多具有微型精密结构，难以通过人工损伤的方法获得故障样本，同时无人机为无人自主系统，使其搭载故障传感器进行飞行具有失控坠毁的风险，因此无人机传感器的故障数据非常少且难以收集。而本实施例无需收集大量的无人机传感器故障样本用于CVAE-GAN模型的训练，利用模型的数据重构原理，通过计算测试样本与重构样本的重构误差，并与自适应阈值进行对比来实现各传感器各类故障的准确检测。本发明有效降低了检测模型训练阶段对故障样本的依赖和数据获取的成本，利用数据生成和自适应阈值，提高了模型在零样本故障检测中的准确率和鲁棒性，降低了无人机传感器故障检测的成本。
以上所述的仅是本发明的实施例，方案中公知的具体结构及特性等常识在此未作过多描述。应当指出，对于本领域的技术人员来说，在不脱离本发明结构的前提下，还可以做出若干变形和改进，这些也应该视为本发明的保护范围，这些都不会影响本发明实施的效果和专利的实用性。本申请要求的保护范围应当以其权利要求的内容为准，说明书中的具体实施方式等记载可以用于解释权利要求的内容。
Claims (10)
1.一种基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于，包括以下步骤：
步骤一，通过无人机机载传感器获取正常飞行状态下的多变量传感器数据，采用具有固定长度的滑动窗口截取多变量传感器数据构建样本，并划分训练集、验证集和测试集；
步骤二，利用轻量级卷积神经网络，设计包含生成器和判别器的CVAE-GAN模型；
步骤三，根据CVAE-GAN模型组成结构，设计CVAE-GAN模型中各子网络的损失函数、分配相应的权重系数，构建CVAE-GAN模型的整体目标函数；
步骤四，利用只包含正常传感器样本的训练集训练CVAE-GAN模型，使模型学习训练集中正常数据的重构机制；
步骤五，向验证集注入设定比例的异常以生成故障样本，将验证集的样本输入经过训练的CVAE-GAN模型，得到重构样本，计算验证样本与重构样本的重构误差并归一化，计算各传感器自适应阈值并获得最优的调节系数；
步骤六，向测试集注入设定比例的异常以生成故障样本，将测试集的样本输入经过训练的CVAE-GAN模型，得到重构样本，计算测试样本与重构样本的重构误差并归一化；
步骤七，利用步骤六中获得的归一化重构误差和步骤五中验证集上获得的调节系数计算各传感器的自适应阈值，通过对比测试样本的归一化重构误差和自适应阈值，实现各传感器的故障检测并输出CVAE-GAN模型的检测性能指标。
2.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤一中，所述滑动窗口的固定长度为20，步长为1，构建样本维度为（1，3，20），训练集、验证集和测试集的划分比例为60%、20%和20%且彼此相互独立。
3.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤二中，所述CVAE-GAN模型的生成器包括第一编码器、解码器/>和第二编码器/>三个子网络，其中，所述第一编码器/>、第二编码器/>依次使用卷积层、BN层、LReLU层和两个全连接层；所述解码器/>依次使用全连接层、反卷积层、BN层和ReLU层；所述判别器/>包括一个编码器子网络；判别器与编码器具有相同的特征提取结构，并在其后增加了一个二进制分类器，二进制分类器使用sigmoid函数。
4.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤三中，所述子网络的损失函数为：
步骤3.1，重构损失：通过测量输入样本/>和生成样本/>之间的L1距离来直接反映生成器的数据重构效果，计算公式为：
，其中，/>表示L1距离；
步骤3.2，第一编码器重构损失：使用KL损失来调节第一编码器学到的潜在分布与标准正态分布/>之间的差距，计算方法如下:
；
步骤3.3，第二编码器损失：第二编码器对生成数据/>进行二次编码获得相应的潜在向量/>分布，通过KL损失最小化潜在向量分布/>之间的差异：
；
步骤3.4，对抗损失：引入特征匹配损失函数/>，比较特征提取器从真实数据和生成数据中提取的特征统计分布，计算方式为：
；
所述子网络损失函数分别分配不同的权重系数，构建CVAE-GAN模型的整体目标函数为：
，式中，/>分别表示重构损失、第一编码器重构损失、第二编码器损失、对抗损失的权重系数。
5.根据权利要求3所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤四中，训练集中的样本输入CVAE-GAN模型后的具体训练过程包括如下步骤：
步骤4.1，编码：输入样本通过第一编码器/>编码压缩，得到维度为/>的潜在向量/>：
；
步骤4.2，解码：将潜在向量解码为与输入维度相同的生成数据/>：
；
步骤4.3，编码：第二编码器对重构数据/>进行编码压缩，得到维度为/>的潜在向量：
；
步骤4.4，判别：将真实样本与解码器输出的生成样本输入判别器/>，判别器/>输出样本来自真实样本/>的概率：
。
6.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤四中，模型训练时，使用Adam优化器，采用双时间尺度更新规则，生成器和判别器的学习率分别为0.001和0.0001，模型训练的迭代次数为200，所述子网络损失的权重系数分别为50、1、1和1。
7.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤五中，向验证集中注入异常的设定比例为1%，验证样本与重构样本的重构误差的计算方法为：
；
由于输入样本是具有固定长度的多变量时序数据，因此是包含多个传感器在一段时间内重构误差的矩阵；
验证集中每个传感器的重构误差集表示为：
；
其中，每个样本中第/>个传感器在/>时刻的重构误差表示为/>。
8.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤五中，重构误差使用最小-最大归一化方法获得取值范围为[0,1]的标准化分数：
；
采用滑动窗口自适应阈值方法，使用长度为的滑动窗口，计算每个传感器在窗口内历史样本重构误差的均值/>和标准差/>，然后使用均值和标准差计算每个传感器的当前样本对应的动态阈值/>：
；
其中，上下标分别表示个传感器和第/>个窗口；/>表示对应传感器的阈值调节系数，用来控制阈值对重构误差的敏感度。
9.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤六中，向测试集中注入异常的设定比例为1%，使用的测试模型是在验证集上几何平均数GM指标表现最好的CVAE-GAN模型，GM指标表现最好是指GM取最大值，测试样本与重构样本的重构误差采用与验证集中相同的重构误差计算和归一化方法。
10.根据权利要求1所述的基于CVAE-GAN模型的无人机传感器零样本故障检测方法，其特征在于：所述步骤七中，所述自适应阈值调节系数是使用CVAE-GAN模型在验证集上性能表现最优时各个传感器的值，如果测试样本与重构样本的重构误差大于对应传感器的动态阈值，表示该传感器在该时刻出现了故障；
CVAE-GAN模型的检测性能指标包括阈值相关指标和阈值无关指标，其中，阈值相关指标包括准确度Acc、敏感度Sen、特异度Spe和几何平均数GM；阈值无关指标包括ROC曲线的AUC值，具体计算方法如下：
；
；
；
；
其中：TN、TP、FN、FP分别代表真阴性、真阳性、假阴性、假阳性样本的数量。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311297725.7A CN117034020B (zh) | 2023-10-09 | 2023-10-09 | 一种基于cvae-gan模型的无人机传感器零样本故障检测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311297725.7A CN117034020B (zh) | 2023-10-09 | 2023-10-09 | 一种基于cvae-gan模型的无人机传感器零样本故障检测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117034020A true CN117034020A (zh) | 2023-11-10 |
| CN117034020B CN117034020B (zh) | 2024-01-09 |
Family
ID=88632291
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311297725.7A Active CN117034020B (zh) | 2023-10-09 | 2023-10-09 | 一种基于cvae-gan模型的无人机传感器零样本故障检测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117034020B (zh) |
Citations (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106055885A (zh) * | 2016-05-26 | 2016-10-26 | 哈尔滨工业大学 | 基于过采样投影近似基追踪无人机飞行数据异常检测方法 |
| CN110113353A (zh) * | 2019-05-20 | 2019-08-09 | 桂林电子科技大学 | 一种基于cvae-gan的入侵检测方法 |
| CN110689075A (zh) * | 2019-09-26 | 2020-01-14 | 北京工业大学 | 基于多算法融合的制冷设备的自适应阈值的故障预测方法 |
| CN110763997A (zh) * | 2019-11-04 | 2020-02-07 | 华北电力大学（保定） | 一种同步电机定子早期故障预警方法 |
| CN110908365A (zh) * | 2019-12-25 | 2020-03-24 | 西北工业大学 | 一种无人机传感器故障诊断方法、系统及可读存储介质 |
| CN111934903A (zh) * | 2020-06-28 | 2020-11-13 | 上海伽易信息技术有限公司 | 一种基于时序演化基因的Docker容器故障智能预测方法 |
| CN112633386A (zh) * | 2020-12-26 | 2021-04-09 | 北京工业大学 | 基于sacvaegan的高光谱图像分类方法 |
| CN112766386A (zh) * | 2021-01-25 | 2021-05-07 | 大连理工大学 | 一种基于多输入多输出融合网络的广义零样本学习方法 |
| CN113255783A (zh) * | 2021-05-31 | 2021-08-13 | 湖南安存科技有限公司 | 基于无监督学习的传感器故障检测方法和装置 |
| CN113361186A (zh) * | 2021-04-28 | 2021-09-07 | 山东大学 | 一种基于完全数据风电机组故障诊断方法 |
| CN113467248A (zh) * | 2021-07-22 | 2021-10-01 | 南京大学 | 基于强化学习的无人机传感器故障时容错控制方法 |
| CN113468703A (zh) * | 2021-07-23 | 2021-10-01 | 河南工业大学 | 一种ads-b报文异常检测器及检测方法 |
| CN113609569A (zh) * | 2021-07-01 | 2021-11-05 | 湖州师范学院 | 一种判别式的广义零样本学习故障诊断方法 |
| CN114707600A (zh) * | 2022-04-01 | 2022-07-05 | 西安电子科技大学 | 一种基于生成模型的异常检测方法及系统 |
| CN115204302A (zh) * | 2022-07-22 | 2022-10-18 | 贵州大学 | 一种无人机小样本故障诊断系统及方法 |
| CN115471712A (zh) * | 2022-10-18 | 2022-12-13 | 电子科技大学 | 一种基于视觉语义约束的生成零样本学习方法 |
| CN116167007A (zh) * | 2023-03-02 | 2023-05-26 | 北京锐达芯集成电路设计有限责任公司 | 基于门控递归单元自编码神经网络的模拟电路检测方法 |
| CN116540665A (zh) * | 2023-04-21 | 2023-08-04 | 西北工业大学 | 基于未知输入观测器的多无人机系统安全控制方法 |
| CN116578940A (zh) * | 2023-05-18 | 2023-08-11 | 山东省计算中心（国家超级计算济南中心） | 一种基于混合深度自编码的轴承故障新类识别与诊断方法 |
| CN116611184A (zh) * | 2023-05-16 | 2023-08-18 | 华电电力科学研究院有限公司 | 一种齿轮箱的故障检测方法、装置及介质 |
| CN116704641A (zh) * | 2023-06-16 | 2023-09-05 | 四川大学 | 无人机飞行数据异常检测方法、装置、设备及存储介质 |
| CN116738140A (zh) * | 2022-08-11 | 2023-09-12 | 西安交通大学 | 基于张量稀疏表示的高速列车传动系统故障诊断方法 |
| CN116840684A (zh) * | 2023-05-23 | 2023-10-03 | 昆明理工大学 | 一种基于混合神经网络的电池剩余拐点寿命预测方法 |
-
2023
- 2023-10-09 CN CN202311297725.7A patent/CN117034020B/zh active Active
Patent Citations (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106055885A (zh) * | 2016-05-26 | 2016-10-26 | 哈尔滨工业大学 | 基于过采样投影近似基追踪无人机飞行数据异常检测方法 |
| CN110113353A (zh) * | 2019-05-20 | 2019-08-09 | 桂林电子科技大学 | 一种基于cvae-gan的入侵检测方法 |
| CN110689075A (zh) * | 2019-09-26 | 2020-01-14 | 北京工业大学 | 基于多算法融合的制冷设备的自适应阈值的故障预测方法 |
| CN110763997A (zh) * | 2019-11-04 | 2020-02-07 | 华北电力大学（保定） | 一种同步电机定子早期故障预警方法 |
| CN110908365A (zh) * | 2019-12-25 | 2020-03-24 | 西北工业大学 | 一种无人机传感器故障诊断方法、系统及可读存储介质 |
| CN111934903A (zh) * | 2020-06-28 | 2020-11-13 | 上海伽易信息技术有限公司 | 一种基于时序演化基因的Docker容器故障智能预测方法 |
| CN112633386A (zh) * | 2020-12-26 | 2021-04-09 | 北京工业大学 | 基于sacvaegan的高光谱图像分类方法 |
| CN112766386A (zh) * | 2021-01-25 | 2021-05-07 | 大连理工大学 | 一种基于多输入多输出融合网络的广义零样本学习方法 |
| CN113361186A (zh) * | 2021-04-28 | 2021-09-07 | 山东大学 | 一种基于完全数据风电机组故障诊断方法 |
| CN113255783A (zh) * | 2021-05-31 | 2021-08-13 | 湖南安存科技有限公司 | 基于无监督学习的传感器故障检测方法和装置 |
| CN113609569A (zh) * | 2021-07-01 | 2021-11-05 | 湖州师范学院 | 一种判别式的广义零样本学习故障诊断方法 |
| CN113467248A (zh) * | 2021-07-22 | 2021-10-01 | 南京大学 | 基于强化学习的无人机传感器故障时容错控制方法 |
| CN113468703A (zh) * | 2021-07-23 | 2021-10-01 | 河南工业大学 | 一种ads-b报文异常检测器及检测方法 |
| CN114707600A (zh) * | 2022-04-01 | 2022-07-05 | 西安电子科技大学 | 一种基于生成模型的异常检测方法及系统 |
| CN115204302A (zh) * | 2022-07-22 | 2022-10-18 | 贵州大学 | 一种无人机小样本故障诊断系统及方法 |
| CN116738140A (zh) * | 2022-08-11 | 2023-09-12 | 西安交通大学 | 基于张量稀疏表示的高速列车传动系统故障诊断方法 |
| CN115471712A (zh) * | 2022-10-18 | 2022-12-13 | 电子科技大学 | 一种基于视觉语义约束的生成零样本学习方法 |
| CN116167007A (zh) * | 2023-03-02 | 2023-05-26 | 北京锐达芯集成电路设计有限责任公司 | 基于门控递归单元自编码神经网络的模拟电路检测方法 |
| CN116540665A (zh) * | 2023-04-21 | 2023-08-04 | 西北工业大学 | 基于未知输入观测器的多无人机系统安全控制方法 |
| CN116611184A (zh) * | 2023-05-16 | 2023-08-18 | 华电电力科学研究院有限公司 | 一种齿轮箱的故障检测方法、装置及介质 |
| CN116578940A (zh) * | 2023-05-18 | 2023-08-11 | 山东省计算中心（国家超级计算济南中心） | 一种基于混合深度自编码的轴承故障新类识别与诊断方法 |
| CN116840684A (zh) * | 2023-05-23 | 2023-10-03 | 昆明理工大学 | 一种基于混合神经网络的电池剩余拐点寿命预测方法 |
| CN116704641A (zh) * | 2023-06-16 | 2023-09-05 | 四川大学 | 无人机飞行数据异常检测方法、装置、设备及存储介质 |
Non-Patent Citations (3)
| Title |
|---|
| YOU-REN WANG等: ""Imbalanced sample fault diagnosis of rotating machinery using conditional variational auto-encoder generative adversarial network"", 《APPLIED SOFT COMPUTING JOURNAL》, pages 1 * |
| 叶林等: ""基于堆叠自动编码器的汽轮发电机多指标故障诊断模型"", 《中国电机工程学报》, vol. 42, no. 10, pages 3656 - 3669 * |
| 李静等: ""MicroAFL：一种云上微服务故障自动定位方法"", 《计算机技术与发展》, vol. 33, no. 5, pages 91 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117034020B (zh) | 2024-01-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107608335B (zh) | 无人机飞行控制系统故障检测与故障分离的数据驱动方法 | |
| CN111444953B (zh) | 一种基于改进粒子群优化算法的传感器故障监测方法 | |
| CN110348752B (zh) | 一种考虑环境干扰的大型工业系统结构安全性评估方法 | |
| CN117238058B (zh) | 基于数据分析的汽车用起动机监测方法 | |
| CN110866448A (zh) | 基于卷积神经网络和短时傅里叶变换的颤振信号分析方法 | |
| CN113188794B (zh) | 一种基于改进pso-bp神经网络齿轮箱故障诊断方法及装置 | |
| CN115828140A (zh) | 邻域互信息与随机森林相融合故障检测方法、系统及应用 | |
| Li et al. | A zero-shot fault detection method for UAV sensors based on a novel CVAE-GAN model | |
| Titouna et al. | An online anomaly detection approach for unmanned aerial vehicles | |
| CN104035431A (zh) | 用于非线性过程监控的核函数参数的获取方法和系统 | |
| Han et al. | Quadratic-Kalman-filter-based sensor fault detection approach for unmanned aerial vehicles | |
| CN117034020B (zh) | 一种基于cvae-gan模型的无人机传感器零样本故障检测方法 | |
| CN117171681B (zh) | 非平衡小样本下的无人机舵面智能故障诊断方法及装置 | |
| Dhakal et al. | UAV Fault and Anomaly Detection Using Autoencoders | |
| Pasha et al. | MEMS fault-tolerant machine learning algorithm assisted attitude estimation for fixed-wing UAVs | |
| Qiu et al. | Fault diagnosis of TE process using LSTM-RNN neural network and BP model | |
| CN116720149A (zh) | 基于时空相关性多元回归的飞行数据异常检测和恢复方法 | |
| Wang et al. | UAV actuator fault detection using maximal information coefficient and 1-D convolutional neural network | |
| CN117216635A (zh) | 基于多领域自适应构造式增量网络的轴承故障诊断方法 | |
| CN111121943A (zh) | 零点故障检测方法、装置、计算机设备和可读存储介质 | |
| Xiaoqian | A sensor fault diagnosis algorithm for uav based on neural network | |
| CN116678434A (zh) | 一种基于区间值置信规则库的三自激光惯组故障检测方法 | |
| Wang et al. | Quantitative Evaluation of Sensor Fault Diagnosability of F-16 High Maneuvering Fighter | |
| CN118094447B (zh) | 一种基于编码-解码的无人机飞行数据自适应异常检测方法 | |
| CN116992338B (zh) | 基于典型变量分析的飞行器imu传感器故障检测方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |