CN109034204B - 一种基于改进卷积神经网络的焊缝缺陷识别方法 - Google Patents

Abstract

本发明公开了一种基于改进卷积神经网络的焊缝缺陷识别方法，建立综合考虑池化域与其所在特征图特征分布的池化模型，引入修正因子μ对最大池化特征进行修正将ReliefF算法与神经网络相结合作为特征选择方法；构建具有上述池化模型和特征选择方法的深度卷积神经网络，以最小化代价函数为目标进行迭代，以训练形成焊缝缺陷识别神经网络，实现焊缝缺陷类型的识别。本发明方法避免了传统焊缝缺陷识别方法须人工提取特征的过程，且较传统改进前卷积神经网络模型的缺陷识别率有进一步提升。

Description

一种基于改进卷积神经网络的焊缝缺陷识别方法

技术领域

本发明属于焊缝缺陷自动识别技术领域，具体涉及一种基于改进卷积神经网络的焊缝缺陷识别方法。

背景技术

在焊缝缺陷自动识别领域，传统方法不可避免的要经历人工选取提取与特征的过程，该过程耗时费力，而且特征的选取是否合理具有很大的主观性，对于识别正确率有较大影响。

卷积神经网络经典池化模型(最大池化模型和平均池化模型)在对不同特征分布的池化域进行特征提取时，缺乏动态自适应性，导致提取特征不精确。

焊缝缺陷数据属于小样本、非海量的数据，而在非海量数据的情形下，卷积神经网络的学习不充分，从而使模型不能达到最优的特征选择。

发明内容

本发明所要解决的技术问题在于针对上述现有技术中的不足，提供一种基于改进卷积神经网络的焊缝缺陷识别方法，避免传统方法人工特征选择的过程；对神经网络的经典池化模型和特征选择方法做出改进，得到一种基于改进卷积神经网络的焊缝缺陷识别方法，将待识别焊缝图像送入训练好的深度神经网络，实现焊缝缺陷类型的自动识别。

本发明采用以下技术方案：

一种基于改进卷积神经网络的焊缝缺陷识别方法，建立综合考虑池化域与其所在特征图特征分布的池化模型，引入修正因子μ对最大池化特征进行修正；将ReliefF算法与神经网络相结合作为特征选择方法；构建具有上述池化模型和特征选择方法的深度卷积神经网络，以最小化代价函数为目标进行迭代，以训练形成焊缝缺陷识别神经网络，将待识别焊缝图像送入训练好的深度神经网络，实现焊缝缺陷类型的识别。

具体的，构建池化模型的具体步骤如下：

S101、获取当前池化域的特征方差σ_P与池化域所在特征图的特征方差σ_FM；

S102、构建综合考虑池化域与其所在特征图特征分布的池化模型。

进一步的，步骤S102中，池化模型表达如下：

其中：池化域大小为n×n，S为池化模型提取的池化特征，F_ij表示输入特征图F在(i,j)处的特征值，σ_P为池化域内特征方差，σ_FM为池化域所在特征图方差，μ为修正因子。

更进一步的，修正因子μ为池化域内特征值之和与特征极差的差与特征值之和的比例，具体计算如下：

μ＝(t_sum-t_max+t_min)/t_sum

其中，t_sum为池化域内特征值之和，t_min为池化域内最小特征值，t_max为池化域内最大特征值。

具体的，建立基于ReliefF算法与神经网络相结合的特征选择方法的步骤如下：

S201、根据类间比例，类内随机的抽样方法获取子样本集M；

S202、获取在样本集上提取到的用于分类的特征集合T，采用ReliefF算法对特征集合进行处理，得到初始特征权值向量L₀；

S203、将L₀权值为负的元素置为0后得到新的权值向量L₁，将L₁进行归一化处理后得到最终的权值向量L；

S204、将L中的特征权值对应地赋予特征选择层，得到特征选择层参数。

进一步的，步骤S201中，类间比例指各类别中样本被抽取次数占总抽样次数的比值与该类别中样本数与所有样本总数的比值，类内随机指在类别C中随机选取样本。

更进一步的，各类别中样本被抽取次数占总抽样次数的比值与该类别中样本数与所有样本总数的比值计算如下：

其中，n为类别C中样本的总数，m为所有类别样本的总数，C_n为类别C中样本被抽取次数，C_m为所有样本总共的抽取次数。

与现有技术相比，本发明至少具有以下有益效果：

本发明一种基于改进卷积神经网络的焊缝缺陷识别方法，根据池化域与其所在特征图特征分布，引入修正因子μ对最大池化特征进行修正，搭建卷积神经网络，建立基于ReliefF算法与神经网络相结合的特征选择方法；以最小化代价函数为目标进行迭代，以训练形成焊缝缺陷识别神经网络，将待识别焊缝图像送入训练好的深度神经网络，实现焊缝缺陷类型的识别，避免了人工选取特征的过程，得到了较高的缺陷正确识别率。

进一步的，本发明的池化模型基于焊缝缺陷及其周边区域对焊缝缺陷类型均有重要影响，综合考虑了池化域与其所在特征图特征分布，使得池化模型在面对不同池化域时具有一定的自适应性，兼具最大池化与平均池化的特点。

进一步的，将传统特征评价方法ReliefF算法与深度军机神经网络对特征重要性的理解相结合，在一定程度上解决了非海量数据下，深度卷积神经网络难以达到最优的特征选择的问题。

进一步的，采用类间比例类内随机的抽样方法，避免了传统ReliefF算法可能导致样本密集分布于某几类样本。不能完全覆盖整个样本集的缺点。

综上所述，本发明方法避免了传统焊缝缺陷识别方法须人工提取特征的过程，且较传统改进前卷积神经网络模型的缺陷识别率有进一步提升。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

图1为本发明中方法步骤图；

图2为实验样本焊缝图像；

图3为初始卷积神经网络模型；

图4为改进卷积神经网络模型。

具体实施方式

本发明提供了一种基于改进卷积神经网络的焊缝缺陷识别方法，构建具有特定架构的卷积神经网络，特定架构是在池化层提出了一种综合考虑池化域与其所在特征图特征分布的池化模型，该模型在经典最大池化模型的基础上，根据池化域与其所在特征图特征分布，引入一个修正因子μ对最大池化特征进行修正；提出了一种将传统特征评价方法Relief算法与神经网络相结合的特征选择方法；最小化代价函数为目标进行迭代，以训练形成所述焊缝缺陷识别神经网络，将待识别焊缝图像送入训练好的深度神经网络，实现焊缝缺陷类型的识别。本发明避免了传统焊缝缺陷识别方法须人工提取特征的过程，且较传统改进前卷积神经网络模型的缺陷识别率有进一步提升。

请参阅图1，本发明一种基于改进卷积神经网络的焊缝缺陷识别方法，具体步骤如下：

S1、针对焊缝缺陷及其周边区域对缺陷类型识别均有重要影响的特点，以及卷积神经网络中经典的池化模型(最大池化和平均池化)在提取特征过程中，均存在特征提取不精确的问题，对经典池化模型做出改进，建立综合考虑池化域与其所在特征图特征分布的池化模型；

S101、获取当前池化域的特征方差σ_P与池化域所在特征图的特征方差σ_FM；

S102、构建综合考虑池化域与其所在特征图特征分布的池化模型，其表达式如下：

其中：池化域大小为n×n，S为池化模型提取的池化特征，F_ij表示输入特征图F在(i,j)处的特征值，σ_P为池化域内特征方差，σ_FM为池化域所在特征图方差，μ为修正因子，其数学表示式为：

μ＝(t_sum-t_max+t_min)/t_sum

其中，t_sum为池化域内特征值之和，t_min为池化域内最小特征值，t_max为池化域内最大特征值。

S2、针对非海量数据的情形下，深度神经网络模型特征学习不充分，无法到最优的特征选择，建立传统特征评方法ReliefF算法与深度神经网络相结合的特征选择方法；

S201、根据类间比例，类内随机的抽样方法获取子样本集M；

在应用ReliefF算法对特征集合T进行处理过程中，采用“类间比例，类内随机”的抽样方法，“类间比例”是指各类别中样本被抽取次数占总抽样次数的比值与该类别中样本数与所有样本总数的比值，即：

其中，n为类别C中样本的总数，m为所有类别样本的总数，C_n为类别C中样本被抽取次数，C_m为所有样本总共的抽取次数；“类内随机”即在类别C中随机选取样本。

S202、获取在样本集上提取到的用于分类的特征集合T，采用ReliefF算法对特征集合进行处理，得到初始特征权值向量L₀；

S203、将L₀权值为负的元素置为0后得到新的权值向量L₁，将L₁进行归一化处理后得到最终的权值向量L；

S204、将L中的特征权值对应地赋予特征选择层，得到特征选择层参数。

S3、以最小化代价函数为目标进行迭代，以训练形成焊缝缺陷识别神经网络，将待分类图像输入到训练好的改进卷积神经网络中，实现焊缝缺陷类型的识别。

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中的描述和所示的本发明实施例的组件可以通过各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本申请对原始焊缝图像做出预处理，截取原始焊缝图像上大小为32 32的包含缺陷的区域作为感兴趣区域，并将感兴趣区域的图像作为神经网络的输入，选取选取557张感兴趣区域焊缝图像，其中包括134张裂纹图像，60张未融合图像，144张未焊透图像，52张长形缺陷图像，84张圆形缺陷，74张无缺陷图像共6大类图像。各类图像按照4:1的比例划分为训练集与测试集，共得到445张图像用于训练，112张图像用于测试。作为实验样本的部分图像如图2所示。

首先，构建如图3所示的初始卷积神经网络模型(图中C代表卷积层，S代表池化层，FC代表全连接层)，该模型由有两层卷积-池化模型以及两层全连接层和一个输出层构成。将池化层的选用最大池化模型时得到的卷积神经网络记为CNN-1，池化层的选用平均池化模型时得到的卷积神经网络记为CNN-2，池化层的选用本发明提出的池化模型时得到的卷积神经网络记为CNN-3。

构建如图4所示的初始卷积神经网络模型：在初始卷积神经网络的第FC6层与输出层之间添加ReliefF算法的特征选择层，将得到的卷积神经网络记为CNN-4。

为验证本发明提出的池化模型的有效性，在3种卷积神经网络CNN-1、CNN-2、CNN-3上进行实验，在不同迭代次数下对比三种模型的正确识别率，实验结果如下表1所示：

实验证明，本发明中提出的池化模型，在不同迭代迭代次数的情形下，识别率较最大池化模型和平均池化模型均有提高，且在迭代次数较少的情形下，优势更为明显。为验证本发明提出的池化模型的有效性，采用ReliefF算法对通过深度神经网络提取到的特征进行处理，得到权值向量并将其中负权值置0后进行归一化处理，权值向量L，表3展示了200次迭代次数下的得到的各特征的权值(即附图4中特征选择层各参数权值)：

在卷积神经网络CNN-4上进行实验，在不同迭代次数下对比CNN-1、CNN-2、CNN-3、CNN-4上模型的正确识别率，实验结果如下表3所示：

实验证明，本发明的中涉及的特征选择方法，识别率较改进前有一定提升。综上所述，本发明中涉及的改进卷积神经网络模型(包括改进池化模型以及特征选择方法)，较改进前对焊缝缺陷识率有一定的提升。

以上内容仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明权利要求书的保护范围之内。

Claims (4)

1.一种基于改进卷积神经网络的焊缝缺陷识别方法，其特征在于，建立综合考虑池化域与其所在特征图特征分布的池化模型，引入修正因子μ对最大池化特征进行修正；将ReliefF算法与神经网络相结合作为特征选择方法；构建具有上述池化模型和特征选择方法的深度卷积神经网络，以最小化代价函数为目标进行迭代，以训练形成焊缝缺陷识别神经网络，将待识别焊缝图像送入训练好的深度神经网络，实现焊缝缺陷类型的识别；

构建池化模型的具体步骤如下：

S101、获取当前池化域的特征方差σ_P与池化域所在特征图的特征方差σ_FM；

S102、构建综合考虑池化域与其所在特征图特征分布的池化模型，池化模型表达如下：

其中：池化域大小为n×n，S为池化模型提取的池化特征，F_ij表示输入特征图F在(i,j)处的特征值，σ_P为池化域内特征方差，σ_FM为池化域所在特征图方差，μ为修正因子；

建立基于ReliefF算法与神经网络相结合的特征选择方法的步骤如下：

S201、根据类间比例，类内随机的抽样方法获取子样本集M；

S202、获取在样本集上提取到的用于分类的特征集合T，采用ReliefF算法对特征集合进行处理，得到初始特征权值向量L₀；

S203、将L₀权值为负的元素置为0后得到新的权值向量L₁，将L₁进行归一化处理后得到最终的权值向量L；

S204、将L中的特征权值对应地赋予特征选择层，得到特征选择层参数。

2.根据权利要求1所述的一种基于改进卷积神经网络的焊缝缺陷识别方法，其特征在于，步骤S102中，修正因子μ为池化域内特征值之和与特征极差的差与特征值之和的比例，具体计算如下：

μ＝(t_sum-t_max+t_min)/t_sum

其中，t_sum为池化域内特征值之和，t_min为池化域内最小特征值，t_max为池化域内最大特征值。

3.根据权利要求1所述的一种基于改进卷积神经网络的焊缝缺陷识别方法，其特征在于，步骤S201中，类间比例指各类别中样本被抽取次数占总抽样次数的比值与该类别中样本数与所有样本总数的比值，类内随机指在类别C中随机选取样本。

4.根据权利要求3所述的一种基于改进卷积神经网络的焊缝缺陷识别方法，其特征在于，各类别中样本被抽取次数占总抽样次数的比值与该类别中样本数与所有样本总数的比值计算如下：

其中，n为类别C中样本的总数，m为所有类别样本的总数，C_n为类别C中样本被抽取次数，C_m为所有样本总共的抽取次数。

Images