CN105354595A - 一种鲁棒视觉图像分类方法及系统 - Google Patents

Abstract

本发明公开了一种鲁棒视觉图像分类方法及系统，为了有效实现训练样本内无标签样本的类别预测和待测样本的快速归纳与合理降维，通过将基于弹性回归分析的误差度量集成到训练样本外的标签传播模型，并通过参数权衡归一化流形正则化项、基于软标签l_2,1范数正则化的标签拟合项及基于l_2,1范数正则化的弹性回归残差项对样本描述及类别鉴定的影响，完成标签传播模型的建立；进而通过对标签传播模型的迭代优化获取用于确定待测样本的类别的投影矩阵。因此，本申请中通过引入基于l_2,1范数正则化的回归误差项及软标签l_2,1范数正则化，能够在继承标签传播分类方法的优点的同时有效提高了系统的鲁棒性，使待测样本的归纳过程快速且精确。

Description

一种鲁棒视觉图像分类方法及系统

技术领域

本发明涉及数据挖掘技术领域，更具体地说，涉及一种鲁棒视觉图像分类方法及系统。

背景技术

分类技术一直是数据挖掘中最根本、最核心的研究课题。近年，分类技术发展迅速，涌现了许多优秀的分类方法，如SVM，决策树，关联规则，神经网络和深度学习等等。许多分类系统已经投入使用并产生了巨大的社会、经济效益。而标签传播领域出现了一种基于投影的快速诱导式分类方法，大大提高了标签传播分类的精确度和速度。

标签传播分类是一种基于相似图构造的半监督学习方法。在实际操作中，用于监督学习的监督数据(具有类别标签的数据)十分稀缺，只能通过人工来标定，而这会耗费大量的时间及人力；但是大量的不具有类别标签的数据却能轻易收集到，因此半监督学习具有极高的实用价值与现实意义。在半监督学习中，标签传播分类因其快速、有效、简单的优点而引起人们的广泛关注。但是，大多数标签传播分类的方法均采用诱导式分类方法来实现，而诱导式分类方法由于其近邻选择会导致分类速度较慢。

综上所述，现有技术中的标签传播分类的方法存在分类速度较慢的问题。

发明内容

本发明的目的是提供一种鲁棒视觉图像分类方法及系统，以解决现有技术的标签传播分类的方法中存在的分类速度较慢的问题。

为了实现上述目的，本发明提供如下技术方案：

一种鲁棒视觉图像分类方法，包括：

步骤1：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对所述相似度量矩阵进行预设处理，得到重构系数矩阵，所述训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个所述训练样本的类别标签确定初始类别标签矩阵；

步骤2：基于所述重构系数矩阵及所述初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化所述标签传播模型获得投影矩阵及与所述训练样本的类别对应的软标签矩阵；

步骤3：利用所述投影矩阵对待测样本进行映射，得到与所述待测样本的类别对应的软标签；所述待测样本为未知其类别且未标定类别标签的样本。

优选的，步骤2包括：

利用下列公式计算所述投影矩阵及所述软标签矩阵：

$<F,P,b>=\arg \underset{F,P,b}{\min }\underset{i,j=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|\frac{f_j}{\sqrt{D_{ii}}}-\frac{f_j}{\sqrt{D_{jj}}}|{|}_2^2{W}_{i,j}+\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}{\mathrm{\&mu;}}_i{D}_{ii}||f_i-y_i|{|}_2^2+\mathrm{\&alpha;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|{\hat{f}}^i|{|}_2+\mathrm{\&beta;}\&lsqb;\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\right|p^i|{|}_2+\mathrm{\&gamma;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}|\left|r^i\right|{|}_2\&rsqb;$

Subjf_i≥0,e^Tf_i＝1fori＝1,2,...,l+u

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；为软标签矩阵F中的一列，其最大值元素所在位置对应的软标签为训练样本x_i的软标签，其中的表示c乘以l的矩阵空间；rⁱ为矩阵的一个行向量，其中的表示回归余数项，而表示l+u乘以c的矩阵空间；μ_i,α,β和γ均为大于零的参数，用于权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度。

优选的，步骤2包括:

利用下列公式计算所述投影矩阵及所述软标签矩阵：

$<F,P,b>\arg \underset{F,P,b}{\min }tr\left({\mathrm{FLF}}^T\right)+tr\left(\left(F-Y\right)UD{\left(F-Y\right)}^T\right)+\mathrm{\&alpha;}\left|\right|F^T|{|}_{2,1}+\mathrm{\&beta;}\left(\left|\right|P|{|}_{2,1}+\mathrm{\&gamma;}||X^{T}P+{\mathrm{eb}}^T-F^T|{|}_{2,1}\right)$

SubjF≥0,e^TF＝e^T

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；L＝D^-1/2(D-W)D^-1/2＝I-D^-1/2WD^-1/2，其是一个归一化的拉普拉斯矩阵；U是一个对角矩阵，其对角元素为μ_i；α,β和γ均为大于零的参数，用于权衡所述归一化流形正则化项、所述标签拟合项及所述弹性回归残差项的贡献程度；Y表示初始类别标签矩阵，X表示原始的训练集，e为自然常数。

优选的，所述对所述相似度量矩阵进行预设处理，得到重构系数矩阵，包括：

利用下列公式对所述相似度量矩阵进行对称化处理：

$\tilde{W}=\left(\tilde{W}+{\tilde{W}}^T\right)/2$

利用下列公式对所述相似度量矩阵进行归一化处理：

$W={\tilde{D}}^{-1/2}\tilde{W}{\tilde{D}}^{-1/2}$

其中，表示相似度量矩阵，为对角矩阵，对角元素

优选的，步骤3包括：

获取待测样本x_i；

利用P^Tx_i将所述待测样本x_i嵌入到投影矩阵P中，得到预测向量；

确定所述预测向量中最大概率的元素对应的软标签即为所述待测样本x_i的软标签。

优选的，所述基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，包括：

利用K近邻算法对每个所述训练样本进行处理，得到每个训练样本的K个最近邻样本，K为正整数；

采用LLE-重构权的构造方法利用所述训练样本及每个所述训练样本的K个最近邻样本获取与所述训练样本对应的相似度量矩阵。

优选的，所述根据每个所述训练样本的类别标签确定初始类别标签矩阵，包括：

初始化定义一个行数为c、列数为N的矩阵Y；

对于任一有标签样本x_j，若该有标签样本x_j属于第i类，则Y_i,j＝1，若有标签样本x_j不属于第i类，则Y_i,j＝0；对于任一无标签样本x_j，则Y_i,j＝0。

一种鲁棒视觉图像分类系统，包括：

预处理模块，用于：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对所述相似度量矩阵进行预设处理，得到重构系数矩阵，所述训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个所述训练样本的类别标签确定初始类别标签矩阵；

训练模块，用于：基于所述重构系数矩阵及所述初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化所述标签传播模型获得投影矩阵及与所述训练样本的类别对应的软标签矩阵；

测试模块，用于：利用所述投影矩阵对待测样本进行映射，得到与所述待测样本的类别对应的软标签；所述待测样本为未知其类别且未标定类别标签的样本。

本发明提供了一种鲁棒视觉图像分类方法及系统，该方法包括：步骤1：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对所述相似度量矩阵进行预设处理，得到重构系数矩阵，所述训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个所述训练样本的类别标签确定初始类别标签矩阵；步骤2：基于所述重构系数矩阵及所述初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化所述标签传播模型获得投影矩阵及与所述训练样本的类别对应的软标签矩阵；步骤3：利用所述投影矩阵对待测样本进行映射，得到与所述待测样本的类别对应的软标签；所述待测样本为未知其类别且未标定类别标签的样本。

与现有技术相比，本发明公开的一种鲁棒视觉图像分类方法，为了有效实现训练样本内无标签样本的类别预测和待测样本的快速归纳与合理降维，通过将基于弹性回归分析的误差度量集成到训练样本外的标签传播模型，并通过参数权衡归一化流形正则化项、基于软标签l_2,1范数正则化的标签拟合项及基于l_2,1范数正则化的弹性回归残差项对样本描述及类别鉴定的影响，完成标签传播模型的建立；进而通过对标签传播模型的迭代优化获取用于确定待测样本的类别的投影矩阵。因此，本申请中通过引入基于l_2,1范数正则化的回归误差项及软标签l_2,1范数正则化，能够在继承标签传播分类方法的优点的同时有效提高了系统的鲁棒性，使待测样本的归纳过程快速且精确，另外，增强了系统的可拓展性。即，本发明提供的一种鲁棒视觉图像分类方法及系统，能够在提高分类性能的同时大大提高诱导式过程的速度。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的一种鲁棒视觉图像分类方法的流程图；

图2为本发明实施例提供的一种鲁棒视觉图像分类系统的结构示意图；

图3为本发明实施例提供的一种鲁棒视觉图像分类方法及系统中获取人脸图像测试样本的类别的标签预测示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1，其示出了本发明实施例提供的一种鲁棒视觉图像分类方法的流程图，可以包括以下步骤：

S11：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对相似度量矩阵进行预设处理，得到重构系数矩阵，训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个训练样本的类别标签确定初始类别标签矩阵。

其中，训练集中训练样本的数量可以根据实际需要进行确定。训练样本的类别标签是与训练样本的类别相对应的，对于未知其类别的训练样本，不对其进行类别标签的标定，对于已知其类别的训练样本，利用与其类别对应的类别标签对其进行标定。

该部分主要完成对于训练样本的预处理，包括进行相关变量、参数的设置和初始化，即对训练集中的训练样本进行相似性学习，以构造重构系数矩阵，并人工标定初始类别标签矩阵Y。

S12：基于重构系数矩阵及初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化标签传播模型获得投影矩阵及与训练样本的类别对应的软标签矩阵。

根据软标签矩阵可以获知全部训练样本的类别标签，包括原始的无标签样本。即，通过上述步骤，完成了对于无标签样本的类别预测。

S13：利用投影矩阵对待测样本进行映射，得到与待测样本的类别对应的软标签；待测样本为未知其类别且未标定类别标签的样本。

步骤S13即为利用投影矩阵预测待测样本的类别，包括对其进行软标签预测或者特征降维处理，将待测样本的投影嵌入至标签空间以确定待测样本的类别。

该步骤主要是对待测样本进行诱导式标签预测，即利用投影矩阵对待测样本进行投影，将待测样本由高维图像张量空间嵌入至低维标签空间，并预测得到其软标签，从而完成诱导式半监督图像分类过程。

本发明公开的一种鲁棒视觉图像分类方法，为了有效实现训练样本内无标签样本的类别预测和待测样本的快速归纳与合理降维，通过将基于弹性回归分析的误差度量集成到训练样本外的标签传播模型，并通过参数权衡归一化流形正则化项、基于软标签l_2,1范数正则化的标签拟合项及基于l_2,1范数正则化的弹性回归残差项对样本描述及类别鉴定的影响，完成标签传播模型的建立；进而通过对标签传播模型的迭代优化获取用于确定待测样本的类别的投影矩阵。因此，本申请中通过引入基于l_2,1范数正则化的回归误差项及软标签l_2,1范数正则化，能够在继承标签传播分类方法的优点的同时有效提高了系统的鲁棒性，使待测样本的归纳过程快速且精确，另外，增强了系统的可拓展性。即，本发明提供的一种鲁棒视觉图像分类方法，能够在提高分类性能的同时大大提高诱导式过程的速度。

上述实施例提供的一种鲁棒视觉图像分类方法中，根据每个训练样本的类别标签确定初始类别标签矩阵，可以包括：

初始化定义一个行数为c(类别数)、列数为N(训练样本总数)的矩阵Y(所有元素均初始化为0)；

对于任一有标签样本x_j，若该有标签样本x_j属于第i类，则Y_i,j＝1，若有标签样本x_j不属于第i类，则Y_i,j＝0；对于任一无标签样本x_j，则Y_i,j＝0。

具体的，可以令为训练集中训练样本的初始类别标签矩阵，作用为对训练集中训练样本的已知的类别标签进行标记。其中，表示n乘以l+u的矩阵空间，y_i为列向量，对应第i个训练样本x_i。对于原始标签矩阵Y，在训练集的有标签样本中，如果已知训练样本x_j属于第i类，则赋值y_i,j＝1(1≤i≤c)，同列其他元素均赋值为0，即y_i,j＝0(1≤i≤c)；对于训练集中的无标签样本，其所有列元素均赋值为0，即y_i,j＝0(1≤i≤c)。即，从而保证Y的每列元素之和均为1(即类别标签的位置的值为1，其他位置的值均为0)，表示每个有标签样本有且仅有一个已知、假定正确的类别标签。

另外，基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵可以，包括：

利用K近邻算法对每个训练样本进行处理，得到每个训练样本的K个最近邻样本，K为正整数；

采用LLE-重构权的构造方法利用训练样本及每个训练样本的K个最近邻样本获取与训练样本对应的相似度量矩阵。

即，对训练集中的所有训练样本使用LLE-重构权的构造方法构建相似度量矩阵，权重有效范围设定为K近邻。具体为：

在训练集中，对每个训练样本x_i寻找K个最近邻，据此形成所有训练样本的K近邻集N(x_i)，其中，i＝1,2,...,l+u。近邻训练样本间的权重由LLE-重构权进行衡量，非近邻训练样本间的权重设置为零。任意训练集中训练样本x_i和x_j间的相似度使用LLE-重构权的进行表征，具体为最小化近邻重构误差：

当x_i为无标签样本时，当x_i和x_j均为有标签样本，且x_j≠i∈N(x_i)，即x_i和x_j为近邻关系时，且 通过对每个训练样本重复上述步骤，可以得到相似度量矩阵

由此，通过增强近邻域内有标签样本间的权重，一方面能更确定该区域的有标签样本的类别标签的标定结果准确，另一方面增强局部区域内顶点(即有标签样本)的权重影响力，使无标签样本落在该区域时，更倾向于分类为该区域的标签。

而对相似度量矩阵进行预设处理，得到重构系数矩阵，可以包括：

利用下列公式对相似度量矩阵进行对称化处理：

$\tilde{W}=\left(\tilde{W}+{\tilde{W}}^T\right)/2$

利用下列公式对相似度量矩阵进行归一化处理：

$W={\tilde{D}}^{-1/2}\tilde{W}{\tilde{D}}^{-1/2}$

其中，表示相似度量矩阵，为对角矩阵，对角元素W为重构系数矩阵。

通过对相似度量矩阵进行归一化处理，训练集中训练样本构成的图构造中，低密度区域内的权重将被增大，高密度区域内的权重将被减小，能有效降低训练样本分布图中密度显著变化区域对分类性能的影响。

上述实施例提供的一种鲁棒视觉图像分类方法中，步骤S12可以包括：

利用下列公式计算投影矩阵及软标签矩阵：

$<F,P,b>=\arg \underset{F,P,b}{\min }\underset{i,j=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|\frac{f_j}{\sqrt{D_{ii}}}-\frac{f_j}{\sqrt{D_{jj}}}|{|}_2^2{W}_{i,j}+\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}{\mathrm{\&mu;}}_i{D}_{ii}||f_i-y_i|{|}_2^2+\mathrm{\&alpha;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|{\hat{f}}^i|{|}_2+\mathrm{\&beta;}\&lsqb;\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\right|p^i|{|}_2+\mathrm{\&gamma;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}|\left|r^i\right|{|}_2\&rsqb;$

Subjf_i≥0,e^Tf_i＝1fori＝1,2,...,l+u

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量，用于容纳回归余数项的波动；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j，表示训练样本x_i在图上与近邻训练样本的权重之和；为软标签矩阵F中的一列，其最大值元素所在位置对应的软标签为训练样本x_i的软标签，其中的表示c乘以l的矩阵空间；rⁱ为矩阵的一个行向量，其中的表示回归余数项，其含义为训练样本的弹性投影结果与软标签的差距，而表示l+u乘以c的矩阵空间；μ_i,α,β和γ均为大于零的参数，用于权衡归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度。同时加入列和为一约束e^Tf_i＝1fori＝1,2,...,l+u和非负约束f_i≥0，在两项约束的共同作用下，能确保F始终符合概率值的定义。为投影矩阵，或称为投影分类器，或特征提取器。

利用上述公式，实际实现为：在标签传播模型中集成参数权衡归一化流形正则化项、基于软标签l_2,1范数正则化的标签拟合项、基于投影分类器l_2,1范数正则化的弹性回归残差项。同时在标签传播模型中加入列和为1的约束和非负约束，在两项约束的共同作用下，能确保软标签始终符合概率值的定义；其中非负约束并不总是需要调用，因为软标签出现负值的概率较小，仅当迭代过程中出现负值时调用。

为增强模型的鉴别能力，引入l2,1-范数进行稀疏性约束；为更清楚表示l2,1-范数项，将上式转换写成矩阵形式，具体为：

$<F,P,b>\arg \underset{F,P,b}{\min }tr\left({\mathrm{FLF}}^T\right)+tr\left(\left(F-Y\right)UD{\left(F-Y\right)}^T\right)+\mathrm{\&alpha;}\left|\right|F^T|{|}_{2,1}+\mathrm{\&beta;}\left(\left|\right|P|{|}_{2,1}+\mathrm{\&gamma;}||X^{T}P+{\mathrm{eb}}^T-F^T|{|}_{2,1}\right)$

SubjF≥0,e^TF＝e^T

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；L＝D^-1/2(D-W)D^-1/2＝I-D^-1/2WD^-1/2，其是一个归一化的拉普拉斯矩阵；U是一个对角矩阵，其对角元素为μ_i；α,β和γ均为大于零的参数，用于权衡归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度；Y表示初始类别标签矩阵，X表示原始的训练集，e为自然常数。

上述模型中的l2,1-范数项共有三个，其中，||P||_2,1使投影矩阵P的每行足够稀疏，增强了模型的鲁棒性和对噪音的容纳能力；l2,1正则化项||F^T||_2,1能使F中的许多微小元素变为零，进而大大降低数据中可能存在的混合信号以及噪音对分类性能的影响；l2,1-范数约束的回归余数||X^TP+eb^T-F^T||_2,1，或称损失函数，较之普遍使用的Frobenius范数，对噪音更具有鲁棒性。因此，上述模型较之FME，具有更好的鲁棒性和更优越的分类性能。

上述模型可以进一步转换为如下形式：

其中，为一个对角矩阵，其对角元素i＝1,2,...,l+u；为一个对角矩阵，对角元素g_ii＝1/2||pⁱ||₂,i＝1,...,n；也为对角矩阵，对角元素v_ii＝1/2||rⁱ||₂,i＝1,2,...,l+u；R＝X^TP+eb^T-F^T＝[r¹,r²,...,r^l+u]，且，pⁱ≠0,i＝1,2,...,n，rⁱ≠0,i＝1,2,...,l+u。其中，最小化tr(FHF^T)和tr(P^TGP)的过程，实际分别是F和P和稀疏性约束。

上述实施例提供的一种鲁棒视觉图像分类方法中，步骤S13可以包括：

获取待测样本x_i；

利用P^Tx_i将待测样本x_i嵌入到投影矩阵P中，得到预测向量；

确定预测向量中最大概率的元素对应的软标签即为待测样本x_i的软标签。

具体来说，其中x_i为待测样本，对于任一待测样本诱导预测所得的最大值的位置对应预测得到的软标签，即即，利用投影矩阵P对待测样本进行投影分类，将待测样本从原始维度空间嵌入至低维标签空间，并预测得到待测样本的预测软标签，完成基于张量描述的诱导式半监督图像分类过程。并确定输出的相似性概率的最大值为待测样本的软标签，得到最准确的分类结果。

与上述方法实施例相对应，本发明实施例还提供了一种鲁棒视觉图像分类系统，如图2所示，可以包括：

预处理模块21，用于：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对相似度量矩阵进行预设处理，得到重构系数矩阵，训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个训练样本的类别标签确定初始类别标签矩阵；

训练模块22，用于：基于重构系数矩阵及初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化标签传播模型获得投影矩阵及与训练样本的类别对应的软标签矩阵；

测试模块23，用于：利用投影矩阵对待测样本进行映射，得到与待测样本的类别对应的软标签；待测样本为未知其类别且未标定类别标签的样本。

本发明公开的一种鲁棒视觉图像分类系统，为了有效实现训练样本内无标签样本的类别预测和待测样本的快速归纳与合理降维，通过将基于弹性回归分析的误差度量集成到训练样本外的标签传播模型，并通过参数权衡归一化流形正则化项、基于软标签l_2,1范数正则化的标签拟合项及基于l_2,1范数正则化的弹性回归残差项对样本描述及类别鉴定的影响，完成标签传播模型的建立；进而通过对标签传播模型的迭代优化获取用于确定待测样本的类别的投影矩阵。因此，本申请中通过引入基于l_2,1范数正则化的回归误差项及软标签l_2,1范数正则化，能够在继承标签传播分类方法的优点的同时有效提高了系统的鲁棒性，使待测样本的归纳过程快速且精确，另外，增强了系统的可拓展性。即，本发明提供的一种鲁棒视觉图像分类系统，能够在提高分类性能的同时大大提高诱导式过程的速度。

上述实施例提供的一种鲁棒视觉图像分类系统中，训练模块可以包括：

第一训练单元，用于利用下列公式计算投影矩阵及软标签矩阵：

$<F,P,b>=\arg \underset{F,P,b}{\min }\underset{i,j=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|\frac{f_j}{\sqrt{D_{ii}}}-\frac{f_j}{\sqrt{D_{jj}}}|{|}_2^2{W}_{i,j}+\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}{\mathrm{\&mu;}}_i{D}_{ii}||f_i-y_i|{|}_2^2+\mathrm{\&alpha;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}{\left|\right|{\hat{f}}^i\left|\right|}_2+\mathrm{\&beta;}[\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\left|\right|p^i\left|\right|}_2+\mathrm{\&gamma;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}{\left|\right|r^i\left|\right|}_2]$

Subjf_i≥0,e^Tf_i＝1fori＝1,2,...,l+u

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；为软标签矩阵F中的一列，其最大值元素所在位置对应的软标签为训练样本x_i的软标签，其中的表示c乘以l的矩阵空间；rⁱ为矩阵的一个行向量，其中的表示回归余数项，而表示l+u乘以c的矩阵空间；μ_i,α,β和γ均为大于零的参数，用于权衡归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度。

上述实施例提供的一种鲁棒视觉图像分类系统中，训练模块可以包括：

第二训练单元，用于利用下列公式计算投影矩阵及软标签矩阵：

$<F,P,b>\arg \underset{F,P,b}{\min }tr\left({\mathrm{FLF}}^T\right)+tr\left(\left(F-Y\right)UD{\left(F-Y\right)}^T\right)+\mathrm{\&alpha;}\left|\right|F^T|{|}_{2,1}+\mathrm{\&beta;}\left(\left|\right|P|{|}_{2,1}+\mathrm{\&gamma;}||X^{T}P+{\mathrm{eb}}^T-F^T|{|}_{2,1}\right)$

SubjF≥0,e^TF＝e^T

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；L＝D^-1/2(D-W)D^-1/2＝I-D^-1/2WD^-1/2，其是一个归一化的拉普拉斯矩阵；U是一个对角矩阵，其对角元素为μ_i；α,β和γ均为大于零的参数，用于权衡归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度；Y表示初始类别标签矩阵，X表示原始的训练集，e为自然常数。

上述实施例提供的一种鲁棒视觉图像分类系统中，预处理模块可以包括：

第一预处理单元，用于利用下列公式对相似度量矩阵进行对称化处理：

$\tilde{W}=\left(\tilde{W}+{\tilde{W}}^T\right)/2$

利用下列公式对相似度量矩阵进行归一化处理：

$W={\tilde{D}}^{-1/2}\tilde{W}{\tilde{D}}^{-1/2}$

其中，表示相似度量矩阵，为对角矩阵，对角元素

第二预处理单元，用于：利用K近邻算法对每个训练样本进行处理，得到每个训练样本的K个最近邻样本，K为正整数；采用LLE-重构权的构造方法利用训练样本及每个训练样本的K个最近邻样本获取与训练样本对应的相似度量矩阵。

第三预处理单元，用于：初始化定义一个行数为c、列数为N的矩阵Y；对于任一有标签样本x_j，若该有标签样本x_j属于第i类，则Y_i,j＝1，若有标签样本x_j不属于第i类，则Y_i,j＝0；对于任一无标签样本x_j，则Y_i,j＝0。

上述实施例提供的一种鲁棒视觉图像分类系统中，测试模块可以包括：

预测单元，用于：获取待测样本x_i；利用P^Tx_i将待测样本x_i嵌入到投影矩阵P中，得到预测向量；确定预测向量中最大概率的元素对应的软标签即为待测样本x_i的软标签。

对于本发明实施例提供的一种鲁棒视觉图像分类系统，由于其与上述实施例公开的一种鲁棒视觉图像分类方法相对应，因此，对于其具体说明可参阅上述方法实施例的相关内容。

另外需要说明的是，本发明实施例在5个真实人脸数据集中对本发明实施例提供的一种鲁棒视觉图像分类方法进行测试，包括ExtendedYale-B人脸数据库、AR人脸数据库、CMUPIE人脸数据库、CMUPose(lightsandilluminationchange)人脸数据库和MITCBCL人脸数据库。基于计算的高效性考虑，所使用的人脸图像数据均统一压缩为32×32，即1024维的向量模型。其中，上述人脸数据集分别对应包括有2414、2600、11554、2856和3240个样本；其中CMUPose人脸数据库共有20类，其他数据集均为10类。

以ExtendedYale-B人脸数据库为例说明上述步骤，具体为：首先从ExtendedYale-B人脸数据库中随机选取一定比例的数据(包含少量有标签样本和适量无标签样本)组成训练集，剩余数据作为测试集(均为无标签的待测样本)；设选出的训练集为其中，表示n乘以l+u的矩阵空间，n是数据的原始维度，l+u＝N为训练样本中有标签样本与无标签样本的数量之和，为训练集中的有标签样本集，且X_L中的每个样本有且仅有一个属于标签集{1,2,...,c}中的类别标签，同时标签集{1,2,...,c}中的每种类别标签均被包含于有标签样本集X_L中；为训练样本中的无标签样本集。在本实施例ExtendedYale-B人脸数据集中，数据维度n为1024，总样本数量为2414，标签类别数c为38，数据平衡度为0.9219，实验中每类标签取有标签样本个数分别为10、15和20。

为了避免Gaussianfunction不同核参数的选择带来的误差，所有方法将统一使用LLE-重构权进行相似性度量，构建重构系数矩阵，同时出于合理权重的考虑，对所有权重都进行对称化与归一化处理。实验中所有方法在K近邻选择中，K将统一在该范围{3,5,...,13,15}进行选择，并返回性能最好的K值。对于本发明方法在实验中使用的参数α，β，γ，λ，均从{10^-8,10^-6,...,10⁶,10⁸}中选取；训练集中的标签权重α_l和α_u分别设置为0和0.999999。

在分类实验中，数据集将被随机分为训练集与测试集，其中训练集中含有有标签样本与无标签样本，且有标签样本中包含了样本的所有类别；测试集中均为无标签的待测样本。请参阅表1，为本实验所使用的数据集的相关信息，包括样本维度、样本数量、标签类别数量、样本平衡度和实验采用的有标签样本集比例或每类中有标签样本集内有标签样本的数量。其中，样本平衡度表示样本数量最多的类与样本数量最少的类的样本数量比值，反映了数据分布的平衡性。为保证公平性，实验结果均为20次随机实验的平均结果。同时，所有使用的数据均经过主成分分析(PCA：PrincipalComponentAnalysis)处理，以保存95％的主成分。表2为本发明实施例提供的一种鲁棒视觉图像分类方法在针对ExtendedYale-B人脸数据集进行的实验中与其他7个相关的标签传播算法在人脸图像数据集上的分类实验结果对比，其中其他7个相关的标签传播算法包括直推式的GFHF、LLFC、LNP、SLP和归纳式的SDA、LapLDA及FME。对于每个方法，分别给出了基于训练集中无标签样本的直推式预测结果(Unlab±STD)；对于SDA、LapLDA、FME和本发明实施例提供的一种鲁棒视觉图像分类方法，还给出了各种方法在测试中无标签样本上的归纳预测结果(Test±STD)。

表1、本方法实验使用数据集的相关信息

表2、在ExtendedYale-B人脸数据集上各方法分类实验结果对比表

请参阅图3，为本发明实施例公开的一种鲁棒图像视觉分类方法获取人脸图像测试样本的类别的标签预测示意图，其中，测试样本即为测试集中的任一待测样本。通过实验结果可以看出，本发明实施例提供的一种鲁棒图像视觉分类方法的分类效果明显优于传统经典的标签传播算法和以弹性标签嵌入为基础的FME，具有更高的适用性和鲁棒性。因此，本发明提出的图像分类系统也具有同样的效果。

对所公开的实施例的上述说明，使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (8)

1.一种鲁棒视觉图像分类方法，其特征在于，包括：

步骤1：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对所述相似度量矩阵进行预设处理，得到重构系数矩阵，所述训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个所述训练样本的类别标签确定初始类别标签矩阵；

步骤2：基于所述重构系数矩阵及所述初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化所述标签传播模型获得投影矩阵及与所述训练样本的类别对应的软标签矩阵；

步骤3：利用所述投影矩阵对待测样本进行映射，得到与所述待测样本的类别对应的软标签；所述待测样本为未知其类别且未标定类别标签的样本。

2.根据权利要求1所述的方法，其特征在于，步骤2包括：

利用下列公式计算所述投影矩阵及所述软标签矩阵：

$<F,P,b>=\arg \underset{F,P,b}{\min }\underset{i,j=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|\frac{f_j}{\sqrt{D_{ii}}}-\frac{f_j}{\sqrt{D_{jj}}}|{|}_2^2{W}_{i,j}+\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}{\mathrm{\&mu;}}_i{D}_{ii}||f_i-y_i|{|}_2^2+\mathrm{\&alpha;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}\left|\right|{\hat{f}}^i|{|}_2+\mathrm{\&beta;}\&lsqb;\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\right|p^i|{|}_2+\mathrm{\&gamma;}\underset{i=1}{\overset{l+u}{\mathrm{\&Sigma;}}}|\left|r^i\right|{|}_2\&rsqb;$

Subjf_i≥0,e^Tf_i＝1fori＝1,2,...,l+u

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；为软标签矩阵F中的一列，其最大值元素所在位置对应的软标签为训练样本x_i的软标签，其中的表示c乘以l的矩阵空间；rⁱ为矩阵的一个行向量，其中的表示回归余数项，而表示l+u乘以c的矩阵空间；μ_i,α,β和γ均为大于零的参数，用于权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度。

3.根据权利要求1所述的方法，其特征在于，步骤2包括:

利用下列公式计算所述投影矩阵及所述软标签矩阵：

$<F,P,b>\arg \underset{F,P,b}{\min }tr\left({\mathrm{FLF}}^T\right)+tr\left(\left(F-Y\right)UD{\left(F-Y\right)}^T\right)+\mathrm{\&alpha;}\left|\right|F^T|{|}_{2,1}+\mathrm{\&beta;}\left(\left|\right|P|{|}_{2,1}+\mathrm{\&gamma;}||X^{T}P+{\mathrm{eb}}^T-F^T|{|}_{2,1}\right)$

SubjF≥0,e^TF＝e^T

其中，F表示软标签矩阵，P表示投影矩阵，b表示弹性常量；W表示重构系数矩阵，W_i,j表示训练样本x_i的近邻训练样本x_j对训练样本x_i的协同重构权重；D是一个对角矩阵，其对角元素D_ii＝Σ_jW_i,j；L＝D^-1/2(D-W)D^-1/2＝I-D^-1/2WD^-1/2，其是一个归一化的拉普拉斯矩阵；U是一个对角矩阵，其对角元素为μ_i；α,β和γ均为大于零的参数，用于权衡所述归一化流形正则化项、所述标签拟合项及所述弹性回归残差项的贡献程度；Y表示初始类别标签矩阵，X表示原始的训练集，e为自然常数。

4.根据权利要求2或3所述的方法，其特征在于，所述对所述相似度量矩阵进行预设处理，得到重构系数矩阵，包括：

利用下列公式对所述相似度量矩阵进行对称化处理：

$\tilde{W}=\left(\tilde{W}+{\tilde{W}}^T\right)/2$

利用下列公式对所述相似度量矩阵进行归一化处理：

$W={\tilde{D}}^{-1/2}\tilde{W}{\tilde{D}}^{-1/2}$

其中，表示相似度量矩阵，为对角矩阵，对角元素

5.根据权利要求2或3所述的方法，其特征在于，步骤3包括：

获取待测样本x_i；

利用P^Tx_i将所述待测样本x_i嵌入到投影矩阵P中，得到预测向量；

确定所述预测向量中最大概率的元素对应的软标签即为所述待测样本x_i的软标签。

6.根据权利要求1所述的方法，其特征在于，所述基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，包括：

利用K近邻算法对每个所述训练样本进行处理，得到每个训练样本的K个最近邻样本，K为正整数；

采用LLE-重构权的构造方法利用所述训练样本及每个所述训练样本的K个最近邻样本获取与所述训练样本对应的相似度量矩阵。

7.根据权利要求6所述的方法，其特征在于，所述根据每个所述训练样本的类别标签确定初始类别标签矩阵，包括：

初始化定义一个行数为c、列数为N的矩阵Y；

对于任一有标签样本x_j，若该有标签样本x_j属于第i类，则Y_i,j＝1，若有标签样本x_j不属于第i类，则Y_i,j＝0；对于任一无标签样本x_j，则Y_i,j＝0。

8.一种鲁棒视觉图像分类系统，其特征在于，包括：

预处理模块，用于：基于近邻定义及重构权的构造方法对预先获取的训练集中的训练样本进行处理，得到相似度量矩阵，对所述相似度量矩阵进行预设处理，得到重构系数矩阵，所述训练样本包括已知其类别并标定有与其类别对应的类别标签的有标签样本及未知其类别且未标定有类别标签的无标签样本；根据每个所述训练样本的类别标签确定初始类别标签矩阵；

训练模块，用于：基于所述重构系数矩阵及所述初始类别标签矩阵，将归一化流形正则化项、标签拟合项及弹性回归残差项集成到统一的标签传播模型的框架中，并利用参数权衡所述归一化流形正则化项、标签拟合项及弹性回归残差项的贡献程度，通过迭代优化所述标签传播模型获得投影矩阵及与所述训练样本的类别对应的软标签矩阵；

测试模块，用于：利用所述投影矩阵对待测样本进行映射，得到与所述待测样本的类别对应的软标签；所述待测样本为未知其类别且未标定类别标签的样本。