CN103632160A - 一种融合多尺度形态学特征的组合核函数rvm高光谱分类方法 - Google Patents

Abstract

本发明提供一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法。包括以下步骤：(1)使用主成分变换对所述高光谱图像进行降维；(2)采用数学形态学变换，在所述主成分变换后的高光谱图像进行空间特征提取；(3)根据核函数的理论分别构造了基于加法，基于乘法和基于加权加法三种形式的组合核函数；使用所述组合核函数方法融合图像的光谱特征和空间特征；(4)使用本发明所述的组合核函数RVM分类器，对高光谱图像进行分类，使用AVIRIS高光谱影像进行了分类实验。与传统的基于光谱特征的RVM分类器相比，在训练时间没有明显增加的前提下，组合核函数RVM的分类精度有了显著提升。且本发明所述方法稳定性强，对样本数目不敏感。

Description

一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法

技术领域

本发明涉及高光谱图像处理方法与应用技术领域，更具体地，涉及一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法。

背景技术

高光谱图像以光谱分辨率高的优势受到国内外的广泛关注。高光谱图像的光谱覆盖范围从可见光到近红外，能够获取地物几乎连续的波段信息。高光谱图像极高的光谱分辨率一方面可以鉴别更精细的地物类别，也给传统的遥感图像分类方法带来了挑战。

传统的高光谱监督分类方法有：极大似然法、人工神经网络等。神经网络方法参数初始化困难、容易出现局部最优和过学习现象，训练过程比较缓慢。往往无法获得足够数量的训练样本，影响各类别先验知识的估计；高光谱影像分类的一个难点就是随着波段数量的增加，直接利用所有波段信息的分类精度反而有可能下降，也就是出现所谓的维数灾难(Hughes现象)。

支持向量机(SVM)在高光谱分类中逐渐受到关注。该方法在高光谱分类中取得了比传统方法更高的精度。但是SVM方法也存在着不足。例如：必须给定一个惩罚系数C，这个参数必须通过大量的交叉验证或附加优化算法来进行确定，计算复杂度高，而且对结果有很大的影响；核函数必须满足Mercer条件；支持向量个数与训练样本数相比虽然具备一定的稀疏性，但是依然会随着训练样本数的增加而成线性增加，造成模型预测时间的增加。

2000年，模式识别领域出现了相关向量机分类器的应用研究(RVM，RelevanceVector Machine)。与SVM相比，RVM方法最大的优势在于：模型没有惩罚系数C，降低了对超参数的敏感性；核函数不需要满足Mercer条件；解的稀疏性高。这使得基于RVM的高光谱分类方法在实时性要求高的图像分类问题中具有应用潜力。然而现有的基于RVM的高光谱分类方法的研究都是基于图像的光谱特征，并没有充分利用图像的空间特征。

在分类器中引入图像的空间特征可以提高分类精度，这就涉及到空间特征融合方法。常用的空间特征融合方法有两种：最简单的空间特征融合策略是在分类结束后对分类结果图进行空间信息滤波，然而该方法受模版大小影响较大。另一种方法是将图像的空间特征和光谱特征共同组成特征向量，由于高光谱图像波段数目多，因此波段合成的方法急剧增加了数据量且造成了波段冗余。尽管利用特征提取的方法可以降低数据的维数，但是特征提取耗时长，有的情况下还需要先验知识。

最近，在模式识别领域出现了组合核函数方法的研究和应用。组合核函数方法已经通过与SVM分类器相结合在文本分类，模式识别等领域取得了应用。但是在这些研究中，组合核函数的构造都是基于单一特征空间的。由于RVM分类器的研究和应用尚处于探索阶段，关于组合核函数RVM的研究尚不多见，虽然也有研究用组合核函数RVM进行特征提取和电力负荷预测等。但是在这些研究中，组合核函数的构造仍然是基于单一特征空间的。基于不同特征空间构造的组合核函数RVM分类器则未见报道。在遥感图像处理领域，结合空间特征和光谱特征的组合核函数RVM分类器的研究和应用也未见报道。

发明内容

本发明的目的在于针对现有方法的上述不足，提供一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法。目的在于充分结合高光谱图像的空间特征和光谱特征，以提高分类的精度。

本发明的步骤如附图1所示，融合多尺度形态学特征的组合核函数RVM高光谱分类方法，其特征在于，包括以下步骤：

步骤一：对高光谱图像进主成分变换。分类过程中融合光谱特征和空间特征可以有效的提高分类精度，但是将导致数据量急剧增大，同时数据维数增加到一定程度反而会导致分类精度下降。因此本文首先使用PCA变换(PrincipalComponents Analysis，PCA)对图像进行降维。得到训练样本集的特征向量

x_n∈R^d，t_n∈R。其中，N是训练样本集的样本个数。x_k表示第k个样本。y_k是与样本k相对应的标签。

步骤二：采用数学形态学变换，在所述主成分变换后的高光谱图像进行空间特征提取。得到图像的空间特征空间特征向量

数学形态学通过开启(Opening)和闭合(closing)操作可以得到图像的形态学特征。本发明采用基于重构的开启和闭合运算对图像进行空间特征提取。为了充分利用图像空间特征的多尺度特性，计算过程中将形态学运算模版的尺寸逐渐增大，对图像迭代的进行开启和闭合运算得到图像的多尺度形态学特征向量，作为图像的空间特征。

步骤三：根据核函数的理论分别构造基于加法，基于乘法和基于加权加法三种形式的组合核函数；使用所述组合核函数方法融合图像的光谱特征和空间特征。其中，光谱特征是图像所有原始波段组成的光谱特征向量

空间特征为是多尺度形态学方法提取出来的特征向量

步骤四：通过特征提取得到训练样本和测试样本样本的特征矢量x_n={x^s,x^w}，由样本的光谱特征向量

与空间特征向量

组成。使用所述的组合核函数作为RVM分类器的核函数，进行分类器的训练，并对高光谱图像进行分类。

优选的是，所述的融合多尺度形态学特征的组合核函数RVM高光谱分类方法，在步骤二中，基于多尺度形态学方法对主成分变换后的图像进行空间特征提取，其具体实现方式如下：

(1)对图像进行开重构运算。设

是开重构算子，其表达式为：

${\mathrm{\γ}}_{\mathrm{\λ}}^{*}={\mathrm{\δ}}^{\left(\mathrm{rec}\right)}(\mathrm{f\ΘB},f)$

其中，fΘB表示对图像做腐蚀运算。

设Δγ(x)表示通过开重构运算得到图像的形态学特征，使用一系列尺寸逐渐增大的方形结构元素，对图像连续进行闭重构运算，由此得到开重构运算得到的形态学特征Δγ(x)：

$\mathrm{\Δ\γ}\left(x\right)=\{{\mathrm{\Δ\γ}}_{\mathrm{\λ}}:{\mathrm{\Δ\γ}}_{\mathrm{\λ}}=|{\mathrm{\Π\γ}}_{\mathrm{\λ}}-{\mathrm{\Π\γ}}_{\mathrm{\λ}-1}|,\∀\mathrm{\λ}\∈[1,n\left]\right\}$

其中，n为开运算的次数。根据形态学的定义，当λ=0时，∏γ₀(x)=I(x)。

(2)设

是闭重构运算算子，对于每一个主成分图像进行闭重构运算的表达式为：

其中，

表示对图像做膨胀运算。

使用一系列尺寸逐渐增大的方形结构元素，对图像连续进行闭重构运算，由此得到图像的形态学特征

的数学表达式为：

其中，n为闭运算的次数。根据形态学的定义，当λ=0时，

(3)基于开重构运算得到的形态学特征

与闭重构运算得到的形态学特征Δγ(x)，可以得到单个主成分波段的多尺度形态学特征Δ(x)，其数学表达式为：

其中，n为开闭运算的次数，c=1,2,...,2n。

(4)对主成分图像的每一个波段，分别进行开重构运算与闭重构运算，计算出单个主成分波段的多尺度形态学特征Δ(x)，最终得到图像的空间特征。

优选的是，所述的融合多尺度形态学特征的组合核函数RVM高光谱分类方法，步骤三中，三种形式的组合核函数的计算中，光谱核矩阵K_s采用径向基核函数计算，光谱核矩阵K_s的计算公式如下：

$K_s=\exp {(-\mathrm{\γ}||x_i^s-x_j^s|\left|\right)}^2$

其中，x^s为图像原始波段组成的光谱特征向量，γ为径向基核函数参数，通过交叉验证方法求出。

优选的是，所述的融合多尺度形态学特征的组合核函数RVM高光谱分类方法，空间核矩阵K_w采用径向基核函数，计算公式如下：

$K_w=\exp {(-\mathrm{\γ}||x_i^w-x_j^w|\left|\right)}^2$

其中，x^w为基于多尺度形态学方法提取出的空间特征向量，γ为径向基核函数参数，通过交叉验证方法求出。

优选的是，所述的融合多尺度形态学特征的组合核函数RVM高光谱分类方法，设图像的光谱特征为

图像的空间特征为

将光谱特征和空间特征分别进行归一化至(0,1)：

$x^s=\frac{x^s-x_{\min }^s}{x_{\max }^s-x_{\min }^s}$

$x^w=\frac{x^w-x_{\min }^w}{x_{\max }^w-x_{\min }^w}$

优选的是，所述的融合多尺度形态学特征的组合核函数RVM高光谱分类方法，步骤三中，组合核函数的具体构造方法如下：

设图像的光谱特征为

图像的空间特征为

利用两个非线性变换φ₁(.)和φ₂(.)分别将所述图像的光谱特征和所述图像的空间特征变换到Hilbert空间H₁和H₂中。分别构造。三种形式的组合核函数来融合图像的光谱特征与空间特征。分别是基于加法运算的组合核函数K_sum，基于加权加法的组合核函数K_weight和基于乘法运算的组合核函数K_product。三种形式的组合核函数的计算方法如下：

(a)所述基于加法运算的组合核函数K_sum的数学表达式为：

$K_{\mathrm{sum}}(x_i,x_j)=\{{\mathrm{\φ}}_1\left(x_i^s\right),{\mathrm{\φ}}_2\left(x_i^w\right)\}$

$=<\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\},\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}>$

$=K_s(x_i^s,x_j^s)+K_w(x_i^w,x_j^w)$

其中，K_s和K_w分别为所述光谱特征与空间特征经过非线性变换计算得到的核矩阵。

(b)在所述基于加权加法的组合核函数K_weight的基础上构造基于加权加法的组合核函数，其数学表达如下：

其中，0≤μ≤1，μ控制着两个核函数的权重。K_s和K_w分别为所述光谱特征与空域特征构成的核矩阵。

(c)所述基于乘法运算的组合核函数K_product的数学表达式如下：

$K_{\mathrm{product}}(x_i,x_j)=\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}$

$=K_s(x_i^s,x_j^s)*K_w(x_i^w,x_j^w),$

其中，K_s和K_w分别为所述光谱特征与空间特征构成的核矩阵。

优选的是，在所述的融合多尺度形态学特征的组合核函数RVM高光谱分类方法中，所述的步骤四中组合核函数RVM分类器的训练过程如下：

(1)RVM模型最初是用于解决两类分类问题的，而高光谱图像分类属于多类分类问题，本发明所述的方法采用一对一法(One Against One，OAO)将多类分类问题分解成一系列两类分类问题。首先针对两类分类RVM分类器，构造训练样本

    其中，x_n∈R^d，t_n∈R。目标值t_n采用下式计算：

t_n=y(x_n;w)+ε_n

其中，误差ε_n是独立的，且服从零均值Gauss分布，方差为σ²，即p(t_n|x)=N(t_n|y(x_n),σ²)。

(2)RVM的判决函数y(x_n)采用下式计算：

$y(x_i;w)=\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}[w_{i}K(x,x_i)+w_0]$

其中，w=(w₀,w₁,...,w_n)^T为权重系数，K(x,x_i)为RVM分类器的核函数。与现有方法不同，本发明中RVM分类器的核函数采用所述步骤三中的组合核函数，分别是加法核K_sum，乘法核K_weight和基于加权加法的核函数K_product。

(3)对于目标值t_n，采用Bernoulli分布构造条件概率密度函数来计算。训练样本集的似然函数p(t|w)采用Bernoulli分布计算，训练样本集的似然函数的计算公式如下：

$p\left(t\right|w)=\underset{n=1}{\overset{N}{\mathrm{\&Pi;}}}\mathrm{\&sigma;}{\left\{y(x_n;w)\right\}}^{t_n}{[1-\mathrm{\&sigma;}\{y(x_n;w)\left\}\right]}^{1-t_n}$

其中，w_i是RVM的权值向量，服从均值为0，方差为

的Gauss条件概率分布，即：

$p\left(w\right|\mathrm{\&alpha;})=\underset{i=0}{\overset{N}{\mathrm{\&Pi;}}}N\left(w_i\right|0,{\mathrm{\&alpha;}}_i^{-1})$

其中，α=[α₀,α₁,α₂,...，α_N]^T，α是决定权值向量先验概率的超参数向量，通过快速序列稀疏贝叶斯方法求解。

(4)计算出y(x)之后，通过Sigmoid函数将y(x)映射到[0,1]内进行类别判定。Sigmoid函数表达式：

σ(y)=1/(1+e^-y)

(5)求解多分类组合核函数RVM问题。采用一对一法(One Against One，OAO)将多类分类问题转化成一系列的二类分类问题，然后采用所述的步骤(1)~(5)求解。具体步骤如下：在训练样本集T(i，j)中找出所有不同类别的样本两两配对组成多类分类器，总共有P=k(k-1)/2个。用属于这两个类别的训练样本组成两类问题的训练样本集

分别求得P个判别函数f_(i，j)(x)。分类时，将训练样本

分别计算P个判别函数f_(i，j)(x)。若f_(i，j)(x)=+1，判定X为i类，i类别增加一票，否则判为j类，j类别增加一票。最后综和k个类别在P个判别函数结果中的得票数，票数最多的类别就是最终判定类别。

本发明的特点及效果：

(1)本发明应用于高光谱图像分类，能有效的融合图像的空间特征和光谱特征。与传统的基于光谱特征的RVM方法相比，在不增加训练时间的前提下，本发明所述方法能够显著提升分类精度。本发明构造了三种形式的组合核函数RVM分类器，其中基于乘法的组合核函数RVM分类法的总体精度OA与Kappa系数分别提高了4.2%和5.05%。基于加权加法的组合核函数RVM分类法的总体精度OA与Kappa系数分别提高了4.24%和4.98%。基于加法的组合核函数RVM分类法对总体分类精度的提升最明显，其总体精度OA与Kappa系数分别提高了4.21%和4.95%。

(2)本发明所述方法稳定性强，对样本数目不敏感。随着训练样本的增加，三种形式的组合核函数RVM方法的分类精度都有所提升。然而当训练样本占总样本的比例超过一定比例之后，组合核函数RVM方法的分类精度趋于稳定。说明本发明所述组合核函数RVM方法稳定性强，对训练样本集的大小不敏感。本发明所述的方法在样本稀少情况下的高光谱图像分类问题中具有一定的优势和应用潜力。

附图说明

为了使本发明便于理解，现在结合附图描述本发明的具体实施例。

图1示出了本发明所述的流程示意图。

图2示出了本发明所述的一优选实施例的Indian Pine实验区的高光谱图像。

图3示出了本发明所述的一优选实施例的Indian Pine实验区典型地物分布图。

图4示出了本发明所述的一优选实施例的Indian Pine实验区图像使用多尺度形态学方法提取出的空间特征图。

图5示出了本发明所述的一优选实施例分别采用现有方法与本发明所述的基于三种形式组合核函数RVM分类方法的分类结果图。其中，图5(a)表示传统的基于光谱特征的RVM对所述高光谱图像的分类结果；图5(b)表示本发明中基于加法核(K_sum)的组合核函数RVM对所述高光谱图像的分类结果；图5(c)表示基于本发明中基于乘法核(Kproduct)的组合核函数RVM对所述高光谱图像的分类结果；图5(d)表示本发明中基于加权加法的组合核函数(Kweight)RVM分类结果对所述高光谱图像的分类结果。

具体实施方式

本发明提出了一种新的融合了多尺度形态学特征的组合核函数RVM高光谱分类方法。使用本发明所述方法进行真实高光谱数据分类实验，从精度、稀疏程度等方面将组合核函数RVM分类方法与传统的单纯基于光谱特征的RVM分类方法进行了对比研究。

下面结合附图和优选的实施方式对本发明作进一步详细描述。所述实验采用的计算机硬件环境为Intel Core2双核CPU，1.58GHz/3.25GB内存。软件环境为Microsoft Windows XP、Matlab R2008a。本发明所述算法由MATLAB R2008a实现。

权利要求中构成要件和实施例中具体实例之间的对应关系可以如下例证。这里的描述意图在于确认在实施例中描述了用来支持在权利要求中陈述的主题的具体实例，由于在实施例中描述了实例，不意味着该具体实例不表示构成要件。相反地，即使在此包含了具体实例作为对应一个构成要件的要素特征，也不意味着该具体实例不表示任何其它构成要件。

此外，这里的描述不意味着对应于实施例中陈述的具体实例的所有主题都在权利要求中引用了。换句话说，这里的描述不否认这种实体，即对应实施例包含的具体实例，但不包含在其任何一项权利要求中，即，能够在以后的修正被分案并申请、或增加的可能发明的实体。

应当注意的是，“系统”在此意味着由两个或更多设备构成的处理。

显而易见地，用户终端可以由个人计算机构成。此外，所述用户终端还可以由例如蜂窝电话、任何其它PDA（个人数字助理）工具、AV（音频视频）装置、诸如家用电气（家庭用电气化）设备的CE（消费电子设备）等构成。

“网络”意味着至少连接了两个设备的机构，并且在其中，一条信息能够从一个设备发送到另一个设备。经由网络建立通信的设备可以是彼此分离的，也可以是构成一个机器的内部模块。

“通信”可表示无线通信和有线通信。然而，还可以是混合无线和有线通信的通信，更具体地，在某个区段采取无线通信而在另一个区段采取有线通信的通信。同样，它也可以是这样的通信：从一个设备向另一设备的通信是有线的，且相反方向的通信是无线的。

图2示出了本发明所述的一优选实施例的高光谱图像。该图像是AVIRIS传感器于1992年拍摄的Indian Pine实验区的高光谱图像。该图像大小为145×145，共有220个波段，覆盖的波长范围为0.4μm～2.5μm。该地区的多种地物光谱较为相似、分类难度大，是高光谱分类算法性能测试的标准数据。实验之前预先去除该数据的水吸收波段和低信噪比波段，剩余169个波段。

图3示出了所述的高光谱图像的地面验证数据，该图像共包含16种地物类别，本发明的所述实验采用9种典型地物，共包含9345个样本点。

表1示出了所述高光谱图像的样本情况：

表1 Indian Pine实验区实例样本数

结合附图及实施方式详细说明如下：

1.主要实施步骤：

1.1图像特征提取和降维。具体实施方式为：对输入的高光谱图像采用主成分变换(PCA)的方法进行降维。

表2示出了实验区图像经过PCA变换的特征值和累积贡献率。从表2可以看出，所述的高光谱图像前三个主成分已包含了图像超过99%的信息量，因此实验选取PCA变换的前3个主成分波段，在此基础上提取图像的空间特征。

表2 Indian Pine实验区图像主成分变换结果

图4示出了本发明所述的一优选实施例的Indian Pine实验区图像的多尺度形态学特征图。在本发明所述的实验中采用方形结构元素作为形态学运算的模版。迭代次数n为5。

1.2使用所述多尺度形态学方法，在步骤一得到的主成分图像上提取出图像的空间特征。为了有效的利用图像空间信息的多尺度特性，本发明使用一系列半径逐渐增大的结构元素SE，对图像重复进行形态学开重构和闭重构运算。具体实现步骤如下：

(1)对主成分图像进行开重构运算。设

是开重构算子，其表达式为：

${\mathrm{\&gamma;}}_{\mathrm{\&lambda;}}^{*}={\mathrm{\&delta;}}^{\left(\mathrm{rec}\right)}(\mathrm{f\&Theta;B},f)$

其中，fΘB表示对图像做腐蚀运算。

设Δγ(x)表示通过开重构运算得到图像的形态学特征，使用一系列尺寸逐渐增大的方形结构元素，对图像连续进行闭重构运算，由此得到开重构运算得到的形态学特征Δγ(x)：

$\mathrm{\&Delta;\&gamma;}\left(x\right)=\{{\mathrm{\&Delta;\&gamma;}}_{\mathrm{\&lambda;}}:{\mathrm{\&Delta;\&gamma;}}_{\mathrm{\&lambda;}}=|{\mathrm{\&Pi;\&gamma;}}_{\mathrm{\&lambda;}}-{\mathrm{\&Pi;\&gamma;}}_{\mathrm{\&lambda;}-1}|,\&ForAll;\mathrm{\&lambda;}\&Element;[1,n\left]\right\}$

其中，n为开运算的次数。根据形态学的定义，当λ=0时，∏γ₀(x)=I(x)。

(2)设

是闭重构运算算子，对于主成分图像的每一个波段进行闭重构运算的表达式为：

其中，表示对图像做膨胀运算。

使用一系列尺寸逐渐增大的方形结构元素，对图像连续进行闭重构运算，由此得到图像的形态学特征

的数学表达式为：

其中，n为闭运算的次数。根据形态学的定义，当λ=0时，

(3)基于开重构运算得到的形态学特征与闭重构运算得到的形态学特征Δγ(x)，可以得到图像的多尺度形态学特征Δ(x)，其数学表达式为：

其中，n为开闭运算的次数，c=1,2,...,2n。

(4)对主成分图像的每一个波段，分别执行上述(1)~(3)步的计算，得到图像的空间特征向量。

1.3使用组合核函数融合图像的空间特征和光谱特征，其实施步骤如下：

根据Mercer定理及其推论：假设k₁和k₂是定义在X×X上的核，x,x',X∈R，a∈R⁺，f(·)是定义在X上的一个实值函数，φ:X →R^N，那么下列函数仍然是核函数：(1)k(x,x')=k₁(x,x')+k₂(x,x')；(2)k(x,x')=ak₁(x,x')；(3)k(x,x')=k₁(x,x')·k₂(x,x')。

根据Mercer定理及其性质，对于不同的核函数，其非负线性组合仍然满足Mercer条件，仍然可以作为核函数。本发明基于Mercer定理及其性质构造组合核函数。定义样本的光谱特征为

空间特征

其中，光谱特征是采用所述图像的所有原始波段构成的光谱特征向量。空间特征

是采用所述图像采用多尺度形态学方法提取出的空间特征向量。K_s和K_w分别是根据相应的核函数计算得到的光谱核矩阵与空间核矩阵。

(1)由图像的光谱特征计算光谱核矩阵K_s与空间核K_w的基函数采用径向基核函数。光谱核矩阵的具体计算方法如下：

$K_s=\exp {(-\mathrm{\&gamma;}||x_i^s-x_j^s|\left|\right)}^2$

其中，x^s为光谱特征向量，γ为径向基核函数参数，控制着核函数的宽度。通过交叉验证方法确定参数γ。

(2)采用径向基核函数计算空间核矩阵K_w，空间核矩阵的计算公式如下：

$K_w=\exp {(-\mathrm{\&gamma;}||x_i^w-x_j^w|\left|\right)}^2$

其中，x^w为基于多尺度形态学方法提取出的空间特征向量，γ为径向基核函数参数，控制着核函数的宽度。通过交叉验证方法确定参数γ。

(3)由图像的光谱特征向量和空间特征向量，根据下式计算基于加法运算的组合核函数K_sum：

$K_{\mathrm{sum}}(x_i,x_j)=\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}$

$=<\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\},\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}>$

$=K_s(x_i^s,x_j^s)+K_w(x_i^w,x_j^w)$

其中，光谱特征

是采用所述图像的所有原始波段构成的光谱特征向量。空间特征

是采用所述图像采用多尺度形态学方法提取出的空间特征向量。K_s和K_w分别是根据相应的核函数计算得到的光谱核矩阵与空间核矩阵。

(4)由图像的光谱特征向量和空间特征向量，计算基于加权加法的组合核函数，其数学表达如下：

其中，0≤μ≤1，它控制着两个核函数的权重。

(5)由图像的光谱特征向量和空间特征向量，计算基于乘法运算的组合核函数，其数学表达如下：

$K_{\mathrm{product}}(x_i,x_j)=\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}$

$=K_s(x_i^s,x_j^s)*K_w(x_i^w,x_j^w),$

其中，光谱特征是采用所述图像的所有原始波段构成的光谱特征向量。空间特征是采用所述图像采用多尺度形态学方法提取出的空间特征向量。K_s和K_w分别是根据相应的核函数计算得到的光谱核矩阵与空间核矩阵。

1.4组合核函数RVM分类器的训练，具体步骤如下：

(1)首先训练两类分类组合核函数RVM分类器。具体步骤如下：

通过特征提取得到训练样本和测试样本

x_n∈R^d，t_n∈R。其中，N是训练样本集的样本个数。x_k表示第k个样本，y_k是与样本k相对应的标签。

对于给定的训练样本

x_n∈R^d，t_n∈R。其中，目标值t_n可以表示为：

t_n=y(x_n;w)+ε_n

其中，ε_n表示误差，是独立的，且服从零均值Gauss分布，方差为σ²，即p(t_n|x)=N(t_n|y(x_n),σ²)

判决函数y(x_n)为基函数的线性组合，计算公式为：

$y(x_i;w)=\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}[w_{i}K(x,x_i)+w_0]$

其中，w=(w₀,w₁,...,w_n)^T为权重系数。K(x,x_i)为核函数，与现有方法不同，本发明中RVM分类器的核函数分别本发明所述的基于加法的组合核函数K_sum，基于加权加法的组合核函数K_weight和基于乘法的组合核函数K_product。具体计算方法采用权利要求1所述的组合核函数的计算流程来计算。

(2)采用Bernoulli分布计算条件概率密度函数，首先根据下式计算训练样本集的似然函数：

$p\left(t\right|w)=\underset{n=1}{\overset{N}{\mathrm{\&Pi;}}}\mathrm{\&sigma;}{\left\{y(x_n;w)\right\}}^{t_n}{[1-\mathrm{\&sigma;}\{y(x_n;w)\left\}\right]}^{1-t_n}$

其中，w_i是RVM的权值向量，为服从均值为0方差为

的Gauss条件概率分布：

$p\left(w\right|\mathrm{\&alpha;})=\underset{i=0}{\overset{N}{\mathrm{\&Pi;}}}N\left(w_i\right|0,{\mathrm{\&alpha;}}_i^{-1})$

其中，α=[α₀,α₁,α₂,...,α_N]^T，α是N+1维超参数向量。

σ(y)为Sigmoid函数，计算公式为：

σ(y)=1/(1+e^-y)

(3)训练多类分类组合核函数RVM分类器。本发明所述的方法采用一对一法(One Against One，OAO)将多类分类问题分解成一系列两类分类问题求解像元归属的地物类别。具体步骤如下：在训练样本集T中找出所有不同类别两两配对组成多类分类器，总共有P=k(k-1)/2个。用属于这两个类别的训练样本组成两类问题的训练样本集T(i，j)，然后求解两类问题，分别求得P个判别函数f_(i，j)(x)。分类时，将输入样本X分别送到P个判别函数f_(i，j)(x)，若f_(i，j)(x)=+1，判X为i类，i类获得一票，否则判为j类，j类获得统计一票。k个类别在P个判别函数结果中的得票数，票数最多的类别就是最终判定类别。

2.实例结果

2.1实验一

所述实验一从精度、解的稀疏程度和计算效率3个方面比较了传统的基于单一特征的RVM分类方法与本发明的三种组合核函数RVM分类方法的性能。所述实验采用总体精度(Overall Accuracy,OA)、Kappa系数(Kappa Coefficient,KC)、训练时间和基函数数量4个指标作为分类器性能的评价标准。所述实验一将各类样本按数量随机等分成两部分作为训练样本和测试样本。训练样本从图2所示的样本中随机抽取，从各类别中抽取占该类别50%的样本作为训练样本。径向基核函数参数通过交叉验证的方法获得。

图5示出了本发明所述的一优选实施例的组合核函数RVM分类方法与基于传统的RVM分类方法的分类结果图，其中，图5(a)表示传统的基于光谱特征的RVM方法对所述高光谱图像的分类结果；图5(b)表示本发明中基于加法的组合核函数(K_sum)的组合核函数RVM方法对所述高光谱图像的分类结果；图5(c)表示基于本发明中基于乘法核(K_product)的组合核函数RVM方法对所述高光谱图像的分类结果；图5(d)表示本发明中基于加权加法的组合核函数(K_weight)RVM方法对所述高光谱图像的分类结果。

从上述图5可以看出，基于光谱的RVM分类方法在类别可分性较高的C3、C4、C5和C9类处精度较高，而对于可分性较低的C1、C2、C6、C7和C8五种农作物则误分较多。

表3示出了实验区图像基于本发明所述三种形式的组合核函数RVM方法与基于单纯光谱特征的RVM方法的性能比较。其中，K_sum表示基于加法的组合核函数；K_product表示基于乘法的组合核函数；K_weight表示基于加权加法的核函数。K_s和K_w分别表示基于光谱特征核函数和基于空间特征核的函数；其中，加权加法核函数的权重系数从0至1间隔0.1进行实验。表3中列出了权重取0.8时加权加法核函数的实验结果。

表3实验区图像基于不同方法分类的性能测试

表4示出了实验区图像基于组合核函数RVM与基于单纯光谱特征的RVM分类器的各类别的分类精度。其中，K_sum表示基于加权加法的组合核函数；K_product表示基于乘法的组合核函数；K_weight表示基于加权加法的组合核函数。表中加权加法的组合核函数权重取值为0.8。K_s和K_w分别表示基于光谱特征核函数和基于空间特征的核函数；

表4实验区图像基于不同方法分类各类别分类精度(核函数参数取1)

从上述表3可以得出以下结论：

(1)训练时间方面：与基于单一特征的RVM分类器相比，组合核函数RVM分类器的训练时间没有显著增加。其中，基于乘法核函数的RVM训练时间与单一核函数RVM相当。基于乘法核的RVM分类器的训练时间略高于光谱核RVM。

(2)模型的稀疏程度方面：组合核函数RVM的相关向量(RVs)数目比基于单一特征的RVM没有显著增加。其中，加法核RVM分类器的相关向量数目均低于单一特征的分类器。

(3)分类精度方面：与单独使用光谱特征与空间特征的RVM分类器相比，组合核函数RVM的分类精度有了显著提升。本发明构造了三种形式的组合核函数RVM分类器，其中基于乘法的组合核函数RVM分类法的总体精度OA与Kappa系数分别提高了4.2%和5.05%。基于加权加法的组合核函数RVM分类法的总体精度OA与Kappa系数分别提高了4.24%和4.98%。基于加法的组合核函数RVM分类法对总体分类精度的提升最明显，其总体精度OA与Kappa系数分别提高了4.21%和4.95%。

从上述表4可以看出，融入了所述的多尺度形态学特征之后，几乎各类别的分类精度均有所提升。尤其是对于C1、C2、C6、C7和C8五种较难分的类别，空间特征的引入对于该类别分类精度的提升作用较为明显。从上述表4可以看出，光谱特征比较擅长鉴别C3、C4、C6、C9这几个类别，而空间信息比较擅长鉴别C5、C8。说明图像的光谱特征和空间特征具有一定的互补性，组合核函数的融合方法综合了光谱特征和空间特征的互补特性，取得了最高的总体分类精度。

综上，本发明所述的三种组合核函数RVM分类器的性能优于传统的基于光谱特征的RVM分类器。

2.2实验二

为了考察本发明所述方法的稳定性，即训练样本对本发明算法的影响，所述实验二进一步从所述实验一的训练样本集中随机选取占原有训练样本的50%，60%，80%的样本作为训练样本，而测试数据集保持原有的样本不变。径向基核函数参数通过交叉验证的方法获得。

表5示出了实验区图像基于三种形式的组合核函数RVM方法分类的各类别总体精度。表中，K_sum表示基于加权加法的组合核函数；K_product表示基于乘法的组合核函数；K_weight表示基于加权加法的核函数。K_s和K_w分别表示基于光谱特征核函数和基于空间特征核的函数；其中，加权加法核函数的权重系数从0至1间隔0.1进行实验。表5中列出了权重取0.8时加权加法核函数的实验结果。

表5选取不同数量的训练样本时基于不同方法分类的各类别总体精度

从上述表5可以看出：随着训练样本的增加，三种形式的组合核函数RVM方法的分类精度都有所提升。然而当训练样本占总样本的比例超过一定比例之后，组合核函数RVM方法的分类精度趋于稳定。说明本发明所述组合核函数RVM方法稳定性强，对训练样本集的大小不敏感。

综上，与单独使用光谱特征和空间特征的RVM分类器相比，本发明所述的三种组合核函数RVM分类器的训练时间和相关向量数目都没有显著增加，而总体分类精度OA和Kappa系数均有明显提高，而且本发明对训练样本集的大小不敏感，稳定性强。实验表明，本发明所述的方法在样本稀少情况下的高光谱图像分类问题中具有一定的优势和应用潜力。

需要说明的是，本发明的实验采用了满足Mercer条件的核函数来训练分类器，由于RVM不要求核函数满足Mercer条件，有更多的核函数可以用来训练RVM分类器。对于如何选取RVM的核函数以及相应的参数，还有待于进一步研究。另外，本发明采用了形态学方法提取了图像的空间特征，也可以进一步提取出图像的形状特征和其他特征，与光谱特征共同参与分类。同时，组合核函数的方法不仅限于两个核函数的情况，还可以融合图像的其他特征共同组成核函数，并用于RVM分类器的训练。

上述详细描述通过实施例和/或示意图阐明了系统和/或过程的各种实施例。就这些示意图和/或包含一个或多个功能和/或操作而言，本领域技术人员将理解，这些示意图或实施例中的每一个功能和/或操作都可由各种各样的硬件、软件、固件、或实际上其任意组合来单独地和/或共同地实现。

应该理解，本发明描述的方法可以结合硬件或软件，或在适当时结合两者的组合来实现。因此，本发明的方法，可以采用包含在诸如软盘、CD-ROM、硬盘驱动器或任何其他机器可读存储介质等有形介质中的程序代码（即，指令）的形式，其中，当程序代码在可编程计算机上执行的情况下，计算设备通常包括处理器、该处理器可读的存储介质(包括易失性存储器和/或存储元件)、至少一个输入设备、以及至少一个输出设备。一个或多个程序可以例如，通过使用API，可重用控件等来实现或利用结合本发明描述的过程。这样的程序优选地用高级过程语言或面向对象编程语言来实现，以与计算机系统通信。然而，如果需要，该程序可以用汇编语言或机器语言来实现。在任何情形中，语言可以是编译语言或解释语言，且与硬件实现相结合。

需要说明的是，本发明的基于RVM与多尺度形态学的高光谱图像分类方法的方案的范畴包括但不限于上述各部分之间的任意组合。

尽管具体地参考其优选实施例来示出并描述了本发明，但本领域的技术人员可以理解，可以做出形式和细节上的各种改变而不脱离所附权利要求书中所述的本发明的范围。以上结合本发明的具体实施例做了详细描述，但并非是对本发明的限制。凡是依据本发明的技术实质对以上实施例所做的任何简单修改，均仍属于本发明技术方案的范围。

Claims (4)

1.一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法，其特征在于，所述方法包括以下步骤：

步骤一：采用主成分变换对高光谱图像进行降维，得到训练样本集的特征向量

x_n∈R^d，t_n∈R

其中，N表示所述训练样本集的样本个数，x_k表示所述训练样本集的第k个样本，y_k表示与所述第k个样本相对应的标签；

步骤二：采用数学形态学变换对所述主成分变换后的高光谱图像进行空间特征提取；

步骤三：采用核函数理论分别构造基于加法、基于乘法和基于加权加法三种形式的组合核函数，使用所述组合核函数融合图像的光谱特征和空间特征，

其中，所述光谱特征是图像所有原始波段组成的光谱特征向量

所述空间特征为是采用多尺度形态学方法提取出来的特征向量

步骤四：通过特征提取得到训练样本和测试样本

样本的特征矢量x_n={x^s,x^w}由样本的所述光谱特征向量

与所述空间特征向量

组成，使用所述组合核函数作为RVM分类器的核函数，进行分类器的训练，并对所述高光谱图像进行分类。

2.如权利要求1所述的一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法，其特征在于，在步骤二中所述空间特征提取包括以下步骤：

(1)使用方形结构元素，其数学表达式为：

${\mathrm{\&gamma;}}_{\mathrm{\&lambda;}}^{*}={\mathrm{\&delta;}}^{\left(\mathrm{rec}\right)}(\mathrm{f\&Theta;B},f)$

其中，

表示开重构算子，fΘB表示对图像做腐蚀运算，∏γ(x)表示通过开重构运算得到图像的形态学特征，

对每一个主成分图像分别进行运算，得到基于开重构的多尺度形态学特征∏γ(x)，其数学表达式为：

$\mathrm{\&Pi;\&gamma;}\left(x\right)=\{{\mathrm{\&Pi;\&gamma;}}_{\mathrm{\&lambda;}}:{\mathrm{\&Pi;\&gamma;}}_{\mathrm{\&lambda;}}={\mathrm{\&gamma;}}_{\mathrm{\&lambda;}}^{*}\left(x\right),\&ForAll;\mathrm{\&lambda;}\&Element;[0,n\left]\right\}$

其中，n为开运算的次数，当λ=0时，

(2)对于所述主成分图像进行闭重构运算,其数学表达式为：

其中，

表示对图像做膨胀运算，

是闭重构运算算子，使用所述方形结构元素，

对每一个主成分图像分别进行运算，得到基于闭重构的多尺度形态学特征

其数学表达式为：

其中，n为闭运算的次数，当λ=0时，

(3)经过所述开重构运算与所述闭重构运算之后，利用相邻两幅形态学特征图像进行差值运算，得到的图像的多尺度形态学特征，其数学表达式为：

其中，n为开闭运算的次数，c=1,2,...,2n。

3.如权利要求1所述的一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法，其特征在于，在所述步骤三中，组合核函数的构造方法包括以下步骤：

(1)所述图像的光谱特征为

所述图像的空间特征为

相应的所述光谱特征与所述空域特征的核矩阵分别为K_s和K_w，将所述光谱特征和所述空间特征分别进行归一化至(0,1)：

$x^s=\frac{x^s-x_{\min }^s}{x_{\max }^s-x_{\min }^s};$

$x^w=\frac{x^w-x_{\min }^w}{x_{\max }^w-x_{\min }^w}$

(2)由所述图像的光谱特征计算光谱核矩阵K_s与空间核K_w的基函数采用径向基核函数，光谱核矩阵的计算方法的数学表达式为：

$K_s=\exp {(-\mathrm{\&gamma;}||x_i^s-x_j^s|\left|\right)}^2$

其中，x^s为光谱特征向量，γ为径向基核函数参数，通过交叉验证方法确定参数γ；

(3)采用径向基核函数计算空间核矩阵K_w，空间核矩阵的计算公式的数学表达式为：

$K_w=\exp {(-\mathrm{\&gamma;}||x_i^w-x_j^w|\left|\right)}^2$

其中，x^w为基于多尺度形态学方法提取出的空间特征向量，γ为径向基核函数参数，通过交叉验证方法确定参数γ；

(4)所述基于加法运算的组合核函数的计算方法的数学表达式为：

$K_{\mathrm{sum}}(x_i,x_j)=\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}$

$=<\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\},\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}>$

$=K_s(x_i^s,x_j^s)+K_w(x_i^w,x_j^w);$

(5)在所述基于加法运算的组合核函数的基础上构造基于加权加法的组合核函数的计算方法的数学表达式为：

其中，0≤μ≤1，μ控制着两个核函数的权重；

(6)所述基于乘法运算的组合核函数的计算方法的数学表达式为：

$K_{\mathrm{product}}(x_i,x_j)=\{{\mathrm{\&phi;}}_1\left(x_i^s\right),{\mathrm{\&phi;}}_2\left(x_i^w\right)\}$

$=K_s(x_i^s,x_j^s)*K_w(x_i^w,x_j^w)$

其中，x^s为图像原始波段组成的光谱特征向量，γ为径向基核函数参数，控制着核函数的宽度。

4.如权利要求1所述的一种融合多尺度形态学特征的组合核函数RVM高光谱分类方法，其特征在于，在所述步骤四中组合核函数RVM分类器的训练过程包括如下步骤：

(1)构造训练样本

其中，x_n∈R^d，t_n∈R，目标值t_n采用下列数学表达式计算：

t_n=y(x_n;w)+ε_n

其中，误差ε_n是独立的，且服从零均值Gauss分布，方差为σ²，即p(t_n|x)=N(t_n|y(x_n),σ²)；

(2)RVM的判决函数y(xn)采用下列数学表达式计算：

$y(x_i;w)=\underset{i=1}{\overset{N}{\mathrm{\&Sigma;}}}[w_{i}K(x,x_i)+w_0]$

其中，w=(w₀,w₁,...,w_n)^T表示权重系数，K(x,x_i)表示RVM分类器的核函数，所述RVM分类器的核函数采用所述步骤三中的组合核函数，分别是加法核K_sum，乘法核K_weight和基于加权加法的核函数K_product；

(3)对于目标值t_n，训练样本集的似然函数p(t|w)的计算公式如下：

$p\left(t\right|w)=\underset{n=1}{\overset{N}{\mathrm{\&Pi;}}}\mathrm{\&sigma;}{\left\{y(x_n;w)\right\}}^{t_n}{[1-\mathrm{\&sigma;}\{y(x_n;w)\left\}\right]}^{1-t_n}$

其中，w_i是RVM的权值向量，服从均值为0，方差为

的Gauss条件概率分布，即：

$p\left(w\right|\mathrm{\&alpha;})=\underset{i=0}{\overset{N}{\mathrm{\&Pi;}}}N\left(w_i\right|0,{\mathrm{\&alpha;}}_i^{-1})$

其中，α=[α₀,α₁,α₂,...,α_N]^T，α表示决定权值向量先验概率的超参数向量，通过快速序列稀疏贝叶斯方法求解；

(4)计算出y(x)之后，通过Sigmoid函数将y(x)映射到[0,1]内进行类别判定，所述Sigmoid函数的数学表达式如下：

σ(y)=1/(1+e^-y)；

(5)在训练样本集T(i，j)中找出所有不同类别的样本两两配对组成多类分类器，总共有P=k(k-1)/2个，用属于这两个类别的训练样本组成两类问题的训练样本集

分别求得P个判别函数f_(i，j)(x)，分类时，将所述训练样本

分别计算P个判别函数f_(i，j)(x)，若f_(i，j)(x)=+1，判定X为i类，i类别增加一票，否则判为j类，j类别增加一票，最后，综合k个类别在P个判别函数结果中的得票数，票数最多的类别就是最终判定类别。

Images