CN103093444B - 基于自相似性和结构信息约束的图像超分辨重建方法 - Google Patents
基于自相似性和结构信息约束的图像超分辨重建方法 Download PDFInfo
- Publication number
- CN103093444B CN103093444B CN201310017638.1A CN201310017638A CN103093444B CN 103093444 B CN103093444 B CN 103093444B CN 201310017638 A CN201310017638 A CN 201310017638A CN 103093444 B CN103093444 B CN 103093444B
- Authority
- CN
- China
- Prior art keywords
- image
- resolution
- block
- similarity
- image block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 238000012549 training Methods 0.000 claims abstract description 18
- 239000011159 matrix material Substances 0.000 claims description 31
- 230000003321 amplification Effects 0.000 claims description 6
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 6
- 230000004304 visual acuity Effects 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 4
- 238000004088 simulation Methods 0.000 claims description 4
- 239000000203 mixture Substances 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims description 2
- 230000014509 gene expression Effects 0.000 claims description 2
- 238000004064 recycling Methods 0.000 claims description 2
- 230000001105 regulatory effect Effects 0.000 claims description 2
- 230000009452 underexpressoin Effects 0.000 claims description 2
- 230000015556 catabolic process Effects 0.000 abstract 1
- 238000000354 decomposition reaction Methods 0.000 abstract 1
- 238000006731 degradation reaction Methods 0.000 abstract 1
- 238000012360 testing method Methods 0.000 description 8
- 238000011156 evaluation Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000000052 comparative effect Effects 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000007373 indentation Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000011524 similarity measure Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明公开一种基于自相似性和结构信息约束的图像超分辨重建方法。实现步骤为:(1)从图像库中取z幅图像,对每幅图像进行模拟降质,生成低分辨图像,构造字典训练样本集;(2)对字典训练样本集,用K-SVD方法学习一对高低分辨率字典;(3)对待处理的低分辨图像Xt使用尺度旋转变换查找与图像块xi最相似的k个相似块{p1,p2,…,pk};(4)对图像块xi用得到的k个相似块{p1,p2,…,pk}来约束求解其稀疏表示系数A;(5)用稀疏表示系数A结合高分辨字典DH得到k个重建结果;(6)利用低秩表示模型,用低分辨率下的相似块{p1,p2,…,pk}来修正重建结果相似度;(7)用修正后的相似度结合重建结果得到最终的结果;依次重复上述步骤得到最终高分辨图像YH。本发明具有重建结果结构信息保持好的优点,可用于图像识别以及目标分类。
Description
技术领域
本发明属于数字图像处理技术领域,涉及图像的超分辨率重构方法,可用于各种自然图像的超分辨重构。
背景技术
图像在获取和传输的过程中,经常会受成像系统物理分辨率限制,以及场景变化与天气条件等诸多因素的影响,以至降低了原图像的分辨率,不仅影响人的主观视觉效果,而且严重阻碍了后续的目标分类与识别工作。因此,图像超分辨重建已成为必不可少的一个关键步骤,该技术能够恢复图像原貌、改善图像质量、突出图像本身的特征,从而为后续的图像处理、分析和理解打下良好基础。
目前图像超分辨技术主要分为三种类型:基于插值的方法、基于重构的方法和基于实例学习的方法;其中基于重构的方法主要是利用一些图像的先验知识来进行高分辨图像细节的估计的,由于该类方法未考虑大量样本信息,只是利用低分辨图像自身进行高分辨细节估计,故而重建的高分辨图像质量提高有限,且其放大倍数也受到限制,一般放大到3倍图像质量已经严重失真;最近有学者提出基于实例学习的方法,有效的解决了该问题,本质上,基于实例学习的超分辨方法是一种非参数化的方法,不需依赖于任何假设的模型,通过字典从外界人为的给低分辨图像加入一些细节信息,所以它可以有效的克服以前的方法在放大倍数较大的情况下,恢复结果较差的问题,因而受到研究者的广泛关注。到目前为止,人们提出了很多基于实例学习的超分辨重建方法。2000年,Freeman等人首次提出了基于实例学习的图像超分辨方法。该方法利用马尔可夫网络建立低分辨与高分辨图像之间的映射关系,开创了利用统计机器学习方法实现图像超分辨恢复的研究领域。Sun等人在Freeman方法的基础上,提出利用图像的初始图先验增强图像边缘。Yang等人提出了基于稀疏表示先验的实例学习超分辨重建方法,通过学习输入低分辨图像块与实例样本集的稀疏表示关系,实现超分辨在高分辨样本空间的重建,能有效克服邻域嵌入方法使用固定个数的k近邻而导致的过拟合或欠拟合现象。但是由于基于稀疏表示的方法,在求解图像块稀疏表示系数时,都没有考虑图像的结构信息,故而重建的图像会出现一些人工痕迹和一些假的纹理信息;同时,由于图像超分辨过程中往往存在有一定的重构误差,这就导致了各个重建结果之间的相似度与它们之间的结构信息并不一致,有时则相差较大,这样就会影响到图像的重建效果。
发明内容
本发明的目的在于针对上述已有技术的不足,提出一种基于自相似性和结构信息约束的图像超分辨重建方法,以降低图像超分辨过程中重构误差的影响,有效地解决了重建图像中细节丢失,以及图像边缘振铃的问题,更好的恢复出图像的结构信息,提高图像的重构效果。
实现本发明的技术思路是:通过利用图像的自相似性来约束求解各个图像块的稀疏表示系数;结合低分辨率下的相似块,利用低秩表示来修正高分辨率下各图像块的相似度权值,更好的修复图像的结构信息,得到重建效果更好的高分辨率图像。其具体步骤包括如下:
(1)从自然彩色图像库中取z幅常见的自然彩色图像,60≤z≤70,对取出的每幅彩色图像进行模拟降质,生成对应的低分辨彩色图像;然后构造低分辨插值图像梯度特征块训练集L和高分辨图像高频细节训练集H,构成字典训练样本集
(2)对字典训练样本集S,利用K-SVD方法训练学习一对耦合字典其中,DH为高分辨字典,DL为低分辨字典,T表示矩阵转置;
(3)对低分辨图像Xt使用bicubic插值放大3倍,得到高分辨率图像的初始估计YS,把高分辨率图像的初始估计YS从RGB空间转换到YCbCr颜色空间,得到高分辨率图像的亮度分量初始估计Y0、高分辨率图像蓝色色度分量估计Cb和高分辨率图像红色色度分量估计Cr;
(4)对待处理的低分辨图像Xt使用SIFT特征进行图像块相似块的查找,分别得到图像块xi和与其最相似的k个相似块{p1,p2,…,pk},xi表示第i个图像块,i∈{1,2,…,N},N表示Xt中图像块总数;
(5)利用k个相似块{p1,p2,…,pk}约束求解图像块xi在低分辨字典DL下的稀疏表示系数,得到图像块{xi,p1,p2,…,pk}的稀疏表示系数矩阵A={a1,a2,…,ak+1},其中aj表示第j个图像块的稀疏表示系数,j∈{1,2,…,k+1},k表示相似块的个数;
(6)利用高分辨字典DH,使用公式XH=DH·A进行超分辨重建,得到高分辨图像块集XH={DHa1,DHa2,…,DHak+1};
(7)对重建结果XH,利用低分辨率下图像块xi和其k个相似块{p1,p2,…,pk}修正重建结果XH中各个图像块之间的相似度,得到修正后的相似度矩阵ω;
(8)对修改后的相似度矩阵ω结合高分辨重建结果XH,使用公式X'H=XH·ω得到修正后的高分辨图像块X'H={x′1,x'2,…,x'k+1},再利用公式得到最终的高分辨重建结果yi,其中,x's表示第s个修正后的高分辨图像块;
(9)对每个低分辨图像块xi依次重复步骤(4)至步骤(8),得到重建的高分辨图像亮度分量YH,并结合高分辨率图像蓝色色度分量估计Cb和高分辨率图像红色色度分量估计Cr,合成最终的彩色高分辨率图像
本发明相比现有技术具有以下优点:
(1)本发明采用SIFT特征进行相似块搜索,考虑图像块的方向结构信息,对各个图像块进行角度调整,进而查找的相似块更加丰富和精确,为后面结构信息约束打下良好基础;
(2)本发明中,假设一组相似块在空间域是相似的,则它们在同一字典下的稀疏表示系数也是相似的。在求解图像块稀疏表示系数时引入结构先验约束,利用该图像块的相似块来约束其稀疏表示系数的求解;
(3)本发明在得到多个重建结果后,利用低秩表示对图像的结构信息有一定的修复作用,引入低秩表示相似度计算,结合低分辨率下相似块来修正高分辨率下重建结果的相似度,能更好的重建高分辨图像,使得重建的图像边缘更加清晰;
附图说明
图1是本发明的总流程图;
图2是本发明采用的仿真使用的测试图像;
图3是用本发明与现有三种方法对图2中的(1)图像重构结果对比图;
图4是用本发明与现有三种方法对图2中的(2)图像重构结果对比图;
图5是用本发明与现有三种方法对图2中的(3)图像重构结果对比图。
具体实施方式
为了在求解稀疏表示系数时引入结构信息,受非局部思想启发,首先,通过SIFT描述算子来旋转调整各个图像块的位置,能更精确的查找到一系列相似块;假设一组相似块在空间域是相似的,则它们在同一冗余字典下的稀疏表示系数也是相似的,故可以利用找到的一系列相似块来约束求解图像块的稀疏表示系数,由于考虑到图像块的结构信息,可以更精确的求解图像块的稀疏表示系数;由于图像超分辨过程中往往存在一定的重构误差,这就导致了计算各个重建结果之间的相似度时,有些结果之间的欧式距离不大,但是它们之间的结构信息有时则相差较大,这样就会影响到最终的重建结果,我们利用低分辨率下的相似块来修正高分辨率下重建结果的相似度,来进一步减小相似度不匹配所产生的影响;在这里,由于低秩表示不仅可以修补一些图像丢失的结构信息还可以求解图像块的相似度,故而,我们采用低秩表示来求解图像的相似度,以进一步提高图像的重建质量;
参照图1,本发明的具体实现步骤如下:
步骤1,对高分辨字典与低分辨字典进行学习。
1a)从自然彩色图像库中取z幅常见的自然彩色图像,60≤z≤70,使用降质模型:X=SGY,对z幅高分辨图像进行模拟降质,得到对应的低分辨图像库;接着将得到的低分辨图像库中的图像使用bicubic插值放大2倍,得到低分辨插值图像库,把图像库中的高分辨图像和低分辨插值图像从RGB空间转换到YCbCr颜色空间,分别得到低分辨插值图像的亮度分量YL,高分辨图像的亮度分量YH;本次实验中取z=65,其中,X表示经过降质后得到的低分辨图像,Y表示高分辨图像,G表示高斯模糊矩阵,S表示下采样矩阵;
1b)采用四个滤波算子:f1=[-1,0,1],f2=f1 T,f3=[1,0,-2,0,1],对图像库中低分辨插值图像的亮度分量YL提取它们梯度特征信息,对图像库中的高分辨图像的亮度分量YH提取它们的高频信息,其中T表示矩阵的转置;
1c)对低分辨插值图像进行分块,得到大小为6×6的图像块其中表示四维的梯度特征向量。同时对相应的高分辨高频信息进行分块,分成大小为9×9的图像块分别得到低分辨插值图像梯度特征训练集L和高分辨图像高频细节训练集H,构成字典训练样本集
1d)利用K-SVD字典学习方法,对字典训练样本集S进行字典学习训练,得到字典对其中DL为低分辨字典,DH为高分辨字典。
步骤2,对待超分辨的低分辨图像Xt使用尺度不变特征变换SIFT进行相似块查找,具体步骤如下:
2a)将输入的待处理低分辨图像Xt使用bicubic插值放大2倍,得到插值图像,对插值图像进行滤波得到低分辨特征图像X0;
2b)对低分辨图像Xt使用bicubic插值放大3倍,得到高分辨率图像的初始估计YS,把高分辨率图像的初始估计YS从RGB空间转换到YCbCr空间,分别得到高分辨率图像的亮度分量初始估计Y0,高分辨率图像的蓝色色度分量估计值Cb和高分辨率图像的红色色度分量估计值Cr,其中,RGB空间表示图像的红绿蓝三原色空间,YCbCr空间表示亮度与色度空间;
2c)在低分辨特征图像X0上重叠2个像素点进行图像分块,图像块的大小为6*6,得到图像块xi,并在该图像块xi的周围取大小为25*25搜索窗口Ti,然后对该搜索窗口Ti进行尺度不变特征变换SIFT,找出搜索窗口Ti中每个像素点j的主方向θij,其中i表示第i个图像块,i∈{1,2,…,N},N表示图像块总个数,j表示搜索窗口中第j个像素点,j∈{1,2,…,625};
2d)对搜索窗口Ti进行分块,得到一组大小为11*11的查找块{G1,G2,…,GM},其中,M表示总的分块个数;
2e)对查找块Gv按照其中心像素点j的主方向θij进行角度旋转调整,得到调整块使得调整块与图像块xi的主方向一致,接着将调整块下采样为大小为6*6的搜索块pv,其中,v表示搜索窗口中第v个搜索块,v∈{1,2,…,M};
2f)依次对搜索窗口中每个查找块Gv重复步骤2e),得到各个角度调整后的搜索块{p′1,p'2,…,p'M};
2g)对得到的角度调整后的各个图像搜索块pv,使用公式:计算搜索块pv与图像块xi的相似度ψ(xi,pv),得到相似度向量{ψ1,ψ2,…,ψM},其中,h为调节参数;
2h)对这组相似度{ψ1,ψ2,…,ψM}进行排序,选取与图像块xi最相似的k个相似块{p1,p2,…,pk}。
步骤3,利用相似块引入结构信息约束,求解图像块xi的稀疏表示系数,并结合高分辨字典DH重建高分辨结果。
3a)将图像块xi与k个相似块{p1,p2,…,pk}分别拉成列向量,组成矩阵X={xi,p1,p2,…,pk},使用SPGL1工具包求解稀疏约束模型:得到稀疏表示系数矩阵A={a1,a2,…,ak+1};
其中,||||1,2表示矩阵的l1,2范数,表示矩阵的l2范数,DL表示低分辨字典,a1为图像块xi的稀疏表示系数,ai+1为pi的稀疏表示系数,i∈{1,2,…,k},ε表示重建误差,s.t.表示该公式的约束条件;
3b)利用得到的各个图像块的稀疏表示系数和高分辨字典DH结合公式DH·A,得到k+1个高分辨结果XH={DHa1,DHa2,…,DHak+1}。
步骤4,结合低分辨率下的相似块,使用低秩表示修正k+1个高分辨结果之间的相似度,减小图像重构误差产生的影响,以便恢复出更好的图像结构信息。
4a)将图像块xi与其k个相似块{p1,p2,…,pk}分别拉成列向量,组成矩阵X={xi,p1,p2,…,pk},利用低分辨率下的图像块矩阵X结合k+1个重建结果XH,使用低秩模型: 来修正k+1个重建结果之间的相似度ω,
其中,||||2,1表示l2,1范数,||||*表示核范数,X表示低分辨率下的图像块矩阵,XH表示高分辨率下重建结果矩阵,ω表示相似度矩阵,M表示低分辨相似块的维数,N表示高分辨重建结果的维数,E表示差异矩阵,表达式和分别用来平衡低分辨相似块与高分辨重建结果,参数λ用于平衡l2,1范数和核范数;
4b)令 则可将步骤4a)中的低秩模型改写为:min||ω||*+λ||E||2,1s.t.Z=Z·ω+E,利用ALM方法求解该低秩模型,得到修正后的相似度矩阵ω。
步骤5,利用修正后的相似度,重建超分辨结果,具体步骤如下:
5a)利用修改后的相似度权值ω和高分辨重建结果XH={DHa1,DHa2,…,DHak+1},使用公式:X'H=XH·ω,得到修正重建误差后的结果X'H={x′1,x'2,…,x'k+1};
5b)对上面的重建结果X'H使用公式:得到最终的高分辨重建结果yi,yi表示第i个高分辨图像块,i∈[1,N],N表示图像Xt中总的图像块数。
5c)对低分辨图像Xt依次重复步骤2中的2c)、2d)、2e)、2f)、2g)、2h)以及步骤3、4、和步骤5中5a)、5b),得到超分辨图像Y"H;
5d)对得到超分辨图像Y"H使用迭代反向投影IBP算法公式:进行处理,得到最终高分辨图像亮度分量YH,通过上面处理,可以有效的消除重建图像中的块效应失真,其中,表示矩阵的l2范数,G表示高斯模糊矩阵,S表示下采样矩阵,参数μ用于平衡两个l2范数;
5e)将得到的高分辨图像的亮度分量YH结合高分辨率图像的蓝色色度分量估计Cb和高分辨率图像的红色色度分量估计Cr,合成最终的彩色高分辨率图像
本发明的效果可以通过下面的仿真结果进一步说明:
1.仿真条件
从自然图像库中取65幅常见的自然图像,用来训练耦合双字典,分别为低分辨字典DL和高分辨字典DH;用本发明对3幅包含有不同内容的标准自然图像进行测试,它们分别为Flower图像,Hat图像和Bike图像见附图2;采用软件MATLAB 7.12(R2011a)作为仿真工具,计算机配置为intel Core i7/2.0GHz/8G。
2.仿真方法
在相同的测试图像上,采用对比实验的形式,选择双三次样条插值Bicubic和两个具有代表性的超分辨算法与本发明的结果进行比较,以验证本发明的有效性。两个代表性超分辨方法分别为:
方法1,是J.Yang等人提出的方法,具体参考文献“J.Yang,J.Wright,T.Huang,andY.Ma,“Image super-resolution via sparse representation”,IEEE.Trans.Image Process,vol.19,no.11,pp.2861-2873,Nov.2010”;
方法2,是S.Yang等人提出的方法,具体参考文献“S.Yang,Z.Liu,and L.Jiao,“Multitask dictionary learning and sparse representation based single-imagesuper-resolution reconstruction,”Neurocomputing,vol.74,17(2011),pp.3193-3203”;
3.仿真内容
仿真1,对附图2中(1)、(2)和(3)三副测试图像,在放大倍数为3时,都用Bicubic插值方法分别进行超分辨重建,超分辨重建结果评价指标如表1的第2列所示,超分辨重建结果分别如图3(a)、4(a)和5(a)所示;
仿真2,对附图2中(1)、(2)和(3)三副测试图像,在放大倍数为3时,都用方法1分别进行超分辨重建,超分辨重建结果评价指标如表1的第3列所示,超分辨重建结果分别如图3(b)、4(b)和5(b)所示;
仿真3,对附图2中(1)、(2)和(3)三副测试图像,在放大倍数为3时,都用方法2分别进行超分辨重建,超分辨重建结果评价指标如表1的第4列所示,超分辨重建结果分别如图3(c)、4(c)和5(c)所示。
仿真4,对附图2中(1)、(2)和(3)三副测试图像,在放大倍数为3时,都用本发明方法分别进行超分辨重建,超分辨重建结果评价指标如表1的第5列所示,超分辨重建结果分别如图3(d)、4(d)和5(d)所示。
从图3中可以看出,Bicubic插值方法、方法1和方法2都会产生一些人工刻痕以及假纹理,本发明的结果恢复的纹理信息比较丰富以及规整。
从图4中帽子的边沿同样可以明显的看出Bicubic插值方法、方法1和方法2都会产生一些人工刻痕以及边缘振铃现象,而本发明的结果帽子边缘比较规整的。
本发明采用的评价指标为峰值信噪比PSNR、结构相似度SSIM和平均结构相似度MSSIM,其中,峰值信噪比PSNR值越大,则说明图像超分辨重建的效果好,结构相似度SSIM和平均结构相似度MSSIM值都是越接近1,则说明图像超分辨重建的效果好。
表1 3幅测试图不同方法实验结果比较
从表1可以看出,本发明重建结果各项指标都优于其他3种方法,对于图2中(1)图像,PSNR值要比Bicubic插值方法高将近1.45db,比方法1高将近0.6db,比方法2高将近0.24db;对于图2中(2)图像,PSNR值要比Bicubic插值方法高将近1.69db,比方法1高将近0.85db,比方法2高将近0.39db;对于图2中(3)图像,PSNR值要比Bicubic插值方法高将近1.5db,比方法1高将近0.6db,比方法2高将近0.22db。
综上,本发明相比于现有的自然图像超分辨重建算法,不管从客观参数的评价上,还是从主观视觉质量上看都具有优越性,能够有效的解决图像重建中存在重建误差的问题,也能很好的保持图像的结构信息,是一种可行有效的自然图像超分辨重建方法。
Claims (4)
1.一种基于自相似性和结构信息约束的图像超分辨重建方法,包括如下步骤:
(1)从自然彩色图像库中取z幅常见的自然彩色图像,60≤z≤70,对取出的每幅彩色图像进行模拟降质,生成对应的低分辨彩色图像;然后构造低分辨插值图像梯度特征块训练集L和高分辨图像高频细节训练集H,构成字典训练样本集
(2)对字典训练样本集S,利用K-SVD方法训练学习一对耦合字典其中,DH为高分辨字典,DL为低分辨字典,T表示矩阵转置;
(3)对低分辨图像Xt使用bicubic插值放大3倍,得到高分辨率图像的初始估计YS,把高分辨率图像的初始估计YS从RGB空间转换到YCbCr颜色空间,得到高分辨率图像的亮度分量初始估计Y0、高分辨率图像蓝色色度分量估计Cb和高分辨率图像红色色度分量估计Cr;
(4)对待处理的低分辨图像Xt使用SIFT特征进行图像块相似块的查找,分别得到图像块xi和与其最相似的k个相似块{p1,p2,…,pk},xi表示第i个图像块,i∈{1,2,...,N},N表示Xt中图像块总数;
(5)利用k个相似块{p1,p2,…,pk}约束求解图像块xi在低分辨字典DL下的稀疏表示系数,从而得到图像块{xi,p1,p2,…,pk}的稀疏表示系数矩阵A={a1,a2,…,ak+1},其中aj表示第j个图像块的稀疏表示系数,j∈{1,2,...,k+1},k表示相似块的个数;
(6)利用高分辨字典DH,使用公式XH=DH·A进行超分辨重建,得到高分辨图像块集XH={DHa1,DHa2,…,DHak+1};
(7)对重建结果XH,利用低分辨率下图像块xi和其k个相似块{p1,p2,…,pk}修正重建结果XH中各个图像块之间的相似度,得到修正后的相似度矩阵ω;
(8)对修改后的相似度矩阵ω结合高分辨重建结果XH,使用公式X′H=XH·ω得到修正后的高分辨图像块X′H={x′1,x′2,…,x′k+1},再利用公式得到最终的高分辨重建结果yi,其中,x′s表示第s个修正后的高分辨图像块;
(9)对每个低分辨图像块xi依次重复步骤(4)至步骤(8),得到重建的高分辨图像亮度分量YH,并结合高分辨率图像蓝色色度分量估计Cb和高分辨率图像红色色度分量估计Cr,合成最终的彩色高分辨率图像
2.根据权利要求1所述的基于自相似性和结构信息约束的图像超分辨重建方法,其中步骤(4)所述的对低分辨图像Xt使用SIFT特征进行图像块的相似块查找,按如下步骤进行:
2a)将输入的待处理低分辨图像Xt使用bicubic插值放大2倍,得到插值图像,对插值图像进行滤波得到低分辨特征图像X0;
2b)在低分辨特征图像X0上按照阵列扫描的方法重叠2个像素点进行图像分块,图像块的大小为6*6,得到图像块xi,并在该图像块xi的周围取大小为25*25搜索窗口Ti,然后对该搜索窗口Ti进行尺度不变特征变换SIFT,找出搜索窗口Ti中每个像素点j的主方向θij,其中,i表示第i个图像块,j表示搜索窗口中第j个像素点;
2c)对搜索窗口Ti进行分块,得到一组大小为11*11的查找块{G1,G2,…,GM},M表示总的分块个数;
2d)对查找块Gv按照其中心像素点j的主方向θij进行角度旋转调整,得到调整块使得调整块与图像块xi的主方向一致,接着将调整块下采样为6*6大小的搜索块pv,v表示搜索窗口中第v个搜索块,v∈{1,2,...,M};
2e)依次对搜索窗口中每个查找块Gv重复步骤2d),得到各个角度调整后的搜索块{p′1,p′2,…,p′M};
2f)对得到的角度调整后的各个图像搜索块pv,使用公式:分别计算搜索块pv与图像块xi的相似度ψ(xi,pv),得到一组相似度{ψ1,ψ2,…,ψM},其中,h为调节参数;
2g)对这组相似度{ψ1,ψ2,…,ψM}进行排序,选取与图像块xi最相似的k个相似块{p1,p2,…,pk}。
3.根据权利要求1所述的基于自相似性和结构信息约束的图像超分辨重建方法,其中步骤(5)所述的利用k个相似块{p1,p2,…,pk}约束求解图像块xi在低分辨字典DL下的稀疏表示系数A,按如下步骤进行:
3a)将图像块xi与其k个相似块{p1,p2,…,pk}分别拉成列向量,并将它们结合起来组成矩阵X={xi,p1,p2,…,pk},使用稀疏约束模型:求解各个图像块的稀疏表示系数矩阵A={a1,a2,…,ak+1},
其中,||||1,2表示矩阵的l1,2范数,表示矩阵的l2范数,DL表示低分辨字典,a1为图像块xi的稀疏表示系数,ai+1为pi的稀疏表示系数,i∈{1,2,...,k},ε表示重建误差,s.t.表示该公式的约束条件;
3b)利用SPGL1工具包求解步骤3a)中的稀疏约束模型,得到各个图像块的稀疏表示系数矩阵A;
4.根据权利要求1所述的基于自相似性和结构信息约束的图像超分辨重建方法,其中步骤(7)所述利用低分辨率下图像块xi和其k个相似块{p1,p2,…,pk}组成的矩阵X={xi,p1,p2,…,pk}修正k+1个重建结果XH之间的相似度,按如下步骤进行:
4a)利用低分辨率下的图像块矩阵X结合k+1个重建结果XH,使用低秩表示求解相似度模型: 来修正k+1个重建结果之间的相似度ω,
其中,||||2,1表示l2,1范数,||||*表示核范数,X表示低分辨率下的图像块矩阵,XH表示高分辨率下重建结果矩阵,ω表示相似度矩阵,M表示低分辨相似块的维数,N表示高分辨重建结果的维数,E表示差异矩阵,表达式和分别用来平衡低分辨相似块与高分辨重建结果,s.t.表示该公式的约束条件;
4b)令 则可将上面的低秩表示求解相似度模型改写为:min||ω||*+λ||E||2,1s.t.Z=Z·ω+E,利用ALM方法求解该低秩表示求解相似度模型,得到经过修正后的各个重建结果之间的相似度ω。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310017638.1A CN103093444B (zh) | 2013-01-17 | 2013-01-17 | 基于自相似性和结构信息约束的图像超分辨重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310017638.1A CN103093444B (zh) | 2013-01-17 | 2013-01-17 | 基于自相似性和结构信息约束的图像超分辨重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103093444A CN103093444A (zh) | 2013-05-08 |
CN103093444B true CN103093444B (zh) | 2015-05-20 |
Family
ID=48205978
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310017638.1A Active CN103093444B (zh) | 2013-01-17 | 2013-01-17 | 基于自相似性和结构信息约束的图像超分辨重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103093444B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106157244A (zh) * | 2016-06-08 | 2016-11-23 | 南京航空航天大学 | 一种基于稀疏表示的QR Code图像超分辨重建方法 |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103593825B (zh) * | 2013-10-17 | 2016-04-13 | 西安电子科技大学 | 基于改进的非局部约束和局部自相似性的图像超分辨方法 |
CN103854269B (zh) * | 2014-03-28 | 2016-08-17 | 国家测绘地理信息局卫星测绘应用中心 | 基于多角度、多分辨率的影像超分辨率重建方法及装置 |
CN104091343B (zh) * | 2014-07-22 | 2017-01-18 | 西北工业大学 | 基于稀疏结构的图像质量评价方法 |
CN104794694B (zh) * | 2015-04-23 | 2017-08-01 | 中南民族大学 | 基于自适应低秩规则化的图像内插系统及方法 |
CN105070270B (zh) * | 2015-09-14 | 2017-10-17 | 深圳市华星光电技术有限公司 | Rgbw面板子像素的补偿方法及装置 |
CN105405106A (zh) * | 2015-10-22 | 2016-03-16 | 华南农业大学 | 一种单图像超分辨率重建的方法 |
CN105354804B (zh) * | 2015-10-23 | 2018-07-31 | 广州高清视信数码科技股份有限公司 | 一种基于最大化自相似性质的图像超分辨率重建方法 |
CN108475414B (zh) * | 2015-10-27 | 2020-09-11 | 华为技术有限公司 | 图像处理方法和装置 |
CN105528769B (zh) * | 2015-12-11 | 2018-08-07 | 上海兴芯微电子科技有限公司 | 图像修补方法及系统 |
CN105513026B (zh) * | 2015-12-17 | 2019-05-21 | 浙江大学 | 一种基于图像非局部相似的压缩感知重构方法 |
CN106228198B (zh) * | 2016-08-17 | 2019-05-07 | 广东工业大学 | 一种医疗ct图像的超分辨率识别方法 |
CN107977929B (zh) * | 2016-10-21 | 2021-02-23 | 中国电信股份有限公司 | 图像超分辨率处理方法和装置 |
CN108122262B (zh) * | 2016-11-28 | 2021-05-07 | 南京理工大学 | 基于主结构分离的稀疏表示单帧图像超分辨率重建算法 |
CN106952228B (zh) * | 2017-03-10 | 2020-05-22 | 北京工业大学 | 基于图像非局部自相似性的单幅图像的超分辨率重建方法 |
CN107301630B (zh) * | 2017-06-28 | 2020-09-18 | 重庆大学 | 一种基于排序结构组非凸约束的cs-mri图像重构方法 |
CN107680044B (zh) * | 2017-09-30 | 2021-01-12 | 福建帝视信息科技有限公司 | 一种图像超分辨率卷积神经网络加速计算方法 |
CN107958472B (zh) * | 2017-10-30 | 2020-12-25 | 深圳先进技术研究院 | 基于稀疏投影数据的pet成像方法、装置、设备及存储介质 |
CN107958471B (zh) * | 2017-10-30 | 2020-12-18 | 深圳先进技术研究院 | 基于欠采样数据的ct成像方法、装置、ct设备及存储介质 |
CN108090873B (zh) * | 2017-12-20 | 2021-03-05 | 河北工业大学 | 基于回归模型的金字塔人脸图像超分辨率重建方法 |
KR102486426B1 (ko) * | 2018-02-23 | 2023-01-09 | 엘지이노텍 주식회사 | 카메라 모듈 |
CN108537264B (zh) * | 2018-03-30 | 2021-09-07 | 西安电子科技大学 | 基于深度学习的异源图像匹配方法 |
CN109636722B (zh) * | 2018-12-05 | 2023-09-05 | 中国矿业大学 | 一种基于稀疏表示的在线字典学习超分辨率重建的方法 |
CN110223231A (zh) * | 2019-06-06 | 2019-09-10 | 天津工业大学 | 一种含噪图像的快速超分辨重建算法 |
CN111815547A (zh) * | 2020-06-30 | 2020-10-23 | 深圳市慧鲤科技有限公司 | 图像处理方法及装置、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102136065A (zh) * | 2011-03-28 | 2011-07-27 | 西安电子科技大学 | 基于凸优化的人脸超分辨率方法 |
CN102142137A (zh) * | 2011-03-10 | 2011-08-03 | 西安电子科技大学 | 基于高分辨率字典的稀疏表征图像超分辨重建方法 |
CN102156875A (zh) * | 2011-03-25 | 2011-08-17 | 西安电子科技大学 | 基于多任务ksvd字典学习的图像超分辨率重构方法 |
CN102750677A (zh) * | 2012-06-12 | 2012-10-24 | 清华大学 | 基于同尺度结构自相似与压缩感知的单图像超分辨率方法 |
CN102800076A (zh) * | 2012-07-16 | 2012-11-28 | 西安电子科技大学 | 基于双字典学习的图像超分辨重建方法 |
-
2013
- 2013-01-17 CN CN201310017638.1A patent/CN103093444B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102142137A (zh) * | 2011-03-10 | 2011-08-03 | 西安电子科技大学 | 基于高分辨率字典的稀疏表征图像超分辨重建方法 |
CN102156875A (zh) * | 2011-03-25 | 2011-08-17 | 西安电子科技大学 | 基于多任务ksvd字典学习的图像超分辨率重构方法 |
CN102136065A (zh) * | 2011-03-28 | 2011-07-27 | 西安电子科技大学 | 基于凸优化的人脸超分辨率方法 |
CN102750677A (zh) * | 2012-06-12 | 2012-10-24 | 清华大学 | 基于同尺度结构自相似与压缩感知的单图像超分辨率方法 |
CN102800076A (zh) * | 2012-07-16 | 2012-11-28 | 西安电子科技大学 | 基于双字典学习的图像超分辨重建方法 |
Non-Patent Citations (3)
Title |
---|
Distinctive Image Features from Scale-Invariant Keypoints;Lowe D.G.;《International Journal of Computer Vision》;20041101;第60卷(第2期);第91-110页 * |
Exploiting self-similarities for single frame;Chih-Yuan Yang et al.;《Computer Vision》;20101112;第6494卷;第497-510页 * |
Object Recognition from Local Scale-Invariant Features;Lowe D.G. et al.;《The Proceedings of the Seventh IEEE International Conference on Computer Vision》;19990927;第2卷;第1150-1157页 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106157244A (zh) * | 2016-06-08 | 2016-11-23 | 南京航空航天大学 | 一种基于稀疏表示的QR Code图像超分辨重建方法 |
Also Published As
Publication number | Publication date |
---|---|
CN103093444A (zh) | 2013-05-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103093444B (zh) | 基于自相似性和结构信息约束的图像超分辨重建方法 | |
CN110119780B (zh) | 基于生成对抗网络的高光谱图像超分辨重建方法 | |
Kang et al. | Ddcolor: Towards photo-realistic image colorization via dual decoders | |
CN111325165B (zh) | 考虑空间关系信息的城市遥感影像场景分类方法 | |
Huang et al. | Deep hyperspectral image fusion network with iterative spatio-spectral regularization | |
CN111127374B (zh) | 一种基于多尺度密集网络的Pan-sharpening方法 | |
Cai et al. | FCSR-GAN: Joint face completion and super-resolution via multi-task learning | |
CN109272010B (zh) | 基于卷积神经网络的多尺度遥感图像融合方法 | |
CN103077511B (zh) | 基于字典学习和结构相似的图像超分辨率重建方法 | |
CN109671023A (zh) | 一种人脸图像超分辨率二次重建方法 | |
CN103077505B (zh) | 基于字典学习和结构聚类的图像超分辨率重建方法 | |
WO2021022929A1 (zh) | 一种单帧图像超分辨率重建方法 | |
CN111275618A (zh) | 一种基于双支感知的深度图超分辨率重建网络构建方法 | |
CN105046672A (zh) | 一种图像超分辨率重建方法 | |
CN104657962B (zh) | 基于级联线性回归的图像超分辨重建方法 | |
CN107220957B (zh) | 一种利用滚动导向滤波的遥感图像融合方法 | |
CN114897742B (zh) | 一种纹理和结构特征两次融合的图像修复方法 | |
CN108830130A (zh) | 一种偏振高光谱低空侦察图像典型目标检测方法 | |
CN105550989A (zh) | 基于非局部高斯过程回归的图像超分辨方法 | |
CN104504672B (zh) | 基于NormLV特征的低秩稀疏邻域嵌入超分辨方法 | |
CN113192003B (zh) | 一种拼接图像质量评价方法 | |
Sun et al. | Mixed noise removal for hyperspectral images based on global tensor low-rankness and nonlocal SVD-aided group sparsity | |
CN117252936A (zh) | 一种适配多种训练策略的红外图像彩色化方法及系统 | |
Li et al. | Efficient Image Super-Resolution with Feature Interaction Weighted Hybrid Network | |
CN108090873B (zh) | 基于回归模型的金字塔人脸图像超分辨率重建方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |