基于多尺度几何分析与核匹配追踪的图像识别
第20卷第6期
2007年12月
模式识别与人工智能
PR
V01.20Dec
No.62007
8LAI
基于多尺度几何分析与核匹配追踪的图像识别*
缑水平
焦李成
(西安电子科技大学智能信息处理研究所西安710071)
摘要提出一种图像特征提取与识别方法.该方法利用图像多尺度几何分析中的Contourlet变换表示图像的丰
富轮廓特征信息,利用Brushlet变换表示图像的纹理和平滑特征信息,将此两部分特征信息融合组成特征矩阵.选择模糊c一均值聚类算法对特征矩阵进行聚类分析,获得其数据分布信息,再采用核匹配追踪分类器进行目标识别.该方法对图像中不同种类信息采用不同的表示工具,达到有效保持原始图像中有用信息的目的.对纹理图像和遥感图像进行分类与识别,结果表明与单独Contourlet和Brushlet特征提取方法相比,本文方法识别率高、运行时
间短.关键词
图像识别,核匹配追踪,特征聚类,多尺度几何分析
中图法分类号TP751
ImageRecognitionBased
on
Multi—ScaleGeometric
Pursuit
Analysisand
Kernel
Matching
GOUShui—Ping,JIAOLi—Cheng
(InstituteofIntelligentInformationProcessing,XidianUniversity,Xi'an710071)
ABSTRACT
Amethodfor
image
featureextractionand
recognition
is
proposed.Abundant
contour
featureinformationoftheimageisexpressedbyContourlettransform
texture
whileflatnessfeatureand
geometricanalysis.
is
are
oftheimage
types
to
are
describedbyBrushlettransformin
themulti—scale
Thetwo
selected
offeatureinformationmakeupfeaturematrix.AndfuzzyC—meanclustering
compress
thefeaturematrixandgaindistributeddatasets.Thenobjectimages
recognizedwithkernelmatchingpursuitclassifier.Theproposedmethoddescribesvariantimageinformation
with
differentcharacterization
transform
then
keeps
useful
originalimage
information.ComparedwithContourlettransformandBrushlettransform,theproposedmethod
obtainshigher
accurate
recognitionratewithshorterrunningtime.
Key
Words
ImageRecognition,Kernel
MatchingPursuit,FeatureClustering,Multi—Scale
GeometricAnalysis
*国家自然科学基金资助项目(No.60424005工收稿日期:2007—05—21;修回日期:2007—08—13
作者简介缑水平,女,1978年生,讲师,主要研究方向为智能数据挖掘、聚类分析、SAR图像分割与分类.E—mail:shpgou@mail.xidian.edu.cn,shuipinggou@163.com.焦李成,男,1959年生,教授,博士生导师,主要研究方向为信号与图像处理、自然计算和智能信息处理.
6期缑水平等:基于多尺度几何分析与核匹配追踪的图像识别
1
引言
高维空间,使某些在低维空间线性不可分的问题转化为高维空间中线性可分问题.核匹配追踪分类器在图像识别中,特征提取的目的是从图像中获的分类性能几乎可以达到支撑矢量机的分类性能,得有助于分类识别的特征矢量.小波具有良好的时同时较支撑矢量机具有更为稀疏的解[9].所以本文频分析特性,它可以最优的表示点目标,所以它是图利用核匹配追踪法实现待分类图像的目标识别.近像特征提取的一种有效工具.但是小波在表示二维年来,为了对图像进行更为准确的描述,对多种特征线奇异性的时候,不具有空间各向异性的要求,从而的融合方法的研究工作正在展开中.鉴于在多尺度它并不是最优的或者说“最稀疏”的函数表示方法.几何分析工具中Contourlet[10‘111和Brushlet[123在纹因此,许多学者提出多尺度几何分析理论来克服小理分析方面都有不错的表现,本文提出一种结合波的不足,如脊波(Ridgelet)[1]、Brushlet[2j、曲线波Contourlet和Brushlet这两种不同变换所提取的能(Curvelet)[3]、ContourletL40等方法.多尺度几何分量特征的方法.选择模糊C一均值聚类算法对特征矩析(Multiscale
Geometric
Analysis,MGA)旨在构建
阵进行聚类分析,获得其数据分布信息.然后采用核最优逼近意义下的高维函数表示方法,从而成为图匹配追踪分类方法对Brodatzs纹理图像和遥感图像处理领域新的研究热点[s].
像进行识别.仿真实验结果表明,与单独ContourletContourlet变换是多分辨的、局域的、方向的图和Brushlet特征提取方法进行比较,本文方法的识像表示方法,可以有效表示包含丰富轮廓和纹理的别率高,相比于主分量分析的特征聚类,本文方法运图像.除此之外,Contourlet变换使用迭代滤波器行时间缩短.
组,提高计算效率,并且可以容易实现连续域和离散域间的转换[6].Brushlet是一种图像方向分析的新2
特征提取
工具口’7],其思想是在基于构造光滑的局部化标准正交的幂基和一维Brushlet基的构造这两方面来2.1基于Contourlet变换特征提取
构造具有时频局部化的标准正交基,基于标准正交Contourlet变换也称塔型方向滤波器组(Pyra—
二维Brushlet基的图像分解可以充分检测图像方midDirectionalFilterBanks,PDFB)分解,Cont—
向信息并具有多尺度特性.
ourlet基的支撑区间具有随尺度而长宽比变化的
本文利用Brushlet良好的方向分辨率特性与“长条型结构”,它将多尺度分析和方向分析分开进Contourlet分解一起来刻画图像中的边缘和纹理特行.Contourlet变换对图像应用双重滤波结构,首先征.因为理论上特征数目越多,则更有利于目标的分由拉普拉斯塔形分解(LaplacianPyramid,LP)对类识别.而在众多的特征中,尽管包含着目标的大量图像进行多尺度分解以捕获点状奇异性,然后由方有用信息,但对特定的识别任务来说,有一些是冗余向滤波器组(Directional
Filter
Banks,DFB)将分布
的.这些特征的存在反而会使算法得出不正确的决在同方向上的奇异点连接成周线结构.Contourlet策,从而导致对待识别样本的错误分类.因而通过特变换最终以类似于周线结构来逼近原图像,这也是征降维剔除冗余特征,提高分类精度同时减少计算被称为Contourlet的原因[5].
量.传统的特征降维方法有主分量分析法(Principal
特征提取的目的是从图像中获得有助于分类识
ComponentAnalysis,PCA)、独立分量分析法(In—
别的特征矢量,按下式分别求出子带的L1范数,计dependentComponent
Analysis,ICA)和特征向量
算公式为
法等,这些方法的结果物理意义不明确,而且信息丢M
N
失严重.而聚类方法作为一种数据分析的手段,已被E一高∑∑l
coef(i∽I,
(1)
广泛应用在数据压缩及模型构造等方面.考虑到模其中,MN为子带大小,i、J表示子带中系数的索引,糊C一均值聚类算法(FuzzyC—Mean
algorithm,
coef(i,J)为该子带中第i行第j列的系数值.本文FCM)是一种局部最优的动态聚类方法[8],选用其的策略是计算Contourlet每个子带的L1范数,特征对数据集进行特征降维,可以得到良好的简洁数据维数的多少取决于分解的层数和每层方向分解的个样本.
数.
核匹配追踪(KernelMatchingPursuit,KMP)2.2
基于Brushlet变换特征提取
分类方法是近年来新提出的一种模式识别方法.它Brushlet是一种图像方向分析的新工具.为了的基本思想是利用核函数将特征从低维空间映射到
得到较好危度分辨率,F.G.Meyer和R.R.Coifman
(g。a∑(II
模式识别与人工智能20卷
构造频率域中仅仅局部化在一个峰值周围的自适应函数基,这样就可以将Fourier平面扩展成加窗的Fourier基,称之为Brushlet.Brushlet是一个具有复值相位的函数,二维Brushlet的相位提供图像各个方向上的有用信息,而且为了获得最精确和最简洁的图像表示形式,依据各个可能的方向、频率和位置的方向性纹理,我们还可以自适应地选择Brushlet的大小和方向.
为了提取Brushlet变换得到的图像纹理信息,按式(1)分别计算Brushlet变换后每个象限的L1范数,并由它们构成特征向量.需要指出的是,由于Brushlet分解的系数是关于原点反对称的,所以只需取其上半部分.因此,一层Brushlet分解得到2维特征,两层分解时得到8维特征.分解z层时,特征的维数等于2×4H.
3.2
核匹配追踪分类算法
核匹配追踪分类算法(KernelMatching
Pursuit,KMP)是一种利用核函数集进行寻优的匹配追踪方法,通过核映射将训练样本映射成为一组基原子字典.它是在基本匹配追踪算法的基础上,给定具体的核函数来代替函数g,进而利用BMP的思想来寻找权系数叫。和基函数数据x。,从而得到有效的分类器,再利用训练得到的分类器对目标进行分类识别.
假设L一{(x,,Y。),…,(x,,Y,))是一个含有z个输入输出,从一个未知的分布P(X,Y)(X∈/R“,y∈/R)中独立采样出的数据对.y∈卜一1,+l}是一个两类分类问题,进而给定一个核函数K:/R。×豫。一豫,本文是采用较常用的核函数:高斯函数K—exp(一|lx—x,Il2/a2)来得到的.这里,我们利用基于训练数据的核函数集:
D={k(x,)li一1,…,Z).
若考虑到常数项,则,。的近似的函数形式可表示为
核匹配追踪分类器
3.1
基本匹配追踪算法
假定在Hilbert空间H里有一个有限的函数集
”
fn(x)一2:∞。K(x,x,)+∞。,
i=l
(2)
D和一个目标函数厂∈H,如何找到一个^一
其中置是分类器基函数数据.训练的过程是以L一{(x,,Y。),…,(x,,Y。))为训练的有限维数据空间
的.
∑akg。来拟合f是我们需要解决的问题,这里,
(a,,…,a。)∈R”,(g。,…,g。)cD.当然,必须有一
个相应的准则来寻找(a,,…,09。)和(g。,…,g。),一般我们以
min(IlR。|l2一ll厂一7。l|2)
为准则.上述的寻找(a。,…,a。)和(g,,…,g,:)的过程就称之为匹配追踪过程.
利用lIR。II2准则先找出a,和g。,然后逐个递
4
基于Contourlet和Brushlet特
征聚类的核匹配追踪图像分类
近年来,为了对图像进行更为准确的描述,对多种特征融合方法的研究工作正在展开中.核匹配追踪分类器通过使用输入空间的一对向量的一个确定核函数来替换特征空间向量的内积,这样可以避免对向量正交化以去除向量间的相关性,从而可以构造出更合理的分类空间.因此当输入的表征样本的特征维数越大于分类类别数时,样本向量间相关性越小.而且,不同的特征对不同图像属性的刻画能力并不一致,利用不同特征对图像分类的贡献不同,通过结合能够获得比只用单个某种特征更好的分类效果.
推,直至找到口。和g。,从而得到^,我们利用递推式
‘
/■l—f。+a抖19计1,
通过最小化
IIR井,II2一|lR。一a升。g抖,I|2
来求得a抖l、g井1.即
(口科,,g井。)一arg墨ingED,a∈/R)¨h一=l
。)+昭一州2.
“
这种逐步寻优的方法就称之为基本匹配追踪算法(BasicMatchingDursuit,BMP),在基本匹配追踪算法的基础上加以改进,同上方法找出g什,.下一步不是仅仅估计出a抖,而是重新估计出口1,...,a井,:
鉴于在多尺度几何分析工具中Contourlet和
Brushlet在纹理分析方面都有不错的表现,结合多尺度几何分析和核机器学习的思想,本文给出一种结合Contourlet和Brushlet这两种不同变换所提取
0/1...rrkl一,arg蝻小∑a㈣g—f(口l…#1∈豫计1)”篇
2,
的能量特征的方法.此外,通过特征降维可以剔除冗余特征,提高分类精度同时减少计算量,所以我们将
这种方法叫做后反向预测(post—baekfitting)方法.
6期缑水平等:基于多尺度几何分析与核匹配追踪的图像识别
分别采用Contourlet变换和Brushlet变换提取的特5
实验结果与分析
征向量作为FCM算法中的样本,聚类后得到的C个聚类中心作为核匹配追踪的基函数数据样本.采用实验1
Brodatz纹理数据测试
核匹配追踪分类方法对Brodatzs纹理图像和遥感图本实验用来检测Contourlet和Brushlet的能量像进行识别.图1给出本文算法的结构框图.
测度对纹理分类的性能.为了验证算法的有效性,我燃H写湍翟呈蒜‘H梨麓H者篓葛;篙戮们采用Hu不变矩[1胡特征作比较,实验的数据集是Brodatzs纹理口4]图像库.它包含112个自然纹理图像,大小均为640×640,256级灰度.由于Brodatzs㈤繁卜I-'1I端糍翟船H梨剐-7嬲别
纹理库中有一些纹理不具有均一性质,从某种程度数据集
分解提取能量特征l7l聚类降维1
分类识别
上来说,它们与本文中实验比较不同特征提取算法没有很大关系,所以将它们去除[12l,如图2所示.一
图1
本文算法结构框图
共有34个非均一纹理图像,于是得到一个包含78Fig.1
Flowchartoftheproposedalgorithm
种纹理的测试集,其中包括视觉上较相似的纹理.将每个纹理图像分割为互不重叠的25个子图,大小为
本文算法具体步骤如下.
128×128,取其中的10个作为训练样本,其余15个
stepl
对输入的图像进行归一化处理,再进行
Contourlet和Brushlet分解.
作为测试样本.则整个训练样本集有780个样本,测试集有1170个样本.
step2
对分解得到的各Contourlet系数矩阵和Brushlet系数矩阵按式(1)计算特征.
step3
将所有图像的特征应用FCM对训练数
据集进行聚类,以聚类中心作为分类器基函数数据样本集X.
step4
设最大迭代代数N和很小的正数e,确
定用来训练分类识别的数据集L={(x,,y,),…,
(xf,Yz)},x,∈X,yi
E{一1,+”以及核函数K(此
处用高斯核函数),利用给定的矢量x:和y:来求最优的权系数和基函数数据:从训练数据集中任选工。图2
Brodatzs纹理库中的不具有均一性质的纹理示例
一x1,求出y(,)(x)一K(x,xi),利用
Fig.2
Exampleswithout
uniform
texture
from
min||y一叫iy(:)(x)II
Brodatzs
database
q
准则求出
为了便于比较,实验中Contourlet和Brushlet(EJ,一y忑)(z)・y/|ly。i,(x)1I
2,
均分解为3层.Contourlet的分解方向数由粗尺度到再求出
细尺度得到17维特征;Brushlet共32维特征.KMPAy,一lIy一(cJ。y(i)(x)||,
中采用RBF核函数,核函数参数盯取值、算法迭代次从中取出最小的甜,对应的工。和∞i分别作为第1个
数及不同特征提取方法的特征维数见表1.为了更基函数数据和第1个权系数.
准确地测试算法性能,对每类数据均独立运行20
step5
假设已求出L个权系数和基函数数据,
次,表1给出对测试集的平均正确识别率及算法运
利用KMP思想,采用后拟合方法,求出全部L+1个行时问,其中C&Hu表示Hu不变矩和Contourlet权系数.该过程是一个非常耗时的计算过程,所以通结合,B&Hu表示Hu不变矩和Brushlet结合,常采用匹配追踪算法在迭代运算数步后进行一次后B&C表示Brushlet和Contourlet结合.
拟合.
从表1可以看出对图像进行Hu不变矩、
step6
令L=L+1;如果权系数个数L大于
Brushlet、Contourlet变换后提取特征,采用单一特
等于最大迭代代数为N或者lly计。一Y。||<£,算征进行KMP识别效果都不是很好,Hu不变矩识别法停止,否则重复step5.
精度最低.首先,由于Hu不变矩特征主要描述的是
图像的形状特征,并非这些纹理图像的最有效表示,
780
模式识别与人工智能20卷
表1
不同特征提取方法对Brodatzs图像KMP分类正确识别率比较
Table1
ComparisonofBrodatzsimagesrecognitionresultsbyseveralfeatureextraction
methods
方法HuContourlet
BrushletC&Hu
B&Hu
B&C
B&C+PCAB&C+FCM
参数J0.0100.0450.0390.0600.0840.0450.0200.045迭代次数6015152015252515特征维数
717322439491416时间(s)
56.687
39.96841.06240.10943.29746.31346.04341.984识别率(%)77.86
83.49
86.65
85.98
86.91
93.45
85.90
93.56
Contourlet变换可以有效表示图像的轮廓信息,同类型但不同型号的飞机目标进行分类识别.遥感Brushlet则能较好地表示图像的方向信息.因此采目标库中包含不同旋转角度的完全和残缺的二值化用单一特征进行分类所能获得的图像信息非常有飞机目标图像共计606幅,其中包含6类飞机目标,限,而Brushlet和Contourlet结合后分类精度可以部分待分类图像如图3所示.实验中每一类随机选
得到很大的提高.其次,由于KMP采用式(2)进行择1/4的样本作为训练样本,其余作为测试样本,分
分类识别时,特征向量的相关性越小分类效果越好,别用Contourlet、Brushlet和本文方法对其进行识因此在本实验中随着向量特征维数增加,直到49维别.实验中提取各分解子带的特征,独立运行20次,之后,识别结果也有了很大的提高.当然对图像而实验平均结果如表2所示.
言,要想获得更多的特征向量,并不是一件很容易的从表2的结果我们可以得出和实验1结果有相事,一般要么需要有更有效的特征提取方法,要么进同的结论,即基于特征融合的方法得到的正确识别行特征融合.我们在此采用后一种方法增加表征样率高于单一特征的方法.引进FCM聚类方法后,训本的特征维数,即基于特征融合的方法得到的正确练时间、分类识别时间大大缩短.这说明本文方法对识别率高于单一特征的方法.
实测遥感图像也是有效的.
但是,并不是把任意方法相结合都可以得到最高的分类精度,而是要将可以相互弥补的特征结合才能起到更好的效果.该实验中Brushlet和Contourlet所提特征结合识别结果就优于其它两种特征结合.然而,向量特征维数增加后计算量也会随之提高,所以采用FCM、PCA对图像特征维数进行压缩.但PCA是一种线性映射,特征压缩后物理意义不明确,实验结果发现使用PCA后正确识别率被图3
6类不同的飞机目标示例
降低同时算法运行时间缩短不够明显,而FCM在正Fig.3
Imagesof6diverseplanes
确识别率略有提高的情况下,缩短了训练时间和识别时间.6
结束语
实验2
遥感图像数据测试
本实验旨在考察Brushlet和Contourlet结合方本文主要的工作是利用Contourlet变换具有良
法在遥感目标识别方面的性能,因此在子带特征提好的方向分辨率,进行纹理信息描述,并结合取阶段依然选择能量测度方法.实验中我们对一组
Brushlet变换,提出一种有效的图像特征提取方法,
表2
不同方法对飞机目标识别率比较
Table2
Comparisonofplanerecognitionresultsbyseveral
methods
6期缑水平等:基于多尺度几何分析与核匹配追踪的图像识别
报,2003,3l(Z1):1975—1981)E63
Dotion
781
采用FCM聚类方法进行特征降维.并采用核匹配追踪分类器对Brodatzs纹理图像和遥感图像进行分类识别,体现本文方法的有效性.由此我们可以推测如果能将其它相关图像特征提取方法结合进来,识别精度有望进一步提高.因此,我们在以后的工作中将其它可以相互弥补的特征结合,或者将多个分类器进行集成渴望得到更好的分类效果.
MN,VetterliM.Contourlets:ADirectionalMuhiresolu—Image
Representation//Proc
on
ofthe9thIEEE
International
Conference357—360
ImageProcessing.Rochester,USA,2002,I:
E7]Meyer
F
G,Coifman
and
R
R.Brushlets:A
Toolfor
and
Directional
ImageAnalysisImageCompression.AppliedComputa—
tionalHarmonicAnalysis,1997,4(2):147—187
E83Kosko
B.Fuzzy
Engineering.UpperSaddle
River,usA:Pren—
参
考
文
献
E13
CandesE
J.Ridgelets:Theory
andApplications.Ph.DDisser—
tation.Stanford,USA:StanfordU-fiversity.Departmentof
Statistics,1998
E23Meyer
FG,Coifman
RR.Directional
ImageCompression
with
Brushlets//Proeofthe
IEEE—SP
InternationalSymposium
on
Time—FrequencyandTime—ScaleAnalysis.Paris,France,1996:
189—192
E3]CandesEJ,Donoho
D
LCurvelets:ASurprisinglyEffective
Nonadaptive
Representation
for
Objects
with
Edges//Cohen
A,RabutC,SchumakerI。L,eds.CurvesandSurfacesFitting.Nashville,USA:VanderbiltUniversity
Press,1999:105—120E43
Do
MN,Stoeckler
VMC
J,Welland
G
V.Beyond
Wavelets.
Washington,USA:AcademicPress,2002
EslJiao
Licheng,Tan
Shan.Developmentand
Prospect
ofImage
MultiscaleGeometricAnalysis.ActaElectronicaSiniea.2003,
3l(ZI):1975-1981(inChinese)
(焦李成,谭山.图像的多尺度几何分析:回顾和展望.电子学
ticeHall.1996
[9]Vincent
P,Bengio
Y.Kernel
Matching
Pursuit.Machine
Learning,2002,48(1):165—187
E103
PoDDY。DoMN.Directional
MultiscaleModeling
of
Images
Usingthe
ContourletTransform.IEEE
Trans
on
Image
Pro—
cessing,2006,15(6):16i0—1620
[11]“ST,Shawe—TaylorJ.TextureClassification
byCombining
Wavelet
and
ContourletFeatures//Procof
theJointIAPR
In—
ternational
Workshop
on
StructuralandSyntacticalPattern
Rec—
ognition
andStatistical
Pattern
Recognition.Lisbon,Portugal,
2004:1126—1134
D2]TanShan,ZhangXiangrong,JiaoLicheng.ABrushlet—Based
Feature
SetApplied
to
Texture
Classification.Berlin,Germa—
ny:Springer-Verlag,2004:1175一1180
E13]HuM
K.VisualPattern
Recognitionby
Moment
Invariants.
IEEETrans
on
InformationTheory,1962,8(2):179-187
[-14]Brodatz
P.Textures:A
Photographic
AlbumforArtists&
Designers.NewYork;USA:Dover,1966
基于多尺度几何分析与核匹配追踪的图像识别
作者:作者单位:刊名:英文刊名:年,卷(期):被引用次数:
缑水平, 焦李成, GOU Shui-Ping, JIAO Li-Cheng西安电子科技大学,智能信息处理研究所,西安,710071模式识别与人工智能
PATTERN RECOGNITION AND ARTIFICIAL INTELLIGENCE2007,20(6)1次
参考文献(14条)
1. Candès E J Ridgelets:Theory and Applications 1998
2. Meyer F G. Coifman R R Directional Image Compression with Brushlets[外文会议] 1996
3. Candès E J. Donoho D L Curvelets:A Surprisingly Effective Nonadaptive Representation for Objectswith Edges 1999
4. Do M N. Stoeckler V M C J. Welland G V Beyond Wavelets 2002
5. 焦李成. 谭山 图像的多尺度几何分析:回顾和展望[期刊论文]-电子学报 2003(z1)
6. Do M N. Vetterli M Contourlets:A Directional Multiresolution Image Representation[外文会议] 20027. Meyer F G. Coifman R R Brushlets:A Tool for Directional Image Analysis and Image Compression1997(02)
8. Kosko B Fuzzy Engineering 1996
9. Vincent P. Bengio Y Kernel Matching Pursuit[外文期刊] 2002(01)
10. Po D D Y. Do M N Directional Multiscale Modeling of Images Using the Contourlet Transform[外文期刊] 2006(06)
11. Li S T. Shawe-Taylor J Texture Classification by Combining Wavelet and Contourlet Features[外文会议] 2004
12. Tan Shan. Zhang Xiangrong. Jiao Licheng A Brushlet-Based Feature Set Applied to TextureClassification 2004
13. Hu M K Visual Pattern Recognition by Moment Invariants 1962(02)14. Brodatz P Textures:A Photographic Album for Artists Designers 1966
引证文献(1条)
1. 唐继勇. 宋华. 孙浩. 邓亚平 基于粗糙集理论与核匹配追踪的入侵检测[期刊论文]-计算机应用 2010(5)
本文链接:http://d.g.wanfangdata.com.cn/Periodical_mssbyrgzn200706009.aspx