基于光流块统计特征的视频异常行为检测算法_余昊
9卷第8期 第4015年8月 2
上海交通大学学报
JOURNALOFSHANGHAIJIAOTONG UNIVERSITY
Vol.49No.8
Au.2015 g
()21000646720150819961 文章编号:---:/.cnki.stu.2015.08.019DOI10.16183jjj
基于光流块统计特征的视频异常行为检测算法
,,abab
余 昊a, 孙锬锋, 蒋兴浩
()上海交通大学a.电子信息与电气工程学院;00240b.信息内容分析技术国家工程实验室,上海2摘 要:提出了一种基于光流块统计特征的视频异常行为检测算法.该算法首先对训练集视频序列的光流场进行分块及预处理,而后提取光流块的统计特征,所提取的块统计特征同时包括了光流块的幅度信息和相位信息,通过训练集得到的光流块统计特征训练出对应的正常行为的高斯混合测试集通过同样的方式提取光流块统计特征,模型(通过计算所提取统计特征以多大的概.GMM)
率属于GMM判定所检测光流块的异常程度.实验结果表明,该算法能够在一定程度上解决运动物体一致性和部分遮挡问题,并提高了异常行为检测的准确率.关键词:异常行为检测;光流块;统计特征;预处理;高斯混合模型中图分类号:P391 文献标志码:AT
VDetectionBasedonideoAnomal y
StatisticFeatureofOticalFlowBlock p
aabab
,YHTXheU aoUN annIANG inao S- Jfg,g-
(;a.SchoolofElectronicInformationandElectricalEnineerinb.NationalEnineerinLaboratoron ggggy
,,)InformationContentAnalsisTechniuesShanhaiJiaotonUniversitShanhai200240,China yqggyg
,
,
:roosed.AbstractAnanomaldetectionalorithmbasedonthestatisticfeatureofoticalflowblockwas ppygp
,,Firstthewholeoticalflowfieldoftraininvideoseuenceswereobtained.Theneachoticalflowfield pgqp rerocessedinordertoextractthestatisticfeatureconsiderinwasdividedintoblocksandeachblockwas ppg
haseinformationoftheblock.TheGaussianmixturemodel(GMM)wasemloedtobothmanitudeand ppygestablishtherobabilitmodelofnormalbehaviorsbfeedinthestatisticfeatureintoit.Theabnormal pyyg dereeoftheoticalflowblockwasudedbtheoututosteriorrobabilitoftheGMMrobabilistic gpjgypppyp model.Theexerimentalresultsshowthatthemethodroosedconsidersboththeconsistencinforma- pppy
,,tionofmovinobectsandtheartialocclusionissueatthesametimeimrovestheaccuracofanomal gjppyy detection.
:;;;;GKewordsanomaldetectionoticalflowblockstatisticfeatureaussianmixturemodelrerocessin ypppgy
随着日常生活中大量监控视频数据的不断累
积,利用人工查找的手段去识别和检测监控视频中出现的异常行为已经变得越来越低效,于是监控视
收稿日期:01468201--
频中异常行为智能检测就变得极为重要,对于在拥挤场景下监控视频的异常检测就更是如此.异常行为的定义在不同的场景下有不同的含义,而且迄今
,,)基金项目:上海市科委国际研究合作项目(国家教委博士点专项基金项目国家自然科学基金项目(12510708500)61272249,61272439
)(),资助软件工程国家实验室开放研究基金项目(01KLSE20129220120073110053S--
,男,江西省九江市人,硕士生,主要研究方向为视频异常行为检测.作者简介:余 昊(9891-)
;):,:男,副研究员,孙锬锋(联系人)电话(34206657E-mel.21ailtfsuntu.edu.cn.0T-@sj
1054
上 海 交 通 大 学 学 报
第49卷
为止对于异常行为也并未提出一个业内普遍认可且统一度较高的定义,处理这类问题主要的且最为常见的方法是先利用正常行为模式的完备数据集合去建立一个正常行为的概率模型,那么当用正常行为模式去匹配这个概率模型时会得到一个较大的后验概率输出,反之则会得到一个较小的后验概率输出.近些年来,很多研究人员在这个领域提出了许多经
]81-
总体而言,现在已经提出的算法可以典的算法[.][15
如大致分为2类:①基于物体运动轨迹的算法-,
体存在部分遮挡的情况下效果不佳;第2类算法可以在一定程度上解决物体的部分遮挡问题,然而对于运动物体本身的一致性却没有一个很好的表征和判定.
为了兼顾物体部分遮挡问题和运动物体一致性的判定,本文提出了一种基于光流块统计特征的异常行为检测算法.先将训练集视频得到的光流场序列进行分块处理,然后对光流块进行预处理、混合统计特征提取,最后用高斯混合模型(aussianMixG- ,对得到的统计特征向量进行聚tureModelGMM)
类训练,得到正常行为模式的概率模型,这样,测试集视频中的异常行为检测就可以通过与训练集得到的GMM进行匹配来实现.
]文献[中提出了一种时空语境下的异常事件检测5算法,通过3个层次挖掘出正常事件中运动物体轨迹的常规规则,由此建立正常事件的隐马尔科夫模去检测异常事件.型(HMM)②基于运动模式检测
]86-
,如文献[的算法[中提出了一种基于动态纹理7]
特征的异常事件检测算法,通过构建时空的混合动态纹理特征进行异常事件的检测.第1类算法在物体无遮挡的情况下可以取得不错的效果,然而在物
1 光流块的统计特征
本文提出了一种基于光流块的统计特征提取算法,如图1所示
.
图1 光流块的统计特征
Fi.1 Statisticfeatureofoticalflowblock gp
1.1 光流块的提取及预处理首先通过文献[中提出的光流算法计算出视9]频集合中每一帧图像对应的整体光流场,然后将计算得到的光流场分割成Npiixel×Npxel的光流块.一个光流块内既要能够包含N的选取原则是:物体运动的整体,又不能在一个光流块中包含过多杂乱的运动物体.其中可以得到每帧的光流块个数显然光流块中的每个像素点都对应着为W×L个,
一个二维光流向量.紧接着对分割出的每个光流块都作如下处理.
(m,n)
为光流块中第m行、第n列像素先假设vx
(m,n)
点的二维光流向量的水平方向速度,同时假设vy
(m,n)
表示对于像素点筛选的阈值.和Tv∈[v0,1]x
(m,n)
分别是向量V(和向量中的元素,当光vx)V(y)y
第n列像素点同时能够满足流块中第m行、
(m,n)
[]vV(x)axx<Tvm
(m,n)
[]vV(axy)<Tvmy
()1()2
时,这个像素点将从光流块中删除,从而不进入后续的处理过程.因为这样的一个像素点从幅值的角度来看可以被认为是没有“异常程度”的贡献的,这样一步操作的效果等价于将这个像素点的二维光流向量设置为零.
通过对光流块做这样的预处理,可以对光流块中的像素点做一个很好的筛选,删去那些与光流块运动模式一致性关联度较少的像素点,这也是阈值效果如图2所示.Tv的选取原则,
在对光流块内的运动物体进行跟 通过预处理,
踪的同时,又很好地保留了光流块内底层的光流特]中仅仅只对运动物体的轨迹进征,既不像文献[51-]中只关注底层的像素级特行跟踪,也不像文献[86-征而忽略对物体的跟踪.经过预处理过程后,向量、转变为V和V最后将预处理后.V(x)V(′(x)′(y)y)
为光流块中第m行、第n列像素点的二维光流向量的垂直方向速度.令
(((1,1)m,n)N,N)N
…v…v)]∈RV(x)=[vxxx
2
同理可以令
(((m,n)N,N)N1,1)
…v…v)]∈RV(vy)=[yyy
2
然后对光流块中的向量做运动一致性的像素点筛选[]中值最大的表示向量V(预处理.设:V(x)x)axm[]中值最大的元素;表示向量V(元素;V(axmy)y)
第8期
余 昊,等:基于光流块统计特征的视频异常行为检测算法
1055
图3 有序系数λo
图2 光流块的预处理
i.2 PrerocessedoticalflowblockF gpp
i.3 WellranizedcoefficientFo -λggo
和V进行对应像素点的得到的速度向量V′(x)′(y)组合,这样得到的光流块中像素点所对应的二维向量不论是从向量幅度还是向量方向上都具有高度的一致性.
2 统计特征的计算1.
光流块的统计特征将从2个方面构建:幅值信息由预处理后光流块的幅值信息构建;相位信息由原始光流块的相位信息构建.这样的特征向量构建过程类似于一个矢量的决定过程:幅值和相位信息足以决定和重构原始矢量的方向和幅度大小.
是统计学中一个十分重要的统计变E) 信息熵(
量,它可以有效反映一个复杂系统中的混乱无序程度,也就是说一个系统越是混乱无序,所计算出的信息熵就越大.不难看出E的定义显然和本文之前对有序系数的定义在物理意义上完全相反,故可通过对原始光流块相位信息熵的计算表征出有序系数.由于之前对原始光流块内光流向量相位区域采用的,由此本文是8位的方向量化,所以可知E∈[0,3]]可由下式计算得出:中定义的有序系数λ0,1o∈[()=1-∑[lb7-p λpo=1-ii]
33i=1
有序系数λ 如图3所示,o可以表示光流块中的相位信息,光流块中的幅度信息则可以由式(和3)()计算出的M表示.因此不难看出,每个光流块的4
异常程度都可以用下式所得到的光流块统计特征F表征.
()F=λ8oM
计算出每一个光 通过上文的一系列处理流程,
流块对应的统计特征向量,下面就需要选取恰当的统计概率模型去构建正常事件的集合.
8
′(x)1.2.1 特征向量的幅值信息 从速度向量V
和V构建特征向量的幅值信息.假设有′(y)
((1)(2)C)C
…vV′(x)=[vxvxx]∈R
(((1)2)C)C
…,V′(vvvy)=[∈Ry,y,y]
其中,表示经过光流块预处理后筛选出1,C∈[N2]表示光流块特征的像素点的个数.令M=[MxMy]向量的幅值信息
C
Mx=My=
i=1C
∑v
()ix()3()4
i=1
i
∑vy
()
2 异常行为检测的整体算法框架
本文提出了一种基于光流块的统计特征,并通过GMM概率模型进行聚类训练,如图4所示.算法流程主要分为4个部分:训练视频(待测视频)的解帧及统计特征提取;待测光流块统计GMM的训练;特征的均值滤波;连续的统计特征的异常判定.待测视频)的解帧及统计特征提取1 训练视频(2.
首先将训练集的视频(待测视频)进行解帧的操作,得到对应的连续图像序列的集合,然后运用文献[]中提出的光流算法对连续图像序列计算其对应9
的光流场图,将计算得到的光流场分割成W×L个光流块,其中每个光流块的大小为Npiixel×Npx-,最后对于分割出的每个光流块都可以计算出其el
对应的光流块特征向量F.
2.2 GMM的训练
例如:GMM已经在多个领域取得成功的应用,
110]1]
以及图像的背景提取[等.本文引入演讲者识别[
1.2.2 特征向量的相位信息 为了从原始的光流
块中得到特征向量的相位信息,需要定义一个有序有序系数是指原始光流块中光流向量所表系数λo.
征出运动方向的有序程度,原始光流块中的运动方向越是有序一致,则对应的有序系数λo的值越大. 首先提取出原始光流块中每个像素点对应的光流向量的相位值,然后将所有提取出的相位量化为如图3所示.设ni内像8个区域方向,i为落在区域
…,,定义光流块相位素点的总数,其中i∈{1,2,8}
8
量化后的概率分布向量为P=[∈R,p1…pi…p8]
其中pi可由下式计算得到
/Npi=ni
再由下式可计算出P的信息熵:
2
8
()5
E=∑[lb-p pii]
i=1
()6
同时P也是原始光流块的8方向量化的相位熵
.
1056
上 海 交 通 大 学 学 报
第49卷
图4 算法的整体框架
i.4 FrameworkofroosedalorithmF gppg
GMM建立了关于光流块统计特征F的统计概率模型.其中GMM建立的迭代过程采用期望最大化算)进行计算,法(通过训练xectationaximizationE-Mp集视频序列的光流块统计特征计算出GMM的均值向量μGMM的概率密度分k和协方差矩阵Σk.布函数如下式所示:
K
由此一个光流块都能够得到所对应的后验概率Pb.)的方式可以通过设定人工后验概率阈值PT∈(0,1说明去判定分割出的光流块是否异常.即Pb<PT,光流块与GMM匹配的概率较低,可判定光流块内说明光流块与GMM匹配有异常行为;Pb>PT时,的概率较高,可判定光流块内为正常行为.通过不断地移动PT的值,就可以绘制出对检测算法优劣进行评价的受试者工作特征(eceiverOeratinR pg
,曲线.CharacteristicROC)
x)= p(
k=1K
k)x|k)=p(∑p(
x|μ,Σ)∑πN(
k
k
k
()9
k=1
式中:x表示输入的特征向量;k表示混合模型聚类的高斯模型数目;πk表示每个高斯模型在混合模型表示每个高斯模型的中所占的权值;N(x|Σk,k)μ后验概率.
由于在视频帧的不同位置中,图像的尺度大小是不一致的,所以本文算法将对同一个位置上所有训练库视频帧的光流块分别采用一个GMM进行
训练,也就是对于每个不同的视频库都将对应训练
3 实验与分析
实验的视频序列的整体光流场利用C++代码提取,后续的算法框架处理全部在MATLAB中实
现,实验所用的数据库为UCSD(UniversitofCali- y ,)的异常检测视频数据集.这个视forniaSanDieo g
中提出的,是现阶段频数据集是2010年在文献[7]业内认可度较高的也是相关论文中使用最频繁的视频数据库,为本文进行异常检测准确度对比性实验提供了便利.
1 实验参数设定3.
分别为SCD视频数据集分为2个子数据集,U这2个子数据集有着不同的拍摄场ed1和Ped2,P
景以及拍摄角度,并且是在完全的自然生活状态下拍摄的.在Ped1和Ped2中定义了许多不同类型的异常行为,如:奔跑者,坐轮椅者,滑旱冰者,骑自行车者,货车,横穿草坪者.Ped1视频集中包括了34段训练集视频序列和3分辨率6段测试集视频序列,都是238pixel×158pixel.Ped2视频集中包括了16段训练视频集序列和1分辨率2段测试视频集序列,都是360pixel×240pixel.
,Ped1中光流块的大小设为10pixel×10pixel不论Ped2中光流块的大小设为15pixel×15pixel.是在Ped1还是Ped2中每一帧都有16×24个光流块,ed1和Ped2中像素点筛选的阈值Tv分别设为P本文算法中特征向量维数较低,65和0.8.0.GMM
W×L个GMM模型.
3 待测光流块统计特征的均值滤波2.
GMM是一个对连续型输入变量更为敏感的概率统计模型,所以在对测试集的视频序列进行异常检测时,会将相同坐标位置的光流块进行5帧的均值滤波,如下式所示:
mn
F=i
-(,)
(m,n)
Fi+j∑5j=-2
-(,)mn
2
()10
式中:F(m,n)
i表示第i帧、第m行、第n列对应位置
表示经过5帧均值
光流块的统计特征向量;Fi
滤波后对应位置光流块的统计特征向量.这样对于测试集视频序列所输入的正常的和异常的光流块的统计特征F更符合GMM对连续型变量的高敏感度,同时也会使得光流块统计特征所呈现出的幅值变化更具有一致连续性.
4 连续的统计特征的异常判定2.
通过上述的算法框架,待测视频每一帧中的每
第8期
余 昊,等:基于光流块统计特征的视频异常行为检测算法
1057
中k值的变化不会对模型的性能造成影响,故Ped1和Ped2中GMM聚类的数目k都设定为4.3.2 视频异常行为检测算法准确率评估
,见图5)和其将本文提出的算法(简称为Ours他4种算法进行性能的比较,这4种算法是:社会力
6]12]
((,,简称S简称MP混合光流[混模型[F)PCA)7]
(,简称MD合动态纹理[以及X中T)u在文献[8]
表2 UCSD数据集上进行EER指标的算法准确率对比
Tab.2 AccuracevaluationofEERonUCSD y
算法Ped1 Ped2 平均
/%FS31 42 36.5
/%MD/%MPPCAT
40 30 35
25 25 25
/%Xu22 21 21.5
/%Ours21.813.217.5
)提出的算法(简称Xu.
图5为本文算法和其他4种对比算法在Ped1和P通过Red2上的ROC曲线对比,OC曲线可以计算得到评判算法优劣的2个重要量化评价指标C(AreaUnderCurve)和EER(EualErrorAU q)
Rate.
的一致性,例如对于人行道上的货车、轮滑者、践踏草坪者,自行车骑行者以及同一帧图像不同位置异)所示,视常行为的同时标注均能够定位.如图6(f频帧存在自行车骑行者部分被树叶遮挡的情况,urs对于这种存在部分遮挡情形下的异常行为也O
能够较好地定位
.
()a
()ed
1aP
()ed2bP
()b
图5 UCSD数据集中的ROC曲线i.5 ROCcurveofUCSDdatasetF g
对于不同算法在数据集Ped1中得 如表1所示,
到的AU本文算法的8C评价指标而言,4.2%与Xu算法的8在数据集P5.4%相比仅相差1.2%;ed1中,对于E见表2)ER这个评价指标而言(urs的O如表1所示,比X2%.EER为21.8%,u降低了0.在Ped2这个视频数据库中,urs的AUC指标和O性能上优于XER指标分别为93.8%、13.2%,uE
的8其中AUC提高5.6%,EER降8.2%和21%,低7.从U8%.SCD这个数据集量化指标的平均值来看,urs平均的AUC和EER分别为89.0%、O相比于X17.5%,u的86.8%和21.5%而言,CAU提高了2.2%,EER降低了4%.
表1 UCSD数据集上进行AUC指标的算法准确率对比
Tab.1 AccuracevaluationofAUConUCSD y
算法Ped1 Ped2 平均
/%FS67.5 55.6 61.6
/%MD/%MPPCAT59.0 69.3 64.2
81.8 82.9 82.4
/%Xu85.4 88.2 86.8
/%Ours84.293.889.0
()c
()d
()e
()f
图6 UCSD数据集中的异常行为
Fi.6 EvaluationofanomallocalizationinUCSDDataset gy
3.3 视频异常行为检测算法速度评估
文献[中提出的算法MDT用C++编写而7]/帧;]文献[成,处理视频数据库的速度为2中提5s8出的算法是用MAT处理视频数据LAB编写而成,
/帧.库的速度为5sOurs算法框架的后续算法流程也是由MAT运行的环境为普通的LAB编写而成,
台式电脑:本文整体算zCPU以及2GB内存.3GH /帧,这其中法流程处理视频数据库的速度小于1s
C++编写的光流场计算的算法流程的每帧计算时
/帧,后续的每帧处理时间仅为0.间大约为0.8s2/帧左右.本文的算法效率可以通过更为高效的光s
流算法进一步加速整体的算法效率.
())所示,urs对于运动物体异常aeO 如图6~(
行为的标注(线框区域)能够很好地体现出物体运动
8105
上 海 交 通 大 学 学 报
第49卷
4 结 语
本文提出了一种基于光流块统计特征的视频异常行为检测及定位算法,通过对视频序列光流场进行分块处理及像素点筛选的预处理,提取出了能够很好表征光流块异常程度的光流块统计特征,并且最终通过引入GMM建立了正常行为的概率模型,以光流块统计特征向量以多大概率存在于正常行为概率模型的方式对光流块进行是否异常的判定.
在权威数据库U本文CSD上的对比实验表明,提出的算法在AUC和EER两个量化性的指标上都有了不同程度的提高,不仅能够检测出视频序列中是否存在异常行为,还能够对存在异常行为的视频帧进行定位.参考文献:
[taufferC,Grimson W EL.Learninatternsofac1] S-gp
]ttrealivitusinimetrackinJ.IEEETransactions- gyg[
,onPatternAnalsisandMachineIntellience2000,22 yg():8774757.-
[,mand2]orrisBT,TrivediM M.Learninodelin M gg
classificationofvehicletrackatternsfromlivevideo p[]J.IEEETransactionsonIntellientTransortation gp
,():Sstems2008,9342537.4-y
[3]asharatA,GritaiA,ShahM.Learninobectmo B -jg
ionatternsforanomaldetectionandimrovedobt -ppy [ctdetectionC]roceedinsofIEEEConferenceone ∥P jg:ComuterVisionandPatternReconition.Anchorae gpgIEEE,2008:18.-
[,4]F,YuanJTsaftarisSA,ianeatl.Videoanoma J - g
[etectioninsatiotemoralcontextC]roceedld ∥P-ppy
insoftheInternationalConferenceonImaeProcess- gg:IEEE,2010:705Konn.Hon08.i7-ggg
[5]hanT,LuH,LiSZ.Learninsemanticscene Z gg
modelsbobectclassificationandtraectorcluste -yjjy [inC]roceedinsofIEEEConferenceonComutr∥P -ggp:rVisionandPatternReconition.MiamiIEEE,e g2009:1940947.1-
[6]ehranR,OamaA,ShahM.Abnormalcrowdbe M -y
[haviordetectionusinsocialforcemodelC]ro- ∥Pg eedinsofIEEEConferenceonComuterVisionandc gp
:PatternReconition.MiamiIEEE,2009:935942. -g[tl.Anomal7]ahadevanV,LiW,BhalodiaV,ea M y
[detectionincrowdedscenesC]roceedinsofIEEE ∥P gConferenceonComuterVisionandPatternReconi- pg:ion.SanFranciscoIEEE,2010:1975981.t1 -[8]uD,WuX,SonD,eatl.Hierarchicalactivit X gy
emoralcontextforvideotdiscoverwithinsatio - pyp ,anomaldetection[C]∥ImaeProcessinICIP) ygg( 01320thIEEEInternationalConferenceon.Mel2 -:ourneIEEE,2013:3597601.b3-
[:9]newreresentationsiuC.BeondixelsExlorin L pyppg
[:andalicationsformotionanalsisD].Cambride ppyg,2009.MassachusettsInstituteofTechnolo gy
[]10enoldsDA,QuatieriTF,DunnRB.Seaker R yp
adatedGaussianmixturemodelsverificationusin pg :,()[]191.4rocessin2000,101J.Diitalsinal- pggg
[]11ivkovicZ.ImrovedadativeGaussianmixturemod Z -pp
[elforbackroundsubtractionC]roceedinsofthe ∥P ggInternationalonferencenatterneconition. C o P Rg:31.CambrideIEEE,2004:28-g
:[],,G12inferloballimJraumanK.Observelocall K ygy
abnormalactivitiesimeMRFfordetectintAsace - gp withincrementaludates[C]roceedinsofIEEE ∥P pgConferenceonComuterVisionandPatternReconi- pg:t22ion.MiamiIEEE,2009:921928.-
上接第1198页) (
],C,Y,[u8sieMachinehanChinnanIunt1e H --Tjggggg
[],19hasem MoslehiMehdiMahnam.AParetoaroach G pp
tomultibectiveflexibleobhoschedulinrobos ---jjpgp emusinarticleswarmotimizationandlocalsearchl gpp [,J].InternationalJournalProductionconomics E():2011,12912142.-
al.Resourceonstrainedschedulinforcontinuousc -g reetitiveroectswithtimebasedroductionunits - ppjp[],:J.AutomationinConstruction2009,18(7)942 -946.