【信息科学与控制工程】
在实际的运动目标跟踪过程中,目标位置和姿态的变换、目标尺度的变化、场景中光线变化、目标的快速运动、物体遮挡等,都会对目标跟踪的鲁棒性产生很大影响[1]。生成式目标跟踪方法通过对目标建立外观模型来预测目标的位置,在当前的硬件条件下更适用于在线目标跟踪。Kalman滤波方法对目标模型和噪声特性要求较高[2-3],粒子滤波(PF)[4-5]和均值漂移[6-8]能够有效应用于非线性、非高斯的运动系统,具有较好跟踪效果。粒子滤波在传统算法的基础上衍生了多区域采样[9]、改进的重要性函数、自适应重采样算法[10]等新方法,但是当场景中有多个相似目标或目标与背景相似时,随机采样的误差累积会导致滤波器发散,进而造成滤波结果错误。Meanshift算法计算速度快,Vojir等[11]提出的RSAM(RobustScale-AdaptiveMean-ShiftforTracking)算法,是VOT2015官方推荐的一种基于颜色特征的实时算法,但当背景色和目标颜色接近时,有可能导致目标跟踪丢失。
为了解决遮挡、相似目标干扰等造成的目标丢失问题,李冠彬[12]、张彦超[13]等将目标区域划分成多个子区域,有效规避遮挡下的目标丢失问题,并综合多个分块跟踪结果确定最终跟踪位置;别秀德[14]、宋丹[15]等利用融合多种特征实现目标跟踪,增加图像的局部不变性,提高算法的鲁棒性;文献[16]使用meanshift算法对粒子进行聚类分析,但核函数宽度固定不变,导致目标大小发生变化或严重遮挡时,易产生跟踪滞后或丢失目标的现象。
本文利用粒子滤波实现全局基于DPM特征外观模型的滤波,提取重采样后的粒子群,基于HSV+LBP的融合特征,进行meanshift聚类处理,实现多特征下的局部外观模型的二次定位,并构建全局局部一致性条件下的跟踪结果融合策略,以得到目标的稳定、准确的跟踪位置。
在粒子滤波过程中,对于当前t时刻的某一粒子状态可以根据之前一系列的已有目标位置递推地计算出当前状态的可信度这一过程需要预测和更新两个步骤,其中:
预测步骤为:
(1)
更新步骤为:
(2)
进而得到最小方差意义上的最优估计结果为:
(3)
每个粒子代表了目标的状态,其对应了一个离散的采样概率,用权重来表示,对于归一化的权重来说,任一粒子权重的递推公式为:
(4)
式(4)中:为已知的概率密度函数。为了防止粒子退化,采用重采样策略得到新的粒子集,并输出状态估计结果。图1为粒子滤波的基本流程。
为了提高目标预测跟踪精度,本文首先采用DPM(Deformable Part Model)特征,建立梯度方向直方图作为全局特征;为了适应跟踪目标在尺度、角度旋转方面的变化,提高跟踪稳定性,将传统粒子滤波的矩形区域改为具有长轴、短轴和倾斜角参数的椭圆区域的特征模型来描述目标,从而完成基于DPM特征的全局粒子滤波过程。
图1 粒子滤波目标跟踪流程图
为了提取DPM特征,本文采用4个8×8的Cell组成2×2的block,进而生成13维特征向量作为粒子的特征向量,并构建特征向量直方图,该直方图比传统基于颜色的8×8×8的直方图的特征向量维数要低11维,但是该描述子保持了几何和光学变化不变性,使得跟踪过程对于光照或阴影遮挡的抑制效果更好。
为了解决粒子滤波中相似目标和背景对跟踪性能的影响,本文对重采样后的粒子群进行聚类处理,实现多局部区域的目标跟踪。
为了获取有效的局部区域的中心,本文通过meanshift对重采样的粒子集合进行非参聚类[17]以实现局部最大点的求取和区域最优估计。
本文提出LBP(Local Binary Pattern)+HSV的特征选择策略,首先在3×3窗口内得到8bit图像的局部纹理特征,在结合窗口中心像素的4×4×4的HSV颜色特征,组合得到20bit的融合特征向量,求取联合LBP和HSV特征直方图,得到局部区域的联合直方图。
将所有粒子和其权值组成一个数据集合,则第t帧第i个粒子可表示为:其中为粒子坐标,则某一区域的中心点s0处的概率分布为:
(5)
式(5)中:δ(·)为狄拉克函数;表示像素点到像素特征的映射;m为联合特征向量的维度为归一化常数,k为核函数,h为带宽宽度。
对于任一粒子s1处的概率分布可表示为:
(6)
取两点之间的巴氏距离作为相似度指标,有:
(7)
式(7)中:为巴氏系数。可见巴氏系数大,则两点的巴氏距离小,则候选区域是目标区域的可能性就越大。
在粒子s0周围搜寻最优目标位置s1,两点的meanshift向量可表示为:
(8)
为了突出距离对权值的影响,利用巴氏距离的指数形式表示权值,则本文权值更新形式为从而使得距离较小的粒子拥有较大权重,最终确定的区域局部最大值点作为局部的聚类中心,即:
(9)
对于c个区域,获取每个局部最大值周围的粒子点集,就相当于把N个粒子点划分到c个不同的局部区域内。对于单目标图像,新的粒子以目标不同局部区域j=1,2,3,…,c为中心的数据集合;对于多目标图像,粒子则形成一系列以目标j=1,2,3,…,c为中心的数据集合,同时记录不同区域的中心位置Cj及该区域包含的粒子个数
由于这个多维向量是局部区域的特征集合,虽然维数较多,但受到区域的限制,整体运算量的增加是有限的,表1列出了四种特征在指定局部区域大小(26×17)下meanshift运算时间,表1中四种算法均由matlab实现,硬件配置为intel xeon CPU E5-2630,内存为64G。由表1中数据可见,LBP+HSV的meanshift算法可以57 fps的速度达到实时处理的效果。
表1 不同特征下的meanshift运算时间
算法特征维数平均时间/sLBP+HSV200.01744LBP80.008274HSV320.008757RGB320.008457
由于Meanshift是一种统计迭代算法,通过迭代可以快速寻找概率密度估计的局部最大值,属于确定性跟踪算法,方法简单、收敛快,但跟踪过程中容易陷入局部最优状态,收敛于非真实目标。而粒子滤波算法属于随机性跟踪算法,适用于非线性非高斯状态下的目标跟踪,具有很好的稳定性以及抗遮挡性能,因此二者结合能够获得较好的跟踪效果。
根据局部meanshift区域中心像素位置,以及全局粒子滤波的中心位置,融合得到全局局部一致性下的目标位置,即:
对局部区域粒子个数Nj进行归一化处理,作为该区域的权值系数,归一化后的粒子个数权值为:则c个局部区域的融合位置为:
(10)
作为目标局部跟踪二次定位的位置,由于二次定位是在全局粒子跟踪基础上实现的多特征融合状态下的目标寻优过程,定位准确性大大增加,定位结果更加接近目标实际中心位置。将的位置与全局粒子滤波的结果进行修正,进而利用粒子与的空间距离计算该粒子的权值为:
(11)
进而得到归一化后的粒子权值为:
(12)
全局局部一致性目标跟踪流程如图2所示。
图2 全局局部一致性目标跟踪流程框图
综上,第t帧图像序列,其全局局部一致性下的目标定位步骤为:
步骤1 全局DPM特征下的全局粒子滤波,式(1)—式(4);
步骤2 粒子重采样;
步骤3 计算粒子的LBP+HSV特征直方图,得到32维特征向量;
步骤4 基于meanshift的粒子局部极值点计算,公式(9);
步骤5 全局局部一致性下的二次目标定位,粒子及权值更新,式(10)—式(12)。
为验证试验效果,在Intel Xeon(R)CPU E5-2630,64G内存,NVIDIA GTX 1080 Ti的平台上,利用Matlab软件运行算法。选取OTB100数据集进行实验,将本文算法与基于分块的粒子滤波[14]、PF+meanshift算法[17]进行对比分析。
为了验证本文算法的跟踪精度,分别提取稳定跟踪阶段的跟踪误差并计算算法的平均定位精度,见表2。图3为跟踪精度变化曲线。
表2 算法的定位精度
算法特征维数平均定位精度x方向y方向分块PF133.340-6.490PF+meanshift203.078-2.471全局局部一致性算法13+203.053-0.259
图3 跟踪精度变化曲线
文献[17]的算法对于红外目标取得了较好的效果,但是由于原始算法采用了灰度信息作为特征,在很大程度上制约了其跟踪效果的提升,在实验过程中,采用DPM代替原有灰度特征,平均定位精度最小可以锁定到2个像素内,而在本文算法中,将全局局部特征融合,二次定位的精度可达1个像素内,可见定位精度有明显提升。
在整个实验过程中,背景环境较为复杂,跟踪目标会出现遮挡和快速移动的情况。如图4所示,目标在被遮挡时,分块粒子滤波仍然能够跟踪目标,但会出现跟踪误差较大的情况,在第489帧,目标出现快速移动时,跟踪失败,并且无法找回目标。
对于PF+meanshift算法,在目标区域已知的情况下完全可以做到实时跟踪,对遮挡、目标变形等不敏感。当目标受到遮挡时,PF+Meanshift依然能够稳定跟踪,但跟踪精度相比本文算法稍低,且当目标快速运动时,由于算法是在PF基础上的跟踪,因此仍然会丢失目标。
图5为本文算法的跟踪效果。当目标出现快速移动时,Meanshift两个局部滤波结果依然能够稳定跟踪,算法整体没有失效,并可计算出目标二次定位位置。
图4 分块粒子滤波遮挡和快速移动
图5 目标快速移动时本文算法跟踪结果
本文基于DPM特征构建归一化直方图,完成全局粒子滤波,找到目标一次定位结果;在重采样后提取粒子群的LBP+HSV的融合特征,在融合特征直方图的基础上实现对粒子群的局部极大值聚类,构建全局局部一致性条件下的二次目标定位策略,利用二次定位结果更新全局粒子及其权值。本文算法将鲁棒性较强的全局颜色信息与局部纹理信息相结合,构建权重可调的全局局部一致性状态估计模型,从而得到目标当前状态。实验结果表明:该算法能够较好地处理目标跟踪常见的遮挡、干扰、目标快速移动等情况,定位精度和稳定性得到改善。
[1] 朱明清.基于粒子滤波的鲁棒视觉目标跟踪算法研究[D].合肥:中国科学技术大学,2011.
[2] KALMAN R E.A new approach to linear filtering and prediction problems[J].Journal of Basic Engineering,1960,82(1):35.
[3] AHMADREZA A,ALI K.An interacting fuzzyfadingmemorybased augmented kalman filtering method for maneuvering target tracking[J].Digital Signal Processing,2013,23(5):1678-1685.
[4] ARULAMPALAM M S,MASKELL S,GORDON N,et al.A tutorial on particle filters for online Nonlinear/Non-Gaussian bayesian tracking[J].IEEE Transactions on Signal Processing.2002,50(2):174-188.
[5] KATJA N,KALLER-MEIER E,GAAL L V.Object tracking with an adaptive Color-Based particle filter[J].Lecture Notes in Computer Science,2002,2449(2):353-360.
[6] YANG Changjiang,RAMANI D,LARRY D.Efficient Mean-Shift tracking via a new similarity measure[C]//Proc.of the IEEE Computer Society Conference on Computer Vision & Pattern Recognition.San Diego,USA,2005.
[7] XU Sun,JUN Zhang,ZHAO Xie,et al.Active-matting-based object tracking with color cues[J].Signal,Image and Video Processing,2014,8(1):85-94.
[8] COMANICIU D,RAMESH V,MEER P.Real-time tracking of non-rigid objects using mean shift[C]//Proceedings IEEE Conference on Computer Vision and Pattern Recognition.San Francisco,USA,2002.
[9] 夏瑜,吴小俊.多区域采样目标跟踪算法[J].光电工程,2014,41(11):1-9.
[10] 骆荣剑,李颖,钱广华,等.一种改进的自适应重采样粒子滤波算法[J].光电工程,2014,41(4):35-40.
[11] TOMAS V,JANA N,MATAS J.Robust Scale-Adaptive Mean-Shift for tracking[J].Pattern Recognition Letters,2014,49(3):250-258.
[12] 李冠彬,吴贺丰.基于颜色纹理直方图的带权分块均值漂移目标跟踪算法[J].计算机辅助设计与图形学报,2011,23(12):2059-2066.
[13] 张彦超,许宏丽.遮挡目标的分片跟踪处理[J].中国图象图形学报,2018,19(1):92-100.
[14] 别秀德,刘洪彬,常发亮.自适应分块的多特征融合多目标跟踪[J].西安电子科技大学学报(自然科学版),2017,44(2):151-157.
[15] 宋丹,赵保军,唐林波.融合角点特征与颜色特征的Mean-Shift目标跟踪算法[J].系统工程与电子技术,2012,34(1):199-203.
[16] 孙伟,郭宝龙.一种伪粒子滤波的多目标跟踪方法[J].西安电子科技大学学报,2008,35(2):248-253.
[17] 魏坤,赵永强,潘泉,等.基于均值漂移和粒子滤波的红外目标跟踪[J].光电子·激光,2008,19(2):213-217.