1 引言

以感知与规避(SAA)技术为核心的无人机空域集成技术是未来空域安全的重要保障,SAA技术也是当前国际无人机技术研宄的前沿^[1-2]。基于光学传感器的目标检测是无人机SAA系统一项基本而重要的研究内容。

Mejias等^[3]采用形态学滤波预处理方法突出帧内目标,用隐性马尔可夫模型滤波法检测图像中的飞行器目标。Sapkota等^[4]在多目标跟踪时采用高斯混合概率假设密度滤波器。然而,滤波方法适用于背景简单的远距离目标检测,远距离目标在图像中以点状出现,对无人机自主飞行安全的威胁程度较低。而近距离目标对无人机自主飞行安全的威胁程度高,图像中的目标轮廓清晰、形态各异。故对近距离目标的检测具有重要的现实意义。

近年来,基于机器学习的目标检测方法备受关注,深度学习^[5-8]、支持向量机^[9-10]和随机森林^[11-12]等方法是机器学习常见的方法。其中,随机森林法是可以用来解决很多实际问题的一种数学方法,尤其在处理大数据和分类问题时性能优越^[13-14],具有抗噪声能力强,计算效率高,易与无人机SAA系统硬件集成等优点。联合分类回归随机森林(JCRF)^[15]不仅能预测目标,而且能回归目标边界框,对清晰可见的大尺度目标取得了较好的检测结果,但对弱小目标的检测不及大尺度目标准确,不适合用于近距离目标的应用场景。文献[ 16]中采用随机森林分类器对弱小目标进行分类,在每个分裂节点引入支持向量机进行二分类,对于多分类,把不同类别的样本随机标注为两类,再用支持向量机将其分为左孩子节点数据和右孩子节点数据。该方法取得了较好的分类结果,但是训练的多分类树不平衡。

对于传统的随机森林分类器模型,决策树的每个节点分裂时,从全部属性中等概率随机抽取属性子集,选择一个最优属性将该节点的样本分裂至左孩子节点和右孩子节点^[13]。常用信息熵计算信息增益,采用信息增益度量每个属性划分的纯度,从而选择最优分裂属性。由于无人机SAA系统对目标检测的准确率要求更高,如果检测近距离目标失败,则可能会导致灾难性后果,如无人机与空域中的载人飞机相撞。因此,一个问题被提出:能否找到一种更优的信息熵计算信息增益,选择最优分裂属性,提高随机森林分类器的泛化能力,进而提高目标检测的准确率。

熵是德国物理学家克劳修斯在19世纪60年代提出的,它描述了在一组给定条件下系统处于什么状态。后来玻尔兹曼以微观粒子的分布解释了克劳修斯提出的熵,认为熵是系统在热力学状态下分子运动混乱程度大小的一种量度^[17]。文献[ 18]中简单介绍了信息熵、JackKnife熵、贝叶斯熵、Grassberger熵与James Stein熵等。文献[ 19]中将图像划分为多个图像子块,提取每个图像子块的模糊熵特征,应用随机森林分类器进行分类。该方法不仅错分率低,而且耗时少,但是只提取图像块的模糊熵特征,而在随机森林分类器树分裂时应用信息熵。该过程并未对模糊熵及信息熵做出任何实质性的改进来提高随机森林分类器的分类性能。Sun等^[20]对信息熵进行了改进,利用正弦函数估计样本的不确定性。应用改进的信息熵计算信息增益能提高决策树的分类能力和稳定性,然而只是对传统信息熵进行了改进。

本文对Grassberger熵进行改进,在训练随机森林分类器阶段,改进的Grassberger熵被用来计算信息增益,选择随机森林分类器节点分裂的最优分裂属性,将训练数据分为左孩子节点数据和右孩子节点数据,直至训练数据到达叶子节点。在预测阶段,在每个分裂节点对输入的待预测数据应用最优分裂属性分裂,最终结果根据存储在叶子节点上的训练数据进行决策。针对无人机SAA系统,利用机载光学传感器中获取的图像进行近距离目标检测的实验,基于光学数据集SenseAndAvoid测试了所提方法的性能,实验结果表明本文方法可以有效地检测目标,提高目标检测的准确率。

2 随机森林分类器模型

随机森林分类器是由一系列相互独立的树状分类器组成的分类器^[13]。一棵决策树递归分裂样本c_k∈X(X为样本集)到左孩子节点和右孩子节点,直至样本到达叶子节点。对于森林中树的第j个节点,分裂函数定义为

h(ck,θj)∈{0,1},(1)

式中:c_k为第k类样本数目;θ_j为最优的分裂属性;j为叶子节点编号。如果h(c_k,θ_j)=1,c_k被分到树的左孩子节点;否则,c_k被分到树的右孩子节点。随机森林分类器的每棵树被独立训练,分裂函数在训练和预测过程起着非常重要的作用,分裂函数的设计较复杂。随机森林分类器最后的预测结果由所有相互独立树的概率投票得出(可参考文献[ 13,21])。

3 改进Grassberger熵的随机森林分类器

3.1 改进的Grassberger熵

由于Grassberger熵估计是一种计算效率高、偏差较低、估计量的值更接近真值的熵估计^[22],因此采用Grassberger熵估计,并对其进行改进。改进的理论依据详见文献[ 23]。

Grassberger熵估计^[22]的原型为

H^G(ck)=lnN-1N∑k=1KckG(ck),(2)

Gck=ψck+-1ck∫01xck-1x+1dx,3

式中: H^G为Grassberger熵;G为Grassberger熵的函数; ψ(c_k)为Gamma函数Γ对数的导数,c_k为D_j中第k类样本的数目,D_j为第j个节点的样本数目;N为样本总数;K为将样本总数分成的份数。

本文对Grassberger熵的函数G(c_k)进行了改进。首先,参考文献[ 22]将(3)式展开成序列形式,即

G(1)=-γ-ln2G(2)=2-γ-ln2︙G(2n+1)=G(2n),(4)

式中:n为整数序列号;γ为欧拉常数,γ=limn→∞11+12+13+…+1n-lnn。

其次,由Digamma函数的性质

ψ(ck+1)=-γ+∑n=1∞ckn(n+ck),(5)

可得

ψck2+1=-γ+∑n=1∞ck2nn+ck2=-γ+∑n=1∞ckn2n+ck,6

ψck+12+1=-γ+∑n=1∞ck+12nn+ck+12=-γ+∑n=1∞ck+1n(2n+ck+1),(7)

ψck2+1-ψck+12+1=-γ+∑n=1∞ckn(2n+ck)--γ+∑n=1∞ck+1n(2n+ck+1)=∑n=1∞2(2n+ck)(2n+ck+1)。(8)

由于Digamma函数的表示形式为

ψ(ck)=-γ+11+12+13+…+1ck-1,(9)

因此,改进的G(c_k)为

G(ck)=ψ(ck)+12(-1)ckψck2+1-ψck+12+1。(10)

(10)式是合理的,因为本文改进的G(c_k)与文献[ 22]中的Grassberger熵的离散公式一致。Grassberger熵的离散公式为

G(ck)=ψ(ck)+(-1)ck∑m=0∞1(ck+2m)(ck+2m+1),(11)

式中:m为零至无穷大的整数。

由文献[ 24]中的公式0.244可推得(11)式,公式0.244中的2式为

∑k=1∞(-1)k+11p+(k-1)q=∫01xp-11+xqdx,(12)

式中:p>0,q>0,且p和q均为整数。

令(12)式中的p=c_k,q=1,则

∫01xck-11+xdx=∑k=1∞(-1)k+11ck+(k-1)=1ck-1ck+1+1ck+2-1ck+3+…=∑l=0∞1ck+2l-1ck+2l+1=∑l=0∞1(ck+2l)(ck+2l+1)。(13)

3.2 改进的Grassberger熵计算信息增益

对于随机森林分类器树的每个分裂节点,最关键的是寻找分裂函数的最优分裂属性θ_j。信息增益最大的分裂属性被定义为最优的分裂属性θ_j,其表达式为

θj=argmaxθ∈TjI(Dj,θ),(14)

信息增益被定义为

I(Dj,θ)=H(Dj)-∑k∈{L,R}DjkDjH(Djk),(15)

此处的H(D_j)表示为

H(Dj)=lnN-1N∑k=1KckG(ck),(16)

式中:θ为全部分裂属性;T_j为θ所在的属性空间;H(D_j)为树的第j个节点的Grassberger熵;L为树的左孩子节点;R为树的右孩子节点;G(c_k)为本文改进的Grassberger熵的函数,见(10)式。

3.3 改进的Grassberger熵的随机森林分类器的训练与预测

首先用带有类别标签的训练样本训练改进的Grassberger熵的随机森林分类器,其次采用训练好的随机森林分类器预测目标。改进的Grassberger熵的随机森林分类器的训练与预测过程如下:

1) 训练过程。每棵树被独立地训练,一棵决策树递归地分裂样本到左孩子节点和右孩子节点,直至样本到达叶子节点。给定随机森林分类器中树的第j个分裂节点和一组训练样本D_j⊂D,节点分裂算法如图1所示。信息增益的定义由(15)式表示。根据最优属性将该节点的数据分裂为左孩子节点数据和右孩子节点数据。

训练停止的条件是训练样本已分裂至树的最大层数,或信息增益低于设定值,或训练样本的数目少于设定值。

2) 预测过程。输入未知类别的数据,这些数据经过分裂节点到达叶子节点。根据叶子节点存储训练样本的概率分布预测未知类别的待预测数据。叶子节点的概率为最大类别的样本数目与该叶子节点所有样本的比例。每棵树的输出是存储在该树的叶子节点训练样本的最大概率分布。一个输入的待预测数据由所有树的输出结果投票决定,待预测数据的类别为

c*=argmaxc1T∑t=1TPtcck),(17)

概率为

P(c|ck)=1T∑t=1TPtcck),(18)

式中:T为随机森林中树的数目;c为类别数;P_t(c|c_k)为第t棵树的输出,定义为

Ptcck)=argmaxlPlcck),(19)

其中P_l(c|c_k)为叶子节点l的概率输出。

图 1. 节点分裂算法

Fig. 1. Split algorithm of nodes

下载图片 查看所有图片

4 目标检测算法

本研究采用有监督方式,目标检测算法框架如图2所示,包括选取子窗口、特征提取和改进的Grassberger熵的随机森林分类器3个模块。

图 2. 目标检测算法框架

Fig. 2. Frame of object detection algorithm

下载图片 查看所有图片

近年来,有一系列方法可以生成与类别无关且可能包含目标的子窗口。这些方法可概括为两类:分组方法(grouping methods)和滑窗评分方法(window scoring methods)^[25]。

选用选择性搜索(SS)方法^[26]生成与类别无关的子窗口,这种生成子窗口的方法比滑动窗口方法生成的子窗口数据量小。

对每个训练样本及与类别无关的子窗口计算10个特征通道,分别是1个归一化的梯度幅值、3个LUV颜色通道和6个梯度方向直方图。对每幅图像在特征提取前用高斯滤波器降噪。

5 实验与分析

首先,在SenseAndAvoid数据集上验证基于改进的Grassberger熵的随机森林分类器的目标检测算法的性能;其次,分析改进的Grassberger熵对随机森林分类器泛化能力的影响,分析树的数目及随机取样对目标检测准确率的影响。

5.1 SenseAndAvoid数据集

SenseAndAvoid数据集是本课题组进行无人机SAA系统实验时建立的,数据集的大部分图像来源于无人机机载光学传感器拍摄的图像。目前,SenseAndAvoid数据集包含3600幅训练图像和1250幅测试图像,这些图像具有尺度变化、光照变化、背景复杂及含有噪声等属性。所有图像都经过了人工标注。

训练改进的Grassberger熵的随机森林分类器时设置120棵树,每棵树的最大层数为15。训练样本由随机取样65%的负样本和所有正样本组成。正样本为每幅训练图像目标边界框以内的目标部分,随机取样32 pixel×32 pixel的图像块,提取每个图像块的1个归一化梯度幅值、3个LUV颜色通道和6个梯度方向直方图。负样本为目标边界框以外的背景部分,随机取样32 pixel×32 pixel的图像块,提取每个图像块的1个归一化梯度幅值、3个LUV颜色通道和6个梯度方向直方图。梯度幅值、LUV颜色通道及6个梯度方向直方图如图3所示。

图 3. 特征通道示意图。(a)原图像;(b)梯度幅值;(c) LUV颜色通道;(d)梯度方向直方图

Fig. 3. Diagrams of feature channels. (a) Original image; (b) gradient magnitude; (c) LUV color channels; (d) histogram of oriented gradients

下载图片 查看所有图片

在预测阶段,对于每幅目标未知的待检测图像,首先用SS方法生成大约900个与类别无关且包含物体的子窗口,然后提取每个子窗口的1个归一化梯度幅值、3个LUV颜色通道和6个梯度方向直方图,通过改进Grassberger熵的随机森林分类器预测每个子窗口是否包含目标及包含目标的概率。变换后的色彩空间及生成可能包含目标的子窗口如图4所示。对于每个预测窗口P_w,通过计算P_w面积与基准目标框G_t面积的重叠率O_iu来判断P_w是否为目标窗口。若O_iu≥0.5,P_w是目标窗口;若O_iu<0.5,P_w不是目标窗口。

图5是在SenseAndAvoid数据集中的检测结果图,图中的矩形框表示检测到的目标。从图5中可以看出,基于改进的Grassberger熵的随机森林分类器能准确地检测出空域中近距离飞行器目标。图5(a)是在不同背景条件下的检测结果,表明本文方法能从变化的背景中准确地检测到目标。图5(b)是对含有噪声的图像进行检测的结果,可以看出本文方法能有效抑制无人机飞行过程中视觉传感器拍摄图片的运动模糊、图片交错等现象。图5(c)是对不同尺度目标的检测结果,本文方法能准确地检测不同尺度和形状的目标。图5(d)是不同光照条件下的检测结果,可见,本文方法能检测出不同光照条件下的目标,对光照影响有一定的稳健性。

图 4. 生成的子窗口示意图。(a)原图像;(b) 检测结果;(c)子窗口

Fig. 4. Diagrams of generated proposal windows. (a) Original image; (b) detection result; (c) proposal windows

下载图片 查看所有图片

图 5. SAA数据集的检测结果。(a)变化背景的图像;(b)含有噪声的图像;(c)多尺度图像;(d)不同光照条件下的图像

Fig. 5. Detection results on SAA dataset. (a) Images under varied background; (b) images with noise; (c) multiple scale images; (d) images under different illumination conditions

下载图片 查看所有图片

表2给出不同方法检测每幅图像的平均时间。生成大约900个可能包含目标的子窗口时,JCRF方法^[15]和快速霍夫变换随机森林(FGHF)方法^[27]检测的平均时间分别为69.7 s和53.4 s,比本文方法——基于改进的Grassberger熵随机森林(IGERF)的方法慢,本文方法的平均时间为36.3 s;SS方法^[26]和转换随机森林(TF)^[28]检测的平均时间分别为23.1 s和11.2 s,比本文方法快。测试环境是Intel i7 CPU,64 GB内存计算机。

表3显示了不同方法的平均检测准确率,本文方法在SenseAndAvoid数据集取得了73.2%的平均检测准确率,比安全包络范围内目标的平均检测准确率高于98%,这是因为目标太远时,目标的形态非常模糊,甚至被背景吞没,导致检测准确率降低。JCRF方法^[15]的平均检测准确率为68.3%。FGHF方法^[27]通过选取相关内容的训练图像块及根据概率选取分裂参数,减少了训练时间,也减少了训练随机森林分类器的分裂参数,准确率为56.7%。TF方法^[28]在每个分裂节点上通过最大信息增益和转换量选取最优分裂参数,不同的节点转换量不同,不仅可以用于行为检测,也可以用于目标检测,目标检测准确率为69.5%。SS方法^[26]融合了贪婪搜索与图像分割,生成可能包含目标的子窗口,平均检测准确率为51.3%。由于本文方法是在选择性搜索生成的可能包含目标的子窗口基础上,用IGERF方法预测目标,因此本文方法能取得更高的准确率。

图6描述了准确率-召回率曲线图,验证了本文方法可在目标检测中取得较好结果。从图6中可以看出,召回率小于0.3,5种方法的准确率相差不大,召回率大于0.3,本文方法的准确率较高。

图 6. 不同方法在SenseAndAvoid数据集上的准确率-召回率曲线

Fig. 6. Precision-recall curves of different methods on SenseAndAvoid dataset

下载图片 查看所有图片

5.2 分析

在随机森林分类器树的分裂节点上设置不同的样本,用改进的Grassberger熵计算信息增益,选取信息增益最大的分裂属性,将该节点的样本分为左孩子节点数据和右孩子节点数据。实验表明,改进的Grassberger熵计算信息增益能较准确地分裂节点数据,能提高随机森林分类器的泛化能力。

对于SenseAndAvoid数据集,树的深度不变(D=15),设置不同数目的树,训练IGERF分类器,分析树的数目对准确率的影响,结果如图7所示。图7表明,随着树的数目增多,准确率增加,直到树的数目达到120(T=120),准确率趋于稳定。

图 7. 树的数目对准确率的影响

Fig. 7. Effect of number of trees on precision

下载图片 查看所有图片

随机取样是一种控制过拟合和训练具有差异性树的方式。在训练树的过程,从总的训练样本中随机取样不同的子集,构成训练每棵树的样本,训练不同的树。图8显示了随机取样对准确率的影响。图中的结果是当树的数目T=120,树的深度D=15时,在SenseAndAvoid数据集上测试的结果。实验结果表明,随机取样能降低过拟合并加快训练速度。

图 8. 随机取样对准确率的影响

Fig. 8. Effect of random sampling on precision

下载图片 查看所有图片

此外,训练随机森林分类器时,正样本和负样本的数量应该大致相同。如果正样本和负样本的数量相差太大,存储在随机森林分类器树叶子节点上的训练数据不平衡,会导致树不平衡,进而降低随机森林分类器的泛化能力。

6 结论

文中描述了改进的Grassberger熵估计、IGERF分类器及基于IGERF分类器的目标检测方法。改进的Grassberger熵可以有效地提高随机森林分类器的泛化能力和目标检测的准确率。实验结果表明,本文方法可以应用于无人机的SAA系统,从机载光学传感器获取的图像中检测近距离目标,对每个训练样本及子窗口提取LUV颜色通道、梯度幅值及方向低层特征。未来的研究中可以用深度玻尔兹曼机学习高层特征,以进一步提高目标检测的准确率。