用于分类器的在线半监督学习方法和装置及处理设备
阅读：441发布：2020-10-11
专利汇可以提供用于分类器的在线半监督学习方法和装置及处理设备专利检索，专利查询，专利分析的服务。并且本 发明 涉及用于分类器的在线半 监督学习 方法和装置及处理设备。公开了一种用于分类器的在线 半监督学习 的方法，所述分类器使用多个现有的 支撑 向量，所述方法包括：候选样本选择步骤，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；新支撑向量选择步骤，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；支撑向量替换步骤，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新步骤，更新分类器中所有支撑向量的权重。，下面是用于分类器的在线半监督学习方法和装置及处理设备专利的具体信息内容。
1.一种用于分类器的在线半监督学习的方法，所述分类器使用多个现有的支撑向量，所述方法包括：
候选样本选择步骤，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；
新支撑向量选择步骤，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；
支撑向量替换步骤，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新步骤，更新分类器中所有支撑向量的权重。
2.根据权利要求1所述的方法，其中所述候选样本选择步骤还包括：
估计任意样本与所有支撑向量的中心的最大距离；
估计任意样本与所述中心的最小距离；
在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值；以及
根据所述阈值确定新添加的未标记样本是否为候选样本。
3.根据权利要求1或2所述的方法，所述阈值被设置成使得任意正样本落在所述阈值之内的概率固定。
4.根据权利要求1或2所述的方法，所述新支撑向量选择步骤还包括：
根据所述多个现有的支撑向量绘制边界超球面；以及
确定所述候选样本是否为新的支撑向量，其中如果候选样本在边界超球面之外，则将该候选样本选择为新的支撑向量；以及如果候选样本在边界超球面之内，则不将该候选样本选择为新的支撑向量。
5.根据权利要求2所述的方法，其中所述支撑向量替换步骤还包括：
计算每一个支撑向量到所述中心的距离；以及
用新的支撑向量替换具有最近距离的支持向量，并保持支撑向量数恒定。
6.根据权利要求2所述的方法，其中在估计所述最大距离时使用支撑向量数据描述(SVDD)算法。
7.根据权利要求2所述的方法，其中在估计所述最大距离和所述最小距离时使用核函数K(·)，其中所述核函数被选择成使得对于任意的归一化的向量z，K(z，z)都是恒定的。
8.根据权利要求7所述的方法，其中所述核函数K(·)包括直方图交叉核(HIK)。
9.一种用于分类器的在线半监督学习的装置，所述分类器使用多个现有的支撑向量，所述装置包括：
候选样本选择单元，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；
新支撑向量选择单元，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；
支撑向量替换单元，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新单元，更新分类器中所有支撑向量的权重。
10.根据权利要求9所述的装置，其中所述候选样本选择单元还包括：
第一估计单元，估计任意样本与所有支撑向量的中心的最大距离；
第二估计单元，估计任意样本与所述中心的最小距离；
设置单元，在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值；以及
第一确定单元，根据所述阈值确定新添加的未标记样本是否为候选样本。
11.根据权利要求9或10所述的装置，所述阈值被设置成使得任意正样本落在所述阈值之内的概率固定。
12.根据权利要求9或10所述的装置，所述新支撑向量选择单元还包括：
绘制单元，根据所述多个现有的支撑向量绘制边界超球面；以及
第二确定单元，确定所述候选样本是否为新的支撑向量，其中如果候选样本在边界超球面之外，则将该候选样本选择为新的支撑向量；以及如果候选样本在边界超球面之内，则不将该候选样本选择为新的支撑向量。
13.根据权利要求10所述的装置，其中所述支撑向量替换单元还包括：
计算单元，计算每一个支撑向量到所述中心的距离；以及
替换单元，用新的支撑向量替换具有最近距离的支持向量，并保持支撑向量数恒定。
14.根据权利要求10所述的装置，其中在所述第一估计单元中使用支撑向量数据描述(SVDD)算法。
15.根据权利要求10所述的装置，其中在所述第一估计单元和所述第二估计单元中使用核函数K(·)，其中所述核函数被选择成使得对于任意的归一化的向量z，K(z，z)都是恒定的。
16.根据权利要求15所述的装置，其中所述核函数K(·)包括直方图交叉核(HIK)。
17.一种处理设备，所述处理设备包括分类器，所述分类器使用多个现有的支撑向量，所述处理设备包括：
接收单元，接收新添加的未标记样本；
候选样本选择单元，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；
新支撑向量选择单元，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；
支撑向量替换单元，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新单元，更新分类器中所有支撑向量的权重。
18.根据权利要求17所述的处理设备，其中所述候选样本选择单元还包括：
第一估计单元，估计任意样本与所有支撑向量的中心的最大距离；
第二估计单元，估计任意样本与所述中心的最小距离；
设置单元，在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值；以及
第一确定单元，根据所述阈值确定新添加的未标记样本是否为候选样本。
19.根据权利要求18所述的处理设备，所述阈值被设置成使得任意正样本落在所述阈值之内的概率固定。
20.根据权利要求17或18所述的处理设备，所述新支撑向量选择单元还包括：
绘制单元，根据所述多个现有的支撑向量绘制边界超球面；以及
第二确定单元，确定所述候选样本是否为新的支撑向量，其中如果候选样本在边界超球面之外，则将该候选样本选择为新的支撑向量；以及如果候选样本在边界超球面之内，则不将该候选样本选择为新的支撑向量。
21.根据权利要求17或18所述的处理设备，其中所述支撑向量替换单元还包括：
计算单元，计算每一个支撑向量到所述中心的距离；以及
替换单元，用新的支撑向量替换具有最近距离的支持向量，并保持支撑向量数恒定。
22.根据权利要求17或18所述的处理设备，其中在所述第一估计单元中使用支撑向量数据描述(SVDD)算法。
23.根据权利要求17或18所述的处理设备，其中在所述第一估计单元和所述第二估计单元中使用核函数K(·)，其中所述核函数被选择成使得对于任意的归一化的向量z，K(z，z)都是恒定的。
24.根据权利要求23所述的处理设备，其中所述核函数K(·)包括直方图交叉核(HIK)。
25.一种用户注册对象检测方法，包括：
接收要检测的对象；
调用分类器，所述分类器包括根据用户注册对象产生的多个现有的支撑向量；
基于分类器识别所述要检测的对象；以及
使用根据权利要求1-8中任一项所述的方法更新分类器。
26.如权利要求25所述的方法，其中所述要检测的对象是图像或视频。
27.一种用户注册对象检测系统，包括：
对象接收单元，接收要检测的对象；
对象识别单元，基于分类器识别所述要检测的对象，所述分类器包括根据用户注册对象产生的多个现有的支撑向量；以及
根据权利要求9-16中的任一项的用于分类器的在线半监督学习的装置，其用于更新分类器。
28.根据权利要求27所述的方法，其中所述要检测的对象是图像或视频。
用于分类器的在线半监督学习方法和装置及处理设备
技术领域
背景技术
[0002] 在对象检测和跟踪领域，在过去的几十年中广泛地采用单类分类方法。如在 Moya，M.and Hush，D.(1996).“Network constraints and multi-objective optimization for one-class classification”.Neural Networks，9(3)：463-474.doi：10.1016/0893-6080(95)00120-4中所述，在单类分类方法中，通过根据仅仅包含一类对象的训练集合进行学习，而尝试将该类对象与所有其它可能的对象区分开。
[0003] 支撑向量数据描述(support vector data description，SVDD)法是用于单类分类方法的有效的核心方法。如D.Tax and R.Duin，“Support vector domain description”.Pattern Recognit.Lett.，vol.20，pp.1191-1199，November1999中所述，SVDD法旨在找到一个最小体积的球面(也称为最小球面)，使得所有或者大部分目标训练样本被该球面所包围。在图1中示出了SVDD法的示意图。在所述最小球面上的点称为支撑向量(support vector)，其用于表征包围训练样本的最小球面。
[0004] 由于SVDD法良好的学习能力和归纳性能，近来SVDD法已在多种应用中成功使用。SVDD法的性能和精度依赖于代表性的训练样本数据集的可获得性。但是，在例如视频监测、图像检索的一些在线应用中，由于在初始状态下没有足够的训练样本，因此SVDD法可能失败。
[0005] 为了解决上述问题，在本技术领域中引入了在线学习技术。在在线学习技术中，首先通过一个或几个样本学习一个分类器，然后伴随着系统的执行过程更新该分类器。因为在线学习技术具有极好的自适应性并且该技术只需要有限的存储器容量，因此其获得了巨大的成功。在线SVDD法和增量SVDD法是目前广泛地应用于实时对象检测的两种技术，这两种方法均为基于支撑向量法的在线学习方法。
[0006] 在D.M.J.Tax and P.Laskov，“Online SVM learning：from classification to data description and back，”In C.et al.Molina，editor，Proc.NNSP，2003，pp.499-508中对在线SVDD法进行了描述。图2(a)示出了在线SVDD法的简要流程图。首先，获取原有的基于SVDD的分类器以及新添加的标记样本，即正样本。所谓的正样本是指判断为属于要分的类的样本。然后，通过分类器计算各个样本的相关性。接着，从针对原有分类器的先前训练样本集中选择最不相关的样本。接着，基于新添加的正样本增加新样本并去除最不相关的样本。最后，使用保留的样本以及新样本对分类器进行重新学习。
[0007] 图2(b)示出了在线SVDD法的示意图。从图2(b)中可以看出，在分类器的更新过程中，原有样本集中的样本被新增加的样本所替代，并且关于分类器的超球面在更新过程中不断增大。
[0008] 在Xiaopeng Hua，Shifei Ding，“Incremental Learning Algorithm for Support Vector Data Description”，JOURNAL OF SOFTWARE，VOL.6，NO.7，JULY 2011中对增量SVDD法进行了描述，其中在新的样本增加到训练样本集之后通过分析支撑向量集的可能的变化对分类器进行SVDD增量学习。图3(a)示出了增量SVDD法的简要流程图。首先，获取原有的基于SVDD的分类器以及新添加的标记样本，即正样本。然后，将原有的训练样本集划分为支撑向量集以及非支撑向量集。接着，验证是否存在位于原有分类器的超球面之外的新增加的样本；如果存在，则将这些样本添加到训练样本集中。接下来，在非支撑向量集中寻找最可能成为新的支撑向量的样本。最后，使用原有分类器的超球面之外的新增加的样本、在非支撑向量集中最可能成为新的支撑向量的样本以及支撑向量集对分类器进行重新学习。
[0009] 图3(b)示出了增量SVDD法的示意图。从图3(b)中可以看出，在分类器的更新过程中，基于原有分类器的超球面之外的新增加的样本、在非支撑向量集中最可能成为新的支撑向量的样本以及原有支撑向量集更新分类器，并且关于分类器的超球面在更新过程中不断增大。
[0010] 从图2(a)和图2(b)中可以看出：当训练样本的多样性小时，通过学习获得的超球面较小，即当分类器通过较小的训练样本集进行训练时，通过学习获得的分类器的阈值较小。当训练样本的多样性增加时，通过学习获得的超球面扩大，即当新样本增加时，通过学习获得的分类器的阈值增大。
[0011] 也就是说，随着训练样本数量的增加，用于分类器的超球面将不断扩大，因此通过学习获得的分类器将是不稳定的。另外，如果新添加的样本是错误标记的样本(这种情况通常在分类器的自动判定过程中发生)，通过学习获得的分类器的性能将越来越差。因此，在线SVDD法和增量SVDD法需要样本预先被正确地标记(正或负)，以便相对于较长的运行时间保持分类器的性能稳定。
[0012] 因此，需要提出一种新的技术来解决上述现有技术中的任何问题。
发明内容
[0013] 在本发明中，提供了一种基于支撑向量的新颖的用于分类器的在线半监督学习方法和装置，从而成功地解决了上述问题。
[0014] 根据本发明的第一方面，提供了一种用于分类器的在线半监督学习的方法，所述分类器使用多个现有的支撑向量，所述方法包括：候选样本选择步骤，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；新支撑向量选择步骤，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；支撑向量替换步骤，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新步骤，更新分类器中所有支撑向量的权重。
[0015] 根据本发明的另一方面，提供了一种用于分类器的在线半监督学习的装置，所述分类器使用多个现有的支撑向量，所述装置包括：候选样本选择单元，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；新支撑向量选择单元，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；支撑向量替换单元，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新单元，更新分类器中所有支撑向量的权重。
[0016] 根据本发明的又一方面，提供了一种处理设备，所述处理设备包括分类器，所述分类器使用多个现有的支撑向量，所述处理设备包括：接收单元，接收新添加的未标记样本；候选样本选择单元，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本；新支撑向量选择单元，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量；支撑向量替换单元，通过所述新的支撑向量替换分类器的一些支撑向量；以及权重更新单元，更新分类器中所有支撑向量的权重。
[0017] 根据本发明的又一方面，提供一种用户注册对象检测方法，包括：接收要检测的对象；调用分类器，所述分类器包括根据用户注册对象产生的多个现有的支撑向量；基于分类器识别所述要检测的对象；以及使用根据上述用于分类器的半监督学习方法更新分类器。
[0018] 根据本发明的又一方面，提供一种用户注册对象检测系统，包括：对象接收单元，接收要检测的对象；对象识别单元，基于分类器识别所述要检测的对象，所述分类器包括根据用户注册对象产生的多个现有的支撑向量；以及上述用于分类器的在线半监督学习的装置，其用于更新分类器。
[0019] 本发明的一个优点在于：通过本发明，可以解决现有技术中分类器性能不稳定的问题，并且可以实现快速的计算。
[0020] 本发明的另一优点在于：通过本发明，利用不断地添加未标记样本，可以改进通过学习而获得的分类器的性能。通过本发明，不仅确保了学习的准确性，而且减少了空间和时间的复杂性。
[0021] 本发明的又一优点在于：通过本发明能够将虚检率稳定地控制在较低的水平，而且避免分类器陷入过训练。
[0022] 此外，通过本发明，分类器能够进行快速的学习和更新，从而能够成为用于跟踪数字产品的解决方案。
附图说明
[0025] 参照附图，根据下面的详细描述，可以更加清楚地理解本发明，其中：
[0026] 图1是示出现有技术中的SVDD法的示意图。
[0027] 图2是示出现有技术中的在线SVDD法的示意图，其中(a)为在线SVDD法的示意流程图，(b)为在线SVDD法的原理示意图。
[0028] 图3是示出现有技术中的增量SVDD法的示意图，其中(a)为增量SVDD法的示意流程图，(b)为增量SVDD法的原理示意图。
[0029] 图4示出了根据本发明的用于分类器的在线半监督学习方法的原理图。
[0030] 图5示出了根据本发明的实施方式用于分类器的在线半监督学习方法的总体流程图。
[0031] 图6示出了根据本发明的实施方式的用于选择候选样本的处理的详细流程图。
[0032] 图7示出了根据本发明的实施方式，在计算任意样本到支撑向量的中心时fmin、fmax的关系图。
[0033] 图8示出了根据本发明的实施方式的用于阈值设置的原理图。
[0034] 图9示出了根据本发明的实施方式的用于选择新支撑向量的处理的详细流程图。
[0035] 图10示出了根据本发明的实施方式的用于更新支撑向量的处理的详细流程图。
[0036] 图11示出了根据本发明的实施方式的用于分类器的在线半监督学习的装置的功能框图。
[0037] 图12示出了根据本发明的实施方式的处理设备的功能框图。
[0038] 图13示出了根据本发明的实施方式的用户注册对象检测方法的流程图。
[0039] 图14示出了根据本发明的实施方式的用户注册对象检测系统的功能框图。
[0041] 图16示出了对于三段视频，根据本发明的方法、在线SVDD法和增量SVDD法的检测率和虚检率的比较图表。
[0042] 图17示出根据本发明的方法以及其它三种现有技术方法在跟踪应用中的平均错误率的图表。
[0043] 图18示出了根据本发明的方法以及其它三种现有技术方法在跟踪应用中的示例结果。
具体实施方式
[0044] 现在将参照附图来详细描述本发明的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。
[0045] 以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。
[0046] 对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。
[0047] 在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。
[0048] 应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
[0049] 本发明旨在提供一种用于分类器的在线半监督学习方法。与现有技术中的方法不同，本发明所针对的样本是未标记的，即未确定为正样本的样本。
[0050] 图4示出了根据本发明的实施方式的用于分类器的在线半监督学习方法的原理图。如图4所示，图4中的内圆(即，最小的圆)示出了现有的分类器的用于分类的初始的超球面。该初始超球面是根据原有的样本生成的，并且原有的支撑向量限定其边界。通过该初始超球面可以区分支撑向量和非支撑向量。图4中的外圆(即最大的圆)为所有样本所处的最大可能空间的最大超球面。在本发明中，希望在初始超球面和最大超球面之间确定一个判定超球面，使得任意正样本落在所述判定超球面内的概率稳定。通过对任意正样本落在所述判定超球面内的概率进行设定，可以改变该判定超球面的大小。通过该判定超球面，可以确定所添加的未标记样本是否为正样本。
[0051] 如图4中所示，当新添加的未标记样本落在最大超球面与判定超球面之间时，判定该样本不是正样本，并且保持当前的分类器不变。当新添加的未标记样本落在初始超球面之内时，判定这些样本是正样本，但它们不会改变现有的支撑向量集，并且保持当前的分类器不变。当新添加的未标记样本位于初始超球面和判定超球面之间时，判定这些样本是正样本，并且它们将改变现有的支撑向量集。
[0052] 换言之，在根据本发明的用于分类器的在线半监督学习方法中，仅仅使用本位于初始超球面和判定超球面之间的样本来更新现有的分类器。通过本发明的方法，可以解决现有技术中分类器性能不稳定的问题，并且可以实现快速的计算。利用不断地添加未标记样本，可以改进通过学习而获得的分类器的性能。通过本发明，不仅确保了学习的准确性，而且减少了空间和时间的复杂性。
[0053] 图5示出了根据本发明的实施方式的用于分类器的在线半监督学习方法的总体流程图。如图5所示，希望通过新添加的未标记样本对现有的分类器进行学习，以获得新的分类器。首先在步骤10中，使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本。
[0054] 图6示出了根据本发明的实施方式的用于选择候选样本的处理的详细流程图。首先，在步骤110中，估计任意样本与所有支撑向量的中心的最大距离，即根据现有分类器的支撑向量(特征空间中的支撑向量)生成可能的最大超球面。
[0055] 采用如前所述的支撑向量数据描述(SVDD)算法生成可能的最大超球面，即确定相对于超球面的中心a的最大半径Rmax。绝大部分或者所有训练样本都被包括在该最大超球面中。利用下面的公式(1)构建该超球面：
[0056] minR2+C∑iξi 条件是||xi-a||2≤R2+ξi且ξi≥0 (1)[0057] 其中，xi为支撑向量，C是惩罚因子，ξi是松弛误差。
[0058] 对公式(1)应用拉哥朗日(Lagrangian)乘子，可以得到下面的对偶问题：
[0059] min∑i，jαiαjK(xi·xj)-∑iαiK(xi·xi)条件是0≤αi≤C且∑iαi＝1 (2)[0060] 其中，K(·)是核函数，而且该函数值为非负。在本文中，核函数K(·)被选择为针对特征空间中的任意归一化特征向量z是恒定的，即K(z，z)是固定的。
[0061] 在一个实施例中，可以选择直方图交叉核(HIK)函数(例如参见A simple guide to libHIK.http://c2inet.sce.ntu.edu.sg/Jianxin/projects/libHIK/libHIK_v2.pdf)：
[0062]
[0063] 其中，T和Q是两个特征的直方图，N是直方图维数。
[0064] 需要注意的是，尽管在本实施例中以公式(3)给出的HIK函数为例进行了说明，但是本领域技术人员应当理解，还可以选择其它核函数，例如Hellinger’s核函数和Jensen-Shannon核函数。
[0065] 求解公式(2)的对偶优化问题，可以得到支撑向量xi∈SVs和对应的权重αi。
[0066] 利用上述SVDD方法求得的支撑向量xi和权重αi，我们就可以计算最大超球面半径Rmax。对于给定的未标记样本，根据其生成归一化的特征向量z，其到超球面中心的距离计算如下：
[0067]
[0068] 如果 则特征向量z就位于该超球面内，并被分类为目标对象类。2
因此，将超球面半径的平方，即R，定义为分类器阈值。
因此，将超球面半径的平方，即R，定义为分类器阈值。
[0069] 根据公式(4)，对于基于未标记的样本生成的特征向量z，可以计算其与超球面的中心的距离。该距离小于或等于超球面的半径，即
[0070]
[0071] 在这里，我们并不是要找出支撑向量的中心的位置，而仅仅是要确定未标记样本的特征向量到该中心的距离。
[0072] 为了求解最大超球面半径Rmax，根据上面的公式(4)，我们得到：
[0073] (5)
[0074]
[0075] 如前所述，针对任意归一化特征向量z，K(z，z)是固定的。在根据公式(2)计算得出支撑向量xi∈SVs和对应的权重αi的情况下， 是固定值。因此，求解fmax的关键在于求得 的最小值。如前所述，核函数K(·)非负，因而[0076] 故而，公式(5)简化为：
[0077]
[0078] 至此，上述公式(6)确定了最大超球面的半径Rmax。由于K(·)是核函数，并且向量z已经被归一化，因此对于任意的z，K(z，z)都是固定的。如果所有的支撑向量都是固定的，则 也是固定的。因此，在支撑向量确定的情况下，对于任意的z，fmax都是固定的。
[0079] 接着，参照图6中的步骤120，估计任意样本与所述中心的最小距离，即生成可能的最小超球面(确定最小距离fmin)。
[0080] 根据上述公式(4)，最小距离fmin表示如下：
[0081]
[0082]
[0083]
[0084] 如前所述，在所有支撑向量确定的情况下，针对任何归一化特征向量z，fmax是固定的。因此，求解fmin就转变为求解 的最大值。根据核函数的定义可知，必然是一个特定值，但不会是正无穷大。
[0085] 在本例中，选择HIK函数进行描述。为了加速计算，我们定义一个查找表lut：
[0086]
[0087] 其中，xij∈Xi，Xi∈SVs，M是支撑向量的个数，而N是特征向量的维数。
[0088] 如上述(8)可知， 但是max(lut)不总是等于 下面将详细说明。当max(lut)可以取到 时，意味着在最小超球面内只有一个特征向量。这种情况下，我们将该特征向量确定为超球面的中心，并确定
[0089] 图7示出了根据本发明的实施方式，在计算任意样本到支撑向量的中心中fmin、fmax的关系图。参照图7，在最小超球面中的特征向量不是唯一的时，在这种情况下，需要估计fmin，即，估计max(lut)。
[0090] 在HIK核函数的示例中，针对第j维，定义如下：
[0091]
[0092] 定义Hj的平均值为 根据公式(8)， 因此，针对N维特征向量zj来说，估计lut的最大值等同于估计lut的在N个维度上的平均值的最大值，即估计 下面采用统计学上的样本估计理论来估计 的范围。
[0093] 根据中心极限定律，在样本空间中的分布满足正态分布。因此，概率Φz是累积分布，具体地如下：
[0094]
[0095] 根据中心极限定律，
[0096]
[0097] 根据标准误 和 以及概率Φz，利用标准正态累积分布函数的查找表，可以求得λz，由此确定 的范围在[μ-λzσe，μ+λzσe]之间，最后可以确定
[0098] 最后，将公式(11)的结果代入公式(7)中，我们可以估计得到fmin。
[0099] 接下来，返回到图6，在步骤130中，利用在步骤120中计算的fmin和在步骤110中计算的fmax，生成判定超球面。
[0100] 图8示出了根据本发明的实施方式的用于阈值设置的原理图。参见图8，在步骤410中，计算最大超球面的面积：
[0101]
[0102] f(z)在[fmin，fmax]范围内是大体相同类型的分布。下面，假定参数P，即描述判定超球面与最大超球面的表面积之比的预定值，利用在步骤20中计算的Rmin和在步骤10中计算的Rmax，来生成判定超球面的半径RT。参数P定义如下：
[0103] P＝(fT(z)-fmin)/(fmax-fmin) (13)
[0104] 根据公式(13)，可以确定判定超球面的半径RT为：
[0105]
[0106]
[0107]
[0108] 根据上述公式(14)，我们针对一个特征向量z估计了一个适当的阈值，即fT(z)。最后，针对所有的支撑向量Xi∈SVs来估计fT：
[0109]
[0110] fT即为经训练分类器的阈值，无论训练样本有多少或怎样，都能够通过参数P将分类器的虚检率控制在稳定的水平下，即任何正特征向量落在所生成的判定超球面内的概率固定。即，通过参数P可以控制分类器的性能。
[0111] 然后，如图6的步骤140所示，根据在图6的步骤130中所设置的阈值判断新添加的未标记样本是否为候选样本。对于新添加的未标记样本，可以从中提取归一化的特征向量z。通过前述公式(4)计算该特征向量z到现有分类器的支撑向量的中心的距离。将该距离与在图6的步骤130中所设置的阈值进行比较。
[0112] 如果样本的特征向量z到中心的距离小于该阈值，则将该样本确定为候选样本；如果样本的特征向量z到中心的距离大于等于该阈值，则不将该样本确定为候选样本。
[0113] 返回参看图5，在图5的步骤20，使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量。图9示出了根据本发明的用于选择新支撑向量的处理的详细流程图。
[0114] 首先，在步骤210，根据原有分类器的多个现有的支撑向量绘制边界超球面。对于已知的分类器，最优解a*＝[a1，a2，…al]使得每个用于训练的支撑向量xi满足如下的KKT(Karush-Kuhn-Tucker)条件：
[0115]
[0116] 其中 是从xi到支撑向量的中心的距离。因此通过支撑向量得到的边界超球面是2
具有半径R 的超球面。KKT条件为本领域技术人员所公知，因此不对其进行详细介绍。
具有半径R 的超球面。KKT条件为本领域技术人员所公知，因此不对其进行详细介绍。
[0117] 接下来，在步骤220，根据步骤210中所得到的边界超球面确定所述候选样本是否为新的支撑向量。根据上述KKT条件，可以将候选样本，即目标训练数据分为三类：
[0118] 1)在球面内的ai＝0的数据点；
[0119] 2)在球面边界上的0＜ai＜C的数据点；
[0120] 3)ai＝C的落在球面之外并且具有非零ξi的数据点。
[0121] 如图4所示，在最小超球面之内的候选样本将不会改变先前的特征向量集，并且保持原因的分类器不变。在边界超球面和关于阈值的判定超球面之间的候选样本将改变原有的支撑向量集。因此，如果候选样本在边界超球面之外，则将该候选样本选择为新的支撑向量。
[0122] 返回参看图5，在图5的步骤30，通过所述新的支撑向量替换分类器的一些支撑向量。图10示出了根据本发明的用于更新支撑向量的处理的详细流程图。
[0123] 在图10的步骤310中，将根据公式(4)计算每一个支撑向量到全部原有支撑向量中心的距离。所得到的结果是V＝(d1，d2，…dn)。其中，d为距离，n为支撑向量的个数。
[0124] 在步骤320中，对V＝(d1，d2，…dn)中的距离d进行升序排序，得到V′＝(d1′，d2′，…dn′)，其中d1′是最近的距离，dn′是最远的距离。然后，用新的支撑向量替换具有最近距离的向量，并保持支撑向量数恒定。例如，如果有三个新的支撑向量，则替换具有最近距离的三个原有的支撑向量。通过图10的操作，可以得到一组新的支撑向量。
[0125] 返回参看图5，在图5的步骤40，更新分类器中所有支撑向量的权重。在John C.Platt，Sequential Minimal Optimization：A Fast Algorithm for Training Support Vector Machines.http://research.microsoft.com/pubs/69644/tr-98-14.pdf中公开了一种用于训练支撑向量机器的快速算法，即顺序最小优化(SMO)法。在Chih-Chung Chang and Chih-Jen Lin，LIBSVM：a library for support vector machines，2001.Software available at http://csie.ntu.edu.tw/～cjlin/libsvm中公开了用于支撑向量机器的库LIBSVM。SMO法将较大的二次编程(QP)优化问题分解成一系列最小可能的QP问题。这些小QP问题通过分析解决，这样避免了使用耗时的数字QP优化作为内部循环。LIBSVM是用于SVM的库，它是当前使用最为广泛的SVM软件之一。上述文献的全部内容通过引用包含于本文中。使用SMO法，利用LIBSVM库可以更新分类器中所有支撑向量的权重，即对分类器进行重新学习。
[0126] 图11示出了根据本发明的实施方式的用于分类器的在线半监督学习的装置1000的功能框图。该装置1000的功能模块可以由实现本发明原理的硬件、软件或硬件和软件的结合来实现。本领域技术人员可以理解的是图11中所描述的功能模块可以组合起来或者划分成子模块，从而实现上述发明的原理。因此，本文的描述可以支持对本文描述的功能模块的任何可能的组合、或者划分、或者更进一步的限定。
[0127] 如图11所示，根据一种实施方式，用于分类器的在线半监督学习的装置1000可包括：候选样本选择单元1100、新支撑向量选择单元1200、支撑向量替换单元1300以及权重更新单元1400。候选样本选择单元1100使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本。新支撑向量选择单元1200使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量。支撑向量替换单元1300通过所述新的支撑向量替换分类器的一些支撑向量。权重更新单元1400更新分类器中所有支撑向量的权重。
[0128] 根据另一种实施方式，所述候选样本选择单元1100还可以包括：第一估计单元1110、1120、设置单元1130和第一确定单元1140。第一估计单元1110估计任意样本与所有支撑向量的中心的最大距离。第二估计单元1120估计任意样本与所述中心的最小距离。
设置单元1130在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值。第一确定单元1140根据所述阈值确定新添加的未标记样本是否为候选样本。
设置单元1130在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值。第一确定单元1140根据所述阈值确定新添加的未标记样本是否为候选样本。
[0129] 优选地，所述阈值被设置成使得任意正样本落在所述阈值之内的概率固定。
[0130] 根据另一种实施方式，所述新支撑向量选择单元1200还可以包括：绘制单元1220和第二确定单元1230。绘制单元1220根据所述多个现有的支撑向量绘制边界超球面。第二确定单元1230确定所述候选样本是否为新的支撑向量，其中如果候选样本在边界超球面之外，则将该候选样本选择为新的支撑向量；以及如果候选样本在边界超球面之内，则不将该候选样本选择为新的支撑向量。
[0131] 根据另一种实施方式，所述支撑向量替换单元1300还可以包括：计算单元1310和替换单元1320。计算单元1310计算每一个支撑向量到所述中心的距离。替换单元1320用新的支撑向量替换具有最近距离的支持向量，并保持支撑向量数恒定。
[0132] 优选地，在所述第一估计单元中使用支撑向量数据描述(SVDD)算法。
[0133] 优选地，在所述第一估计单元和所述第二估计单元中使用核函数K(·)，其中所述核函数被选择成使得对于任意的归一化的向量z，K(z，z)都是恒定的。
[0134] 优选地，所述核函数K(·)包括直方图交叉核(HIK)。
[0135] 图12示出了根据本发明的实施方式的处理设备2000的功能框图。该处理设备2000的功能模块可以由实现本发明原理的硬件、软件或硬件和软件的结合来实现。本领域技术人员可以理解的是图12中所描述的功能模块可以组合起来或者划分成子模块，从而实现上述发明的原理。因此，本文的描述可以支持对本文描述的功能模块的任何可能的组合、或者划分、或者更进一步的限定。
[0136] 如图12所示，根据一种实施方式，所述处理设备2000可包括：分类器2100、接收单元2200、候选样本选择单元1100、新支撑向量选择单元1200、支撑向量替换单元1300以及权重更新单元1400。所述分类器2100使用多个现有的支撑向量。接收单元2200接收新添加的未标记样本。候选样本选择单元1100使用所述多个现有的支撑向量从新添加的未标记样本中选择候选样本。新支撑向量选择单元1200使用所述多个现有的支撑向量从所述候选样本中选择新的支撑向量。支撑向量替换单元1300通过所述新的支撑向量替换分类器的一些支撑向量。权重更新单元1400更新分类器中所有支撑向量的权重。
[0137] 根据另一种实施方式，所述候选样本选择单元1100还可以包括：第一估计单元1110、1120、设置单元1130和第一确定单元1140。第一估计单元1110估计任意样本与所有支撑向量的中心的最大距离。第二估计单元1120估计任意样本与所述中心的最小距离。
设置单元1130在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值。第一确定单元1140根据所述阈值确定新添加的未标记样本是否为候选样本。
设置单元1130在所述最大距离和最小距离之间设置用以判定新添加的未标记样本是否为正样本的阈值。第一确定单元1140根据所述阈值确定新添加的未标记样本是否为候选样本。
[0138] 优选地，所述阈值被设置成使得任意正样本落在所述阈值之内的概率固定。
[0139] 根据另一种实施方式，所述新支撑向量选择单元1200还可以包括：绘制单元1220和第二确定单元1230。绘制单元1220根据所述多个现有的支撑向量绘制边界超球面。第二确定单元1230确定所述候选样本是否为新的支撑向量，其中如果候选样本在边界超球面之外，则将该候选样本选择为新的支撑向量；以及如果候选样本在边界超球面之内，则不将该候选样本选择为新的支撑向量。
[0140] 根据另一种实施方式，所述支撑向量替换单元1300还可以包括：计算单元1310和替换单元1320。计算单元1310计算每一个支撑向量到所述中心的距离。替换单元1320用新的支撑向量替换具有最近距离的支持向量，并保持支撑向量数恒定。
[0141] 优选地，在所述第一估计单元中使用支撑向量数据描述(SVDD)算法。
[0142] 优选地，在所述第一估计单元和所述第二估计单元中使用核函数K(·)，其中所述核函数被选择成使得对于任意的归一化的向量z，K(z，z)都是恒定的。
[0143] 优选地，所述核函数K(·)包括直方图交叉核(HIK)。
[0144] 图13示出了根据本发明的实施方式的用户注册对象检测方法的流程图。如图13所示，在步骤3100接收要检测的对象。例如，所述要检测的对象可以是图像或视频。在步骤3200，调用现有的分类器，所述分类器包括根据用户注册的对象产生的多个现有的支撑向量。在步骤3300，基于分类器识别所述要检测的对象。基于分类器识别要检测的对象的处理是本领域技术人员所公知的，在此不再赘述。在步骤3400，使用根据本发明原理的用于分类器的半监督学习方法更新分类器。这样，在下次有新的对象输入时，可以使用更新后的分类器进行检测。
[0145] 图14示出了根据本发明的实施方式的用户注册对象检测系统的功能框图。在图14中，用户注册对象检测系统4000，包括：对象接收单元4100、对象识别单元4200以及根据本发明原理的用于分类器的在线半监督学习的装置1000。对象接收单元4100接收要检测的对象。例如，所述要检测的对象可以是图像或视频。对象识别单元4200基于分类器识别所述要检测的对象，所述分类器包括根据用户注册的对象产生的多个现有的支撑向量。
基于分类器识别要检测的对象的处理是本领域技术人员所公知的，在此不再赘述。根据本发明原理的用于分类器的在线半监督学习的装置1000更新分类器。这样，在下次有新的对象输入时，可以使用更新后的分类器进行检测。
基于分类器识别要检测的对象的处理是本领域技术人员所公知的，在此不再赘述。根据本发明原理的用于分类器的在线半监督学习的装置1000更新分类器。这样，在下次有新的对象输入时，可以使用更新后的分类器进行检测。
[0146] 图15是示出能够实施本发明的实施例的计算机系统5000的硬件配置的框图。
[0147] 如图15中所示，计算机系统包括计算机5110。计算机5110包括经由系统总线5121连接的处理单元5120、系统存储器5130、固定非易失性存储器接口5140、可移动非易失性存储器接口5150、用户输入接口5160、网络接口5170、视频接口5190和输出外围接口
5195。
5195。
[0148] 系统存储器5130包括ROM(只读存储器)5131和RAM(随机存取存储器)5132。BIOS(基本输入输出系统)5133驻留在ROM 5131中。操作系统5134、应用程序5135、其它程序模块5136和某些程序数据5137驻留在RAM 5132中。
[0149] 诸如硬盘之类的固定非易失性存储器5141连接到固定非易失性存储器接口5140。固定非易失性存储器5141例如可以存储操作系统5144、应用程序5145、其它程序模块5146和某些程序数据5147。
[0150] 诸如软盘驱动器5151和CD-ROM驱动器5155之类的可移动非易失性存储器连接到可移动非易失性存储器接口5150。例如，软盘5152可以被插入到软盘驱动器5151中，以及CD(光盘)5156可以被插入到CD-ROM驱动器5155中。
[0152] 计算机5110可以通过网络接口5170连接到远程计算机5180。例如，网络接口5170可以经由局域网5171连接到远程计算机5180。或者，网络接口5170可以连接到调制解调器(调制器-解调器)5172，以及调制解调器5172经由广域网5173连接到远程计算机
5180。
5180。
[0153] 远程计算机5180可以包括诸如硬盘之类的存储器5181，其存储远程应用程序5185。
[0154] 视频接口5190连接到监视器5191。
[0156] 图15所示的计算机系统仅仅是说明性的并且决不意图对本发明、其应用或用途进行任何限制。
[0157] 图15所示的计算机系统可以被实施于任何实施例，可作为独立计算机，或者也可作为设备中的处理系统，可以移除一个或更多个不必要的组件，也可以向其添加一个或更多个附加的组件。
[0158] 下面给出通过利用根据本发明的原理的用于分类器的在线半监督学习方法与现有技术中的其它方法进行的试验对比的示例。特别指出，此处给出的示例仅仅是例示性的，用于示出本发明的有益效果，而绝非限制性的。
[0159] 将根据本发明的在线半监督学习方法用于用户注册对象检测(UROD)系统中。由用户给出对于特定对象的一次拍摄样本。通过该给定样本获得用于检测用户注册对象的基于SVDD的分类器。在图像上设定窗口(窗口可具有不同的缩放比例)，并且在图像上滑动窗口，从而将每个这样的局部窗口分类为包含目标或背景。然而，使用检测到的对象更新分类器。用于图像区域描述的特征是颜色和局部三重图案(LTP)。然后通过更新后的检测器检测下一帧图像。
[0160] 表1示出了进行试验的硬件和软件配置。
[0161]
[0162] 表1
[0163] 评估例1
[0164] 随机选择了包括不同动物的8种视频。这些视频是有手持式照相机所拍摄的。由于离焦或运动，这些视频中的很多帧是模糊的，而且视角的变化和目标的形变都非常大。此外，照明还频繁地变化。在评估中，评价标准选择PASCAL标准。PASCAL标准 在M.Everingham，A.Zisserman，C.K.I.Williams，and L.Gool，“The PASCAL Visual Object Classes Challenge 2006(VOC2006)Results，”http://www.pascal-network.org/challenges/VOC/voc2006/results.pdf中描述。该文献的全部内容通过引用包含于此。当标记区域与检测区域的交集/标记区域与检测区域的并集＞T时，检测区域被认定为争取的检测区域，即检测区域为正样本。在本评估例中，将T选为0.5。将根据本发明的方法与在线SVDD法和增量SVDD法进行比较。比较结果在表2中示出。
[0165]UROD系统 总帧数 帧中的目标数 检测率 虚检率 速度(fps)
在线SVDD 8827 4741 0.65 0.125 3.67
增量SVDD 8827 4741 0.90 0.109 2.52
本发明 8827 4741 0.90 0.005 3.02
在线SVDD 8827 4741 0.65 0.125 3.67
增量SVDD 8827 4741 0.90 0.109 2.52
本发明 8827 4741 0.90 0.005 3.02
[0166] 表2
[0167] 如表2所示，当根据本发明的在线半监督检测法用于对象检测时，可以相对于在线SVDD法和增量SVDD法大大地降低虚检率，并且检测率高于在线SVDD法，且与增量SVDD法相当。此外，根据本发明的在线半监督检测法的检测速度要高于在线SVDD法。
[0168] 评估例2
[0169] 选择三段视频进行评估试验，在每段视频中具有一个对象。对于每个对象的视频，仅仅提供一个样本，并且针对该样本使用立体变换模拟出50个样本，使用这些样本进行训练。分别利用根据本发明的在线半监督检测法、在线SVDD法和增量SVDD法进行检测试验。在检测每一帧的对象后，计算所有帧的检测率和虚检率(FPPI)。
[0170] 图16示出了对于三段视频，根据本发明的方法、在线SVDD法和增量SVDD法的检测率和虚检率的比较图表。在图16中，1指示根据本发明的在线半监督检测法，2指示在线SVDD法，3指示增量SVDD法。
[0171] 从图16中可以看出，当新样本持续添加时，根据本发明的在线半监督检测法能够将检测率稳定地保持在较高的水平，并将虚检率稳定地保持在低水平。在线SVDD法和增量SVDD法无法将虚检率稳定地保持在较低的水平。
[0172] 评估例3
[0173] 下面研究根据本发明的方法在对象跟踪领域的应用。
[0174] 在S.Stalder，H.Grabner，and L.Van Gool.Beyond semi-supervised tracking.ICCV Workshop，2009中公开了超越半激励(beyond semi-boost)法，在A.Saffari，etc.On-line random forests.In Proc.On-line Learning for Computer Vision Workshop，2009中公开了在线随机森林(online Random Forest)法，在B.Babenko，M.H.Yang and S.Belongie.Visual Tracking with Online Multiple Instance Learning.In CVPR，2009中公开了在线多实例学习(oneline Multi-Instance Learning)法。在本技术领域中，上述三种方法被用于对象跟踪中。在评估例3中，在对象跟踪方面，将根据本发明的方法与上述三种方法进行比较。
[0175] 选取包括不同种类的动物的10个视频。这些视频是通过手持式摄像机拍摄的。由于这些视频中的很多帧因为离焦或运动而模糊，观察点的变化以及变形都非常多并且发生得很快，因此这些视频很难用于跟踪。
[0177] 图17示出根据本发明的方法以及其它三种现有技术方法在跟踪应用中的平均错误率。所谓平均错误率是指在总帧数中累积的错误帧的比率。图18示出了根据本发明的方法以及其它三种现有技术方法在跟踪应用中示例结果。在图18中的方框即为在该帧所得到的跟踪对象。在图17和图18中，1指示根据本发明的方法的结果，2指示超越半激励法的结果，3指示在线随机森林法的结果，4指示在线多实例学习法的结果。
[0178] 从图17和图18中可以看出，根据本发明的方法在跟踪性能方面优于其它在线跟踪方法，其可以解决跟踪中的漂移问题。
[0179] 表3示出了根据本发明的方法与上述三种方法的计算时间的比较。
[0180]方法 初始化 更新 检测或跟踪
本发明 0.15s 0.1s 0.2s/帧
超越半激励法 2s 0.3s 0.06s/帧
在线随机森林法 0.03s 0.2s 0.2s/帧
在线多实例学习法 0.35s 0.2s 0.15s/帧
本发明 0.15s 0.1s 0.2s/帧
超越半激励法 2s 0.3s 0.06s/帧
在线随机森林法 0.03s 0.2s 0.2s/帧
在线多实例学习法 0.35s 0.2s 0.15s/帧
[0181] 表3
[0182] 从表3可以看出，通过根据本发明的方法进行检测、学习和更新的速度足以满足在线应用的要求。
| 标题 | 发布/更新时间 | 阅读量 |
|---|---|---|
| 适用于物流行业的智能单证结构化提取方法 | 2020-05-08 | 772 |
| 基于流形正则和范数正则的领域迁移极限学习机方法 | 2020-05-11 | 636 |
| 一种化工过程故障识别方法及系统 | 2020-05-15 | 602 |
| 一种基于商用WiFi的位置自适应动作识别方法 | 2020-05-08 | 767 |
| 基于语义传播及混合多示例学习的Web图像检索方法 | 2020-05-16 | 884 |
| 一种半监督学习的训练方法、系统和计算机可读存储介质 | 2020-05-18 | 955 |
| 基于半监督学习的检测模型训练方法、装置、设备及介质 | 2020-05-12 | 763 |
| 基于半监督学习的渣土车偷倒判别方法、系统和装置 | 2020-05-08 | 791 |
| 一种基于半监督与弱监督学习的曲形场景文字检测方法 | 2020-05-14 | 894 |
| 一种基于半监督学习的多标签语料库文本分类方法 | 2020-05-13 | 779 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台，是提供专利分析，专利查询，专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据，免费查、免费专利分析。
分析报告
专利汇分析报告产品可以对行业情报数据进行梳理分析，涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度，系统通过AI智能系统对图表进行解读，只需1分钟，一键生成行业专利分析报告。
半监督学习热门专利
QQ群二维码
意见反馈
意见反馈