...环境多因素居住空间聚类决策树-数据 基于数据的上海城市 占星术
杜静++匡泰++张丽娜
摘 要 子空间聚类是寻找从高维空间抽取最适合样本点的多个子空间表示的一个问题。现有的聚类模型一般采用不同的规范来描述噪声，这相当于假设数据被特定类型的噪声所破坏。然而，实际上，噪音要复杂得多。因此，简单地用一定的范数来模拟噪声是不合适的。因此，我们提出了将噪声用混合高斯模型表示的混合高斯回归子空间聚类。混合高斯回归提供了一个有效的模型来表示更广泛的范围内的噪声分布。其结果是，所得到的关联矩阵能够更好地表征实际应用中数据的结构。多个视频火焰数据集上的检测结果表明，混合高斯回归模型大大优于当前最优的子空间聚类方法。
关键词 子空间聚类；混合高斯回归；视频火焰检测
中图分类号 TP2 文献标识码 A 文章编号 2095-6363（2017）16-0023-02
在过去的20年中，多种子空间聚类方法已经被相关学者提出。这些方法大致可分为四大类：代数方法、迭代方法、统计方法和基于光谱聚类的方法[1]。应该指出的是，基于谱聚类的方法，它是基于谱图理论，已在许多实际应用中体现出优良的性能。
一般的基于谱聚类的方法包括两个步骤。首先，建立一个关联矩阵来捕捉样本点对之间的相似性。其次，将图割方法应用于一个图，图的顶点是样本，其权值由关联矩阵确定，用于对样本点进行分割。建立有效的关联矩阵是保证聚类结果良好的关键。因此，许多子空间聚类方法都关注于建立有效的关联矩阵。
几乎所有的分布都可以用足够数量的高斯模型混合来近似表示，本文即运用了这种概率思想。本文利用复杂的混合高斯模型来精确地描述真实的噪声，而不是假设噪声是一些具体分布。高斯模型的个数可以通过交叉验证来估计。对Z的正则化，我们就选择Frobenius范数。原因有两方面。首先，我们要演示噪声建模对子空间聚类的影响。因此，Z上的正则化可以更好地展示这种影响。其次，对Z的正则化可以更容易估计高斯模型的个数。例如，我们可以利用传统的期望最大化算法来解决本文提出的子空间聚类模型。
1 混合高斯回归的子空间聚类
如文献[2]所述的，我们考虑子空间聚类作为以下优化问题：
（1）
其中，
L（E）代表描述噪声的损失函数，R（Z）代表表示表征矩阵Z上的一些性质的正则项。从公示（1）可以看出，如何描述噪声在子空间聚类中有着重要的意义。
1.1 混合高斯回归
在本文中，我们提出了一种新的方法称为混合高斯回归，采用混合高斯模型描述一般的噪声来实现鲁棒的子空间聚类。
我们假设E的每一列服从一个混合高斯分布。
其中，K是高斯分量的个数，代表权值代表均值为0的多元高斯分布。代表协方差矩阵。与经典回归分析相似，E中的所有列都假定为独立同分布。所以我
们有：
在一般的混合高斯模型中，我们期望找到使最大化。
我们利用代替LSR模型中的Frobenius 范数，则我们提出的混合高斯回归模型将可以写成如下形式：
（2）
其中，
为正则化参数。我们选择Frobenius范数来正则化Z。在Z上利用Frobenius范数不仅能够减少计算量还可以表示出利用混合高斯回归模型表示噪声来计算子空间聚类的效果。
一般利用EM算法来解决公式（2），它可以迭代地找到参数的最大似然估计。它从一个初始猜测开始，迭代地运行一个期望（E）步骤，它使用当前估计的参数来评估后验概率，以及最大化（M）步骤，它基于E步骤中计算的概率重新估计参数。直到满足某些收敛条件[3]，
迭代停止。结合EM算法的传统步骤，我们可以得到问题（2）的解。
1.2 混合高斯回归的子空间聚类
与以前的方法相似，我们的聚类方法也基于谱聚类理论[4]。解决公式（2）后得到表示矩阵Z，我们定义为关联矩阵，即：
其中，C中的每个分量测量了数据点和之间的相似性。混合高斯回歸子空间聚类的方法更善于描述噪声的分布，从而表现出更强的集群效应和恢复真实子空间结构的能力更强。最后，我们对关联矩阵C利用Normalize-cut[5]算法来产生最终的聚类结果。
2 视频火焰检测结果
本文提取视频火焰图片的颜色特征、LBP纹理特征、通过累积差分算法得出的火焰动态特征，将混合高斯回归的子空间聚类应用于上述三种特征组合成的特征向量，实验结果如图1所示。
3 结论
在本文中，我们提出了一种新的子空间聚类方法，该方法采用混合高斯回归模型来描述复杂的噪声分布。理论分析表明，本文提出的混合高斯回归方法保持了集群效果。在运动分割实验中，手动标记聚类和复杂的视频火焰图片聚类表明了该方法的优越性。假定噪声服从高斯分布或者是稀疏噪声，该方法在处理一般噪声方面，稳定性和鲁棒性较好。
参考文献
[1]E.Elhamifar and R.Vidal. Sparse subspace clustering：Algorithm，theory，and Applications.IEEE Transactions on Pattern Analysis and Machine Intelligence， 2013，35（11）：2765-2781.
[2]C.Lu，J.Tang，M.Lin，L.Lin，S.Yan，and Z.Lin.Correntropyinduced l2 graph for robust subspace clustering InProceedings of IEEE International Conference on ComputerVision，2013：1801-1808.
[3]D.Nettleton. Convergence properties of the EM algorithmin constrained parameter spaces. Canadian Journal of Statistics，1999，27（3）：639-648.
[4]A.Y.Ng，M.I.Jordan，Y.Weiss，et al.On spectral clustering：Analysis and an algorithm. Advances in neural informationprocessing systems，2002（2）：849-856.
[5]J.Shi and J.Malik.Normalized cuts and image segmentation.IEEE Transactions on Pattern Analysis and MachineIntelligence，2000，22（8）：888-905.endprint
