python - 使用高斯混合的异常值检测

Question

我在 numpy 数组中的 17 个特征中的每一个都有 5000 个数据点，从而形成一个 5000 x 17 的数组。我试图使用高斯混合找到每个特征的异常值，但我对以下内容感到相当困惑:1)我的 GaussiasnMixture 应该使用多少个组件？ 2) 我应该将 GaussianMixture 直接拟合到 5000 x 17 的数组上，还是分别拟合到每个特征列上，从而产生 17 个 GaussianMixture 模型？

clf = mixture.GaussianMixture(n_components=1, covariance_type='full')
clf.fit(full_feature_array)

或

clf = mixture.GaussianMixture(n_components=17, covariance_type='full')
clf.fit(full_feature_array)

或

for feature in range(0, full_feature_matrix):
    clf[feature] = mixture.GaussianMixture(n_components=1, covariance_type='full')
    clf.fit(full_feature_array[:,feature)

Answer 1

选择组件数量以使用高斯混合模型对分布进行建模的任务是模型选择的一个实例。这并不是那么简单，并且存在多种方法。可以在这里找到一个很好的总结 https://en.m.wikipedia.org/wiki/Model_selection 。最简单且最广泛使用的方法之一是执行交叉验证。

通常，离群值可以被确定为属于方差最大的一个或多个分量的值。您可以将此策略称为无监督方法，但是仍然很难确定截止方差应该是多少。更好的方法(如果适用)是一种监督方法，您可以使用无异常值的数据(通过手动删除异常值)来训练 GMM。然后，您可以使用它来将异常值分类为可能性得分特别低的异常值。使用监督方法实现此目的的第二种方法是训练两个 GMM(一个用于异常值，一个用于使用模型选择的内部值)，然后对新数据执行两类分类。关于你关于训练单变量与多元 GMM 的问题 - 很难说，但出于异常值检测的目的，单变量 GMM(或等效的具有对角协方差矩阵的多元 GMM)可能就足够了，并且与一般多元 GMM 相比，需要训练更少的参数，所以我会从那开始。