algorithm - 为什么我用训练有素的互补和标准朴素贝叶斯模型得到相同的测试结果？

Question

我有一个关于 Mahout 的问题:当我使用互补模型和标准模型方法测试经过训练的朴素贝叶斯模型时，为什么在混淆矩阵中得到相同的测试结果(相同的模型测试准确度 - 80%)？

以下是我使用的步骤:

1. 向量转换:# mahout seq2sparse --input/user/root/data-seq/chunk-0 --output/user/root/vectors -ow -wt tfidf -md 2 -x 95 -n 2 -nr 2
2. 拆分训练和测试向量:# mahout split --input data-vectors/tfidf-vectors --trainingOutput training-vectors --testOutput test-vectors --randomSelectionPct 30 --overwrite --sequenceFiles -xm sequential
3. 学习模型: a) ComplementaryNaiveBayesClassifier:# mahout trainnb -i training-vectors -el -li labelindex -o model -ow -c b) 标准朴素贝叶斯分类器:# mahout trainnb -i training-vectors -el -li labelindex -o model -ow
4. 测试模型: a) ComplementaryNaiveBayesClassifier:# mahout testnb -i training-vectors -m model -l labelindex -ow -o tweets-testing -c b) StandardNaiveBayesClassifier:#mahout testnb -i training-vectors -m model -l labelindex -ow -o tweets-testing

可能是因为标准朴素贝叶斯不使用权重归一化，但我在第一步中通过设置参数使用它:-n 2？如果是，是否意味着如果我想比较这些算法的性能，我不应该在创建向量时使用此参数？

Answer 1

您为 mahout seq2sparse 引用的 -n 2 选项实际上是指定用于长度规范化的 L_p 范数 [1]。所以 mahout seq2sparse ... -n 2 使用 TF-IDF 向量的 L_2 长度归一化。或者，您可以使用 -lnorm 进行对数标准化。这是用于补语和标准朴素贝叶斯 [2] 之前的预处理步骤的一部分。

权重归一化与长度归一化不同，Mahout 0.7 中未使用。

即将发布的 1.0 版本中使用了权重归一化，因此要获得标准朴素贝叶斯和互补朴素贝叶斯的最佳比较，您应该检查并构建最新主干的副本:http://mahout.apache.org/developers/buildingmahout.html .

如果升级到最新的主干，您应该会看到标准朴素贝叶斯和互补朴素贝叶斯之间的显着差异。

[1] mahout.apache.org/users/basics/creating-vectors-from-text.html

[2] http://mahout.apache.org/users/classification/bayesian.html