在Weka中提取重要属性

Question

这是一个相当新手的问题，所以请带上一粒盐。

我是数据挖掘领域的新手，并试图让我的脑袋围绕这个主题。 现在我正在尝试改进我现有的模型，以便更好地对实例进行分类。 问题是，我的模型有大约480个属性。 我确信并非所有这些都是相关的，但我很难指出哪些确实很重要。

问题是 ：拥有有效的培训和测试集 ，是否可以使用某种数据挖掘算法 ，这种算法会丢弃似乎对分类质量没有任何影响的属性？

我正在使用Weka。

Answer 1

您应该使用Weka所具有的一些分类器算法进行测试。

基本思想是使用交叉验证选项，这样您就可以看到哪种算法为您提供了最佳的正确分类实例值。

我可以给你一个训练集的例子，使用交叉验证选项并选择Folds 10。

如您所见，使用J48分类器，我将：

Correctly Classified Instances        4310               83.2207 %
Incorrectly Classified Instances       869               16.7793 %

如果我将使用例如NaiveBayes算法，我会：

Correctly Classified Instances        1996               38.5403 %
Incorrectly Classified Instances      3183               61.4597 %

依此类推，这些值因算法而异。

因此，尽可能多地测试算法，看看哪个算法为您提供了最佳的正确分类实例/消耗的时间。

Answer 2

阅读有关聚类算法的主题（仅限您的训练集！）

Answer 3

注释转换为OP建议的答案：如果您使用weka 3.6.6 - 选择模块资源管理器 - >比转到选项卡“选择属性”并选择“属性评估器”和“搜索方法”，您还可以选择使用完整数据集或cv集，有关详细信息，请参阅http://forums.pentaho.com/showthread.php?68687-Selecting-Attributes-with-Weka或http://weka.wikispaces.com/Performing+attribute+selection

Answer 4

查看InfoGainAttributeEval类。 buildEvaluator（）和evaluateAttribute（int index）函数应该有所帮助。