使用决策树的熵

Question

这是我之前要求查看的试卷中的一个问题。 我们曾经学习过的幻灯片没有意义。 我了解如何使用表格获取熵，但不了解如何使用提供的方程式

题

在由属性A1，A2，A3和结果C表示的数据上训练决策树，如下所述：

A1 A2 A3 C
1  0  1  0
0  1  1  1
0  0  1  0

对于log ₂ （1/3）= 1.6和log ₂ （2/3）= 0.6，请回答以下问题：

a）对于给定的训练示例集，熵H的值是多少？

b）按属性A2划分的正样本的比例是多少？

c）属性A2的信息增益G（A2）的值是多少？

d）决策树的IFTHEN规则是什么？

Answer 1

我想b部分将是3。就像您在第1或3行的A2中添加1一样，C将变成1。

对于第2行，如果您从A2中删除了1，则C将变为0。