挖掘的数据包含许多的属性(维),就需要进行分析定性描述挖掘:先消除无关和弱相关属性再进行泛化处理。
1.从数据库或文本中获得数据,包括:要分析的数据与要对比的数据。
2.根据阀值对数据中的属性进行初步的分析,消除取值过多的属性并进行小规模属性泛化。
3.利用信息增益方法选择有关的属性。
c1 = 100 原数据数量
c2 = 120 对比数据数量
得出数据的信息量:
I(s1, s2) = -c1/c1+c2*log2(c1/c1+c2) - c2/c1+c2*log2(c2/c1+c2)
计算每个属性的信息熵:
I(a1, a2) = -a1/a1+a2*log2(a1/a1+a2) - a2/a1+a2*log2(a2/a1+a2)
I(b1, b2) = -b1/b1+b2*log2(b1/b1+b2) - b2/b1+b2*log2(b2/b1+b2)
I(d1, d2) = -d1/d1+d2*log2(d1/d1+d2) - d2/d1+d2*log2(d2/d1+d2)
每一个属性所需要的信息:
I(ma) = l(a1, a2)*(a1+a2)/c1+c2 + l(b1, b2)*(b1+b2)/c1+c2 + l(b1, b2)*(b1+b2)/c1+c2 + l(d1, d2)*(d1+d2)/c1+c2
属性的信息增益为:
I(s1, s2) - I(ma)
4. 假设属性阀值,消除弱相关的属性
5.进行基于属性的归纳,获得概念描述。