一、数据规约
在大数据集上进行复杂的数据分析和挖掘需要很长的时间,数据规约产生更小但保持原数据完整性的新数据集。在规约后的数据集上进行分析和挖掘将更有效率。
数据规约的意义在于:
(1)降低无效、错误数据对建模的影响,提高建模的准确性;
(2)少量且具代表性的数据将大幅缩减数据挖掘所需的时间;
(3)降低存储数据的成本。
1.属性规约
属性规约通过属性合并来创建新属性维数,或者直接通过删除不相关的属性(维)来减少数据维数,从而提高数据挖掘的效率、降低计算成本。属性规约的目标是寻找出最小的属性子集并确保新数据子集的概率分布尽可能地接近原来数据集的概率分布。属性规约常用方法如下表所示:
属性规约方法 |
方法描述 |
方法解析 |
合并属性 |
将一些旧属性合并为新属性 |
初识属性集:{A1,A2,A3,A4,B1,B2,C} {A1,A2,A3,A4}->A { B1,B2}->B =>规约后属性集:{A,B,C} |
逐步向前选择 |