数据预处理目的:改善数据分析工作,减少时间,降低成本和提高质量。
- 聚集,数据集的对象非常多时,可以将多个对象合并成单个对象,删繁就简,减少冗余,提炼数据价值,减少访问时间。
- 抽样。唐人诗:“山僧不解数甲子,一叶落知天下秋。”,我们有时候真的做不到用全部的数据集去分析,但是我们只要做好抽取一部分样本的工作。后期分析也不一定效果会差。
- 维归约,与聚集相对,合并的是维度,即多个旧属性合并成单个属性,降低维度。
- 特征子集选择,与维归约相同目的,都是为了降低因为维度多而访问开销大的问题,通过选取其中的一部分特征作为后期的分析。
- 特征创建,由原来的属性创建新的属性集,它与维归约不同的地方在于,维归约是专门为了降低维度的,而它一方面是为了将数据映射到新的空间,从新的角度分析数据,比如时间与频率。另一方面它也可能起到维归约的作用,更多是为了专业的目的,如果仅是为了降低维度,直接维归约好了。杀鸡用菜刀就好了,牛刀是专门用来杀牛的。
- 离散化和二元化,没啥可说的,在决策树中常常会用到。
7. 变量变换,数据对象有属性,属性自然有变量,为了方便操作和分析目的,对于变量进行适当的变换也是挺需要的。
分类的目的还是为了新人能够更快的了解数据预处理的作用,其实哪里需要什么分类,一切都是为了分析为目的的,当你发现有些数据分析时的问题完全可以在分析前避免,那么你所做的就是数据预处理,数据预处理完全是为了之后的分析服务的(其实我也是自己瞎诌的,学识浅薄,自己理解理解,不要误了旁人。)