数据预处理总结

数据预处理目的:改善数据分析工作,减少时间,降低成本和提高质量。

  1. 聚集,数据集的对象非常多时,可以将多个对象合并成单个对象,删繁就简,减少冗余,提炼数据价值,减少访问时间。
  2. 抽样。唐人诗:“山僧不解数甲子,一叶落知天下秋。”,我们有时候真的做不到用全部的数据集去分析,但是我们只要做好抽取一部分样本的工作。后期分析也不一定效果会差。
  3. 维归约,与聚集相对,合并的是维度,即多个旧属性合并成单个属性,降低维度。
  4. 特征子集选择,与维归约相同目的,都是为了降低因为维度多而访问开销大的问题,通过选取其中的一部分特征作为后期的分析。
  5. 特征创建,由原来的属性创建新的属性集,它与维归约不同的地方在于,维归约是专门为了降低维度的,而它一方面是为了将数据映射到新的空间,从新的角度分析数据,比如时间与频率。另一方面它也可能起到维归约的作用,更多是为了专业的目的,如果仅是为了降低维度,直接维归约好了。杀鸡用菜刀就好了,牛刀是专门用来杀牛的。
  6. 离散化和二元化,没啥可说的,在决策树中常常会用到。
    7. 变量变换,数据对象有属性,属性自然有变量,为了方便操作和分析目的,对于变量进行适当的变换也是挺需要的。

分类的目的还是为了新人能够更快的了解数据预处理的作用,其实哪里需要什么分类,一切都是为了分析为目的的,当你发现有些数据分析时的问题完全可以在分析前避免,那么你所做的就是数据预处理,数据预处理完全是为了之后的分析服务的(其实我也是自己瞎诌的,学识浅薄,自己理解理解,不要误了旁人。)

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值