『阿里大数据竞赛』音乐流行趋势预测_不断更新

# 本文使用的语言是 Python , 下面不再说明
# 本文禁止盈利性转载



一、数据预处理

    1、读取数据
    1.1 原始数据、测试数据与实际数据
    什么叫原始数据?为什么要保留一份原始数据?
    在读取数据之前我们要先保留一份原始数据, 并且在随后的处理的过程中不要对原始数据做任何操作。这样做的目的是为了避免在之后的过程中, 我们对数据进行了错误的修改, 或者数据发生损毁等会破坏数据的情况后, 原始数据可以帮助我们快速恢复数据。
    什么叫测试数据?为什么要使用测试数据?
    测试数据既可以是原始数据的子集也可以是实际数据的子集, 由于大数据的数据量太大, 所以在测试我们的代码或验证我们的思路的时候, 如果直接使用所有数据则会大量增加程序运行时间, 而使用测试数据的好处就是极大地缩短程序运行时间。
    什么叫实际数据?为什么要使用实际数据?
    实际数据即是我们要用来进行数据挖掘的数据。
    
    1.2实际过程
    由于阿里提供的是 csv 文件格式, 所以在通过 import pandas as pd 导入 pandas 库, 使用 pandas 库的原因是由于数据太大, 而 pandas 库在读取大数据时速度非常快。实际过程中, 读取完所有五百六十万行数据仅仅不到一分钟,读取速度比我预想的要快得多。
    

  • 2
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值