一、数据科学定义
1.定义:数据科学是指通过收集组织分析大规模数据的科学,用以发现模型,并得出结论。
2.性质:①有效性 ②可用性 ③未预料 ④可理解
3.应用:①金融服务 ②制造业 ③能源 ④零售 ⑤保健 ⑥通信
4.数据分析过程:①提出正确问题 ②争论数据 ③管理数据 ④探索数据 ⑤使用统计方法
5.是数据分析流程:获取数据 > 数据预处理 > 数据探索 > 数据建模 > 结果展示
6.数据分析技术:①数据探索 ②数据降维 ③数据聚类 ④关联规则 ⑤数据分类
7.数据分析任务:①描述性分析 (已知的)
②预测性分析 (未知的)
二、数据分析流程(具体)
2.1 获取数据
2.1.1 数据来源分类
①第一手数据 可直接获取
②第二手数据 经加工整理后
2.1.2 获取数据途径
A:系统日志采集——用于收集公司业务数据——高可用性,高可靠性,可扩展性
B:网络数据采集——网络爬虫,网络搜索,公开网站
C:数据库收集——关系型数据库(MySQL),非关系型数据库