Python数据分析与可视化学习笔记（一）数据分析与可视化概述

1.1 数据分析

1.1.1 数据、信息与数据分析

数据： 数据是指对客观事件进行记录并可以鉴别的符号，是对客观事物的性质、状态以及相互关系等进行记载的物理符号或这些物理符号的组合。它是可识别的、抽象的符号。是信息的表现形式和载体，可以是符号、文字、数字、语音、图像、视频等。

信息：信息是数据的内涵，信息是加载于数据之上，对数据作具有含义的解释。（用来消除不确定性）

数据和信息是不可分离的，信息依赖数据来表达，数据则生动具体表达出信息。

• 数据是符号，是物理性的，信息是对数据进行加工处理之后得到并对决策产生影响的数据，是逻辑性和观念性的；
• 数据是信息的表现形式，信息是数据有意义的表示。数据是信息的表达、载体，信息是数据的内涵，是形与质的关系。
• 数据本身没有意义，数据只有对实体行为产生影响时才成为信息。

数据分析：数据分析是指用适当的统计分析方法对收集来的大量数据进行分析，为提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。数据分析有狭义和广义之分。狭义的数据分析是指根据分析目的，采用对比分析、分组分析、交叉分析和回归分析等分析方法对搜集来的数据进行处理与分析提取有价值的信息，发挥数据的作用，并得到一个统计量结果的过程。广义的数据分析是指针对搜集来的数据运用基础探索、统计分析、深层挖掘等方法，发现数据中有用的信息和未知的规律与模式，进而为下一步的业务决策提供理论与实践依据。广义的数据分析就包含了数据挖掘。

1.1.2数据分析与数据挖掘的区别

数据挖掘：数据挖掘是指从大量的、不完全的、有噪声的、模糊的和随机的实际应用数据中，通过应用聚类、分类、回归和关联规则等技术，挖掘潜在价值的过程。

差异角度	数据分析	数据挖掘
定义	描述和探索性分析，评估现状和修正不足技术	技术性的“采矿”过程，发现未知的模式和规律
侧重点	实际的业务知识	实际的业务知识
技能	统计学、数据库、Excel、可视化等	过硬的数学功底和编程技术
结果	需结合业务知识解读统计结果	模型或规则

数据分析和数据挖掘都是基于搜集来的数据，应用数学、统计和计算机等技术抽取出数据中的有用信息，进而为决策提供依据和指导方向。

1.1.3数据分析的流程

• 需求分析：数据分析中的需求分析也是数据分析环节的第一步和最重要的步骤之一，决定了后续的分析的方向、方法。
• 数据获取：数据是数据分析工作的基础，是指根据需求分析的结果提取，收集数据。
• 数据预处理：数据预处理是指对数据进行数据合并，数据清洗，数据变换和数据标准化，数据变换后使得整体数据变得干净整齐，可以直接用于分析建模这一过程的总称。
• 分析与建模：分析与建模是指通过对比分析、分组分析、交叉分析、回归分析等分析方法和聚类、分类、关联规则、智能推荐等模型与算法发现数据中的有价值信息，并得出结论的过程。
• 模型评价与优化：模型评价是指对已经建立的一个或多个模型，根据其模型的类别，使用不同的指标评价其性能优劣的过程。
• 部署：部署是指通过了正式应用数据分析结果与结论应用至实际生产系统的过程。

1.2 数据可视化

数据可视化：数据可视化是关于数据视觉表现形式（即一种以某种概要形式抽提出来的信息，包括相应信息单位的各种属性和变量）的科学技术研究。它主要是借助图形化手段，清晰有效地传达与沟通信息（即数据的可视化展示），有助于确定需要进一步调查的异常值、差距、趋势和有趣的数据点。有效的可视化可显著减少受众处理信息和获取有价值见解所需的时间，是一个化繁为简的过程。（表达观点、发现联系）

数据分析是一个探索性的过程，通常从特定的问题开始，而数据分析和数据可视化这两个术语密不可分。在实际处理数据时，数据分析先于可视化输出，而可视化分析又是呈现有效分析结果的一种好方法。

数据：聚焦于解决数据的采集、清理、预处理、分析和挖掘
图形：聚焦于解决对光学图象进行接收、提取信息、加工变换、模式识别及存储显示
可视化：聚焦于解决将数据转换成图形，并进行交互处理

1.3 数据分析与可视化常用工具

1. Microsoft Excel
Excel是大家熟悉的电子表格软件，已被广泛使用了很多年，如今甚至有很多的数据只能以Excel表格的形式获取到，但是它的局限在于它一次性所能处理的数据量，而且除非通晓VBA这个Excel内置的编程语言，否则针对不同数据集来绘制一张图表将是一件极其繁琐的事。
2. R语言
R语言是集统计分析与图形显示于一体的用于分析、绘图的语言和操作环境的软件，是属于GNU系统的一个自由、免费、源代码开放的软件，是一个用于统计计算和统计制图的优秀工具。
3. Python语言
Python是一种动态的、面向对象的、解释型脚本语言，起初被用于编写自动化脚本，后随着版本迭代及功能升级，目前也可以用于单独开发，是一门跨平台的脚本语言（Python规定了一个Python语法规则，实现了Python语法的解释程序就成为了Python的解释器。）Python代码具有简洁性、易读性和易维护性等优点。
4. JavaScript
JavaScript（缩写为JS）是一种高级的、多范式、解释型的编程语言，是一门基于原型、函数先行的语言，它支持面向对象编程、命令式编程以及函数式编程。它提供语法来操控文本、数组、日期以及正则表达式，不支持I/O（比如网络、存储和图形等），但可以由它的宿主环境提供支持，是一种基于对象和事件驱动并具有相对安全性的客户端脚本语言。
5. PHP
PHP（“超文本预处理器”）是一种通用开源脚本语言。语法吸收了C语言、Java和Perl的特点，利于学习，使用广泛，主要适用于Web开发领域，但它其中丰富的图形库意味着它可以应用于数据的可视化。

1.4 Python数据分析与可视化常用类库

1. Numpy
Numpy软件包是Python生态系统中数据分析，机器学习和科学计算的主力军。 它极大地简化了向量和矩阵的操作处理方式，它提供了许多高级的数值编程工具，如：矩阵数据类型、矢量处理，以及精密的运算库。专为进行严格的数字处理而产生。多为很多大型金融公司使用，以及核心的科学计算组织如：Lawrence Livermore，NASA用其处理一些本来使用C++，Fortran或Matlab等所做的任务。

2. SciPy
SciPy库依赖于NumPy，它提供了便捷且快速的N维数组操作。 SciPy库的构建与NumPy数组一起工作，并提供了许多用户友好和高效的数字实践，可便捷地解决科学计算中的一些标准问题。
3. Pandas
pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。它纳入了大量库和一些标准的数据模型，提供了高效地操作大型数据集所需的工具，提供了大量能使我们快速便捷地处理数据的函数和方法。

4. Matplotlib
Matplotlib 是一个 Python 的 2D绘图库，它以各种硬拷贝格式和跨平台的交互式环境生成出版质量级别的图形。它可与Numpy一起使用，提供一种有效的MATLAB开源替代方案；它也可以和图形工具包一起使用，让用户很轻松地将数据图形化；同时它还提供多样的输出格式。

5. Seaborn
Seaborn是基于matplotlib的图形可视化python包。它提供了一种高度交互式界面，便于用户能够做出各种有吸引力的统计图表。

6. Scikit-learn
基于SciPy，开发者们针对不同的应用领域发展出的众多的分支版本被统一称为Scikits，即SciPy工具包的意思。而在这些分支版本中，最有名，也是专门面向机器学习的一个就是Scikit-learn。Scikit-learn是Python语言中专门针对机器学习应用而发展起来的一款开源框架。作为专门面向机器学习的Python开源框架，内部实现了各种各样成熟的算法，容易安装和使用，样例丰富，而且教程和文档也非常详细，但它不支持深度学习和强化学习，也不支持图模型和序列预测，不支持Python之外的语言，不支持PyPy，也不支持GPU加速。Scikit-learn的基本功能主要被分为六大部分：分类，回归，聚类，数据降维，模型选择和数据预处理。

本文部分内容来自清华大学出版社《Python数据分析与可视化》作者：魏伟一 李晓红
很棒的书哦，感兴趣的同学可以购买本书来学习哟~