大数据处理分为哪些步骤

　　具体的大数据处理方法确实有很多，但是根据笔者长时间的实践，总结了一个普遍适用的大数据处理流程，并且这个流程应该能够对大家理顺大数据的处理有所帮助。大数据来源广泛，应用需求和数据类型都不尽相同，不过最基本的处理流程是一样的。

 

　　大数据处理的基本流程

 

　　一般来说，大数据处理的基本流程可以分为数据抽取与集成、数据分析和数据解释这三个步骤。

 

　　一、数据抽取与集成

 

　　大数据来源广泛、种类多样、数据类型极其复杂，就像是想要从海水当中萃取盐分一样，想要从这样庞大杂乱的数据中提取价值，那首先就要对数据进行抽取和集成，从中提取出数据的实体和关系，经过关联和聚合后再采用统一定义的结构来存储这些数据。

 

　　在数据抽取和集成时，需要对数据进行清洗，保证数据的质量和可信。数据抽取和集成并不是大数据时代特有的技术，而是在传统的数据库领域就存在了，一直到大数据时代渐渐发展成熟，直到现在，现有的抽取与集成方法大概可以分为四种：

 

　　基于物化或ETL方法的引擎、基于联邦数据库或中间件方法的引擎、基于数据流方法的引擎，以及基于搜索引擎的方法。

 

　　二、数据分析

 

　　抽取、集成之后是数据分析，2.1中说抽取集成是海水中萃取出盐分，那数据分析就是二次加工，将粗盐精制为能够食用的食用盐……

 

　　和抽取与集成一样，数据分析同样不是大数据时代特有的技术，在以前同样也有统计分析、数据挖掘和机器学习等，不过这些技术不能适应大数据时代数据分析的要求，必须有所调整，而这个调整又面临着几个问题：