大数据工程师的学习路线图

大数据是什么？

每个企业每天都会生成数据，数据量根据企业业务的复杂度而变化。如果业务量大，我们可以很容易地使用常用的软件工具来管理，但是如果业务体系庞大，那么就将这些数据合理归档整合。这就是我们称之为“大数据”的原因。大数据能让用户处理大量的原始数据，并根据业务需要进行合理分析报表，以备将来参考和预测。大数据有助于管理数据，并为将来的有用目的存储全部数据。数据首先在不同类型中生成，包括非结构化数据、半结构化数据和结构化数据。大数据获取任何原始数据并将其处理成结构化数据。公司利用他们的过去和现在的数据来预测未来。大数据帮助企业获得利润，并在全球范围内扩大业务活动，并提供大数据。它不仅预测了未来的收益，还有助于预测未来的问题和趋势。它有助于企业做出重大决定。

第一步：分布式计算框架

掌握hadoop和spark分布式计算框架，了解文件系统、消息队列和Nosql数据库，学习相关组件如hadoop、MR、spark、hive、hbase、redies、kafka等;

第二步：算法和工具

学习了解各种数据挖掘算法，如分类、聚类、关联规则、回归、决策树、神经网络等，熟练掌握一门数据挖掘编程工具：Python或者Scala。目前主流平台和框架已经提供了算法库，如hadoop上的Mahout和spark上的Mllib，你也可以从学习这些接口和脚本语言开始学习这些算法。

第三步：数学

补充数学知识：高数、概率论和线代

第四步：项目实践

• 1)开源项目：tensorflow：Google的开源库，已经有40000多个star，非常惊人，支持移动设备;
• 2)参加数据竞赛
• 3)通过企业实习获取项目经验

一、前言

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法（抽样调查）这样捷径，而采用所有数据进行分析处理。大数据的 5V 特点（IBM 提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。

那么，大数据处理技术怎么学习呢?