为什么大数据技术那么火？

大数据技术的概念早在2008年被Google提出。在我国2012年提出《大数据研究和发展计划》，从此我国的开放、共享和只能的大数据时代正式开启。随着一线互联网企业在大数据领域的成熟应用，以及国内政策的支持。2016年，云计算大数据技术再次成为人们所追捧的热门技术，与此同时国内大数据人才培养体系逐渐完善，为大数据的普及应用提供源源不断的人才支撑。

为什么要提出大数据的概念呢？

首先我们看一组数字：百度目前的总数据量已超过1000PB，每天需要处理的网页数据达到10PB～100PB;淘宝累计的交易数据量高达 100PB;Twitter每天发布超过2亿条消息，新浪微博每天发帖量达到8000万条;中国移动一个省的电话通联记录数据每月可达 0.5PB～1PB;一个省会城市公安局道路车辆监控数据三年可达200亿条、总量120TB。据世界权威IT信息咨询分析公司IDC研究报告预测：全世界数据量未来10年将从2009年的0.8ZB增长到2020年的35ZB(1ZB=1000EB=1000000PB)，10年将增长44倍，年均增长 40%。（该数据来源于网络）
　　
　　我们平时购买的移动硬盘最高可以达到12TB，而1PB=1024TB，则百度一天内需要梳理的网页数据至少能够装满8533个最大储存空间的移动硬盘。面对这样庞大的数据量，已经无法使用人工，甚至普通的数据处理程序完成相应的程序运算了。因此大数据技术势在必行。
　　
　　为什么大数据技术那么火？

一方面是因为面对海量的数据，企业不得不加入到大数据技术应用的行列，另外一个更重要的因素就是，企业需要获取到更多的数据，从而通过对所获得数据的分析结论，得到企业发展方向、成本计算、优化产业结构等方面的总结优化方法。因此企业的大数据人才缺口逐渐扩大，而目前真正具备大数据开发能力的优秀人才相对比较少，形成了人才市场供不应求的状态。
　　网络数据显示截至到2018年全国大数据核心人才缺口达到60万，预测到2025年全国大数据核心人才缺口将达到230万。
　　此外我们通过各种招聘网站可以看到目前初级大数据开发岗位薪资基本稳定在8K_{15K之间。而中级大数据开发工程师平均薪资稳定在15K}30K之间，高级大数据开发工程师甚至大数据开发架构师的薪资30K+。
　　在岗位缺口巨大以及高薪的双重诱惑下，学习大数据技术成为目前待就业人员首选的目标。因此大数据技术在企业需求量上升以及求职者不断涌入两方面的刺激下，成为目前备受追捧的热门技术。
　　
　　大数据技术人才市场会饱和吗？

在互联网技术领域，每当一门技术持续火爆一段时间后，都会有人提出这样的疑问。2010年左右移动互联网开发技术4/5年之间都是备受追捧的热门技术，然而2016年之后逐渐失去市场。大数据技术会不会向移动互联网开发一样在一定阶段下进入瓶颈期呢？
　　其实这个问题大家大可不必担心，了解互联网技术的同学肯定知道，无论技术领域热点如何变化，Java编程开发始终是需求量持续稳定的。而大数据技术主要是依托Java编程语言实现的，可以说只要用到Java编程语言开发应用程序的企业，都会对大数据技术人才有一定的需求。甚至在目前来看，供不应求依旧是大数据人才市场的现状，至少5-10年大数据技术人才市场不会出现过大的波动。
　　另外我过《新一代人工智能发展规划》提出了面向2030年的人工智能发展规划，而人工智能技术的实现是建立在大数据充分成熟发展的前提之下的。因此从未来趋势而言，大数据技术必然是一个稳健持续发展的职业方向。而大数据与人工智能技术的融合发展，将会为不断涌入到大数据开发领域的人才提供更多的机会。
　　
　　现在学大数据技术晚了吗？

学习任何技术都不会晚，虽然市场对于技术人才有一定的影响，但是大浪淘沙过后被淘汰的永远是那些滥竽充数的人。真正掌握开发技术的人不仅不会被市场所淘汰，甚至会在百舸争流的时代成为新的弄潮儿。

而且在大数据技术人才市场会饱和吗这个问题中，我们也探讨过，从技术人才缺口、技术市场份额以及未来大数据人工智能技术的发展前景来看，大数据技术会持续的稳健发展，而现在开始入场，进入大数据领域只会为自己赢得更多的机会以及经验的积累。从而在未来的人工智能时代绽放光彩。

第一阶段：大数据开发入门

1、MySQL数据库及SQL语法

MySQL可以处理拥有上千万条记录的大型数据库，使用标准的SQL数据语言形式，MySQL可以安装在不同的操作系统，并且提供多种编程语言的操作接口，这些编程语言包括C、C++、Python、Java、Ruby等等。支持多种存储引擎。
SQL就是客户端和MySQL服务器端进行通信和沟通的语言。

2、Kettle与BI工具

Kettle作为一个端对端的数据集成平台，其部分特色功能包括：无代码拖拽式构建数据管道、多数据源对接、数据管道可视化、模板化开发数据管道、可视化计划任务、深度Hadoop支持、数据任务下压Spark集群、数据挖掘与机器学习支持。

3、Python与数据库交互

实际的生产任务中，数据几乎全部存在与数据库中，因此，与数据库的交互成为一件难以避免的事情。想要在Python代码中和mysql数据库进行交互，需要借助一个第三方的模块“pymysql”

第二阶段：大数据核心基础

1、Linux

Linux 作为操作系统，本身是为了管理内存，调度进程，处理网络协议栈等等。而大数据的发展是基于开源软件的平台，大数据的分布式集群( Hadoop，Spark )都是搭建在多台 Linux 系统上，对集群的执行命令都是在 Linux 终端窗口输入的。据Linux基金会的研究，86%的企业已经使用Linux操作系统进行大数据平台的构建。Linux占据优势。

2、Hadoop基础

2022最新大数据Hadoop入门教程，最适合零基础自学的大数据

Hadoop是一个能够对大量数据进行分布式处理的软件框架。 Hadoop 以一种可靠、高效、可伸缩的方式进行数据处理。它很擅长存储大量的半结构化的数据集。也非常擅长分布式计算——快速地跨多台机器处理大型数据集合。Hadoop的框架最核心的设计就是：HDFS和MapReduce.HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。

MapReduce和Hadoop是相互独立的，实际上又能相互配合工作得很好。MapReduce是处理大量半结构化数据集合的编程模型。

3、大数据开发Hive基础

hive是基于Hadoop的一个数据仓库工具，用来进行数据提取、转化、加载，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。

hive数据仓库工具能将结构化的数据文件映射为一张数据库表，并提供SQL查询功能，能将SQL语句转变成MapReduce任务来执行。Hive的优点是学习成本低，可以通过类似SQL语句实现快速MapReduce统计，使MapReduce变得更加简单，而不必开发专门的MapReduce应用程序。Hive十分适合对数据仓库进行统计分析。

第三阶段：千亿级数仓技术

企业级在线教育项目实战（Hive数仓项目完整流程）

大数据项目实战教程_大数据企业级离线数据仓库，在线教育项目实战（Hive数仓项目完整流程）

以真实项目为驱动，学习离线数仓技术。建立集团数据仓库，统一集团数据中心，把分散的业务数据集中存储和处理 ；从需求调研、设计、版本控制、研发、测试到落地上线，涵盖了项目的完整工序 ；挖掘分析海量用户行为数据，定制多维数据集合，形成数据集市，供各个场景主题使用。

第四阶段：PB内存计算

1、Python编程基础+进阶

全套Python教程_Python基础入门视频教程，零基础小白自学Python必备教程

Python高级语法进阶教程_python多任务及网络编程，从零搭建网站全套教程

Python是基于ABC语言的发展来的，Python语法和动态类型，以及解释型语言的本质，使它成为多数平台上写脚本和快速开发应用的编程语言， 随着版本的不断更新和语言新功能的添加，逐渐被用于独立的、大型项目的开发。

Python 语言的语法非常简洁明了，即便是非软件专业的初学者，也很容易上手，和其它编程语言相比，实现同一个功能，Python 语言的实现代码往往是最短的。

2、Spark技术栈

Spark全套视频教程，大数据spark3.2从基础到精通，全网首套基于Python语言的spark教程

Spark是大数据体系的明星产品，是一款高性能的分布式内存迭代计算框架，可以处理海量规模的数据。本课程基于Python语言学习Spark3.2开发，课程的讲解注重理论联系实际，高效快捷，深入浅出，让初学者也能快速掌握。让有经验的工程师也能有所收获。

3、大数据Flink技术栈

Flink核心是一个流式的数据流执行引擎，其针对数据流的分布式计算提供了数据分布、数据通信以及容错机制等功能。基于流执行引擎，Flink提供了诸多更高抽象层的API以便用户编写分布式任务。Flink也可以方便地和Hadoop生态圈中其他项目集成，例如Flink可以读取存储在HDFS或HBase中的静态数据，以Kafka作为流式的数据源，直接重用MapReduce或Storm代码，或是通过YARN申请集群资源等。

4.Spark离线数仓工业项目实战

全网首次披露大数据Spark离线数仓工业项目实战，Hive+Spark构建企业级大数据平台

通过大数据技术架构，解决工业物联网制造行业的数据存储和分析、可视化、个性化推荐问题。一站制造项目主要基于Hive数仓分层来存储各个业务指标数据，基于sparkSQL做数据分析。核心业务涉及运营商、呼叫中心、工单、油站、仓储物料。