Java程序员转大数据的学习路线（完整版）

最新推荐文章于 2024-09-06 22:29:53 发布

bengya9788

最新推荐文章于 2024-09-06 22:29:53 发布

阅读量964

点赞数 1

文章标签： java python scala

原文链接：http://blog.51cto.com/14484576/2428957

版权

Java程序员转大数据的学习路线（完整版）

如今随着计算机技术的全面普及，数字化的数据已经对人们的生活起到了息息相关的作用，大家也经常关注技术圈的发展，很多java工程师都在担心自己适合的技术发展道路该怎么走，现在也算有个方向了。

大数据的介绍

大数据（BIG DATA），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产；

大数据本质也是数据，也有了以下新的特征：

· 包容量（Volume）：数据的大小决定所考虑的数据的价值和潜在的信息；
· 种类（Variety）：数据类型的多样性；
· 速度（Velocity）：指获得数据的速度；
· 可变性（Variability）：妨碍了处理和有效地管理数据的过程。
· 真实性（Veracity）：数据的质量；
· 复杂性（Complexity）：数据量巨大，来源多渠道；
· 价值（value）：合理运用大数据，以低成本创造高价值等。

大数据是未来的发展方向，正在挑战我们的分析能力及对世界的认知方式，因此，我们与时俱进，迎接变化，并不断的成长!大数据学习群：868847735 一起讨论进步学习

以及出现了对应的工具：

Hadoop生态圈

· HDFS =====> 解决存储问题
· MapReduce =====> 解决计算问题
· Yarn =====> 资源协调者
· Zookeeper =====> 分布式应用程序协调服务
· Flume =====> 日志收集系统
· Hive =====> 基于Hadoop的数仓工具
· HBase =====> 分布式、面向列的开源数据库
· Sqoop =====> 数据传递工具

· Scala =====> 多范式编程语言、面向对象和函数式编程的特性

· Spark =====> 目前企业常用的批处理离线/实时计算引擎

· Flink =====> 目前最火的流处理框架、既支持流处理、也支持批处理

· Elasticsearch =====> 大数据分布式弹性搜索引擎

· Python语言：编写一些脚本时会用到。

· 离线/实时项目

以上就是大数据生态圈普遍用到的工具及解决对应的问题。

大数据的就业岗位

· 大数据开发工程师
· 大数据清洗开发工程师
· 大数据仓库开发工程师
· 大数据运维开发工程师
· 大数据平台开发工程师

大数据是未来趋势

当然做Java开发也是不错的选择，不过就现在的行业发展情况来看大数据是个很大趋势，再加上Hadoop又是用Java开发的，而且Hadoop工程师的薪资普遍比单做Java开发要高3-4K以上，所以有很多做Java开发的都在转行做大数据。而且本来java工程师转大数据就有一个好的基础。

从上面可以了解到，在行业发展，技术的发展趋势是很重要的，通过趋势让自己拿到新的一轮门票，走上更高的发展那么我们才能成长的够好。

大数据的发展空间及大家最关心的收入问题

大多数java的工程师做个3-5年，薪资最多也就是个1--2.5万这个样子了。然后2.5万对于Java技术人员来说已经到了极限，当然Java架构师或者做底层的开发人员工资相对技术人员来说薪资较高一些。但是对于从事Hadoop这行业的技术人员来说2万多只能算一般般。以Hadoop开发工程师为例，Hadoop入门月薪已经达到了8K以上，工作1年月薪可达到1.2W以上，具有2-3年工作经验的hadoop人才年薪可以达到30万—50万。所以大数据是有很大的发展空间。我认为这是一个很聪明的想法，横向发展，拖宽自己的知识广度，未来或许就能把握更多的机遇。

所以做Java开发，除了Java还可以学什么？

大数据开发之路可能就是一个不错的方向。