大数据
人间小鲸鱼
这个作者很懒,什么都没留下…
展开
-
MapReduce入门程序
四、MapReduce4.1 概述MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念"Map(映射)“和"Reduce(归约)”,是它们的主要思想,都是从函数式编程语言里借来的,还有从矢量编程语言里借来的特性。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上。 当前的软件实现是指定一个Map(映射)函数,用来把一组键值对映射成一组新的键值对,指定并发的Reduce(归约)函数,用来保证所有映射的键值对中的每一个共享相同的键组。MapRed原创 2020-05-22 14:13:14 · 137 阅读 · 0 评论 -
scala概述及应用
Scalahttps://www.scala-lang.org/一、概述Scala是一门多范式的编程语言,一种类似java的编程语言 [1] ,设计初衷是实现可伸缩的语言 [2] 、并集成面向对象编程和函数式编程的各种特性。为什么要学习scala编程语言?大数据开发工程师参与大数据领域中的多项开源项目都是scala编写,如:kafka、spark、flink等下一代,可以替换JA...原创 2020-05-08 17:10:26 · 1188 阅读 · 0 评论 -
Hadoop之HDFS
Hadoop之HDFS一、概述Hadoop是一个分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throu...原创 2019-11-12 21:04:07 · 401 阅读 · 0 评论