- 博客(3)
- 资源 (2)
- 收藏
- 关注
原创 Storm基础
Storm基础 1. 离线计算与流式计算的概述 离线计算:批量获取数据、批量传输数据、周期性批量计算数据、数据展示,flum获取数据,Sqoop批量导入数据、HDFS批量存储数据、MapReduce批量计算数据、Hive批量计算数据 流式计算:数据实时产生、数据实时传输、数据实时计算、实时展示,Flume实时获取数据、Kafka/metaq实时数据存储、Storm/JStorm实时数据计...
2018-03-20 20:01:06 253
原创 Hbase安装与概述
HBase 1. hbase的概述 HBASE是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBASE技术可在廉价PC Server上搭建起大规模结构化存储集群,HBASE利用Hadoop HDFS作为其文件存储系统,HBASE利用Hadoop MapReduce来处理HBASE中的海量数据,HBASEHBASE利用通过zookeeper协调查找数据,访问速度快。 2....
2018-03-20 14:16:16 217
原创 MapReduce原理
MapReduce原理 1. Map概念与 为什么要mapreduce Mapreduce是一个分布式运算程序的编程框架,是用户开发“基于hadoop的数据分析应用”的核心框架;Mapreduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个hadoop集群上. (1)海量数据在单机上处理因为硬件资源限制,无法胜任 (2)而一旦将单机版程序...
2018-03-01 17:57:24 772
spark-streaming-flume-sink_2.11_2.1.1.jar
2018-12-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人