Hadoop
如果一切再重来
两耳不闻窗外事
展开
-
详解HBase架构原理
原文:http://blog.csdn.net/u010330043/article/details/51291934一、什么是HBase HBase 是一个高可靠、高性能、面向列、可伸缩的分布式存储系统,利用Hbase技术可在廉价PC Server上搭建 大规模结构化存储集群。 HBase 是Google Bigtable 的开源实现,与Google Bigta转载 2016-10-18 10:53:30 · 4350 阅读 · 0 评论 -
ubuntu下安装、启动和卸载SSH
ubuntu默认并没有安装ssh服务,如果通过ssh链接ubuntu,需要自己手动安装ssh-server。判断是否安装ssh服务,可以通过如下命令进行:$ ssh localhostssh: connect to host localhost port 22: Connection refused如上所示,表示没有还没有安装,可以通过apt安装,命令如下: sudo a转载 2016-09-26 18:41:48 · 3507 阅读 · 0 评论 -
Hadoop单机、伪分布式集群搭建(十分详细)
下面我就一边搭建一边写怎么搭建Hadoop伪分布模式。1.下载jdk并安装去官网下就可以了,下完之后把文件移到/opt/Java下[plain] view plain copy guo@guo:~/下载$ mv ./hadoop-2.7.2-src.tar.gz /opt/Hadoop/ mv: 无法创建普通文件转载 2016-09-25 16:08:11 · 6739 阅读 · 1 评论 -
Hadoop伪分布式运行wordcount小例子
先说点小知识hadoop fs 使用面最广,可以操作任何文件系统hadoop dfs和hdfs dfs只能操作HDFS相关的在上一篇博客中,我们已经成功启动了HDFS和YARN,接下来先建数据存放目录和结果输出目录[plain] view plain copy guo@guo:/opt/Hadoop/had转载 2016-09-25 17:02:48 · 1254 阅读 · 0 评论 -
Apache Pig的一些基础概念及用法总结
出处:http://www.codelast.com/ Apache Pig是用来处理大规模数据的高级查询语言,配合Hadoop使用,可以在处理海量数据时达到事半功倍的效果,比使用Java,C++等语言编写大规模数据处理程序的难度要小N倍,实现同样的效果的代码量也小N倍。大神的文章收藏一下:Apache Pig的一些基础概念及用法总结(转载 2016-10-11 16:15:41 · 547 阅读 · 0 评论 -
浅谈yarn的调度模式
原文:http://dongxicheng.org/mapreduce-nextgen/hadoop-yarn-memory-cpu-scheduling/Hadoop YARN同时支持内存和CPU两种资源的调度(默认只支持内存,如果想进一步调度CPU,需要自己进行一些配置),本文将介绍YARN是如何对这些资源进行调度和隔离的。yarn对于自己运行时作业的资源分配模式有Capacity Sc转载 2016-10-13 16:37:10 · 3490 阅读 · 0 评论 -
深入理解Yarn的架构及作业调度机制
原文 :http://blog.csdn.net/u010330043/article/details/51223108一、YARN 架构由什么组成?首先我们来看看 YARN 的架构图,如下图所示。 从 YARN 的架构图来看,它主要由ResourceManager、NodeManager、ApplicationMaster和Container等以下几个组件构成。转载 2016-10-13 16:34:33 · 3172 阅读 · 0 评论 -
最新版hadoop2.7.1单机版与伪分布式安装配置
原文:http://blog.csdn.net/qq_21144531/article/details/50570355前提:熟悉Linux系统操作,掌握基本的Linux命令注意:安装路径中不能有任何中文字符和空格!我安装的是ubuntu14,用户名是ubuntu,机器名是ubuntu,hadoop的版本是hadoop-2.7.1.tar.gz一、在Ubuntu转载 2016-09-27 11:55:43 · 1006 阅读 · 0 评论 -
Hadoop2.7.3完全分布式集群搭建和测试
这几天在学习Hadoop相关的东西,前些时候,搭建了单机和伪分布式的集群。但是在搭建完全分布式集群的时候遇到很多问题,网上找到很多文章,感觉都有些差别,因此,再次汇总一下,把我的详细的搭建过程记录下来。参考了很多篇文章:http://www.w2bc.com/Article/19645 http://blog.csdn.net/原创 2016-10-08 15:38:06 · 54192 阅读 · 9 评论