CDH
文章平均质量分 85
奔跑-起点
这个作者很懒,什么都没留下…
展开
-
hadoop2.xHA机制的实现原理
在Hadoop2.0.0之前,NameNode(NN)在HDFS集群中存在单点故障(single point of failure),每一个集群中存在一个NameNode,如果NN所在的机器出现了故障,那么将导致整个集群无法利用,直到NN重启或者在另一台主机上启动NN守护线程。 主要在两方面影响了HDFS的可用性: (1)、在不可预测的情况下,如果NN所在的机器崩溃了,整个集群将无原创 2016-03-01 17:34:18 · 791 阅读 · 0 评论 -
hadoop1.0集群搭建
1.启动Linux,选择I copy it(选择move是mac地址不变,选择copy,会新产生一mac地址)2.配置Linux环境 2.1执行ifconfig命令发现,可用的网卡是eth1 HWaddr 2.2将eth1的新的mac地址复制下来,替换原来eth0里旧的的mac地址 vim /etc/sysconfig/network-scrip原创 2016-03-01 17:39:53 · 440 阅读 · 0 评论 -
hadoop1.2.1伪分布式搭建
0.使用host-only方式 将Windows上的虚拟网卡改成跟Linux上的网卡在同一网段 注意:一定要将widonws上的WMnet1的IP设置和你的虚拟机在同一网段,但是IP不能相同1.Linux环境配置(windows下面的防火墙也要关闭) 1.1修改主机名 vim /etc/sysconfig/network 1原创 2016-03-01 17:41:22 · 423 阅读 · 0 评论 -
HDFS如何检测并删除多余副本块
前言在HDFS中,每时每刻都在进行着大量block块的创建和删除操作,这些庞大的block块构建起了这套复杂的分布式系统.普通block的读写删除操作一般人都或多或少了解过一些,但是过量的副本清理机制是否有人知道呢,就是overReplicatedBlock的处理,针对过量的副本块,HDFS怎么处理,何时处理,处理的策略机制如何,本文就给大家分享HDFS在这方面的知识.过量副本转载 2016-03-01 17:45:46 · 3803 阅读 · 0 评论 -
NTP服务及时间同步(CentOS6.x)
今有一小型项目,完全自主弄,原来以为很简单的NTP服务,我给折腾了2个多小时才整撑头(以前都是运维搞,没太注意,所以这技术的东西,在简单都需要亲尝啊),这里记录为以后别再浪费时间。 目标环境,5台linux centos 6.3, 一台作为NTPD服务与外部公共NTP服务同步时间,同时作为内网的NTPD服务器,其他机器与这台服务做时间同步。 服务器I原创 2017-05-15 16:46:31 · 880 阅读 · 0 评论 -
Cloudera Manager 5.9 和 CDH 5.9 离线安装指南及个人采坑填坑记
公司的CDH早就装好了,一直想自己装一个玩玩,最近组了台电脑,笔记本就淘汰下来了,加上之前的,一共3台,就在X宝上买了CPU和内存升级了下笔记本,就自己组了个集群。话说,好想去捡垃圾,捡台8核16线程64G内存的回来,手动滑稽。3台笔记本的配置和角色分配:宿主CPU 宿主内存 虚拟机 虚拟机CPU/台 角色及内存双核双线程 4G 1台原创 2017-05-19 11:58:23 · 1485 阅读 · 0 评论