2019年05月_m_target

09月 07月 05月

原创 hdfs读写文件的流程

1. hdfs写文件的流程上传数据时datanode的选择策略第一个副本考虑与client最近的（同机架）第二个副本考虑跨机架的datanode，增加副本可靠性第三个副本在第一个副本机架上选择一台datanode存放上传流程客户端上传文件大小为300m，这个文件将被分成三个block上传客户端请求namenode上传文件，namanode在元数据检验后，满足上传上传条件向客户端...

2019-05-09 21:07:27 201

原创 HA高可用集群搭建

普通的hadoop集群namenode(nn)secondarynamenode(2nn)datanode(dn)普通的hadoop集群存在的问题datanode存在单点故障问题吗?不存在,因为datanode有多个机器,而且有副本机制作为保障namenode存在单点故障问题吗?存在,因为2nn不能代替nn,2nn的作用只是融合fsimage和edits文件,所以nn...

2019-05-09 21:05:57 258

原创 ZooKeeper

1. ZooKeeper开源的分布式的协调服务,是Google的Chubby一个开源的实现,它是一个为分布式应用提供一致性服务的软件2. ZooKeeper提供的功能配置维护域名服务分布式锁组服务3. ZooKeeper的特点简单ZooKeeper的核心是一个精简的文件系统 ,它支持一些简单的操作和一些抽象操作丰富ZooKeeper的操作是很丰富的，可实现一...

2019-05-09 21:04:31 4353 6

原创 hdfs基本操作

1. hdfs的操作(图形界面)1.1 hdfs的启动流程进入安全模式加载fsimage加载edits保存检查点(融合fsimage和edits文件,生成新的fsimage)退出安全模式1.2 通过浏览器访问http://namenode:500702. hdfs的操作(shell操作)hdfs dfshadoop fshdfs dfs -put text01.tx...

2019-05-09 20:59:54 577