![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
大数据
s_e_e_you_later
这个作者很懒,什么都没留下…
展开
-
hdfs的安全模式详解 及 查看#关闭#开启
hdfs的安全模式安全模式是HDFS所处的一种特殊状态,在这种状态下,文件系统只接受读数据请求,而不接受删除、修改等变更请求。在NameNode主节点启动时,HDFS首先进入安全模式,DataNode在启动的时候会向namenode汇报可用的block等状态,当整个系统达到安全标准时,HDFS自动离开安全模式。如果HDFS处于安全模式下,则文件block不能进行任何的副本复制操作,因此达到最小的副本数量要求是基于datanode启动时的状态来判定的,启动时不会再做任何复制(从而达到最小副本数量要求),h原创 2020-10-12 17:19:28 · 7468 阅读 · 0 评论 -
HDFS的优缺点
HDFS的优点1、海量数据存储: HDFS可横向扩展,其存储的文件可以支持PB级别或更高级别的数据存储。2、高容错性:数据保存多个副本,副本丢失后自动恢复。可构建在廉价的机器上,实现线性扩展。当集群增加新节点之后,namenode也可以感知,进行负载均衡,将数据分发和备份数据均衡到新的节点上。3、商用硬件:Hadoop并不需要运行在昂贵且高可靠的硬件上。它是设计运行在商用硬件(廉价商业硬件)的集群上的。4、大文件存储:HDFS采用数据块的方式存储数据,将数据物理切分成多个小的数据块。所以再大的数据,原创 2020-10-12 14:46:04 · 10608 阅读 · 0 评论 -
DataNode的作用
1、 负责管理它所在结点上存储的数据的读写,及存储数据。2、 向Namenode结点报告DataNode节点的状态。3、 通过流水线复制实现三份数据副本,原创 2020-10-12 14:42:00 · 6877 阅读 · 0 评论 -
NameNode的作用
1、维护目录树,维护命名空间。2、负责确定指定的文件块到具体的Datanode结点的映射关系。(在客户端与Datanode之间共享数据)3、管理Datanode结点的状态报告原创 2020-10-12 14:41:29 · 6649 阅读 · 0 评论 -
HDFS常用命令
常用命令实操(1)-help:输出这个命令参数例 : bin/hdfs dfs -help rm(2)-ls: 显示目录信息例 : hdfs dfs -ls /(3)-mkdir:在hdfs上创建目录例 : hdfs dfs -mkdir -p /aaa/bbb/cc/dd(4)-moveFromLocal从本地剪切粘贴到hdfs例 : hdfs dfs -moveFromLocal /home/Hadoop/a.txt /aaa/bbb/cc/dd(5)-moveToLoc原创 2020-10-12 14:35:37 · 6899 阅读 · 0 评论 -
什么是大数据
大数据 : 指数据集的大小超过来了现有典型的数据库软件和工具的处理能力的数据原创 2020-10-12 11:25:44 · 6742 阅读 · 0 评论 -
大数据技术快的原因
1、分布式存储2、分布式并行计算3、移动程序到数据端4、更前卫、更先进的实现思路5、更细分的业务场景6、更先进的硬件技术+更先进的软件技术原创 2020-10-12 11:23:04 · 6536 阅读 · 0 评论