HDFS(Hadoop Distributed File System)是GFS的开源实现。
客户端会先通知名称节点,名称节点会创建一个新的文件记录(确认没有相同文件和客户权限)。然后会将文件分成一块一块数据块默认大小会是128MB(当然你可以去改,不顾不推荐。因为块太小:寻址时间占比过高。块太大:Map任务数太少,作业执行速度变慢。它是最大的一个单位。)如今一般都是64MB,写数据时注意是会写冗余数据,冗余数据的个数默认是三个。冗余数据全部写完,数据节点向客户端发出确认,客户端再向名称节点结束消息,将文件信息存储在名称节点中。
HDFS读数据流图
最新推荐文章于 2024-07-13 16:15:27 发布