今天分享给大家的是一个可容错、高可用性、高性能、高扩展性的一个网络分布式文件系统MooseFS
MooseFS文件系统结构包括以下四个角色
- 1 管理服务器:负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝
- 2 元数据日志服务器: 负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作
- 3 数据存储服务器:负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输.
- 4 客户端: 通过fuse内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix文件系统使用一样的效果.
应用场景
- 大规模高并发的线上数据存储及访问(小文件、大文件)
- 大规模的数据处理,例如日志分析。小文件强调性能没HDFS强大
缺点
- 目前是单点,可通过DRBD+Heartbeat方案或者使用DRBD+Inotify方案解决,master与backup之间同步(类似MySQL主从同步)
- master服务器对内存要求高
- metalogger复制元数据间隔时间较长(默认是y可使用定时脚本触发)
环境申明
本次实验使用网段为192.168.122.0/24,上层局域网网段为10.0.10.0/24
下面测试会使用一台服务器做转发,会在步骤中声明出。
实验所使用的服务器均为1核+1M+60G的虚拟机,系统使用的是CentOS7.5.1804
实验服务器划分
Server-21---对应IP--->192.168.122.21---对应服务--->Master Servers
Server-22---对应IP--->192.168.122.22---对应服务--->Metaloggers
Server-24---对应IP--->192.168.122.23---对应服务--->Chunk Servers
Server-24---对应IP--->192.168.122.24---对应服务--->Chunk Servers
Server-25---对应IP--->192.168.122.25---对应服务---<