一、NFS总结
1.NFS优点
1.NFS文件系统简单易用、方便部署、数据可靠、服务稳定、满足中小企业需求。
2.NFS文件系统内存放的数据都在文件系统之上,所有数据都是能看得见。
2.NFS缺点
1.存在单点故障, 如果构建高可用维护麻烦web->nfs()->backup
2.NFS数据明文, 并不对数据做任何校验。
3.客户端挂载NFS服务没有密码验证, 安全性一般(内网使用)
3.NFS应用建议
1.生产场景应将静态数据尽可能往前端推, 减少后端存储压力
2.必须将存储里的静态资源通过CDN缓存jpg\png\mp4\avi\css\js
3.如果没有缓存或架构本身历史遗留问题太大, 在多存储也无用
二、Rsync+NFS 解决单点故障
1.准备环境
2.web01搭建上传作业代码
1)关闭防火墙和selinux
2)安装httpd和php
yum install -y httpd php
3)配置httpd
搜索apache(/apache),更改配置
vim /etc/httpd/conf/httpd.conf
User www
Group www
4)创建用户
groupadd www -g 666
useradd www -u 666 -g 666
5)启动服务
systemctl start httpd
#验证服务启动
ps -ef | grep httpd
6)配置网站代码
将网站压缩包解压至 /var/www/html/
解压unzip kaoshi.zip
7)修改站点目录权限
chown -R www.www /var/www/html/
3.NFS服务器搭建NFS服务端
1)关闭防火墙和selinux
2)安装NFS和rpcbind
yum install -y nfs-utils
3)配置NFS
vim /etc/exports
添加:/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
4)创建用户
groupadd www -g 666
useradd www -u 666 -g 666
5)创建目录并授权
mkdir /data
chown -R www.www /data/
6)启动服务
systemctl start nfs
7)验证配置
cat /var/lib/nfs/etab(若cat显示以下信息则配置没有问题)
/data
172.16.1.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,all_squash,no_su
btree_check,secure_locks,acl,no_pnfs,anonuid=666,anongid=666,sec=sys,rw,secure,r
oot_squash,all_squash)
4.web端挂载NFS服务器
1)创建挂载目录并授权
mkdir /var/www/html/upload
chown -R www.www /var/www/html/upload
2)安装rpcbind和nfs
yum install -y nfs-utils rpcbind
3)查看挂载点
showmount -e 172.16.1.31(显示信息为可挂载主机)
Export list for 172.16.1.31:
/data 172.16.1.0/24
4)挂载
mount -t nfs 172.16.1.31:/data /var/www/html/upload
df -h 查看是否挂载
5.backup服务器搭建rsync服务端
1)安装
yum install -y rsync
2)配置rsync
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[web_data]
comment = “该备份文件是web端挂载到nfs服务器的文件”
path = /data
3)创建用户
groupadd www -g 666
useradd www -u 666 -g 666
4)创建密码文件并授权
echo “rsync_backup:123456” > /etc/rsync.passwd
#授权
chmod 600 /etc/rsync.passwd
5)创建真实目录并授权
mkdir /data
chown -R www.www /data/
6)启动服务
systemctl start rsyncd
验证启动
ps -ef | grep rsync
6.NFS服务器实时备份data目录到rsync
1)安装inotify-tools
yum install -y inotify-tools
2)编写脚本
vim rsyn-inotify.sh
#!/bin/bash
export RSYNC_PASSWORD=123456
dir=/data
/usr/bin/inotifywait -mrq --format ‘%w %f’ -e create,delete,attrib,close_write
$dir | while read line;do
cd $dir && rsync -az -R --delete . rsync_backup@172.16.1.41::web_data
/dev/null 2>&1
done &
3)启动脚本
bash rsyn-inotify.sh
验证启动
ps -ef | grep rsyn
7.提交作业,查看web01,NFS,backup上是否有文件
8.backup服务器安装NFS服务端
1.安装NFS:yum install -y nfs-utils
2.配置NFS:/data 172.16.1.0/24(rw,sync_squash,anonuid=666,anongid=666)
3.启动服务:systemctl start nfs
三、sersync实时同步
1.什么是实时同步
实时同步是一种只要当前目录发生变化则会触发一个事件,事件触发后会将变化的目录同步至远程服务器。
2.为什么使用
保证数据的连续性, 减少人力维护成本,解决nfs单点故障
3.实时同步工具选择
sersync + RSYNC(√)、inotify + rsync
Inotify是一个通知接口,用来监控文件系统的各种变化,如果文件存取,删除,移动。可以非常方便地实现文件异动告警,增量备份,并针对目录或文件的变化及时作出响应。rsync + inotify 可以做到实时同步sersync是国人基于rsync+inotify-tools开发的工具,不仅保留了优点同时还强化了实时监控,文件过滤,简化配置等功能,帮助用户提高运行效率,节省时间和网络资源。
sersync项目地址:https://github.com/wsgzao/sersync
4.安装sersync
1)安装rsync和inotify
yum install -y inotify-tools rsync
2)上传或下载sersync包
rz sersync2.5.4_64bit_binary_stable_final.tar.gz
wget
3)解压安装
tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz
4)移动目录并改名
mv GNU-Linux-x86 /usr/local/sersync
5)配置sersync
vim /usr/local/sersync/confxml.xml
… …
#inotify 监控的动作
#监控的目录
#远端rsync服务器的地址和模块
#rsync的参数
#开启认证 #虚拟用户 #指定虚拟用户的密码文件
#如果远端rsync服务不是873端口,则开启并修改
#超时时间
#错误日志存储路径
#定时任务,开启后,600分钟默认全备一次
… …
6)创建虚拟用户密码文件
echo ‘123456’ > /etc/rsync.passwd
chmod 600 /etc/rsync.passwd
7)启动服务
查看帮助信息:/usr/local/sersync/sersync2 -h
set the system param
execute:echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute:echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
参数-d:启用守护进程模式四、扩展分享
1.rsync配置多个模块及目录
1)rsync服务端
2)rsync客户端
参数-r:在监控前,将监控目录与远程主机用rsync命令推送一遍
参数-n: 指定开启守护线程的数量,默认为10个
参数-o:指定配置文件,默认使用confxml.xml文件
参数-m:单独启用其他模块,使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块,使用 -m socket 开启socket模块
参数-m:单独启用其他模块,使用 -m http 开启http模块
不加-m参数,则默认执行同步程序
启动服务:
/usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml
四、扩展分享
1.rsync配置多个模块及目录
1)rsync服务端
[root@backup ~]# vim /etc/rsyncd.conf
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[web_data]
comment = “该备份文件是web端挂载到nfs服务器的文件”
path = /data
[backup]
comment = “该目录备份服务器日常备份文件”
path = /backup
auth users = rsync_user
secrets file = /etc/rsync.password
2)rsync客户端
rsync -avz . rsync_backup@172.16.1.41::web_data
Password: 123456
#使用两个模块推送
rsync -avz . rsync_user@172.16.1.41::backup
Password: 678910
#使用密码文件推送
[root@nfs ~]# echo ‘123456’ > /etc/rsync.passwd
[root@nfs ~]# echo ‘678910’ > /etc/rsync.password
[root@nfs ~]# chmod 600 /etc/rsync.passwd
[root@nfs ~]# chmod 600 /etc/rsync.password
[root@nfs ~]# rsync -avz . rsync_backup@172.16.1.41::web_data --password-
file=/etc/rsync.passwd
[root@nfs ~]# rsync -avz . rsync_user@172.16.1.41::backup --password-
file=/etc/rsync.password
2.NFS配置多个挂载目录
1)NFS配置多个可挂载目录
vim /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
/pic 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
2)NFS客户端查看
showmount -e 172.16.1.31
Export list for 172.16.1.31:
/pic 172.16.1.0/24
/data 172.16.1.0/24
3.sersync配置启动多个实时备份
1)第一个配置文件
cat /usr/local/sersync/confxml.xml
… …
… …
… …
2)第二个配置文件
cat /usr/local/sersync/backup.xml
… …
… …
… …
… …
3)启动多个sersync
/usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml
/usr/local/sersync/sersync2 -dro /usr/local/sersync/backup.xml
#查看进程: !ps