2020-11-23

一、NFS总结

1.NFS优点
1.NFS文件系统简单易用、方便部署、数据可靠、服务稳定、满足中小企业需求。
2.NFS文件系统内存放的数据都在文件系统之上，所有数据都是能看得见。

2.NFS缺点
1.存在单点故障, 如果构建高可用维护麻烦web->nfs()->backup
2.NFS数据明文, 并不对数据做任何校验。
3.客户端挂载NFS服务没有密码验证, 安全性一般(内网使用)

3.NFS应用建议
1.生产场景应将静态数据尽可能往前端推, 减少后端存储压力
2.必须将存储里的静态资源通过CDN缓存jpg\png\mp4\avi\css\js
3.如果没有缓存或架构本身历史遗留问题太大, 在多存储也无用

二、Rsync+NFS 解决单点故障

1.准备环境

2.web01搭建上传作业代码
1）关闭防火墙和selinux

2）安装httpd和php
yum install -y httpd php

3）配置httpd
搜索apache（/apache），更改配置
vim /etc/httpd/conf/httpd.conf
User www
Group www

4）创建用户
groupadd www -g 666
useradd www -u 666 -g 666

5）启动服务
systemctl start httpd
#验证服务启动
ps -ef | grep httpd

6）配置网站代码
将网站压缩包解压至 /var/www/html/
解压unzip kaoshi.zip

7）修改站点目录权限
chown -R www.www /var/www/html/

3.NFS服务器搭建NFS服务端
1）关闭防火墙和selinux

2）安装NFS和rpcbind
yum install -y nfs-utils

3）配置NFS
vim /etc/exports
添加：/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)

4）创建用户
groupadd www -g 666
useradd www -u 666 -g 666

5）创建目录并授权
mkdir /data
chown -R www.www /data/

6）启动服务
systemctl start nfs

7）验证配置
cat /var/lib/nfs/etab（若cat显示以下信息则配置没有问题）
/data
172.16.1.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,all_squash,no_su
btree_check,secure_locks,acl,no_pnfs,anonuid=666,anongid=666,sec=sys,rw,secure,r
oot_squash,all_squash)

4.web端挂载NFS服务器
1）创建挂载目录并授权
mkdir /var/www/html/upload
chown -R www.www /var/www/html/upload

2）安装rpcbind和nfs
yum install -y nfs-utils rpcbind

3）查看挂载点
showmount -e 172.16.1.31（显示信息为可挂载主机）
Export list for 172.16.1.31:
/data 172.16.1.0/24

4）挂载
mount -t nfs 172.16.1.31:/data /var/www/html/upload
df -h 查看是否挂载

5.backup服务器搭建rsync服务端
1）安装
yum install -y rsync

2）配置rsync
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[web_data]
comment = “该备份文件是web端挂载到nfs服务器的文件”
path = /data

3）创建用户
groupadd www -g 666
useradd www -u 666 -g 666

4）创建密码文件并授权
echo “rsync_backup:123456” > /etc/rsync.passwd
#授权
chmod 600 /etc/rsync.passwd

5）创建真实目录并授权
mkdir /data
chown -R www.www /data/

6）启动服务
systemctl start rsyncd
验证启动
ps -ef | grep rsync

6.NFS服务器实时备份data目录到rsync
1）安装inotify-tools
yum install -y inotify-tools

2）编写脚本
vim rsyn-inotify.sh
#!/bin/bash
export RSYNC_PASSWORD=123456
dir=/data
/usr/bin/inotifywait -mrq --format ‘%w %f’ -e create,delete,attrib,close_write
$dir | while read line;do
cd $dir && rsync -az -R --delete . rsync_backup@172.16.1.41::web_data

/dev/null 2>&1
done &
3）启动脚本
bash rsyn-inotify.sh
验证启动
ps -ef | grep rsyn

7.提交作业，查看web01，NFS，backup上是否有文件

8.backup服务器安装NFS服务端
1.安装NFS：yum install -y nfs-utils
2.配置NFS：/data 172.16.1.0/24（rw，sync_squash，anonuid=666，anongid=666）
3.启动服务：systemctl start nfs

三、sersync实时同步

1.什么是实时同步
实时同步是一种只要当前目录发生变化则会触发一个事件，事件触发后会将变化的目录同步至远程服务器。

2.为什么使用
保证数据的连续性, 减少人力维护成本,解决nfs单点故障

3.实时同步工具选择
sersync + RSYNC(√)、inotify + rsync
Inotify是一个通知接口，用来监控文件系统的各种变化，如果文件存取，删除，移动。可以非常方便地实现文件异动告警，增量备份，并针对目录或文件的变化及时作出响应。rsync + inotify 可以做到实时同步sersync是国人基于rsync+inotify-tools开发的工具，不仅保留了优点同时还强化了实时监控，文件过滤，简化配置等功能，帮助用户提高运行效率，节省时间和网络资源。
sersync项目地址：https://github.com/wsgzao/sersync

4.安装sersync
1）安装rsync和inotify
yum install -y inotify-tools rsync

2）上传或下载sersync包
rz sersync2.5.4_64bit_binary_stable_final.tar.gz
wget

3）解压安装
tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz

4）移动目录并改名
mv GNU-Linux-x86 /usr/local/sersync

5）配置sersync

vim /usr/local/sersync/confxml.xml
… …

#inotify 监控的动作

#监控的目录

#远端rsync服务器的地址和模块

#rsync的参数

#开启认证 #虚拟用户 #指定虚拟用户的密码文件

#如果远端rsync服务不是873端口，则开启并修改

#超时时间

#错误日志存储路径

#定时任务，开启后，600分钟默认全备一次








… …

6）创建虚拟用户密码文件
echo ‘123456’ > /etc/rsync.passwd
chmod 600 /etc/rsync.passwd

7）启动服务
查看帮助信息：/usr/local/sersync/sersync2 -h

set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param

---

参数-d:启用守护进程模式四、扩展分享
1.rsync配置多个模块及目录
1）rsync服务端
2）rsync客户端
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
启动服务：
/usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml

四、扩展分享

1.rsync配置多个模块及目录
1）rsync服务端
[root@backup ~]# vim /etc/rsyncd.conf
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[web_data]
comment = “该备份文件是web端挂载到nfs服务器的文件”
path = /data
[backup]
comment = “该目录备份服务器日常备份文件”
path = /backup
auth users = rsync_user
secrets file = /etc/rsync.password
2）rsync客户端
rsync -avz . rsync_backup@172.16.1.41::web_data
Password: 123456

#使用两个模块推送
rsync -avz . rsync_user@172.16.1.41::backup
Password: 678910

#使用密码文件推送
[root@nfs ~]# echo ‘123456’ > /etc/rsync.passwd
[root@nfs ~]# echo ‘678910’ > /etc/rsync.password
[root@nfs ~]# chmod 600 /etc/rsync.passwd
[root@nfs ~]# chmod 600 /etc/rsync.password
[root@nfs ~]# rsync -avz . rsync_backup@172.16.1.41::web_data --password-
file=/etc/rsync.passwd
[root@nfs ~]# rsync -avz . rsync_user@172.16.1.41::backup --password-
file=/etc/rsync.password

2.NFS配置多个挂载目录
1）NFS配置多个可挂载目录
vim /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
/pic 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)

2）NFS客户端查看
showmount -e 172.16.1.31
Export list for 172.16.1.31:
/pic 172.16.1.0/24
/data 172.16.1.0/24

3.sersync配置启动多个实时备份
1）第一个配置文件
cat /usr/local/sersync/confxml.xml
… …



… …



… …
2）第二个配置文件
cat /usr/local/sersync/backup.xml
… …



… …



… …
… …

3）启动多个sersync
/usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml
/usr/local/sersync/sersync2 -dro /usr/local/sersync/backup.xml

#查看进程： !ps