day39-sersync实时同步

预备知识

实时同步概述

1. 什么是实时同步 ,
   实时同步是一种只要当前目录发生变化则会触发一个事件，事件触发后会将变化的目录同步至
   远程服务器。
2. 为什么要实时同步 ,
   保证数据的连续性 ,
   减少人力维护成本
3. 实时同步工具选择 , sersync+RSYNC(√) 、 inotify+rsync Inotify
   是一个通知接口，用来监控文件系统的各种变化，如果文件存取，删除，移动。可以非常方便地实现文件异动告警，增量备份，并针对目录或文件的变化及时作出响应。 rsync+inotify可以实触发式实时同步增量备份，sersync是国人基于rsync+inotify‐tools
   开发的工具，不仅保留了优点同时还强化了实时监控，文件过滤，简化
   配置等功能，帮助用户提高运行效率，节省时间和网络资源。

实时同步实战

NFS读弃用解决NFS并发高的方法

image.png

案例：实现web上传视频文件，实现是写入NFS至存储，当NFS存在新的数据则会实时的复制到备份服务器

角色	外网IP(NAT)	内网IP(LAN)	安装工具
web01	eth0:10.0.0.7	eth1:172.16.1.7
nfs-server	eth0:10.0.0.31	eth1:172.16.1.31	rsync+inotify+sersync
backup	eth0:10.0.0.41	eth1L172,16,1.41	rsync-server

backup服务器操作步骤如下
1.安装rsync

[root@backup ~]# yum install rsync -y

如果安装不上执行下面命令

[root@backup ~]# yum provides rsync

2.配置rsync服务

[root@backup ~]# cat /etc/rsyncd.conf
fake super = yes
uid = rsync
gid = rsync
use chroot = no
max connections = 2000
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.password
#####################################
[nfsbackup]
comment =  by old0boy 14:18 2012-1-13
path = /nfsbackup

3.建立对应的密码文件并设置600权限

[root@backup ~]# echo "rsync_backup:123456" > /etc/rsync.password 
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# ll /etc/rsync.password
-rw------- 1 root root 20 May 20 19:52 /etc/rsync.password

4,创建对应的用户

[root@backup ~]#  useradd -s /sbin/nologin -M rsync

5.创建对应的目录，所有者设置为rsync

[root@backup ~]# mkdir -p /nfsbackup
[root@backup ~]# chown rsync.rsync /nfsbackup
[root@backup ~]# ll -d /nfsbackup
drwxr-xr-x 2 rsync rsync 6 May 24 16:53 /nfsbackup

6.启动rsync并设置开机自启

[root@backup ~]# systemctl enable rsyncd
[root@backup ~]# systemctl start rsyncd

NFS-server操作步骤如下

1.创建监视目录

[root@nfs01 /usr/local/sersync]# mkdir /nfsbackup

2.创建密码文件

[root@nfs01 /usr/local/sersync]# echo 123456 >/etc/rsync.password
[root@nfs01 /usr/local/sersync]# chmod 600  /etc/rsync.password

3.安装sersync

下载安装此压缩包并解压
sersync_installdir_64bit.zip

压缩包链接: 提取码: r3cw

[root@nfs01 ~]# mkdir -p /server/scripts
[root@nfs01 ~]# cd /server/scripts  #通过传输工具将sersync压缩包传输都这个目录
[root@nfs01 scripts]# ll
-rw-r--r-- 1 root root 708025 May 23 10:11 sersync_installdir_64bit.zip
[root@nfs01 /server/scripts]# ll
drwxr-xr-x 3 root root     21 Dec 23  2012 sersync_installdir_64bit
-rw-r--r-- 1 root root 708025 May 23 10:11 sersync_installdir_64bit.zip
[root@nfs01 /server/scripts]# mv sersync_installdir_64bit/ /usr/local/

4.配置sersync

[root@nfs01 /usr/local]# cd  /usr/local/sersync
[root@nfs01 /usr/local/sersync]# ll
total 0
drwxr-xr-x 2 root root 21 Dec 23  2012 bin
drwxr-xr-x 2 root root 25 Dec 23  2012 conf
drwxr-xr-x 2 root root  6 Dec 23  2012 logs
[root@nfs01 /usr/local/sersync]# cp conf/confxml.xml conf/confxml.xml.bak
[root@nfs01 /usr/local/sersync]# vim conf/confxml.xml
 5     <fileSystem xfs="true"/>
 24         <localpath watch="/nfsbackup">   #监视的目录
 25             <remote ip="172.16.1.41" name="nfsbackup"/> #传输给哪个模块
 30             <commonParams params="-az"/>  #传输时使用的参数
 31             <auth start="true" users="rsync_backup"    #认证用户
passwordfile="/etc/rsync.password"/> #认证用户的密码文件
 36         <failLog path="/var/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->  #sersersync日志文件

5.sersync软件添加x权限并创建软连接到/sbin下

[root@nfs01 /usr/local/sersync]# chmod +x /usr/local/sersync/bin/sersync 
[root@nfs01 /usr/local/sersync]# ln -s /usr/local/sersync/bin/sersync /sbin/sersync2
[root@nfs01 /usr/local/sersync]# ll -d  /sbin/sersync2
lrwxrwxrwx 1 root root 30 May 25 11:43 /sbin/sersync2 -> /usr/local/sersync/bin/sersync

6.启动sersync服务守护模式

##查看sersync启动参数
[root@nfs01 /usr/local/sersync]# sersync2 -h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
参数-d:启用守护进程模式
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
________________________________________________________________
#启动Sersync ，如果需要同时同步多个目录，那么配置多套环境
[root@nfs01 /usr/local/sersync]# sersync2 -rd -o /usr/local/sersync/conf/confxml.xml 

检查测试：

1.nfs01创建文件

[root@nfs01 /usr/local/sersync]# touch /nfsbackup/oldboy{1..3}.txt
[root@nfs01 /usr/local/sersync]# ll /nfsbackup
total 0
-rw-r--r-- 1 root root 0 May 25 13:01 oldboy1.txt
-rw-r--r-- 1 root root 0 May 25 13:01 oldboy2.txt
-rw-r--r-- 1 root root 0 May 25 13:01 oldboy3.txt

2.backup端检查

[root@backup ~]# ll  /nfsbackup
total 0
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy10.txt
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy1.txt
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy2.txt
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy3.txt

3.nfs01删除文件

[root@nfs01 /usr/local/sersync]# rm -rf /nfsbackup/*
[root@nfs01 /usr/local/sersync]# ll /nfsbackup
total 0

4.backup检查

[root@backup ~]# ll  /nfsbackup
total 0

二、接下来讲云服务器

以阿里云为例https://www.aliyun.com/

1.云服务器不能用25端口号的SMTP发送邮件

可以使用465端口，465端口只支持加密传输

STARTLS标准出炉，规定用587端口以STARTTLS方式提交邮件

587端口专门被设计用来提交邮件，传输可以加密也可以不加密。

查找端口号的命令
grep smtp /etc/services

2.云服务器的名称

负载均衡是SLB

内外网交换机都是VPC(虚拟局域网)

云web服务器是ECS

云数据库是RDS

云存储是NAS(类似nfs)

云同步服务器是ECS

云公网ip(弹性公网ip)

3.选择购买时要注意的名词含义：

地域   region ：地区 北京 上海 杭州    不同地区的服务器内网不通
可用区  zone  ：同一个地区的 不同机房  同1个地区的不同可用区 内网相通