rsync远程同步

rsync远程同步

rsync概述

rsync 是一个开源的快速备份工具，可以在不同主机之间镜像同步整个目录树，支持增量备份，保持链接和权限，且采用优化的同步算法，在传输前执行压缩，因此非常使用于异地备份、镜像服务器等应用。

官方网站： http://rsync.sanba.org/

rsync 在 Linux 和 UINX 系统默认安装。

[root@localhost ~]# rpm -qa | grep rsync
rsync-3.1.2-4.el7.x86_64

在远程同步任务中，负责发起 rsync 同步操作的客户机称为发起端，而负责响应来自客户机的rsync 同步操作的服务器称为同步源。在同步过程中，同步源负责提供文档的原始位置，而发起端对该位置具有读取权限。

配置 rsync 同步源

在服务器A中配置

1 配置文件/etc/rsyncd.conf

[root@localhost ~]# vim /etc/rsyncd.conf
 uid = nobody
 gid = nobody
 use chroot = yes    # 禁锢在源目录
 address = 192.168.153.132    # 监听地址
 hosts allow = 192.168.153.0/24    # 运行访问的客户机地址
 port 873     # 监听端口
 pid file = /var/run/rsyncd.pid     # 存放进程 ID 的文件位置
 log file = /var/log/rsyncd.log     # 日志文件位置
 
[wwwhtml]    # 共享模块的名称
        path = /var/www/html/    # 源目录的实际路径
        comment = my test web    # 介绍，随便写写
        dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2
        								# 同步时不再压缩的文件类型
        read only =yes    # 是否为只读
        auth users = lisa     # 授权账号
        secrets file = /etc/rsyncd_users.db    # 存放账户信息的数据文件

基于安全考虑，对于 rsync 的同步源最好仅允许以只读方式做同步。

另外，同步可以允许匿名的方式（注释掉auth users和secrets file配置记录）

2 为备份账户创建数据文件

根据配置文件的授权账户，创建账号数据文件(这个文件的名字随意，自己知道就好)，添加用户记录

vim /etc/rsyncd_users.db
lisa:123456      // 注意这个账号是rsync的账号，不是系统账号

由于账号信息采用明文存放，因此需要修改文件权限

chmod 600 /etc/rsync_users.db

3 启动 rsync ，以独立监听服务的方式运行

# 启动 rsync 服务
rsync --daemon

[root@localhost ~]# netstat -antp | grep rsync
tcp        0      0 192.168.153.132:873     0.0.0.0:*        LISTEN      7577/rsync

# 如果需要关闭 rsync，可以使用 kill 命令
kill $(cat /var/run/rsyncd.pid)

使用 rsync 备份工具

在客户机(发起端)执行，即服务器B

实际上同步源与发起源也可以是同一台主机，虽然并不常见，其效果相当于本地备份

rsync 命令的基本用法

① 最简单的 rsync 用法类似于 cp 命令

rsync /etc/fstab /opt

② 执行远程同步

# 下载到本地目录进行备份
rsync [options] 用户名@主机地址::共享模块名 本地路径
或
rsync [options] rsync://用户名@主机地址/共享模块名 本地路径

options：
	-a: 归档模式，保留文件的权限、属性等信息，等同于组合选项 -rlptgoD
		-r: 递归模式，包含目录及子目录中的所有文件
		-l: 对于符号链接文件仍然复制为符号链接文件
		-p: 保留文件的权限标记
		-t: 保留文件的时间标记
		-g: 保留文件的属组标记(仅超级用户使用)
		-o: 保留文件的属主标记(仅超级用户使用)
		-D: 保留设备文件及其他特殊文件
	-v: 显示同步过程的详细 (verbose) 信息
	-z: 在传输文件时进行压缩 (compress)
	-H: 保留硬连接文件
	-A: 保留 ACL 属性信息
	--delete: 删除目标位置有而原始位置没有的文件
	--checksum: 根据校验和(而不是文件大小、修改时间)来决定是否跳过文件

案例：使用 rsync 实现自动化实时备份（每周一三五晚上八点半备份）

访问源服务器中的 wwwhtml 共享模块，并下载到本地 /rsynctest 目录下

[root@localhost ~]# mkdir /rsynctest
[root@localhost ~]# rsync -avz rsync://lisa@192.168.153.132/wwwhtml /rsynctest/
Password:      // 验证 lisa 用户的密码
receiving incremental file list

sent 20 bytes  received 167 bytes  41.56 bytes/sec
total size is 51  speedup is 0.27
[root@localhost ~]# ls -l  /rsynctest/
总用量 8       // 验证同步结果
-rw-r--r-- 1 root root 13 6月  29 09:36 abc1.txt
-rw-r--r-- 1 root root  0 6月  29 09:21 abc2.txt
-rw-r--r-- 1 root root  0 6月  29 09:21 abc3.txt
-rw-r--r-- 1 root root 27 6月  14 14:37 index.html
lrwxrwxrwx 1 root root 11 6月  29 09:22 passwd -> /etc/passwd

自动备份中，我们希望它不用输入密码，需要创建一个密码文件，再使用--password-file指定即可

[root@localhost ~]# vim /etc/server.passwd
123456
[root@localhost ~]# chmod 600 /etc/server.passwd   # 由于是明文，同样需要权限设置
[root@localhost ~]# rsync -avz --password-file=/etc/server.passwd  rsync://lisa@192.168.153.132/wwwhtml /rsynctest/
receiving incremental file list
															# 不在提示需要密码
sent 20 bytes  received 167 bytes  374.00 bytes/sec
total size is 51  speedup is 0.27

创建计划任务，要求实时备份，需要使用选项--delete

[root@localhost ~]# crontab -e
30 20 * * 1,3,5 rsync -avz --password-file=/etc/server.passwd  rsync://lisa@192.168.153.132/wwwhtml /rsynctest/
[root@localhost ~]# service crond restart
[root@localhost ~]# chkconfig crond on

配置 rsync + inotify 实时同步

Linux内核从2.6.13 版本开始提供了 inotify 通知接口，用来监控文件系统的各种变化情况，如文件存取、删除、移动、修改等。利用这一机制，可以非常方便地实现文件异动告警、增量备份，并针对目录或文件的变化及时作出响应。

将rsync 工具与inotify 机制相结合，可以实现触发式备份(实时同步)–只要原始位置的文档发生变化，就立即启动增量备份操作，否则处于静默等待状态。这样，就避免了按固定周期备份时存在的延迟性、周期过密等问题。正因为 inotify 通知机制由 Linux 内核提供，因此主要做本机监控，在触发式备份中应用时更适合上行同步。

这里的上行同步，其实就是将本地的文件备份到远端服务器

1 调整 inotify 内核参数

在 Linux内核中，默认的 inotify 机制提供了三个调控参数

[root@localhost ~]# ls -l /proc/sys/fs/inotify/
总用量 0
-rw-r--r-- 1 root root 0 6月  29 15:55 max_queued_events     // 监控事件队列
-rw-r--r-- 1 root root 0 6月  29 15:55 max_user_instances    // 最多监控实列数
-rw-r--r-- 1 root root 0 6月  29 15:55 max_user_watches      // 每个实例最多监控文件数

[root@localhost ~]# cat /proc/sys/fs/inotify/max_queued_events
16384
[root@localhost ~]# cat /proc/sys/fs/inotify/max_user_instances
128
[root@localhost ~]# cat /proc/sys/fs/inotify/max_user_watches
8192

当要监控的目录、文件数量较多或者变化较频繁时，建议加大这三个参数的值

[root@localhost ~]# vim /etc/sysctl.conf
···
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
[root@localhost ~]# sysctl -p
···
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576

2 安装 inotify-tools

使用 inotify 机制还需要安装 inotify-tools，以便提供 inotifywait 和 inotifywatch 助工具程序，用来监控和汇总改动情况。

• inotifywait：用于持续监控，实时输出结果

• inotifywatch：用于短期监控，任务完成后再出结果

官网： http://inotify-tool.sourceforge.net/

# 这里使用 yum 安装
yum install epel-release -y 
yum -y install inotify-tools

3 编写触发式同步脚本

测试将本地 ‘/rsynctest’ 目录中的内容同步到 rsync 备份端

rsync -azH --delete --password-file=/etc/server.passwd  /rsynctest/ lisa@192.168.153.132::wwwhtml

报错：rsync: read error: Connection reset by peer (104)
rsync error: error in socket IO (code 10) at io.c(785) [sender=3.1.2]

原因：备份端中的 rsync 配置文件开了只读权限，发起端没有远端服务器的写入权限

# 修改备份端192.168.153.132中配置文件
vim /etc/rsyncd.conf
将共享模块中的
read only = yes
改为
read only = no

报错：rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

原因：权限问题。备份使用的是备份端192.168.153.132的 rsync 的用户 lisa ，但本地并不存在这个用户，所有需要创建该用户lisa ，修改密码为123456，并给目录’/rsynctest’修改权限；另外，需要考虑备份端源目录’/var/www/html’目录的权限，考虑 rsync 的运行用户 nobody 是否有该目录权限。

# 本地 
[root@localhost ~]# useradd lisa
[root@localhost ~]# passwd lisa
更改用户 lisa 的密码 。
新的 密码：
无效的密码： 密码少于 8 个字符
重新输入新的 密码：
passwd：所有的身份验证令牌已经成功更新。
[root@localhost ~]# chown -R lisa:lisa /rsynctest

# 备份端
[root@localhost www]# chown -R nobody:nobody /var/www/html

测试监控 /rsynctest/目录，先执行 inotifywait命令，然后再新开一个终端向/var/www/html/目录下添加、移动文件，跟踪屏幕输出结果。

inotifywait -mrq -e modify,create,move,delete /rsynctest/

inotifywait 可监控 modify(修改) 、create (创建) 、move (移动) 、delete(删除)、attrib(属性更改) 等各种事件，一旦有变动就立即输出结果;

inotifywatch 可用来收集文件系统变动情况，并在运行结束后输出汇总的变化情况。

使用 inotifywait 输出的监控结果中，每行记录中依次包括目录、事件、文件，据此可以识别变动情况。

为了简单，只要检测到变动时执行 rsync 上行同步操作即可。

需要注意的是，当更新较频繁时，应避免并发执行 rsync 备份一一若 rsync 进程已经存在，则忽略本次同步，或者根据 rsync 进程数量(取决于实际任务) 来决定是否同步

[root@localhost ~]# vim inotify_rsync.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /rsynctest/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.passwd  /rsynctest/ lisa@192.168.153.132::wwwhtml"

$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
     $RSYNC_CMD
done

ost ~]# vim inotify_rsync.sh
#!/bin/bash
INOTIFY_CMD=“inotifywait -mrq -e modify,create,attrib,move,delete /rsynctest/”
RSYNC_CMD=“rsync -azH --delete --password-file=/etc/server.passwd /rsynctest/ lisa@192.168.153.132::wwwhtml”

$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
$RSYNC_CMD
done