Rsync

1.什么是备份?

就是给源文件 增加 一个 副本.
U盘
D  --> E 

2.为什么要做备份?

1.数据重要?
2.防止误操作
3.能够快速恢复

3.能不能不做备份?

可以, 不重要的数据可以不用考虑?

4.备份使用什么方式?

全量备份,每次都是完全拷贝,效率低下
增量备份,每次仅拷贝发生变化的文件,效率高

5.备份使用的工具有哪些?

 本地备份:  cp
 远程备份:  scp  rsync    sz rz

6.rsync 远程同步工具

实现主机与主机之间的同步, 实现增量的同步.     linux\windows\mac
PS: 如果将rsync当一个服务来使用,则需要知道 rsync  是个  c/s架构

7.rsync传输模式

1.本地传输     --->  cp
2.远程传输     --->  scp
3.守护进程     --->  


#等价于cp命令
Local:  rsync [OPTION...] SRC... [DEST]
        命令   选项      源      目标

[root@backup ~]# rsync -avz anaconda-ks.cfg  /tmp/


远程传输
Access via remote shell:
上传    Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
                命令  选项       源   系统用户 主机IP 目标位置
        1.我要将我本地的那个文件,推送至那台服务器的那个目录,使用的是什么用户
        [root@backup ~]# rsync -avz ./backup_file root@172.16.1.31:/opt/
        root@172.16.1.31's password:        #输入31的root密码

下载    Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
              命令    选项     系统用户 主机IP  
        2.我要下载那个主机的那个目录下的文件,使用的是什么系统用户.  然后下载到我本地的那个位置 
        [root@backup ~]# rsync -avz root@172.16.1.31:/opt/backup_file   ./file.txt
        root@172.16.1.31's password:    #输入31的root密码


目录:  /etc/  /etc    区别? 
#推送/etc目录下的所有文件
[root@backup ~]# rsync -avz /etc/ root@172.16.1.31:/opt

#推送/etc目录以及目录下的所有文件
[root@backup ~]# rsync -avz /etc root@172.16.1.31:/opt

Rsync借助SSH协议同步数据存在的缺陷    (  使用对端主机的用户名和密码   系统  )
    1.使用系统用户（不安全）
    2.使用普通用户（会导致权限不足情况）
    
问题:
    1.rsync -avz /etc/ root@172.16.1.31:/opt          ---> 172.168.1.31
    2.路径问题
    3.普通用户权限


守护进程模式--->一直在后台持续的运行
Access via rsync daemon:
 Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
 Push: rsync [OPTION...] SRC... [USER@]HOST::DEST

8.Rsync

1.安装
[root@backup ~]# yum install rsync -y


2.配置   ( 改变程序运行轨迹  )
[root@backup ~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to oldboyedu backup!
path = /backup

3.根据配置创建一些初识环境:
    3.1创建rsync用户    rsync程序需要rsync这个用户来运行
    [root@backup ~]# groupadd rsync
    [root@backup ~]# useradd -M -s /sbin/nologin rsync -g rsync
    [root@backup ~]# id rsync
    uid=1000(rsync) gid=1000(rsync) groups=1000(rsync)

    3.2 虚拟用户    /etc/rsync.passwd      username:password
    [root@backup ~]# echo "rsync_backup:123456" > /etc/rsync.passwd
    [root@backup ~]# chmod 600 /etc/rsync.passwd
    
    3.3 创建一个/backup目录
    [root@backup ~]# mkdir /backup
    [root@backup ~]# chown -R rsync.rsync /backup/

4.启动
    [root@backup ~]# systemctl start rsyncd
    [root@backup ~]# systemctl enable rsyncd

5.检测
[root@backup ~]# netstat -lntp | grep 873
tcp        0      0 0.0.0.0:873       0.0.0.0:*        LISTEN    8616/rsync          

6.使用
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
[root@nfs ~]# rsync -avz ./anaconda-ks.cfg  rsync_backup@172.16.1.41::backup

Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
[root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup /opt

7.客户端每次都需要使用密码?
    1.设定变量  RSYNC_PASSWORD  (后面写脚本的时候)
    [root@nfs ~]# export RSYNC_PASSWORD=123456
    [root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup /opt

    2.提前准备一个文件 (只有密码的文件),  然后使用 --password-file 指定位置
    [root@nfs ~]# echo "123456" >  /etc/rsync.pass
    [root@nfs ~]# chmod 600 /etc/rsync.pass
    [root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup /opt --password-file=/etc/rsync.pass


8.-avz 这些选项  怎么理解?
    -a           #归档模式传输, 等于-tropgDl
    -v           #详细模式输出, 打印速率, 文件数量等
    -z           #传输时进行压缩以提高效率
    -r           #递归传输目录及子目录，即目录下得所有目录都同样传输。
    -t           #保持文件时间信息
    -o           #保持文件属主信息
    -p           #保持文件权限
    -g           #保持文件属组信息
    -l           #保留软连接
    -D           #保持设备文件信息
    -P           #显示同步的过程及传输时的进度等信息
    -L           #保留软连接指向的目标文件
    -e           #使用的信道协议,指定替代rsh的shell程序
    --exclude=PATTERN   #指定排除不需要传输的文件模式
    --exclude-from=file #文件名所在的目录文件
    --bwlimit=100       #限速传输
    --delete            #让目标目录和源目录数据保持一致
    
9. --delete   这个参数 (让目标目录和源目录数据保持一致)  危险?
    #推:  源有什么,目标就有什么
[root@nfs ~]# rsync -avz /root/ rsync_backup@172.16.1.41::backup --delete
    #拉: 目标主机有什么, 本地就有什么
[root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup ./ --delete

10.--bwlimit 限速, 这个参数?   1000兆    125MB/s     
    虚拟机最高的峰值  25MB/s    5MB/s    ---> 取决于实际的情况
    单位=KB
[root@nfs ~]# rsync  -avzP --bwlimit=5120  ubuntu-18.04.1-desktop-amd64.iso  rsync_backup@172.16.1.41::backup
sending incremental file list
ubuntu-18.04.1-desktop-amd64.iso   159,186,944   8%    5.12MB/s    0:05:41

11.--exclude  这个参数  --exclude-from ?

[root@nfs ~]# rsync  -avzP --exclude-from=pc.txt  rsync://192.168.0.128/yum  ./
[root@nfs ~]# cat pc.txt 
centos/
code/
docker-ce/
epel/
git/
java/
jenkins/
kubernetes/
mongodb/
mysql/
node/
non-supported/
php/
python/
redis/
sonarqube/
windowstools/
zabbix/
CentOS-7-x86_64-DVD-1810.iso
CentOS-Base.repo
docker-ce.repo
epel.repo
nginx.repo
php.repo
rsync_exclude.txt
zabbix.repo
各种源使用说明.txt

12.使用rsync同步学校内网yum源?
mysql/
nginx/
php/

9.实战配置

------------------------------------------------------------------------------
客户端
[root@nfs ~]# mkdir /scripts
[root@nfs ~]# cat /scripts/clinet_push_data_server.sh 
------------------------------------------------------------------------------  
#!/usr/bin/bash
# variables == 变量  ---> 一个固定的字符串表示一个不固定的值
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Src=/backup
Host=$(hostname)
Addr=$(ifconfig eth1 | awk 'NR==2 {print $2}')
Date=$(date +%F)
Dest=${Host}_${Addr}_${Date}

#1.准备对应的备份目录
[ -d $Src/$Dest ] ||  mkdir -p $Src/$Dest

#2.将文件拷贝至备份目录
cd / && \
[ -f $Src/$Dest/sys.tar.gz ] ||  tar czf $Src/$Dest/sys.tar.gz etc/fstab etc/hosts etc/passwd && \
[ -f $Src/$Dest/other.tar.gz ] || tar czf $Src/$Dest/other.tar.gz var/spool/cron/ scripts/ && \

#3.添加标记
[ -f $Src/$Dest/flag_${Date} ] ||  md5sum $Src/$Dest/*.tar.gz > $Src/$Dest/flag_${Date}
/**/
#4.推送数据至远程仓库
export RSYNC_PASSWORD=123456
rsync -avz $Src/ rsync_backup@172.16.1.41::backup

#5.保留本地最近7天的数据
find $Src/ -type d -mtime +7 | xargs rm -rf
    

#批量的模拟数据
[root@nfs ~]# for i in {1..30};do date -s "201909$i"; sh /scripts/clinet_push_data_server.sh ; done

------------------------------------------------------------------------------
服务端
------------------------------------------------------------------------------
#1.服务端配置邮件功能
[root@backup /]# yum install mailx -y
[root@backup /]# vim /etc/mail.rc       #跳转至最后一行,然后进入编辑模式
set from=805836539@qq.com
set smtp=smtps://smtp.qq.com:465
set smtp-auth-user=805836539@qq.com
set smtp-auth-password=yvnndztijuambfbh
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/


#2.测试一下是否能发送成功
mail -s "测试一下" 收件人@qq.com < /etc/hosts

#3.编写脚本
[root@backup ~]# cat /scripts/check_data_notify.sh 
#!/usr/bin/bash
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
Src=/backup
Date=$(date +%F)

#1.校验每天客户端推送过来的flag数据
md5sum -c ${Src}/*_${Date}/flag_${Date} >${Src}/result_${Date}
/**/
#2.邮件通知管理员
mail -s "Rsync Backup ${Date}" 525501433@qq.com < ${Src}/result_${Date}

#3.保留最近180天的数据
find $Src/ -type d -mtime +180 | xargs rm -rf


------------------------------------------------------------------------------
定时任务是否有问题
------------------------------------------------------------------------------
客户端
[root@nfs ~]# crontab -l
#定时备份数据
*/1 * * * * sh /scripts/clinet_push_data_server.sh &>/dev/null

服务端
[root@backup ~]# crontab -l
#定时校验备份的结果
*/1 * * * * sh /scripts/check_data_notify.sh &>/dev/null


------------------------------------------------------------------------------
如何在增加一台客户端备份
------------------------------------------------------------------------------
[root@web01 ~]# rsync -avz root@172.16.1.31:/scripts /