网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
rsync远程同步
一、rsync简介
1、rsync概念
rsync(Remote Sync,远程同步)是C/S架构,端口873,一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份,并保持链接和权限,且采用优化的同步算法,传输前执行压缩,因此非常适用于异地备份、镜像服务器等应用。
rsync 的官方站点的网址是 rsync.samba.org/,目前最新版本是 3.1.3,由 Wayne Davison 进行维护。作为一种最常用的文件备份工具,rsync 往往是 Linux 和 UNIX 系统默 认安装的基本组件之一。
2、rsync特性
支持拷贝特殊文件,如连接文件、设备等
可以有排除指定文件或目录同步的功能,相当于打包命令tar的排除功能
可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变 –p
可以实现增量同步,既只同步发生变化的数据,因此数据传输效率很高(tar-N)
可以使用rcp、rsh、ssh等方式来配合传输文件(rsync本身不对数据加密)
可以通过socket(进程方式)传输文件和数据(服务端和客户端)
支持匿名的活认证(无需系统用户)的进程模式传输,可以实现方便安全的进行数据备份和镜像
3、rsync同步方式
完整备份、差量备份、增量备份
4、备份过程
发起端:负责发起rsync,同步操作的客户机叫做发起端,通知服务器我要备份你的数据
备份源:负责响应来自客户机rsync
服务端:运行rsync服务,一般来说需要备份的服务器
客户端:存放备份数据
二、同步源服务器
在远程同步任务中,负责发起 rsync 同步操作的客户机称为发起端,而负责响应来自客户机的 rsync 同步操作的服务器称为同步源。
- 在下行同步(下载)中,同步源负责提供文档的原始位置,发起端应对该位置有读取权限。
- 在上行同步(上传)中,同步源负责提供文档的目标位置,发起端应对该位置具有写入权限。
三、实时同步rsync(下行同步)
服务器:192.168.10.130
客户端:192.168.10.133
1、配置服务器
[root@Server ~]#setenforce 0
setenforce: SELinux is disabled
[root@Server ~]#systemctl stop firewalld
[root@Server ~]#rpm -q rsync #一般系统已默认安装rsync
[root@Server ~]#vim /etc/rsyncd.conf #建立/etc/rsyncd.conf配置文件, #添加以下配置项
uid = root
gid = root
use chroot = yes #禁锢在源目录
address = 192.168.10.130 #监听地址
port = 873 #监听端口tcp/udp 873,可通过cat /etc/services | grep rsync查看
log file = /var/1og/rsyncd.1og #日志文件位置
pid file = /var/run/rsyncd.pid #存放进程ID的文件位置
hosts allow = 192.168.10.0/24 #允许访问的客户机地址。多个地址以空格分隔
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z #同步时不再压缩的文件类型
[backup] #共享模块名称
path = /var/www/html #源目录的实际路径
comment = this is rsync of www.zzt.com #备注
read only = yes #是否为只读。yes表示客户端只能读取目录内容,不能写入。只允许下行,不允许上行。
auth users = zz #授权账户,多个账号以空格分隔。授权用户,允许读取的用户名。
secrets file = /etc/rsyncd_users.db
#保存退出即可
#存放授权账户信息的数据文件
#如采用匿名的方式,只要将其中的“auth users"和“secrets file"配置项去掉即可。
[root@Server ~]#mkdir -p /var/www/html
[root@Server ~]#chmod +r /var/www/html/ #给权限,保证所有用户对源目录/var/www/html都有读取权限
[root@Server ~]#ls -ld /var/www/html/ #查看
2、给备份账户创建数据库文件
#为备份账户创建数据文件。
[root@Server ~]#vim /etc/rsyncd_users.db
zz:abc123 #无须建立同名系统用户。zz为用户名,abc123为密码。
[root@Server ~]#chmod 666 /etc/rsyncd_users.db
[root@Server ~]#rsync --daemon #启动rsync 服务,以独立监听服务的方式(守护进程)运行
[root@Server ~]#ss -natp |grep rsync
#关闭rsync 服务
kill $(cat /var/run/rsyncd.pid)
rm -rf /var/run/rsyncd.pid
3、验证效果
服务器
[root@Server html]#cp /etc/shadow /etc/passwd ./
[root@Server html]#ls
passwd shadow
[root@Server html]#vim passwd
zz:x:1000:1000:zhang:/home/zhang:/bin/bash
客户端
[root@Client opt]# rsync -avz zz@192.168.10.130::backup /opt/test/ #登录
4、发起端配置
格式一: #用户名@主机地址::共享模块名
rsync -avz zz@192.168.10.130::zz /opt/ #backup为共享模块名,密码abc123
#zz指的是我在同步的时候用的哪个用户身份
#backup代表的是模块,模块下面会写同步的默认路径和一些特性,所以我们只需要写模块就好了
#/opt/test/指的是同步到本地的目录
格式二: #rsync:/用户名@主机地址/共享模块名
rsync -avz rsync://zz@192.168.10.130/backup /opt/test
[root@Server html]#cp /etc/fstab ./
[root@Server html]#ls
fstab passwd shadow
[root@Client opt]# echo "abc123" > /etc/server.pass
[root@Client opt]# chmod 600 /etc/server.pass #密码文件权限必须为600,即除了属主,其他人都没有查看权限
[root@Client opt]#rsync -az --delete --password-file=/etc/server.pass zz@192.168.10.130::backup /opt/test/
#定时同步
30 22 * * * /usr/bin/rsync -az --delete --password-file=/etc/server.pass zz@192.168.10.130::backup /opt/test/
[root@Client opt]# systemctl restart crond
[root@Client opt]# systemctl enable crond
四、实时同步rsync
1、定期同步的不足
- 执行备份的时间固定,延迟明显、实时性差
- 当同步源长期不变化时,密集的定期任务是不必要的
2、实时同步的优点
- 一旦同步源出现变化,立即启动备份
- 只要同步源无变化,则不执行备份
3、Linux内核的inotify机制
从版本2.6.13开始提供
可以监控文件系统的变动情况,并做出通知响应
辅助软件 inotify-tools
4、发起端口配置rsync+Inotify
使用inotify通知接口,可以用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。
将inotify机制与rsync工具相结合,可以实现触发备份(实时同步),即只要原始位置的文档发生变化,则立即启动增量备份操作,否则处于静默等待状态。
因为inotify通知机制由Linux内核提供,因此主要做本机监控,在触发式备份中应用更适合上行同步。
五、配置rsync实时同步(上行同步)
发起端需要配置 rsync+Inotify
1、修改rsync配置文件
[root@Server html]#vim /etc/rsyncd.conf
[root@Server html]#ss -natp |grep rsync
[root@Server html]#rsync --daemon
[root@Server html]#ss -natp |grep rsync
LISTEN 0 5 192.168.10.130:873 *:* users(("rsync",pid=7243,fd=3))
[root@Server html]#chmod 777 /var/www/html/
[root@Server html]#
2、发起端,调整 inotify 内核参数
在Linux内核中,默认的inotify机制提供了三个调控参数:
max_queue_events ( 监控事件队列,默认值为16384)
max_user_instances (最多监控实例数,默认值为128)
max_user_watches (每个实例最多监控文件数,默认值为8192)
当要监控的目录、文件数量较多或者变化较频繁时,建议加大这三个参数的值
[root@Client opt]# cat /proc/sys/fs/inotify/max_queued_events
16384
[root@Client opt]# cat /proc/sys/fs/inotify/max_user_instances
128
[root@Client opt]# cat /proc/sys/fs/inotify/max_user_watches
8192
[root@Client opt]# vim /etc/sysctl.conf
![](https://img-blog.csdnimg.cn/img_convert/9a8cb5f8c0ec69e6499adead0da6e95b.png)
最全的Linux教程,Linux从入门到精通
======================
1. **linux从入门到精通(第2版)**
2. **Linux系统移植**
3. **Linux驱动开发入门与实战**
4. **LINUX 系统移植 第2版**
5. **Linux开源网络全栈详解 从DPDK到OpenFlow**
![华为18级工程师呕心沥血撰写3000页Linux学习笔记教程](https://img-blog.csdnimg.cn/img_convert/59742364bb1338737fe2d315a9e2ec54.png)
第一份《Linux从入门到精通》466页
====================
内容简介
====
本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。本书第1版出版后曾经多次印刷,并被51CTO读书频道评为“最受读者喜爱的原创IT技术图书奖”。本书第﹖版以最新的Ubuntu 12.04为版本,循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。本书附带1张光盘,内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件,供读者免费下载。
![华为18级工程师呕心沥血撰写3000页Linux学习笔记教程](https://img-blog.csdnimg.cn/img_convert/9d4aefb6a92edea27b825e59aa1f2c54.png)
**本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读,同时也非常适合准备从事Linux平台开发的各类人员。**
> 需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**[需要这份系统化的资料的朋友,可以点击这里获取!](https://bbs.csdn.net/topics/618635766)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**