rsync 文件同步命令 SCP命令

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zonghua521/article/details/78239413
 快速查询scp:
    scp  各种参数   源地址文件    目的地址文件
  从本地复制到远程:
       scp   [[user@]host1:]file1 ... [[user@]host2:]file2
           本地用户名、地址、文件  远程用户名、地址、文件
           host可以用ip,也可以用域名(dns可以解析)
     可以省略本地信息:
      scp  file1 ... [[user@]host2:]file2
      也可以省略本地信息和远程用户信息:
      scp local_file remote_ip:remote_file 

 从远程复制到本地:
        scp   [[user@]host1:]remote_file ... [[user@]host2:local_file
               远程用户名、地址、文件         本地用户名、地址、文件
           host可以用ip,也可以用域名(dns可以解析)
     可以省略本地信息:
      scp [[user@]host2:]remote_file  local_file ... 
      也可以省略本地信息和远程用户信息:
      scp  remote_ip:remote_file local_file





快速查询 rsync
rsync [OPTION]... SRC DEST                 本机到本机   
   
rsync [OPTION]... SRC [USER@]host:DEST     本机到远端(ssh shell 方式)
rsync [OPTION]... [USER@]HOST:SRC DEST     远端到本机(ssh shell 方式)

rsync [OPTION]... [USER@]HOST::SRC DEST    远端到本机 (rsync  服务进程方式)
rsync [OPTION]... SRC [USER@]HOST::DEST    本机到远端 (rsync 服务进程方式)

rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
 例子:rsync -aqe 'ssh -p 24 ' 10.11.0.45:/var/www/webroot/supp/upload/ /datepc/supp/upload

其中:
在指定复制源SRC时,路径是否有最后的 “/” 有不同的含义,例如:

/home : 表示将整个 /home 目录复制到目标目录
/home/ : 表示将 /home 目录中的所有内容复制到目标目录

如果目标 DEST 不存在,则自动创建

SRC: 是要复制的源位置
DEST: 是复制目标位置
若本地登录用户与远程主机上的用户一致,可以省略 USER@
当访问 rsync 服务器时也可以使用 rsync:// URL
当进行“拉”复制时,若指定一个 SRC 且省略 DEST,则只列出资源而不进行复制

[OPTION...]参数
如:
rsync -avzP apache@10.0.7.211::hadoop /backup

说明:
同步模块: [rsyncd.conf中那个方括号里的内容]
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。 
          -r 是递归     -l 是链接文件,意思是拷贝链接文件;-p 表示保持文件原有权限;
         -t 保持文件原有时间;-g 保持文件原有用户组;-o 保持文件原有属主;-D 相当于块设备文件;
 -z 传输时压缩;
 -v, --verbose 详细模式输出。
 -q, --quiet 精简输出模式。
 -P  --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
 -c, --checksum 打开校验开关,强制对文件传输进行校验。 
 -R, --relative 使用相对路径信息。 
 -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。
       可以使用--suffix选项来指定不同的备份文件前缀。-z 传输时压缩;-v, --verbose 详细模式输出。
 -e  --rsh=command 指定使用rsh、ssh方式进行数据同步    例:rsync -ae 'ssh -p port'
 --progress 显示备份过程

 --password-file=FILE    从FILE文件中得到密码

--exclude           指定排除不需要传输的文件(夹)   (必须相对路径)      --exclude='file'    --exclude='file/123'  
--exclude-from=/exclude.list       指定排除不需要传输的文件列表     (绝对路径)
   
    比如 我想避开log文件夹,list中的1文件夹,和fire打头的文件    那么/exclude.list 写为 
                log 
                list/1
                fire* 
--include                               指定排除不需要传输的文件                      rsync -a --exclude='file'  (相对路径)
--include-from=/exclude.list  指定排除不需要传输的文件列表               (绝对路径)
(如果同时使用exclude和include,include命令在前)

--files-from="includes。txt" 只同步指定的目录清单  



        进入正题:
        rsync是类unix系统下的数据镜像备份工具。
        使用快速增量备份工具Remote Sync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。

它的特性如下:
*可以镜像保存整个目录树和文件系统。
*可以很容易做到保持原来文件的权限、时间、软硬链接等等。
*无须特殊权限即可安装。
*快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。
*rsync 在传输数据的过程中可      以实行*压缩及解压缩操作,因此可以使用更少的带宽。
*安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
*支持匿名传输,以方便进行网站镜象
*无论本地同步目录还是远程同步数据,首次运行时将会把全部文件拷贝一次,以后再运行时将只拷贝有变化的文件(对于新文件)或文件的变化部分(对于原有文件)。
   

 在使用 rsync 进行远程同步时,可以使用三种种方式:
一.本机不同目录进行同步
二.远程 Shell 方式
(建议使用 ssh,用户验证由 ssh 负责)
.C/S 方式(即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责)。


一.本机不同目录进行同步
同步命令:

1)本地使用:
rsync [OPTION...] SRC... [DEST]
 rsync -a /home/ /homeback

在指定复制源SRC时,路径是否有最后的 “/” 有不同的含义,例如:

/home : 表示将整个 /home 目录复制到目标目录
/home/ : 表示将 /home 目录中的所有内容复制到目标目录

如果目标 DEST 不存在,则自动创建

二.通过远程 Shell 使用:
  • 当路径中包含 单引号:  时,启功该模式
  • 远程 Shell 方式(建议使用 ssh,用户验证由 ssh 负责)  不用创建rsync服务器、守护进程
拉: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync -a web:/home/ /homeback

   
推: rsync [OPTION...] SRC... [USER@]HOST:DEST
rsync -a root@10.0.7.211:/home /homeback

如果用户名USER一致的话,可以省略
host 可以使用主机名(前提是可以解析),也可以使用ip地址


三.创建rsync守护进程
  • 即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责
我们先来测试第二种方法,创建一台rsync服务器
测试使用的机器 两台机器都自带有rsync工具  
1. 源图片所在 A机器 10.0.7. 211  CentOS release 6.3 (Final)
      服务端(rsync服务器)
# rsync --version
    rsync  version 3.0.6  protocol version 30

2. 备份图片 B机器     10.0.7.216   CentOS Linux release 7.2
     客户端
# rsync --version
   rsync  version 3.0.9  protocol version 30

Rsync两个版本有所不同,这里来讲下
首先A机器  3.0.6版本 
[root@web1 ~]yum install rsync
[root@web1 ~]rpm -ql rsync  查看文件位置
/etc/xinetd.d/rsync           ##基于xinetd的管理
/usr/bin/rsync                 ##rsync命令
/usr/share/doc/rsync-3.0.6 
/usr/share/doc/rsync-3.0.6/COPYING 
/usr/share/doc/rsync-3.0.6/NEWS 
……


软件包组成中没有提供配置文件和相应的文件,因此需要自行添加如下:

[root@node1 ~]# mkdir /etc/rsyncd  ##创建配置目录 

[root@node1 ~]# touch /etc/rsyncd/rsyncd.conf  ##     创建主配置文件 

[root@node1 ~]# touch /etc/rsyncd/rsyncd.secrets  ##  创建用户密码文件 
[root@node1 ~]chmod 600 /etc/rsyncd/rsyncd.secrets ##修改文件权限

[root@node1 ~]# touch /etc/rsyncd/rsyncd.motd   ##    创建定义服务器信息的


解析rsyncd.conf
pid file = /var/run/rsyncd.pid #进程 pid 文件所在位置
port = 873                                 #指定监听端口,默认是873,可以自己指定
address = 192.168.1.171         #服务器监听的IP地址,可省略


uid = root      #守护进程所属的uid,默认是nobody,可能会碰到文件或目录权限问题,此处偷懒用的 root
gid = root      #守护进程的gid


#chroot,即改变程序执行时所参考的根目录位置,在传输文件之前,服务器守护程序在将chroot 到文件系统中的目录中
#这样做的好处是可能保护系统被安装漏洞侵袭的可能。缺点是需要超级用户权限。另外对符号链接文件,将会排除在外
#也就是说,你在 rsync服务器上,如果有符号链接,你在备份服务器上运行客户端的同步数据时,只会把符号链接名同步下来,并不会同步符号链接的内容
use chroot = yes


read only = no #只读选择,只让客户端从服务器上读取文件
write only = yes #只写选择,只让客户端到服务器上写入


#允许访问的IP,可以指定单个IP,也可以指定整个网段,能提高安全性。
#格式是 ip 与 ip 之间、ip 和网段之间、网段和网段之间要用空格隔开;
hosts allow = 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0 



max connections = 5 #客户端最多连接数


#当用户登录时会看到这个信息。比如显示当前时间、公告等
motd file = /etc/rsyncd/rsyncd.motd


log file = /var/log/rsync.log  #rsync 服务器的日志;
transfer logging = yes          #记录传输文件的日志
log format = %t %a %m %f %b     #日志格式
syslog facility = local3                   #日志级别


#通过该选项可以覆盖客户指定的IP超时时间。可以确保rsync服务器不会永远等待一个崩溃的客户端。
#超时单位为秒钟,0表示没有超时定义,这也是默认值。
#对于匿名rsync服务器来说,一个理想的数字是600。
timeout = 300 


#模块定义
#主要是定义服务器哪个目录要被同步。
#每个模块都要以[name]形式。这个名字就是在 rsync 客户端看到的名字。
#但是服务器真正同步的数据是通过 path 指定的。可以依次创建多个模块。
#每个模块要指定认证用户、密码文件,但排除并不是必须的。

[ logs ]                                 #模块名,以下配置都属于此模块
path = /var/log                    #文件目录所在位置
list = no                               #当查看服务器上提供了哪些目录时是否列出来,no比较安全
ignore errors                      #忽略I/O错误

#指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。
#这里的用户和系统用户没有任何关系,是 rsyncd.secrets 中的用户名!
#如果"auth users"被设置,那么客户端发出对该模块的连接请求
#以后会被rsync请求challenged进行验证身份。

#这里使用的 challenge/response 认证协议。
#用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。
#默认情况下无需密码就可以连接模块(也就是匿名方式)。
auth users = zhangzk
secrets file = /etc/rsyncd/rsyncd.secrets        #密码文件


exclude = error_log httpd.pid             #忽略的文件或目录
comment this is my log                       #本模块注释,可选




1.编辑配置rsyncd.conf
pid file = /var/run/rsyncd.pid
port = 873


uid = root
gid = root


use chroot = yes
read only = no
#write only = yes


hosts allow = 10.0.7.211
hosts deny  =*


max connections = 5


motd file = /etc/rsyncd/rsyncd.motd


log file = /var/log/rsync.log
transfer logging = yes
log format = %t %a %m %f %b
syslog facility = local3


timeout = 300 


[ logs ]  
path = /root/test/log
list = no
ignore errors


auth users =lalala
secrets file = /etc/rsyncd/rsyncd.secrets


#exclude =
comment this is my log


##定义第二个同步目

[weblog] 
path = /var/www/log
list=yes 
ignore errors 
auth users = apache     ##必须在服务器上存在的真实的系统用户,多个用户以,号隔开
secrets file = /etc/rsyncd/rsyncd.secrets  ##指定上述账号密码文件 
comment = web log
exclude =   data/ data1/   ##排除log下的data目录和data1目录


2.编辑密码文件
[root@node1 ~]# vi /etc/rsyncd/rsyncd.secrets
apache:123456

注:1、将rsyncd.secrets这个密码文件的文件属性设为root拥有, 且权限要设为600, 否则无法备份成功!          
                   出于安全目的,文件的属性必需是只有属主可读。
         2、这里的密码值得注意,为了安全你不能把系统用户的密码写在这里。
                比如你的系统用户easylife密码是 000000,为了安全你可以让rsync中的easylife为keer。
                这和samba的用户认证的密码原理是差不多的。

3.编辑服务器信息文件

设定rsyncd.motd 文件;

它是定义rysnc服务器信息的,也就是用户登录信息。比如让用户知道这个服务器是谁提供的等;
类似ftp服务器登录时,我们所看到的 linuxsir.org ftp ……。 
当然这在全局定义变量时,并不是必须的,你可以用#号注掉,或删除;
我在这里写了一个 rsyncd.motd的内容为:

  ++++++++++++++++++++++++++++++++++++++++++++++
  Welcome to use the mike.org.cn rsync services!
           2017
  ++++++++++++++++++++++++++++++++++++++++++++++


服务器端启动:

usr/bin/rsync --daemon --config=/etc/rsyncd/rsyncd.conf
可能需要root权限运行.
/etc/rsyncd/rsyncd.conf 是你刚才编辑的rsyncd.conf的位置.
也可以在/etc/rc.d/rc.local里加入让系统自动启动等.


设置服务启动脚本:  service rsync start   
参考这里      Shell 增加server rsync 控制脚本

访问 rsync 服务器:
当路径中包含 双引号::  时,启功该模式
拉: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
拉: rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
rsync -a apache@10.0.7.211::hadoop /homeback
rsync -a rsync://web/home 

推: rsync [OPTION...] SRC... [USER@]HOST::DEST
推: rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

连接密码 是在rsyncd.secrets 中设定的
user使用在rsyncd.secrets 中定义的用户
这里的 SRC和DEST 是rsync.conf中 指定的模块
客户端的rsyncd.secrets  文件中 只存入密码就可以
请把客户端和服务端的  rsyncd.secrets 文件权限都设定为600 


特殊设置

从远程服务器 同步到本地  强制性一致

 # rsync -avzP --delete apache@110.0.7.211::hadoop /backup
         这回我们引入一个 --delete 选项,表示服务器上的数据要与客户端完全一致,

如果 /backup目录中有服务器上不存在的文件,则删除
        最终目的是让 
/backup 目录上的数据完全与服务器上保持一致;

         用的时候要小心点,最好不要把已经有重要数所据的目录,当做本地更新目录,否则会把你的数据全部删除;


从远程服务器 同步到本地  自动脚本

# rsync -avzP --delete --password-file=/tmp/rsync.password apache@110.0.7.211::hadoop /backup

          加了一个选项 –password-file=rsync.password ,这时当我们以apache用户登录rsync服务器同步数据时,密码将读取 /tmp/rsync.password 这个文件。这个文件内容只是apache用户的密码
# touch /tmp/rsync.password
# chmod 600 /tmp/rsync.password 
# echo "123456"> /tmp/rsync.password 
注: 这样就不需要密码了;其实这是比较重要的,因为服务器通过crond 计划任务还是有必要的;
rsync 客户端自动与服务器同步数据:
编辑crontab # crontab -e 加入如下代码:
10 0 * * * rsync -avzP --delete --password-file=/tmp/rsync.password apache@10.0.7.211::hadoop  /tmp/hadoop/


阅读更多
想对作者说点什么?

博主推荐

换一批

没有更多推荐了,返回首页