必威体育Betway必威体育官网
当前位置:首页 > IT技术

rsync详细部署过程及讲解

时间:2019-11-02 19:45:53来源:IT技术作者:seo实验室小编阅读:81次「手机版」
 

rsync

备份服务器讲解------rsync备份服务器(适用于unix linux windows)

##什么是rsync软件

是一款开源的,快速的,多功能,可实现全量及增量的本地或远程数据同步备份的优秀工具

全量及增量:

全量: 主机A有10G数据------>主机B接收10G数据

  主机A有10G又增加5G数据---->主机B又接收一遍10G数据和新增加的5G数据(效率太低)

增量:主机A有10G数据---->主机B接收10G数据

  (传之前会去对端看一下有没有之前传输的东西)主机A有10G又增加5G数据------>主机B本身有之前的10G数据继续接收新增加的5G数据(效率高,不用传输之前有的数据)

全量复制-----cpmv scp

增量复制-----rsync===可以替换cp  scp ls rm(1V4)

================================================

思考点:1)如何再windows上实现rsync部署#####

2)研究xinetd服务,如何利用xinetd服务管理rsync进程####有帮助

================================================

提示信息

man rsync:查看客户端

man rsyncd.conf:查看服务器配置

================================================

rsync===可以替换cp scp ls rm(1V4)【优于每个命令】

cp:

scp:远程复制

如果出现这个问题;

查看/etc/ssh  vim ssh_config /sshd_config

优化的时候禁止ROOT用户登陆了,所以要用普通用户传输,或者改为yes即可

/etc/ssh/sshd_config文件中的

                   permitrootlogin prohibit-password

                  改为PermitRootLogin yes(或者删掉PermitRootLogin prohibit-password也可以,为了安全可以备份,注释掉就可以)

ls :查看

rm :删除

查看版本:rsync--version

rsync的特性:

1)支持拷贝普通文件与特殊文件如链接文件,设备等。

2)可以有排除指定文件或目录同步的功能,相当于打包命令tar的排除功能:

###tar zcvf backup_1.tar.gz /opt/data -exclude=oldboy

3)可以做到保持文件或目录的权限/时间(访问时间,修改时间,创建时间)软硬链接,属主,属组,等所有属性均不改变-p

4)可以实现增量同步,即只同步发生变化的数据,因此数据传输效率很高(tar -N)

5)

a.可以使用rpc,rsh,ssh等方式来配合进行隧道加密传输文件(rsync本身不对数据加密)

b.可以通过sorcket(进程方式)传输文件和数据(服务端和客户端)*******重点掌握

c.支持匿名的或认证(无需系统用户)的进程模式输出,可以实现方便安全的进行数据备份镜像

rsync的企业工作场景说明:

1)利用定时任务+rsync方式实现数据同步;

对于网站内部技术人员创建的数据文件,可以采取定时任务方式同步

2)利用实时任务+rsync方式实现数据同步;

对于网站外部访问用户传输的数据,可以采取实时同步方式

项目经验:

语法说明:

1)rsync:为同步的命令:

2)[OPTION...]为同步时的参数选项;

3)[USER@HOST....]为rsync同步的远程的链接用户和主机地址:USER表示数据传输 到远程服务器上,传输数据用户的身份信息

4)SRC为源,即待拷的分区/文件或目录等,和HOST之间用一个冒号:连接

远程服务器的数据资源(拉)

本地服务器的数据资源(推)

5)[DEST]为目的分区/文件或目录等。

表示本地目录或文件信息(拉)

表示远程目录或文件信息(推)

①:本地同步方式:rsync/etc/hosts /tmp/

local:  rsync [OPTION可选参数...] SRC同步的东西源... [DEST目的地] 

rsync /etc/hosts /opt/

目录带/和不带/的区别:#####

/tmp/:表示将tmp目录下的内容推送过去

/tmp:表示将tmp目录本身及下面的内容都推送过去

②:通过远程shell方式(远程隧道模式):

Accessvia remote shell:

(拉)Pull:rsync [OPTION...] [USER(我以什么身份登陆到你的主机)@]HOST:SRC... [DEST目的地]

rsync -e 'ssh -p 52113' [email protected]:/tmp/shuai.txt /root/zhang_backup_shuai

(推)Push:rsync [OPTION...] SRC...[USER@]HOST:DEST

rsync -e 'ssh -p 52113' -rp /etc/[email protected]:/tmp

问题解决:

提示:如果是禁用了root用户登陆的话,用oldboy的身份传输,那么传输过去的文件必须都得传到oldboy用户下的目录中,因为root目录oldboy进不去

=========================================================

③:通过rsync daemon方式(无差异备份)(rsync守护进程方式,会创建守护进程从后台等着提供服务)

  Accessvia rsync daemon:

注意:设定好服务端和客户端后,推拉都在客户端上进行!

Pull(拉的格式):

方式1)rsync [OPTION...参数] [认证的用户信息USER@]HOST::SRC接模块信息... [DEST]

rsync [email protected]::backup/oldboy.txt /tmp/

Push(推的格式):

方式1)rsync [OPTION...参数] SRC本地的数据信息... [USER认证用户信息@]HOST::DEST

rsync -avz /[email protected]::backup

rsync守护进程方式数据同步原理:

看图说明:

(1)所做的是把本地的文件推到rsync服务端backup模块里对应目录下

(2)当和服务端进行连接的时候,客户端还没到达服务端的时候前面有一扇门,这扇门可以做判断(去/etc/rsyncd.conf看认证用户(如果又这个用户,会继续让你说出口令(然后再去服务端/etc/rsync.password 看认证密码文件)

(3)验证成功以后root会映射成rsync用户,利用rsync用户进行传输文件

守护进程部署

1)服务端的部署(rsync)

①里程碑:确定有没有rsync软件(rpm -aq rsync)

②里程碑:安装rsync软件(yum install -yrsync)

③里程碑:编写配置文件(特点;编写好配置文件,后续操作步骤可以按照配置文件进行)

④里程碑:创建备份目录的管理用户:useradd -s /sbin/nologin -M rsync

⑤里程碑:创建安全认证文件:

1)echo "rsync_backup:oldboy123">/etc/rsync.password(往存放密码的文件里追加密码)

2) chmod 600 /etc/rsync.password  (因为秘密是可见的所以要修改权限)

⑥里程碑:创建备份目录:

1)mkdir -p /backup

2)chown -R rsync.rsync /backup/  (因为要被rsync访问所以要改属主,属组信息)

⑦里程碑:启动rsync服务:rsync --daemon(启动rsync服务)

1)ps -ef |grep rsync(查看rsync进程)

2)netstat -lntup|grep rsync(查看rsync端口端口号是;TCP协议的873)

至此服务端配置的操作完成!

2)客户端的部署(web)

①里程碑:确定有没有rsync软件(rpm -aq rsync)

②里程碑:安装rsync软件(yum install -yrsync)

③里程碑:创建安全认证文件:

1)echo"oldboy123">/etc/rsync.password(往存放密码的文件里追加密码)

2) chmod 600/etc/rsync.password   (因为密码是可见的所以要修改权限)

==================================================================================================

脚本解释

==================================================================================================

uid = rsync                     #用户     用户端的命令使用rsync访问共享目录(指定rsync服务运行的时候向磁盘进行读取和写入操作的操作者)

gid = rsync                     #用户组

usechroot = no   (安全相关)

max connections = 200          #最大连接数(最多连接200台服务器)

timeout = 300                          #超时参数(也就是超时时间,如果300秒内没有传输文件,就断开链接(不定义的话会导致已经连接且传输完数据的服务器一直占用位置,导致后面的服务器连接不进来)

pid file= /var/run/rsyncd.pid        #进程号对应的文件(直接查看这个文件就可以看到进程号:kill `cat/var/run/rsyncd.pid`)

lock file = /var/run/rsync.lock        #锁文件(如果两台机器同时传输一个hosts(名字一样,内容不一样)文件到备份服务器,在文件到达备份服务器的时候我先给一个hosts上锁,直到这个文件传输完成,在解锁,让下一个hosts文件再开始传输进来,防止相同文件名在并行传输的时候出错误!(不能并行处理)

log file= /var/log/rsyncd.lock        #日志文件

模块是什么:(模块名就相当于我只说个名字就可以概括这个模块下面的内容l)

[backup]                                  #模块名称  (下面放着的叫局部变量)

path= /backup                       #共享文件(服务器提供访问的目录,备份的位置)

ignoreERRORs                           #忽略错误程序(在传输的过程中有的传输错误的文件先忽略掉等都传输完了,在回过来处理之前传输错误的文件)

readonly = false                    #可读写(只读为假)*****

list= false                                #不让列表(相当于ls)

hostsallow = 172.16.1.0/24              #允许的网段(白名单,准许访问rsync服务器的客户范围)

hostsdeny = 0.0.0.0/32                          #拒接的网段(黑名单,禁止访问rsync服务器的客户范围)

authusers = rsync_backup                     #连接的虚拟用户,非系统用户

secretsfile = /etc/rsync.password          #认证用户的认证账号密码文件

comment = “backup dirby oldboy”         #注释备注信息

#rsync_config_______end

==================================================================================================

参数解释

==================================================================================================

srync命令参数解释:(红色常用,蓝色为组合,黄色了解)

保持同步目录及文件属性:这里的-avzP相当于-vzrtopgDIP(还多了DI功能,生产环境常用的参数选项为-azvP或-vzrtopgP,如果时放入脚本中,也可以把-v和-P去掉,这里的--progress可哟用-P代替)

-v, --verbose 详细模式输出。传输时的数据等信息

-e, --rsh=command 指定使用rsh、ssh方式进行数据同步。

--port=PORT 指定其他的rsync服务端口。、

--bwlimit=KBPS 限制I/O带宽,KBytes per second。(企业案例:某DBA做数据同步,带宽占满,导致用户无法访问网站(34天10节讲的案例)

-z, --compress 对备份的文件在传输时进行压缩处理提高传输效率。(局域网可以不用压缩)

-P 等同于 --partial,(显示同步的过程及传输时的进度等信息)

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。(一下就是包揽的参数)

-r, --recursive 对子目录以递归模式处理。

-l, --links 保留软链结。

-p, --perms 保持文件权限。

-o, --owner 保持文件属主信息。

-g, --group 保持文件属组信息。

-D, --devices 保持设备文件信息。

-t, --times 保持文件时间信息。

==================================================================================================

-q, --quiet 精简输出模式。

-c, --checksum 打开校验开关,强制对文件传输进行校验。

-R, --relative 使用相对路径信息。

-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀。

-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件,不覆盖更新的文件。

-L, --copy-links 想对待常规文件一样处理软链结。

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结。

--safe-links 忽略指向SRC路径目录树以外的链结。

-H, --hard-links 保留硬链结。

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run现实哪些文件将被传输。

-w, --whole-file 拷贝文件,不进行增量检测。

-x, --one-file-system 不要跨越文件系统边界。

-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息。

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件。

--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件。

--delete 删除那些DST中SRC没有的文件。

--delete-excluded 同样删除接收端那些被该选项指定排除的文件。

--delete-after 传输结束以后再删除。

--ignore-errors 及时出现IO错误也进行删除。

--max-delete=NUM 最多删除NUM个文件。

--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输。

--force 强制删除目录,即使不为空。

--numeric-ids 不将数字的用户和组id匹配为用户名和组名。

--timeout=time ip超时时间,单位为秒。

-I, --ignore-times 不跳过那些有同样的时间和长度的文件。

--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间。

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0。

-T --temp-dir=DIR 在DIR中创建临时文件。

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份。

--progress 显示备份过程。

--exclude=PATTERN 指定排除不需要传输的文件模式。

--include=PATTERN 指定不排除而需要传输的文件模式。

--exclude-from=FILE 排除FILE中指定模式的文件。

--include-from=FILE 不排除FILE指定模式匹配的文件。

--version 打印版本信息。

--address 绑定到特定的地址。

--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件。

--blocking-io 对远程shell使用阻塞IO。

-stats 给出某些文件的传输状态。

--progress 在传输时现实传输过程。

--log-format=formAT 指定日志文件格式。

--password-file=FILE 从FILE中得到密码。

进程杀手三人组:

kill     : 进程pid号 (ps -ef|grep rsync查看一些pid号,然后kill 1822删除进程,会有提示说明)(简便方法:kill `cat /var/run/rsyncd.pid`)

killall:进程名字  (killall rsync,会有提示说明)

pkill  :进程名字 (模糊杀手,要小心~)   (pkill rsync,不会有提示说明)

断开后Xshell连接不上主机了,到主机上查看sshd进程发现进程被杀死!

重新启动SSHD服务后Xshell连接上了

pkill缺点总结:指定的杀死sh进程把sshd进程杀掉了,原因是它杀的时候搜索到的是只要包括sh字符的进程都会杀掉!要小心使用,直接全名指定进程名!

复活进程:进程名+--daemon(守护进程)(rsync --daemon)

================================================

rsync服务的扩展功能实践

================================================

第一个扩展:守护进程多模块功能配置:

vim 扩展操作,命令行模式

复制功能:10,12copy13(在目标行的前一行写入内容)

移动功能:10,12copy13

1、里程碑:编写配置文件配置多模块

vim /etc/rsyncd.conf

  18[backup]

19 comment= "backup dir by oldboy"

20 path =/backup

    21 [nfsbackup]   (添加一个新的模块)

 22 comment = "backup dir by oldboy"

23 path =/nfsbackup

2、里程碑:重启rsync服务

killall rsync

rsync --daemon

3、创建新模块的备份目录

mkdir -p /nfsbackup

chown -R rsync.rsync

4、实践测试

rsync -avzP /etc [email protected]::nfsbackup--password-file=/etc/rsync.password

第二个扩展:进行排除测试

1)使用到的参数:--exclude

###rsync -avz --exclude=a --exclude=b --exclude=c/2.txt /home/oldboy/oldboy/ [email protected]::backup--password-file=/etc/rsync.password

2)使用到的参数:--exclude-from=文件

先建立一个文件,把排除的信息写入进去,不得有空格,空行,

###rsync -avz --exclude-from=/oldboy/paichu.txt /oldboy/ [email protected]::backup--password-file=/etc/rsync.password

第二种方法:--exclude={a..b}

###rsync -avz --exclude={a..c} /oldboy/[email protected]::backup --password-file=/etc/rsync.password

第三种方法:更改服务端的rsync模块配置脚本(更改完后杀死进程,重启rsync服务)

在backup里添加的只有backup模块可以使用,下面的nfsbackup模块不可以(这被称为局部变量)

第三个扩展:创建备份目录(各个部分都要往backup目录里发文件,入如果不管理会很杂乱)

1)rsync -avz /oldboy/[email protected]::backup/dev --password-file=/etc/rsync.password (直接在传输过去的时候创建dev目录)

2)rsync -avz /oldboy/[email protected]::backup/sa  --password-file=/etc/rsync.password   (直接在传输过去的时候创建sa目录)

3)rsync -avz /oldboy/[email protected]::backup/dba --password-file=/etc/rsync.password (直接在传输过去的时候创建dba目录)

说明:利用rsync守护进程方式创建备份目录,只能穿件一级目录,不能创建多级目录!

第四个扩展:访问控制配置

rsync -avz /oldboy/ [email protected]::backup --password-file=/etc/rsync.password

======================================================

脚本配置文件里:

hosts allow = 172.16.1.0/24 (允许172.16.1.0/24这个地址)

hosts deny = 0.0.0.0/32 (阻止0.0.0.0/32这个地址,剩下的都不管,相对于白名单来说黑名单权限要大的多!)

说明:白名单和黑名单同时存在是,权限为大者优先使用,(在rsyncd.conf配置文件中,白名单和黑名单的功能选择其一使用)

解决方法:

hosts allow = 172.16.1.0/24

###hosts deny = 0.0.0.0/32  (注释掉单独使用一个名单就可以了)

第五个扩展:无差异同步配置

无差异同步解释:   本地 苹果          远端 也得有一个苹果

      本地 把苹果扔了    远端 也得把苹果扔了

在什么场合使用:

说明:使用无差异同步时要小心!!!

企业面试题:有一个目录(文件),存储空间占用了1T,请将这个目录(文件)下面的内容快速情空?

答:目录1)rsync-avz --delete /null/ (空目录)172.16.1.41:/data_1T/(目标目录)

  文件2)rsync -avz --delete /null/null.txt(空文件)172.16.1.41:/data_1T/file_1T.txt(目标文件)

第六个扩展:列表功能配置(建议不要轻易开启!)

说明:将配置文件中的所有模块都在客户端显示出来,通过模块里的列表功能:list =false---->(false:假,true:真)

测试:将服务端的脚步配置文件中把list= false改写成list = true

警告!!安全隐患:

如果有人想搞破环,通过上面列出来的模块信息,可以通过模块信息加上猜测的密码(一旦猜对了),直接可以使用--delete命令加空(null)文件,对其nfsbackup目录直接清空!

文章最后发布于: 2019-03-28 20:54:34

相关阅读

redmine部署,踩坑而过

背景:部门想用个工具来做项目执行进度的管理,为了保证数据私有并且不想花钱,选了redmine。 环境:阿里云服务器,windows server R2企业

Tomcat服务器安装配置部署

首先下载tomcat服务器: tomcat是一个免费开源的服务器,可以到官方网站:http://tomcat.apache.org/下载,jdk每更新一个版本,tomcat就会

PMM (Percona MySQL Monitor) 部署

部署环境说明mysql 10.0.0.201pmm server 10.0.0.200操作系统都是centos 7.x安装PMM安装dockeryum install docker运行dockersyst

Tomcat部署及优化

Tomcat部署及优化 原文出处:https://www.cnblogs.com/happy-king/p/9193257.html一、Tomcat安装部署 一、安装jdk和Tomcat 1、上传

PXE自动化部署操作系统

说明: 对于单台服务器上的OS安装,我们可以手动进行,若是一个集群服务中的多个节点超过50台服务器的OS安装,手动安装显然是不可行的,因

分享到:

栏目导航

推荐阅读

热门阅读