Day32rsync复制软件应用与实践(课堂笔记)

Day32


作者:孙鹏鹏

归档:课后笔记

时间:2019/4/15


快捷键:

Ctrl + 1    标题1

Ctrl + 2    标题2

Ctrl + 3    标题3

Ctrl + 4    标题4

Ctrl + 5    程序代码

Ctrl + 6    正文

Ctrl + 7    实例1-1

格式说明:

蓝色字体:注释

黄色背景:重要

绿色背景:注意

老男孩教育教学核心思想6重:重目标、重思路、重方法、重实践、重习惯、重总结

学无止境,老男孩教育成就你人生的起点!

联系方式:

网站运维QQ交流群:

Linux 385168604架构师390642196

Python 29215534大数据421358633

官方网站:

http://www.oldboyedu.com 

目  录

第一章:




第一节:rsync复制软件应用与实践

#什么是rsync

##rsync,rsync英文全称为Remotesynchronization   缩写rsync

##是开源、高速的、可实现本地以及远程,全量以及增加的数据复制(拷贝)工具

#全量和增量的区别

##全量复制:

[root@nfs01~]# cp -a /etc/ /opt/

[root@nfs01~]# \cp -a /etc/ /opt

[root@nfs01~]# touch /etc/oldboy.txt

[root@nfs01~]# \cp -a /etc/ /opt/

##增量复制:

###只复制oldboy.txt

#rsync的作用:

##工作中都需要定时或实时数据备份。本地服务器目录,设备文件等、

##不同的机房之间的数据备份都可以用rsync完成

#rsync功能特性:

 支持拷贝普通文件与特殊文件,如链接文件,设备文件等。

 支持排除指定文件或目录同步的功能,相当于打包命令tar的排除功能。

 可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。

 可实现增量复制,既只复制发生变化的数据,因此数据传输效率很高。

 可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件(rsync本身不对数据加密)。

 可以通过socket(进程方式)传输文件和数据(服务端和客户端)*。

 支持匿名或认证(无需系统用户)进程模式传输,安全的进行数据备份及镜像

#增量复制原理:

##使用 quick check算法,只对增量的部分复制,根据大小属性的变化进行复制。

##2.x比对差异后复制,3.x一边比对一边复制。

#rsync三种工作模式介绍:

##1)本地(local)

rsync就是一个命令

rsync     [OPTION...]       SRC...         [DEST]

rsync命令    参数选项      [源目录或文件]      目的目录或文件

##命令操作:

##rsync命令

###a.把数据从一个地方复制到另一个地方(仅在一台机器增量),相当于cp。

###b.通过加参数实现删除文件和清空文件内容的功能,相当于rm命令。

###c.查看属性信息功能,相当于ls。

##实践:

###基础不牢,地动山摇。————老男孩

###听话出活,跑通在变通。————老男孩

##a.拷贝实践

[root@backup ~]# ls /opt

[root@backup ~]# rsync /etc/hosts /opt

[root@backup ~]# ls /opt

hosts

[root@backup ~]# \cp /etc/hosts /opt

##保持属性:

[root@backup ~]# rsync -zrtopg /etc/hosts /opt/

[root@backup ~]# ls -lhi /etc/hosts /opt/hosts

16829878 -rw-r--r--. 1 root root 332 4月  12 11:24 /etc/hosts

   71373 -rw-r--r--  1 root root 332 4月  12 11:24 /opt/hosts 

##b.删除实践

##删除文件内容:

[root@backup ~]# touch /null.txt #空文件

[root@backup ~]# cat /opt/hosts

127.0.0.1    localhostlocalhost.localdomain localhost4 localhost4.localdomain4

::1          localhostlocalhost.localdomain localhost6 localhost6.localdomain6

172.16.1.5 lb01

172.16.1.6 lb02

172.16.1.7 web01

172.16.1.8 web02

172.16.1.9 web03

172.16.1.31 nfs01

172.16.1.41 backup

172.16.1.51 db01 db01.etiantian.org

172.16.1.61 m01

[root@backup ~]# rsync --delete /null.txt /opt/hosts  #让前面null.txt和后面hosts一样

rsync: --delete does not work without --recursive (-r) or --dirs (-d).

rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]

[root@backup ~]# rsync -r --delete /null.txt /opt/hosts

[root@backup ~]# cat /opt/hosts

##删除目录下所有文件:

[root@backup ~]# mkdir /null

[root@backup ~]# rsync -r --delete /null/ /opt/       #让后面opt和前面null目录内容保持一致

[root@backup ~]# ls /opt/

##c.查看属性

[root@backup ~]# rsync /etc/hosts

-rw-r--r--            332 2019/04/1211:24:41 hosts


##2)远程Shell模式

###借助类似ssh隧道传输数据,适合不同的机器之间复制。

###异地拷贝,相当于scp,区别scp是远程全量拷贝)

###拉门 推门 思考:

###pull,拉:从远端拉取到本地。

###语法:

rsync      [OPTION...]    [USER@]HOST:SRC...                [DEST]

rsync命令    参数选项      [认证用户]@[主机地址]:[源路径]  本地路径

###语法:

###push,推:从本地推到远端。

rsync      [OPTION...]   SRC...   [USER@]HOST:[DEST]       

rsync命令    参数选项      本地路径 [认证用户]@[主机地址]:[目标路径]

###push实践:

[root@nfs01 ~]# rsync -avz /etc/hosts [email protected]:/opt/ #加密传输。

The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.

ECDSA key fingerprint isSHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXqNEk.

ECDSA key fingerprint is MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d8:33.

Are you sure you want to continue connecting (yes/no)? yes

Warning: Permanently added '172.16.1.41' (ECDSA) to the list of knownhosts.

[email protected]'s password:

sending incremental file list

hosts

sent 219 bytes  received 35bytes  14.51 bytes/sec

total size is 332  speedup is 1.31

###检查:

[root@backup ~]# cd /opt/

[root@backup /opt]# ls

hosts

rsync -avz /etc/hosts [email protected]:/opt/

rsync -avz /etc/hosts -e "ssh -p 22" [email protected]:/opt/

上述命令是等价的。-e 指定通道  ssh ssh服务连接客户端  -p 22指定22端口。

[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh -p 22"[email protected]:/opt/

[email protected]'s password:

sending incremental file list

sent 44 bytes  received 12bytes  22.40 bytes/sec

total size is 332  speedup is 5.93

###拉的命令:

rsync -avz [email protected]:/opt/hosts /opt

rsync -avz -e "ssh -p 22" [email protected]:/opt/hosts /opt

###推拉:

###a.参照物,执行命令的机器

[email protected] 使用的用户和主机,就用主机和用户的密码。

###强调一个重点:适合rsync

null和null/ 区别,null是目录和目录下的内容,

null/只是目录下的内容,不含本身。

##3)rsync守护进程模式

###首先要搭建rsync服务端(要有守护进程),然后才能在客户端实现推拉数据。

###企业运维的重要模式,重点讲。

###客户端语法暂时不讲。

rsync服务模式:*****开启后台进程,接受别人访问。#实践:

##基础不牢,地动山摇。         --------老男孩

##听话出活,跑通在变通。       ---------老男孩

#rsync命令参数

-v, --verbose  显示输出过程

-z, --compress 压缩

-a, --archive  多参数集合(-rtopgDl)

-r, --recursive 递归

-t, --times    保持修改时间属性

-o, --owner    保持属主不变

-p, --perms    保持权限不变

-g, --group    保持用户组不变

-l, --links    保持拷贝软连接

-q, --quiet    安静的拷贝

--bwlimit=KBPS 限制I/O带宽,KBytes per second。

--delete       删除

--exclude      排除

--exclude-from 从文件中排除


企业常用参数组合:-avz或者-vzrtopg

8rsync守护进程模式应用实践

 

1)以下操作都是在backup服务器

1)安装

[root@backup ~]# rsync --version

rsync  version3.1.2  protocol version 31

[root@backup ~]# yum install rsync(不需要)

 

2)配置配置文件/etc/rsyncd.conf

备份

cp /etc/rsyncd.conf{,.ori}

cat>/etc/rsyncd.conf<

#rsync_config_______________start

#created by oldboy

#site: http://www.oldboyedu.com

uid = rsync

gid = rsync

use chroot = no

fake super = yes

max connections = 200

timeout = 600

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

ignore errors

read only = false

list = false

hosts allow = 172.16.1.0/24

hosts deny = 0.0.0.0/32

auth users = rsync_backup

secrets file = /etc/rsync.password

[backup]

comment = welcome to oldboyedu backup!

path = /backup/

EOF

 

man rsync 查命令的参数

man rsyncd.conf 查配置参数

https://www.samba.org/ftp/rsync/rsync.html

 

学会获取知识的源头。——老男孩

 

创建用户和备份目录

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) =1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4  15 12:12 /backup/

 

 

3)启动和检查

rsync --daemonc6及以前)

systemctl start rsyncd

systemctl enable rsyncd

systemctl status rsyncd

 

[root@backup ~]# ps -ef|grep sync|grep -v grep  #检查进程

root      7521      1  0 11:39 ?        00:00:00 /usr/bin/rsync --daemon--no-detach

 

[root@backup ~]# netstat -lntup|grep 873 #检查端口

tcp       0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      7521/rsync         

tcp6      0      0 :::873                  :::*                    LISTEN      7521/rsync

        

[root@backup ~]# lsof -i :873 #检查端口

COMMAND  PIDUSER   FD   TYPE DEVICE SIZE/OFF NODE NAME

rsync   7521root    3u  IPv4 41439     0t0  TCP *:rsync (LISTEN)

rsync   7521root    5u  IPv6 41440      0t0  TCP *:rsync (LISTEN)

 

面试题:如何查看某端口对应什么服务?答案就是上面两个。

 

4)配置密码文件

[root@backup ~]# echo "rsync_backup:oldboy"> /etc/rsync.password

[root@backup ~]# chmod 600 /etc/rsync.password

[root@backup ~]# cat /etc/rsync.password

rsync_backup:oldboy

[root@backup ~]# ls -l /etc/rsync.password

-rw------- 1 root root 20 4  15 11:51 /etc/rsync.password

 

rsync服务端配置完成。

 

2)以下操作都是在客户端服务器

以下方法21

方法1:认证密码文件

[root@nfs01 ~]# echo "oldboy" >/etc/rsync.password

[root@nfs01 ~]# chmod 600 /etc/rsync.password

[root@nfs01 ~]# cat /etc/rsync.password

oldboy

[root@nfs01 ~]# ls -l /etc/rsync.password

-rw------- 1 root root 7 4  15 11:55 /etc/rsync.password

 

方法2

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy'>>/etc/bashrc

[root@nfs01 ~]# tail -1 /etc/bashrc

 exportRSYNC_PASSWORD=oldboy

[root@nfs01 ~]# . /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

oldboy

 

 

 

rsync客户端 nfs01 配置完成

 

3)守护进程模式,客户端rsync的命令语法:

 

配置服务器端守护进程,实现数据传输:

 

1、服务器端守护进程。2、客户端执行命令。

拉门、推门 思考:

 

pull,拉:从远端拉取到本地。

语法1(常用):

rsync      [OPTION...]   [USER@]HOST::SRC...                   [DEST]

rsync命令   参数选项     [虚拟用户]@[主机地址]::[模块名]         本地路径

 

语法2:

rsync      [OPTION...]   rsync://[USER@]HOST::SRC...                   [DEST]

rsync命令   参数选项     rsync://[虚拟用户]@[主机地址]/[模块名]   本地路径

 

push,推:从本地推到远端。

语法1(常用):                

rsync      [OPTION...]     [DEST]       [USER@]HOST::SRC...                     

rsync命令   参数选项       本地路径      [虚拟用户]@[主机地址]::[模块名]      

 

语法2:                   

rsync      [OPTION...]     [DEST]        rsync://[USER@]HOST::SRC...                 

rsync命令   参数选项       本地路径      rsync://[虚拟用户]@[主机地址]/[模块名]

 

4)测试成果

 

错误1

[root@nfs01 ~]# rsync -avz /etc/[email protected]::backup --password-file=/etc/rsync.password

@ERROR: invalid uid rsync

rsync error: error starting client-server protocol(code 5) at main.c(1648) [sender=3.1.2]

解答:

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) =1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4  15 12:12 /backup/

 

错误2

[root@nfs01 ~]# rsync -avz /etc/[email protected]::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

rsync: chgrp ".hosts.YDuTjO" (in backup)failed: Operation not permitted (1)

 

sent 223 bytes received 124 bytes  694.00bytes/sec

total size is 332 speedup is 0.96

rsync error: some files/attrs were not transferred(see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答:增加如下参数到/etc/rsyncd.conf

fake  super  = yes #不用root用户也可以存储文件的完整属性。

This allows the full attributes of a file to  be stored  without having to have thedaemon actually running as root.

[root@backup ~]# grep fake /etc/rsyncd.conf

fake super = yes

 

改完配置,要重启服务:

[root@backup ~]# systemctl restart rsyncd

 

在测试:成功

[root@nfs01 ~]# rsync -avz /etc/[email protected]::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

 

sent 89 bytes received 49 bytes  276.00bytes/sec

total size is 332 speedup is 2.41

 

rsync -avz /etc [email protected]::backup--password-file=/etc/rsync.password

 

服务端检查:

[root@backup ~]# ls /backup/

hosts

[root@backup ~]# ls /backup/

etc  hosts

 

如果客户端按照环境变量的方式配置,则可以忽略--password-file=/etc/rsync.password参数。

[root@nfs01 ~]# rsync -avz /[email protected]::backup

sending incremental file list

 

sent 52,071 bytes received 644 bytes  105,430.00bytes/sec

total size is 31,244,350  speedup is 592.70

 

测试增量

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# rsync -avz /[email protected]::backup

sending incremental file list

etc/oldboy.txt

 

sent 52,098 bytes received 655 bytes  105,506.00bytes/sec

total size is 31,244,350  speedup is 592.28

你可能感兴趣的:(Day32rsync复制软件应用与实践(课堂笔记))