linux下使用rsync同步目錄
本文描述了linux下使用rsync單向同步兩個(gè)機(jī)器目錄的問(wèn)題。 使用rsync同步后可以保持目錄的一致性(含刪除操作)。
數(shù)據(jù)同步方式
1、從主機(jī)拉數(shù)據(jù)
備機(jī)上啟動(dòng)的流程
同步命令:
rsync -avzP --delete root@{remoteHost}:{remoteDir} {localDir}
參數(shù)說(shuō)明:
- -a 參數(shù),相當(dāng)于-rlptgoD(-r 是遞歸 -l 是鏈接文件,意思是拷貝鏈接文件;-p 表示保持文件原有權(quán)限;-t 保持文件原有時(shí)間;-g 保持文件原有用戶組;-o 保持文件原有屬主;-D 相當(dāng)于塊設(shè)備文件);
- -z 傳輸時(shí)壓縮;
- -P 傳輸進(jìn)度;
- -v 傳輸時(shí)的進(jìn)度等信息;
示例:
rsync -avzP --delete root@192.168.1.100:/tmp/rtest1 /tmp/
2、向備機(jī)推數(shù)據(jù)
主機(jī)上啟動(dòng)的流程
同步命令:
rsync -avzP --delete {localDir} root@{remoteHost}:{remoteDir}
示例:
rsync -avzP --delete /tmp/rtest1 root@192.168.1.101:/tmp/
自動(dòng)同步配置
描述同步時(shí)不輸入密碼的配置的方法。
1、使用ssh key
該方法可以直接使用rsync命令進(jìn)行同步,同步過(guò)程中無(wú)需輸入密碼。
在主機(jī)上產(chǎn)生ssh key :
ssh-keygen -t rsa
在備機(jī)上加入pubkey
ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.1.101
或者手動(dòng)添加:
在主機(jī)上執(zhí)行以下命令獲取pubkey:
cat ~/.ssh/id_rsa.pub
在備機(jī)上加入key內(nèi)容:
vi ~/.ssh/authorized_keys
使用pexpect自動(dòng)輸入密碼
示例代碼如下:
#!/usr/bin/env python
# -*- coding: utf-8 -*-
import pexpect
import time
import traceback
def doRsync(user,passwd,ip,srcDir,dstDir,timeout=3600):
cmd = "rsync -azPq --delete {srcDir} {rUser}@{rHost}:{dstDir}".format(
rUser = user,rHost=ip,srcDir=srcDir,dstDir=dstDir
)
try:
ssh = pexpect.spawn(cmd,timeout=timeout)
print cmd
i = ssh.expect(['password:', 'continue connecting (yes/no)?'], timeout=5)
if i == 0 :
ssh.sendline(passwd)
elif i == 1:
ssh.sendline('yes')
ssh.expect('password: ')
ssh.sendline(passwd)
ssh.read()
ssh.close()
except :
#print traceback.format_exc()
pass
if __name__ == '__main__':
doRsync("root","123456","192.168.1.101","/tmp/rtest1","/tmp")
上面是使用python實(shí)現(xiàn)的代碼,大家可根據(jù)情況用其它語(yǔ)言實(shí)現(xiàn)該功能。
其它
1、rsync在執(zhí)行過(guò)程中被kill掉會(huì)怎么樣;
It is safe to kill an rsync process and run the whole thing again; it will continue where it left off. It may be a little inefficient, particularly if you haven't passed --partial (included in -P), because rsync will check all files again and process the file it was interrupted on from scratch.
rsync被kill掉是安全的,下次啟動(dòng)時(shí)還可以正常工作。
2、rsync不能指定時(shí)間段;
1)該問(wèn)題可以通過(guò)kill來(lái)解決
2)或者使用pexpect的timeout參數(shù)來(lái)控制
3)可以先通過(guò)find查找過(guò)濾出文件夾的名字,然后使用rsync進(jìn)行同步 這個(gè)可以根據(jù)現(xiàn)有業(yè)務(wù)的特征進(jìn)行,比如:
find /tmp -name '*' -newermt '2016-03-08' ! -newermt '2016-03-20'
3、rsync在寫(xiě)文件過(guò)程中同步(比如錄音過(guò)程中執(zhí)行rsync操作)
經(jīng)測(cè)試,rsync會(huì)同步部分文件內(nèi)容,文件寫(xiě)入完成后再執(zhí)行rsync會(huì)保持文件的一致
4、當(dāng)文件數(shù)量達(dá)到百萬(wàn)級(jí)以上時(shí),rsync同步時(shí)掃描改變的文件非常耗時(shí)
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Gerrit設(shè)置開(kāi)機(jī)啟動(dòng)方法
下面小編就為大家分享一篇Gerrit設(shè)置開(kāi)機(jī)啟動(dòng)方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-03-03
Linux Shell里面生成隨機(jī)數(shù)的一些思路分析
這篇文章主要介紹了Linux Shell里面生成隨機(jī)數(shù)的一些思路分析,需要的朋友可以參考下2016-07-07
JVM上高性能數(shù)據(jù)格式庫(kù)包Apache Arrow入門和架構(gòu)詳解(Gkatziouras)
Apache Arrow是是各種大數(shù)據(jù)工具(包括BigQuery)使用的一種流行格式,它是平面和分層數(shù)據(jù)的存儲(chǔ)格式,今天給大家介紹JVM上高性能數(shù)據(jù)格式庫(kù)包Apache Arrow入門和架構(gòu)介紹,感興趣的朋友一起看看吧2021-05-05
Ubuntu 20.04系統(tǒng)中安裝vncserver的方法步驟
這篇文章主要介紹了Ubuntu 20.04系統(tǒng)中安裝vncserver的方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-08-08
centOS6中使用crontab定時(shí)運(yùn)行執(zhí)行jar程序的腳本
這篇文章主要介紹了centOS6中使用crontab定時(shí)運(yùn)行執(zhí)行jar程序的腳本,本文給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-11-11
Linux驅(qū)動(dòng)之platform總線詳解
大家好,本篇文章主要講的是Linux驅(qū)動(dòng)之platform總線詳解,感興趣的同學(xué)趕快來(lái)看一看吧,對(duì)你有幫助的話記得收藏一下,方便下次瀏覽2021-12-12
解決xampp自啟動(dòng)和mysql.sock問(wèn)題
Can’t connect to local MySQL server through socket ‘/var/lib/mysql/mysql.sock’2010-10-10

