`
tinyhema
  • 浏览: 150369 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

scp与rsync性能实测

 
阅读更多
在多台机器之间复制大量小文件,对比scp/rsync。

功能对比

排除文件、文件夹功能

scp  没有找到

rsync 可以通过 --exclude选项排除文件、文件夹


性能对比

# 大小
[root@v125008243 source]# du -hs *
198M    xxx

# 数量
[root@v125008243 source]# find . | wc -l
19776

# scp时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;scp -r /opt/source/* root@10.101.81.28:/opt/source > /dev/null; echo $[`date +%s` - $start]
141

# rsync时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;rsync -avzPq /opt/source/* root@10.101.81.28:/opt/source; echo $[`date +%s` - $start]
10
[root@v125008243 source]# ssh root@10.101.81.28 "du -hs /opt/source"
198M    /opt/source

# rsync排除svn文件夹时间
[root@v125008243 source]# ssh root@10.101.81.28 "rm -rf /opt/source"
[root@v125008243 source]# start=`date +%s`;rsync -avzPq --exclude=".svn" /opt/source/* root@10.101.81.28:/opt/source; echo $[`date +%s` - $start]
4
[root@v125008243 source]# ssh root@10.101.81.28 "du -hs /opt/source"
83M     /opt/source


可以看到,rsync在大量小文件的情况下,速度要比scp快很多,大约只需要7%的时间。
还可以通过文件过滤的方式,减少传输量,进一步提升速度。
分享到:
评论

相关推荐

    【IT十八掌徐培成】Hadoop第02天-02.scp-rsync-ssh root配置.zip

    【IT十八掌徐培成】Hadoop第02天-02.scp-rsync-ssh root配置.zip

    docker-rssh:SFTP,SCP和RSYNC的受限制安全外壳

    易于使用的受限制的安全外壳,适用于SFTP,SCP和RSYNC。 基于( )。 用法 将用户定义为docker run最后一个参数,每个参数一个用户(语法: user:pass[:e][:[uid][:gid]] )。 如果要让用户使用与主机文件系统相...

    rsync 限制速度(防止rsync耗带宽)

    有些机房会限制机器的流量,为了不触及底线,在使用scp和rsync的时候都要注意。 为了避免你的scp或者rsync因为无良&懒惰的OPS设置防火墙的偷懒而造成的断流现象,我们必须对自己的数据传输进行一定的限流措施,慢...

    scp工具Mac版Fugo

    Mac版本的scp图形界面的工具Fugo,绝对必备

    Linux使用scp命令进行文件远程拷贝详解

    Linux的scp命令可以在Linux服务器之间复制文件和目录。 使用语法: scp [参数] [源路径] @IP:/目标路径 scp 参数如下: -1: 强制scp命令使用协议ssh1 -2: 强制scp命令使用协议ssh2 -4: 强制scp命令只使用IPv4...

    win10下使用git配置rsync实现断点续传及增量传输

    远程文件传输rsync-断点续传及增量传输,rsync实现断点续传 ...可以考虑使用rsync命令替代scp来断点续传文件 win10下使用git配置rsync实现断点续传,解压缩后cp到git对应usr目录下,打开bash 输入 rsync --version 验证

    java调SCP java调SCP.rar

    java调SCP java调SCP.rarjava调SCP.rar

    Rsync Windows 免费同步软件

    Rsync是一款不错的文件免费同步软件,可以镜像保存整个目录树和文件系统,同时保持原来文件的权限、时间、软硬链接。...支持scp、ssh及直接socket方式连接,支持匿名传输。支持Linux,Window平台。 版本:4.0.5

    GP2.2SCP03_GP2.2SCP03_scp03_

    GP2.2-SCP03安全通道协议

    ARM scp代码解析+参考资料

    1.scp 代码结构 1.1 scp 目录结构 2 scp module 2.1.所有module信息的维护 2.2.module功能的提供 2.2.1 module的绑定 3.scp 应用初始化及boot流程 3.1 scp 应用初始化流程 3.2 scp boot 3.2.1 ARM Trusted Firmware ...

    标准心电数据交换协议SCP-ECG 的解析与实现

    标准心电数据交换协议SCP-ECG(Standard Communication Protocolfor Computerized Electorcardiography)定义了用干交换的心电数据的内容和格式,用于控制在不同工作站和用户间的数据流的查询和控制消息,以及在数字...

    windows下的scp命令

    pscp.exe windows下的scp命令,Windows与Linux之间传输文件的工具。 PSCP (PuTTY Secure Copy client)是PuTTY 提供的文件传输工具,通过SSH连接,在两台机器之间安全的传输文件,可以用于任何SSH(包括SSH v1、SSH ...

    Linux scp命令用法及实例分享

    Linux下scp的用法 scp就是secure copy,一个在linux下用来进行远程拷贝文件的命令。 有时我们需要获得远程服务器上的某个文件,该服务器既没有配置ftp服务器,也没有做共享,无法通过常规途径获得文件时,只需要通过...

    GP2.2SCP03.pdf

    SCP03基于AES算法的安全通道协议,通过安全域持有的密钥实现终端与Smart Card的安全通讯

    数据同步原理介绍(scp与数据库的同步)

    BMP会把相关用户数据同步到SCP上 目前BMP与SCP之间通过LDS方案来同步,LDS即轻量级数据同步组件(Light Data Sync),提供向其他多个系统同步数据的传输通道,支持路由管理和模型转换机制。

    java scp实现方式

    java scp实现方式

    通过秘钥实现scp不输入密码传送文件

    通过秘钥实现scp不输入密码传送文件,作成脚本可以实现远程备份等等实用功能.

    SolarWinds-SFTP-SCP-Server.zip

    Solarwinds的SCP/SFTP 服务器软件。 支持windows系统 下载后直接双击安装。 安装完成后,点开服务器软件 配置用户名 密码 根目录 然后启动服务。

    RSYNC服务介绍和搭建

    rsync具有可使本地和远程两台主机之间的数据快速复制同步镜像、远程备份的功能 类似于ssh带的scp命令 scp每次都是全量拷贝,rsync可以增量拷贝.。还可以在本地主机之间不同分区或者目录之间全量及增量的复制数据 ...

Global site tag (gtag.js) - Google Analytics