我的编程空间,编程开发者的网络收藏夹
学习永远不晚

Linux如何提高大文件的拷贝效率

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

Linux如何提高大文件的拷贝效率

这篇文章主要介绍“Linux如何提高大文件的拷贝效率”,在日常操作中,相信很多人在Linux如何提高大文件的拷贝效率问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Linux如何提高大文件的拷贝效率”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

  你可以从源机器逐个拷贝到逐台目标机器,但是往往时间也是成倍的。或者你也可以同时从源机器同时拷贝到多个目标机器,但是受制于源机器的带宽等因素,速度并不见得真的很快。

  还好,借助一些UNIX工具可以做的更好。把tee和FIFO组合起来,可以形成一个文件快速分发链:处于分发链中的每台机器会保存文件,同时还分发给它的下一环。

  首先,选定一台目标机器做为分发链的最后一环,在这台机器上只需要用nc监听(假定端口是1234),再通过管道由pigz解压缩,继续通过管道把数据交由tar来分解。

  nc -l 1234| pigz -d | tar xvf -

  然后,再从分发链的末端往上走,设置其它目标机器,同样要经过监听、解压、分解,不过在解压之前我们通过tee命令将数据输出到命名管道(FIFO),另外的一条shell管道会将这些未解压的数据同时分发到分发链的下一环:

  mkfifo myfifo

  nc hostname_of_next_box 1234 nc -l 1234| tee myfifo | pigz -d | tar xvf -

  最后,在源机器上启动分发链,让数据传输到分发链的第一环:

  tar cv some_files | pigz | nc hostname_of_first_box 1234

  在我的测试中,分发链中的每台机器大概损失了3%-10%的性能(相对于1对1的拷贝而言),但是相对逐个逐个的拷贝或者单台机器向多台机器同时分发,效率提升是很明显的。

到此,关于“Linux如何提高大文件的拷贝效率”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

Linux如何提高大文件的拷贝效率

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

Linux如何提高大文件的拷贝效率

这篇文章主要介绍“Linux如何提高大文件的拷贝效率”,在日常操作中,相信很多人在Linux如何提高大文件的拷贝效率问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Linux如何提高大文件的拷贝效率”的疑惑有所
2023-06-13

linux下如何实现快速拷贝大文件

拷贝数据远程拷贝数据的时候,我们一般使用rsync命令,但是如果拷贝大量的小文件,会导致rsync的传输速度慢。使用tar pv lz4打包压缩传输,可以解决这问题,使用这个方法,等同于使用scp、rsync传输大文件。实测,使用rsync
2022-06-03

ssh连接linux如何拷贝文件

在使用ssh连接到Linux服务器后,可以使用以下几种方式拷贝文件:使用scp命令:scp命令可以通过ssh连接在本地和远程服务器之间拷贝文件。例如,将本地文件拷贝到远程服务器上:scp local_file user@remote_hos
2023-10-22

Linux如何把文件拷贝到桌面

可以通过以下几种方式将文件拷贝到Linux桌面:1. 使用命令行:使用cp命令将文件拷贝到桌面。假设要拷贝的文件名为file.txt,执行以下命令: bash cp /path/to/file.txt ~/Desktop/
2023-10-23

如何拷贝云服务器的文件

要拷贝云服务器的文件,可以使用以下方法:1. 使用SCP命令:SCP(Secure Copy)是通过SSH协议进行加密的文件传输工具。可以使用以下命令将云服务器上的文件拷贝到本地:```scp username@服务器IP:源文件路径 目标
2023-09-23

如何拷贝云服务器的文件

本教程指导如何拷贝云端服务器文件,介绍了四种方法:SCP命令、Rsync命令、SFTP和Web浏览器。SCP和Rsync使用SSH连接,提供安全传输。SFTP使用SSH和SFTP客户端。Web浏览器允许通过云平台访问文件。文中强调文件权限、传输恢复和数据安全等注意事项,并鼓励定期备份服务器上的重要文件。
如何拷贝云服务器的文件
2024-04-12

Linux系统中如何把文件拷贝到U盘

小编给大家分享一下Linux系统中如何把文件拷贝到U盘,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!Linux下把所有的都当成文件处理,如果在linux系统下需要
2023-06-12

如何解决Linux系统之间拷贝文件的问题

小编给大家分享一下如何解决Linux系统之间拷贝文件的问题,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!  第一种方法  首先,无论本地还是远程,需要移动或拷贝的文件较多且都不太大时,用cp命令和mv命令效率较低,可以先使
2023-06-13

如何提高Android从文件中读取图像的效率

本篇文章给大家分享的是有关如何提高Android从文件中读取图像的效率,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。方法一start_time = System.current
2023-05-31

如何提高爬虫的效率

如何提高爬虫的效率?很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。1、尽量减少网站访问次数单次爬虫把主要时间消耗在网络请求等待响应上边,因此能减少网站访问就减少网
2023-06-15

python中如何使用GPU大幅提高效率

本篇文章给大家分享的是有关python中如何使用GPU大幅提高效率,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。cupy我觉得可以理解为cuda for numpy,安装方式p
2023-06-25

编程热搜

目录