0

0

mysql如何优化迁移过程中的带宽占用_mysql备份压缩流传输

P粉602998670

P粉602998670

发布时间:2026-03-19 12:09:32

|

414人浏览过

|

来源于php中文网

原创

推荐用 mysqldump | gzip | ssh 管道直传,加 --single-transaction 和 --skip-extended-insert,默认多值 INSERT;大库应分表导出+rsync 断点续传;优先选 mydumper 并发迁移;gzip 用 -3 级别兼顾速度与压缩率。

mysql如何优化迁移过程中的带宽占用_mysql备份压缩流传输

mysqldump + gzip 管道压缩,别先写磁盘再传

直接本地 dump 并压缩后通过管道传到远端,能省掉中间临时文件、减少磁盘 IO 和带宽峰值。不这么做的话,你可能先写出几十 GB 的 dump.sql,再 scp 一遍,两轮全量带宽占用。

  • 正确姿势:mysqldump -u root -p db_name | gzip | ssh user@host "gunzip | mysql -u root -p db_name"
  • --single-transaction(InnoDB)或 --lock-tables=false(避免锁表阻塞业务)
  • --skip-extended-insert 会显著增大传输体积,别开;默认的多值 INSERT 更省带宽
  • 如果网络不稳定,管道中断就全功尽弃,得加 pv 或用 rsync 分段传(见下一条)

大库迁移时用 mysqldump 分库分表导出 + rsync 断点续传

单次管道扛不住百 GB 级迁移:ssh 超时、网络抖动、目标端 MySQL 挂了都会导致重来。把 dump 拆成小单位,配合 rsync 才靠谱。

  • 按表导出:mysqldump -u root -p --databases db_name --tables table1 table2 | gzip > part1.sql.gz
  • 导出后立刻 rsync -avz --partial --progress part1.sql.gz user@host:/backup/
  • --partial 是关键:断了也不删已传部分,下次继续传剩余字节
  • 目标端解压导入前校验 md5sum,避免传坏

mydumpermysqldump 更适合并发迁移

原生 mysqldump 是单线程,导 100 张表要串行扫;mydumper 可指定线程数,同时 dump 多张表、甚至多库,CPU 和网络更均衡,总耗时明显下降。

WisPaper
WisPaper

复旦大学研发的AI学术搜索工具,5分钟内筛选1000篇论文

下载
  • 安装后用:mydumper -u root -p pass -B db_name -o /dump/ -t 4 --compress
  • -t 4 表示开 4 个线程,别盲目设太高,MySQL 连接数和磁盘 IO 会吃紧
  • 生成的是 schema.sql + 每张表一个 table1.sql.gz,天然支持并行 rsync
  • 注意 myloader 导入时默认不关唯一键检查,大数据量建议加 --disable-binlog--queries-per-transaction 50000

压缩级别别死磕 gzip -9-3-6 是性价比拐点

CPU 压缩时间翻倍,带宽只省不到 10%,尤其在千兆内网或 SSD 机器上,纯属浪费。

  • 实测:10 GB 的 dump,gzip -1 耗时 12s,体积 2.1 GB;gzip -9 耗时 84s,体积 1.9 GB
  • 推荐统一用 gzip -3:耗时约 20s,体积约 1.95 GB,兼顾速度与压缩率
  • 如果目标机器 CPU 弱(比如老云主机),宁可传大一点,也别让 gunzip 卡住导入流程
  • zstd 更快更省(zstd -T0 -3),但需两端都装,兼容性不如 gzip
带宽优化的核心不是“压得更狠”,而是让数据流不卡、不重传、不挤占业务连接。真正麻烦的往往不是压缩率,是 mysqldump 锁表时机、SSH 连接超时阈值、以及目标端磁盘写满却没报错——这些比选哪个压缩参数容易被忽略得多。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

690

2023.06.20

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

554

2023.06.21

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

287

2023.07.18

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

520

2023.07.19

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

267

2023.07.25

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

392

2023.08.08

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

543

2023.08.11

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

668

2023.08.14

Go Web框架Gin接口开发与中间件设计实践
Go Web框架Gin接口开发与中间件设计实践

本专题围绕 Go 在 Web 后端开发中的主流框架 Gin 展开,系统讲解高性能接口开发与中间件机制设计。内容涵盖路由分组、请求绑定、参数校验、统一响应封装、日志与鉴权中间件实现,以及接口限流与异常处理策略。通过实战项目案例,帮助开发者构建结构清晰、性能优良的 Go Web 服务体系,提升接口开发效率与系统可维护性。

7

2026.03.19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
MySQL 教程
MySQL 教程

共48课时 | 2.6万人学习

MySQL 初学入门(mosh老师)
MySQL 初学入门(mosh老师)

共3课时 | 0.3万人学习

简单聊聊mysql8与网络通信
简单聊聊mysql8与网络通信

共1课时 | 860人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号