MySQL Backup myloader

2019-01-02 14:14:39来源:cnblogs.com作者:H_Johnny人点击

分享

正文

之前的博文当中提到备份工具mydumper的使用,而软件包中还包含了与之对应的恢复工具myloader,本文就总结下myloader的用法。关于mydumper的安装与使用可以参考之前的博文:MySQL Backup mydumper

查看myloader的版本信息:

# myloader -Vmyloader 0.9.5, built against MySQL 5.7.21-21

主要选项

# myloader --helpUsage:  myloader [OPTION?] multi-threaded MySQL loaderHelp Options:  -?, --help                        Show help optionsApplication Options:  -d, --directory                   Directory of the dump to import  -q, --queries-per-transaction     Number of queries per transaction, default 1000  -o, --overwrite-tables            Drop tables if they already exist  -B, --database                    An alternative database to restore into  -s, --source-db                   Database to restore  -e, --enable-binlog               Enable binary logging of the restore data  -h, --host                        The host to connect to  -u, --user                        Username with the necessary privileges  -p, --password                    User password  -a, --ask-password                Prompt For User password  -P, --port                        TCP/IP port to connect to  -S, --socket                      UNIX domain socket file to use for connection  -t, --threads                     Number of threads to use, default 4  -C, --compress-protocol           Use compression on the MySQL connection  -V, --version                     Show the program version and exit  -v, --verbose                     Verbosity of output, 0 = silent, 1 = errors, 2 = warnings, 3 = info, default 2  --defaults-file                   Use a specific defaults file
  • -d, --directory
    要import的备份文件所在目录

  • -q, --queries-per-transaction
    每个事务的查询数, 默认为1000

  • -o, --overwrite-tables
    如果表存在则删除表

  • -B, --database
    指定需要还原成的数据库名

  • -s, --source-db
    指定还原的源数据库

  • -e, --enable-binlog
    还原数据时记录binlog日志

  • -h, --host
    指定连接host

  • -u, --user
    指定连接用户,需有相应的权限

  • -p, --password
    指定用户密码

  • -a, --ask-password
    指定用户密码提示输入

  • -P, --port
    指定连接port

  • -S, --socket
    指定本地socket文件连接

  • -t, --threads
    指定dump线程数, 默认是4

  • -C, --compress-protocol
    在mysql连接时使用压缩协议

  • -V, --version
    显示程序版本并退出

  • -v, --verbose
    显示更详细的输出, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 默认是2

  • --defaults-file
    指定默认参数文件

还原流程

前期准备工作与mydumper一致,可参考mydumper备份流程MySQL Backup mydumper 备份流程。

  • 备份全库
# mydumper -h 192.168.58.3 -u admin -a -P 3306 -t 8 -e -o /data/test/
  • 查看test2库信息
(root@localhost) [(none)] > use test2;Database changed(root@localhost) [test2] > show tables;+-----------------+| Tables_in_test2 |+-----------------+| t1              |+-----------------+1 row in set (0.00 sec)(root@localhost) [test2] > select * from t1;+----+----------+| id | title    |+----+----------+|  1 | mydumper ||  2 | myloader |+----+----------+2 rows in set (0.00 sec)
  • 删除test2库
(root@localhost) [(none)] > show databases;+--------------------+| Database           |+--------------------+| information_schema || mysql              || performance_schema || sys                || test1              || test2              |+--------------------+6 rows in set (0.01 sec)(root@localhost) [(none)] > drop database test2;Query OK, 4 rows affected (0.16 sec)(root@localhost) [(none)] > show databases;+--------------------+| Database           |+--------------------+| information_schema || mysql              || performance_schema || sys                || test1              |+--------------------+5 rows in set (0.01 sec)
  • 还原备份里test2库成test3库
# myloader -h 192.168.58.3 -u admin -a -P 3306 -s test2 -B test3 -d /data/test/
  • 查看general log
-- 主线程连接数据库,设置临时session级别参数,默认导入数据时不记录binlog 264 Connect   admin@dbabd on  using TCP/IP 264 Query     SET SESSION wait_timeout = 2147483 264 Query     SET SQL_LOG_BIN=0 264 Query     /*!40014 SET FOREIGN_KEY_CHECKS=0*/-- 产生了4个子进程,设置会话级参数,默认不记录binlog,关闭自动提交 265 Connect   admin@dbabd on  using TCP/IP 265 Query     SET SESSION wait_timeout = 2147483 265 Query     SET SQL_LOG_BIN=0 265 Query     /*!40101 SET NAMES binary*/ 265 Query     /*!40101 SET SQL_MODE='NO_AUTO_VALUE_ON_ZERO' */ 265 Query     /*!40014 SET UNIQUE_CHECKS=0 */ 265 Query     SET autocommit=0 266 Connect   admin@dbabd on  using TCP/IP 266 Query     SET SESSION wait_timeout = 2147483 266 Query     SET SQL_LOG_BIN=0 266 Query     /*!40101 SET NAMES binary*/ 266 Query     /*!40101 SET SQL_MODE='NO_AUTO_VALUE_ON_ZERO' */ 266 Query     /*!40014 SET UNIQUE_CHECKS=0 */ 266 Query     SET autocommit=0  267 Connect   admin@dbabd on  using TCP/IP 267 Query     SET SESSION wait_timeout = 2147483 267 Query     SET SQL_LOG_BIN=0 267 Query     /*!40101 SET NAMES binary*/ 267 Query     /*!40101 SET SQL_MODE='NO_AUTO_VALUE_ON_ZERO' */ 267 Query     /*!40014 SET UNIQUE_CHECKS=0 */ 267 Query     SET autocommit=0  268 Connect   admin@dbabd on  using TCP/IP 268 Query     SET SESSION wait_timeout = 2147483 268 Query     SET SQL_LOG_BIN=0 268 Query     /*!40101 SET NAMES binary*/ 268 Query     /*!40101 SET SQL_MODE='NO_AUTO_VALUE_ON_ZERO' */ 268 Query     /*!40014 SET UNIQUE_CHECKS=0 */ 268 Query     SET autocommit=0 -- 主线程创建还原数据库和表 264 Query     SHOW CREATE DATABASE `test3` 264 Query     CREATE DATABASE `test3` 264 Query     USE `test3` 264 Query     /*!40101 SET NAMES binary*/ 264 Query     /*!40014 SET FOREIGN_KEY_CHECKS=0*/ 264 Query     /*!40103 SET TIME_ZONE='+00:00' */ 264 Query     CREATE TABLE `t1` (  `id` int(11) NOT NULL AUTO_INCREMENT,  `title` varchar(10) DEFAULT NULL,  PRIMARY KEY (`id`)) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=utf8-- 子线程插入表数据 265 Query     USE `test3` 266 Quit 265 Query     START TRANSACTION 267 Quit 265 Query     /*!40101 SET NAMES binary*/ 265 Query     /*!40014 SET FOREIGN_KEY_CHECKS=0*/ 265 Query     /*!40103 SET TIME_ZONE='+00:00' */ 268 Quit 265 Query     INSERT INTO `t1` VALUES(1,"mydumper"),(2,"myloader") 265 Query     COMMIT 265 Quit 264 Quit

总结下myloader的工作流程:

  • 主线程连接MySQL,根据指定选项设置会话级参数;
  • 创建多个子线程(默认4个),设置会话级参数,关闭自动提交;
  • 主线程创建库和表;
  • 子线程插入表数据;
  • (如有)主线程创建函数、存储过程、触发器和视图;
  • import过程结束。

用法示例

  • 还原单个库
# myloader -h 192.168.58.3 -u admin -a -P 3306 -s test1 -o -v 3 -d /data/test/
  • 还原库并重命名
# myloader -h 192.168.58.3 -u admin -a -P 3306 -s test1 -B test1_bak -o -v 3 -d /data/test/
  • 指定还原子线程数
# myloader -h 192.168.58.3 -u admin -a -P 3306 -s test1 -o -v 3 -t 8 -d /data/test/

很遗憾myloader没有针对单表或都多表的还原操作命令,有一种方法是通过mydumper将个别大表进行指定chunk大小切割备份,并将每张表单独目录存放备份数据,必须是每张表的数据单独放在一个目录中,目录中只包含一张表的信息代表着还原时只须还原这一张表,避免影响相同库下其他的表数据,因为myloader只能指定库级别的参数选项,这样就可以间接使用到myloader多线程还原功能,加快还原单表速度。

以下做个测试:

-- test1.t3表有100万行(root@localhost) [test1] > select count(*) from t3;+----------+| count(*) |+----------+|  1000000 |+----------+1 row in set (0.00 sec)-- mydumper备份test1.t3,指定chunk大小为3M# mydumper -h 192.168.58.3 -u admin -a -P 3306 -B test1 -T t3 -F 2 -e -o /data/test/-- 删除test1.t3表(root@localhost) [test1] > drop table t3;Query OK, 0 rows affected (0.04 sec)(root@localhost) [test1] > select * from t3;Empty set (0.00 sec)-- myloader还原test1.t3# myloader -h 192.168.58.3 -u admin -a -P 3306 -s test1 -o -v 3 -d /data/test/** Message: 4 threads created** Message: Dropping table or view (if exists) `test1`.`t3`** Message: Creating table `test1`.`t3`** Message: Thread 1 restoring `test1`.`t3` part 1** Message: Thread 4 restoring `test1`.`t3` part 3** Message: Thread 2 restoring `test1`.`t3` part 4** Message: Thread 3 restoring `test1`.`t3` part 2** Message: Thread 2 restoring `test1`.`t3` part 5** Message: Thread 3 restoring `test1`.`t3` part 6** Message: Thread 4 restoring `test1`.`t3` part 7** Message: Thread 1 shutting down** Message: Thread 4 shutting down** Message: Thread 2 shutting down** Message: Thread 3 shutting down(root@localhost) [test1] > select count(*) from t3;+----------+| count(*) |+----------+|  1000000 |+----------+1 row in set (0.00 sec)

由以上结果可见,还原使用到了多线程,提高了还原的效率。

参考

  • http://www.cnblogs.com/lizhi221/p/7017900.html

☆〖本人水平有限,文中如有错误还请留言批评指正!〗☆

相关文章

    无相关信息

微信扫一扫

第七城市微信公众平台