我的编程空间,编程开发者的网络收藏夹
学习永远不晚

mysql binlog 日志详解及恢复

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

mysql binlog 日志详解及恢复

一、binlog概述

binlog是Mysql sever层维护的一种二进制日志,与innodb引擎中的redo/undolog是完全不同的日志;

其主要是用来记录对mysql数据更新或潜在发生更新的SQL语句,并以"事务"的形式保存在磁盘中;

作用主要有:

复制:MySQL Replication在Master端开启binlog,Master把它的二进制日志传递给slaves并回放来达到master-slave数据一致的目的

数据恢复:通过mysqlbinlog工具恢复数据

增量备份:

二、开启binlog日志:

  vi编辑打开mysql配置文件

  # vi /etc/my.cnf

  在[mysqld] 区块

  设置/添加 log-bin=mysql-bin  确认是打开状态(值 mysql-bin 是日志的基本 名或前缀名);

  重启mysqld服务使配置生效

  #pkill mysqld

  #mysqld_safe --defaults-file=/etc/my.cnf &

  mysql> show variables like 'log_bin%';

  +---------------------------------+---------------------------------------+

  | Variable_name                   | Value                                 |

  +---------------------------------+---------------------------------------+

  | log_bin                         | ON                                    |

  | log_bin_basename                | /u01/mysql3308/binlog/mysql-bin       |

  | log_bin_index                   | /u01/mysql3308/binlog/mysql-bin.index |

  | log_bin_trust_function_creators | OFF                                   |

  | log_bin_use_v1_row_events       | OFF                                   |

  +---------------------------------+---------------------------------------+

三、常用binlog日志操作命令

   1.查看所有binlog日志列表

     mysql> show master logs;

   2.查看master状态,即最后(最新)一个binlog日志的编号名称,及其最后一个操作事件pos结束点(Position)值

     mysql> show master status;

   3.刷新log日志,自此刻开始产生一个新编号的binlog日志文件

     mysql> flush logs;

     注:每当mysqld服务重启时,会自动执行此命令,刷新binlog日志;在mysqldump备份数据时加 -F 选项也会刷新binlog日志;

   4.删除二进制日志

     a.mysql> reset master;  重置(清空)所有binlog日志

     b.purge master logs to 'mysql-bin.000006'; (删除mysql-bin.000006之前的二进制日志文件)

     c.purge master logs before '2019-08-10 04:07:00'(删除该日期之前的日志)

     d.在my.cnf 配置文件中[mysqld]中添加:

       expire_logs_day=3设置日志的过期天数,过了指定的天数,会自动删除

四、mysqlbinlog工具介绍

mybinlog常用参数介绍

  mysqlbinlog  

   --base64-output  控制解析日志文件编码输出参数如下:

     auto:默认常规输出

     never:不处理row格式日志

     decode-rows:解码处理,通常与-V 一起使用

  -v 重组伪SQL语句输出,指定两次-v,输出信息中还包括列的数据类型信息。

  -d 只处理与指定数据库相关的日志

  --start-datetime  指定分析起始的时间点

  --stop-datetime 指定分析结束的时间点  (可以做精确的时间点恢复)

  -j,--start-position:指定分析起始事件位置(#at 后面的值)

  --stopt-position:指定分析结束事件位置 (可以做基于位置点恢复)

  对于 mysqlbinlog的详细信息,参见mysql手册8.6节,“mysqlbinlog:用于处理二进制日志文件的实用工具”。

  要想从二进制日志恢复数据,你需要知道当前二进制日志文件的路径和文件名。一般可以从选项文 件(即my.cnf or my.ini,取决于你的系统)中找到路径。

  如果未包含在选项文件中,当服务器启动时,可以在命令行中以选项的形式给出。启用二进制日志的选项为--log-bin。

  要想确定当前的二进制日志文件的文件名,输入下面的MySQL语句:

  SHOW BINLOG EVENTS G (查看初始的二进制文件信息)

  你还可以从命令行输入下面的内容:

  mysql --user=root -pmy_pwd -e 'SHOW BINLOG EVENTS G',将密码my_pwd替换为服务器的root密码。

  指定恢复时间

  mysqlbinlog语句中通过--start-datetime和--stop-datetime选项指定DATETIME格式的起止时间

  举例说明,假设在今天上午10:00(今天是2019年4月20日),执行SQL语句来删除一个大表。要想恢复表和数据,你可以恢复前晚上的备份,并输入:

  mysqlbinlog --stop-datetime="2019-04-20 9:59:59″ /u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd

  该命令将恢复截止到在--stop-datetime选项中以DATETIME格式给出的日期和时间的所有数据。如果你没有检测到几个小时后输入的错误的SQL语句,

  可能你想要恢复后面发生的活动。根据这些,你可以用起使日期和时间再次运行mysqlbinlog:

  mysqlbinlog –start-datetime=”2019-04-20 10:01:00″ /u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd

  在该行中,从上午10:01登录的SQL语句将运行。组合执行前夜的转储文件和mysqlbinlog的两行可以将所有数据恢复到上午10:00前一秒钟。

  指定恢复位置

  也可以不指定日期和时间,而使用mysqlbinlog的选项–start-position和–stop-position来指定日志位置。它们的作用与起止日选项相同,不同的是给出了从日志起的位置号。

  使用日志位置是更准确的 恢复方法,特别是当由于破坏性SQL语句同时发生许多事务的时候。要想确定位置号,可以运行mysqlbinlog寻找执行了不期望的事务的时间范围,

  但应将结果重新指向文本文件以便进行检查。操作方法为:

  mysqlbinlog --start-datetime="2019-04-20 9:55:00″ --stop-datetime="2005-04-20 10:05:00″/u01/mysql3308/binlog/mysql-bin.000001 > /tmp/mysql_restore.sql

  该命令将在/tmp目录创建小的文本文件,将显示执行了错误的SQL语句时的SQL语句。你可以用文本编辑器打开该文件,寻找你不要想重复的语句。

  如果二进制日志中的位置号用于停止和继续恢复操作,应进行注释。用log_pos加一个数字来标记位置。使用位置号恢复了以前的备份文件后,你应从命令行输入下面内容:

  mysqlbinlog –stop-position="368312″ /u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd

  mysqlbinlog –start-position="368315″/u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd

  上面的第1行将恢复到停止位置为止的所有事务。下一行将恢复从给定的起始位置直到二进制日志结束的所有事务。

  因为mysqlbinlog的输出包括每个SQL语句记录之前的SET TIMESTAMP语句,恢复的数据和相关MySQL日志将反应事务执行的原时间

详细信息输出用例

  mysqlbinlog --base64-output=decode-rows -v -v mysql-bin.000009

  查看binlog文件中的内容(--no--defaults 参数是为解决my.cnf 无法识别default-character-set=utf8mb4)

  mysqlbinlog --no-defaults mysql-bin.000009  

  分析结果输出到sql文件

  mysqlbinlog  mysql-bin.000009  > /backup/binlog/inc_000009.sql

  mysqlbinlog --stop-datetime="2020-04-10 10:25:20" mysql-bin.000008

  从开头显示到20-10-26 10:25:20为止,此时间要在文件的损坏时间之前,提前1秒即可!

  mysqlbinlog --stop-datetime="2020-10-26 10:25:20" mysql-bin.000001 | mysql -uroot -p123  

  根据截至日期来恢复数据库

  mysqlbinlog --no-defaults --start-datetime="2020-04-07 16:50:01" --stop-datetime="2020-04-07 16:58:51"  mysql-bin.000002

  显示这个之间的日志

  mysqlbinlog --start-position=469 --stop-position=562 mysql-bin.000001 |mysql -uroot -p123

  根据位置点来恢复数据库,位置点建议取实际开始和结束的点而不是解析出来的位置点

mysqlbinlog 使用技巧

  技巧1 :

  在下面你将看到 mysqlbinlog --stop-datetime="2019-04-20 9:59:59″ /u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd 类似的语句,

  但是它一次只能操作一个日志文件,如果你变通一下变成这样  

  mysqlbinlog --stop-date="2019-04-20 9:59:59″/u01/mysql3308/binlog/mysql-bin.0* | mysql -u root -pmypwd  

  那么它基本上就会表示出的所有的日志文件了,这样可解决你忘记在哪一个日志文件中的问题,当然你也可以用这种写法更完美,

  mysqlbinlog –stop-datetime="2019-04-20 9:59:59″/u01/mysql3308/binlog/mysql-bin.[0-9]* | mysql -u root -pmypwd  

  看到[0-9]这个东东了吧,它表示以数字开头的任何字符,方便吧!

  技巧2:

  你可以通过--one-database 参数选择性的恢复单个数据库,example在下面,爽吧。

  mysqlbinlog --stop-datetime="2019-04-20 9:59:59″ /u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd --one-database db_test

  技巧3:

  mysqlbinlog --start-datetimetime="2019-04-20 9:55:00″/u01/mysql3308/binlog/mysql-bin.0 > /home/db/tt.sql  

  类似的语句将日志导成了ASCII文本文件,那么你就可以直接在phpmyadmin或者其它什么乱七糟八的的客户端里执行这个文件文件就行了[source *.sql],

  因为它本身就是一个标准的sql文件,比如想让文件里面的某些语句不执行,OK,it’s easy,找到它们删除即可,然后再放进去执行就OK滴啦!这个可是灰常灰常的爽哟。。。。。。

  技巧4:

  我来给大家讲一下,下面这条语句都做了什么

  mysqlbinlog --stop-datetime="2019-04-20 9:59:59″ /u01/mysql3308/binlog/mysql-bin.000001 | mysql -u root -pmypwd --one-database db_test

  这是把mysql-bin.000001这个二进制文件里的内容转换成ASCII文件(也就是sql语句),直接通过管道操作符”|”传输给 mysql这个程序,然后过滤掉其它数据库的语句,只在db_test里执行。

五、binlog 恢复案例

五、binlog 恢复案例

  1、库被删除

   drop database test;

   恢复方式:

   获取数据库全备份--恢复备份--使用二进制日志恢复

  1.1、恢复数据库全备份

   myloader -u root -p root -S /u01/mysql3308/data/mysql.sock -B test -o -d /u01/mysql3308/backup/mysqldumper_test

  1.2、获取删除数据库位置点

   mysqlbinlog --base64-output=decode-rows -v -v -d test /u01/mysql3308/binlog/mysql-bin.00000* | grep -i 'DROP DATABASE test' -A3 -B4

   ---------------

  SET @@SESSION.GTID_NEXT= 'ANONYMOUS';

  # at 14134

  #230208 10:45:58 server id 1  end_log_pos 14238 CRC32 0xad4dd6bf        Query   thread_id=27    exec_time=0     error_code=0       Xid = 767

  SET TIMESTAMP=1675824358;

  drop database test

  ;

  SET @@SESSION.GTID_NEXT= 'AUTOMATIC' ;

  DELIMITER ;

  --------------

  或者查看最近的binlog

  show binlog events in '/u01/mysql3308/binlog/mysql-bin.000002';

  | mysql-bin.000002 | 13736 | Write_rows     |         1 |       13817 | table_id: 234 flags: STMT_END_F                                                                                                                                                                                                                                                                       |

  | mysql-bin.000002 | 13817 | Xid            |         1 |       13848 | COMMIT                                                                                                                                                                                                                                                                                  |

  | mysql-bin.000002 | 13848 | Anonymous_Gtid |         1 |       13925 | SET @@SESSION.GTID_NEXT= 'ANONYMOUS'                                                                                                                                                                                                                                                                  |

  | mysql-bin.000002 | 13925 | Query          |         1 |       14057 | use `test`; DROP TABLE IF EXISTS `t_dept`                                                                                                                                                                                                                                   |

  | mysql-bin.000002 | 14057 | Anonymous_Gtid |         1 |       14134 | SET @@SESSION.GTID_NEXT= 'ANONYMOUS'                                                                                                                                                                                                                                                                  |

  | mysql-bin.000002 | 14134 | Query          |         1 |       14238 | drop database test  

  1.3、获取备份数据库位置点

  more metadata  

  SHOW MASTER STATUS:

         Log: mysql-bin.000002

         Pos: 11625

         GTID:

  1.4、执行备份点到删除点恢复

  mysqlbinlog --start-position=11625 --stop-position=14057 /u01/mysql3308/binlog/mysql-bin.000002| mysql -uroot -proot -S /u01/mysql3308/data/mysql.sock --one-database test

 2、表被删除

  drop table tt9;

  恢复方式:

  获取备份-恢复备份-使用二进制日志恢复

 2.1、恢复表结构(从全备份里获取)

  sed -e'/./{H;$!d;}' -e 'x;/CREATE TABLE `tt9`/!d;q' test_full.sql > tt9.sql

 2.2、获取表的数据:

  grep -i 'INSERT INTO ​​tt9​​' test_full.sql >> tt9.sql

 2.3、恢复:

  mysql -usystem -p -S /usr/local/mysql/data/mysql.sock test < tt9.sql

  如果是mydumper备份

  直接执行恢复,/u01/mysql/backup 下只包括要恢复的tt9 表文件

  myloader -u root -p root  -B test -o -d /u01/mysql/backup

  确认对象已经恢复

 2.4、从binlog里恢复备份点到当前点变化的数据

  获取删除点pos

  mysqlbinlog   --no-defaults --base64-output=decode-rows -v -v  -d test  /usr/local/mysql/binlog/mysql-bin.00000*   | grep  -i 'DROP TABLE `tt9`'  -A3 -B4

  -----------------------------------------------------------------------------------

  #200729 17:17:08 server id 1  end_log_pos 11778 CRC32 0xff8f558f        Anonymous_GTID  last_committed=18       sequence_number=19rbr_only=yes

  --

  SET @@SESSION.GTID_NEXT= 'ANONYMOUS';

  # at 13819

  #200729 17:19:56 server id 1  end_log_pos 13935 CRC32 0xe89e1574        Query   thread_id=1449  exec_time=0     error_code=0

  SET TIMESTAMP=1596014396;

  DROP TABLE `tt9`

  ;

  # at 13935

  #200729 17:25:03 server id 1  end_log_pos 14000 CRC32 0xb30bcfa7        Anonymous_GTID  last_committed=26       sequence_number=27rbr_only=no

  SET @@SESSION.GTID_NEXT= 'ANONYMOUS';

  # at 14000

  ------------------------------------------------------------------------------------

  获取到删除点pos: 13819

 2.5、获取备份点到删除点的binlog日志

  假如从上次备份,到发现表被删除,共有两个binlog文件,分别是mysql-bin.000003、mysql-bin.000004

  则按照binlog序号从小到大的排列,恢复的顺序应该是:(执行两个v 获取伪列信息)

  mysqlbinlog   --no-defaults  --base64-output=decode-rows -v -v -d test   /usr/local/mysql/binlog/mysql-bin.000003  > recover_tt9.sql

  mysqlbinlog   --no-defaults  --base64-output=decode-rows -v -v -d test  --stop-position=13819  /usr/local/mysql/binlog/mysql-bin.000004  >> recover_tt9.sql

  注意:MySQL中binlog参数:binlog_rows_query_log_events 开启后才能记录完整的sql语句,不然就是变量形式。

  由于恢复的文件recover_tt9.sql中包含了整个test数据库的所有表,我们只要恢复指定的表tt9,还要对恢复出来的sql进行过滤。

  cat recover_tt9.sql | grep  -A2 -B2 -i -E 'insert|update|delete|replace|alter' | grep -A2 -B2 tt9  > tt9.sql

  ####cat recover_tt9.sql | grep --ignore-case -E 'insert|update|select|delete' -A2 -B2 | grep tt9 >tt9.sql

  过滤后,更改注释及不要的,保存sql执行恢复。

  注意:获取实际执行的语句,伪列信息需要删除

 3、对象被更新

  获取更新点

  分析binlog中关于test表的所有DML 操作输出到文本文件

  mysqlbinlog   --no-defaults  --base64-output=decode-rows -v -v -d test  --start-position=13910  /usr/local/mysql/binlog/mysql-bin.000007  >> recover_tt9.sql

  截取tt9 表的操作

  cat recover_tt9.sql | grep  -A2 -B2 -i  'update' | grep -A2 -B2 tt9  > tt9.sql

  编辑文件,做反向操作,然后执行恢复

 4、对象新增加

  分析binlog中关于test表的所有DML 操作输出到文本文件(也可以只查询insert操作)

  mysqlbinlog   --no-defaults  --base64-output=decode-rows -v -v -d test  --start-position=13910  /usr/local/mysql/binlog/mysql-bin.000007  >> recover_tt9.sql

  截取tt9 表的操作

  cat recover_tt9.sql | grep  -A2 -B2 -i  'insert' | grep -A2 -B2 tt9  > tt9.sql

  编辑文件,做反向(delete)操作,然后执行恢复

 5、对象被删除

  分析binlog中关于test表的所有DML 操作输出到文本文件(也可以只查询insert操作)

  mysqlbinlog   --no-defaults  --base64-output=decode-rows -v -v -d test  --start-position=13910  /usr/local/mysql/binlog/mysql-bin.000007  >> recover_tt9.sql

  截取tt9 表的操作

  cat recover_tt9.sql | grep  -A2 -B2 -i  'delete' | grep -A2 -B2 tt9  > tt9.sql

来源地址:https://blog.csdn.net/zll4859291/article/details/129801383

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

mysql binlog 日志详解及恢复

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

MySQL binlog日志恢复数据详细操作步骤

场景 遇到后台数据批量误删,需要进行数据恢复。 准备 1、确定需要恢复数据的时间段 2、查看是否开启了binlog (1)终端执行命令,连接mysql mysql -h地址 -P端口号 -u账号 -p 输入密码后回车即可连接成功 (2)执
2023-08-17

MySQL的binlog日志使用详解

binlog 就是binary log,二进制日志文件,这个文件记录了MySQL所有的DML操作。通过binlog日志我们可以做数据恢复,增量备份,主主复制和主从复制等等。对于开发者可能对binlog并不怎么关注,但是对于运维或者架构人员来
2022-05-25

mysql日志文件General_log和Binlog开启及详解

目录背景:General_log 详解1.介绍2.开启数据库general_log步骤Binlog 详解1.介绍2.开启binlog日志3.常用binlog日志操作命令4.mysqlbinlog命令使用5.binlog的三种工作模式总结背景
2022-07-11

一文详解MySQL Binlog日志与主从复制

这篇文章主要介绍了一文详解MySQL Binlog日志与主从复制,Binlog是Binary log的缩写,即二进制日志,文章围绕主题展开详细的内容介绍,具有一定的参考价值,需要的朋友可以参考一下
2022-11-13

MySQL使用binlog日志做数据恢复的实现

MySQL的binlog日志是MySQL日志中非常重要的一种日志,记录了数据库所有的DML操作。通过binlog日志我们可以进行数据库的读写分离、数据增量备份以及服务器宕机时的数据恢复。 定期备份固然可以在服务器发生宕机的时候快速的恢复数据
2022-05-13

windows下mysql中binlog日志分析和数据恢复

1.首先查看是否开启了binlog show variables like '%log_bin%'; 看到了是没有开启的。 2.开启binlog日志,并重启mysql服务 不能通过命令的方式去打开,因为会提示说这个参数是只读的。如下图:
2023-08-17

MySQL三大日志——binlog、redoLog、undoLog详解

目录跳转电梯 1. redoLog1.1 为什么需要redo log1.2 redo log基本概念1.3 redo log记录形式 2. binlog2.1 binlog基本概念2.2 binlog使用场景2.3 binlog
2023-08-19

MySQL使用binlog日志做数据恢复的案例

这篇文章主要介绍了MySQL使用binlog日志做数据恢复的案例,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。MySQL的binlog日志是MySQL日志中非常重要的一种日志
2023-06-14

MySQL四种日志binlog/redolog/relaylog/undolog详解

目录一、binlog二、redo log三、binlog与redolog的区别四、relay-log五、undo log一、binlogbinlog记录数据库表结构和表数据变更,比如update/delete/insert/truncat
MySQL四种日志binlog/redolog/relaylog/undolog详解
2024-08-09

MYSQL Binlog恢复误删数据库详解

对表误删或执行缺少条件的修改 SQL 导致修改了表内其他数据时,我们需要想办法将数据恢复回来。先创建两个测试表 table_1CREATE TABLE `table_1` (`id` int(0) NOT NULL AUTO_INCR
2022-11-18

编程热搜

目录