从mysql的logbin中恢复误删数据

在一次数据维护过程中，对数据删除时没有提前备份数据，导致数据被删除后无法通过备份文件直接恢复。

数据恢复思路

1. 数据如果在删除前提前备份好，那么直接从备份文件中恢复。
2. 如果没有备份文件，则需要查看mysql数据库是否打开logbin日志。如果没有打开直接GG。如果恰好打开了的，则需要如下几步进行：

1. 查看binlog状态，确认binlog文件
2. 刷新binlog状态，重新生成新binlog文件，确保原文件不被修改
3. 查找删除语句，确定好起始位置、删除时间等信息
4. 通过mysqllogbin恢复数据

操作明细

本文以下内容为mysql开启binlog的前提下进行数据恢复的步骤。希望以后都不用到！！！

1.查找当前操作的binlog状态

在myql命令行或者链接工具中，命令查看binlog当前的位置状态和文件信息。

show master status;

2. flush logs刷新状态

在myql命令行或者链接工具中，使用flush logs命令重新生成新的binlog命令。

flush logs;

3.备份第一步中查出来的binlog文件

在Linux下，使用cp命令将文件复制一份到/home/recover/下，后续操作都是在这个备份文件基础上进行操作的。

cp -a /var/lib/mysql/mysql-bin.000002 /home/recover/

4.查找删除数据的起始位置、时间等关键信息

这一步如果binlog文件比较大的话，建议在Navicat等连接工具中进行查询，使用命令查询后，找到删除命令的起始位置

show binlog events in 'mysql-bin.000002';

如图所示，找到起始位置

5.恢复数据

根据第四步找到的起始位置，使用mysqlbinlog命令，在系统中恢复数据库数据。

/usr/bin/mysqlbinlog --start-position=245 --stop-position=2997666 --database=test1 /var/lib/mysql/mysql-bin.000002 | /usr/bin/mysql -uroot -p123456 -v test1

/usr/bin/mysqlbinlog --start-position=245 --stop-position=2997666 --database=test1 /home/recover/mysql-bin.000002 | /usr/bin/mysql -uroot -p123456 -v test1

在实际执行上面命令的时候，一直提示出错

ERROR 1032 (HY000) at line 8299: Can’t find record in ‘table_name’

暂时不知道什么原因，可能和数据库版本有关？

因为这一步直接使用mysqlbinlog没有恢复成功，所以就只想到用到下面这一种方法：使用sed将binlog文件中的删除sql命令清洗成insert语句，通过拼接出来的sql去恢复数据

6.使用sed清洗数据

6.1 从binlog文件中提取删除信息

根据第四步中找到的起始位置，使用mysqllogbin命令提取对应的删除信息

mysqlbinlog --base64-output=decode-rows -vv \ --start-position=245 --stop-position=2997666 /home/recover/mysql-bin.000002 >a.txt

6.2 提取对应的删除sql

sed -n '/^###/'p a.txt >b.txt

这个命令的作用是将文件a.txt中以###开头的行复制到文件b.txt中。

sed是一个流编辑器，-n选项表示关闭默认的输出，只输出经过处理的行。

• '/^###/'是一个正则表达式，表示匹配以###开头的行。
• p命令表示输出匹配的行。

  a.txt是要处理的文件。

  >b.txt表示将输出结果重定向到文件b.txt中。

6.3 替换“### ”

sed 's/### //g' b.txt >c.txt

s/### //g是一个替换命令，表示将所有的### （三个井号后跟一个空格）替换为空。

• s表示执行替换操作。
• /### /是一个正则表达式，表示匹配所有的### 。
• /g表示全局替换，即将所有匹配的字符串都进行替换。

  b.txt是要处理的文件。

  >c.txt表示将替换后的内容输出到文件c.txt中。

6.4 删除每行后面的注释

sed 's#/.*#,#g' c.txt >d.txt

这个命令的作用是将文件c.txt中每一行第一个/及其后面的内容替换为一个逗号，并将替换后的内容输出到文件d.txt中。

s#/.*#,#g是一个替换命令，表示将每一行第一个/及其后面的内容替换为一个逗号。

• s表示执行替换操作。
• /#/是一个正则表达式，表示匹配每一行中第一个/。
• .*表示匹配/后面的任意字符串。
• /#/,表示替换为一个逗号。
• /g表示全局替换，即将每一行中第一个匹配的字符串都进行替换。

  c.txt是要处理的文件。

  >d.txt表示将替换后的内容输出到文件d.txt中。

6.5 DELETE FROM替换为INSERT INTO

sed 's#DELETE FROM#INSERT INTO#g' d.txt >e.txt

这个命令的作用是将文件d.txt中所有的DELETE FROM替换为INSERT INTO，然后将替换后的内容输出到文件e.txt中。

s#DELETE FROM#INSERT INTO#g是一个替换命令，表示将所有的DELETE FROM替换为INSERT INTO。

• s表示执行替换操作。
• #DELETE FROM#是一个正则表达式，表示匹配所有的DELETE FROM。
• #INSERT INTO#表示替换为INSERT INTO。
• /g表示全局替换，即将所有匹配的字符串都进行替换。

  d.txt是要处理的文件。

  >e.txt表示将替换后的内容输出到文件e.txt中。

6.5 WHERE替换为SELECT

sed 's#WHERE#SELECT#g' e.txt >f.txt

这个命令的作用是将文件e.txt中所有的WHERE替换为SELECT，然后将替换后的内容输出到文件f.txt中。

s#WHERE#SELECT#g是一个替换命令，表示将所有的WHERE替换为SELECT。

• s表示执行替换操作。
• #WHERE#是一个正则表达式，表示匹配所有的WHERE。
• #SELECT#表示替换为SELECT。
• /g表示全局替换，即将所有匹配的字符串都进行替换。

  e.txt是要处理的文件。

  >f.txt表示将替换后的内容输出到文件f.txt中。

6.5 @53= 替换成’，‘ 语句结尾添加’；‘号

sed -r 's#(@53=.*)(,)#\1;#g' f.txt >h.txt

这个命令的作用是将文件f.txt中所有的以@11=开头、以,结尾的字符串替换为这个字符串加上;，然后将替换后的内容输出到文件h.txt中。

-r选项表示使用扩展正则表达式。

s#(@53=.*)(,)#\1;#g是一个替换命令，表示将所有的以@11=开头、以,结尾的字符串替换为这个字符串加上;。

• s表示执行替换操作。
• #(@11=.*)(,)#是一个正则表达式，匹配所有以@11=开头、以,结尾的字符串。
• ;表示将匹配到的字符串替换为匹配到的内容加上;。
• /g表示全局替换，即将所有匹配的字符串都进行替换。

  f.txt是要处理的文件。

  >h.txt表示将替换后的内容输出到文件h.txt中。

6.5 生成可执行的sql

sed -r 's#(@.*=)(.*)#\2#g' h.txt >aa.sql

6.6 添加commit

sed -i '$a commit;' aa.sql

至此，已经从导出binlog文件中清洗除了需要恢复的sql语句（insert语句），可以通过命令或者桌面工具执行sql，恢复删除的数据了。

6.7 执行sql

mysql -uroot -p123456 test < aa.sql

7. 问题总结

7.1 日期格式问题

在实际操作过程中，发现因为从binlog中导出的数据包含日期格式有问题，没有带单引号，所以造成sed清洗出来的sql执行不成功。问题解决方法有两个：

使用sed 直接匹配时间格式后对时间格式直接进行添加单引号，如下命令：

sed -E "s/[0-9]{4}-[0-9]{2}-[0-9]{2} [0-9]{2}:[0-9]{2}:[0-9]{2}/'&'/g" filename

优化：对时间格式进行判断其前后是否有单引号，没有则进行添加

sed -E "s/'?[0-9]{4}-[0-9]{2}-[0-9]{2} [0-9]{2}:[0-9]{2}:[0-9]{2}'?/'&'/g" filename

7.2 sed中> 和>> 的区别

在使用过程中，有一步使用了>>且重复执行后，导致最后生成的sql数据重复

• 在sed命令中，>和>>都是用来将输出写入文件的符号。
• >符号表示覆盖输出。它会将命令的输出写入目标文件，如果目标文件已经存在，则会覆盖文件原有的内容。
• >>符号表示追加输出。它会将命令的输出追加到目标文件末尾，而不会覆盖原有内容。

  7.3 在删除数据一定要谨慎

  对大量数据进行删除过程中，一定要谨慎。

  • 尽量不要在数据库中对大量数据进行操作
  • 操作数据前需要对数据进行备份
  • 使用mysql时，尽量把logbin日志打开（可能会有牺牲一定的性能和存储空间，但是比起数据安全来说，是值得的），在数据被误删的情况下，也是一个补充。

    8 参考文章

    通过binlog恢复误delete的数据(一)

    使用binlog日志恢复MySQL数据库删除数据的方法