MySQL线上数据库怎么清理数据 - 行业资讯 - 肥雀云

　　介绍

这篇文章将为大家详细讲解有关MySQL线上数据库怎么清理数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

01场景分析

,今天下午,开发的同事提来一个需求,需要在线上要删除一些数据记录,简单看了看数据的分布,大概是要删除数据表中的两千七百多万条记录,数据表的总记录是两千八百多万,也就是说,要删除的记录占了总记录的绝大部分比重,两千七百多万的数据记录,要是删除的话,使用的时间是相当长的,对线上的业务肯定会造成影响。这里将实际的应用案例简单重构为以下方法:

mysql>, select 日期,count(*),得到test.tbl_a , group by 日期; 　　+ - - - - - - - - - - - - - - - - - - - - - - + 　　|,,,date |, count (*) | 　　+ - - - - - - - - - - - - - - - - - - - - - - + 　　| |还以为,,63103 | 　　|,20190118,| | 　　| |还以为,,125916 | 　　| | 20190120祝福、快乐,| 　　| |还以为,,129198 | 　　|,20190122,|,| 　　| |还以为,5191247 | 　　+ - - - - - - - - - - - - - - - - - - - - - - + 　　,rows set 拷贝(13.21,sec)

上面就是重构之后的表的结构,我们可以看的到,测试数据库中的表tbl_b按照日期分组之后,每个组的数据量都不小,而我们的需求是将日期为20190118和20190123的记录删除,可以看到这两种记录总计有两千多万条,占了表中数据的绝大部分,如果直接删除的话,线上的业务肯定会受到阻塞。

以下是操作方法,需要注意的是,应用下面的操作方法的前提是:

要删除的数据占了数据表中的绝大部分。

02操作办法

,通过分析,知道剩余的表数据对于全表来说是很小的一部分,这个操作我们分为4步:

1。我们先把剩余的数据存入到另外一个数据库test1中:

create table test1.tbl_b_new as 　　select *,得到test.tbl_b 　　where date 在(,,,),

这个操作的时间只有3 s左右,

2。我们在test1数据库中创建一个同名的表tbl_b,它的结构和测试数据库中的tbl_b数据结构一致:

create table test1.tbl_b like test.tbl_b;

3。紧接着,我们使用数据库中的重命名操作将表测试中的表tbl_b和test1中的表tbl_b进行交换,等价于将测试数据库中的表所有数据清除。

RENAME TABLE test.tbl_b ,用test1.tbl_b_bak, 　　,,,,,,,,test1.tbl_b ,用test.tbl_b, 　　,,,,,,,,test1.tbl_b_bak 用test1.tbl_b;

4。再讲第一步保存的剩余数据填充到新表中来,如下:

insert into test.tbl_b select *,得到,test1.tbl_b_new;

03结果分析

,看上去我们好像把问题搞复杂了,直接删除的事情,被我们搞的多了好几个步骤,但是实际上不是这样的,这一套操作可以帮我们节省好几分钟时间,对线上业务的影响也更小,原因如下:

<李>

我们使用创建表的方法创建剩余的数据表,这种方法使我们仅对数据表中的少部分数据进行了操作,避免了我们对过多的数据进行扫描。

<李>

mysql中对大表进行重命名的操作,重命名命令会直接修改底层的.frm文件,所以它的速度是相当之快的。

,,第二个特点给我们提供了一种思路,在一个很着急的业务中,要使用一个表的时候,往往不给我们留充足的时间备份表,如果我们想要删除一个大表里面的数据,而且需要进行相关备份,我们可以通过重命名操作迅速处理,然后再想办法去备份重命名之后的表。

,,,上面的例子中使用创建表和创建表像两种克隆表的方式,有几点需要注意:

创建表像方式会完整地克隆表结构,但不会插入数据,需要单独使用插入或加载数据方式加载数据
创建表as 方式会部分克隆表结构,完整保留数据

,,,如果有兴趣,可以做做试验进行验证。

关于“MySQL线上数据库怎么清理数据”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看的到。