• mysql 为大表添加索引,导致超时的解决办法


    简单的创建索引语句 : create unique index inxName on table A('Col') 。 

    如果表数据量不大,没有问题,但是数据超过千万,可能你等了半天,却告知你超时了。

    网上查到解决方案:

    1. 复制表A 的数据结构 , 不复制数据

    create table B like A;

    2. 表B加上你需要的索引

    3. 把原有数据导入新表 

    4. 修改表A 的名称为A_old , 修改B表的 表名为A.  

    我的问题出在步骤3. 

    使用如下语句导入A表数据到B :

    insert into B select * from A; 

    执行了半天,又提示错误 table x  is full。 

    网上找到另一种导入方式,即把A表数据导入文件,然后load 进B表 

    select * from A into outfile '/var/money.txt'; 
    load data infile '/var/money.txt' into table B; -- 这个路径需要和show variables like '%secure%'; 一致

    我执行的时候提示没有权限,需要开启secure_file_priv 相关权限 ,我没有root用户权限,所以就放弃该方案了。 

    解决: 

    insert into B select * from A;   错误提示  table x  is full , 那就是一次导入太大。 那我改小点就是了,我们数据2000万条。

    我按照日期 分组 (注意表A 原有按日期的索引),分组后发现最大的一天有700万条数据。

    把导入语句改为 

    insert into B select * from A where trans_date = '20190923'; --  执行时间1735s,近30分钟,还好没有报错。

    汇总如下: 

     100多万的 46s 搞定,其他数据更少的日期基本几秒可以搞定,最终1个半小时完成数据复制。 

    参考文档: https://www.cnblogs.com/cyq632694540/p/9626727.html

  • 相关阅读:
    Oauth2.0认证原理
    互联网开放平台API安全设计
    API接口幂等性框架设计
    防盗链&CSRF&API接口幂等性设计
    ElasticSearch高可用集群环境搭建和分片原理
    SpringBoot2.0+ElasticSearch网盘搜索实现
    Elasticsearch6.4.3文档的映射
    中文分词器
    C# 插件
    JavaScript 网址
  • 原文地址:https://www.cnblogs.com/zhangchenglzhao/p/11731817.html
Copyright © 2020-2023  润新知