• 大批量插入数据如何优化


    1.对于 MyISAM 类型的表,可以通过以下方式快速的导入大量的数据。

    ALTER TABLE tblname DISABLE KEYS;
    LOAD DATA LOCAL INFILE '/usr/share/dict/words' INTO TABLE source_words(word);
    ALTER TABLE tblname ENABLE KEYS;

    这两个命令用来打开或者关闭 Myisam 表非唯一索引的更新。在导入大量的数据到一个非空的 MyISAM 表时,通过设置这两个命令,可以提高导入的效率。对于导入大量数据到一个空的 MyISAM 表,默认就是先导入数据然后才创建索引的,所以不用进行设置。

    2. 而对于 InnoDB类型的表,这种方式并不能提高导入数据的效率。对于 InnoDB 类型的表,我们有以下几种方式可以提高导入的效率:
    a. 因为 InnoDB类型的表是按照主键的顺序保存的,所以将导入的数据按照主键的顺序排列,可以有效的提高导入数据的效率。如果 InnoDB表没有主键,那么系统会默认创建一个内部列作为主键,所以如果可以给表创建一个主键,将可以利用这个优势提高导入数据的效率。
    b. 在导入数据前执行

    SET UNIQUE_CHECKS=0;

    关闭唯一性校验,在导入结束后执行

    SET UNIQUE_CHECKS=1;

    恢复唯一性校验,可以提高导入的效率。
    c. 如果应用使用自动提交的方式,建议在导入前执行

    SET AUTOCOMMIT=0;

    关闭自动提交,导入结束后再执行

    SET AUTOCOMMIT=1;

    打开自动提交,也可以提高导入的效率。

  • 相关阅读:
    hive 总结一
    常见排序算法
    HBase 入门
    Spark:三种任务提交流程standalone、yarn-cluster、yarn-client
    YARN 原理简介
    Vue中v-show和v-if的使用以及区别
    JFinal Enjoy指令扩展管理常用文本模板
    JFinalSwagger插件
    layui table 表头和内容数据不能对齐
    start.sh在linux下启动报错 Can't connect to any repository: ,cannot open git-receive-pack
  • 原文地址:https://www.cnblogs.com/gomysql/p/3600215.html
Copyright © 2020-2023  润新知