• Mysql使用存储过程快速添加百万数据


    前言

    为了体现不加索引和添加索引的区别,需要使用百万级的数据,但是百万数据的表,如果使用一条条添加,特别繁琐又麻烦,这里使用存储过程快速添加数据,用时大概4个小时。
    创建一个用户表

    CREATE TABLE `t_sales` (
      `id` int(11) NOT NULL AUTO_INCREMENT,
      `username` varchar(32) COLLATE utf8_bin DEFAULT NULL COMMENT '用户名',
      `password` varchar(64) COLLATE utf8_bin DEFAULT NULL COMMENT '密码 MD5存储',
      `register_time` timestamp NULL DEFAULT NULL COMMENT '注册时间',
      `type` int(1) DEFAULT NULL COMMENT '用户类型 1,2,3,4 随机',
      PRIMARY KEY (`id`),
      KEY `idx_username` (`username`) USING BTREE
    )
    

    然后创建存储过程,批量添加数据。

    • 用户名以常量和数字拼接
    • 密码是MD5密码
    • 注册时间是当前时间随机往前推几天
    • type是取1-4随机范围值
    create procedure salesAdd()
    begin 
     declare i int default 11;
       while i <= 4000000 do
             insert into blog.t_sales
             (`username`,`password`,`register_time`,type) values
             (concat("jack",i),MD5(concat("psswe",i)),from_unixtime(unix_timestamp(now()) - floor(rand() * 800000)),floor(1 + rand() * 4)); 
             set i = i + 1; 
       end while; 
    end
    

    然后调用存储过程

    call salesAdd()
    

    改进版

    虽然使用存储过程添加数据相对一个个添加更加便捷,快速,但是添加几百万数据要花几个小时时间也是很久的,后面在网上找到不少资料,发现mysql每次执行一条语句都默认自动提交,这个操作非常耗时,所以在在添加去掉自动提交。设置 SET AUTOCOMMIT = 0;

    create procedure salesAdd()
    begin 
     declare i int default 1;
     set autocommit = 0;   
       while i <= 4000000 do
             insert into blog.t_sales
             (`username`,`password`,`register_time`,type) values
             (concat("jack",i),MD5(concat("psswe",i)),from_unixtime(unix_timestamp(now()) - floor(rand() * 800000)),floor(1 + rand() * 4)); 
             set i = i + 1; 
       end while;
     set autocommit = 1;     
    end
    

    执行时间387秒,约为六分钟,其中还有一半时间用于md5、随机数的计算。

    [SQL]
    call salesAdd();
    受影响的行: 0
    时间: 387.691s
    
  • 相关阅读:
    Linux中使用expect脚本实现远程机器自动登录_linux shell
    Linux: ssh命令 远程登录
    总结:PgSql备份pg_dump与还原pg_restore
    停电后,在UPS电源下服务器自动关机脚本
    总结:修改相关postgres用户密码
    问题解决:psql: could not connect to server: No such file or directory Is the server running locally and accepting connections on Unix domain socket "/var/run/postgresql/.s.PGSQL.5432"?
    delphi 播放mp3
    delphi 获取文件路径函数
    Delphi XE2 使用dbExpress连接MySQL数据库
    kbmmemsql 查询
  • 原文地址:https://www.cnblogs.com/jeremylai7/p/15174617.html
Copyright © 2020-2023  润新知