• PHP大批量插入数据库的3种方法和速度对比


    在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。


    第一种方法:使用insert into 插入,代码如下:

    $params = array(‘value'=>'50′);
    set_time_limit(0);
    echo date(“H:i:s”);
    for($i=0;$i<2000000;$i++){
    $connect_mysql>insert($params);
    };
    echo date(“H:i:s”);
    
       

    最后显示为:23:25:05 01:32:05 也就是花了2个小时多!

    第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒  ,代码如下:

    echo date(“H:i:s”);
    $connect_mysql>query(‘BEGIN');
    $params = array(‘value'=>'50′);
    for($i=0;$i<2000000;$i++){
    $connect_mysql>insert($params);
    if($i%100000==0){
    $connect_mysql>query(‘COMMIT');
    $connect_mysql>query(‘BEGIN');
    }
    }
    $connect_mysql>query(‘COMMIT');
    echo date(“H:i:s”);
    
       

    第三种方法:使用优化SQL语句:将SQL语句进行拼接,使用 insert into table () values  (),(),(),()然后再一次性插入,如果字符串太长,

    则需要配置下MYSQL,在mysql 命令行中运行 :set global max_allowed_packet =  21024102410;消耗时间为:11:24:06 11:25:06;

    插入200W条测试数据仅仅用了1分钟!代码如下:

    $sql= “insert into twenty_million (value) values”;
    for($i=0;$i<2000000;$i++){
    $sql.=”('50′),”;
    };
    $sql = substr($sql,0,strlen($sql)1);
    $connect_mysql>query($sql);
    
       

    最后总结下,在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

  • 相关阅读:
    os 模块
    time-时间模块
    hashlibloggingconfigparser
    模块-json,pickle
    转载:执行脚本出现bin/bash: bad interpreter: No such file or directory
    转载:如何查看用户当前shell和修改用户登陆时的默认shell
    转载:对#!/bin/sh的认识
    转载:mysql-Auto_increment值修改
    转载:Tomcat多数据源配置方法
    转载:struts2和spring的结合原理(精品)
  • 原文地址:https://www.cnblogs.com/it-3327/p/11738276.html
Copyright © 2020-2023  润新知