• [精选] PHP如何快速导出 百万级数据 到EXCEL


    1. 前言:

     很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值得学习的一种大数据导出方式。

    2.导出思路

    • 需要考虑服务器内存

    • 需要考虑程序运行的最大时间

    • 缺少BOM头导致乱码的处理

    • 如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

    3.导出源码

    • 下面源码将数据库信息修改成自己的即可使用

    • 亲测导出一百万条数据,3个字段,不过20秒

    • 如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低

    <?php
        //让程序一直运行
        set_time_limit(0);
        //设置程序运行内存
        ini_set('memory_limit', '128M');
    
        $fileName = '测试导出数据';
        header('Content-Encoding: UTF-8');
        header("Content-type:application/vnd.ms-excel;charset=UTF-8");
        header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
    
        //打开php标准输出流
        $fp = fopen('php://output', 'a');
    
        //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
        fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
        //添加导出标题
        fputcsv($fp, ['姓名', '年龄', '地区']);
    
        //链接数据库
        $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
        $pdo = new PDO($dsn, 'root', '');
    
        $step = 100; //循环次数
        $nums = 10000; //每次导出数量
    
        for($i = 0; $i < $step; $i++) {
            $start = $i * 10000;
            $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
            $pdostatement = $pdo->query($sql);
            $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
            foreach ($result as $item) {
                fputcsv($fp, $item);
            }
            //每1万条数据就刷新缓冲区
            ob_flush();
            flush();
        }


    4.快速生成百万条测试数据

    • 这里推荐数据库的蠕虫复制命令

    • 先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长

    INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;

    2456067e0ff1d5a1affb0d9f57bbb8fe.png

  • 相关阅读:
    Lookup 组件用法全解
    将字符串转换成表
    处于同一域中的两台SQL Server 实例无法连接
    在SSIS中的不同组件间使用局部临时表
    SSIS的CheckPoint用法
    控制流如何处理错误
    SSIS 对数据排序
    SSIS 数据输出列因为字符截断而失败
    SQL Server 的本地时间和UTC时间
    TSQL Merge 用法
  • 原文地址:https://www.cnblogs.com/lxwphp/p/16811906.html
Copyright © 2020-2023  润新知