PHP快速导出 百万级数据 到EXCEL

1. 前言:

 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值得学习的一种大数据导出方式。

2.导出思路

  • 需要考虑服务器内存

  • 需要考虑程序运行的最大时间

  • 缺少BOM头导致乱码的处理

  • 如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

3.导出源码

  • 下面源码将数据库信息修改成自己的即可使用

  • 亲测导出一百万条数据,3个字段,不过20秒

  • 如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低

<?php
    //让程序一直运行
    set_time_limit(0);
    //设置程序运行内存
    ini_set('memory_limit', '128M');

    $fileName = '测试导出数据';
    header('Content-Encoding: UTF-8');
    header("Content-type:application/vnd.ms-excel;charset=UTF-8");
    header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');

    //打开php标准输出流
    $fp = fopen('php://output', 'a');

    //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
    fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
    //添加导出标题
    fputcsv($fp, ['姓名', '年龄', '地区']);

    //链接数据库
    $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
    $pdo = new PDO($dsn, 'root', '');

    $step = 100; //循环次数
    $nums = 10000; //每次导出数量

    for($i = 0; $i < $step; $i++) {
        $start = $i * 10000;
        $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
        $pdostatement = $pdo->query($sql);
        $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
        foreach ($result as $item) {
            fputcsv($fp, $item);
        }
        //每1万条数据就刷新缓冲区
        ob_flush();
        flush();
    }

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
PHP可以使用PHPExcel库来导出MySQL数据Excel。 步骤如下: 1. 首先需要连接MySQL数据库,可以使用mysqli或PDO等扩展库。 2. 查询需要导出数据,将结果存储到一个数组中。 3. 引入PHPExcel库,创建一个PHPExcel对象。 4. 设置Excel的属性,如标题、作者、描述等。 5. 创建一个工作表,并设置表头。 6. 将查询结果填充到工作表中。 7. 设置Excel的输出格式为Excel2007,并输出Excel文件。 示例代码如下: ```php //连接MySQL数据库 $conn = mysqli_connect("localhost", "username", "password", "database"); //查询需要导出数据 $sql = "SELECT * FROM table"; $result = mysqli_query($conn, $sql); $data = array(); while ($row = mysqli_fetch_assoc($result)) { $data[] = $row; } //引入PHPExcel库 require_once 'PHPExcel.php'; //创建PHPExcel对象 $objPHPExcel = new PHPExcel(); //设置Excel属性 $objPHPExcel->getProperties()->setTitle("MySQL数据导出")->setCreator("Your Name")->setDescription("MySQL数据导出"); //创建工作表 $objPHPExcel->setActiveSheetIndex(); $objPHPExcel->getActiveSheet()->setTitle("Sheet1"); //设置表头 $objPHPExcel->getActiveSheet()->setCellValue('A1', 'ID'); $objPHPExcel->getActiveSheet()->setCellValue('B1', 'Name'); $objPHPExcel->getActiveSheet()->setCellValue('C1', 'Age'); //填充数据 foreach ($data as $key => $value) { $row = $key + 2; $objPHPExcel->getActiveSheet()->setCellValue('A' . $row, $value['id']); $objPHPExcel->getActiveSheet()->setCellValue('B' . $row, $value['name']); $objPHPExcel->getActiveSheet()->setCellValue('C' . $row, $value['age']); } //设置输出格式为Excel2007 $objWriter = PHPExcel_IOFactory::createWriter($objPHPExcel, 'Excel2007'); //输出Excel文件 header('Content-Type: application/vnd.openxmlformats-officedocument.spreadsheetml.sheet'); header('Content-Disposition: attachment;filename="data.xlsx"'); header('Cache-Control: max-age='); $objWriter->save('php://output'); ``` 以上代码将查询结果导出Excel文件,并以附件形式下载。可以根据需要修改代码,如更改查询语句、表头等。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

东成2022

你的鼓励将是我创作的最大动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值