php实现导出百万级数据方法

<?php
    //让程序一直运行
    set_time_limit(0);
    //设置程序运行内存
    ini_set('memory_limit', '128M');
    ob_clean();
    ob_end_clean();
    $fileName = '测试导出数据';
    header('Content-Encoding: UTF-8');
    header("Content-type:application/vnd.ms-excel;charset=UTF-8");
    header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');

    //打开php标准输出流
    $fp = fopen('php://output', 'a');

    //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
    fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
    //添加导出标题
    fputcsv($fp, ['姓名', '年龄', '地区']);

    //链接数据库,换成你的
    $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
    $pdo = new PDO($dsn, 'root', '');

    $step = 1000; //循环次数
    $nums = 1000; //每次导出数量

   // 循环次数 >= 导出次数,是效率最高的

    for($i = 0; $i < $step; $i++) {
        $start = $i * 10000;
        $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
        $pdostatement = $pdo->query($sql);
        $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
        foreach ($result as $item) {
            fputcsv($fp, $item);
        }
        //每1万条数据就刷新缓冲区
        if (ob_get_level() > 0) {
            ob_flush();
        }
        flush();
    }

要考虑以下问题:

1、程序不终止,一直运行。

2、设置运行内存,调到最大。

3、及时清理php缓冲区和浏览器的缓冲区,因为如果不清理,缓冲区满了之后是会输出的。

4、告诉浏览器现在要输出的是csv文件。

5、循环次数 >= 导出次数,是效率最高的

以上问题做到了,就能实现了,下面我导出了10w做测试

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值