前言: 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值的学习的一种大数据导出方式。
一、导出思路
- 需要考虑服务器内存
- 需要考虑程序运行的最大时间
- 缺少BOM头导致乱码的处理
- 如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出
二、导出源码
- 下面源码将数据库信息修改成自己的即可使用
- 亲测导出一百万条数据,3个字段,不过20秒
- 如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低
<?php//让程序一直运行set_time_limit(0);//设置程序运行内存ini_set(\'memory_limit\', \'128M\');$fileName = \'测试导出数据\';header(\'Content-Encoding: UTF-8\');header(\"Content-type:application/vnd.ms-excel;charset=UTF-8\");header(\'Content-Disposition: attachment;filename=\"\' . $fileName . \'.csv\"\');//打开php标准输出流$fp = fopen(\'php://output\', \'a\');//添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));//添加导出标题fputcsv($fp, [\'姓名\', \'年龄\', \'地区\']);//链接数据库$dsn = \"mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8\";$pdo = new PDO($dsn, \'root\', \'\');$step = 100; //循环次数$nums = 10000; //每次导出数量for($i = 0; $i < $step; $i++) {$start = $i * 10000;$sql = \"SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}\";$pdostatement = $pdo->query($sql);$result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);foreach ($result as $item) {fputcsv($fp, $item);}//每1万条数据就刷新缓冲区ob_flush();flush();}
三、快速生成百万条测试数据
这里推荐数据库的蠕虫复制命令
先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长
INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;
到此这篇关于PHP快速导出百万级数据到CSV或者EXCEL文件的文章就介绍到这了,更多相关PHP 导出百万级数据内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
您可能感兴趣的文章:
- 利用phpExcel实现Excel数据的导入导出(全步骤详细解析)
- ThinkPHP使用PHPExcel实现Excel数据导入导出完整实例
- php中导出数据到excel时数字变为科学计数的解决方法
- 使用PHPExcel实现数据批量导出为excel表格的方法(必看)
- php+ajax实现带进度条的大数据排队导出思路以及源码
- PHP导出MySQL数据到Excel文件(fputcsv)
- php把数据表导出为Excel表的最简单、最快的方法(不用插件)
- php导出excel格式数据问题
- PHP使用mysqldump命令导出数据库