mysql 批量插入500W 测试

set_time_limit(800);
$dsn = 'mysql:host=localhost;dbname=test';
$db = new PDO($dsn,'root','',array(PDO::ATTR_PERSISTENT => true));

//删除上次的插入数据
$db->query('delete from `test`');
//开始计时
$start_time = time();
$sum = 5000000;
// 测试选项
$num = 2;
/*
$values = '';
for ($i = 1; $i < $sum; $i++) {
$values .= "($i, 'testtest'),";
}
$values = trim($values, ',');
$db->query("insert into `test` (`id`, `name`) values $values");
*/

if ($num == 1){

// 单条插入
for($i = 0; $i < $sum; $i++){
$db->query("insert into `test` (`id`,`name`) values ($i,'tsetssdf')");
}
} elseif ($num == 2) {
// 批量插入,为了不超过max_allowed_packet,选择每10万插入一次
for ($i = 0; $i < $sum; $i++) {
if ($i == $sum - 1) { //最后一次
$time = time();
if ($i%10000 == 0){
$values = "('testtest', $time)";
$db->query("insert into `test` ( `name`, `ctime`) values $values");
} else {
$values .= ",('testtest', $time)";
$db->query("insert into `test` (`name`, `ctime`) values $values");
}
break;
}
if ($i%10000 == 0) { //平常只有在这个情况下才插入
if ($i == 0){
$time = time();
$values = "('testtest', $time)";
} else {
$values = trim($values, ',');
$db->query("insert into `test` (`name`, `ctime`) values $values");
$values = "($i, 'testtest')";
}
} else {
$time = time();
$values .= ",('testtest', $time)";
}
}
} elseif ($num == 3) {
// 事务插入
$db->beginTransaction();
for($i = 0; $i < $sum; $i++){
$db->query("insert into `test` (`id`,`name`) values ($i,'tsetssdf')");
}
$db->commit();
} elseif ($num == 4) {
// 文件load data
$filename = dirname(__FILE__).'/test.sql';
$fp = fopen($filename, 'w');
for($i = 0; $i < $sum; $i++){
fputs($fp, "$i,'testtest'\r\n");
}
$db->exec("load data infile '$filename' into table test fields terminated by ','");
}

$end_time = time();
echo "总耗时", ($end_time - $start_time), "秒\n";
echo "峰值内存", round(memory_get_peak_usage()/1000), "KB\n";

 

/*
* 1 批量个数尽量控制在10000以下
* 2 查询时 MyIASM 明显比 Innodb快
*/

 

参考

http://www.codeceo.com/article/mysql-insert-compare.html

转载于:https://www.cnblogs.com/yingjie13/p/9699070.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MySQL批量插入方法是一种在特定场景下使用的优化技术,相较于单次循环插入,具有较大的优势和应用价值。在MySQL中,批量插入可以有效地提高数据插入的速度和性能。根据引用和引用的描述,MySQL批量插入方法适用于以下场景: 1. 当需要一次性插入大量数据时,如导入Excel数据或处理大数据集。 2. 当需要提高插入性能和效率时,以减少数据库操作次数。 在实现过程中,可以按照以下步骤进行: 1. 在Controller层获取待导入的数据,并将其传递给后端处理。 2. 在mapper.xml文件中编写相应的SQL语句,用于批量插入数据。可以使用MySQL提供的批量插入函数,如`saveBatch()`,或者使用循环开启批处理模式。 3. 执行批量插入操作,将数据一次性插入数据库。 通过对常用的插入数据的方式进行测试,可以得出比较实用的方案。根据引用的描述,常见的插入数据的方式包括:for循环单条插入、拼接SQL语句、批量插入saveBatch()函数、循环开启批处理模式。根据实际需求和性能测试的结果,选择最适合的批量插入方式。 总结起来,MySQL批量插入方法是一种在特定场景下提高数据插入性能和效率的优化技术,可以根据具体需求选择合适的批量插入方式来实现。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [MySQL批量插入(使用mybatis实现mysql数据库批量插入操作)](https://blog.csdn.net/qq_43403676/article/details/124406698)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [MySQL优化:批量插入数据4种实用、讲究方案的测试](https://blog.csdn.net/a18505947362/article/details/123667215)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值