mysql批量写入数据PHP方法_MYSQL批量插入数据如何优化的方法介绍

本文探讨了MySQL批量写入数据的多种方法,包括标准SQL的单条插入、批处理插入、预处理SQL和批量提交。通过实验对比,发现每条INSERT语句插入10条记录的方式在性能上最优,特别是在高并发和大数据量场景下。同时,建议使用顺序主键和控制线程数在2倍CPU数目,以提升插入效率。
摘要由CSDN通过智能技术生成

在网上也看到过另外的几种方法,比如说预处理SQL,比如说批量提交。那么这些方法的性能到底如何?本文就会对这些方法做一个比较

一、我们遇到了什么问题

在标准SQL里面,我们通常会写下如下的SQL insert语句。

INSERT INTO TBL_TEST (id) VALUES(1);

很显然,在MYSQL中,这样的方式也是可行的。但是当我们需要批量插入数据的时候,这样的语句却会出现性能问题。例如说,如果有需要插入100000条数据,那么就需要有100000条insert语句,每一句都需要提交到关系引擎那里去解析,优化,然后才能够到达存储引擎做真的插入工作。

正是由于性能的瓶颈问题,MYSQL官方文档也就提到了使用批量化插入的方式,也就是在一句INSERT语句里面插入多个值。即,

INSERT INTO TBL_TEST (id) VALUES (1), (2), (3)

这样的做法确实也可以起到加速批量插入的功效,原因也不难理解,由于提交到服务器的INSERT语句少了,网络负载少了,最主要的是解析和优化的时间看似增多,但是实际上作用的数据行却实打实地多了。所以整体性能得以提高。根据网上的一些说法,这种方法可以提高几十倍。

然而,我在网上也看到过另外的几种方法,比如说预处理SQL,比如说批量提交。那么这些方法的性能到底如何?本文就会对这些方法做一个比较。

二、比较环境和方法我的环境比较苦逼,基本上就是一个落后的虚拟机。只有2核,内存为6G。操作系统是SUSI Linux,MYSQL版本是5.6.15。

可以想见,这个机子的性能导致了我的TPS一定非常低,所以下面的所有数据都是没有意义的,但是趋势却不同,它可以看出整个插入的性能走向。

由于业务特点,我们所使用的表非常大,共有195个字段,且写满(每个字段全部填满,包括varchar)大致会有略小于4KB的大小,而通常来说,一条记录的大小也有3KB。

由于根据我们的实际经验,我们很肯定的是,通过在一个事务中提交大量INSERT语句可以大幅度提高性能。所以下面的所有测试都是建立在每插入5000条记录提交一次的做法之上。

最后需要说明的是,下面所有的测试都是通过使用MYSQL C API进行的,并且使用的是INNODB存储引擎。

三、比较方法

理想型测试(一)——方法比较

目的:找出理想情况下最合适的插入机制

关键方法:

1. 每个进/线程按主键顺序插入

2. 比较不同的插入方法

3. 比较不同进/线程数量对插入的影响

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
批量更新多条记录可以使用MySQL的`UPDATE`语句结合`CASE`和`WHEN`语句来实现。具体步骤如下: 1. 将需要更新的数据保存在一个临时表中,表结构与原表相同。 2. 使用`UPDATE`语句对原表进行批量更新,将临时表中的数据更新到原表中。 下面是一个示例代码: ```sql -- 创建临时表 CREATE TEMPORARY TABLE tmp_table ( id INT(11) NOT NULL, name VARCHAR(50) DEFAULT NULL, age INT(11) DEFAULT NULL, PRIMARY KEY (id) ); -- 向临时表中插入需要更新的数据 INSERT INTO tmp_table (id, name, age) VALUES (1, 'Tom', 20), (2, 'Jack', 25), (3, 'Mary', 30), ... ; -- 使用UPDATE语句进行批量更新 UPDATE original_table SET name = CASE WHEN id = 1 THEN 'Tom' WHEN id = 2 THEN 'Jack' WHEN id = 3 THEN 'Mary' ... END, age = CASE WHEN id = 1 THEN 20 WHEN id = 2 THEN 25 WHEN id = 3 THEN 30 ... END WHERE id IN (SELECT id FROM tmp_table); -- 删除临时表 DROP TABLE tmp_table; ``` 在上面的示例代码中,我们首先创建了一个临时表`tmp_table`来保存需要更新的数据。然后使用`INSERT INTO`语句将需要更新的数据插入到临时表中。 接着使用`UPDATE`语句对原表`original_table`进行批量更新。使用`CASE`和`WHEN`语句来实现根据每条记录的`id`值更新对应的`name`和`age`字段。最后使用`WHERE`子句指定更新的记录范围,这里使用了子查询的方式将临时表中的`id`值作为更新范围。 最后,我们删除临时表`tmp_table`。这样就完成了批量更新多条记录的操作。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值