多线程测试mysql的百万数据的插入效率

show variables like '%max_allowed_packet%';

抽取100万数据的主键,这是服务器缓存32M

我的业务库是4M

场景从服务器抽一百万数据主键,插入业务库,五个字段

 

 

 

 

 

SELECT COUNT(*) FROM adqm_label_report_example_detail;
  truncate TABLE  adqm_label_report_example_detail;
 
  SELECT COUNT(*) FROM adqm_label_report_example_detail;

总结

多线程插入样例数据,实测样例表在1000万的数内,
100万的数据插入只要30秒(单线程需要1分半),每次6000条数据分批插入(根据每条sql的数据大小计算,我的6000大概是0.6M,有最佳效率,多了少了都有影响),组装100万业务数据只要3秒不到
数据堆积到1000-2000万,平均需要1分钟 ,

看后台mysql的写入磁盘可以达到6M每秒,这里多线程插入的是同一张表所以是排队等待的,我的表是自增主键还带有一个索引

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值