2014.06.26 MySQL 用索引解决的一个性能问题

问题描述:

需要对每一位用户导出对应logs表中的数据(万级数据量,一直在不断增长),需要分析logs中的数据,分拣出:上调记录、下降记录、流失记录,然后导出;


前期处理方式:

1.执行一次SQL,查询出满足条件的所有用户;

2.for循环每一位客户,执行3条SQL语句,分别取获取上调记录、下降记录、流失记录;

3.导出数据(SQL执行数为:1+n*3);

4.因数据分析量比较大,导出时总是出现,等待超时的错误,且数据无法导出成功,因此,为了使功能正常运行,就在前端做了限制,每次只导出60条数据;自然,这样处理不能满足要求;

后期处理方式:

后来经过师兄指点,添加字段logs_type区分上调记录(logs_type=1)、下降记录(logs_type=2)、流失记录(logs_type=3),并为logs_type添加索引:

ALTER TABLE logs ADD INDEX logs_type_index (cid, logs_type);


1.执行一次SQL,查询出满足条件的所有用户;

2.for循环每一位客户,执行1条SQL语句,根据客户ID去获取上调记录、下降记录、流失记录的集合,然后分别判断集合中的每一个值是上调还是下调还是流失;

实际上因为加了索引的缘故,第2步节省了很多执行时间,执行效率很高;

3.导出数据(SQL执行数为:1+n)

前后对比:

logs表数据60000条:

本地 用户数据条数 修改前导出耗时 修改后导出耗时
755条 150秒左右 1.5秒左右
3307条  3.5秒左右
服务器 755条  2.8秒左右
3307条  7.8秒左右


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

未来的我比现在的我更优秀

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值