mysql数据量对索引的影响_事务对MySQL性能有什么影响?有无索引查找对其影响有多大?...

1、插入测试

在此次测试中数据库表有三个字段,id(自增主键)、username、password。

1.1 插入耗时实测

实测:插入30多万条数据,采用一次事务提交一条sql语句,耗时2小时以上,具体没统计,因为计划是这样插入2000万条数据的,但由于太慢提前终止了,所以插入30多万条数据。

插入2000万条数据,采用一次事务提交10万条sql语句,耗时50多分钟,将近1小时(若是老铁们做这样的实验,可以加上一个时间对象,这样可以看的更加清晰)。

1.2 TestDemo

1.3 测试代码:

1.3.1 MybatisTest

import mapper.TestMapper;

import org.apache.ibatis.io.Resources;

import org.apache.ibatis.session.SqlSession;

import org.apache.ibatis.session.SqlSessionFactory;

import org.apache.ibatis.session.SqlSessionFactoryBuilder;

import po.TestBean;

import java.io.IOException;

import java.io.InputStream;

public class MybatisTest {

public static void main(String[] args) throws IOException {

//1.读取配置文件

InputStream in = Resources.getResourceAsStream("mybatis.xml");

//2.创建SqlSessionFactory工厂

SqlSessionFactoryBuilder builder = new SqlSessionFactoryBuilder();

SqlSessionFactory factory = builder.build(in);

//3.使用工厂生产SqlSession对象

SqlSession session = factory.openSession();

//4.使用SqlSession创建Dao接口的代理对象

TestMapper testMapper = session.getMapper(TestMapper.class);

//5.使用代理对象执行方法

TestBean testBean =new TestBean();

for (int i = 10; i<20000000 ;i++){

testBean.setName("lbw"+i);

testBean.setPassword("nb"+i);

testMapper.saveTest(testBean);

// //1次操作 提交1次事务

// session.commit();

// 100000次操作提交1次事务

if (i%100000 == 0){

session.commit();

}

}

//6.释放资源

session.close();

in.close();

}

}

1.3.2 TestBean

package po;

import java.io.Serializable;

public class TestBean implements Serializable {

String id;

String name;

String password;

public String getId() {

return id;

}

public void setId(String id) {

this.id = id;

}

public String getName() {

return name;

}

public void setName(String name) {

this.name = name;

}

public String getPassword() {

return password;

}

public void setPassword(String password) {

this.password = password;

}

@Override

public String toString() {

return "po.TestBean{" +

"id='" + id + '\'' +

", name='" + name + '\'' +

", password='" + password + '\'' +

'}';

}

}

1.3.3 TestMapper

package mapper;

import org.apache.ibatis.annotations.Insert;

import org.apache.ibatis.annotations.Select;

import po.TestBean;

public interface TestMapper {

@Insert("insert into test200411(name,password) values(#{name},#{password})")

void saveTest(TestBean t);

@Select("select id,name,password from test200411 where id = #{s}")

TestBean selectById(String s);

}

1.3.4 mybatis.xml(mybatis配置文件)

/p>

PUBLIC "-//mybatis.org//DTD Config 3.0//EN"

"http://mybatis.org/dtd/mybatis-3-config.dtd">

1.4 过程体验

程序运行后在几个小时时间里,电脑处于烤机(烤鸡诱惑,烤鸡pg是块宝)状态!!!很遗憾的是,当时没有截图程序运行了的时间,不过1.1结论是数据是保真的,实在不想再搞几千万条数据在数据库了。

1.5 数据量

1.5.1 计数用时

使用 select count(0) from test200411 进行计数,统计查询用时:13.7s,得到统计数: 20379620,之所以是20379620,是因为我测试中先插入30多万,之后再插入2000万。数据是不会骗人的哦,没毛病吧,铁子们。

1.5.2 占用硬盘空间硬盘空间占用为:1.47GB(1585455597 B)。

分析一下,我的表字段只有3个,且每个字段里面实质存储的数据长度都不长。

151585455597 B / 20379620 = 77 B

这样算下每一行数据平均占用77B,这个数据一看就知道,存储过程中应该是有数据压缩的,这一结论不太严谨,有大佬知道mysql底层存储的话,望指导一下。

2、索引查询测试

2.1 索引检测

使用 show index from test200411可以查到当前表拥有的索引,当前只有我自己自增id的默认索引,和我自己建立的id字段索引。

2.2 对有无索引的字段where查询比较

2.2.1 无索引字段

使用 SELECT * from test200411 where password = "nb1234"查询到两条数据,耗时:57.9s,明显这个查询时间是不可取的小结论:所以在大表查询我们为什么需要及其注重性能了,平常若是做个小的测试系统,数据量撑死几千,查询时,根本就感觉不出时间上的差异。这也是为什么我们需要那么多数据库优化的策略,索引、分库分表、主从复制、读写分离、缓存设计等等。

为什么会这么慢呢,因为该字段没有索引的话,它就需要一行一行的去做比对,这样做,不仅比对长,磁盘io也多。

2.2.1 有索引字段

使用:SELECT * from test200411 where id = 2566345查询到唯一数据,耗时:0.133s这个根据索引查询数据的时间和无索引字段查询时间比较,由实质数据得到它们之间性能差了500多倍。

为什么索引这么快?因为索引底层是b+树,所以索引是按照一定的大小顺序来排序的,根据索引查询,能减少磁盘io,也能减少比对次数。

2.3 建立索引

2.3.1 索引创建

使用:CREATE INDEX paw_index ON test200411(password)耗时:156.0s

2.3.2 索引查询

再次查看已经索引,可以看到一个paw_index 的新索引,这就是我们刚刚创建的索引。

2.3.3 查询新建立索引字段

使用 SELECT * from test200411 where password = "nb12345"耗时:0.110s可以将此条sql和 2.2.1 比较 ,除了匹配的字符串不一样(之所以用了不同的字符串,是因为实验是连着做的,同一条字符串查询,会有缓存,影响结果),其他都是一样的。可以看到它们之前惊人的查询速度差异,速度相差大概是500倍。

3、总结

3.1 事务对数据库性能影响

在一个事务内只提交一条sql和在一个事务内提交多个sql,对数据库数据的批量处理影响是很大的。一个事务内提交多个sql可以提高批量数据的处理速度。

3.2 数据库索引对数据库查询性能分析

通过上面的实例,我们可以看到,有无索引对数据库查询速度的影响是很大的,实验中它们速度差异可以到500倍,当然这是取决的实验过程中的数据量,而我们的实验数据量有2000多万行,也正是这样才能放大对 有无索引对数据库查询的影响 效果。

总之,通过这个实例不会有人还没搞懂索引这个东西的重要性和其作用吧!不会吧?不会吧?当然我这没将索引的三板斧,“是什么,为什么需要,怎么做”,全列出来,我觉得写也的还行,带有实例出发,通俗易懂吧!!

这个实验从上到下都是可以复现的,代码和过程都有,有兴趣的小伙伴可以尝试复现一下,让自己对索引的理解加深。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值