Android SQLite性能分析

原创 2014年04月29日 22:18:09

作为Android预置的数据库模块,对SQLite的深入理解是非常有必要的,可以从中找到一些优化的方向。这里对SQLite的性能和内存进行了一些测试分析,对比了不同操作的执行性能和内存占用的情况,粗略地列在这里算是作个小结。


1. 基本架构


先了解一下SQLite主要架构 (详见《The Definitive Guide to SQLite》), 需要关注的是Compiler和Backend两个模块。正因为有一个虚拟机的存在,所以才有了Compiled Statement的价值,因为它可以减少前置的编译时间,直接到VDBE上执行。而Backend端的Pager,则是重要数据管理者,真正决定者数据操作的性能,以及内存占用。


这里不再赘述,详细的内容还是阅读有关SQLite介绍的资料。



2. 性能


这次测试基于Sumsung i9103和Google Nexus S1进行。使用Python脚本及adb指令通过Intent操作Android应用进行数据库操作。


i. SELECT操作

首先观察到SELECT在不同记录数下的峰值分布,可见整体上有上升的趋势。正如SQLite官方说的它并不适合存储大量数据,一定要控制其中的记录数量。

另外SELECT操作性能也取决于查询的栏位个数,而@行云进一步确认和返回栏位的内容大小有关,也就是栏位的内容和多少也需要权衡。



ii. 关于事务

事务是提高SQLite操作性能的一个重要技术,特别是SQLite实现了WAL,使得事务与SELECT不会互斥,大大提高了应用的性能。参见附2。


下面是未使用事务时,三类操作的平均值:


使用了事务后,各个操作的性能大幅下降。


但是问题是事务提交的时间会变长,这个时间一是需要形成新的峰值,另外也要平分到各个操作来看:

     

所以不能贪多,事务还是要及时提交。另外注意, 虽然Compiled Statement有利于性能表现,但还不如使用事务的效果来得直接。


iii. 不同机型的操作性能

先看SELECT操作的平均值在两种机型上的表现, 可以看到i9103上的波动性比较大,而Nexsus S1则一直保持稳定:

散点图,可以观察到时间分布情况:




再看另外三个操作的表现(上下两部分false和true分别表示为未使用事务和使用事务的情况):



运用WAL可以大幅提升性能,不过它也有一个副作用。它会导致数据查询需要进行两次,可以理解为一次在db文件,一次在wal文件。具体原因参见<<The Definitive Guide to SQLite>>最后一章。WAL是满1000Pages时才会合并到主数据库里,这个时机称为checking point, 可以进行配置。按默认的Page Size:1024计算,也就是当WAL文件接近1M时,进行检查。如果没有活动的事务使用这些pages,就会提交。而WAL的大小,对SELECT的影响表现不同。


下面是WAL对查询性能峰值影响的测试数据(i9103上测试),图中的true,false表示是否有WAL文件存在。


 *整体的平均值相差在1ms,但峰值的才是真正值得注意的。


为了避免WAL过大,可以选择调用SQLiteDatabase::disableWriteAheadLogging()强制合并到主数据库文件,这个调用会异步在SQLite内部执行,不会明显阻塞用户的线程。


*另外,SQLiteDatabase::query()只是对SQLiteDatabase::rawQuery()的封装,多了一个字串组装的过程,反而不如直接使用SQLiteDatabase::rawQuery()。



3. 内存 


SQLite以Page为单位存储数据,默认一个Page有1024字节,然后通过B- Tree组织起来(Table使用B+ Tree组织):



Lookaside则是SQLite应用的内存管理的技术,优化了内存的使用效率,主要思想是先分配一整块内存, 分成若干个slots,然后SQLite再按需使用。这和许多小内存分配器的思想是一样的。详见附1。


再解释一下Page Cache Overflow, 主要是在一个Page中的记录的数据无法刚好放在一个Page内,还要使用额外的另一个Page空间, 这就是Overflow Page。

     


Android还有个万能dumpsys, 使用dumpsys meminfo可以查看到一个进程的SQLite使用的内存信息。如:

SQL

                heap:      265          MEMORY_USED:      265

  PAGECACHE_OVERFLOW:       73          MALLOC_SIZE:       46

 

 DATABASES

      pgsz     dbsz   Lookaside(b)          cache  Dbname

         4       60             17      199/114/1  webviewCache.db

                                          1/541/1  (pooled # 1) webviewCache.db


   . cache的三个值分别是:

        Page Cache的命中次数、未命中次数,以及Page Cache个数。可以在Android源码中的SQLiteDebug.java以及ActivityThread.java找到细节的内容。

   . page size, db size的单位是KBytes, Lookaside(b)是指使用多少个Lookaside的slots。

   . 对于Heap和Overflow Pages,SQLiteDatabase的内存回收可能没有那么及时,可以调用SQLiteDatabase::releaseMemory()进行主动释放。


*使用SQLite的PRAGMA可以直接获取一些通过SQLiteDatabase获取不到信息,当然如果SQLite不支持,也会抛异常出来,详见附4。


转载请注明出处: http://blog.csdn.net/horkychen  SQLite是一个非常精致的系统,很值得研究学习。


参考

  1. SQLite Dynamic Memory Allocation

  2. Write-Ahead Logging 或 SQLite的WAL机制

  3. The Definitive Guide to SQLite( SQLite权威指南, 两处关于架构和Overflow page的截图来于此书.)

  4. PRAGMA Statement

  5. 官方文档

  6. NEC关于Android系统上存储器操作性能的研究报告 (里面有讲述SQLite因为其随机性访问的机制而在不同文件系统上的性能差异)

  7. Android开发中的SQLite优化





Android中Sqlite的使用及性能优化

1.写在前面的话前面写过一篇关于Sqlite基本操作的文章,今天我们来学习Android中如何使用Sqlite以及性能优化。2.Android平台下数据库相关类SQLiteOpenHelper 抽象类...
  • txvaqh
  • txvaqh
  • 2016年09月05日 10:59
  • 2554

Android 往Sqlitedatabase中插入大量数据效率问题,40倍效率加速你的操作

情景:我现在要往sqlite database中的表中(R_USER_QUESTION_DO_HISTORY)插入一万条数据1.我的代码: public void setUpDataBaseForU...
  • Gpwner
  • Gpwner
  • 2016年11月27日 14:17
  • 1812

SQLite性能和限制

性能和限制 SQLite是一个很快的数据库,但"快"这个词本身是一个主观的和模糊不清的词。坦白地讲,对于有些事情,SQLite比其他数据库做得快,也有些事情比不上其他数据库。利用SQLite提供...
  • yuzhouxiang
  • yuzhouxiang
  • 2012年03月20日 14:04
  • 35375

MySql,SQLServer,SQLite性能比较

工作任务:测试三个数据库的性能 测试方法:C#编写工具,对数据库进行大量数据Insert和Selectc测试 测试结果: Insert测试 Select测试 ...
  • Empty_Android
  • Empty_Android
  • 2017年07月14日 14:28
  • 1913

提升SQLite数据插入效率低、速度慢的方法

前言 SQLite数据库由于其简单、灵活、轻量、开源,已经被越来越多的被应用到中小型应用中。甚至有人说,SQLite完全可以用来取代c语言中的文件读写操作。因此我最近编写有关遥感数据处理的程序的...
  • majiakun1
  • majiakun1
  • 2015年06月23日 16:29
  • 31640

Android SQLite性能分析————c博客精品推荐

作为Android预置的数据库模块,对SQLite的深入理解是非常有必要的,可以从中找到一些优化的方向。这里对SQLite的性能和内存进行了一些测试分析,对比了不同操作的执行性能和内存占用的情况,粗略...
  • kite30
  • kite30
  • 2015年07月15日 10:17
  • 229

Android Sqlite查询优化之一---运用索引

前言 最近笔者在做聊天功能模块,发现当本地聊天数据记录过大,以10万行数据进行了检索测试,发现时间太长了,要6s左右,但学着运用了下索引,时间大大提升,紧要几百毫秒就能完成. 以下内容,摘抄至网络 参...
  • qq_28690547
  • qq_28690547
  • 2016年03月08日 01:11
  • 3111

SQLite查询优化性能要点

数据库查询优化
  • wukunting
  • wukunting
  • 2010年07月15日 14:04
  • 5358

Android SQLite性能分析

作为Android预置的数据库模块,SQLite精致而且强大,对它的深入理解对于提升应用的性能非常重要。这里对SQLite的性能和内存进行了一些测试分析,对比了不同操作的执行性能和内存占用的情况,粗略...
  • HorkyChen
  • HorkyChen
  • 2014年04月29日 22:18
  • 12699

Android 中 SQLite 性能优化

SQLite 数据库 性能优化 索引
  • qq_33344834
  • qq_33344834
  • 2016年07月09日 08:54
  • 329
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:Android SQLite性能分析
举报原因:
原因补充:

(最多只允许输入30个字)