SQLite 常用性能优化配置

大家好,我是只谈技术不剪发的 Tony 老师。

SQLite 是一个嵌入式数据库引擎,通常以代码库的形式运行在其他程序中,因此我们不需要进行任何服务器配置。很多人都认为 SQLite 只能用于没有性能要求的小型数据库,但是实际情况并非如此。虽然 SQLite 只支持一个并发的写入操作,但是多个进程可以同时连接和查询相同的数据库。通过一些简单的配置和操作,我们完全可以使用 SQLite 创建 GB 级别的数据库并且支持高达每秒 10 万次的并发查询。

简单来说,优化 SQLite 性能的配置如下:

pragma journal_mode = WAL;
pragma synchronous = normal;
pragma temp_store = memory;
pragma mmap_size = 30000000000;

以上配置中的部分内容可以永久生效,但另一部分在每次连接时都会重置为默认值,因此推荐每次连接数据库之后都执行这些配置命令。

接下来我们具体解释一下每个参数的作用。

日志模式

pragma journal_mode = WAL;

I通过以上配置,SQLite 不再直接写入数据库文件(随机写入),而是先写入预写式日志(顺序写入)并定期提交到数据库文件。这种模式可以在写入事务进行的同时支持并发的读取操作,同时可以极大地改善性能。

注意:在某些写入压力下,WAL 模式可能存在一些问题,导致 WAL 文件无限增长,从而大大降低性能。通常是因为写入过于频繁,导致 SQLite 无法执行检查点操作。缓解这一问题的方法有几个:

  • 减少 wal_autocheckpoint 间隔。由于自动检查点是被动触发的操作,因此这种方法不能确保一定有效。
  • 定期执行 pragma wal_checkpoint(full) 或者 pragma wal_checkpoint(truncate) 命令。对于 full 方式,如果其他进程正在打开文件,WAL 大小不会发生改变,但是仍然会提交所有内容,确保新的数据不会导致 WAL 文件增长。对于 truncate 方式,SQLite 会阻塞其他进程并将 WAL 文件重置为空。我们可以通过一个单独的进程执行以上命令。

同步提交

pragma synchronous = normal;

pragma synchronous = off;

synchronous 的默认值为 full,意味着每个更新操作都需要等待 FSYNC 完成内存数据到磁盘文件的同步。在 WAL 模式下,normal 方式仍然是完全安全的,同时意味着只有 WAL 检查点操作需要等待 FSYNC 完成。off 可能导致数据库损坏,虽然我们极少遇到这种问题。更多信息可以参考官方文档

临时文件

pragma temp_store = memory;

以上指令表示使用内存存储临时索引和表。SQLite 可以自动为某些查询语句创建临时索引。无法确定这种操作可以提供多少性能帮助,如果 SQLite 创建了临时索引(通过 EXPLAIN QUERY PLAN 命令查看),我们应该主动创建相应的索引。

内存映射

pragma mmap_size = 30000000000;

当数据库的大小小于 mmap_size 字节时使用内存映射替代读/写调用。操作系统管理的 syscall、页面以及缓存将会更少,此时的性能取决于使用的操作系统。注意,该设置不会使用物理内存,而是保留虚拟内存。然后,操作系统将根据常用的“磁盘缓存”逻辑决定哪些页面被逐出,哪些页面留在内存中。至少是在 Linux 上,如果为 SQLite 进程分配了足够的内存,性能将会得到明显提升。如果数据库的大小比指定的 mmap_size 更大,数据库的一部分将会使用内存映射,其他仍然使用 read() / write() 系统调用。

对于 32 位操作系统,可能只能设置小于 4 GB 的 mmap_size。

内存映射还会在出现 I/O 错误时产生影响,具体可以参考官方文档

页面大小

pragma page_size = 32768;

对于存储大型 BLOB 数据而言,增加页面大小可以改进数据库的性能;但是对于一般的应用场景而言,这种方法可能并不适用。对于写入操作,SQLite 总是替换整个页面,因此增加页面大小会增加写入操作的开销。

其他操作

除了以上配置之外,我们还可以通过定期执行某些操作改善数据库的性能。

首先,我们可以定期重新组织数据库:

pragma vacuum;

每次执行以上命令都会重新写入数据库文件,如果数据库大小超过 100 MB 将会非常耗时。

其次,我可以定期重新分析数据库:

pragma optimize;

为了在不需要对应用程序模式和 SQL 进行详细分析的情况下获得最佳的长期查询性能,推荐应用程序每次关闭数据库连接时运行以上命令。对于长期运行的应用程序,也可以通过几个小时一次定期运行以上命令获得性能提升。相信信息可以参考官方文档

另外,我们还可以定期清理数据库:

pragma auto_vacuum = incremental; -- 创建数据库之后
pragma incremental_vacuum; -- 定期

以上命令只有当数据库的大小会定期显著缩减时才会明显提升性能。

执行清理命令时,数据库文件中的空闲列表页会被移动到文件结尾并且被删除。需要注意,自动清理只会截断空闲列表页,而不会执行 VACUUM 命令的文件碎片整理和页面修复。实际上,由于它会移动数据页,自动清理反而会增加碎片化。相信内容可以参考官方文档

  • 9
    点赞
  • 34
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 4
    评论
非常好用的SQLiteSpy 1.8.16 免费正式版(内附有一做好的DB,大家可以马上看下效果)。网上看到的,整理了下,共享给大家! 希望有用! SQLiteSpy是一个快速和紧凑的图形用户界面的SQLite数据库管理软件。它可以读取sqlite3文件并执行SQL。图形用户界面使得它很容易分析和操纵sqlite3的数据库。 注意:SQLiteSpy是免费供个人和教育用途,SQLiteSpy主要特点: 1、数据库一览:树状显示所有的架构,包括表,列,索引和触发器在数据库中包含的项目。按F5更新架构树,双击一个表或视图来显示它的数据,使用常用的命令的上下文菜单。 2、网格单元格编辑:表格单元格中编辑,显示一个表通过树状架构,选择一个单元格,然后按F2键调用编辑器。然后修改并确认您的更改写回到表里。 3、数据类型显示:本机的SQL数据类型显示不同的背景颜色来帮助检测类型错误。类型错误可能会导致性能下降或错误的SELECT结果集,防止NULL值与空字符串混淆。 4、完全的Unicode: SQLiteSpy具有完全支持SQLite的Unicode的能力。数据显示和输入是完全实现为Unicode,包括SQL命令。 5、多个SQL编辑:现代标签是用来编辑和显示的查询语句和结果比较容易多个SQL查询。 SQL查询执行输入或加载到SQL他们编辑。然后按F9键运行该查询,或Ctrl + F9来运行当前行或选择只。 6、时间测量: SQL执行的时间会自动测量和显示,以帮助优化查询。 7、正则表达式:在SQL关键字regexp是支持,并增加了完整的Perl的正则表达式语法5.10 SQLiteSpy。的实施,实现了利用DIRegEx库。 8、数学SQL函数:下面的SQL函数可用数学除了SQLite的默认:ACOS(), ASIN(), ATAN(), ATAN(), ATAN2(), CEIL(), CEILING(), COS(), COT(), DEGREES(), EXP(), FLOOR(), LN(), LOG(), LOG(), LOG2(), LOG10(), MOD(), PI(), POW(), RADIANS(), SIGN(), SIN(), SQRT(), TAN(), TRUNCATE(). 9、数据压缩:压缩的SQL函数()适用的zlib的紧缩到任何文本或BLOB值。 10、紧凑型结果储存:使用内部数据存储机制,以达到最佳的兼容SQLite的原生数据类型。因此,SQLiteSpy使用远低于其它的SQLite管理内存和更有效地处理大量的表。 11、内建的SQLite引擎: SQLiteSpy已建成一个单一的应用程序文件与SQLite数据库引擎可执行文件。不需要部署任何DLL文件,这使得SQLiteSpy更易于部署。 12、加密支持: SQLiteSpy可以阅读和修改加密的数据库文件由DISQLite3产生。 DISQLite3实现了自己的母语AES加密。这为不符合商业SQLite的加密扩展(SSE)的或任何其他第三方的实施提供兼容。 13、易安装和卸载:要运行SQLiteSpy,只需解压SQLiteSpy.exe文件到任何目录和执行文件。不需要安装。刚开始时,该程序创建一个文件SQLiteSpy.db3(1 sqlite3的数据库)来存储的和设置。它不写任何其他文件或注册表。卸载一样只是简单的删除两个文件:应用程序的可执行文件和数据库文件。
SQLite3 中,定期进行数据库优化可以提高性能和减少空间占用。以下是一些常用的定期优化方法: 1. VACUUMSQLite3 中的 VACUUM 命令用于重新组织数据库文件并释放未使用的空间。执行 VACUUM 可以减小数据库文件的大小,并提高查询性能。可以根据需要定期执行 VACUUM 命令,例如当删除大量数据后或者数据库文件变得过大时。 2. ANALYZE:ANALYZE 命令用于收集统计信息,帮助 SQLite3 优化查询执行计划。执行 ANALYZE 可以更新数据库中的统计信息,从而提高查询性能。可以定期执行 ANALYZE 命令,例如当数据分布发生变化时或者查询性能下降时。 3. REINDEX:REINDEX 命令用于重新建立索引,帮助 SQLite3 优化索引结构。执行 REINDEX 可以修复索引损坏或者优化索引结构,从而提高查询性能。可以根据需要定期执行 REINDEX 命令,例如当索引损坏或者查询性能下降时。 4. 清理无效的临时表:在使用临时表进行查询时,SQLite3 会自动创建临时表并在查询结束后自动删除。然而,有时由于异常退出或其他原因,临时表可能没有被正确删除。定期清理无效的临时表可以减少空间占用和提高性能。 5. 合理设置缓存大小:SQLite3 使用缓存来提高查询性能。根据应用程序的需求和系统资源情况,合理设置缓存大小可以提高性能。可以根据实际情况调整 SQLite3 的缓存设置,例如通过 PRAGMA 命令设置缓存大小。 需要注意的是,定期优化数据库应该在合适的时机进行,并且需要根据实际情况进行调整和测试。优化的频率和方法可能因数据库大小、查询模式、系统资源等因素而异。在进行任何优化操作之前,建议先备份数据库以防意外发生。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不剪发的Tony老师

为 5 个 C 币而折腰。

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值