python数据库优化_数据库优化 - 实例优化

从网上去搜数据库优化基本都是从SQL层次进行优化的，很少有提及到数据库本身的实例优化。就算有也都是基于某个特定数据库的实例优化，本文涵盖目前市面上所有主流数据库的实例优化(Oralce、MySQL、POSTGRES、达梦),按照文章的配置能够将你数据库性能用到80%或以上。

数据库优化方法论

这部分为理论知识，不感兴趣的同学可以直接跳到后面参数配置部分。

数据库优化目标

目标

根据角色的不同，数据库优化分为以下几个目标：

业务角度(关键用户)：

减少用户页面响应时间

数据库角度(开发)：

减少数据库SQL响应时间

数据库服务器角度(运维)：

充分使用数据库服务器物理资源

减少数据库服务器CPU使用率

减少数据库服务器IO使用率

减少数据库服务器内存使用率

指标

SQL平均响应时间变短

优化前：数据库平均响应时间500ms

优化目标：数据库平均响应时间200ms

数据库服务器CPU占用率变少

优化前：数据库高峰期CPU使用率70%

优化目标：数据库高峰期CPU使用率50%

数据库服务器IO使用率变低

优化前：数据库IO WAIT为30%

优化目标：数据库IO WAIT低于10%

数据库优化误区

在进行数据库优化的时候可能会有以下几个误区：

优化之前一定要深入了解数据库内部原理

优化是有“套路”的，照着这些“套路”你也可以很好的完成数据库优化

不断调整数据库参数就可以最终实现优化

有时候设计不合理怎么调整参数都不行

不断调整操作系统参数就可以最终实现优化

同上

数据库性能由应用、数据库架构决定，与应用开发关系不大

恰恰相反，应用开发的关系很大

必须要做读写分离，必须要弄分库分表

数据量级只有达到一定的比例才有必要做读写分离，分表分库，否则徒增复杂度。一般来说Oracle的单表量级可以达到1亿，MySQL到1000万~2000万

数据库优化流程

完整的数据库优化流程如下：

首先需要尽可能的了解优化问题，收集问题期间系统信息并做好存档。根据当前系统问题表现制定优化目标并与客户沟通目标达成一致；通过一系列工具分析系统问题，制定优化方案，方案评审完成后由各负责人员进行实施。若达到优化目标则编写优化报告，否则需要重新制定优化方案。

数据库实例优化

数据库实例优化遵循三句口诀：日志不能小、缓存足够大、连接要够用。

数据库事务提交后需要将事务对数据页的修改刷( fsync)到磁盘上，才能保证数据的持久性。这个刷盘，是一个随机写，性能较低，如果每次事务提交都要刷盘，会极大影响数据库的性能。数据库在架构设计中都会采用如下两个优化手法：

先将事务写到日志文件RedoLog(WAL)，将随机写优化成顺序写

加一层缓存结构Buffer，将每次写优化成顺序写

所以日志跟缓存对数据库实例尤其重要。而连接如果不够用，数据库会直接抛出异常，系统无法访问。

数据库参数优化

主流数据库架构都有如下的共同点：

数据缓存

SQL解析区

排序内存

REDO及UNDO

锁、LATCH、MUTEX

监听及连接

文件读写性能

接下来我们根据不同的数据库调整参数以使数据库达到最佳性能。

ORACLE

参数分类参数名参数值备注

数据缓存

SGA_TAGET、MEMORY_TARGET

物理内存70-80%

越大越好

数据缓存

DB_CACHE_SIZE

物理内存70-80%

越大越好

SQL解析

SHARED_POOL_SIZE

4-16G

不建议设置过大

监听及连接

PROCESSES、SESSIONS、OPEN_CURSORS

根据业务需求设置

一般为业务预估连接数的120%

其他

SESSION_CACHED_CURSORS

大于200

软软解析

MYSQL(INNODB)

参数分类参数名参数值备注

数据缓存

INNODB_BUFFER_POOL_SIZE

物理内存50-80%

一般来说越大性能越好

日志相关

Innodb_log_buffer_size

16-32M

根据运行情况调整

日志相关

sync_binlog

1、100、0

1安全性最好

监听及连接

max_connections

根据业务情况调整

可以预留一部分值

文件读写性能

innodb_flush_log_at_trx_commit

2

安全和性能的折中考虑

其他

wait_timeout，interactive_timeout

28800

避免应用连接定时中断

POSTGRES

参数分类参数名参数值备注

数据缓存

SHARED_BUFFERS

物理内存10-25%

数据缓存

CACHE_BUFFER_SIZE

物理内存50-60%

日志相关

wal_buffer

8-64M

不建议设置过大过小

监听及连接

max_connections

根据业务情况调整

一般为业务预估连接数的120%

其他

maintenance_work_mem

512M或更大

其他

work_mem

8-16M

原始配置1M过小

其他

checkpoint_segments

32或者更大

达梦数据库

参数分类参数名参数值备注

数据缓存

MEMROY_TARGET、MEMROY_POOL

物理内存90%

数据缓存

BUFFER

物理内存60%

数据缓存

数据缓存

MAX_BUFFER

物理内存70%

最大数据缓存

监听及连接

max_sessions

根据业务需求设置

一般为业务预估连接数的120%

总结

数据库的优化手法太多太多，有换磁盘阵列升级硬件，有改写SQL脚本添加索引，还有数据库参数调整优化性能，甚至还可以调整数据库架构。本文从数据库本身参数进行调优，大家根据上面几张表中的参数进行调整基本能达到数据库最佳性能的80%。