目录
3.将redis-5.0.7.tar.gz 压缩包上传到/opt 目录中并解压
5.执行 install_server.sh 脚本设置Redis服务所需要的相关配置文件
一、缓存
1.缓存概念
缓存是为了调节速度不一致的两个或多个不同的物质的速度,在中间对速度较慢的一方起到加速作用,比如CPU的一级、二级缓存是保存了CPU最近经常访问的数据,内存是保存CPU经常访问硬盘的数据,而且硬盘也有大小不一的缓存,甚至是物理服务器的raid 卡有也缓存,都是为了起到加速CPU 访问硬盘数据的目的,因为CPU的速度太快了,CPU需要的数据由于硬盘往往不能在短时间内满足CPU的需求,因此CPU缓存、内存、Raid 卡缓存以及硬盘缓存就在一定程度上满足了CPU的数据需求,即CPU 从缓存读取数据可以大幅提高CPU的工作效率。
2.系统缓存
(1)buffer
buffer缓存缓冲也叫写缓冲,一般用于写操作,可以将数据先写入内存再写入磁盘,buffer 一般用于写缓冲,用于解决不同介质的速度不一致的缓冲,先将数据临时写入到里自己最近的地方,以提高写入速度,CPU会把数据先写到内存的磁盘缓冲区,然后就认为数据已经写入完成看,然后由内核在后续的时间在写入磁盘,所以服务器突然断电会丢失内存中的部分数据。
(2)cache
缓存也叫读缓存,一般用于读操作,CPU读文件从内存读,如果内存没有就先从硬盘读到内存再读到CPU,将需要频繁读取的数据放在里自己最近的缓存区域,下次读取的时候即可快速读取。
3.缓存保存位置及分层结构
(1)分层结构
用户层: 浏览器DNS缓存,应用程序DNS缓存,操作系统DNS缓存客户端
代理层: CDN,反向代理缓存
Web层: Web服务器缓存
应用层: 页面静态化
数据层: 分布式缓存,数据库
系统层: 操作系统cache
物理层: 磁盘cache, Raid Cache
(2)缓存解释
用户层
1.DNS缓存
浏览器的DNS缓存默认为60秒,即60秒之内在访问同一个域名就不在进行DNS解析
代理层
1.CDN
CDN(Content Delivery Network)是指内容分发网络,也称为内容传送网络。CDN是构建在现有网络基础之上的智能虚拟网络,依靠部署在各地的边缘服务器,通过中心平台的负载均衡、内容分发、调度等功能模块,使用户就近获取所需内容,降低网络拥塞,提高用户访问响应速度和命中率。CDN的关键技术主要有内容存储和分发技术
2.反向代理缓存
如果Squid反向代理服务器中缓存了该请求的资源,则将该请求的资源直接返回给客户端;否则反向代理服务器将向后台的WEB服务器请求资源,然后将请求的应答返回给客户端,同时也将该应答缓存在本地,供下一个请求者使用
Web层
1.Web服务器缓存
Web缓存(或HTTP缓存)用于临时存储(缓存)Web文档(如HTML页面和图像),以减少服务器延迟的一种信息技术。Web缓存系统会保存下通过这套系统的文档的副本;如果满足某些条件,可以由缓存满足后续请求。 Web缓存系统既可以指设备,也可以指计算机程序。
应用层
Nginx、PHP等web服务可以设置应用缓存以加速响应用户请求,另外有些解释性语言,比如:PHP/Python/Java不能直接运行,需要先编译成字节码,但字节码需要解释器解释为机器码之后才能执行,因此字节码也是一种缓存
另外可以利用动态页面静态化技术,加速访问,比如:将访问数据库的数据的动态页面,提前用程序生成静态页面文件html 电商网站的商品介绍,评论信息非实时数据等皆可利用此技术实现。
数据层
1.分布式缓存服务
Redis
Memcached
2.数据库
MySQL 查询缓存
innodb缓存、MYISAM缓存
硬件缓存
CPU缓存(L1的数据缓存和L1的指令缓存)、二级缓存、三级缓存
磁盘缓存:Disk Cache
磁盘阵列缓存: Raid Cache,可使用电池防止断电丢失数据
二、关系型数据库和非关系型数据库
1.关系型数据库
关系型数据库是一个结构化的数据库,创建在关系模型(二维表格模型)基础上,一般面向于记录。
SQL语句(标准数据查询语言)就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。
主流的关系型数据库包括Oracle、MySQL、SQL Server、Microsoft Access、DB2等。
2.非关系型数据库
NoSQL (NoSQL=NotOnlySQL), 意思是“不仅仅是SQL",是非关系型数据库的总称。除了主流的关系型数据库外的数据库,都认为是非关系型。
主流的NoSQL 数据库有Redis、MongBD、Hbase、Memcached等。
3.关系型数据库和非关系型数据库区别
① 数据存储方式不同
关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。与其相反,非关系型数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。
总结:
①关系型:依赖于关系模型E-R图,同时以表格式的方式存储数据
②非关系型:除了以表格形式存储之外,通常会以大块的形式组合在一起进行存储数据
② 扩展方式不同
SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。
要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来客服。虽然sQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。总结:
关系型:纵向(天然表格式)
非关系型:横向(天然分布式)
③ 对事务性的支持不同
如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,那么传统的SQL数据库从性能和稳定性方面考虑是最佳选择。SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。虽然NoSQL数据库也可以使用事务操作,但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。
总结:
关系型:特别适合高事务性要求和需要控制执行计划的任务
非关系型:此处会稍显弱势,其价值点在于高扩展性和大数据量处理方面
4.非关系型数据库产生背景
可用于应对Web2.0纯动态网站类型的三高问题
(1) High performance-------对数据库高并发读写需求
(2) Hugestorag--------------对 海量数据高效存储与访问需求
(3) High Scalability && High Availability-------对数据库高可扩展性与高可用性需求总结:
关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系数据库关注在关系上,非关系型数据库关注在存储上。例如,在读写分离的MySQL数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度
三、Redis简介
1.Redis定义
Redis是一个key-value存储系统。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。在此基础上,redis支持各种不同方式的排序。与memcached一样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。
Redis 是一个高性能的key-value数据库。 redis的出现,很大程度补偿了memcached这类key/value存储的不足,在部 分场合可以对关系数据库起到很好的补充作用。它提供了Java,C/C++,C#,PHP,JavaScript,Perl,Object-C,Python,Ruby,Erlang等客户端,使用很方便。
Redis支持主从同步。数据可以从主服务器向任意数量的从服务器上同步,从服务器可以是关联其他从服务器的主服务器。这使得Redis可执行单层树复制。存盘可以有意无意的对数据进行写操作。由于完全实现了发布/订阅机制,使得从数据库在任何地方同步树时,可订阅一个频道并接收主服务器完整的消息发布记录。同步对读取操作的可扩展性和数据冗余很有帮助。
总结:
建议可以开2个进程
原因:
①、备份
②、抗高并发的同时尽量不给CPU造成太大的压力若对高并发要求更高一些,可能会考虑在同一台服务器上开启多个进程。若CPU资源比较紧张,采用单进程即可。
2.Redis的特性
(1)读写速度快
数据读取的速度最高可达到110000次/s,数据写入速度最高可达到81000次/s。
(2)单线程
纯内存;非阻塞;避免线程切换和竞态消耗
(3)持久化
可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
(4)支持多种数据类型
支持key-value、 Strings、Lists、Hashes ( 散列值)、Sets及OrderedSets等数据类型操作。
string 字符串(可以为整形、浮点和字符型,统称为元素)
list列表:(实现队列,元素不唯一,先入先出原则)
set 集合:(各不相同的元素)
hash hash散列值:( hash的key必须是唯一的) set /ordered sets集合/有序集合
(5)支持多种编程语言
支持Java,C/C++,C#,PHP,JavaScript,Perl,Object-C,Python,Ruby,Erlang
(6)功能丰富:
支持Lua脚本,发布订阅,事务,pipeline等功能
(7)简单
代码短小精悍(单机核心代码只有23000行左右),单线程开发容易,不依赖外部库,使用简单
(8)主从复制
支持高可用和分布式
3.Redis应用场景
Session 共享:常见于web集群中的Tomcat或者PHP中多web服务器session共享
缓存:数据查询、电商网站商品信息、新闻内容
计数器:访问排行榜、商品浏览数等和次数相关的数值统计场景
微博/微信社交场合:共同好友,粉丝数,关注,点赞评论等
消息队列:ELK的日志缓存、部分业务的订阅发布系统
地理位置: 基于GEO(地理信息定位),实现摇一摇,附近的人,外卖等功
4.Redis对比memcached
支持数据的持久化
可以将内存中的数据保持在磁盘中,重启redis服务或者服务器之后可以从备份文件中恢复数据到内存继续使用
支持更多的数据类型
支持string(字符串)、hash(哈希数据)、list(列表)、set(集合)、zset(有序集合)
支持数据的备份
可以实现类似于数据的master-slave模式的数据备份,另外也支持使用快照+AOF
支持更大的value数据
memcache单个key value最大只支持1MB,而redis最大支持512MB(生产不建议超过2M,性能受影响)
在Redis6版本前,Redis 是单线程,而memcached是多线程
单机情况下没有memcached 并发高,性能更好,但redis 支持分布式集群以实现更高的并发,单Redis实例可以实现数万并发
支持集群横向扩展
基于redis cluster的横向扩展,可以实现分布式集群,大幅提升性能和数据安全性
四 、安装Redis
1.初始化操作
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# setenforce 0
2.安装前依赖包
[root@localhost ~]# yum install -y gcc gcc-c++ make
3.将redis-5.0.7.tar.gz 压缩包上传到/opt 目录中并解压
[root@localhost ~]# tar zxvf redis-5.0.7.tar.gz -C /opt/
4.编译安装
[root@localhost ~]# cd /opt/redis-5.0.7/
[root@localhost redis-5.0.7# make PREFIX=/usr/local/redis install
5.执行 install_server.sh 脚本设置Redis服务所需要的相关配置文件
[root@localhost redis-5.0.7]# cd /opt/redis-5.0.7/utils
[root@localhost utils]# ./install_server.sh
6. 查看是否启动
[root@localhost utils]# ss -natp |grep redis
7.创建软链接
[root@localhost utils]# ln -s /usr/local/redis/bin/* /usr/local/bin/
8.修改配置文件
[root@localhost utils]# vim /etc/redis/6379.conf
配置文件注解
bind 127.0.0.1 192.168.174.20 #70行,添加监听的主机地址
port 6379 #93行,Redis默认的监听端口
daemonize yes #137行,启用守护进程
pidfile /var/run/redis_6379.pid #159行,指定PID文件
loglevel notice #167行,日志级别
logfile /var/log/redis_6379.log #172行,指定日志文件
9. Redis服务控制(我们启动服务)
[root@localhost utils]# /etc/init.d/redis_6379 start
/etc/init.d/redis_6379 stop #停止
/etc/init.d/redis_6379 start #启动
/etc/init.d/redis_6379 restart #重启
/etc/init.d/redis_6379 status #状态
10.查看IP是否添加
[root@localhost utils]# ss -natp |grep redis
五、Redis命令相关
1.Redis命令工具
(1)用于启动 Redis 的工具
redis-server:
(2) 用于检测 Redis 在本机的运行效率
redis-benchmark:
(3)修复 AOF 持久化文件
redis-check-aof:
(4)修复 RDB 持久化文件
redis-check-rdb
(5)Redis 命令行工具
redis-cli:
2. redis-cli 命令行工具
(1)语法
redis-cli -h host -p port -a password -n 数据序号(0-15)
(2)选项
选项 | 功能 |
-h | 指定远程主机 |
-p | 指定redis服务端口 |
-a | 指定密码,未设置数据库密码可以省略-a选项 |
-n | 指定数据序号 库默认是0号库redis有16个库(0-15) |
(3)实例
[root@localhost utils]# redis-cli -h 192.168.174.20(或者127.0.0.1) -p 6379
3. redis-benchmark(测试工具)
(1)功能
redis-benchmark是官方自带的Redis性能测试工具。可以有效测试 Redis 服务性能
(2)语法
redis-benchmark [选项] [选项值]
(3)选项
选项 | 功能 |
-h | 指定服务器主机名 |
-p | 指定服务器端口 |
-s | 指定服务器 socket |
-c | 指定并发连接数 |
-n | 指定请求数 |
-d | 以字节的形式指定 SET/GET 值的数据大小 |
-k | 1=keep alive 0=reconnect |
-r | SET/GET/INCR 使用随机 key, SADD 使用随机值 |
-P | 通过管道传输<numreq>请求 |
-q | 强制退出 redis;仅显示 query/sec 值 |
-l | 生成循环, 永久执行测试 |
-t | 仅运行以逗号分隔的测试命令列表 |
-I | Idle 模式;仅打开 N 个 idle 连接并等待 |
--csv | 以 CSV 格式输出 |
(4)实例
[root@localhost utils]# redis-benchmark -h 192.168.174.20 -p 6379 -c 100 -n 100000
为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能
命令的作用是测试存取大小为 100 字节的数据包的性能。
[root@localhost utils]# redis-benchmark -h 192.168.174.20 -p 6379 -q -d 100
六、Redis 数据库常用命令
1.先登录redis
[root@localhost utils]# redis-cli -h 192.168.174.20 -p 6379
192.168.174.20:6379>
2.设置键和值
设置
192.168.174.20:6379> set student llt
查看
192.168.174.20:6379> get student
"llt"
(1)key
使用 keys 命令可以取符合规则的键值列表, 通常情况可以结合*、 ? 等选项来使用
(2)exists
exists 命令可以判断键值是否存在
192.168.174.20:6379>exists teacher 判断 teacher 键是否存在
(integer) 1 表示 teacher 键是存在
192.168.174.20:6379>exists tea
(integer) 0 表示 tea 键不存在
(3)type
使用 type 命令可以获取 key 对应的 value 值类型
192.168.174.20:6379>type k1
string
(4)rename
rename 命令是对已有 key 进行重命名
格式:rename 源 key 目标 key
注意:rename 命令进行重命名时, 无论目标 key 是否存在都进行重命名, 且源 key 的值会覆盖目标 key 的值。 在实际使用过程中, 建议先用 exists 命令查看目标 key 是否存在, 然后再决定是否执行 rename 命令, 以避免覆盖重要数据
七、Redis 高可用
Redis 高可用
在web服务器中,高可用是指服务器可以正常访问的时问,衡量的标准是在多长时间内可以提供正常服务(99.9%、99.99% 99.998等等)。
但是在Redis语境中,高可用的含义似乎要宽泛一些,除了保证提供正常服务(如主从分离、快速容灾技术),还需要考虑数据容量的扩展、数据安全不会丢失等。
在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和cluster集群,下面分别说明它们的作用,以及解决了什么样的问题。
1.主从复制
主从复制是高可用Redis的基础,哨兵和集群都是往E从复制基优上实现g分用的隆上从f糯能上[的能月的码制。"oEr),"及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。
2.哨兵
在主从复制的基础上,哨兵实现了自动化的故障恢复。缺陷:写操作无法负载均衡;存储能力受到单机的限制。
3.集群
通过集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案。
4.持久化
持久化是最简单的高可用方法(有时甚至不被归为高可用的手段),主要作用是数据备份,即将数据存储在硬盘,保证数据不会因进程退出而丢失。
八、Redis持久化
1.持久化功能
Redis是内存数据库,所有数据都是保存在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据永久丢失,需要定期将Redis中的数据以某种形式(数据或者命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外为了进行灾难备份,可以持久将文件拷贝到一个远程位置(比如备份服务器)。
2.Redis提供两种方式进行持久化
(1)RDB方式
创建快照的方式获取某一时刻Redis中所有数据的副本 AOF方式:将执行的写命令写到文件的末尾,以日志的方式来记录数据的变化
RDB 持久化是指在指定的时间间隔内将内存中的数据集快照写入磁盘, 实际操作过程是 fork 一个子进程, 先将数据集写入临时文件, 写入成功后, 再替换之前的文件, 用二进制 压缩存储
(2)AOF 持久化
以日志的形式记录服务器所处理的每一个写、 删除操作, 查询操作不会记录, 以文本的方式记录, 可以打开文件看到详细的操作记录。
3.RDB 持久化
(1)简介
RDB 持久化是指在指定的时间间隔内将内存中的数据集快照写入磁盘,Redis从master主进程先fork出一个子进程,使用写时复制机制,子进程将内存的数据保存为一个临时文件,如:tmp-.rdb,当数据保存完成之后再将上一次保存的RDB文件替换掉,然后关闭子进程,这样可以保证每一次做RDB快照保存的数据都是完整的。因为直接替换RDB文件的时候,可能会出现突然断电等问题,而导致RDB文件还没有保存完整就因为突然关机停止保存,而导致数据丢失的情况.后续可以手动将每次生成的RDB文件进行备份,这样可以最大化保存历史数据
(2) 执行流程
流程:
1. Redis父进程首先判断 :当前是否在执行save,或bgsave/bgrewriteaof的子进程,如果在执行则bgsave命令直接返回。bgsave/bgrewriteaof 的子进程不能同时执行,主要是基于性能方面的考虑:两个并发的子进程同时执行大量的磁盘写操作,可能引起严重的性能问题。
2.父进程执行fork操作创建子进程,这个过程中父进程是阻塞的,Redis不能执行来自客户端的任何命令
3.父进程fork后,bgsave 命令返回 "Background saving started" 信息并不再阻塞父进程,并可以响应其他命令
4.子进程创建RDB文件,根据父进程内存快照生成临时快照文件,完成后对原有文件进行替换
5.子进程发送信号给父进程表示完成,父进程更新统计信息
6.fork响应其他命令
启动时加载
RDB文件的载入是在服务器启动时自动执行的,并没有专门的命令。但是由于AOF的优先级更高,因此当AOF开启时,Redis会优先载入AOF文件来恢复数据;只有当A0F关闭时,才会在Redis服务器启动时检测RDB文件,并自动载入。服务器载入RDB文件期间处于阻塞状态,直到载入完成为止。
Redis载入RDB文件时,会对RDB文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败
配置项有一项可以 忽略 RDB文件的错误,开启redis
(3)触发条件
RDB 持久化触发条件分为手动触发和自动触发两种
手动触发
save命令和bgsave命令都可以生成RDB文件。
save命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在Redis服务器阻塞期间,服务器不能处理任何命令请求。
bgsave命令会创建一个子进程,由子进程来负责创建RDB文件,父进程 (即Redis主进程) 则继续处理请求。
bgsave命令执行过程中,只有fork 子进程时会阻塞服务器,而对于save命令,整个过程都会阻塞服务器,因此save已基本被废弃,线上环境要杜绝save的使用。往往生产环境 bgsave 依然不允许轻易使用
自动触发
在自动触发RDB持久化时,Redis也会选择bgsave而不是save来进行持久化。
自动触发最常见的情况是在配置文件中通过save m n,指定当m秒内发生n次变化时,会触发bgsave。
[root@localhost utils]# vim /etc/redis/6379.conf 219行以下三个save条件满足任意一个时,都会引起bgsave的调用 save 900 1 当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsave save 300 10 当时间到300秒时, 如果redis数据发生了至少10次变化,则执行bgsave save 60 10000 当时间到60秒时,如果redis数据发生了至少10000次变化, 则执行bgsave 242行是否开启RDB文件压缩 rdbcompression yes 254行指定RDB文件名 dbfilename dump.rdb 264行指定RDB文件和AOF文件所在目录 dir /var/lib/redis/6379
注:其他自动触发机制
除了 save m n 以外,还有一些其他情况会触发bgsave
1. 在主从复制场景下,如果从节点执行全量复制操作,则主节点会执行bgsave命令,并将rdb文件发送给从节点
2. 执行shutdown命令时,自动执行rdb持久化
4.AOF持久化
RDB持久化是将进程数据写入文件,而AOF持久化,则是将Redis执行的每次写、删除命令记录到单独的日志文件中,查询操作不会记录; 当Redis重启时优先执行AOF文件中的命令来恢复数据。与RDB相比,AOF的实时性更好,因此已成为主流的持久化方案。
(1)开启AOF
Redis服务器默认开启RDB,关闭AOF: 要开启AOF,需要在配置文件中配置
[root@localhost utils]# vim /etc/redis/6379.conf 700行修改,开启AOF appendonly yes 704行指定A0F文件名称 appendfilename "appendonly.aof" 796行是否忽略最后一条可能存在问题的指令 aof-load-truncated yes [root@localhost utils]# /etc/init.d/redis_6379 restart [root@localhost utils]# ls /var/lib/redis/6379/
(2)执行流程
由于需要记录Redis的每条写命令,因此A0F不需要触发,下面介绍AOF的执行流程
AOF的执行流程包括:
命令追加(append): 将Redis的写命令追加到缓冲区aof_buf;
文件写入(write)和文件同步(sync):根据不同的同步策略将aof_buf中的内容同步到硬盘;
文件重写(rewrite): 定期重写AOF文件,达到压缩的目的。
(3) 命令追加 (append)
Redis先将写命令追加到缓冲区,而不是直接写入文件,主要是为了避免每次有写命令都直接写入硬盘,导致硬盘IO成为Redis负载的瓶颈。 命令追加的格式是Redis命令请求的协议格式,它是一种纯文本格式,具有兼容性好、可读性强、容易处理、操作简单避免二次开销等优点。在A0F文件中,除了用于指定数据库的select命令 (如select0为选中0号数据库) 是由Redis添加的,其他都是客户端发送来的写命令。
innodb_flush_log_at_trx_commit=1
sync_binlog=1如果innodb_flush_log_at_trx_commit设置为0:log buffer将每秒一次地写入log file中,并且log file的flush(刷到磁盘)操作同时进行.该模式下,在事务提交的时候,不会主动触发写入磁盘的操作;
如果innodb_flush_log_at_trx_commit设置为1:每次事务提交时MySQL都会把log buffer的数据写入log file,并且flush(刷到磁盘)中去;
如果innodb_flush_log_at_trx_commit设置为2:每次事务提交时MySQL都会把log buffer的数据写入log file,但是flush(刷到磁盘)操作并不会同时进行。该模式下,MySQL会每秒执行一次 flush(刷到磁盘)操作。
(4)文件写入(write) 和文件同步 (sync)
Redis 提供了多种AOF缓存区的同步文件策略,策略涉及到操作系统的write函数和fsync函数,说明如下: 为了提高文件写入效率,在现代操作系统中,当用户调用write函数将数据写入文件时,操作系统通常会将数据暂存到一个内存缓冲区里,当缓冲区被填满或超过了指定时限后,才真正将缓冲区的数据写入到硬盘里。这样的操作虽然提高了效率,但也带来了安全问题:如果计算机停机,内存缓冲区中的数据会丢失;因此系统同时提供了fsync、fdatasync等同步函数,可以强制操作系统立刻将缓冲区中的数据写入到硬盘里,从而确保数据的安全性。
[root@localhost utils]# vim /etc/redis/6379.conf
第729行
apendfsync always:
命令写入aof_ buf后立即调用系统fsync操作同步到AOF文件,fsync完成后线程返回。这种情况下,每次有写命令都要同步到AOF文件,硬盘IO成为性能瓶颈,Redis只能支持大约几百TPS写入,严重降低了Redis的性能;即便是使用固态硬盘(SSD),每秒大约也只能处理几万个命令,而且会大大降低SSD的寿命。appendfsync no:
命令写入aof_ buf后调用系统write操作,不对AOF文件做fsync同步;同步由操作系统负责,通常同步周期为30秒。这种情况下,文件同步的时间不可控,且缓冲区中堆积的数据会很多,数据安全性无法保证。appendfsync everysec:
命令写入aof_ buf后调用系统write操作,write完成后线程返回; fsync同步文件操作由专门的线程每秒调用一次。everysec是前述两种策略的折中,是性能和数据安全性的平衡,因此是Redis的默认配置,也是我们推荐的配置。
(5)文件重写 (rewrite)
随着时间流逝,Redis服 务器执行的写命令越来越多,AOF文件也会越来越大:过大的AOF文件不仅会影响服务器的正常运行,也会导致数据恢复需要的时间过长。
文件重写是指定期重写AOF文件,减小AOF文件的体积。注意点
●AOF重写是把Redis进程内的数据转化为写命令,同步到新的AOF文件;不会对旧的AOF文件进行任何读取、写入操作!
●关于文件重写需要注意的另一点是:对于AOF持久化来说,文件重写虽然是强烈推荐的,但并不是必须的;即使没有文件重写,数据也可以被持久化并在Redis启动的时候导入;因此在一些实现中,会关闭自动的文件重写,然后通过定时任务在每天的某一时刻定时执行。
文件重写之所以能够压缩AOF文件,原因在于
●过期的数据不再写入文件
●无效的命令不再写入文件:如有些数据被重复设值(set mykey v1, set mykeyv2)、有些数据被删除了(sadd myset v1, del myset) 等。
●多条命令可以合并为一个:
如sadd myset v1, sadd myset v2,sadd myset v3可以合并为sadd myset v1 v2 v3。通过上述内容可以看出,由于重写后AOF执行的命令减少了,文件重写既可以减少文件占用的空间,也可以加快恢复速度
文件重写的触发,分为手动触发和自动触发:
①手动触发:直接调用bgrewriteaof命令,该命令的执行与bgsave有些类似:都是fork子进程进行具体的工作,且都只有在fork时阻塞。
②自动触发:通过设置auto-aof-rewrite-min-size选项和auto-aof-rewrite-percentage选项来自动执行BGREWRITEAOF。只有当auto-aof-rewrite-min-size和auto-aof-rewrite-percentage两个选项同时满足时,才会自动触发AOF重写,即bgrewriteaof操作。
[root@localhost utils]# vim /etc/redis/6379.conf 第771行 当前AOF文件大小(即aof_current_size)是上次日志重写时AOF文件大小(aof_base_size)两倍时,发生BGREWRITEAOF操作 -aof-rewrite-percentage 100 当前A0F文件执行BGREWRITEAOF命令的最小值,避免刚开始启动Reids时由于文件尺寸较小导致频繁的BGREWR ITEAOF auto-aof-rewrite-min-size 64mb
关于文件重写的流程,有两点需要特别注意:
①重写由父进程fork子进程进行;
②重写期间Redis执行的写命令,需要追加到新的AOF文件中,为此Redis引入了aof_rewrite buf缓存。
文件重接的流程
1.Redis父进程首先判断当前是否存在正在执行bgsave/bgrewriteaof的子进程,如果存在则bgrewriteaof命令直接返回,如果存在bgsave命令则等bgsave执行完成后再执行。
2.父进程执行fork操作创建子进程,这个过程中父进程是阻塞的。
3.①父进程fork后,bgrewriteaof 命令返回"Background append only file rewrite started"信息并不再阻塞父进程,并可以响应其他命令。Redis的所有写命令依然写入AOF缓冲区,并根据append fsync策略同步到硬盘,保证原有A0F机制的正确。
②由于fork操作使用写时复制技术,子进程只能共享fork操作时的内存数据。由于父进程依然在响应命令;因此Redis使用AOF重写缓冲区(aof_rewrite_buf)保存这部分数据,防止新AOF文件生成期间丢失这部分数据。也就是说,bgrewriteaof执行期间,Redis的写命令同时追加到aof_ buf和aof_ rewirte_buf两个缓冲区。4.子进程根据内存快照,按照命令合并规则写入到新的AOF文件
5.①子进程写完新的AOF文件后,向父进程发信号,父进程更新统计信息,具体可以通过infopersistence查看
②父进程把AOF重写缓冲区的数据写入到新的AOF文件,这样就保证了新AOF文件所保存的数据库状态和服
务器当前状态一致
③使用新的AOF文件替换老文件,完成AOF重写
(1)RDB持久化
优点
RDB文件紧凑,体积小,网络传输快,适合全量复制;恢复速度比AOF快很多。当然,与AOF相比, RDB最重要的优点之一是对性能的影响相对较小。
缺点
RDB文件的致命缺点在于其数据快照的持久化方式决定了必然做不到实时持久化,而在数据越来越重要的今天,数据的大量丢失很多时候是无法接受的,因此AOF持久化成为主流。此外,RDB文件需要满足特定格式,兼容性差(如老版本的Redis不兼容新版本的RDB文件)。
对于RDB持久化,一方面是bgsave在进行fork操作时Redis主进程会阻塞,另一方面,子进程向硬盘写数据也会带来IO压力。
(2)AOF持久化
优点
支持秒级持久化、兼容性好
缺点
文件大、恢复速度慢、对性能影响大。
对于AOF持久化,向硬盘写数据的频率大大提高(everysec策略下为秒级),IO压力更大,甚至可能造成AOF追加阻塞问题。AOF文件的重写与RDB的bgsave类似,会有fork时的阻塞和子进程的I0压力问题。相对来说,由于AOF向硬盘中写数据的频率更高,因此对Redis主进程性能的影响会更大。
九、Redis的性能管理
1、 查看Redis内存使用
192.168.174.20:6379> info memory
2、内存碎片率
操作系统分配的内存值used_ memory_ rss除以Redis使用的内存值used_ memory计算得出内存碎片是由操作系统低效的分配/回收物理内存导致的 (不连续的物理内存分配)
跟踪内存碎片率对理解Redis实例的资源性能是非常重要的
1.内存碎片率稍大于1是合理的,这个值表示内存碎片率比较低
2.内存碎片率超过1.5,说明Redis消耗了实际需要物理内存的150号, 其中50号是内存碎片率。需要在redis-cli工具.上输入shutdown save命令,并重启Redis 服务器。
3.内存碎片率低于1的,说明Redis内存分配超出了物理内存,操作系统正在进行内存交换。需要增加可用物理内存或减少Redis内存占用。
3、内存使用率
redis实例的内存使用率超过可用最大内存,操作系统将开始进行内存与swap空间交换
避免内存交换发生的方法
1.针对缓存数据大小选择安装Redis 实例
2.尽可能的使用Hash数据结构存储
3.设置key的过期时间
4、内回收key
保证合理分配redis有限的内存资源
当达到设置的最大阀值时,需选择一种key的回收策略,默认情况下回收策略是禁止删除。
配置文件中修改maxmemory- policy属性值
vim /etc/redis/6379.conf 598行 maxmemory-policy noenviction volatile-lru 使用LRU算法从已设置过期时间的数据集合中淘汰数据 volatile-ttl 从已设置过期时间的数据集合中挑选即将过期的数据淘汰 volatile-random 从已设置过期时间的数据集合中随机挑选数据淘汰 allkeys-lru 使用LRU算法从所有数据集合中淘汰数据 allkeys-random 从数据集合中任意选择数据淘汰 noenviction 禁止淘汰数据