目录
2.redis-benchmark:测试工具,检测Redis在本机的运行效率
2.2 keys 字符?:显示以该字符开头后面包含任意一位的数据
2.3 keys 字符??:显示以该字符开头后面包含任意两位的数据
7.renamenx:对已有key 进行重命名,并检测新名是否存在,如果存在则不进行重命名(不覆盖)
10.config get requirepass:查看密码
11.config set requirepass '':删除密码
一.缓存的概念
缓存是为了调节速度不一致的两个或多个不同的物质的速度,在中间对速度较慢的一方起到加速作用,比如CPU的一级、二级缓存是保存了CPU最近经常访问的数据,内存是保存CPU经常访问硬盘的数据,而且硬盘也有大小不一的缓存,甚至是物理服务器的raid 卡有也缓存,都是为了起到加速CPU 访问硬盘数据的目的,因为CPU的速度太快了,CPU需要的数据由于硬盘往往不能在短时间内满足CPU的需求,因此CPU缓存、内存、Raid 卡缓存以及硬盘缓存就在一定程度上满足了CPU的数据需求,即CPU 从缓存读取数据可以大幅提高CPU的工作效率。
1.系统缓存:buffer与cache
-
buffer:缓冲也叫写缓冲,一般用于写操作,可以将数据先写入内存再写入磁盘,buffer 一般用于写缓冲,用于解决不同介质的速度不一致的缓冲,先将数据临时写入到里自己最近的地方,以提高写入速度,CPU会把数据先写到内存的磁盘缓冲区,然后就认为数据已经写入完成看,然后由内核在后续的时间在写入磁盘,所以服务器突然断电会丢失内存中的部分数据。
-
cache:缓存也叫读缓存,一般用于读操作,CPU读文件从内存读,如果内存没有就先从硬盘读到内存再读到CPU,将需要频繁读取的数据放在里自己最近的缓存区域,下次读取的时候即可快速读取。
2.缓存保存位置及分层结构
-
用户层: 浏览器DNS缓存,应用程序DNS缓存,操作系统DNS缓存客户端
-
代理层: CDN,反向代理缓存
-
Web层: Web服务器缓存
-
应用层 : 页面静态化
Nginx、PHP等web服务可以设置应用缓存以加速响应用户请求,另外有些解释性语言,比如:PHP/Python/Java不能直接运行,需要先编译成字节码,但字节码需要解释器解释为机器码之后才能执行,因此字节码也是一种缓存,有时候还会出现程序代码上线后字节码没有更新的现象。所以一般上线新版前,需要先将应用缓存清理,再上线新版。
另外可以利用动态页面静态化技术,加速访问,比如:将访问数据库的数据的动态页面,提前用程序生成静态页面文件html 电商网站的商品介绍,评论信息非实时数据等皆可利用此技术实现。
-
数据层: 分布式缓存,数据库
分布式缓存服务:Redis、Memcached
数据库:MySQL 查询缓存;innodb缓存、MYISAM缓存
系统层: 操作系统cache
-
物理层: 硬件缓存:磁盘cache, Raid Cache
CPU缓存(L1的数据缓存和L1的指令缓存)、二级缓存、三级缓存
磁盘缓存:Disk Cache
磁盘阵列缓存: Raid Cache,可使用电池防止断电丢失数据
二.关系型数据库和非关系型数据库
1.关系型数据库
-
一个结构化的数据库,创建在关系模型基础上 (二维表格模型)基础上
-
一般面向于记录
-
SQL语句(标准数据查询语言),用于执行对关系型数据库中数据的检索和操作。 包括:Oracle、MySQL、SQL Server、Microsoft Access、DB2等
优点:
1、安全性高(持久化)
2、事务处理能力强
3、任务控制制能力强
3、可以做日志备份、恢复、容灾的能力更强一点。
数据流向:
实例 --> 数据库 --> 表(table) --> 记录行(row)、数据字段(column) --> 存储数据
2.非关系型数据库
-
NoSQL (NoSQL=NotOnlySQL), 意思是“不仅仅是SQL",是非关系型数据库的总称。
-
除了主流的关系型数据库外的数据库,都认为是非关系型。
-
主流的NoSQL数据库有Redis、MongBD、Hbase、Memcached等。
优点:
1、数据保存在缓存中,利于读取速度/查询数据
2、架构中位置灵活
3、分布式、扩展性高
产生背景:
可用于应对 Web2.0 纯动态网站类型的三高问题
High performance——对数据库高并发读写需求
Huge Storage——对海量数据高效存储与访问需求
High Scalability && High Availability——对数据库高可扩展性与高可用性需求
数据流向:
实例 --> 数据库 --> 集合(collection) --> 键值对(key-value)
非关系型数据库不需要手动建数据库和集合(表)
3.关系型数据库和非关系型数据库区别
3.1 数据存储方式不同
关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。
与其相反,非关系型数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。
3.2 扩展方式不同
SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。
要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多克服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限个表,这都需要通过提高计算机性能来。
而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。
关系:纵向 比如说硬件中添加内存
非关:横向 天然分布式
3.3 对事务性的支持不同
如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。
虽然NoSQL数据库也可以使用事务操作,但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。
三.Redis的基本介绍
1.Redis是什么?
-
Redis是一个开源的、使用C语言编写的NoSOL数据库,Redis服务器程序是单进程模型。
-
Redis基于内存运行并支持持久化(支持存储在磁盘),采用key-value(键值对)的存储形式,是目前分布式架构中不可或缺的一环。
-
Redis服务在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。
-
若在服务器上只运行一个Redis进程, 当多个客户端同时访问时, 服务器的处理能力是会有一定程度的下降;
-
若在同一台服务器上开启 多个Redis进程, Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。 即在实际生产环境中, 需要根据实际的需求来决定开启多少个Redis进程。 (一般建议开启2个,用作备份和抗高并发)
-
-
若对高并发要求更高一些, 可能会考虑在同一台服务器上开启多个进程。 若CPU资源比较紧张,采用单进程即可。
-
官网地址:https://redis.io/
2.Redis的优点
-
具有极高的数据读写速度:数据读取的速度最高可达到110000次/s,数据写入速度最高可达到81000次/s。、
-
支持丰富的数据类型:支持key-value、 Strings、Lists、Hashes ( 散列值)、Sets及OrderedSets等数据类型操作。 pS : string 字符串(可以为整形、浮点和字符型,统称为元素) list列表:(实现队列,元素不唯一,先入先出原则) set 集合:(各不相同的元素) hash hash散列值:( hash的key必须是唯一的) set /ordered sets集合/有序集合
-
支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
-
原子性: Redis所有 操作都是原子性的。
-
支持数据备份:即master-salve 模式的数据备份。
Redis作为基于内存运行的数据库,是一个高性能的缓存,一般应用在Session缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。 Redis适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。
Redis单线程为什么快?
-
纯内存
-
非阻塞
-
避免线程切换和竞态消耗
注:在 Redis 6.0 中新增加的多线程也只是针对处理网络请求过程采用了多线性,而数据的读写命令,仍然是单线程处理的。
四.编译安装部署Redis
1.关闭防火墙和SElinux 并安装编译器
1. #关闭防火墙和SElinux
systemctl stop firewalld
setenforce 0
2. #安装gcc gcc-c++ 编译器
yum install -y gcc gcc-c++ make
2.解压安装压缩包并编译安装
3. #切换至/opt目录,把下载好的安装包上传进来并解压
cd /opt/
rz -E
tar zxvf redis-5.0.7.tar.gz
4. #进入目录然后编译安装
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了Makefile 文件,所以在解压完软件包后,不用先执行./configure 进行配置,可直接执行make与make install命令进行安装
3.执行install_server.sh脚本
5. #执行install_server.sh脚本
cd /opt/redis-5.0.7/utils
./install_server.sh #一路回车,指导让你输入路径这一步
#路径需要手动输入
Please select the redis executable path [] /usr/local/redis/bin/ redis-server
Selected config:
Port : 6379 #默认侦听端口为6379
Config file : /etc/redis/6379.conf #配置文件路径
Log file : /var/log/redis_6379.log #日志文件路径
Data dir : /var/lib/ redis/6379 #数据文件路径
Executable : /usr/local/redis/bin/redis-server #可执行文件路径
Cli Executable : /usr/local/redis/bin/redis-cli #客户端命令工具
4.优化路径并查端口是否打开
6. #优化路径并查端口是否打开
#把redis的可执行程序文件放入路径环境变量的目录中便于系统识别
ln -s /usr/local/redis/bin/* /usr/local/bin/
#当install_server.sh 脚本运行完毕,Redis 服务就已经启动,默认侦听端口为6379
ss -natp | grep redis
5.修改配置文件
7. #修改配置文件
vim /etc/redis/6379.conf
bind 127.0.0.1 192.168.79.28 #70行,添加监听的主机地址(本机ip)
port 6379 #93行,Redis默认的监听端口
daemonize yes #137行,启用守护进程
pidfile /var/run/redis_6379.pid #159行,指定PID文件
loglevel notice #167行,日志级别
logfile /var/log/redis_6379.log #172行,指定日志文
8. #重启redis查看监听的地址
/etc/init.d/redis_6379 restart #重启
ss -antp|grep redis
6.启动、停止、重启、查看服务
/etc/init.d/redis_6379 start #启动服务
/etc/init.d/redis_6379 stop #停止服务
/etc/init.d/redis_6379 restart #重启服务
/etc/init.d/redis_6379 status #查看服务状态
五.Redis的命令工具
Redis命令工具 | 功能 |
---|---|
redis-server | 用于启动Redis的工具 |
redis-benchmark | 用于检测Redis在本机的运行效率 |
redis-check-aof | 修复AOF持久化文件 |
redis-check-rdb | 修复RDB持久化文件 |
redis-cli | Redis命令行工具 |
1.redis-cli:命令行工具,可以远程登录
1.1 登录本机Redis
redis-cli #登录本机redis
1.2 指定远程主机登录
1. #语法:
redis-cli -h 指定远程主机IP地址 -p redis服务端口号 -a 密码
2. #选项:
-h :指定远程主机
-p :指定Redis 服务的端口号
-a :指定密码,未设置数据库密码可以省略-a选项
-n :指定进入库的序列号
若不添加任何选项表示,则使用127.0.0.1:6379 连接本机上的 Redis 数据库,
3. #示例
redis-cli -h 192.168.79.28 -p 6379 #登录指定主机redis
2.redis-benchmark:测试工具,检测Redis在本机的运行效率
redis-benchmark 是官方自带的Redis性能测试工具,可以有效的测试Redis服务的性能。
#语法
redis-benchmark [选项] [选项值]
选项 | 作用 |
---|---|
-h | 指定服务器主机名 |
-p | 指定服务器端口 |
-s | 指定服务器socket(套接字) |
-c | 指定并发连接数 |
-n | 指定请求数 |
-d | 以字节的形式指定SET/GET值的数据大小 |
-k | 1=keep alive O=reconnect |
-r | SET/GET/INCR使用随机key,SADD使用随机值 |
-P | 通过管道传输请求 |
-q | 强制退出redis。仅显示querylsec值 |
-csv | 以csv格式输出 |
-1 | 生成循环,永久执行测试 |
-t | 仅运行以逗号分隔的测试命令列表 |
-l | ldle模式。仅打开N个idle连接并等待 |
示例:
1. #向IP地址为192.168.79.28 端口为6379 的Redis 服务器发送100个并发连接与10w 个请求测试性能
redis-benchmark -h 192.168.79.28 -p 6379 -c 100 -n 100000
2. #测试存取大小为100字节的数据包的性能
redis-benchmark -h 192.168.79.28 -p 6379 -q -d 100
3. #测试本机上Redis 服务在进行set与lpush操作时的性能
redis-benchmark -t set,lpush -n 100000 -q
六.Redis数据库常用基础命令
1.存放和获取数据
set 存放数据,命令格式为 set key value
get 获取数据,命令格式为 get key
1.1 set:存放数据
set name zhuo
1.2 get:获取数据
get name
2.keys:查看数据库中的键
keys 命令可以取符合规则的键值列表,通常情况可以结合*、?等选项来使用。
2.1 keys *:显示所有的key
2.2 keys 字符?:显示以该字符开头后面包含任意一位的数据
2.3 keys 字符??:显示以该字符开头后面包含任意两位的数据
2.4 keys 字符*:显示以该字符开头的数据
3.exists:判断键值是否存在
示例:
1. #判断 ee键 是否存在
exists ee
#返回1,表示存在
#返回0,表示不存在
2. #判断 yy键 是否存在
exists yy
#返回1,表示存在
#返回0,表示不存在
4.del:删除当前数据库的指定 key
格式:del 键名
5.type:获取 key 对应的 value 值类型
格式:type 键名
6.rename:对已有key 进行重命名(覆盖)
#命令格式:
rename 源key 目标key
(源key的值 会覆盖 目标key的值)
使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。
在实际使用过程中,建议先用 exists命令查看目标key是否存在,然后再决定是否执行rename命令,以避免覆盖重要数据。
7.renamenx:对已有key 进行重命名,并检测新名是否存在,如果存在则不进行重命名(不覆盖)
#命令格式:
renamenx 源key 目标key
8.dbsize:统计当前数据库中key的数目
9.config set requirepass:设置密码
config set requirepass 密码 #设置密码
auth 密码 #认证auth
10.config get requirepass:查看密码
11.config set requirepass '':删除密码
不设置删除密码,无法重启redis数据库
七.Redis多数据库常用命令
Redis支持多数据库,Redis 默认情况下包含16个数据库,数据库名称是用数字0-15 来依次命名的。 多数据库相互独立,互不干扰。
1.select:多数据库间切换
格式: select 数据库序号
使用redis-cli连接Redis数据库后,默认使用的是序号为0的数据库。
select 1 #切换至序号为10的数据库
select 15 #切换至序号为15的数据库
select 0 #切换至序号为0的数据库
2.move:多数据库间移动数据
格式:move 键值 数据库序号
3.清空数据库内数据
flushdb:清空当前数据库数据
flushall:清空所有数据库的数据,慎用!
八.Redis性能管理
1 . 查看Redis内存使用
192.168.79.210: 7001> info memory
2 . 内存碎片率
操作系统分配的内存值used_ memory_ rss
除以Redis使用的内存值used_ memory
计算得出内存碎片是由操作系统低效的分配/回收物理内存导致的 (不连续的物理内存分配)
3 . 跟踪内存碎片率
跟踪内存碎片率对理解Redis实例的资源性能是非常重要的:
- 内存碎片率稍大于1是合理的,这个值表示内存碎片率比较低
- 内存碎片率超过1.5,说明Redis消耗了实际需要物理内存的150号, 其中50号是内存碎片率。需要在redis-cli工具.上输入
shutdown save
命令,并重启Redis 服务器。 - 内存碎片率低于1的,说明Redis内存分配超出了物理内存,操作系统正在进行内存交换。需要增加可用物理内存或减少Redis内存占用。
4 . 内存使用率
redis实例的内存使用率超过可用最大内存,操作系统将开始进行内存与swap空间交换。
避免内存交换发生的方法:
● 针对缓存数据大小选择安装Redis 实例
● 尽可能的使用Hash数据结构存储
● 设置key的过期时间
5 . 内回收key
保证合理分配redis有限的内存资源。
当达到设置的最大阀值时,需选择一种key的回收策略,默认情况下回收策略是禁止删除。
配置文件中修改maxmemory- policy
属性值:
vim /etc/redis/6379.conf
--598--
maxmemory-policy noenviction
●volatile-lru :使用LRU算法从已设置过期时间的数据集合中淘汰数据
●volatile-ttl :从已设置过期时间的数据集合中挑选即将过期的数据淘汰
●volatile-random :从已设置过期时间的数据集合中随机挑选数据淘汰
●allkeys-lru :使用LRU算法从所有数据集合中淘汰数据
●allkeys-random :从数据集合中任意选择数据淘汰
●noenviction :禁止淘汰数据