Memcached

于 2024-05-14 16:46:49 发布
阅读量790 收藏 20
点赞数 38
文章标签： memcached 数据库 缓存 负载均衡 运维 nginx 网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35995197/article/details/138859812
版权

一、NoSQL介绍

NoSQL是对 Not Only SQL、非传统关系型数据库的统称。

NoSQL一词诞生于1998年，2009年这个词汇被再次提出指非关系型、分布式、不提供ACID的数据库设计模式。

随着互联网时代的到来，数据爆发式增长，数据库技术发展日新月异，要适应新的业务需求。

而随着移动互联网、物联网的到来，大数据的技术中NoSQL也同样重要。

数据库排名：DB-Engines Ranking - popularity ranking of database management systems

NoSQL 分类

  • Key-value Store k/v数据库

    • 性能好 O(1) , 如: redis、memcached

  • Document Store 文档数据库

    • mongodb、CouchDB

  • Column Store 列存数据库，Column-Oriented DB

    • HBase、Cassandra，大数据领域应用广泛

  • Graph DB 图数据库

    • Neo4j

  • Time Series 时序数据库

    • InfluxDB、Prometheus

二、Memcached

Memcached 只支持能序列化的数据类型，不支持持久化，基于Key-Value的内存缓存系统

memcached 虽然没有像redis所具备的数据持久化功能，比如RDB和AOF都没有，但是可以通过做集群同步的方式，让各memcached服务器的数据进行同步，从而实现数据的一致性，即保证各memcached的数据是一样的，即使有任何一台 memcached 发生故障，只要集群中有一台 memcached 可用就不会出现数据丢失，当其他memcached 重新加入到集群的时候,可以自动从有数据的memcached 当中自动获取数据并提供服务

Memcached 借助了操作系统的 libevent 工具做高效的读写。libevent是个程序库，它将Linux的epoll、BSD类操作系统的kqueue等事件处理功能封装成统一的接口。即使对服务器的连接数增加，也能发挥高性能。memcached使用这个libevent库，因此能在Linux、BSD、Solaris等操作系统上发挥其高性能

Memcached 支持最大的内存存储对象为1M，超过1M的数据可以使用客户端压缩或拆分报包放到多个key中，比较大的数据在进行读取的时候需要消耗的时间比较长，memcached 最适合保存用户的session实现session共享

Memcached存储数据时, Memcached会去申请1MB的内存, 把该块内存称为一个slab, 也称为一个page

Memcached 支持多种开发语言，包括：JAVA,C,Python,PHP,C#,Ruby,Perl等

Memcached 官网：memcached - a distributed memory object caching system

三、Memcached 和 Redis 比较

比较类别Redismemcached
支持的数据结构哈希、列表、集合、有序集合纯kev-value
持久化支持有无
高可用支持redis支持集群功能，可以实现主动复制，读写分离官方也提供了sentinel集群管理工具，能够实现主从服务监控，故障自动转移，这一切，对于客户端都是透明的，无需程序改动，也无需人工介入需要二次开发
存储value容量最大512M最大1M
内存分配临时申请空间，可能导致碎片预分配内存池的方式管理内存，能够省去内存分配时间
虚拟内存使用有自己的VM机制，理论上能够存储比物理内存更多的数据，当数据超量时，会引发swap，把冷数据刷到磁盘上所有的数据存储在物理内存里
网络类型非阻塞IO复用模型,提供一些非KV存储之外的排序聚合功能，在执行这些功能时，复杂的CPU计算，会阻塞整个IO调度非阻塞IO复用模型
水平扩展支持redis cluster 可以横向扩展暂无
多线程Redis6.0之前是只支持单线程Memcached支持多线程,CPU利用方面Memcache优于redis
单机QPS约10W约60W
源代码可读性代码清爽简洁可能是考虑了太多的扩展性，多系统的兼容性，代码不清爽
适用场景复杂数据结构、有持久化、高可用需求、value存储内容较大纯KV，数据量非常大，并发量非常大的业务

四、Memcached 工作机制

1. 内存分配机制

应用程序运行需要使用内存存储数据，但对于一个缓存系统来说，申请内存、释放内存将十分频繁，非常容易导致大量内存碎片，最后导致无连续可用内存可用。

Memcached采用了Slab Allocator机制来分配、管理内存。

  • Page：分配给Slab的内存空间，默认为1MB，分配后就得到一个Slab。Slab分配之后内存按照固定字节大小等分成chunk。

  • Chunk：用于缓存记录k/v值的内存空间。Memcached会根据数据大小选择存到哪一个chunk中，假设chunk有128bytes、64bytes等多种，数据只有100bytes存储在128bytes中，存在少许浪费。

  • Chunk最大就是Page的大小，即一个Page中就一个Chunk

  • Slab Class：Slab按照Chunk的大小分组，就组成不同的Slab Class, 第一个Chunk大小为 96B的Slab为Class1,Chunk 120B为Class 2,如果有100bytes要存，那么Memcached会选择下图中Slab Class 2 存储，因为它是120bytes的Chunk。Slab之间的差异可以使用Growth Factor 控制，默认1.25。

2. 懒过期 Lazy Expiration

memcached不会监视数据是否过期，而是在取数据时才看是否过期，如果过期,把数据有效期限标识为0，并不清除该数据。以后可以覆盖该位置存储其它数据。

3. LRU（最近最少使用算法）

当内存不足时，memcached会使用LRU（Least Recently Used）机制来查找可用空间，分配给新记录使用

4. 集群

Memcached集群，称为基于客户端的分布式集群，即由客户端实现集群功能，即Memcached本身不支持集群

Memcached集群内部并不互相通信，一切都需要客户端连接到Memcached服务器后自行组织这些节点，并决定数据存储的节点。

五、安装和启动

官方安装说明：Install · memcached/memcached Wiki · GitHub

1. yum 安装

[root@localhost ~]#yum install memcached -y

配置文件
[root@localhost ~]#vim /etc/sysconfig/memcached
PORT="11211"     #监听端口
USER="memcached" #启动用户
MAXCONN="1024"  #最大连接数
CACHESIZE="64"  #最大使用内存
OPTIONS="" #其他选项

2. 编译安装

[root@centos7 ~]#yum -y install gcc libevent-devel
[root@centos7 ~]#wget http://memcached.org/files/memcached-1.6.6.tar.gz
[root@centos7 ~]#tar xvf memcached-1.6.6.tar.gz
[root@centos7 ~]#cd memcached-1.6.6/
[root@centos7 memcached-1.6.6]#./configure --prefix=/apps/memcached
[root@centos7 memcached-1.6.6]#make && make install


[root@centos7 ~]#echo 'PATH=/apps/memcached/bin:$PATH' > /etc/profile.d/memcached.sh
[root@centos7 ~]#. /etc/profile.d/memcached.sh


#准备用户
[root@centos7 ~]#useradd -r -s /sbin/nologin memcached


[root@centos7 ~]#cat >    /etc/sysconfig/memcached    << eof
PORT="11211"
USER="memcached"
MAXCONN="1024"
CACHESIZE="64"
OPTIONS=""
eof


#准备service文件
[root@centos7 ~]#cat  > /lib/systemd/system/memcached.service    << eof
[Unit]
Description=memcached daemon
Before=httpd.service
After=network.target
[Service]
EnvironmentFile=/etc/sysconfig/memcached
ExecStart=/apps/memcached/bin/memcached -p  \${PORT} -u \${USER} -m \${CACHESIZE} -c \${MAXCONN} \$OPTIONS
[Install]
WantedBy=multi-user.target
eof

[root@centos7 ~]#systemctl daemon-reload 
[root@centos7 ~]#systemctl enable --now memcached.service
[root@centos7 memcached-1.6.6]#memcached --version
memcached 1.6.6
增长因子的改变
#默认前台执行
[root@centos7 ~]#memcached -u memcached -m 1024 -c 65536 -f 2 -vv 

#以台方式执行
[root@centos7 ~]#memcached -u memcached -m 1024 -c 65536 -d

3. memcached 启动程序说明

修改memcached 运行参数，可以使用下面的选项修改/etc/sysconfig/memcached文件

memcached 常见选项
-u username memcached运行的用户身份，必须普通用户
-p 绑定的端口，默认11211
-m num 最大内存，单位MB，默认64MB
-c num 最大连接数，缺省1024
-d 守护进程方式运行
-f 增长因子Growth Factor，默认1.25
-v 详细信息，-vv能看到详细信息
-M 使用内存直到耗尽，不许LRU
-U 设置UDP监听端口，0表示禁用UDP

六、使用 memcached

1. memcached 开发库和工具

与memcached通信的不同语言的连接器。libmemcached提供了C库和命令行工具。

#安装工具包
[root@node2 ~]#yum install  libmemcached -y

memping 检测连接服务器

检测服务器是否通

memstat  用于获取 Memcached 服务的统计信息

2. memcached 操作命令

四种基本 memcached 命令执行最简单的操作。这些命令和操作包括：

  • set

  • add

  • get

  • delete

#前三个命令是用于操作存储在 memcached 中的键值对的标准修改命令,都使用如下所示的语法：
command <key> <flags> <expiration time> <bytes>
<value>

#参数说明如下：
command set/add/replace
key     key 用于查找缓存值
flags     可以包括键值对的整型参数，客户机使用它存储关于键值对的额外信息
expiration time     在缓存中保存键值对的时间长度（以秒为单位，0 表示永远）
bytes     在缓存中存储的字节数
value     存储的值（始终位于第二行）
#增加key，过期时间为秒，bytes为存储数据的字节数
add key flags exptime bytes  
例子：
显示服务状态
stats    #显示服务状态

stats items #显示各个 slab 中 item 的数目和存储时长(最后一次访问距离现在的秒数)。

stats slabs #用于显示各个slab的信息，包括chunk的大小、数目、使用情况等
添加数据
add name 1 30 4
zhou
STORED


add  	添加
name  	键的名字
1    	flages标志  描述信息
30   	超时时间   默认秒  0 代表永久有效
4    	字节数  数据的大小、
zhou 	具体的值
修改
set name 1 60 5
test
调用数据
get name
VALUE name 1 4
zhou
END
删除
get class
VALUE class 1 4
ky35
END
delete class
DELETED
get class
END
清空
flush_all
OK
get mykey
END
quit

七、memcached集群部署架构

1. 基于 magent 的部署架构

Magent是google开发的项目,应用端通过负载均衡服务器连接到magent，然后再由magent代理用户应用请求到memcached处理，底层的memcached为双主结构会自动同步数据，本部署方式存在magent单点问题,因此需要两个magent做高可用。

项目站点：https://code.google.com/archive/p/memagent/

此项目过于陈旧,且不稳定,当前已经废弃

2. Repcached 实现原理

项目站点：repcached - add data replication feature to memcached

在 master上可以通过 -X 选项指定 replication port(默认为11212/tcp)，在 slave上通过 -x 指定复制的master并连接，事实上，如果同时指定了 -x/-X， repcached先会尝试连接对端的master，但如果连接失败，它就会用 -X参数来自己 listen（成为master）；如果 master坏掉， slave侦测到连接断了，它会自动 listen而成为 master；而如果 slave坏掉，master也会侦测到连接断开，它就会重新 listen等待新的 slave加入。

从这方案的技术实现来看，其实它是一个单 master单 slave的方案，但它的 master/slave都是可读写的，而且可以相互同步，所以从功能上看，也可以认为它是双机 master-master方案

3. 简化后的部署架构

magent已经有很长时间没有更新，因此可以不再使用magent，直接通过负载均衡连接到memcached，仍然有两台memcached做高可用，repcached版本的memcached之间会自动同步数据，以保持数据一致性，即使其中的一台memcached故障也不影响业务正常运行，故障的memcached修复上线后再自动从另外一台同步数据即可保持数据一致性。

4. 部署repcached

[root@centos7 ~]# yum -y install gcc libevent libevent-devel
[root@centos7 ~]# wget  https://jaist.dl.sourceforge.net/project/repcached/repcached/2.2.1-1.2.8/memcached-1.2.8-repcached-2.2.1.tar.gz
[root@centos7 ~]# tar xf memcached-1.2.8-repcached-2.2.1.tar.gz
[root@centos7 ~]# cd memcached-1.2.8-repcached-2.2.1
[root@centos7 memcached-1.2.8-repcached-2.2.1]# ./configure --prefix=/apps/repcached --enable-replication
[root@centos7 memcached-1.2.8-repcached-2.2.1]# make #报错如下
解决办法：
[root@centos7 memcached-1.2.8-repcached-2.2.1]# vim memcached.c
56 #ifndef IOV_MAX
57 #if defined(__FreeBSD__) || defined(__APPLE__)
58 # define IOV_MAX 1024
59 #endif
60 #endif

#改为如下内容，即删除原有的原第57，59行
56 #ifndef IOV_MAX
57 # define IOV_MAX 1024
58 #endif
再次编译安装：
[root@centos7 memcached-1.2.8-repcached-2.2.1]#make && make install 
[root@centos7 ~]#tree /apps/repcached/
/apps/repcached/
├── bin
│   ├── memcached
│   └── memcached-debug
└── share
   └── man
       └── man1
           └── memcached.1
4 directories,3 files
做软连接
[root@localhost memcached-1.2.8-repcached-2.2.1]#ln -s /apps/repcached/bin/memcached  /usr/bin/

4.1 启动 memcached

server1 相关操作

#创建用户
[root@centos7 ~]#useradd -r -s /sbin/nologin memcached


#后台启动
[root@centos7 ~]#memcached -d -m 1024 -p 11211 -u memcached -c 2048 -x 172.168.1.12
#-x 172.168.1.12 为对端memcached的地  -d  后台


[root@centos7 ~]#ss -ntl
# 查看是否启动
server2 操作
在server1 上 将整个目录拷贝到  server2上
[root@localhost ~]#rsync -a /apps   172.168.1.12:/
# apps注意不要加/  



其余操作在server2上
[root@centos7 ~]#useradd -r -s /sbin/nologin memcached
#创建用户

[root@centos7 ~]# yum -y install gcc libevent libevent-devel
#安装库否则起不来

[root@node2 ~]#ln -s /apps/repcached/bin/memcached  /usr/bin/
# 做软连接
[root@centos7 ~]#memcached -d -m 1024 -p 11211 -u memcached -c 2048 -x 172.168.1.11

[root@centos7 ~]#ss -ntl
# 查看是否启动
樂夢い
关注
  • 38
    点赞
  • 踩
  • 20
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
memcached
03-19
获取SecretID，SecretKey以及调用地址（端点），端点为memcached.tencentcloudapi.com，具体参考各产品说明。 获取安装 通过Composer安装 通过Composer获取安装是使用PHP SDK的推荐方法，Composer是PHP的依赖管理...
windows下的memcached 1.6.21，并且做成了windows的服务
07-07
在windows下编译的最新的memcached 1.6.21 由于1.4.5以后的memcached不支持windows服务。 使用第三方工具做成了windows的服务 使用说明： 1、解压rar文件 2、以管理员身份运行cmd.exe 3、然后执行service_install....
MemCached
JReno的博客
04-22 1637
MemCached原理 许多Web应用都将数据保存到RDBMS中，应用服务器从中读取数据并在浏览器中显示 随着数据量的增大，访问的集中，就会出现RDBMS的负担加重，数据库响应恶化，网站显示延迟等重大影响 数据库存储位置对比 性能: CPU缓存>内存>磁盘>数据库 价格: CPU缓存>内存>磁盘>数据库 Memcached简介 memecached是...
Mac memcached
竹毛言己
09-02 388
MacBooK Pro，M1安装memcach 使用homebrew安装memcached： ➜ ~ arch -arm64 brew install memcached ==> Downloading https://xxx.ustc.edu.cn/homebrew-bottles/bottles/memcached-1.6.9.arm64_big_sur.bottle.tar.gz #=#=-# # .
【Memcached】springBoot 集成 memcached 两万字长文带你认识memcached
最新发布
weixin_45683778的博客
03-21 898
memcached原理及安装，springboot集成memcached
Memcached调优
走马川行雪的博客
04-28 672
一、Memcached调优思路 提高内存命中率（使数据从内存中读取，不去数据库中读取） 减少内存浪费 增加内存重复利用率 二、Memcached辅助调优命令 Stats命令：查看服务器的运行状态和内部数据 Stats settings：查看服务器设置 Stats items/slabs：数据项统计/区块统计 三、Stats命令核心参数 cmd_get：Memcached中总的查询次数...
MemCached缓存操作
李章勇的博客
12-27 2473
　　Web项目在运行时，通常需要从数据库中进行读写。随着操作数据量的增大，以及访问量的集中，数据库的负载增加，数据库响应变慢，网站访问速度变慢的情况。Memcached就是用来解决这些问题的。 　　Memcached是一个开源的高性能的分布式缓存系统。主要用于减轻数据库负载，加速Web应用访问。它是基于内存的Key-Value存储系统，主要存储Value较小的数据，Value大小不能超过1M。总...
python操作memcached
顾鸢的博客
03-10 461
常用命令操作 Linux系统安装memcached，首先要先安装libevent库 sudo apt-get install libevent libevent-deve 安装 Memcached： sudo apt-get install memcached 运行启动Memcached： service memcached start 查看memcached启动进程： ps aux|grep memcached memcached常用命令： 命令：/usr/bin/memcached -m 1024 -u
Docker详解：如何创建运行Memcached的Docker容器
rubys007的博客
03-16 1554
对于大多数 Web 应用程序来说，很少会发现 CPU 是导致 HTTP 请求丢失或使托管它们的 Web 服务器窒息的罪魁祸首。通常情况下，是由于没有缓存层的低效设置，耗尽了后端数据存储（即您选择的数据库）的所有资源。Memcached- 现在应该不需要介绍了 - 可以大大提高应用部署堆栈的性能，而不需要对可用资源进行任何修改（使您能够充分利用其全部性能）。
分布式锁实现二. memcached分布式锁
热门推荐
爱码少年 00fly.online 的博客
09-02 1万+
add和set的区别在于：如果多线程并发set，则每个set都会成功，但最后存储的值以最后的set的线程为准。而add的话则相反，add会添加第一个到达的值，并返回true，后续的添加则都会返回false。（1）memcached采用列入LRU置换策略，所以如果内存不够，可能导致缓存中的锁信息丢失。为方便起见，已经将memcached服务器端程序上传到下面的目录，使用时只需要双击运行就好！memcached带有add函数，利用add函数的特性即可实现分布式锁。利用该点即可很轻松地实现分布式锁。
Memcached软件
12-04
包含：memcached-1.2.6-win32-bin.zip，memcached-win64-1.4.4-14.zip，memcached-1.4.33.tar.gz，spymemcached-2.10.3.jar
memcached安装包
02-20
memcached安装包
memcached客户端工具
03-27
TreeNMS是一款redis，Memcache可视化客户端工具，采用JAVA开发，实现基于WEB方式对Redis, Memcached数据库进行管理、维护。 功能包括：NoSQL数据库的展示,库表的展示，key,value的展示，新增，修改，删除等数据的...
memcached 1.6.13
01-23
windows x64 下可运行的 memcached 1.6.13，使用 MSYS2编译
memcached1.5.8
06-13
Memcached 是一个高性能的分布式内存对象缓存系统，用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象来减少读取数据库的次数，从而提高动态、数据库驱动网站的速度。
memcached-1.5.4
12-22
memcached-1.5.4未编译的源码，备份存档。 memcached-1.5.4未编译的源码，备份存档。
memcached数据完整迁移到redis
12-02
使用c#读取memcached中的数据，再转移到指定的redis中。解决比如token的保持,让客户端登录不效。
memcached学习
10-08
memcached是一个高性能的分布式内存缓存服务器，它可以通过缓存数据库查询结果来减少数据库访问次数，提高动态Web应用的速度和可扩展性。memcached使用32位元的循环冗余校验（CRC-32）来计算键值，并将数据分散在...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值