1. 准备安装文件
下载memcached与libevent的安装文件
http://www.memcached.org/(memcached下载地址)
http://www.libevent.org(libevent下载地址)
2. 具体安装步骤
1.由于memcached依赖于libevent,因此需要安装libevent。由于linux系统可能默认已经安装libevent,执行命令:
rpm -qa|grep libevent
查看系统是否带有该安装软件,如果有执行命令:
rpm -e libevent-1.4.13-4.el6.x86_64 --nodeps(由于系统自带的版本旧,忽略依赖删除)
3. 安装libevent命令:
tar zxvf libevent-2.0.22-stable.tar.gz
cd libevent-2.0.21-stable
./configure --prefix=/usr/local/libevent
make
make install
至此libevent安装完毕;
测试看看是否成功
ls -al /usr/local/libevent/lib | grep libevent
ls -al /usr/lib | grep libevent
libevent-1.1a.so.1
libevent-1.1a.so.1.0.2
libevent-1.4.so.2
libevent-1.4.so.2.1.3
libevent.a
libevent_core-1.4.so.2
libevent_core-1.4.so.2.1.3
libevent_core.a
libevent_core.la
libevent_core.so
libevent_extra-1.4.so.2
libevent_extra-1.4.so.2.1.3
libevent_extra.a
libevent_extra.la
libevent_extra.so
libevent.la
libevent.so
4. 安装memcached命令:
tar zxvf memcached-1.4.2.tar.gz
cd memcached-memcached-1.4.2
./configure --prefix=/usr/local/memcached --with-libevent=/usr/local/libevent/
make && make install
至此memcached安装完毕;
5. 可能存在的错误以及解决方案
如果出现客户端连接不上memcached的情况,请将防火墙关闭或将防火墙中的memcached端口(11211端口)打开。
6. 启动memcached
1.打开一个终端,输入以下命令:
///usr/local/memcached/bin/memcached -d -m 256 -u root -l 192.168.85.135 -p 11211 -c 1024 –P /tmp/memcached.pid
/usr/local/memcached/bin/memcached -d -m 10 -u root -l 192.168.85.135 -p 11211 -c 256 -P /tmp/memcached.pid
测试是否成功
1、命令中输入:telnet 192.168.120.28 11211(你安装的主机的ip和memcached启动端口),然后直接敲击stats命令
stats
STAT pid 16321
STAT uptime 2831
STAT time 1322126000
STAT version 1.4.6
STAT libevent 2.0.12-stable
STAT pointer_size 64
STAT rusage_user 0.004999
STAT rusage_system 0.004999
STAT curr_connections 12
STAT total_connections 18
STAT connection_structures 13
STAT cmd_get 6
STAT cmd_set 7
STAT cmd_flush 0
STAT get_hits 5
STAT get_misses 1
STAT delete_misses 0
STAT delete_hits 1
STAT incr_misses 0
STAT incr_hits 0
STAT decr_misses 0
STAT decr_hits 0
STAT cas_misses 0
STAT cas_hits 0
STAT cas_badval 0
STAT auth_cmds 0
STAT auth_errors 0
STAT bytes_read 5023
STAT bytes_written 7246
STAT limit_maxbytes 536870912
STAT accepting_conns 1
STAT listen_disabled_num 0
STAT threads 4
STAT conn_yields 0
STAT bytes 2479
STAT curr_items 2
STAT total_items 7
STAT evictions 0
STAT reclaimed 0
END
启动参数说明:
-d 选项是启动一个守护进程。
-u root 表示启动memcached的用户为root。
-m 是分配给Memcache使用的内存数量,单位是MB,默认64MB。
-M return error on memory exhausted (rather than removing items)。
-u 是运行Memcache的用户,如果当前为root 的话,需要使用此参数指定用户。
-p 是设置Memcache的TCP监听的端口,最好是1024以上的端口。
-c 选项是最大运行的并发连接数,默认是1024。
-P 是设置保存Memcache的pid文件。
memcache 源码安装
http://pecl.php.net/package/memcache
也可以从源码安装
-
wget -c http://pecl.php.net/get/memcache-3.0.6.tgz
# tar zxf memcache-3.0.6.tgz
# cd memcache-3.0.6
# /apps/svr/php/bin/phpize
# ./configure --enable-memcache=/usr/local/memcached --with-php-config=/apps/svr/php/bin/php-config --with-zlib-dir
# make && make inst
安装完后会有类似这样的提示:
Installing shared extensions: /apps/svr/php/lib/php/extensions/no-debug-non-zts-20121212/
把这个记住,然后修改php.ini,把
extension_dir = "./"
修改为
extension_dir = "/apps/svr/php/lib/php/extensions/no-debug-non-zts-20121212/"
并添加一行
extension="memcache.so"
/usr/local/webserver/php/sbin/php-fpm reload 重新加载php
5. 用phpinfo查看
测试模块
<?php
$memcache = new Memcache;
$memcache->connect('localhost', 12000) or die ("Could not connect");
$version = $memcache->getVersion();
echo "Server's version: ".$version."<br/> ";
$tmp_object = new stdClass;
$tmp_object->str_attr = 'test';
$tmp_object->int_attr = 123;
$memcache->set('key', $tmp_object, false, 10) or die ("Failed to save data at the server");
echo "Store data in the cache (data will expire in 10 seconds)<br/> ";
$get_result = $memcache->get('key');
echo "Data from the cache:<br/> ";
var_dump($get_result);
?>
显示结果:
Server's version: 1.2.6
Store data in the cache (data will expire in 10 seconds)
Data from the cache:
php memcached扩展的安装
http://pecl.php.net/package/memcached
wget http://launchpad.net/libmemcached/1.0/0.42/+download/libmemcached-0.42.tar.gz
wget http://pecl.php.net/get/memcached-2.2.0.tgz
安装libmemcached
tar zxvf libmemcached-0.42.tar.gz
cd libmemcached-0.42
./configure --prefix=/usr/local/libmemcached --with-memcached
make && make install
php的扩展memcached的安装
tar zxvf memcached-2.2.0.tgzcd memcached-1.0.2
/apps/svr/php/bin/phpize
./configure -with-php-config=/apps/svr/php/bin/php-config --with-libmemcached-dir=/usr/local/libmemcached --enable-memcached
make && make install
vi /apps/svr/php/etc/php.ini
加上extension=memcached.so重起一下服务就可以了。
用phpinfo查看
测试:
分类: Redis、Memcache 性能调优 VMware 互联网2012-11-05 12:32 1794人阅读 评论(0) 收藏 举报
memcache也有一款图形界面的监控工具(memcachephp),可以通过这个工具查看到局域网内所有部署memcache机器或者端口的memcache的运行情况,对我们监控memcache的缓存命中率、cache利用率、点击率等信息有很好的帮助作用。图形界面工具的推出,有助于我们性能测试工程师脱离命令行方式,避免多个memcache端口的监控窗口来回切换,更能够让测试人员有足够多的时间去做其他方面的工作。
1、本地下载memcachephp.zip,网上提供下载,注意这是一个需要apache支持的PHP工具,memcachephp下载地址:http://download.csdn.net/detail/wy3552128/4733588
2、本地测试监控机安装Apache或者下载XAMPP(Apache+MySQL+PHP+PERL),安装后把memcachephp.zip中的memcache.php文件放到www或者htdocs目录下即可。
3、修改memcache.php文件:
注意$MEMCACHE_SERVERS[]可以配置多个memcache
4、打开IE浏览器,输入http://localhost/memcache.php 打开即可,注意第一次访问的时候提示输入登录用户名和密码。默认的的用户名密码:memcache/password,可以再php文件中配置
监控界面:
在下面监控画面看出,左侧显示的是memcache的主机、端口,运行时间等信息;右侧显示的是cache利用率、缓存命中率、点击率(Hit)等信息。
注意:右则显示的信息,默认是多个memcache缓存的总数,需要选中Memcached Hosts对单个主机进行刷新,显示单个主机的信息
上面是对所有memcache进行监控。
PHP项目分布式使用Memcache同步SESSION的几种方法
1.设置session用memcache来存储
方法I: 在 php.ini 中全局设置
session.save_handler = memcache
session.save_path = "tcp://127.0.0.1:11211"
方法II: 某个目录下的 .htaccess :
php_value session.save_handler "memcache"
php_value session.save_path "tcp://127.0.0.1:11211"
方法III: 再或者在某个一个应用中:
ini_set("session.save_handler", "memcache");
ini_set("session.save_path", "tcp://127.0.0.1:11211");
使用多个 memcached server 时用逗号","隔开,并且和 Memcache::addServer() 文档中说明的一样,可以带额外的参数"persistent"、"weight"、"timeout"、"retry_interval" 等等,类似这样的:"tcp://host1:port1?persistent=1&weight=2,tcp://host2:port2" 。
如果安装的PECL是memcached(使用libmemcache库的那个),则配置应为
ini_set("session.save_handler", "memcached"); // 是memcached不是memcache
ini_set("session.save_path", "127.0.0.1:11211"); // 不要tcp:
2. 启动 memcached:
memcached -d -l 127.0.0.1 -p 11212 -m 128
或 启动Memcache的服务器端:
memcached -d -m 100 -u root -l 192.168.36.200 -p 11211 -c 256 -P /tmp/memcached.pid
# /usr/local/bin/memcached -d -m 10 -u root -l 192.168.0.200 -p 12000 -c 256 -P /tmp/memcached.pid
引用
-d选项是启动一个守护进程,
-m是分配给Memcache使用的内存数量,单位是MB,我这里是100MB,
-u是运行Memcache的用户,我这里是root,
-l是监听的服务器IP地址,如果有多个地址的话,我这里指定了服务器的IP地址192.168.36.200,
-p是设置Memcache监听的端口,我这里设置了11211,最好是1024以上的端口,我们这里统一使用11211
-c选项是最大运行的并发连接数,默认是1024,我这里设置了256,按照你服务器的负载量来设定。
-P是设置保存Memcache的pid文件,我这里是保存在/tmp/memcached.pid,
3. 在程序中使用 memcache 来作 session 存储
用例子测试一下:
复制代码 代码如下:
<?php
session_start();
if (!isset($_SESSION['TEST'])) {
$_SESSION['TEST'] = time();
}
$_SESSION['TEST3'] = time();
print $_SESSION['TEST'];
print "<br><br>";
print $_SESSION['TEST3'];
print "<br><br>";
print session_id();
?>
4. 用 sessionid 去 memcached 里查询一下:
复制代码 代码如下:
<?php
$memcache = memcache_connect('localhost', 11211);
var_dump($memcache->get('19216821213c65cedec65b0883238c278eeb573e077'));
$memcache->set('aaaa', 'hello everyone');
var_dump($memcache->get('aaaa'));
?>
会看到
string(37) "TEST|i:1177556731;TEST3|i:1177556881;"
这样的输出,证明 session 正常工作。
用 memcache 来存储 session 在读写速度上会比 files 时快很多,而且在多个服务器需要共用 session 时会比较方便,将这些服务器都配置成使用同一组 memcached 服务器就可以,减少了额外的工作量。缺点是 session 数据都保存在 memory 中,持久化方面有所欠缺,但对 session 数据来说也不是很大的问题。
===================================
一般地, Session 是以文本文件形式存储在服务器端的。如果使用 Seesion,或者该 PHP 文件要调用 Session 变量,那么就必须在调用 Session 之前启动它,使用 session_start() 函数。其它都不需要你设置了,PHP 自动完成 Session 文件的创建。其默认 Session 的存放路径是服务器的系统临时文件夹。
但是如果碰到大数据量的Sesstion的时候, 使用基于文件的Session存取瓶颈可能都是在磁盘IO操作上,现在利用Memcached来保存Session数据,直接通过内存的方式,效率自然能够提高不少。 在读写速度上会比 files 时快很多,而且在多个服务器需要共用 session 时会比较方便,将这些服务器都配置成使用同一组 memcached 服务器就可以,减少了额外的工作量。
其缺点是 session 数据都保存在 memory 中,一旦宕机,数据将会丢失。但对 session 数据来说并不是严重的问题。
如何用 memcached 来存储 session呢?以下是基本的配置步骤:
1. 安装 memcached
在 phpinfo 输出中的 “Registered save handlers” 会有 “files user sqlite”。
2. 修改配置文件,
a. 在 php.ini 中全局设置(* 需要重启服务器)
session.save_handler = memcache
session.save_path = "tcp://127.0.0.1:11211"
b. 或者某个目录下的 .htaccess :
php_value session.save_handler "memcache"
php_value session.save_path "tcp://127.0.0.1:11211"
c. 也可以在某个一个应用中:
ini_set("session.save_handler", "memcache");
ini_set("session.save_path", "tcp://127.0.0.1:11211");
注:使用多个 memcached server 时用逗号”,”隔开,并且和 Memcache::addServer() 文档中说明的一样,可以带额外的参数”persistent”、”weight”、”timeout”、”retry_interval” 等等,类似这样的:”tcp://host:port?persistent=1&weight=2,tcp://host2 :port2″ 。
3. 启动 memcached
memcached -d -m 10 -u root -l 127.0.0.1 -p 11211 -c 256 -P /tmp/memcached.pid
启动脚本 /apps/sh/memcache.sh start
#!/bin/sh
#SH_DIR=$(dirname $(which $0))
#. $SH_DIR/app_env.sh
APP_SVR=/usr/local
#ipaddr=$(cat /etc/sysconfig/network-scripts/ifcfg-eth0 |grep IPADDR|awk -F"=" '{print $2}')
#echo $ipaddr;
if [ "$1" = "stop" ] ; then
killall -9 memcached
elif [ "$1" = "restart" ]; then
killall -9 memcached
$APP_SVR/memcached/bin/memcached -m 1024 -u root -p 11211 -l 192.168.85.135 -d
# $APP_SVR/memcached/bin/memcached -m 1024 -u root -p 11311 -l $ipaddr -d
#$APP_SVR/memcached/bin/memcached -m 1024 -u root -p 11411 -l $ipaddr -d
ps aux|grep memcached |grep -v grep|grep -v memcached.sh|awk '{print $17 "-->" $15 "-->" "ok!"}'
elif [ "$1" = "start" ]; then
$APP_SVR/memcached/bin/memcached -m 1024 -u root -p 11211 -l 192.168.85.135 -d
#$APP_SVR/memcached/bin/memcached -m 1024 -u root -p 11311 -l $ipaddr -d
#$APP_SVR/memcached/bin/memcached -m 1024 -u root -p 11411 -l $ipaddr -d
ps aux|grep memcached |grep -v grep|grep -v memcached.sh|awk '{print $17 "-->" $15 "-->" "ok!"}'
elif [ "$1" = "show" ];then
ps aux|grep memcached |grep -v grep|grep -v memcached.sh|awk '{print $17 "-->" $15 "-->" "ok!"}'
else
echo "usage: $0 start|stop|restart"
fi
#-u nobody
4.测试 创建一个 session
复制代码 代码如下:
<?php
//set_session.php
session_start();
if (!isset($_SESSION['admin'])) {
$_SESSION['TEST'] = 'wan';
}
print $_SESSION['admin'];
print "\n";
print session_id();
?>
5. 用 sessionid 去 memcached 里查询一下
复制代码 代码如下:
<?php
//get_session.php
$mem = new Memcache;
$mem->connect("127.0.0.1", 11211);
var_dump($mem->get('0935216dbc0d721d629f89efb89affa 6'));
?>
复制代码 代码如下:
[root@localhost html]# /usr/local/webserver/php/bin/php -f get_session.php
输出结果:
string(16)
"admin|s:3:"wan";"
证明 session 正常工作。
===========================
用 memcache 来存储 session 在读写速度上应该会比文件快很多,而且在多个服务器需要共用 session 时会比较方便,将这些服务器都配置成使用同一组 memcached 服务器就可以,减少了额外的工作量。缺点是 session 数据都保存在内存中,不能持久化存储,如果想持久化存储,可以考虑使用Memcachedb来存储,或用Tokyo Tyrant+Tokyo Cabinet来进行存储。
怎样判断session失效了呢?在php.ini中有个Session.cookie_lifetime的选项,这个代表SessionID在客户端Cookie储存的时间,默认值是“0”,代表浏览器一关闭,SessionID就作废,这样不管保存在Memcached中的Session是否还有效(保存在Memcached中的session会利用Memcached的内部机制进行处理,即使session数据没有失效,而由于客户端的SessionID已经失效,所以这个key基本上不会有机会使用了,利用Memcached的LRU原则,如果Memcached的内存不够用了,新的数据就会取代过期以及最老的未被使用的数据),因为SessionID已经失效了,所以在客户端会重新生成一个新的SessionID。
保存在Memcached中的数据最长不会超过30天,这个时间是以操作Memcached的时间为基准的,也就是说,只要key还是原来的key,如果你重新对此key进行了相关的操作(如set操作),且重新设置了有效期,则此时此key对应的数据的有效期会重新计算的,php手册中有说明
Expiration time of the item. If it's equal to zero, the item will never expire. You can also use Unix timestamp or a number of seconds starting from current time, but in the latter case the number of seconds may not exceed 2592000 (30 days).
Memcached主要的cache机制是LRU(最近最少用)算法+超时失效。当您存数据到memcached中,可以指定该数据在缓存中可以呆多久。如果memcached的内存不够用了,过期的slabs会优先被替换,接着就轮到最老的未被使用的slabs。
===========================
为了使web应用能使用saas模式的大规模访问,必须实现应用的集群部署.要实现集群部署主要需要实现session共享机制,使得多台应用服务器之间会话统一, tomcat等多数服务都采用了session复制技术实现session的共享.
session复制技术的问题:
(1)技术复杂,必须在同一种中间件之间完成(如:tomcat-tomcat之间).
(2)在节点持续增多的情况下,session复制带来的性能损失会快速增加.特别是当session中保存了较大的对象,而且对象变化较快时,性能下降更加显著.这种特性使得web应用的水平扩展受到了限制.
session共享的另一种思路就是把session集中起来管理,首先想到的是采用数据库来集中存储session,但数据库是文件存储相对内存慢了一个数量级,同时这势必加大数据库系统的负担.所以需要一种既速度快又能远程集中存储的服务,所以就想到了memcached.
memcached能缓存什么?
通过在内存里维护一个统一的巨大的hash表,Memcached能够用来存储各种格式的数据,包括图像、视频、文件以及数据库检索的结果等。
memcached快么?
非常快。memcached使用了libevent(如果可以的话,在linux下使用epoll)来均衡任何数量的打开链接,使用非阻塞的网络I/O,对内部对象实现引用计数(因此,针对多样的客户端,对象可以处在多样的状态), 使用自己的页块分配器和哈希表, 因此虚拟内存不会产生碎片并且虚拟内存分配的时间复杂度可以保证为O(1).。
使用过程注意几个问题和改进思路:
1、memcache的内存应该足够大,这样不会出现用户session从Cache中被清除的问题(可以关闭memcached的对象退出机制)。
2、如果session的读取比写入要多很多,可以在memcache前再加一个Oscache等本地缓存,减少对memcache的读操作,从而减小网络开销,提高性能。
3、如果用户非常多,可以使用memcached组,通过set方法中带hashCode,插入到某个memcached服务器
对于session的清除有几种方案:
(1)可以在凌晨人最少的时候,对memcached做一次清空。(简单)
(2)保存在缓存中的对象设置一个失效时间,通过过滤器获取sessionId的值,定期刷新memcached中的对象.长时间没有被刷新的对象自动被清除.(相对复杂,消耗资源)
参考链接:http://www.jb51.net/article/39073.htm
Memcached分布式部署方案
一、普通Hash分布:
<?php
function test($key='name'){
$md5 = substr(md5($key), 0, 8);
$seed = 31;
$hash = 0;
for($i=0; $i<8; $i++){
$hash = $hash * $seed + ord($md5[$i]);
}
return $hash & 0x7FFFFFFF;
}
$memcacheList = array(
array('host'=>'192.168.1.2', 'port'=>6379),
array('host'=>'192.168.1.3', 'port'=>6379),
array('host'=>'192.168.1.4', 'port'=>6379),
array('host'=>'192.168.1.5', 'port'=>6379),
);
$key = 'username';
$value = 'lane';
//根据KEY获取hash
$hash = $this->test($key);
$count = count($memcacheList);
$memcache = $memcacheList[$hash % $count];
$mc = new Memcached($memcache);
$mc->set($key, $value);
?>
代码很简单,一个Hash函数,根据所需要的key,将他md5后取前8位,然后经过Hash算法返回一个整数。将这个整数对服务器总数求模。得到的就是服务器列表的编号。这种方式的缺点是服务器数量改变后,同一个key不同hash,将取不到值了。
二、一致性Hash分布
一致性Hash尽管也会造成数据的丢失,但是损失是最小的。
将2的32次方-1想象成一个圆环,服务器列表在上面排列。根据key通过hash算法求得在圆环上的位置,那么所需要的服务器的位置在key的位置前面最近的一个(顺时针)。
<?php
class FlexiHash{
//服务器列表
private $serverList = array();
//是否排序
private $isSort = false;
/**
* Description: Hash函数,将传入的key以整数形式返回
* @param string $key
* @return int
*/
private function myHash($key){
$md5 = substr(md5($key), 0, 8);
$seed = 31;
$hash = 0;
for($i=0; $i<8; $i++){
$hash = $hash * $seed + ord($md5[$i]);
}
return $hash & 0x7FFFFFFF;
}
/**
* Description: 添加新服务器
* @param $server
*/
public function addServer($server){
$hash = $this->myHash($server);
if(!isset($this->serverList[$hash])){
$this->serverList[$hash] = $server;
}
$this->isSort = false;
return true;
}
/**
* Description: 删除指定服务器
* @param $server
* @return bool
*/
public function removeServer($server){
$hash = $this->myHash($server);
if(isset($this->serverList[$hash])){
unset($this->serverList[$hash]);
}
$this->isSort = false;
return true;
}
/**
* Description: 根据要操作的KEY返回一个操作的服务器信息
* @param $key
* @return mixed
*/
public function lookup($key){
//将指定的KEYhash出一个整数
$hash = $this->myHash($key);
if($this->isSort !== true){
krsort($this->serverList);
$this->isSort = false;
}
foreach($this->serverList as $key=>$server){
if($key <= $hash){
return $server;
}
}
return array_pop($this->serverList);
}
}
//使用方法
$mc = new FlexiHash();
$mc->addServer('192.168.1.2');
$mc->addServer('192.168.1.3');
$mc->addServer('192.168.1.4');
$mc->addServer('192.168.1.5');
echo 'KEY=key1时,操作的服务器为:'.$mc->lookup('key1').'<br>';
echo 'KEY=key1时,操作的服务器为:'.$mc->lookup('key2').'<br>';
echo 'KEY=key1时,操作的服务器为:'.$mc->lookup('key3').'<br>';
echo 'KEY=key1时,操作的服务器为:'.$mc->lookup('key4').'<br>';
echo 'KEY=key1时,操作的服务器为:'.$mc->lookup('key5').'<br>';
?>