企业实例~2.varnish——高性能的开源HTTP加速器 工作原理及配置

varnish工作原理

Varnish与一般服务器软件类似,分为master(management)进程和child(worker,主要做cache的工作)进程。master进程读入命令,进行一些初始化,然后fork并监控child进程。child进程分配若干线程进行工作,主要包括一些管理线程和很多woker线程。

针对文件缓存部分,master读入存储配置(-s file[,path[,size[,granularity]]] ),调用合适的存储类型,然后创建/读入相应大小的缓存大文件。接着,master初始化管理该存储空间的结构体。这些变量都是全局变量,在fork以后会被child进程所继承(包括文件描述符)。

在child进程主线程初始化过程中,将前面打开的存储大文件整个mmap到内存中(如果超出系统的虚拟内存,mmap失败,进程会减少原来的配置mmap大小,然后继续mmap),此时创建并初始化空闲存储结构体,挂到存储管理结构体,以待分配。

接着,真正的工作开始,Varnish的某个负责接受新HTTP连接的线 程开始等待用户,如果有新的HTTP连接过来,它总负责接收,然后叫醒某个等待中的线程,并把具体的处理过程交给它。Worker线程读入HTTP请求的 URI,查找已有的object,如果命中则直接返回并回复用户。如果没有命中,则需要将所请求的内容,从后端服务器中取过来,存到缓存中,然后再回复。

分配缓存的过程是这样的:它根据所读到object的大小,创建相应大小的缓存文件。为了读写方便,程序会把每个object的大小变为最接近其大小的内存页面倍数。然后从现有的空闲存储结构体中查找,找到最合适的大小的空闲存储块,分配给它。如果空闲块没有用完,就把多余的内存另外组成一个空闲存储块,挂到管理结构体上。如果缓存已满,就根据LRU机制,把最旧的object释放掉。

释放缓存的过程是这样的:有一个超时线程,检测缓存中所有object的生存期,如果超初设定的TTL(Time To Live)没有被访问,就删除之,并且释放相应的结构体及存储内存。注意释放时会检查该存储内存块前面或后面的空闲内存块,如果前面或后面的空闲内存和该释放内存是连续的,就将它们合并成更大一块内存。

整个文件缓存的管理,没有考虑文件与内存的关系,实际上是将所有的object都考虑是在内存中,如果系统内存不足,系统会自动将其换到swap空间,而不需要varnish程序去控制。

                                                                                                                                      ————————百度百科

我们可以用varnish完成多个项目

varnish服务器server1:172.25.35.1

1.安装varnish及测试

[root@server1 home]# yum install -y varnish-*
查看当前环境
 

[root@server1 ~]# sysctl -a | grep file
fs.file-nr = 416    0    188465
fs.file-max = 188465

[root@server1 ~]# ulimit -l
64

#适配软件环境

vim /etc/sysconfig/varnish
  7 # Maximum number of open files (for ulimit -n)
  8 NFILES=131072
  9
 10 # Locked shared memory (for ulimit -l)
 11 # Default log size is 82MB + header
 12 MEMLOCK=82000
 13
 14 # Maximum number of threads (for ulimit -u)
 15 NPROCS="unlimited"


修改默认端口

66 VARNISH_LISTEN_PORT=80

修改服务配置文件

vim /etc/varnish/default.vcl
backend default {
  .host = "172.25.35.2";
  .port = "80";
}

给软件运行环境

vim /etc/security/limits.conf

varnish         -       nofile          131072
varnish         -       memlock         82000
varnish         -       nproc           unlimited

开启服务
 

[root@server1 ~]# /etc/init.d/varnish start
Starting Varnish Cache:                                    [  OK  ]

http服务器配置 :

IP:172.25.35.2

#处理默认发布页
vim /var/www/html/index.html
server2's Apache server
#开启服务
/etc/init.d/httpd start

客户机测试:
 

[kiosk@foundation35 ~]$ curl 172.25.35.1
server2's Apache server

 

2.代理缓存

varnish服务器:
添加

vim /etc/varnish/default.vcl
  7 backend default {
  8   .host = "172.25.35.2";
  9   .port = "80";
 10 }
 11
 12 sub vcl_deliver {
 13 if (obj.hits > 0) {
 14 set resp.http.X-Cache = "HIT from westos cache";
 15 }
 16 else {
 17 set resp.http.X-Cahce = "MISS from westos cache";
 18 }
 19 return (deliver);
 20 }

重启服务:

[root@server1 ~]# /etc/init.d/varnish reload

 清除本地所有缓存:

varnishadm ban.url .*$

客户机测试:
第一次:

[root@foundation35 kiosk]# curl -I www.westos.org
HTTP/1.1 200 OK
Server: Apache/2.2.15 (Red Hat)
Last-Modified: Thu, 24 Jan 2019 03:40:27 GMT
ETag: "3febf-18-5802bf8a6b80f"
Content-Type: text/html; charset=UTF-8
Content-Length: 24
Accept-Ranges: bytes
Date: Thu, 24 Jan 2019 06:01:53 GMT
X-Varnish: 686661928
Age: 0
Via: 1.1 varnish
Connection: keep-alive
X-Cahce: MISS from westos cache

第二次:

[root@foundation35 kiosk]# curl -I www.westos.org
HTTP/1.1 200 OK
Server: Apache/2.2.15 (Red Hat)
Last-Modified: Thu, 24 Jan 2019 03:40:27 GMT
ETag: "3febf-18-5802bf8a6b80f"
Content-Type: text/html; charset=UTF-8
Content-Length: 24
Accept-Ranges: bytes
Date: Thu, 24 Jan 2019 06:01:54 GMT
X-Varnish: 686661929 686661928
Age: 1
Via: 1.1 varnish
Connection: keep-alive
X-Cache: HIT from westos cache


3.不同服务器代理不同服务

目的:

172.25.35.2 www.westos.org
172.25.35.3 bbs.westos.org

varnish服务器:

  7 backend web1 {
  8   .host = "172.25.35.2";
  9   .port = "80";
 10 }
 11
 12 backend web2 {
 13   .host = "172.25.35.3";
 14   .port = "80";
 15 }
 16
 17 sub vcl_recv{
 18     if (req.http.host ~ "^(www.)?westos.org") {
 19         set req.http.host = "www.westos.org";
 20         set req.backend = web1;
 21 }elsif (req.http.host ~ "^bbs.westos.org") {
 22     set req.backend = web2;
 23     } else {
 24         error 404 "westos cache";
 25     }
 26 }

重启服务:

[root@server1 ~]# /etc/init.d/varnish reload

客户机测试:
添加本地解析:
 

vim /etc/hosts
172.25.35.1 server1 www.westos.org bbs.westos.org
[root@foundation35 kiosk]# curl www.westos.org
server2's Apache server
[root@foundation35 kiosk]# curl bbs.westos.org
server3's Apache server

4.负载均衡

varnish服务器
 

 17 director lb round-robin {
 18     { .backend = web1; }
 19     { .backend = web2; }
 20 }
 21
 22 sub vcl_recv {
 23     if (req.http.host ~ "^(www.)?westos.org") {
 24         set req.http.host = "www.westos.org";
 25         set req.backend = lb;
 26         return (pass); #清除缓存,不然有缓存不会轮询
 27     }elsif (req.http.host ~ "^bbs.westos.org") {
 28         set req.backend = web2;
 29     }else {
 30         error 404 "westos cache";
 31     }
 32 }

重启服务,清除缓存

[root@server1 ~]# /etc/init.d/varnish reload

[root@server1 ~]# varnishadm ban.url .*$

客户机测试:
轮询访问
 

[root@foundation35 kiosk]# curl www.westos.org
server2's Apache server
[root@foundation35 kiosk]# curl www.westos.org
server3's Apache server
[root@foundation35 kiosk]# curl www.westos.org
server2's Apache server
[root@foundation35 kiosk]# curl www.westos.org
server3's Apache server
[root@foundation35 kiosk]# curl www.westos.org
server2's Apache server

5.CDN推送管理

使用图形化界面清除所有缓存

[root@server1 home]# ls
bansys.zip  varnish-3.0.5-1.el6.x86_64.rpm  varnish-libs-3.0.5-1.el6.x86_64.rpm

yum install -y unzip httpd php
unzip bansys.zip -d /var/www/html/
cd /var/www/html/
cd bansys/
mv * /var/www/html/
vim config.php

php网页脚本示例:

<?php

 //varnish主机列表
 //可定义多个主机列表
 $var_group1 = array(
                        'host' => array('172.25.35.1'),
                                                'port' => '8080',                
                    );

 //varnish群组定义
 //对主机列表进行绑定
 $VAR_CLUSTER = array(
                         'www.westos.org' => $var_group1,
                     );


 //varnish版本
 //2.x和3.x推送命令不一样
 $VAR_VERSION = "3";

?>

修改8080端口

vim /etc/httpd/conf/httpd.conf
 136 Listen 8080

vim /etc/varnish/default.vcl
设置CDN的acl访问控制:

  6 acl westos {
  7 "127.0.0.1";
  8 "172.25.35.0"/24;
  9 }
 10
 11 sub vcl_recv {
 12     if (req.request == "BAN") {
 13         if (!client.ip ~ westos) {
 14             error 405 "Not allowed.";
 15         }
 16     ban("req.url ~ " + req.url);
 17         error 200 "ban added";
 18     }
 19 }

注释掉上节,不然会影响实验:
 

40 #       return (pass);

重启varnish

/etc/init.d/varnish restart

测试:
客户机浏览器访问
http://172.25.35.1:8080/
通过http服务发送 .* 清除所有缓存

        [.*] , 正在推送中...
        172.25.35.1,推送成功!
        群组[www.westos.org],全部推送成功

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值