Varnish----CDN加速的实现

一、Varnish简介

• Varnish是什么？
  Varnish是一款高性能的开源HTTP加速器，挪威最大的在线报纸 Verdens Gang 使用3台Varnish代替了原来的12台Squid，性能比以前更好。
  简介：
  1.Varnish 的作者Poul-Henning Kamp是FreeBSD的内核开发者之一，他认为现在的计算机比起1975年已经复杂许多。在1975年时，储存媒介只有两种：内存与硬盘。但现在计算机系统的内存除了主存外，还包括了CPU内的L1、L2，甚至有L3快取。硬盘上也有自己的快取装置，因此Squid Cache自行处理物件替换的架构不可能得知这些情况而做到最佳化，但操作系统可以得知这些情况，所以这部份的工作应该交给操作系统处理，这就是 Varnish cache设计架构。
  2.varnish项目是2006年发布的第一个版本0.9.距今已经有十多年了，此文档之前也提过varnish还不稳定，那是2007年时候编写的，经过varnish开发团队和网友们的辛苦耕耘，现在的varnish已经很健壮。很多门户网站已经部署了varnish，并且反应都很好，甚至反应比squid还稳定，且效率更高，资源占用更少。相信在反向代理，web加速方面，varnish已经有足够能力代替squid。
• Varnish工作流程？
  1.Varnish与一般服务器软件类似，分为master（management）进程和child（worker，主要做cache的工作）进程。master进程读入命令，进行一些初始化，然后fork并监控child进程。child进程分配若干线程进行工作，主要包括一些管理线程和很多woker线程。
  2.针对文件缓存部分，master读入存储配置（-s file[,path[,size[,granularity]]] ），调用合适的存储类型，然后创建/读入相应大小的缓存大文件。接着，master初始化管理该存储空间的结构体。这些变量都是全局变量，在fork以后会被child进程所继承（包括文件描述符）。
  3.在child进程主线程初始化过程中，将前面打开的存储大文件整个mmap到内存中（如果超出系统的虚拟内存，mmap失败，进程会减少原来的配置mmap大小，然后继续mmap），此时创建并初始化空闲存储结构体，挂到存储管理结构体，以待分配。
  4.接着，真正的工作开始，Varnish的某个负责接受新HTTP连接的线程开始等待用户，如果有新的HTTP连接过来，它总负责接收，然后叫醒某个等待中的线程，并把具体的处理过程交给它。Worker线程读入HTTP请求的URI，查找已有的object，如果命中则直接返回并回复用户。如果没有命中，则需要将所请求的内容，从后端服务器中取过来，存到缓存中，然后再回复。
  5.分配缓存的过程是这样的：它根据所读到object的大小，创建相应大小的缓存文件。为了读写方便，程序会把每个object的大小变为最接近其大小的内存页面倍数。然后从现有的空闲存储结构体中查找，找到最合适的大小的空闲存储块，分配给它。如果空闲块没有用完，就把多余的内存另外组成一个空闲存储块，挂到管理结构体上。如果缓存已满，就根据LRU机制，把最旧的object释放掉。
  6.释放缓存的过程是这样的：有一个超时线程，检测缓存中所有object的生存期，如果超初设定的TTL（Time To Live）没有被访问，就删除之，并且释放相应的结构体及存储内存。注意释放时会检查该存储内存块前面或后面的空闲内存块，如果前面或后面的空闲内存和该释放内存是连续的，就将它们合并成更大一块内存。
  7.整个文件缓存的管理，没有考虑文件与内存的关系，实际上是将所有的object都考虑是在内存中，如果系统内存不足，系统会自动将其换到swap空间，而不需要varnish程序去控制。

Varnish的工作原理图：

VCL (Varnish Configuration Language)处理流程图：

二、CDN简介

• CDN是什么？
  CDN的全称是Content Delivery Network，即内容分发网络。CDN是构建在网络之上的内容分发网络，依靠部署在各地的边缘服务器，通过中心平台的负载均衡、内容分发、调度等功能模块，使用户就近获取所需内容，降低网络拥塞，提高用户访问响应速度和命中率。CDN的关键技术主要有内容存储和分发技术。
• 基本思路：
  基本思路是尽可能避开互联网上有可能影响数据传输速度和稳定性的瓶颈和环节，使内容传输的更快、更稳定。通过在网络各处放置节点服务器所构成的在现有的互联网基础之上的一层智能虚拟网络，CDN系统能够实时地根据网络流量和各节点的连接、负载状况以及到用户的距离和响应时间等综合信息将用户的请求重新导向离用户最近的服务节点上。其目的是使用户可就近取得所需内容，解决 Internet网络拥挤的状况，提高用户访问网站的响应速度。
• 服务模式：
  1.内容分发网络(CDN)是一种新型网络构建方式，它是为能在传统的IP网发布宽带丰富媒体而特别优化的网络覆盖层；而从广义的角度，CDN代表了一种基于质量与秩序的网络服务模式。
  2.简单地说，内容分发网络(CDN)是一个经策略性部署的整体系统，包括分布式存储、负载均衡、网络请求的重定向和内容管理4个要件，而内容管理和全局的网络流量管理(Traffic Management)是CDN的核心所在。通过用户就近性和服务器负载的判断，CDN确保内容以一种极为高效的方式为用户的请求提供服务。
  3.总的来说，内容服务基于缓存服务器，也称作代理缓存(Surrogate)，它位于网络的边缘，距用户仅有"一跳"(Single Hop)之遥。同时，代理缓存是内容提供商源服务器（通常位于CDN服务提供商的数据中心）的一个透明镜像。这样的架构使得CDN服务提供商能够代表他们客户，即内容供应商，向最终用户提供尽可能好的体验，而这些用户是不能容忍请求响应时间有任何延迟的。

三、Varnish实现CDN加速(单个后端服务器)的部署

vim /etc/sysconfig/varnish
  将66行改为：VARNISH_LISTEN_PORT=80	#因为我们需要时使用varnish访问http，所以将其监听端口改为80
  # 以下不用修改，只是查看
  第8行 NFILES=131072         # 最多能打开的文件数，varnish会自动调整该值
  第12行 MEMLOCK=82000        # 最多能使用的内存空间，varnish会自动调整该值
  第15行 NPROCS="unlimited"   # 单个用户所能运行的最大线程数

因为varnish所需的最大内存空间为82000，然而我们给虚拟机分配的内存空间只有64MB,所以最大值是不够的，我们则需要给你添加内存空间

vim /etc/varnish/default.vcl
backend default {
  .host = "172.25.77.2";      # 后端服务器的ip
  .port = "80";              # 后端服务器的端口
}

sub vcl_deliver {
if (obj.hits > 0) {
set resp.http.X-Cache = "HIT from westos cache";   
# 在varnish中命中HIT访问的域名
}
else {
set resp.http.X-Cache = "MISS from westos cache";
# 后端服务器中得到MISS访问的域名
}
return (deliver);
}

varnishadm ban.url .*$	#清除所有
varnishadm ban.url /index.html	#清除index.html页面缓存
varnishadm ban.url /admin/$	#清除admin目录缓存

backend web1 {     # 后端第一个服务器名web1
 .host = "172.25.77.2";   
 #将server2 www.ljz.org作为第一个服务器主机
 .port = "80";
}
backend web2 {     # 后端第二个服务器名web2
.host = "172.25.77.3"
#将server3 bbs.ljz.org作为第二个服务器主机
  .port = "80";
}

sub vcl_recv {
if (req.http.host ~ "^(www.)?ljz.org") {     
# 解析域名是ljz.org 或www.ljz.org,均访问172.25.77.2->server2
set req.http.host = "www.ljz.org";
set req.backend = web1;
} elsif (req.http.host ~ "^bbs.ljz.org") {   
# 解析域名为bbs.ljz.com，访问172.25.77.3->server 3
set req.backend = web2;
} else {error 404 "westos cache";   
# 如果访问的域名不是这三者，404的错误
}
}

varnish做调度器，实现负载均衡

 director ljz round-robin {   # 采用round-robin算法
{ .backend = web1; }
{ .backend = web2; }
}

Round Robin（中文翻译为轮询调度）是一种以轮询的方式依次将一个域名解析到多个IP地址的调度不同服务器的计算方法。

sub vcl_recv {
if (req.http.host ~ "^(www.)?ljz.org") {
set req.http.host = "www.ljz.org";
set req.backend = ljz;  # 调用平衡轮叫函数
#return (pass);    # 写pass表明不经过缓存直接去后端服务器拿数据
} elsif (req.http.host ~ "^bbs.ljz.org") {
set req.backend = web2;
} else {error 404 "westos cache";
}
}

```![在这里插入图片描述](https://img-blog.csdnimg.cn/20190622003526788.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjQ5OTU5Mw==,size_16,color_FFFFFF,t_70)