varnish Grace和Saint模式

GRACE模式

当几个客户端请求同一个页面的时候，varnish只发送一个请求到后端服务器，然后让那个其他几个请求挂起等待返回结果，返回结果后，复制请求的结果发送给客户端。
如果您的服务每秒有数千万的点击率，那么这个队列是庞大的，没有用户喜欢等待服务器响应。为了解决这个问题，可以指示varnish去保持缓存的对象超过他们的TTL（就是该过期的，先别删除），并且去提供旧的内容给正在等待的请求。
为了提供旧的内容，首先我们必须有内容去提供。使用以下VCL，以使varnish保持所有对象超出了他们的TTL30分钟。
sub vcl_fetch { set beresp.grace = 30m;}
这样，varnish还不会提供旧对象。为了启用varnish去提供旧对象，我们必须在请求上开启它。下面表示，我们接收15s的旧对象：
sub vcl_recv { set req.grace = 15s;}
你可能想知道，为什么，如果我们无法提供这些对象，我们在缓存中保持这些对象30分钟？如果你开启健康检查，你可以检查后端是否出问题。如果出问题了，我们可以提供长点时间的旧内容。
if (! req.backend.healthy) { set req.grace = 5m;} else { set req.grace = 15s;}
所以，总结下，Grace模式解决了两个问题：
1：通过提供旧的内容，避免请求扎堆。

2：如果后端坏了，提供旧的内容。

Saint模式

神圣模式可以让你抛弃一个后端服务器的某个页面，并尝试从其他服务器获取，或提供缓存中的旧内容。让我们看看如何在VCL中开启：
sub vcl_fetch {
if (beresp.status == 500) {
set beresp.saintmode = 10s;
return(restart);
}
set beresp.grace = 5m;
}
设置beresp.saintmode为10秒时，varnish会不请求该服务器10秒。或多或少可以算是一个黑名单。restart被执行时，如果我们有其他后端可以提供该内容，varnish会请求它们。当没有其他后端可用，varnish就会提供缓存中的旧内容。