分布式缓存–概述-CSDN博客

分布式缓存用于提高Web应用性能，通过内存中加载数据而非磁盘。集群环境下，数据一致性是挑战，采用一致性哈希策略。常见实现有Infinispan、Ehcache、Hazelcast、Memcached、Redis等。缓存抽象在应用层，如Hibernate和Spring提供集成。调整缓存策略、监控性能是关键，避免过度缓存和资源浪费。

摘要由CSDN通过智能技术生成

什么是分布式缓存？一种在应用程序（通常是Web应用程序）中“部署”的解决方案，可确保从内存而不是从磁盘（速度要慢得多）加载数据，以提高性能和响应时间。

如果要在单台计算机上使用缓存，那看起来很容易-您只需从内存中的数据库中加载最活跃的数据（例如Guava缓存实例），然后从那里提供数据。当它必须在集群中工作时，它会变得更加复杂-例如，5个应用程序节点以循环方式为用户提供请求。

每当对其中一台计算机的请求更新一条数据时，就必须在所有计算机上更新内存缓存。如果仅将所有数据加载到内存中而不使数据无效，则高速缓存将不会具有“连贯性”，它将具有过时的值，并且对不同应用程序节点的请求将具有不同的结果，这是您最想避免的。或者，您可能只有一台具有大量内存的大型缓存服务器，但它可能会死机，这可能会破坏流畅的操作，因此，您希望在群集中至少拥有2台计算机。

您可以通过不同的方式获得分布式缓存。列举一些：Infinispan（我之前已经讲过），Terracotta / Ehcache，Hazelcast，Memcached，Redis，Cassandra，Elasticache（由Amazon负责）。前三个是特定于Java的（均符合JCache），但是其余三个可以在任何设置中使用。 Cassandra最初并不是要用作缓存解决方案，但可以很容易地使用它。

所有这些都具有不同的配置和不同的选项，甚至具有不同的体系结构。例如，您可以与中央Terracotta服务器或对等八卦协议一起运行Ehcache。过程中方法也适用于Infinispan和Hazelcast。另外，您可以依赖于云提供的服务，例如Elasticache，或者可以设置自己的Memcached / Redis / Cassandra服务器集群。由于网络开销，在应用程序节点本身上具有缓存比在专用内存服务器（群集）上具有更快的速度。

缓存是围绕键和值构造的-每个键都有一个缓存的条目。当您想从数据库中加载某些内容时，首先要检查高速缓存中是否没有带有该键的条目（例如，基于数据库记录的ID）。如果缓存中存在键，则不执行数据库查询。

但是数据如何“分布”？同时将所有数据加载到所有节点上是没有意义的，因为复制会浪费空间，而保持高速缓存的一致性也将是一个问题。大多数解决方案都依赖于所谓的“一致性哈希” 。当您寻找特定键时，将计算其哈希值（取决于缓存集群中的计算机数量），并且缓存解决方案会确切知道相应值位于哪台计算机上。您可以在Wikipedia文章中阅读更多详细信息，但是即使从缓存集群（即保存缓存数据的计算机集群）中添加或删除节点，该方法仍然有效。

然后，当您进行更新时，您还将更新缓存项，缓存解决方案会传播该缓存项，以使缓存保持一致。请注意，如果您直接在数据库中进行手动更新，则缓存将具有陈旧的数据。

在应用程序级别，通常需要抽象出与缓存的交互。您最终会得到类似通用“ get”方法的内容，该方法检查缓存，然后才进入数据库。对于按ID获取查询确实如此，但是缓存也可以应用于其他SELECT查询-您只需将查询用作键，并将查询结果用作值。对于更新，它将类似地更新数据库和缓存。

某些框架提供了开箱即用的这些抽象-像Hibernate这样的ORM拥有所谓的缓存提供程序，因此您只需添加一个配置选项，说“我要使用（第二级）缓存”，然后您的ORM操作会自动咨询已配置的缓存提供程序在访问数据库之前。 Spring具有@Cacheable批注，该批注可以使用其参数作为键来缓存方法调用。其他框架和语言通常也有类似的东西。

重要的旁注–您可能需要预加载缓存。在群集的全新启动上（例如，在以蓝绿色部署方案进行新部署 /崩溃/网络故障等之后），系统填充缓存可能会变慢。因此，您可能在启动时运行了一个批处理作业，以从数据库中获取一些数据并将其放入缓存中。

听起来很简单，这很好–基本设置涵盖了大多数情况。实际上，调整缓存配置要复杂一些。即使您设法设置集群（例如在AWS中可能会遇到挑战），您的缓存策略也可能并非一帆风顺。您必须回答几个可能很重要的问题–您希望缓存条目保留多少？您需要多大的缓存空间？元素应如何过期（缓存逐出策略）–最近使用最少，最不频繁使用，先进先出？

这些选项通常听起来是任意的。通常您会使用默认值，而不必理会。但是您必须经常关注缓存统计信息，进行性能测试，度量和调整。有时，单个配置选项会产生很大的影响。

测量方面的一个重要注意事项–您不一定要缓存所有内容。您可以以这种方式开始，但是事实证明，对于某些类型的条目，实际上最好不要缓存。通常，这些是经常更新且读取的频率不高的文件，因此，使用它们不断更新缓存是不可行的开销。所以–测量，调整，重复。

分布式缓存是Web应用程序中几乎必不可少的组件。但是，我已经就给定系统如何非常庞大且需要大量硬件（其中所有数据都适合笔记本电脑的内存）进行了无数讨论。因此，令我惊讶的是，事实证明这还不是一个众所周知的概念。我希望我对该概念和各种选择进行了简短但足够的概述。