提高系统性能的2个常用手段---缓存和异步

缓存

1. 缓存 
   1.1 缓存刷新机制，缓存刷新是指什么时候把数据库中的数据加载到缓存 
   （1） 定期刷新； 
   （2） 缓存命中失败时刷新； 
   1.2 在有缓存时的数据写入方式： 
   （1） 同步写入，即缓存和数据库同时被写入，即在应用层进行双写操作，这种方式可以有效保证缓存和DB中数据的一致性，由于这种方式即要更新缓存同时还要更改数据库，其访问效率相对较低，适合读多写少的场景； 
   （2） 异步更新机制，在写操作时只写入缓存便返回，写数据库的操作交个另外一个异步操作来完成，这样可以加快用户请求的处理速度，进而增强整个系统的并发量，但是这种方式会造成在一定时间内缓存和数据库中的数据不一致； 
   一般情况下，同时保证数据写入缓存和数据库的事务性是非常困难的，因为这时涉及到写入数据到两种系统中，而且一般缓存不提供回滚机制，如果系统的要求不严格，则可采用一些妥协措施，以提升系统的整体访问效率。 
   1.3 缓存使用的几种方式： 
   （1） 全量缓存，是指所有的数据在缓存中都有，它不适合数据量较大、冷热访问极度不均匀的情况，这些情况下要么缓存放不下这么多数据，要么缓存中加载的都是大量不用的数据，造成缓存浪费，同时也会影响访问效率；它适合数据量小并且全部数据都会经常被访问的场景；例如，我们有一个业务是获取系统中各子服务的地址，在每个客户端上线时第一步操作就是获取各子服务的地址，然后才能进行真正的业务操作，这些服务地址信息数据量不大，但是全部都会经常被访问，因此它们需要被全量缓存，为保障缓存和数据库的一致性，我们采用双写策略，更新服务地址时要同时更新缓存和数据库； 
   （2） 只缓存热点数据，这种方式适合数据量大、冷热访问不均匀的场景，该方式涉及到数据何时被加载、何时被逐出的问题；加载时可以采用两种方式：增量方式，服务启动时不向缓存中加载任何数据，等访问时在缓存找不到再去数据库中取并将取出的结果加载到缓存中，这样随着时间的推移，热点数据将被加载到缓存中；另一种方式是减量方式，服务启动时加载全部的数据，一定时间内不被使用的数据将会被逐出，随着时间的推移冷数据都被逐出，而留下来的都是热点数据；例如：我们为一个IM系统设计账号服务子系统时，就采用只缓存热点数据的方式，并且数据加载方式采用增量方式；只缓存热点数据的方式要特别注意缓存的量，如果缓存中没有存下足够的热点数据，那么将会有一定量的请求会穿透缓存，将压力施加到数据库上； 
   1.4 架构设计时的三个层次的缓存 
   （1）对象缓存，例如Redis、Memched等，它以Key-Value的方式帮助我们缓存一些对象数据，Redis提供的Value类型更多，使用时更加方便；但是这些缓存通常不提供数据库的事务性&