性能优化：关于缓存的一些思考

利用缓存做性能优化的案例非常多，从基础的操作系统到数据库、分布式缓存、本地缓存等。它们表现形式各异，却有着共同的朴素的本质：弥补CPU的高算力和IO的慢读写之间巨大的鸿沟。

和架构选型类似，每引入一个组件，都会导致复杂度的上升。以缓存为例，它带来性能提升的同时，也带来一些问题，需要开发者设计和权衡。

本文的思维脉络如下：

一 缓存和多级缓存

1 缓存的引入

在初期业务量小的时候，数据库能承担读写压力，应用可以直接和DB交互，架构简单且强壮。

经过一段时间发展后，业务量迎来了大规模增长，此时DB查询压力和耗时都在增长。此时引入分布式缓存，在减少DB压力的同时，还提供了更高的QPS。

再往后发展，分布式缓存也成为了瓶颈，高频的QPS是一笔负担;另外缓存驱逐以及网络抖动会影响系统的稳定性，此时引入本地缓存，可以减轻分布式缓存的压力，并减少网络以及序列化开销。

2 读写的性能提升

缓存通过减少IO操作来获得读写的性能提升。有一个表格，可以看见磁盘、网络的IO操作耗时，远高于内存存取。

• 读优化：当请求命中缓存后，可直接返回，从而略过IO读取，减小读的成本。
• 写优化：将写操作在缓冲中合并，让IO设备可以批量处理，减小写的成本。

缓存带来的QPS、RT提升比较直观，不补充介绍。

3 缓存Miss

缓存Miss是必然会面对的问题，缓存需保证在有限的容量下ÿ