CDN
CDN用于静态资源(包括HTML、CSS、JS、图片等)
- 静态资源更新策略:路径中带资源版本号: https://xxx.xx/xx/{version}/xxx.js
-
版本上线前刷新CDN,注意cdn最终地址是否和代码中一致。
内存缓存
用于存放热点数据,比如配置、预置热点数据,如果是可变数据,在对一致性要求不高时使用。
- 定时任务更新,对于实时性要求不高可采用
- 订阅通知更新,实时性要求高可采用
- 需要评估内存资源消耗,和淘汰策略。常用LRU、配合caffeine可以用LFU。
Redis
《Cache-Aside pattern》中的缓存使用方法:
-
失效:应用程序先从cache取数据,没有得到,则从数据库中取数据,成功后,放到缓存中。
-
命中:应用程序从cache中取数据,取到后返回。
-
更新:先把数据存到数据库中,成功后,再让缓存失效。
先更新数据、再删缓存的一致性比先删缓存、再更新的要好。但是也无法完全避免一致性问题:
(1)缓存刚好失效
(2)请求A查询数据库,得一个旧值
(3)请求B将新值写入数据库
(4)请求B删除缓存
(5)请求A将查到的旧值写入缓存
但是这种场景出现的概率很低,因为往往更新数据库要比查询数据库耗时更长。如果要高一致性,可以使用mq二次重载缓存。
- 避免单key热点数据,单key落在redis 单节点上,查询性能大概小几万qps。可以使用副本key或本地缓存应对。
- 避免大key,会导致集群内存使用率不均匀,发生淘汰。大key在高qps下会占用很大带宽,一般算单宽占用按10*qps*key size评估,删除等操作性能也不好。(尤其是hash这个数据结构,谨慎使用,hgetall超过1000条时性能非常差)
- 防止缓存穿透打到数据库,空值增加缓存,需要评估容量
- 防止缓存雪崩同时失效,缓存时间增加随机值。
- 缓存失效瞬间,如果有并发进入,会一瞬间大量打到数据库:锁同步加载、或定时任务刷新避免失效。
- key命名前缀要简短,如果模型变化,需要考虑在key中引入版本号、重新加载性能问题。
数据模型变化:
新老版本缓存模型变化,如果不换key,需要考虑兼容性,是否会导致序列号反序列化不兼容。
如果换key,需要考虑新老并行时的容量的翻倍。