本文来自网易云社区
作者：刘魏威
引言
从数据模型来看，种草社区 = 内容 + 关系 + 计数。在业务上，具体展开就是，
内容：即提问、回答、心得、用户、消息
关系：即提问->回答, 用户->回答, 用户->消息
计数：即点赞数、粉丝数、关注数、回答数等各种计数
如何高效处理这几个主要元素，决定了社区系统的用户体验和服务容量。
最初项目为了尽快上线，这些数据都是直接到db里查询，前期访问量小，没什么关系。但到了后面，一旦访问量放大，db的资源瓶颈就会凸显。后来的压测结果也的确反应了这一点，在访问量稍微增长，数据库qps上升时，ddb的响应时间明显变长，平均响应时间有40~50ms。因此急需对这些数据进行缓存，以抵挡直接访问db的大部分流量。
实现这些数据的缓存做法很简单，但若是要把他做好，且各个业务模型能高效率的接入使用，则需要好好考量下。
内容缓存
内容缓存，这里特指DAO缓存，以数据库主键为查询key，数据库行记录为value。
DAO缓存的实现有一些开源框架可以直接拿来用，如spring->缓存key的设计
缓存key需要包含哪些元素？先来列举下之前遇到过的问题：
线上环境和预发环境共用一套缓存，测试时修改预发布环境缓存会有风险
缓存Value变更，比如缓存对象增加一个业务相关的字段，新老缓存可能同时存在，无法做到无缝发布，对业务无影响
key前缀分布较随意，在代码里没有一个集中管理的地方，不同的业务有可能会冲突
批量删除或迁移缓存
解决上述问题，key就需要包含：
环境信息，隔离环境，防止相互影响
版本，增加数据库字段时，可以修改版本，使业务读不到缓存从而强制刷新缓存
集中的前缀管理，简单实现就是一个枚举常量，所有业务DAO前缀定义放在一起
缓存未命中如何处理
缓存miss，需要知道是数据真的不存在，还是仅仅缓存过期了。有些黑客可能会恶意构造数据，导致缓存无限击穿。所以需要设计一个标识不存在的对象，从缓存里取出数据时做下判断，如果是特定的空对象，则不需要再去db获取了。
缓存未命中时读数据库，如果是单条数据，则同步设置到缓存，如果是多条，则异步设置到缓存。
关系缓存
关系数据通常用于列表场景，批量取符合条件的数据，然后按指定字段排序，分页展示。
这块比较难处理的就是过滤+排序+分页。业务体量小时可以不使用缓存，建立专门的索引表，把需要作为过滤条件的字段包含到索引表里，利用数据库去处理排序、过滤。然而访问量大了之后，数据库就不适合干这个事情了。为了解决这类问题，种草社区实现了一套基于redis sorted set的通用关系缓存API。大致的接口如下：
/** * 以索引为边界批量获取有序集合中的数据 * * @param keys 键名列表 * @param begin 偏移量开始 * @param end 偏移量结束 * @param orderType 排序类型 * @param relationCacheFilter 过滤器 * @return */Map<K, Set<V>> multiGetByIndex(final List<K> keys, final long begin, final long end, final OrderType orderType, RelationCacheFilter<V> relationCacheFilter); /** * 以分数为边界批量获取有序集合中的数据 * * @param keys 键名列表 * @param min 最小分数 * @param max 最大分数 * @param offset 偏移量 * @param limit 条数 * @param orderType 排序类型 * @param relationCacheFilter 过滤器 * @return */Map<K, Set<V>> multiGetByScore(final List<K> keys, final double min, final double max, final long offset, final long limit, final OrderType orderType, RelationCacheFilter<V> relationCacheFilter); /** * 构建缓存key * * @param k 键名 * @return 缓存key */String buildCacheKey(K k);/** * 返回分区 * * @return */String getRegion();/** * 获取过期时间，单位秒 */Long getExpireSeconds();/** * 获取全量初始化任务线程 * * @return */RelationCacheInitRunnable getCacheInitRunnable(K k);
实现要点：
Multiget通过redis pipeline实现，节省网络开销，但使用时需要注意数量限制，毕竟是批量操作
数据过滤，业务方提供一个回调函数，回调函数里可实现复杂的业务逻辑
数据分页，提供两种方式，基于偏移量和基于score分值，以满足比较常见的场景，如取前n条心得，取时间段范围内的limit条数据。
缓存未命中，分两种情况处理：批量获取，异步初始化；单条获取，同步初始化；业务方提供缓存初始化线程。单条处理同步初始化是考虑到如个人主页可能会刷不到数据，体验较差。而批量获取异步初始化，某一个用户的内容没拉取到，关系不大。真是比较重要的场景，可考虑定时刷缓存。
计数缓存
计数主要面临的问题有几点：
高频率的读写，如何解决性能问题
有限的内存存储，缓存过期初始化导致db压力大问题
高并发更新及系统故障带来的数据一致性问题
种草社区的计数缓存基于redis，数据结构上主要用到了：
普通的string/value，存储单个计数
hash表，存储业务上有关联的一组计数，便于批量读取
大致的数据流如下图：
之前专门写过一遍文章，详细可点击此处查看。
网易云大礼包：https://www.163yun.com/gift
本文来自网易云社区，经作者刘魏威授权发布
相关文章：
【推荐】 演讲实录！谷得技术总监陈镇洪教你打造游戏研发流水线
【推荐】 【RabbitMQ学习记录】-消息队列存储机制源码分析
【推荐】 知物由学 | 这些企业大佬如何看待2018年的安全形势？
网友评论