groupcache 一 sigleflight

缓存击穿

百度给的定义:

缓存击穿是指热点key在某个时间点过期的时候，而恰好在这个时间点对这个Key有大量的并发请求过来，从而大量的请求打到db。

在某个时间点缓存大量过期，导致原来应该命中的请求未命中，直接请求数据库，然后数据库就识相的挂掉了。

解决方法有很多，在学groupcache源码中发现了一个有趣的库--sigleflight,groupcache获取缓存的方式大概是: 本地cache-其他节点cache-数据源。这样的话会产生一种情况就是许多请求的是同一个数据，sigleflight就是为了防止这种情况，它会把所有的同一目标请求集中发送一次.

源码

两个结构体

//实际请求函数的封装
// call is an in-flight or completed Do call
type call struct {
    wg  sync.WaitGroup
    //
    val interface{}
    err error
}
//管理所有对不同key的请求映射
// Group represents a class of work and forms a namespace in which
// units of work can be executed with duplicate suppression.
type Group struct {
    mu sync.Mutex       // protects m
    //管理现存的调用的映射
    m  map[string]*call // lazily initialized
}

接下来就是执行请求的函数，也是保证只请求一次的关键

//fn 是实际请求的函数,返回结果和错误(interface{}, error)
// Do executes and returns the results of the given function, making
// sure that only one execution is in-flight for a given key at a
// time. If a duplicate comes in, the duplicate caller waits for the
// original to complete and receives the same results.
func (g *Group) Do(key string, fn func() (interface{}, error)) (interface{}, error) {
    //map会改变，所以上锁
    g.mu.Lock()
    if g.m == nil {
        g.m = make(map[string]*call)
    }
    //请求已经存在,放锁等待
    if c, ok := g.m[key]; ok {
        g.mu.Unlock()
        c.wg.Wait()
        return c.val, c.err
    }
    //不存在 新建一个存进去
    c := new(call)
    //只需要在这里加一就可
    c.wg.Add(1)
    g.m[key] = c
    g.mu.Unlock()
    
    //执行完毕，通知等待的请求
    c.val, c.err = fn()
    c.wg.Done()
    
    //请求完了删除map映射
    g.mu.Lock()
    delete(g.m, key)
    g.mu.Unlock()

    return c.val, c.err
}