在上一个迭代周期中,我们发现了一个问题:同时大量请求请求同一个key,那会同一时间会发生多次网络调用,对于性能有较大影响。对于同时大量请求请求同一个key这种情况,我们应该只调用一次。这个过程中主要出现在本地没有查询到结果后的load与loadLocally这个过程中。为此,我们对调用逻辑进行封装,使用singleflight结构对这一过程进行支持。singleflight结构如下所示:
那么封装的调用过程是怎样的呢?可以参考下面这一流程图 :
有了这个Do对调用进行封装,就可保证并发调用同一key时,只发起一次请求,我们可以将调用远程节点的过程与本机调用降级方法的这一过程一并封装进Do方法的函数型变量中,具体代码如下:
func (g *Group) load(key string) (value ByteView, err error) {
// each key is only fetched once (either locally or remotely)
// regardless of the number of concurrent callers.
viewi, err := g.loader.Do(key, func() (interface{}, error) {
if g.peers != nil {
if peer, ok := g.peers.PickPeer(key); ok {
if value, err = g.getFromPeer(peer, key); err == nil {
return value, nil
}
log.Println("[WindCache] Failed to get from peer", err)
}
}
return g.getLocally(key)
})
if err == nil {
return viewi.(ByteView), nil
}
return
}
目前主要wind- cache对应的结构大致如下,可以参考: