对于像应用中多个生产者需要并发发送一些日志信息给远程存储服务器,这些日志信息用于dubbo的调用链分析。
一种方案是生产者线程将要发送的日志消息存储到队列当中,然后由另一个本地消费线程从队列中获取要发送的日志消息,发送到远程存储服务器。
这种业务场景要求要发送的日志消息不影响正常业务的性能,其次允许这种日志消息发送失败。
而由于发送者与消费者的并发,因此需要设计一个并发队列,即要性能高,又要保证数据不重复消费。
这里使用无锁队列来实现。
无锁队列简单原理:
数据结构是一个数组,设计为一个环形数组。有一个读指针及写指针。读指针及写指针分别指向当前要读取或要写入的数组下标。每次读完当前指向位置的数据后,读指针加1。写完一个数据后,写指针加1.
这里会有几个细节需要考虑:
1,多个生产者写入时,获取写入指针时,如何保证并发问题,导致并发写入被覆盖问题?
2. 多个消费者消息时,如何保证并发问题,如重复消费?
3. 消费者如何判断有消息可以消费?
4.如果生产者能力远远大于消费者能力,即如果发生生产者写指针下标追上消费者读指针下标时,如何处理?
1和2两个问题是通过cas来保证并发问题。
问题3是通过条件,当前写指针大于读指针就表明可以写入。
问题4,如果写指针追上读指针,则说明消费者能力远远不够,对于此种情况,在日志业务中,这个写操作是失败的。发生这种情况,可以通过样本采样来减少日志发送量,其次适当扩大无锁队列。
<