缓存--伪共享问题


接上一篇 CPU缓存一致性问题

什么是伪共享

伪共享问题指两个线程A和B,他们俩写入同一个cache block的不同变量时,会导致另一个cpu核心的缓存失效的问题。我们来详细看一下伪共享问题到底是怎么产生的:
假设A线程要访问变量A,B线程要访问变量B,并且变量A和B会被分配到同一个cache line中:
在这里插入图片描述
接下来,A线程要读取变量A。此时A、B所在的cache line被加载到核心1的cache中,并且状态被标记为独占
在这里插入图片描述
此时,B线程要访问变量B,那么这个cache line被加载到核心2的cache中。并且两个核心的cache line都标记为共享
在这里插入图片描述
接下来,问题来了。假设A线程修改了变量A,为了保证数据一致性,就需要把核心2的cache line标记为失效:
在这里插入图片描述
这样一来,如果B要读取变量B的值,就需要A先将cache line写回内存,然后B再从内存中读取。也就是说,明明B变量自始至终都没有改变过,但是在访问时却需要重新从内存读取。如果A、B两个线程轮流修改变量A、B的话,伪共享问题会严重影响性能。

解决伪共享的办法

1.字节填充

对上面这种情况,如果A、B不被分配在同一个cache line中自然就不存在伪共享问题了。
如何让A、B分配在不同cache line中呢?我们可以通过这个命令查看cache line的大小

more /sys/devices/system/cpu/cpu1/cache/index0/coherency_line_size 

在这里插入图片描述
可以看到cache line大小为64字节。接下来,我们来对比一下使用字节填充后程序性能会提高多少。

不使用字节填充:
public class Main {
   
    public static void main(String[] args) throws InterruptedException {
   
        Pair pair=new Pair();

        Thread t1 = 
  • 1
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
伪共享(False Sharing)是指多个线程同时访问不同但位于同一缓存行的变量时,由于缓存一致性协议的限制,会导致缓存行多次在不同的 CPU 之间进行传递,从而降低了程序的性能。 举一个简单的例子:假设两个线程同时访问同一缓存行中的不同变量,如下所示: ``` struct CacheLine { int x; int y; } cacheLine; // 线程 1 void thread1() { while (true) { cacheLine.x++; } } // 线程 2 void thread2() { while (true) { cacheLine.y++; } } ``` 在这个例子中,由于 `x` 和 `y` 位于同一缓存行中,所以在多个线程同时访问它们时,会导致缓存行多次在不同的 CPU 之间进行传递,从而降低了程序的性能。 为了避免伪共享,可以采用以下两种方法: 1. 添加填充:为了让不同的变量位于不同的缓存行中,可以在变量之间添加一些填充,从而让它们位于不同的缓存行中,如下所示: ``` struct CacheLine { int x; char padding[60]; // 填充 int y; } cacheLine; ``` 2. 使用 `std::atomic`:使用 `std::atomic` 可以确保多线程对变量的访问是原子的,从而避免了伪共享问题,如下所示: ``` struct CacheLine { std::atomic<int> x; std::atomic<int> y; } cacheLine; ``` 以上两种方法都可以有效地避免伪共享问题,提高程序的性能。但是,需要注意的是,添加填充会增加内存的消耗,而使用 `std::atomic` 会增加程序的开销。因此,需要根据具体的场景选择合适的方法。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值