CUDA编程 基础与实践 学习笔记（九）

原子操作
atomicAdd(&addr, val)这个在SNN部分反向传播的cuda代码里面见过，原子操作也在数据库课程里面学过，是不受其他事务影响的“读-改-写”操作。线程的执行不能保证特定顺序，因此需要原子操作来保证变量读写不受影响。



所有的原子操作。第一个地址既可以是全局内存，也可以是共享内存。都是device函数，只能在核函数中使用。