ARM linux 的原子操作分析
linux ARM的原子操作源文件位于 linux/arch/arm/include/asm/atomic.h
linux源码宏展开
最开始由如下宏定义,linux的各种宏太复杂了,分析起来有点费劲
#define ATOMIC_OP(op, c_op, asm_op) \ <-------------------|
static inline void atomic_##op(int i, atomic_t *v) \ |
{ \ |
unsigned long tmp; \ |
int result; \ |
\ |
prefetchw(&v->counter); \ |
__asm__ __volatile__("@ atomic_" #op "\n" \ |
"1: ldrex %0, [%3]\n" \ |
" " #asm_op " %0, %0, %4\n" \ |
" strex %1, %0, [%3]\n" \ |
" teq %1, #0\n" \ |
" bne 1b" \ |
: "=&r" (result), "=&r" (tmp), "+Qo" (v->counter) \ |
: "r" (&v->counter), "Ir" (i) \ |
: "cc"); \ |
} |
|
#define ATOMIC_OPS(op, c_op, asm_op) \ <-----| |
ATOMIC_OP(op, c_op, asm_op) \ |--------------|
ATOMIC_OP_RETURN(op, c_op, asm_op) |
|
ATOMIC_OPS(add, +=, add) -----------------------------------------
最终最开始的函数static inline void atomic_##op(int i, atomic_t *v)
,替换op为add, asm_op为add被声明成:
static inline void atomic_add(int i, atomic_t *v)
{
unsigned long tmp;
int result;
prefetchw(&v->counter);
__asm__ __volatile__("@ atomic_" #op "\n"
"1: ldrex %0, [%3]\n"
" add %0, %0, %4\n"
" strex %1, %0, [%3]\n"
" teq %1, #0\n"
" bne 1b"
: "=&r" (result), "=&r" (tmp), "+Qo" (v->counter)
: "r" (&v->counter), "Ir" (i)
: "cc");
}
又根据GCC内联汇编的替换规则,result,tmp,v->counter,&v->counter,i按照出现的顺序分别替换%0-%4,操作数被逐个替换:
static inline void atomic_add(int i, atomic_t *v)
{
unsigned long tmp;
int result;
prefetchw(&v->counter);
__asm__ __volatile__(
"1: ldrex result, [&v->counter]\n"
" add result, result, i\n"
" strex tmp, result, [&v->counter]\n"
" teq tmp, #0\n"
" bne 1b"
: "=&r" (result), "=&r" (tmp), "+Qo" (v->counter)
: "r" (&v->counter), "Ir" (i)
: "cc");
}
单独提取汇编部分
1:
ldrex result, [&v->counter]
add result, result, i
strex tmp, result, [&v->counter]
teq tmp, #0
bne 1b
翻译成C语言:
do{
result = v->counter; //ldrex result, [&v->counter]
result = result + i; //add result, result, i
tmp = (v->counter = result赋值失败?1:0); //strex tmp, result, [&v->counter]
}while(tmp != 0); //teq tmp, #0;bne 1b
比较怪的一句是tmp = (v->counter = result赋值失败?1:0);
,当然这不是合法的C语句,但是它表达的就是这个意思。它会检测v->counter = result
这句赋值操作,如果成功赋值则返回0给tmp,否则返回1。这里重点是要理解ldrex
和strex
这两条汇编是什么意思。
LDREX和STREX指令
从ARMv6架构开始,ARM处理器提供了Exclusive accesses同步原语,用于对内存访问的同步, 包含两条指令:
LDREX Rd [Rs]
STREX R0 Rd [Rs]
LDREX和STREX指令,将对一个内存地址的原子操作拆分成两个步骤,一起完成对内存的原子操作。可以理解为执行LDREX Rd [Rs]
指令会标记对[Rs]这个内存地址的访问是独占状态(exclusive state)。而执行STREX R0 Rd [Rs]
指令会让先前处于独占状态的内存地址[Rs]转变为正常状态,并且设置R0为0。若执行STREX R0 Rd [Rs]
指令时,内存地址[Rs]是正常状态,则指令的存储动作会失败,并且R0置为1。
ARM内部为了实现这个功能,还有不少复杂的情况要处理。在ARM系统中,内存有两种不同且对立的属性,即共享(Shareable)和非共享(Non-shareable)。共享意味着该段内存可以被系统中不同处理器访问到,这些处理器可以是同构的也可以是异构的。而非共享,则相反,意味着该段内存只能被系统中的一个处理器所访问到,对别的处理器来说不可见。
为了实现独占访问,ARM系统中还特别提供了所谓独占监视器(Exclusive Monitor)的东西,其结构大致如下:
这里面包含两种类型的monitor,局部和全局的。对于非共享的内存,仅关心local monitor即可,而共享的内存则要local也global都需要关心。
每个monitor是一个状态机,包含exclusive态和open态。LDREX操作会让对应的monitor变为exclusive态,而如果monitor现在为exclusive态,这时执行STREX操作会让monitor变为open态,并且存储内存这个动作执行成功,否则monitor状态不变,存储行为也失败。
UP或SMP系统中非CPU间共享的的内存原子操作
这个情况就是单个CPU上线程和线程间,或者线程和中断间的独占访问。这时关注local monitor即可。又根据文档:ARM同步原语提到:
Resetting monitors
When an operating system performs a context switch, it must reset the local monitor to open state, to prevent false positives occurring. ARMv6K introduced the Clear-Exclusive instruction, CLREX, to reset the local monitor.
在上下文切换是会通过CLREX指令将monitor复位为open态。两个线程切换执行时:
T1: Thread A调用LDREX
,导致Local Monitor变为exclusive态。
T2:系统调度触发,中断里面会调用CLREX
复位Local Monitor为open态。
T3:Thread B调用LDREX
,导致Local Monitor变为exclusive态。
T4:Thread B调用STREX
,根据状态机的切换图,Local Monitor前一状态为exclusive,则STREX
存储操作成功,并且Monitor变为open态。
T5:系统调度触发,继续复位Monitor为open态。
T6:Thead A调用STREX
,根据状态机,open态时STREX
动作会失败,存储操作失败,状态不变。
CPU线程和中断间的原子操作
T1: Thread A调用LDREX
,导致Local Monitor变为exclusive态。
T2:中断触发。
T3:中断调用LDREX
,exclusive态维持不变。
T4:中断调用STREX
,根据状态机的切换图,Local Monitor前一状态为exclusive,则STREX
存储操作成功,并且Monitor变为open态。
T5:中断返回。Thead A调用STREX
,根据状态机,open态时STREX
动作会失败,存储操作失败,状态不变。
SMP CPU间的原子操作
由于是CPU间的原子操作,那么本CPUSTREX
能否成功既要关注这个CPU的local monitor还要关注global monitor。分析上面的过程:
T1:CPU0执行LDREX
,它的local monitor由open变为exclusive态,global monitor同样由open变为exclusive态。
T2:CPU1执行LDREX
,它的local monitor由open变为exclusive态,global monitor维持exclusive态。
T3:CPU0执行STREX
,它的local/global monitor均是由exclusive态变为open态,则这次store操作成功。
T5:CPU1执行STREX
,它的local monitor由exclusive态变为open态,这是没问题的,但是它的global monitor是由open变为open态,store操作会失败,则这次STREX
的存储动作未成功。
还有其他许多复杂的可能,也可以通过ldrex/strex指令的机制分析出来。
参考资料
http://blog.chinaunix.net/uid-20543672-id-3262230.html
https://blog.csdn.net/juS3Ve/article/details/81784688
http://infocenter.arm.com/help/topic/com.arm.doc.dht0008a/DHT0008A_arm_synchronization_primitives.pdf
https://zhuanlan.zhihu.com/p/89299392
http://blog.chinaaet.com/weiqi7777/p/5100060359