原子操作实现原理
概念
原子(atomic)本意是"不能被进一步分割的最小粒子",而原子操作(atomic operation)意为"不可被中断的一个或一系列操作"。
常用CPU术语
- 缓存行(cache line):CPU高速缓存中可以分配的最小存储单位。缓存行大小根据架构不同而不同,常见的有64Byte和32Byte,CPU填充缓存行时以缓存行为单位进行,每一次都读取数据所在的整个缓存行,即使相邻的数据没有被用到也会被读到CPU缓存中。
- 比较并交换(Compare and Swap):CAS操作需要输入两个数值,一个旧值(期望操作前的值)和一个新值,在操作期间先比较旧值有没有发生变化,如果没有发生变化,才交换成新值,如果发生了变化则不交换。
- CPU流水线(CPU pipeline):CPU流水线的工作方式就像工业生产线上的装配流水线,在CPU中5-6个不同功能的电路单元组成一条指令处理流水线(乱序执行),然后将一条X86指令分成5-6步后再由这些电路单元分别执行,这样就能实现一个CPU时钟周期完成一条指令,因此提高CPU的运算速度。
- 内存顺序冲突(Memory order violation):内存顺序冲突一般是由假共享引起的,假共享是指多个CPU同时修改同一个缓存行的不同部分而引起其中一个CPU的操作无效,当出现这个内存顺序冲突时,CPU必须清空流水线。
处理器实现原子操作
32位IA-32处理器使用基于对缓存或总线加锁的方式来实现多处理器之间的原子操作。当一个处理器读取1个字节时,其它处理器不能访问这个字节的内存地址。Pentium6和最新的处理器能自动保证单处理器对同一个缓存行里进行16/32/64位的操作是原子的,但是复杂的内存操作处理器是不能自动保证其原子性的,比如跨总线宽度、跨多个缓存行和跨页表的访问。但是,处理器提供总线锁定和缓存锁定两个机制来保证复杂内存操作的原子性。
总线锁
当多个处理器同时对共享变量进行读改写操作(如:i++),那么共享变量就会被多个处理器同时进行操作,这样读改写操作就不是原子的,操作完之后共享变量的值会和期望的不一致。
处理器会使用总线锁来解决这个问题,所谓的总线锁就是使用处理器提供的一个LOCK #信号,当一个处理器在总线上输出此信号时,其它处理器的请求将被阻塞住,那么该处理器可以独占共享内存。
缓存锁
由于总线锁把CPU和内存之间的通信锁住了,在这期间内其它处理器不能操作其它内存地址的数据,所以总线锁定的开销比较大,在一定场合下使用缓存锁代替总线锁来进行优化。频繁使用的内存会缓存在处理器的L1、L2和L3高速缓存里,那么原子操作就可以直接在处理器内部缓存中进行,并不需要声明总线锁。
所谓缓存锁定是指锁定的内存区域如果被缓存在处理器的缓存行中,并且在Lock操作期间被锁定,那么当它执行锁操作回写到时,处理器不在总线上声言LOCK #信号,而是修改内部的内存地址,并允许它的缓存一致性机制来保证操作的原子性,因为缓存一致性机制会阻止同时修改由两个以上处理器缓存的内存区域数据,当其它处理器回写到已被锁定的缓存行的数据时,会使缓存行无效。
- 当操作的数据不能被缓存在处理器内部,或操作的数据跨多个缓存行(和缓存行字节宽有关)时,则处理器会调用总线锁定,不会使用缓存锁定。
- 有些处理器不支持缓存锁定。
Java实现原子操作
CAS实现原子操作
在
Java中
可以通过锁和循环CAS的方式来实现原子操作。JVM
中的CAS
操作正是利用了处理器提供的CMPXCHG指令实现的。自旋CAS
实现的基本思路就是循环进行CAS操作直到成功为止,示例代码如下所示:
private AtomicInteger atomicInteger = new AtomicInteger(0);
private void safeCount() {
for(;;) {
int i = atomicInteger.get();
// i : 旧值,++i:新值
boolean success = atomicInteger.compareAndSet(i, ++i);
// 失败了继续自旋
if (success ) {
break;
}
}
}
三大问题
- ABA问题:如果一个值原来是A,变成了B,又变成了A,那么使用CAS检查时会发现它的值没有发生变化,但是实际上却是发生变化了的。
ABA
问题的解决思路就是使用版本号,在变量前面追加上版本号,每次变量更新的时候把版本号加1,那么A->B->A就变成了1A->2B->3A。从Java1.5开始,JDK
的Atomic
包里提供了一个类AtomicStampedReference
来解决ABA
问题,该类的compareAndSet
方法的作用就是首先检查当前引用是否等于预期引用,并且检查当前标志是否等于预期标志,如果全部相等,则以原子方式将该引用和该标志的值设置为给定的更新值。
- 循环时间长开销大:自旋
CAS
如果长时间不成功,会给CPU
带来非常大的执行开销。JVM
支持处理器提供的pause
指令会给效率带来一定的提升,pause
指令有两个作用:第一,延迟流水线执行指令,使CPU
不会消耗过多的执行资源。延迟时间取决于具体实现版本,且在一些处理器上延迟时间是零;第二,它可以避免在退出循环的时候因内存顺序冲突而引起CPU
流水线被清空(CPU Pipeline Flush
),从而提高CPU
的执行效率。
- 只能保证一个共享变量的原子操作:从
Java1.5
开始,JDK
提供了AtomicReference
类来保证引用对象之间的原子性,就可以把多个变量放在一个对象里来进行CAS
操作。
锁机制实现原子操作
锁机制保证了只有获得锁的线程才能够操作锁定的内存区域。除了偏向锁,JVM实现锁的方式都用了循环CAS,即当一个线程想进入同步块的时候使用循环
CAS
的方式来获取锁,当它退出同步块的时候使用循环CAS
释放锁。
网友评论