gitbook/Java并发编程实战/docs/90515.md
2022-09-03 22:05:03 +08:00

14 KiB
Raw Permalink Blame History

21 | 原子类:无锁工具类的典范

前面我们多次提到一个累加器的例子示例代码如下。在这个例子中add10K()这个方法不是线程安全的问题就出在变量count的可见性和count+=1的原子性上。可见性问题可以用volatile来解决而原子性问题我们前面一直都是采用的互斥锁方案。
public class Test {
  long count = 0;
  void add10K() {
    int idx = 0;
    while(idx++ < 10000) {
      count += 1;
    }
  }
}

其实对于简单的原子性问题,还有一种无锁方案。Java SDK并发包将这种无锁方案封装提炼之后实现了一系列的原子类。不过在深入介绍原子类的实现之前我们先看看如何利用原子类解决累加器问题这样你会对原子类有个初步的认识。

在下面的代码中我们将原来的long型变量count替换为了原子类AtomicLong原来的 count +=1 替换成了 count.getAndIncrement()仅需要这两处简单的改动就能使add10K()方法变成线程安全的,原子类的使用还是挺简单的。

public class Test {
  AtomicLong count = 
    new AtomicLong(0);
  void add10K() {
    int idx = 0;
    while(idx++ < 10000) {
      count.getAndIncrement();
    }
  }
}

无锁方案相对互斥锁方案,最大的好处就是性能。互斥锁方案为了保证互斥性,需要执行加锁、解锁操作,而加锁、解锁操作本身就消耗性能;同时拿不到锁的线程还会进入阻塞状态,进而触发线程切换,线程切换对性能的消耗也很大。 相比之下,无锁方案则完全没有加锁、解锁的性能消耗,同时还能保证互斥性,既解决了问题,又没有带来新的问题,可谓绝佳方案。那它是如何做到的呢?

无锁方案的实现原理

其实原子类性能高的秘密很简单硬件支持而已。CPU为了解决并发问题提供了CAS指令CAS全称是Compare And Swap即“比较并交换”。CAS指令包含3个参数共享变量的内存地址A、用于比较的值B和共享变量的新值C并且只有当内存中地址A处的值等于B时才能将内存中地址A处的值更新为新值C。作为一条CPU指令CAS指令本身是能够保证原子性的

你可以通过下面CAS指令的模拟代码来理解CAS的工作原理。在下面的模拟程序中有两个参数一个是期望值expect另一个是需要写入的新值newValue只有当目前count的值和期望值expect相等时才会将count更新为newValue

class SimulatedCAS{
  int count
  synchronized int cas(
    int expect, int newValue){
    // 读目前count的值
    int curValue = count;
    // 比较目前count值是否==期望值
    if(curValue == expect){
      // 如果是则更新count的值
      count = newValue;
    }
    // 返回写入前的值
    return curValue;
  }
}

你仔细地再次思考一下这句话,“只有当目前count的值和期望值expect相等时才会将count更新为newValue。”要怎么理解这句话呢?

对于前面提到的累加器的例子,count += 1 的一个核心问题是基于内存中count的当前值A计算出来的count+=1为A+1在将A+1写入内存的时候很可能此时内存中count已经被其他线程更新过了这样就会导致错误地覆盖其他线程写入的值如果你觉得理解起来还有困难建议你再重新看看《01 | 可见性、原子性和有序性问题并发编程Bug的源头》。也就是说只有当内存中count的值等于期望值A时才能将内存中count的值更新为计算结果A+1这不就是CAS的语义吗

使用CAS来解决并发问题一般都会伴随着自旋而所谓自旋其实就是循环尝试。例如实现一个线程安全的count += 1操作“CAS+自旋”的实现方案如下所示首先计算newValue = count+1如果cas(count,newValue)返回的值不等于count则意味着线程在执行完代码①处之后执行代码②处之前count的值被其他线程更新过。那此时该怎么处理呢可以采用自旋方案就像下面代码中展示的可以重新读count最新的值来计算newValue并尝试再次更新直到成功。

class SimulatedCAS{
  volatile int count;
  // 实现count+=1
  addOne(){
    do {
      newValue = count+1; //①
    }while(count !=
      cas(count,newValue) //②
  }
  // 模拟实现CAS仅用来帮助理解
  synchronized int cas(
    int expect, int newValue){
    // 读目前count的值
    int curValue = count;
    // 比较目前count值是否==期望值
    if(curValue == expect){
      // 如果是则更新count的值
      count= newValue;
    }
    // 返回写入前的值
    return curValue;
  }
}

通过上面的示例代码想必你已经发现了CAS这种无锁方案完全没有加锁、解锁操作即便两个线程完全同时执行addOne()方法,也不会有线程被阻塞,所以相对于互斥锁方案来说,性能好了很多。

但是在CAS方案中有一个问题可能会常被你忽略那就是ABA的问题。什么是ABA问题呢

前面我们提到“如果cas(count,newValue)返回的值不等于count意味着线程在执行完代码①处之后执行代码②处之前count的值被其他线程更新过那如果cas(count,newValue)返回的值等于count是否就能够认为count的值没有被其他线程更新过显然不是的假设count原本是A线程T1在执行完代码①处之后执行代码②处之前有可能count被线程T2更新成了B之后又被T3更新回了A这样线程T1虽然看到的一直是A但是其实已经被其他线程更新过了这就是ABA问题。

可能大多数情况下我们并不关心ABA问题例如数值的原子递增但也不能所有情况下都不关心例如原子化的更新对象很可能就需要关心ABA问题因为两个A虽然相等但是第二个A的属性可能已经发生变化了。所以在使用CAS方案的时候一定要先check一下。

看Java如何实现原子化的count += 1

在本文开始部分我们使用原子类AtomicLong的getAndIncrement()方法替代了count += 1从而实现了线程安全。原子类AtomicLong的getAndIncrement()方法内部就是基于CAS实现的下面我们来看看Java是如何使用CAS来实现原子化的count += 1的。

在Java 1.8版本中getAndIncrement()方法会转调unsafe.getAndAddLong()方法。这里this和valueOffset两个参数可以唯一确定共享变量的内存地址。

final long getAndIncrement() {
  return unsafe.getAndAddLong(
    this, valueOffset, 1L);
}

unsafe.getAndAddLong()方法的源码如下该方法首先会在内存中读取共享变量的值之后循环调用compareAndSwapLong()方法来尝试设置共享变量的值直到成功为止。compareAndSwapLong()是一个native方法只有当内存中共享变量的值等于expected时才会将共享变量的值更新为x并且返回true否则返回fasle。compareAndSwapLong的语义和CAS指令的语义的差别仅仅是返回值不同而已。

public final long getAndAddLong(
  Object o, long offset, long delta){
  long v;
  do {
    // 读取内存中的值
    v = getLongVolatile(o, offset);
  } while (!compareAndSwapLong(
      o, offset, v, v + delta));
  return v;
}
//原子性地将变量更新为x
//条件是内存中的值等于expected
//更新成功则返回true
native boolean compareAndSwapLong(
  Object o, long offset, 
  long expected,
  long x);

另外需要你注意的是getAndAddLong()方法的实现基本上就是CAS使用的经典范例。所以请你再次体会下面这段抽象后的代码片段它在很多无锁程序中经常出现。Java提供的原子类里面CAS一般被实现为compareAndSet()compareAndSet()的语义和CAS指令的语义的差别仅仅是返回值不同而已compareAndSet()里面如果更新成功则会返回true否则返回false。

do {
  // 获取当前值
  oldV = xxxx
  // 根据当前值计算新值
  newV = ...oldV...
}while(!compareAndSet(oldV,newV);

原子类概览

Java SDK并发包里提供的原子类内容很丰富我们可以将它们分为五个类别原子化的基本数据类型、原子化的对象引用类型、原子化数组、原子化对象属性更新器原子化的累加器。这五个类别提供的方法基本上是相似的,并且每个类别都有若干原子类,你可以通过下面的原子类组成概览图来获得一个全局的印象。下面我们详细解读这五个类别。

原子类组成概览图

1. 原子化的基本数据类型

相关实现有AtomicBoolean、AtomicInteger和AtomicLong提供的方法主要有以下这些详情你可以参考SDK的源代码都很简单这里就不详细介绍了。

getAndIncrement() //原子化i++
getAndDecrement() //原子化的i--
incrementAndGet() //原子化的++i
decrementAndGet() //原子化的--i
//当前值+=delta返回+=前的值
getAndAdd(delta) 
//当前值+=delta返回+=后的值
addAndGet(delta)
//CAS操作返回是否成功
compareAndSet(expect, update)
//以下四个方法
//新值可以通过传入func函数来计算
getAndUpdate(func)
updateAndGet(func)
getAndAccumulate(x,func)
accumulateAndGet(x,func)

2. 原子化的对象引用类型

相关实现有AtomicReference、AtomicStampedReference和AtomicMarkableReference利用它们可以实现对象引用的原子化更新。AtomicReference提供的方法和原子化的基本数据类型差不多这里不再赘述。不过需要注意的是对象引用的更新需要重点关注ABA问题AtomicStampedReference和AtomicMarkableReference这两个原子类可以解决ABA问题。

解决ABA问题的思路其实很简单增加一个版本号维度就可以了这个和我们在《18 | StampedLock有没有比读写锁更快的锁介绍的乐观锁机制很类似每次执行CAS操作附加再更新一个版本号只要保证版本号是递增的那么即便A变成B之后再变回A版本号也不会变回来版本号递增的。AtomicStampedReference实现的CAS方法就增加了版本号参数方法签名如下

boolean compareAndSet(
  V expectedReference,
  V newReference,
  int expectedStamp,
  int newStamp) 

AtomicMarkableReference的实现机制则更简单将版本号简化成了一个Boolean值方法签名如下

boolean compareAndSet(
  V expectedReference,
  V newReference,
  boolean expectedMark,
  boolean newMark)

3. 原子化数组

相关实现有AtomicIntegerArray、AtomicLongArray和AtomicReferenceArray利用这些原子类我们可以原子化地更新数组里面的每一个元素。这些类提供的方法和原子化的基本数据类型的区别仅仅是每个方法多了一个数组的索引参数所以这里也不再赘述了。

4. 原子化对象属性更新器

相关实现有AtomicIntegerFieldUpdater、AtomicLongFieldUpdater和AtomicReferenceFieldUpdater利用它们可以原子化地更新对象的属性这三个方法都是利用反射机制实现的创建更新器的方法如下

public static <U>
AtomicXXXFieldUpdater<U> 
newUpdater(Class<U> tclass, 
  String fieldName)

需要注意的是,对象属性必须是volatile类型的只有这样才能保证可见性如果对象属性不是volatile类型的newUpdater()方法会抛出IllegalArgumentException这个运行时异常。

你会发现newUpdater()的方法参数只有类的信息,没有对象的引用,而更新对象的属性一定需要对象的引用那这个参数是在哪里传入的呢是在原子操作的方法参数中传入的。例如compareAndSet()这个原子操作相比原子化的基本数据类型多了一个对象引用obj。原子化对象属性更新器相关的方法相比原子化的基本数据类型仅仅是多了对象引用参数所以这里也不再赘述了。

boolean compareAndSet(
  T obj, 
  int expect, 
  int update)

5. 原子化的累加器

DoubleAccumulator、DoubleAdder、LongAccumulator和LongAdder这四个类仅仅用来执行累加操作相比原子化的基本数据类型速度更快但是不支持compareAndSet()方法。如果你仅仅需要累加操作,使用原子化的累加器性能会更好。

总结

无锁方案相对于互斥锁方案优点非常多首先性能好其次是基本不会出现死锁问题但可能出现饥饿和活锁问题因为自旋会反复重试。Java提供的原子类大部分都实现了compareAndSet()方法基于compareAndSet()方法,你可以构建自己的无锁数据结构,但是建议你不要这样做,这个工作最好还是让大师们去完成,原因是无锁算法没你想象的那么简单。

Java提供的原子类能够解决一些简单的原子性问题但你可能会发现上面我们所有原子类的方法都是针对一个共享变量的如果你需要解决多个变量的原子性问题建议还是使用互斥锁方案。原子类虽好但使用要慎之又慎。

课后思考

下面的示例代码是合理库存的原子化实现仅实现了设置库存上限setUpper()方法你觉得setUpper()方法的实现是否正确呢?

public class SafeWM {
  class WMRange{
    final int upper;
    final int lower;
    WMRange(int upper,int lower){
    //省略构造函数实现
    }
  }
  final AtomicReference<WMRange>
    rf = new AtomicReference<>(
      new WMRange(0,0)
    );
  // 设置库存上限
  void setUpper(int v){
    WMRange nr;
    WMRange or = rf.get();
    do{
      // 检查参数合法性
      if(v < or.lower){
        throw new IllegalArgumentException();
      }
      nr = new
        WMRange(v, or.lower);
    }while(!rf.compareAndSet(or, nr));
  }
}

欢迎在留言区与我分享你的想法,也欢迎你在留言区记录你的思考过程。感谢阅读,如果你觉得这篇文章对你有帮助的话,也欢迎把它分享给更多的朋友。