You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

18 KiB

02 | 代码加锁:不要让“锁”事成为烦心事

你好,我是朱晔。

在上一讲中,我与你介绍了使用并发容器等工具解决线程安全的误区。今天,我们来看看解决线程安全问题的另一种重要手段——锁,在使用上比较容易犯哪些错。

我先和你分享一个有趣的案例吧。有一天一位同学在群里说“见鬼了疑似遇到了一个JVM的Bug”我们都很好奇是什么Bug。

于是他贴出了这样一段代码在一个类里有两个int类型的字段a和b有一个add方法循环1万次对a和b进行++操作有另一个compare方法同样循环1万次判断a是否小于b条件成立就打印a和b的值并判断a>b是否成立。

@Slf4j
public class Interesting {

    volatile int a = 1;
    volatile int b = 1;

    public void add() {
        log.info("add start");
        for (int i = 0; i < 10000; i++) {
            a++;
            b++;
        }
        log.info("add done");
    }

    public void compare() {
        log.info("compare start");
        for (int i = 0; i < 10000; i++) {
            //a始终等于b吗
            if (a < b) {
                log.info("a:{},b:{},{}", a, b, a > b);
                //最后的a>b应该始终是false吗
            }
        }
        log.info("compare done");
    }
}

他起了两个线程来分别执行add和compare方法

Interesting interesting = new Interesting();
new Thread(() -> interesting.add()).start();
new Thread(() -> interesting.compare()).start();

按道理a和b同样进行累加操作应该始终相等compare中的第一次判断应该始终不会成立不会输出任何日志。但执行代码后发现不但输出了日志而且更诡异的是compare方法在判断a<b成立的情况下还输出了a>b也成立

群里一位同学看到这个问题笑了“这哪是JVM的Bug分明是线程安全问题嘛。很明显你这是在操作两个字段a和b有线程安全问题应该为add方法加上锁确保a和b的++是原子性的就不会错乱了。”随后他为add方法加上了锁

public synchronized void add()

但,加锁后问题并没有解决。

我们来仔细想一下,为什么锁可以解决线程安全问题呢。因为只有一个线程可以拿到锁,所以加锁后的代码中的资源操作是线程安全的。但是,这个案例中的add方法始终只有一个线程在操作显然只为add方法加锁是没用的

之所以出现这种错乱是因为两个线程是交错执行add和compare方法中的业务逻辑而且这些业务逻辑不是原子性的a++和b++操作中可以穿插在compare方法的比较代码中更需要注意的是a<b这种比较操作在字节码层面是加载a、加载b和比较三步代码虽然是一行但也不是原子性的。

所以正确的做法应该是为add和compare都加上方法锁确保add方法执行时compare无法读取a和b

public synchronized void add()
public synchronized void compare()

所以,使用锁解决问题之前一定要理清楚,我们要保护的是什么逻辑,多线程执行的情况又是怎样的。

加锁前要清楚锁和被保护的对象是不是一个层面的

除了没有分析清线程、业务逻辑和锁三者之间的关系随意添加无效的方法锁外,还有一种比较常见的错误是,没有理清楚锁和要保护的对象是否是一个层面的。

我们知道静态字段属于类,类级别的锁才能保护;而非静态字段属于类实例,实例级别的锁就可以保护。

先看看这段代码有什么问题在类Data中定义了一个静态的int字段counter和一个非静态的wrong方法实现counter字段的累加操作。

class Data {
    @Getter
    private static int counter = 0;
    
    public static int reset() {
        counter = 0;
        return counter;
    }

    public synchronized void wrong() {
        counter++;
    }
}

写一段代码测试下:

@GetMapping("wrong")
public int wrong(@RequestParam(value = "count", defaultValue = "1000000") int count) {
    Data.reset();
    //多线程循环一定次数调用Data类不同实例的wrong方法
    IntStream.rangeClosed(1, count).parallel().forEach(i -> new Data().wrong());
    return Data.getCounter();
}

因为默认运行100万次所以执行后应该输出100万但页面输出的是639242

我们来分析下为什么会出现这个问题吧。

在非静态的wrong方法上加锁只能确保多个线程无法执行同一个实例的wrong方法却不能保证不会执行不同实例的wrong方法。而静态的counter在多个实例中共享所以必然会出现线程安全问题。

理清思路后修正方法就很清晰了同样在类中定义一个Object类型的静态字段在操作counter之前对这个字段加锁。

class Data {
    @Getter
    private static int counter = 0;
    private static Object locker = new Object();

    public void right() {
        synchronized (locker) {
            counter++;
        }
    }
}

你可能要问了把wrong方法定义为静态不就可以了这个时候锁是类级别的。可以是可以但我们不可能为了解决线程安全问题改变代码结构把实例方法改为静态方法。

感兴趣的同学还可以从字节码以及JVM的层面继续探索一下代码块级别的synchronized和方法上标记synchronized关键字在实现上有什么区别。

加锁要考虑锁的粒度和场景问题

在方法上加synchronized关键字实现加锁确实简单也因此我曾看到一些业务代码中几乎所有方法都加了synchronized但这种滥用synchronized的做法

  • 一是没必要。通常情况下60%的业务代码是三层架构数据经过无状态的Controller、Service、Repository流转到数据库没必要使用synchronized来保护什么数据。
  • 二是可能会极大地降低性能。使用Spring框架时默认情况下Controller、Service、Repository是单例的加上synchronized会导致整个程序几乎就只能支持单线程造成极大的性能问题。

即使我们确实有一些共享资源需要保护,也要尽可能降低锁的粒度,仅对必要的代码块甚至是需要保护的资源本身加锁。

比如在业务代码中有一个ArrayList因为会被多个线程操作而需要保护又有一段比较耗时的操作代码中的slow方法不涉及线程安全问题应该如何加锁呢

错误的做法是给整段业务逻辑加锁把slow方法和操作ArrayList的代码同时纳入synchronized代码块更合适的做法是把加锁的粒度降到最低只在操作ArrayList的时候给这个ArrayList加锁。

private List<Integer> data = new ArrayList<>();

//不涉及共享资源的慢方法
private void slow() {
    try {
        TimeUnit.MILLISECONDS.sleep(10);
    } catch (InterruptedException e) {
    }
}

//错误的加锁方法
@GetMapping("wrong")
public int wrong() {
    long begin = System.currentTimeMillis();
    IntStream.rangeClosed(1, 1000).parallel().forEach(i -> {
        //加锁粒度太粗了
        synchronized (this) {
            slow();
            data.add(i);
        }
    });
    log.info("took:{}", System.currentTimeMillis() - begin);
    return data.size();
}

//正确的加锁方法
@GetMapping("right")
public int right() {
    long begin = System.currentTimeMillis();
    IntStream.rangeClosed(1, 1000).parallel().forEach(i -> {
        slow();
        //只对List加锁
        synchronized (data) {
            data.add(i);
        }
    });
    log.info("took:{}", System.currentTimeMillis() - begin);
    return data.size();
}

执行这段代码同样是1000次业务操作正确加锁的版本耗时1.4秒而对整个业务逻辑加锁的话耗时11秒。

如果精细化考虑了锁应用范围后,性能还无法满足需求的话,我们就要考虑另一个维度的粒度问题了,即:区分读写场景以及资源的访问冲突,考虑使用悲观方式的锁还是乐观方式的锁。

一般业务代码中,很少需要进一步考虑这两种更细粒度的锁,所以我只和你分享几个大概的结论,你可以根据自己的需求来考虑是否有必要进一步优化:

  • 对于读写比例差异明显的场景考虑使用ReentrantReadWriteLock细化区分读写锁来提高性能。
  • 如果你的JDK版本高于1.8、共享资源的冲突概率也没那么大的话考虑使用StampedLock的乐观读的特性进一步提高性能。
  • JDK里ReentrantLock和ReentrantReadWriteLock都提供了公平锁的版本在没有明确需求的情况下不要轻易开启公平锁特性在任务很轻的情况下开启公平锁可能会让性能下降上百倍。

多把锁要小心死锁问题

刚才我们聊到锁的粒度够用就好,这就意味着我们的程序逻辑中有时会存在一些细粒度的锁。但一个业务逻辑如果涉及多把锁,容易产生死锁问题。

之前我遇到过这样一个案例:下单操作需要锁定订单中多个商品的库存,拿到所有商品的锁之后进行下单扣减库存操作,全部操作完成之后释放所有的锁。代码上线后发现,下单失败概率很高,失败后需要用户重新下单,极大影响了用户体验,还影响到了销量。

经排查发现是死锁引起的问题,背后原因是扣减库存的顺序不同,导致并发的情况下多个线程可能相互持有部分商品的锁,又等待其他线程释放另一部分商品的锁,于是出现了死锁问题。

接下来,我们剖析一下核心的业务代码。

首先定义一个商品类型包含商品名、库存剩余和商品的库存锁三个属性每一种商品默认库存1000个然后初始化10个这样的商品对象来模拟商品清单

@Data
@RequiredArgsConstructor
static class Item {
    final String name; //商品名
    int remaining = 1000; //库存剩余
    @ToString.Exclude //ToString不包含这个字段 
    ReentrantLock lock = new ReentrantLock();
}

随后写一个方法模拟在购物车进行商品选购每次从商品清单items字段中随机选购三个商品为了逻辑简单我们不考虑每次选购多个同类商品的逻辑购物车中不体现商品数量

private List<Item> createCart() {
    return IntStream.rangeClosed(1, 3)
            .mapToObj(i -> "item" + ThreadLocalRandom.current().nextInt(items.size()))
            .map(name -> items.get(name)).collect(Collectors.toList());
}

下单代码如下先声明一个List来保存所有获得的锁然后遍历购物车中的商品依次尝试获得商品的锁最长等待10秒获得全部锁之后再扣减库存如果有无法获得锁的情况则解锁之前获得的所有锁返回false下单失败。

private boolean createOrder(List<Item> order) {
    //存放所有获得的锁
    List<ReentrantLock> locks = new ArrayList<>();

    for (Item item : order) {
        try {
            //获得锁10秒超时
            if (item.lock.tryLock(10, TimeUnit.SECONDS)) {
                locks.add(item.lock);
            } else {
                locks.forEach(ReentrantLock::unlock);
                return false;
            }
        } catch (InterruptedException e) {
        }
    }
    //锁全部拿到之后执行扣减库存业务逻辑
    try {
        order.forEach(item -> item.remaining--);
    } finally {
        locks.forEach(ReentrantLock::unlock);
    }
    return true;
}

我们写一段代码测试这个下单操作。模拟在多线程情况下进行100次创建购物车和下单操作最后通过日志输出成功的下单次数、总剩余的商品个数、100次下单耗时以及下单完成后的商品库存明细

@GetMapping("wrong")
public long wrong() {
    long begin = System.currentTimeMillis();
    //并发进行100次下单操作统计成功次数
    long success = IntStream.rangeClosed(1, 100).parallel()
            .mapToObj(i -> {
                List<Item> cart = createCart();
                return createOrder(cart);
            })
            .filter(result -> result)
            .count();
    log.info("success:{} totalRemaining:{} took:{}ms items:{}",
            success,
            items.entrySet().stream().map(item -> item.getValue().remaining).reduce(0, Integer::sum),
            System.currentTimeMillis() - begin, items);
    return success;
}

运行程序,输出如下日志:

可以看到100次下单操作成功了65次10种商品总计10000件库存总计为9805消耗了195件符合预期65次下单成功每次下单包含三件商品总耗时50秒。

为什么会这样呢?

使用JDK自带的VisualVM工具来跟踪一下重新执行方法后不久就可以看到线程Tab中提示了死锁问题根据提示点击右侧线程Dump按钮进行线程抓取操作

查看抓取出的线程栈,在页面中部可以看到如下日志:

显然,是出现了死锁线程4在等待的一个锁被线程3持有线程3在等待的另一把锁被线程4持有

那为什么会有死锁问题呢?

我们仔细回忆一下购物车添加商品的逻辑随机添加了三种商品假设一个购物车中的商品是item1和item2另一个购物车中的商品是item2和item1一个线程先获取到了item1的锁同时另一个线程获取到了item2的锁然后两个线程接下来要分别获取item2和item1的锁这个时候锁已经被对方获取了只能相互等待一直到10秒超时。

其实,避免死锁的方案很简单,为购物车中的商品排一下序让所有的线程一定是先获取item1的锁然后获取item2的锁就不会有问题了。所以我只需要修改一行代码对createCart获得的购物车按照商品名进行排序即可

@GetMapping("right")
public long right() {
    ...
.    
    long success = IntStream.rangeClosed(1, 100).parallel()
            .mapToObj(i -> {
                List<Item> cart = createCart().stream()
                        .sorted(Comparator.comparing(Item::getName))
                        .collect(Collectors.toList());
                return createOrder(cart);
            })
            .filter(result -> result)
            .count();
    ...
    return success;
}

测试一下right方法不管执行多少次都是100次成功下单而且性能相当高达到了3000以上的TPS

这个案例中,虽然产生了死锁问题,但因为尝试获取锁的操作并不是无限阻塞的,所以没有造成永久死锁,之后的改进就是避免循环等待,通过对购物车的商品进行排序来实现有顺序的加锁,避免循环等待。

重点回顾

我们一起总结回顾下,使用锁来解决多线程情况下线程安全问题的坑吧。

第一使用synchronized加锁虽然简单但我们首先要弄清楚共享资源是类还是实例级别的、会被哪些线程操作synchronized关联的锁对象或方法又是什么范围的。

第二加锁尽可能要考虑粒度和场景锁保护的代码意味着无法进行多线程操作。对于Web类型的天然多线程项目对方法进行大范围加锁会显著降级并发能力要考虑尽可能地只为必要的代码块加锁降低锁的粒度而对于要求超高性能的业务还要细化考虑锁的读写场景以及悲观优先还是乐观优先尽可能针对明确场景精细化加锁方案可以在适当的场景下考虑使用ReentrantReadWriteLock、StampedLock等高级的锁工具类。

第三,业务逻辑中有多把锁时要考虑死锁问题,通常的规避方案是,避免无限等待和循环等待。

此外,如果业务逻辑中锁的实现比较复杂的话,要仔细看看加锁和释放是否配对,是否有遗漏释放或重复释放的可能性;并且对于分布式锁要考虑锁自动超时释放了,而业务逻辑却还在进行的情况下,如果别的线线程或进程拿到了相同的锁,可能会导致重复执行

为演示方便今天的案例是在Controller的逻辑中开新的线程或使用线程池进行并发模拟我们当然可以意识到哪些对象是并发操作的。但对于Web应用程序的天然多线程场景你可能更容易忽略这点并且也可能因为误用锁降低应用整体的吞吐量。如果你的业务代码涉及复杂的锁操作强烈建议Mock相关外部接口或数据库操作后对应用代码进行压测通过压测排除锁误用带来的性能问题和死锁问题

今天用到的代码我都放在了GitHub上你可以点击这个链接查看。

思考与讨论

  1. 本文开头的例子里变量a、b都使用了volatile关键字你知道原因吗我之前遇到过这样一个坑我们开启了一个线程无限循环来跑一些任务有一个bool类型的变量来控制循环的退出默认为true代表执行一段时间后主线程将这个变量设置为了false。如果这个变量不是volatile修饰的子线程可以退出吗你能否解释其中的原因呢
  2. 文末我们又提了两个坑,一是加锁和释放没有配对的问题,二是锁自动释放导致的重复逻辑执行的问题。你有什么方法来发现和解决这两种问题吗?

在使用锁的过程中,你还遇到过其他坑吗?我是朱晔,欢迎在评论区与我留言分享你的想法,也欢迎你把这篇文章分享给你的朋友或同事,一起交流。