You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

12 KiB

31 | Guarded Suspension模式等待唤醒机制的规范实现

前不久同事小灰工作中遇到一个问题他开发了一个Web项目Web版的文件浏览器通过它用户可以在浏览器里查看服务器上的目录和文件。这个项目依赖运维部门提供的文件浏览服务而这个文件浏览服务只支持消息队列MQ方式接入。消息队列在互联网大厂中用的非常多主要用作流量削峰和系统解耦。在这种接入方式中发送消息和消费结果这两个操作之间是异步的你可以参考下面的示意图来理解。

消息队列MQ示意图

在小灰的这个Web项目中用户通过浏览器发过来一个请求会被转换成一个异步消息发送给MQ等MQ返回结果后再将这个结果返回至浏览器。小灰同学的问题是给MQ发送消息的线程是处理Web请求的线程T1但消费MQ结果的线程并不是线程T1那线程T1如何等待MQ的返回结果呢为了便于你理解这个场景我将其代码化了示例代码如下。

class Message{
  String id;
  String content;
}
//该方法可以发送消息
void send(Message msg){
  //省略相关代码
}
//MQ消息返回后会调用该方法
//该方法的执行线程不同于
//发送消息的线程
void onMessage(Message msg){
  //省略相关代码
}
//处理浏览器发来的请求
Respond handleWebReq(){
  //创建一消息
  Message msg1 = new 
    Message("1","{...}");
  //发送消息
  send(msg1);
  //如何等待MQ返回的消息呢
  String result = ...;
}

看到这里,相信你一定有点似曾相识的感觉,这不就是前面我们在《15 | Lock和ConditionDubbo如何用管程实现异步转同步中曾介绍过的异步转同步问题吗?仔细分析,的确是这样,不过在那一篇文章中我们只是介绍了最终方案,让你知其然,但是并没有介绍这个方案是如何设计出来的,今天咱们再仔细聊聊这个问题,让你知其所以然,遇到类似问题也能自己设计出方案来。

Guarded Suspension模式

上面小灰遇到的问题,在现实世界里比比皆是,只是我们一不小心就忽略了。比如,项目组团建要外出聚餐,我们提前预订了一个包间,然后兴冲冲地奔过去,到那儿后大堂经理看了一眼包间,发现服务员正在收拾,就会告诉我们:“您预订的包间服务员正在收拾,请您稍等片刻。”过了一会,大堂经理发现包间已经收拾完了,于是马上带我们去包间就餐。

我们等待包间收拾完的这个过程和小灰遇到的等待MQ返回消息本质上是一样的都是等待一个条件满足就餐需要等待包间收拾完小灰的程序里要等待MQ返回消息。

那我们来看看现实世界里是如何解决这类问题的呢?现实世界里大堂经理这个角色很重要,我们是否等待,完全是由他来协调的。通过类比,相信你也一定有思路了:我们的程序里,也需要这样一个大堂经理。的确是这样,那程序世界里的大堂经理该如何设计呢?其实设计方案前人早就搞定了,而且还将其总结成了一个设计模式:Guarded Suspension。所谓Guarded Suspension直译过来就是“保护性地暂停”。那下面我们就来看看Guarded Suspension模式是如何模拟大堂经理进行保护性地暂停的。

下图就是Guarded Suspension模式的结构图非常简单一个对象GuardedObject内部有一个成员变量——受保护的对象以及两个成员方法——get(Predicate<T> p)onChanged(T obj)方法。其中对象GuardedObject就是我们前面提到的大堂经理受保护对象就是餐厅里面的包间受保护对象的get()方法对应的是我们的就餐就餐的前提条件是包间已经收拾好了参数p就是用来描述这个前提条件的受保护对象的onChanged()方法对应的是服务员把包间收拾好了通过onChanged()方法可以fire一个事件而这个事件往往能改变前提条件p的计算结果。下图中左侧的绿色线程就是需要就餐的顾客而右侧的蓝色线程就是收拾包间的服务员。

Guarded Suspension模式结构图

GuardedObject的内部实现非常简单是管程的一个经典用法你可以参考下面的示例代码核心是get()方法通过条件变量的await()方法实现等待onChanged()方法通过条件变量的signalAll()方法实现唤醒功能。逻辑还是很简单的,所以这里就不再详细介绍了。

class GuardedObject<T>{
  //受保护的对象
  T obj;
  final Lock lock = 
    new ReentrantLock();
  final Condition done =
    lock.newCondition();
  final int timeout=1;
  //获取受保护对象  
  T get(Predicate<T> p) {
    lock.lock();
    try {
      //MESA管程推荐写法
      while(!p.test(obj)){
        done.await(timeout, 
          TimeUnit.SECONDS);
      }
    }catch(InterruptedException e){
      throw new RuntimeException(e);
    }finally{
      lock.unlock();
    }
    //返回非空的受保护对象
    return obj;
  }
  //事件通知方法
  void onChanged(T obj) {
    lock.lock();
    try {
      this.obj = obj;
      done.signalAll();
    } finally {
      lock.unlock();
    }
  }
}

扩展Guarded Suspension模式

上面我们介绍了Guarded Suspension模式及其实现这个模式能够模拟现实世界里大堂经理的角色那现在我们再来看看这个“大堂经理”能否解决小灰同学遇到的问题。

Guarded Suspension模式里GuardedObject有两个核心方法一个是get()方法一个是onChanged()方法。很显然在处理Web请求的方法handleWebReq()中可以调用GuardedObject的get()方法来实现等待在MQ消息的消费方法onMessage()中可以调用GuardedObject的onChanged()方法来实现唤醒。

//处理浏览器发来的请求
Respond handleWebReq(){
  //创建一消息
  Message msg1 = new 
    Message("1","{...}");
  //发送消息
  send(msg1);
  //利用GuardedObject实现等待
  GuardedObject<Message> go
    =new GuardObjec<>();
  Message r = go.get(
    t->t != null);
}
void onMessage(Message msg){
  //如何找到匹配的go
  GuardedObject<Message> go=???
  go.onChanged(msg);
}

但是在实现的时候会遇到一个问题handleWebReq()里面创建了GuardedObject对象的实例go并调用其get()方等待结果那在onMessage()方法中如何才能够找到匹配的GuardedObject对象呢这个过程类似服务员告诉大堂经理某某包间已经收拾好了大堂经理如何根据包间找到就餐的人。现实世界里大堂经理的头脑中有包间和就餐人之间的关系图所以服务员说完之后大堂经理立刻就能把就餐人找出来。

我们可以参考大堂经理识别就餐人的办法来扩展一下Guarded Suspension模式从而使它能够很方便地解决小灰同学的问题。在小灰的程序中每个发送到MQ的消息都有一个唯一性的属性id所以我们可以维护一个MQ消息id和GuardedObject对象实例的关系这个关系可以类比大堂经理大脑里维护的包间和就餐人的关系。

有了这个关系我们来看看具体如何实现。下面的示例代码是扩展Guarded Suspension模式的实现扩展后的GuardedObject内部维护了一个Map其Key是MQ消息id而Value是GuardedObject对象实例同时增加了静态方法create()和fireEvent()create()方法用来创建一个GuardedObject对象实例并根据key值将其加入到Map中而fireEvent()方法则是模拟的大堂经理根据包间找就餐人的逻辑。

class GuardedObject<T>{
  //受保护的对象
  T obj;
  final Lock lock = 
    new ReentrantLock();
  final Condition done =
    lock.newCondition();
  final int timeout=2;
  //保存所有GuardedObject
  final static Map<Object, GuardedObject> 
  gos=new ConcurrentHashMap<>();
  //静态方法创建GuardedObject
  static <K> GuardedObject 
      create(K key){
    GuardedObject go=new GuardedObject();
    gos.put(key, go);
    return go;
  }
  static <K, T> void 
      fireEvent(K key, T obj){
    GuardedObject go=gos.remove(key);
    if (go != null){
      go.onChanged(obj);
    }
  }
  //获取受保护对象  
  T get(Predicate<T> p) {
    lock.lock();
    try {
      //MESA管程推荐写法
      while(!p.test(obj)){
        done.await(timeout, 
          TimeUnit.SECONDS);
      }
    }catch(InterruptedException e){
      throw new RuntimeException(e);
    }finally{
      lock.unlock();
    }
    //返回非空的受保护对象
    return obj;
  }
  //事件通知方法
  void onChanged(T obj) {
    lock.lock();
    try {
      this.obj = obj;
      done.signalAll();
    } finally {
      lock.unlock();
    }
  }
}

这样利用扩展后的GuardedObject来解决小灰同学的问题就很简单了具体代码如下所示。

//处理浏览器发来的请求
Respond handleWebReq(){
  int id=序号生成器.get();
  //创建一消息
  Message msg1 = new 
    Message(id,"{...}");
  //创建GuardedObject实例
  GuardedObject<Message> go=
    GuardedObject.create(id);  
  //发送消息
  send(msg1);
  //等待MQ消息
  Message r = go.get(
    t->t != null);  
}
void onMessage(Message msg){
  //唤醒等待的线程
  GuardedObject.fireEvent(
    msg.id, msg);
}

总结

Guarded Suspension模式本质上是一种等待唤醒机制的实现只不过Guarded Suspension模式将其规范化了。规范化的好处是你无需重头思考如何实现也无需担心实现程序的可理解性问题同时也能避免一不小心写出个Bug来。但Guarded Suspension模式在解决实际问题的时候往往还是需要扩展的扩展的方式有很多本篇文章就直接对GuardedObject的功能进行了增强Dubbo中DefaultFuture这个类也是采用的这种方式你可以对比着来看相信对DefaultFuture的实现原理会理解得更透彻。当然你也可以创建新的类来实现对Guarded Suspension模式的扩展。

Guarded Suspension模式也常被称作Guarded Wait模式、Spin Lock模式因为使用了while循环去等待这些名字都很形象不过它还有一个更形象的非官方名字多线程版本的if。单线程场景中if语句是不需要等待的因为在只有一个线程的条件下如果这个线程被阻塞那就没有其他活动线程了这意味着if判断条件的结果也不会发生变化了。但是多线程场景中等待就变得有意义了这种场景下if判断条件的结果是可能发生变化的。所以用“多线程版本的if”来理解这个模式会更简单。

课后思考

有同学觉得用done.await()还要加锁太啰嗦还不如直接使用sleep()方法,下面是他的实现,你觉得他的写法正确吗?

//获取受保护对象  
T get(Predicate<T> p) {
  try {
    while(!p.test(obj)){
      TimeUnit.SECONDS
        .sleep(timeout);
    }
  }catch(InterruptedException e){
    throw new RuntimeException(e);
  }
  //返回非空的受保护对象
  return obj;
}
//事件通知方法
void onChanged(T obj) {
  this.obj = obj;
}

欢迎在留言区与我分享你的想法,也欢迎你在留言区记录你的思考过程。感谢阅读,如果你觉得这篇文章对你有帮助的话,也欢迎把它分享给更多的朋友。