You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

16 KiB

11隔离性读写冲突时快照是最好的办法吗

你好我是王磊你也可以叫我Ivan。我们今天的话题要从多版本并发控制开始。

多版本并发控制Multi-Version Concurrency ControlMVCC就是通过记录数据项历史版本的方式,来提升系统应对多事务访问的并发处理能力。今天几乎所有主流的单体数据库都实现了MVCC它已经成为一项非常重要也非常普及的技术。

MVCC为什么这么重要呢我们通过下面例子来回顾一下MVCC出现前的读写冲突场景。

图中事务T1、T2先后启动分别对数据库执行写操作和读操作。写操作是一个过程在过程中任意一点数据的变更都是不完整的所以T2必须在数据写入完成后才能读取也就形成了读写阻塞。反之如果T2先启动T1也要等待T2将数据完全读取后才能执行写入。

早期数据库的设计和上面的例子一样,读写操作之间是互斥的,具体是通过锁机制来实现的。

你可能会觉得这个阻塞也没那么严重,磁盘操作应该很快吧?

别着急下结论让我们来分析下。如果先执行的是T1写事务除了磁盘写入数据的时间由于要保证数据库的高可靠至少还有一个备库同步复制主库的变更内容。这样阻塞时间就要再加上一次网络通讯的开销。

如果先执行的是T2只读事务情况也好不到哪去虽然不用考虑复制问题但是读操作通常会涉及更大范围的数据这样一来加锁的记录会更多被阻塞的写操作也就更多。而且只读事务往往要执行更加复杂的计算阻塞的时间也就更长。

所以说用锁解决读写冲突问题带来的事务阻塞开销还是不小的。相比之下用MVCC来解决读写冲突就不存在阻塞问题要优雅得多了。

第4讲中我们介绍了PGXC和NewSQL两种架构风格而且还说到分布式数据库的很多关键设计是和整体架构风格有关的。MVCC的设计就是这样随架构风格不同而不同。在PGXC架构中因为数据节点就是单体数据库所以PGXC的MVCC实现方式其实就是单体数据库的实现方式。

单体数据库的MVCC

那么就让我们先看下单体数据库的MVCC是怎么设计的。开头我们说了实现MVCC要记录数据的历史版本这就涉及到存储的问题。

MVCC的存储方式

MVCC有三类存储方式一类是将历史版本直接存在数据表中的称为Append-Only典型代表是PostgreSQL。另外两类都是在独立的表空间存储历史版本它们区别在于存储的方式是全量还是增量。增量存储就是只存储与版本间变更的部分这种方式称为Delta也就是数学中常作为增量符号的那个Delta典型代表是MySQL和Oracle。全量存储则是将每个版本的数据全部存储下来这种方式称为Time-Travle典型代表是HANA。我把这三种方式整理到了下面的表格中你看起来会更直观些。

下面,我们来看看每种方式的优缺点。

Append-Only方式

优点

  1. 在事务包含大量更新操作时也能保持较高效率。因为更新操作被转换为Delete + Insert数据并未被迁移只是有当前版本被标记为历史版本磁盘操作的开销较小。
  2. 可以追溯更多的历史版本,不必担心回滚段被用完。
  3. 因为执行更新操作时,历史版本仍然留在数据表中,所以如果出现问题,事务能够快速完成回滚操作。

缺点

  1. 新老数据放在一起,会增加磁盘寻址的开销,随着历史版本增多,会导致查询速度变慢。

Delta方式

优点

  1. 因为历史版本独立存储,所以不会影响当前读的执行效率。
  2. 因为存储的只是变化的增量部分,所以占用存储空间较小。

缺点

  1. 历史版本存储在回滚段中,而回滚段由所有事务共享,并且还是循环使用的。如果一个事务执行持续的时间较长,历史版本可能会被其他数据覆盖,无法查询。
  2. 这个模式下读取的历史版本,实际上是基于当前版本和多个增量版本计算追溯回来的,那么计算开销自然就比较大。

Oracle早期版本中经常会出现的ORA-01555 “快照过旧”Snapshot Too Old就是回滚段中的历史版本被覆盖造成的。通常设置更大的回滚段和缩短事务执行时间可以解决这个问题。随着Oracle后续版本采用自动管理回滚段的设计这个问题也得到了缓解。

Time-Travel方式

优点

  1. 同样是将历史版本独立存储,所以不会影响当前读的执行效率。
  2. 相对Delta方式历史版本是全量独立存储的直接访问即可计算开销小。

缺点

  1. 相对Delta方式需要占用更大的存储空间。

当然,无论采用三种存储方式中的哪一种,都需要进行历史版本清理。

好了以上就是单体数据库MVCC的三种存储方式同时也是PGXC的实现方式。而NewSQL底层使用分布式键值系统来存储数据MVCC的存储方式与PostgreSQL类似采用Append方式追加新版本。我觉得你应该比较容易理解就不再啰嗦了。

为了便于你记忆,我把三种存储方式的优缺点提炼了一下放到下面表格中,其实说到底这些特点就是由“是否独立存储”和“存储全量还是存储增量变更”这两个因素决定的。

MVCC的工作过程

历史版本存储下来后又是如何发挥作用的呢?这个,我们开头时也说过了,是要解决多事务的并发控制问题,也就是保证事务的隔离性。在第3讲我们介绍了隔离性的多个级别其中可接受的最低隔离级别就是“已提交读”Read CommittedRC

那么我们先来看RC隔离级别下MVCC的工作过程。

按照RC隔离级别的要求事务只能看到的两类数据

  1. 当前事务的更新所产生的数据。
  2. 当前事务启动前,已经提交事务更新的数据。

我们用一个例子来说明。

T1到T7是七个数据库事务它们先后运行分别操作数据库表的记录R1到R7。事务T6要读取R1到R6这六条记录在T6启动时T6-1会向系统申请一个活动事务列表活动事务就是已经启动但尚未提交的事务这个列表中会看到T3、T4、T5等三个事务。

T6查询到R3、R4、R5时看到它们最新版本的事务ID刚好在活动事务列表里就会读取它们的上一版本。而R1、R2最新版本的事务ID小于活动事务列表中的最小事务ID即T3所以T6可以看到R1、R2的最新版本。

这个例子中MVCC的收益非常明显T6不会被正在执行写入操作的三个事务阻塞而如果按照原来的锁方式T6要在T3、T4、T5三个事务都结束后才能执行。

快照的工作原理

MVCC在RC级别的效果还不错。那么如果隔离级别是更严格一些的 “可重复读”RR我们继续往下看。

还是继续刚才的例子当T6执行到下一个时间点T6-2T1到T4等4个事务都已经提交此时T6再次向系统申请活动事务列表列表包含T5和T7。遵循同样的规则这次T6可以看到R1到R4等四条记录的最新版本同时看到R5的上一版本。

很明显T6刚才和现在这两次查询得到了不同的结果集这是不符合RR要求的。

实现RR的办法也很简单我们只需要记录下T6-1时刻的活动事务列表在T6-2时再次使用就行了。那么这个反复使用的活动事务列表就被称为“快照”Snapshot

快照是基于MVCC实现的一个重要功能从效果上看 快照就是快速地给数据库拍照片数据库会停留在你拍照的那一刻。所以用“快照”来实现RR是很方便的。

从上面的例子可以发现RC与RR的区别在于RC下每个SQL语句会有一个自己的快照所以看到的数据库是不同的而RR下所有SQL语句使用同一个快照所以会看到同样的数据库。

为了提升效率快照不是单纯的事务ID列表它会统计最小活动事务ID还有最大已提交事务ID。这样多数事务ID通过比较边界值就能被快速排除掉如果事务ID恰好在边界范围内再进一步查找是否与活跃事务ID匹配。

快照在MySQL中称为ReadView在PostgreSQL中称为SnapshotData组织方式都是类似的。

PGXC读写冲突处理

在PGXC架构中实现RC隔离级的处理过程与单体数据库差异并不大。我想和你重点介绍的是PGXC在实现RR时遇到的两个挑战也就是实现快照的两个挑战。

一是如何保证产生单调递增事务ID。每个数据节点自行处理显然不行这就需要由一个集中点来统一生成。

二是如何提供全局快照。每个事务要把自己的状态发送给一个集中点,由它维护一个全局事务列表,并向所有事务提供快照。

所以PGXC风格的分布式数据库都有这样一个集中点通常称为全局事务管理器GTM。又因为事务ID是单调递增的用来衡量事务发生的先后顺序和时间戳作用相近所以全局事务管理器也被称为“全局时钟”。

NewSQL读写冲突处理

讲完PGXC的快照再来看看NewSQL如何处理读写冲突。这里我要向你介绍TiDB和CockroachDB两种实现方式因为它们是比较典型的两种情况。至于它们哪里典型呢我先不说你可以在阅读过程中仔细体会。

TiDB

首先来说TiDB我们看图说话。

TiDB底层是分布式键值系统我们假设两个事务操作同一个数据项。其中事务T1执行写操作由Prewrite和Commit两个阶段构成对应了我们之前介绍的两阶段提交协议2PC如果你还不熟悉可以重新阅读第9讲复习一下。这里你也可以简单理解为T1的写操作分成了两个阶段T2在这两个阶段之间试图执行读操作但是T2会被阻塞直到T1完成后T2才能继续执行。

你肯定会非常惊讶这不是MVCC出现前的读写阻塞吗

TiDB为什么没有使用快照读取历史版本呢 TiDB官方文档并没有说明背后的思路我猜问题出在全局事务列表上因为TiDB根本没有设计全局事务列表。当然这应该不是设计上的疏忽我更愿意把它理解为一种权衡是在读写效率和全局事务列表的维护代价之间的选择。

事实上PGXC中的全局事务管理器就是一个单点很容易成为性能的瓶颈而分布式系统一个普遍的设计思想就是要避免对单点的依赖。当然TiDB的这个设计付出的代价也是巨大的。虽然TiDB在3.0版本后增加了悲观锁,设计稍有变化,但大体仍是这样。

CockroachDB

那么如果有全局事务列表又会怎么操作呢说来也巧CockroachDB真的就设计了这么一张全局事务列表。它是否照搬了单体数据库的“快照”呢答案也是否定的。

我们来看看它的处理过程。

依旧是T1事务先执行写操作中途T2事务启动执行读操作此时T2会被优先执行。待T2完成后T1事务被重启。重启的意思是T1获得一个新的时间戳等同于事务ID并重新执行。

又是一个不可思议的过程,还是会产生读写阻塞,这又怎么解释呢?

CockroachDB没有使用快照不是因为没有全局事务列表而是因为它的隔离级别目标不是RR而是SSI也就是可串行化。

你可以回想一下第3讲中黑白球的例子。对于串行化操作来说没有与读写并行操作等价的处理方式因为先读后写和先写后读读操作必然得到两个不同结果。更加学术的解释是先读后写操作会产生一个读写反向依赖可能影响串行化事务调度。这个概念有些不好理解你也不用着急在14讲中我会有更详细的介绍。总之CockroachDB对于读写冲突、写写冲突采用了几乎同样的处理方式。

在上面的例子中为了方便描述我简化了读写冲突的处理过程。事实上被重启的事务并不一定是执行写操作的事务。CockroachDB的每个事务都有一个优先级出现事务冲突时会比较两个事务的优先级高优先级的事务继续执行低优先级的事务则被重启。而被重启事务的优先级也会提升避免总是在竞争中失败最终被“饿死”。

TiDB和CockroachDB的实现方式已经讲完了现在你该明白它们典型在哪里了吧那就是全局事务列表是否存在和实现哪种隔离级别这两个因素都会影响最终的设计。

小结

好了,今天的话题就谈到这了,让我们一起回顾下这一讲的内容。

  1. 用锁机制来处理读写冲突会影响并发处理能力而MVCC的出现很好地解决了这个问题几乎所有的单体数据库都实现了MVCC。MVCC技术包括数据的历史版本存储、清理机制存储方式具体包括Append-Only、Delta、Time-Travel三种方式。通过MVCC和快照基于MVCC单体数据库可以完美地解决RC和RR级别下的读写冲突问题不会造成事务阻塞。
  2. PGXC风格的分布式数据库用单体数据库作为数据节点存储数据所以自然延续了其MVCC的实现方式。但PGXC的改变在于增加了全局事务管理器统一管理事务ID的生成和活动事务列表的维护。
  3. NewSQL风格的分布式数据库没有普遍采用快照解决读写冲突问题其中TiDB是由于权衡全局事务列表的代价CockroachDB则是因为要实现更高的隔离级别。但无论哪种原因都造成了读写并行能力的下降。

要特别说明的是虽然NewSQL架构的分布式数据库没有普遍使用快照处理读写事务但它们仍然实现了MVCC在数据存储层保留了历史版本。所以NewSQL产品往往也会提供一些低数据一致性的只读事务接口提升读取操作的性能。

思考题

最后又到了我们的思考题时间。今天我介绍了两种风格的分布式数据库如何解决读写冲突问题。其实无论是否使用MVCC实现快照隔离时间都是一个重要的因素每个事务都要获得一个事务ID或者时间戳这直接决定了它能够读取什么版本的数据或者是否被阻塞。

但是你有没有想过时间误差的问题。我在第2讲中曾经提到Spanner的全局时钟存在7毫秒的误差第5讲又深入探讨了物理时钟和逻辑时钟如何控制时间误差。那么,你觉得时间误差会影响读写冲突的处理吗?

如果你想到了答案,又或者是触发了你对相关问题的思考,都可以在评论区和我聊聊,我会在下一讲和你一起探讨。最后,希望这节课能带给你一些收获,也欢迎你把它分享给周围的朋友,一起进步。