|
|
# 11｜隔离性：读写冲突时，快照是最好的办法吗？
|
|
|
|
|
|
你好，我是王磊，你也可以叫我Ivan。我们今天的话题要从多版本并发控制开始。
|
|
|
|
|
|
多版本并发控制（Multi-Version Concurrency Control，MVCC）就是**通过记录数据项历史版本的方式，来提升系统应对多事务访问的并发处理能力**。今天，几乎所有主流的单体数据库都实现了MVCC，它已经成为一项非常重要也非常普及的技术。
|
|
|
|
|
|
MVCC为什么这么重要呢？我们通过下面例子来回顾一下MVCC出现前的读写冲突场景。
|
|
|
|
|
|
|
|
|
|
|
|
图中事务T1、T2先后启动，分别对数据库执行写操作和读操作。写操作是一个过程，在过程中任意一点，数据的变更都是不完整的，所以T2必须在数据写入完成后才能读取，也就形成了读写阻塞。反之，如果T2先启动，T1也要等待T2将数据完全读取后，才能执行写入。
|
|
|
|
|
|
早期数据库的设计和上面的例子一样，读写操作之间是互斥的，具体是通过锁机制来实现的。
|
|
|
|
|
|
你可能会觉得这个阻塞也没那么严重，磁盘操作应该很快吧?
|
|
|
|
|
|
别着急下结论，让我们来分析下。如果先执行的是T1写事务，除了磁盘写入数据的时间，由于要保证数据库的高可靠，至少还有一个备库同步复制主库的变更内容。这样，阻塞时间就要再加上一次网络通讯的开销。
|
|
|
|
|
|
如果先执行的是T2只读事务，情况也好不到哪去，虽然不用考虑复制问题，但是读操作通常会涉及更大范围的数据，这样一来加锁的记录会更多，被阻塞的写操作也就更多。而且，只读事务往往要执行更加复杂的计算，阻塞的时间也就更长。
|
|
|
|
|
|
所以说，用锁解决读写冲突问题，带来的事务阻塞开销还是不小的。相比之下，用MVCC来解决读写冲突，就不存在阻塞问题，要优雅得多了。
|
|
|
|
|
|
[第4讲](https://time.geekbang.org/column/article/274200)中我们介绍了PGXC和NewSQL两种架构风格，而且还说到分布式数据库的很多关键设计是和整体架构风格有关的。MVCC的设计就是这样，随架构风格不同而不同。在PGXC架构中，因为数据节点就是单体数据库，所以**PGXC的MVCC实现方式其实就是单体数据库的实现方式。**
|
|
|
|
|
|
## 单体数据库的MVCC
|
|
|
|
|
|
那么，就让我们先看下单体数据库的MVCC是怎么设计的。开头我们说了实现MVCC要记录数据的历史版本，这就涉及到存储的问题。
|
|
|
|
|
|
### MVCC的存储方式
|
|
|
|
|
|
MVCC有三类存储方式，一类是将历史版本直接存在数据表中的，称为Append-Only，典型代表是PostgreSQL。另外两类都是在独立的表空间存储历史版本，它们区别在于存储的方式是全量还是增量。增量存储就是只存储与版本间变更的部分，这种方式称为Delta，也就是数学中常作为增量符号的那个Delta，典型代表是MySQL和Oracle。全量存储则是将每个版本的数据全部存储下来，这种方式称为Time-Travle，典型代表是HANA。我把这三种方式整理到了下面的表格中，你看起来会更直观些。
|
|
|
|
|
|
|
|
|
|
|
|
下面，我们来看看每种方式的优缺点。
|
|
|
|
|
|
#### Append-Only方式
|
|
|
|
|
|
优点
|
|
|
|
|
|
1. 在事务包含大量更新操作时也能保持较高效率。因为更新操作被转换为Delete + Insert，数据并未被迁移，只是有当前版本被标记为历史版本，磁盘操作的开销较小。
|
|
|
2. 可以追溯更多的历史版本，不必担心回滚段被用完。
|
|
|
3. 因为执行更新操作时，历史版本仍然留在数据表中，所以如果出现问题，事务能够快速完成回滚操作。
|
|
|
|
|
|
缺点
|
|
|
|
|
|
1. 新老数据放在一起，会增加磁盘寻址的开销，随着历史版本增多，会导致查询速度变慢。
|
|
|
|
|
|
#### Delta方式
|
|
|
|
|
|
优点
|
|
|
|
|
|
1. 因为历史版本独立存储，所以不会影响当前读的执行效率。
|
|
|
2. 因为存储的只是变化的增量部分，所以占用存储空间较小。
|
|
|
|
|
|
缺点
|
|
|
|
|
|
1. 历史版本存储在回滚段中，而回滚段由所有事务共享，并且还是循环使用的。如果一个事务执行持续的时间较长，历史版本可能会被其他数据覆盖，无法查询。
|
|
|
2. 这个模式下读取的历史版本，实际上是基于当前版本和多个增量版本计算追溯回来的，那么计算开销自然就比较大。
|
|
|
|
|
|
Oracle早期版本中经常会出现的ORA-01555 “快照过旧”（Snapshot Too Old），就是回滚段中的历史版本被覆盖造成的。通常，设置更大的回滚段和缩短事务执行时间可以解决这个问题。随着Oracle后续版本采用自动管理回滚段的设计，这个问题也得到了缓解。
|
|
|
|
|
|
#### Time-Travel方式
|
|
|
|
|
|
优点
|
|
|
|
|
|
1. 同样是将历史版本独立存储，所以不会影响当前读的执行效率。
|
|
|
2. 相对Delta方式，历史版本是全量独立存储的，直接访问即可，计算开销小。
|
|
|
|
|
|
缺点
|
|
|
|
|
|
1. 相对Delta方式，需要占用更大的存储空间。
|
|
|
|
|
|
当然，无论采用三种存储方式中的哪一种，都需要进行历史版本清理。
|
|
|
|
|
|
好了，以上就是单体数据库MVCC的三种存储方式，同时也是PGXC的实现方式。而NewSQL底层使用分布式键值系统来存储数据，MVCC的存储方式与PostgreSQL类似，采用Append方式追加新版本。我觉得你应该比较容易理解，就不再啰嗦了。
|
|
|
|
|
|
为了便于你记忆，我把三种存储方式的优缺点提炼了一下放到下面表格中，其实说到底这些特点就是由“是否独立存储”和“存储全量还是存储增量变更”这两个因素决定的。
|
|
|
|
|
|
|
|
|
|
|
|
### MVCC的工作过程
|
|
|
|
|
|
历史版本存储下来后又是如何发挥作用的呢？这个，我们开头时也说过了，是要解决多事务的并发控制问题，也就是保证事务的隔离性。在[第3讲](https://time.geekbang.org/column/article/272999)，我们介绍了隔离性的多个级别，其中可接受的最低隔离级别就是“已提交读”（Read Committed，RC）。
|
|
|
|
|
|
那么，我们先来看RC隔离级别下MVCC的工作过程。
|
|
|
|
|
|
按照RC隔离级别的要求，事务只能看到的两类数据：
|
|
|
|
|
|
1. 当前事务的更新所产生的数据。
|
|
|
2. 当前事务启动前，已经提交事务更新的数据。
|
|
|
|
|
|
我们用一个例子来说明。
|
|
|
|
|
|
|
|
|
|
|
|
T1到T7是七个数据库事务，它们先后运行，分别操作数据库表的记录R1到R7。事务T6要读取R1到R6这六条记录，在T6启动时（T6-1）会向系统申请一个活动事务列表，活动事务就是已经启动但尚未提交的事务，这个列表中会看到T3、T4、T5等三个事务。
|
|
|
|
|
|
T6查询到R3、R4、R5时，看到它们最新版本的事务ID刚好在活动事务列表里，就会读取它们的上一版本。而R1、R2最新版本的事务ID小于活动事务列表中的最小事务ID（即T3），所以T6可以看到R1、R2的最新版本。
|
|
|
|
|
|
这个例子中MVCC的收益非常明显，T6不会被正在执行写入操作的三个事务阻塞，而如果按照原来的锁方式，T6要在T3、T4、T5三个事务都结束后，才能执行。
|
|
|
|
|
|
### 快照的工作原理
|
|
|
|
|
|
MVCC在RC级别的效果还不错。那么，如果隔离级别是更严格一些的 “可重复读”（RR）呢？我们继续往下看。
|
|
|
|
|
|
|
|
|
|
|
|
还是继续刚才的例子，当T6执行到下一个时间点（T6-2），T1到T4等4个事务都已经提交，此时T6再次向系统申请活动事务列表，列表包含T5和T7。遵循同样的规则，这次T6可以看到R1到R4等四条记录的最新版本，同时看到R5的上一版本。
|
|
|
|
|
|
很明显，T6刚才和现在这两次查询得到了不同的结果集，这是不符合RR要求的。
|
|
|
|
|
|
实现RR的办法也很简单，我们只需要记录下T6-1时刻的活动事务列表，在T6-2时再次使用就行了。那么，这个反复使用的活动事务列表就被称为“快照”（Snapshot）。
|
|
|
|
|
|
|
|
|
|
|
|
快照是基于MVCC实现的一个重要功能，从效果上看， 快照就是快速地给数据库拍照片，数据库会停留在你拍照的那一刻。所以，用“快照”来实现RR是很方便的。
|
|
|
|
|
|
从上面的例子可以发现，RC与RR的区别在于RC下每个SQL语句会有一个自己的快照，所以看到的数据库是不同的，而RR下，所有SQL语句使用同一个快照，所以会看到同样的数据库。
|
|
|
|
|
|
为了提升效率，快照不是单纯的事务ID列表，它会统计最小活动事务ID，还有最大已提交事务ID。这样，多数事务ID通过比较边界值就能被快速排除掉，如果事务ID恰好在边界范围内，再进一步查找是否与活跃事务ID匹配。
|
|
|
|
|
|
快照在MySQL中称为ReadView，在PostgreSQL中称为SnapshotData，组织方式都是类似的。
|
|
|
|
|
|
## PGXC读写冲突处理
|
|
|
|
|
|
在PGXC架构中，实现RC隔离级的处理过程与单体数据库差异并不大。我想和你重点介绍的是，PGXC在实现RR时遇到的两个挑战，也就是实现快照的两个挑战。
|
|
|
|
|
|
一是如何保证产生单调递增事务ID。每个数据节点自行处理显然不行，这就需要由一个集中点来统一生成。
|
|
|
|
|
|
二是如何提供全局快照。每个事务要把自己的状态发送给一个集中点，由它维护一个全局事务列表，并向所有事务提供快照。
|
|
|
|
|
|
所以，PGXC风格的分布式数据库都有这样一个集中点，通常称为全局事务管理器（GTM）。又因为事务ID是单调递增的，用来衡量事务发生的先后顺序，和时间戳作用相近，所以全局事务管理器也被称为“全局时钟”。
|
|
|
|
|
|
## NewSQL读写冲突处理
|
|
|
|
|
|
讲完PGXC的快照，再来看看NewSQL如何处理读写冲突。这里，我要向你介绍TiDB和CockroachDB两种实现方式，因为它们是比较典型的两种情况。至于它们哪里典型呢？我先不说，你可以在阅读过程中仔细体会。
|
|
|
|
|
|
### TiDB
|
|
|
|
|
|
首先来说TiDB，我们看图说话。
|
|
|
|
|
|
|
|
|
|
|
|
TiDB底层是分布式键值系统，我们假设两个事务操作同一个数据项。其中，事务T1执行写操作，由Prewrite和Commit两个阶段构成，对应了我们之前介绍的两阶段提交协议（2PC），如果你还不熟悉可以重新阅读[第9讲](https://time.geekbang.org/column/article/278949)复习一下。这里你也可以简单理解为T1的写操作分成了两个阶段，T2在这两个阶段之间试图执行读操作，但是T2会被阻塞，直到T1完成后，T2才能继续执行。
|
|
|
|
|
|
你肯定会非常惊讶，这不是MVCC出现前的读写阻塞吗？
|
|
|
|
|
|
TiDB为什么没有使用快照读取历史版本呢？ TiDB官方文档并没有说明背后的思路，我猜问题出在全局事务列表上，因为TiDB根本没有设计全局事务列表。当然这应该不是设计上的疏忽，我更愿意把它理解为一种权衡，是在读写效率和全局事务列表的维护代价之间的选择。
|
|
|
|
|
|
事实上，PGXC中的全局事务管理器就是一个单点，很容易成为性能的瓶颈，而分布式系统一个普遍的设计思想就是要避免对单点的依赖。当然，TiDB的这个设计付出的代价也是巨大的。虽然，TiDB在3.0版本后增加了悲观锁，设计稍有变化，但大体仍是这样。
|
|
|
|
|
|
### CockroachDB
|
|
|
|
|
|
那么如果有全局事务列表，又会怎么操作呢？说来也巧，CockroachDB真的就设计了这么一张全局事务列表。它是否照搬了单体数据库的“快照”呢？答案也是否定的。
|
|
|
|
|
|
我们来看看它的处理过程。
|
|
|
|
|
|
|
|
|
|
|
|
依旧是T1事务先执行写操作，中途T2事务启动，执行读操作，此时T2会被优先执行。待T2完成后，T1事务被重启。重启的意思是T1获得一个新的时间戳（等同于事务ID）并重新执行。
|
|
|
|
|
|
又是一个不可思议的过程，还是会产生读写阻塞，这又怎么解释呢？
|
|
|
|
|
|
CockroachDB没有使用快照，不是因为没有全局事务列表，而是因为它的隔离级别目标不是RR，而是SSI，也就是可串行化。
|
|
|
|
|
|
你可以回想一下第3讲中黑白球的例子。对于串行化操作来说，没有与读写并行操作等价的处理方式，因为先读后写和先写后读，读操作必然得到两个不同结果。更加学术的解释是，先读后写操作会产生一个**读写反向依赖**，可能影响串行化事务调度。这个概念有些不好理解，你也不用着急，在14讲中我会有更详细的介绍。总之，CockroachDB对于读写冲突、写写冲突采用了几乎同样的处理方式。
|
|
|
|
|
|
在上面的例子中，为了方便描述，我简化了读写冲突的处理过程。事实上，被重启的事务并不一定是执行写操作的事务。CockroachDB的每个事务都有一个优先级，出现事务冲突时会比较两个事务的优先级，高优先级的事务继续执行，低优先级的事务则被重启。而被重启事务的优先级也会提升，避免总是在竞争中失败，最终被“饿死”。
|
|
|
|
|
|
TiDB和CockroachDB的实现方式已经讲完了，现在你该明白它们典型在哪里了吧？对，那就是全局事务列表是否存在和实现哪种隔离级别，这两个因素都会影响最终的设计。
|
|
|
|
|
|
|
|
|
|
|
|
## 小结
|
|
|
|
|
|
好了，今天的话题就谈到这了，让我们一起回顾下这一讲的内容。
|
|
|
|
|
|
1. 用锁机制来处理读写冲突会影响并发处理能力，而MVCC的出现很好地解决了这个问题，几乎所有的单体数据库都实现了MVCC。MVCC技术包括数据的历史版本存储、清理机制，存储方式具体包括Append-Only、Delta、Time-Travel三种方式。通过MVCC和快照（基于MVCC），单体数据库可以完美地解决RC和RR级别下的读写冲突问题，不会造成事务阻塞。
|
|
|
2. PGXC风格的分布式数据库，用单体数据库作为数据节点存储数据，所以自然延续了其MVCC的实现方式。但PGXC的改变在于增加了全局事务管理器统一管理事务ID的生成和活动事务列表的维护。
|
|
|
3. NewSQL风格的分布式数据库，没有普遍采用快照解决读写冲突问题，其中TiDB是由于权衡全局事务列表的代价，CockroachDB则是因为要实现更高的隔离级别。但无论哪种原因，都造成了读写并行能力的下降。
|
|
|
|
|
|
要特别说明的是，虽然NewSQL架构的分布式数据库没有普遍使用快照处理读写事务，但它们仍然实现了MVCC，在数据存储层保留了历史版本。所以，NewSQL产品往往也会提供一些低数据一致性的只读事务接口，提升读取操作的性能。
|
|
|
|
|
|
## 思考题
|
|
|
|
|
|
最后，又到了我们的思考题时间。今天我介绍了两种风格的分布式数据库如何解决读写冲突问题。其实，无论是否使用MVCC实现快照隔离，时间都是一个重要的因素，每个事务都要获得一个事务ID或者时间戳，这直接决定了它能够读取什么版本的数据或者是否被阻塞。
|
|
|
|
|
|
但是你有没有想过时间误差的问题。我在[第2讲](https://time.geekbang.org/column/article/272104)中曾经提到Spanner的全局时钟存在7毫秒的误差，在[第5讲](https://time.geekbang.org/column/article/274908)又深入探讨了物理时钟和逻辑时钟如何控制时间误差。那么，你觉得时间误差会影响读写冲突的处理吗？
|
|
|
|
|
|
如果你想到了答案，又或者是触发了你对相关问题的思考，都可以在评论区和我聊聊，我会在下一讲和你一起探讨。最后，希望这节课能带给你一些收获，也欢迎你把它分享给周围的朋友，一起进步。
|
|
|
|