0x00 前言
- 会话(Session): 指客户端与 MySQL 服务器之间的一个连接。当客户端连接到 MySQL 服务器时,服务器会为客户端分配一个会话。会话是数据库操作的基本单位,每个会话都有一个唯一的 ID。在会话中,用户可以执行 SQL 语句来查询和修改数据。会话可以持续很长时间,直到客户端断开与服务器的连接。
-
事务(Transaction):事务是数据库操作的一个逻辑单元,它是由一系列的 SQL 语句(有限的数据库操作序列)组成。事务具有 ACID 特性(原子性 / 一致性 / 隔离性 / 持久性),这些特性保证了数据库在并发操作和系统故障的情况下,仍然能够保持数据的一致性和完整性。事务可以在一个会话中执行,也可以跨多个会话执行。事务是用户定义的一个数据库操作序列,这些操作要么全做,要么全不做,是一个不可分割的工作单位
- 锁:锁是用来解决并发问题的一种机制,主要是为了保证数据的一致性和完整性。锁的类型分为共享锁(读锁)和排他锁(写锁)。共享锁是指多个事务对同一数据可以共享一把锁,可以同时读取数据,但是不能修改数据。排他锁是指一旦一个事务获得了对数据的排他锁,其他事务就不能再对该数据加任何类型的锁。锁的粒度分为行锁和表锁,行锁锁定的是某一行数据,表锁锁定的是整个数据表
事务 && 会话 的区别
Session 是客户端与 MySQL 服务器之间的一个连接,它是数据库操作的基本单位;而 Transaction 是数据库操作的一个逻辑单元,它具有 ACID 特性,保证了数据库的一致性和完整性
- 生命周期:Session 的生命周期从客户端连接到服务器开始,直到客户端断开连接;而 Transaction 的生命周期从事务开始(如:
START TRANSACTION
)到事务结束(如:COMMIT
或ROLLBACK
) - 范围:Session 是数据库操作的基本单位,可以包含多个事务;而 Transaction 是数据库操作的一个逻辑单元,由一系列的 SQL 语句组成
- 隔离性:Session 之间是相互隔离的,一个会话中的操作不会影响到其他会话;而 Transaction 之间的隔离性取决于事务隔离级别,不同的隔离级别会对并发事务产生不同的影响
- 上下文:Session 具有自己的上下文,例如变量、临时表等;而 Transaction 的上下文是在会话的基础上进行操作,例如锁、回滚段等
事务 && 锁的区别
事务和锁的主要区别在于:
- 事务是数据库操作的一个执行单元,而锁是并发控制的一种手段
- 事务是逻辑上的概念,主要解决操作的原子性问题;而锁是物理上的概念,主要解决资源的并发访问问题
- 事务的触发是用户行为,而锁的触发是系统行为
事务和锁配合使用的主要原因是为了更好地解决并发访问下的数据一致性、完整性和隔离性问题。虽然锁机制可以解决并发访问的问题,但在某些场景下,仅仅依靠锁还不足以保证数据的完整性和一致性,事务可以保证一组操作的原子性,这意味着这组操作要么全部成功,要么全部失败。在事务中可以对多个 SQL 语句进行组合,使它们在一个原子操作中执行。即使在并发访问的情况下,也能确保数据的一致性和完整性
不需要事务的场景
MySQL 的事务主要用于确保数据的完整性和一致性,特别是在多个操作同时对同一数据进行修改时。然而并非所有操作都需要使用事务。以下是一些不需要使用事务的情况:
- 查询操作:如果只是读取数据,而不进行任何修改,那么就不需要使用事务
- 单一的插入、更新或删除操作:如果只对数据库进行单一的插入、更新或删除操作,而且这个操作不依赖于其他操作的结果,那么就不需要使用事务
- 无需保证原子性的操作:如果操作不需要保证原子性,即使在操作过程中出现错误,也不会对数据造成不一致性,那么就不需要使用事务
- 对数据一致性要求不高的操作:在某些场景下,例如日志记录、统计信息收集等,即使数据有一些小的不一致,也不会对系统产生严重影响,这种情况下可以不使用事务
0x01 基础例子
通过关于银行转账的例子演示如何使用事务来确保数据的完整性和一致性,假设有两个表:accounts
和 transactions
,分别用于存储账户信息和交易记录:
CREATE TABLE accounts (
id INT PRIMARY KEY AUTO_INCREMENT,
name VARCHAR(50),
balance DECIMAL(10, 2)
);
CREATE TABLE transactions (
id INT PRIMARY KEY AUTO_INCREMENT,
from_account INT,
to_account INT,
amount DECIMAL(10, 2),
transaction_date DATETIME
);
现在需要在 A 账户和 B 账户之间进行转账操作。假设 A 账户 ID 为 1
,B 账户 ID 为 2
,转账金额为 100
,使用事务处理转账操作的步骤如下:
开始一个新事务:
START TRANSACTION;
从 A 账户扣除转账金额:
UPDATE accounts SET balance = balance - 100 WHERE id = 1;
向 B 账户添加转账金额:
UPDATE accounts SET balance = balance + 100 WHERE id = 2;
记录交易信息:
INSERT INTO transactions (from_account, to_account, amount, transaction_date) VALUES (1, 2, 100, NOW());
检查 A 账户余额是否充足。如果余额不足,回滚事务;否则,提交事务
SELECT balance FROM accounts WHERE id = 1;
根据查询结果判断 A 账户余额是否充足。如果充足,执行以下命令提交事务:
COMMIT;
如果余额不足,执行以下命令回滚事务:
ROLLBACK;
使用 xorm 实现上述逻辑如下:
type Account struct {
Id int64 `xorm:"pk autoincr"`
Name string `xorm:"varchar(50)"`
Balance float64 `xorm:"decimal(10,2)"`
}
type Transaction struct {
Id int64 `xorm:"pk autoincr"`
FromAccount int64 `xorm:"int"`
ToAccount int64 `xorm:"int"`
Amount float64 `xorm:"decimal(10,2)"`
TransactionDate time.Time
}
func main() {
engine, err := xorm.NewEngine("mysql", "username:password@tcp(localhost:3306)/dbname?charset=utf8")
if err != nil {
fmt.Println("Failed to create engine:", err)
return
}
if err = engine.Sync2(new(Account), new(Transaction)); err != nil {
fmt.Println("Failed to sync tables:", err)
return
}
fromAccountId := int64(1)
toAccountId := int64(2)
transferAmount := 100.0
err = Transfer(engine, fromAccountId, toAccountId, transferAmount)
if err != nil {
fmt.Println("Transfer failed:", err)
} else {
fmt.Println("Transfer succeeded")
}
}
// 在 Transfer 函数中,首先获取并检查 A 账户的余额,如果余额充足,我们更新 A 和 B 账户的余额,并插入一条新的交易记录。最后,我们根据操作结果提交或回滚事务
func Transfer(engine *xorm.Engine, fromAccountId, toAccountId int64, amount float64) error {
session := engine.NewSession()
defer session.Close()
if err := session.Begin(); err != nil {
return err
}
var fromAccount Account
if has, err := session.ID(fromAccountId).Get(&fromAccount); err != nil {
session.Rollback()
return err
} else if !has {
session.Rollback()
return fmt.Errorf("account %d not found", fromAccountId)
}
if fromAccount.Balance < amount {
session.Rollback()
return fmt.Errorf("account %d has insufficient balance", fromAccountId)
}
fromAccount.Balance -= amount
if _, err := session.ID(fromAccountId).Update(&fromAccount); err != nil {
session.Rollback()
return err
}
var toAccount Account
if has, err := session.ID(toAccountId).Get(&toAccount); err != nil {
session.Rollback()
return err
} else if !has {
session.Rollback()
return fmt.Errorf("account %d not found", toAccountId)
}
toAccount.Balance += amount
if _, err := session.ID(toAccountId).Update(&toAccount); err != nil {
session.Rollback()
return err
}
transaction := Transaction{
FromAccount: fromAccountId,
ToAccount: toAccountId,
Amount: amount,
TransactionDate: time.Now(),
}
if _, err := session.Insert(&transaction); err != nil {
session.Rollback()
return err
}
return session.Commit()
}
如果只使用 session 实现,不使用事务,那么下面的代码存在什么问题呢?不推荐用于处理关键业务逻辑,因为它可能导致数据不一致。在上面的银行转账示例中,如果在更新 A 账户余额和 B 账户余额之间发生异常错误(比如 crash,进程重启等),可能会导致资金丢失或错误。使用事务可以确保所有操作要么全部成功,要么全部失败,从而保持数据的一致性
func TransferWithoutTransaction(engine *xorm.Engine, fromAccountId, toAccountId int64, amount float64) error {
session := engine.NewSession()
defer session.Close()
var fromAccount Account
if has, err := session.ID(fromAccountId).Get(&fromAccount); err != nil {
return err
} else if !has {
return fmt.Errorf("account %d not found", fromAccountId)
}
if fromAccount.Balance < amount {
return fmt.Errorf("account %d has insufficient balance", fromAccountId)
}
fromAccount.Balance -= amount
if _, err := session.ID(fromAccountId).Update(&fromAccount); err != nil {
return err
}
var toAccount Account
if has, err := session.ID(toAccountId).Get(&toAccount); err != nil {
return err
} else if !has {
return fmt.Errorf("account %d not found", toAccountId)
}
toAccount.Balance += amount
if _, err := session.ID(toAccountId).Update(&toAccount); err != nil {
return err
}
transaction := Transaction{
FromAccount: fromAccountId,
ToAccount: toAccountId,
Amount: amount,
TransactionDate: time.Now(),
}
if _, err := session.Insert(&transaction); err != nil {
return err
}
return nil
}
0x02 MySQL 体系结构
SQL 语句执行流程
- MySQL 客户端向 MySQL server 发起请求,获取到一个连接请求
- 在 connector(连接管理器)创建连接,分配线程,并验证用户名、密码和库表权限等
- 判断是否打开了 query_cache(查询缓存),如果打开了,则进入第
4
步,否则进入第5
步 - 根据当前 SQL 语句,获取到 hash 值,通过 hash 查询 cache&buffer 中是否有在过期时间范围内的数据。有则直接返回。否则进入第
5
步 - SQL 连接组件接收 SQL 语句,并将 SQL 语句分解成 MySQL 能够识别的数据结构(抽象语法树)
- Optimizer(查询优化器)根据 SQL 语句的特征,生产查询路径树,并选举一条最优的查询路径。
- 调用存储引擎接口,打开表,执行查询。同时检查存储引擎中是否有对应的缓存记录,如果有,则直接返回。如果没有就继续往下执行
- 到数据文件中寻找数据(如果有索引,会先通过索引查找)
- 当查询到所需要的数据之后,先写入存储引擎缓存中。如果打开了 query_cache,也会同时写进去
- 返回数据给客户端,同时关闭表,线程和连接
InnoDB 存储结构
一个记录的检索过程分为如下两步:
- 检索记录所在的 Page:Page 的检索是通过索引构建的 B+Tree 进行检索的
- 在 Page 中检索记录:Page 内的记录的检索是通过 Slot 槽位构建的 HashMap(跳表)进行检索的
redo log vs undo log vs binlog
redo/undo 是 innodb 引擎层维护的,而 binlog 是 mysql server 层维护的,跟采用何种引擎没有关系,记录的是所有引擎的更新操作的日志记录;redo/undo 记录的是每个页 / 每个数据的修改情况,属于物理日志与逻辑日志结合的方式(其中redo log 是物理日志,undo log 是逻辑日志),而binlog 是逻辑日志,其记录是对应的 SQL 语句;redo/undo 在事务执行过程中会不断的写入,而 binlog 是在事务最终提交前写入的
0x03 MySQL 事务
事务的并发问题
1、脏读:一个事务中访问到了另外一个事务未提交的数据,如果会话 2
更新 age 为 10
,但是在 commit 之前,会话 1
此时获取 age,那么会获得的值就是会话 2
中尚未 commit 的值。如果会话 2
再次更新 age 或执行 rollback,而会话 1
已经拿到了 age=10
的值,这就是脏读
2、不可重复读:是一个事务读取同一条记录 2
次,得到的结果不一致,由于在读取中间变更了数据,所以会话 1
事务查询期间的得到的结果就不一样了
3、幻读:指一个事务读取 2
次,得到的记录条数不一致。由于在会话 1
之间插入了一个新的数据,所以得到的两次数据就不一样了;在一个事务内,多次查询返回的结果集不一致,即使没有其他事务对数据进行修改。这是因为其他事务可能在这个事务的读取过程中插入了新的数据(幻读主要发生在范围查询中)
事务的隔离级别
为了解决上面的事务并发问题,SQL 规定了四个隔离水平:
- 读未提交(Read Uncommited):该隔离级别安全最低,允许脏读,即一个事务可以读取另一个未提交事务的数据
- 读已提交(Read Commited):存在不可重复读取,但不允许脏读。读已提交只允许获取已经提交的数据;即一个事务要等另一个事务提交后才能读取数据
- 可重复读(Repeatable Read):保证在事务处理过程中,多次读取同一个数据时,其值都和事务开始时刻是一致的,因此该事务级别禁止不可重复读取和脏读,但是有可能出现幻读。在开始读取数据(事务开启)时,不再允许修改操作;在可重复读级别下,事务会看到在它开始之前已经提交的其他事务所做的更改,但是在事务开始之后其他事务所做的更改对当前事务是不可见的。这就保证了在同一个事务中多次读取同一行数据时,即使其他事务对该行数据进行了修改,当前事务也能看到一致的数据
- 串行化(Serializable):最严格的事务隔离级别,它要求所有事务被串行执行,即事务只能一个接一个的进行处理,不能并发执行;在该级别下,事务串行化顺序执行
通俗点说:
- 读未提交:别人修改数据的事务尚未提交,我在我的事务中也能读到
- 读已提交:别人修改数据的事务已经提交,我在我的事务中才能读到
- 可重复读:确保在一个事务中多次读取同一行数据时,每次读取的结果都是一致的
- 串行化:我的事务尚未提交,别人就别想读数据
隔离级别 | 脏读 | 不可重复读 | 幻读 |
---|---|---|---|
读未提交 | 存在 | 存在 | 存在 |
读已提交 | 不存在 | 存在 | 存在 |
可重复读 | 不存在 | 不存在 | 存在 |
串行化 | 不存在 | 不存在 | 不存在 |
隔离级别越高,越能保证数据的完整性和一致性,但是对并发性能的影响也越大。对于多数应用程序,可以优先考虑把数据库系统的隔离级别设为 Read Committed。如何解决事务并发问题?在 MySQL、Oracle 中,为了性能的考虑并不是完全按照上面的 SQL 标准来实现的。数据库实现事务隔离的方式,基本可以分为以下两种:
- 在读取数据前,对其加锁,阻止其他事务对数据进行修改
- 不用加任何锁,通过一定机制生成一个数据请求时间点的一致性数据快照(Snapshot),并用这个快照来提供一定级别(语句级或事务级)的一致性读取。从用户的角度来看,数据库可以提供同一数据的多个版本,因此,这种技术叫做数据多版本并发控制(MultiVersion Concurrency Control)
业界数据库的默认隔离级别
Database | Default isolation Level |
---|---|
Oracle | READ_COMMITTED |
MySQL | REPETABLE_READ |
Microsoft SQL Server | READ_COMMITTED |
PostgreSQL | READ_COMMITTED |
MySQL 数据库中,默认的隔离级别为 Repeatable read(可重复读)
隔离级别越高,越能保证数据的完整性和一致性,但是对并发性能的影响也越大。对于多数应用程序,可以优先考虑把数据库系统的隔离级别设为 Read Committed。它能够避免脏读取,而且具有较好的并发性能。尽管它会导致不可重复读、幻读和第二类丢失更新这些并发问题,在可能出现这类问题的业务场景,可以采用悲观锁或乐观锁来控制。
MVCC
MySQL 通过 MVCC 机制,实现了事务的多版本控制。最早的数据库系统,只有读读之间可以并发,读写 / 写读 / 写写都要阻塞,引入多版本之后,只有写写之间相互阻塞,其他三种操作都可以并行,这样大幅度提高了 InnoDB 的并发度。
在 MySQL 中,主要通过这 3
种机制协同工作实现了 MVCC:
1、机制一:隐藏字段(版本链)
在插入一条记录时,除了用户指定的数据字段外,MySQL 会默认额外添加如下三个隐藏字段:
db_row_id
:随着新行插入而单调递增的占6
字节的行 ID(并非顺序递增),主要作用是当表没有主键或唯一非空索引时,innodb 就会使用这个行 ID 自动产生聚簇索引。如果表有主键或唯一非空索引,聚簇索引就不会包含这个行 ID 了。DB_ROW_ID
跟 MVCC 关系不大。如果先没有指定主键,在表运行一段时间后,创建主键,那么会 MySQL 会进行聚簇索引的重建,会将新创建的主键或唯一索引作为聚簇索引,构建表db_trx_id
:事务 id,表示最近一次对本记录行作修改(INSERT
或UPDATE
)的事务 ID。至于DELETE
操作,InnoDB 认为是一个UPDATE
操作,不过会更新一个另外的删除位,将行表示为deleted
,并非真正删除db_roll_ptr
:回滚指针,指向该版本记录的前一个版本,实际指向的是当前记录行的 ** 上一版本 ** 的 undo log 信息
2、机制二:Read View
Read View 主要是用来做可见性分析的, 里面保存了 ** 对本事务不可见的其他活跃事务 **,它包含了两个要点:
A)当一个事务被创建时,会创建该事务的 Read View(读视图),主要保存如下三个信息:
- 当前活跃事件列表(即当前还未提交的事务 id)
- 列表中最小事务 ID:小于当前事务 ID 的数据都是可见的,因为这些事务肯定已经 commit 或者 rollback
- 列表中最大事务 ID:大于当前事务 ID 的数据都是不可见的,需要通过回滚指针找到下一个版本
B)一个事务通过 Read View 做可见性分析时,遵循如下规则:
- 小于活跃事件列表中最小事务 id:该事务已提交,可见
- 大于活跃事件列表中最大事务 id:该事务 id 对应的事务在当前事务启动之后才开启,不可见
- 在事务 id 处于
(min_trx_id, max_trx_id)
时,就需要校验是否在当前活跃事件列表中:因为事务的执行时间是不确定的,在min_trx_id
后面启动的事务,可能已经提交,这时也是可见的:- 不在活跃事件列表中:说明该事务在当前事务启动时,已经提交,可见
- 在活跃事件列表中:说明该事务在当前事务启动时,还没有提交,处于活跃状态,哪怕在当前事务启动之后提交,也是不可见的
3、机制三:Undo log
回滚日志,Undo log 中存储的是老版本数据,当一个事务需要读取记录行时,** 如果当前记录行不可见 **,可以顺着 undo log 链找到满足其可见性条件的记录行版本
Undo log 分类:在 InnoDB 里分为如下两类:
- insert undo log:事务对
insert
新记录时产生的 undo log, 只在事务回滚时需要, 并且在事务提交后就可以立即丢弃 - update undo log:事务对记录进行
delete
和update
操作时产生的 undo log,不仅在事务回滚时需要,快照读也需要,只有当数据库所使用的快照中不涉及该日志记录,对应的回滚日志才会被purge
线程删除
Undo log 的作用
- 保证事务原子性,即可以通过 undo log 做回滚操作
- 实现数据多版本:即实现 MVCC 机制。结合上面的 Read View 来看,一个事务会在上述的链表中,最终找到一个在当前事务中可见的记录版本
一条记录在经过多个事务修改后,在数据库中,大致的一个数据存储结构如下图所示:
当前读 VS 快照读
- 在 innodb 中创建一个新事务后,执行第一个
select
语句的时候,innodb 会创建一个快照(Read View),快照中会保存系统当前不应该被本事务看到的其他活跃事务 id 列表(即trx_ids
) - 当用户在这个事务中要读取某个记录行的时候,innodb 会将该记录行的
DB_TRX_ID
与该 Read View 中的一些变量进行比较,判断是否满足可见性条件(见 Read View 可见性分析)
- 快照读(snapshot read):也叫普通读,即通过回滚指针构成的链表,读取到当前事务对应的事务 id** 可见的数据版本 **。普通的
select
语句(但是不包括select ... lock in share mode
,select ... for update
)就是快照读;该方法是利用 MVCC 机制读取快照中的数据(不加锁的简单的 SELECT 都属于快照读) - 当前读(current read):即直接读取聚簇索引中存储的最新数据,** 不会通过记录中的回滚指针向下寻找 **,如
select ... lock in share mode
,select ... for update
,insert
,update
,delete
语句都是属于当前读 - 快照读是基于 MVCC 实现的,提高了并发的性能,降低开销
- 大部分业务代码中的读取都属于快照读
- 当前读读取的是记录的最新版本,读取时会对读取的记录进行加锁, 其他事务就有可能阻塞。加锁的
SELECT
,或者对数据进行增删改都会进行当前读,update
、delete
、insert
语句虽然没有select
, 但是它们也会先进行读取,而且只能读取最新版本
SELECT * FROM user LOCK IN SHARE MODE; # 共享读锁
SELECT * FROM user FOR UPDATE; # 排他锁
INSERT INTO user values ... # 插入意向锁
DELETE FROM user WHERE ... # 排他锁
UPDATE user SET ... # 排他锁
注意:只靠 MVCC 实现 RR(Repeatable Read)隔离级别,** 可以保证可重复读,还能防止部分幻读,但并不是完全防止 **。因此,InnoDB 在实现 RR 隔离级别时,不仅使用了 MVCC,还会对当前读语句读取的记录行加记录锁(record lock)和间隙锁(gap lock),禁止其他事务在间隙间插入记录行,来防止幻读。也就是行级锁 + MVCC,这样就可以防止幻读问题
此外,再讨论下 RR 和 RC 的 Read View 产生区别:
- 在 innodb 中的 Repeatable Read 级别, 只有事务在 begin 之后,执行第一条
select
(读操作)时, 才会创建一个快照 (read view),将当前系统中活跃的其他事务记录起来;并且事务之后都是使用的这个快照,不会重新创建,直到事务结束 - 在 innodb 中的 Read Committed 级别, 事务在 begin 之后,执行每条
select
(读操作)语句时,快照会被重置,即会重新创建一个快照 (read view)
为什么将 INSERT
/ UPDATE
/ DELETE
操作,都归为当前读?先看下 UPDATE
操作的具体流程:
当 Update SQL 被发给 MySQL 后,MySQL Server 会根据 where
条件,读取第一条满足条件的记录,然后 InnoDB 引擎会将第一条记录返回,并加锁(共享锁),待 MySQL Server 收到这条加锁的记录之后,会再发起一个 Update
请求,申请升级为排他锁,更新这条记录。一条记录操作完成,再读取下一条记录,直至没有满足条件的记录为止。因此,Update
操作内部,就包含了一个当前读。同理,Delete
操作也一样。Insert
操作会稍微有些不同,Insert
操作可能会触发 Unique Key 的冲突检查(插入意向锁),也会进行一个当前读
重要:Mysql 是如何避免幻读的?
在 RR 级别中,如果仅仅通过 MVCC 的话,** 只能防止快照读的幻读发生,而不能防止当前读产生的幻读问题 **。因此 MySQL 通过 **MVCC + 行锁 ** 实现的 RR 事务隔离级别
1、快照读是如何避免幻读的?
根据前文描述,MySQL 在可重复读隔离级别下,是通过 MVCC 机制避免幻读的。MVCC 机制,通俗点可理解成在事务启动的时候对数据库拍了个快照 snapshot,它保留了那个时刻数据库的数据状态,那么该事务后续的读取都可以从此快照中获取,哪怕其他事务新加了数据,也不会影响到此快照中的数据,也就不会出现幻读了。结合前文的幻读 case,事务会话 1
在启动的时候创建了一个 snapshot,两次相同查询条件的 SELECT
结果是相同的,不会受到会话 2
的 INSERT
影响
2、当前读是如何避免幻读的?
普通读(快照读)实际上读取的是历史版本中的数据,但此方式读取在某些场景下是有问题的,假设需要 update
一个记录,但另一个事务已经 delete
这条记录并且提交事务了,这样会产生冲突,所以 update
的时候要知道最新的数据(当前读),那么 MySQL 在可重复读隔离级别下是如何避免幻读的呢?由于需要最新状态的数据,那么试想能否在当前读的时候,对这段区间都加锁,让其他事务阻塞,无法插入?InnoDB 为了解决可重复读隔离级别使用当前读而造成的幻读问题,引入了间隙锁(gap lock)
- 事务 A SQL
SELECT ... for update
是属于当前读,它会对锁定 id 范围 (2,+$\infty$) - 事务 B 插入了
id=5
的数据, (2,+$\infty$) 范围被锁定了,所以无法插入,阻塞
小结下:
- 针对快照读,InnoDB 是通过 MVCC 方式解决了幻读
- 针对当前读,通过 next-key lock(记录锁)加 gap lock(间隙锁)方式解决了幻读
事务的实现方式
TODO
小结:事务 && MVCC
小结下:
1、不同的隔离级别能解决的并发问题,隔离级别越高,性能也会越差,现网应用需要取舍
2、隔离性的实现机制,根据事务的读写场景不一致,大致可以分为两类:
- 事务 A 写操作对事务 B 写操作的影响:InnoDB 通过锁机制保证隔离性,隔离性要求同一时刻只能有一个事务对数据进行写操作。事务在修改数据之前,需要先获得相应的锁;获得锁之后,事务便可以修改数据。该事务操作期间,这部分数据是锁定的,其他事务如果需要修改数据,需要等待当前事务提交或回滚后释放锁
- 事务 A 写操作对事务 B 读操作的影响:InnoDB 通过 MVCC 保证隔离性,在同一时刻,不同的事务读取到的数据可能是不同的(多版本),每个事务会有一个自己的
ReadView
, 所谓ReadView
,是指事务在某一时刻给整个事务系统打快照,之后再进行读操作时,会将读取到的数据中的事务id
与trx_sys
快照比较,从而判断数据对该ReadView
是否可见
3、MVCC 是一种无锁方案,用以解决事务读写并发的问题,能够极大提升读写并发操作的性能
0x04 MVCC:举个例子
本小节,引入一个例子来加深对MVCC机制的了解。创建一个表 t_book
,就三个字段,分别是主键 book_id
、book_name
、stock
,然后向表中插入一些数据:
INSERT INTO t_book VALUES(1, '数据结构', 100);
INSERT INTO t_book VALUES(2, 'C++指南', 100);
INSERT INTO t_book VALUES(3, '精通Java', 100);
前面提到过如果在一个事务中多次对记录进行修改,则每次修改都会生成 undo log,并且这些 undo log 通过 DB_ROLL_PTR
指针串联成一个版本链,版本链的头结点是该记录最新的值,尾结点是事务开始时的初始值,若在表 t_book
做以下修改:
BEGIN;
UPDATE t_book SET stock = 200 WHERE id = 1;
UPDATE t_book SET stock = 300 WHERE id = 1;
那么 id=1
的记录此时的版本链就如下图所示:
ReadView的引入
引入了版本链后,再看四种事务隔离级别:
- Read Uncommitted 事务:只需要读取版本链上最新版本的记录即可
- Serializable 事务:InnoDB 使用加锁的方式来访问记录
而对于 Read Committed 和 Repeatable Read 这两种隔离级别:都需要读取已经提交的事务所修改的记录,也就是说如果版本链中某个版本的修改没有提交,那么该版本的记录时不能被读取的。所以需要确定在 Read Committed 和 Repeatable Read 隔离级别下,版本链中哪个版本是能被当前事务读取的。因此innodb引入 ReadView 来解决这个问题:ReadView 相当于某个时刻表记录的一个快照,在这个快照中能获取到与当前记录相关的事务中,哪些事务是已提交的稳定事务,哪些是正在活跃的事务,哪些是生成快照之后才开启的事务。由此就能根据可见性比较算法判断出版本链中能被读取的最新版本记录
Read Committed 和 Repeatable Read 隔离级别下的区别就是它们生成 ReadView 的时机不同,Read Committed 隔离级别下,每次select
读取数据时都会生成 ReadView;而在 Repeatable Read 隔离级别下只会在事务首次 select
数据时生成 ReadView,之后的读操作都会使用相同的 ReadView
可见性比较算法
可见性比较算法是基于事务 ID 的比较算法。事务 ID 是递增分配的,从 ReadView 中能获取到生成快照时刻系统中活跃的事务中最小和最大的事务 ID(最大的事务 ID 实际上是系统中将要分配给下一个事务的 ID 值),这样就得到一个活跃事务 ID 的范围ACTIVE_TRX_ID_RANGE
。那么小于这个范围的事务 ID 对应的事务都是已提交的稳定事务,大于这个范围的事务都是在快照生成之后才开启的事务,在 ACTIVE_TRX_ID_RANGE
范围内的事务中除了正在活跃的事务,也都是已提交的稳定事务
算法大致过程如下:
- 首先判断版本记录的
DB_TRX_ID
字段与 ReadView 的creator_trx_id
字段(ReadView 中的属性,记录创建这条记录 / 最后一次修改该记录的事务 ID)是否相等。如果相等,那就说明该版本的记录是在当前事务中生成的,自然也就能够被当前事务读取;否则进行2
- 如果版本记录的
DB_TRX_ID
字段小于范围ACTIVE_TRX_ID_RANGE
,表明该版本记录是已提交事务修改的记录,即对当前事务可见否则进行3
- 版本记录的
DB_TRX_ID
字段位于范围ACTIVE_TRX_ID_RANGE
内:如果该事务ID 对应的不是活跃事务(已经提交了),即对当前事务可见;如果该事务 ID 对应的是活跃事务(还未提交了),那么对当前事务不可见,则读取版本链中下一个版本记录。重复以上步骤,直到找到对当前事务可见的版本
如果某个版本记录经过以上步骤判断确定其对当前事务可见,则查询结果返回此版本记录;否则读取下一个版本记录继续按照上述步骤进行判断,直到版本链的尾结点。如果遍历完版本链没有找到对当前事务可见的版本,则查询结果为空
Read Committed 机制下的 MVCC
假设在 Read Committed 隔离级别下,有如下事务在执行,事务 id 为 10
:
BEGIN; // 开启 Transaction 10
UPDATE book SET stock = 200 WHERE id = 2;
UPDATE book SET stock = 300 WHERE id = 2;
此时该事务尚未提交,id 为 2
的记录版本链如下图所示:
然后另外开启一个事务对 id 为 2
的记录进行查询:
BEGIN;
SELECT * FROM book WHERE id = 2; // 此时 Transaction 10 未提交
当执行 SELECT
语句时会生成一个 ReadView,该 ReadView 中的 ACTIVE_TRX_ID_RANGE
为 [10, 11)
,creator_trx_id
为 0
(因为事务中当执行写操作时才会分配一个单独的事务 id,否则事务 id 为 0
),此时查询到的 id=2
记录的stock
值应为 100
然后将事务 id 为 10
的事务提交:
BEGIN; // 开启 Transaction 10
UPDATE book SET stock = 200 WHERE id = 2;
UPDATE book SET stock = 300 WHERE id = 2;
COMMIT;
同时开启执行另一事务 id 为 11
的事务,但不提交:
BEGIN; // 开启 Transaction 11
UPDATE book SET stock = 400 WHERE id = 2;
此时 id 为 2
的记录版本链如下:
然后回到刚才的查询事务中再次查询 id 为 2
的记录:
BEGIN;
SELECT * FROM book WHERE id = 2; // 此时 Transaction 10 未提交
SELECT * FROM book WHERE id = 2; // 此时 Transaction 10 已提交
当第二次执行 SELECT
语句时会再次生成一个 ReadView,该 ReadView 中的 ACTIVE_TRX_ID_RANGE
为 [11, 12)
,当前事务 ID creator_trx_id
依然为 0
。按照 ReadView 的工作原理进行分析,查询到的 id=2
的 book
,stock
值为 300
从上述分析可以发现,因为每次执行查询语句都会生成新的 ReadView,所以在 Read Committed 隔离级别下的事务读取到的是查询时刻表中已提交事务修改之后的数据
Repeatable Read 下的 MVCC
Repeatable Read 隔离级别下的事务只会在第一次执行查询时生成 ReadView,该事务中后续的查询操作都不会生成新的 ReadView,因此该隔离级别下,一个事务中多次执行同样的查询,其结果都是一样的,这样就实现了可重复读
最后一个问题,在Repeatable Read下,如何解决幻读问题(参考上文描述)
- 当前读使用临键锁解决幻读问题
- 快照读使用 MVCC 解决幻读问题
0x05 Mysql 的锁
不使用事务的话,默认的 SQL 语句会用到锁机制吗?答案是肯定的,即使不显式使用事务,MySQL 默认的 SQL 语句也会使用锁机制。原因是为了保证数据的一致性和完整性。在 MySQL 中,锁是自动管理的,当执行一个 UPDATE
或 DELETE
等修改数据的语句时,MySQL 会自动给涉及的数据行加上排他锁(写锁),执行完毕后再自动释放。同样当执行一个 SELECT ... FOR UPDATE
语句时,MySQL 也会自动给涉及的数据行加上共享锁(读锁),执行完毕后再自动释放。即使没有显式使用事务,MySQL 也会在必要时使用锁来保证数据的一臀性和完整性
分类
1、悲观锁
悲观锁指的是对数据被外界(包括本系统当前的其他事务,以及来自外部系统的事务处理)修改持保守态度,因此,在整个数据处理过程中,将数据处于锁定状态。例如 select...for update
是 MySQL 提供的实现悲观锁的方式。在悲观锁的情况下,为了保证事务的隔离性,其它事务无法修改这些数据
2、乐观锁
相对悲观锁而言,乐观锁机制采取了更加宽松的加锁机制。悲观锁依靠数据库的锁机制实现,以保证操作最大程度的独占性。但悲观锁随之而来的就是数据库性能的大量开销,而乐观锁机制在一定程度上解决了这个问题。乐观锁大多是基于数据版本(version
)记录机制实现,即通过为数据库表增加一个数字类型的 version
字段,当读取数据时,将 version
字段的值一同读出,数据每更新一次,对此 version
值 +1
。当提交更新的时候,判断数据库表对应记录的当前版本信息与第一次取出来的 version
值进行比对,如果数据库表当前版本号与第一次取出来的 version
值相等,则予以更新,否则认为是过期数据,返回更新失败
此外,MySQL 定义了两种锁的粒度:表级、行级锁,对比如下:
- 表锁:由 MySQL Server 控制,分为读锁和写锁。优点是开销小,加锁快;不会出现死锁;缺点是锁定粒度大,发生锁冲突的概率最高,并发度最低。表锁适合查询多、更新少的场景;当对表加了读锁,则会话只能读取当前被加锁的表,其它会话仍然可以对表进行读取但不能写入;当对表加了写锁,则会话可以读取或写入被加锁的表,其它会话不能对加锁的表进行读取或写入
- 行锁:由存储引擎实现(InnoDB)。优点是开销大,加锁慢;会出现死锁;缺点是锁定粒度最小,发生锁冲突的概率最低,并发度也最高。InnoDB 引擎下默认使用行级锁。行级锁适合按索引更新频率高的场景
锁的模式
共享锁和排它锁都是行级锁。意向共享锁和意向排他锁是表级锁。意向共享锁和意向排他锁都是系统自动添加和自动释放的,整个过程无需人工干预,下面是常见的锁模式
1、共享锁(行锁)
共享锁(S
锁,Shared Lock),读锁,允许一个事务去读数据集,阻止其他事务获得该数据集的排他锁。共享锁与共享锁可以同时使用。举例:若事务T
对数据对象A
加上S
锁,则事务T
可以读A
但不能修改A
,其他事务只能再对A
加S
锁,而不能加X
锁,直到T
释放A
上的S
锁。这保证了其他事务可以读A
,但在T
释放A
上的S
锁之前不能对A
做任何修改
2、排他锁(行锁)
排他锁(X
锁,Exclusive Lock),又称写锁,允许获取排他锁的事务更新数据,阻止其他事务获得相同的数据集的共享锁和排他锁。排它锁与排它锁、共享锁都不兼容。若事务T
对数据对象A
加上X
锁,事务T
可以读A
也可以修改A
,其他事务不能再对A
加任何锁,直到T释放A
上的锁
3、意向共享锁(表锁)
意向共享锁(IS
锁,Intention Shared Lock):事务打算给数据行共享锁,事务在给一个数据行加共享锁前必须先取得该表的IS
锁
- 意向排他锁(表锁)
意向排他锁(IX
锁,Intention Exclusive Lock):事务打算给数据行加排他锁,事务在给一个数据行加排他锁前必须先取得该表的IX
锁
意向锁之间不会发生冲突,但共享锁、排它锁、意向锁之间会发生冲突,表级别各种锁的兼容性如下表:
兼容性 | X | IX | S | IS |
---|---|---|---|---|
X | 不兼容 | 不兼容 | 不兼容 | 不兼容 |
IX | 不兼容 | 兼容 | 不兼容 | 兼容 |
S | 不兼容 | 不兼容 | 兼容 | 兼容 |
IS | 不兼容 | 兼容 | 兼容 | 兼容 |
5、自增锁
AUTO-INC Locks,是一种特殊的表锁。当表有设置自增auto_increment
列,在插入数据时会先获取自增锁,其它事务将会被阻塞插入操作,自增列+1
后释放锁,如果事务回滚,自增值也不会回退,所以自增列并不一定是连续自增的
6、元数据锁
元数据锁(metadata lock),MySQL Server控制,表级锁,是维护表元数据的数据一致性,保证在表上有活动事务(显式或隐式)的时候,不可以对元数据进行写入操作。从MySQL5.5版本开始引入了MDL锁,来保护表的元数据信息,用于解决或者保证DDL操作与DML操作之间的一致性
行锁的分类
1、记录锁(Record lock):在唯一索引列或主键列记录上加锁,且该值存在,否则加锁类型为间隙锁。例如 SELECT a FROM t WHERE a = 12 FOR UPDATE
,对值为 12
的索引进行锁定,防止其它事务插入、删除、更新值为 a = 12
的记录行
2、间隙锁(Gap Lock):只有在可重复读、串行化隔离级别才有,在索引记录之间的间隙中加锁,或者是在某一条索引之前或者之后加锁,并不包括该索引本身,例如:SELECT a FROM t WHERE a > 15 and a <20 FOR UPDATE
,且 a
存在的值为 1
、2
、5
、10
、15
、20
,则将 (15,20)
的间隙锁住
间歇锁的范围:
- 对主键或唯一索引当前读时,
WHERE
条件全部精确命中 (=
或者in
),这种场景本身就不会出现幻读,所以只会加记录锁 - 没有索引的列当前读操作时,会加全表 gap 锁,生产环境要注意(所有主键
X
锁,所有主键间隙 gap 锁) - 非唯一索引列,如果
where
条件部分命中(>
、<
、like
等) 或者全未命中,则会加附近 gap 间隙锁。例如,某表数据如下,非唯一索引2,6,9,9,11,15
,那么SQLdelete from table where another_id = 9
要操作非唯一索引列9
的数据,gap 锁将会锁定的列是(6,11)
,该区间内无法插入数据
注意:在使用范围条件检索并锁定记录时,gap锁机制会阻塞符合条件范围内键值的并发插入,这往往会造成严重的锁等待。在实际应用开发中,尤其是并发插入比较多的应用,要尽量优化业务逻辑,尽量使用相等条件来访问更新数据,避免使用范围条件;此外,间隙锁和间隙锁之间是互不冲突的,间隙锁唯一的作用就是为了防止其他事务的插入,在 Repeatable Read(可重复读)级别下解决了幻读的问题。例如 id 有 3,4,5
,间隙锁锁定 id>3
的数据,是指的 4
及后面的数字都会被锁定。这样的话加入新的数据 id=6
,就会被阻塞,从而避免了幻读
3、临键锁(Next-Key Lock):是记录锁和间隙锁的合集。只有在可重复读、串行化隔离级别才有
例如一个索引有10,11,13,20
这四个值。InnoDB可以根据需要使用记录锁将10
,11
,13
,20
这四个索引锁住,也可以使用gap锁将 (-$\infty$,10)、 (10,11)
、(11,13)
、(13,20)
、(20,+$\infty$) 五个范围区间锁住,而临键锁是记录锁和间隙锁的合集
4、插入意向锁
插入意向锁(Insert Intention Locks),是一种特殊的间隙锁,只有在执行INSERT
操作时才会加锁,插入意向锁之间不冲突,可以向一个间隙中同时插入多行数据,但插入意向锁与间隙锁是冲突的,当有间隙锁存在时,插入语句将被阻塞,正是这个特性解决了幻读的问题
假设有一个记录索引包含键值4
和7
,不同的事务分别插入5
和6
,每个事务都会产生一个加在4-7
之间的插入意向锁,获取在插入行上的排它锁,但是不会被互相锁住,因为数据行并不冲突
5、意向锁
innodb的意向锁主要用户多粒度的锁并存的情况。比如事务A
要在一个表上加S
锁,如果表中的一行已被事务B
加了X
锁,那么该锁的申请也应被阻塞。如果表中的数据很多,逐行检查锁标志的开销将很大,系统的性能将会受到影响。为了解决这个问题,可以在表级上引入新的锁类型来表示其所属行的加锁情况,这就引出了意向锁的概念。
举个例子,如果表中记录1亿,事务A
把其中有几条记录上了行锁了,这时事务B
需要给这个表加表级锁,如果没有意向锁的话,那就要去表中查找这一亿条记录是否上锁了。如果存在意向锁,那么假如事务A
在更新一条记录之前,先加意向锁,再加X
锁,事务B
先检查该表上是否存在意向锁,存在的意向锁是否与自己准备加的锁冲突,如果有冲突,则等待直到事务A
释放,而无须逐条记录去检测。而事务B
更新表时,其实无须知道到底哪一行被锁了,它只要知道反正有一行被锁了就行了
意向锁的主要作用是处理行锁和表锁之间的矛盾,能够显示某个事务正在某一行上持有了锁,或者准备去持有锁