• Innodb行锁源码学习(一)


          Innodb是mysql数据库中目前最流行的存储引擎,innodb相对其它存储引擎一个很大的特点是支持事务,并且支持行粒度的锁。今天我重点跟大家分享下innodb行锁实现的基础知识。由于篇幅比较大,文章会按如下的目录结构展开。

    {
      innodb锁结构
      锁机制关键流程
      innodb行锁开销
      innodb锁同步机制
      innodb等待事件实现
    }

    先从一个简单的例子说起,如下表1

    时间轴

    A用户(T1)

    B用户(T2)

    t1

    select * from t where id=1 for update

     

    t2

     

     

    select * from t where id=1 for update

    t3

     

     

    挂起状态

    t4

    commit

     

    t5

     

    执行成功

                                                       表1

    t1时刻A用户获得表t中id为1这条记录的排它锁,那么当t2时刻B用户再请求该记录的排它锁时,则需要等待;t4时刻A用户提交事务后,则B用户立即也执行成功。这个简单例子的背后有几个问题需要我们思考,第一,innodb如何挂起B用户的执行线程的;第二,用户B又如何在A用户提交事务后,立即执行成功返回的。上面例子本质上是innodb使用锁达到了A用户和B用户有序操作id为1这条记录的目的,下文会详细介绍这个实现过程,同时会介绍锁相关的一些基础知识。

     

    1. Innodb锁结构

    Innodb锁结构通过lock_sys管理,所有的行锁lock_t对象都插入hash表中,通过维护hash表,来管理行锁对象,hash表的key值通过页号(space_id,page_no)计算得到。

       1)  锁系统结构图

       

      2) 重要数据结构

     1 lock_sys
     2 {
     3     hash_table_t*   rec_hash;  //行锁hash表
     4     srv_slot_t* waiting_threads; //等待对象数组
     5 }
     6 
     7 lock_rec_t 
     8 {                                        
     9     ulint   space;    //表空间编号                     
    10     ulint   page_no;  //数据页编号            
    11     ulint   n_bits;    //数据页包含的记录
    12     byte   bitmap[1+n_bits/8]  //bitmap数组                 
    13 };

    2.关键流程

       1) 创建锁【lock_rec_create】

           a)计算页面中的记录数目,

           b)按每个记录一个bit存储,计算需要的存储空间

           c)申请lock_t的存储空间

           d)初始化bitmap,将heap_no对应的bit位置1,表示上锁

           e)将锁对象指针插入hash链表

           f)将锁对象插入到事务的锁链表

      2) 查询某一个记录上锁情况:(是否上锁,锁类型)

          a) 获取记录信息: (space_id,page_no),和heap_no

          b) 根据(space_id,page_no)查找hash表,获取锁对象lock _t

          c) 根据锁对象内容,判断是共享锁还是排它锁

         d) 若存在,遍历锁对象的bitmap,确定heap_no对应的位是否为1。

         e) 为1,表示已经加锁

       3) 上行锁

         a) 查找hash表,判断页面上是否有锁

         b) 若不存在,则创建锁,将锁对象插入hash链表

         c) 若存在,判断是否事务已有更强的锁存在 (lock_rec_has_expl)

         d) 若是,跳转5,若不是,跳转6(lock_rec_lock_slow)

         e) 根据页面的heap_no设置bit位,结束。

         f) 判断请求锁是否有锁冲突

         g)若是,创建锁(模式LOCK_WAIT),设置wait_lock (lock_rec_enqueue_waiting)

         h)若不是,上锁成功,加入锁队列(lock_rec_add_to_queue)

         i) 上层调用根据返回的错误码,调用锁等待逻辑(lock_wait_suspend_thread)

      4) 锁等待【lock_wait_suspend_thread】

      a) 根据工作线程信息获取事务信息;

      b) 申请slot节点(lock_wait_table_reserve_slot),初始化等待事件;

      c) 设置等待事件(linux中通过条件变量实现),将线程挂起

    调用堆栈
    #0 pthread_cond_wait #1 os_cond_wait(pthread_cond_t*, os_fast_mutex_t*) () #2 os_event_wait_low(os_event*, long) () #3 lock_wait_suspend_thread(que_thr_t*) () #4 row_mysql_handle_errors(dberr_t*, trx_t*, que_thr_t*, trx_savept_t*) ()

       5) 释放锁

        innodb的行锁在事务提交或回滚后才释放。释放锁后,会检查是否有等待该锁的锁对象,若有,则将其释放,唤醒对应的线程。

        a) 提取锁类型为LOCK_WAIT锁,判断是否需要继续等待。

        b) 若不需要等待,则授权lock_grant

        c) 根据锁对象找到找到对应的事务(lock_t->trx)信息,

        d) 通过事务找到对应的工作线程(trx_lock_t->wait_thr)信息

        e) 通过thr信息找到对应的slot(等待事件)

        f) 调用os_event_set触发事件  

    调用堆栈
    #0 os_event_set(thr->slot->event);
    #1 lock_wait_release_thread_if_suspended
    #2 lock_grant
    #3 lock_rec_dequeue_from_page
    #4 lock_trx_release_locks 

       6) slot的管理

        锁等待通过slot对象上的等待事件event实现(下文会讲),每个slot对象包含一个等待事件,slot个数与运行的线程相关。因为阻塞的主体是线程,因此只需要初始化与最大线程数目相同的slot节点即可。slot信息存储在lock_sys的waiting_threads中。需要slot时,从数组中获取。

    slot初始化
    lock_sys = static_cast<lock_sys_t*>(mem_zalloc(lock_sys_sz)); lock_stack = static_cast<lock_stack_t*>( mem_zalloc(sizeof(*lock_stack) * LOCK_STACK_SIZE)); void* ptr = &lock_sys[1]; lock_sys->waiting_threads = static_cast<srv_slot_t*>(ptr);
     

    3. innodb行锁开销

    innodb行锁采用位图存储,理论上一个记录只需要一个bit位。锁的基本单位是行,但锁是通过事务和页来进行管理和组织,创建锁的实例是lock_t,一个lock_t实例对应于一个索引页面的所有记录。

     1) 行锁代价计算

    内存开销主要来源于指针和存储锁信息的bitmap。bitmap中的一个bit对应page的一条记录,一个200条记录的Page,一个行锁对象大小约为 100bytes。若页面只锁一行,代价为100byte/行,而如果所有记录公用一把锁,则代价为100byte/200=4bit/行。实际情况下,只有当同一个事务锁住了页面的所有记录,并且锁模式相同,才可能保证一个页面只有一把锁。

    一个lock_t对象占用的内存空间
    1
    /* Make lock bitmap bigger by a safety margin */ 2 n_bits = page_dir_get_n_heap(page) + LOCK_PAGE_BITMAP_MARGIN; 3 n_bytes = 1 + n_bits / 8; 4 lock = static_cast<lock_t*>( 5 mem_heap_alloc(trx->lock.lock_heap, sizeof(lock_t) + n_bytes));

    2) 锁重用

       innodb锁机制利用锁重用方式,保证锁的内存开销尽可能小。具体而言,同一个事务锁住同一个页面的记录,并且锁模式相同; 同一个事务,对于同一条记录,已有的锁强于请求的锁模式,这两种情况下都不需要重新创建锁对象。

    4. Innodb锁同步机制(spinlock+mutex+条件变量)

    innodb没有直接采用原生的同步方式比如spinlock,mutex或是条件变量实现,而是将几种方式进行融合,达到最优的目的。主要函数的实现在于mutex_enter_func和mutex_exit两个函数。 

      1) 数据结构

    ib_mutex_t
    {
        os_event_t  event;  //等待事件
        volatile lock_word_t    lock_word; //锁变量
        os_fast_mutex_t os_fast_mutex; //不支持原子锁系统,使用互斥量
        ulint   waiters; //是否有等待线程
    }

       2) 获取互斥量流程【mutex_enter_func(ib-mutex)】

           a) 首先进行自旋,检查mutex->lock_word,判断是否可以获得该锁

           b) 对于不支持spinlock的系统,采用pthread_mutex_trylock方式,利用os_fast_mutex保护mutex->lock_word,判断是否可以获得该锁

           c) 若不能获得,则从全局变量 sync_wait_array分配一个cell,并将cell的wait_object设置为ib-mutex

           d) 将ib-mutex的waiters设为1

           e) 调用os_event_wait_low(ib-mutex->event),将线程挂起

           f) 获得信号量后,线程跳转步骤a)重新开始执行。

       3) 释放互斥量流程【mutex_exit_func(ib-mutex)】

          a) 重置mutex->lock_word,

          b) 对于自旋锁,通过os_atomic_test_and_set_byte设置

          c) 对于不支持自旋锁的系统,释放os_fast_mutex,将lock_word设置为0

          d) 判断ib-mutex对象waiters是否为1(是否有线程挂起)

          e) 调用mutex_signal_object(ib-mutex->event)

          f) 调用pthread_cond_broadcast(event->cond)唤醒所有等待的线程

    5. innodb等待事件实现

    1) event的结构

    os_event
    {
      os_cond_t   cond_var; //条件变量
      ibool       is_set; //为ture时,线程不会阻塞在事件上
      os_fast_mutex_t os_mutex;  //保护条件变量的互斥量
    }

    2) os_event_set 流程

       a) 获取互斥量os_mutex

       b) 若is_set为true,什么也不做,释放os_mutex

       c) 若is_set为false,设置is_set为true

       d) 调用pthread_cond_broadcast广播条件变量,唤醒所有等待线程

    3) os_event_wait 流程

       a) 获取互斥量os_mutex

       b) 判断is_set为true,则什么也不做,释放os_mutex

       c) 若is_set为false,调用pthread_cond_wait,将自己挂起等待

       d) 被唤醒后,释放互斥量os_mutex

        回到文章开始提到的问题,假设表t,id=1的记录所在的页面为(1,20),如图2所示,则锁节点可以红色的框表示,一个节点表示一个锁对象。另外,事务T2和T3已经在页面(0,200)上了2把锁,这里解释下,为啥同一个页面有2把锁。这是因为,锁对象的拥有者不同。不同事务即使是对同一条记录上同样模式的锁,也需要分别创建一个锁对象,所谓的锁重用是针对同一个事务锁同一个页面的多个记录而言。若T1也需要对(0,200)上锁,若上锁的记录与已有锁冲突,则创建锁,并挂起等待;否则,创建锁,返回成功。

  • 相关阅读:
    spring boot 在windows下安装为service(转)
    win7安装Anaconda+TensorFlow+配置PyCharm(转)
    IDEA中Spring boot配置热部署无效问题解决方式(转)
    WEB后台--基于Token的WEB后台登录认证机制(转)
    selenium之使用chrome浏览器测试(附chromedriver与chrome的对应关系表)(转)
    开源巨献:Google最热门60款开源项目(转)
    反射获取一个方法中的参数名(不是类型)(转)
    ELK原理与介绍(转)
    Linux下Redis的安装和部署(转)
    webpack+ES6+less开发环境搭建(转)
  • 原文地址:https://www.cnblogs.com/cchust/p/4255499.html
Copyright © 2020-2023  润新知