美文网首页
实现自己的数据库三

实现自己的数据库三

作者: 明翼 | 来源:发表于2023-01-29 18:11 被阅读0次

一 前言

上篇实现了数据库的持久化,就是一个质的飞跃,虽然代码不复杂,但是对没有这方面经验者来说,还是意思的,下一步就是要完成另外一个飞跃,将存储的数据结构采用B+树的形式来保存。在改造之前,还有些准备工作,一是将代码改动下,引入游标这个概念,二是对B+树的结构和原理再做一次梳理,然后才能进入代码开发阶段。

二 游标cursor

游标这个概念,再这里面可以抽象认为为指向一行的指针,通过这个指针我们可以做插入或查询、以及移动到下一行row等。
定义结构如下:

typedef struct {
Table* table;
uint32_t row_num;
bool end_of_table;  // Indicates a position one past the last element
} Cursor;

定义内容比较简单,游标归属的表,归属的行号、是否为表的结尾,遍历时候使用,表结束后退出查询等。

定义好游标,第一个想法可能是如何创建游标,由于游标可以用来遍历之用,我们在一些语言的集合遍历的时候也有定义类似Iter 之类的,和游标类似,一般通过集合的start()行数创建,创建指向第一个元素,这里面的游标也是类似,start创建即指向第一个游标,end指向最后一个元素。

Cursor* table_start(Table* table) {
  Cursor* cursor = (   Cursor* )malloc(sizeof(Cursor));
  cursor->table = table;
  cursor->row_num = 0;
  cursor->end_of_table = (table->num_rows == 0);
  return cursor;
}

Cursor* table_end(Table* table) {
   Cursor* cursor =(   Cursor* ) malloc(sizeof(Cursor));
   cursor->table = table;
   cursor->row_num = table->num_rows;
   cursor->end_of_table = true;
   return cursor;
}

有了这个定义,我们就可以简化定位一行的操作,原来的核心行数:

void* row_slot(Table* table, uint32_t row_num)

可以改成才有游标的形式:

void* cursor_value(Cursor* cursor) 

里面的内容也需要按照数据结构做调整:

void *row_slot(Cursor* cursor)
{
    // 行号通过游标获取
        uint32_t row_num = cursor->row_num;
        uint32_t page_num = row_num / ROWS_PER_PAGE;
        // 页面参数通过游标获取到table后再获取pager
        void *page = get_page(cursor->table->pager, page_num);
        uint32_t row_offset  = row_num % ROWS_PER_PAGE;
        uint32_t byte_offset = row_offset * ROW_SIZE;
        return (char *)page + byte_offset;
}

对于游标的递增,可以通过下面行数实现:

void cursor_advance(Cursor* cursor) {
    cursor->row_num += 1;
   // 如果行数达到了表的最大行数,设置游标的表结束标志
   // 循环时候可以根据这个判断来决定是否结束
   if (cursor->row_num >= cursor->table->num_rows) {
      cursor->end_of_table = true;
   }
}

对于我们原来的核心代码中的执行逻辑也要进行改动了,查询循环原来是按照行数遍历现在改成游标的方式,只所以用游标抽象一层,是因为我们通过游标可以封装后面的B+树的遍历,而我们原来的遍历是和表的行紧密绑定的,这里面又包含了将容易改变的部分要抽离出来,整个架构依赖于抽象实现,抽象的具体实现,就可以根据需要灵活改动,而上层架构不受到影响,秒啊!

ExecuteResult execute_select(Statement *statement, Table *table)
{
    Row row;
    Cursor *cursor = table_start(table);
    // for (uint32_t i = 0; i < table->num_rows; i++) {
    //         deserialize_row(row_slot(table, i), &row);
    //         print_row(&row);
    // }
        // 直到游标是最后标记则结束
    while (!(cursor->end_of_table)) {
        deserialize_row(cursor_value(cursor), &row);
        print_row(&row);
           // 游标向下移动一行
        cursor_advance(cursor);
    }
    return EXECUTE_SUCCESS;
}

同样插入操作也要改动,首先我们获取需要插入的行,然后定义一个指向表结尾的游标,为什么要指向表结尾的游标那,因为我们的插入操作其实是一种追加,直接追加到最后一个,然后通过cursor_value 获取游标处的内存页,将表的行持久化到游标处的内存页中。

ExecuteResult execute_insert(Statement *statement, Table *table)
{
    if (table->num_rows >= TABLE_MAX_ROWS) {
        return EXECUTE_TABLE_FULL;
    }
    Row *row_to_insert = &(statement->row_to_insert);
    Cursor *cursor = table_end(table);
    serialize_row(row_to_insert, cursor_value(cursor));
    table->num_rows += 1;

    free(cursor);
    return EXECUTE_SUCCESS;
}

获取游标处的内存操作如下,和原来类似,通过行号定位到属于哪个页面,通过行号定位到偏移量,如果仔细看的同学可能会发现,这里面的定位的时候是按照最后一行定位的,不应该是最后一行的下一行那,这里面实际没问题的,因为行的偏移量从0开始的,比如如果表里面只有一行数据,那表的row_num为1,则row_num为1的偏移量其实是没数据的,将数据插入到这个空闲位置没问题。

void *cursor_value(Cursor *cursor)
{
    uint32_t row_num = cursor->row_num;
    uint32_t page_num = row_num / ROWS_PER_PAGE;
    void *page = get_page(cursor->table->pager, page_num);
    uint32_t row_offset  = row_num % ROWS_PER_PAGE;
    uint32_t byte_offset = row_offset * ROW_SIZE;
    return (char *)page + byte_offset;
}

游标抽象化之后测试:

[root@localhost microdb]# ./a.out db.mb 
microdb > select
(1,a,a@qq.com)
(2,b,b@qq.com)
(1,a,a@qq.com)
(4,rrr,rrr@qq.com)
(5,ttt,ttt@qq.com)
(6,d,d@qq.com)
(7,f,f@qq.com)
(8,g,g@qq.com)
(10,q,q@163.com)
Executed.
microdb > insert 11 dd dd@qq.com
Executed.
microdb > select
(1,a,a@qq.com)
(2,b,b@qq.com)
(1,a,a@qq.com)
(4,rrr,rrr@qq.com)
(5,ttt,ttt@qq.com)
(6,d,d@qq.com)
(7,f,f@qq.com)
(8,g,g@qq.com)
(10,q,q@163.com)
(11,dd,dd@qq.com)
Executed.
microdb > .exit
[root@localhost microdb]# ./a.out db.mb 
microdb > select
(1,a,a@qq.com)
(2,b,b@qq.com)
(1,a,a@qq.com)
(4,rrr,rrr@qq.com)
(5,ttt,ttt@qq.com)
(6,d,d@qq.com)
(7,f,f@qq.com)
(8,g,g@qq.com)
(10,q,q@163.com)
(11,dd,dd@qq.com)
Executed.
microdb > quit
Unrecognized keyword at start of 'quit'.
microdb > .exit

三 B+树

3.1 搜索

我理解的搜索是从大量数据中提取所需要的数据,比如图书馆去找一本书,比如在一本书里面搜寻特定的关键词,那如何能快速搜索那,核心在于每步搜索都能快速缩减数据集合,仔细体会下,如果我们每步查询都可以将搜索的集合减少一半,那就是典型的二分法的搜索,那给我们一堆数据,比如以上设计的数据库,去搜索的时候,由于数据之间和位置之间是没有任何关系的,我们只能一行行遍历查询比较。但是这样的性能是和行数成正比的,即行数越多,我们需要查询的平均时间越长。

有什么办法解决这个问题那,然我们用一组数据在内存中简单模拟下我们的表数据情况,如果要快速搜索这组数据,数据又很大的话,那么如果数据是排序的数组组成,我们可以通过二分法快速的找到所要的数据。但是如果用数组存储这组数据,在插入数据的时候,就需要将插入位置的元素都向后移动,导致插入的时候后面的元素都要向后移动一位。同样如果我们做删除操作,需要将删除位置的后面的数据向前移动,补上删除的空洞。

从上面描述来看,用数组保存排序的数据,查询速度快,但是插入和删除太慢了。而想插入和删除的速度快,我们很容易想到的数据结构是链表,链表插入和删除都是更改指针的事情,比较简单,但是遍历的时候,我们只能沿着链表一个个去查,性能又和数据集合大小相关了。

好吧,再思考下排序数组按照二分法来查找数据的场景,每次都可以将要搜索的数据集合缩小一半,那么我们是不是可以把单链表改造下,将排序链表从中间值提溜起来,
中间值作为root节点,比root节点保存值小的,放在左边的链表中,比root值大的放在右边链表中,即变成一个二叉树,这样就变成了一个完全二叉树,插入和删除性能很高,查询的时候性能仍然很高(完全二叉树插入需要平衡,这个也影响了性能,所以设计了红黑树等取插入、删除、查询都均衡的数据结构)。

二叉树的数据结构在内存中保存数据挺好,但是如果作为存在磁盘上的数据就有很多麻烦,二叉树每个节点最多有两个子树,如果数量大,导致整个树的高度比较高,树高了之后那,那需要指针就比较多,每次指针指向一个页面的话,导致需要从磁盘中读取N多个页面,这对我们搜索数据很不利。

3.2 B树和B+树

B树结构

B树结构可以看作是二叉树的进化,我们的指针每次指向一个页面,因为一个磁盘的页面现在一般都是4KB大小,这个页面可以保存很多行数据,那我们的B树结构就可以在一个页面有多个分叉,一个页面又可以保存很多数据。

数据的数据存储有的是B+树,有的是B树这两者有何区别那,如下表:


B+树和B树
  1. B+树用来存储表数据的,Mysql的InnoDB引擎采用B+树存储,多少个索引就多少个B+树,数据存储在主键的B+树上的,B+树的内部节点只保存key,叶子节点是全部行数据,因为内部节点只保存key,所以一个节点可以保存更多的数据,而B树的节点保存不管是key还包含value,所以一个页面能存储的数量更少。
  2. B树的内部节点和叶子节点有相同的数据结构,而B+树是不同的,B+树内部节点保存的是key和指针数据,叶子节点是完整的多行数据。
  3. 还要注意一点B+树和B树的节点一般对应一个磁盘页面,页面内的数据是有序的。
    查找时候可以按照二分法进行查找。

3.3 m阶有序树

我们刚才聊到B树或B+树的可以有N多个子节点,节点内的数据又是有序的,我们可以叫做N阶排序树。这种树的内部节点和叶子节点是不同的,具体区别如下:


m阶排序树
  1. 内部节点存储的是key和指向子节点的指针,叶子节点保存的是key和value
  2. 内部节点的保存key的数量最大为m-1个,而叶子节点能保存多少保存多少
  3. 内部节点保存指针的数量为key的数量+1个,而叶子节点不保存指针。
  4. 内部节点保存key的目的是为了路由,叶子节点保存key的目的是为了和value关联。
  5. 内不能节点不保存value,而叶子节点保存value数据。

3.4 3阶排序树的插入过程

按照上述定义,我们来画图模拟三阶排序树的插入过程,三阶排序树有以下约束:

  1. 每个内部节点最多保存三个子节点。

  2. 每个内部节点最多保存二个key。

  3. 每个内部节点至少有两个子节点。

  4. 每个内不能节点至少有一个key。

  5. 初始是一颗空树:


    空树

这个空树直接作为没存任何数据的叶子节点。

  1. 我们插入两个数据,如下:


    插入2个数据后

    数据没超出三个数据的范围,我们将两条数据直接保存在这个节点上。

  2. 假如一个节点只能保存2个数据,那么上述数据结构再插入一个数据后,会怎么办,只能分裂:


    树分裂

    我们插入数据后,由于不够保存,只能拆分上面的叶子节点,分成一个根节点和两个叶子节点,数据分到两个叶子节点上,根节点保存两个指针和一个key。
    查询的时候,找小于等于5的走左边的子节点,查大于等于5的,走右边的子节点。

  3. 插入key2 后,按照查找路由,找到叶子节点,但是叶子节点满了,只能分裂叶子节点,将原来的key5 分裂到新的叶子节点上去,并对key 2创建新的条目。

插入key2 后
  1. 继续插入18和21两条数据,树的结构变化如下:


    插入18和21之后

    当插入21 的时候,右边的叶子节点不够存储,如果再次创建叶子节点,则根节点要增加个指针,但是根节点也满了,需要将根节点再拆分,这样就增加了B+树的高度。


    拆分根节点

后续的B+树的数据结构实现下篇幅再来聊聊。

相关文章

  • 实现自己的数据库三

    一 前言 上篇实现了数据库的持久化,就是一个质的飞跃,虽然代码不复杂,但是对没有这方面经验者来说,还是意思的,下一...

  • 分布式锁入门

    目前主流的有三种: 基于数据库实现 基于Redis实现 基于ZooKeeper实现 1. 基于数据库实现: 基于数...

  • 第二章 Senior进阶 数据库

    第二章 Senior进阶 数据库 一、数据库管理系统 二、SQL语句 三、iOS的数据库技术实现

  • iOS进阶第二天 (数据库)

    一、数据库管理系统 二、SQL语句 三、 iOS的数据库技术实现 数据库常用概念: SQL:SQL是Structu...

  • 018 Java | 分布式锁方案和区别

    分布式锁的实现 在常见的分布式锁中有以下三种实现: Redis 实现 Zookeeper 实现 数据库实现 1. ...

  • 分布式 | 分布式锁的实现

    分布式锁的实现 在常见的分布式锁中有以下三种实现: Redis 实现 Zookeeper 实现 数据库实现 分布式...

  • JDBC和XML

    JDBC 访问数据库的规范,实现由数据库厂商实现,具体实现对应数据库驱动。 注册驱动 Class.forName(...

  • Redis实现分布式锁

    前言 一般有三种方式来实现分布式锁: 使用数据库实现 使用 redis 实现 使用 zookeeper 实现 本文...

  • 安卓四大组件之ContentProvider

    ContentProvider 是如何实现数据共享 把自己数据库的数据提供给第三方应用,我们就通过ContentP...

  • jdbc基础

    JDBC概念 java连接数据库的一系列接口,接口的实现类交给第三方数据库厂商去实现 四大参数 驱动 com.m...

网友评论

      本文标题:实现自己的数据库三

      本文链接:https://www.haomeiwen.com/subject/jgcehdtx.html