一、为什么使用索引 以及 索引的优缺点
1.为什么使用索引
索引是存储引擎用于快速找到数据记录的一种数据结构,就好比一本教科书的目录部分,通过目录中找到对应文章的页码,便可快速定位到需要的文章。Mysql中也是一样的道理,进行数据查找时,首先查看查询条件是否命中某条索引,符合则通过索引查找相关数据,如果不符合则需要全表扫描,即需要一条一条的查找记录,直到找到与条件符合的记录。
如上图所示,数据库没有索引的情况下,数据 分布在硬盘的不同位置上面,读取数据时,摆臂需要前后摆动查找数据,这样操作非常消耗时间,如果数据顺序摆放,那么也需要从1到6行安顺序读取,这样就相当于进行了6次IO操作,依旧非常耗时,如果我们不借助任何索引结构帮助我们快速定位数据的话,我们查找 Col 2 = 89 这条记录,就要逐行去查找,去比较。从Col 2 = 34 开始 ,进行比较,发现不是,继续下一行。我们当前的表只有不到10行数据,但是如果表很大的话,有上千万条数据。就意味着要做 非常多次磁盘IO 才能找到。现在要查找Col 2 = 89这条记录,CPU 必须先去磁盘查找这条记录,找到之后加载到内存,在对数据进行处理,这个过程最耗时间的就是磁盘IO (涉及到磁盘的旋转时间 (速度较快),磁头的寻道时间速度慢、耗时)。
假如给数据使用 二叉树 这样的数据结构进行存储,如下图所示:
对字段Col 2 添加了索引,就相当于在硬盘上为Col 2维护了一个索引的数据结构,即这个 二叉搜索树,二叉搜索树的每个节点存储的是(k,v)结构,value是该key所在行的文件指针(地址)。比如,该二叉搜索树的根节点就是:(34,0x07)。现在对col 2添加了索引。这时再去查找Col 2 = 89这条记录的时候会先去查找该二叉搜索树(二叉树的遍历查找)。读34到内存,89 》 34;继续右侧数据,读89到内存,89 == 89;找到数据返回。找到之后就根据当前结点的vaiue快速定位到要查找的记录对应的地址,我们可以发现,只需要查找两次就可以定位到记录的地址,查询速度就提高了。
这就是我们为什么要建索引,目的就是为了减少磁盘IO的次数,加快查询速率。
2.索引的优缺点
2.1 索引概述
MySQL官方对索引的定义为:索引(Index)是帮助MySQL高效获取数据的数据结构。
索引的本质:索引是数据结构。你可以简单理解为“排好序的快速查找数据结构”,满足特定查找算法。这些数据结构以某种方式指向数据, 这样就可以在这些数据结构的基础上实现 高级查找算法 。
索引是在存储引擎中实现的,因此每种存储引擎的索引不一定完全相同,并且每种存储引擎并不一定支持所有索引类型,同时,存储引擎可以定义每个表的最大索引数 和 最大索引长度。所有存储引擎支持每个表至少16个索引,总索引长度至少为256字节。有些存储引擎支持更多的索引数和更大的索引长度。
(1)类似大学图书馆建书目索引,提高数据检索的效率,降低 数据库的 IO 成本 ,这也是创建索引最主要的原因。
增加索引也有许多不利的方面,主要表现在如下几个方面:
(3)虽然索引大大提高了查询速度,同时却会 降低更新表的速度 。当对表中的数据进行增加、删除和修改的时候,索引也要动态地维护,这样就降低了数据的维护速度。
因此,选择使用索引时,需要综合考虑索引的优点和缺点。
索引可以提高查询的速度,但是会影响插入记录的速度,这种情况下,最好的办法是先删除表中的索引,然后插入数据,插入完成后再创建索引。
二、InnoDB中索引的推演
2.1 索引之前的查找
先来看一个精确匹配的例子:
SELECT [列名列表] FROM 表名 WHERE 列名 = xxx;
1). 在一个页中的查找
假设目前表中的记录比较少,所有的记录都可以被存放到一个野种,在查找记录的时候可以根据搜索条件的不同分为两种情况。
- 以主键为搜索条件:
可以在页目录中使用 二分法快速定位到对应的槽,然后再遍历该槽对应分组中的记录即可快速找到指定的记录。 - 以其他列作为搜索条件:
因为在数据页中并没有对非主键列建立所谓的页目录,所以我们无法通过二分法快速定位相应的槽,这种情况下只能从最小记录开始依次遍历单链表中的每条记录,然后对比每条记录是不是符合搜索条件,很显然,这种查找的效率是非常低的。
· 2). 在很多页中查找
大部分情况下我们表中存放的记录都是非常多的,需要好多的数据页来存储这些记录。在很多页中查找记录的话可以分为两个步骤:
- 定位到记录所在页
- 从所在页内中查找相应的记录
在没有索引的情况下,不论是根据主键列或者其他列的值进行查找,由于我们并不能快速的定位到记录所在的页,所以只能 从第一个页 沿着 双向链表 一直往下找,在每一个页中根据我们上面的查找方式去查找指定的记录。因为要遍历所有的数据页,所以这种方式显然是 超级耗时 的。如果一个表有一亿条记录呢?此时 索引 应运而生。
2.2 设计索引
建一个表:
mysql> CREATE TABLE index_demo(-> c1 INT ,-> c2 INT ,-> c3 CHAR ( 1 ),-> PRIMARY KEY (c1)-> ) ROW_FORMAT = Compact;
这个新建的 index_demo 表中有2个INT类型的列,1个CHAR(1)类型的列,而且我们规定了c1列为主键,
这个表使用 Compact 行格式来实际存储记录的。Compact 行格式,主要是用来记录存储的这一条记录。比如说添加了两条记录,我们添加两条记录的格式称作为行格式或者称作记录格式。后面会详细讲。
这里我们简化了index_demo表的行格式示意图:
- record_type :记录头信息的一项属性,表示记录的类型, 0 表示普通记录、 2 表示最小记 录、 3 表示最大记录、 1 暂时还没用过,下面讲。
- next_record :记录头信息的一项属性,表示下一条地址相对于本条记录的地址偏移量,我们用 箭头来表明下一条记录是谁。
- 各个列的值 :这里只记录在 index_demo 表中的三个列,分别是 c1 、 c2 和 c3 。
- 其他信息 :除了上述3种信息以外的所有信息,包括其他隐藏列的值以及记录的额外信息。
将记录格式示意图的其他信息项暂时去掉并把它竖起来的效果就是这样:
把一些记录放到页里的示意图就是:
这就是基本的数据页的模型。
1. 一个简单的索引设计方案
我们在根据某个搜索条件查找一些记录时为什么要遍历所有的数据页呢?因为各个页中的记录并没有规律,我们并不知道我们的搜索条件匹配哪些页中的记录,所以不得不依次遍历所有的数据页。所以如果我们 想快速的定位到需要查找的记录在哪些数据页 中该咋办?我们可以为快速定位记录所在的数据页而 建立一个目录 ,建这个目录必须完成下边这些事:
- 下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值。
假设:每个数据页做多能存放三条记录(实际上一个数据页非常大,可以存放下好多记录)。有了这个假设之后我们向 index_demo表中插入3条记录:
INSERT INTO index_demo values (1,4,'u'),(3,9,'d'),(5,3,'y');
那么这些记录已经按照主键值的大小串联成一个单项链表了,如图所示:
从图中可以看出来,index_demo表中的3条记录都被插入到了编号为 10 的数据页中了,此时我们再来插入一条记录:
INSERT INTO index_demo values (4,4,'a');
因为页10最多只能放3条记录,所以我们不得不再分配一个新页:
注意:新分配的 数据页编号 可能不是连续的,他们只是通过维护着上一页和下一个页的编号而建立了链表关系,另外,页10中用户记录最大的主键值是 6 ,而 页28中有一条记录的主键值是 4,因为 5>4 ,所以这就不符合下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值的要求,所以再插入主键值为4的记录的时候需要伴随着一次记录移动,也就是把主键值为 5 的记录移动到页 28中,然后再把主键值为 4 的记录插入到页10中,这个过程的示意图如下:
这个过程表明了再对页中的记录进行增删改操作的过程中,我们必须通过一些诸如记录移动的操作来始终保证这个状态一直成立,下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值,这个过程我们成为 页分类。
- 给所有的页建立一个目录项。
由于数据页的 编号可能是不连续的,所以在向 index_demo表中插入许多记录后,可能是这样的效果:
因为这些16Kb的页在 物理存储上是不连续的,所以如果想从这么多页中根据主键值 快速定位某些记录所在值页,我们需要给他们做个 目录,每个目录包括下边两个部分:
- 页的用户记录中最小的主键值,我们用key来表示
- 页号,我们用page_no表示
至此,针对数据页做的简易目录就搞定了。这个目录有一个别名,称为 索引 。
① 迭代1次:目录项纪录的页
- InnoDB是使用页来作为管理存储空间的基本单位,很多能保证16kb的连续存储空间,而随着表中记录数量的增多,需要非常大的连续的存储空间 才能把所有的目录都放下,这对记录数量非常多的表是不现实的。
- 我们时长会对记录进行增删,假设我们把 页28 中的记录都删除了,那意味着 目录项2 也就没有存在的必要了,这就需要把目录项2后的目录项都向前移动一下,这样牵一发而动全身的操作效率很差。
- 0:普通的用户记录
- 1:目录项记录
- 2:最小记录
- 3:最大记录
- 目录项记录 的 record_type 值是1,而 普通用户记录 的 record_type 值是0。
- 目录项记录只有 主键值和页的编号 两个列,而普通的用户记录的列是用户自己定义的,可能包含 很 多列 ,另外还有InnoDB自己添加的隐藏列。
- 了解:记录头信息里还有一个叫 min_rec_mask 的属性,只有在存储 目录项记录 的页中的主键值 最小的 目录项记录 的 min_rec_mask 值为 1 ,其他别的记录的 min_rec_mask 值都是 0 。
相同点:两者用的是一样的数据页,都会为主键值生成 Page Directory (页目录),从而在按照主键值进行查找时可以使用 二分法 来加快查询速度。
现在以查找主键为 20 的记录为例,根据某个主键值去查找记录的步骤就可以大致拆分成下边两步:
- 1. 先到存储 目录项记录 的页,也就是页30中通过 二分法 快速定位到对应目录项,因为 12 < 20 < 209 ,所以定位到对应的记录所在的页就是页9。
- 2. 再到存储用户记录的页9中根据 二分法 快速定位到主键值为 20 的用户记录。
② 迭代2次:多个目录项纪录的页
虽然说 目录项记录 中只存储主键和对应的页号,比如用户记录需要的存储空间小多了,但是不论怎么说一个页只有16kb 大小,能存放的目录项记录也是有限的,那如果表中的数据太多,以至于一个数据页不足以存放所有的 目录项记录,如何处理呢?
这里我们假设一个存储在目录项记录的页 最多只能存放4条目录项记录,所以如果此时我们再向上图插入一条主键值为 320 的用户记录的话,那就需要分配一个新的存储目录项记录的页:
从图中可以看出,我们插入了一条主键值为320的用户记录之后需要两个新的数据页:
- 为存储该用户记录而新生成了 页31 。
- 因为原先存储目录项记录的 页30的容量已满 (我们前边假设只能存储4条目录项记录),所以不得不需要一个新的 页32 来存放 页31 对应的目录项。
1. 确定 目录项记录页
③ 迭代3次:目录项记录页的目录页
问题来了,在这个查询步骤的第一步中跟我们需要定位存储目录项记录的页,但是这些页不是连续的,如果我们表中的数据非常多则会产生很多存储目录项记录的页,那我们怎么根据主键值快速定位一个存储目录项记录的页呢?那就为这些存储目录项记录的页在生成一个更高级的目录,就像是一个多级目录一样,大目录嵌套小目录,小目录里才是实际的数据,所以现在各个页的示意图就是这样子:
这个数据结构,它的名称是 B+树 。
④ B+Tree
不论是存放用户记录的数据页,还是存放目录项记录的数据页,我们都把他们存放在B+树这个数据结构中了,所以我们也称这些数据页为节点。从图中可以看出,我们的实际用户记录其实都存放在B+树的最底层的节点上,这些节点也被称为叶子节点,其余用来存放目录项的节点称为 非叶子节点 或者内节点,其中B+树最上边的那个节点也成为根节点。
一个B+树的节点其实可以分成好多层,规定最下边的那层,也就是存放我们用户记录的那层为第 0 层,之后依次往上加。之前我们做了一个非常极端的假设:存放用户记录的页 最多存放3条记录 ,存放目录项记录的页 最多存放4条记录 。其实真实环境中一个页存放的记录数量是非常大的,假设所有存放用户记录的叶子节点代表的数据页可以存放 100条用户记录 ,所有存放目录项记录的内节点代表的数据页可以存放 1000条目录项记录 ,那么:
- 如果B+树只有1层,也就是只有1个用于存放用户记录的节点,最多能存放 100 条记录。如果B+树有2层,最多能存放 1000×100=10,0000 条记录。
- 如果B+树有3层,最多能存放 1000×1000×100=1,0000,0000 条记录。
- 如果B+树有4层,最多能存放 1000×1000×1000×100=1000,0000,0000 条记录。相当多的记录!!!
你的表里能存放 100000000000 条记录吗?所以一般情况下,我们 用到的B+树都不会超过4层 ,那我们通过主键值去查找某条记录最多只需要做4个页面内的查找(查找3个目录项页和一个用户记录页),又因为在每个页面内有所谓的 Page Directory (页目录),所以在页面内也可以通过 二分法 实现快速定位记录。
2.3 常见索引概念
索引按照物理实现方式,索引可以分为 2 种:聚簇(聚集)和非聚簇(非聚集)索引。我们也把非聚集索引称为二级索引或者辅助索引。
1. 聚簇索引
聚簇索引并不是一种单独的索引类型,而是一种数据存储方式(所有的用户记录都存储在了叶子节点),也就是所谓的索引即数据,数据即索引。
术语 ”聚簇“ 表示数据行和相邻的键值聚簇的存储在一起。
特点:
1. 使用记录主键值的大小进行记录和页的排序,这包括三个方面的含义:
- 页内 的记录是按照主键的大小顺序排成一个 单向链表 。
- 各个存放 用户记录的页 也是根据页中用户记录的主键大小顺序排成一个 双向链表 。
- 存放 目录项记录的页 分为不同的层次,在同一层次中的页也是根据页中目录项记录的主键大小顺序排成一个 双向链表 。
- 数据访问更快 ,因为聚簇索引将索引和数据保存在同一个B+树中,因此从聚簇索引中获取数据比非 聚簇索引更快
- 聚簇索引对于主键的 排序查找 和 范围查找 速度非常快
- 按照聚簇索引排列顺序,查询显示一定范围数据的时候,由于数据都是紧密相连,数据库不用从多个数据块中提取数据,所以 节省了大量的io操作 。
- 插入速度严重依赖于插入顺序 ,按照主键的顺序插入是最快的方式,否则将会出现页分裂,严重影响性能。因此,对于InnoDB表,我们一般都会定义一个自增的ID列为主键
- 更新主键的代价很高 ,因为将会导致被更新的行移动。因此,对于InnoDB表,我们一般定义主键为不可更新
- 二级索引访问需要两次索引查找 ,第一次找到主键值,第二次根据主键值找到行数据
- 对于Mysql数据库目前只有InnoDB数据引擎支持聚簇索引,而MyISAM 并不支持聚簇索引。
- 由于数据物理存储排序方式只有一种,所以每个Mysql的表只能有一个聚簇索引,一般情况下就是该表的主键。
- 为了充分利用聚簇索引的聚簇特性,InnoDB表的主键尽量选用有序的数据id,而不建议用无序的id,比如UUID,MD5,hash,字符串列作为主键无法保证数据的顺序增长。
2. 二级索引(辅助索引、非聚簇索引)
上面介绍的 聚簇索引 只能在搜索条件是 主键值 时才能发挥作用,因为 B+树中的数据都是按照主键进行排序的。那如果我们想以别的列作为搜索条件该怎么办呢?肯定不是从头到尾沿着链表一次遍历记录一遍。
我们可以多建几棵B+树,不同的B+树中的数据采用不同的排序规则,比如说我们用 c2 列的大小作为数据页,页中记录的排序规则,再建一颗B+树,效果如下图所示:
这个叶子节点中存储的不再是完整的数据了,而是c2字段的值和这条记录中c1字段的值。
这个B+树与上边介绍的聚簇索引有几处不同:
- 使用记录c2列的大小进行记录和页的排序,这包括三个方面的含义:
- 页内的记录是按照c2列的大小顺序排成一个单向链表。
- 各个存档用户记录的页也是根据页中记录的c2列大小顺序排成一个双向链表。
- 存放 目录项记录的页 分为不同的层次,在同一层次中的页也是根据页中目录项记录的c2列大小顺序排成一个双线链表。
- B+树的叶子节点存储的并不是完整的用户记录,而只是c2列 + 主键这两个列的值。
- 目录项记录中不再是 主键 + 页号 的搭配,而变成了c2列 + 页号的搭配。
所以如果哦我们现在想通过c2列的值查找某些记录的话,就可以使用我们刚刚剑豪的这个B+树了,以查找c2列的值为4的记录为例,查找过程如下:
确定目录项记录页:
根据 根页面 ,也就是页44,可以快速定位到 目录项记录 所在的页为 页42(因为2<4<9)。
通过目录项记录页确定用户记录真实所在的页:
在页42中可以快速定位到实际存储用户记录的页,但是由于c2列并没有唯一性约束,所以c2列值为4的记录可能分布在多个数据页中,有因为2<4<=4,所以确定实际存储用户记录的页在 页34 和 页 35中。
在真实存储用户记录的页中定位到具体的记录:
到页34和页35中定位到具体的记录。
但是这个B+树的叶子节点中的记录只存储了c2 和 c1 (也就是主键)两个列,所以我们必须再根据主键值去聚簇索引中在查找一遍完整的用户记录。
概念:回表 我们根据这个以c2列大小排序的B+树只能确定我们要查找记录的主键值,所以如果我们想根据c2列的值查找到完整的用户记录的话,仍然需要到 聚簇索引 中再查一遍,这个过程称为 回表 。也就是根据c2列的值查询一条完整的用户记录需要使用到 2 棵B+树!
问题:为什么我们还需要一次 回表 操作呢?直接把完整的用户记录放到叶子节点不OK吗?
如果把完整的用户记录放到叶子节点中是可以不用回表,但是太占地方了,相当于每建立一颗B+树都需要把所有的用户记录再拷贝一遍,这就有点太浪费存储空间了。
因为这种按照 非主键列 建立的B+树需要一次回表操作才可以定位到完整的用户记录,所以这种B+树也被称为二级索引,或者辅助索引,由于我们使用的是c2列的大小作为B+树的排序规则,所以我们也称为这个B+树是为c2列建立的索引。
非聚簇索引的存在不影响数据在聚簇索引中的组织,所以一张表可以有多个非聚簇索引。
小结:聚簇索引与非聚簇索引的原理不同,在使用上也有一些区别:
1 聚簇索引的叶子节点存储的就是我们的数据记录,非聚簇索引的叶子节点存储的是 数据位置,非聚簇索引不会影响数据表的物理存储顺序。
2 一个表 只能有一个聚簇索引,因为只能有一种排序存储的方式,但可以有多个非聚簇索引,也就是多个索引目录提供数据检索。
3 使用聚簇索引的时候,数据的查询效率高,但是如果对数据进行插入,删除,更新等操作,效率会比非聚簇索引低。
3. 联合索引
我们也可以同时以多个列的大小作为排序规则,也就是同时为多个列建立索引,比方说我们想让B+树按照 c2和c3列 的大小进行排序,这个包含两层含义:
- 先把各个记录和页按照c2列进行排序。
- 在记录的c2列相同的情况下,采用c3列进行排序
为 c2 和 c3 列建立的索引示意图如下: 如图所示,我们需要注意以下几点:
- 每条目录项记录都有c2、c3页号这三部分组成,各条记录先按照c2列的值进行排序,如果记录的c2相同,则按照c3列的值进行排序。
- B+树叶子节点处的用户记录有c2、c3和主键c1列组成。
- 建立 联合索引 只会建立如上图一样的1棵B+树。
- 为c2和c3列分别建立索引会分别以c2和c3列的大小为排序规则建立2棵
3.4 InnoDB的B+树索引的注意事项
1. 根页面位置万年不动
实际上B+树的形成过程是这样的:
- 每当为某个表创建一个b+树索引(聚簇索引不是人为创建的,默认就有)的时候,都会为这个索引创建一个 根节点 页面,最开始表中没有数据的时候,每个b+树索引对应的根节点中既没有用户记录,也没有目录项记录。
- 随后向表中插入用户记录时,先把用户记录存储到这个根节点中
- 当根节点中的可用空间用完时继续插入记录,此时会将根节点中的所有记录复制到一个新分配的页,比如页a中,然后对这个新页进行 页分裂的操作,得到另一个新页,比如 页b,这时新插入的记录根据键值(也就是聚簇索引中的主键值,二级索引中对应的索引列的值)的大小就会被分配到 页a或页b中,而根节点便升级为存储目录项记录的页。
这个过程特别注意的是:一个B+树索引的根节点自诞生之日起,便不会再移动,这样只要我们对某个表建立一个索引,那么它的根节点的页号便会被记录到某个地方,然后凡是InnoDB存储引擎需要用到这个索引的时候,都会从那个固定的地方取出根节点的页号,从而来访问这个索引。
2. 内节点中目录项记录的唯一性
我们知道B+树索引的内节点中目录项记录的内容是 索引列+页号 的搭配,但是这个搭配对于二级索引来说有点不严谨,还拿 index_demo表为例,假设这个表中的数据是这样的:
这个表有三个字段 c1、c2、c3,如果二级索引中目录项记录的内容只是 索引列+页号 的搭配的画,那么为 c2 列建立索引后的B+树应该长这样:
如果我们想插入一行记录,其中c1、c2、c3的值分别是 9,1,‘t’,那么现在修改这个为c2列建立的二级索引对应的B+树时便碰到了个大问题,由于 页3 中存储的目录项记录是由 c2列 + 页号的值构成的,页3中的两条目录项记录对应的c2列的值都是1,而我们新插入的这条记录的c2列也是1,那我们这条新插入的记录到底应该放到 页4 中,还是应该放到页5中? 这样就会有问题。
为了了让新插入记录能找到自己在哪个页里,我们需要保证在B+树的同一层内节点的目录记录除页号这个字段以外是唯一的,所以对于二级索引的内节点的目录项记录的内容实际上是由三个部分构成的:
- 索引列的值
- 主键值
- 页号
也就是我们把主键值也添加到二级索引内节点中的目录项记录了,这样就能保证B+树每一层节点中各条目录项记录除页号这个字段外是唯一的,所以我们为c2列建立二级索引后的示意图实际上应该是这样子的:
这样我们再插入记录(9,1,c)时,由于 页3 中储存的目录记录是由 c2 列 + 主键 + 页号的值构成的,可以先把新纪录的 c2 列的值 和 页3 中各目录记录的 c2 列的值作比较,如果c2 列的值相同的话,可以接着比较主键值,因为B+树同一层中不同目录项记录的 C2列 + 主键 的值肯定是不一样的,所以最后肯定能定位唯一的一条目录项记录,在本列中最后确定新纪录应该被插入到 页5 中。
3. 一个页面最少存储2条记录
一个B+树只需要很少的层级就可以轻松存储数亿条记录,查询速度相当不错!这是因为B+树本质上就是一个大的多层级目录,每经过一个目录时都会过滤掉许多无效的子目录,直到最后访问到存储真实数据的目录,那如果一个大的目录中只存放一个子目录的话,目录的层级就会非常非常多,所以 InnoDB的一个数据页至少可以存放两条记录。
三、 MyISAM中的索引方案
B树索引适用存储引擎如表所示:
索引
/
存储引擎
|
MyISAM
|
InnoDB
|
Memory
|
B-Tree
索引
|
支持
|
支持
|
支持(默认是Hash 但是支持)
|
即使多个存储引擎支持同一种类型的索引,但是他们的实现原理也是不同的,InnoDB 和 MyISAM默认的索引是 B tree索引,而Memory默认的索引是 Hash 索引。
MyISAM引擎使用 B+tree 作为索引结构,叶子节点的data域存放的是 数据记录的地址。
3.1 MyISAM索引的原理
下图是MyISAM索引的原理图。
我们知道InnoDB中索引即数据,也就是聚簇索引的那颗B+树的叶子节点中已经把所有完整的用户记录都包含了,而MyISAM的索引方案虽然也使用树形结构,但是却 将索引和数据分开存储:
- 将表中的记录按照记录的插入顺序单独存储在一个文件中,称之为数据文件,这个文件并不划分为若干个数据页,有很多记录就往这个文件中塞多少记录就成了,由于在插入数据的时候并 没有可以按照主键大小排序,所以我们并不能在这些数据上使用二分法进行查找。
- 使用MyISAM存储引擎的表会把索引信息另外存储到一个称为索引文件的另一个文件中,MyISAM会单独为表的主键创建一个索引,只不过在索引的叶子节点中存储的不是完整的用户记录,而是主键值 + 数据记录地址 的组合
这里设表一共有三列,假设我们已col1为主键,上图是一个MyISAM表的主索引(primary key)示意,可以看出 MyISAM的索引文件仅仅保存数据记录的地址,在MyISAM中,主键索引和二级索引在结构上没有任何区别,只是主键索引要求key是唯一的,而二级索引的key可以重复。
如果我们在Col2上建立一个二级索引,则此索引的结构如下图所示:
同样也是一颗B+树,data域存储数据记录的地址,因此,MyISAM中索引检索的算法为:首先按照B+树搜索算法搜索索引,如果指定的key存在,则取出其data域的值,然后以data域的值为地址,读取相应数据记录。
小结:
了解不同的存储引擎的索引实现方式对于正确使用和优化索引都非常有帮助,比如:
举例1:知道了InnoDB的索引实现后,就很容易明白 为什么不建议使用过长的字段作为主键,因为所有二级索引都引用主键索引,过长的主键索引会令二级索引变得过大。
举例2:用非单调的字段作为主键在InnoDB中不是个好主意,因为InnoDB数据文件本身是一颗B+tree,非单调的主键会造成在插入新纪录时,数据文件为了维持B+tree 的特性而频繁的分裂调整,十分低效,而使用 自增字段作为主键则是一个很好的选择。
四、索引的代价
- 空间上的代价
每建立一个索引都要为它建立一棵B+树,每一棵B+树的每一个节点都是一个数据页,一个页默认会 占用 16KB 的存储空间,一棵很大的B+树由许多数据页组成,那就是很大的一片存储空间。
- 时间上的代价
每次对表中的数据进行 增、删、改 操作时,都需要去修改各个B+树索引。而且我们讲过,B+树每层节点都是按照索引列的值 从小到大的顺序排序 而组成了 双向链表 。不论是叶子节点中的记录,还是内节点中的记录(也就是不论是用户记录还是目录项记录)都是按照索引列的值从小到大的顺序而形成了一个单向链表。而增、删、改操作可能会对节点和记录的排序造成破坏,所以存储引擎需要额外的时间进行一些 记录移位 , 页面分裂 、 页面回收 等操作来维护好节点和记录的排序。如果我们建了许多索引,每个索引对应的B+树都要进行相关的维护操作,会给性能拖后腿。
五、MySQL数据结构选择的合理性
从Mysql的角度将,不得不考虑一个现实问题就是磁盘IO,如果我们能让索引的数据结构尽量减少硬盘的IO操作,所消耗的时间也就越小,可以说,磁盘的IO操作次数对索引的使用效率至关重要。
查找都是索引操作,一般来说索引非常大,尤其是关系型数据库,当数据量比较大的时候,索引的大小有可能几个G甚至更多,为了减少索引在内存的占用,数据库索引是存储在外部磁盘上的,当我们利用索引查询的时候,不可能把整个索引全部加载到内存,只能 主意加载,那么Mysql衡量查询效率的标准就是磁盘IO次数。
5.1 全表遍历
最好避免。
5.2 Hash结构
Hash本身是一个函数,又被称为散列函数,它可以帮助我们大度提升检索数据的效率。
Hash算法似乎通过某种确定性的算法(比如MD5、SHA1、SHA2、SHA3)将输入转变为输出。相同的输入永远可以得到相同的输出,假设输入内容有微小偏差,在输出中通常会有不同的结果。
举例:如果你想要验证两个文件是否相同,那么你不需要把两份文件直接拿来比对,只需要让对方把hash函数计算得到的结果给你即可,然后在本地同样对文件进行Hash函数运算,最后通过比较这两个Hash函数的结果是否相同,就可以知道这两个文件是否相同。
加速查找速度的数据结构,常见的有两类:
1、树,例如平衡二叉树,查询、插入、修改、删除的平均时间复杂度都是o(log2N)
2、哈希,例如HashMap,查询、插入、修改、删除的平均时间复杂度都是o(1);
采用hash进行检索效率非常高,基本上一次检索就可以找到数据,而B+树需要自顶向下依次查找,多次访问节点才能找到数据,
在哈希的方式下,一个元素k处于h(k)中,即利用哈希函数h,根据关键字k计算出槽的位置。函数h将关键字映射到哈希表T[0..m-1]的槽位上。
上图中哈希函数h有可能将两个不同的关键字映射到相同的位置,这叫做 碰撞 ,在数据库中一般采用 链接法 来解决。在链接法中,将散列到同一槽位的元素放在一个链表中,如下图所示:
实验:体会数组和hash表的查找方面的效率区别 :
// 算法复杂度为 O(n)
@Test
public void test1(){
int[] arr = new int[100000];
for(int i = 0;i < arr.length;i++){
arr[i] = i + 1;
}
long start = System.currentTimeMillis();
for(int j = 1; j<=100000;j++){
int temp = j;
for(int i = 0;i < arr.length;i++){
if(temp == arr[i]){
break;
}
}
}
long end = System.currentTimeMillis();
System.out.println("time: " + (end - start)); //time: 823
}
//算法复杂度为 O(1)
@Test
public void test2(){
HashSet<Integer> set = new HashSet<>(100000);
for(int i = 0;i < 100000;i++){
set.add(i + 1);
}
long start = System.currentTimeMillis();
for(int j = 1; j<=100000;j++) {
int temp = j;
boolean contains = set.contains(temp);
}
long end = System.currentTimeMillis();
System.out.println("time: " + (end - start)); //time: 5
}
Hash结构效率高,那为什么索引结构要设计成树型呢?
原因1:Hash索引仅能满足 = (等于)、<> (不等于) 、和 IN 查询,如果进行范围查询,哈希型的索引,时间复杂度会退化为o(n),而树型的 ‘有序’ 特性,依然能够保持o(log2N)的高效率。
原因2:对于联合索引的情况,Hash值是将联合索引键合并后一起计算的,无法对单独的一个键或者几个索引键进行查询。
原因3:Hash索引还有一个缺陷,数据的存储是没有顺序的,在Order By的情况下,使用Hash索引还需要对数据重新排序。
原因4:对于等值查询来说,通常Hash索引的效率更高,不过也存在一种情况,就是索引的重复值很多,效率就会降低,这是因为遇到Hash冲突时,需要遍历桶中的行指针来进行比较,找到查询的关键字,非常耗时,所以,Hash索引通常不会用到重复值多的列上,比如列为性别,年龄的情况
Hash索引适用存储引擎如表所示:
索引
/
存储引擎
|
MyISAM
|
InnoDB
| Memory |
HASH
索引
|
不支持
|
不支持
|
支持
|
Hash索引的适用性:
Hash索引存在着很多限制,相比之下在数据库中B+树使用面会更广,不过也有一些场景采用Hash索引效率更高,比如在键值型(key-vaule)数据库中,Redis存储的核心就是Hash表。
Mysql中的memory存储引擎支持Hash存储,如果我们需要用到查询的临时表时,就可以选择Memory存储引擎,把某个字段设置为Hash引擎,比如字符串类型的字段,进行Hash计算之后长度可以缩短到几个字节,当字段的重复度极低,而且经常需要进行等值查询的时候,采用hash索引是个不错的选择。
另外,InnoDB本身不支持Hash索引,但是提供自适应Hash索引,如果某个数据经常被访问,当满足一定条件的时候,就会将这个数据页的地址存放到Hash表中,这样下次查询的时候,就可以直接找到这个页面的所在位置,这样让B+树也具备了Hash索引的优点。
采用自适应 Hash 索引目的是方便根据 SQL 的查询条件加速定位到叶子节点,特别是当 B+ 树比较深的时候,通过自适应 Hash 索引可以明显提高数据的检索效率。
我们可以通过 innodb_adaptive_hash_index 变量来查看是否开启了自适应 Hash,比如:
mysql> show variables like '%adaptive_hash_index';
本站资源均来自互联网,仅供研究学习,禁止违法使用和商用,产生法律纠纷本站概不负责!如果侵犯了您的权益请与我们联系!
转载请注明出处: 免费源码网-免费的源码资源网站 » MYSQL 四、mysql进阶 4(索引的数据结构)
发表评论 取消回复