gpt4 book ai didi

MySQL高级10-InnoDB引擎存储架构

转载 作者:我是一只小鸟 更新时间:2023-09-19 23:02:10 28 4
gpt4 key购买 nike

1、逻辑存储结构

  表空间(Tablespace):一个mysql实例,及一个数据库实例,可以对应多个表空间(ibd文件),用于存储记录,索引等数据.

  段(Segment):分为数据段(Leaf node segment)、索引段(Non-leaf node segment)、回滚段(Rollback segment),InnoDB是索引组织表,数据段就是B+树的叶子节点(Leaf node segment),索引段即为B+树的非叶子节点(Non-leaf node segment)。段用来管理多个Extent(区).

  。

  区(Extent):表空间的单元结构,每个区的大小为1M, 默认情况下,InnoDB存储引擎页大小为16k,即一个区中一共有64个连续的页 。

  页(Page):页是InnoDB存储引擎磁盘管理的最小单元,每个页大小默认为16K,为了保证页的连续,InnoDB存储引擎每次从磁盘申请4-5个区 。

  行(Row):InnoDB存储引擎数据是按行进行存放的,Trx_id:每次对某条记录进行改动时,都会把对应的事务id赋值给这个trx_id隐藏列。Roll_pointer:每次对某条记录进行改动时,都会把旧的版本写入到undo日志中,然后这个隐藏列就相当于一个指针,通过它可以找到该记录修改前的信息 。

  。

2、整体架构

  MySQL5.5 版本开始,默认使用 InnoDB 存储引擎,它擅长事务处理,具有崩溃恢复特性,在日常开发中使用非常广泛,下面是 InnoDB 架构图,左侧为内存架构,右侧为磁盘架构。  。

  。

  。

3、内存结构

  。

  内存架构中主要分为:Buffer Poll(内存缓冲池)、Change Buffer()、LogBuffer()、Adaptive Hash Index()四个区.

  3.1 Buffer Pool

    缓冲池是主内存中的一个区域,里面可以缓存磁盘上经常操作的真实数据,在执行增删改查操作时,先操作缓冲池中的数据,若缓冲池没有数据,则从磁盘加载并缓存,然后再以一定频率刷新到磁盘,从而减少磁盘IO,加快出来速度。缓冲池以Page页为单位,底层采用链表数据结构管理Page,根据状态可以将Page分为三种类型.

    • free page:空闲Page,未被使用。
    • clean page:被使用page,数据没有被修改过。
    • dirty page:脏页,被使用page,数据被修改过,其中数据与磁盘上的数据产生了不一致。

  3.2 Change Buffer

    更改缓冲区,针对与非唯一二级索引页,在执行DML语句时,如果这些数据Page没有在Buffer Pool中,不会直接操作磁盘,而是将数据变更存在更改缓冲区Change Buffer中,在未来数据被读取时,再将数据合并恢复到Buffer Pool中,再讲合并后的数据刷新到磁盘中.

    Change Buffer的意义:与集聚索引不同,二级索引通常是非唯一的,并且以相对随机的顺序插入二级索引,同样,删除和更新都可能会影响索引树中不相邻的二级索引页,如果每一次都操作磁盘,会造成大量的磁盘IO,有了Change Buffer之后,我们可以在缓冲池中进行合并处理,减少磁盘IO 。

  3.3 Adaptive Hash index

    自适应hash索引,InnoDB默认是不支持hash索引的,默认支持的是B+树的索引。因为hash索引不支持范围查找,仅可以用来做值匹配查找。但是自适应hash索引,用于优化对Buffer Pool数据的查询。InnoDB存储引擎会监控对表上各项索引页的查询,如果观察到hash索引可以提升速度,则建立hash索引,称之为自适应hash索引.

    自适应哈希索引,无需人工干预,是系统根据情况自动完成。通过  innodb_adaptive_hash_index  参数可以配置自适应hash索引的开启和关闭。  。

                          mysql
                          
                            >
                          
                           show variables 
                          
                            like
                          
                           "
                          
                            %
                          
                          innodb_adaptive_hash_index
                          
                            %
                          
                          
                            ";

                          
                          
                            +
                          
                          
                            --
                          
                          
                            --------------------------------+-------+
                          
                          
                            |
                          
                           Variable_name                    
                          
                            |
                          
                           Value 
                          
                            |
                          
                          
                            +
                          
                          
                            --
                          
                          
                            --------------------------------+-------+
                          
                          
                            |
                          
                           innodb_adaptive_hash_index       
                          
                            |
                          
                          
                            ON
                          
                          
                            |
                          
                          
                            |
                          
                           innodb_adaptive_hash_index_parts 
                          
                            |
                          
                          
                            8
                          
                          
                            |
                          
                          
                            +
                          
                          
                            --
                          
                          
                            --------------------------------+-------+
                          
                          
                            2
                          
                           rows 
                          
                            in
                          
                          
                            set
                          
                           (
                          
                            0.00
                          
                           sec)
                        

  3.4 Log Buffer

    日志缓冲区,用来保存要写入到磁盘中的log日志(redolog,undolog),默认大小为16M, 日志缓冲区的日志会定期刷新到磁盘中,如果需要更新、插入或者删除许多行的事务,增加日志缓冲区的大小可以节省磁盘i/o 。

    通过 innodb_log_buffer_size 参数可以查看缓冲区大小 。

    通过 innodb_flush_log_at_trx_commit 参数可以查看刷新到磁盘时机。这里有0,1,2三个值:

      • 0:每秒将日志写入并刷新到磁盘一次。
      • 1:日志在每次事务提交时写入并刷新到磁盘。
      • 2:日志在每次事务提交后写入,并每秒刷新到磁盘一次。
                          mysql
                          
                            >
                          
                           show variables 
                          
                            like
                          
                          
                             "innodb_log_buffer_size";

                          
                          
                            +
                          
                          
                            --
                          
                          
                            ----------------------+----------+
                          
                          
                            |
                          
                           Variable_name          
                          
                            |
                          
                           Value    
                          
                            |
                          
                          
                            +
                          
                          
                            --
                          
                          
                            ----------------------+----------+
                          
                          
                            |
                          
                           innodb_log_buffer_size 
                          
                            |
                          
                          
                            16777216
                          
                          
                            |
                          
                          
                            +
                          
                          
                            --
                          
                          
                            ----------------------+----------+
                          
                          
                            1
                          
                           row 
                          
                            in
                          
                          
                            set
                          
                           (
                          
                            0.00
                          
                          
                             sec)

mysql
                          
                          
                            >
                          
                             show variables 
                          
                            like
                          
                           "
                          
                            %
                          
                          flush_log
                          
                            %
                          
                          
                            ";

                          
                          
                            +
                          
                          
                            --
                          
                          
                            ------------------------------+-------+
                          
                          
                            |
                          
                           Variable_name                  
                          
                            |
                          
                           Value 
                          
                            |
                          
                          
                            +
                          
                          
                            --
                          
                          
                            ------------------------------+-------+
                          
                          
                            |
                          
                           innodb_flush_log_at_timeout    
                          
                            |
                          
                          
                            1
                          
                          
                            |
                          
                          
                            |
                          
                           innodb_flush_log_at_trx_commit 
                          
                            |
                          
                          
                            1
                          
                          
                            |
                          
                          
                            +
                          
                          
                            --
                          
                          
                            ------------------------------+-------+
                          
                          
                            2
                          
                           rows 
                          
                            in
                          
                          
                            set
                          
                           (
                          
                            0.00
                          
                           sec)
                        

  。

4、磁盘架构  

  。

  4.1 System Tablespace  

    在MySQL中,System Tablespace(系统表空间)是一个用于存储系统表和一些特殊表的默认表空间。系统表空间包含了以下几个重要的系统表:

    • mysql.user:存储了MySQL中的用户和权限信息。
    • mysql.db:存储了所有数据库的信息。
    • mysql.host:存储了允许连接到MySQL服务器的主机信息。
    • mysql.tables_priv:存储了表级别的权限信息。
    • mysql.columns_priv:存储了列级别的权限信息。

    系统表空间还包含其他系统表,用于存储MySQL服务器的配置和元数据信息。     系统表空间默认存储在名为`ibdata1`的共享文件中。这个文件通常位于MySQL的数据目录下.

    要注意的是,在InnoDB存储引擎中,除了系统表空间(System Tablespace),还存在一个叫做表空间文件(Tablespaces)的概念。表空间文件用于存储用户创建的表和索引。每个InnoDB表都会有一个对应的表空间文件。     需要注意的是,有时候系统表空间的大小会超过预期,导致空间不足或性能问题。在这种情况下,可以考虑调整系统表空间的大小或进行其他优化措施以解决问题。     总结:系统表空间是MySQL中用于存储系统表和特殊表的默认表空间,包含了一些重要的系统表,通常存储在名为`ibdata1`的共享文件中.

  4.2 File-Per-Table Tablespace

    File-Per-Table Tablespace(每个表一个表空间)是MySQL中的一个存储配置选项,它允许每个InnoDB表使用单独的表空间文件来存储数据和索引。这与默认情况下的系统表空间不同.

    在默认情况下,所有的InnoDB表共享一个系统表空间,即存储在 ibdata1 文件中。而使用File-Per-Table Tablespace选项,每个InnoDB表都会有一个独立的表空间文件,位于数据目录下.

    File-Per-Table Tablespace的优点包括:

    • 管理:每个表有自己的表空间文件,方便管理和维护。可以更方便地备份、恢复或迁移单个表。
    • 性能:每个表具有独立的表空间文件,可以在磁盘上更好地分布和组织数据,提高性能和并发访问的能力。
    • 存储空间:使用File-Per-Table Tablespace可以更有效地使用存储空间。当有大量小表或经常进行删除和重建表时,每个表的表空间文件可以更好地管理空间,避免系统表空间的不断增长。

    File-Per-Table Tablespace的缺点和注意事项包括:

    • 管理复杂性:每个表都会有一个独立的表空间文件,这可能增加了管理的复杂性,包括备份和维护的管理操作。
    • 存储和文件系统:使用File-Per-Table Tablespace可能涉及更多的磁盘IO操作,并可能增加文件系统的碎片化问题。

    使用File-Per-Table Tablespace可以在创建表时进行配置或在现有表上进行更改。要在创建新表时启用File-Per-Table Tablespace,可以在创建表的DDL语句中加上 ENGINE=InnoDB 选项。要在已有表上启用File-Per-Table Tablespace,可以使用MySQL的 ALTER TABLE 语句并设置 innodb_file_per_table 参数为ON.

    总结:File-Per-Table Tablespace是MySQL InnoDB存储引擎的一个选项,允许每个表使用单独的表空间文件存储数据和索引。它提供了更灵活的管理、更好的性能和更高效的存储空间利用率 。

  4.3 General Tablespaces

    General Tablespaces(通用表空间)是MySQL 5.7版本引入的一个功能,在InnoDB存储引擎中提供了更灵活和更高级的表空间管理选项。  。

    通用表空间允许将多个InnoDB表存储在一个或多个共享表空间文件中,而不是每个表都有自己的独立表空间文件(如File-Per-Table Tablespace中)。这些共享表空间文件可以在运行时动态添加或删除新的表.

    通用表空间的优点包括:

    • 简化管理:使用通用表空间可以更方便地管理和维护多个表。可以将相关的表组织在同一个共享表空间中,便于备份、恢复和迁移。
    • 空间效率:通用表空间可以更有效地使用存储空间。多个表可以共享一个表空间文件,避免了为每个表都创建单独的表空间文件的开销。
    • 高性能:由于多个表共享表空间文件,可以提高磁盘IO操作的效率。此外,共享表空间可以利用预读机制(预读相邻页)来提高查询性能。

      使用通用表空间时,可以在创建表时指定 TABLESPACE 子句来为表分配到指定的共享表空间,也可以使用 ALTER TABLE 语句将现有表移动到共享表空间中.

     创建通用表空间示例:

                          mysql
                          
                            >
                          
                          
                            create
                          
                           tablespace my_test 
                          
                            add
                          
                           datafile "my_test.ibd" engine
                          
                            =
                          
                          
                            InnoDB;
Query OK, 
                          
                          
                            0
                          
                           rows affected (
                          
                            0.01
                          
                           sec)
                        

     创建使用通用表空间的表示例:

                          mysql
                          
                            >
                          
                          
                            create
                          
                          
                            table
                          
                           tablespace_test(id 
                          
                            int
                          
                          
                            ) tablespace my_test;
Query OK, 
                          
                          
                            0
                          
                           rows affected (
                          
                            0.03
                          
                           sec)
                        

    说明1:此时MySQL就不会再给tablespace_test表创建单独的表空间了,而是使用通用表空间my_test.ibd空间 。

    将现有表移动到通用表空间语法示例:

                          
                            ALTER
                          
                          
                            TABLE
                          
                          
                             table_name TABLESPACE tablespace_name;
                          
                        

    说明2: `table_name`是要移动的表的名称, `tablespace_name`是要移动到的表空间的名称.

    删除通用表空间语法示例 。

                          
                            ALTER
                          
                          
                             TABLESPACE tablespace_name 
                          
                          
                            DROP
                          
                           DATAFILE 
                          
                            '
                          
                          
                            <path>/tablespace_file.ibd
                          
                          
                            '
                          
                          ;
                        

    说明3: `tablespace_name`是要删除的表空间的名称, `<path>/tablespace_file.ibd`是要删除的表空间文件的路径和文件名.

  4.4 undo Tablespace

    在MySQL中,"undo tablespace"(撤销表空间)是用于存储撤销日志数据的一种特殊类型的表空间.

    撤销日志是 MySQL 中的一项重要功能,用于回滚或撤销事务中所做的更改。当事务执行 UPDATE、DELETE 或 INSERT 操作时,撤销日志记录了被修改或删除的非聚集索引的旧值,以及 INSERT 操作插入的新记录。这些撤销日志记录存储在名为 "undo log" 的数据结构中.

    为了高效地管理和存储撤销日志数据,MySQL引入了 "undo tablespace" 的概念。撤销表空间是一个独立于数据表空间的区域,用于存储撤销日志数据。它可以包含一个或多个文件,这些文件具有固定大小(通常是小于等于1GB)和特定的命名约定,默认的是undo_001和undo_002 。

    撤销表空间的主要作用有以下几个方面:

    • 提供事务的回滚能力:如果一个事务需要回滚,MySQL可以使用撤销表空间中的撤销日志来还原事务执行前的数据状态。
    • 支持并发事务:撤销表空间使得多个事务可以同时进行,并提供了事务隔离级别的支持。
    • 回收空间:当事务完成时,撤销表空间中的撤销日志可以被清除,空间可以被重复使用。

      撤销表空间在MySQL的配置文件(my.cnf或my.ini)中通过 innodb_undo_directory 和 innodb_undo_tablespaces 配置项进行设置。 innodb_undo_directory 定义了撤销表空间文件的存储目录,而 innodb_undo_tablespaces 指定了要使用的撤销表空间文件的数量.

    总结:撤销表空间是MySQL中用于存储撤销日志数据的表空间,支持事务的回滚、并发事务和空间回收.

  4.5 Temporary Tablespace

    在MySQL中,临时表空间(Temporary Tablespace)是用于存储临时表数据和临时结果集的一种特殊类型的表空间。临时表空间的作用是存储临时表的数据,这些临时表通常是在查询过程中创建的。这些临时表可能包括临时表名、中间结果集或者用于排序和聚合的临时数据.

    默认情况下,MySQL使用系统表空间(system tablespace)来存储临时表数据。但是,在高并发环境下,使用单个系统表空间可能会导致性能瓶颈。为了提高性能并优化系统资源的使用,MySQL引入了临时表空间的概念。通过为临时表数据分配独立的临时表空间,MySQL可以更好地管理和优化临时表的创建和使用。临时表空间可以在独立的表空间文件中存储临时表数据,这些文件可以位于不同的存储设备上,从而分散了IO负载.

    可以通过以下配置项来设置临时表空间:既可以写在MySQL配置文件中也可以在MySQL交互界面上使用set 指令设置 。

    -`tmp_table_size`:用于设置每个临时表的内存大小。如果临时表大小超过此值,则会将其存储到临时表空间中.

    -`max_heap_table_size`:用于设置只在内存中存储的临时表的最大大小.

    -`tmpdir`:用于设置临时表空间的目录.

    使用临时表空间可以提升查询性能,减少对系统表空间的负载,并提供更好的系统扩展性和可维护性.

    总结:临时表空间是MySQL中用于存储临时表数据和临时结果集的表空间。它可以提高查询性能,并分散IO负载,提供更好的系统资源利用和扩展性.

  4.6 Doublewrite Buffer Files

    在MySQL中,Doublewrite Buffer Files(双写缓冲区文件)是一种用于提高数据保护和恢复机制的技术。Doublewrite Buffer Files使用了一种双写技术,先将数据写入到双写缓冲区文件,然后再写入到实际的数据文件。这可以减少数据损坏和页级别的IO不一致性的风险。双写缓冲区文件的主要作用是用于在MySQL崩溃或意外断电的情况下,保护InnoDB存储引擎使用的数据页的完整性。
    当InnoDB存储引擎进行写操作时,会先将数据写入到双写缓冲区文件,然后通过后台线程将数据写入到磁盘上的实际数据文件。这样,在发生崩溃或断电时,双写缓冲区中的数据可以用来恢复数据文件的一致性。双写缓冲区文件在重启MySQL时会自动应用并删除。
    双写缓冲区文件的大小由配置参数`innodb_doublewrite_buffer_size` 控制,默认值为`1MB`。可以通过在MySQL配置文件中设置该参数来修改双写缓冲区文件的大小。
    使用双写缓冲区文件的一个潜在问题是会增加写操作的IO负载,因为每个写操作都需要写入两次。为了减少双写带来的性能影响,可以考虑将双写缓冲区文件放置在快速的存储介质上,如SSD。
    总结:Doublewrite Buffer Files是一种用于提高数据保护和恢复机制的技术,通过在写入实际数据文件之前将数据先写入到双写缓冲区文件,来减少数据损坏和页级别的IO不一致性的风险。双写缓冲区文件的大小由配置参数控制,需要在MySQL配置文件中进行配置。

  4.7 Redo Log

    在MySQL中,Redo Log(重做日志)是用于实现事务的持久性和恢复能力的关键组件之一。它记录了发生在数据库中的数据更改操作,以确保在系统崩溃或断电时,能够将未完成的事务重新应用到数据库中,以保持数据的一致性.

    Redo Log是循环写入的,意味着当日志文件写满后,会重新从开头开始覆盖之前的日志。所有的修改操作都会先写入到Redo Log,然后异步地刷新到磁盘上的数据文件。这样即使在写操作还未刷新到磁盘上的数据文件时发生崩溃,通过Redo Log的回放可以重新执行未完成的事务,确保数据的持久性.

    Redo Log是以逻辑方式记录的,而不是物理方式。它记录了事务引起的数据修改,而不是实际的数据变化。通过记录这些逻辑操作,MySQL可以在恢复时重新执行所需的操作.

    在MySQL中,Redo Log由两个文件组成,通常为`ib_logfile0`和`ib_logfile1`。这些文件的大小由配置参数`innodb_log_file_size`控制,默认情况下为`48MB`。可以在MySQL配置文件中进行修改.

    使用Redo Log的一个重要注意事项是,写入Redo Log会引起磁盘IO操作,因此对于事务密集型负载,合理调整Redo Log的大小和I/O性能是很重要的。过小的Redo Log可能导致频繁的刷新和IO延迟,而过大的Redo Log可能对内存和磁盘空间带来负担.

    总结:Redo Log是MySQL中用于实现事务的持久性和恢复的关键组件,它记录了数据的修改操作,保证在系统崩溃或断电后,能够重新应用未完成的事务。Redo Log由两个文件组成,通过循环写入的方式记录数据修改。合理调整Redo Log的大小和I/O性能对于数据库性能和持久性是重要的.

  。

 

最后此篇关于MySQL高级10-InnoDB引擎存储架构的文章就讲到这里了,如果你想了解更多关于MySQL高级10-InnoDB引擎存储架构的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com