mysql - 数据库中的可变长度文件写入

Question

为了学习/实验目的，我试图模仿我从研究数据库中学到的一些技术。我很好奇 MySQL(可能还有其他数据库)是如何解决这个特殊问题的。

所以我正在编写一个应用程序，它与其他数据库一样，将记录并排存储在一个文件中。我使用另一个文件来索引记录的位置以快速查找它们。一切正常，直到我需要更新比当前版本本身更长的行。我有一些想法，但似乎没有一个对性能太友好。

假设我想更新 1,000 条记录中的 200 条记录。在我的逻辑中，我将文件光标放在行开始的位置，然后写入数据。假设该行的当前版本有 100 个字节长(下一条记录从第 101 个字节开始)。新数据的长度为 150 个字节，因此只需使用文件光标写入即可有效地覆盖下一条记录中的字节。

据我所知，您不能从游标“推送”文件中的数据 - 如果可以的话，这似乎不是最有利于性能的操作。

我可以选择附加新数据并将当前行替换为 NULL 字节。但这似乎是a) 浪费空间b) 同样，需要大量的机器工作来重建没有 NULL 字节的文件

还有碎片整理选项，但我还没有准备好朝那个方向发展。

有人知道其他数据库是如何处理这个问题的吗？

Answer 1

其他数据库以多种方式处理此问题。我可以回答 MySQL。

• 第一次将记录写入文件的某个空间时，请多留一点空间。将存储组织成 16KB 的“页面”，其中可以容纳几条记录。但最初留出 1/16 的空间，以允许行扩展。每个页面都按需加载到 RAM 中，其中的记录可能会在页面写回磁盘之前稍微重组一下。

• 如果记录超出页面空间，则它们可能会被拆分。一些记录可能会被重新定位到其他新页面，这些页面可能相距很远。跟踪记录位置的索引不需要记录相邻。

• 所有记录重组和拆分留下的空白空间会导致一些碎片，但这可能只占整体存储空间的一小部分，因此我们不必担心。最终，碎片可能会变得更糟，所以不时将所有记录的新副本制作成一组新页面，更有效地重组，以取代原来的页面是个好主意。您应该多久执行一次取决于您在数据库中执行了多少事件，因此没有严格的规定。

• 另一个可能有所帮助的相对较新的新功能称为 sparse files , 或 hole-punching .传统上，文件的所有连续字节都会占用磁盘空间，无论您是否在这些字节中存储有用的数据。但是如果文件中的间隙可以被视为可用磁盘空间呢？那么你就不会关心碎片化了。这并非所有文件系统都支持，并且“漏洞”通常限于文件系统 block 大小的倍数(例如 4KB)。

  MySQL 5.7 在其 page compression 中使用打洞技术特征。 MySQL 仍然将数据存储在 16KB 的页面中，但您可以在页面中启用可选的数据压缩。如果压缩留下 4KB 的间隙(文件系统 block 的大小)，它会将其视为一个空洞，并为其释放文件系统存储空间。

还有许多其他可能的技巧。尝试将存储优化到字节是不值得的，因为一旦您这样做，另一个数据更新将要求您撤消它。优化快速更新通常比完美紧凑的存储更好。一切都归结为不同类型效率之间的权衡(例如，速度与存储)，您必须就什么对您的数据库更重要做出一些决定。