个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
24
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章MySQL 线上日志库迁移实例由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
说说最近的一个案例吧，线上阿里云rds上的一个游戏日志库最近出现了一点问题，随着游戏人数的增加，在线日志库的数据量越来越大，最新的日志库都已经到50g大小了，在线变更的时间非常长.
之前之所以没有发现，是因为之前一直没有进行过日志库的变更，但是随着业务的深入，需要增加一些游戏属性，要对之前的日志库进行变更，这样一来，长时间的维护窗口让业务方和dba都望而却步，日志优化迫在眉睫.
首先看日志库的情况:
1、日志库中数据量大于5000w的大表有5张； 。
2、这5张表开量前每个月的数据量大概在2000w左右，开量后会更多； 。
3、有2个表的索引大小已经超过数据文件大小 。
询问了业务方和运营对这些表的要求，具体如下:
1、保留最近这3个月的数据，其他的数据可以进行流转，避免影响线上业务的性能.
2、3个月之前的数据流转到一个本地库中，可以支持查询即可，查询速度不能过于慢，分钟级别的可以接受.
3、日志库在迁移的过程中，能够容忍几分钟的表数据丢失，对数据的同步实时性要求不是很高 。
4、线上的日志库需要支持用户活跃度等统计 。
5、不希望执行分库分表，有很多查询近几个月的sql操作，表之间存在一定的耦合性，分表之后不利于关联操作 。
基于上面的分析，结合实际情况，初步设想的方案是:
1、对线上数据库game_log中的表进行rename操作，然后将原来的表重新创建出来，这个过程中不是连续的，可能会丢失几秒钟的数据。具体的操作如下:
|
1
2
3
4
5
6
7
8
9
|
#第一步
rename
table
game_log.
table
to
game_log_bak.
table
;
#第二步，获取表结构，其中重要的是auto_increment的值，
#保证后续导入三个月内数据的时候不会发生冲突
show
create
table
game_log_bak.
table
\g
#第三步
在game_log库中重新创建第二步的表结构
|
2、将rename过后的game_log_bak库中的数据流转到本地的离线数据库中，该数据库采用infobright存储引擎，这样能够支持离线数据的快速查询 。
3、备份并清理线上表3个月之外的数据，大概是40g，并将线上的game_log_bak数据库中3个月以内的数据（大概10g）重新灌入game_log数据库中，这样结构就变成了:
。
4、删除game_log_bak库，并搭建一个只读从库，实时的从主库上同步game_log库的信息，如下:
5、从本地的只读从库中，像本地的infobright数据库中同步数据，同步的方法可以选用datax工具，像下面这样:
6、设置定时任务，按照一定的周期清理线上的过期数据，确保线上只保留最近3个月的数据，不会对rds的磁盘存储空间产生压力.
这个方法中，目前看来存在下面几个问题:
1、经常性的清理线上数据，这些数据占用的表空间不能被立即回收，可能会造成数据表的碎片问题.
2、后续如果游戏的量级上来之后，使用这个问题可能还是会有问题，届时可以适当调整日志表的清理周期，如果数据量过大，可以考虑其他的方案来处理.
回过头来分析，表的设计上还是存在一定的问题，日志表中记录的应该只是流水数据，尽量不能出现关联查询的情况，或者说可以提前评估数据量，然后使用季度表或者月表来处理这种的大量的日志情况，这样在清理和维护的时候可能就方便的多.
以上就是mysql 线上日志库迁移实例的详细内容，更多关于mysql 线上日志库迁移的资料请关注我其它相关文章！ 。
原文链接：https://cloud.tencent.com/developer/article/1533732 。
最后此篇关于MySQL 线上日志库迁移实例的文章就讲到这里了,如果你想了解更多关于MySQL 线上日志库迁移实例的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
24
4
0
我将 Bootstrap 与 css 和 java 脚本结合使用。在不影响前端代码的情况下，我真的很难在css中绘制这个背景。在许多问题中，人们将宽度和高度设置为 0%。但是由于我的导航栏，我不能使用
我正在用 c 编写一个程序来读取文件的内容。代码如下: #include void main() { char line[90]; while(scanf("%79[^\
我想使用 javascript 获取矩阵数组的所有对 Angular 线。假设输入输出如下: input = [ [1,2,3], [4,5,6], [7,8,9], ] output =
可以用pdfmake绘制lines，circles和other shapes吗？如果是，是否有documentation或样本？我想用jsPDF替换pdfmake。 最佳答案 是的，有可能。 pdfm
我有一个小svg小部件，其目的是显示角度列表（参见图片）。 现在，角度是线元素，仅具有笔触，没有填充。但是现在我想使用一种“内部填充”颜色和一种“笔触/边框”颜色。我猜想line元素不能解决这个问题，
我正在为带有三角对象的 3D 场景编写一个非常基本的光线转换器，一切都工作正常，直到我决定尝试从场景原点 (0/0/0) 以外的点转换光线。 但是，当我将光线原点更改为 (0/1/0) 时，相交测试突
这个问题已经有答案了: Why do people write "#!/usr/bin/env python" on the first line of a Python script? (22 个回
如何使用大约 50 个星号 * 并使用 for 循环绘制一条水平线？当我尝试这样做时，结果是垂直(而不是水平)列出 50 个星号。 public void drawAstline() { f
这是一个让球以对角线方式下降的 UI，但球保持静止；线程似乎无法正常工作。你能告诉我如何让球移动吗？ 请下载一个球并更改目录，以便程序可以找到您的球的分配位置。没有必要下载足球场，但如果您愿意，也可以
我在我的一个项目中使用 Jmeter 和 Ant，当我们生成报告时，它会在报告中显示 URL、#Samples、失败、成功率、平均时间、最短时间、最长时间。 我也想在报告中包含 90% 的时间线。 现
我有一个不寻常的问题，希望有人能帮助我。我想用 Canvas (android) 画一条 Swing 或波浪线，但我不知道该怎么做。它将成为蝌蚪的尾部，所以理想情况下我希望它的形状更像三角形，一端更大
这个问题已经有答案了: Checking Collision of Shapes with JavaFX (1 个回答) 已关闭 8 年前。 我正在使用 JavaFx 8 库。 我的任务很简单:我想检
如何按编号的百分比拆分文件。行数？ 假设我想将我的文件分成 3 个部分(60%/20%/20% 部分)，我可以手动执行此操作，-_-: $ wc -l brown.txt 57339 brown.tx
我正在努力实现这样的目标: 但这就是我设法做到的。 你能帮我实现预期的结果吗？ 更新: 如果我删除 bootstrap.css 依赖项，问题就会消失。我怎样才能让它与 Bootstrap 一起工作？
我目前正在构建一个网站，但遇到了 transform: scale 的问题。我有一个按钮，当用户将鼠标悬停在它上面时，会发生两件事: 背景以对 Angular 线“扫过” 按钮标签颜色改变 按钮稍微变
我需要使用直线和仿射变换绘制大量数据点的图形(缩放图形以适合 View )。 目前，我正在使用 NSBezierPath，但我认为它效率很低(因为点在绘制之前被复制到贝塞尔路径)。通过将我的数据切割成
我正在使用基于 SVM 分类的 HOG 特征检测器。我可以成功提取车牌，但提取的车牌除了车牌号外还有一些不必要的像素/线。我的图像处理流程如下: 在灰度图像上应用 HOG 检测器 裁剪检测到的区域 调
我有以下图片: 我想填充它的轮廓(即我想在这张图片中填充线条)。 我尝试了形态学闭合，但使用大小为 3x3 的矩形内核和 10 迭代并没有填满整个边界。我还尝试了一个 21x21 内核和 1 迭代，但
我必须找到一种算法，可以找到两组数组之间的交集总数，而其中一个数组已排序。 举个例子，我们有这两个数组，我们向相应的数字画直线。 这两个数组为我们提供了总共 7 个交集。 有什么样的算法可以帮助我解决
简单地说 - 我想使用透视投影从近裁剪平面绘制一条射线/线到远裁剪平面。我有我认为是使用各种 OpenGL/图形编程指南中描述的方法通过单击鼠标生成的正确标准化的世界坐标。 我遇到的问题是我的光线似乎
我是一名优秀的程序员,十分优秀！