个人中心
文章发布
退出
作者热门文章
- Java 双重比较
- java - 比较器与 Apache BeanComparator
- Objective-C 完成 block 导致额外的方法调用？
- database - RESTful URI 是否应该公开数据库主键？
26
4
我每天有大约 10 亿个事件。我需要将过去 30 天的这些事件存储在数据库中，因此大约有 300 亿行。
假设这是运动员数据库，每行只有4列(运动员姓名、运动员纪律、运动员等级、日期)。我只需要按运动员姓名和日期检索数据。例如，为特定运动员构建过去 30 天的图表。
最初我使用的是 Google Big Query，这是一个很棒的工具，非常便宜，开箱即用的每日分片和线性可扩展性，但几乎没有缺点。查询 30 亿个表大约需要 5 秒，对我来说太多了。数据插入后出现在“Streaming buffer”中，有一段时间(大约5-10分钟)无法查询
另一种方法使用 Postgres 并将所有数据存储在一个具有适当索引的表中。我也可以使用每日分片(在一天开始时自动创建新表)但我担心 Postgres 是否可以处理十亿行。另外，如果我想获取最近 30 天的历史数据，在以这种方式分片数据时，我必须进行 30 次 SELECT 查询。
我不想为像 Cassandra 这样过于复杂的解决方案而烦恼(尽管从未尝试过)。此外，我认为我不会从使用面向列的数据库中获得任何好处，因为我只有 4 列。
寻找类似于 Big Query 但没有提到的缺点的东西。我认为数据可以存储在一个节点中。
最佳答案
数据可以只使用一个节点来存储。实际上，每天 10 亿行并不多。它只有大约 32K 写入/秒。为了比较，Akumuli在带有 SSD 的 m4.xlarge AWS 实例上每秒可以处理大约 150 万次插入(其中几乎一半是使用默认设置的 EBS 卷，但您可以提供更多的 IOPS)。要存储 30B 数据点，您需要不到 200GB 的磁盘空间(这取决于您的数据，但可以安全地假设数据点在磁盘上占用的空间少于 5 个字节)。
您的数据模型很简单。系列名称如下所示:
athlet_rank name=<Name> discipline=<Discipline>
您将能够按名称查询数据:
{
"select": "athlete_rank",
"range": { "from": "20170501T000000",
"to": "20170530T000000" },
"where": { "name": <Name> }
}
如果基数很大(许多独特的系列)，则不应选择 Akumuli。每个系列消耗大约 12KB 的 RAM，例如要处理包含 100 万个系列的数据库，您需要一台至少有 16GB RAM 的服务器(实际数量取决于系列大小)。这最终会得到改进，但目前这就是我们所拥有的。
免责声明:我是 Akumuli 的作者，所以我有点偏见。但我很乐意收到任何反馈，无论好坏。
关于database - 存储时间序列数据的简单方法，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/44614403/
26
4
0
我想了解 Ruby 方法 methods() 是如何工作的。 我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。 我也看过 ruby-doc.org，但我没有找到这种方法。
Test 方法 对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
Replace 方法 替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
Raise 方法 生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
Execute 方法 对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
Clear 方法 清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。 说明 在错误处理后，使用 Clear 显式地清除 Err 对象。此
CopyFile 方法 将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
Copy 方法 将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
Close 方法 关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。 说明 下面例子举例说明如何使用 Close 方
BuildPath 方法 向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
GetFolder 方法 返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
GetFileName 方法 返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
GetFile 方法 返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
GetExtensionName 方法 返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
GetDriveName 方法 返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
GetDrive 方法 返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
GetBaseName 方法 返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
GetAbsolutePathName 方法 从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
FolderExists 方法 如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
FileExists 方法 如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS
我是一名优秀的程序员,十分优秀！