- r - 以节省内存的方式增长 data.frame
- ruby-on-rails - ruby/ruby on rails 内存泄漏检测
- android - 无法解析导入android.support.v7.app
- UNIX 域套接字与共享内存(映射文件)
我遇到了超出服务器 RAM 容量的问题。我需要减小数据库大小,以便仍然可以使用 Redis。我的应用程序是一个巨大的键/值存储,其中键是用户给定的文本字符串(目录/文件路径)。这些值是指向我创建的对象的非常简单的指针。所以它是一个对象存储。问题是我有一个 PB 的对象,其中一个对象可能是 100K 字节。我实际上可以将平均对象限制为不小于 1M 字节,因此 10^15/10^6 = 10^9 个对象。因为每个对象都需要一个 key ,即 10^9,或 1G key 。如果每个键/值对为 100 个字节,则 RAM 中有 100GB。这几乎适合具有 128GB RAM 的服务器,但它并不是服务器中唯一发生的事情。如果可以的话,我想减少足迹。
问题是往哪个方向走?我尝试压缩输入键,但在我的测试中它实际上比原来的要大,因为它是一个很短的字符串而不是文档。我考虑过为较小的文件使用不同的数据存储,假设低于 1G。这将减少我需要放入 Redis 的内容。我还考虑过使用一种有意重叠和分箱键的哈希算法,然后将哈希增量作为值放入合并的键中。如果这太令人困惑,这里是一个虚构的例子:
Key Hash
A 15gh2
B 15gh2
C 4Tgnx
然后我会存储在 Redis 中:V(15gh2) = A, B, A-Value=A-Object, B-Value=B-Object
V(4Tgnx) = C
可能有一种合适的方法来代数表示它,但我不知道该怎么做。 “A-Object”是我指向 A 对象的指针。根据我读到的一些关于 key 比 Redis 哈希值更昂贵的帖子(不要将“Redis 哈希”与“哈希”算法混淆),我想要做的是最终得到更少的 key 。我可以访问 http://ieeexplore.ieee.org/完整的数据库来搜索关于这个主题的论文。我不太确定应该在查询字段中搜索什么?我尝试过“哈希链”之类的东西,但这似乎比高效的数据库存储更针对加密。任何解决方案想法或更深入研究的途径都将不胜感激。
更新:如评论部分所述,值或我所说的“A-Object”、“B-Object”是经过编码的“指针”,它们是对象的路径。这些是 XFS 文件系统中的实际文件。它们可以简单地编码为“1:6:2”以指向路径“/data/d0001/d0006/d0002”。所以只需要存储一个非常短的值“1:6:2”。
最佳答案
处理这么多数据的标准方法是跨多个服务器对数据进行分区。
参见 http://redis.io/topics/partitioning寻求有关如何做到这一点的建议。
关于algorithm - Redis:大型键集的高效键分片,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27552146/
我是ElasticSearch的新手,并且一直在使用它的功能。 我在单个计算机上运行单个节点(master = true,data = true)。我创建一个索引,其中包含3个分片和每个分片1个副本。
我们在14个节点的集群中具有嵌入式Elasticsearch的Java应用程序。所有数据都驻留在中央数据库中,并在elasticsearch中对其进行索引以进行查询。完整的索引编制可以随时进行。 系统
我是 MongoDB 的新手,我想了解这两种技术如何协同工作: 当为你的数据库使用复制时,你有一个主节点和一堆辅助节点。为了保证一致性,建议大家始终从主节点读取,对吧? 因此,当您将复制与分片结合使用
有人告诉我,在一台更强大的机器上使用 100 个分片实现 mongodb 分片以实现更高的并发写入数据库是否有意义,每个 monogod.exe 进程都有一个全局锁?假设这是可能的,这种方法会给我更高
我有一个带有 4x 分片的生产 mongodb 部署 (3.6),它运行良好。我想向集群中添加 4 倍以上的分片。一次添加多个分片是否可以,或者这会引起戏剧性事件吗?我发现添加分片是一项昂贵的操作,在
假设在您的 Web 应用程序中,您需要调用多个 Redis 来呈现页面,例如获取一堆用户哈希。为了加快速度,您可以将 redis 命令包装在 MULTI/EXEC 部分,从而使用流水线,从而避免进行多
我正在查看ES文档,并看到以下内容 Each shard is in itself a fully-functional and independent "index" that can be hos
我有一个 Multi-Tenancy 系统,并且我正在尝试设计ElasticSearch以支持 Multi-Tenancy 。我已经在网上搜索过,但是我发现的所有帖子在实践中均未指定具体操作方法。 基
我已经在 kuberenetes 中使用散列分片设置了分片 MongoDB 集群。我首先创建了配置服务器 Replicaset,然后创建了 2 个分片副本集。最后创建了mongos来连接分片集群。 我
我在调试父子关系查询时遇到问题。我想知道调试问题的方法,而不是简单地发布我的映射、数据、查询并询问问题所在(但我最终保留这样做的权利!)。 为此,首先要检查我的 child 和关联的 parent 是
我正在启动一个 Django 项目,需要对多个可能包含太多行的表进行分片。我浏览了这里和其他地方的线程,并遵循了 Django 多数据库文档,但我仍然不确定它们是如何缝合在一起的。我的模型具有会被分片
我正在尝试使用 docker 创建 mongo 分片.我有: 配置服务器: docker run -it --rm --net=xnet -p 27016:27016 \ --hostname
我正在尝试在一台机器上配置分片,但在尝试添加分片时我不断收到错误消息。我使用以下网站作为引用:http://www.javahotchocolate.com/notes/mongodb-shardin
我刚接触 mongodb。由于我必须存储 +-5000 万份文档,我不得不设置一个带有两个副本集的 mongodb 分片集群 文档看起来像这样: { "_id" : "predefined_u
目前我们运行一个包含 2 个服务器 + 1 个仲裁器的 MongoDB 复制集。 我们在副本集的数据库中存储了大约 150 GB 的数据。 现在我们正在考虑何时开始分片。因为我们想知道是否存在不能再开
我需要并行处理某些项目,所以我使用 TPL Dataflow。 .要注意的是,共享相同键(类似于字典)的项目应按 FIFO 顺序处理,而不是彼此平行(它们可以与具有不同值的其他项目平行)。 正在完成的
问题涉及redis的分片配置。我已经用 Java 实现了一个小型测试应用程序,它以 user:userID 的形式在 Jedis 上创建了 100.000 个用户哈希。每个散列都有元素:姓名、电话、部
您好,我将使用多个 Redis 实例和实例之间的一些分片。 我的问题是,如果加载网页需要访问多个分片,性能是否会受到[明显的影响]。 我的基本概述是在多个 Redis 分片之间实现负载平衡*下面的脚注
Predis 声称拥有客户端分片(支持键的一致性散列)。 http://github.com/nrk/predis 我可以使用连接到一组配置文件(节点)来进行分片,但它不是一致的哈希。当我将另一个节点
就目前而言,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引起辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visit the he
我是一名优秀的程序员,十分优秀!