- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我很难在我的 SSD 上存储数亿个 16/32 字节的键/值对和哈希数组。
With Kyoto Cabinet:正常工作时,它以 70000 条记录/秒的速度插入。一旦下降,它就会下降到 10-500 条记录/秒。使用默认设置,丢弃发生在大约一百万条记录之后。查看文档,这是数组中桶的默认数量,所以这是有道理的。我将这个数字增加到 2500 万,事实上,在大约 2500 万条记录之前它工作正常。问题是,一旦我将桶的数量推到 3000 万或更多,插入率从一开始就下降到 10-500 条记录/秒。 Kyoto Cabinet 没有设计成在创建数据库后增加桶的数量,所以我不能插入超过 2500 万条记录。
1/为什么一旦桶数超过 25M,KC 的插入率就会变得很低?
使用 Berkeley DB:我得到的最好速度比 KC 略低,接近 50000 条记录/秒,但还可以。使用默认设置,就像 KC 一样,速度在大约一百万条记录后突然下降。我知道 BDB 旨在逐渐扩展其存储桶数量。不管怎样,它尝试增加初始数量,使用 HashNumElements 和 FillFactor,但任何这些尝试都使情况变得更糟。所以我仍然无法使用 DBD 插入超过 1-2 百万条记录。我尝试激活非同步事务,尝试不同速率的检查点,增加缓存。没有任何改进下拉菜单。
2/什么会导致 BDB 的插入率在插入 1-2 百万次后下降?
注意:我正在使用 java,当速度下降时,CPU 使用率降低到 0-30%,而在正常速度下工作时则为 100%。
注意:停止进程并恢复插入不会有任何改变。所以我认为这与内存限制或垃圾回收无关。
谢谢。
最佳答案
下面是我如何在 KC 遇到写入限制的情况下设法存储数十亿条记录。
我费了好大劲,还是没有解决Kyoto Cabinet和Berkeley DB的问题。不过,我想出了一个使用 Kyoto Cabinet 的有趣解决方法。
我注意到我不能在一个 KC 文件上写入超过 25M 的记录,但是读取没有这样的限制——它总是很快,不管数据库的大小。我找到的解决方案是为每 25M 条新记录创建一个新的 KC 文件(一个新的数据库)。这样,读取发生在许多 KC 文件上并且仍然很快,而写入仅发生在最后创建的文件上并且速度也很快。唯一剩下的问题是允许更新/删除以前文件的记录。为此,我复制了 SSTables 方法,即:
注释:
关于java - 京都内阁/伯克利 DB : Hash table size limitations,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13054852/
既然BerkeleyDB可以使用SQLite api,那么python可以使用sqlite模块来连接BerkeleyDB吗? 这篇文章建议使用其他东西,但可以在 Api 同步之前编写。 Best Py
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 4 年前。
我很难在我的 SSD 上存储数亿个 16/32 字节的键/值对和哈希数组。 With Kyoto Cabinet:正常工作时,它以 70000 条记录/秒的速度插入。一旦下降,它就会下降到 10-50
我是一名优秀的程序员,十分优秀!