gpt4 book ai didi

database - 用于大量记录的高性能持久键值存储

转载 作者:IT王子 更新时间:2023-10-29 05:55:23 26 4
gpt4 key购买 nike

该场景大约有 10 亿条记录。每条记录的数据大小为 1kb,存储在 SSD 中。哪个 kv store 可以提供最好的随机读取性能?它需要将磁盘访问减少到每次查询仅 1 次,并且所有数据索引都将存储在内存中。

Redis 速度很快,但在内存中存储 1 TB 数据的成本太高。LevelDB 每次查询都会多次读取磁盘。我找到的最接近的是 fatcache,但它不是持久的。这是一个 SSD 支持的内存缓存。

有什么建议吗?

最佳答案

RocksDB可能是您的选择,它针对内存和闪存等快速存储进行了优化,并且高度可定制。如果您的应用程序在初始批量加载后是只读的,那么您可以配置 RocksDB 以将所有内容压缩到一个大文件中。通过这种方式,读取保证最多只有一个 I/O。但是,如果您的应用程序同时处理读取和写入,那么为了每次读取最多有一个 I/O,您将​​需要牺牲写入性能,因为您需要经常将 rocksdb 配置为压缩,而这会损害写入性能。

还可以找到 RocksDB 的调优指南 here .

关于database - 用于大量记录的高性能持久键值存储,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25821380/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com