- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我需要在磁盘上存储大量(数百万)个文件。我想使用分片目录结构,因此目录中的文件不超过一千个。如果我使用 3 个目录深度,我可以获得十亿个文件 (1000^3)。
我的数学有点生疏,我不确定在给定文件的整数键的情况下计算文件将落入哪个目录的正确公式。
例如,文件“0010.pdf”将位于目录“0000\0000\0000\0010.pdf”中。文件“2010.pdf”将进入“0000\0000\0002\0010.pdf”。所以结构是“{level 1}{level 2}{level 3}{file}”。
我如何从数学上计算出各个级别?我正在寻找一个公式。 C# 代码会更好,但如果需要,我可以从公式中得出。
编辑
我将下面的答案转换为 C# 函数。
public static string Shard(long key, string extension, int maxFiles = 1000, int depth = 3)
{
var parts = new List<string>();
long current = key;
for (int i = depth; i > 0; i--)
{
long q = Convert.ToInt64(Math.Pow(maxFiles, i));
long level = current / q;
parts.Add(string.Format("{0:0000}", level));
current = current % q;
}
parts.Add(string.Format("{0:0000}{1}", current, extension));
string separator = Path.DirectorySeparatorChar.ToString(CultureInfo.InvariantCulture);
string path = string.Join(separator, parts);
return path;
}
最佳答案
除以 1000^3 = 1000000000(模除以 1000 - 什么都不做)得到一级目录。
除以1000^2 = 1000000,模除以1000,得到二级目录。
除以1000,取模1000,得到三级目录。
修改 1000 以获取文件。
请注意,这实际上是如何通过从 1000^3 开始的 for 循环完成的,每一步除以 1000。
示例:
Input: 123456789012
123456789012 / 1000000000 = 123
123456789012 / 1000000 % 1000 = 456
123456789012 / 1000 % 1000 = 789
123456789012 % 1000 = 012
Directory / file: 0123/0456/0789/0012
或者,迭代地进行:
(删除 % 1000
并改为在上一步修改数字和模组)
Input: 123456789012
123456789012 / 1000000000 = 123
123456789012 % 1000000000 = 456789012
456789012 / 1000000 = 456
456789012 % 1000000 = 789012
789012 / 1000 = 789
789012 % 1000 = 012
取每一次除法的结果,最后的模结果:
Directory / file: 0123/0456/0789/0012
补充说明:
您可能可以去掉结构的每个级别中的一个数字 - 因为您只有 0-999,所以没有必要使用 4 位数字。
关于c# - 分片目录结构算法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/20151306/
我是ElasticSearch的新手,并且一直在使用它的功能。 我在单个计算机上运行单个节点(master = true,data = true)。我创建一个索引,其中包含3个分片和每个分片1个副本。
我们在14个节点的集群中具有嵌入式Elasticsearch的Java应用程序。所有数据都驻留在中央数据库中,并在elasticsearch中对其进行索引以进行查询。完整的索引编制可以随时进行。 系统
我是 MongoDB 的新手,我想了解这两种技术如何协同工作: 当为你的数据库使用复制时,你有一个主节点和一堆辅助节点。为了保证一致性,建议大家始终从主节点读取,对吧? 因此,当您将复制与分片结合使用
有人告诉我,在一台更强大的机器上使用 100 个分片实现 mongodb 分片以实现更高的并发写入数据库是否有意义,每个 monogod.exe 进程都有一个全局锁?假设这是可能的,这种方法会给我更高
我有一个带有 4x 分片的生产 mongodb 部署 (3.6),它运行良好。我想向集群中添加 4 倍以上的分片。一次添加多个分片是否可以,或者这会引起戏剧性事件吗?我发现添加分片是一项昂贵的操作,在
假设在您的 Web 应用程序中,您需要调用多个 Redis 来呈现页面,例如获取一堆用户哈希。为了加快速度,您可以将 redis 命令包装在 MULTI/EXEC 部分,从而使用流水线,从而避免进行多
我正在查看ES文档,并看到以下内容 Each shard is in itself a fully-functional and independent "index" that can be hos
我有一个 Multi-Tenancy 系统,并且我正在尝试设计ElasticSearch以支持 Multi-Tenancy 。我已经在网上搜索过,但是我发现的所有帖子在实践中均未指定具体操作方法。 基
我已经在 kuberenetes 中使用散列分片设置了分片 MongoDB 集群。我首先创建了配置服务器 Replicaset,然后创建了 2 个分片副本集。最后创建了mongos来连接分片集群。 我
我在调试父子关系查询时遇到问题。我想知道调试问题的方法,而不是简单地发布我的映射、数据、查询并询问问题所在(但我最终保留这样做的权利!)。 为此,首先要检查我的 child 和关联的 parent 是
我正在启动一个 Django 项目,需要对多个可能包含太多行的表进行分片。我浏览了这里和其他地方的线程,并遵循了 Django 多数据库文档,但我仍然不确定它们是如何缝合在一起的。我的模型具有会被分片
我正在尝试使用 docker 创建 mongo 分片.我有: 配置服务器: docker run -it --rm --net=xnet -p 27016:27016 \ --hostname
我正在尝试在一台机器上配置分片,但在尝试添加分片时我不断收到错误消息。我使用以下网站作为引用:http://www.javahotchocolate.com/notes/mongodb-shardin
我刚接触 mongodb。由于我必须存储 +-5000 万份文档,我不得不设置一个带有两个副本集的 mongodb 分片集群 文档看起来像这样: { "_id" : "predefined_u
目前我们运行一个包含 2 个服务器 + 1 个仲裁器的 MongoDB 复制集。 我们在副本集的数据库中存储了大约 150 GB 的数据。 现在我们正在考虑何时开始分片。因为我们想知道是否存在不能再开
我需要并行处理某些项目,所以我使用 TPL Dataflow。 .要注意的是,共享相同键(类似于字典)的项目应按 FIFO 顺序处理,而不是彼此平行(它们可以与具有不同值的其他项目平行)。 正在完成的
问题涉及redis的分片配置。我已经用 Java 实现了一个小型测试应用程序,它以 user:userID 的形式在 Jedis 上创建了 100.000 个用户哈希。每个散列都有元素:姓名、电话、部
您好,我将使用多个 Redis 实例和实例之间的一些分片。 我的问题是,如果加载网页需要访问多个分片,性能是否会受到[明显的影响]。 我的基本概述是在多个 Redis 分片之间实现负载平衡*下面的脚注
Predis 声称拥有客户端分片(支持键的一致性散列)。 http://github.com/nrk/predis 我可以使用连接到一组配置文件(节点)来进行分片,但它不是一致的哈希。当我将另一个节点
就目前而言,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引起辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visit the he
我是一名优秀的程序员,十分优秀!