- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在 ElasticSearch 的单节点集群上做一些基准测试。
我面临的情况是更多的分片会减少索引性能 - 至少在单个节点中 - (延迟和吞吐量)
这些是我的一些数字:
我使用批量 API 得到了相同的结果。所以我想知道这之间有什么关系,为什么会这样?
注意:我没有资源问题!资源免费(CPU & 内存)
最佳答案
只是为了让您在同一页面上:
您的数据按索引组织,每个索引由分片组成并分布在多个节点上。如果需要对新文档进行索引,则会生成新的 id,并根据此 id 计算目标分片。之后,写入被委托(delegate)给持有计算出的目标分片的节点。这会将您的文档很好地分布在您的所有分片中。
现在通过 id 查找文档很容易,因为包含所需文档的分片可以仅根据 id 进行计算。无需搜索所有分片。顺便说一句,这就是您之后无法更改分片数量的原因。更改的分片编号将导致您的分片中的文档分布不同。
现在,澄清一下,每个分片都是一个单独的 lucene 索引,由磁盘上的段文件组成。写入时,将创建新的段。如果将达到特定数量的段文件,则将合并这些段。因此,仅仅引入更多分片而不将它们分发到其他节点只会为您的单个节点引入更高的 I/O 和内存消耗。搜索时,查询将针对每个分片执行。之后所有分片的结果需要合并为一个结果——更多的分片,更多的 CPU 工作要做...
回到您的问题:
对于您编写大量索引的情况,只有一个节点,索引和分片的最佳数量是 1!
但对于搜索情况(不是通过 id 访问),每个节点的最佳分片数量是可用的 CPU 数量。这样,可以在多线程中进行搜索,从而获得更好的搜索性能
。更正:搜索和索引是多线程的,单个分片可以充分利用一个节点的所有CPU核心。
但是分片有什么好处呢?
可用性:通过将分片复制到其他节点,如果您的某些节点无法再访问,您仍然可以提供服务!
性能:将主分片分布到不同的节点,也会分散工作负载。
因此,如果您的场景写入量很大,请将每个索引的分片数量保持在较低水平。如果您需要更好的搜索性能,请增加分片数量,但请记住“物理”。如果您需要可靠性,请考虑节点/副本的数量。
进一步阅读:
https://www.elastic.co/guide/en/elasticsearch/reference/current/_basic_concepts.html
https://www.elastic.co/guide/en/elasticsearch/reference/current/tune-for-indexing-speed.html
https://www.elastic.co/guide/en/elasticsearch/reference/current/tune-for-search-speed.html
https://www.elastic.co/de/blog/how-many-shards-should-i-have-in-my-elasticsearch-cluster
关于ElasticSearch - 分片如何影响索引性能?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53214628/
我是ElasticSearch的新手,并且一直在使用它的功能。 我在单个计算机上运行单个节点(master = true,data = true)。我创建一个索引,其中包含3个分片和每个分片1个副本。
我们在14个节点的集群中具有嵌入式Elasticsearch的Java应用程序。所有数据都驻留在中央数据库中,并在elasticsearch中对其进行索引以进行查询。完整的索引编制可以随时进行。 系统
我是 MongoDB 的新手,我想了解这两种技术如何协同工作: 当为你的数据库使用复制时,你有一个主节点和一堆辅助节点。为了保证一致性,建议大家始终从主节点读取,对吧? 因此,当您将复制与分片结合使用
有人告诉我,在一台更强大的机器上使用 100 个分片实现 mongodb 分片以实现更高的并发写入数据库是否有意义,每个 monogod.exe 进程都有一个全局锁?假设这是可能的,这种方法会给我更高
我有一个带有 4x 分片的生产 mongodb 部署 (3.6),它运行良好。我想向集群中添加 4 倍以上的分片。一次添加多个分片是否可以,或者这会引起戏剧性事件吗?我发现添加分片是一项昂贵的操作,在
假设在您的 Web 应用程序中,您需要调用多个 Redis 来呈现页面,例如获取一堆用户哈希。为了加快速度,您可以将 redis 命令包装在 MULTI/EXEC 部分,从而使用流水线,从而避免进行多
我正在查看ES文档,并看到以下内容 Each shard is in itself a fully-functional and independent "index" that can be hos
我有一个 Multi-Tenancy 系统,并且我正在尝试设计ElasticSearch以支持 Multi-Tenancy 。我已经在网上搜索过,但是我发现的所有帖子在实践中均未指定具体操作方法。 基
我已经在 kuberenetes 中使用散列分片设置了分片 MongoDB 集群。我首先创建了配置服务器 Replicaset,然后创建了 2 个分片副本集。最后创建了mongos来连接分片集群。 我
我在调试父子关系查询时遇到问题。我想知道调试问题的方法,而不是简单地发布我的映射、数据、查询并询问问题所在(但我最终保留这样做的权利!)。 为此,首先要检查我的 child 和关联的 parent 是
我正在启动一个 Django 项目,需要对多个可能包含太多行的表进行分片。我浏览了这里和其他地方的线程,并遵循了 Django 多数据库文档,但我仍然不确定它们是如何缝合在一起的。我的模型具有会被分片
我正在尝试使用 docker 创建 mongo 分片.我有: 配置服务器: docker run -it --rm --net=xnet -p 27016:27016 \ --hostname
我正在尝试在一台机器上配置分片,但在尝试添加分片时我不断收到错误消息。我使用以下网站作为引用:http://www.javahotchocolate.com/notes/mongodb-shardin
我刚接触 mongodb。由于我必须存储 +-5000 万份文档,我不得不设置一个带有两个副本集的 mongodb 分片集群 文档看起来像这样: { "_id" : "predefined_u
目前我们运行一个包含 2 个服务器 + 1 个仲裁器的 MongoDB 复制集。 我们在副本集的数据库中存储了大约 150 GB 的数据。 现在我们正在考虑何时开始分片。因为我们想知道是否存在不能再开
我需要并行处理某些项目,所以我使用 TPL Dataflow。 .要注意的是,共享相同键(类似于字典)的项目应按 FIFO 顺序处理,而不是彼此平行(它们可以与具有不同值的其他项目平行)。 正在完成的
问题涉及redis的分片配置。我已经用 Java 实现了一个小型测试应用程序,它以 user:userID 的形式在 Jedis 上创建了 100.000 个用户哈希。每个散列都有元素:姓名、电话、部
您好,我将使用多个 Redis 实例和实例之间的一些分片。 我的问题是,如果加载网页需要访问多个分片,性能是否会受到[明显的影响]。 我的基本概述是在多个 Redis 分片之间实现负载平衡*下面的脚注
Predis 声称拥有客户端分片(支持键的一致性散列)。 http://github.com/nrk/predis 我可以使用连接到一组配置文件(节点)来进行分片,但它不是一致的哈希。当我将另一个节点
就目前而言,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引起辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visit the he
我是一名优秀的程序员,十分优秀!