- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有一个托管超过 250 万个文档的 MongoDB 分片集群。
文档结构如下:
{
"app_id": "whatever",
"created": ISODate("2018-05-06T12:13:45.000Z"),
"latest_transaction": ISODate("2019-03-06T11:11:40.000Z"),
"anotherField1": "Str", "anotherField2": "Str", ...otherfields
}
{
"app_id": "whatever",
"created": ISODate("2018-04-06T12:13:45.000Z"),
"latest_transaction": ISODate("2019-03-06T11:11:40.000Z"),
"uninstalled": ISODate("2019-03-07T11:11:40.000Z"),
"anotherField1": "Str", "anotherField2": "Str", ...otherfields
}
所以基本上有些文档有已卸载字段,有些则没有。
以下是对集合的查询(这是 pymongo 的解释,抱歉 datetime.datetime ):
{
'$and': [
{'app_id': {'$eq': 'whatever'}},
{'created': {'$lt': datetime.datetime(2019, 3, 7, 0, 0)}},
{'latest_transaction': {'$gt': datetime.datetime(2019, 2, 5, 0, 0)}},
{'$nor': [{'uninstalled': {'$lt': datetime.datetime(2019, 3, 7, 0, 0)}}]}
]
}
这是我在该集合中拥有的两个相关索引:
Index1: {"created": 1, "latest_transaction": -1, "uninstalled": -1, "app_id": 1}
Index2: {'app_id': 1, 'anotherField1': 1, 'anotherField2': 1}
现在的问题是,MongoDb 查询规划器似乎永远不会出于同样的目的选择我在集合中的Index1!
我最初的印象是,查询将使用覆盖索引以及我构建索引的方式[因此,速度非常快],但对我来说很奇怪,mongodb正在使用Index2并且一切都太慢了,有时需要 10 分钟以上,对于 150 万个文档的结果集通常需要 6 分钟左右[即匹配的app_id大约有150万个文档]。
这是查询的解释输出,显示使用“Index1”的拒绝计划
{
'inputStage': {
'inputStage': {
'direction': 'forward',
'indexBounds': {
'app_id': ['["whatever", "whatever"]'],
'created': ['(true, new Date(1551916800000))'],
'latest_transaction': ['[new Date(9223372036854775807), new Date(1549324800000))'],
'uninstalled': ['[MaxKey, new Date(1551916800000)]', '[true, MinKey]']
},
'indexName': 'created_1_latest_transaction_-1_uninstalled_-1_app_id_1',
'indexVersion': 2,
'isMultiKey': False,
'isPartial': False,
'isSparse': False,
'isUnique': False,
'keyPattern': {
'app_id': 1.0,
'created': 1.0,
'latest_transaction': -1.0,
'uninstalled': -1.0
},
'multiKeyPaths': {'app_id': [], 'created': [], 'latest_transaction': [], 'uninstalled': []},
'stage': 'IXSCAN'},
'stage': 'FETCH'},
'stage': 'SHARDING_FILTER'
}
以下是使用不相关、未覆盖、Index2 的获胜计划:
{'inputStage': {
'inputStage': {'direction': 'forward',
'indexBounds': {
'app_id': ['["whatever", "whatever"]'],
'anotherField1': ['[MinKey, MaxKey]'],
'anotherField2': ['[MinKey, MaxKey]']},
'indexName': 'app_id_1_anotherField2_1_anotherField1_1',
'indexVersion': 2,
'isMultiKey': False,
'isPartial': False,
'isSparse': False,
'isUnique': False,
'keyPattern': {'app_id': 1, 'anotherField1': 1, 'anotherField2': 1},
'multiKeyPaths': {'app_id': [], 'anotherField1': [], 'anotherField2': []},
'stage': 'IXSCAN'},
'stage': 'FETCH'},
'stage': 'SHARDING_FILTER'
}
(1, -1, -1, 1)
谢谢! :)
------------ 编辑 --------------
完整的解释结果有点长,所以我把它粘贴了 here ,它解释了 queryPlanner 对索引 (Index2) 的选择。
还有关于 shard_key,它与此处查询的内容完全不同,这就是为什么我仅为该查询定义一个单独的特定索引。 (分片键是 (app_id, android_id, some_other_field_not_in_query) 上的复合索引。
最佳答案
涵盖的查询需要正确的投影 - 请确保您要求仅返回索引中的字段。特别是对于分片集合,索引还应该包含分片键:https://docs.mongodb.com/manual/core/query-optimization/#restrictions-on-sharded-collection .
您可以使用 allPlansExecution 从 explain
获取更多详细信息范围。它将向您展示规划器如何运行样本以及为什么 index2 获胜。
https://github.com/mongodb/mongo/blob/master/src/mongo/db/query/plan_ranker.cpp#L191分数是如何计算的:
baseScore = 1
productivity = advanced / works // the main one
tieBreak = very_small_number
+ noFetchBonus // 0 for not covered queries
+ noSortBonus // 0 for no sort
+ noIxisectBonus // 0 for index intersection
score = baseScore + productivity + tieBreakers
它会选择在返回的前 100 个文档(高级)中得分较高的计划,这通常可以很好地了解它将如何适用于整个查询。如果您对此有疑问,请尝试hint另一个索引并检查它是否更快。
更新
shard key is a compound index on (app_id, android_id, some_other_field_not_in_query
有点解释了。 app_id是sharding key和Index2中共同的前缀。这意味着使用这个索引mongo可以立即决定要查询哪些分片。更改 Index1 中字段的顺序以匹配分片键前缀:
Index1: {"app_id": 1, "created": 1, "latest_transaction": -1, "uninstalled": -1}
解释中的基本数字:
u'inputStage': {u'advanced': 0,
u'indexName': u'created_1_latest_transaction_-1_uninstalled_-1_app_id_1',
u'inputStage': {u'advanced': 88,
u'indexName': u'app_id_1_is_enabled_1_another_id_1',
u'inputStage': {u'advanced': 12,
u'indexName': u'app_id_1_uninstalled_1_is_enabled_1',
u'inputStage': {u'advanced': 101,
u'indexName': u'app_id_1_is_enabled_1_gaid_1',
获胜者是 app_id_1_is_enabled_1_gaid_1
,因为它在评估期间成功返回了 101 个文档。没有匹配前缀 created_1_latest_transaction_-1_uninstalled_-1_app_id_1
的速度至少慢 100 倍。
关于MongoDB 最优索引 |查询规划器行为,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/55058864/
我之前让 dll 注入(inject)器变得简单,但我有 Windows 7,我用 C# 和 C++ 做了它,它工作得很好!但是现在当我在 Windows 8 中尝试相同的代码时,它似乎没有以正确的方
我正在尝试制作一个名为 core-splitter 的元素,该元素在 1.0 中已弃用,因为它在我们的项目中起着关键作用。 如果您不知道 core-splitter 的作用,我可以提供一个简短的描述。
我有几个不同的蜘蛛,想一次运行所有它们。基于 this和 this ,我可以在同一个进程中运行多个蜘蛛。但是,我不知道如何设计一个信号系统来在所有蜘蛛都完成后停止 react 器。 我试过了: cra
有没有办法在达到特定条件时停止扭曲 react 器。例如,如果一个变量被设置为某个值,那么 react 器应该停止吗? 最佳答案 理想情况下,您不会将变量设置为一个值并停止 react 器,而是调用
https://code.angularjs.org/1.0.0rc9/angular-1.0.0rc9.js 上面的链接定义了外部js文件,我不知道Angular-1.0.0rc9.js的注入(in
我正在尝试运行一个函数并将服务注入(inject)其中。我认为这可以使用 $injector 轻松完成.所以我尝试了以下(简化示例): angular.injector().invoke( [ "$q
在 google Guice 中,我可以使用函数 createInjector 创建基于多个模块的注入(inject)器。 因为我使用 GWT.create 在 GoogleGin 中实例化注入(in
我在 ASP.NET Core 1.1 解决方案中使用配置绑定(bind)。基本上,我在“ConfigureServices Startup”部分中有一些用于绑定(bind)的简单代码,如下所示: s
我在 Spring MVC 中设置 initBinder 时遇到一些问题。我有一个 ModelAttribute,它有一个有时会显示的字段。 public class Model { privat
我正在尝试通过jquery post发布knockoutjs View 模型 var $form = $('#barcodeTemplate form'); var data = ko.toJS(vm
如何为包含多态对象集合的复杂模型编写自定义模型绑定(bind)程序? 我有下一个模型结构: public class CustomAttributeValueViewModel { publi
您好,我正在尝试实现我在 this article 中找到的扩展方法对于简单的注入(inject)器,因为它不支持开箱即用的特定构造函数的注册。 根据这篇文章,我需要用一个假的委托(delegate)
你好,我想自动注册我的依赖项。 我现在拥有的是: public interface IRepository where T : class public interface IFolderReposi
我正在使用 Jasmine 测试一些 Angular.js 代码。为此,我需要一个 Angular 注入(inject)器: var injector = angular.injector(['ng'
我正在使用 Matlab 代码生成器。不可能包含代码风格指南。这就是为什么我正在寻找一个工具来“ reshape ”、重命名和重新格式化生成的代码,根据我的: 功能横幅约定 文件横幅约定 命名约定 等
这个问题在这里已经有了答案: Where and why do I have to put the "template" and "typename" keywords? (8 个答案) 关闭 8
我开发了一种工具,可以更改某些程序的外观。为此,我需要在某些进程中注入(inject)一个 dll。 现在我基本上使用这个 approach .问题通常是人们无法注入(inject) dll,因为他们
我想使用 swing、spring 和 hibernate 编写一个 java 应用程序。 我想使用数据绑定(bind)器用 bean 的值填充 gui,并且我还希望它反射(reflect) gui
我有这段代码,当两个蜘蛛完成后,程序仍在运行。 #!C:\Python27\python.exe from twisted.internet import reactor from scrapy.cr
要点是 Spring Batch (v2) 测试框架具有带有 @Autowired 注释的 JobLauncherTestUtils.setJob。我们的测试套件有多个 Job 类提供者。因为这个类不
我是一名优秀的程序员,十分优秀!