- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我正在使用 MongoDB 聚合管道来生成报告。下面是一些快速的关键信息:
Machine: 8-Core-CPU, 16 GB RAM
OS: Ubuntu 16.04.1 LTS
MongoDB Version: 3.2.11
Mongo PHP Adapter: 1.6.14
PHP Version: 5.6.30
Amount of documents to aggregate: ~ 10+ million
我的聚合管道代码 - 我用 PHP 编写和执行 - 如下所示:
// create indexes (ASC and DESC for each aggregation key)
$mongoCollection->createIndex('foo' => 1);
$mongoCollection->createIndex('foo' => -1);
$mongoCollection->createIndex('bar' => 1);
$mongoCollection->createIndex('bar' => -1);
// prepare aggregation (1. group, 2. sort)
$aggregationPipeline = [
[
'$group' => [
'_id' => [
'$foo' => 'foo',
'$bar' => 'bar'
],
'count' => [
'$sum' => 1
]
]
],
[
'$sort' => [
'count' => -1
]
]
];
// run aggregation
$mongoCollection->aggregate($aggregationPipeline);
问题是,聚合速度不够快!根据我聚合的字段数量(在我的示例中只有 2 个),该过程大约需要 90 秒,通常更长。
我的目标是:提高聚合的性能!
我的问题:
非常感谢您提出任何意见、建议、批评和问题!
最佳答案
没有线索,但我想它在这里起的作用很小。 foo 和 bar 的基数 - 聚合返回的文档/字节数也可能有影响。
首先,对一个字段同时使用升序索引和降序索引是没有意义的。其次,索引可用于 $match
聚合管道,但在涉及 $group
操作时无用。所以你的想法是对的,索引在这里帮不了你。您正在进行全面扫描。
您不能并行运行聚合操作。您可以通过从外部控制聚合,通过将其分解为子任务来在技术上实现它。但由于您正在进行全面扫描 - 再次 - 这对您的情况不利。
在同一台机器上拥有多个分片,竞争相同的硬件是没有意义的。您可以通过使用更多硬件来添加分片。
这里的资源非常有限,只有 16 GB RAM 和 100 M 文档。这可能还不够,特别是如果您的文档不是很小并且您必须转到磁盘才能处理更多文档。我会检查聚合期间的 IO 利用率,以及 WiredTiger 缓存的行为方式(假设您使用的是 WiredTiger)。
综上所述,这可能是您的资源有限。客户端/驱动程序对缓慢的影响可能很小。首先对聚合运行 explain()
,同时观察 RAM、磁盘的行为。
关于php - 提高 MongoDB 聚合管道性能,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/41986251/
我在 JavaScript 文件中运行 PHP,例如...... var = '';). 我需要使用 JavaScript 来扫描字符串中的 PHP 定界符(打开和关闭 PHP 的 )。 我已经知道使
我希望能够做这样的事情: php --determine-oldest-supported-php-version test.php 并得到这个输出: 7.2 也就是说,php 二进制检查 test.
我正在开发一个目前不使用任何框架的大型 php 站点。我的大问题是,随着时间的推移慢慢尝试将框架融入应用程序是否可取,例如在创建的新部件和更新的旧部件中? 比如所有的页面都是直接通过url服务的,有几
下面是我的源代码,我想在同一页面顶部的另一个 php 脚本中使用位于底部 php 脚本的变量 $r1。我需要一个简单的解决方案来解决这个问题。我想在代码中存在的更新查询中使用该变量。 $name)
我正在制作一个网站,根据不同的情况进行大量 PHP 重定向。就像这样...... header("Location: somesite.com/redirectedpage.php"); 为了安全起见
我有一个旧网站,我的 php 标签从 因为短标签已经显示出安全问题,并且在未来的版本中将不被支持。 关于php - 如何避免在 php 文件中写入
我有一个用 PHP 编写的配置文件,如下所示, 所以我想用PHP开发一个接口(interface),它可以编辑文件值,如$WEBPATH , $ACCOUNTPATH和 const值(value)观
我试图制作一个登录页面来学习基本的PHP,首先我希望我的独立PHP文件存储HTML文件的输入(带有表单),但是当我按下按钮时(触发POST到PHP脚本) )我一直收到令人不愉快的错误。 我已经搜索了S
我正在寻找一种让 PHP 以一种形式打印任意数组的方法,我可以将该数组作为赋值包含在我的(测试)代码中。 print_r 产生例如: Array ( [0] => qsr-part:1285 [1]
这个问题已经有答案了: 已关闭11 年前。 Possible Duplicate: What is the max key size for an array in PHP? 正如标题所说,我想知道
我正在寻找一种让 PHP 以一种形式打印任意数组的方法,我可以将该数组作为赋值包含在我的(测试)代码中。 print_r 产生例如: Array ( [0] => qsr-part:1285 [1]
关闭。这个问题需要多问focused 。目前不接受答案。 想要改进此问题吗?更新问题,使其仅关注一个问题 editing this post . 已关闭 9 年前。 Improve this ques
我在 MySQL 数据库中有一个表,其中存储餐厅在每个工作日和时段提供的菜单。 表结构如下: i_type i_name i_cost i_day i_start i_
我有两页。 test1.php 和 test2.php。 我想做的就是在 test1.php 上点击提交,并将 test2.php 显示在 div 中。这实际上工作正常,但我需要向 test2.php
我得到了这个代码。我想通过textarea更新mysql。我在textarea中回显我的MySQL,但我不知道如何更新它,我应该把所有东西都放进去吗,因为_GET模式没有给我任何东西,我也尝试_GET
首先,我是 php 的新手,所以我仍在努力学习。我在 Wordpress 上创建了一个表单,我想将值插入一个表(data_test 表,我已经管理了),然后从 data_test 表中获取所有列(id
我有以下函数可以清理用户或网址的输入: function SanitizeString($var) { $var=stripslashes($var); $va
我有一个 html 页面,它使用 php 文件查询数据库,然后让用户登录,否则拒绝访问。我遇到的问题是它只是重定向到 php 文件的 url,并且从不对发生的事情提供反馈。这是我第一次使用 html、
我有一个页面充满了指向 pdf 的链接,我想跟踪哪些链接被单击。我以为我可以做如下的事情,但遇到了问题: query($sql); if($result){
我正在使用 从外部文本文件加载 HTML/PHP 代码 $f = fopen($filename, "r"); while ($line = fgets($f, 4096)) { print $l
我是一名优秀的程序员,十分优秀!