- android - RelativeLayout 背景可绘制重叠内容
- android - 如何链接 cpufeatures lib 以获取 native android 库?
- java - OnItemClickListener 不起作用,但 OnLongItemClickListener 在自定义 ListView 中起作用
- java - Android 文件转字符串
我的 MapReduce 函数有问题 - 目标是在特定的纬度/经度范围内获取顶级场所列表,按 vid
分组,按不同的 user_id< 排序
.
这是一个示例数据集:
{ "_id" : ObjectId("51f9234feb97ff0700000046"), "checkin_id" : 39286249, "created_at" : ISODate("2013-07-31T14:47:11Z"), "loc" : { "lat" : 42.3672, "lon" : -86.2681 }, "icv" : 1, "ipv" : 1, "vid" : 348442, "user_id" : 151556, "bid" : 9346, "pid" : 549 }
{ "_id" : ObjectId("51f9234b488fff0700000006"), "checkin_id" : 39286247, "created_at" : ISODate("2013-07-31T14:47:07Z"), "loc" : { "lat" : 55.6721, "lon" : 12.5576 }, "icv" : 1, "ipv" : 1, "vid" : 3124, "user_id" : 472486, "bid" : 7983, "pid" : 2813 }
...
这是我的 map 功能:
map1 = function() {
var tempDoc = {};
tempDoc[this.user_id] = 1;
emit(this.vid, {
users: tempDoc,
count: 1
});
}
并减少:
reduce1 = function(key, values) {
var summary = {
users: {},
total: 0
};
values.forEach(function (doc) {
// increment total for every value
summary.total += doc.count;
// Object.extend() will only add keys from the right object that do not exist on the left object
Object.extend(summary.users, doc.user);
});
return summary;
};
我的地理查询:
var d = Date("2013-07-31T14:47:11Z");
var geo_query = {loc: {$near: [40.758318,-73.952985], $maxDistance: 25}, "icv":1, "created_at": {$gte: d}};
最后是 mapReduce 查询:
var res = db.myColelction.mapReduce(map1, reduce1, { out : { inline : 1 }, query : geo_query });
返回的结果与 reduce 函数匹配,但未命中 finalize1 函数:
...
{
"_id" : 609096,
"value" : {
"users" : {
"487586" : 1
},
"count" : 1
}
},
{
"_id" : 622448,
"value" : {
"users" : {
"313755" : 1,
"443180" : 1
},
"total" : 4
}
},
...
在这一点上,我认为我有一个很好的结果集,但是 $near
函数只扫描附近的 100 个 field ,我想扫描 ALL field (匹配的所有文档这个半径(25 米),并查看所有 field - 将它们分组,并计算该时间段内的唯一用户数。我四处搜索,查看了文档,但我不确定是否有解决方案。有人接受吗?
对我来说,最终结果是按“总计”属性对结果进行排序和限制。理想情况下,我希望按总描述排序并限制为 15。
最佳答案
我会做以下事情。首先,你的坐标是错误的。 MongoDB 需要 longitude, latitude
,最好是 GeoJSON 格式:
loc: { type: 'Point', coordinates: [-73.952985, 40.758318] },
MongoDB 不关心 lat
和 lon
字段名称,并将忽略它们。
但是您还应该避免使用 Map/Reduce,因为它既慢又复杂。相反,我们可以使用聚合框架来做类似的事情:
db.so.aggregate( [
// search for all the (well, million) venues within **250**km
{ $geoNear: {
near: { type: 'Point', coordinates: [-73.952985, 40.758318] },
spherical: true,
distanceField: 'd',
maxDistance: 250 * 1000,
limit: 1000000
} },
// find only the items where icv=1
{ $match: { icv: 1 } },
// group by venue and user
{ $group: {
_id: { vid: '$vid', user_id: '$user_id' },
count: { $sum: 1 } }
},
// then regroup by just venue:
{ $group: {
_id: '$_id.vid',
users: { $addToSet: { user_id: '$_id.user_id', count: '$count' } },
total: { $sum: '$count' }
} },
// now we sort by "total", desc:
{ $sort: { 'total': -1 } },
// and limit by 15:
{ $limit: 15 }
] );
我使用 $geoNear
作为第一阶段,$icv
上的匹配作为第二阶段,因为 $geoNear
index 会比 $icv
好很多(正如我猜测的那样,无论如何它只会有值 0 或 1)。
请注意,对于此示例,我使用的是 250 公里(250 * 1000 米)而不是 25 公里。
使用以下输入:
db.so.insert( { "_id" : ObjectId("51f9234feb97ff0700000046"), "loc" : { type: 'Point', coordinates: [ -73.2681, 40.3672 ] }, "vid" : 348442, "user_id" : 151556 } );
db.so.insert( { "_id" : ObjectId("51f9234b488fff0700000006"), "loc" : { type: 'Point', coordinates: [ -73.5576, 40.6721 ] }, "vid" : 3124, "user_id" : 472486 } );
db.so.insert( { "_id" : ObjectId("51f92345488fff0700000006"), "loc" : { type: 'Point', coordinates: [ -73.5576, 40.6721 ] }, "vid" : 3124, "user_id" : 47286 } );
db.so.insert( { "_id" : ObjectId("52f92345488fff0700000006"), "loc" : { type: 'Point', coordinates: [ -73.5576, 40.6721 ] }, "vid" : 3124, "user_id" : 47286 } );
你得到的结果是:
{
"result" : [
{
"_id" : 3124,
"users" : [
{ "user_id" : 472486, "count" : 1 },
{ "user_id" : 47286, "count" : 2 }
],
"total" : 3
},
{
"_id" : 348442,
"users" : [
{ "user_id" : 151556, "count" : 1 }
],
"total" : 1
}
],
"ok" : 1
}
与您想要的输出只有一个区别,那就是 user_id 不是计数的键,而是子文档中的一个额外字段。通常,您无法使用聚合框架将值更改为键或将键更改为值。
关于mongodb - Mongodb Mapreduce - 半径内用户的热门场所,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/17973766/
我正在处理一个处理大量数据的项目,所以我最近发现了 MapReduce,在我进一步深入研究之前,我想确保我的期望是正确的。 与数据的交互将通过 Web 界面进行,因此响应时间在这里至关重要,我认为 1
我正在阅读有关 Hadoop 以及它的容错性的文章。我阅读了 HDFS 并阅读了如何处理主节点和从节点的故障。但是,我找不到任何提及 mapreduce 如何执行容错的文档。特别是,当包含 Job T
我正在尝试在我的 Ubuntu 桌面上使用最新的 Hadoop 版本 2.6.0、Java SDK 1.70 来模拟 Hadoop 环境。我用必要的环境参数配置了 hadoop,它的所有进程都已启动并
就目前情况而言,这个问题不太适合我们的问答形式。我们希望答案得到事实、引用资料或专业知识的支持,但这个问题可能会引发辩论、争论、民意调查或扩展讨论。如果您觉得这个问题可以改进并可能重新开放,visit
我只是想针对我们正在做的一些数据分析工作来评估 HBase。 HBase 将包含我们的事件数据。键为 eventId + 时间。我们想要对日期范围内的几种事件类型 (4-5) 进行分析。事件类型总数约
是否有一种快速算法可以在 MapReduce 框架上运行以从巨大的整数集中查找中位数? 最佳答案 我会这样做。这是顺序快速选择的一种并行版本。 (某些映射/归约工具可能不会让您轻松完成任务...) 从
我正在尝试对大型分布式数据集执行一些数值计算。该算法非常适合 MapReduce 模型,具有以下附加属性:与输入数据相比,映射步骤的输出尺寸较小。数据可以被视为只读,并且静态分布在节点上(故障转移时的
假设我在 RavenDb 中有给定的文档结构 public class Car { public string Manufacturer {get;set;} public int B
我刚刚开始使用 mongo 和 map/reduce,在使用 pymongo 时我遇到了以下错误,而在直接使用 mongo 命令行时我没有得到(我意识到有一个类似的问题这个,但我的似乎更基本)。 我直
*基本上我正在尝试按过去一小时内的得分对对象进行排序。 我正在尝试为我的数据库中的对象生成每小时投票总和。投票嵌入到每个对象中。对象架构如下所示: { _id: ObjectId sc
我们怎样才能使我们的 MapReduce 查询更快? 我们使用五节点 Riak 数据库集群构建了一个应用程序。 我们的数据模型由三个部分组成:比赛、联赛和球队。 比赛包含联赛和球队的链接: 型号 va
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 6 年前。
有没有什么方法可以在运行时获取应用程序 ID - 例如 - 带有 yarn 的 wordcount 示例命令? 我希望使用 yarn 从另一个进程启 Action 业命令,并通过 YARN REST
如何在Hadoop Map-reduce程序中使用机器学习算法?我想使用分类算法、决策树、聚类算法。除了 Mahout 之外,请提出一些想法。 最佳答案 您可以编写自己的MapReduce程序,并在m
虽然 MapReduce 可能不是实现图像处理中使用的算法的最佳方式,但出于好奇,如果我作为初学者尝试使用它们,这将是最简单的实现方式。 最佳答案 Hadoop 非常适合处理大量 IO。因此,例如,您
我只是想验证我对这些参数及其关系的理解,如果我错了请通知我。 mapreduce.reduce.shuffle.input.buffer.percent 告诉分配给 reducer 的整个洗牌阶段的内
HBase 需要 mapreduce/yarn,还是只需要 hdfs? 对于 HBase 的基本用法,例如创建表、插入数据、扫描/获取数据,我看不出有任何理由使用 mapreduce/yarn。 请帮
我问了一些关于提高 Hive 查询性能的问题。一些答案与映射器和化简器的数量有关。我尝试了多个映射器和化简器,但在执行过程中没有发现任何差异。不知道为什么,可能是我没有以正确的方式去做,或者我错过了别
我是 mapreduce 和 hadoop 的新手。我阅读了 mapreduce 的示例和设计模式... 好的,我们可以进入正题了。我们正在开发一种软件,可以监控系统并定期捕获它们的 CPU 使用
我正在使用 Microsoft MapReduce SDK 启动仅 Mapper 作业。 调用 hadoop.MapReduceJob.ExecuteJob 立即抛出“响应状态代码不表示成功:404(
我是一名优秀的程序员,十分优秀!