- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章Mongodb中MapReduce实现数据聚合方法详解由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.
Mongodb是针对大数据量环境下诞生的用于保存大数据量的非关系型数据库,针对大量的数据,如何进行统计操作至关重要,那么如何从Mongodb中统计一些数据呢?
在Mongodb中,给我们提供了三种用于数据聚合的方式:
(1)简单的用户聚合函数; 。
(2)使用aggregate进行统计; 。
(3)使用mapReduce进行统计; 。
今天我们首先来讲讲mapReduce是如何统计,在后续的文章中,将另起文章进行相关说明.
MapReduce是啥呢?以我的理解,其实就是对集合中的各个满足条件的文档进行预处理,整理出想要的数据然后进行统计得到最终的统计结果。其中map函数用于对集合中的各个满足条件的文档进行预处理,整理出想要的数据。Reduce函数用于对整理出的数据进行处理得到统计结果。Map函数和Reduce函数都是JavaScript函数.
首先,我们先构造一个测试数据集test,使用js脚本往集合中随机插入一组数据,每条记录是哪个人花了多少钱买了什么东西。具体脚本test1.js如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
>
for
( var i=0; i<100; i++){
var rID=Math.floor(Math.random()*10);
var price = parseFloat((Math.random()*10).toFixed(2));
if(rID<3){
db.test.
insert
({
"user"
:
"majing"
,
"sku"
:rID,
"price"
:price});
}
else
if(rID>=3 && rID<5){
db.test.
insert
({
"user"
:
"wufenglei"
,
"sku"
:rID,
"price"
:price});
}
else
if(rID>=5 && rID<8){
db.test.
insert
({
"user"
:
"wufenglei"
,
"sku"
:rID,
"price"
:price});
}
else
{
db.test.
insert
({
"user"
:
"liyonghu"
,
"sku"
:rID,
"price"
:price});
}
}</span></span>
|
接下来我们通过在控制台执行脚本来向数据库插入具体的数据,具体执行指令如下:
1
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
>mongo 127.0.0.1:27017/test J:/test1.js</span></span>
|
执行之后,通过MongoVUE来查看下具体的数据,如下所示,数据已经插入到集合中了:
接下来,我们可以做几个简单的统计操作了.
(1)统计不同用户都买了多少个商品?编写js脚本test2.js,将结果保存到statis1集合中.
1
2
3
4
5
6
7
8
9
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
><span style=
"font-size:18px;"
>map=
function
(){
emit(this.
user
,1);
}
reduce=
function
(
key
,
values
){
var
count
= 0;
values
.forEach(
function
(val){
count
+= val});
return
count
;
}
db.test.mapReduce(map, reduce, {
out
:
"statics1"
});</span></span></span>
|
按照刚才执行脚本的方式执行test2.js,并查看数据:
从数据库就可以直观看到统计数据了,若想查看某个人如majing购买了多少个商品,直接使用 。
1
2
3
4
5
6
7
8
|
<span style=
"font-family:KaiTi_GB2312;"
>
<span style=
"font-size:18px;"
>
<span style=
"font-size:18px;"
>
<span style=
"font-family:KaiTi_GB2312;font-size:18px;"
>db.statics1.find({
"_id"
:
"majing"
});
</span>
</span>
</span>
</span>
|
(2)统计每个用户购买的每个商品的数量情况 。
脚本test3.js如下所示:
1
2
3
4
5
6
7
8
9
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
><span style=
"font-size:18px;"
>map=
function
(){
emit({
user
:this.
user
,sku:this.sku},1);
}
reduce=
function
(
key
,
values
){
var
count
= 0;
values
.forEach(
function
(val){
count
+= val});
return
count
;
}
db.test.mapReduce(map, reduce, {
out
:
"statics2"
});</span></span></span>
|
按照刚才执行脚本的方式执行test3.js,并查看数据:
总共返回了10条记录。此时如果我们想查找某个用户购买商品的情况,可以使用下面的查询方法:
1
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
><span style=
"font-size:18px;"
>db.statics2.find({
"_id.user"
:
"majing"
});</span></span></span>
|
如果我们想查找某个用户购买某个商品的情况,可以使用下面的查询方法:
(3)统计每个用户购买商品的总量及花费的总金额 。
脚本test4.js如下所示:
1
2
3
4
5
6
7
8
9
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
><span style=
"font-size:18px;"
>map=
function
(){
emit({
user
:this.
user
},{totalprice:this.price,
count
:1});
}
reduce=
function
(
key
,
values
){
var res = {totalprice:0.00,
count
:1};
values
.forEach(
function
(val){res.totalprice += val.totalprice;res.
count
+=val.
count
;});
return
res;
}
db.test.mapReduce(map, reduce, {
out
:
"statics3"
});</span></span></span>
|
按照刚才执行脚本的方式执行test4.js,并查看数据:
(4)统计每个用户购买商品的平均价钱 。
在这个情景下,我们需要用到说道mapReduce里的另一个参数finalize,该参数是一个javascript脚本函数,用于对reduce后的集合进行一个后期处理操作.
执行脚本test5.js,具体如下所示:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
><span style=
"font-size:18px;"
>map=
function
(){
emit({
user
:this.
user
},{totalprice:this.price,
count
:1});
}
reduce=
function
(
key
,
values
){
var res = {totalprice:0.00,
count
:1,average:0};
values
.forEach(
function
(val){res.totalprice += val.totalprice;res.
count
+=val.
count
;});
return
res;
}
finalizeFunc=
function
(
key
,reduceResult){
reduceResult.totalprice=(reduceResult.totalprice).toFixed(2);
reduceResult.average=(reduceResult.totalprice/reduceResult.
count
).toFixed(2);
return
reduceResult;
}
db.test.mapReduce(map, reduce, {
out
:
"statics4"
,finalize:finalizeFunc});</span></span></span>
|
执行之后查看得到的数据,具体如下所示,显示了总价钱,商品数量和商品单价.
如果想查找某个人的,可以和上面的查询方法一样,使用find()方法进行查询:
1
|
<span style=
"font-family:KaiTi_GB2312;"
><span style=
"font-size:18px;"
><span style=
"font-size:18px;"
>db.statics4.find({
"_id.user"
:
"majing"
});</span></span></span>
|
以上通过4个简单的例子对Mongodb中的MapReduce进行了简单的说明,当然MapReduce功能很强大,大家如果想知道其他高级的使用方法,可以到Mongodb的官网进行查阅和学习,网址为 。
https://docs.mongodb.com/manual/reference/method/db.collection.mapReduce/ 谢谢.
以上所述是小编给大家介绍的Mongodb中MapReduce实现数据聚合方法详解,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对我网站的支持! 。
最后此篇关于Mongodb中MapReduce实现数据聚合方法详解的文章就讲到这里了,如果你想了解更多关于Mongodb中MapReduce实现数据聚合方法详解的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
我想了解 Ruby 方法 methods() 是如何工作的。 我尝试使用“ruby 方法”在 Google 上搜索,但这不是我需要的。 我也看过 ruby-doc.org,但我没有找到这种方法。
Test 方法 对指定的字符串执行一个正则表达式搜索,并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
Replace 方法 替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
Raise 方法 生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
Execute 方法 对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
Clear 方法 清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。 说明 在错误处理后,使用 Clear 显式地清除 Err 对象。此
CopyFile 方法 将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
Copy 方法 将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
Close 方法 关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。 说明 下面例子举例说明如何使用 Close 方
BuildPath 方法 向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
GetFolder 方法 返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
GetFileName 方法 返回指定路径(不是指定驱动器路径部分)的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
GetFile 方法 返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
GetExtensionName 方法 返回字符串,该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
GetDriveName 方法 返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
GetDrive 方法 返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
GetBaseName 方法 返回字符串,其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
GetAbsolutePathName 方法 从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
FolderExists 方法 如果指定的文件夹存在,则返回 True;否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
FileExists 方法 如果指定的文件存在返回 True;否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS
我是一名优秀的程序员,十分优秀!