gpt4 book ai didi

sql - R的滚动日期范围内的唯一值计数

转载 作者:行者123 更新时间:2023-12-04 17:17:06 27 4
gpt4 key购买 nike

这个问题已经有 answer for SQL ,并且我能够使用 sqldf 在 R 中实现该解决方案.但是,我一直无法找到使用 data.table 来实现它的方法。 .

问题是计算滚动日期范围内一列的不同值,例如(并直接从链接的问题中引用)如果数据看起来像这样:

Date   | email 
-------+----------------
1/1/12 | test@test.com
1/1/12 | test1@test.com
1/1/12 | test2@test.com
1/2/12 | test1@test.com
1/2/12 | test2@test.com
1/3/12 | test@test.com
1/4/12 | test@test.com
1/5/12 | test@test.com
1/5/12 | test@test.com
1/6/12 | test@test.com
1/6/12 | test@test.com
1/6/12 | test1@test.com

如果我们使用 3 天的日期时间段,结果集将如下所示
date   | count(distinct email)
-------+------
1/1/12 | 3
1/2/12 | 3
1/3/12 | 3
1/4/12 | 3
1/5/12 | 2
1/6/12 | 2

这是在 R 中使用 data.table 创建相同数据的代码:
date <- as.Date(c('2012-01-01','2012-01-01','2012-01-01',
'2012-01-02','2012-01-02','2012-01-03',
'2012-01-04','2012-01-05','2012-01-05',
'2012-01-06','2012-01-06','2012-01-06'))
email <- c('test@test.com', 'test1@test.com','test2@test.com',
'test1@test.com', 'test2@test.com','test@test.com',
'test@test.com','test@test.com','test@test.com',
'test@test.com','test@test.com','test1@test.com')
dt <- data.table(date, email)

对此的任何帮助将不胜感激。谢谢!

编辑1:

这是一个玩具问题,我想将其应用于更大的数据集,因此使用笛卡尔积是有问题的。相反,我想要一个相当于 的东西相关子查询 在 SQL 中,例如我最初链接的问题的解决方案是:
SELECT day
,(SELECT count(DISTINCT email)
FROM tbl
WHERE day BETWEEN t.day - 2 AND t.day -- period of 3 days
) AS dist_emails
FROM tbl t
WHERE day BETWEEN '2012-01-01' AND '2012-01-06'
GROUP BY 1
ORDER BY 1;

编辑2:
根据@jangorecki 的要求,这是基于@MichaelChirico 解决方案的一些时间安排:
# The data
> dim(temp)
[1] 2627785 4
> head(temp)
date category1 category2 itemId
1: 2013-11-08 0 2 1713
2: 2013-11-08 0 2 90485
3: 2013-11-08 0 2 74249
4: 2013-11-08 0 2 2592
5: 2013-11-08 0 2 2592
6: 2013-11-08 0 2 765
> uniqueN(temp$itemId)
[1] 13510
> uniqueN(temp$date)
[1] 127

# Timing for data.table
> system.time(dtTime <- temp[,
+ .(count = temp[.(seq.Date(.BY$date - 6L, .BY$date, "day"),
+ .BY$category1, .BY$category2 ), uniqueN(itemId), nomatch = 0L]),
+ by = c("date","category1","category2")])
user system elapsed
6.913 0.130 6.940
>
# Time for sqldf
> system.time(sqlDfTime <-
+ sqldf(c("create index ldx on temp(date, category1, category2)",
+ "SELECT date, category1, category2,
+ (SELECT count(DISTINCT itemId)
+ FROM temp
+ WHERE category1 = t.category1 AND category2 = t.category2 AND
+ date BETWEEN t.date - 6 AND t.date
+ ) AS numItems
+ FROM temp t
+ GROUP BY date, category1, category2
+ ORDER BY 1;"))
user system elapsed
87.225 0.098 87.295

输出是等效的,但使用 data.table 而不是 sqldf 导致 12.5 倍的加速。相当充实!

最佳答案

这是有效的,利用 data.table 的新非等值连接功能.

dt[dt[ , .(date3=date, date2 = date - 2, email)], 
on = .(date >= date2, date<=date3),
allow.cartesian = TRUE
][ , .(count = uniqueN(email)),
by = .(date = date + 2)]
# date V1
# 1: 2011-12-30 3
# 2: 2011-12-31 3
# 3: 2012-01-01 3
# 4: 2012-01-02 3
# 5: 2012-01-03 1
# 6: 2012-01-04 2

老实说,我对它的具体运作方式有点恼火,但我的想法是加入 dtdate 上对自己, 匹配任何 date那是2天前和今天之间。我不确定为什么我们必须通过设置 date = date + 2 进行清理然后。

这是一种使用键的方法:
setkey(dt, date)

dt[ , .(count = dt[.(seq.Date(.BY$date - 2L, .BY$date, "day")),
uniqueN(email), nomatch = 0L]), by = date]

关于sql - R的滚动日期范围内的唯一值计数,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36533139/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com