- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我在 R 中有两个 data.table
:
> tables()
NAME NROW MB COLS KEY
[1,] dtb 2,536,206 68 dte,permno,capm_beta,mkt_beta_bucket permno,dte
[2,] idx_dtb 573 1 dte dte
[3,] ssd_dtb 58,808,208 1571 dte,permno,xs_ret,mkt_cap permno,dte
Total: 1,640MB
我想做一个右外连接:select * from dtb right join ssd_dtb using (permno, dte)
data.table
中的等效命令是:
mdtb <- dtb[ssd_dtb]
到目前为止,它已经运行了大约 20 分钟。这看起来有点长,因为它通常在 SQL 服务器上运行需要更少的时间。我是否滥用了这个包?
问题回答后编辑:我认为这可能有助于理解为什么我必须执行 dtb[ssd_dtb]
而不是 ssd_dtb[dtb]
。我设计了一个简单的例子:
> x <- data.table(id=1:5, t=1:15, v=1:15)
> x
id t v
1: 1 1 1
2: 2 2 2
3: 3 3 3
4: 4 4 4
5: 5 5 5
6: 1 6 6
7: 2 7 7
8: 3 8 8
9: 4 9 9
10: 5 10 10
11: 1 11 11
12: 2 12 12
13: 3 13 13
14: 4 14 14
15: 5 15 15
> y <- data.table(id=c(1,1,2,3), t=c(1,2,6,13), v2=41:44)
> y
id t v2
1: 1 1 41
2: 1 2 42
3: 2 6 43
4: 3 13 44
> x[y]
id t v v2
1: 1 1 1 41
2: 1 2 NA 42
3: 2 6 NA 43
4: 3 13 13 44
> x[y, nomatch=0]
id t v v2
1: 1 1 1 41
2: 3 13 13 44
> y[x]
id t v2 v
1: 1 1 41 1
2: 1 6 NA 6
3: 1 11 NA 11
4: 2 2 NA 2
5: 2 7 NA 7
6: 2 12 NA 12
7: 3 3 NA 3
8: 3 8 NA 8
9: 3 13 44 13
10: 4 4 NA 4
11: 4 9 NA 9
12: 4 14 NA 14
13: 5 5 NA 5
14: 5 10 NA 10
15: 5 15 NA 15
> y[x, nomatch=0]
id t v2 v
1: 1 1 41 1
2: 3 13 44 13
编辑 2:上述解决方案 1 请求的输出如下:
> Rprof()> mdtb Rprof(NULL)> summaryRprof()$by.self self.time self.pct total.time total.pct"[.data.table" 15.36 62.39 24.62 100.00".Call" 7.96 32.33 7.96 32.33"pmin" 0.92 3.74 1.16 4.71"list" 0.24 0.97 0.24 0.97"vector" 0.14 0.57 0.14 0.57$by.total total.time total.pct self.time self.pct"[.data.table" 24.62 100.00 15.36 62.39"[" 24.62 100.00 0.00 0.00".Call" 7.96 32.33 7.96 32.33"pmin" 1.16 4.71 0.92 3.74"list" 0.24 0.97 0.24 0.97"vector" 0.14 0.57 0.14 0.57"integer" 0.14 0.57 0.00 0.00$sample.interval[1] 0.02$sampling.time[1] 24.62
最佳答案
如果我能在没有可重现示例的情况下进行猜测,我会尝试。在这种情况下,我会想到一些事情。好问题。
在这种情况下,源代码中有一个 TODO 可能会导致速度大幅下降。不过,我并不知道事情有那么糟糕。如果您知道 dtb
的 key 是唯一的(即在每个 permno
中没有重复的 dte
),很可能在这里,那么设置 mult="first"
来解决它。或者 mult="last"
是一样的。它正在做的是找到组的起点和终点,但是当一个键是唯一的时,所有这些组都只有 1 行。
较小的影响可能是 i
表与您的情况下的 x
相比较大。如果可能,尽量安排 i
小于 x
的查询;即 ssd_dtb[dtb]
而不是 dtb[ssd_dtb]
。当 nomatch=0
时,它们将是相同的。
如果 1 中的解决方法有帮助,那么如果您可以运行以下命令并将结果发送给我,那就太好了。另外,请提出一个 bug.report(package="data.table")
链接回这个问题。这样,当状态发生变化时,您将获得自动更新。
Rprof()
dtb[ssd_dtb] # reduce size so that this takes 30 seconds or something manageable
Rprof(NULL)
summaryRprof()
Rprof()
dtb[ssd_dtb,mult="first"] # should be faster than above if my guess is right
Rprof(NULL)
summaryRprof()
关于sql - data.table 连接的时间,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12042779/
SQL、PL-SQL 和 T-SQL 之间有什么区别? 谁能解释一下这三者之间的区别,并提供每一个的相关使用场景? 最佳答案 SQL 是一种对集合进行操作的查询语言。 它或多或少是标准化的,几乎所有关
这个问题已经有答案了: What is the difference between SQL, PL-SQL and T-SQL? (6 个回答) 已关闭 9 年前。 我对 SQL 的了解足以完成我的
我在数据库中有一个 USER 表。该表有一个 RegistrationDate 列,该列有一个默认约束为 GETDATE()。 使用 LINQ 时,我没有为 RegistrationDate 列提供任
我有一个可能属于以下类型的字符串 string expected result 15-th-rp 15 15/12-rp 12 15-12-th
很难说出这里问的是什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或言辞激烈,无法以目前的形式合理回答。如需帮助澄清此问题以便可以重新打开,visit the help center . 9年前关闭
我有一个存储过程(称为 sprocGetArticles),它从文章表中返回文章列表。这个存储过程没有任何参数。 用户可以对每篇文章发表评论,我将这些评论存储在由文章 ID 链接的评论表中。 有什么方
我目前正在做一个 *cough*Oracle*cough* 数据库主题。讲师介绍embedded SQL作为让其他语言(例如 C、C++)与(Oracle)数据库交互的方式。 我自己做了一些数据库工作
SQL Server 中 SQL 语句的最大长度是多少?这个长度是否取决于 SQL Server 的版本? 例如,在 DECLARE @SQLStatement NVARCHAR(MAX) = N'S
这个问题已经有答案了: Simple way to transpose columns and rows in SQL? (9 个回答) 已关闭 8 年前。 CallType
预先感谢您对此提供的任何帮助。 假设我有一个查询,可以比较跨年的数据,从某个任意年份开始,永无止境(进入 future ),每年同一时期直到最后一个完整的月份(其特点是一月数据永远不会显示至 2 月
我在数据库中有一个 USER 表。该表有一个 RegistrationDate 列,该列的默认约束为 GETDATE()。 使用 LINQ 时,我没有为 RegistrationDate 列提供任何数
下面是我试图用来检查存储过程是否不存在然后创建过程的 sql。它会抛出一个错误:Incorrect syntax near the keyword 'PROCEDURE' IF NOT EXISTS
我有一个同事声称动态 SQL 在许多情况下比静态 SQL 执行得更快,所以我经常看到 DSQL 到处都是。除了明显的缺点,比如在运行之前无法检测到错误并且更难阅读,这是否准确?当我问他为什么一直使用
来自 lobodava 的动态 SQL 查询是: declare @sql nvarchar(4000) = N';with cteColumnts (ORDINAL_POSITION, CO
使用 SQL Server 中的存储过程执行动态 SQL 命令的现实优点和缺点是什么 EXEC (@SQL) 对比 EXEC SP_EXECUTESQL @SQL ? 最佳答案 sp_executes
我有这个有效的 SQL 查询: select sum(dbos.Points) as Points, dboseasons.Year from dbo.StatLines dbos i
我正在调试一些构建成功运行的 SQL 命令的代码。 然而,在查询结束时,查询结果似乎被写入了一个文本文件。 完整的查询如下 echo SELECT DATE,DATETABLE,DATE,APPDAT
我有一些创建表的 .sql 文件(MS SQL 数据库): 表_1.sql: IF OBJECT_ID (N'my_schema.table1', N'U') IS NOT NULL DROP TAB
我写了下面的 SQL 存储过程,它一直给我错误@pid = SELECT MAX(... 整个过程是: Alter PROCEDURE insert_partyco @pname varchar(20
我在 SQL Server 2005 中有包含两列 Fruit 和 Color 的表,如下所示 Fruit Colour Apple Red Orange
我是一名优秀的程序员,十分优秀!