- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有一个包含 40 个数据帧的列表,大约有 25 万行,我想为每个数据帧附加一个新变量。这个新变量 period
是从另一个包含 Date 对象的变量计算而来的,转换非常简单,如果日期的年份部分低于 2015 period 则设置为“new”,否则设置为“old”。
我认为使用矢量化计算会非常快,但大约需要 41 秒才能完成! (使用 for 循环或 lapply 给出相同的性能)。
可重现的例子:
datas.d <- function(nDf, nRow) {
lapply(seq_len(nDf), function(x) {
data.frame(
id1 = sample(7e8:9e8, nRow),
id2 = sample(1e9, nRow),
id3 = sample(1e9, nRow),
date = sample(seq(as.Date("2012-01-01"), Sys.Date(), by = 1), nRow, rep = TRUE),
code1 = sample(10, nRow, rep = TRUE),
code2 = sample(10, nRow, rep = TRUE),
code3 = sample(10, nRow, rep = TRUE)
)
})
}
datasDate <- datas.d(40, 25e4)
forLoopDate <- function(datas) {
for (i in seq_along(datas)) {
datas[[i]]$period <- rep("old", nrow(datas[[i]]))
datas[[i]]$period[format(datas[[i]]$date, "%Y") == "2015"] <- "new"
}
return(datas)
}
> system.time(forLoopDate(datasDate))
utilisateur système écoulé
41.46 0.31 41.84
当我将字符串强制转换为 80 万行数据帧中的日期时,我已经遇到了缓慢的性能,因此我怀疑日期操作是导致性能不佳的罪魁祸首。 R Profiler 证实了这一点:
Rprof(tmp <- tempfile())
datas <- forLoopDate(datasDate)
Rprof(NULL)
summaryRprof(tmp)
$by.self
self.time self.pct total.time total.pct
"format.POSIXlt" 39.34 94.16 39.34 94.16
"as.POSIXlt.Date" 1.80 4.31 1.80 4.31
"==" 0.36 0.86 0.36 0.86
"forLoopDate" 0.22 0.53 41.78 100.00
"format.Date" 0.06 0.14 41.20 98.61
所以我尝试了相同的转换,跳过日期格式,即直接使用年份字符串。性能提升是明确的:
我还使用 lubridate 包中的另一个格式化函数 year
对其进行了测试。格式化非常快,我猜是因为它是在 C 级别进行的?
datas.s <- function(nDf, nRow) {
lapply(seq_len(nDf), function(x) {
data.frame(
id1 = sample(7e8:9e8, nRow),
id2 = sample(1e9, nRow),
id3 = sample(1e9, nRow),
date = sample(2012:2015, nRow, rep = TRUE),
code1 = sample(10, nRow, rep = TRUE),
code2 = sample(10, nRow, rep = TRUE),
code3 = sample(10, nRow, rep = TRUE)
)
})
}
datasString <- datas.s(40, 25e4)
forLoopString <- function(datas) {
for (i in seq_along(datas)) {
datas[[i]]$period <- rep("old", nrow(datas[[i]]))
datas[[i]]$period[datas[[i]]$date == "2015"] <- "new"
}
return(datas)
}
library(lubridate)
forLoopDate2 <- function(datas) {
for (i in seq_along(datas)) {
datas[[i]]$period <- rep("old", nrow(datas[[i]]))
datas[[i]]$period[year(datas[[i]]$date) == 2015] <- "new"
}
return(datas)
}
library(microbenchmark)
mbm <- microbenchmark(
date = datas <- forLoopDate(datasDate),
string = datas <- forLoopString(datasString),
lubridate = datas <- forLoopDate2(datasDate),
times = 10L)
> mbm
Unit: seconds
expr min lq mean median uq max neval
date 41.502728 41.561497 41.649533 41.652306 41.69218 41.875110 10
string 4.119266 4.131186 4.167809 4.166946 4.17993 4.239481 10
lubridate 2.088281 2.105413 2.133042 2.111710 2.15794 2.250739 10
这里有很多问题!
_为什么使用 R 格式化/转换日期这么慢?
_我可以使用 Base R 提高我的代码的性能吗?在处理日期/日期时间时,为了性能目的有哪些好的做法?
谢谢!
最佳答案
format
函数可以返回许多不同的格式,预计会很慢。如果您对 lubridate 的 year
函数感到满意,您可以直接使用它的(非常简单的)代码:
as.POSIXlt(x, tz = tz(x))$year + 1900
一般来说,当性能很重要时,您应该避免在任何类型/类和字符之间进行转换。这通常会很慢。最好进行数值计算(例如,您可以使用作为 Date 变量基础的整数,但这会导致闰年问题,因此最好使用 POSIXlt,它会为您解决这个问题)。
关于r - 为什么 R(在我的示例中)处理日期/日期时间非常慢?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30803624/
自己试试看: import pandas as pd s=pd.Series(xrange(5000000)) %timeit s.loc[[0]] # You need pandas 0.15.1
我最近开始使用 Delphi 中的 DataSnap 来生成 RESTful Web 服务。在遵循 Marco Cantu 本人和互联网上其他几个人的指导后,我成功地使整个“链条”正常工作。 但是有一
我一直在为操作系统类(class)编写以下代码,但结果有些奇怪。该代码创建x线程并同时运行它们,以便将两个平方矩阵相乘。每个线程将输入矩阵的Number_of_rows/Number_of_threa
我正在尝试确定何时使用 parallel包以加快运行某些分析所需的时间。我需要做的一件事是创建矩阵,比较具有不同行数的两个数据框中的变量。我在 StackOverflow 上问了一个关于有效方法的问题
我最近对我的代码进行了一些清理,并在此过程中更改了此内容(不完全是真实的代码): read = act readSTRef test1 term i var = do t v^!terms.
我正在计时查询和同一个查询的执行时间,分页。 foreach (var x in productSource.OrderBy(p => p.AdminDisplayName) .Wher
我正在开发一个项目 (WPF),我有一个 Datagrid 从数据库加载超过 5000 条记录,所以我使用 BackgroundWorker 来通知用户数据正在加载,但它太慢了,我需要等待将近 2分钟
我在查询中添加 ORDER BY 时遇到问题。没有 ORDER BY 查询大约需要 26ms,一旦我添加 ORDER BY,它大约需要 20s。 我尝试了几种不同的方法,但似乎可以减少时间。 尝试 F
我是 Android 开发新手,遇到了性能问题。当我的 GridView 有太多项目时,它会变得有点慢。有什么方法可以让它运行得更快一些吗? 这是我使用的代码: 适配器: public class C
这里的要点是: 1.设置query_cache_type = 0;重置查询缓存; 2.在 heidisql(或任何其他客户端 UI)中运行任何查询 --> 执行,例如 45 毫秒 3.使用以下代码运行
想象下表: CREATE TABLE drops( id BIGSERIAL PRIMARY KEY, loc VARCHAR(5) NOT NULL, tag INT NOT
我的表 test_table 中的示例数据: date symbol value created_time 2010-01-09 symbol1
首先,如果已经有人问过这个问题,我深表歉意,至少我找不到任何东西。 无论如何,我将每 5 分钟运行一次 cron 任务。该脚本加载 79 个外部页面,而每个页面包含大约 200 个我需要在数据库中检查
我有下面的 SQL 代码,它来自 MySQL 数据库。现在它给了我期望的结果,但是查询很慢,我想我应该在进一步之前加快这个查询的速度。 表agentstatusinformation有: PKEY(主
我需要获取一个对象在 Core Data 中数千个其他对象之间的排名。现在,这是我的代码: - (void)rankMethod { //Fetch all objects NSFet
我正在编写一个应用程序,我需要在其中读取用户的地址簿并显示他所有联系人的列表。我正在测试的 iPhone 有大约 100 个联系人,加载联系人确实需要很多时间。 ABAddressBookRef ad
我正在使用 javascript 将 160 行添加到包含 10 列的表格中。如果我这样做: var cellText = document.createTextNode(value); cell.a
我是 Swift 的新手,我已经设置了一个 tableView,它从 JSON 提要中提取数据并将其加载到表中。 表格加载正常,但是当表格中有超过 10 个单元格时,它会变得缓慢且有些滞后,特别是它到
我在 InitializeCulture 和 Page_PreInit 事件之间的 asp.net 页面中遇到性能问题。当我重写 DeterminePostBackMode() 时,我发现问题出在 b
我在 Hetzner 上有一个带有 256GB RAM 6 个 CPU(12 个线程) 的专用服务器,它位于德国。我有 CENTOS 7.5。 EA4。 我的问题是 SSL。每天大约 2 小时,我们在
我是一名优秀的程序员,十分优秀!