- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在使用 keras
R
-package 将 LSTM 模型拟合到多变量时间序列(在 Python 或 PyTorch 中回答有关 keras 的问题也会有所帮助,因为我可以switch)并有多个输出(3个连续的,一个分类的)。一些目标在某些时间步长中丢失(编码为 -1,因为所有观测值都是 $\geq 0$,但我显然可以将其更改为其他任何值)。我认为有意义的是,如果目标变量缺失 (=-1),模型的任何预测都被认为是正确的(=没有损失)。我对预测值是否缺失没有兴趣,因此强制模型输出 -1 对我来说没有兴趣,即使模型可以可靠地预测缺失。我更愿意预测缺失值是多少(即使我无法检查这是否正确)。
如何创建“忽略”-1 值/认为它们正确的自定义损失函数?
如果上下文更重要,下面是一个图表,说明我的模型,下面是 R
代码,用于生成一些示例数据并拟合模型,以防没有缺失数据。删除下面代码中 # %>% mutate_at(vars(x1:x4, y1:y4), randomly_set_to_minus_one)
行的注释后,您会得到一些输入和输出编码为 - 1.我没有强烈的意见应该如何将这些编码为特征,我也可以将这些值设置为输入值的中值并添加一个标志以表示缺失或其他。 (对我而言)真正重要的是我的损失函数正确处理 -1 目标值。在帖子的结尾,我尝试编写这样的损失函数失败了。
library(tidyverse)
library(keras)
# A function I use to set some values randomly to -1
randomly_set_to_minus_one = function(x){
ifelse(rnorm(length(x))>1, -1, x)
}
# randomly_set_to_minus_one(rnorm(100))
set.seed(1234)
subjects = 250
records_per_subject = 25
# Simulate some time series for multiple subject with multiple records per subject.
example = tibble(subject = rep(1:subjects, each=records_per_subject),
rand1 = rep(rnorm(subjects), each=records_per_subject),
rand2 = rep(rnorm(subjects), each=records_per_subject),
rand3 = rnorm(subjects*records_per_subject),
rand4 = rnorm(subjects*records_per_subject)) %>%
mutate(x1 = 0.8*rand1 + 0.2*rand2 + 0.8*rand3 + 0.2*rand4 + rnorm(n=n(),sd=0.1),
x2 = 0.1*rand1 + 0.9*rand2 + 2*rand3 + rnorm(n=n(),sd=0.1),
x3 = 0.5*rand1 + 0.5*rand2 + 0.2*rand4 + rnorm(n=n(),sd=0.25),
x4 = 0.2*rand1 + 0.2*rand2 + 0.5*rand3 + 0.5*rand4 + rnorm(n=n(),sd=0.1),
x5 = rep(1:records_per_subject, subjects),
y1 = 1+tanh(rand1 + rand2 + 0.05*rand3 + 0.05*rand4 + 2*x5/records_per_subject + rnorm(n=n(),sd=0.05)),
y2 = 10*plogis(0.2*rand1 + 0.2*rand2 + 0.2*rand3 + 0.2*rand4),
y3 = 3*plogis(0.8*rand1 + 0.8*rand4 + 2*(x5-records_per_subject/2)/records_per_subject),
prob1 = exp(rand1/4*3+rand3/4),
prob2 = exp(rand2/4*3+rand4/4),
prob3 = exp(-rand1-rand2-rand3-rand4),
total = prob1+prob2+prob3,
prob1 = prob1/total,
prob2 = prob2/total,
prob3 = prob3/total,
y4 = pmap(list(prob1, prob2, prob3), function(x,y,z) sample(1:3, 1, replace=T, prob=c(x,y,z)))) %>%
unnest(y4) %>%
mutate(x1 = x1 + min(x1),
x2 = x2 + min(x2),
x3 = x3 + min(x3),
x4 = x4 + min(x4)) %>%
dplyr::select(subject, x1:x5, y1:y4)
# %>% mutate_at(vars(x1:x4, y1:y4), randomly_set_to_minus_one)
# Create arrays the way keras wants them as inputs/outputs:
# 250, 25, 5 array of predictors
x_array = map(sort(unique(example$subject)), function(x) {
example %>%
filter(subject==x) %>%
dplyr::select(x1:x5) %>%
as.matrix()
}) %>%
abind::abind(along=3 ) %>%
aperm(perm=c(3,1,2))
# 250, 25, 3 array of continuous target variables
y13_array = map(sort(unique(example$subject)), function(x) {
example %>%
filter(subject==x) %>%
dplyr::select(y1:y3) %>%
as.matrix()
}) %>%
abind::abind(along=3 ) %>%
aperm(perm=c(3,1,2))
# 250, 25, 1 array of categorical target variables (one-hot-encoded)
y4_array = map(sort(unique(example$subject)), function(x) {
example %>%
filter(subject==x) %>%
mutate(y41 = case_when(y4==1~1, y4==-1~-1, TRUE~0),
y42 = case_when(y4==2~1, y4==-1~-1, TRUE~0),
y43 = case_when(y4==3~1, y4==-1~-1, TRUE~0)) %>%
dplyr::select(y41:y43) %>%
as.matrix()
}) %>%
abind::abind(along=3 ) %>%
aperm(perm=c(3,1,2))
# Define LSTM neural network
nn_inputs <- layer_input(shape = c(dim(x_array)[2], dim(x_array)[3]))
nn_lstm_layers <- nn_inputs %>%
layer_lstm(units = 32, return_sequences = TRUE,
dropout = 0.3, # That's dropout applied to the inputs, the below is recurrent drop-out applied to LSTM memory cells
recurrent_dropout = 0.3) %>%
layer_lstm(units = 16,
return_sequences = TRUE,
dropout = 0.3,
recurrent_dropout = 0.3)
# First continuous output (3 variables)
cont_target <- nn_lstm_layers %>%
layer_dense(units = dim(y13_array)[3], name = "cont_target")
# Categorical outcome (3 categories one-hot-encoded)
cat_target <- nn_lstm_layers %>%
layer_dense(units = dim(y4_array)[3], activation = "sigmoid", name = "cat_target")
model <- keras_model(nn_inputs,
list(cont_target, cat_target))
summary(model)
val_samples = sample(x=c( rep(FALSE, floor(dim(x_array)[1]*0.8)),
rep(TRUE, ceiling(dim(x_array)[1]*0.2))),
size = dim(x_array)[1],
replace = F)
model %>% compile(
optimizer = "rmsprop",
loss = list( cont_target = "mse",
cat_target = "categorical_crossentropy"),
loss_weights = list(cont_target = 1.0, cat_target = 1.0))
history <- model %>%
fit(
x_array[!val_samples,,],
list(cont_target = y13_array[!val_samples,,],
cat_target = y4_array[!val_samples,,]),
epochs = 100,
batch_size = 32,
validation_data = list(x_array[val_samples,,],
list(cont_target = y13_array[val_samples,,],
cat_target = y4_array[val_samples,,])),
callbacks = list(callback_reduce_lr_on_plateau(
monitor = "val_loss", factor = 0.5, patience = 10, verbose = 0,
mode = "min", min_delta = 1e-04, cooldown = 0, min_lr = 0),
callback_early_stopping(monitor = "val_loss",
min_delta = 0,
patience = 20,
restore_best_weights = TRUE,
verbose = 0, mode = c("auto")))
)
plot(history) + scale_y_log10()
这是我尝试编写一个忽略 -1 值的修改后的 MSE 损失函数:
# Custom loss functions to deal with missing values (coded as -1)
mse_na_loss <- function(y_true, y_pred){
K <- backend()
#K$mean( K$switch(K$equal(y_true, -1), K$zeros(shape=K$constant(y_true)$shape), K$pow(y_true-y_pred, 2)), axis=-1)
#K$mean( K$pow(y_true-y_pred, 2))
#K$zeros(shape=K$constant(y_true)$shape)
#K$equal(y_true, -1)
K$mean(
K$switch( K$equal(y_true, -1),
K$zeros(shape=K$constant(y_true)$shape, dtype = "float64"),
K$pow(y_true-y_pred, 2)),
axis=-1L)
}
最佳答案
What I think would make sense is that any prediction by the model is considered right (=no loss incurred), if the target variable is missing (=-1).
您可以通过检查 y_true 是否不同于 -1 (k_not_equal
) 然后将二进制转换为数字 ( k_cast
).这将为您提供诸如 (1,0,1,1,0) 之类的值,这些值可以与 MSE 相乘。
mse_na_loss <- function(y_true, y_pred){
k_pow(y_true-y_pred, 2) * k_cast(k_not_equal(y_true, -1), 'float32')
}
这基本上会为您提供您在问题末尾尝试创建的损失函数。并回答你问题中引用的部分。
但是,我认为这不是一个好方法。该损失函数不会像您所说的那样“忽略”那些观察结果。它只是了解到任何值都适合这里。这可能会给您的学习带来不必要的噪音。
基于领域,其他 NA 处理方法,例如“最后观察结转”(na.locf
) 可能比 -1 更好。
关于r - 忽略keras中R的缺失目标值的损失函数,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/68290705/
我正在从 Stata 迁移到 R(plm 包),以便进行面板模型计量经济学。在 Stata 中,面板模型(例如随机效应)通常报告组内、组间和整体 R 平方。 I have found plm 随机效应
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 想改进这个问题?将问题更新为 on-topic对于堆栈溢出。 6年前关闭。 Improve this qu
我想要求用户输入整数值列表。用户可以输入单个值或一组多个值,如 1 2 3(spcae 或逗号分隔)然后使用输入的数据进行进一步计算。 我正在使用下面的代码 EXP <- as.integer(rea
当 R 使用分类变量执行回归时,它实际上是虚拟编码。也就是说,省略了一个级别作为基础或引用,并且回归公式包括所有其他级别的虚拟变量。但是,R 选择了哪一个作为引用,以及我如何影响这个选择? 具有四个级
这个问题基本上是我之前问过的问题的延伸:How to only print (adjusted) R-squared of regression model? 我想建立一个线性回归模型来预测具有 15
我在一台安装了多个软件包的 Linux 计算机上安装了 R。现在我正在另一台 Linux 计算机上设置 R。从他们的存储库安装 R 很容易,但我将不得不使用 安装许多包 install.package
我正在阅读 Hadley 的高级 R 编程,当它讨论字符的内存大小时,它说: R has a global string pool. This means that each unique strin
我们可以将 Shiny 代码写在两个单独的文件中,"ui.R"和 "server.R" , 或者我们可以将两个模块写入一个文件 "app.R"并调用函数shinyApp() 这两种方法中的任何一种在性
我正在使用 R 通过 RGP 包进行遗传编程。环境创造了解决问题的功能。我想将这些函数保存在它们自己的 .R 源文件中。我这辈子都想不通怎么办。我尝试过的一种方法是: bf_str = print(b
假设我创建了一个函数“function.r”,在编辑该函数后我必须通过 source('function.r') 重新加载到我的全局环境中。无论如何,每次我进行编辑时,我是否可以避免将其重新加载到我的
例如,test.R 是一个单行文件: $ cat test.R # print('Hello, world!') 我们可以通过Rscript test.R 或R CMD BATCH test.R 来
我知道我可以使用 Rmd 来构建包插图,但想知道是否可以更具体地使用 R Notebooks 来制作包插图。如果是这样,我需要将 R Notebooks 编写为包小插图有什么不同吗?我正在使用最新版本
我正在考虑使用 R 包的共享库进行 R 的站点安装。 多台计算机将访问该库,以便每个人共享相同的设置。 问题是我注意到有时您无法更新包,因为另一个 R 实例正在锁定库。我不能要求每个人都关闭它的 R
我知道如何从命令行启动 R 并执行表达式(例如, R -e 'print("hello")' )或从文件中获取输入(例如, R -f filename.r )。但是,在这两种情况下,R 都会运行文件中
我正在尝试使我当前的项目可重现,因此我正在创建一个主文档(最终是一个 .rmd 文件),用于调用和执行其他几个文档。这样我自己和其他调查员只需要打开和运行一个文件。 当前设置分为三层:主文件、2 个读
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 想改进这个问题?将问题更新为 on-topic对于堆栈溢出。 5年前关闭。 Improve this qu
我的 R 包中有以下描述文件 Package: blah Title: What the Package Does (one line, title case) Version: 0.0.0.9000
有没有办法更有效地编写以下语句?accel 是一个数据框。 accel[[2]]<- accel[[2]]-weighted.mean(accel[[2]]) accel[[3]]<- accel[[
例如,在尝试安装 R 包时 curl作为 usethis 的依赖项: * installing *source* package ‘curl’ ... ** package ‘curl’ succes
我想将一些软件作为一个包共享,但我的一些脚本似乎并不能很自然地作为函数运行。例如,考虑以下代码块,其中“raw.df”是一个包含离散和连续类型变量的数据框。函数“count.unique”和“squa
我是一名优秀的程序员,十分优秀!