r - 分类伯努利分布中的 GBM 误差

Question

为分类问题运行 gbm 函数时。我收到以下错误:

Error in res[flag, ] <- predictions : replacement has length zero

我想知道为什么会出现此错误以及如何解决。

我的数据大约有 77 个数字变量(整数)用于分类和 1 个分组因子。数据中没有其他变量。数据中没有缺失数据。分组因子根据需要编码为因子 (0,1)。

我的数据结构如下所示:

$Group : Factor w/ 2 levels "0", "1"
$it1 : int
...
$it70 : int

我的模型是这样的:

mod_gbm <- gbm(Group~. distribution = "bernoulli", data=df,
               n.trees=1000,shrinkage=.01, n.minobsinnode=5, 
               interaction.depth = 6, cv.folds=5) 

我意识到这个问题与这里的问题非常相似:
Problems in using GBM function to do classification in R
但那个人想知道使用数字变量，唯一的 react 是删除 cv.folds。我想在我的模型中保留 cv.folds 并让它运行。

Answer 1

如果您查看 gbm 的小插图:

distribution: Either a character string specifying the name of the
          distribution to use or a list with a component ‘name’
          specifying the distribution and any additional parameters
          needed. If not specified, ‘gbm’ will try to guess: if the
          response has only 2 unique values, bernoulli is assumed;
          otherwise, if the response is a factor, multinomial is
          assumed

如果您只有两个类，则无需将其转换为因子。我们可以通过 iris 示例来探索这一点，我在其中创建了一个组标签 0/1 :

library(gbm)
df = iris
df$Group = factor(as.numeric(df$Species=="versicolor"))
df$Species = NULL
 
mod_gbm <- gbm(Group~.,distribution ="bernoulli", data=df,cv.folds=5)
Error in res[flag, ] <- predictions : replacement has length zero

我犯了同样的错误。所以我们将其转换为数字 0/1，您可以看到它正常工作。
当变量是一个因子时，做 as.numeric()将其转换为 1,2，其中 1 对应于第一级。所以在这种情况下，因为 Group 是 0/1 开始:

df$Group = as.numeric(df$Group)-1
mod_gbm <- gbm(Group~.,distribution ="bernoulli", data=df,cv.folds=5)

我们得到了预测:

pred = ifelse(predict(mod_gbm,type="response")>0.5,1,0)
table(pred,df$Group)

    
pred  0  1
   0 98  3
   1  2 47