python - xgboost 监视列表参数 : DMatrix object is not iterable

Question

我正在尝试在数据集 X-train, X_test 上训练 xgboost 模型。代码:

xgb_params = {
    "objective": "multi:softmax",
    "eta": 0.3,
    "num_class": 62,
    "max_depth": 10,
    "nthread": 4,
    "eval_metric": "merror",
    "print.every.n": 1
    #"silent": 1
}
num_rounds = 2

mask = np.random.choice([False, True], len(X_train), p=[0.75, 0.25])
not_mask = [not i for i in mask]

dtrain = xgb.DMatrix(X_train[not_mask], label=y[not_mask])
dtrain_watch = xgb.DMatrix(X_train[mask], label=y[mask])
dtest = xgb.DMatrix(X_test)

gbdt = xgb.train(xgb_params, dtrain, num_rounds, dtrain_watch)
preds = gbdt.predict(dtest)

但我收到错误:TypeError: 'DMatrix' object is not iterable 在倒数第二行。

需要做什么？

编辑:如果我故意将类型转换为 np.array，我会得到 TypeError: iteration over a 0-d array

编辑 2:如果我以这种方式完全避免 DMatrix:watchlist = list(np.append(X_train[mask], np.matrix(y[mask]).transpose(), axis=1)) 我得到另一个错误

xgboost.py", line 340, in __init__
    raise TypeError('invalid cache item: {}'.format(type(d).__name__))
TypeError: invalid cache item: matrix

Answer 1

根据documentation , 监控数据应按以下形式传递:

evallist  = [(dtest,'eval'), (dtrain,'train')]

所以，你的代码应该改成这样:

evallist  = [(dtrain_watch, 'eval')]
gbdt = xgb.train(xgb_params, dtrain, num_rounds, evallist)

此外，您可能想使用

not_mask = ~mask

相反，生成的掩码是 bool numpy 数组而不是 bool 值列表。否则，虽然没有错误，但切片可能无法按预期工作(检查原始代码中训练和验证数据的维度)。