- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在尝试使用 Python 中的 LightGBM 为多类分类问题(3 类)建立分类器模型。我使用了以下参数。
params = {'task': 'train',
'boosting_type': 'gbdt',
'objective': 'multiclass',
'num_class':3,
'metric': 'multi_logloss',
'learning_rate': 0.002296,
'max_depth': 7,
'num_leaves': 17,
'feature_fraction': 0.4,
'bagging_fraction': 0.6,
'bagging_freq': 17}
数据集的所有分类特征均使用LabelEncoder
进行标签编码。我在使用 eartly_stopping
运行 cv
后训练了模型,如下所示。
lgb_cv = lgbm.cv(params, d_train, num_boost_round=10000, nfold=3, shuffle=True, stratified=True, verbose_eval=20, early_stopping_rounds=100)
nround = lgb_cv['multi_logloss-mean'].index(np.min(lgb_cv['multi_logloss-mean']))
print(nround)
model = lgbm.train(params, d_train, num_boost_round=nround)
训练后,我用这样的模型进行了预测,
preds = model.predict(test)
print(preds)
我得到了一个嵌套数组作为这样的输出。
[[ 7.93856847e-06 9.99989550e-01 2.51164967e-06]
[ 7.26332978e-01 1.65316511e-05 2.73650491e-01]
[ 7.28564308e-01 8.36756769e-06 2.71427325e-01]
...,
[ 7.26892634e-01 1.26915179e-05 2.73094674e-01]
[ 5.93217601e-01 2.07172044e-04 4.06575227e-01]
[ 5.91722491e-05 9.99883828e-01 5.69994435e-05]]
由于 preds
中的每个列表都代表类概率,因此我使用 np.argmax()
来查找这样的类..
predictions = []
for x in preds:
predictions.append(np.argmax(x))
在分析预测时,我发现我的预测仅包含 2 个类别 - 0 和 1。类别 2 是训练集中的第二大类别,但在预测中找不到它。在评估结果时,它准确率约为 78%
。
那么,为什么我的模型在任何情况下都没有预测 2 类。?我使用的参数有问题吗?
这不是解释模型做出的预测的正确方法吗?我应该对参数进行任何更改吗??
最佳答案
尝试通过交换类别 0 和 2 并重新运行训练和预测过程来进行故障排除。
如果新的预测仅包含类别 1 和类别 2(很可能考虑到您提供的数据):
如果新的预测确实包含所有 3 个类别:
希望这有帮助。
关于python - 使用 LightGBM 进行多类分类,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47370240/
添加我自己的自定义损失函数时应该更改哪些文件?我知道我可以在 ObjectiveFunction 中添加我的目标和梯度/hessian 计算,只是想知道是否还有其他我需要做的事情,或者自定义损失函数是
我正在使用 LightGBM 并希望使用平均准确率召回作为指标。 我尝试定义 feval: cv_result = lgb.cv(params=params, train_set=lgb_train,
我正在使用交叉验证来训练模型,如下所示: classifier = lgb.Booster( params=params, train_set=lgb_train_set, ) res
我正在尝试在 Macbook 上训练一个简单的 LightGBM 模型,但即使将 verbose 参数设置为 1(甚至大于 1),它也不会打印任何日志 param = {'num_leaves':50
我在使用 Optuna 调整我的模型时遇到警告。请告诉我如何抑制这些警告? [LightGBM] [Warning] feature_fraction is set=0.2, colsample_by
LightGBM plot_tree 方法中的数字代表什么?例如,我使用了 Pima Indian Diabettes 数据集,然后使用 plot_tree 方法生成以下结果: 叶子节点上的数字代表什
我正在尝试使用 python 中的多进程池来训练完全独立的任务,其中 lightgbm 用于训练(我不确定这是否与问题相关)。这是代码 from sklearn.datasets import loa
在我的数据中,大约有 70 个类,我使用 lightGBM 来预测正确的类标签。 在 R 中,希望有一个自定义的“度量”函数,我可以在其中评估 lightgbm 的前 3 个预测是否涵盖真实标签。 链
我正在处理 LightGbm(Scikit-learn API)中的二进制分类问题,并且在理解如何包含样本权重时遇到问题。我的代码目前看起来像这样 classifier = LGBMClassifie
我使用多种算法训练了一个模型,包括来自 skicit-learn 的随机森林和 LightGBM。这些模型在准确性和其他统计数据方面表现相似。 问题在于这两种算法在特征重要性方面的行为不一致。我使用了
当我使用 lightgbm 进行网格搜索时,我遇到了麻烦。 lgb_classifer = lgb.LGBMRegressor(random_state=12) grid_lgb = { 'l
任何人都可以分享一个关于如何使用 lightgbm 训练排名模型的数据的最小示例吗?最好使用 Scikit-Lean api?我正在努力解决的是如何传递标签数据。我的数据是页面展示次数,如下所示: X
我正在使用 lightgbm 执行机器学习任务。 我想使用提前停止来找到给定多个超参数的最佳树数。然而,lgbm 停止种树,同时仍在改进我的评估指标。 下面我附上了我的规范: params = { '
我正在使用 lightgbm 执行机器学习任务。 我想使用提前停止来找到给定多个超参数的最佳树数。然而,lgbm 停止种树,同时仍在改进我的评估指标。 下面我附上了我的规范: params = { '
我有一个关于 lgb 的问题。当我写的时候 lgb.train(.......) 它在不到毫秒的时间内完成。 (对于 (10 000,25) )形状数据集。 当我编写预测时,所有输出变量都具有相同的值
LightGBM 支持分类变量。我想知道它是如何编码的。它似乎不是一种热编码,因为该算法非常快(我尝试使用花费大量时间进行一种热编码的数据)。 最佳答案 https://github.com/Micr
无法理解 LightGBM(Windows 平台)发生了什么。以前我的这个算法确实很强大,但是现在他的性能太差了。 为了比较(每个算法中的默认参数)LightGBM 根据简单的 DIFF-metric
我们应该如何使用 lightgbm.cv 的字典输出来改进我们的预测? 这是一个示例 - 我们使用以下代码训练我们的 cv 模型: cv_mod = lgb.cv(params,
我在寻找最佳 auc 的 lightgbm 建模中遇到错误。任何帮助将不胜感激。 import optuna from sklearn.model_selection import Stratifi
我使用训练 API 在 LightGBM 中运行二元分类,并希望停止在自定义指标上,同时仍跟踪一个或多个内置指标。不过,尚不清楚这是否可行。 在这里我们可以禁用默认的 binary_logloss 指
我是一名优秀的程序员,十分优秀!