- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有一个高度不平衡的数据集 (99.5:0.5)。我想使用 sklearn
的 RandomizedSearchCV
对随机森林模型执行超参数调整。我希望使用 SMOTE 对每个训练折叠进行过采样,然后在最终折叠上评估每个测试,保持原始分布而没有任何过采样。由于这些测试折叠高度不平衡,我希望使用 F1 分数对测试进行评估。
我尝试了以下方法:
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import RandomizedSearchCV, StratifiedKFold
from imblearn.over_sampling import SMOTE
from imblearn.pipeline import make_pipeline
import pandas as pd
dataset = pd.read_csv("data/dataset.csv")
data_x = dataset.drop(["label"], axis=1)
data_y = dataset["label"]
smote = SMOTE()
model = RandomForestClassifier()
pipeline = make_pipeline(smote, model)
grid = {
"randomforestclassifier__n_estimators": [10, 25, 50, 100, 250, 500, 750, 1000, 1250, 1500, 1750, 2000],
"randomforestclassifier__criterion": ["gini", "entropy"],
"randomforestclassifier__max_depth": [10, 20, 30, 40, 50, 75, 100, 150, 200, None],
"randomforestclassifier__min_samples_split": [1, 2, 3, 4, 5, 8, 10, 15, 20],
"randomforestclassifier__min_samples_leaf": [1, 2, 3, 4, 5, 8, 10, 15, 20],
"randomforestclassifier__max_features": ["auto", None, 0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9],
"randomforestclassifier__bootstrap": [True, False],
"randomforestclassifier__max_samples": [None, 0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9],
}
kf = StratifiedKFold(n_splits=5)
search = RandomizedSearchCV(pipeline, grid, scoring='f1', n_iter=10, n_jobs=-1, cv=kf)
search = search.fit(data_x, data_y)
print(search.best_params_)
但是,我不确定每次迭代时是否将 SMOTE 应用于测试集。
如何确保 SMOTE 仅应用于训练折叠,而不应用于测试折叠?
编辑:
This article似乎回答了我的问题(特别是在第 3B 节),提供了我正在尝试做的事情的示例代码,并演示了它如何按照我指定的方式工作
最佳答案
如我编辑中链接的文章所示,当 imblearn
Pipeline
被传递到 sklearn
的 RandomizedSearchCV
,转换似乎只应用于训练折叠的数据,而不是验证折叠。 (虽然我不明白这是如何工作的,因为如果将缩放器传递到管道中,例如,您会希望将其应用于所有数据,而不仅仅是训练折叠)。
我用下面的代码对此进行了测试,它实际上没有进行任何超参数调整,而是模拟好像正在调整的参数,并且验证 F1 分数与我最终测试的 F1 分数几乎相同。
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import train_test_split
from sklearn.model_selection import RandomizedSearchCV, StratifiedKFold
from sklearn.metrics import confusion_matrix, classification_report
from imblearn.over_sampling import SMOTE
from imblearn.pipeline import Pipeline
import pandas as pd
# TRAIN / TEST SPLIT
dataset = pd.read_csv("data/dataset.csv")
data_x = dataset.drop(["label"], axis=1)
data_y = dataset["label"]
train_x, test_x, train_y, test_y = train_test_split(
data_x, data_y, test_size=0.3, shuffle=True
)
# HYPERPARAMETER TUNING
pipeline = Pipeline([("smote", SMOTE()), ("rf", RandomForestClassifier())])
grid = {
"rf__n_estimators": [100],
}
kf = StratifiedKFold(n_splits=5)
# Just applies smote to the k-1 training folds, and not to the validation fold
search = RandomizedSearchCV(
pipeline, grid, scoring="f1", n_iter=1, n_jobs=-1, cv=kf
).fit(train_x, train_y)
best_score = search.best_score_
best_params = {
key.replace("rf__", ""): value for key, value in search.best_params_.items()
}
print(f"Best Tuning F1 Score: {best_score}")
print(f"Best Tuning Params: {best_params}")
# EVALUTING BEST MODEL ON TEST SET
best_model = RandomForestClassifier(**best_params).fit(train_x, train_y)
accuracy = best_model.score(test_x, test_y)
test_pred = best_model.predict(test_x)
tn, fp, fn, tp = confusion_matrix(test_y, test_pred).ravel()
conf_mat = pd.DataFrame(
{"Model (0)": [tn, fn], "Model (1)": [fp, tp]}, index=["Actual (0)", "Actual (1)"],
)
classif_report = classification_report(test_y, test_pred)
feature_importance = pd.DataFrame(
{"feature": list(train_x.columns), "importance": best_model.feature_importances_}
).sort_values("importance", ascending=False)
print(f"Accuracy: {round(accuracy * 100, 2)}%")
print("")
print(conf_mat)
print("")
print(classif_report)
print("")
pd.set_option("display.max_rows", len(feature_importance))
print(feature_importance)
pd.reset_option("display.max_rows")
关于python - 将 sklearn 的 RandomizedSearchCV 与 SMOTE 过采样仅用于训练折叠,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/61453795/
real adaboost Logit boost discrete adaboost 和 gentle adaboost in train cascade parameter 有什么区别.. -bt
我想为 book crossing 构建训练数据矩阵和测试数据矩阵数据集。但作为 ISBN 代码的图书 ID 可能包含字符。因此,我无法应用此代码(来自 tutorial ): #Create two
我找到了 JavaANPR 库,我想对其进行自定义以读取我所在国家/地区的车牌。 似乎包含的字母表与我们使用的字母表不同 ( http://en.wikipedia.org/wiki/FE-Schri
我有一个信用卡数据集,其中 98% 的交易是非欺诈交易,2% 是欺诈交易。 我一直在尝试在训练和测试拆分之前对多数类别进行欠采样,并在测试集上获得非常好的召回率和精度。 当我仅在训练集上进行欠采样并在
我打算: 在数据集上从头开始训练 NASNet 只重新训练 NASNet 的最后一层(迁移学习) 并比较它们的相对性能。从文档中我看到: keras.applications.nasnet.NASNe
我正在训练用于分割的 uNet 模型。训练模型后,输出全为零,我不明白为什么。 我看到建议我应该使用特定的损失函数,所以我使用了 dice 损失函数。这是因为黑色区域 (0) 比白色区域 (1) 大得
我想为新角色训练我现有的 tesseract 模型。我已经尝试过 上的教程 https://github.com/tesseract-ocr/tesseract/wiki/TrainingTesser
我的机器中有两个 NVidia GPU,但我没有使用它们。 我的机器上运行了三个神经网络训练。当我尝试运行第四个时,脚本出现以下错误: my_user@my_machine:~/my_project/
我想在python的tensorflow中使用稀疏张量进行训练。我找到了很多代码如何做到这一点,但没有一个有效。 这里有一个示例代码来说明我的意思,它会抛出一个错误: import numpy as
我正在训练一个 keras 模型,它的最后一层是单个 sigmoid单元: output = Dense(units=1, activation='sigmoid') 我正在用一些训练数据训练这个模型
所以我需要使用我自己的数据集重新训练 Tiny YOLO。我正在使用的模型可以在这里找到:keras-yolo3 . 我开始训练并遇到多个优化器错误,添加了错误代码以防止混淆。 我注意到即使它应该使用
将 BERT 模型中的标记化范式更改为其他东西是否有意义?也许只是一个简单的单词标记化或字符级标记化? 最佳答案 这是论文“CharacterBERT: Reconciling ELMo and BE
假设我有一个非常简单的神经网络,比如多层感知器。对于每一层,激活函数都是 sigmoid 并且网络是全连接的。 在 TensorFlow 中,这可能是这样定义的: sess = tf.Inte
有没有办法在 PyBrain 中保存和恢复经过训练的神经网络,这样我每次运行脚本时都不必重新训练它? 最佳答案 PyBrain 的神经网络可以使用 python 内置的 pickle/cPickle
我尝试使用 Keras 训练一个对手写数字进行分类的 CNN 模型,但训练的准确度很低(低于 10%)并且误差很大。我尝试了一个简单的神经网络,但没有效果。 这是我的代码。 import tensor
我在 Windows 7 64 位上使用 tesseract 3.0.1。我用一种新语言训练图书馆。 我的示例数据间隔非常好。当我为每个角色的盒子定义坐标时,盒子紧贴角色有多重要?我使用其中一个插件,
如何对由 dropout 产生的许多变薄层进行平均?在测试阶段要使用哪些权重?我真的很困惑这个。因为每个变薄的层都会学习一组不同的权重。那么反向传播是为每个细化网络单独完成的吗?这些细化网络之间的权重
我尝试训练超正方语言。我正在使用 Tess4J 进行 OCR 处理。我使用jTessBoxEditor和SerakTesseractTrainer进行训练操作。准备好训练数据后,我将其放在 Tesse
我正在构建一个 Keras 模型,将数据分类为 3000 个不同的类别,我的训练数据由大量样本组成,因此在用一种热编码对训练输出进行编码后,数据非常大(item_count * 3000 * 的大小)
关闭。这个问题需要多问focused 。目前不接受答案。 想要改进此问题吗?更新问题,使其仅关注一个问题 editing this post . 已关闭 8 年前。 Improve this ques
我是一名优秀的程序员,十分优秀!