python - 有没有办法使用 scikit-learn 绘制随机森林的 OOB ROC 曲线？

Question

使用 Python 和 sklearn，我想绘制随机森林分类器的袋外 (oob) 真阳性率和假阳性率的 ROC 曲线。

我知道这在 R 中是可能的，但似乎找不到任何有关如何在 Python 中执行此操作的信息。

Answer 1

您需要.oob_decision_function_返回拟合后袋外样本的预测概率。

P.S:这在 scikit-learn==0.22

中可用

小例子:

import matplotlib.pyplot as plt
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import plot_roc_curve
from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split

X, y = load_wine(return_X_y=True)
y = y == 2

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)

rfc = RandomForestClassifier(n_estimators=10, random_state=42, oob_score=True)
rfc.fit(X_train, y_train)

from sklearn import metrics
pred_train = np.argmax(rfc.oob_decision_function_,axis=1)
metrics.roc_auc_score(y_train, pred_train)