python - 使用 KernelExplainer(SHAP 工具)进行 Pipeline 和多类分类

Question

我有一个用于 3 类分类问题的 Pipeline 对象。因为我找到的大多数示例都是针对二元分类的，所以我发现很难完全理解如何为每个样本获取正确的绘图。

所以，我有这段代码(pipe_model 是我的 Pipeline 对象，之前安装的，X_train 和 X_test 是我的训练和测试数据，分别):

import shap
explainer = shap.KernelExplainer(pipe_model.predict_proba, X_train, link="logit")
shap_values = explainer.shap_values(X_test, nsamples="auto")

我想要 X_test 中每个样本的绘图。我知道不知何故 explainer.expected_value 和 shap_values 对于我正在分类的每个类都会有 3 个部分。因此，例如，如果我想绘制 X_test 前 2 个样本的重要性，我会这样做:

shap.force_plot(explainer.expected_value[0], shap_values[0][0,:], X_test.iloc[0,:], link="logit")
shap.force_plot(explainer.expected_value[1], shap_values[1][0,:], X_test.iloc[1,:], link="logit")

我对 expected_value 和 shap_values 中的索引进行了一些研究，并且绘图发生了变化，原因我无法解释。有人可以让我知道如何为每个类的每个样本绘制 force_plot 吗？

Answer 1

经过一番探索后，如果其他人也有同样的问题，我认为这将是执行我所要求的正确方法:

显示影响 0 类分类概率的特征:

shap.force_plot(explainer.expected_value[0], shap_values[0][0,:], X_test.iloc[0,:], link="logit")
shap.force_plot(explainer.expected_value[0], shap_values[0][1,:], X_test.iloc[1,:], link="logit")

显示驱动第 1 类分类概率的特征:

shap.force_plot(explainer.expected_value[1], shap_values[1][0,:], X_test.iloc[0,:], link="logit")
shap.force_plot(explainer.expected_value[1], shap_values[1][1,:], X_test.iloc[1,:], link="logit")

显示驱动第 2 类分类概率的特征:

shap.force_plot(explainer.expected_value[2], shap_values[2][0,:], X_test.iloc[0,:], link="logit")
shap.force_plot(explainer.expected_value[2], shap_values[2][1,:], X_test.iloc[1,:], link="logit")

如果有人能够仔细检查这一点，那就太好了，但无论如何，我现在认为这是正确的。