python - Lime 解释器显示与分类器预测不同的预测概率 - 情感分析

Question

我正在使用 Lime 来追踪模型决定预测这个句子是否是(NEG、POS 或 NEUTRAL)背后的行为，并且在大多数情况下，Lime 都能正确解释，但在这种情况下，为什么我输入 NEG 句子，模型将其预测为 NEUTRAL，但 Lime 将其可视化为 NEG 最高百分比，那么为什么我会出现这样的逻辑错误？

Model prediction vs Lime prediction

Answer 1

您没有提供很多细节，所以我的回答也同样笼统:您的原始模型做出了错误的预测。然后 Lime 对模型进行线性近似。由于线性模型的近似性质，这与原始模型并不完全相同并且偏离了原始模型。在您的情况下，原始模型给出了错误的预测，并且线性近似的偏差偶然地朝着正确答案的方向，因此尽管原始模型是错误的，但您偶然地从近似中得到了正确的答案.