tensorflow - 有没有办法用 Keras 获得可变的重要性？

Question

我正在寻找一种适当或最佳的方法来在使用 Keras 创建的神经网络中获得可变重要性。我目前的做法是，假设第一层中更重要的变量将具有更高的权重，我只取第一层中变量的权重(而不是偏差)。还有其他/更好的方法吗？

Answer 1

由于所有内容都将沿着网络混合在一起，因此仅靠第一层无法告诉您每个变量的重要性。下面的层也可以增加或减少它们的重要性，甚至可以使一个变量影响另一个变量的重要性。第一层中的每个神经元本身也会赋予每个变量不同的重要性，所以这不是那么简单。

我建议你做 model.predict(inputs)使用包含零数组的输入，使输入中只有您要研究的变量为 1。

这样，您就可以单独看到每个变量的结果。即使这样，在一个变量增加另一个变量的重要性的情况下，这仍然无济于事。