python - 我怎样才能让我的神经网络强调一些数据比其他数据更重要？

Question

我在网上四处寻找但找不到任何东西，但我很可能错过了一篇关于这方面的文献。我在 289 分量向量上运行基本神经网络以生成 285 分量向量。在我的输入中，最后 4 条数据对于将输入的其余部分更改为输出的结果 285 至关重要。也就是说，输入是 285 + 4，因此 4 将输入的其余部分变形为输出。

但是当在其上运行神经网络时，我不确定如何反射(reflect)这一点。我需要对其余输入使用卷积吗？我希望我的系统强调对其他 285 个数据点有严重影响的 4 个数据点。我对所有这些都还很陌生，所以一些建议会很棒!

同样，如果上面已经写了一些东西，那也太棒了。

Answer 1

我认为您没有任何理由这样做，因为网络会自行推断。考虑到输出，将根据每个输入的重要性减少或增加权重。

不过，您可以做的是建立一个将 285 组件作为输入的初步网络，然后是一个将 4 个关键组件和初步网络的输出作为输入的新网络输入。

[285 compo.]---[neural network]---+---[neural network]---[output 285 compo.]
                                  |
                       [4 compo.]-+

例如，您可以使用卷积网络处理图片，然后在全连接网络中添加一些元信息来处理所有内容。