python - PyBrain 多个目标值

Question

我正在尝试训练 ANN 来预测图像属于多个类别的概率，而我的目标值是此类概率的集合。

输入是经过简单整形的 28x28 灰度图片，像素值在 0-255 之间。

一个“目标”如下所示:0.738832,0.238159,0.023009,0,0.238159,0,0.238159,0,0.238159,0,0,0.238159,0,0.19793,0.80207,0.066806667,0.68334.691304 0,0,0.0494825,0.098965,0.0494825,0,0,0,0,0,0,0,0,0,0,0,0,0,0

然而，我得到的结果很糟糕(比简单的线性回归差得多)，看起来像这样:0.011947,0.448668,0,0,0.095688,0,0.038233,0,0,0,0,0,0,0,0.405464,0,0,0,0,0,0,0,0,0 ,0,0,0,0,0,0,0,0,0,0,0,0,0

我使用 300 或 30000 张图片并不重要。我显然做错了什么，非常感谢您的建议。

代码:

# create dataset
DS = SupervisedDataSet(784, 37)
assert(ia.shape[0] == ta.shape[0])
DS.setField('input', ia)
DS.setField('target', ta)

fnn = buildNetwork( DS.indim, 200, 37, outclass=SoftmaxLayer )

trainer = BackpropTrainer( fnn, dataset=DS, momentum=0.1, verbose=True, weightdecay=0.01)
trainer.trainUntilConvergence(maxEpochs=10,verbose=True,validationProportion=0.20)

Answer 1

您的问题是您用于训练的值。 softmax layer 表示该层的所有值总和为 1。因此，当您设置 37 个输出维度时，这意味着所有 37 个维度的总和将为 1.0。您的样本目标似乎不遵循该分布。