python - 你能帮我在 pyBrain 中线性激活我的简单分类器神经网络吗？

Question

我正在使用名为 pyBrain 的 Python 库尝试一个非常简单的案例我无法让它工作。可能有一个非常简单的原因，所以，希望有人能帮忙!

1) 简单的 XOR 工作正常。

2) 将数字时钟上显示的 LED 分类为数字输出值工作正常。

例如

[ 1.  1.  1.  0.  1.  1.  1.] => [ 0.]
[ 0.  0.  1.  0.  0.  1.  0.] => [ 1.] 
[ 1.  0.  1.  1.  1.  0.  1.] => [ 2.] 
[ 1.  0.  1.  1.  0.  1.  1.] => [ 3.] 
[ 0.  1.  1.  1.  0.  1.  0.] => [ 4.] 
[ 1.  1.  0.  1.  0.  1.  1.] => [ 5.] 
[ 1.  1.  0.  1.  1.  1.  1.] => [ 6.] 
[ 1.  0.  1.  0.  0.  1.  0.] => [ 7.] 
[ 1.  1.  1.  1.  1.  1.  1.] => [ 8.] 
[ 1.  1.  1.  1.  0.  1.  1.] => [ 9.] 

3) 将数值分类到 LED 输出以驱动数字显示器不起作用。

例如

[ 0.] => [ 1.  1.  1.  0.  1.  1.  1.] 

等等(如上但相反)。

我正在使用具有 10 个输入、1 个输出的简单线性激活器，并且我已经尝试在隐藏层中使用 >12 个神经元。

我的困惑是，网络不应该能够记住隐藏层中有 10 个神经元的模式吗？

我敢肯定我缺少一些明显的东西，所以，请随时开导我的愚蠢!

Answer 1

当您进行回归(表示值范围的单个输出节点)时，线性激活很好，但对于分类(表示匹配的二进制输出)，您最好使用限制值范围的激活。类似 sigmoid 或 tanh 的东西。