python - 如何用pybrain搭建神经网络？

Question

我是 pybrain 的新手，在构建神经网络时遇到了很多问题。文档对我来说不是很清楚，我也没有在网上找到很多例子。

我想要一个具有一个输入、1 个隐藏层、1 个输出的神经网络。

x--->f1(x),f2(x),...,b---->g(z)

应该是一个简单的例子。隐藏层具有不同的功能和偏置单元。对于这个例子，我们可以考虑 f1=f2=sigmoid ，g 是一个自定义函数。

这是我到目前为止所做的，但我完全不确定我所做的是否正确。

而且我不知道如何在隐藏层上添加偏置单元。

class gLayer(NeuronLayer):

    def _forwardImplementation(self, inbuf, outbuf):
        outbuf[:]=g(inbuf)


    def _backwardImplementation(self, outerr, inerr, outbuf, inbuf):
      inerr[:]=derivative(g,inbuf)*outerr


print "build a network"

#Layer
inLayer=LinearLayer(1)
hLayer=SigmoidLayer(2)
outLayer=gLayer(1)
net=FeedForwardNetwork()
net.addInputModule(inLayer)
net.addModule(hLayer)
net.addOutputModule(outLayer)
#connection
in_to_hidden = FullConnection(inLayer, hLayer)
hidden_to_out = FullConnection(hLayer, outLayer)
net.addConnection(in_to_hidden)
net.addConnection(hidden_to_out)
net.sortModules()

Answer 1

您可以添加 BiasUnit作为另一个隐藏层。

hBiasLayer=BiasUnit()

net.addModule(hBiasLayer)