c# - 具有 6 个特征的人工神经网络训练

Question

我想问以下问题:我正在尝试通过反向传播训练人工神经网络。我有一个前馈神经网络，有 6 个输入层、7 个隐藏层和 1 个输出层。我将给这个神经网络一个由6个特征组成的特征向量并训练它，我的学习率为0.7，我的动量为0.9。我想根据 2 个类别的 6 个特征进行分类。问题是这个网络的整体误差没有改变......我尝试了不同的学习率和动量值，但问题仍然是一样的......我不明白为什么要这样做。当我尝试学习 an 来学习解决异或问题时，我尝试了相同的代码(我的意思是主类)，并且它在那里完美地工作。有谁知道为什么会发生这种情况？感谢您的宝贵时间:)

FeedforwardNetwork network = new FeedforwardNetwork();
Train train;

 network.AddLayer(new FeedforwardLayer(6));
        network.AddLayer(new FeedforwardLayer(7));
        network.AddLayer(new FeedforwardLayer(1));

        train = new Backpropagation(network, Input_vector, Ideal_vector, 0.7, 0.8);

        int epoch = 1;
        textBox7.Text = " It has begun\r\n";
        do
        {
            train.Iteration();
            textBox7.Text += "\r\n Epoch " + epoch + " Error " + train.Error + " \r\n ";

            epoch++;
        }
        while ((epoch < 500) && (train.Error > 0.001));

        network = train.Network;

        textBox7.Text += "Neural Network Results";

        for (int i = 0; i < Ideal_vector.Length; i++)
        {
            double[] actual = network.ComputeOutputs(Input_vector[i]);

            textBox7.Text += "\r\n" + Input_vector[i][0] + "," + Input_vector[i][1] +     "," +
                Input_vector[i][2] + "," + Input_vector[i][3] + Input_vector[i][4] +
                Input_vector[i][5] + " actual= " +
                actual[0] + ", ideal " + Ideal_vector[i][0] + " \r\n";
        }

Answer 1

您使用的是批量学习还是在线学习？如果答案是批量的，那么也许你的学习率太高了。您可以尝试将其除以训练模式的数量。正如@Marcom 所说，如果你的神经元太少，那么你的网络容量就太低，这很难解释，但基本上你没有使用神经元的非线性区域，并且你的网络是有偏差的。

检查here以获得更好的解释。

首先尝试使用大量神经元，然后只要误差持续下降就可以减少数量。