python - Tensorflow MNIST 教程 - 测试精度非常低

Question

我已经开始使用tensorflow并且一直遵循这个标准MNIST tutorial .

然而，与预期的 92% 准确率相比，在训练集和测试集上获得的准确率不会超过 67%。我熟悉 softmax 和多项式回归，并且使用 scratch python 实现以及使用 sklearn.linear_model.LogisticRegression 获得了超过 94%。 .

我曾使用 CIFAR-10 数据集尝试过相同的方法，但在那种情况下，准确率太低，只有 10% 左右，相当于随机分配类别。这让我怀疑我是否安装了 tensorflow，但我对此不确定。

这里是 my implementation of Tensorflow MNIST tutorial .我会请求是否有人可以看看我的实现。

Answer 1

您构建了图表，指定了损失函数，并创建了优化器(这是正确的)。问题是您只使用了一次优化器:

sess_tf.run(train_step, feed_dict={x: train_images_reshaped[0:1000], y_: train_labels[0:1000]})

所以基本上你只运行一次梯度下降。显然，在正确的方向上只迈出一小步之后，您无法快速收敛。你需要做一些事情:

for _ in xrange(many_steps):
  X, Y = get_a_new_batch_from(mnist_data)
  sess_tf.run(train_step, feed_dict={x: X, y_: Y})

如果您无法弄清楚如何修改我的伪代码，请参阅教程，因为根据我的内存，他们很好地涵盖了这一点。