gpt4 book ai didi

python - (MNIST - GAN)第一次迭代后鉴别器和生成器误差下降到接近于零

转载 作者:行者123 更新时间:2023-11-30 09:34:22 24 4
gpt4 key购买 nike

为了深入了解生成对抗网络,我正在尝试基于此 Stanford university assignment 自己为 MNIST 数据集实现 GAN。使用 tensorflow 。

我仔细审查和研究了给定练习的解决方案,并通过了测试。然而,我的发电机只会产生噪音。

我非常确定我的辅助函数正确,所有测试都通过,并且我在网上找到了显示完全相同实现的引用资料。那么哪里可以出错的只是判别器和生成器架构:

def discriminator(x):
with tf.variable_scope("discriminator"):
l_1 = leaky_relu(tf.layers.dense(x, 256, activation=None))
l_2 = leaky_relu(tf.layers.dense(l_1, 256, activation=None))
logits = tf.layers.dense(l_2, 1, activation=None)
return logits

def generator(z):
with tf.variable_scope("generator"):
l_1 = tf.maximum(tf.layers.dense(z, 1024, activation=None), 0)
l_2 = tf.maximum(tf.layers.dense(l_1, 1024, activation=None), 0)
img = tf.tanh(tf.layers.dense(l_2, 784, activation=None))
return img

我发现生成器和鉴别器的错误在第一次迭代中下降到接近于零。

Iter: 0, D: 1.026, G:0.6514
Iter: 50, D: 2.721e-05, G:5.066e-06
Iter: 100, D: 1.099e-05, G:3.084e-06
Iter: 150, D: 7.546e-06, G:1.946e-06
Iter: 200, D: 3.386e-06, G:1.226e-06
...

学习率较低,例如1e-7,鉴别器和生成器的错误率缓慢衰减,但最终会降至零,并且只会产生噪声。

Iter: 0, D: 1.722, G:0.6772
Iter: 50, D: 1.704, G:0.665
Iter: 100, D: 1.698, G:0.661
Iter: 150, D: 1.663, G:0.6594
Iter: 200, D: 1.661, G:0.6574
...

我为我的实验准备了 tensorflow 图并运行,但到目前为止未能解释其中任何有意义的内容。如果您有任何建议或可以推荐调试技术,我将很高兴听到。

根据要求,这是我的 GAN - 损失代码:

def gan_loss(logits_real, logits_fake):
labels_real = tf.ones_like(logits_real)
labels_fake = tf.zeros_like(logits_fake)

d_loss_real = tf.nn.sigmoid_cross_entropy_with_logits(logits=logits_real, labels=labels_real)
d_loss_fake = tf.nn.sigmoid_cross_entropy_with_logits(logits=logits_fake, labels=labels_fake)
D_loss = tf.reduce_mean(d_loss_real + d_loss_fake)

G_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(logits=logits_fake, labels=labels_fake))
return D_loss, G_loss

最佳答案

据我了解这个模型,你应该改变它:

G_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(
logits=logits_fake, labels=labels_fake))

对此:

G_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(
logits=logits_fake, labels=tf.ones_like(logits_fake)))

关于python - (MNIST - GAN)第一次迭代后鉴别器和生成器误差下降到接近于零,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46731089/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com