- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我已经为二元分类问题制作了 3 个隐藏层 MLP,但我的成本函数遇到了问题。我目前正在运行一小部分数据,其形状为(由于 OHE,具有大量特征):
x_train shape: (150, 1929)
y_train shape: (150, 1)
x_test shape: (51, 1929)
y_test shape: (51, 1)
tensowflow 图为:
# Parameters
learning_rate = 0.01
training_epochs = 500
iter_num = 500
batch_size = 200
display_step = training_epochs/10
# Network Parameters
n_hidden_1 = 1000 # 1st layer number of features
n_hidden_2 = 100 # 2nd layer number of features
n_hidden_3 = 8 # 3rd layer number of features
n_input = num_features # Number of input feature
n_classes = 1 # Number of classes to predict
# tf Graph input
x = tf.placeholder(tf.float32, [None, n_input])
y = tf.placeholder(tf.float32, [None, n_classes])
# Create model
def multilayer_perceptron(x, weights, biases):
# Hidden layer with sigmoid activation function
layer_1 = tf.add(tf.matmul(x, weights['h1']), biases['b1'])
layer_1 = tf.nn.sigmoid(layer_1)
# Hidden layer with sigmoid activation function
layer_2 = tf.add(tf.matmul(layer_1, weights['h2']), biases['b2'])
layer_2 = tf.nn.sigmoid(layer_2)
#Hidden layer with sigmoid activation
layer_3 = tf.add(tf.matmul(layer_2, weights['h3']), biases['b3'])
layer_3 = tf.nn.sigmoid(layer_3)
# Output layer with softmax activation
out_layer = tf.matmul(layer_3, weights['out']) + biases['out']
out_layer = tf.nn.softmax(out_layer)
return out_layer
# Store layers weight & bias
weights = {
'h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])),
'h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
'h3': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_3])),
'out': tf.Variable(tf.random_normal([n_hidden_3, n_classes]))
}
biases = {
'b1': tf.Variable(tf.random_normal([n_hidden_1])),
'b2': tf.Variable(tf.random_normal([n_hidden_2])),
'b3': tf.Variable(tf.random_normal([n_hidden_3])),
'out': tf.Variable(tf.random_normal([n_classes]))
}
# Construct model
pred = multilayer_perceptron(x, weights, biases)
# Define loss and optimizer
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits_v2(logits=pred, labels=y))
optimizer = tf.train.GradientDescentOptimizer(learning_rate=learning_rate).minimize(cost)
correct = tf.cast(tf.equal(pred, y), dtype=tf.float32)
accuracy = tf.reduce_mean(tf.cast(correct, "float"))
init = tf.global_variables_initializer()
sess = tf.Session()
sess.run(init)
然后我使用代码运行该图:
# Training loop
loss_vec = []
test_loss = []
train_acc = []
test_acc = []
predic = []
for epoch in range(iter_num):
rand_index = np.random.choice(len(train_X), size=batch_size)
rand_x = train_X[rand_index]
rand_y = train_y[rand_index]
temp_loss = sess.run(cost, feed_dict={x: rand_x,y: rand_y})
test_temp_loss = sess.run(cost, feed_dict={x: test_X, y: test_y})
temp_train_acc = sess.run(accuracy, feed_dict={x: train_X, y: train_y})
temp_test_acc = sess.run(accuracy, feed_dict={x: test_X, y: test_y})
temp_prediction = sess.run(pred, feed_dict={x: test_X, y: test_y})
predic.append(temp_prediction)
loss_vec.append(np.sqrt(temp_loss))
test_loss.append(np.sqrt(test_temp_loss))
train_acc.append(temp_train_acc)
test_acc.append(temp_test_acc)
# output
if (epoch + 1) % (iter_num/10) == 0:
print('epoch: {:4d} loss: {:5f} train_acc: {:5f} test_acc: {:5f}'.format(epoch + 1, temp_loss,
temp_train_acc, temp_test_acc))
但是,当我运行此程序时,测试和训练精度保持不变,并且对于所有时期,损失保持为零。
输出:
epoch: 50 loss: 0.000000 train_acc: 0.300000 test_acc: 0.235294
epoch: 100 loss: 0.000000 train_acc: 0.300000 test_acc: 0.235294
epoch: 150 loss: 0.000000 train_acc: 0.300000 test_acc: 0.235294
....
我不明白为什么我的损失为零?我的目标和预测看起来都具有相同的形状,而且绝对不相等。
最佳答案
tf.nn.softmax_cross_entropy_with_logits_v2已经为您计算了 softmax,您需要将无界 logits 传递给交叉熵函数,而不是 softmax 返回的概率分布。试试这个:
def multilayer_perceptron(x, weights, biases):
# ...
logits = tf.matmul(layer_3, weights['out']) + biases['out']
out_layer = tf.nn.softmax(logits)
return logits, out_layer
然后使用logits计算交叉熵并使用out_layer进行推理。
logits, pred = multilayer_perceptron(x, weights, biases)
cost = tf.reduce_mean(
tf.nn.softmax_cross_entropy_with_logits_v2(logits=logits, labels=y))
优化器是计算梯度并将其应用于变量的操作,此操作本质上使您的网络“学习”,您已经声明了它,但我没有看到您在内部调用它环形。这应该可以做到:
_, temp_loss = sess.run([optimizer, cost], feed_dict={x: rand_x,y: rand_y})
你有一个二元分类问题,我猜你的标签是 0 或 1。你还有一个输出神经元,其 softmax 将始终返回 1.0。我的建议是制作 2 个输出神经元,这样 softmax 将计算 2 个类别的概率分布。那么你的推论就是该分布的 argmax:
correct = tf.cast(tf.equal(tf.argmax(pred, 1), y), dtype=tf.float32)
accuracy = tf.reduce_mean(correct)
在这种情况下,您需要使用tf.nn.sparse_softmax_cross_entropy_with_logits()计算交叉熵:
cost = tf.reduce_mean(
tf.nn.tf.nn.sparse_softmax_cross_entropy_with_logits(logits=logits, labels=y))
我进一步建议您查看this post了解有关我正在谈论的内容的更多详细信息。
关于python - tf.nn.softmax_cross_entropy_with_logits_v2 对于 MLP 返回零,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50038585/
在 Tensorflow(从 v1.2.1 开始)中,似乎有(至少)两个并行 API 来构建计算图。 tf.nn 中有函数,如 conv2d、avg_pool、relu、dropout,tf.laye
我正在处理眼睛轨迹数据和卷积神经网络。我被要求使用 tf.reduce_max(lastconv, axis=2)代替 MaxPooling 层和 tf.reduce_sum(lastconv,axi
TensorFlow 提供了 3 种不同的数据存储格式 tf.train.Feature .它们是: tf.train.BytesList tf.train.FloatList tf.train.In
我正在尝试为上下文强盗问题 (https://medium.com/emergent-future/simple-reinforcement-learning-with-tensorflow-part
我在使用 Tensorflow 时遇到问题: 以下代码为卷积 block 生成正确的图: def conv_layer(self, inputs, filter_size = 3, num_filte
我正在将我的训练循环迁移到 Tensorflow 2.0 API .在急切执行模式下,tf.GradientTape替换 tf.gradients .问题是,它们是否具有相同的功能?具体来说: 在函数
tensorflow 中 tf.control_dependencies(tf.get_collection(tf.GraphKeys.UPDATE_OPS)) 的目的是什么? 更多上下文:
我一直在努力学习 TensorFlow,我注意到不同的函数用于相同的目标。例如,为了平方变量,我看到了 tf.square()、tf.math.square() 和 tf.keras.backend.
我正在尝试使用自动编码器开发图像着色器。有 13000 张训练图像。如果我使用 tf.data,每个 epoch 大约需要 45 分钟,如果我使用 tf.utils.keras.Sequence 大约
我尝试按照 tensorflow 教程实现 MNIST CNN 神经网络,并找到这些实现 softmax 交叉熵的方法给出了不同的结果: (1) 不好的结果 softmax = tf.nn.softm
其实,我正在coursera上做deeplearning.ai的作业“Art Generation with Neural Style Transfer”。在函数 compute_layer_styl
训练神经网络学习“异或” 我正在尝试使用“批量归一化”,我创建了一个批量归一化层函数“batch_norm1”。 import tensorflow as tf import nump
我正在尝试协调来自 TF“图形和 session ”指南以及 TF“Keras”指南和 TF Estimators 指南的信息。现在在前者中它说 tf.Session 使计算图能够访问物理硬件以执行图
我正在关注此处的多层感知器示例:https://github.com/aymericdamien/TensorFlow-Examples我对函数 tf.nn.softmax_cross_entropy
回到 TensorFlow = 2.0 中消失了。因此,像这样的解决方案...... with tf.variable_scope("foo"): with tf.variable_scope
我按照官方网站中的步骤安装了tensorflow。但是,在该网站中,作为安装的最后一步,他们给出了一行代码来“验证安装”。但他们没有告诉这段代码会给出什么输出。 该行是: python -c "imp
代码: x = tf.constant([1.,2.,3.], shape = (3,2,4)) y = tf.constant([1.,2.,3.], shape = (3,21,4)) tf.ma
我正在尝试从 Github 训练一个 3D 分割网络.我的模型是用 Keras (Python) 实现的,这是一个典型的 U-Net 模型。模型,总结如下, Model: "functional_3"
我正在使用 TensorFlow 2。我正在尝试优化一个函数,该函数使用经过训练的 tensorflow 模型(毒药)的损失。 @tf.function def totalloss(x): x
试图了解 keras 优化器中的 SGD 优化代码 (source code)。在 get_updates 模块中,我们有: # momentum shapes = [K.int_shape(p) f
我是一名优秀的程序员,十分优秀!