python - 使用 tensorflow 运行线性回归时出现类型错误。 ' Op has type float64 that does not match type float32 of argument'

Question

我对 tensorflow 还很陌生。我用 tensorflow 做了线性回归。当我运行下面的代码时，我得到这样的类型错误:

类型错误:“Mul”运算的输入“y”的类型为 float64，与参数“x”的 float32 类型不匹配。

花了几个小时但无法弄清楚原因。哪里出了问题？非常感谢您的帮助。多谢。

import tensorflow as tf
import numpy as np

training_epoch = 1000
display_epoch=50
learning_rate = 0.01
train_X = np.asarray([3.3,4.4,5.5,6.71,6.93,4.168,9.779,6.182,7.59,2.167,
                         7.042,10.791,5.313,7.997,5.654,9.27,3.1])
train_Y = np.asarray([1.7,2.76,2.09,3.19,1.694,1.573,3.366,2.596,2.53,1.221,
                         2.827,3.465,1.65,2.904,2.42,2.94,1.3])
n_samples = train_X.shape[0]
X = tf.placeholder('float')
Y= tf.placeholder ('float')
w = tf.Variable(np.random.randn(2))
pred = tf.add(tf.mul(X,w[0]), w[1])

loss = tf.reduce_sum(tf.pow(pred-Y, 2))/(2*n_samples)
init = tf.initialize_all_variables()
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss)

with tf.Session() as session:
    session.run(init)
    for epoch in range(training_epoch):
        for x, y in zip(train_X, train_Y):
            session.run(optimizer, feed_dict={X:x, Y:y})
        if (epoch+1) % display_epoch == 0:
            weight = session.run(w)
            bias = session.run(b)
            cost = session.run(loss, feed_dict={X:train_X, Y:train_Y})
            print('epoch: {0:.2f}, weight: {1:.9f}. bias: {2:.9f}, cost: {3:.9f}'.format(epoch+1,weight[0], weight[1], cost))
    print('optimization complete')

Answer 1

TL;DR: 占位符 X 和变量 w 具有不同的元素类型，并且 TensorFlow 不会自动转换 op 参数，因此tf.mul() 操作失败。

您的占位符 X 具有类型 tf.float32，因为它被定义为具有 dtype 'float'，其定义为“32” -位 float ”，在这一行中:

X = tf.placeholder('float')

您的变量w具有类型tf.float64，因为它是从具有dtype的np.random.randn(2)初始化的np.float64，在这一行中:

w = tf.Variable(np.random.randn(2))

最简单的解决方案是将 w 定义为类型 tf.float32:

w = tf.Variable(np.random.randn(2).astype(np.float32))

或者，您可以将 X 定义为类型 tf.float64:

X = tf.placeholder(tf.float64)

还有一个tf.cast() op 用于进行显式转换，但我不建议使用它，因为它不可微分，因此可能会干扰计算梯度。

<小时/>PS。更惯用的方法是使用 tf.random_normal() op，避免在图中放置较大的常量:

w = tf.Variable(tf.random_normal([2]))

虽然对于小变量(例如这里的 2 元素向量)来说并不重要，但对于更大的权重矩阵来说它变得更加重要。