python - tf.print 何时会按预期实际工作(即打印张量和变量的值)？

Question

首先，我使用的是TensorFlow 2.0，我只关心这个版本或更高版本(而且我已经对这样一个只会产生头痛的软件关心太多了)。

TensorFlow documentation的 tf.print说

Print the specified inputs.

然后

A TensorFlow operator that prints the specified inputs to a desired output stream or logging level. The inputs may be

• dense or
• sparse Tensors,
• primitive python objects,
• data structures that contain tensors, and
• printable Python objects.

Printed tensors will recursively show the first and last elements of each dimension to summarize.

一切都很好，但我还是不明白tf.print将在我的代码中实际工作(即打印变量和张量的值)。当然，不用说，我根本不关心张量、变量或其他任何东西的符号表示。每当我尝试使用 tf.print ，我想查看 VALUES(实数、向量或矩阵)。

我试过使用 tf.print在多个案例和多个地方，例如

• 在从 __init__ 调用的方法中在模型构建期间(因此在编译模型之前)调用的自定义层的方法，以便打印张量的值(至少，这是 type(my_var) 返回的内容，即它返回 <class 'tensorflow.python.framework.ops.Tensor'> )，但没有被打印出来。如果我尝试添加 @tf.function (我还是没搞懂这个函数的用法!)，没什么变化。根据上面的文档tf.print应该打印张量，我的变量是张量，TensorFlow 决定忽略我的调用，然后有人想知道为什么我决定使用 TF？为什么？

  此外，我正在使用 TF 2.0，即使我不使用装饰器 @tf.function , print(tf.executing_eagerly())打印出 False，这正是我所期待的。

• 在自定义损失函数中，会发生类似的行为(即有时会打印某些内容，有时不会，有时我会尝试将装饰器 @tf.function 添加到自定义损失函数中并查看是否有变化，但没有任何变化，或者可能是)。

好吧，正如你所见，我不知道在哪里tf.print会做我想做的，即我想查看张量的值。如果某物是张量，则它必须具有值。变量也是如此。

那么，什么时候tf.print实际打印张量的值？

我正在寻找这样的答案，例如，“tf.print 永远不会起作用”或“它只会在你做梦时起作用”。除了笑话和讽刺之外，我真的在寻找答案，这些答案可以准确地告诉我代码的哪些位置或使用 TF tf.print 开发模型的哪个阶段。实际上会做它应该做的事情。请不要告诉我 tf.print当输入是张量时将起作用!!

Answer 1

tf.print 几乎适用于所有情况。

下面提到的代码演示了 tf.print 在 Custom Layer 的 init 方法和 中按预期工作从自定义层的init方法调用的方法。

import tensorflow as tf

class MyLayer(tf.keras.layers.Layer):
    def __init__(self, units, **kwargs): 
        self.units = units
        tf.print('units', tf.convert_to_tensor(units)) # Inside init method
        self.call(10) # Method called from init Method
        super().__init__(**kwargs)
    def call(self, inputs):        
        tf.print('inputs', tf.convert_to_tensor(inputs)) #Inside Method of Custom Layer
        return inputs


def get_model():
    inp = tf.keras.layers.Input(shape=(1,))
    out = MyLayer(8)(inp)
    model = tf.keras.Model(inputs=inp, outputs=out)
    #model.summary()
    return model


def train():
    model = get_model()
    model.compile(optimizer="adam", loss="mae")
    x_train = [2, 3, 4, 1, 2, 6]
    y_train = [1, 0, 1, 0, 1, 1]
    model.fit(x_train, y_train)


if __name__ == '__main__':
    train()

上面代码中使用的 tf.print 语句的输出如下所示:

units 8

inputs 10

inputs [[2]
 [6]
 [3]
 [2]
 [1]
 [4]]

如果您发现 tf.print 在任何其他情况下都没有按预期工作，请分享可重现的代码，以便 Tensorflow 社区 可以查看。