tensorflow - 如何在 tensorflow 上加载和使用保存的模型？

Question

我发现在Tensorflow中保存模型的2种方法:tf.train.Saver()和SavedModelBuilder。但是，在第二种方式加载后无法找到有关使用模型的文档。

注意:我想使用SavedModelBuilder方式，因为我在Python中训练了该模型，并会在服务时以另一种语言(Go)使用它，并且在这种情况下SavedModelBuilder似乎是唯一的方式。

这非常适合tf.train.Saver()(第一种方式):

model = tf.add(W * x, b, name="finalnode")

# save
saver = tf.train.Saver()
saver.save(sess, "/tmp/model")

# load
saver.restore(sess, "/tmp/model")

# IMPORTANT PART: REALLY USING THE MODEL AFTER LOADING IT
# I CAN'T FIND AN EQUIVALENT OF THIS PART IN THE OTHER WAY.

model = graph.get_tensor_by_name("finalnode:0")
sess.run(model, {x: [5, 6, 7]})

tf.saved_model.builder.SavedModelBuilder()是在 Readme中定义的，但是在使用 tf.saved_model.loader.load(sess, [], export_dir)加载模型之后，我找不到有关返回节点的文档(请参见上面代码中的 "finalnode")

Answer 1

缺少的是signature

# Saving
builder = tf.saved_model.builder.SavedModelBuilder(export_dir)
builder.add_meta_graph_and_variables(sess, ["tag"], signature_def_map= {
        "model": tf.saved_model.signature_def_utils.predict_signature_def(
            inputs= {"x": x},
            outputs= {"finalnode": model})
        })
builder.save()

# loading
with tf.Session(graph=tf.Graph()) as sess:
    tf.saved_model.loader.load(sess, ["tag"], export_dir)
    graph = tf.get_default_graph()
    x = graph.get_tensor_by_name("x:0")
    model = graph.get_tensor_by_name("finalnode:0")
    print(sess.run(model, {x: [5, 6, 7, 8]}))