machine-learning - Tensorflow:依赖于评估的图形构建

Question

我正在编写以下格式的 tensorflow 图:

def process_label(label):
    return some_operation(label.eval())

Input: X, Label
output,state = NN_Layers()
processed_output = process_data(output)
processed_label = process_label(processed_output, Label)
loss = cross_entropy(processed_output, processed_label)
optimize = GradientDescentOptimizer.minimize(loss)

Session.run(optimize, feed_dict{X:input, Label:label})

这个模型的问题是我需要输出值才能按照我想要的方式处理我的标签，以便我可以计算损失。如果我尝试在这里使用output.eval(session)，它将不起作用，因为我的 session 将执行整个图，因此我只能在最后调用它。

我想知道是否有一种方法可以将这个图分成两部分，并且仍然可以通过网络进行梯度下降，或者是否有任何其他方法可以做到这一点。

Answer 1

您可以使用py_func将任何计算包装为 tensorflow 操作。这在分布式设置中效果不佳，但它允许您将任意计算放入 tensorflow 图中。

除非您在 process_* 函数中执行非常复杂的操作，否则您应该在 tensorflow 操作中编写它们。大多数时候，这比您想象的要容易。如果缺少特定功能，请提交功能请求。