python - 使用 Tensorflow 优化 python 中的函数

Question

我是 tensorflow 新手，并尝试了解如何在机器学习环境之外使用。我想使用 tensorflow 的 ADAM 实现来优化 python 函数。

假设我有以下功能:

def fun_test(x):
    """
    :param x: List of parameters, e.g. [1,2,3]
    :return: real value
    """
    res=do_something(x)
    return res

当使用 scipy 时，我会调用 'scipy.minimize(fun_test,x0,method="Nelder-Mead")'。我怎样才能用 tensorflow 做到这一点？

最好，迈克尔

Answer 1

您需要重写函数do_something以将张量作为输入并返回标量张量(即创建计算图)。那么下面的代码是如何对函数进行优化的一个草图。 (顺便说一句，在您的代码中 fun_test 和 do_something 没有真正的区别，所以我选择了后者)。

x = tf.get_variable("x", dtype=..., initializer=...)
target = do_something(x)
opt = tf.train.AdamOptimizer(...).minimize(target)  # Defines one optimization step
with tf.Session() as sess:
   sess.run(tf.global_variables_initializer())  # Initialize x

   NUM_STEPS = 1000
   for _ in range(NUM_STEPS):
      sess.run(opt)          # Run optimization for NUM_STEPS steps

   print(sess.run(x))        # Show values of x
   print(sess.run(target))   # Show target value