python - .pb 文件的推理结果与 .h5 不匹配

Question

我尝试将我的ai模型部署到GCP的AI平台，看起来我成功了，但与本地h5模型推理结果相比，推理结果不正确。

我现在使用的是tensorflow==1.2.1、Keras==2.0.6、Python 3.5.3。

我使用 K.set_learning_phase() 来区分训练/推理阶段，使用以前的配置/权重重新创建我的模型，并通过 SavedModelBuilder 保存新模型。

def save_model_for_production(model, version, path='prod_models'):
    K.set_learning_phase(0)  # all new operations will be in test mode from now on

    # serialize the model and get its weights, for quick re-building
    config = model.get_config()
    weights = model.get_weights()

    # re-build a model where the learning phase is now hard-coded to 0

    new_model = model.from_config(config)
    # from keras.models import model_from_config
    # new_model = model_from_config(config)
    # new_model = Model.from_config(config)
    new_model.set_weights(weights)


    model_input = tf.saved_model.utils.build_tensor_info(new_model.input)   # deprecated
    model_output = tf.saved_model.utils.build_tensor_info(new_model.output)

    prediction_signature = (
        tf.saved_model.signature_def_utils.build_signature_def(
            inputs={tf.saved_model.signature_constants.PREDICT_INPUTS: model_input},
            outputs={tf.saved_model.signature_constants.PREDICT_OUTPUTS: model_output},
            method_name=tf.saved_model.signature_constants.PREDICT_METHOD_NAME))

    with K.get_session() as sess:
        sess.run(tf.global_variables_initializer())
        #init_op = tf.group(tf.global_variables_initializer(), tf.local_variables_initializer())
        #sess.run(init_op)
        #sess.run(tf.saved_model.main_op.main_op())

        if not os.path.exists(path):
            os.mkdir(path)

        export_path = os.path.join(
            tf.compat.as_bytes(path),
            tf.compat.as_bytes(version))
        builder = tf.saved_model.builder.SavedModelBuilder(export_path)

        builder.add_meta_graph_and_variables(
            sess=sess, tags=[tf.saved_model.tag_constants.SERVING],
            signature_def_map={
                'predict':
                   prediction_signature
            })
        builder.save()

我猜该变量未正确初始化。我尝试了几个 tf.global_variables_initializer() 、 tf.local_variables_initializer() 等，并且推理结果彼此不同。 (例如[1.0]、[0.0]、[3.2314555e-13])

但是我没有得到任何正确的结果。

如果有人知道如何解决这个问题，我将不胜感激。

Answer 1

看来这个问题已经解决了。

我没有调用任何初始化程序(例如tf.global_variables_initializer)，然后模型可以正常工作。

我无法确切解释原因，但是当使用 K.get_session() 获取 session 时，我猜不需要变量初始化。