machine-learning - 使用迁移学习在 Google InceptionV-3 中进行缓慢预测

Question

我正在使用 Google 的 inceptionv-3 模型和 TensorFlow 通过迁移学习(教程的 here's the link)进行性别识别，数据集有 135 张女性面部图像和 335 张男性面部图像。训练后，它显示出 95% 的准确率，我在几张图像上进行了测试，它工作正常，但分类结果大约需要 3 秒。

我正在尝试实时进行(实时视频源)

下面是我修改过的代码，我首先加载模型花了一秒钟，然后我使其进入无限循环，所以我只需传递图像并获得预测结果。

 import os, sys
 import tensorflow as tf
 os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'
 import time

 # Unpersists graph from file
 with tf.gfile.FastGFile("retrained_graph.pb", 'rb') as f:
      graph_def = tf.GraphDef()
      graph_def.ParseFromString(f.read())
      tf.import_graph_def(graph_def, name='')

 # change this as you see fit
 image_path = sys.argv[1]

 # Read in the image_data
 image_data = tf.gfile.FastGFile(image_path, 'rb').read()

 # Loads label file, strips off carriage return
 label_lines = [line.rstrip() for line 
 in tf.gfile.GFile("retrained_labels.txt")]


 while True:
           start_time = time.time()
           with tf.Session() as sess:

                # Feed the image_data as input to the graph and get first prediction
                softmax_tensor = sess.graph.get_tensor_by_name('final_result:0')

                predictions = sess.run(softmax_tensor, {'DecodeJpeg/contents:0': image_data})
                print("--- %s seconds ---" % (time.time() - start_time))
                # Sort to show labels of first prediction in order of confidence
                """top_k = predictions[0].argsort()[-len(predictions[0]):][::-1]

                for node_id in top_k:
                human_string = label_lines[node_id]
                score = predictions[0][node_id]"""

这是输出:

--- 2.21238899231 seconds ---
--- 2.1374540329 seconds ---
--- 2.08863019943 seconds ---
--- 2.08074688911 seconds ---
--- 2.07966399193 seconds ---

有什么办法可以减少这里的时间，我对代码格式感到抱歉。我不确定我是否问了正确的问题，我对 ML 很陌生。

感谢您的帮助!

系统配置:AMD-A4、2.5GHz、8GB RAM

Answer 1

首先，您不应该在循环中从头开始重新创建 session 。创建一个 session 对象，并在循环期间一遍又一遍地调用 sess.run(...) 。另外，您应该仅调用“get_tensor_by_name”一次(在循环之外)。除此之外，没有任何事情可以通过代码来完成。不过，您可以将执行放在 GPU 上以使速度更快。