python - Windows 上的 Tensorflow 量化

Question

我已经卡住了我的模型并获得了 .pb 文件。然后我在 Linux 上使用 tocoConverter 量化我的模型，因为 Windows 不支持它。我有 quantized_model.tflite。我可以在 Linux 上加载它并获得预测，但根据我的项目需要，在 Windows 上进行预测时遇到问题。我尝试使用以下代码使用 tf.contrib.lite.Interpreter 加载它:

import numpy as np
import tensorflow as tf

# Load TFLite model and allocate tensors.
interpreter=tf.contrib.lite.Interpreter(model_path="quantized_model.tflite")
interpreter.allocate_tensors()

# Get input and output tensors.
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()

# Test model on random input data.
input_shape = input_details[0]['shape']
# change the following line to feed into your own data.
input_data = np.array(np.random.random_sample(input_shape), dtype=np.float32)
interpreter.set_tensor(input_details[0]['index'],input_data)

interpreter.invoke()
output_data = interpreter.get_tensor(output_details[0]['index'])
print(output_data)

*ImportError: No module named 'tensorflow.contrib.lite.python.Interpreter*

但它失败并出现“没有名为“tensorflow.contrib.lite.python.interpreter”的模块”错误。当我尝试使用 tf.contrib.lite 中的某些内容时，我总是在 Windows 上遇到此错误。也许有办法在 Windows 上加载它？或者您可以建议在 Windows 上量化模型的替代选项吗？

Answer 1

目前 Windows 版本的 cmake 不支持 toco。这是我记得在某处读过的内容。