gpt4 book ai didi

python - 将 Tensorflow Frozen Graph 转换为 UFF 以进行 TensorRT 推理

转载 作者:行者123 更新时间:2023-12-04 10:53:32 25 4
gpt4 key购买 nike

我想在 TensorRT (C++) 中使用 tensorflow 模型,首先需要将 .pb 格式转换为 .uff 格式。执行此代码时:

uff_model = uff.from_tensorflow_frozen_model(
frozen_file="my_tf_model.pb",
output_nodes=["output_layer"],
output_filename="tmp.uff",
debug_mode=True,
)

我收到此错误消息:
Traceback (most recent call last):
File "/home/jodo/ILONA/object-detection/ssd/src/uff_converter/uff_converter.py", line 29, in <module>
text=False,
File "/home/jodo/miniconda3/envs/uff_converter/lib/python3.7/site-packages/uff/converters/tensorflow/conversion_helpers.py", line 228, in from_tensorflow_frozen_model
graphdef.ParseFromString(frozen_pb.read())
google.protobuf.message.DecodeError: Error parsing message

导出的图 (my_tf_model.pb) 使用 tensorflow 2.0.0 进行训练和保存。但是对于 uff 转换器,我必须使用 tensorflow 1.15.0。这可能是一个问题还是 .pb 文件应该向下兼容?

更新 :使用与使用 uff 转换器 (1.15.0) 相同版本训练的模型进行测试,但仍然存在相同的错误。

最佳答案

回答我自己的问题:
我的 .pb 文件不是卡住图,而是 SavedModel 格式的一部分
要解决此问题 1) 将其转换为卡住图并使用卡住图:

python -m tensorflow.python.tools.freeze_graph --input_saved_model_dir SAVED_MODEL_DIR
然后 uff.from_tensorflow_frozen_model()应该管用。

关于python - 将 Tensorflow Frozen Graph 转换为 UFF 以进行 TensorRT 推理,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/59345600/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com