python - Nvidia Jetson 上的 Tensorflow Lite

Question

有人在任何 Nvidia Jetson 产品上使用过 Tensorflow Lite 吗？我想使用我的 Jetson Nano 进行推理，并希望通过使用 GPU 的 tf-lite 进行推理。

令人困惑的是，there does not seem to be a Python API for creating a GPU Delegate in tf-lite .

这有明确的理由吗？

是否可以使用完整的 Tensorflow 库(我不希望使用 Nvidia TensorRT 引擎)？

Answer 1

是的，我之前尝试过在 Jetson Nano 上使用 tf lite。

可以引用我之前在Medium上的一篇文章(PS:很抱歉这篇文章是用中文写的。)

本文是关于如何在Jetson Nano上搭建TF Lite环境

注意事项:

您应该根据自己的环境更改以下命令。

pip3 安装 https://dl.google.com/coral/python/tflite_runtime-2.1.0.post1-cp36-cp36m-linux_aarch64.whl

在 Jetson Nano 上设置 TF lite: https://yanwei-liu.medium.com/tflite-on-jetson-nano-c480fdf9ac2