android - 如何使用 TensorFlow Lite 进行批处理？

Question

我有一个自定义 CNN 模型，我已将其转换为 .tflite 格式并将其部署到我的 Android 应用程序中。但是，我不知道如何在使用 tensorflow lite 进行推理时进行批处理。

来自这个谷歌doc ，看来您必须设置模型的输入格式。但是，此文档使用的是带有 Firebase API 的代码示例，我不打算使用它。

更具体地说:

我想一次推断多个 100x100x3 图像，所以输入大小为 Nx100x100x3。

问题:

如何使用 TF lite 做到这一点？

Answer 1

您只需调用 resizeInput API (Java) 或 ResizeInputTensor API(如果您使用的是 C++)。

例如，在 Java 中:

interpreter.resizeInput(tensor_index, [num_batch, 100, 100, 3]);

如果您在 TensorFlow lite 中的批处理有任何问题，请告诉我们。