android - 由于计算能力不同，使用 TensorFlow-Lite 时模型的运行时间在不同的 Android 设备上可能会有很大差异

Question

在Android设备上使用TFLite运行NN模型时，Android设备太多，不同的设备计算性能不同。因此很难使用单一模型来覆盖所有设备。

一种解决方案是根据设备的计算能力，为不同的设备使用具有不同 FLOP 的模型。

但是，TFLite 中没有获取计算能力 的API。所以我很好奇如何处理这种情况。

Answer 1

目前还没有这方面的可靠故事。您可能会考虑的一件事是在功能强大的设备上运行浮点模型，但在性能较差的设备上运行量化模型(准确度命中)。但是，这是 super 手动的，因为正如您所说，现在 tflite 中没有 API 来获得计算能力。