gpt4 book ai didi

ios - Tensorflow 在 iOS 上运行缓慢

转载 作者:塔克拉玛干 更新时间:2023-11-02 09:56:39 25 4
gpt4 key购买 nike

我正在运行 camera iOS example由 tensorflow 分发,速度非常慢:在运行 inception5h.zip 的 iPhone6 上每次推理需要 4-5 秒模型。

据我了解,这是 GoogleNet 模型,它是轻量级的,iOS 代码拉出它的第一个输出层,大约是完整模型大小的一半。我在我的 macbook 上使用 python 界面运行了相同的模型,每次推理需要 30 毫秒。

所以我想知道为什么在 iOS 上运行相同的模型比在 macbook 上慢 150 倍。似乎我做错了一些明显的事情。

最佳答案

这还没有很好的记录,但您需要将优化标志传递给编译脚本以获得库的快速版本。这是一个例子:

tensorflow/contrib/makefile/compile_ios_tensorflow.sh “-Os”

这应该会大大加快你的速度,非正式地,我看到 5S 上的 GoogLeNet 只需一秒或更少。

关于ios - Tensorflow 在 iOS 上运行缓慢,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/37971426/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com