Tensorflow 要求

Question

关闭。这个问题需要更多focused .它目前不接受答案。












想改善这个问题吗？更新问题，使其仅关注一个问题 editing this post .

4年前关闭。




Improve this question




我想在生产服务器上部署 tensorflow。我预计大约有 200 个并发用户。我将使用解析器和一些我自己的神经网络深度学习模型。我想知道相同的峰值内存和 CPU 使用率。

感谢你的帮助。

Answer 1

尝试一个简单(但变化很大)的猜测:

如果您谈论深度学习，我推断您至少在谈论 3 层或更多层，包括一些 CNN 和可能的 RNN。

如果您使用简单的 2D 或 3D 输入，但使用复杂的架构，可以肯定地说，您的瓶颈将在 CPU 上，因此需要在 GPU 上实现算法。

您还需要准备为任意数量的客户端进行扩展，因此扩展机制从一开始就很有用。

您还需要知道如何处理工作负载，是否必须实时提供服务，还是需要批处理队列？这极大地改变了需求。

一旦你能弄清楚这一点，也许还有其他细节，你就可以完善你的估计。

此致。