gpt4 book ai didi

docker - 使用 tensorflow 服务时的数据处理 (Docker/Kubernetes)

转载 作者:行者123 更新时间:2023-12-02 11:53:38 24 4
gpt4 key购买 nike

我希望托管 5 个需要数据预处理/后处理的深度学习模型。

使用 TF 服务(和 Kubernetes 来管理容器)托管每个模型似乎很简单,但如果是这样的话,数据预处理和后处理应该在哪里进行?

最佳答案

我不确定这个问题是否有一个明确的答案,但我很幸运能够大规模部署模型,将数据预处理和后处理代码捆绑到相当普通的 Go 或 Python(例如 Flask)应用程序中连接到我的持久存储以进行其他操作。

例如,以电影推荐为例,在预测路线上,从数据库中提取用户观看过的 100 部电影,将它们转储到适当大小和编码的 NumPy 数组中,分发到 TensorFlow 是非常高效的服务容器,然后在返回之前进行最少的后处理(例如从持久存储层的不同部分提取电影名称、描述、类型转换)。

关于docker - 使用 tensorflow 服务时的数据处理 (Docker/Kubernetes),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/58461152/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com