kubernetes - 如何部署具有相同 Helm 图的多个 pods ？

Question

我想在同一 namespace 的不同容器中部署多个ML模型。但是，每当我从aws ECR中提取一个新镜像并使用 Helm 对其进行部署时，它将终止当前正在运行的 pods 并制作一个新 pods 。因此，我无法部署多个模型。每次杀死前一个并制造新的 pods 。

helm upgrade --install tf-serving ./charts/tf-serving/ --namespace mlhub

要么

helm upgrade --recreate-pods --install tf-serving ./charts/tf-serving/ --namespace mlhub

tf-serving-8559fb87d-2twwl        1/1     Running       0          37s  
tf-serving-8559fb87d-m6hgs        0/1     Terminating   0          45s

它杀死了前一个并制造了一个新产品，但是两种型号的图像在标签不同的情况下也有所不同。

Answer 1

您可以使用一个Helm图表来创建多个版本。例如，要部署第一个模型:

helm install ./charts/tf-serving/ --name tf-serving --namespace mlhub

如果以后要添加另一个:

helm install ./charts/tf-serving/ --name tf-serving2 --namespace mlhub

现在，当您运行 helm list时，您将能够同时看到 tf-serving和 tf-serving2。

请注意，您不能有多个具有相同名称的相同种类的Kubernetes资源，因此我建议在图表中使用 {{ .Release.Name }}值作为所有已部署资源的前缀。