python - Python Celery自动缩放Kubernetes

Question

我目前正在使用AWS EBS，但切换到Kubernetes来管理我们的 celery worker 池。根据 celery 文档，当您想停止 celery worker 时，存在two types of signals that can be sent to the worker。一个是 TERM ，另一个是 KILL 。当使用 TERM 时，它将等待工作程序完成当前正在执行的操作，然后再停止。当使用 KILL 立即停止它时，此可能会导致失去任务。我的问题是在缩减工作人员池时使用Kubernetes自动扩展，如何确保将TERM发送给工作人员而不是KILL？我在使用AWS EBS时遇到了这种按比例缩小的问题，同样，在按比例缩小时 celery 花显示出任务丢失。

Answer 1

这里的事件链是:

Horizo​​ntalPodAutoscaler会降低其控制的Deployment上的replicas:。

部署会减少其相应ReplicaSet上的replicas:。

ReplicaSet根据需要删除Pod。

Kubernetes发送每个容器SIGTERM并等待其关闭。

如果尚未退出容器，它将发送每个容器SIGKILL。

特别是在 Termination of Pods中描述了关闭顺序。您的进程将获得SIGTERM，然后在30秒后获得SIGKILL(如果尚未退出)。 HPA删除 pods 没有什么特别之处，与任何其他路径相反。