用于负载平衡的 Kubernetes Pod 预热

Question

我们有一个 Kubernetes 服务，其 pod 需要一些时间来预热第一个请求。基本上，第一个传入请求将从 Redis 读取一些缓存值，这些请求可能需要更长的时间来处理。当这些新创建的 pod 准备就绪并接收到全部流量时，它们可能会在长达 30 秒的时间内变得 react 不灵敏，然后才能从 Redis 正确加载所有内容并进行缓存。

我知道，我们绝对应该重组应用程序以防止这种情况发生，不幸的是，这在不久的将来是不可行的(我们正在努力)。

如果可以降低新创建的 pod 的权重，那么它们将在开始时接收 1/10 的流量，随着时间的推移权重增加。这对于我们的应用程序的新部署版本也非常有用，可以查看它的行为是否正确。

Answer 1

为什么您需要在第一次调用时加载缓存，而不是在与就绪探测器 Hook 的心跳中加载缓存？另一种选择是使用 init containers在 kubernetes 中