gpt4 book ai didi

用于负载平衡的 Kubernetes Pod 预热

转载 作者:行者123 更新时间:2023-12-02 11:56:42 26 4
gpt4 key购买 nike

我们有一个 Kubernetes 服务,其 pod 需要一些时间来预热第一个请求。基本上,第一个传入请求将从 Redis 读取一些缓存值,这些请求可能需要更长的时间来处理。当这些新创建的 pod 准备就绪并接收到全部流量时,它们可能会在长达 30 秒的时间内变得 react 不灵敏,然后才能从 Redis 正确加载所有内容并进行缓存。

我知道,我们绝对应该重组应用程序以防止这种情况发生,不幸的是,这在不久的将来是不可行的(我们正在努力)。

如果可以降低新创建的 pod 的权重,那么它们将在开始时接收 1/10 的流量,随着时间的推移权重增加。这对于我们的应用程序的新部署版本也非常有用,可以查看它的行为是否正确。

最佳答案

为什么您需要在第一次调用时加载缓存,而不是在与就绪探测器 Hook 的心跳中加载缓存?另一种选择是使用 init containers在 kubernetes 中

关于用于负载平衡的 Kubernetes Pod 预热,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/57837018/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com