gpt4 book ai didi

amazon-web-services - 是否可以使AWS Lambda函数保持温暖?

转载 作者:行者123 更新时间:2023-12-04 01:12:21 24 4
gpt4 key购买 nike

我的应用程序中有一些无法承受Lambda函数在新的或未使用的一段时间内经历的“冻结-解冻”周期所导致的额外1-2秒延迟。

我如何才能使这些Lambda函数保持温暖,以便AWS不必一直重新配置它们? 1)很少使用的功能和2)最近部署的功能都适用。

理想情况下,我错过了一个称为“保持温暖”的设置,该设置会增加Lambda函数的成本,但始终会使函数保持温暖并准备好响应,但是我敢肯定这并不存在。

我想一个选择是使用CloudWatch计时器如此频繁地ping函数...但这对我来说是错的。另外,我不知道AWS将Lambda函数置于冰上的时间间隔。

最佳答案

英国广播公司在iPlayer engineering上发表了一篇不错的文章,描述了类似的问题。

他们选择每隔几分钟使用CloudWatch Scheduled Events调用该函数。


因此,从理论上讲,它应该留在那里,除非可能不会。因此,我们设置了一个计划中的事件来使容器保持“温暖”。我们每两分钟调用一次函数,但不执行任何处理,而是确保已准备好模型。这仅占调用的很小一部分,但可以帮助我们减轻模型下载中的竞争条件(我们还人为地限制了并行调用多少lambda作为附加措施)。

关于amazon-web-services - 是否可以使AWS Lambda函数保持温暖?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42877521/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com