gpt4 book ai didi

google-app-engine - 基于内存缓存的限速算法? ( token 桶?)

转载 作者:太空宇宙 更新时间:2023-11-03 15:25:23 24 4
gpt4 key购买 nike

我正在寻找一种有效的方法来限制从 Google App Engine 到第三方服务的请求速率。第三方服务速率限制每个帐户的请求,并且在 Google App Engine 端,大部分工作是在任务内部执行的。 token 桶在这里是一种很好的通用算法。

问:可以使用什么方法有效地对每个帐户而不是每个服务的请求进行速率限制?

这不应涉及在 GAE 任务队列上设置费率,因为每个帐户的请求数量和服务的帐户数量会有很大差异。出于性能原因,我对基于内存缓存(incr/decr?)的想法最感兴趣!

我认为这归结为基于内存缓存的 token 桶?

想法?

最佳答案

我刚才把这个项目保存为书签:http://code.google.com/p/gaedjango-ratelimitcache/

不是您具体问题的真正答案,但也许它可以帮助您入门。

关于google-app-engine - 基于内存缓存的限速算法? ( token 桶?),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/3647949/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com