php - 具有多个客户端并防止缓存踩踏的 PHP Web 服务的最佳方法

Question

我有一个现有的 PHP 网络服务，用于执行大约需要 10 秒才能运行的复杂计算。特定的客户端使用模式是多个客户端几乎总是会在 10 秒窗口内请求相同的计算。

目前，我们只是允许所有并行运行。显然，这是昂贵且不必要的，因此希望找到防止这种常规缓存踩踏的最简单方法。

理论上，我们要做的就是让第一个客户端请求去计算结果，然后将计算结果放入缓存。如果后续客户端请求到达并正在寻找该结果:

a) 如果结果已经缓存 - 太好了!b) 如果结果尚未缓存，但正在处理中，请等待它出现在缓存中，然后再将该值返回给客户端。

我已经准备好几种不同的方法，但很想听听任何实用的建议或建议，以帮助决定最简单和最简单的方法。

我们还没有做出缓存决定，因此也欢迎就使用哪个缓存提出建议。音量很低，因此内存中可能没问题。是否有任何缓存实现可以真正解决问题并阻止另一个线程实际处理缓存条目的缓存读取？

缓存是正确的做法吗？我们应该改用队列吗？!

如有任何基于实际经验的想法或建议，我们将不胜感激。

Answer 1

就您可以实现的解决方案而言，我会选择一个工作线程来根据传入的请求队列进行计算。因此，对于第一个请求，worker 将检查缓存(未命中)、计算值、存储在缓存中并返回值。队列中的任何后续请求都会从 worker 中获取缓存值。

现在，如果您不喜欢工作线程和队列，您可以在“检查缓存、进行计算、存储在缓存”代码块上使用互斥量来实现相同的目的。

在缓存解决方案方面，防止缓存踩踏(有时也称为dogpiling)是使用支持read-through缓存的缓存。通读缓存基本上意味着缓存知道在未命中的情况下从哪里获取值。在这种情况下，它将是一个缓存，它支持脚本来计算值，以防它不在缓存中。