c# - 针对特定场景的缓存架构建议

Question

设置:

我们有一个 .Net 应用程序分布在 6 个本地服务器上，每个服务器都有一个本地数据库 (ORACLE)、1 个主服务器和 1 个负载平衡机。请求到达负载均衡器，负载均衡器将传入请求重定向到 6 个本地服务器之一。在一定的时间间隔内，数据会在主服务器中收集并重新分发到 6 个本地服务器，以便能够根据完整的数据做出决策。

每个本地服务器都有一个缓存组件，它根据不同的参数(位置、传入参数等)缓存传入的请求。对于每个请求，本地服务器决定是转到数据库 (ORACLE) 还是从缓存中获取响应。但是，在这两种情况下，本地服务器都必须转到数据库以对每个请求执行 1 次插入和 1 次更新。

问题:

在高峰日，每个本地服务器每秒接收 2000 个请求，系统开始变慢(CPU:90%)。我试图在添加另一台本地服务器之前增加容量。在运行一些基准测试之后，瓶颈一如既往，似乎是不可避免的 1 次插入和 1 次数据库请求更新。

尝试过的方法

为了能够降低频率，我创建了一个位于数据库和 .NET 应用程序之间的 Windows 服务。它包含一个管道服务器并从主 .NET 应用程序接收每个插入和更新并将它们保存在哈希表中。新服务然后在特定时间间隔进入数据库一次以进行批量插入和更新。重点是减少访问数据库的频率。尽管这产生了积极的影响，但它并没有像我预期的那样对系统负载有益。随着每秒请求的增加，大部分 CPU 负载来自 oracle.exe。

我尽量避免使用数据库，避免使用数据库的唯一方法似乎是增加缓存命中率，而不是我尝试过的上述解决方案。我的缓存命中率目前约为 81%。因为每台本地机器都有自己的缓存，所以我实际上错过了很多可缓存的请求。当两个相似的请求重定向到不同的服务器时，第二个请求无法从第一个请求的缓存结果中受益。

我在系统架构方面没有太多经验，所以我很感激对这个问题的任何帮助。欢迎对不同的缓存架构或设置或任何工具提出任何建议。

提前谢谢你，希望我把我的问题说清楚了。

Answer 1

对我来说，这看起来像是一个 timesten 解决方案的应用程序。在那种情况下，您可以删除本地数据库并返回到只有一个。在您现在拥有本地 oracle 数据库的地方，您可以实现缓存网格。这很可能是 AWT(异步、直写)缓存。参见 Oracle In-Memory Database Cache Concepts这不是一个便宜的选择，但是否值得研究。您可以继续专注于业务逻辑，而不必担心速度。这当然只有在应用程序代码已经调优并且 sql 具有高性能和可扩展性的情况下才有效。必须准备好 SQL(使用绑定(bind)变量)以获得最佳性能。您的应用程序连接到缓存，不再连接到数据库。您在要缓存的缓存组中创建缓存表。 SQL 中的所有表都应该被缓存，否则，完整的 SQL 将被传递到 Oracle 数据库。在网格中，缓存融合机制就位，因此您不必担心网格中数据的位置。在当前版本中包含对 .net 的支持。数据一致，异步更新到Oracle数据库。如果所需的数据在缓存中并且您关闭了 Oracle 数据库，应用程序可以继续运行。一旦数据库再次恢复，同步就会再次恢复。很强大。