language-agnostic - 如何让您的代码为负载平衡做好准备

Question

正如我们过去所做的那样，我想为每个转向负载平衡的人收集有用的信息，因为您的代码必须注意一些问题。

我们从一台 apache 服务器转移到 squid 作为反向代理/负载均衡器，后面有三台 apache 服务器。

我们使用的是 PHP/MySQL，所以问题可能有所不同。

我们必须解决的问题:

session

我们从“默认”php session (文件)转移到分布式 memcached session 。简单的解决方案，必须完成。这样，您的负载均衡器上也不需要“粘性 session ”。

缓存

对于每个 Web 服务器的非分布式 apc 缓存，我们添加了另一个用于分布式对象缓存的 memcached 层，并用它替换了所有旧的/过时的文件缓存系统。

上传

上传到共享 (nfs) 文件夹。

我们针对速度进行了优化:

静态文件

我们的主要 NFS 运行 lighttpd，提供(也是用户上传的)图像。 Squid 意识到这一点，并且从不查询我们的 apache 节点以获取图像，这极大地提升了性能。 Squid 还配置为将这些文件缓存在 ram 中。

你做了什么让你的代码/项目为负载平衡做好准备，考虑这一举动的人们还有其他问题，以及你使用的是哪种平台/语言？

Answer 1

这样做时:

对于 http 节点，我大力插入单个系统镜像(ocfs2 对此很有用)，并根据场景使用 pound 或 crossroads 作为负载平衡器。节点应该有一个小的本地磁盘用于交换并避免大多数(但不是全部)CDSL 的麻烦。

然后我将 Xen 加入其中。如果您在 Xenbus 上放置少量临时信息(即 Linux 实际 promise 为每个 VM 处理的虚拟内存，又名 Committed_AS)，您可以快速检测到大脑死负载平衡器并对其进行调整。 Oracle 也意识到了这一点……现在正在努力改进 Linux 中的气球驱动程序。

之后，我查看了在 sqlite3 和应用程序 native 想要的任何数据库之间拆分任何给定应用程序的数据库使用情况的成本，同时意识到我需要拆分数据库以便 posix_fadvise() 可以完成其工作并且不会不必要地污染内核缓冲区。由于大多数 DBMS 服务都希望自己进行缓冲，因此您还必须让它们进行自己的集群。这确实决定了我使用的数据库集群类型以及我对气球驱动程序所做的事情。

Memcache 服务器然后从一个瘦小的 initrd 启动，同时特权域会监视它们的内存和 CPU 使用情况，以便知道何时启动更多。

心跳/接管的选择实际上取决于给定的网络和集群的预期使用情况。很难概括这一点。

最终结果通常是 5 或 6 个物理节点，具有相当多的内存来引导虚拟机监视器 + guest ，同时连接到镜像存储。

存储也很难用一般术语来描述。有时我使用集群 LVM，有时不使用。当 LVM2 最终脱离其当前基于字符串的 API 时，not 将发生变化。

最后，所有这些协调都会产生类似 Augeas 的结果。根据通过 Xenbus 通信的事件动态更新配置。这包括 ocfs2 本身，或任何其他配置不能驻留在单个系统镜像上的服务。

这真的是一个特定于应用程序的问题..你能举个例子吗？我喜欢 memcache，但不是每个人都能从使用它中受益，例如。我们是在审查您的配置还是在谈论一般的最佳实践？

编辑:

抱歉，我如此以 Linux 为中心……它通常是我在设计集群时使用的。