Java 大型多人游戏服务器可扩展性

Question

我为 Android 开发了一款名为 The Infinite Black 的大型多人在线游戏: https://market.android.com/details?id=theinfiniteblack.client

出于天真，我曾预计每月大约 1,000 名玩家的适度增长，并且需要管理大约 20 个实时 TCP/IP 客户端。

该游戏出乎意料地出现了爆炸性增长，一周内有超过 40,000 名新用户，并且平均同时有约 300 个实时连接，并且呈指数级增长。

服务器架构包含每个连接 2 个线程(阻塞读/写)，一个用于生成新客户端的 ServerSocket 线程，以及一个轮询每个客户端新操作的 Controller 线程，将其应用于游戏世界，然后刷新数据完成后退出。

服务器是用我不太精通的 Java 构建的，尤其是在这样的高压力情况下。在内存和线程管理方面，C# 真的把我宠坏了。

进入正题.. 我刚刚订购了两个非常强大的系统作为专用游戏服务器运行，并希望最大限度地利用资源。许多有关 Java 资源配置的信息已被证明具有误导性、不正确或已过时。

我目前使用 -Xss512k 作为我的启动参数，并且了解这决定了每个线程的堆栈大小分配，但我并不完全理解它可能需要的所有内容。有什么工具或方法可以告诉我是否超过了目标并可以缩小它？我还应该考虑哪些其他命令行参数？

新服务器配备 16GB RAM 和 i7-2600K Sandy Bridge 3.4GHz 处理器:配置中有哪些选项可以尽可能地利用这一点？我的目标是每台服务器同时处理 1,200 个在线客户端(2,400 个线程)。

我应该关注哪些意想不到的陷阱和问题？

我读过关于最大线程数的极其矛盾的故事:如果我试图插入 2,400 个 Activity 线程，事情会崩溃吗？

Java 似乎不是为此类任务而设计的。我应该考虑将服务器迁移到另一种语言吗？

我目前在 Eclipse 开发中以 Debug模式运行服务器(呃......)

这是我的 Eclipse .ini 配置:

--launcher.XXMaxPermSize256M

-Xms256m

-Xmx1024m

Answer 1

你还没有说清楚你的疑惑从何而来。

Plurk Comet: Handling 100,000+ Concurrent Connections with Netty (2009)

1999 年，我部署了一个 Java 网络服务器，每小时处理 40,000 个黄页搜索查询(服务器有 400 MHz CPU)，2004 年，我开发了一个 Java 应用程序，每个服务器处理 8000 个并发连接(在双 1.2 GHz Sparc 上)服务器)有六台网关服务器和一台主服务器来控制它们和集中事件。

您的配置文件可能有所不同，但我可以说在 C# 发布之前，Java 支持大容量 Web 服务器。

就我个人而言，我不会让每个服务器的并发连接超过 10,000 个，但这只是一个可能不再成立的经验法则。您可以在单个 JVM 中拥有 32,000 个线程。在 Linux 上，它并没有超出这个范围。但是我会在单个服务器上有多个网关 JVM 以最小化完整 GC 时间(最小化完整 GC 时间的最佳方法是丢弃更少的垃圾，但这可能需要更多的努力)

The new servers have 16gb of RAM and i7-2600K Sandy Bridge 3.4GHz processors: What options are available in configuration to take as much advantage of this as possible? My goal is 1,200 online clients at once per server (2,400 threads).

我无法想象为什么这会成为一个问题。

What kind of unexpected pitfalls and problems should I be concerned with?

当您很可能可以将它们全部移除时，您认为您需要关闭所有可能的命令行参数。如果您有 4 个网关 JVM，每个有 300 个连接，这可以使用所有内存，您甚至不需要指定 -Xmx 设置。

Java doesn't seem like it was designed for this type of task. Should I consider migrating the server to another language?

您最好问问自己为什么相信这一点。你有一个应该很容易解决的问题，或者一个可能没有根据的疑问。

This is my Eclipse .ini configuration:

您如何配置 eclipse 并不限制如何设置任何从 eclipse 运行的程序。

BufferedOutputStream 适用于大多数应用程序，并且可能适用于 JVM 中多达 1000 个连接。然而，Java 1.4 (2002) 添加了 NIO，它更轻量级，可以将您的系统扩展到 10,000 个连接甚至更多。

顺便说一句:我在 2003 年开发的服务器是基于 NIO 调度程序的，但它非常复杂，除非你使用像 Netty 这样的标准库。

从那时起，我就成功地使用每个连接模型一个线程来阻止 NIO。我相信这比使用调度程序更易于管理，并且可以具有更低的延迟特性。我有一个监视器线程，它定期检查连接是否阻塞了写入，如果阻塞则关闭它们。我不认为每个连接需要两个线程，但我认为这不会对您的情况产生影响，因为每个服务器没有足够的连接。

正如 glowcoder 所建议的那样，您是否考虑过将 UDP 用于不太重要的广播信息？