google-cloud-platform - Google Cloud Kubernetes 节点带宽

Question

我正在 Google Cloud Kubernates 服务上部署我的集群。它已经有几个节点。此外，我需要来自 Google Cloud 的带有 GPU 的服务器才能使其与我的集群一起使用。 GPU 实例持续处理传入流量(带宽应高达 1Gb/s )并在集群节点上发送结果(带宽应甚至大于传入带宽)。

项目中对我来说最关键的事情:
1) 集群内这些节点之间的带宽；
2)节点和GPU服务器之间的带宽；
3)GPU服务器与世界之间的带宽；
4)节点和世界之间的带宽。

每个节点的最小适当带宽为 1 Gb/秒 关于下载和上传两者。当我进行速度测试时，它显示下载速度 100-680 Mb/s 和上传速度 67-138 Mb/s 在同一时间为同一个节点(下面的截图是在彼此之间 30 秒的时间段内制作的)。所以当前带宽太小且不稳定。但我需要从 开始的稳定带宽1 Gb/秒 .

我试图在 Google Docs 中找到有关带宽的任何技术规范或定价。但是，技术规范中只有CPU/GPU/RAM/Disk，没有带宽。并且文档上只有每月的流量定价。

TL;博士:
如何设置稳定 1 Gb/秒 或者为每个集群节点、GPU 实例和任何其他 Google Cloud 虚拟机增加带宽？
Google Cloud 中是否有提供超过 带宽的服务？ 1 Gb/秒 ?
Google Cloud 中是否有任何解决方案/服务如何处理大的互联网流量？









附言速度测试是通过以下方式进行的:

npx speedo-cli

Answer 1

真的没有任何保证，尤其是当涉及到 GCP 外部网络的流量时。不过，您可以采取以下措施来最大化带宽:

增加 CPU 核心数 每个实例:

caps are dependent on the number of vCPUs that a virtual machine instance has. Each core is subject to a 2 Gbits/second (Gbps) cap for peak performance. Each additional core increases the network cap, up to a theoretical maximum of 16 Gbps for each virtual machine. source

请注意 2 Gbps per vCPU cap 表示使用内部网络的理论限制:

The cap is a limit that can't be exceeded and doesn't indicate the actual throughput of your egress traffic. There is no guarantee that your traffic will achieve the maximum throughput, which depends on many factors other than the cap. source

如果 VM 之间存在流量(即问题中的情况 1 和 2)，请确保 VM 是 位于同一区域 而你正在使用 内部 IP :

Any time you transfer data or communicate between VMs, you can achieve max performance by always using the internal IP to communicate. In many cases, the difference in speed can be drastic. source

查询 this answer关于如何使用 iperf 测量 VM 之间的网络带宽.

对于高级用例，您可以尝试 fine-tuning the TCP window size在您的虚拟机中。

最后， one benchmark观察到 the GCP network throughput is 81x more variable when compared to AWS .当然，这仅反射(reflect)了一个基准，但您可能会发现自己测试其他提供商是值得的。