spring-boot - 在 GCP 上运行基于 Java 的 API 后端(Spring Boot、Micronaut、Quarkus)的最具成本效益的方法是什么？

Question

我有一个移动应用程序，其中后端当前作为 NodeJS Cloud Function 运行，但我对 NodeJS 的使用程度远不及 Java。所以，我用 Java 重新编写了 API - 但是，当将其部署为 Cloud Function 或 Cloud Run 时，冷启动性能显然不是很好。当我添加我需要的依赖项时，我看到回旋处 15 秒冷启动时间，这是行不通的。我确实有一个“预热”端点，当用户登录到移动应用程序以启动 API 后端的初始化时，我会立即调用它，这确实有点帮助。
我一直在玩 GraalVM 并生成 native 镜像一段时间，虽然我可以让您的基本 hello-world 应用程序和一些稍微复杂的示例工作，但我的应用程序有一些依赖项，例如 gRPC 和 Cloud Firestore，其中其他人，我还没有成功地使用 Micronaut、Quarkus 或 Spring Boot 为它生成 native 镜像。
我考虑在一个托管实例组上运行最少 1 个实例，因此总是至少有一个实例启动并运行，准备为请求提供服务，但是我需要一个云负载均衡器在前面，我读过一些关于云的恐怖故事负载均衡器最终使人们付出的代价比他们预期的要多得多。
有没有办法使用 Cloud Endpoints 将托管实例组置于前端？我看到您可以使用单个 VM 实例在何处执行此操作，但不能跨组执行此操作，这使我相信在这种情况下我需要一个 Cloud Loadbalancer 来执行我需要的操作？
成本效益很重要，因为我的应用程序是 super 新的并且根本没有产生任何收入，而且由于我只是使用个人资金为其提供资金，因此我的基础设施预算不是很高:)
TL;DR/寻找有关在保持良好性能和弹性的同时在 Micronaut、Quarkus 或 GCP 上的 Spring Boot 等框架上托管基于 Java 的 API 应用程序的最便宜方式的提示。
任何见解将不胜感激。

Answer 1

我写了 an article on Java framework cold start on Cloud Run (结果已经过时了，因为在这篇文章发布并与 Google 员工讨论后，团队更新了 Cloud Run 平台和管理 Java 容器的方式。现在他们现在开始快速了!)
无论如何，您的问题一开始似乎很重要，但最终并非如此。我会解释原因。
首先，冷启动是一个暂时的问题。你的第一个请求很慢，几十个、几百个请求很快。真的有问题吗？
如果是这样，最小实例功能(目前仅在 CLoud Run for Anthos 上可用)将出现在托管版本中。像这样你永远不会真正缩放到 0，一个实例保持温暖并立即启动(但是，作为对应，它不会是免费的)。
其次，如果您寻求可维护性，我向您推荐您熟悉的框架。您将更有效地改进代码、解决问题并节省时间(时间就是金钱)，而不仅仅是基础设施方面的考虑!
所有 Java 框架在优化时都比较接近(Cloud Run 上的 Naive Spring Boot 20 秒启动，打包优化后 2 秒!)。当然，本地编译(使用 GraalVM)是最快的，但它现在并不是很稳定，有几个副作用(我不会推荐它用于生产)。
个人观点:我是 Spring Boot 及其生态系统的忠实粉丝。但是 Micronaut 和它的 AOT 编译，除了符合 Spring Boot 习惯用法的注释之外，绝对很棒。 Quarkus 是最近的，我对它没有真正的看法(从未在生产/实际项目中使用过)