kubernetes - Kubernetes/Istio 中的动态有状态路由(微服务间关联)

Question

我有一个通用 Java 微服务(“DB 服务”)的 ReplicaSet，它可以基于元数据与任何 JDBC 数据库交互。当上游微服务调用该数据库微服务时，会分配一个 JDBC 连接池。假设数据库 DBA 为我提供了 50 个连接以用于特定用例(我的系统可以“执行”的一些元数据部署单元)。

我希望有两个数据库副本，每个副本在本地连接池中创建 25 个连接(MAX/2)。从今以后，上游微服务现在应该只将它的调用路由到这两个副本，这两个副本现在包含这两个连接池，同时绕过其他没有创建任何连接的 X DB 副本。

如果上游微服务为这个用例添加了一个唯一的 HTTP header (“StatefulRoute=ConnectionName”)，K8s 和/或 Istio 是否会被欺骗将请求路由到 DB 副本的子集，这些副本已创建这些本地 JDBC 连接池这个用例？

请注意，随着时间的推移，用户可以部署许多其他用例，每个用例可能还需要 JDBC 连接。这些用例应该基于已经繁忙的数据库副本的就绪检查传播到其他数据库副本。

我设想一个额外的资源管理器微服务(导体)，每个数据库副本将与之交互以询问 1)我可以为此请求分配一个连接池，2)我可以分配多少个连接。

当第一个(未初始化的)数据库副本收到新请求(尚未建立路由)时，它将与资源管理器交互。然后，该管理器应动态配置 K8s/Istio(REST 调用？)，以便今后将请求(针对特定用例)路由到该副本。

资源管理器将是一个 Singleton，或者如果它成为瓶颈，一个 ReplicaSet 使用分布式缓存来跟踪“连接池授权”。如果连接用完了，它将 ping 数据库副本，这些副本有一段时间没有发送心跳(可能已被 K8s 重新启动)。如果它发现一个副本没有响应，它将允许一个新的新副本根据剩余的可用连接(在数据库端)分配一个连接池。

如果所有先前初始化的副本仍然处于事件状态并为请求提供服务(因此最大物理数据库连接正在使用中)，管理器将拒绝连接请求，然后请求的数据库副本将返回错误(“没有更多的连接可用于服务请求”)发送到上游微服务。

有没有人遇到过这个要求？

这不是用户 session 亲和性，通常涉及入口。这涉及集群内两个微服务之间的亲和性。

谢谢。

Answer 1

如果您想配置 istio 流量路由，则需要遵循的链接很少。

首先，我会看看 bookinfo example ，它很容易安装，你可以在上面尝试你的设置。

然后按照这个关于 request routing 的 istio 文档进行操作，它解释了您将如何使您的虚拟服务和目标规则与您的 pod 的正确子集相匹配。

如前所述here和 here ，在那里我们可以学习如何添加您的 header ，该 header 将用于将流量路由到您的 pod 的适当版本。

看看这个例子

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: reviews
  ...
spec:
  hosts:
  - reviews
  http:
  - match:
    - headers:
        end-user:
          exact: jason
    route:
    - destination:
        host: reviews
        subset: v2
  - route:
    - destination:
        host: reviews
        subset: v1

因此，我们有 3 个审查部署子集，v1、v2 和 v3 以及为它们提供的服务。你可以看这里 how它已构建，每个审核部署都有一个应用程序和版本标签，我们可以在我们的虚拟服务和目标规则中使用它们。

kubectl get pods
reviews-v1-874083890-f0qf0                  2/2       Running   0          6m
reviews-v2-1343845940-b34q5                 2/2       Running   0          6m
reviews-v3-1813607990-8ch52                 2/2       Running   0          6m

kubectl get services
reviews                    10.0.0.170   <none>        9080/TCP             6m

正如您在上面的虚拟服务中看到的那样，如果有一个最终用户名恰好是 jason 的用户，那么它将整个流量发送到 v2，如果没有，则默认情况下它将所有内容发送到 v1。