rust - 有没有办法为 tokio::spawn_blocking 创建多个池，这样一些任务就不会饿死其他任务？

Question

我正在使用 Tokio 编写一些异步 Rust 代码，但遇到了问题。我有一些任务需要访问连接池，连接池的性质意味着一次只能运行固定数量 (NUMCPUS) - 所有其他请求将阻塞，直到有空闲连接为止。

目前，我只是在使用 task::spawn_blocking，这是一种可行的方法。然而，这样做的缺点是，一旦 512 个请求阻塞在连接池上，Tokio 的整个阻塞池 就会耗尽，所有阻塞任务都会排队。这可以防止来自代码中不依赖于连接池的其他地方的任何 spawn_blocking 调用也运行。

有什么方法可以告诉 Tokio 将一组特定的阻塞任务分开并一次只生成 N 个，同时仍然允许不相关的阻塞任务在不排队的情况下运行？

spawn_blocking 文档建议将 Rayon 用于 CPU 密集型任务，但是 a) 不清楚如何将 Rayon 与 Tokio 集成，以及 b) 我的任务无论如何都不是 CPU 密集型的。

Answer 1

您可以使用 Semaphore :用并发允许的任务数初始化它，并让每个任务在处理之前获取信号量，并在完成时释放它。像(未经测试):

use tokio::sync::Semaphore;

struct Pool {
    sem: Semaphore,
}

impl Pool {
    fn new (size: usize) -> Self {
        Pool { sem: Semaphore::new (size), }
    }

    async fn spawn<T> (&self, f: T) -> T::Output
    where
        T: Future + Send + 'static,
        T::Output: Send + 'static,
    {
        let handle = self.sem.acquire().await;
        f.await
    }
}