c# - 我可以并行化 10 毫秒以下的微小任务吗？ (例如矩阵求逆)

Question

我有一个关于 Windows 和 Linux 上的线程(或纤程)的一般性问题，无论使用任何编程语言:

是否有可能让“第二个线程处于待命状态”并让它快速开始行动并在几毫秒内帮助完成一项小任务，而不会被抢占？我应该补充一点，我希望代码清晰，没有互斥锁和自旋锁。

为了表明传统线程池不适用于小型任务，请考虑 C# 中的矩阵求逆问题。我正在使用 Ivan Kuckir 的 matrix class 。我复制他的 Invert 函数并将其命名为 InvertParallel，如下所示:

public Matrix InvertParallel()   // modified from Ivan's Invert(), see link above
{
    if (L == null) MakeLU();
    Matrix inv = new Matrix(rows, cols);
    Parallel.ForEach<int>(Enumerable.Range(0, rows), rowID =>
    {
        Matrix Ei = Matrix.ZeroMatrix(rows, 1);
        Ei[rowID, 0] = 1;
        Matrix col = SolveWith(Ei);
        inv.SetCol(col, rowID);
    });
    return inv;
}

然后我调用 Invert 和 Invert_Parallel 函数并测量所需的时间:

static void Main()
{
    Stopwatch sw = new Stopwatch(); sw.Start();
    Matrix A = Matrix.IdentityMatrix(50, 50);
    Matrix I1 = A.Invert();
    long elapsed1 = sw.ElapsedMilliseconds;
    Matrix I2 = A.InvertParallel();
    long elapsed2 = sw.ElapsedMilliseconds - elapsed1;
    Console.WriteLine("Matrix size=" + A.rows + ", Invert=" + elapsed1 + "ms, Invert_Parallel=" + elapsed2 + "ms");
}

相当明显的结果表明，对于小任务(矩阵大小 50)，从线程池启动任务比运行单线程慢:

Matrix size=50,  Invert=  5ms,  InvertParallel=21ms
Matrix size=100, Invert= 19ms,  InvertParallel=24ms
Matrix size=200, Invert=137ms,  InvertParallel=44ms

(抱歉 - 我不得不删除下面注释中的所有链接，因为我是新海报)

附注可能相关的S/O文章:“如何同时启动两个线程”，“Linux - 线程和进程调度优先级”

附注是的，我知道有一种更聪明的算法来计算逆，其规模为 O(N^2.376)。

P.P.S。我不熟悉用户模式调度(Windows 上的 UMS)User-Mode Scheduling ('UMS' on Windows) ，有帮助吗？

Answer 1

在线程之间传递任务，尤其是那些具有大量与之关联的数据的任务，会产生不小的开销，这可能会导致小任务的性能降低，正如您所看到的。您需要找到使用多个核心速度更快的最佳点。

顺便说一句，您可以通过创建一个工作线程来获得一个小小的改进，当前线程保存一次上下文切换并在缓存之间进行复制。例如如果你有 8 个核心，则将 1/7 传递给其他 7 个线程，并在当前线程中执行 1/8。