c++ - 线程缓存对象引用

Question

我需要创建一种共享对象(无论出于何种原因)。它不限于单线程使用。通常在这种情况下，互锁操作是可行的方法(例如 Win32 上的 InterlockedIncrement 和 InterlockedDecrement)。

尽管对象引用计数应该在任何情况下都能正常工作，但我想针对单线程使用对其进行优化。互锁运算比标准算术运算要重得多。根据我的测量，一个互锁操作(发出完整的内存屏障)在我的“典型”CPU 上大约需要 40 个 CPU 周期，而标准算术运算的精度低于任何测量精度(多亏了 CPU 缓存)。

在内存分配方面也有类似的技术。有一些堆实现，例如“TCMalloc”，它由一个集中的内存分区机制组成，由适当的同步对象保护，加上每线程缓存。在最常见的情况下，内存在每线程缓存上分配/释放，根本不涉及任何互锁操作，而且很有可能利用 CPU 缓存。

因此我想到了为引用支持对象做类似事情的可能性。任何想法如何实现这一目标？也欢迎原始想法。

在我的场景中，如果可以提高性能，可以将实际对象销毁延迟一段时间。

Answer 1

我不会打扰。我刚刚运行了这个基准测试:

#include<stdio.h>

#define SIZE 1000000

static __inline__ unsigned long long rdtsc(void)
{
    unsigned hi, lo;
    __asm__ __volatile__ ("rdtsc" : "=a"(lo), "=d"(hi));
    return ( (unsigned long long)lo)|( ((unsigned long long)hi)<<32 );
}


void print_avg(const char *str, const int *diff, int size)
{
    int i;
    long sum = 0;
    int max = -1, min = 10000;
    for(i = 0; i < size; i++)
    {
    int t = diff[i];
    sum += t;
    if (t > max) max = t;
    if (t < min) min = t;
    }

    printf("%s average =%f clocks, max =%d, min =%d\n", str, (double)sum / size, max, min);
}



int main()
{
    unsigned long long a, b;
    int diff[SIZE];
    int value = 0;
    int i;


    for(i = 0; i < SIZE; i++)
    {
    a = rdtsc();

    __sync_fetch_and_add(&value, 2);
    b = rdtsc();

    diff[i] = (int)(b - a);
    }

    print_avg("Locked", diff, SIZE);

    for(i = 0; i < SIZE; i++)
    {
    a = rdtsc();
        value += 2;
    b = rdtsc();
    diff[i] = (int)(b - a);
    }
    print_avg("Not locked", diff, SIZE);

    return 0;
}

使用 gcc -O2 编译得到以下结果:

Locked average =105.672402 clocks, max =38756, min =86  
Not locked average =80.540389 clocks, max =23433, min =73

我跑了好几次，每次的结果都非常相似。请忽略 max 的大数字——那是处理器发生中断或其他事情的时候——它来 self 为不同目的编写的一些代码，我只是为这个测试回收了它。这个小差异应该适用于所有现代处理器(Intel iCore 和 AMD Athlon64 以及那些世代)

除非出于某种原因您的编译器没有内联 InterlockedIncrement，否则在您的代码中添加一个 if 语句很可能会花费至少 5 个周期，因此您最多可以节省 10 个周期。希望您正在做的不是递增和递减引用计数器。

编辑:添加内存屏障也没有太大区别——大约 10 个周期。

诚然，如果我在第二个循环中添加 10 个加法，则每个循环大约需要 5 个时钟周期(因此平均每个加法需要半个时钟)，而锁定加法每个加法需要大约 20 个时钟。在我看来，仍然不值得添加 if 语句。但是如果你想添加“if (nr_threads == 1) a = a + 1; else a = __sync_fetch_and_add(a, 1);”，[或者做你需要的任何事情]我不会阻止你.但是请确保对整个应用程序进行基准测试，并确保它的改进超过 1%——我对此表示怀疑。请回来告诉我们有什么区别。我在 Linux 内核的“释放页表条目”中添加的 if 语句使它慢了 2-5%，所以不值得。但是，如果您在代码中发现了这一点，那是值得的，欢迎光临。我是根据经验说的，我有数字可以证明这一点，但如果你想自己尝试一下，那为什么不呢。