c++ - 就性能而言，使用 std::memcpy() 或 std::copy() 更好吗？

Question

用memcpy更好吗？如下图还是用std::copy()比较好在性能方面？为什么？

char *bits = NULL;
...

bits = new (std::nothrow) char[((int *) copyMe->bits)[0]];
if (bits == NULL)
{
    cout << "ERROR Not enough memory.\n";
    exit(1);
}

memcpy (bits, copyMe->bits, ((int *) copyMe->bits)[0]);

Answer 1

我将在这里违背 std::copy 的普遍智慧会有轻微的、几乎察觉不到的性能损失。我刚刚做了一个测试，发现这是不正确的:我确实注意到了性能差异。然而，获胜者是std::copy .

我写了一个 C++ SHA-2 实现。在我的测试中，我使用所有四个 SHA-2 版本(224、256、384、512)对 5 个字符串进行哈希处理，并循环了 300 次。我使用 Boost.timer 测量时间。 300 循环计数器足以完全稳定我的结果。我每次都运行了 5 次测试，在 memcpy 之间交替。版本和 std::copy版本。我的代码利用尽可能大的块获取数据(许多其他实现使用 char/char * ，而我使用 T/T * (其中 T 是最大的类型)用户的实现具有正确的溢出行为)，因此对最大类型的快速内存访问对我的算法性能至关重要。这些是我的结果:

完成 SHA-2 测试运行的时间(以秒为单位)

std::copy   memcpy  % increase
6.11        6.29    2.86%
6.09        6.28    3.03%
6.10        6.29    3.02%
6.08        6.27    3.03%
6.08        6.27    3.03%

与 memcpy 相比，std::copy 的速度总平均提高:2.99%

我的编译器是 Fedora 16 x86_64 上的 gcc 4.6.3。我的优化标志是 -Ofast -march=native -funsafe-loop-optimizations .

Code for my SHA-2 implementations.

我决定也对我的 MD5 实现进行测试。结果不太稳定，所以我决定运行 10 次。然而，在我最初的几次尝试之后，我得到的结果从一次运行到下一次运行变化很大，所以我猜有某种操作系统事件正在进行。我决定重新开始。

相同的编译器设置和标志。只有一个版本的 MD5，而且它比 SHA-2 快，所以我对一组类似的 5 个测试字符串进行了 3000 次循环。

这些是我最后的 10 个结果:

完成 MD5 测试运行的时间(以秒为单位)

std::copy   memcpy      % difference
5.52        5.56        +0.72%
5.56        5.55        -0.18%
5.57        5.53        -0.72%
5.57        5.52        -0.91%
5.56        5.57        +0.18%
5.56        5.57        +0.18%
5.56        5.53        -0.54%
5.53        5.57        +0.72%
5.59        5.57        -0.36%
5.57        5.56        -0.18%

std::copy 相对于 memcpy 的速度总平均下降:0.11%

Code for my MD5 implementation

这些结果表明 std::copy 在我的 SHA-2 测试中使用了一些优化 std::copy无法在我的 MD5 测试中使用。在 SHA-2 测试中，两个数组都是在调用 std::copy 的同一函数中创建的。/ memcpy .在我的 MD5 测试中，其中一个数组作为函数参数传递给函数。

我做了更多的测试，看看我能做些什么来制作 std::copy又快了。答案很简单:开启链接时间优化。这些是我打开 LTO 的结果(gcc 中的选项 -flto):

使用 -flto 完成 MD5 测试运行的时间(以秒为单位)

std::copy   memcpy      % difference
5.54        5.57        +0.54%
5.50        5.53        +0.54%
5.54        5.58        +0.72%
5.50        5.57        +1.26%
5.54        5.58        +0.72%
5.54        5.57        +0.54%
5.54        5.56        +0.36%
5.54        5.58        +0.72%
5.51        5.58        +1.25%
5.54        5.57        +0.54%

与 memcpy 相比，std::copy 的速度总平均增加:0.72%

总之，使用 std::copy 似乎没有性能损失。 .事实上，似乎有性能提升。

结果说明

那么为什么会 std::copy给性能提升？

首先，只要打开内联优化，我不希望它对任何实现都变慢。所有编译器都积极地内联；它可能是最重要的优化，因为它支持许多其他优化。 std::copy可以(并且我怀疑所有现实世界的实现都可以)检测到参数是可简单复制的，并且内存是按顺序排列的。这意味着在最坏的情况下，当 memcpy是合法的， std::copy应该不会更差。 std::copy的简单实现遵循 memcpy应该符合编译器的“在优化速度或大小时始终内联”的标准。

然而， std::copy还保留了更多的信息。当您拨打 std::copy ，该函数保持类型不变。 memcpy运作于 void * ，它丢弃了几乎所有有用的信息。例如，如果我传入一个数组 std::uint64_t ，编译器或库实现者可能能够利用 std::copy 的 64 位对齐。 ，但使用 memcpy 可能更难做到这一点.像这样的算法的许多实现首先处理范围开头的未对齐部分，然后是对齐的部分，最后是未对齐的部分。如果保证全部对齐，那么代码会变得更简单、更快，并且处理器中的分支预测器更容易获得正确的结果。

过早优化？
std::copy处于一个有趣的位置。我希望它永远不会比 memcpy 慢有时使用任何现代优化编译器都会更快。此外，您可以做任何事情 memcpy ，您可以 std::copy . memcpy不允许缓冲区中有任何重叠，而 std::copy支持一个方向的重叠( std::copy_backward 用于另一个方向的重叠)。 memcpy仅适用于指针， std::copy适用于任何迭代器( std::map 、 std::vector 、 std::deque 或我自己的自定义类型)。换句话说，你应该只使用 std::copy当您需要复制大量数据时。