c++ - lambda 函数的快速和通用使用

Question

动机

我创建了一个头文件，将 Matlab 的 mex 功能包装在 c++11 类中；特别是对于 MxNxC 图像。我创建的两个函数是 forEach，它迭代图像中的每个像素，还有一个 forKernel，它给定图像中的内核和像素，迭代该像素周围的内核，处理各种漂亮的样板索引数学.

我们的想法是可以像这样对滑动窗口进行编程:

image.forEach([](Image &image, size_t row, size_t col) {
  //kr and lc specify which pixel is the center of the kernel
  image.forKernel<double>(row, col, kernel, kr, kc, [](Image &image, double w, size_t row, size_t col) {
    // w is the weight/coefficient of the kernel, row/col are the corresponding coordinates in the image.
    // process ...
  });
});

问题

这提供了一个很好的方法

• 增加可读性:两个函数调用比相应的 4 个 for 循环更清晰，
• 保持灵 active :lambda 函数允许您通过值或引用来限定各种变量的范围，这对于 forEach/forKernel 的实现者是不可见的，并且
• 不幸的是，增加了执行时间:这比仅使用 for 循环的执行速度慢了大约 8 倍。

当然，后一点是问题所在。我希望 g++ 能够优化 lambda 函数并内联所有代码。这不会发生。因此，我创建了一个关于一维数据的最小工作示例:

#include <iostream>
#include <functional>

struct Data {
  size_t d_size;
  double *d_data;
  Data(size_t size) : d_size(size), d_data(new double[size]) {}
  ~Data() { delete[] d_data; }
  double &operator[](size_t i) { return d_data[i]; }


  inline void forEach(std::function<void(Data &, size_t)> f) {
    for (size_t index = 0; index != d_size; ++index)
      f(*this, index);
  }
};



int main() {
  Data im(50000000);
  im.forEach([](Data &im, size_t i) {
    im[i] = static_cast<double>(i);
  });

  double sum = 0;
  im.forEach([&sum](Data &im, size_t i) {
    sum += im[i];
  });

  std::cout << sum << '\n';
}

来源:http://ideone.com/hviTwx

我猜编译器无法为每个 lambda 函数编译 forEach 的代码，因为 lambda 函数不是模板变量。好处是可以编译一次并使用不同的 lambda 函数更频繁地链接到它，但坏处是它很慢。

此外，动机中讨论的情况已经包含数据类型(double、int、...)的模板，因此“好事”无论如何都被否决了。

一个快速实现前一个的方法是这样的:

#include <iostream>
#include <functional>

struct Data {
  size_t d_size;
  double *d_data;
  Data(size_t size) : d_size(size), d_data(new double[size]) {}
  ~Data() { delete[] d_data; }
  double &operator[](size_t i) { return d_data[i]; }
};



int main() {
  size_t len = 50000000;
  Data im(len);
  for (size_t index = 0; index != len; ++index)
    im[index] = static_cast<double>(index);

  double sum = 0;
  for (size_t index = 0; index != len; ++index)
    sum += im[index];

  std::cout << sum << '\n';
}

来源:http://ideone.com/UajMMz

它快了大约 8 倍，但可读性也较差，尤其是当我们考虑更复杂的结构(例如带有内核的图像)时。

问题

有没有办法提供 lambda 函数作为模板参数，以便为每次调用编译 forEach，并针对 lambda 函数的每个特定实例进行优化？ lambda 函数能否以某种方式内联，因为 lambda 函数通常不是递归的，这应该是微不足道的，但语法是什么？

我找到了一些相关的帖子:

• Why C++ lambda is slower than ordinary function when called multiple times?
• Understanding the overhead of lambda functions in C++11
• C++0x Lambda overhead

但是他们没有以最小工作示例的形式给出解决方案，也没有讨论内联 lambda 函数的可能性。我的问题的答案应该是这样的:更改 Data.forEach 成员函数并尽可能快地调用它/允许尽可能多的运行时优化(不是在运行时优化，而是在尽可能减少运行时间的编译时间。

关于forEveR的建议

感谢您创建该修复程序，这是一个巨大的改进，但仍然慢了大约 2 倍:

• test0.cc: http://ideone.com/hviTwx
• test1.cc: http://ideone.com/UajMMz
• test2.cc: http://ideone.com/8kR3Mw

结果:

herbert@machine ~ $ g++ -std=c++11 -Wall test0.cc -o test0
herbert@machine ~ $ g++ -std=c++11 -Wall test1.cc -o test1
herbert@machine ~ $ g++ -std=c++11 -Wall test2.cc -o test2
herbert@machine ~ $ time ./test0
1.25e+15

real    0m2.563s
user    0m2.541s
sys     0m0.024s
herbert@machine ~ $ time ./test1
1.25e+15

real    0m0.346s
user    0m0.320s
sys     0m0.026s
herbert@machine ~ $ time ./test2
1.25e+15

real    0m0.601s
user    0m0.575s
sys     0m0.026s
herbert@machine ~ $ 

我用 -O2 重新运行了代码，这解决了问题。 test1 和 test2 的运行时间现在非常相似。谢谢@stijn 和@forEveR。

herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test0.cc -o test0
herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test1.cc -o test1
herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test2.cc -o test2

herbert@machine ~ $ time ./test0
1.25e+15

real    0m0.256s
user    0m0.229s
sys 0m0.028s
herbert@machine ~ $ time ./test1
1.25e+15

real    0m0.111s
user    0m0.078s
sys 0m0.033s
herbert@machine ~ $ time ./test2
1.25e+15

real    0m0.108s
user    0m0.076s
sys 0m0.032s
herbert@machine ~ $ 

Answer 1

问题是，您使用 std::function，实际上使用 type-erasure 和虚拟调用。您可以简单地使用模板参数，而不是 std::function。由于 n3376 5.1.2/5，lambda 函数的调用将被内联

The closure type for a lambda-expression has a public inline function call operator (13.5.4) whose param- eters and return type are described by the lambda-expression’s parameter-declaration-clause and trailing- return-type respectively

所以，简单写一下

  template<typename Function>
  inline void forEach(Function f) {
    for (size_t index = 0; index != d_size; ++index)
      f(*this, index);
  }

Live example