c++ - 错误 : inlining failed to call always_inline

Question

我正在尝试在某些文件上实现和编码，其中一些文件包含 SIMD 调用。我已经在服务器上编译了这段代码，运行的操作系统与我的机器基本相同，但我无法编译它。

这是错误:

make
g++ main.cpp -march=native -o main -fopenmp
In file included from /usr/lib/gcc/x86_64-linux-gnu/7/include/immintrin.h:53:0,
                 from tensor.hpp:9,
                 from main.cpp:4:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h: In function ‘_ZN6TensorIdE8add_avx2ERKS0_._omp_fn.5’:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h:447:1: error: inlining failed in call to always_inline ‘__m256d _mm256_mask_add_pd(__m256d, __mmask8, __m256d, __m256d)’: target specific option mismatch
 _mm256_mask_add_pd (__m256d __W, __mmask8 __U, __m256d __A,
 ^~~~~~~~~~~~~~~~~~
In file included from main.cpp:4:0:
tensor.hpp:228:33: note: called from here
         res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
               ~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
In file included from /usr/lib/gcc/x86_64-linux-gnu/7/include/immintrin.h:53:0,
                 from tensor.hpp:9,
                 from main.cpp:4:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h:610:1: error: inlining failed in call to always_inline ‘__m256d _mm256_mask_loadu_pd(__m256d, __mmask8, const void*)’: target specific option mismatch
 _mm256_mask_loadu_pd (__m256d __W, __mmask8 __U, void const *__P)
 ^~~~~~~~~~~~~~~~~~~~
In file included from main.cpp:4:0:
tensor.hpp:228:33: note: called from here
         res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
               ~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
In file included from /usr/lib/gcc/x86_64-linux-gnu/7/include/immintrin.h:53:0,
                 from tensor.hpp:9,
                 from main.cpp:4:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h:610:1: error: inlining failed in call to always_inline ‘__m256d _mm256_mask_loadu_pd(__m256d, __mmask8, const void*)’: target specific option mismatch
 _mm256_mask_loadu_pd (__m256d __W, __mmask8 __U, void const *__P)
 ^~~~~~~~~~~~~~~~~~~~
In file included from main.cpp:4:0:
tensor.hpp:228:33: note: called from here
         res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
               ~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
Makefile:7: recipe for target 'main' failed
make: *** [main] Error 1

用谷歌搜索这个问题并没有真正帮助，因为所有的答案都指出了一些事情，我已经做了/试过了。

有人可以提供一些关于它为什么不起作用的背景信息吗。

编辑:

int main(){
#ifdef __AVX512F___
    auto tt = createTensor();
    auto tt2 = createTensor();
    auto res = tt.addAVX512(tt2);
#endif
}

//This is in tensor.hpp
#ifdef __AVX512F__
Tensor<T> Tensor::addAVX512(_param_){
   res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
}
#endif

这就是发生的事情的要点......我已经将所有 SIMDcalls 封装在 #ifdefs 等中。

Answer 1

GCC 将只允许您将内部函数用于允许编译器使用的指令集。例如关于 AVX1 内在的相关问题:inlining failed in call to always_inline '__m256d _mm256_broadcast_sd(const double*)'

---

这些是 256 位内部函数的 _mask_ 版本，它们需要 AVX512VL。

(我在关于 -mavx 的问题下的评论是错误的，我没有注意到名称或参数中的 _mask，只是 _mm256.)

您可能正在您的服务器上的 KNL(Knight's Landing/Xeon Phi)上编译，它有 AVX512F 但没有 AVX512VL。所以 -march=native 将设置 -mavx512f。 (与 Skylake-AVX512 不同，Skylake-AVX512 确实具有 AVX512VL，允许使用很酷的新 AVX512 内容，例如带有较窄 vector 的屏蔽指令。)

并且您在 tensor.hpp 中发现了一个错误，您在其中仅检查了 __AVX512F__ 而不是 __AVX512VL__< 之后就使用了 AVX512VL 内在函数. AVX512-anything 意味着 512F，因此不需要同时检查两者。

#ifdef __AVX512F__    // should be __AVX512VL__
Tensor<T> Tensor::addAVX512(_param_){
   res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
}
#endif

这毫无意义，如果您要使用常量全一掩码，则不需要使用这些内在函数的掩码版本。像正常人一样使用 _mm256_add_pd 并且只检查 __AVX__。或者使用 _mm512_add_pd。

起初我以为这是来自 TensorFlow，但(根据您的评论)这没有意义。它不可能写得那么糟糕。 使用完全真实的掩码将掩码合并到同一 tmp 的 3 个拷贝中是没有意义的；如果编译器无法将 mask=all-ones 优化为未屏蔽的加载，这看起来是一种引入错误依赖的愚蠢方法。

还有糟糕的 C++ 风格:你有一个名为 __m256d tmp 的变量作为全局或类成员？？它甚至不是局部虚拟变量，它可能存在于编译器无法完全优化的地方。