c++ - AVX intrinsic _mm256_rsqrt_ps 的相对误差比根据 intrinsics guide 应该有的要大得多

Question

Intel Intrinsics Guide表示内在 _mm256_rsqrt_ps 的相对误差至多为 1.5*2^-12。但是，当我将 _mm256_rsqrt_ps 的结果与平方根倒数的标准 C++ 计算 (1.0/sqrt(x)) 进行比较时，我得到了一个相对误差大于 1.5*2^-12。

我用下面的程序来测试这个:

#include <immintrin.h>
#include <iostream>
#include <math.h>

void test(float x) {
  float resP = _mm256_cvtss_f32(_mm256_rsqrt_ps(_mm256_set1_ps(x)));
  float res = 1.0 / sqrt(x);
  float relErr = fabs(resP - res) / res;
  std::cout << "x = " << x << std::endl;
  std::cout << "resP = " << resP << std::endl;
  std::cout << "res = " << res << std::endl;
  std::cout << "relErr = " << relErr << std::endl;
}

int main() {
  test(1e30);
  test(1e-30);
  test(1e17);
  test(1e-17);
}

输出如下:

    x = 1e+30
    resP = 1.00007e-15
    res = 1e-15
    relErr = 6.80803e-05
    x = 1e-30
    resP = 9.99868e+14
    res = 1e+15
    relErr = 0.0001316
    x = 1e+17
    resP = 3.16186e-09
    res = 3.16228e-09
    relErr = 0.000132569
    x = 1e-17
    resP = 3.16277e+08
    res = 3.16228e+08
    relErr = 0.000154825

如您所见，相对误差明显大于 1.5*2^-12。

指令 _mm256_rcp_ps 的相对误差似乎也比内在函数指南所说的要大得多。

我做错了什么吗？我误解了内在指南吗？还是内部指导错误？

Answer 1

您的相对误差在范围内。

1.5*2^-12 = 0.000366

它只是 2 的幂而不是 10 的幂。

也没有声称与单精度 1/sqrt(x) 相比有这种相对误差，但与精确结果相比。