- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
为什么我的 SIMD vector4 长度函数比原始 vector 长度方法慢 3 倍?
SIMD vector4 长度函数:
__extern_always_inline float vec4_len(const float *v) {
__m128 vec1 = _mm_load_ps(v);
__m128 xmm1 = _mm_mul_ps(vec1, vec1);
__m128 xmm2 = _mm_hadd_ps(xmm1, xmm1);
__m128 xmm3 = _mm_hadd_ps(xmm2, xmm2);
return sqrtf(_mm_cvtss_f32(xmm3));
}
简单的实现:
sqrtf(V[0] * V[0] + V[1] * V[1] + V[2] * V[2] + V[3] * V[3])
SIMD 版本用了 16110ms 来迭代 1000000000 次。原始版本快了约 3 倍,仅需 4746 毫秒。
#include <math.h>
#include <time.h>
#include <stdint.h>
#include <stdio.h>
#include <x86intrin.h>
static float vec4_len(const float *v) {
__m128 vec1 = _mm_load_ps(v);
__m128 xmm1 = _mm_mul_ps(vec1, vec1);
__m128 xmm2 = _mm_hadd_ps(xmm1, xmm1);
__m128 xmm3 = _mm_hadd_ps(xmm2, xmm2);
return sqrtf(_mm_cvtss_f32(xmm3));
}
int main() {
float A[4] __attribute__((aligned(16))) = {3, 4, 0, 0};
struct timespec t0 = {};
clock_gettime(CLOCK_MONOTONIC, &t0);
double sum_len = 0;
for (uint64_t k = 0; k < 1000000000; ++k) {
A[3] = k;
sum_len += vec4_len(A);
// sum_len += sqrtf(A[0] * A[0] + A[1] * A[1] + A[2] * A[2] + A[3] * A[3]);
}
struct timespec t1 = {};
clock_gettime(CLOCK_MONOTONIC, &t1);
fprintf(stdout, "%f\n", sum_len);
fprintf(stdout, "%ldms\n", (((t1.tv_sec - t0.tv_sec) * 1000000000) + (t1.tv_nsec - t0.tv_nsec)) / 1000000);
return 0;
}
我在 Intel(R) Core(TM) i7-8550U CPU 上运行以下命令。首先使用 vec4_len
版本,然后使用普通 C。
我用 GCC (Ubuntu 7.4.0-1ubuntu1~18.04.1) 7.4.0 编译:
gcc -Wall -Wextra -O3 -msse -msse3 sse.c -lm && ./a.out
SSE 版本输出:
499999999500000128.000000
13458ms
纯 C 版本输出:
499999999500000128.000000
4441ms
最佳答案
最明显的问题是使用低效的点积(使用 haddps
成本是 2x shuffle uops + 1x add uop)而不是 shuffle + add。参见 Fastest way to do horizontal float vector sum on x86在 _mm_mul_ps
之后该做什么并没有那么糟糕。但这仍然不是 x86 可以非常有效地完成的事情。
但无论如何,真正的问题是您的基准循环。
A[3] = k;
然后使用 _mm_load_ps(A)
创建一个存储转发停顿,如果它天真地编译的话到 vector 洗牌。如果加载仅从单个存储指令加载数据,而没有其他数据,则存储 + 重新加载可以以约 5 个延迟周期有效地转发。否则它必须对整个存储缓冲区进行较慢的扫描以组装字节。这为存储转发增加了大约 10 个周期的延迟。
我不确定这对吞吐量有多大影响,但可能足以阻止无序执行重叠足够多的循环迭代以隐藏延迟和仅在 sqrtss
shuffle 上出现瓶颈吞吐量。
(您的 Coffee Lake CPU 每 3 个周期有 1 个 sqrtss
吞吐量,因此令人惊讶的是 SQRT 吞吐量不是您的瓶颈。1 相反它会是洗牌吞吐量或其他东西。)
参见 Agner Fog's微架构指南和/或优化手册。
此外,通过让编译器提升V[0] * V[0] + V[1] * V[1] + V[2 的计算,你更加偏向于 SSE ] * V[2]
跳出循环。
表达式的那部分是循环不变的,因此编译器只需在每次循环迭代时执行(float)k
平方、加法和标量 sqrt。 (并将其转换为 double
以添加到您的累加器中)。
(@StaceyGirl 已删除的答案指出了这一点;查看其中的内部循环代码是编写此答案的良好开端。)
来自 Kamil's Godbolt link 的 GCC9.1 内部循环看起来很糟糕,并且似乎包含循环存储/重新加载以将新的 A[3]
合并到 8 字节的 A[2..3]
对中,进一步限制了 CPU 重叠多次迭代的能力。
我不确定为什么 gcc 认为这是个好主意。它可能有助于将 vector 加载分成 8 字节的一半的 CPU(如 Pentium M 或 Bobcat)以避免存储转发停顿。但这不是“通用”现代 x86-64 CPU 的明智调整。
.L18:
pxor xmm4, xmm4
mov rdx, QWORD PTR [rsp+8] ; reload A[2..3]
cvtsi2ss xmm4, rbx
mov edx, edx ; truncate RDX to 32-bit
movd eax, xmm4 ; float bit-pattern of (float)k
sal rax, 32
or rdx, rax ; merge the float bit-pattern into A[3]
mov QWORD PTR [rsp+8], rdx ; store A[2..3] again
movaps xmm0, XMMWORD PTR [rsp] ; vector load: store-forwarding stall
mulps xmm0, xmm0
haddps xmm0, xmm0
haddps xmm0, xmm0
ucomiss xmm3, xmm0
movaps xmm1, xmm0
sqrtss xmm1, xmm1
ja .L21 ; call sqrtf to set errno if needed; flags set by ucomiss.
.L17:
add rbx, 1
cvtss2sd xmm1, xmm1
addsd xmm2, xmm1 ; total += (double)sqrtf
cmp rbx, 1000000000
jne .L18 ; }while(k<1000000000);
这种疯狂在标量版本中不存在。
无论哪种方式,gcc 都设法避免了完整的 uint64_t
-> float
转换的低效率(x86 在 AVX512 之前的硬件中没有)。据推测,它能够证明使用有符号的 64 位 -> float 转换将始终有效,因为无法设置高位。
脚注 1:但是 sqrtps
具有与标量相同的每 3 个周期 1 个吞吐量,因此通过执行以下操作您只能获得 CPU sqrt 吞吐量能力的 1/4一次水平处理 1 个 vector ,而不是并行处理 4 个 vector 的 4 个长度。
关于c - 为什么 vector 长度 SIMD 代码比普通 C 慢,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56623230/
我有这个析构函数,它在运行时产生错误“vector 迭代器不可取消引用”。 gridMatrix 是一个 std::vector * > * > * > * > 我添加了 typename 和 typ
我有一个 vector 的 vector ,比方说 std::vector > my2dArray; 现在我想要一个 vector ,其中包含 my2dArray 中 vector 的大小。手动这看起
假设我有一些 vector :v1、v2、v3 假设我还有一个 vector 来保存这些 vList = {v1, v2, v3} 如果我同步了 (vList),这是否意味着 v1、v2 和 v3 也
我正在创建一个 char 的二维 vector 数组作为类变量,但我在将 vector 添加到 vector 数组中时遇到了麻烦。 我正在使用 C++ 11 标准运行 gcc。 我尝试使用 vecto
如何修改 Vec基于 Vec 中某项的信息没有对向量的不可变和可变引用? 我已尝试创建一个最小示例来演示我的特定问题。在我的真实代码中,Builder struct 已经是其他答案提出的中间结构。具体
这个问题在这里已经有了答案: What is the idiomatic Rust way to copy/clone a vector in a parameterized function? (
在我的程序中,我有一个整数 vector 的 vector 。现在我想从 vector 的 vector 中取出一个 vector 并在另一个 vector 容器中对其进行操作,但是我得到了错误...
我得到一个vector>数据由 OpenCV 提供。由于某些原因(例如偏移/缩放),我需要转换数据 Point至Point2f 。我怎样才能做到这一点? 例如: std::vector > conto
我有一个函数,该函数应使用来自字符串类型的给定 vector vector 中的某些元素初始化来自字符串类型的空 vector vector 。我的语法看起来像这样 std::vector> extr
我得到一个vector>数据由 OpenCV 提供。由于某些原因(例如偏移/缩放),我需要转换数据 Point至Point2f 。我怎样才能做到这一点? 例如: std::vector > conto
这里有很多类似的问题,但我没有真正找到任何可以特别回答我的问题的问题。 我有一个 vector 的 vector 作为类的属性。另一个属性是 bucket_count。我想将 vector 的 vec
如果我像这样创建一个 vector 的 vector : std::vector> myVectorOfVectors; 然后用一些东西填充它: std::vector myVector1; myVe
我正在用 C++ 编写自定义 vector 类。我对这样的代码有疑问: vector vec; vec.push_back(one); vec.push_back(two);
这是我发布的问题 c++ program for reading an unknown size csv file (filled only with floats) with constant (b
vector> a; for (int i=0;i v(i+1); iota(v.begin(),v.end(),1); a.push_back(v); } a.erase(a.beg
也许已经晚了,但我不明白为什么我会得到一个超出此代码范围的 vector 下标: int m = 3; int n = 2; std::vector> path(m, std::vector(n, 0
这个问题真的很奇怪,我似乎找不到任何导致它的原因。 所以这里有一个赋值运算符重载函数,鸟类和哺乳动物都是 vector 。 (下面是类) const Register& Register::opera
我怎么去 std::vector> 只是 std::vector> ?有真正有效的方法吗? 最佳答案 我会做这样的事情: #include #include int main() { //
我正在尝试将这些 vector 中的一些数据写入文本文件。当我运行代码时,它返回运行时错误。 Category、Product、Cart、Customer和Address都是struct 包含每个 g
显然它会因您使用的编译器而异,但我很好奇执行 vector> 时的性能问题与 vector*> ,尤其是在 C++ 中。具体来说: 假设您的外部 vector 已满,您想要开始将元素插入到第一个内部
我是一名优秀的程序员,十分优秀!