gpt4 book ai didi

c++ - C/C++ : emulating restrict keyword by copying arguments to local variables

转载 作者:行者123 更新时间:2023-12-01 14:37:09 25 4
gpt4 key购买 nike

我在使用 vector 内在函数(AVX)时遇到了以下问题,但该问题可能也适用于顺序编程。它涉及 restrict 的使用关键词。该关键字在 C99 中可用,但在 C++ 中不可用(大多数编译器提供的特殊关键字除外)。我的问题是:我可以避免使用 restrict通过从非 restrict 复制数据局部变量的指针参数?它在我的示例中有效,但是这种行为有保证吗?

这是我的代码,包含 4 个不同版本的 SIMD vector 加法。第一版vecAdd1()将参数传递为 restrict指针。所有其他版本都使用普通(非 restrict )指针作为参数。第二版vecAdd2()没有进一步的代码修改。第三版vecAdd3()复制data每个结构体的指针到局部变量中。第四版vecAdd4()对于大小 n 也执行相同的操作.

#include <stdio.h>
#include <x86intrin.h>

#define N 8 // 8 floats per AVX vector
#define SIZE 1000 // 1000 floats per data vector

typedef struct { int n; float *data; } Vec;

void vecCreate(int size, Vec *v) {
v->n = size;
posix_memalign((void**)&(v->data), 32, size * sizeof(float));
}


void vecAdd1(Vec * restrict a, Vec * restrict b, Vec * restrict c) {
__m256 va, vb, vc;
for (int i = 0; i <= (a->n - N); i += N) {
va = _mm256_load_ps(a->data + i);
vb = _mm256_load_ps(b->data + i);
vc = _mm256_add_ps(va, vb);
_mm256_store_ps(c->data + i, vc);
}
}

void vecAdd2(Vec *a, Vec *b, Vec *c) {
__m256 va, vb, vc;
for (int i = 0; i <= (a->n - N); i += N) {
va = _mm256_load_ps(a->data + i);
vb = _mm256_load_ps(b->data + i);
vc = _mm256_add_ps(va, vb);
_mm256_store_ps(c->data + i, vc);
}
}

void vecAdd3(Vec *a, Vec *b, Vec *c) {
__m256 va, vb, vc;
float *pa = a->data, *pb = b->data, *pc = c->data;
for (int i = 0; i <= (a->n - N); i += N) {
va = _mm256_load_ps(pa + i);
vb = _mm256_load_ps(pb + i);
vc = _mm256_add_ps(va, vb);
_mm256_store_ps(pc + i, vc);
}
}

void vecAdd4(Vec *a, Vec *b, Vec *c) {
__m256 va, vb, vc;
float *pa = a->data, *pb = b->data, *pc = c->data;
int ae = a->n - N;
for (int i = 0; i <= ae; i += N) {
va = _mm256_load_ps(pa + i);
vb = _mm256_load_ps(pb + i);
vc = _mm256_add_ps(va, vb);
_mm256_store_ps(pc + i, vc);
}
}



int
main()
{
Vec a, b, c;
vecCreate(1000, &a);
vecCreate(1000, &b);
vecCreate(1000, &c);
vecAdd1(&a, &b, &c);
vecAdd2(&a, &b, &c);
vecAdd3(&a, &b, &c);
vecAdd4(&a, &b, &c);
printf("%g\n", c.data[123]);
return 0;
}

(仅评论: -N<= 用于将处理限制为可以加载和存储整个 SIMD vector 的部分。我省略了顺序后置码。)

这是编译器调用:

gcc -O3 -mno-avx256-split-unaligned-load -mno-avx256-split-unaligned-store -march=native -masm=intel -save-temps -std=c99 -Wall -o vecadd vecadd.c

我使用的是7.5.0版本。下面我只展示vecadd.s中的汇编代码的相关部分。 .

vecAdd1() ,循环有一个非常高效的实现:加载一个 SIMD vector ,添加第二个 vector ,存储到结果,前进指针,检查循环结束:

.L5:
vmovaps ymm0, YMMWORD PTR [rdi+rax]
vaddps ymm0, ymm0, YMMWORD PTR [rsi+rax]
vmovaps YMMWORD PTR [rcx+rax], ymm0
add rax, 32
cmp rdx, rax
jne .L5

如果我省略 restrict vecAdd2() 中参数列表中的关键字,循环变得非常低效:在循环内,三个 data指针和大小 n每次加载、处理和存储 SIMD vector 并检查循环条件之前都会重新加载:

.L10:
mov r10, QWORD PTR 8[rdi]
mov r9, QWORD PTR 8[rsi]
add r8d, 8
mov rcx, QWORD PTR 8[rdx]
vmovaps ymm0, YMMWORD PTR [r10+rax]
vaddps ymm0, ymm0, YMMWORD PTR [r9+rax]
vmovaps YMMWORD PTR [rcx+rax], ymm0
mov ecx, DWORD PTR [rdi]
add rax, 32
sub ecx, 7
cmp ecx, r8d
jg .L10

版本vecAdd3()data指针不会重新加载(它们在循环之前加载一次),但大小 n已重新加载:

.L15:
vmovaps ymm0, YMMWORD PTR -32[r8+rax*4]
mov ecx, eax
vaddps ymm0, ymm0, YMMWORD PTR -32[rsi+rax*4]
vmovaps YMMWORD PTR -32[r9+rax*4], ymm0
mov edx, DWORD PTR [rdi]
add rax, 8
sub edx, 7
cmp edx, ecx
jg .L15

仅当我复制全部data时指针和 nvecAdd4() 中的局部变量,代码类似于 vecAdd1() 中的代码:

.L20:
vmovaps ymm0, YMMWORD PTR [rcx+rax]
vaddps ymm0, ymm0, YMMWORD PTR [rsi+rax]
vmovaps YMMWORD PTR [r8+rax], ymm0
add rax, 32
cmp rdx, rax
jne .L20

所以,重复我的问题:假设我想避免特定于编译器的 restrict C++ 中的替换。因此我使用非 restrict参数,但将它们复制到本地(也非 restrict )变量。是否保证编译器不会假设局部变量可以别名(即使函数参数可以)?

(附带问题:我复制结构组件与这个问题相关吗?)

最佳答案

一般来说,局部变量无法实现与restrict等别名指令相同的优化功能。

例如想象一下 vecAdd4 中的循环由编译器展开:

  for (int i = 0; i <= ae / 2; i += 2*N) {
va_1 = _mm256_load_ps(pa + i);
vb_1 = _mm256_load_ps(pb + i);
vc_1 = _mm256_add_ps(va_1, vb_1);
_mm256_store_ps(pc + i, vc_1);
va_2 = _mm256_load_ps(pa + i + 1);
vb_2 = _mm256_load_ps(pb + i + 1);
vc_2 = _mm256_add_ps(va_2, vb_2);
_mm256_store_ps(pc + i + 1, vc_2);
}

在这种情况下,它无法在第一个 _mm256_store_ps 内在函数(以隐藏延迟)之前移动 va_2va_3 加载,因为它们之间可能存在混叠pa + ipc + i

假设所有abcpapbpc 没有别名,我建议将它们标记为这样:

void vecAdd5(Vec * restrict a, Vec * restrict b, Vec * restrict c) {
__m256 va, vb, vc;
float * restrict pa = a->data, * restrict pb = b->data, * restrict pc = c->data;
for (int i = 0; i <= a->n - N; i += N) {
va = _mm256_load_ps(pa + i);
vb = _mm256_load_ps(pb + i);
vc = _mm256_add_ps(va, vb);
_mm256_store_ps(pc + i, vc);
}
}

这实现了与 vecAdd4 相同的组装,并且手动工作少得多:

        vmovaps ymm1, YMMWORD PTR [rcx+rax*4]
vaddps ymm0, ymm1, YMMWORD PTR [rsi+rax*4]
vmovaps YMMWORD PTR [rdi+rax*4], ymm0
add rax, 8
cmp edx, eax
jg .L3

关于c++ - C/C++ : emulating restrict keyword by copying arguments to local variables,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63133816/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com