- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有一些(比如说一百万个)4 x 3 的小矩阵。我想用它们做几个简单的操作,我希望我的 CUDA 内核只并行化矩阵索引,(不是行/列操作).让我更好地解释一下:我将矩阵数组 A[MatrixNumb][row][col] 作为输入传递给我的 GPU 内核,我希望操作并行化仅在 MatrixNumb 上进行(因此我想强制操作在一个维度。为了简单起见,下面的示例仅使用 3 个矩阵。它编译并运行,但它给了我错误的结果。基本上,它返回的矩阵与我作为输入提供的矩阵相同。我不明白为什么以及我是否正在制作任何错误,我如何重写/思考代码?我也使用 CudaMallocManaged 编写代码,以便在主机和设备之间共享内存,但是它使用经典的 CudaMalloc 和使用 memcpy 给我相同的结果。
源.cpp
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <iostream>
#include <assert.h>
#include <chrono>
#include <random>
#include <time.h>
#include <math.h>
#include <cuda_runtime.h>
#include "device_launch_parameters.h"
#include <cuda.h>
#include <device_functions.h>
using namespace std;
__global__ void SVD(double*** a, const int m, const int n, const int numMatrices, double** w)
{
int idx = blockIdx.x * blockDim.x + threadIdx.x;
// I would like that each thread runs these loops independently
for (int i = 0; i < m; i++) {
for (int j = 0; j < n; j++) {
a[idx][i][j] = (a[idx][i][j] * a[idx][i][j]) * 3.14;
}
}
for (int j = 0; j < n; j++) {
w[idx][j] = 3.14 * a[idx][1][j]* a[idx][1][j];
}
}
int main()
{
const int n = 3;
const int m = 4;
const int lda = m;
const int numMatrices = 3;
random_device device;
mt19937 generator(device());
uniform_real_distribution<double> distribution(1., 5.);
// create pointers
double*** A = new double** [numMatrices];
double** w = new double* [numMatrices];
//ALLOCATE SHARED MEMORY
for (int nm = 0; nm < numMatrices; nm++) {
A[nm] = new double* [lda];
w[nm] = new double[n];
for (int i = 0; i < lda; i++) {
A[nm][i] = new double[n];
for (int j = 0; j < n; j++) {
cudaMallocManaged((void**)&A[nm][i][j], sizeof(double));
cudaMallocManaged((void**)&w[nm][j], sizeof(double));
}
}
}
cout << " memory allocated" << endl;
//FILL MATRICES INTO SHARED MEMORY
for (int nm = 0; nm < numMatrices; nm++) {
A[nm] = new double* [lda];
w[nm] = new double[n];
for (int i = 0; i < lda; i++) {
A[nm][i] = new double[n];
for (int j = 0; j < n; j++) {
A[nm][i][j] = distribution(generator);
w[nm][j] = 0.0;
}
}
}
cout << " matrix filled " << endl;
// PRINT MATRICES BEFORE CUDA OPERATION
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < lda; i++) {
for (int j = 0; j < n; j++) {
cout << A[nm][i][j] << " ";
}
cout << endl;
}
cout << endl;
}
//KERNEL ----------------------------------------------------------------------
int NThreads = 3;
int NBlocks = int(numMatrices / NThreads + 1);
SVD << <NBlocks, NThreads >> > (A, n, m, numMatrices, w);
cudaDeviceSynchronize();
cout << " Kernel done " << endl << endl;
cout << " --- GPU --- " << endl;
cout << " NEW MATRIX: " << endl;
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < lda; i++) {
for (int j = 0; j < n; j++) {
cout << A[nm][i][j] << " ";
}
cout << endl;
}
cout << endl;
}
cout << " NEW VECTOR RESULTS: " << endl;
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < n; i++) {
cout << w[nm][i] << " ";
}
cout << endl;
}
cout << endl;
//FREE THE DEVICE'S MEMORY -----------------------------------------------------
cudaFree(A);
cudaFree(w);
cout << " Cuda free " << endl << endl;
return 0;
}
我得到的(错误的)输出如下:
memory allocated
matrix filled
1.28689 3.76588 3.88649
1.52547 4.42371 2.62566
1.48002 3.33719 1.58413
3.78243 2.8394 3.0249
1.14322 1.70261 2.02784
2.86852 2.87918 3.2896
4.87268 3.52447 1.58414
3.52306 3.84931 3.18212
1.76397 1.41317 4.9765
1.63338 4.79316 2.64009
1.99873 1.72617 1.15974
1.18922 4.21513 1.6695
Kernel done
--- GPU ---
NEW MATRIX:
1.28689 3.76588 3.88649
1.52547 4.42371 2.62566
1.48002 3.33719 1.58413
3.78243 2.8394 3.0249
1.14322 1.70261 2.02784
2.86852 2.87918 3.2896
4.87268 3.52447 1.58414
3.52306 3.84931 3.18212
1.76397 1.41317 4.9765
1.63338 4.79316 2.64009
1.99873 1.72617 1.15974
1.18922 4.21513 1.6695
NEW VECTOR RESULTS:
0 0 0
0 0 0
0 0 0
Cuda free
我期望通过以下操作修改新矩阵和 vector :a[idx][i][j] = (a[idx][i][j] * a[idx][i][j]) * 3.14;但是,看起来代码没有看到内核或内核无法正常工作。
最佳答案
你有几个问题:
n
、m
倒转)。.cu
文件中,而不是 .cpp
文件中。以下代码解决了上述问题,并且运行时似乎没有运行时错误。
$ cat t61.cu
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <iostream>
#include <assert.h>
#include <chrono>
#include <random>
#include <time.h>
#include <math.h>
using namespace std;
__global__ void SVD(double*** a, const int m, const int n, const int numMatrices, double** w)
{
int idx = blockIdx.x * blockDim.x + threadIdx.x;
if (idx < numMatrices){
// I would like that each thread runs these loops independently
for (int i = 0; i < m; i++) {
for (int j = 0; j < n; j++) {
a[idx][i][j] = (a[idx][i][j] * a[idx][i][j]) * 3.14;
}
}
for (int j = 0; j < n; j++) {
w[idx][j] = 3.14 * a[idx][1][j]* a[idx][1][j];
}
}
}
int main()
{
const int n = 3;
const int m = 4;
const int lda = m;
const int numMatrices = 3;
random_device device;
mt19937 generator(device());
uniform_real_distribution<double> distribution(1., 5.);
// create pointers
double*** A;
cudaMallocManaged(&A, sizeof(double**)*numMatrices);
double** w;
cudaMallocManaged(&w, sizeof(double*)* numMatrices);
//ALLOCATE SHARED MEMORY
for (int nm = 0; nm < numMatrices; nm++) {
cudaMallocManaged(&(A[nm]), sizeof(double*)*lda);
cudaMallocManaged(&(w[nm]), sizeof(double)*n);
for (int i = 0; i < lda; i++) {
cudaMallocManaged(&(A[nm][i]), sizeof(double)*n);
}
}
cout << " memory allocated" << endl;
//FILL MATRICES INTO SHARED MEMORY
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < lda; i++) {
for (int j = 0; j < n; j++) {
A[nm][i][j] = distribution(generator);
w[nm][j] = 0.0;
}
}
}
cout << " matrix filled " << endl;
// PRINT MATRICES BEFORE CUDA OPERATION
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < lda; i++) {
for (int j = 0; j < n; j++) {
cout << A[nm][i][j] << " ";
}
cout << endl;
}
cout << endl;
}
//KERNEL ----------------------------------------------------------------------
int NThreads = 3;
int NBlocks = int(numMatrices / NThreads + 1);
SVD << <NBlocks, NThreads >> > (A, m, n, numMatrices, w);
cudaDeviceSynchronize();
cout << " Kernel done " << endl << endl;
cout << " --- GPU --- " << endl;
cout << " NEW MATRIX: " << endl;
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < lda; i++) {
for (int j = 0; j < n; j++) {
cout << A[nm][i][j] << " ";
}
cout << endl;
}
cout << endl;
}
cout << " NEW VECTOR RESULTS: " << endl;
for (int nm = 0; nm < numMatrices; nm++) {
for (int i = 0; i < n; i++) {
cout << w[nm][i] << " ";
}
cout << endl;
}
cout << endl;
//FREE THE DEVICE'S MEMORY -----------------------------------------------------
cudaFree(A);
cudaFree(w);
cout << " Cuda free " << endl << endl;
return 0;
}
$ nvcc -o t61 t61.cu
$ cuda-memcheck ./t61
========= CUDA-MEMCHECK
memory allocated
matrix filled
3.73406 3.51919 3.249
1.52374 2.678 2.50944
3.67358 1.15831 3.26327
2.58468 1.49937 2.67133
1.72144 2.99183 3.11156
1.06247 3.34983 4.23568
3.49749 3.07641 3.42827
4.09607 2.00557 2.12049
3.65427 3.98966 4.73428
1.68397 4.3746 2.95533
2.1914 4.96086 1.7165
3.10095 2.61781 4.52626
Kernel done
--- GPU ---
NEW MATRIX:
43.7816 38.888 33.1458
7.29041 22.5191 19.7735
42.375 4.2129 33.4376
20.977 7.05908 22.407
9.30494 28.1062 30.4008
3.54453 35.2351 56.3348
38.41 29.7179 36.9045
52.6821 12.6301 14.1189
41.9306 49.9807 70.3782
8.90432 60.0905 27.4247
15.079 77.2757 9.25165
30.1939 21.5182 64.3294
NEW VECTOR RESULTS:
166.891 1592.32 1227.71
39.4501 3898.35 9965.14
248.961 11338.1 2361.64
Cuda free
========= ERROR SUMMARY: 0 errors
$
关于c++ - CUDA 中的并行批处理小矩阵不适用于 for 循环,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/64414577/
#include using namespace std; class C{ private: int value; public: C(){ value = 0;
这个问题已经有答案了: What is the difference between char a[] = ?string?; and char *p = ?string?;? (8 个回答) 已关闭
关闭。此题需要details or clarity 。目前不接受答案。 想要改进这个问题吗?通过 editing this post 添加详细信息并澄清问题. 已关闭 7 年前。 此帖子已于 8 个月
除了调试之外,是否有任何针对 c、c++ 或 c# 的测试工具,其工作原理类似于将独立函数复制粘贴到某个文本框,然后在其他文本框中输入参数? 最佳答案 也许您会考虑单元测试。我推荐你谷歌测试和谷歌模拟
我想在第二台显示器中移动一个窗口 (HWND)。问题是我尝试了很多方法,例如将分辨率加倍或输入负值,但它永远无法将窗口放在我的第二台显示器上。 关于如何在 C/C++/c# 中执行此操作的任何线索 最
我正在寻找 C/C++/C## 中不同类型 DES 的现有实现。我的运行平台是Windows XP/Vista/7。 我正在尝试编写一个 C# 程序,它将使用 DES 算法进行加密和解密。我需要一些实
很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visit the help center . 关闭 1
有没有办法强制将另一个 窗口置于顶部? 不是应用程序的窗口,而是另一个已经在系统上运行的窗口。 (Windows, C/C++/C#) 最佳答案 SetWindowPos(that_window_ha
假设您可以在 C/C++ 或 Csharp 之间做出选择,并且您打算在 Windows 和 Linux 服务器上运行同一服务器的多个实例,那么构建套接字服务器应用程序的最明智选择是什么? 最佳答案 如
你们能告诉我它们之间的区别吗? 顺便问一下,有什么叫C++库或C库的吗? 最佳答案 C++ 标准库 和 C 标准库 是 C++ 和 C 标准定义的库,提供给 C++ 和 C 程序使用。那是那些词的共同
下面的测试代码,我将输出信息放在注释中。我使用的是 gcc 4.8.5 和 Centos 7.2。 #include #include class C { public:
很难说出这里问的是什么。这个问题是含糊的、模糊的、不完整的、过于宽泛的或修辞性的,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开它,visit the help center 。 已关
我的客户将使用名为 annoucement 的结构/类与客户通信。我想我会用 C++ 编写服务器。会有很多不同的类继承annoucement。我的问题是通过网络将这些类发送给客户端 我想也许我应该使用
我在 C# 中有以下函数: public Matrix ConcatDescriptors(IList> descriptors) { int cols = descriptors[0].Co
我有一个项目要编写一个函数来对某些数据执行某些操作。我可以用 C/C++ 编写代码,但我不想与雇主共享该函数的代码。相反,我只想让他有权在他自己的代码中调用该函数。是否可以?我想到了这两种方法 - 在
我使用的是编写糟糕的第 3 方 (C/C++) Api。我从托管代码(C++/CLI)中使用它。有时会出现“访问冲突错误”。这使整个应用程序崩溃。我知道我无法处理这些错误[如果指针访问非法内存位置等,
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 7 年前。
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的,因为
我有一些 C 代码,将使用 P/Invoke 从 C# 调用。我正在尝试为这个 C 函数定义一个 C# 等效项。 SomeData* DoSomething(); struct SomeData {
这个问题已经有答案了: Why are these constructs using pre and post-increment undefined behavior? (14 个回答) 已关闭 6
我是一名优秀的程序员,十分优秀!