- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有 2 个不同的程序。
首先使用opencl进行矩阵-矩阵乘法。在我的 GPU 上它产生的结果比在主机 CPU 上要好得多(例如 0.2 秒对 18 秒)。
其次使用 opencl 进行矩阵向量乘法,它在 GPU 上的运行速度稍慢,然后在主机 CPU 上运行。
原因是什么?
这是内核
__kernel void matrixVectorMul(__global float* resultVector,
__global float* matrixA,
__global float* vectorB,
int width_A)
{
int tx = get_global_id(0);
float value = 0;
for (unsigned int k = 0; k < width_A; ++k) {
value += matrixA[tx * width_A + k] * vectorB[k];
}
resultVector[tx] = value;
}
和主机代码
#include <stdlib.h>
#define __CL_ENABLE_EXCEPTIONS
#include "cl.hpp"
#include <fstream>
#include <iostream>
#include <time.h>
#include <cmath>
#define LOCAL_SIZE 512
#define WIDTH_A (4096*2)
#define HEIGHT_A (4096*2)
float *matrix_A;
float *vector_B;
float *result_vector;
float *result_vector_host;
void randomInit(float *data, int size) {
for (unsigned int i = 0; i < size; ++i)
data[i] = rand() / (float)RAND_MAX;
}
void GenerateTestData() {
srand((unsigned int)time(NULL));
unsigned int size_A = WIDTH_A * HEIGHT_A;
matrix_A = new float[size_A];
vector_B = new float[WIDTH_A];
randomInit(matrix_A, size_A);
randomInit(vector_B, WIDTH_A);
result_vector = new float[WIDTH_A];
result_vector_host = new float[WIDTH_A];
}
void PerformCalculationOnDevice(cl::Device device) {
clock_t start_t, end_t;
start_t = clock();
std::vector<cl::Device> contextDevices;
contextDevices.push_back(device);
cl::Context context(contextDevices);
cl::CommandQueue queue(context, device);
std::fill_n(result_vector, WIDTH_A, 0);
cl::Buffer cl_matrix_A = cl::Buffer(context, CL_MEM_READ_ONLY|CL_MEM_COPY_HOST_PTR, WIDTH_A * HEIGHT_A * sizeof(float), matrix_A);
cl::Buffer cl_vector_B = cl::Buffer(context, CL_MEM_READ_ONLY|CL_MEM_COPY_HOST_PTR, WIDTH_A * sizeof(float), vector_B);
cl::Buffer cl_result_vector = cl::Buffer(context, CL_MEM_WRITE_ONLY|CL_MEM_COPY_HOST_PTR, WIDTH_A * sizeof(float), result_vector);
end_t = clock();
std::cout << "Context, queue, buffers " << (float)(end_t - start_t) / CLOCKS_PER_SEC << std::endl;
std::ifstream sourceFile("MatrixVectorMultiplicationKernel.cl");
std::string sourceCode(std::istreambuf_iterator<char>(sourceFile),(std::istreambuf_iterator<char>()));
cl::Program::Sources source(1, std::make_pair(sourceCode.c_str(), sourceCode.length()+1));
cl::Program program = cl::Program(context, source);
program.build(contextDevices);
cl::Kernel kernel(program, "matrixVectorMul");
int iArg = 0;
kernel.setArg(iArg++, cl_result_vector);
kernel.setArg(iArg++, cl_matrix_A);
kernel.setArg(iArg++, cl_vector_B);
kernel.setArg(iArg++, WIDTH_A);
start_t = clock();
queue.enqueueNDRangeKernel(kernel, cl::NullRange, cl::NDRange(HEIGHT_A), cl::NDRange(LOCAL_SIZE));
queue.finish();
queue.enqueueReadBuffer(cl_result_vector, CL_TRUE, 0, WIDTH_A * sizeof(float), result_vector);
end_t = clock();
std::cout << "enqueueNDRangeKernel and enqueueReadBuffer " << (float)(end_t - start_t) / CLOCKS_PER_SEC << std::endl;
}
void PerformCalculationOnHost() {
float tmp;
for(int row_A = 0; row_A < HEIGHT_A; row_A++) {
tmp = 0;
for(int col_A = 0; col_A < WIDTH_A; col_A++) {
tmp += matrix_A[row_A * WIDTH_A + col_A] * vector_B[col_A];
}
result_vector_host[row_A] = tmp;
}
}
int main(int argc, char** argv) {
GenerateTestData();
std::vector<cl::Platform> platforms;
cl::Platform::get(&platforms);
std::vector<cl::Device> devices;
clock_t start_t = clock();
for (unsigned int iPlatform=0; iPlatform<platforms.size(); iPlatform++) {
platforms[iPlatform].getDevices(CL_DEVICE_TYPE_ALL, &devices);
for (unsigned int iDevice=0; iDevice<devices.size(); iDevice++) {
try {
PerformCalculationOnDevice(devices[iDevice]);
} catch (cl::Error error) {
std::cout << error.what() << "(" << error.err() << ")" << std::endl;
}
}
}
clock_t end_t = clock();
std::cout << "Device: " << (float)(end_t - start_t) / CLOCKS_PER_SEC << " seconds" << std::endl;
start_t = clock();
PerformCalculationOnHost();
end_t = clock();
std::cout << "Host: " << (float)(end_t - start_t) / CLOCKS_PER_SEC << " seconds" << std::endl;
int errors = 0;
float mean_deviation = 0;
FILE *f, *f_host;
f = fopen("device_result", "w");
f_host = fopen("host_result", "w");
for(int i = 0; i < WIDTH_A; i++) {
if(fabs(result_vector[i] - result_vector_host[i]) > 1E-3) {
errors++;
}
fprintf(f, "%.2f\n", result_vector[i]);
fprintf(f_host, "%.2f\n", result_vector_host[i]);
mean_deviation += fabs(result_vector[i] - result_vector_host[i]);
}
fclose(f); fclose(f_host);
mean_deviation /= WIDTH_A;
std::cout << "Errors = " << errors << std::endl;
std::cout << "Mean deviation = " << mean_deviation << std::endl;
delete[](matrix_A);
delete[](vector_B);
delete[](result_vector);
delete[](result_vector_host);
return 0;
}
当我运行它时,我得到以下结果
Context, queue, buffers 0.45
enqueueNDRangeKernel and enqueueReadBuffer 1.31
Device: 1.79 seconds
Host: 1.42 seconds
Errors = 0
Mean deviation = 8.78572e-05
最佳答案
在这种情况下,为了提高 GPU 效率,需要更多的工作项(每个输出值一个是不够的)并且计算/内存访问比率应该更高(即尽可能多次重用值)。
我前段时间写过几页关于这个问题,如果你有兴趣:GPU matrix-vector product .
关于opencl - 使用 OpenCL 的矩阵向量乘法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/15597299/
我想用一个向量执行以下操作。 a = np.array(np.arange(0, 4, 1)) 我想得到一个乘法,结果是一个矩阵 | 0 1 2 3 4 -| - - - - - - - 0
正如标题所述,我正在尝试使用 gsub,其中我使用向量作为“模式”和“替换”。目前,我的代码如下所示: names(x1) names(x1) [1] "2110023264A.Ms.Amp
所以当我需要做一些线性代数时,我更容易将向量视为列向量。因此,我更喜欢 (n,1) 这样的形状。 形状 (n,) 和 (n,1) 之间是否存在显着的内存使用差异? 什么是首选方式? 以及如何将 (n,
我不明白为什么 seq() 可以根据元素中是否存在小数点输出不同的类,而 c() 总是创建一个 num向量,无论是否存在小数。 例如: seqDec <- seq(1, 2, 0.5) # num v
机器学习与传统编程的一个重要区别在于机器学习比传统编程涉及了更多的数学知识。不过,随着机器学习的飞速发展,各种框架应运而生,在数据分析等应用中使用机器学习时,使用现成的库和框架成为常态,似乎越来越不需
寻找有关如何将 RegEnable 用作向量的示例/建议。此外,我想控制输入和使能信号成为 Vector 中寄存器索引的函数。 首先,我如何声明 RegEnable() 的 Vector,其次如何迭代
假设我有一个包含变量名称的向量 v1,我想为每个变量分配一个值(存储在单独的向量中)。我如何在没有迭代的情况下做到这一点? v1 <- c("a","b","c") v2 <- c(1,2,3) 我想
R 提供了三种类型来存储同质对象列表:向量、矩阵 和数组。 据我所知: 向量是一维数组的特殊情况 矩阵是二维数组的特例 数组还可以具有任意维度级别(包括 1 和 2)。 在向量上使用一维数组和在矩阵上
我正在绕着numpy/scipy中的所有选项转圈。点积、乘法、matmul、tensordot、einsum 等 我想将一维向量与二维矩阵(这将是稀疏csr)相乘并对结果求和,这样我就有了一个一维向量
我是一个 IDL 用户,正在慢慢切换到 numpy/scipy,并且有一个操作我在 IDL 中非常经常做,但无法用 numpy 重现: IDL> a = [2., 4] IDL> b = [3., 5
在python计算机图形工具包中,有一个vec3类型用于表示三分量向量,但是我如何进行以下乘法: 三分量向量乘以其转置结果得到 3*3 矩阵,如下例所示: a = vec3(1,1,1) matrix
我正在构建一款小型太空射击游戏。当涉及到空间物理学时,我曾经遇到过数学问题。 用文字描述如下:有一个最大速度。因此,如果您全速行驶,您的飞船将在屏幕上一遍又一遍地移动,就像在旧的小行星游戏中一样。如果
我正在尝试在 python 中实现 Vector3 类。如果我用 c++ 或 c# 编写 Vector3 类,我会将 X、Y 和 Z 成员存储为 float ,但在 python 中,我读到鸭式是要走
我是 Spark 和 Scala 的新手,我正在尝试阅读有关 MLlib 的文档。 http://spark.apache.org/docs/1.4.0/mllib-data-types.html上的
我有一个包含四个逻辑向量的数据框, v1 , v2 , v3 , v4 是对还是错。我需要根据 boolean 向量的组合对数据帧的每一行进行分类(例如, "None" , "v1 only" , "
我正在创建一个可视化来说明主成分分析的工作原理,方法是绘制一些实际数据的特征值(为了说明的目的,我将子集化为二维)。 我想要来自 this fantastic PCA tutorial 的这两个图的组
我有以下排序向量: > v [1] -1 0 1 2 4 5 2 3 4 5 7 8 5 6 7 8 10 11 如何在不遍历整个向量的情况下删除 -1、0 和 11
有什么方法可以让 R 对向量和其他序列数据结构使用基于零的索引,例如在 C 和 python 中。 我们有一些代码在 C 中进行一些数值处理,我们正在考虑将其移植到 R 中以利用其先进的统计功能,但是
我有一个函数可以查询我的数据库中最近的 X 个条目,它返回一个 map 向量,如下所示: [{:itemID "item1" :category "stuff" :price 5} {:itemI
我有 ([[AA ww me bl qw 100] [AA ee rr aa aa 100] [AA qq rr aa aa 90]] [[CC ww me bl qw 100] [CC ee rr
我是一名优秀的程序员,十分优秀!