- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在学习 C++ 以及机器学习,所以我决定使用 Eigen 库进行矩阵乘法。我正在训练一个感知器来识别 MNIST 数据库中的数字。对于训练阶段,我将训练周期(或纪元)的数量设置为 T = 100。
“训练矩阵”是一个 10000 x 785 矩阵。每行的第零个元素包含“标签”,用于标识输入数据(该行的其余 784 个元素)映射到的数字。
还有一个 784 x 1“权重” vector ,其中包含 784 个特征中每个特征的权重。权重 vector 将与每个输入 vector (训练矩阵的一行,不包括第零个元素)相乘,并在每次迭代时更新,这对于 10000 个输入中的每一个都会发生 T 次。
我编写了以下程序(它捕获了我正在做的事情的本质),我在其中将矩阵的行与权重 vector 相乘(使用 std::vector 和循环)的“普通”方法与什么进行了比较我觉得这是我能用 Eigen 方法做的最好的事情。它并不是真正的矩阵与 vector 的乘法,我实际上是对训练矩阵的行进行切片并将其与权重 vector 相乘。
std::vector 方法的训练周期持续时间为 160.662 毫秒,而 Eigen 方法通常超过 10,000 毫秒。
我使用以下命令编译程序:
clang++ -Wall -Wextra -pedantic -O3 -march=native -Xpreprocessor -fopenmp permute.cc -o perm -std=c++17
我使用的是运行 macOS Catalina 并配备 2.5 GHz 双核 i5 的“中期”2012 MacBook Pro。
#include <iostream>
#include <algorithm>
#include <random>
#include <Eigen/Dense>
#include <ctime>
#include <chrono>
using namespace Eigen;
int main() {
Matrix<uint8_t, Dynamic, Dynamic> m = Matrix<uint8_t, Dynamic, Dynamic>::Random(10000, 785);
Matrix<double, 784, 1> weights_m = Matrix<double, 784, 1>::Random(784, 1);
Matrix<uint8_t, 10000, 1> y_m, t_m;
std::minstd_rand rng;
rng.seed(time(NULL));
std::uniform_int_distribution<> dist(0,1); //random integers between 0 and 1
for (int i = 0; i < y_m.rows(); i++) {
y_m(i) = dist(rng);
t_m(i) = dist(rng);
}
int T = 100;
int err;
double eta;
eta = 0.25; //learning rate
Matrix<double, 1, 1> sum_wx_m;
auto start1 = std::chrono::steady_clock::now(); //start of Eigen Matrix loop
for (int iter = 0; iter < T; iter++) {
for (int i = 0; i < m.rows(); i++) {
sum_wx_m = m.block(i, 1, 1, 784).cast<double>() * weights_m;
//some code to update y_m(i) based on the value of sum_wx_m which I left out
err = y_m(i) - t_m(i);
if (fabs(err) > 0) { //update the weights_m matrix if there's a difference between target and predicted
weights_m = weights_m - eta * err * m.block(i, 1, 1, 784).transpose().cast<double>();
}
}
}
auto end1 = std::chrono::steady_clock::now();
auto diff1 = end1 - start1;
std::cout << "Eigen matrix time is "<<std::chrono::duration <double, std::milli> (diff1).count() << " ms" << std::endl;
//checking how std::vector form performs;
std::vector<std::vector<uint8_t>> v(10000);
std::vector<double> weights_v(784);
std::vector<uint8_t> y_v(10000), t_v(10000);
for (unsigned long i = 0; i < v.size(); i++) {
for (int j = 0; j < m.cols(); j++) {
v[i].push_back(m(i, j));
}
}
for (unsigned long i = 0; i < weights_v.size(); i++) {
weights_v[i] = weights_m(i);
}
for (unsigned long i = 0; i < y_v.size(); i++) {
y_v[i] = dist(rng);
t_v[i] = dist(rng);
}
double sum_wx_v;
auto start2 = std::chrono::steady_clock::now(); //start of vector loop
for (int iter = 0; iter < T; iter++) {
for(unsigned long j = 0; j < v.size(); j++) {
sum_wx_v = 0.0;
for (unsigned long k = 1; k < v[0].size() ; k++) {
sum_wx_v += weights_v[k - 1] * v[j][k];
}
//some code to update y_v[i] based on the value of sum_wx_v which I left out
err = y_v[j] - t_v[j];
if (fabs(err) > 0) {//update the weights_v matrix if there's a difference between target and predicted
for (unsigned long k = 1; k < v[0].size(); k++) {
weights_v[k - 1] -= eta * err * v[j][k];
}
}
}
}
auto end2 = std::chrono::steady_clock::now();
auto diff2 = end2 - start2;
std::cout << "std::vector time is "<<std::chrono::duration <double, std::milli> (diff2).count() << " ms" << std::endl;
}
我应该进行哪些更改才能获得更好的运行时间?
最佳答案
可能不是最好的解决方案,但您可以尝试:
这是您根据这些想法修改的代码:
#include <iostream>
#include <algorithm>
#include <random>
#include <Eigen/Dense>
#include <ctime>
#include <chrono>
using namespace Eigen;
int main() {
Matrix<uint8_t, Dynamic, Dynamic> m = Matrix<uint8_t, Dynamic, Dynamic>::Random(785, 10000);
Map<Matrix<uint8_t, Dynamic, Dynamic>> m_data(m.data() + 785, 784, 10000);
Matrix<double, 784, 1> weights_m = Matrix<double, 784, 1>::Random(784, 1);
Matrix<uint8_t, 10000, 1> y_m, t_m;
std::minstd_rand rng;
rng.seed(time(NULL));
std::uniform_int_distribution<> dist(0,1); //random integers between 0 and 1
for (int i = 0; i < y_m.rows(); i++) {
y_m(i) = dist(rng);
t_m(i) = dist(rng);
}
int T = 100;
int err;
double eta;
eta = 0.25; //learning rate
Matrix<double, 1, 1> sum_wx_m;
auto start1 = std::chrono::steady_clock::now(); //start of Eigen Matrix loop
for (int iter = 0; iter < T; iter++) {
for (int i = 0; i < m.cols(); i++) {
sum_wx_m = weights_m.transpose() * m_data.col(i).cast<double>();
//some code to update y_m(i) based on the value of sum_wx_m which I left out
err = y_m(i) - t_m(i);
if (fabs(err) > 0) { //update the weights_m matrix if there's a difference between target and predicted
weights_m = weights_m - eta * err * m_data.col(i).cast<double>();
}
}
}
auto end1 = std::chrono::steady_clock::now();
auto diff1 = end1 - start1;
std::cout << "Eigen matrix time is "<<std::chrono::duration <double, std::milli> (diff1).count() << " ms" << std::endl;
//checking how std::vector form performs;
std::vector<std::vector<uint8_t>> v(10000);
std::vector<double> weights_v(784);
std::vector<uint8_t> y_v(10000), t_v(10000);
for (unsigned long i = 0; i < v.size(); i++) {
for (int j = 0; j < m.rows(); j++) {
v[i].push_back(m(j, i));
}
}
for (unsigned long i = 0; i < weights_v.size(); i++) {
weights_v[i] = weights_m(i);
}
for (unsigned long i = 0; i < y_v.size(); i++) {
y_v[i] = dist(rng);
t_v[i] = dist(rng);
}
double sum_wx_v;
auto start2 = std::chrono::steady_clock::now(); //start of vector loop
for (int iter = 0; iter < T; iter++) {
for(unsigned long j = 0; j < v.size(); j++) {
sum_wx_v = 0.0;
for (unsigned long k = 1; k < v[0].size() ; k++) {
sum_wx_v += weights_v[k - 1] * v[j][k];
}
//some code to update y_v[i] based on the value of sum_wx_v which I left out
err = y_v[j] - t_v[j];
if (fabs(err) > 0) {//update the weights_v matrix if there's a difference between target and predicted
for (unsigned long k = 1; k < v[0].size(); k++) {
weights_v[k - 1] -= eta * err * v[j][k];
}
}
}
}
auto end2 = std::chrono::steady_clock::now();
auto diff2 = end2 - start2;
std::cout << "std::vector time is "<<std::chrono::duration <double, std::milli> (diff2).count() << " ms" << std::endl;
}
我用 i7-9700K 在我的 Ubuntu 桌面上编译了这段代码:
g++ -Wall -Wextra -O3 -std=c++17
====================================
Eigen matrix time is 110.523 ms
std::vector time is 117.826 ms
g++ -Wall -Wextra -O3 -march=native -std=c++17
=============================================
Eigen matrix time is 66.3044 ms
std::vector time is 71.2296 ms
关于c++ - 矩阵乘法的 Eigen 代码运行速度比使用 std::vector 的循环乘法慢,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63423668/
假设我有两个矩阵,每个矩阵有两列和不同的行数。我想检查并查看一个矩阵的哪些对在另一个矩阵中。如果这些是一维的,我通常只会做 a %in% x得到我的结果。 match似乎只适用于向量。 > a
关闭。这个问题是opinion-based .它目前不接受答案。 想要改进这个问题? 更新问题,以便 editing this post 可以用事实和引用来回答它. 关闭 9 个月前。 Improv
我只处理过 DirectX 矩阵 我读过一些文章,说不能将 DirectX 矩阵数学库用于 openGL 矩阵。 但我也读过,如果你的数学是一致的,你可以获得类似的结果。那只会让我更加困惑。 任何人都
我编写了一个C++代码来解决线性系统A.x = b,其中A是一个对称矩阵,方法是首先使用LAPACK(E)对角矩阵A = V.D.V^T(因为以后需要特征值),然后求解x = A^-1.b = V^T
我遇到了问题。我想创建二维数组 rows=3 cols=2我的代码如下 int **ptr; int row=3; int col=2; ptr=new int *[col]; for (int i=
我有一个 3d mxnxt 矩阵,我希望能够提取 t 2d nxm 矩阵。在我的例子中,我有一个 1024x1024x10 矩阵,我想要 10 张图像显示给我。 这不是 reshape ,我每次只需要
我在 MATLAB 中有一个 3d 矩阵 (n-by-m-by-t) 表示一段时间内网格中的 n-by-m 测量值.我想要一个二维矩阵,其中空间信息消失了,只剩下 n*m 随着时间 t 的测量值(即:
作为一个简化的示例,我有一个 3D numpy 矩阵,如下所示: a = np.array([[[1,2], [4,np.nan], [7,
作为一个简化的示例,我有一个 3D numpy 矩阵,如下所示: a = np.array([[[1,2], [4,np.nan], [7,
使用 eigen2 , 并给定一个矩阵 A a_0_0, a_0_1, a_0_2, ... a_1_0, a_1_0, a_1_2, ... ... 和一个矩阵B: b_0_0, b_0_1, b_
我想知道如何获得下面的布局。 在中型和大型设备上,我希望有 2 行和 2 列的布局(2 x 2 矩阵)。 在小型(和超小型)设备上或调整为小型设备时,我想要一个 4 行和 1 列的矩阵。 我将通过 a
有什么方法可以向量化以下内容: for i = 1:6 te = k(:,:,:,i).*(c(i)); end 我正在尝试将 4D 矩阵 k 乘以向量 c,方法是将其
如何从填充有 1 和 0 的矩阵中抽取 n 个随机点的样本? a=rep(0:1,5) b=rep(0,10) c=rep(1,10) dataset=matrix(cbind(a,b,c),nrow
我正在尝试创建一个包含 X 个 X 的矩阵。以下代码生成从左上角到右下角的 X 对 Angular 线,而不是从右上角到左下角的 X 对 Angular 线。我不确定从哪里开始。是否应该使用新变量创建
我想在 python 中创建一个每行三列的矩阵,并能够通过任何一行对它们进行索引。矩阵中的每个值都是唯一的。 据我所知,我可以设置如下矩阵: matrix = [["username", "name"
我有点迷茫 我创建了一个名为 person 的类,它具有 age 和 name 属性(以及 get set 方法)。然后在另一个类中,我想创建一个 persons 数组,其中每个人都有不同的年龄和姓名
我有 n 个类,它们要么堆叠,要么不堆叠。所有这些类都扩展了同一个类 (CellObject)。我知道更多类将添加到此列表中,我想创建一种易于在一个地方操纵“可堆叠性”的方法。 我正在考虑创建一个矩阵
我有一个包含 x 个字符串名称及其关联 ID 的文件。本质上是两列数据。 我想要的是一个格式为 x x x 的相关样式表(将相关数据同时作为 x 轴和 y 轴),但我想要 fuzzywuzzy 库的函
机器学习与传统编程的一个重要区别在于机器学习比传统编程涉及了更多的数学知识。不过,随着机器学习的飞速发展,各种框架应运而生,在数据分析等应用中使用机器学习时,使用现成的库和框架成为常态,似乎越来越不需
当我在 julia 中输入这个错误跳转但我不知道为什么,它应该工作。/ julia> A = [1 2 3 4; 5 6 7 8; 1 2 3 4; 5 6 7 8] 4×4 Array{Int64,
我是一名优秀的程序员,十分优秀!