python - 优化 numpy 数组创建-6ren

python - 优化 numpy 数组创建

转载作者：行者123 更新时间：2023-12-03 17:11:37

我想优化我的代码。一个巨大的瓶颈在于创建一种小的 numpy 数组(重复了很多次)。现在，我无法避免对该函数的调用次数(在我的情况下为数百万次调用)。我无法将所有这些调用一起矢量化，因为不幸的是，根据问题的定义，它们是后续的(它们是在每个独立的内部循环的 Newton 求解器中生成的)。所以我的目标是减少在每次迭代中创建该矩阵所需的时间。哪怕是一点点的收获，最终都会产生很大的影响。

def compute_matrix(a, my_dict):
    m = np.zeros(a, a)
    m[0][0] = my_dict['value00']
    m[0][1] = my_dict['value01']
    m[1][1] = my_dict['value11']
    m[1][3] = my_dict['value13']
    m[1][4] = my_dict['value14']
    # ... The array is very sparse, but not banded or with any regular pattern, see below for an example with values
    m[34][35] = my_dict['value3435']

请注意，我简化了示例，实际上，它看起来像:

m[idx['val0']][idx['val0']] = my_dict['val0']['value_a']
m[idx['val0']][idx['val1']] = my_dict['val0']['value_b']

其中 idx 是一个字典，将 'val0' 链接到它在(方形)数组中的索引，例如，idx['val0'] = 0 和 idx['val1'] = 1。

你认为最好的策略是什么(欢迎多种策略，我想优化这个 hell ，因为这是我最大的瓶颈，我浪费了 60% 的时间!)。

我的主要想法是将 Cython/Numba 用于该功能，具体取决于每个(可能是 Cython)的易用性。我过去曾使用 C-API 优化过代码，但由于 numpy 对象，我看不到它如何真正应用于这里，而且无论如何开销可能太高，因为数组非常小(~ 40*40)。

数组中的非零值会改变，但零将始终保持为零。也许使用此属性可行？

您是否可以在这里看到低悬的优化成果，或者 Cython 是我唯一真正的选择？或者 Cython 甚至根本不可能有多大帮助？

结束矩阵的一个例子:

[[-6.3e-10     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0     1.7e-11     0     6.5e-10     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0    -3.4e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0     8.0e-10  4.9e-04     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0    -4.0e-09  9.7e-13     0        0        0        0        0        0     4.9e-08     0        0        0        0        0        0        0     3.8e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0     3.4e-06  1.3e-09 -4.9e-09  8.9e-13     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0     7.2e-10 -1.8e-09  5.3e-12     0        0        0        0        0        0     1.2e-09     0        0        0        0        0        0        0     1.9e-04     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0     9.0e-10 -7.6e-09  1.7e-12     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0     7.9e-10 -6.4e-10     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0     2.1e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0     1.5e-09     0    -4.1e-09  1.3e-12     0        0        0        0        0        0        0        0        0        0        0        0        0     1.5e-12     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0     5.5e-10 -8.1e-09  1.6e-13     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0     9.1e-10 -3.2e-09     0        0        0        0        0        0        0        0        0        0        0        0     7.0e-10  5.9e-12  5.9e-12     0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0    -5.0e-08  9.1e-13     0        0        0        0        0        0        0        0        0        0     9.9e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0     4.2e-10 -7.1e-09  5.9e-13     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0        0     1.0e-09 -3.5e-09  2.0e-12     0        0        0        0        0        0        0        0        0     1.9e-05  4.4e-04     0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0        0        0     1.3e-09 -6.8e-09  1.5e-12     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0        0        0        0     1.0e-09 -6.7e-10     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0        0        0        0        0        0    -5.0e-09  1.8e-12     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0        0        0        0        0        0     9.8e-10 -1.0e-09     0        0        0        0     1.1e-11     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0    -3.7e-09  3.3e-12     0        0     1.2e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0     2.4e-12     0        0        0        0        0        0     7.2e-13     0        0        0        0        0        0        0        0     2.9e-09 -3.8e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [ 5.4e-10     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0    -4.9e-04     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0     3.3e-09     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0     1.1e-09 -1.9e-04     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [ 4.2e-12     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0     7.8e-10     0        0        0        0    -1.2e-06     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0     2.9e-09  1.6e-10  3.3e-13     0        0        0        0        0        0        0        0        0        0        0        0    -1.2e-05     0        0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0     2.9e-10     0        0        0        0        0        0        0        0        0        0        0        0        0    -1.9e-05     0        0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [    0        0        0        0        0        0        0        0        0     2.4e-09     0        0        0        0        0        0        0        0        0        0        0        0        0        0    -4.4e-04     0        0        0        0        0        0        0        0        0        0        0        0        0   ]
 [ 5.8e-12  7.9e-11  1.8e-10  2.7e-10  6.0e-11  3.5e-10  4.1e-11  4.1e-11  4.6e-10  3.0e-11  2.4e-11  3.9e-10  6.6e-11  3.8e-10  4.3e-11  2.6e-10  1.4e-11  5.3e-11  3.0e-10  9.0e-11     0     9.5e-11  4.4e-10  4.5e-10  4.5e-10     0     3.0e-01  1.2e+00  9.8e-01  9.5e-02  3.5e+00  2.6e-02  4.1e-02  2.7e-05  3.5e+00  4.0e-04  7.0e-03  4.2e-03]
 [ 8.4e-13     0     2.7e-12  5.7e-12  1.7e-12  1.8e-11  2.1e-12  5.7e-13     0     7.7e-13  1.6e-13     0        0     8.0e-12     0     1.4e-11  1.1e-12  1.9e-12  1.5e-11  1.0e-11     0     1.1e-11     0        0        0        0    -3.0e-01     0        0        0        0        0        0        0        0        0        0        0   ]
 [ 2.3e-14     0     7.5e-14  1.6e-13  4.9e-14  5.1e-13  5.7e-14  1.6e-14     0     2.1e-14  4.6e-15     0        0     2.2e-13     0     3.9e-13  3.0e-14  5.2e-14  4.1e-13  2.9e-13     0     3.0e-13     0        0        0        0        0    -1.2e+00     0        0        0        0        0        0        0        0        0        0   ]
 [ 3.0e-13     0     9.7e-13  2.1e-12  6.3e-13  6.6e-12  7.4e-13  2.0e-13     0     2.8e-13  5.9e-14     0        0     2.9e-12     0     5.1e-12  3.9e-13  6.7e-13  5.3e-12  3.7e-12     0     3.9e-12     0        0        0        0        0        0    -9.8e-01     0        0        0        0        0        0        0        0        0   ]
 [ 3.1e-13     0     9.9e-13  2.1e-12  6.4e-13  6.7e-12  7.6e-13  2.1e-13     0     2.8e-13  6.0e-14     0        0     2.9e-12     0     5.2e-12  4.0e-13  6.9e-13  5.4e-12  3.8e-12     0     4.0e-12     0        0        0        0        0        0        0    -9.5e-02     0        0        0        0        0        0        0        0   ]
 [ 1.2e-13     0     3.7e-13  7.9e-13  2.4e-13  2.5e-12  2.8e-13  7.8e-14     0     1.1e-13  2.3e-14     0        0     1.1e-12     0     1.9e-12  1.5e-13  2.6e-13  2.0e-12  1.4e-12     0     1.5e-12     0        0        0        0        0        0        0        0    -3.5e+00     0        0        0        0        0        0        0   ]
 [ 4.0e-13     0     1.3e-12  2.7e-12  8.2e-13  8.6e-12  9.7e-13  2.7e-13     0     3.6e-13  7.8e-14     0        0     3.8e-12     0     6.6e-12  5.1e-13  8.8e-13  6.9e-12  4.9e-12     0     5.2e-12     0        0        0        0        0        0        0        0        0    -2.6e-02     0        0        0        0        0        0   ]
 [ 1.3e-11  1.8e-10  4.0e-10  6.2e-10  1.4e-10  7.9e-10  9.4e-11  9.4e-11  1.0e-09  6.8e-11  5.5e-11  9.0e-10  1.5e-10  8.6e-10  1.0e-10  6.0e-10  3.3e-11  1.2e-10  6.9e-10  2.1e-10     0     2.2e-10  1.0e-09  1.0e-09  1.0e-09     0        0        0        0        0        0        0    -4.1e-02     0        0        0        0        0   ]
 [ 2.0e-11  2.8e-10  6.2e-10  9.6e-10  2.1e-10  1.2e-09  1.5e-10  1.4e-10  1.6e-09  1.0e-10  8.5e-11  1.4e-09  2.3e-10  1.3e-09  1.5e-10  9.2e-10  5.1e-11  1.9e-10  1.1e-09  3.2e-10     0     3.4e-10  1.6e-09  1.6e-09  1.6e-09     0        0        0        0        0        0        0        0    -2.7e-05     0        0        0        0   ]
 [ 2.0e-14  2.8e-13  6.2e-13  9.5e-13  2.1e-13  1.2e-12  1.4e-13  1.4e-13  1.6e-12  1.0e-13  8.4e-14  1.4e-12  2.3e-13  1.3e-12  1.5e-13  9.1e-13  5.0e-14  1.9e-13  1.0e-12  3.1e-13     0     3.3e-13  1.5e-12  1.6e-12  1.6e-12     0        0        0        0        0        0        0        0        0    -3.5e+00     0        0        0   ]
 [ 3.1e-11  4.2e-10  9.4e-10  1.4e-09  3.2e-10  1.8e-09  2.2e-10  2.2e-10  2.4e-09  1.6e-10  1.3e-10  2.1e-09  3.5e-10  2.0e-09  2.3e-10  1.4e-09  7.6e-11  2.8e-10  1.6e-09  4.8e-10     0     5.0e-10  2.3e-09  2.4e-09  2.4e-09     0        0        0        0        0        0        0        0        0        0    -4.0e-04     0        0   ]
 [ 2.4e-12  3.3e-11  7.3e-11  1.1e-10  2.5e-11  1.4e-10  1.7e-11  1.7e-11  1.9e-10  1.2e-11  9.9e-12  1.6e-10  2.7e-11  1.6e-10  1.8e-11  1.1e-10  5.9e-12  2.2e-11  1.2e-10  3.7e-11     0     3.9e-11  1.8e-10  1.9e-10  1.9e-10     0        0        0        0        0        0        0        0        0        0        0    -7.0e-03     0   ]
 [ 1.6e-11  2.2e-10  4.9e-10  7.6e-10  1.7e-10  9.7e-10  1.1e-10  1.1e-10  1.3e-09  8.3e-11  6.7e-11  1.1e-09  1.8e-10  1.1e-09  1.2e-10  7.3e-10  4.0e-11  1.5e-10  8.4e-10  2.5e-10     0     2.6e-10  1.2e-09  1.3e-09  1.3e-09     0        0        0        0        0        0        0        0        0        0        0        0    -4.2e-03]]

最佳答案

我正在为那些偶然发现这篇文章的人发布一个答案。

我很幸运，实际上，我的数据可以矢量化，因为我能够使用 F = Ax + B 之类的东西，带有 A 和 B 常量 numpy 数组，而不是在每一步都使用修改后的 x 像“从头开始”定义 F我在做。性能提升是巨大的。来自@chumbaloo 的“强制矢量化方法”的想法是我最终用于大部分优化的想法。

所以，如果你觉得你不能矢量化但绝对需要优化，仍然尝试找到一种方法来矢量化。至少这是我的收获。

我还使用了@tstanisl 和@expectedAn 给出的建议，即在将字典用于密集查找计算之前将其移动到 numpy 数组，这对我的代码的另一部分也产生了很大影响，允许我做一些向量计算而不是 for 循环。

关于python - 优化 numpy 数组创建，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/62275768/

文章推荐： objective-c - 创建相同 NSWindowController 类类型的多个窗口

文章推荐： Angular 在路由时删除 url 中的目录

文章推荐： reactjs - formik-material-ui 不适用于 ToggleButtonGroup 组件

MSSQL监控数据库的DDL操作(创建，修改，删除存储过程，创建，修改，删除表等)
前言：有时候，一个数据库有多个帐号，包括数据库管理员，开发人员，运维支撑人员等，可能有很多帐号都有比较大的权限，例如DDL操作权限(创建，修改，删除存储过程，创建，修改，删除表等），账户多了，管理
javascript - 使用 Storybook 创建 React App 创建 webpack 问题
所以我用 Create React App 创建并设置了一个大型 React 应用程序。最近我们开始使用 Storybook 来处理和创建组件。它很棒。但是，当我们尝试运行或构建应用程序时，我们不断遇
javascript - 创建 Angular Directive(指令)以重用代码 - 创建 html 时解析错误
遵循我正在创建的控件的代码片段。这个控件用在不同的地方，变量也不同。我正在尝试编写指令来清理代码，但在 {{}} 附近插入值时出现解析错误。刚接触 Angular ，无法确定我错过了什么。请帮忙。
java - 创建 JAX-RS 提供程序以从 InputStream 创建 Java Image
我正在尝试创建一个 image/jpeg jax-rs 提供程序类，它为我的基于 post rest 的 Web 服务创建一个图像。我无法制定请求来测试以下内容，最简单的测试方法是什么？ @POST
c - 当我使用 FILE 创建 txt 文件时，Dev C++ 创建 test.txt
我一直在 Windows 10 的模拟器中练习 c。后来我改用dev C++ IDE。当我在 C 中使用 FILE 时。创建的文件的名称为 test.txt ，而我给出了其他名称。请帮助解决它。下面
ios - 为什么我们不遵循使用 xib 创建 customTableViewCell 的相同过程，就像使用 xib 创建 customView 一样？
当我们创建自定义 View 时，我们将 View 文件的所有者设置为自定义类，并使用 initWithFrame 或 initWithCode 对其进行实例化。当我们创建 customUITable
创建 Pthreads
我正在尝试为函数 * Producer 创建一个线程，但用于创建线程的行显示错误。我为这句话加了星标，但我无法弄清楚它出了什么问题...... #include #include #include
创建、调用JavaScript对象的方法集锦
今天在做项目时，遇到了需要创建JavaScript对象的情况。所以Bing了一篇老外写的关于3种创建JavaScript对象的文章，看后跟着打了一遍代码。感觉方法挺好的，在这里与大家分享一下。 &
python - 创建 StringToSign
我正在阅读将查询字符串传递给 Amazon 的 S3 以进行身份验证的文档，但似乎无法理解 StringToSign 的创建和使用方式。我正在寻找一个具体示例来说明 (1) 如何构造 String
c# - 创建、不等待和确保任务完成的正确方法
前言:我对 C# 中任务的底层实现不太了解，只了解它们的用法。为我在下面屠宰的任何东西道歉: 对于“我怎样才能开始一项任务但不等待它？”这个问题，我找不到一个好的答案。在 C# 中。更具体地说，即使任
linq - 创建 ILookups
我有一个由一些复杂的表达式生成的 ILookup。假设这是按姓氏查找人。 (在我们简单的世界模型中，姓氏在家庭中是唯一的) ILookup families; 现在我有两个对如何构建感兴趣的查询。首
WIX bundle 创建
我试图创建一个 MSI，其中包含和 exe。在 WIX 中使用了捆绑选项。这样做时出错。有人可以帮我解决这个问题。下面是代码: 错误 error LGH
Yii 创建、更新具有不同字段的表单
在 Yii 中，Create 和 Update 通常使用相同的形式。因此，如果我在创建期间有电子邮件、密码、...other_fields...等字段，但我不想在更新期间专门显示电子邮件和密码字段，但
qt - 创建 QModelIndex
上周我一直在努力创建一个给定一行和一列的 QModelIndex。或者，我会满足于在已经存在的 QModelIndex 中更改 row() 的值。任何帮助，将不胜感激。编辑: QModelInd
C: 创建、传递和访问指向常量字符串的常量指针数组
出于某种原因，这不起作用: const char * str_reset_command = "\r\nReset"; const char * str_config_command = "\r\nC
r - 创建 "other"字段
现在，我有以下由 original.df %.% group_by(Category) %.% tally() %.% arrange(desc(n)) 创建的 data.frame。 DF 5),
vim - 创建〜/.vimrc后错误打开文件
在今天之前，我使用/etc/vim/vimrc来配置我的vim设置。今天，我想到了创建.vimrc文件。所以，我用 touch .vimrc cat /etc/vim/vimrc > .vimrc 所
iPhone:创建 MKAnnotation
我可以创建一个 MKAnnotation，还是只读的？我有坐标，但我发现使用 setCooperative 手动创建 MKAnnotation 并不容易。想法？最佳答案 MKAnnotation
iphone - 创建 NSDictionary
在以下代码中，第一个日志语句按预期显示小数，但第二个日志语句记录 NULL。我做错了什么？ NSDictionary *entry = [[NSDictionary alloc] initWithOb
php - 创建/添加多维数组值时的未定义偏移
我正在使用与此类似的代码动态添加到数组； $arrayF[$f+1][$y][$x+1] = $value+1; 但是我在错误报告中收到了这个: undefined offset :1 问题:尝试创

行者123

个人简介

我是一名优秀的程序员,十分优秀！

作者热门文章

滴滴打车优惠券免费领取

全站热门文章

首页

博学

6Ren·AI

商城

python - 优化 numpy 数组创建