个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
43
4
我正在尝试使用 dask 将大型 dask 数组(46 GB，包含 124 - 370 MB block )写入 zarr 文件。如果我的 dask 数组被命名为 dask_data，那么一个简单的 dask_data.to_zarr("my_zarr.zarr") 就可以工作。但据我了解，这是一个同步的、CPU 密集型进程。
我想做的是对分配给 Quadro GV100 GPU 的大部分工作使用并行性。我尝试通过 dask_data_cupy = dask_data.map_blocks(cupy.asarray) 将 numpy.ndarray 转换为 cupy.ndarray 并将其写入 zarr 文件，但我收到:
ValueError:对象 __array__ 方法不生成数组(坦率地说，我也没有看到性能提升)。
如何使用 GPU 并行地将 dask 数组写入 zarr 文件？
谢谢!
最佳答案
But from what I understand, this is a synchronous, CPU bound process.
这可能不是真的，您的瓶颈可能是存储设备。在任何情况下，每个 block 都会写入一个单独的文件，并且跨线程和/或进程并行写入(取决于您的设置)。这就是 zarr 设计的全部要点，应用程序可以独立地与每个 block 交互。
如果您选择使用各种压缩编码，您可能会受到CPU限制；然而，这些并不一定适合 GPU 操作。
简而言之，除非您的数据已经在 GPU 上生成，否则如果在将其写入文件之前将其传输到 GPU 进行处理是值得的，我会感到惊讶。如果有一个函数可以直接将 cupy 数组读/写到 zarr，并且您也在 GPU 上进行处理，那么情况会有所不同 - 但我不相信有。
关于python - 如何利用 GPU 将大型 dask 数组 (numpy.ndarray) 写入 Zarr 文件？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/60119406/
43
4
0
作为脚本的输出，我有 numpy masked array和标准numpy array .如何在运行脚本时轻松检查数组是否为掩码(具有 data 、 mask 属性)？ 最佳答案 您可以通过 isin
我的问题 假设我有 a = np.array([ np.array([1,2]), np.array([3,4]), np.array([5,6]), np.array([7,8]), np.arra
numpy 是否有用于矩阵模幂运算的内置实现？ (正如 user2357112 所指出的，我实际上是在寻找元素明智的模块化减少) 对常规数字进行模幂运算的一种方法是使用平方求幂 (https://en
我已经在 Numpy 中实现了这个梯度下降: def gradientDescent(X, y, theta, alpha, iterations): m = len(y) for i
我有一个使用 Numpy 在 CentOS7 上运行的项目。 问题是安装此依赖项需要花费大量时间。 因此，我尝试 yum install pip install 之前的 numpy 库它。 所以我跑:
处理我想要旋转的数据。请注意，我仅限于 numpy，无法使用 pandas。原始数据如下所示: data = [ [ 1, a, [, ] ], [ 1, b, [, ] ], [ 2,
numpy.random.seed(7) 在不同的机器学习和数据分析教程中，我看到这个种子集有不同的数字。选择特定的种子编号真的有区别吗？或者任何数字都可以吗？选择种子数的目标是相同实验的可重复性。
我需要读取存储在内存映射文件中的巨大 numpy 数组的部分内容，处理数据并对数组的另一部分重复。整个 numpy 数组占用大约 50 GB，我的机器有 8 GB RAM。 我最初使用 numpy.m
处理我想要旋转的数据。请注意，我仅限于 numpy，无法使用 pandas。原始数据如下所示: data = [ [ 1, a, [, ] ], [ 1, b, [, ] ], [ 2,
似乎 numpy.empty() 可以做的任何事情都可以使用 numpy.ndarray() 轻松完成，例如: >>> np.empty(shape=(2, 2), dtype=np.dtype('d
我在大型 numpy 数组中有许多不同的形式，我想使用 numpy 和 scipy 计算它们之间的边到边欧氏距离。 注意:我进行了搜索，这与堆栈中之前的其他问题不同，因为我想获得数组中标记 block
我有一个大小为 (2x3) 的 numpy 对象数组。我们称之为M1。在M1中有6个numpy数组。M1 给定行中的数组形状相同，但与 M1 任何其他行中的数组形状不同。 也就是说， M1 = [ [
如何使用爱因斯坦表示法编写以下点积？ import numpy as np LHS = np.ones((5,20,2)) RHS = np.ones((20,2)) np.sum([ np.
假设我有 np.array of a = [0, 1, 1, 0, 0, 1] 和 b = [1, 1, 0, 0, 0, 1] 我想要一个新矩阵 c 使得如果 a[i] = 0 和 b[i] = 0
我有一个形状为 (32,5) 的 numpy 数组 batch。批处理的每个元素都包含一个 numpy 数组 batch_elem = [s,_,_,_,_] 其中 s = [img,val1,val
尝试为基于文本的多标签分类问题训练单层神经网络。 model= Sequential() model.add(Dense(20, input_dim=400, kernel_initializer='
首先是一个简单的例子 import numpy as np a = np.ones((2,2)) b = 2*np.ones((2,2)) c = 3*np.ones((2,2)) d = 4*np.
我正在尝试平均二维 numpy 数组。所以，我使用了 numpy.mean 但结果是空数组。 import numpy as np ws1 = np.array(ws1) ws1_I8 = np.ar
import numpy as np x = np.array([[1,2 ,3], [9,8,7]]) y = np.array([[2,1 ,0], [1,0,2]]) x[y] 预期输出: ar
我有两个数组 A (4000,4000)，其中只有对角线填充了数据，而 B (4000,5) 填充了数据。有没有比 numpy.dot(a,b) 函数更快的方法来乘(点)这些数组？ 到目前为止，我发现
我是一名优秀的程序员,十分优秀！