- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我在 tensorflow 中构建一个神经网络,它处理 3D 数据并且应该预测输入数据中地标的位置。该策略是密集地(针对每个体素)预测实际地标周围半径 r 的球体中的类别,并预测指向地标实际位置的偏移向量。此攻略已proven有效地改进地标预测。
每对类别概率和偏移向量都是一个投票,我现在正试图在 tensorflow 中有效地聚合这些投票。
对于 (70,70,70) 的输入形状和 3 个不同的地标以及背景类,我从我的网络中得到两个输出:
我想生成 3 个形状为 (70,70,70) 的输出热图。现在,对于热图中的每个体素,我需要聚合指向体素的偏移向量的概率。
我试着只使用 python 并有 3 个 for 循环,这在我的 CPU 上需要 7 秒。这是可以接受的,但最终的输入形状将更像是 300x300x300,并且 3 个 for 循环的复杂度为 O(N^3),因此不可行。
所以我尝试使用 tensorflow 和 GPU 加速来预过滤所有不相关的数据。不相关的偏移向量例如是所有这些,它们在某个阈值下具有相应的类别概率,或者超出输入形状的范围。我用 tf.map_fn 像这样实现它:
def filter_votes(probs, dists, prob_threshold, num_landmarks, sample_shape: tf.Tensor):
f_sample_shape = tf.cast(sample_shape, tf.float32)
probs = probs[:,:,:,1:] # probability of background is irrelevant
indices = tf.where(tf.greater_equal(probs, prob_threshold)) # take only the indices of voxels, that have a category prediction over a certain threshold
def get_flatvect(idx):
f_idx = tf.cast(idx, tf.float32)
return tf.stack([
f_idx[3], # this is the landmark number (goes from 0 to 2)
probs[idx[0], idx[1], idx[2], idx[3]], # this is the predicted probability for the voxel to be the landmark
f_idx[0] + dists[idx[0], idx[1], idx[2], idx[3]], # this is the x offset+ the actual x-position of the voxel
f_idx[1] + dists[idx[0], idx[1], idx[2], idx[3]+3], # this is the y offset+ the actual y-position of the voxel
f_idx[2] + dists[idx[0], idx[1], idx[2], idx[3]+6] # this is the z offset+ the actual z-position of the voxel
])
res = tf.map_fn(get_flatvect, indices, dtype=tf.float32, parallel_iterations=6)
def get_mask(idx):
dist = idx[2:]
return tf.reduce_all(tf.logical_and(tf.greater_equal(dist, 0.), tf.less(dist, f_sample_shape)))
mask = tf.map_fn(get_mask, res, dtype=tf.bool, parallel_iterations=6) # get a mask that filters offsets that went out of bounds of the actual tensor shape
res = tf.boolean_mask(res, mask)
return res # I return a 2D-Tensor that contains along the 2nd axis [num_landmark, probability_value, x_pos, y_pos, z_pos]
然后我在普通 python 中聚合过滤结果,由于输入数据少得多(大多数体素的预测分类概率较低),速度要快得多。
问题是即使输入形状 (70,70,70),过滤操作也只需要将近一分钟,而且 GPU 利用率很低。尽管我有 6 次并行迭代,但它几乎比在 python 中聚合所有内容慢了 10 倍。我尝试研究 map_fn 并了解到 tf 可能无法将所有操作都放在 GPU 上。但即便如此,我认为它应该更快,因为:
看来我对正在发生的事情缺乏一些基本的了解。也许有人可以澄清为什么我的代码如此低效?
或者也许有人有更好的想法如何以矢量化方式汇总我的选票?
最佳答案
您可以像这样向量化您的函数:
import tensorflow as tf
def filter_votes_vec(probs, dists, prob_threshold, num_landmarks, sample_shape: tf.Tensor):
probs = probs[:, :, :, 1:]
indices = tf.where(probs >= prob_threshold)
landmark = tf.to_float(indices[:, 3])
p = tf.gather_nd(probs, indices)
indices_dists = tf.stack([
indices,
tf.concat([indices[..., :-1], indices[..., -1:] + 3], axis=-1),
tf.concat([indices[..., :-1], indices[..., -1:] + 6], axis=-1)
], axis=1)
d = tf.gather_nd(dists, indices_dists) + tf.to_float(indices[:, :3])
res = tf.concat([tf.expand_dims(landmark, 1), tf.expand_dims(p, 1), d], axis=1)
mask = tf.reduce_all((d >= 0) & (d < tf.cast(sample_shape, tf.float32)), axis=1)
res = tf.boolean_mask(res, mask)
return res
使用 IPython 进行快速测试和基准测试:
import tensorflow as tf
import numpy as np
with tf.Graph().as_default(), tf.Session() as sess:
np.random.seed(100)
probs = np.random.rand(70, 70, 70, 3 + 1).astype(np.float32)
probs /= probs.sum(-1, keepdims=True)
probs = tf.convert_to_tensor(probs, tf.float32)
dists = tf.convert_to_tensor(100 * np.random.rand(70, 70, 70, 3 * 3), tf.float32)
prob_threshold = tf.convert_to_tensor(0.5, tf.float32)
num_landmarks = tf.convert_to_tensor(3, tf.int32) # This is not actually used in the code
sample_shape = tf.convert_to_tensor([50, 60, 70], tf.int32)
result = filter_votes(probs, dists, prob_threshold, num_landmarks, sample_shape)
result_vec = filter_votes_vec(probs, dists, prob_threshold, num_landmarks, sample_shape)
value, value_vec = sess.run([result, result_vec])
print(np.allclose(value, value_vec))
# True
%timeit sess.run(result)
# CPU
# 2.55 s ± 21.7 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
# GPU
# 54 s ± 596 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
%timeit sess.run(result_vec)
# CPU
# 63.2 µs ± 781 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)
# GPU
# 216 µs ± 2.29 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
据推测,GPU 的荒谬时间是由于 TensorFlow 不断地在 CPU 和 GPU 之间交换数据,这是一个相当昂贵的。
关于python - 优化 tf.map_fn 的 GPU 使用,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54808519/
比较代码: const char x = 'a'; std::cout > (0C310B0h) 00C3100B add esp,4 和 const i
您好,我正在使用 Matlab 优化求解器,但程序有问题。我收到此消息 fmincon 已停止,因为目标函数值小于目标函数限制的默认值,并且约束满足在约束容差的默认值范围内。我也收到以下消息。警告:矩
处理Visual Studio optimizations的问题为我节省了大量启动和使用它的时间 当我必须进行 J2EE 开发时,我很难回到 Eclipse。因此,我还想知道人们是否有任何提示或技巧可
情况如下:在我的 Excel 工作表中,有一列包含 1-name 形式的条目。考虑到数字也可以是两位数,我想删除这些数字。这本身不是问题,我让它工作了,只是性能太糟糕了。现在我的程序每个单元格输入大约
这样做有什么区别吗: $(".topHorzNavLink").click(function() { var theHoverContainer = $("#hoverContainer");
这个问题已经有答案了: 已关闭11 年前。 Possible Duplicate: What is the cost of '$(this)'? 我经常在一些开发人员代码中看到$(this)引用同一个
我刚刚结束了一个大型开发项目。我们的时间紧迫,因此很多优化被“推迟”。既然我们已经达到了最后期限,我们将回去尝试优化事情。 我的问题是:优化 jQuery 网站时您要寻找的最重要的东西是什么。或者,我
所以我一直在用 JavaScript 编写游戏(不是网络游戏,而是使用 JavaScript 恰好是脚本语言的游戏引擎)。不幸的是,游戏引擎的 JavaScript 引擎是 SpiderMonkey
这是我在正在构建的页面中使用的 SQL 查询。它目前运行大约 8 秒并返回 12000 条记录,这是正确的,但我想知道您是否可以就如何使其更快提出可能的建议? SELECT DISTINCT Adve
如何优化这个? SELECT e.attr_id, e.sku, a.value FROM product_attr AS e, product_attr_text AS a WHERE e.attr
我正在使用这样的结构来测试是否按下了所需的键: def eventFilter(self, tableView, event): if event.type() == QtCore.QEven
我正在使用 JavaScript 从给定的球员列表中计算出羽毛球 double 比赛的所有组合。每个玩家都与其他人组队。 EG。如果我有以下球员a、b、c、d。它们的组合可以是: a & b V c
我似乎无法弄清楚如何让这个 JS 工作。 scroll function 起作用但不能隐藏。还有没有办法用更少的代码行来做到这一点?我希望 .down-arrow 在 50px 之后 fade out
我的问题是关于用于生产的高级优化级联样式表 (CSS) 文件。 多么最新和最完整(准备在实时元素中使用)的 css 优化器/最小化器,它们不仅提供删除空格和换行符,还提供高级功能,如删除过多的属性、合
我读过这个: 浏览器检索在 中请求的所有资源开始呈现 之前的 HTML 部分.如果您将请求放在 中section 而不是,那么页面呈现和下载资源可以并行发生。您应该从 移动尽可能多的资源请求。
我正在处理一些现有的 C++ 代码,这些代码看起来写得不好,而且调用频率很高。我想知道我是否应该花时间更改它,或者编译器是否已经在优化问题。 我正在使用 Visual Studio 2008。 这是一
我正在尝试使用 OpenGL 渲染 3 个四边形(1 个背景图,2 个 Sprite )。我有以下代码: void GLRenderer::onDrawObjects(long p_dt) {
我确实有以下声明: isEnabled = false; if(foo(arg) && isEnabled) { .... } public boolean foo(arg) { some re
(一)深入浅出理解索引结构 实际上,您可以把索引理解为一种特殊的目录。微软的SQL SERVER提供了两种索引:聚集索引(clustered index,也称聚类索引、簇集索引)和非聚集索引(no
一、写在前面 css的优化方案,之前没有提及,所以接下来进行总结一下。 二、具体优化方案 2.1、加载性能 1、css压缩:将写好的css进行打包,可以减少很多的体积。 2、css单一样式:在需要下边
我是一名优秀的程序员,十分优秀!