- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我需要有关如何在 CUDA 中优化 Smith-Waterman 算法实现的建议。
我要优化的部分是填充矩阵。由于矩阵元素之间的数据依赖性(每个下一个元素都依赖于其他元素 - 左到它,到它,再到它),我正在并行填充反对角矩阵元素,如中所示下图:
我的程序在一个循环中运行
int diag = 1;
for(int x = 0; x < size_b; x++)
{
block_size = 1024;
if(block_size > diag)
{
block_size = diag;
}
SAFE_KERNEL_CALL((dev_init_diag<<<(diag - 1)/block_size + 1, block_size>>>(H, size_a, size_b, x,
sequence_a, sequence_b, false, x_offset, y_offset, null_ind)));
diag++;
}
如您所见,每条对角线都有一个内核调用。
因为我有相当大的矩阵(旁边有 21000
元素),所以有很多内核调用。结果,我对 CUDA 内核调用的开销很大,浪费了大约一半的处理时间,这可以通过 Visual Profiler 的屏幕截图看到(查看 Profiler 开销字符串):
因此,问题是如何摆脱多个内核调用并消除这种开销。
有一件重要的事情需要注意:我为每个对角线调用一个新内核的原因是我需要在下一次调用之前同步线程和 block ,据我所知,同步 CUDA block 的唯一方法是完成内核并重新启动它。尽管如此,对于这个算法可能有更好的解决方案。
感谢您阅读本文!
///////////////////////////////////////////////////////////
好的,谢谢您的回复!还有一个问题,更多关于 CUDA:所以,我必须实现一个新内核,大概是这样的:
__global__ void kernel(...)
{
for(int diag_num = 0; diag_num < size; diag_num++)
{
init_one_diag(...);
syncronize_threads();
}
}
但这意味着我必须只在一个 cuda block 上启动这个内核?(因为据我所知,不同 block 之间没有同步)
在我以这种方式启动内核之前:
dev_init_diag<<<(diag - 1)/block_size + 1, block_size>>>(...)
新方法是否有效?
最佳答案
我建议您阅读现有文献,为 Smith-Waterman 算法实现矩阵填充问题的有效方法。
根据您的代码描述,您选择并行填充反对角线,并且为每个反对角线启动一个内核。正如您所提到的,由于启动了多个内核,这是非常低效的。
一个简单的替代方法是构造一个负责计算所有反对角线的核函数。这个内核应该以至少等于最长反对角线的线程数启动。内核执行的迭代次数等于要计算的反对角线的数量。对于比最长对角线短的反对角线,只有一部分线程保持事件状态。这种方法在
Parallelizing the Smith-Waterman Local Alignment Algorithm using CUDA
但由于两个原因无效:
中的方法提供了反对角矩阵填充的替代方法
Acceleration of the Smith–Waterman algorithm using single and multiple graphics processors
其中展示了如何重新制定 Smith–Waterman(反对角线)矩阵填充算法,以便可以一次并行执行一行(或一列)计算。强调了行(或列)计算如何使 GPU 内存访问连续(合并)并因此变得快速。尽管没有明确提及,但我相信这种方法也可以减轻(或完全消除)上述非事件线程问题。
编辑
GPU Computing Gems 书籍, Jade 版,专门用两章介绍 Smith-Waterman 算法,即
第11章,使用Smith-Waterman算法精确扫描序列数据库
和
第 13 章,模式匹配的 GPU- super 计算机加速
后者是第二种方法的同一作者的一章。前者包含优化 CUDA 代码的逐步推导,这可能对 future 的用户有用。
关于algorithm - CUDA 中 Smith-Waterman 算法的矩阵填充,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23064866/
滑动窗口限流 滑动窗口限流是一种常用的限流算法,通过维护一个固定大小的窗口,在单位时间内允许通过的请求次数不超过设定的阈值。具体来说,滑动窗口限流算法通常包括以下几个步骤: 初始化:设置窗口
表达式求值:一个只有+,-,*,/的表达式,没有括号 一种神奇的做法:使用数组存储数字和运算符,先把优先级别高的乘法和除法计算出来,再计算加法和减法 int GetVal(string s){
【算法】前缀和 题目 先来看一道题目:(前缀和模板题) 已知一个数组A[],现在想要求出其中一些数字的和。 输入格式: 先是整数N,M,表示一共有N个数字,有M组询问 接下来有N个数,表示A[1]..
1.前序遍历 根-左-右的顺序遍历,可以使用递归 void preOrder(Node *u){ if(u==NULL)return; printf("%d ",u->val);
先看题目 物品不能分隔,必须全部取走或者留下,因此称为01背包 (只有不取和取两种状态) 看第一个样例 我们需要把4个物品装入一个容量为10的背包 我们可以简化问题,从小到大入手分析 weightva
我最近在一次采访中遇到了这个问题: 给出以下矩阵: [[ R R R R R R], [ R B B B R R], [ B R R R B B], [ R B R R R R]] 找出是否有任
我正在尝试通过 C++ 算法从我的 outlook 帐户发送一封电子邮件,该帐户已经打开并记录,但真的不知道从哪里开始(对于 outlook-c++ 集成),谷歌也没有帮我这么多。任何提示将不胜感激。
我发现自己像这样编写了一个手工制作的 while 循环: std::list foo; // In my case, map, but list is simpler auto currentPoin
我有用于检测正方形的 opencv 代码。现在我想在检测正方形后,代码运行另一个命令。 代码如下: #include "cv.h" #include "cxcore.h" #include "high
我正在尝试模拟一个 matlab 函数“imfill”来填充二进制图像(1 和 0 的二维矩阵)。 我想在矩阵中指定一个起点,并像 imfill 的 4 连接版本那样进行洪水填充。 这是否已经存在于
我正在阅读 Robert Sedgewick 的《C++ 算法》。 Basic recurrences section it was mentioned as 这种循环出现在循环输入以消除一个项目的递
我正在思考如何在我的日历中生成代表任务的数据结构(仅供我个人使用)。我有来自 DBMS 的按日期排序的任务记录,如下所示: 买牛奶(18.1.2013) 任务日期 (2013-01-15) 任务标签(
输入一个未排序的整数数组A[1..n]只有 O(d) :(d int) 计算每个元素在单次迭代中出现在列表中的次数。 map 是balanced Binary Search Tree基于确保 O(nl
我遇到了一个问题,但我仍然不知道如何解决。我想出了如何用蛮力的方式来做到这一点,但是当有成千上万的元素时它就不起作用了。 Problem: Say you are given the followin
我有一个列表列表。 L1= [[...][...][.......].......]如果我在展平列表后获取所有元素并从中提取唯一值,那么我会得到一个列表 L2。我有另一个列表 L3,它是 L2 的某个
我们得到二维矩阵数组(假设长度为 i 和宽度为 j)和整数 k我们必须找到包含这个或更大总和的最小矩形的大小F.e k=7 4 1 1 1 1 1 4 4 Anwser是2,因为4+4=8 >= 7,
我实行 3 类倒制,每周换类。顺序为早类 (m)、晚类 (n) 和下午类 (a)。我固定的订单,即它永远不会改变,即使那个星期不工作也是如此。 我创建了一个函数来获取 ISO 周数。当我给它一个日期时
假设我们有一个输入,它是一个元素列表: {a, b, c, d, e, f} 还有不同的集合,可能包含这些元素的任意组合,也可能包含不在输入列表中的其他元素: A:{e,f} B:{d,f,a} C:
我有一个子集算法,可以找到给定集合的所有子集。原始集合的问题在于它是一个不断增长的集合,如果向其中添加元素,我需要再次重新计算它的子集。 有没有一种方法可以优化子集算法,该算法可以从最后一个计算点重新
我有一个包含 100 万个符号及其预期频率的表格。 我想通过为每个符号分配一个唯一(且前缀唯一)的可变长度位串来压缩这些符号的序列,然后将它们连接在一起以表示序列。 我想分配这些位串,以使编码序列的预
我是一名优秀的程序员,十分优秀!