android - 如何优化 multimap 像拼接？

Question

我正在 Visual Studio 2012、C++ 中进行 multimap 像拼接。我修改了stitching_detailed.cpp根据我的要求，它给出了高质量的结果。这里的问题是，执行起来需要太多时间。 10 张图片，大​​约需要 110 秒。

这里是花费最多时间的地方:

1) 成对匹配 - 10 张图像需要 55 秒!我正在使用 ORB 来查找特征点。这是代码:

vector<MatchesInfo> pairwise_matches;
BestOf2NearestMatcher matcher(false, 0.35);
matcher(features, pairwise_matches);
matcher.collectGarbage();

我尝试使用这段代码，因为我已经知道图像的顺序:

vector<MatchesInfo> pairwise_matches;
BestOf2NearestMatcher matcher(false, 0.35);

Mat matchMask(features.size(),features.size(),CV_8U,Scalar(0));
for (int i = 0; i < num_images -1; ++i)                                                 
    matchMask.at<char>(i,i+1) =1;                                                       
matcher(features, pairwise_matches, matchMask);                                         

matcher.collectGarbage();

它肯定会减少时间(18 秒)，但不会产生所需的结果。只有 6 张图像被拼接(最后 4 张被遗漏，因为图像 6 和图像 7 的特征点不匹配。因此循环中断。)

2) 合成 - 10 张图像需要 38 秒!这是代码:

for (int img_idx = 0; img_idx < num_images; ++img_idx)
{
    printf("Compositing image #%d\n",indices[img_idx]+1);

    // Read image and resize it if necessary
    full_img = imread(img_names[img_idx]);

    Mat K;
    cameras[img_idx].K().convertTo(K, CV_32F);

    // Warp the current image
    warper->warp(full_img, K, cameras[img_idx].R, INTER_LINEAR, BORDER_REFLECT, img_warped);

    // Warp the current image mask
    mask.create(full_img.size(), CV_8U);
    mask.setTo(Scalar::all(255));
    warper->warp(mask, K, cameras[img_idx].R, INTER_NEAREST, BORDER_CONSTANT, mask_warped);

    // Compensate exposure
    compensator->apply(img_idx, corners[img_idx], img_warped, mask_warped);

    img_warped.convertTo(img_warped_s, CV_16S);
    img_warped.release();
    full_img.release();
    mask.release();

    dilate(masks_warped[img_idx], dilated_mask, Mat());
    resize(dilated_mask, seam_mask, mask_warped.size());
    mask_warped = seam_mask & mask_warped;

    // Blend the current image
    blender->feed(img_warped_s, mask_warped, corners[img_idx]);
}

Mat result, result_mask;
blender->blend(result, result_mask);

原图分辨率为4160*3120。我没有在合成中使用压缩，因为它会降低质量。我在其余代码中使用了压缩图像。

如您所见，我修改了代码并缩短了时间。但我还是想尽可能地减少时间。

3) 寻找特征点 - 使用 ORB。 10 张图片需要 10 秒。查找图像的最大 1530 个特征点。

55 + 38 + 10 = 103 + 7 对于其余代码 = 110。

当我在 android 中使用这段代码时，它几乎占用了智能手机的整个内存 (RAM) 来执行。如何减少 Android 设备的时间和内存消耗？ (我使用的 Android 设备有 2 GB RAM)

我已经优化了其余代码。非常感谢任何帮助!

编辑 1:我在合成步骤中使用了图像压缩，时间从 38 秒减少到 16 秒。我还设法减少了其余代码的时间。

现在，从 110 -> 85 秒。帮助我减少配对匹配的时间；我不知道如何减少它!

编辑 2:我在 matchers.cpp 中找到了成对匹配的代码.我在主代码中创建了自己的函数来优化时间。对于合成步骤，我使用压缩直到最终图像不失去清晰度。对于特征查找，我使用图像缩放来以缩小的图像比例查找图像特征。现在我可以轻松拼接多达 50 张图像。

Answer 1

由于 55 秒到 18 秒是一个很好的改进，也许您可​​以稍微控制匹配过程。我首先建议的是——如果你还没有——学习调试过程的每一步，了解当图像没有被缝合时出了什么问题。这样，您将始终学会控制例如您正在检测的 ORB 功能的数量。也许在某些情况下，您可以限制它们并仍然获得结果，从而加快过程(这不仅应该加快查找特征的速度，而且还会加快匹配过程)。

希望这会让您能够检测到这种情况，当 - 正如您所说的那样 - 循环中断时。因此，您可以相应地对情况使用react。您仍然可以在循环中匹配序列，从而节省时间，但当您检测到匹配特定对时出现问题时，会强制程序继续(或更改参数并尝试再次匹配该对)。

我认为这里的合成过程没有太大的改进空间，因为您不想失去质量。如果我是你，我会尝试研究的是，线程和并行计算是否可以提供帮助。

这是一个有趣且普遍存在的问题 - 如果您能够在不放弃质量的情况下加快速度，您应该调用 LG 或 Google，因为我在我的 Nexus 中的算法质量真的很差 :) 它既慢又不准确.