Java OpenCV - 从 knnMatch 中提取好的匹配

Question

我正在尝试实现一个非常简单的程序来查找两个图像之间的相似性。

我正在为此任务使用 ORB 特征检测器和图像描述符，我正在使用 knnMatch 识别匹配项:

FeatureDetector detector = FeatureDetector.create(FeatureDetector.ORB);
DescriptorExtractor descriptor = DescriptorExtractor.create(DescriptorExtractor.ORB);
DescriptorMatcher matcher = DescriptorMatcher.create(DescriptorMatcher.BRUTEFORCE_HAMMING);

// DETECTION
// first image
Mat img1 = Imgcodecs.imread(path1, Imgcodecs.CV_LOAD_IMAGE_GRAYSCALE);
Mat descriptors1 = new Mat();
MatOfKeyPoint keypoints1 = new MatOfKeyPoint();

detector.detect(img1, keypoints1);
descriptor.compute(img1, keypoints1, descriptors1);

// second image
Mat img2 = Imgcodecs.imread(path2, Imgcodecs.CV_LOAD_IMAGE_GRAYSCALE);
Mat descriptors2 = new Mat();
MatOfKeyPoint keypoints2 = new MatOfKeyPoint();

detector.detect(img2, keypoints2);
descriptor.compute(img2, keypoints2, descriptors2);

// MATCHING
// match these two keypoints sets
List<MatOfDMatch> matches = new ArrayList<MatOfDMatch>();
matcher.knnMatch(descriptors1, descriptors2, matches, 5);

我可以按如下方式绘制火柴:

// DRAWING OUTPUT
Mat outputImg = new Mat();
// this will draw all matches, works fine
Features2d.drawMatches2(img1, keypoints1, img2, keypoints2, matches, outputImg);

// save image
Imgcodecs.imwrite("result.jpg", outputImg);

问题是比赛太多，而且还包括那些偏离的比赛。我似乎找不到如何只提取好的匹配项(超过某个阈值)？有人可以指出我正确的方向或将我重定向到一些基本的工作示例吗？我在这上面花了几个小时，似乎迷路了..

编辑:

我试着查看 Keypoint matching just works two times...? (java opencv)但是标准(非 knn)匹配使用不同的结构，我无法让它工作。

Answer 1

如其他答案中所述，有几种方法可以删除异常值和不良匹配项。我猜你发现示例和教程使用 match 而不是 knnMatch 使用其中一些方法。

所以，正如您可能知道的那样，不同之处在于 knnMatch 返回 descriptor2 中的 n 个最佳匹配，用于 descriptor1 中的每个描述符。这意味着，您得到的不是匹配列表，而是匹配列表的列表。我想这就是您遇到问题的原因。

使用 knnMatch 的主要优点是您可以执行比率测试。因此，如果 descriptor1 中的一个描述符与 descriptor2 中的两个最佳描述符之间的距离相似，则表明图像中存在重复模式(例如栅栏的尖端)在草地前)。因此，此类匹配项不可靠，应将​​其删除。(我不确定你为什么要搜索五个最佳匹配项 - 你将 5 传递给 knnMatch - 对于每个描述符。而是搜索两个。)

如果您现在想要访问每个描述符的最佳匹配，您只需访问“子列表”的第一个元素。在下文中，您将找到使用 RANSAC 进行比率测试和单应性估计的示例(我在您的 knnMatch 之后替换了所有内容):

    // ratio test
    LinkedList<DMatch> good_matches = new LinkedList<DMatch>();
    for (Iterator<MatOfDMatch> iterator = matches.iterator(); iterator.hasNext();) {
        MatOfDMatch matOfDMatch = (MatOfDMatch) iterator.next();
        if (matOfDMatch.toArray()[0].distance / matOfDMatch.toArray()[1].distance < 0.9) {
            good_matches.add(matOfDMatch.toArray()[0]);
        }
    }

    // get keypoint coordinates of good matches to find homography and remove outliers using ransac
    List<Point> pts1 = new ArrayList<Point>();
    List<Point> pts2 = new ArrayList<Point>();
    for(int i = 0; i<good_matches.size(); i++){
        pts1.add(keypoints1.toList().get(good_matches.get(i).queryIdx).pt);
        pts2.add(keypoints2.toList().get(good_matches.get(i).trainIdx).pt);
    }

    // convertion of data types - there is maybe a more beautiful way
    Mat outputMask = new Mat();
    MatOfPoint2f pts1Mat = new MatOfPoint2f();
    pts1Mat.fromList(pts1);
    MatOfPoint2f pts2Mat = new MatOfPoint2f();
    pts2Mat.fromList(pts2);

    // Find homography - here just used to perform match filtering with RANSAC, but could be used to e.g. stitch images
    // the smaller the allowed reprojection error (here 15), the more matches are filtered 
    Mat Homog = Calib3d.findHomography(pts1Mat, pts2Mat, Calib3d.RANSAC, 15, outputMask, 2000, 0.995);

    // outputMask contains zeros and ones indicating which matches are filtered
    LinkedList<DMatch> better_matches = new LinkedList<DMatch>();
    for (int i = 0; i < good_matches.size(); i++) {
        if (outputMask.get(i, 0)[0] != 0.0) {
            better_matches.add(good_matches.get(i));
        }
    }

    // DRAWING OUTPUT
    Mat outputImg = new Mat();
    // this will draw all matches, works fine
    MatOfDMatch better_matches_mat = new MatOfDMatch();
    better_matches_mat.fromList(better_matches);
    Features2d.drawMatches(img1, keypoints1, img2, keypoints2, better_matches_mat, outputImg);

    // save image
    Imgcodecs.imwrite("result.jpg", outputImg);

我希望这足以作为示例。可以类似地应用其他过滤方法。如果您还有其他问题，请随时提出。

编辑:只有当你的大部分关键点都在场景中的同一平面上时，单应性过滤才有效，比如墙壁等。