python - 如何使用 opencv python 计算乐高积木上的孔数？

Question

我正在开发我的 python 项目，我需要计算每个乐高积木组件中有多少个孔。我将从输入 .json 文件中获取有关我需要计算哪个程序集的信息，如下所示:

"img_001": [
    {
        "red": "0",
        "blue": "2",
        "white": "1",
        "grey": "1",
        "yellow": "1"
    },
    {
        "red": "0",
        "blue": "1",
        "white": "0",
        "grey": "1",
        "yellow": "0"

因此，我需要识别必须按颜色计数的程序集。然后我必须确定特定的砖 block 组装过程中的孔数。

这是我使用的图像示例:

我开始将图像更改为 HSV 颜色空间，并使用轨迹栏为每种颜色找到了一个 mask 。使用 cv2.inRange 我得到一个 mask ，例如红色: 如您所见，反射光没有帮助。此时我不知道我该如何前进。我觉得我应该使用 cv2.findContour 来获取每个组件的轮廓。我认为直方图均衡在这里可能有用。为了检测圆圈，我想使用cv2.HoughCircles或者cv2.SimpleBloopDetector。但我不知道如何检查每个区域有多少 block 砖。输出只是特定装配中的一些孔。你能给我一些想法吗？哪个 OpenCv 函数可能适用于此？您将如何解决这种图像处理问题？感谢您的回答。

Answer 1

这是一个简单但非常有趣的颜色分割练习。这个主题已被广泛讨论，有几个例子分布在 Stackoverflow 上。 。在许多场景中，颜色分割在 HSV 颜色空间中效果最佳。

在下面的左图中，您可以看到带有蓝色孔洞的黄色砖 block 的分割结果，只是为了表明它们也被这种方法检测到。

在这个答案中，我提供了检测黄砖并识别其中的孔所需的操作的高级概述。然而，它并没有演示如何计算特定砖 block 内的孔数，以避免破坏你的作业。我故意省略了这部分答案，以便给您留下一些工作要做。

以下是我的方法的主要步骤:

• 预处理图像以改善分割:此处使用的技术称为颜色量化和it reduces the numbers of colors in the image到 ~42 颜色。很难在下图中看到结果，但如果放大，它显示的颜色会比原始图像少:

• 将预处理后的图像转换为HSV颜色空间，以实现更好的颜色分割。

• 由于此方法仅关注黄色砖 block 的分割，因此该算法定义了黄色的低值和高值(在 HSV 中)，以使用此范围对图像进行阈值处理:该范围之外的任何颜色都会变成黑色像素。图像编辑器可以帮助您放大原始图像并检查像素的准确 HSV 值。这是分割的结果:

• 然后处理分割的图像，我们丢弃小 Blob ，只保留最大的 Blob (即砖 block )。经过这个过滤机制，就可以统计出有多少 block 黄砖了。这里有一个巧妙的技巧:如果您使用 cv2.fillPoly() 绘制砖 block 的轮廓并用白色填充它，您将能够在单独的图像中绘制整个砖 block ，而没有任何孔创建一个蒙版。这很快就会派上用场!这是黄色面具的样子:

• 在这个阶段，我们已经知道了图像中所有黄色砖 block 的位置。剩下要做的就是识别每 block 砖上的孔。这就是 mask 的用武之地:如果你注意上面的两幅图像，分割图像和 mask 之间的区别主要是砖 block 的孔:

• 处理该图像的轮廓可以丢弃所有不符合孔洞条件的小 Blob ，只留下砖 block 的孔洞。我们可以在分割图像或原始图像上绘制孔的位置来显示它们:

总之，此代码提供了一个黄色砖 block 列表和另一个包含这些砖 block 中的孔的列表。从现在开始，就由你决定了。该代码可以轻松扩展以处理其他颜色的砖 block 。玩得开心:

import cv2
import numpy as np

# convertToOpenCVHSV():
#   converts from HSV range (H: 0-360, S: 0-100, V: 0-100)
#   to what OpenCV expects: (H: 0-179, S: 0-255, V: 0-255)
def convertToOpenCVHSV(H, S, V):
    return np.array([H // 2, S * 2.55, V * 2.55], np.uint8)


# 1. Load input image
img = cv2.imread('test_images/legos.jpg')

# 2. Preprocess: quantize the image to reduce the number of colors
div = 6
img = img // div * div + div // 2
cv2.imwrite('lego2_quantized.jpg', img)


# 3. Convert to HSV color space
hsv_img = cv2.cvtColor(img, cv2.COLOR_BGR2HSV)


# 4. Segment the image using predefined values of yellow (min and max colors)
low_yellow = convertToOpenCVHSV(40, 35, 52)
high_yellow = convertToOpenCVHSV(56, 95, 93)
yellow_seg_img = cv2.inRange(hsv_img, low_yellow, high_yellow)
#cv2.imshow('yellow_seg_img', yellow_seg_img)
cv2.imwrite('lego4_yellow_seg_img.jpg', yellow_seg_img)

# 5. Identify and count the number of yellow bricks and create a mask with just the yellow objects
bricks_list = []
min_size = 5

contours, hierarchy = cv2.findContours(yellow_seg_img, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)
for contourIdx, cnt in enumerate(contours):
    # filter out tiny segments
    x, y, w, h = cv2.boundingRect(cnt)
    if (w < min_size) or (h < min_size):
        continue

    #print('contourIdx=', contourIdx, 'w=', w, 'h=', h)

    bricks_list.append(cnt)

    # debug: draw green contour in the original image
    #cv2.drawContours(img, cnt, -1, (0, 255, 0), 2) # green

print('Detected', len(bricks_list), 'yellow pieces.')

# Iterate the list of bricks and draw them (filled) on a new image to be used as a mask
yellow_mask_img = np.zeros((img.shape[0], img.shape[1]), np.uint8)
for cnt in bricks_list:
    cv2.fillPoly(yellow_mask_img, pts=[cnt], color=(255,255,255))

cv2.imshow('yellow_mask_img', yellow_mask_img)
cv2.imwrite('lego5_yellow_mask_img.jpg', yellow_mask_img)

# debug: display only the original yellow bricks found
bricks_img = cv2.bitwise_and(img, img, mask=yellow_mask_img)
#cv2.imshow('bricks_img', bricks_img)
cv2.imwrite('lego5_bricks_img.jpg', bricks_img)

# 6. Identify holes in each Lego brick
diff_img = yellow_mask_img - yellow_seg_img
cv2.imshow('diff_img', diff_img)
cv2.imwrite('lego6_diff_img.jpg', diff_img)

# debug: create new BGR image for debugging purposes
dbg_img = cv2.cvtColor(yellow_mask_img, cv2.COLOR_GRAY2RGB)
#dbg_img = bricks_img

holes_list = []
min_area_size = 10
max_area_size = 24
contours, hierarchy = cv2.findContours(yellow_seg_img, cv2.RETR_LIST, cv2.CHAIN_APPROX_NONE)
for contourIdx, cnt in enumerate(contours):
    # filter out tiny segments by area
    area = cv2.contourArea(contours[contourIdx])

    if (area < min_area_size) or (area > max_area_size):
        #print('contourIdx=', contourIdx, 'w=', w, 'h=', h, 'area=', area, '(ignored)')
        #cv2.drawContours(dbg_img, cnt, -1, (0, 0, 255), 2) # red
        continue

    #print('contourIdx=', contourIdx, 'w=', w, 'h=', h, 'area=', area)
    holes_list.append(cnt)

# debug: draw a blue-ish contour on any BGR image to show the holes of the bricks
for cnt in holes_list:
    cv2.fillPoly(dbg_img, pts=[cnt], color=(255, 128, 0))
    cv2.fillPoly(img, pts=[cnt], color=(255, 128, 0))

cv2.imwrite('lego6_dbg_img.jpg', dbg_img)
cv2.imwrite('lego6_img.jpg', img)

# 7. Iterate though the list of holes and associate them with a particular brick
# TODO

cv2.imshow('img', img)
cv2.imshow('dbg_img', dbg_img)
cv2.waitKey(0)