python - 如何将 RGB 深度图像转换为点云？

Question

我有一个关于机器人映射的研究想法。基本上，最终目标是使用中等单眼相机(20-50 美元)并创建 3D 占用网格图(有一个用 c++ 编写的流行库，称为 Octomap)。为此，我为自己提出了以下步骤:

1. 拍摄 rgb 图像(来自视频)并使用卷积神经网络转换为深度图像。这部分就完成了。

2. 获取原始 rgb 图像和创建的深度图像并转换为点云。

3. 获取点云并将其转换为 3D 占用网格图。

所以对于第 2 步，我有点困惑，我这样做是对还是错。我已经使用了这段代码，它是开源的:

import argparse
import sys
import os
from PIL import Image

focalLength = 938.0
centerX = 319.5
centerY = 239.5
scalingFactor = 5000

def generate_pointcloud(rgb_file,depth_file,ply_file):

    rgb = Image.open(rgb_file)
    depth = Image.open(depth_file).convert('I')

    if rgb.size != depth.size:
        raise Exception("Color and depth image do not have the same 
resolution.")
    if rgb.mode != "RGB":
        raise Exception("Color image is not in RGB format")
    if depth.mode != "I":
        raise Exception("Depth image is not in intensity format")


    points = []    
    for v in range(rgb.size[1]):
        for u in range(rgb.size[0]):
            color = rgb.getpixel((u,v))
            Z = depth.getpixel((u,v)) / scalingFactor
            print(Z)
            if Z==0: continue
            X = (u - centerX) * Z / focalLength
            Y = (v - centerY) * Z / focalLength
            points.append("%f %f %f %d %d %d 0\n"% 

我认为 points 是实际存储点云的列表，对吗？

所以我要问的一个大问题是，使用深度学习算法创建的 RGB 图像和深度图像是否可以使用上面的代码转换为点云？

Answer 1

如果您能妥善处理 RGB 和深度图像比例，就可以了。您最终的点云属性可能类似于 (x,y,z,r,g,b)。