python - 如何使用 openCV 使用广角镜头正确校准我的相机？

Question

我正在尝试用鱼眼镜头校准相机。因此，我使用了鱼眼镜头模块，但无论我修正什么畸变参数，都会得到奇怪的结果。这是我使用的输入图像:https://i.imgur.com/apBuAwF.png

红色圆圈表示我用来校准相机的角。

这是我能得到的最好的，输出:https://imgur.com/a/XeXk5

我目前完全不知道相机传感器的尺寸是多少，但根据在我的二元矩阵中计算的以像素为单位的焦距，我推断我的传感器尺寸约为 3.3 毫米(假设我的物理焦距是 1.8 毫米)，这对我来说似乎很现实。然而，当我的输入图像不失真时，我会胡说八道。有人可以告诉我我可能做错了什么吗？

校准输出的矩阵和均方根:

K:[263.7291703200009, 0, 395.1618975493187;
 0, 144.3800397321767, 188.9308218101271;
 0, 0, 1]

D:[0, 0, 0, 0]

rms: 9.27628

我的代码:

#include <opencv2/opencv.hpp>
#include "opencv2/core.hpp"
#include "opencv2/imgcodecs.hpp"
#include "opencv2/imgproc.hpp"
#include "opencv2/highgui.hpp"
#include "opencv2/ccalib/omnidir.hpp"

using namespace std;
using namespace cv;

vector<vector<Point2d> > points2D;
vector<vector<Point3d> > objectPoints;

Mat src;

//so that I don't have to select them manually every time
void initializePoints2D()
{
    points2D[0].push_back(Point2d(234, 128));
    points2D[0].push_back(Point2d(300, 124));
    points2D[0].push_back(Point2d(381, 126));
    points2D[0].push_back(Point2d(460, 127));
    points2D[0].push_back(Point2d(529, 137));
    points2D[0].push_back(Point2d(207, 147));
    points2D[0].push_back(Point2d(280, 147));
    points2D[0].push_back(Point2d(379, 146));
    points2D[0].push_back(Point2d(478, 153));
    points2D[0].push_back(Point2d(551, 165));
    points2D[0].push_back(Point2d(175, 180));
    points2D[0].push_back(Point2d(254, 182));
    points2D[0].push_back(Point2d(377, 185));
    points2D[0].push_back(Point2d(502, 191));
    points2D[0].push_back(Point2d(586, 191));
    points2D[0].push_back(Point2d(136, 223));
    points2D[0].push_back(Point2d(216, 239));
    points2D[0].push_back(Point2d(373, 253));
    points2D[0].push_back(Point2d(534, 248));
    points2D[0].push_back(Point2d(624, 239));
    points2D[0].push_back(Point2d(97, 281));
    points2D[0].push_back(Point2d(175, 322));
    points2D[0].push_back(Point2d(370, 371));
    points2D[0].push_back(Point2d(578, 339));
    points2D[0].push_back(Point2d(662, 298));


    for(int j=0; j<25;j++)
    {   
        circle(src, points2D[0].at(j), 5, Scalar(0, 0, 255), 1, 8, 0);
    }

    imshow("src with circles", src);
    waitKey(0);
}

int main(int argc, char** argv)
{
    Mat srcSaved;

    src = imread("images/frontCar.png");
    resize(src, src, Size(), 0.5, 0.5);
    src.copyTo(srcSaved);

    vector<Point3d> objectPointsRow;
    vector<Point2d> points2DRow;
    objectPoints.push_back(objectPointsRow);
    points2D.push_back(points2DRow);

    for(int i=0; i<5;i++)
    {

        for(int j=0; j<5;j++)
        {
            objectPoints[0].push_back(Point3d(5*j,5*i,1));        
        }
    }

    initializePoints2D();
    cv::Matx33d K;
    cv::Vec4d D;
    std::vector<cv::Vec3d> rvec;
    std::vector<cv::Vec3d> tvec;


    int flag = 0;
    flag |= cv::fisheye::CALIB_RECOMPUTE_EXTRINSIC;
    flag |= cv::fisheye::CALIB_CHECK_COND;
    flag |= cv::fisheye::CALIB_FIX_SKEW; 
    flag |= cv::fisheye::CALIB_FIX_K1; 
    flag |= cv::fisheye::CALIB_FIX_K2; 
    flag |= cv::fisheye::CALIB_FIX_K3; 
    flag |= cv::fisheye::CALIB_FIX_K4; 


    double rms =cv::fisheye::calibrate(
 objectPoints, points2D, src.size(), 
 K, D, rvec, tvec, flag, cv::TermCriteria(3, 20, 1e-6)     
 );

    Mat output;
    cerr<<"K:"<<K<<endl;
    cerr<<"D:"<<D<<endl;
    cv::fisheye::undistortImage(srcSaved, output, K, D);
    cerr<<"rms: "<<rms<<endl;
    imshow("output", output);
    waitKey(0);

    cerr<<"image .size: "<<srcSaved.size()<<endl;

}

如果有人有想法，请随意分享一些 Python 代码或 C++ 代码。随心所欲。

编辑:

您可能已经注意到，我没有使用黑白棋盘进行校准，而是使用构成我地毯的瓷砖的角。在一天结束时，我认为目标是获得代表失真半径样本的角坐标。地毯在某种程度上与棋盘相同，唯一的区别 - 我再次认为 - 是地毯上那些角落的高频边缘比黑白棋盘上的要少。

我知道图片的数量非常有限，只有1张。我希望图像在一定程度上不失真，但我也希望不失真做得很好。但在这种情况下，图像输出看起来完全是胡说八道。

我最终将这张图片与棋盘一起使用:https://imgur.com/a/WlLBR本站提供:https://sites.google.com/site/scarabotix/ocamcalib-toolbox/ocamcalib-toolbox-download-page但结果仍然很差:对角线就像我发布的其他输出图像一样。

谢谢

Answer 1

您的第一个问题是您只使用了一张图片。即使你有一个理想的没有失真的针孔相机，你也无法从共面点的单个图像中估计本征。一张共面点的图像根本无法为您提供足够的约束来解决内在问题。

您至少需要两张不同 3D 方向的图像，或者一个 3D 校准装置，其中的点不在同一平面上。当然，在实践中，您至少需要 20 张图像才能进行精确校准。

您的第二个问题是您使用地毯作为棋盘。您需要能够以亚像素精度检测图像中的点。小的定位误差会导致估计的相机参数出现大的误差。我严重怀疑您能否以任何合理的准确度检测地毯正方形的角。事实上，您甚至无法非常准确地测量地毯上的实际点位置，因为它是模糊的。

祝你好运!