.net - 使用 .Net 校正图像歪斜

Question

我一直在寻找一种可靠的方法来校正 .Net 中的图像，但运气不佳。

目前我正在使用 Aforge。这是一个痛苦，因为我正在使用 WPF，所以我正在使用的图像是 BitmapImage 对象，而不是 Bitmap 对象，这意味着我需要从 BitmapImage 对象开始，将其保存到内存流，创建一个新的 Bitmap 对象从内存流中，进行去歪斜过程，将去歪斜图像保存到新的内存流中，然后从所述内存流创建一个新的 BitmapImage 对象。不仅如此，偏移校正效果也不是很好。

我正在尝试读取扫描到扫描仪中的一张纸的 OMR 数据，因此我需要依赖每次都处于相同坐标的特定 OMR 框，因此倾斜校正需要可靠。

所以我现在正在使用 Aforge，我在 .Net 中找不到任何其他用于图像倾斜校正的免费/开源库，我发现的所有内容要么相当昂贵，要么采用 C/C++ 编写。

我的问题是是否存在其他免费/开源库可以帮助 .Net 中的图像校正？如果是的话，它们叫什么，如果不是，我应该如何解决这个问题？

编辑:例如，假设我有以下页面:

注意:这仅用于说明目的，但实际图像确实在页面的每个角都有一个黑色矩形，也许这会有所帮助。

当我打印出来并将其扫描回扫描仪时，它看起来像这样:

我需要校正该图像，以便我的盒子每次都位于同一个位置。在现实世界中，有很多盒子，它们较小且靠得很近，因此准确性很重要。

我目前的方法是一个非常无效的痛苦方法:

using AForge.Imaging;
using AForge.Imaging.Filters;
using System.Drawing;
using System.Drawing.Imaging;
using System.IO;
using System.Windows.Media.Imaging;

public static BitmapImage DeskewBitmap(BitmapImage skewedBitmap)
{
    //Using a memory stream to minimise disk IO
    var memoryStream = BitmapImageToMemoryStream(skewedBitmap);

    var bitmap = MemoryStreamToBitmap(memoryStream);
    var skewAngle = CalculateSkewAngle(bitmap);

    //Aforge needs a Bppp indexed image for the deskewing process
    var bitmapConvertedToBbppIndexed = ConvertBitmapToBbppIndexed(bitmap);

    var rotatedImage = DeskewBitmap(skewAngle, bitmapConvertedToBbppIndexed);

    //I need to convert the image back to a non indexed format to put it back into a BitmapImage object
    var imageConvertedToNonIndexed = ConvertImageToNonIndexed(rotatedImage);

    var imageAsMemoryStream = BitmapToMemoryStream(imageConvertedToNonIndexed);
    var memoryStreamAsBitmapImage = MemoryStreamToBitmapImage(imageAsMemoryStream);

    return memoryStreamAsBitmapImage;
}

private static Bitmap ConvertImageToNonIndexed(Bitmap rotatedImage)
{
    var imageConvertedToNonIndexed = rotatedImage.Clone(
        new Rectangle(0, 0, rotatedImage.Width, rotatedImage.Height), PixelFormat.Format32bppArgb);
    return imageConvertedToNonIndexed;
}

private static Bitmap DeskewBitmap(double skewAngle, Bitmap bitmapConvertedToBbppIndexed)
{
    var rotationFilter = new RotateBilinear(-skewAngle) { FillColor = Color.White };

    var rotatedImage = rotationFilter.Apply(bitmapConvertedToBbppIndexed);
    return rotatedImage;
}

private static double CalculateSkewAngle(Bitmap bitmapConvertedToBbppIndexed)
{
    var documentSkewChecker = new DocumentSkewChecker();

    double skewAngle = documentSkewChecker.GetSkewAngle(bitmapConvertedToBbppIndexed);

    return skewAngle;
}

private static Bitmap ConvertBitmapToBbppIndexed(Bitmap bitmap)
{
    var bitmapConvertedToBbppIndexed = bitmap.Clone(
        new Rectangle(0, 0, bitmap.Width, bitmap.Height), PixelFormat.Format8bppIndexed);
    return bitmapConvertedToBbppIndexed;
}

private static BitmapImage ResizeBitmap(BitmapImage originalBitmap, int desiredWidth, int desiredHeight)
{
    var ms = BitmapImageToMemoryStream(originalBitmap);
    ms.Position = 0;

    var result = new BitmapImage();
    result.BeginInit();
    result.DecodePixelHeight = desiredHeight;
    result.DecodePixelWidth = desiredWidth;

    result.StreamSource = ms;
    result.CacheOption = BitmapCacheOption.OnLoad;

    result.EndInit();
    result.Freeze();

    return result;
}

private static MemoryStream BitmapImageToMemoryStream(BitmapImage image)
{
    var ms = new MemoryStream();

    var encoder = new JpegBitmapEncoder();
    encoder.Frames.Add(BitmapFrame.Create(image));

    encoder.Save(ms);

    return ms;
}

private static BitmapImage MemoryStreamToBitmapImage(MemoryStream ms)
{
    ms.Position = 0;
    var bitmap = new BitmapImage();

    bitmap.BeginInit();

    bitmap.StreamSource = ms;
    bitmap.CacheOption = BitmapCacheOption.OnLoad;

    bitmap.EndInit();
    bitmap.Freeze();

    return bitmap;
}

private static Bitmap MemoryStreamToBitmap(MemoryStream ms)
{
    return new Bitmap(ms);
}

private static MemoryStream BitmapToMemoryStream(Bitmap image)
{
    var memoryStream = new MemoryStream();
    image.Save(memoryStream, ImageFormat.Bmp);

    return memoryStream;
}

回想起来，还有几个问题:

1. 我是否正确使用 AForge？
2. AForge 是执行此任务的最佳库吗？
3. 如何改进我目前的方法以获得更准确的结果？

Answer 1

根据示例输入，很明显您并不是在进行图像倾斜校正。这种操作不会纠正您所拥有的扭曲，而是需要执行透视变换。从下图中可以清楚地看到这一点。四个白色矩形代表四个黑盒子的边缘，黄线是连接黑盒子的结果。黄色四边形不是倾斜的红色四边形(您想要实现的四边形)。

所以，如果你真的能得到上图，问题就变得简单很多了。如果你没有四个角框，你将需要其他四个引用点，所以它们确实对你有很大帮助。获得上图后，您就知道了四个黄色角，然后只需将它们映射到四个红色角即可。这是您需要执行的透视变换，根据您的库，可能有一个现成的函数(至少有一个，请检查对您问题的评论)。

获取上图的方法有很多种，我只介绍一种相对简单的方法。首先，对灰度图像进行二值化。为此，我选择了一个简单的全局阈值 100(您的图像在 [0, 255] 范围内)，它保留了图像中的框和其他细节(例如图像周围的粗线)。高于或等于 100 的强度设置为 255，低于 100 的强度设置为 0。但是，由于这是打印图像，因此框显示的暗度很可能会有所不同。因此，您可能需要一种更好的方法，像形态梯度这样简单的方法可能效果更好。第二步是消除不相关的细节。为此，请使用 7x7 正方形(输入图像的宽度和高度之间的最小值的大约 1%)执行形态学闭运算。要获取框的边界，请使用形态侵 eclipse ，如使用基本 3x3 正方形的 current_image - 侵 eclipse (current_image) 中所示。现在你有了一个带有上面四个白色轮廓的图像(这是假设除了盒子之外的所有内容都被消除了，我相信是其他输入的简化)。要获取这些白色轮廓的像素，您可以进行连通分量标记。通过这 4 个组件，确定右上一个、左上一个、右下一个和左下一个。现在您可以轻松找到所需的点来获取黄色矩形的角点。所有这些操作都可以在 AForge 中轻松使用，因此只需将以下代码翻译为 C# 即可:

import sys
import numpy
from PIL import Image, ImageOps, ImageDraw
from scipy.ndimage import morphology, label

# Read input image and convert to grayscale (if it is not yet).
orig = Image.open(sys.argv[1])
img = ImageOps.grayscale(orig)

# Convert PIL image to numpy array (minor implementation detail).
im = numpy.array(img)

# Binarize.
im[im < 100] = 0
im[im >= 100] = 255

# Eliminate undesidered details.
im = morphology.grey_closing(im, (7, 7))

# Border of boxes.
im = im - morphology.grey_erosion(im, (3, 3))

# Find the boxes by labeling them as connected components.
lbl, amount = label(im)
box = []
for i in range(1, amount + 1):
    py, px = numpy.nonzero(lbl == i) # Points in this connected component.
    # Corners of the boxes.
    box.append((px.min(), px.max(), py.min(), py.max()))
box = sorted(box)
# Now the first two elements in the box list contains the
# two left-most boxes, and the other two are the right-most
# boxes. It remains to stablish which ones are at top,
# and which at bottom.
top = []
bottom = []
for index in [0, 2]:
    if box[index][2] > box[index+1][2]:
        top.append(box[index + 1])
        bottom.append(box[index])
    else:
        top.append(box[index])
        bottom.append(box[index + 1])

# Pick the top left corner, top right corner,
# bottom right corner, and bottom left corner.
reference_corners = [
        (top[0][0], top[0][2]), (top[1][1], top[1][2]),
        (bottom[1][1], bottom[1][3]), (bottom[0][0], bottom[0][3])]

# Convert the image back to PIL (minor implementation detail).
img = Image.fromarray(im)
# Draw lines connecting the reference_corners for visualization purposes.
visual = img.convert('RGB')
draw = ImageDraw.Draw(visual)
draw.line(reference_corners + [reference_corners[0]], fill='yellow')
visual.save(sys.argv[2])

# Map the current quadrilateral to an axis-aligned rectangle.
min_x = min(x for x, y in reference_corners)
max_x = max(x for x, y in reference_corners)
min_y = min(y for x, y in reference_corners)
max_y = max(y for x, y in reference_corners)

# The red rectangle.
perfect_rect = [(min_x, min_y), (max_x, min_y), (max_x, max_y), (min_x, max_y)]

# Use these points to do the perspective transform.
print reference_corners
print perfect_rect

上面的代码与您的输入图像的最终输出是:

[(55, 30), (734, 26), (747, 1045), (41, 1036)]
[(41, 26), (747, 26), (747, 1045), (41, 1045)]

第一个点列表描述了黄色矩形的四个角，第二个点列表与红色矩形相关。要进行透视变换，您可以使用带有ready函数的AForge。为了简单起见，我使用 ImageMagick，如下所示:

convert input.png -distort Perspective "55,30,41,26 734,26,747,26 747,1045,747,1045 41,1036,41,1045" result.png

这给出了您想要的对齐方式(与之前一样找到蓝线以更好地显示结果):

您可能会注意到左侧垂直蓝线并不完全笔直，事实上最左侧的两个框在 x 轴上未对齐 1 个像素。这可以通过透视变换期间使用的不同插值来纠正。