python - Raspberry Pi 3 上的 OpenCV 多 USB 摄像头

Question

我已经看过很多以前与此相关的问题，但没有一个有帮助。

我的设置:

• these 之一
  • 它们显示为 /dev/video0 和 /dev/video1
  • 图片为 640 x 480
• 树莓派 3
• Raspbian 杰西
• OpenCV 3.1.0
• python 2.7

对于其中任何一台相机，我都可以捕捉图像并以相当不错的速度显示它们，并且延迟时间极短(偶尔出现伪影)。

但是，当我尝试同时使用两者时，我得到的帧速率可能是十分之一(尽管帧之间的延迟似乎随每一帧而变化很大)以及各种令人讨厌的图像伪影(请参阅下面的示例)和无法忍受的滞后量。

问题似乎不是相机本身或设备上的 USB 带宽:当我将相机连接到我的 Windows PC 时，我能够以 30 FPS 的速度捕捉和显示，而没有任何视觉效果人工制品和很少的滞后。

据我所知，问题一定出在 Pi 硬件、驱动程序或 OpenCV。我不认为这是 Pi 硬件。如果我能用两个摄像头实现一个摄像头帧速率的一半(而且我不明白为什么不应该这样做)并且没有丑陋的人工制品，我会很高兴.

有人有什么建议吗？我最终只是想将两个摄像头的视频从我的 Pi 流式传输到我的桌面。如果有不涉及 OpenCV 的建议，我会洗耳恭听；我并不想在 Pi 上对图像进行任何渲染或操作，但 openCV 是我发现的唯一可以相当快地捕捉图像的东西(当然是用一台相机)。

仅供引用，我使用的简单 python 脚本是这样的:

import cv2
import numpy as np
import socket
import ctypes
import struct

cap = []
cap.append(cv2.VideoCapture(0))
cap.append(cv2.VideoCapture(1))

#grab a single frame from one camera
def grab(num):
    res, im = cap[num].read()
    return (res,im)

#grab a frame from each camera and stitch them
#side by side
def grabSBS():
    res, imLeft  = grab(1)
    #next line is for pretending I have 2 cameras
    #imRight = imLeft.copy()
    res, imRight = grab(0)
    imSBS = np.concatenate((imLeft, imRight), axis=1)
    return res,imSBS

###For displaying locally instead of streaming
#while(False):
#    res, imLeft = grab(0)
#    imRight = imLeft.copy()
#    imSBS = np.concatenate((imLeft, imRight), axis=1)
#    cv2.imshow("win", imSBS)
#    cv2.waitKey(20)

header_data = ctypes.create_string_buffer(12)

while(True):
    sck = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
    sck.bind(("10.0.0.XXX", 12321))

    sck.listen(1)

    while(True):
        (client, address) = sck.accept()
        print "Client connected:", address
        try:
            while(True):
            res,im = grabSBS()
            if(res):
                success, coded = cv2.imencode('.jpg', im)
                if (success):
                    height, width, channels = im.shape
                    size = len(coded)
                    struct.pack_into(">i", header_data , 0, width)
                    struct.pack_into(">i", header_data , 4, height)
                    struct.pack_into(">i", header_data , 8, size)
                    client.sendall(header_data .raw)
                    client.sendall(coded.tobytes())
        except Exception as ex:
            print "ERROR:", ex
            client.close()
            sck.close()
            exit()

更新:通过在初始化 VideoCapture 对象后添加以下代码行，我让它工作得非常非常好:

cap[0].set(cv2.CAP_PROP_FPS, 15)
cap[1].set(cv2.CAP_PROP_FPS, 15)

这既降低了所需的带宽，也降低了 openCV 的工作负载。我仍然每隔几帧就会遇到这些可怕的伪影，所以如果有人对此有任何建议，我很高兴听到。

Answer 1

好吧，在与它搏斗了大约 5 个小时之后，我似乎找到了解决方案。

首先，显然 OpenCV 试图以 30 FPS 的速度捕获，即使我无法以 30 FPS 的速度拉帧。我将 VideoCapture 帧速率更改为 15 FPS，视频变得更加流畅和快速。

cap[0].set(cv2.CAP_PROP_FPS, 15.0)
cap[1].set(cv2.CAP_PROP_FPS, 15.0)

不过，这并没有消除工件。我最终发现，如果我在通过网络发送图像后执行 del(im)，伪影就会完全消失。