opencv - 使用 Opencv 进行 Python 多线程视频处理 - 停止视频后 setMouseCallback 不起作用

Question

我正在尝试使用 OpenCV 和 Python 处理视频。

我使用 2 个线程，一个读取帧，另一个显示帧。现在，我试图通过使用 setMouseCallback 设置点击回调函数来停止视频并恢复播放。

代码一直有效，直到我第一次停止视频，之后它不再捕获点击事件以能够恢复播放，重复点击停止工作。

这是我的代码:

import threading, time
import cv2
import queue

capFile = cv2.VideoCapture("../media/videoplayback.mp4")
input_buffer = queue.Queue(4000)

fps = capFile.get(cv2.CAP_PROP_FPS)
time_frame=1/fps

stopped=False

def clickListener(event, x, y, flags, param):
    global stopped
    if event==cv2.EVENT_LBUTTONDOWN:
        pass
    if event==cv2.EVENT_LBUTTONUP:
        print("Stop/Resume video")
        stopped = not stopped

def readFile():
    while True:
        ret, frame = capFile.read()
        if ret:
            input_buffer.put(frame)

def processingFile():
    cv2.namedWindow('Video File')
    cv2.setMouseCallback("Video File", clickListener)
    global stopped
    global frame
    while True:
        if not stopped:
            frame=input_buffer.get()
            cv2.imshow("Video File",frame)
            time.sleep(time_frame)
            if cv2.waitKey(1) & 0xFF == ord('q'):
                break
        else:
            pass
    return

tReadFile = threading.Thread(target=readFile)
tProcessingFile = threading.Thread(target=processingFile)

tReadFile.start()
tProcessingFile.start()

你知道会发生什么吗？

Answer 1

你的主要问题在于这个循环:

while True:
    if not stopped:
        frame=input_buffer.get()
        cv2.imshow("Video File",frame)
        time.sleep(time_frame)
        if cv2.waitKey(1) & 0xFF == ord('q'):
            break
    else:
        pass

当视频停止时，您只是进入了一个什么都不做的无限循环。不幸的是，为了让 GUI 继续工作(包括处理鼠标事件)，您需要“泵送消息循环”——对于 OpenCV HighGUI 框架，这意味着运行 cv2.waitKey() 定期处理和分派(dispatch)任何偶数处理程序，并在必要时执行重绘窗口内容等操作。

因此，第一个修复将遵循这些思路:

while True:
    if not stopped:
        frame = input_buffer.get()
        cv2.imshow("Video File", frame)
        time.sleep(time_frame)
    if (cv2.waitKey(1) & 0xFF) == ord('q'):
        break

这解决了您提出的问题。不幸的是，这还远远不足以让代码运行良好。

---

还有其他几个问题:

1. 4000 的队列大小太大了，而且没有必要(尽管我怀疑你为什么这样设置)——大约 20 帧应该足够了，避免大量浪费内存(尤其是暂停时)
2. 时机不对(它总是以低于应有的 FPS 运行)
3. 当您在长视频的早期退出(使用 q 键)时程序挂起
4. 程序在显示整个视频后挂起

---

问题 #1 很容易解决，只需减小队列大小即可。

问题 #2 有点困难。这里的技巧是与实时同步。

首先您需要记录开始时间——这是您希望显示第一帧的时间。您还必须跟踪显示的帧数，这包括视频暂停时重复的任何帧。

利用这些信息，您可以计算出在显示下一帧之前要等待多长时间，从而保持恒定(且正确)的帧速率。

注意: 这里要记住的关键是每次迭代执行的所有操作都需要一些时间。除非你对此进行补偿，否则你将落后。

问题 #3 和 #4 可以通过添加一个发出停止请求信号的 bool 变量以及向阻塞的 Queue 调用添加超时来解决。此“停止”信号可以通过按 q 键或读取器线程到达文件末尾来触发。

当阅读器到达终点时，它会将“停止”标志设置为True，然后结束。处理线程将读取队列直到它为空，最后它也将结束。

读取器将检查它读取的每一帧的“停止”标志，以及在插入队列时超时的任何时候。

---

脚本:

import threading, time
import cv2
import queue

capFile = cv2.VideoCapture("f:\\roadtrip\\Roadtrip_01_720p.mp4 ")
input_buffer = queue.Queue(20)

fps = capFile.get(cv2.CAP_PROP_FPS)
time_frame = 1.0 / fps

paused = False
finished = False

window_name = 'Video File'

def clickListener(event, x, y, flags, param):
    global paused
    if event==cv2.EVENT_LBUTTONUP:
        print "%s video" % ("Resume" if paused else "Pause")
        paused = not paused

def readFile():
    global finished

    while not finished:
        ret, frame = capFile.read()
        if not ret:
            finished = True

        while not finished:
            try:
                input_buffer.put(frame, timeout=1)
                break
            except queue.Full:
                pass

def processingFile():
    global finished
    global frame

    cv2.namedWindow(window_name)
    cv2.setMouseCallback(window_name, clickListener)

    start_time = time.time()
    frame_number = 0
    while True:
        if not paused:
            try:
                frame = input_buffer.get(timeout=1)
                cv2.imshow(window_name, frame)
            except queue.Empty:
                if finished:
                    break
        wait_time = (start_time + frame_number * time_frame) - time.time()
        if wait_time > 0:
            time.sleep(wait_time)
        if (cv2.waitKey(1) & 0xFF) == ord('q'):
            finished = True
            print "Playback terminated."
            break
        frame_number += 1
    end_time = time.time()

    print "Video FPS = %0.3f" % fps
    print "Frames rendered = %d (includes repeats during pause)" % frame_number
    print "Time taken = %0.3f seconds" % (end_time - start_time)
    print "Actual FPS = %0.3f" % (frame_number / (end_time - start_time))


tReadFile = threading.Thread(target=readFile)
tProcessingFile = threading.Thread(target=processingFile)

tReadFile.start()
tProcessingFile.start()

tProcessingFile.join()
tReadFile.join()

控制台输出:

这包括 3 次相当长的停顿

Pause video
Resume video
Pause video
Resume video
Pause video
Resume video
Video FPS = 25.000
Frames rendered = 15863 (includes repeats during pause)
Time taken = 635.481 seconds
Actual FPS = 24.962