python - 从前一帧和光流创建帧

Question

我有一个视频，我需要使用Optical Flow模拟帧；即具有一帧并且代表下一帧的像素平移的光流模拟了此下一结果帧。

我正在使用Python和OpenCV，如下所示:

生成两个连续的灰度帧之间的流

gray = cv2.cvtColor(frame, cv2.COLOR_BGR2GRAY)
flow = cv2.calcOpticalFlowFarneback(prev_gray, gray, None, pyr_scale = 0.5, levels = 5, winsize = 11, iterations = 5, poly_n = 5, poly_sigma = 1.1, flags = 0)

这是第一帧和第二帧之间的流:



这是以下(目标框架):

现在，我想使用第一帧和光流来生成第二帧估计。基于this question

height = flow.shape[0]
width = flow.shape[1]
R2 = np.dstack(np.meshgrid(np.arange(width), np.arange(height)))
pixel_map = R2 + flow

prev = original_frames[0].astype("float32")
pixel_map = pixel_map.astype("float32")
new_frame = cv2.remap(prev, pixel_map, None, cv2.INTER_LINEAR)

生成的图像为:

Answer 1

通过稍微更新代码即可解决此问题，如下所示:

h = flow.shape[0]
w = flow.shape[1]
flow[:,:,0] += np.arange(w)
flow[:,:,1] += np.arange(h)[:,np.newaxis]

new_frame = cv2.remap(original_frame, flow, None, cv2.INTER_LINEAR)