python - python 中绘图中的音频文件长度不正确以及音频绘图上的注释段重叠不正确

Question

我正在遵循本教程(https://github.com/amsehili/audio-segmentation-by-classification-tutorial/blob/master/multiclass_audio_segmentation.ipynb)并尝试使用我自己的训练数据和样本重新创建可视化输出。

我的音频文件时长 31 秒
: https://www.dropbox.com/s/qae2u5dnnp678my/test_hold.wav?dl=0
注释文件在这里:
https://www.dropbox.com/s/gm9uu1rjettm3qr/hold.lst?dl=0
https://www.dropbox.com/s/b6z1gt8i63c8ted/tring.lst?dl=0
我试图在 python 中绘制音频文件波形，然后从该波形顶部的注释文件中突出显示该音频中的“hold”和“tring”部分。

Audacity的波形如下:

代码如下:

import wave
import pickle
import numpy as np
from sklearn.mixture import GMM
import librosa

import warnings
warnings.filterwarnings('ignore')
SAMPLING_RATE =16000
wfp = wave.open("/home/vivek/Music/test_hold.wav")
audio_data = wfp.readframes(-1)
width = wfp.getsampwidth()
wfp.close()

# data as numpy array will be used to plot signal
fmt = {1: np.int8 , 2: np.int16, 4: np.int32}
signal = np.array(np.frombuffer(audio_data, dtype=fmt[width]), dtype=np.float64)


%matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.pylab as pylab
pylab.rcParams['figure.figsize'] = 24, 18

def plot_signal_and_segmentation(signal, sampling_rate, segments=[]):
    _time = np.arange(0., np.ceil(float(len(signal))) / sampling_rate, 1./sampling_rate )
    if len(_time) > len(signal):
        _time = _time[: len(signal) - len(_time)]

    pylab.subplot(211)

    for seg in segments:

        fc = seg.get("fc", "g")
        ec = seg.get("ec", "b")
        lw = seg.get("lw", 2)
        alpha = seg.get("alpha", 0.4)

        ts = seg["timestamps"]

        # plot first segmentation outside loop to show one single legend for this class
        p = pylab.axvspan(ts[0][0], ts[0][1], fc=fc, ec=ec, lw=lw, alpha=alpha, label = seg.get("title", ""))

        for start, end in ts[1:]:
            p = pylab.axvspan(start, end, fc=fc, ec=ec, lw=lw, alpha=alpha)


    pylab.legend(bbox_to_anchor=(0., 1.02, 1., .102), loc=3,
            borderaxespad=0., fontsize=22, ncol=2)

    pylab.plot(_time, signal)

    pylab.xlabel("Time (s)", fontsize=22)
    pylab.ylabel("Signal Amplitude", fontsize=22)
    pylab.show()

annotations = {}


ts = [line.rstrip("\r\n\t ").split(" ") for line in  open("/home/vivek/Music/hold.lst").readlines()]
ts = [(float(t[0]), float(t[1])) for t in ts]
annotations["hold"] = {"fc" : "y", "ec" : "y", "lw" : 0, "alpha" : 0.4, "title" : "Hold", "timestamps" : ts}

ts = [line.rstrip("\r\n\t ").split(" ") for line in  open("/home/vivek/Music/tring.lst").readlines()]
ts = [(float(t[0]), float(t[1])) for t in ts]
annotations["tring"] = {"fc" : "r", "ec" : "r", "lw" : 0, "alpha" : 0.9, "title" : "Tring", "timestamps" : ts}


def plot_annot():
    plot_signal_and_segmentation(signal, SAMPLING_RATE,
                             [annotations["tring"],
                              annotations["hold"]])

plot_annot()  

上面代码生成的图是:

正如您所看到的，情节似乎认为文件长 90 秒，但实际上只有 31 秒长。此外，注释段也被错误地覆盖/突出显示。

我做错了什么以及如何解决它？

PS:波形中，矩形 block 是“弦”，其余四个“梯形”波形是保持音乐的区域。

Answer 1

这里只是一个疯狂的猜测。 audacity 屏幕截图显示的采样率为 44100。您的代码片段有一个初始化为 16000 的 SAMPLE_RATE 变量。如果您将原始 31 秒乘以两个采样率之间的比率，则为 31*44100/16000 = 85.44 秒。