neural-network - 如何训练和制作神经网络的序列化特征向量？

Question

通过序列化，我的意思是输入的值以离散的时间间隔出现，并且向量的大小事前也是未知的。通常，神经网络采用固定大小并行输入神经元和固定大小并行输出神经元。

序列化实现可用于语音识别，我可以向网络提供时间序列的波形，并在输出端获取音素。

如果有人能指出一些现有的实现，那就太好了。

Answer 1

简单的神经网络作为一种结构在时间尺度变形中不具有不变性，这就是为什么将其应用于识别时间序列是不切实际的。为了识别时间序列，通常使用通用通信模型 (HMM)。 NN 可以与 HMM 一起使用来对单个语音帧进行分类。在这种 HMM-ANN 配置中，音频在帧上被分割，帧切​​片被传递到 ANN 中以计算音素概率，然后使用 HMM 动态搜索分析整个概率序列以获得最佳匹配。

HMM-ANN 系统通常需要从更健壮的 HMM-GMM 系统进行初始化，因此没有独立的 HMM-ANN 实现，通常它们是整个语音识别工具包的一部分。在流行的工具包中Kaldi有 HMM-ANN 甚至 HMM-DNN(深度神经网络)的实现。

还有专门用于对时间序列进行分类的神经网络——递归神经网络，它们可以成功地用于对语音进行分类。该示例可以使用任何支持 RNN 的工具包创建，例如 Keras .如果您想从递归神经网络开始，请尝试长短期内存网络 (LSTM)，它们的架构可以实现更稳定的训练。 Building Speech Dataset for LSTM binary classification 中讨论了用于语音识别的 Keras 设置。