neural-network - CNN前馈或反向传播模型

Question

卷积神经网络(CNN)是前馈模型还是反向传播模型。通过比较 DR.Yann 的博客，我得到了这种困惑。和维基百科对CNN的定义。

Answer 1

卷积神经网络是一种结构化神经网络，其中前几层稀疏连接以处理信息(通常是视觉信息)。

前馈网络被定义为其中不包含任何循环。如果它有循环，它就是一个循环神经网络。例如，想象一个三层网络，其中第 1 层是输入层，第 3 层是输出层。前馈网络的结构由第 1 层获取输入，将它们馈送到第 2 层，第 2 层馈送到第 3 层，以及第 3 层输出。循环神经网络会在第 1 层接收输入，然后馈送到第 2 层，但随后第 2 层可能会同时馈送到第 1 层和第 3 层。由于“较低”层将其输出馈送到“较高”层，因此它创建了一个循环神经网络内部。

然而，反向传播是训练神经网络的方法。它与网络的结构没有太大关系，而是暗示如何更新输入权重。

在训练前馈网络时，信息被传递到网络中，并将得到的分类与已知的训练样本进行比较。如果网络的分类不正确，权重将通过网络向后调整，以使其正确分类。这是训练的反向传播部分。

所以 CNN 是一个前馈网络，但通过反向传播进行训练。