machine-learning - 深度学习和传统的人工神经网络机器学习有什么区别？

Question

关闭。这个问题需要多问 focused 。目前不接受答案。

---

想要改进此问题吗？更新问题，使其仅关注一个问题 editing this post .

已关闭 4 年前。

Improve this question

您能否简要解释 Deep Learning 之间的差异和利用神经网络的传统机器学习？需要多少层才能使神经网络变得“深度”？这一切只是营销炒作吗？

Answer 1

当层数变大时，标准反向传播算法(梯度下降)会出现严重问题。误差函数中局部最小值的概率随着每一层的增加而增加。不仅数学意义上的局部极小值会导致问题，有时误差函数中只存在平坦区域(修改一个或多个权重不会显着改变误差)，而梯度下降在这些区域不起作用。

另一方面，多层网络可以解决更困难的问题，因为每一层单元也可以提供一个抽象层。

深度学习正是解决这个问题。基本思想是除了对整个网络使用梯度下降之外，还在每个层上执行无监督学习过程。无监督学习的目标是使每个单层从其输入中提取可供后续层使用的特征。

尽管“深度学习”一词目前使用过于广泛，但它不仅仅是一种营销炒作。

编辑:几年前，包括我自己在内的许多人都认为无监督预训练是深度学习的主要插入力。从那时起，其他技术开始流行，在许多情况下可以产生更好的结果。正如 @Safak Okzan 的评论中提到的(在他自己的答案下面)，这些包括:

• 残差网络

• 批量归一化

• 修正线性单位