neural-network - 有哪些学习人工神经网络的好资源？

Question

已关闭。此问题不符合 Stack Overflow guidelines 。目前不接受答案。

---

要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的，因为它们往往会吸引固执己见的答案和垃圾邮件。相反，describe the problem以及迄今为止已采取哪些措施来解决该问题。

已关闭 9 年前。

Improve this question

我对人工神经网络非常感兴趣，但我正在寻找一个起点。

有哪些资源以及什么是好的起始项目？

Answer 1

首先，放弃人工神经网络与大脑有任何关系的任何观念，而是与生物神经元网络有短暂的相似之处。学习生物学并不能帮助你有效地应用神经网络；学习线性代数、微积分和概率论。您至少应该熟悉函数的基本微分、链式法则、偏导数(梯度、雅可比矩阵和海森矩阵)的概念，并理解矩阵乘法和对角化。

当你训练网络时，你所做的实际上是优化一个大型的多维函数(最小化网络中每个权重的误差测量)，因此对非线性数值优化技术的研究可能会很有启发性。这是一个被广泛研究的问题，在神经网络之外有大量文献基础，并且网络上有大量关于数值优化的讲义。首先，大多数人使用简单的 gradient descent ，但这可能比

等更细致的方法慢得多，而且效率低得多

一旦你掌握了基本的想法，你就可以开始在隐藏层中尝试不同的“压缩”函数，添加各种正则化和各种调整以使学习速度更快。请参阅this paper获取“最佳实践”的完整列表。

有关该主题的最好的书之一是 Chris Bishop 的 Neural Networks for Pattern Recognition 。到这个阶段它已经相当旧了，但仍然是一个很好的资源，你经常可以在网上找到二手的副本，价格约为 30 美元。他的新书 Pattern Recognition and Machine Learning 中的神经网络章节，也相当全面。对于一个特别好的以实现为中心的教程，see this one on CodeProject.com它实现了一种称为卷积网络的聪明网络，它以某种方式限制连接性，使其非常擅长学习对视觉模式进行分类。

支持向量机和其他内核方法已经变得非常流行，因为您可以在不知道自己在做什么的情况下应用它们，并且通常会得到可接受的结果。另一方面，神经网络是需要仔细调整的巨大优化问题，尽管它们仍然更适合解决许多问题，特别是计算机视觉等领域的大规模问题。