个人中心
文章发布
退出
作者热门文章
- Java锁的逻辑（结合对象头和ObjectMonitor）
- 还在用饼状图？来瞧瞧这些炫酷的百分比可视化新图形（附代码实现）⛵
- 自动注册实体类到EntityFrameworkCore上下文，并适配ABP及ABPVNext
- 基于Sklearn机器学习代码实战
38
4
来自《深度学习入门:基于Python的理论与实现》 。
Numpy、TensorFlow、Pytorch等框架主要是为了计算张量或是基于张量计算。 标量：0阶张量；12,4,3, 向量：一阶张量；[12,4,3] 矩阵：二阶张量；[ [12,4,3], [11,2,3] ] 多阶张量：多维数组； 可以将张量的阶度理解为多维数组的维度.
神经网络的图表示： 最左边的一列称为输入层，最右边的一列称为输出层，中间的称为中间层，也叫做隐藏层.
激活函数的作用在于决定如何来激活输入信号的总和。数学表达式如下： 图表示如下： 通常神经元用一个○表示，在明确神经网络的动作下，可以明确显示激活函数的计算过程。如下，这两个图是等效的.
神经网络中用sigmoid函数作为激活函数，进行信号的转换，转换后的信号被传送到下一个神经元。 函数表示为： 使用Numpy实现:
relu函数在输入大于0时，直接输出该值；在输入小于等于0时，输出0。函数表示： 使用Numpy实现:
如下是三层神经网络的图表示，第0层神经元到第一层神经元的信号传递： 符号解释： 如下表示引入了偏置的神经元"1"。 神经元a1的数学表达式如下： 矩阵的乘法运算： NumPy实现:
中间层(隐藏层)的激活函数可能是不一样的，如上可能是sigmoid函数或是rule函数计算.
第1层神经元到第二层神经元的信号传递，从下图也可以看出来，第二层到输出层的信号传递:
神经网络可以用在分类问题和回归问题上，不过需要根据情况改变输出层的激活函数。一般而言，回归问题用恒等函数，分类问题用softmax函数.
机器学习的问题大致分为分类问题和回归问题。分类问题是数据属于哪一个类别的问题。而回归问题是根据某个输入预测一个数值的问题.
Affine层（也称为全连接层、线性层或密集层）是一种基本的神经网络层，其主要作用是将输入数据与权重矩阵相乘并添加偏置，以进行线性变换。这个线性变换是神经网络中的重要组成部分，它将输入数据映射到另一个空间，以便后续的非线性变换和学习。这可以用以下数学公式表示： 深度神经网络中，通常会有多个Affine层连接在一起，构成网络的一部分。每个Affine层将前一层的输出作为输入，并且可以具有不同的权重和偏置，以捕捉不同的特征和复杂性。通常，在Affine层之后会添加非线性激活函数（如ReLU、Sigmoid或Tanh），以使神经网络能够捕捉更复杂的模式和特征。这些非线性函数使神经网络能够逼近任意复杂的函数.
恒等函数会将输入按原样输出，对于输入的信息，不加以任何改动的直接输出。神经网络图表示： 分类问题中的softmax函数，其数学表达式如下，计算第K个神经元的输出： 图表示如下，输出层的各个神经元都受到所有输入信号的影响： softmax函数的python实现： softmax函数的输出是0.0到1.0之间的实数。并且softmax函数的输出值的总和是1。因此可以把softman函数的输出解释为"概率"。 比如在手写数字识别时，Softmax层的输出如下： 输入图像经过Affine层与ReLU层进行转换，10个输入通过Softmax层进行正规化。在这个例子中，"0"的得分时5.3，这个值经过Softmax层转换，输出概率为0.008的值；"2"的得分时10.1，被转换为0.991.
损失函数标识神经网络性能的"恶劣程度"的指标，即当前的神经网络对监督数据在多大程度上不拟合，在多大程度上不一致。损失函数的计算可以使用均方误差和交叉熵误差.
卷积神经网络(CNN)增加了卷积层(Convolution)和池化层(Pooling)。其神经网络结构示例如下： 之前的全连接神经网络中忽略了数据的形状，比如，输入数据是图像时，图像通常是高、长、通道三个方向上的3维形状。但是向全连接层输入时，需要将3维数据拉平为1维数据。全连接层会忽视形状，将全部的输入数据作为相同的神经元(同一纬度的神经元)处理，所以无法利用与形状相关的信息。 而卷积层可以保持形状不变。当输入数据是图像时，卷积层会以3维数据的形式接受输入数据，并以3维数据的形式输出至下一层。因此，CNN架构的网络可以正确理解图像等具有形状的数据.
卷积层进行的处理就是卷积运算。卷积运算相当于图像处理中的"滤波器运算"。如下示例： 卷积运算对输入数据应用滤波器。计算顺序如下，卷积运算以一定间隔的步幅滑动滤波器的窗口并应用。如下所示： 将各个位置上滤波器的元素与输入的对应元素相乘，然后再求和。最后将结果保存到输出的对应位置。将这个过程在所有的位置运算一遍，就可以得到卷积运算的输出.
之前的卷积运算都是以高、长方向的2维形状为对象的。图像是3维数据，除了高、长方向还有通道方向。增加了通道，会按通道进行输入数据与滤波器的卷积运算。如下是增加了通道方向的3维数据进行卷积运算的例子： 计算顺序如下:
池化是缩小高、长方向上的空间的运算。如下，将2*2的区域集约成1个元素的处理，缩小空间大小.
最后此篇关于聊聊神经网络的基础知识的文章就讲到这里了,如果你想了解更多关于聊聊神经网络的基础知识的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
38
4
0
积累和总结，是长期持续的过程 01 最近，很多朋友微信私聊关于「 butte-java-note 」仓库的话题； 这个「 Git仓库 」每年都会
我即将参加挑战测试，所以我不必参加数据库处理类(class)。尽管在过去的 5 年里我一直在使用数据库，但我还是忍不住对测试感到紧张。这是 50 个问题，有 2 部分:真/假部分和我实际编写 SQL
我的 groovy 代码将 Rabbit Native Plugin 用于 grails: def handleMessage(def body, MessageContext context) {
我想看看是否有人可以就我在 .NET 环境中的进一步知识提供任何建议... 这里有一点背景。我上了一所大学并获得了计算机科学学士学位(主要从事 C、Java 和 C++ 方面的工作)。大学毕业后在一家
我在 postgres 数据库中有一个表，该表用于测试环境，我们需要一次添加和删除多个列。问题是 postgres 最多有 1600 列，并且这个计数包括丢弃的列。我的表永远不会有 1600 个“未丢
作为业余程序员 3 年(主要是 Python 和 C)并且从未编写过超过 500 行代码的应用程序，我发现自己面临两个选择: (1) 学习数据结构和算法设计的基本知识，使我成为一名 l33t 计算机科
有人能告诉我为什么 Android 工作需要 Linux 知识吗？许多 Android 工作都以 Linux 作为先决条件。我可以很好地从 Windows 机器开发 Android 应用程序吗？ 最佳
按照目前的情况，这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持，但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开，visit the
关闭。这个问题是off-topic .它目前不接受答案。 想改进这个问题吗？ Update the question所以它是on-topic用于堆栈溢出。 关闭 10 年前。 Improve thi
是否可以在 Drools 中保持知识 session ？如果是这样，如何？ 我将事实存储在数据库中，并且每次添加新事实时，我都希望避免在新 session 中重新加载所有事实。 目前，当有新事实时，该
我对 C++ 有很好的了解，但从未深入研究 STL。我必须学习 STL 的哪一部分才能提高工作效率并减少工作中的缺陷？ 谢谢。 最佳答案 I have good knowledge of C++ 恕我
关闭。这个问题是opinion-based .它目前不接受答案。 想要改进这个问题？ 更新问题，以便 editing this post 可以用事实和引用来回答它. 关闭 9 年前。 Improve
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的，
关闭。这个问题是opinion-based .它目前不接受答案。 想要改进这个问题？ 更新问题，以便 editing this post 可以用事实和引用来回答它. 关闭 7 年前。 Improve
按照目前的情况，这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持，但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开，visit the
在我从 SO answers here 和许多 BackBoneJs 示例中选择的示例之一中，我看到初始化函数知道模型将使用哪个 View 进行渲染。我不知道我现在有点偏见，这是一个好的做法还是取决于
关闭。这个问题是off-topic .它目前不接受答案。 想改进这个问题吗？ Update the question所以它是on-topic用于堆栈溢出。 关闭 12 年前。 Improve thi
我在我的网站上使用 C# 和 ASP.NET MVC 3 实现 OpenID 和 OAuth。我基于 DotNetOpenAuth用于后端和openid-selector对于前端。 我喜欢 openi
很长一段时间以来，我都在思考和研究C语言编译器以汇编形式的输出，以及CPU架构。我知道这对你来说可能很愚蠢，但在我看来有些东西是非常无效的。如果我错了，请不要生气，我不明白所有这些原则是有原因的。如果
我有一些 Python 知识，但我从来不认为自己对这门语言特别流利。我正在开发一个潜在的机器视觉项目，该项目将从 SimpleCV 中受益匪浅，但从时间的角度来看，我宁愿不必非常流利地使用 pytho
我是一名优秀的程序员,十分优秀！